KR20210150962A - 크라우드소싱 기반 프로젝트의 세부 작업 단위 작업 분배 및 평가 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법이 제공된다. 상기 방법은 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업에 포함된 복수의 기능요소를 파악하는 단계, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계, 상기 제1 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로, 복수의 제1 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하는 단계, 상기 복수의 제1 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는 단계, 상기 한 명의 검수자에게 상기 작업 결과를 배정하여 검수 수행을 요청하는 단계 및 상기 검수자로부터 상기 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법{METHOD FOR DISTRIBUTING FUNCTIONAL ELEMENT UNIT WORK OF CROWDSOURCING BASED PROJECT FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.

프로젝트의 유형은 다양하기 때문에, 작업자가 작업을 수행할 때 한 가지 작업 능력만 필요할 수도 있고, 다양한 작업 능력이 필요할 수도 있다.

작업자의 다양한 작업 능력을 필요로하는 프로젝트의 경우, 다양한 요소가 복합적으로 포함된 작업을 수행해야 하기 때문에, 작업자가 다양한 요소에 대해서 전부 우수한 작업 능력을 가지고 있어야 고품질의 작업 결과를 제공할 수 있게 된다.

그러나, 흥미, 작업 수행 경험 등에 따라 작업자마다 우수한 분야가 각각 다르기 때문에, 다양한 작업 능력을 필요로하는 프로젝트의 작업을 한 명의 작업자에게 배정하면, 해당 작업자는 본인이 우수한 분야에 대해서만 제대로 작업을 수행하고 나머지 분야에 대해서는 작업을 제대로 수행하지 못할 수 있다. 이에 따라, 결국 프로젝트의 작업 품질이 떨어지게 되는 문제가 있다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법은, 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업에 포함된 복수의 기능요소를 파악하는 단계, 각 제1 작업자-상기 프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하는 작업자-의 이전 프로젝트 이력에 기초하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계, 상기 제1 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로, 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제1 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제1 작업자에게 상기 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 하는 단계, 상기 복수의 제1 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는 단계, 상기 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 상기 작업 결과를 배정하여 검수 수행을 요청하는 단계 및 상기 검수자로부터 상기 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계를 포함한다.

본 발명의 일부 실시예에서, 상기 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계는, 각 제1 작업자의 이전 프로젝트 이력에 기초하여, 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율을 산출하는 단계와, 상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율에 기초하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계는, 상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값을 비교하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별할 수 있다.

본 발명의 일부 실시예에서, 상기 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계는, 상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값 중 최대 값이 복수인 경우, 상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 작업 수행 건수에 더 기초하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별할 수 있다.

본 발명의 일부 실시예에서, 상기 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제1 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제1 작업자에게 상기 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 하는 단계는, 상기 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 선순위의 제1 기능요소 단위 작업의 수행이 완료된 후, 후순위의 제2 기능요소 단위 작업을 배정하여 작업 수행을 요청하고, 상기 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖지 않는 경우, 복수의 기능요소 단위 작업을 동시에 배정하여 작업 수행을 요청할 수 있다.

본 발명의 일부 실시예에서, 상기 제1 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로, 상기 작업 결과에 대한 검수 결과에 따라, 상기 검수자가 특정 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 경우, 반려된 기능요소 단위 작업 결과를 입력한 제1 작업자에게 재작업 수행을 요청하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 제1 기능요소 단위 작업 및 제2 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 상기 검수자가 상기 제1 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 횟수를 상기 각 제1 작업자별로 누적 산출하고, 상기 누적 산출된 횟수가 기준 횟수를 초과한 제1 작업자에게 소정의 패널티를 부여하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은 각 제2 작업자-상기 프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하지 않는 작업자-에게 복수의 기능요소 단위로 분할하지 않은 N건(단, N은 1이상의 자연수)의 작업을 배정하여 작업 수행을 요청하는 단계, 각 제2 작업자로부터 N건의 작업 결과를 입력받는 단계, 상기 N건의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계, 상기 복수의 검수자로부터 상기 N건의 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계, 각 제2 작업자의 상기 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하는 단계, 상기 제2 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로, 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제2 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제2 작업자에게 상기 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 하는 단계, 상기 복수의 제2 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는 단계, 상기 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 상기 작업 결과를 배정하여 검수 수행을 요청하는 단계 및 상기 검수자로부터 상기 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하는 단계는, 상기 각 제2 작업자의 상기 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율을 산출하는 단계와, 상기 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율에 기초하여, 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 N건의 작업은 상기 프로젝트의 작업에 포함된 복수의 기능요소별 복수의 검증용 작업을 포함하고, 상기 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하는 단계는, 상기 각 제2 작업자의 상기 N건의 작업 결과 중 복수의 검증용 작업 결과에 기초하여, 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 틀린 횟수를 산출하는 단계와, 상기 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 틀린 횟수에 기초하여, 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나 이상의 우수 기능요소를 선별하는 단계를 포함할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 하나의 작업을 복수의 기능요소 단위 작업으로 분할하고, 기능요소 단위로 분할된 작업을 각각의 기능요소가 우수 기능요소로 선별된 복수의 작업자에게 각각 분배함으로써, 각 작업자가 복수의 기능요소 중 자신의 우수 기능요소에 대한 작업만 수행하도록 할 수 있다.

이에 따라, 각 기능요소 단위 작업이 각각 해당 기능요소에 대해 우수한 작업 능력을 갖는 작업자에 의해 수행되기 때문에, 프로젝트의 진행 속도 및 작업 품질이 향상될 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 제1 작업자와 관련한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법의 순서도이다.
도 4는 본 발명의 일 실시예에 따른 백분위 값에 기초하여 복수의 기능요소 중에서 우수 기능요소를 선별하는 것을 설명하기 위한 예시도이다.
도 5는 본 발명의 일 실시예에 따른 백분위 값 및 작업 수행 건수에 기초하여 복수의 기능요소 중에서 우수 기능요소를 선별하는 것을 설명하기 위한 예시도이다.
도 6은 본 발명의 일 실시예에 따른 하나의 작업을 기능요소 단위로 분할하는 것을 설명하기 위한 예시도이다.
도 7은 본 발명의 일 실시예에 따른 복수의 제1 작업자에게 우수 기능요소에 상응하는 기능요소 단위 작업을 배정하는 것을 설명하기 위한 예시도이다.
도 8은 본 발명의 일 실시예에 따른 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하는 것을 설명하기 위한 예시도이다.
도 9는 본 발명의 일 실시예에 따른 병합된 하나의 작업 결과를 한 명의 검수자에게 배정하는 것을 설명하기 위한 예시도이다.
도 10은 본 발명의 일 실시예에 따른 검수자로부터 복수의 기능요소 단위로 검수 결과를 입력받는 것을 설명하기 위한 예시도이다.
도 11은 본 발명의 일 실시예에 따른 제2 작업자와 관련한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법의 순서도이다.
도 12는 본 발명의 일 실시예에 따른 제1 작업자 및 제2 작업자의 우수 기능요소를 선발하는 시점을 설명하기 위한 예시도이다.
도 13은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

도 3은 본 발명의 일 실시예에 따른 제1 작업자와 관련한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법의 순서도이다. 도 4는 본 발명의 일 실시예에 따른 백분위 값에 기초하여 복수의 기능요소 중에서 우수 기능요소를 선별하는 것을 설명하기 위한 예시도이다. 도 5는 본 발명의 일 실시예에 따른 백분위 값 및 작업 수행 건수에 기초하여 복수의 기능요소 중에서 우수 기능요소를 선별하는 것을 설명하기 위한 예시도이다. 도 6은 본 발명의 일 실시예에 따른 하나의 작업을 기능요소 단위로 분할하는 것을 설명하기 위한 예시도이다. 도 7은 본 발명의 일 실시예에 따른 복수의 제1 작업자에게 우수 기능요소에 상응하는 기능요소 단위 작업을 배정하는 것을 설명하기 위한 예시도이다. 도 8은 본 발명의 일 실시예에 따른 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하는 것을 설명하기 위한 예시도이다. 도 9는 본 발명의 일 실시예에 따른 병합된 하나의 작업 결과를 한 명의 검수자에게 배정하는 것을 설명하기 위한 예시도이다. 도 10은 본 발명의 일 실시예에 따른 검수자로부터 복수의 기능요소 단위로 검수 결과를 입력받는 것을 설명하기 위한 예시도이다. 도 11은 본 발명의 일 실시예에 따른 제2 작업자와 관련한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법의 순서도이다. 도 12는 본 발명의 일 실시예에 따른 제1 작업자 및 제2 작업자의 우수 기능요소를 선발하는 시점을 설명하기 위한 예시도이다.

한편, 도 3 및 도 11에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.

먼저, 도 3을 참조하면, 서버는 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업에 포함된 복수의 기능요소를 파악한다(S110).

기능요소는 프로젝트를 수행하기 위한 작업 툴(tool)에 기반하여 결정되며, 작업 툴은 프로젝트에서 제공되며 작업자(32)들이 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이다.

예를 들어, 프로젝트의 작업을 수행하기 위해 바운딩 작업을 위한 바운딩 툴(Bounding Box Tool), 전사 작업을 위한 인풋 박스 툴(Input Box Tool) 및 분류 작업을 위한 메이크 스텝 툴(Make Step Tool)이 필요한 경우, 해당 프로젝트의 작업은 바운딩 기능요소, 전사 기능요소 및 분류 기능요소를 포함하는 것으로 분류될 수 있다.

종래의 경우 복수의 기능요소가 포함된 작업을 한 명의 작업자(32)에게 배정하여 작업을 수행하도록 하였다. 복수의 기능요소가 포함된 작업을 배정받은 작업자(32)는 본인의 작업 능력과는 상관없이 복수의 기능요소에 대한 작업을 모두 수행해야 하였다. 이로 인해, 작업자(32)가 특정 기능요소에 대해서는 우수하게 작업을 수행하는 반면 특정 기능요소에 대해서는 적절하게 작업을 수행하지 못하는 상황이 발생하였고, 결국에는 프로젝트의 작업 품질이 떨어지는 문제로 작용하였다.

본 발명의 일 실시예는, 프로젝트의 작업이 복수의 기능요소를 포함하는 경우, 프로젝트에 참여하는 각각의 작업자(32)의 우수 기능요소를 선별하고, 이에 기초하여 각 기능요소 단위 작업을 복수의 작업자들에게 각각 분배함으로써, 각각의 작업자(32)가 본인이 우수한 작업 능력을 나타내는 기능요소에 대해서만 작업할 수 있게 하는 것을 특징으로 한다.

이때, 프로젝트에 참여하는 복수의 작업자(32)는 프로젝트의 작업에 포함된 복수의 기능요소에 대해서 이전 프로젝트에서 작업을 수행한 이력이 있을 수도 있고, 없을 수도 있다.

따라서, 본 발명의 일 실시예는, 프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하는 작업자(이하, 제1 작업자)의 우수 기능요소와 프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하지 않는 작업자(이하, 제2 작업자)의 우수 기능요소가 상이한 방법으로 선별될 수 있도록 한다.

이하에서는, 제1 작업자의 우수 기능요소를 선별하여 기능요소 단위로 작업을 분배하는 것을 설명하도록 한다.

그리고, 이하에서는 편의를 위하여 프로젝트의 작업에 포함된 복수의 기능요소가 세 개(제1 기능요소, 제2 기능요소 및 제3 기능요소)인 것으로 설명하지만, 이에 한정되지 않는다.

상술한 바와 같이 단계 S110에서 프로젝트의 작업에 포함된 복수의 기능요소를 파악한 후, 프로젝트에 진입하는 작업자들 중에서 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하는 제1 작업자를 대상으로 하여, 서버는 각 제1 작업자의 이전 프로젝트 이력에 기초하여, 각 제1 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별한다(S120).

구체적으로, 서버는 각 제1 작업자의 이전 프로젝트 이력에 기초하여, 각 제1 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율을 산출한다.

여기서, 이전 프로젝트 이력은 작업자(32)가 과거에 프로젝트에 참여하여 작업을 수행함에 따라 저장되는 데이터를 의미한다. 예를 들어, 참여한 프로젝트 정보, 작업 시간, 반려율, 검수 통과율 등을 포함할 수 있다.

서버는 각 제1 작업자가 참여했던 이전 프로젝트 중에서 현재 참여 중인 프로젝트의 기능요소가 하나 이상 포함된 하나 이상의 이전 프로젝트를 추출하고, 추출된 하나 이상의 이전 프로젝트에서의 작업 수행 관련 데이터를 이용하여 각 제1 작업자의 기능요소별 반려율을 산출할 수 있다.

이어서, 서버는 각 제1 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율에 기초하여, 각 제1 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별한다.

일 실시예에 따라, 서버는 각 제1 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값을 비교하여, 각 제1 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별할 수 있다.

백분위는 집단의 크기를 100으로 가정했을 때의 순위를 의미한다. 예를 들어, 특정 제1 작업자의 특정 기능요소 반려율이 30%일 때, 반려율 30%의 백분위 값이 50인 경우, 특정 제1 작업자는 특정 기능요소에 대해 해당 프로젝트의 전체 작업자 중에서 중간에 위치하고 있다는 의미이다.

백분위 값을 비교하는 이유는 각 기능요소별로 난이도 및 작업자의 작업 수행 건수가 상이하기 때문에, 이를 반영하여 제1 작업자의 작업 능력을 상대적으로 평가하기 위함이다.

도 4를 참조하면, 특정 제1 작업자의 이전 프로젝트 이력에 기초하여 산출된 제1 기능요소 반려율이 15%, 제2 기능요소 반려율이 10%, 제3 기능요소 반려율이 30%라고 가정했을 때, 제1 기능요소 반려율의 백분위 값은 90이고, 제2 기능요소 반려율의 백분위 값은 70이고, 제3 기능요소 반려율의 백분위 값은 30이다. 즉, 특정 제1 작업자는 제1 기능요소에 대해서 전체 작업자 중에서 상위 10%에 위치하고, 제2 기능요소에 대해서는 전체 작업자 중에서 상위 30%에 위치하고, 제3 기능요소에 대해서는 전체 작업자 중에서 하위 30%에 위치하고 있다는 것이다. 따라서, 특정 제1 작업자의 우수 기능요소는 백분위 값이 가장 큰 제1 기능요소로 선별되게 된다.

각 기능요소의 반려율로만 비교하게 되면 제2 기능요소의 반려율이 가장 낮기 때문에 특정 제1 작업자의 우수 기능요소는 제2 기능요소로 선별되게 될 것이다. 그러나, 이는 각 기능요소별 난이도가 반영된 것이 아니기 때문에 정확하다고 볼 수 없다. 난이도가 낮은 기능요소의 반려율이 낮게 산출되는 것은 당연하기 때문에, 난이도가 낮은 기능요소의 반려율이 가장 낮다고 해서 특정 제1 작업자가 복수의 기능요소 중에서 해당 기능요소에 대해서 전체 작업자보다 우수하게 작업하고 있다고 판단할 수 없다. 따라서, 상술한 바와 같이 기능요소별 반려율의 백분위 값을 비교함에 따라, 전제 작업자와 비교했을 때 각각의 기능요소에 대한 특정 제1 작업자의 작업 능력을 상대적으로 판단할 수 있게 된다.

이때, 각 제1 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값 중 최대 값이 복수인 경우, 서버는 각 제1 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 작업 수행 건수에 더 기초하여, 각 제1 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별한다.

즉, 백분위 값이 가장 큰 기능요소가 복수인 경우에, 서버는 복수의 기능요소 중에서 제1 작업자의 작업 수행 건수가 더 많은 기능요소를 우수 기능요소로 선별한다.

도 5를 참조하면, 제1 기능요소 반려율의 백분위 값 및 제2 기능요소 반려율의 백분위 값이 70으로 가장 크고 동일하다. 제1 기능요소의 작업 수행 건수는 100건이고 제2 기능요소의 작업 수행 건수는 60건이므로, 특정 제1 작업자의 우수 기능요소는 작업 수행 건수가 더 많은 제1 기능요소로 선별되게 된다.

상기에서는 동일한 프로젝트에 참여 중인 작업자들끼리 비교하여 각 제1 작업자의 우수 기능요소를 선별하는 것으로 설명하였지만, 이에 제한되지 않고 크라우드소싱 플랫폼에 등록된 전체 작업자와 비교하여 제1 작업자의 우수 기능요소를 선별할 수도 있다.

제1 작업자의 우수 기능요소가 선별된 후, 프로젝트의 각 작업별로 아래의 프로세스가 진행된다.

다시 도 3을 참조하면, 서버는 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제1 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청한다. 이때, 서버는 각 제1 작업자에게 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 한다(S130).

도 6을 참조하면, 제1 기능요소, 제2 기능요소 및 제3 기능요소를 포함하는 하나의 작업은 각각 제1 기능요소 단위 작업, 제2 기능요소 단위 작업 및 제3 기능요소 단위 작업으로 분할될 수 있다.

제1 기능요소, 제2 기능요소 및 제3 기능요소 중에서 각 제1 작업자별로 우수 기능요소를 선별한 결과, 제1 작업자 A의 우수 기능요소가 제1 기능요소로 선별되고, 제1 작업자 B의 우수 기능요소가 제2 기능요소로 선별되고, 제1 작업자 C의 우수 기능요소가 제3 기능요소로 선별되었다면, 도 7에 도시된 바와 같이, 서버는 제1 기능요소 단위 작업을 제1 작업자 A에게 배정하여 작업 수행을 요청하고, 제2 기능요소 단위 작업을 제1 작업자 B에게 배정하여 작업 수행을 요청하고, 제3 기능요소 단위 작업을 제1 작업자 C에게 배정하여 작업 수행을 요청할 수 있다.

일 실시예에 따라, 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 서버는 선순위의 제1 기능요소 단위 작업의 수행이 완료된 후, 후순위의 제2 기능요소 단위 작업을 배정하여 작업 수행을 요청할 수 있다.

즉, 제1 기능요소 단위 작업, 제2 기능요소 단위 작업 및 제3 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 서버는 첫 순서인 제1 기능요소 단위 작업을 제1 기능요소가 우수 기능요소인 제1 작업자 A에게 배정하여 작업 수행을 요청한다. 제1 작업자 A가 제1 기능요소 단위 작업의 수행을 완료하면, 그 다음 순서인 제2 기능요소 단위 작업을 제2 기능요소가 우수 기능요소인 제1 작업자 B에게 배정하여 작업 수행을 요청한다. 제1 작업자 B가 제2 기능요소 단위 작업의 수행을 완료하면, 그 다음 순서인 제3 기능요소 단위 작업을 제3 기능요소가 우수 기능요소인 제1 작업자 C에게 배정하여 작업 수행을 요청한다.

다른 실시예에 따라, 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 서버는 작업의 수행 순서에 따라 각 제1 작업자의 작업 화면이 활성화되도록 할 수 있다.

즉, 제1 기능요소 단위 작업, 제2 기능요소 단위 작업 및 제3 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 서버는 제1 기능요소가 우수 기능요소인 제1 작업자 A의 작업 화면을 활성화시켜 제1 기능요소 단위 작업 수행이 가능하게 한다(제1 작업자 B 및 C의 작업 화면은 비활성화 상태). 제1 작업자 A가 제1 기능요소 단위 작업의 수행을 완료하면, 제2 기능요소가 우수 기능요소인 제1 작업자 B의 작업 화면을 활성화시켜 그 다음 순서인 제2 기능요소 단위 작업 수행이 가능하게 한다(제1 작업자 A 및 C의 작업 화면은 비활성화 상태). 제1 작업자 B가 제2 기능요소 단위 작업의 수행을 완료하면, 제3 기능요소가 우수 기능요소인 제1 작업자 C의 작업 화면을 활성화시켜 그 다음 순서인 제3 기능요소 단위 작업 수행이 가능하게 한다(제1 작업자 A 및 B의 작업 화면은 비활성화 상태).

또 다른 실시예에 따라, 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖지 않는 경우, 서버는 복수의 기능요소 단위 작업을 동시에 배정하여 작업 수행을 요청할 수 있다.

즉, 제1 기능요소 단위 작업, 제2 기능요소 단위 작업 및 제3 기능요소 단위 작업이 순차적인 수행 순서를 갖지 않는 경우, 서버는 제1 기능요소가 우수 기능요소인 제1 작업자 A에게 제1 기능요소 단위 작업을, 제2 기능요소가 우수 기능요소인 제1 작업자 B에게 제2 기능요소 단위 작업을, 제3 기능요소가 우수 기능요소인 제1 작업자 C에게 제3 기능요소 단위 작업을 동시에 배정한다.

이어서, 서버는 복수의 제1 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는다(S140).

즉, 제1 기능요소가 우수 기능요소인 제1 작업자 A에게 제1 기능요소 단위 작업을, 제2 기능요소가 우수 기능요소인 제1 작업자 B에게 제2 기능요소 단위 작업을, 제3 기능요소가 우수 기능요소인 제1 작업자 C에게 제3 기능요소 단위 작업을 배정한 경우, 서버는 제1 작업자 A로부터 제1 기능요소 단위 작업 결과를 입력받고, 제1 작업자 B로부터 제2 기능요소 단위 작업 결과를 입력받고, 제1 작업자 C로부터 제3 기능요소 단위 작업 결과를 각각 입력받는다.

기능요소 단위 작업 결과를 각각의 제1 작업자로부터 모두 입력받은 후에, 서버는 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 작업 결과를 배정하여 검수 수행을 요청하고(S150), 검수자로부터 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는다(S160).

서버는 복수의 제1 작업자로부터 각각 입력받은 복수의 기능요소 단위 작업을 하나의 작업 결과로 병합하여 한 명의 검수자(34)에게 검수 수행을 요청한다.

도 8을 참조하면, 서버는 세 명의 제1 작업자로부터 입력받은 제1 기능요소 단위 작업 결과, 제2 기능요소 단위 작업 결과 및 제3 기능요소 단위 작업 결과를 하나의 작업 결과로 병합한다. 이후, 도 9를 참조하면, 서버는 병합된 하나의 작업 결과를 검수자 A에게 배정하여 검수 수행을 요청한다.

검수자 A는 배정된 하나의 작업 결과를 검수하되, 각 기능요소 단위로 검수를 수행한다. 즉, 검수자 A는 제1 기능요소 단위 작업 결과, 제2 기능요소 단위 작업 결과 및 제3 기능요소 단위 작업 결과 각각에 대해서 검수 통과 또는 반려로 검수를 수행한다.

이후, 작업 결과에 대한 검수 결과에 따라, 서버는 검수자가 특정 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 경우, 반려된 기능요소 단위 작업 결과를 입력한 제1 작업자에게 재작업 수행을 요청한다.

도 10을 참조하면, 검수자 A가 제1 기능요소 단위 작업 결과, 제2 기능요소 단위 작업 결과 및 제3 기능요소 단위 작업 결과 중에서 제1 기능요소 단위 작업 결과에 대해서만 반려로 검수 결과를 입력했을 때, 서버는 제1 기능요소 단위 작업 결과를 작업 수행했던 제1 작업자 A에게만 제1 기능요소 단위 작업에 대한 재작업 수행을 요청한다.

이때, 제1 기능요소 단위 작업, 제2 기능요소 단위 작업 및 제3 기능요소단위 작업이 순차적인 수행 순서를 갖지 않는 경우, 각각의 작업 결과는 개별적으로 검수가 가능하기 때문에, 하나의 기능요소 단위 작업 결과가 반려되었다고 해도, 나머지 기능요소 단위 작업 결과의 검수 결과에는 전혀 영향을 미치지 않는다. 그렇기 때문에, 제1 기능요소 단위 작업 결과가 반려되고, 제2 기능요소 단위 작업 결과 및 제3 기능요소 단위 작업 결과가 검수 통과된 경우, 제1 기능요소 단위 작업을 수행했던 제1 작업자 A만 재작업을 수행하고, 제2 기능요소 단위 작업 및 제3 기능요소 단위 작업을 수행했던 제1 작업자 B 및 C는 재작업을 수행할 필요가 없다.

이와 달리, 제1 기능요소 단위 작업, 제2 기능요소 단위 작업 및 제3 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 각각의 작업 결과는 연계되어 검수되기 때문에, 선순위의 기능요소 단위 작업 결과의 검수 결과는 후순위의 기능요소 단위 작업 결과의 검수 결과에 영향을 미치게 된다. 그렇기 때문에, 선순위의 제1 기능요소 단위 작업이 반려된 경우, 제1 기능요소 단위 작업을 수행했던 제1 작업자 A뿐만 아니라, 후순위인 제2 기능요소 단위 작업을 수행했던 제1 작업자 B 및 제3 기능요소 단위 작업을 수행했던 제1 작업자 C도 재작업을 수행해야 한다.

이런 경우, 후순위의 기능요소 단위 작업을 수행한 제1 작업자는 선순위의 기능요소 단위 작업 결과에 따라 적절하게 작업을 수행했음에도 불구하고 반려를 당한 것이다. 즉, 선순위의 기능요소 단위 작업을 수행한 제1 작업자의 잘못에 의해 후순위의 기능요소 단위 작업을 수행한 제1 작업자가 피해를 보게 되는 것이다. 이로 인해, 후순위의 제1 작업자의 노동에 대한 보상이 제대로 이루어지지 않아 후순위의 제1 작업자의 프로젝트 이탈을 유발하고, 결국 프로젝트 운영에도 영향을 미치게 된다.

따라서, 이러한 문제를 방지하기 위해 본 발명의 일부 실시예에서, 도 3에는 명확하게 도시하지 않았으나, 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법은, 제1 기능요소 단위 작업 및 제2 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 검수자가 제1 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 횟수를 각 제1 작업자별로 누적 산출하고, 누적 산출된 횟수가 기준 횟수를 초과한 제1 작업자에게 소정의 패널티를 부여하는 단계를 더 포함할 수 있다.

기준 횟수가 5회인 경우, 선순위의 기능요소 단위 작업을 수행하는 제1 작업자의 작업 결과가 반려된 횟수가 5회를 초과하게 되면 해당 제1 작업자에게 소정의 패널티를 부여하는 것이다.

예를 들어, 서버는 누적 산출된 횟수가 5회를 초과한 제1 작업자에게 (해당 프로젝트에서 더 이상 또는 소정 기간 동안 작업 수행이 불가한) 작업 제한 패널티를 부여할 수 있다.

이하에서는, 제2 작업자의 우수 기능요소를 선별하여 기능요소 단위로 작업을 분배하는 것을 설명하도록 한다.

그리고, 이하에서는 편의를 위하여 프로젝트의 작업에 포함된 복수의 기능요소가 세 개(제1 기능요소, 제2 기능요소 및 제3 기능요소)인 것으로 설명하지만, 이에 한정되지 않는다.

상술한 바와 같이 단계 S110에서 프로젝트의 작업에 포함된 복수의 기능요소를 파악한 후, 프로젝트에 진입하는 작업자들 중에서 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하지 않는 제2 작업자를 대상으로 하여, 도 11을 참조하면, 서버는 제2 작업자에게 복수의 기능요소 단위로 분할하지 않은 N건(단, N은 1이상의 자연수)의 작업을 배정하여 작업 수행을 요청하고(210), 각 제2 작업자로부터 N건의 작업 결과를 입력받고(S220), N건의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하고(S230), 복수의 검수자로부터 N건의 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받고(S240), 각 제2 작업자의 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별한다(S250).

즉, 제2 작업자는 복수의 기능요소에 대한 이전 프로젝트 이력이 없기 때문에, 서버는 제2 작업자의 작업 능력에 대해서 판단할 수가 없다. 따라서, 서버는 제2 작업자에게 초기 N건에 대해서는 모든 기능요소에 대한 작업을 수행하게 하고, 각 기능요소별 작업 결과의 검수 결과에 따라 제2 작업자가 어떤 기능요소에 대해서 우수한 작업 능력을 보이는지 파악하는 것이다.

일 실시예로, 서버는 제2 작업자별로 N건의 작업 결과에 대한 기능요소별 반려율에 기초하여 각 제2 작업자의 우수 기능요소를 선별할 수 있다.

구체적으로, 서버는 각 제2 작업자의 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율을 산출하고, 각 제2 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율에 기초하여, 각 제2 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별한다.

서버는 각 제2 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값을 비교하여, 각 제2 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별할 수 있다.

즉, 제1 작업자와 마찬가지로, 서버는 각 제2 작업자의 기능요소별 반려율의 백분위 값을 해당 프로젝트의 전체 작업자의 기능요소별 반려율의 백분위 값과 비교하여, 백분위 값이 가장 큰 기능요소를 각 제2 작업자의 우수 기능요소로 선별할 수 있다.

다만, 각 제2 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값 중 최대 값이 복수인 경우, 제2 작업자는, 제1 작업자와 같이 작업 수행 건수에 더 기초하는 것이 아니라(제2 작업자는 모두 N건을 수행하기 때문에), 해당 기능요소가 우수 기능요소로 선별된 작업자의 수에 더 기초하여 우수 기능요소를 선별한다.

즉, 백분위 값이 가장 큰 기능요소가 복수인 경우에, 서버는 복수의 기능요소 중에서 매칭된 작업자의 수(즉, 해당 기능요소가 우수 기능요소로 선별된 작업자의 수)가 더 적은 기능요소를 우수 기능요소로 선별한다.

상기에서는 동일한 프로젝트에 참여 중인 작업자들끼리 비교하여 각 제2 작업자의 우수 기능요소를 선별하는 것으로 설명하였지만, 이에 제한되지 않고 크라우드소싱 플랫폼에 등록된 전체 작업자와 비교하여 제2 작업자의 우수 기능요소를 선별할 수도 있다.

다른 일 실시예로, 서버는 검증용 작업을 이용하여 각 제2 작업자의 우수 기능요소를 선별할 수 있다. 이 경우, N건의 작업은 프로젝트의 작업에 포함된 복수의 기능요소별 복수의 검증용 작업을 포함한다.

서버는 N건의 작업 중에서 정답이 정해져 있는 복수의 기능요소별 복수의 검증용 작업을 랜덤으로 포함시켜 제2 작업자에게 배정하고, 제2 작업자가 정답과 동일하게 검증용 작업을 수행하는지를 판단한다. 검증용 작업은 정답이 정해져 있기 때문에 검수자에 의한 검수가 필요없이, 입력된 작업 결과로 제2 작업자가 작업을 제대로 수행했는지를 판단할 수 있어, 상술한 반려율을 이용한 방법보다는 빠르게 제2 작업자의 우수 기능요소를 선별할 수 있다.

이때, 하나의 작업에는 하나 이상의 기능요소별 검증용 작업이 포함될 수 있다. 즉, 기능요소가 세 개인 경우, 하나의 작업에 한 개의 기능요소 검증용 작업이 포함될 수 있고, 두 개의 기능요소 검증용 작업이 포함될 수 있고, 또는 세 개의 기능요소 검증용 작업이 포함될 수도 있다.

서버는 각 제2 작업자의 N건의 작업 결과 중 복수의 검증용 작업 결과에 기초하여, 각 제2 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 틀린 횟수를 산출한다.

예를 들어, 50건(N건)의 작업에 기능요소별로 각각 10건의 검증용 작업이 포함된 경우, 서버는 기능요소별로 각각 10건의 검증용 작업에 대해서 제2 작업자가 정답을 틀린 횟수를 산출한다.

하나의 작업에 제1 기능요소, 제2 기능요소 및 제3 기능요소가 포함된 경우, 특정 제2 작업자가 제1 기능요소 검증용 작업 10건 중에서 3건을 잘못 수행했고, 제2 기능요소 검증용 작업 10건 중에서 6건을 잘못 수행했고, 제3 기능요소 검증용 작업 10건 중에서 8건을 잘못 수행했다면, 특정 제2 작업자의 제1 기능요소의 틀린 횟수는 3회, 제2 기능요소의 틀린 횟수는 6회, 제3 기능요소의 틀린 횟수는 8회로 산출될 수 있다.

이후, 서버는 각 제2 작업자의 프로젝트의 작업에 포함된 복수의 기능요소별 틀린 횟수에 기초하여, 각 제2 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나 이상의 우수 기능요소를 선별한다.

구체적으로, 서버는 틀린 횟수가 기준 횟수 이상인 기능요소에 대해서 우수 기능요소에서 탈락시키고, 기준 횟수 미만인 기능요소 중에서 우수 기능요소를 선별한다.

예를 들어, 기준 횟수가 5회라고 가정했을 때, 특정 제2 작업자의 제1 기능요소의 틀린 횟수는 3회, 제2 기능요소의 틀린 횟수는 6회, 제3 기능요소의 틀린 횟수는 8회로 산출된 경우, 틀린 횟수가 5회 이상인 제2 기능요소와 제3 기능요소는 우수 기능요소에서 탈락되고, 틀린 횟수가 5회 미만인 제1 기능요소가 우수 기능요소로 선별되게 된다.

다른 예로, 기준 횟수가 5회라고 가정했을 때, 특정 제2 작업자의 제1 기능요소의 틀린 횟수는 2회, 제2 기능요소의 틀린 횟수는 4회, 제3 기능요소의 틀린 횟수는 8회로 산출된 경우, 틀린 횟수가 5회 미만인 제1 기능요소 및 제2 기능요소 중에서, 틀린 횟수가 더 적은 제1 기능요소가 특정 제2 작업자의 우수 기능요소로 선별되게 된다.

또 다른 예로, 기준 횟수가 5회라고 가정했을 때, 특정 제2 작업자의 제1 기능요소의 틀린 횟수는 2회, 제2 기능요소의 틀린 횟수는 2회, 제3 기능요소의 틀린 횟수는 8회로 산출된 경우, 틀린 횟수가 5회 미만이면서 동일한 제1 기능요소 및 제2 기능요소 중에서, N건의 작업 결과에 대한 반려율이 더 낮은 기능요소가 우수 기능요소로 선별되게 된다. 예를 들어, 제1 기능요소의 N건에 대한 반려율이 3%이고, 제2 기능요소의 N건에 대한 반려율이 7%인 경우, 반려율이 더 낮은 제1 기능요소가 특정 제2 작업자의 우수 기능요소로 선별되게 된다.

또 다른 예로, 기준 횟수가 5회라고 가정했을 때, 특정 제2 작업자의 제1 기능요소의 틀린 횟수는 6회, 제2 기능요소의 틀린 횟수는 6회, 제3 기능요소의 틀린 횟수는 8회로 산출된 경우, 제1 기능요소, 제2 기능요소, 제3 기능요소의 틀린 횟수가 모두 5회 이상이므로 제1 기능요소, 제2 기능요소, 제3 기능요소는 모두 우수 기능요소에서 탈락된다. 이와 같이, 모든 기능요소가 탈락된 경우, 특정 제2 작업자는 해당 프로젝트에서 더 이상 작업을 수행할 수 없게 된다.

제2 작업자의 우수 기능요소가 선별된 후, 프로젝트의 각 작업별로, 상기 단계 S130 내지 단계 S160과 동일한 프로세스가 진행된다.

즉, 서버는 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제2 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제2 작업자에게 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 한다. 이후, 서버는 복수의 제2 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는다. 이후, 서버는 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 작업 결과를 배정하여 검수 수행을 요청한다. 이후, 서버는 검수자로부터 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는다. 상세한 내용은 상기 단계 S130 내지 단계 S160에서 설명한 바와 동일하다.

도 12a를 참조하면, 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하는 제1 작업자는 프로젝트에 참여함과 동시에 이전 프로젝트 이력에 기초하여 우수 기능요소가 선별되어, 선별된 우수 기능요소에 대한 작업만 배정받아 프로젝트가 종료될 때까지 해당 기능요소에 대한 작업만 수행하게 된다.

반면에, 도 12b를 참조하면, 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하지 않는 제2 작업자는 프로젝트에 참여하여 초기 N건에 대해서는 기능요소 단위로 분할되지 않은 작업을 수행하고, 초기 N건에 대한 작업 수행을 완료하면, N건의 작업 결과에 대한 검수 결과에 기초하여 우수 기능요소가 선별되어, 해당 시점 이후부터는 선별된 우수 기능요소에 대한 작업만 배정받아 프로젝트가 종료될 때까지 해당 기능요소에 대한 작업만 수행하게 된다.

한편, 서버는 프로젝트의 작업에 포함된 기능요소별 작업을 각각 수행한 제1 작업자 또는 제2 작업자에게 소정의 작업 단가를 나누어서 지급한다.

일 실시예로, 서버는 작업 단가를 기능요소의 개수로 나누어서 각각의 작업자에게 지급할 수 있다.

예를 들어, 하나의 작업에 세 개의 기능요소가 포함되고, 작업 단가가 1200원인 경우, 서버는 각 기능요소 단위 작업을 수행한 세 명의 작업자에게 각각 400원씩 작업 단가를 지급할 수 있다.

다른 실시예로, 서버는 작업 단가를 각 기능요소 단위 작업의 평균 작업 수행 시간에 비례해서 각각의 작업자에게 지급할 수 있다. 평균 작업 수행 시간이 길수록 난이도가 높다는 의미이므로, 서버는 난이도가 높은 기능요소 단위 작업을 수행한 작업자에게 더 많은 작업 단가를 지급하는 것이다.

예를 들어, 하나의 작업에 제1 기능요소, 제2 기능요소 및 제3 기능요소가 포함되고, 제1 기능요소, 제2 기능요소 및 제3 기능요소 단위 작업의 평균 작업 수행 시간이 각각 10초, 30초, 20초이고, 작업 단가가 1200원인 경우, 서버는 제1 기능요소, 제2 기능요소 및 제3 기능요소 단위 작업을 각각 수행한 세 명의 작업자에게 각각 200원, 600원, 400원을 지급할 수 있다.

한편, 본 발명의 일부 실시예에서, 도 3 및 도 11에는 명확하게 도시하지 않았으나, 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법은 제1 기능요소 단위 작업 및 제2 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 검수자가 제1 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 횟수를 각 제1 작업자별로 누적 산출하고, 상기 누적 산출된 횟수가 기준 횟수를 초과한 제1 작업자에게 소정의 패널티를 부여하는 단계를 더 포함할 수 있다.

한편, 상술한 설명에서, 단계 S11 내지 S250은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 13의 내용은 도 1 내지 도 12의 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법에도 적용될 수 있다.

이하에서는 도 13을 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 장치(300)에 대하여 설명하도록 한다.

도 13은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 장치를 설명하기 위한 도면이다.

도 13을 참조하면, 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 장치(300)(이하, 작업 분배 장치)는 통신모듈(310), 메모리(320) 및 프로세서(330)를 포함한다.

통신모듈(310)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.

메모리(320)에는 통신모듈(310)로부터 수신한 데이터에 기초하여 각 작업자의 우수 기능요소에 따라 프로젝트의 기능요소 단위로 작업을 분배하기 위한 프로그램이 저장된다.

프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킨다. 프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킴에 따라, 각 제1 작업자(프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하는 작업자)의 이전 프로젝트 이력에 기초하여, 각 제1 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하고, 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제1 작업자 각각에게 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 한다.

프로세서(330)는 각 제2 작업자(프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하지 않는 작업자)에게 복수의 기능요소 단위로 분할하지 않은 N건(단, N은 1이상의 자연수)의 작업을 배정하고, 제2 작업자의 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자별로 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하고, 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제2 작업자 각각에게 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 한다.

프로세서(330)는 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 병합된 하나의 작업 결과가 배정되도록 한다.

도 13을 참조하여 설명한 작업 분배 장치(300)는 상술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
300 : 작업 분배 장치
310 : 통신모듈
320 : 메모리
330 : 프로세서

Claims (11)

1. 컴퓨터에 의해 수행되는 방법으로서,
   크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업에 포함된 복수의 기능요소를 파악하는 단계;
   각 제1 작업자-상기 프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하는 작업자-의 이전 프로젝트 이력에 기초하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계;
   상기 제1 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로,
   하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제1 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제1 작업자에게 상기 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 하는 단계;
   상기 복수의 제1 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는 단계;
   상기 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 상기 작업 결과를 배정하여 검수 수행을 요청하는 단계; 및
   상기 검수자로부터 상기 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
2. 제1항에 있어서,
   상기 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계는,
   각 제1 작업자의 이전 프로젝트 이력에 기초하여, 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율을 산출하는 단계와,
   상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율에 기초하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
3. 제2항에 있어서,
   상기 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계는,
   상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값을 비교하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
4. 제3항에 있어서,
   상기 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계는,
   상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율의 백분위 값 중 최대 값이 복수인 경우, 상기 각 제1 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 작업 수행 건수에 더 기초하여, 각 제1 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
5. 제1항에 있어서,
   상기 하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제1 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제1 작업자에게 상기 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 하는 단계는,
   상기 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우, 선순위의 제1 기능요소 단위 작업의 수행이 완료된 후, 후순위의 제2 기능요소 단위 작업을 배정하여 작업 수행을 요청하고,
   상기 복수의 기능요소 단위 작업이 순차적인 수행 순서를 갖지 않는 경우, 복수의 기능요소 단위 작업을 동시에 배정하여 작업 수행을 요청하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
6. 제1항에 있어서,
   상기 제1 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로,
   상기 작업 결과에 대한 검수 결과에 따라, 상기 검수자가 특정 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 경우, 반려된 기능요소 단위 작업 결과를 입력한 제1 작업자에게 재작업 수행을 요청하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
7. 제6항에 있어서,
   제1 기능요소 단위 작업 및 제2 기능요소 단위 작업이 순차적인 수행 순서를 갖는 경우,
   상기 검수자가 제1 기능요소 단위 작업 결과에 대한 검수 결과를 반려로 입력한 횟수를 상기 각 제1 작업자별로 누적 산출하고, 상기 누적 산출된 횟수가 기준 횟수를 초과한 제1 작업자에게 소정의 패널티를 부여하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
8. 제1항에 있어서,
   각 제2 작업자-상기 프로젝트의 작업에 포함된 복수의 기능요소에 대한 이전 프로젝트 이력이 존재하지 않는 작업자-에게 복수의 기능요소 단위로 분할하지 않은 N건(단, N은 1이상의 자연수)의 작업을 배정하여 작업 수행을 요청하는 단계;
   각 제2 작업자로부터 N건의 작업 결과를 입력받는 단계;
   상기 N건의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
   상기 복수의 검수자로부터 상기 N건의 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계;
   각 제2 작업자의 상기 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하는 단계;
   상기 제2 작업자의 우수 기능요소가 선별된 후, 상기 프로젝트의 각 작업별로,
   하나의 작업을 복수의 기능요소 단위로 분할하고, 복수의 제2 작업자에게 복수의 기능요소 단위 작업을 배정하여 작업 수행을 요청하되, 각 제2 작업자에게 상기 우수 기능요소에 상응하는 기능요소 단위 작업이 배정되도록 하는 단계;
   상기 복수의 제2 작업자로부터 복수의 기능요소 단위 작업 결과를 입력받는 단계;
   상기 복수의 기능요소 단위 작업 결과를 하나의 작업 결과로 병합하고, 한 명의 검수자에게 상기 작업 결과를 배정하여 검수 수행을 요청하는 단계; 및
   상기 검수자로부터 상기 작업 결과에 대한 검수 결과를 복수의 기능요소 단위로 입력받는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
9. 제8항에 있어서,
   상기 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하는 단계는,
   상기 각 제2 작업자의 상기 N건의 작업 결과에 대한 검수 결과에 기초하여, 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율을 산출하는 단계와,
   상기 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 반려율에 기초하여, 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나의 우수 기능요소를 선별하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
10. 제8항에 있어서,
    상기 N건의 작업은 상기 프로젝트의 작업에 포함된 복수의 기능요소별 복수의 검증용 작업을 포함하고,
    상기 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 우수 기능요소를 선별하는 단계는,
    상기 각 제2 작업자의 상기 N건의 작업 결과 중 복수의 검증용 작업 결과에 기초하여, 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 틀린 횟수를 산출하는 단계와,
    상기 각 제2 작업자의 상기 프로젝트의 작업에 포함된 복수의 기능요소별 틀린 횟수에 기초하여, 각 제2 작업자별로 상기 프로젝트의 작업에 포함된 복수의 기능요소 중 하나 이상의 우수 기능요소를 선별하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법.
11. 컴퓨터와 결합하여 제1항 내지 제10항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법을 수행하기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

Images