KR102183812B1

KR102183812B1 - 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법

Info

Publication number: KR102183812B1
Application number: KR1020200066134A
Authority: KR
Inventors: 박민우; 김주영
Original assignee: 주식회사 크라우드웍스
Priority date: 2020-06-02
Filing date: 2020-06-02
Publication date: 2020-11-30

Abstract

인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법이 제공된다. 상기 방법은 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계; 상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계; 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계; 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과로 검수 통과 또는 반려를 입력받는 단계; 상기 검수 결과를 이용하여, 상기 복수의 검수자 중 (i) 검수 수행 건당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제1 검수자 및 (ii) 시간당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제2 검수자를 선별하는 단계; 및 상기 제1 검수자에게 검수 수행 건당 단위 임금 기반으로 검수 비용을 지급하고, 상기 제2 검수자에게 시간당 단위 임금 기반으로 검수 비용을 지급하는 단계를 포함한다.

Description

인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법{METHOD FOR PAYING INSPECTION FEE BASED ON HOURLY WAGE FOR EACH INSPECTOR USING THE VERIFICATION WORK RESULTS OF CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

이때, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.

구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.

한편, 프로젝트가 진행될수록 검수자들은 프로젝트의 작업 결과에 대한 검수 진행에 더욱 익숙해진다. 하지만, 현재 검수자들에 대한 검수 비용은 프로젝트의 진행에 따른 검수자들의 능숙도를 고려하지 않은 채, 프로젝트 초기에 책정된 검수 수행 건당 단위 임금으로 지급되고 있다.

또한, 프로젝트에서의 검수자 수는 작업자에 비해 매우 적어, 검수자의 능숙해지는 속도는 작업자에 비하여 굉장히 빠르기 때문에, 초기에 검수 단가를 잘못 책정할 경우 프로젝트의 비용 관리에 어려움이 생길 수 있다.

따라서, 프로젝트의 의뢰자들은 능숙한 검수자들을 시급제로 전환하여 활용하기를 원하고 있으나, 이에 대한 뚜렷한 기준이 없는 실정이다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 프로젝트의 진행 중에 검증용 작업 결과를 생성하여 검수자들에게 제공하고, 검증용 작업 결과에 대한 검수 수행 시간을 체크하여, 전체 검수자들의 평균에 비해 능숙해진 검수자를 시간당 단위 임금으로 지급할 검수자로 선별하여 검수 비용을 지급하고, 나머지 검수자들은 검수 수행 건당 단위 임금으로 지급하도록 하는 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법은 크라우드소싱 기반 프로젝트(이하, "프로젝트")의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계; 상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계; 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계; 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과로 검수 통과 또는 반려를 입력받는 단계; 상기 검수 결과를 이용하여, 상기 복수의 검수자 중 (i) 검수 수행 건당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제1 검수자 및 (ii) 시간당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제2 검수자를 선별하는 단계; 및 상기 제1 검수자에게 검수 수행 건당 단위 임금 기반으로 검수 비용을 지급하고, 상기 제2 검수자에게 시간당 단위 임금 기반으로 검수 비용을 지급하는 단계를 포함한다. 이때, 상기 검수 수행을 요청하는 복수의 작업 결과는, 상기 검수 통과 또는 반려로 입력된 상기 복수의 작업 결과에 대한 복수의 검수 결과 중 소정의 조건을 만족하는 검수 결과로부터 생성된 복수의 검증용 작업 결과를 포함하고, 상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는, 상기 복수의 검수자의 각 검증용 작업 결과에 대한 개별 검수 수행 시간(이하, "제1 검수 수행 시간")을 산출하는 단계; 상기 복수의 검수자의 각 검증용 작업 결과에 대한 평균 검수 수행 시간(이하, "제2 검수 수행 시간")을 산출하는 단계; 상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초하여 상기 복수의 검수자 중 상기 제2 검수자를 선별하는 단계; 및 상기 복수의 검수자 중 상기 제2 검수자를 제외한 나머지 검수자를 상기 제1 검수자로 선별하는 단계를 포함한다.

본 발명의 일부 실시예에서, 상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초하여 상기 복수의 검수자 중 상기 제2 검수자를 선별하는 단계는, 상기 복수의 검수자 중 어느 개별 검수자에게 제공된 각 검증용 작업 결과를 시간 순으로 정렬하는 단계; 상기 각 검증용 작업 결과에 대한 제1 검수 수행 시간과 제2 검수 수행 시간의 편차를 산출하는 단계; 및 상기 산출된 각 편차에 대한 추세가 소정의 범위 내에 포함되는 적어도 하나의 개별 검수자를 제2 검수자로 선별하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 산출된 각 편차에 대한 추세가 소정의 범위 내에 포함되는 적어도 하나의 개별 검수자를 제2 검수자로 선별하는 단계는, 상기 산출된 각 편차에 대한 추세가 소정의 수치 범위 및 소정의 시간 범위에 포함되는 적어도 하나의 개별 검수자를 상기 제2 검수자로 선별할 수 있다.

본 발명의 일부 실시예에서, 상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는, 상기 복수의 검수자 중 어느 개별 검수자에게 제공된 각 검증용 작업 결과를 시간 순으로 정렬하는 단계; 상기 복수의 검증용 작업 결과 각각에 대한 상기 복수의 검수자의 정답률을 산출하는 단계; 상기 정답률에 기초하여 상기 복수의 검증용 작업 결과의 평균 정답률을 산출하는 단계; 상기 평균 정답률에 기초하여 상기 검증용 작업 결과 각각에 대한 난이도를 설정하는 단계; 및 상기 복수의 검수자 중 일정 이상의 난이도를 갖는 상기 검증용 작업 결과에 대한 정답 입력이 소정의 횟수 및 소정의 시간 조건 중 적어도 하나를 만족하는 검수자를 상기 제2 검수자로선별하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 복수의 검수자 중 일정 이상의 난이도를 갖는 상기 검증용 작업 결과에 대한 정답 입력이 소정의 횟수 및 소정의 시간 조건 중 적어도 하나를 만족하는 검수자를 상기 제2 검수자로선별하는 단계는, 상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초한 상기 제2 검수자가 선별되지 않은 경우 수행될 수 있다.

본 발명의 일부 실시예에서, 상기 소정의 조건은, 상기 복수의 검수자에 의한 검수 소요 시간을 기준으로 하는 소정의 순위를 만족하는 조건일 수 있다.

본 발명의 일부 실시예에서, 상기 복수의 검증용 작업 결과는, 상기 검증용 작업 결과에 대응하는 실제 작업 결과를 검수한 검수자와 상이한 하나 이상의 타 검수자에 의한 재검수 결과와 일치하는 검수 결과를 갖는 실제 작업 결과 중 일부를 추출하여 생성될 수 있다.

본 발명의 일부 실시예에서, 상기 복수의 검증용 작업 결과는, 상기 복수의 검수 결과 중 다른 검수자에 의해서 최초 검수 통과, 반려 또는 재검수 통과된 검수 결과에 대응하는 작업 결과를 상기 복수의 검증용 작업 결과로 생성할 수 있다.

본 발명의 일부 실시예에서, 상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는, 상기 프로젝트에 포함된 전체 작업 중 소정의 비율 이상의 작업 결과 또는 상기 작업 결과에 대한 검수 결과가 제출된 시점 이후부터 상기 제1 및 제2 검수자를 선별할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 프로젝트 의뢰자 측면에서, 타 검수자에 비해 일정 시간 대비 더욱 많은 검수 결과를 제공하는 능숙한 검수자를 시급제로 전환하여 검수 비용을 지급함으로써, 프로젝트 견적을 절감하여 보다 안정적으로 프로젝트 비용 관리를 할 수 있다는 장점이 있다.

또한, 프로젝트에 참여하는 검수자 측면에서도, 검수 수행 건수로 검수 비용을 지급받는 것에 비해 보다 안정적으로 검수 비용을 지급받을 수 있다. 특히, 작업 결과에 대한 반려 시에는 검수 비용이 지급되지 않고, 검수 통과 또는 재검수 통과된 작업 결과에 대해서만 검수 비용이 지급되던 것과는 달리, 반려 행위에 대해서도 검수 비용을 지급받는 결과가 되어, 시급제 전환시 의뢰자뿐 아니라 검수자의 높은 만족도를 기대할 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법의 순서도이다.
도 4 및 도 5는 검증용 작업 결과를 생성하는 내용을 설명하기 위한 도면이다.
도 6은 검증용 작업 결과를 이용하여 제1 및 제2 검수자를 선별하는 과정의 순서도이다.
도 7은 제2 검수자를 선별하는 과정을 설명하기 위한 도면이다.
도 8은 검증용 작업 결과의 난이도에 기반하여 제2 검수자를 선별하는 내용을 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 검수자별 시급제 기반 검수 비용 지급 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

마찬가지로 본 발명의 일 실시예는 프로젝트의 난이도에 따라 설정된 등급 또는 검수자(34)의 자격 요건에 따라 수행 중인 전체 프로젝트 중 적합한 프로젝트만 검수자(34)에게 노출되게끔 할 수 있다.

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

이하에서는 도 3 내지 도 8을 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법을 설명하도록 한다.

도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법의 순서도이다.

한편, 도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.

먼저, 도 3을 참조하면 서버는 크라우드소싱 기반의 프로젝트(이하, 프로젝트라 한다)의 복수의 작업을 복수의 작업자(32)에게 배정하여 작업 수행을 요청하고(S110), 복수의 작업자(32)로부터 복수의 작업 결과를 입력받는다(S120).

여기에서, 하나의 프로젝트에는 복수의 작업이 포함될 수 있으며, 복수의 작업은 종류에 따라 복수의 태스크로 그룹화될 수 있고, 또는 각각의 작업이 서로 다른 종류의 작업일 수도 있으며, 동일한 작업일 수도 있지만, 이에 제한되는 것은 아니다.

다음으로, 서버는 복수의 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고(S130), 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과로 검수 통과 또는 반려를 입력받는다(S140).

이때, 본 발명의 일 실시예는 복수의 검수자(34)에게 복수의 작업 결과를 배정함에 있어, 각 검수자(34)들이 인지할 수 없도록 검증용 작업 결과가 실제 작업 결과와 함께 제공되는 것을 특징으로 한다.

즉, 서버는 검수자(34)에게 검증용 작업 결과를 배정할 때, 실제 작업 결과도 함께 배정하는데, 이때 검수자(34)는 실제 작업 결과와 검증용 작업 결과를 구분하지 못한다. 다시 말해, 검수자(34)는 검증용 작업 결과도 실제 작업 결과로 인식하여 검수를 수행하게 된다. 서버는 검수자(34)로부터 실제 작업 결과와 함께 검증용 작업 결과에 대한 검수 결과를 입력받게 되며, 검증용 작업 결과를 이용하여 능숙한 검수자(34)를 선별할 수 있다.

참고로, 본 발명의 설명에서 능숙한 검수자(34)를 검증하기 위한 용도의 작업 결과를 '검증용 작업 결과'라 하며, 이와 구별되도록 검수자(34)가 실제로 검수를 수행하며 프로젝트의 결과물로 이용되어야 하는 작업 결과를 '실제 작업 결과'라 하도록 한다.

본 발명에서 검증용 작업 결과를 생성하는 과정에 대해 구체적으로 설명하면 다음과 같다.

서버는 검수 통과 또는 반려로 입력된 복수의 작업 결과에 대한 복수의 검수 결과 중 소정의 조건을 만족하는 검수 결과로부터 복수의 검증용 작업 결과를 생성한다.

일 실시예로, 서버는 소정의 구간 동안의 복수의 실제 작업 결과에 대한 복수의 검수 결과 중, 소정의 조건을 만족하는 실제 작업 결과를 추출하여 검증용 결과로 생성할 수 있다.

이는, 제1 시간 구간 동안(t0)에서 검수를 수행한 제1 검수자의 실제 작업 결과에 대한 검수 결과를 이용해서 제2 시간 구간(t1)에서 검수를 수행할 복수의 검수자(34)를 검증하고, 마찬가지로, 제2 시간 구간(t1)에서 검수를 수행한 제2 검수자의 실제 작업 결과에 대한 검수 결과를 이용해서 제3 시간 구간(t2)에서 검수를 수행할 복수의 검수자(34)를 검증하는 구조이다.

이하, 도 4 및 도 5를 참조하여 검증용 작업 결과에 대하여 구체적으로 설명하도록 한다.

도 4 및 도 5는 검증용 작업 결과를 생성하는 내용을 설명하기 위한 도면이다.

검증용 작업 결과는 프로젝트의 복수의 작업자(32)에 의해 실제 수행된 작업에 대한 검수자(34)들의 검수 결과를 기반으로 생성된다.

도 4를 참조하면, 복수의 작업자(32)로부터 실제 작업 결과가 입력되면, 실제 작업 결과는 검수자(34)에게 배정되고, 검수자(34)는 실제 작업 결과에 대하여 검수를 수행한다.

그 다음 실제 작업 결과에 대한 검수자(34)의 검수가 완료되면, 서버는 복수의 검수자(34)로부터 수신한 복수의 검수 결과를 최초 검수 통과, 반려 또는 재검수 통과로 분류한다.

즉, 본 발명의 일 실시예에서 서버는 복수의 검수 결과 중 다른 검수자(34)에 의해 검수 완료된 작업 결과로 최초 검수 통과, 반려 또는 재검수 통과된 작업 결과를 복수의 검증용 작업 결과로 생성할 대상으로 추출한다. 이에 따라, 검증용 작업 결과는 정답이 최초 검수 통과, 반려 또는 재검수 통과로 정해지며, 이러한 정답의 입력 여부를 통해 검수자(34)를 검증하게 된다.

이 과정에서, 서버는 검수 완료된 실제 작업 결과에 대해서는 프로젝트 종료 시 최종 산출물을 추출하기 위한 유효 데이터로 사용하며, 반려나 재반려된 실제 작업 결과의 경우에는 해당 작업자(32)에게 다시 작업을 배정하여 재작업 수행을 요청한다. 이와 동시에, 서버는 검증용 작업 결과를 생성하기 위하여, 검수 결과 중에서 최초 검수 통과나 반려, 그리고 재검수 통과된 작업 결과를 추출하게 된다.

참고로, 재검수 통과된 작업 결과의 경우, 통상은 첫 반려를 통지한 검수자(34)가 재작업에 의한 재검수를 수행하게 되나, 재검수 기한을 넘긴 경우 다른 검수자(34)에게 재검수가 배정될 수도 있다. 이 경우, 다른 검수자(34)의 반려에 의한 재작업 결과를 재검수하는 것에 해당하며, 1회 반려되었을 때의 다른 검수자(34)에 의해서 입력된 반려 사유까지 해당 검수자(34)에게 제공된다.

그 다음, 서버는 위 과정을 통해 추출된 검수 결과 중 소정의 조건을 만족하는 검수 결과를 추출하는데, 이때 소정의 조건의 일 실시예로는 복수의 검수자(34)에 의한 검수 소요 시간을 기준으로 하는 소정의 순위를 만족하는 것일 수 있다.

즉, 서버는 검수 통과, 반려, 재검수 통과된 실제 작업 결과들에 대하여, 검수에 소요된 시간이 긴 순서대로 정렬하고, 이 중에서 소정의 순위에 해당하는 실제 작업 결과만을 추출한다.

여기에서 검수에 소요된 시간이 길다는 것은 다른 검수자(34)에 비하여 성실하게 검수를 수행할 가능성이 높으며, 이는 검수 결과에 오류가 있을 확률이 적다는 것을 의미하므로, 검수에 소요된 시간이 긴 실제 작업 결과를 추출하는 것이 바람직하다.

이때, 소정의 순위는 서버나 관리자, 또는 의뢰자(10)에 의해 미리 설정되어 있을 수 있으며, 소정의 순위는 개수 단위뿐 아니라 시간 단위로도 추출할 수 있다.

이와 같이 소정의 조건을 만족하는 실제 작업 결과는 곧바로 검증용 작업 결과로 제공될 수도 있다.

하지만, 실제 작업 결과를 검수한 검수자(34) 역시 오류를 범할 가능성이 있으므로, 검수자(34)들에게 보다 검증된 검증용 작업 결과를 제공하기 위하여, 다른 검수자(34)로 하여금 실제 작업 결과의 검수 결과에 대한 재검수를 수행하도록 하고, 다른 검수자(34)에 의한 재검수 결과와 일치하는 검수 결과를 갖는 실제 작업 결과를 검증용 작업 결과를 위한 대상으로 추출할 수 있다.

도 5를 참조하면, 소정의 순위를 만족하는 실제 작업 결과가 추출되면, 실제 작업 결과는 각각 다른 검수자(34) 추가적인 검수 작업을 거치게 된다.

예를 들어, 도 4에서 제1 검수자의 검수에 의해 '실제 작업 결과 1~4(P2)'가 각각 검수 통과, 반려, 재검수 통과 및 검수 통과되었고, 이 중에서 소정의 순위에 따라 3개의 '실제 작업 결과 1~3(P3)'이 추출되었다면, 3개의 실제 작업 결과(P3)는 제1 검수자와 상이한 제2 및 제3 검수자에 의해 재검수가 수행된다(P4). 이때, 도 5의 예시에서는 2명의 검수자에 의해 재검수가 수행되는 것으로 도시되어 있으나, 반드시 이에 한정되는 것은 아니다.

제2 및 제3 검수자에 의해 재검수된 결과, 제2 검수자에 의한 재검수 결과 중 '실제 작업 결과 1, 2'에 대한 검수 결과가 제1 검수자의 검수 결과와 일치하고, 제3 검수자에 의한 재검수 결과 중 '실제 작업 결과 1, 3'에 대한 검수 결과가 제1 검수자의 검수 결과와 일치한 경우, 검수자(34)들 모두에 의해 일치된 검수 결과를 갖는 '실제 작업 결과 1(P5)'만이 검증용 작업 결과로 생성될 수 있다.

이 과정에서, 서버는 검증용 작업 결과를 생성함에 있어, 검증용 작업 결과에 대응하는 실제 작업 결과를 검수한 검수자(34)를 상호 매칭하여 '실제 작업 결과 - 검수자' 또는 '검증용 작업 결과 - 검수자' 매칭 데이터를 생성 및 저장할 수 있다. 이는, 이후 검증용 작업 결과를 복수의 검수자(34)들에게 배정함에 있어, 이미 검수 수행한 검수자(34)에게 반복하여 배정되지 않도록 하기 위함이다. 예를 들어, 검수자 A와 실제 작업 결과 a가 매칭되어 저장된 경우, 복수의 검수자(34)에게 검증용 작업 결과를 배정함에 있어 검수자 A에게는 실제 작업 결과 a에 대한 검증용 작업 결과 a가 배정되지 않도록 한다.

이와 같은 검증용 작업 결과가 생성되고 나면, 실제 작업 결과의 검수 결과에 대해 실시간으로 또는 소정의 주기마다 조건 만족 여부를 체크하여 검증용 작업 결과의 풀을 갱신할 수도 있다.

한편, 소정의 조건을 만족하는 실제 작업 결과가 없거나, 검증용 작업 결과를 모두 검수자(34)에게 배정하여 더 이상 검증용 작업 결과를 배정할 수 없는 상태가 있을 수 있는바, 이 경우 본 발명의 일 실시예는 의뢰자(10)에 의해 미리 준비된 검증용 작업 결과를 통해 검수자(34)에게 배정할 수도 있음은 물론이다.

이와 같이 검증용 작업 결과가 생성되고 나면, 검증용 작업 결과는 복수의 검수자(34)에게 실제 작업 결과와 함께 배정되며, 서버는 실제 작업 결과에 대한 검수 결과와 함께 검증용 작업 결과에 대한 검수 결과를 입력받는다.

일 실시예로, 서버는 '실제 작업 결과 - 검수자' 매칭 데이터에 기반하여, 각 검수자(34)에게 검증용 작업 결과를 배정한다. 예를 들어, 검수자 A와 실제 작업 결과 a가 매칭된 경우, 서버는 검수자 A를 제외한 나머지 복수의 검수자(34)들에게 실제 작업 결과 a에 의해 생성된 검증용 작업 결과 a를 배정할 수 있다.

이때, 검증용 작업 결과는 프로젝트에 포함된 전체 작업 중 소정의 비율 이상의 작업 결과 또는 작업 결과에 대한 검수 결과가 제출된 시점 이후부터 검수자(34)에게 배정하여 검수 수행을 요청할 수 있다.

즉, 프로젝트 초반의 경우에는 능숙한 검수자(34)가 나타나는 경우가 드물기 때문에, 검증용 작업 결과를 미리 검수자(34)에게 배정하는 것은 리소스 낭비일 수 있으므로, 프로젝트 중후반에 해당하는 작업 결과가 충분히 제출된 시점 또는 작업 결과에 대한 검수 결과가 충분히 제출된 시점 이후부터 검증용 작업 결과의 배정이 이루어짐이 바람직하다.

하지만, 검증용 작업 결과의 배정 시기는 반드시 이에 한정되는 것은 아니며, 검수자 풀의 능숙도를 주기적으로 체크하기 위하여 프로젝트의 초반부터 배정될 수도 있음은 물론이다.

서버는 복수의 검수자(34)로부터 검증용 작업 결과에 대한 검수 결과를 입력받음에 따라, 검수 결과를 이용하여 복수의 검수자(34) 중 검수 수행 건당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제1 검수자와, 시간당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제2 검수자를 선별한다(S150).

그 다음 서버는 선별된 제1 검수자에게 검수 수행 건당 단위 임금으로 검수 비용을 지급하고, 제2 검수자에게 시간당 단위 임금 기반으로 검수 비용을 지급한다(S160).

도 6은 검증용 작업 결과를 이용하여 제1 및 제2 검수자를 선별하는 과정의 순서도이다.

서버는 복수의 검수자(34)의 각 검증용 작업 결과에 대한 개별 검수 수행 시간(이하, "제1 검수 수행 시간"이라 한다) 및 평균 검수 수행 시간(이하, "제2 검수 수행 시간"이라 한다)을 산출한다(S151, S152).

여기에서, 개별 검수 수행 시간 및 평균 검수 수행 시간은, 각 검수자(34)에게 배정된 각 검증용 작업 결과에 대한 검수 수행을 시작한 시각과, 검수 수행을 완료하여 검수 결과를 입력한 시각에 기초하여 산출된 검수자(34)별 검수 수행 시간, 그리고 각 검증용 작업 결과를 기준으로 검수자(34)별 검수 수행 시간을 평균화한 것을 의미한다.

이때, 복수의 검수자(34) 중 검수 수행 건수가 n건(단, n은 1 이상의 자연수) 미만인 검수자(34)의 검증용 작업 결과에 대해서는 제2 검수 수행 시간 산출을 위한 데이터에서 배제할 수 있다.

즉, 검수 수행 건수가 n건 미만인 검수자(34)는 아직 검수 수행에 익숙하지 못한 신규 검수자일 수 있으며, 너무 많은 신규 검수자의 데이터가 함께 고려될 경우, 검수자(34)들의 평균 검수 수행 시간이 너무 길어지게 되어 특정 검수자의 검수 수행 시간이 현재 능숙도와는 달리 더욱 짧게 평가될 수 있으므로, 신규 검수자의 데이터는 배제시킬 수 있다.

다음으로, 서버는 제1 검수 수행 시간과 제2 검수 수행 시간을 비교하고, 비교 결과에 기초하여 복수의 검수자(34) 중 제2 검수자를 선별하며(S153), 복수의 검수자(34) 중 제2 검수자를 제외한 나머지 검수자를 제1 검수자로 선별한다(S154).

도 7은 제2 검수자를 선별하는 과정을 설명하기 위한 도면이다.

서버는 제2 검수자를 선별하기 위하여, 먼저 복수의 검수자(34) 중 어느 개별 검수자에게 제공된 각 검증용 작업 결과를 시간 순으로 정렬한다.

복수의 검증용 작업 결과는 할당된 ID 순서대로 검수자(34)들에게 배정되는 것이 아니라, 검증용 작업 결과의 풀에서 랜덤한 순서로 추출되어 복수의 검수자(34)에게 배정된다. 따라서, 시간이 지남에 따라 프로젝트에 익숙해진 제2 검수자를 선별하기 위해서는, 각 검수자(34)들에게 배정된 검증용 작업 결과를 시간 순서로 정렬하는 과정이 필요하다.

다음으로, 각 검증용 작업 결과에 대한 제1 및 제2 검수 수행 시간의 편차를 산출하고, 산출된 각 편차에 대한 추세가 소정의 범위 내에 포함되는 적어도 하나의 개별 검수자를 제2 검수자로 선별한다.

예를 들어 도 7을 참조하면, 시간 순으로 정렬된 ID 2001의 검증용 작업 결과에 대한 검수자 A의 제1 검수 수행 시간은 25초이고, 전체 검수자의 평균인 제2 검수 수행 시간은 18초로 산출되었으며, 그 편차는 7초로 산출되었다. 이는 검수자 A가 전체 검수자의 평균보다 더 늦게 검수하였음을 의미한다.

시간이 지날수록 검수자 A와 전체 검수자의 평균에 대한 제1 및 제2 검수 수행 시간의 각 편차는 7초, 6초, -2초, -2초, -1초로 점점 줄어들었는데, 어느 순간부터 검수자 A는 전체 검수자들의 평균보다 더 빠르게 검수를 수행하는 것을 확인할 수 있으며, 이는 검수자 A가 프로젝트에 타 검수자들보다 익숙해져 있음을 의미한다.

따라서, 서버는 검수자 A와 전체 검수자 간의 제1 및 제2 검수 수행 시간의 편차가 소정의 범위 내에 포함되는지 여부를 확인하여, 검수자 A를 시간당 단위 임금으로 검수 비용을 지급할 제2 검수자로 선별한 후 검수 비용으 지급하게 된다.

이때, 서버는 산출된 각 편차에 대한 추세가 소정의 수치 범위 및 소정의 시간 범위에 포함되는 적어도 하나의 개별 검수자를 제2 검수자로 선별할 수 있다.

즉, 도 7과 같이 산출된 각 편차에 대한 추세가 소정의 수치 범위, 예를 들어 음의 값의 추세 범위에 포함되는지 여부를 확인하되, 프로젝트의 초반이 아닌 프로젝트의 중후반에 해당하는 시간 범위나, 또는 음의 값의 편차가 소정 기간 동안 연속하여 유지되는지 여부 등의 시간 범위에 상기 편차에 대한 추세가 포함되는지 여부를 확인하여, 이를 만족하는 개별 검수자를 제2 검수자로 선별할 수 있다.

이와 반대로, 개별 검수자의 산출된 각 편차에 대한 추세가 소정의 수치 범위를 벗어나는 경우 즉, 음의 값이 아닌 양의 값을 갖는 경우 전체 검수자(34)들의 평균보다 프로젝트에 덜 익숙해진 검수자로 볼 수 있다. 또한, 소정의 수치 범위를 만족하더라도 소정의 기간 범위에 포함되지 않는 경우, 예를 들어 프로젝트의 초반에만 음의 값의 편차가 유지되거나, 프로젝트의 중후반이라 하더라도 음의 값의 편차가 불규칙적으로 나타나 소정 기간 범위를 만족하지 않는 경우, 프로젝트에 덜 익숙해진 검수자로 판별하여 제1 검수자로 선별하게 된다.

한편, 본 발명의 일 실시예는 검증용 작업 결과에 대한 난이도를 평가한 후, 난이도가 높은 검증용 작업 결과를 타 검수자들에 비해 더욱 잘 검수한 검수자(34)를 제2 검수자로 선별할 수 있다.

이와 같은 제2 검수자의 선별 방식은, 제1 및 제2 검수 수행 시간의 비교 결과에 기초한 방식에 의해 제2 검수자가 선별되지 않은 경우에 추가적으로 실시될 수 있으나, 반드시 이에 한정되는 것은 아니다.

도 8은 검증용 작업 결과의 난이도에 기반하여 제2 검수자를 선별하는 내용을 설명하기 위한 도면이다.

구체적으로 서버는 먼저, 복수의 검수자(34) 중 어느 개별 검수자에게 제공된 각 검증용 작업 결과를 시간 순으로 정렬한 후, 정렬된 복수의 검증용 작업 결과 각각에 대한 복수의 검수자(34)의 정답률을 산출한다.

예를 들어, ID 2001 내지 ID 2005의 검증용 작업 결과 각각에 대한 복수의 검수자(34)의 정답률은 75%, 70%, 50%, 30%, 20%로 산출되었다.

여기에서 복수의 검수자(34)에 대한 정답률은 검증용 작업 결과의 노출 수 대비 정답 통과 수를 기반으로 산출된다.

이후, 서버는 정답률에 기초하여 복수의 검증용 작업 결과의 평균 정답률을 산출한다. 만약, 각 ID 별로 검증용 작업 결과가 검수자(34)들에게 동일하게 노출된 경우, 검수자 10명에 대한 ID 2001 내지 2005의 검증용 작업 결과의 평균 정답률은 (75%+70%+50%+30%+20%)/5로 산출될 수 있다.

그 다음, 서버는 평균 정답률에 기초하여 검증용 작업 결과에 대한 난이도를 설정한다.

위 예시에서 평균 정답률은 49%로 산출될 수 있으며, 49%를 기준으로 소정의 구간을 구분하여 난이도 상, 중 하와 같은 복수 개의 구간으로 구분된 등급별 난이도를 설정할 수 있다. 일 예로, 0~29%의 정답률은 난이도 상, 30%~69%는 난이도 중, 70%~100%은 난이도 하로 설정할 수 있다.

그 다음, 서버는 복수의 검수자(34) 중 일정 이상의 난이도를 갖는 검증용 작업 결과에 대한 정답 입력이 소정의 횟수 및 소정의 시간 조건 중 적어도 하나를 만족하는 검수자(34)를 제2 검수자로 선별한다.

도 8의 예시를 참조하면, 복수의 검수자(34) 중에서 난이도 상을 갖는 검증용 작업 결과에 대한 정답 입력 횟수가 2회 이상인 검수자(34)를 제2 검수자로 선별하거나, 이와 함께 또는 별개로, 난이도 상을 갖는 검증용 작업 결과에 대한 정답 입력이 2회 이상 연속되도록 또는 소정의 시간 이후에 입력된 경우의 검수자(34)를 제2 검수자로 선별할 수 있다.

이를 통해, 검수 수행 시간만으로 제2 검수자가 선별되지 않거나, 검수 수행 시간을 활용하는 방식과 더불어 추가적인 기준을 통해 보다 엄격하게 제2 검수자를 선별하고자 하는 경우, 검증용 작업 결과의 난이도를 고려한 선별 방식을 통해 정확도와 능숙도가 보장된 검수자(34)를 제2 검수자로 선별할 수 있다.

그밖에, 본 발명의 일 실시예는 검증용 작업 결과를 배정하는 시기가 소정의 비율 이상의 작업 결과 또는 검수 결과가 제출된 시점 이후부터 배정될 수 있으며, 이와 함께 또는 별개로 제1 및 제 2 검수자를 선별하는 시기 역시 소정의 비율 이상의 작업 결과 또는 검수 결과가 제출된 시점 이후부터 진행될 수 있다.

즉, 제1 및 제2 검수자를 선별하는 것은 프로젝트에서 검수 수행에 익숙한 검수자(34)를 대상으로 하는 것이며, 프로젝트의 검수에 익숙한 검수자(34)가 나타나는 시기는 프로젝트의 중후반일 가능성이 높으므로, 소정의 시기 이후부터 제1 및 제2 검수자를 선별하는 과정이 진행됨이 바람직하다.

한편, 상술한 설명에서, 단계 S11 내지 S160은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 9의 내용은 도 1 내지 도 8의 크라우드소싱 기반 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자(34)별 시급제 기반 검수 비용 지급 방법에도 적용될 수 있다.

이하에서는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 장치(200, 이하 검수자별 시급제 기반 검수 비용 지급 장치라 한다)에 대하여 설명하도록 한다.

도 9는 본 발명의 일 실시예에 따른 검수자별 시급제 기반 검수 비용 지급 장치(200)를 설명하기 위한 도면이다.

도 9를 참조하면, 본 발명의 일 실시예에 따른 검수자별 시급제 기반 검수 비용 지급 장치(200)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.

통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 또한, 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다. 또한, 통신모듈(210)은 검증용 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고, 복수의 검수자(34)로부터 검증용 작업 결과에 대한 검수 결과를 입력받는다.

메모리(220)에는 검증용 작업 결과에 대한 검수 수행 시간에 기초하여 복수의 검수자(34) 중 검수 수행 건당 단위 임금과 시간당 단위 임금으로 검수 비용을 지급할 검수자를 선별하기 위한 프로그램이 저장된다.

프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 복수의 검수자(34)의 각 검증용 작업 결과에 대한 개별 검수 수행 시간인 제1 검수 수행 시간과 평균 검수 수행 시간인 제2 검수 수행 시간을 산출하고, 제1 및 제2 검수 수행 시간의 비교 결과에 기초하여 복수의 검수자(34) 중 시간당 단위 임금으로 검수 비용을 지급할 제2 검수자를 선별하며, 제2 검수자를 제외한 나머지 검수자를 검수 수행 건당 단위 임금으로 검수 비용을 지급할 제1 검수자로 선별하여, 각 지급 방식에 따라 검수 비용을 지급한다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
200 : 검수자별 시급제 기반 검수 비용 지급 장치
210 : 통신모듈
220 : 메모리
230 : 프로세서

Claims

컴퓨터에 의해 수행되는 방법으로서,
크라우드소싱 기반 프로젝트(이하, "프로젝트")의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계;
상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계;
상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과로 검수 통과 또는 반려를 입력받는 단계;
상기 검수 결과를 이용하여, 상기 복수의 검수자 중 (i) 검수 수행 건당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제1 검수자 및 (ii) 시간당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제2 검수자를 선별하는 단계; 및
상기 제1 검수자에게 검수 수행 건당 단위 임금 기반으로 검수 비용을 지급하고, 상기 제2 검수자에게 시간당 단위 임금 기반으로 검수 비용을 지급하는 단계를 포함하되,
상기 검수 수행을 요청하는 복수의 작업 결과는, 상기 검수 통과 또는 반려로 입력된 상기 복수의 작업 결과에 대한 복수의 검수 결과 중 소정의 조건을 만족하는 검수 결과로부터 생성된 복수의 검증용 작업 결과를 포함하고,
상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는,
상기 복수의 검수자의 각 검증용 작업 결과에 대한 개별 검수 수행 시간(이하, "제1 검수 수행 시간")을 산출하는 단계;
상기 복수의 검수자의 각 검증용 작업 결과에 대한 평균 검수 수행 시간(이하, "제2 검수 수행 시간")을 산출하는 단계;
상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초하여 상기 복수의 검수자 중 상기 제2 검수자를 선별하는 단계; 및
상기 복수의 검수자 중 상기 제2 검수자를 제외한 나머지 검수자를 상기 제1 검수자로 선별하는 단계를 포함하고,
상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초하여 상기 복수의 검수자 중 상기 제2 검수자를 선별하는 단계는,
상기 복수의 검수자 중 어느 개별 검수자에게 제공된 각 검증용 작업 결과를 시간 순으로 정렬하는 단계;
상기 각 검증용 작업 결과에 대한 제1 검수 수행 시간과 제2 검수 수행 시간의 편차를 산출하는 단계; 및
상기 산출된 각 편차에 대한 추세가 소정의 범위 내에 포함되는 적어도 하나의 개별 검수자를 제2 검수자로 선별하는 단계를 포함하는,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제1항에 있어서,
상기 산출된 각 편차에 대한 추세가 소정의 범위 내에 포함되는 적어도 하나의 개별 검수자를 제2 검수자로 선별하는 단계는,
상기 산출된 각 편차에 대한 추세가 소정의 수치 범위 및 소정의 시간 범위에 포함되는 적어도 하나의 개별 검수자를 상기 제2 검수자로 선별하는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제1항에 있어서,
상기 소정의 조건은,
상기 복수의 검수자에 의한 검수 소요 시간을 기준으로 하는 소정의 순위를 만족하는 조건인 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제3항에 있어서,
상기 복수의 검증용 작업 결과는,
상기 검증용 작업 결과에 대응하는 실제 작업 결과를 검수한 검수자와 상이한 하나 이상의 타 검수자에 의한 재검수 결과와 일치하는 검수 결과를 갖는 실제 작업 결과 중 일부를 추출하여 생성되는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제1항에 있어서,
상기 복수의 검증용 작업 결과는,
상기 복수의 검수 결과 중 다른 검수자에 의해서 최초 검수 통과, 반려 또는 재검수 통과된 검수 결과에 대응하는 작업 결과를 상기 복수의 검증용 작업 결과로 생성하는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제1항에 있어서,
상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는,
상기 프로젝트에 포함된 전체 작업 중 소정의 비율 이상의 작업 결과 또는 상기 작업 결과에 대한 검수 결과가 제출된 시점 이후부터 상기 제1 및 제2 검수자를 선별하는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
컴퓨터에 의해 수행되는 방법으로서,
크라우드소싱 기반 프로젝트(이하, "프로젝트")의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계;
상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계;
상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과로 검수 통과 또는 반려를 입력받는 단계;
상기 검수 결과를 이용하여, 상기 복수의 검수자 중 (i) 검수 수행 건당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제1 검수자 및 (ii) 시간당 단위 임금으로 검수 비용을 지급할 적어도 하나의 제2 검수자를 선별하는 단계; 및
상기 제1 검수자에게 검수 수행 건당 단위 임금 기반으로 검수 비용을 지급하고, 상기 제2 검수자에게 시간당 단위 임금 기반으로 검수 비용을 지급하는 단계를 포함하되,
상기 검수 수행을 요청하는 복수의 작업 결과는, 상기 검수 통과 또는 반려로 입력된 상기 복수의 작업 결과에 대한 복수의 검수 결과 중 소정의 조건을 만족하는 검수 결과로부터 생성된 복수의 검증용 작업 결과를 포함하고,
상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는,
상기 복수의 검수자의 각 검증용 작업 결과에 대한 개별 검수 수행 시간(이하, "제1 검수 수행 시간")을 산출하는 단계;
상기 복수의 검수자의 각 검증용 작업 결과에 대한 평균 검수 수행 시간(이하, "제2 검수 수행 시간")을 산출하는 단계;
상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초하여 상기 복수의 검수자 중 상기 제2 검수자를 선별하는 단계; 및
상기 복수의 검수자 중 상기 제2 검수자를 제외한 나머지 검수자를 상기 제1 검수자로 선별하는 단계를 포함하고,
상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는,
상기 복수의 검수자 중 어느 개별 검수자에게 제공된 각 검증용 작업 결과를 시간 순으로 정렬하는 단계;
상기 복수의 검증용 작업 결과 각각에 대한 상기 복수의 검수자의 정답률을 산출하는 단계;
상기 정답률에 기초하여 상기 복수의 검증용 작업 결과의 평균 정답률을 산출하는 단계;
상기 평균 정답률에 기초하여 상기 검증용 작업 결과 각각에 대한 난이도를 설정하는 단계; 및
상기 복수의 검수자 중 일정 이상의 난이도를 갖는 상기 검증용 작업 결과에 대한 정답 입력이 소정의 횟수 및 소정의 시간 조건 중 적어도 하나를 만족하는 검수자를 상기 제2 검수자로 선별하는 단계를 더 포함하는,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제7항에 있어서,
상기 복수의 검수자 중 일정 이상의 난이도를 갖는 상기 검증용 작업 결과에 대한 정답 입력이 소정의 횟수 및 소정의 시간 조건 중 적어도 하나를 만족하는 검수자를 상기 제2 검수자로 선별하는 단계는,
상기 제1 및 제2 검수 수행 시간의 비교 결과에 기초한 상기 제2 검수자가 선별되지 않은 경우 수행되는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제7항에 있어서,
상기 소정의 조건은,
상기 복수의 검수자에 의한 검수 소요 시간을 기준으로 하는 소정의 순위를 만족하는 조건인 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제9항에 있어서,
상기 복수의 검증용 작업 결과는,
상기 검증용 작업 결과에 대응하는 실제 작업 결과를 검수한 검수자와 상이한 하나 이상의 타 검수자에 의한 재검수 결과와 일치하는 검수 결과를 갖는 실제 작업 결과 중 일부를 추출하여 생성되는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제7항에 있어서,
상기 복수의 검증용 작업 결과는,
상기 복수의 검수 결과 중 다른 검수자에 의해서 최초 검수 통과, 반려 또는 재검수 통과된 검수 결과에 대응하는 작업 결과를 상기 복수의 검증용 작업 결과로 생성하는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
제7항에 있어서,
상기 검수 결과를 이용하여, 제1 검수자 및 제2 검수자를 선별하는 단계는,
상기 프로젝트에 포함된 전체 작업 중 소정의 비율 이상의 작업 결과 또는 상기 작업 결과에 대한 검수 결과가 제출된 시점 이후부터 상기 제1 및 제2 검수자를 선별하는 것인,
크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법.
컴퓨터와 결합되어, 제1항 내지 제12항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.