KR102159578B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법이 제공된다. 상기 방법은 크라우스소싱 기반 프로젝트에 포함되는 하나 이상의 기능요소를 추출하는 단계, 하나 이상의 기능요소의 유형 및 유형별 개수를 판단하는 단계, 크라우드소싱 플랫폼의 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 유형별로 검수 능력 평가 점수를 산출하는 단계, 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출하는 단계, 상기 추출된 검수자에게 상기 프로젝트에 대한 검수 권한을 부여하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법{METHOD FOR GRANTING INSPECTOR’S INSPECTION AUTHORITY ACCORDING TO THE FUNCITIONAL ELEMENTS OF CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

하나의 프로젝트가 오픈 되면, 복수의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 상기 복수의 작업 결과는 복수의 검수자에게 배정하여 검수 수행을 요청한다. 검수자의 검수 결과 부적합한 작업 결과에 대해서는 해당 작업을 반려하여 작업자에게 재작업 수행을 요청한다.

이와 같이, 작업자의 작업 수행은 검수자에 의한 검수 과정에서 감시되고 평가된다. 그러나 작업자와 달리 검수자의 경우, 검수자의 검수 수행을 평가하는 주체가 없으며 객관적인 기준도 존재하지 않는다. 따라서, 검수 수행 능력이 떨어지는 검수자에 대한 제재 조치를 취할 수 없는 실정이다.

또한, 검수자에 대한 무분별한 검수 권한 부여는, 해당 프로젝트의 품질을 해칠 수 있으며, 이는 프로젝트 진행을 지연시키는 악영향을 미칠 수 있다.

따라서 프로젝트에 적합한 검수자를 선별하고, 해당 검수자의 검수 능력을 객관적으로 평가하여 유사 프로젝트에 대한 검수 권한을 계속적으로 부여할 것인지 결정할 수 있는 객관적 기준이 필요하다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트 간 작업 단가 조정을 통한 작업자의 프로젝트 유입 조절 방법을 제공하는 것이다.

본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법은, 컴퓨터에 의해 수행되는 방법으로서, 크라우스소싱 기반 프로젝트(이하,"프로젝트")에 포함되는 하나 이상의 기능요소를 추출하는 단계, 상기 프로젝트에 포함되는 하나 이상의 기능요소의 유형 및 유형별 개수를 판단하는 단계, 크라우드소싱 플랫폼의 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 기능요소의 유형별로 검수 능력 평가 점수를 산출하는 단계, 상기 크라우드소싱 플랫폼의 복수의 검수자 중 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출하는 단계, 상기 추출된 검수자에게 상기 프로젝트에 대한 검수 권한을 부여하는 단계, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계, 상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는 단계, 상기 복수의 작업 결과를 상기 추출된 검수자에게 배정하여 검수 수행을 요청하는 단계 및 상기 추출된 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는 단계를 포함하고, 상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이다.

본 발명의 일부 실시예에서, 상기 프로젝트에 하나의 유형의 하나의 기능요소가 포함된 경우, 상기 검수자를 추출하는 단계는, 상기 프로젝트에 포함되는 하나의 유형의 기능요소에 대한 상기 검수 능력 평가 점수에 상관없이 검수자를 추출할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은, 상기 검수 권한을 부여하는 단계는, 상기 추출된 검수자 중, 상기 프로젝트에 포함되는 하나의 유형의 기능요소에 대한 상기 검수 능력 평가 점수가 0점인, 신규 검수자에게 우선하여 상기 프로젝트에 대한 검수권한을 부여하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 프로젝트에 하나의 유형의 복수의 기능요소가 포함된 경우 또는 상기 프로젝트에 복수의 유형의 기능요소가 포함된 경우, 상기 검수자를 추출하는 단계는, 상기 프로젝트에 포함되는 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은, 상기 프로젝트에 복수의 유형의 기능요소가 포함된 경우, 상기 기능요소의 유형 및 유형별 개수를 판단하는 단계 이후, 상기 프로젝트에 포함되는 복수의 유형의 기능요소 중 메인 기능요소를 결정하는 단계를 더 포함하고, 상기 검수자를 추출하는 단계는, 상기 크라우드소싱 플랫폼의 복수의 검수자 중 상기 프로젝트에 포함되는 상기 메인 기능요소를 제외한 나머지 기능요소에 대한 상기 검수자의 검수 능력 평가 점수가 상기 제1값 이상이고, 상기 메인 기능요소에 대한 상기 검수자의 검수 능력 평가 점수가 상기 제1 값보다 큰 소정의 제2 값 이상인 검수자를 추출할 수 있다.

본 발명의 일부 실시예에서, 상기 메인 기능요소를 결정하는 단계는, 상기 프로젝트에 포함되는 기능요소 중 유형별 개수가 가장 많은 기능요소를 상기 메인 기능요소로 결정할 수 있다.

또는, 상기 메인 기능요소를 결정하는 단계는, 상기 프로젝트의 검수 수행 화면에서 가장 상단에 위치하는 기능요소를 상기 메인 기능요소로 결정할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은, 상기 추출된 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 입력 받는 단계 이후, 상기 추출된 검수자의 상기 복수의 검수 결과에 기초하여, 상기 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 기능요소의 유형별로 검수 능력 평가 점수를 재산출하여 갱신하는 단계 및 상기 추출된 검수자의 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 중 적어도 하나에 대한 상기 검수 능력 평가 점수가 상기 제1 값 미만이 되면, 상기 프로젝트에 대한 검수 권한을 박탈하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 검수자의 누적 검수 능력 평가 점수는, 상기 검수자의 단위 기간의 평균 검수 수량, 누적 반려 횟수, 평균 재검수 소요 시간, 반려 메세지의 분량 중 적어도 하나에 기초하여 산출될 수 있다.

본 발명의 일부 실시예에서, 상기 방법은, 상기 하나 이상의 기능요소를 추출하는 단계 이후, 상기 프로젝트에 포함되는 하나 이상의 기능요소 각각의 평균 작업 시간을 합산하여 상기 프로젝트의 난이도를 결정하는 단계를 더 포함하고, 상기 검수 결과를 입력 받는 단계 이후, 상기 추출된 검수자가 상기 프로젝트의 소정의 개수 이상의 작업 결과를 검수 수행하고, 상기 추출된 검수자의 상기 프로젝트에 포함되는 상기 하나 이상의 기능요소 모두에 대한 상기 검수 능력 평가 점수가 상기 제1 값 이상을 유지하면, 상기 추출된 검수자에게 상기 프로젝트와 동일한 유형의 기능요소만을 포함하고 상기 프로젝트의 난이도의 소정 배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 소정 배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여하는 단계는, 상기 프로젝트와 동일한 유형의 기능요소를 포함한 가장 낮은 난이도의 프로젝트에 대한 검수 권한부터 단계적으로 부여하는 것일 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합하여 상기 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 부여 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장될 수 있다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 기능요소의 유형별로 검수자의 검수 능력을 객관적으로 평가함으로써, 특정 기능요소를 포함하는 오픈 예정 중인 프로젝트와 관련하여 적합한 검수자를 선별할 수 있다.

또한, 검수 권한을 얻은 후 프로젝트에 참여한 검수자의 검수 능력을 계속적으로 재평가함으로써, 검수자가 지속적으로 검수 수행을 성실히 하도록 감시하는 효과를 가질 수 있다.

또한, 하나의 유형의 하나의 기능요소를 포함하는 프로젝트에 대해서는 신규 검수자에게 우선하여 검수 권한을 부여함으로써, 신규 검수자의 해당 기능요소에 대한 검수 능력을 향상시킬 수 있는 기회를 제공할 수 있다.

또한, 프로젝트의 난이도를 결정하고, 해당 난이도를 성공적으로 수행한 검수자에게는 더 높은 난이도의 프로젝트에 대한 검수 권한을 부여함으로써, 검수자는 자신의 검수 능력을 체계적으로 향상시킬 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법을 개략적으로 나타낸 순서도이다.
도 4는 하나의 유형의 복수의 기능요소가 포함되는 프로젝트의 작업 화면에 관한 예시를 나타낸 도면이다.
도 5는 복수의 유형의 기능요소가 포함되는 프로젝트의 작업 화면에 관한 예시를 나타낸 도면이다.
도 6은 기능요소에 따라 검수자의 누적 반려 횟수를 카운팅하는 방법을 설명하기 위한 도면이다.
도 7은 하나의 유형의 하나의 기능요소가 포함된 프로젝트의 작업 화면에 관한 예시를 나타낸 도면이다.
도 8은 하나의 유형의 하나의 기능요소가 포함된 프로젝트에 대한 검수 권한을 신규 검수자에게 우선하여 부여하는 방법의 예시를 나타내는 도면이다.
도 9는 복수의 유형의 기능요소가 포함된 프로젝트에 대한 검수 권한을 특정 검수자에게 부여하는 방법의 예시를 나타내는 도면이다.
도 10은 프로젝트에 복수의 유형의 기능요소가 포함된 경우 메인 기능요소를 결정하는 것을 설명하기 위한 도면이다.
도 11은 본 발명의 일 실시예에 따른, 프로젝트에 참여한 검수자의 검수 권한을 박탈하는 방법을 개략적으로 나타내는 순서도이다.
도 12는 본 발명의 일 실시예에 따른, 하나의 유형의 기능요소를 포함한 프로젝트의 검수 권한을 가장 낮은 난이도의 프로젝트부터 단계적으로 부여하는 것을 설명하기 위한 개념도이다.
도 13은 본 발명의 일 실시예에 따른, 복수의 유형의 기능요소를 포함한 프로젝트의 검수 권한을 가장 낮은 난이도의 프로젝트부터 단계적으로 부여하는 것을 설명하기 위한 개념도이다.
도 14는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈 된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

이하에서는 도 3 내지 도 13를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 방법을 설명한다. 앞서 도 1 및 도 2를 참조하여 설명한 크라우드소싱 서비스의 구성 및 크라우드소싱 기반 프로젝트의 진행 프로세스와 관련하여 중복되는 내용은 그 상세한 설명을 생략한다.

한편, 도 3 및 도 9에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법을 개략적으로 나타낸 순서도이다.

먼저, 도 3을 참조하면, 크라우드소싱 기반 프로젝트에 포함되는 하나 이상의 기능요소를 추출한다(S110). 그리고 상기 프로젝트에 포함되는 하나 이상의 기능요소의 유형 및 유형별 개수를 판단한다(S120).

이때, 프로젝트에 포함되는 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정된다. 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴을 의미한다.

이와 관련하여, 도 4 및 도 5를 참조하여 구체적으로 설명한다.

도 4는 하나의 유형의 기능요소가 포함되는 프로젝트의 작업 화면에 관한 예시를 나타낸 도면이고, 도 5는 복수의 유형의 기능요소가 포함되는 프로젝트의 작업 화면에 관한 예시를 나타낸 도면이다.

도 4를 참조하면, 도 4에서 제시된 프로젝트에 참여한 작업자는 주어진 이미지에서 특정 객체인, 돼지를 나타내는 영역을 선택하는 바운딩(Bounding) 작업을 수행하게 된다. 이때, 작업자는 바운딩 작업을 수행하기 위해서 바운딩 박스 툴(Bounding Box Tool)을 사용할 수 있다.

따라서, 도 4에 제시된 프로젝트를 수행하기 위한 작업툴인, 바운딩 박스 툴(Bounding Box Tool)에 기반하여 S110 단계에서는 3개의 기능요소를 추출하게 된다. 그리고 S120 단계에서는 상기 추출된 기능요소를 기초로, 바운딩 유형의 기능요소가 3개 포함되어 있음을 판단한다.

반면에, 도 5를 참조하면, 도 5에서 제시된 프로젝트에 참여한 작업자는 주어진 이미지에서 특정 객체를 나타내는 영역을 선택하는 바운딩 작업을 수행하고(1단계), 선택된 특정 객체의 명칭을 입력하는 전사 작업을 수행한다(2단계). 그리고 마지막으로 특정 객체의 속성을 분류하는 분류 작업을 수행한다(3단계).

이때, 작업자는 바운딩 작업(1단계)을 수행하기 위해 바운딩 박스 툴(Bounding Box Tool)을, 전사 작업(2단계)을 수행하기 위해 인풋 박스 툴(Input Box Tool)을, 그리고 분류 작업(3단계)을 수행하기 위해 메이크 스텝 툴(Make Step Tool)을 사용할 수 있다.

따라서, 도 5에서 제시된 프로젝트를 수행하기 위한 작업툴인, 바운딩 박스 툴(Bounding Box Tool), 인풋 박스 툴(Input Box Tool) 및 메이크 스텝 툴(Make Step Tool)에 기반하여, S110 단계에서는 3개의 기능요소를 추출하게 되고, S120 단계에서는 1개의 바운딩 유형의 기능요소, 1개의 전사 유형의 기능요소, 그리고 1개의 분류 유형의 기능요소가 해당 프로젝트에 포함되어 있음을 판단하게 된다.

다시 도 3을 참조하면, S120 단계 이후, 크라우드소싱 플랫폼의 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 기능요소의 유형별로 검수 능력 평가 점수를 산출한다(S130).

이때, 본 발명의 일 실시예로, 상기 검수자의 검수 능력 평가 점수는, 상기 검수자의 단위 기간의 평균 검수 수량, 누적 반려 횟수, 평균 재검수 소요 시간, 반려 메세지의 분량 중 적어도 하나에 기초하여 산출될 수 있다.

보다 구체적으로, 검수자의 단위 기간의 평균 검수 수량에 기초하여 검수 능력 평가 점수를 산출하는 방법은 다음과 같을 수 있다.

예를 들어, 단위 기간을 1일로 하였을 때, 기능요소 유형에 따른 검수자의 일일 평균 검수 수량을 산출하고, 그 결과를 해당 기능요소 유형에 대한 전체 검수자의 일일 평균 검수 수량과 비교하여 검수 능력 평가 점수를 산출할 수 있다.

도 6은 기능요소에 따른 검수자의 누적 반려 횟수를 카운팅하는 방법을 설명하기 위한 도면이다.

도 6을 참조하면, 해당 프로젝트는 바운딩 작업과 전사 작업을 수행하도록 구성되어 있다. 작업자는 주어진 이미지에서 각각의 텍스트를 바운딩 작업(a-1, a-2, a-3)할 수 있다. 이후, 각각 바운딩된 작업 결과 a-1, a-2 및 a-3에 대해 전사 작업(b-1, b-2, b-3)을 수행할 수 있다.

이때 검수자는 작업자가 바운딩 작업한 결과물 및 전사 작업한 결과물 각각에 대해서 반려를 할 수 있다. 구체적으로, 작업자가 바운딩 작업(a-1)과 이에 대한 전자 작업(b-1)을 수행했을 때, 작업자의 a-1에 대한 바운딩 작업이 조건에 부합하지 않는다고 판단되면, 검수자는 b-1에 대한 작업을 통과시키고 a-1에 대한 작업만 반려시킬 수 있다.

이 경우, 검수자의 누적 반려 횟수는 바운딩 기능요소에 대해서만 카운팅(Counting)될 것이다. 즉, 전사 기능요소와 관련해서는 누적 반려 횟수가 카운팅되지 않는다.

한편, 평균 재검수 소요 시간은 검수자가 작업 결과를 반려한 후, 작업자의 재작업 수행 결과에 대해서 검수자가 재검수를 수행하는데 소요된 시간을 의미한다.

전술한 바와 같이, 작업 결과는 각각의 기능요소에 대한 검수 결과에 따라서 반려될 수 있다. 예를 들어, 전사 기능요소 및 바운딩 기능요소가 동시에 포함된 프로젝트의 작업자의 작업 수행 결과, 부적합한 전사 작업으로 인해 작업 결과가 반려된 경우, 해당 작업자의 재작업 후 검수자의 전사 작업에 대한 재검수 수행 소요 시간이 측정될 것이다. 이때, 재검수를 수행하는데 많은 시간이 소요될수록 상대적으로 집중하여 검수 수행한다는 것이므로 검수 능력 평가 점수는 높게 산출될 수 있다.

한편, 검수자의 반려 메시지의 분량에 기초하여 검수 능력 평가 점수를 산출하는 방법은 다음과 같을 수 있다.

검수자는 불량 작업에 대한 반려 시, 반려 메시지를 작성한다. 예를 들어, 작업자의 특정 개체에 대한 바운딩 작업이 부정확한 경우, 검수자는 “왼쪽 면 바운딩 정확하게 할 것” 또는 “왼쪽 면을 오른쪽으로 더 타이트하게 이동시켜 정확하게 할 것”과 같은 메시지를 작성할 수 있다.

이때, 위의 두 메시지 모두 특정 개체에 대한 바운딩의 왼쪽 면에 관한 것이다. 그러나 반려된 작업을 배정받은 작업자의 재작업 편의를 고려한다면, 재작업에 관하여 자세히 설명한 “왼쪽 면을 오른쪽으로 더 타이트하게 이동시켜 정화하게 할 것”의 반려 메시지가 더 바람직할 것이다. 즉, 반려 메시지의 분량이 많을수록 검수자의 검수 능력 평가 점수는 높게 산출될 수 있다.

따라서, 검수자의 반려 메시지의 분량으로서 반려 메시지에 포함되는 글자 수를 산출함으로써, 검수자의 검수 능력을 평가할 수 있다.

다시 도 3을 참조하면, S130 단계 이후 상기 크라우드소싱 플랫폼의 복수의 검수자 중 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출하고(S140), 상기 추출된 검수자에게 상기 프로젝트에 대한 검수 권한을 부여한다(S150).

구체적으로, S140 단계 및 S150 단계에 의하여, 후술하는 바와 같이, 해당 프로젝트에 포함되는 기능요소 각각에 대한 검수 경험이 있고, 해당 검수 수행 결과가 일정 기준을 만족하는, 즉 검수 능력이 검증된 검수자를 추출하여 해당 프로젝트에 대한 검수 권한을 부여한다.

예를 들어, S140 단계에서는 프로젝트에 포함되는 기능요소가 바운딩, 태깅, 전사 유형에 해당하는 경우, 바운딩, 태깅, 전사 기능요소 각각에 대한 검수 능력 평가 점수가 사전에 설정된 제1 값 이상인 검수자를 추출하고, S150 단계에서는 추출된 검수자에게 해당 프로젝트에 대한 검수 권한을 부여한다.

이와 같이, 해당 프로젝트에 적합한 검수자를 선별함으로써, 해당 프로젝트의 검수 품질 및 검수 속도를 높일 수 있는 효과를 가져올 수 있다.

한편, 프로젝트에 하나의 유형의 하나의 기능요소가 포함된 경우, 본 발명의 다른 실시예로 검수 권한을 제한하지 않을 수 있다. 이와 관련하여 아래에서 설명한다.

도 7은 하나의 유형의 하나의 기능요소가 포함된 프로젝트의 작업 화면에 관한 예시를 나타낸 도면이다.

본 발명의 다른 실시예로, 상기 프로젝트에 하나의 유형의 하나의 기능요소가 포함된 경우, 상기 S140 단계는, 상기 프로젝트에 포함되는 하나의 유형의 기능요소에 대한 상기 검수 능력 평가 점수에 상관없이 검수자를 추출할 수 있다.

하나의 유형의 하나의 기능요소가 포함된 프로젝트는 복수의 유형 또는 후술하는 하나의 유형의 복수의 기능요소가 포함된 프로젝트보다 상대적으로 프로젝트의 난이도가 낮기 때문에, 검수자의 검수 능력 평가 점수와 무관하게 검수자를 추출하여 검수 권한을 부여할 수 있다. 이로써 전술한 바와 같이 검수자는 각각의 기능요소에 대한 검수 경험을 쌓을 수 있다.

예를 들어, 도 7을 참조하면, 텍스트를 포함하는 이미지에서 특정 텍스트를 선택하는 작업을 수행하는 태깅(Tagging) 유형의 기능요소가 1개 포함된 프로젝트의 경우, 태깅 기능요소에 대한 검수 능력 평과 점수와 상관없이 검수자를 추출할 수 있다.

한편, 상술한 프로젝트에 하나의 유형의 하나의 기능요소가 포함되어, S140 단계에서 검수 능력 평가 점수에 상관없이 검수자를 추출한 경우, 상기 검수 권한을 부여하는 단계(S150)는, 상기 추출된 검수자 중, 상기 프로젝트에 포함되는 하나의 유형의 기능요소에 대한 상기 검수 능력 평가 점수가 0점인, 신규 검수자에게 우선하여 상기 프로젝트에 대한 검수권한을 부여하는 단계(미도시)를 더 포함할 수 있다.

이로써, 하나의 유형의 하나의 기능요소가 포함된 프로젝트는 신규 검수자의 해당 유형의 기능요소의 검수 수행과 관련한 교육 과정으로서 활용될 수 있는 것이다. 따라서, 검수 경험이 없는 신규 검수자가 쉬운 난이도의 프로젝트부터 체계적으로 검수 경험을 쌓을 수 있도록, 하나의 유형의 하나의 기능요소가 포함된 프로젝트에 대해서는, 이미 해당 유형의 기능요소에 대한 검수 경험이 있는 다른 검수자보다 우선하여 신규 검수자에게 검수 권한이 부여될 수 있다.

도 8은 하나의 유형의 하나의 기능요소가 포함된 프로젝트에 대한 검수 권한을 신규 검수자에게 우선하여 부여하는 방법의 예시를 나타내는 도면이다.

도 8을 참조하면, 태깅 유형의 하나의 기능요소가 포함된 프로젝트B의 검수자는 상기 태깅 유형의 기능요소에 대한 검수 능력 평가 점수와 상관없이 모든 검수자를 추출한다. 그러나 상기 추출된 검수자 중 태깅 유형의 기능요소에 대한 검수 능력 평가 점수가 0점인, 즉 전혀 경험이 없는 신규 검수자인 검수자 5에게 프로젝트B에 대한 검수 권한이 우선하여 부여된다. 예를 들어, 검수자가 1명만 필요할 경우, 검수자 5만이 검수 권한을 부여받을 수 있다.

반면에, 본 발명의 일 실시예로, 상기 프로젝트에 하나의 유형의 복수의 기능요소가 포함된 경우 또는 상기 프로젝트에 복수의 유형의 기능요소가 포함된 경우, 상기 검수자를 추출하는 단계(S140)는, 상기 프로젝트에 포함되는 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출할 수 있다.

도 9는 복수의 유형의 기능요소가 포함된 프로젝트에 대한 검수 권한을 특정 검수자에게 부여하는 방법의 예시를 나타내는 도면이다.

도 9를 참조하면, 소정의 제1 값이 60점이라고 가정하면, 1개의 바운딩 기능요소 및 1개의 태깅 기능요소가 포함된 프로젝트 A의 검수자는, 바운딩 및 태깅 기능요소 모두에 대하여 검수 능력 평가 점수가 소정의 제1 값인 60점 이상인 검수자 4를 추출하여 검수 권한을 부여하게 된다.

한편, 본 발명의 다른 실시예로, 추출된 검수자 중 복수의 유형의 기능요소가 모두 포함된 이전 프로젝트에 대한 검수 경험이 있는 검수자에게 검수 권한을 우선하여 부여할 수 있다.

예를 들어, 바운딩 기능요소 및 태깅 기능요소가 모두 포함된 프로젝트에 대해서는 바운딩 기능요소, 태깅 기능요소가 각각 들어간 프로젝트에 참여한 경험이 있는 검수자보다 바운딩 기능요소 및 태깅 기능요소가 모두 포함된 프로젝트에 참여한 경험이 있는 검수자에게 검수 권한이 우선하여 부여된다.

바운딩 기능요소 및 태깅 기능요소가 모두 포함된 프로젝트는 상기 기능요소가 각각 들어간 프로젝트와 검수 수행 방법과 검수 수행 난이도가 상이하기 때문에, 상기 기능요소가 모두 들어간 프로젝트에 대한 경험이 있는, 더욱 적절한 검수자에게 우선하여 프로젝트의 검수 권한을 부여하는 것이다.

한편 본 발명의 일 실시예로, 상기 프로젝트에 복수의 유형의 기능요소가 포함된 경우, 상기 기능요소의 유형 및 유형별 개수를 판단하는 단계 이후, 상기 프로젝트에 포함되는 복수의 유형의 기능요소 중 메인 기능요소를 결정하는 단계(미도시)를 더 포함하고, 상기 검수자를 추출하는 단계(S140)는, 상기 크라우드소싱 플랫폼의 복수의 검수자 중 상기 프로젝트에 포함되는 상기 메인 기능요소를 제외한 나머지 기능요소에 대한 상기 검수자의 검수 능력 평가 점수가 상기 제1 값 이상이고, 상기 메인 기능요소에 대한 상기 검수자의 검수 능력 평가 점수가 상기 제1 값보다 큰 소정의 제2 값 이상인 검수자를 추출할 수 있다.

프로젝트의 난이도와 관련하여, 복수의 유형의 기능요소를 포함하는 프로젝트의 검수 난이도 및 검수 수행 방법은 해당 프로젝트에 포함되는 특정 유형의 기능요소의 개수에 따라서 상이할 수 있다.

즉, 바운딩, 전사, 태깅의 기능요소를 모두 포함하는 프로젝트 간에도, 10개의 바운딩 기능요소, 1개의 전사 기능요소 및 1개의 태깅 기능요소를 포함하는 프로젝트와 1개의 바운딩 기능요소, 10개의 전사 기능요소 및 1개의 태깅 기능요소를 포함하는 프로젝트의 검수 난이도와 검수 수행 방법은 상이하다.

이때, 10개의 바운딩 기능요소가 포함된 프로젝트의 경우에는 각각 1개씩 포함되는 전사 기능요소 및 태깅 기능요소보다 바운딩 기능요소에 대한 검수 능력이 우수한 검수자가 참여하는 것이 바람직하다. 반면에, 10개의 전사 기능요소가 포함된 프로젝트의 경우에는, 각각 1개씩 포함되는 바운딩 기능요소 및 태깅 기능요소보다 전사 기능요소에 대한 검수 능력이 우수한 검수자가 참여하는 것이 바람직할 것이다.

따라서, 전술한 본 발명의 일 실시예는 프로젝트에 복수의 유형의 기능요소가 포함된 경우, 복수의 유형의 기능요소 중 메인이 되는 기능요소를 결정하고, 해당 기능요소에 대해서는 더욱 엄밀하게 검수자의 검수 능력을 평가하여, 해당 프로젝트에 보다 적절한 검수자에게 검수 권한을 부여하는 것이다.

이때, 메인 기능요소에 대한 검수자의 검수 능력은 나머지 기능요소에 대한 검수자의 검수 능력 평가의 기준이 되는 제1 값 보다 큰 소정의 제2 값을 기준으로 평가된다.

예를 들어, 검수 능력 평가의 기준이 되는 제1 값이 60점, 제2 값이 이보다 큰 70점이라고 가정하면, 전술한 10개의 바운딩 기능요소, 1개의 전사 기능요소 및 1개의 태깅 기능요소를 포함하는 프로젝트(메인 기능요소는 바운딩 기능요소라고 가정)에 대한 검수 권한을 얻기 위해서, 검수자는 60점(제1 값) 이상의 전사 기능요소 및 태깅 기능요소의 검수 능력 평가 점수와 70점(제2 값) 이상의 바운딩 기능요소의 검수 능력 평가 점수를 가지고 있어야할 것이다.

한편, 복수의 유형의 기능요소 중 메인이 되는 기능요소를 결정하는 방법은 다음과 같을 수 있다.

도 10은 프로젝트에 복수의 유형의 기능요소가 포함된 경우 메인 기능요소를 결정하는 것을 설명하기 위한 도면이다.

본 발명의 일 실시예로, 상기 메인 기능요소를 결정하는 단계(미도시)는, 상기 프로젝트에 포함되는 기능요소 중 유형별 개수가 가장 많은 기능요소를 상기 메인 기능요소로 결정할 수 있다.

도 10을 참조하면, 3개의 바운딩 기능요소 및 2개의 전사 기능요소를 포함하는 프로젝트의 메인 기능요소는 유형별 개수가 가장 많은 바운딩 기능요소로 결정된다.

또한, 상기 메인 기능요소를 결정하는 단계는, 상기 프로젝트의 검수 수행 화면에서 가장 상단에 위치하는 기능요소를 상기 메인 기능요소로 결정할 수 있다. 복수의 기능요소가 포함된 프로젝트의 경우, 순차적으로 연계된 작업이기 때문에, 가장 상단에 위치하는 기능요소와 관련하여 잘못 검수하게 되면 이어지는 기능요소와 관련해서도 연속해서 잘못된 검수 결과가 발생할 수 있기 때문이다.

다시 도 5를 참조하면, 해당 프로젝트의 작업 수행 화면의 가장 상단에 위치하는 기능요소는 바운딩 기능요소이다. 이때, 작업자의 작업 수행 결과를 기초로 검수를 수행하는 검수자의 검수 수행 화면 상단에 위치하는 기능요소도 상기 작업자가 가장 먼저 수행한, 즉 작업 화면의 상단에 위치한 바운딩 기능요소이다. 따라서, 이 경우 해당 프로젝트의 메인 기능요소는 바운딩 기능요소로 결정될 것이다.

다시 도 3을 참조하면, S150 단계 이후, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하고(S160), 상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는다(S170). 그리고 상기 복수의 작업 결과를 상기 추출된 검수자에게 배정하여 검수 수행을 요청한(S180) 후 상기 추출된 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는다(S190).

도 11은 본 발명의 일 실시예에 따른, 프로젝트에 참여한 검수자의 검수 권한을 박탈하는 방법을 개략적으로 나타내는 순서도이다.

도 11을 참조하면, 본 발명의 일 실시예로, 크라우드소싱 기반 프로젝트의 기능요소에 따른 권한 부여 방법은 상기 추출된 검수자의 상기 복수의 검수 결과에 기초하여, 상기 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 기능요소의 유형별로 검수 능력 평가 점수를 재산출하여 갱신하는 단계(S200) 및 상기 추출된 검수자의 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 중 적어도 하나에 대한 상기 검수 능력 평가 점수가 상기 제1 값 미만이 되면, 상기 프로젝트에 대한 검수 권한을 박탈하는 단계(S210)를 더 포함할 수 있다.

구체적으로, 프로젝트가 오픈되기 전, 해당 프로젝트에 대한 검수 권한이 부여된 검수자가 해당 프로젝트에 참여한 후 검수 수행을 성실하게 수행하지 않음에도 불구하고 계속적으로 검수 권한을 유지시킨다면, 이는 프로젝트에 적합한 검수 능력을 갖춘 우수한 검수자를 선별하고자 하는 본 발명의 목적을 오히려 희석시키는 결과를 초래하게 된다.

따라서, 이를 방지하기 위하여, 검수 권한이 부여된 프로젝트에 참여한 검수자의 검수 결과를 기초로, 해당 프로젝트에 포함된 각각의 기능요소에 대한 검수자의 검수 능력을 재평가하여, 상기 검수자에 부여된 검수 권한을 유지할 것인지 또는 박탈할 것인지를 결정한다. 이때, 재산출하여 갱신된 검수자의 검수 능력 평가 점수가 어느 하나의 기능요소에 대해서라도 제1 값 미만이 되면, 상기 프로젝트에 대한 검수 권한을 박탈한다.

한편, 복수의 유형의 기능요소가 포함되고 이 중 메인 기능요소가 결정된 프로젝트의 경우에는, 검수 결과에 기초하여 재산출하여 갱신된 메인 기능요소에 대한 검수자의 검수 능력 평가 점수가 제1 값 보다 큰 소정의 제2 값 미만이 되거나, 메인 기능요소를 제외한 나머지 기능요소에 대한 검수자의 검수 능력 평가 점수가 상기 제1 값 미만이면, 해당 프로젝트에 대한 검수 권한은 박탈된다.

본 발명의 일 실시예로, 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법은, 상기 하나 이상의 기능요소를 추출하는 단계 이후, 상기 프로젝트에 포함되는 하나 이상의 기능요소 각각의 평균 작업 시간을 합산하여 상기 프로젝트의 난이도를 결정하는 단계(미도시)를 더 포함하고, 상기 검수 결과를 입력 받는 단계 이후, 상기 추출된 검수자가 상기 프로젝트의 소정의 개수 이상의 작업 결과를 검수 수행하고, 상기 추출된 검수자의 상기 프로젝트에 포함되는 상기 하나 이상의 기능요소 모두에 대한 상기 검수 능력 평가 점수가 상기 제1 값 이상을 유지하면, 상기 추출된 검수자에게 상기 프로젝트와 동일한 유형의 기능요소만을 포함하고 상기 프로젝트의 난이도의 소정 배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여하는 단계(미도시)를 더 포함할 수 있다.

구체적으로, 크라우드소싱 기반 프로젝트에 포함되는 하나 이상의 기능요소 각각에 대한 작업자의 평균 작업 시간을 추출하고, 이를 합산하여 해당 프로젝트의 전체 작업 시간을 산출한다. 그리고 산출된 결과에 기초하여 해당 프로젝트의 난이도를 결정한다.

일반적으로, 프로젝트에 참여한 작업자의 작업 수행 시간과 검수자의 검수 수행 시간은 비례하기 때문에, 작업자의 기능요소에 대한 작업 수행 시간을 기초로, 해당 프로젝트의 난이도를 결정할 수 있다.

이때, 프로젝트의 난이도는 전체 작업 시간에 기초하여, 일정한 등급으로 분류되어 결정될 수 있다. 그러나 이에 한정하는 것은 아니다.

한편, 결정된 난이도의 프로젝트에 참여한 검수자의 검수 능력 평가 점수가 제1 값 이상을 유지한다면, 해당 검수자에게는 소정 배수 이내, 즉 더 높은 난이도를 갖는 다른 프로젝트에 대하여도 검수 권한을 부여한다.

예를 들어, 바운딩 기능요소에 대한 작업자의 평균 작업 시간이 3sec이고, 전사 기능요소에 대한 작업자의 평균 작업 시간이 2sec이고 상술한 소정 배수가 1.2배라고 가정하면, 2개의 바운딩 기능요소 및 3개의 전사 기능요소가 포함된 프로젝트의 전체 작업 시간은 12sec이다.

이때, 해당 프로젝트의 검수 권한을 얻은 검수자가 소정의 개수 이상의 작업 결과를 검수 수행하고, 바운딩 및 전사 기능요소 모두에 대한 검수 능력 평가 점수가 제1 값 이상을 유지하면, 상기 검수자에게는 해당 프로젝트와 동일한 기능요소인, 바운딩 및 전사 기능요소를 모두 포함하고, 해당 프로젝트의 난이도의 1.5배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여한다. 즉, 전체 작업 시간이 14.4sec 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여한다.

이를 통해, 프로젝트에 포함되는 각각의 기능요소에 대한 검수자의 검수 능력을 평가할 뿐만 아니라, 프로젝트의 난이도의 측면에서 검수자의 검수 능력을 평가함으로써, 프로젝트에 적합한 검수자를 더욱 엄선하여 선별할 수 있다.

한편, 더 높은 난이도를 갖는 다른 프로젝트에 대한 검수 권한이 검수자에게 부여되어 다른 프로젝트에 참여한 경우에도, 상기 검수자의 검수 능력 평가 점수가 어느 하나의 기능요소에 대해서라도 제1 값 미만으로 떨어지면, 검수 권한이 부여된 더 높은 난이도를 갖는 다른 프로젝트는 물론 기존의 프로젝트에도 상기 검수자는 참여할 수 없다. 전술한 바와 같이, 검수자의 검수 권한이 박탈되고, 검수자가 다시 복수의 기능요소를 포함하는 프로젝트에 대한 검수 권한을 얻기 위하여는, 하나의 유형의 하나의 기능요소가 포함된 프로젝트에 참여하면서 제1 값 미만이 된 기능요소의 능력 평가 점수를 다시 제1 값 이상으로 상승시켜야 한다.

상술한, 프로젝트의 난이도에 따른, 검수자의 검수 권한을 부여하는 방법에 대하여 다음에서 구체적으로 설명한다.

도 12은 본 발명의 일 실시예에 따른, 하나의 유형의 기능요소를 포함한 프로젝트의 검수 권한을 가장 낮은 난이도의 프로젝트부터 단계적으로 부여하는 것을 설명하기 위한 개념도이다.

도 13은 본 발명의 일 실시예에 따른, 복수의 유형의 기능요소를 포함한 프로젝트의 검수 권한을 가장 낮은 난이도의 프로젝트부터 단계적으로 부여하는 것을 설명하기 위한 개념도이다.

본 발명의 일 실시예로, 상기 소정 배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여하는 단계는, 상기 프로젝트와 동일한 유형의 기능요소를 포함한 가장 낮은 난이도의 프로젝트에 대한 검수 권한부터 단계적으로 부여할 수 있다.

도 12을 참조하면, 하나의 유형인 바운딩 기능요소를 포함하는 프로젝트의 경우, 검수자에게는 가장 난이도가 낮은 1개의 바운딩 기능요소를 포함하는 프로젝트 검수 권한부터 부여한다. 이때, 상기 검수자가 해당 프로젝트에 참여한 후, 소정의 개수 이상의 작업 결과를 검수 수행하고, 바운딩 기능요소에 대한 검수 능력 평가 점수를 제1 값 이상 유지한다면, 다음 단계인 2개의 바운딩 기능요소를 포함하는 프로젝트에 대한 검수 권한을 얻을 수 있을 것이다.

도 13을 참조하면, 복수의 유형의 기능요소가 포함된 프로젝트의 경우, 복수의 유형을 모두 포함한 프로젝트 중에서, 전체 작업 시간이 가장 낮은 프로젝트부터 단계적으로 검수 권한이 부여된다.

바운딩 기능요소의 작업시간이 3sec, 전사 기능요소의 작업시간이 2sec, 태깅 기능요소의 작업시간이 1.5sec일 때, 바운딩, 전사, 태깅 기능요소를 모두 포함하는 프로젝트 중 난이도가 가장 낮은 프로젝트는 각각의 기능요소를 1개씩 포함하는 프로젝트이다.

검수자가 바운딩, 전사, 태깅 기능요소를 1개씩 포함하는 프로젝트에 참여한 후, 소정의 개수 이상의 작업 결과를 검수 수행하고, 바운딩, 전사, 태깅 기능요소 모두에 대한 검수 능력 평가 점수를 제1 값 이상 유지한다면, 상기 검수자는 다음 난이도를 갖는 1개의 바운딩 기능요소, 1개의 전사 기능요소 그리고 2개의 태깅 기능요소를 포함하는 프로젝트에 대한 검수 권한을 단계적으로 얻게 될 것이다.

이와 같이, 낮은 난이도의 프로젝트에 대한 검수 권한부터 검수 권한을 단계적으로 부여함으로써, 검수자는 체계적으로 검수 능력을 향상시킬 수 있는 기회를 갖게 된다.

한편, 상술한 설명에서, 단계 S110 내지 S210은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 14의 내용은 도 1 내지 도 13의 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법에도 적용될 수 있다.

이하, 도 14를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 장치에 대하여 설명하도록 한다.

도 14는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 장치를 설명하기 위한 도면이다.

도 14를 참조하면, 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 장치(200)(이하, 장치)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.

통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 통신모듈(210)은 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다. 이때 통신모듈(210)은 반려된 검수 결과에 대하여는 상응하는 재작업을 작업자(32)에게 송신하여 재작업 수행을 요청하고, 상기 작업자(32)로부터 재작업 결과를 수신한다.

메모리(220)에는 통신모듈(210)로부터 수신한 데이터에 기초하여 프로젝트의 기능요소에 대한 검수자의 검수 능력 평가 점수를 산출하는 프로그램이 저장된다.

프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 도 3 내지 도 13을 참조하여 설명한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법을 수행할 수 있다.

도 14를 참조하여 설명한 장치(200)는 전술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 컴퓨터 판독가능 기록 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자

Claims (12)

1. 컴퓨터에 의해 수행되는 방법으로서,
   크라우드소싱 기반 프로젝트(이하, "프로젝트")에 포함되는 하나 이상의 기능요소를 추출하는 단계;
   상기 프로젝트에 포함되는 하나 이상의 기능요소의 유형 및 유형별 개수를 판단하는 단계;
   크라우드소싱 플랫폼의 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 기능요소의 유형별로 검수 능력 평가 점수를 산출하는 단계;
   상기 크라우드소싱 플랫폼의 복수의 검수자 중 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출하는 단계;
   상기 추출된 검수자에게 상기 프로젝트에 대한 검수 권한을 부여하는 단계;
   상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계;
   상기 복수의 작업자로부터 복수의 작업 결과를 입력 받는 단계;
   상기 복수의 작업 결과를 상기 추출된 검수자에게 배정하여 검수 수행을 요청하는 단계; 및
   상기 추출된 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는 단계를 포함하고,
   상기 하나 이상의 기능요소를 추출하는 단계 이후,
   상기 프로젝트에 포함되는 하나 이상의 기능요소 각각의 평균 작업 시간을 합산하여 상기 프로젝트의 난이도를 결정하는 단계를 더 포함하고,
   상기 검수 결과를 입력 받는 단계 이후,
   상기 추출된 검수자가 상기 프로젝트의 소정의 개수 이상의 작업 결과를 검수 수행하고, 상기 추출된 검수자의 상기 프로젝트에 포함되는 상기 하나 이상의 기능요소 모두에 대한 상기 검수 능력 평가 점수가 상기 제1 값 이상을 유지하면, 상기 추출된 검수자에게 상기 프로젝트와 동일한 유형의 기능요소만을 포함하고 상기 프로젝트의 난이도의 소정 배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여하는 단계를 더 포함하고,
   상기 프로젝트에 하나의 유형의 하나의 기능요소가 포함된 경우,
   상기 검수자를 추출하는 단계는,
   상기 프로젝트에 포함되는 하나의 유형의 기능요소에 대한 상기 검수 능력 평가 점수에 상관없이 검수자를 추출하고,
   상기 검수 권한을 부여하는 단계는,
   상기 추출된 검수자 중, 상기 프로젝트에 포함되는 하나의 유형의 기능요소에 대한 상기 검수 능력 평가 점수가 0점인, 신규 검수자에게 우선하여 상기 프로젝트에 대한 검수권한을 부여하고,
   상기 프로젝트에 하나의 유형의 복수의 기능요소가 포함된 경우 또는 상기 프로젝트에 복수의 유형의 기능요소가 포함된 경우,
   상기 검수자를 추출하는 단계는,
   상기 프로젝트에 포함되는 하나 이상의 유형의 기능요소 모두에 대해서 상기 검수 능력 평가 점수가 소정의 제1 값 이상인 검수자를 추출하고,
   상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴인,
   크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
2. 삭제
3. 삭제
4. 삭제
5. 제1항에 있어서,
   상기 프로젝트에 복수의 유형의 기능요소가 포함된 경우,
   상기 기능요소의 유형 및 유형별 개수를 판단하는 단계 이후,
   상기 프로젝트에 포함되는 복수의 유형의 기능요소 중 메인 기능요소를 결정하는 단계를 더 포함하고,
   상기 검수자를 추출하는 단계는,
   상기 크라우드소싱 플랫폼의 복수의 검수자 중 상기 프로젝트에 포함되는 상기 메인 기능요소를 제외한 나머지 기능요소에 대한 상기 검수자의 검수 능력 평가 점수가 상기 제1값 이상이고, 상기 메인 기능요소에 대한 상기 검수자의 검수 능력 평가 점수가 상기 제1 값보다 큰 소정의 제2 값 이상인 검수자를 추출하는,
   크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
6. 제5항에 있어서,
   상기 메인 기능요소를 결정하는 단계는,
   상기 프로젝트에 포함되는 기능요소 중 유형별 개수가 가장 많은 기능요소를 상기 메인 기능요소로 결정하는 것인,
   크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
7. 제5항에 있어서,
   상기 메인 기능요소를 결정하는 단계는,
   상기 프로젝트의 검수 수행 화면에서 가장 상단에 위치하는 기능요소를 상기 메인 기능요소로 결정하는 것인,
   크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
8. 제1항에 있어서,
   상기 추출된 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 입력 받는 단계 이후,
   상기 추출된 검수자의 상기 복수의 검수 결과에 기초하여, 상기 복수의 검수자의 검수 능력을 각각의 기능요소의 유형별로 누적 평가하여 각각의 기능요소의 유형별로 검수 능력 평가 점수를 재산출하여 갱신하는 단계; 및
   상기 추출된 검수자의 상기 프로젝트에 포함되는 상기 하나 이상의 유형의 기능요소 중 적어도 하나에 대한 상기 검수 능력 평가 점수가 상기 제1 값 미만이 되면, 상기 프로젝트에 대한 검수 권한을 박탈하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
9. 제1항에 있어서,
   상기 검수자의 누적 검수 능력 평가 점수는,
   상기 검수자의 단위 기간의 평균 검수 수량, 누적 반려 횟수, 평균 재검수 소요 시간, 반려 메세지의 분량 중 적어도 하나에 기초하여 산출되는 것인,
   크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
10. 삭제
11. 제1항에 있어서,
    상기 소정 배수 이내의 난이도를 갖는 다른 프로젝트에 대한 검수 권한을 부여하는 단계는,
    상기 프로젝트와 동일한 유형의 기능요소를 포함한 가장 낮은 난이도의 프로젝트에 대한 검수 권한부터 단계적으로 부여하는 것인,
    크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법.
12. 컴퓨터와 결합되어, 제1항, 제5항 내지 제9항 및 제11항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
    
    

Images