KR102155749B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법이 제공된다. 상기 방법은 오픈예정 프로젝트의 작업에 적용된 복수의 기능 툴을 파악하는 단계, 각각의 기능 툴이 사용된 이전 프로젝트 이력 정보를 추출하는 단계, 상기 이전 프로젝트 이력 정보를 기반으로 각각의 기능 툴당 작업 시간을 산출하는 단계, 각각의 기능 툴당 작업 시간을 합하여 상기 오픈예정 프로젝트의 기준 작업 시간을 설정하는 단계, m명의 작업자를 선별하여 각 작업자에게 n건의 파일럿용 작업을 각각 할당하는 단계(m과 n은 자연수), 각 작업자별로 n건의 파일럿용 작업에 대한 각각의 작업 시간을 측정하는 단계, 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기반으로 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계, m개의 각 작업자별 파일럿 작업 시간을 기반으로 상기 오픈예정 프로젝트의 예상 작업 시간을 산출하는 단계 및 상기 예상 작업 시간을 기반으로 상기 오픈예정 프로젝트의 적정 단가를 결정하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법{METHOD FOR DECIDING PROPER UNIT PRICE AND PROPER AMOUNT OF WORK USING REFERENCE WORK TIME OF CROWDSOURCING BASED PROJECT FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

기업은 프로젝트의 원활한 진행을 위해, 즉 정해진 기간 내에 정해진 양의 데이터를 수집하기 위해, 프로젝트를 오픈하기 전에 해당 프로젝트에 적절한 단가를 결정해야 한다. 그러나, 시간이 지날수록 점점 더 다양한 유형의 프로젝트들이 생김에 따라 프로젝트의 단가를 측정하는 데 있어 명확한 기준을 잡기가 어려운 실정이다.

현재, 프로젝트의 단가를 결정하기 위해 기업은 이전 프로젝트의 히스토리를 기반으로 하거나 파일럿을 진행한다. 그러나, 이전 프로젝트의 히스토리를 기반으로 하는 방법은 프로젝트의 현재 상황을 반영하지 못한다는 문제가 있고, 파일럿을 이용하는 방법은 파일럿에 선정되는 작업자의 수준에 따라 단가가 결정되기 때문에 정확도가 떨어진다는 문제가 있다.

또한, 프로젝트 오픈 전에 결정된 단가는 특별한 문제가 발생하지 않는다면 프로젝트가 종료될때까지 고정되기 때문에, 프로젝트의 진행 상황을 반영하지 못한다는 문제가 있다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법은, 오픈예정 프로젝트의 작업에 적용된 복수의 기능 툴을 파악하는 단계, 각각의 기능 툴이 사용된 이전 프로젝트 이력 정보를 추출하는 단계, 상기 이전 프로젝트 이력 정보를 기반으로 각각의 기능 툴당 작업 시간을 산출하는 단계, 각각의 기능 툴당 작업 시간을 합하여 상기 오픈예정 프로젝트의 기준 작업 시간을 설정하는 단계, m명의 작업자를 선별하여 각 작업자에게 n건의 파일럿용 작업을 각각 할당하는 단계(m과 n은 자연수), 각 작업자별로 n건의 파일럿용 작업에 대한 각각의 작업 시간을 측정하는 단계, 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기반으로 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계, m개의 각 작업자별 파일럿 작업 시간을 기반으로 상기 오픈예정 프로젝트의 예상 작업 시간을 산출하는 단계 및 상기 예상 작업 시간을 기반으로 상기 오픈예정 프로젝트의 적정 단가를 결정하는 단계를 포함한다.

본 발명의 일부 실시예에서, 상기 이전 프로젝트 이력 정보는, 이전 프로젝트에서 해당 기능 툴이 사용된 총 작업 시간, 총 작업 수, 평균 작업 시간, 반려 횟수, 반려된 작업의 작업 시간 및 반려 횟수를 고려한 작업 시간 중 적어도 하나를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 m명의 작업자를 선별하여 각 작업자에게 n건의 파일럿용 작업을 각각 할당하는 단계는, 작업자의 숙련도에 기반하여 상기 m명의 작업자를 소정의 비율로 나누어서 선별하는 단계 및 상기 m명의 작업자에게 상기 n건의 파일럿용 작업을 할당하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 n건의 파일럿용 작업은, 상기 오픈예정 프로젝트의 작업 중에서 랜덤하게 추출될 수 있다.

본 발명의 일부 실시예에서, 상기 소정의 비율, 상기 m 및 상기 n은 상기 오픈예정 프로젝트의 난이도에 따라 결정될 수 있다.

본 발명의 일부 실시예에서, 상기 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계는, 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간과 상기 기준 작업 시간 간의 편차를 통해서 각 작업자별 n개의 비교 작업 시간을 산출하는 단계, 각 작업자별로 산출된 n개의 비교 작업 시간의 평균값을 산출하는 단계 및 각 작업자별로 산출된 평균값을 상기 기준 작업 시간과 합하여 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트의 예상 작업 시간을 산출하는 단계는, 상기 m개의 각 작업자별 파일럿 작업 시간의 평균값을 상기 예상 작업 시간으로 산출하는 것일 수 있다.

본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트의 적정 단가를 결정하는 단계는, 상기 예상 작업 시간을 이용하여 상기 오픈예정 프로젝트의 시간당 수행 가능한 작업 개수를 산출하는 단계 및 시간당 기준 임금을 상기 시간당 수행 가능한 작업 개수로 나눈 값을 이용하여 상기 적정 단가를 결정하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기반으로 상기 오픈예정 프로젝트의 적정 작업량을 결정하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트의 적정 작업량을 결정하는 단계는, 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간이 상기 기준 작업 시간보다 작아지는 시점을 기반으로 능숙 시점을 결정하는 단계 및 상기 능숙 시점을 기반으로 상기 오픈예정 프로젝트의 적정 작업량을 결정하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트의 적정 작업량은 상기 오픈예정 프로젝트에 참여하는 작업자 1인당 최대 작업량일 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 이전 프로젝트의 이력 정보를 기준으로 현재 작업자들의 작업 능력을 반영하는 예상 작업 시간을 산출함으로써, 이전 프로젝트의 이력과 오픈예정 프로젝트의 현재 상황을 모두 고려한 적정 단가를 산출해낼 수 있다.

이에 따라, 정확도 높은 적정 단가를 오픈예정 프로젝트에 적용함으로써, 효율적인 비용 관리가 가능하다.

파일럿을 통해 산출된 능숙 시점을 기반으로 오픈예정 프로젝트의 적정 작업량을 결정하여 오픈예정 프로젝트에 참여하는 작업자의 1인 최대 작업량으로 제한함으로써, 불량 작업물의 발생률을 감소시키고 비용을 절감할 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 결정 방법의 순서도이다.
도 4는 본 발명의 일 실시예에 따른 복수의 기능 툴을 적용하는 프로젝트의 작업을 설명하기 위한 예시도이다.
도 5는 본 발명의 일 실시예에 따른 오픈 예정 프로젝트에 적용되는 각각의 기능 툴이 사용된 이전 프로젝트를 추출하는 것을 설명하기 위한 예시도이다.
도 6 내지 도 8은 본 발명의 일 실시예에 따른 각각의 기능 툴당 작업 시간을 계산하는 것을 설명하기 위한 예시도이다.
도 9는 본 발명의 일 실시예에 따른 작업자별 파일럿 작업 시간을 산출하는 것을 설명하기 위한 예시도이다.
도 10 및 도 11은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 작업량 결정 방법의 순서도이다.
도 12는 본 발명의 일 실시예에 따른 작업자별 능숙 시점을 결정하는 것을 설명하기 위한 예시도이다.
도 13은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용하여 적정 단가 및 적정 작업량을 결정하는 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 제대로 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

도 2에서는 도시하지 않았지만, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트 의뢰를 받으면, 프로젝트 오픈 전에 해당 프로젝트의 단가를 결정한다. 서비스 제공 업체(20)는 프로젝트의 단가를 결정하기 위해, 이전 프로젝트 이력을 이용하거나, 파일럿을 진행한다. 그러나, 이전 프로젝트 이력을 이용하는 방법은 현재 프로젝트의 상황을 반영하지 못한다는 문제가 있고, 파일럿을 이용하는 방법은 결정된 단가의 정확도가 떨어진다는 문제가 있다.

이하에서는 도 3 내지 도 9를 참조하여 본 발명의 실시예에 따른 이전 프로젝트 이력을 통해 산출된 기준 작업 시간과 파일럿을 통해 산출된 작업에 대한 작업자별 작업 시간을 모두 이용하여 오픈예정 프로젝트의 적정 단가를 결정하는 것에 대해 설명하도록 한다.

도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 결정 방법의 순서도이다. 도 4는 본 발명의 일 실시예에 따른 복수의 기능 툴을 적용하는 프로젝트의 작업을 설명하기 위한 예시도이다. 도 5는 본 발명의 일 실시예에 따른 오픈 예정 프로젝트에 적용되는 각각의 기능 툴이 사용된 이전 프로젝트를 추출하는 것을 설명하기 위한 예시도이다. 도 6 내지 도 8은 본 발명의 일 실시예에 따른 각각의 기능 툴당 작업 시간을 계산하는 것을 설명하기 위한 예시도이다. 도 9는 본 발명의 일 실시예에 따른 작업자별 파일럿 작업 시간을 산출하는 것을 설명하기 위한 예시도이다.

한편, 도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

또한, 복수의 작업자(32)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.

설명의 편의를 위하여 도 2와 중복되는 일부 단계들은 도 3에 도시하지 않았다.

먼저 도 3을 참조하면, 서버는 오픈예정 프로젝트의 작업에 적용된 복수의 기능 툴을 파악한다(S110).

즉, 서버는 오픈예정인 프로젝트의 작업을 수행하기 위해 사용되는 기능 툴이 무엇인지 파악하여야 한다.

일 실시예에 따라, 프로젝트의 작업은 복수의 기능작업을 통해 완성될 수 있다. 즉, 프로젝트에 참여하는 작업자들은 복수의 단계를 수행함으로써 하나의 작업을 완성할 수 있다. 도 4를 참조하면, 해당 프로젝트의 작업을 수행하기 위해서 작업자(32)는 1단계, 2단계 및 3단계를 수행하여야 한다.

구체적으로, 작업자(32)는 특정 이미지(프로젝트의 작업을 수행하기 위해 프로젝트를 기획한 기업, 또는 크라우드소싱 서비스를 제공하는 서비스 업체로부터 제공되는 이미지)에서 특정 객체를 선택하여 1단계, 즉, 바운딩(bounding) 작업을 수행할 수 있다. 이때, 작업자(32)는 바운딩(bounding) 작업을 수행하기 위해서 바운딩 박스 툴(Bounding Box Tool)을 사용할 수 있다.

이후, 작업자(32)는 선택된 특정 객체의 이름을 입력하여 2단계, 즉, 전사 작업을 수행할 수 있다. 이때, 작업자(32)는 전사 작업을 수행하기 위해서 인풋 박스 툴(Input Box Tool)을 사용할 수 있다.

이후, 작업자(32)는 이름이 부여된 특정 객체의 종류를 분류하기 위해, 전사 작업에서 입력된 단어를 포괄하는 상위 개념을 선택하여 3단계, 즉, 속성 분류 작업을 수행할 수 있다. 이때, 작업자(32)는 속성 분류 작업을 수행하기 위해서 메이크 스텝 툴(Make Step Tool)을 사용할 수 있다.

다시 도 3을 참조하면, 서버는 각각의 기능 툴이 사용된 이전 프로젝트 이력 정보를 추출한다(S120).

예를 들어, 오픈예정인 프로젝트에 기능 툴 1, 기능 툴 2 및 기능 툴 3이 적용되는 것으로 판단된 경우, 서버는 이전에 수행되었던 프로젝트들 중에서 기능 툴 1, 기능 툴 2, 또는 기능 툴 3이 사용되었던 프로젝트들을 추출한다. 이후, 각 기능 툴 별로 사용되었던 이전 프로젝트들의 이력 정보를 추출하게 된다.

도 5를 참조하면, 오픈예정인 프로젝트에 기능 툴 1, 기능 툴 2 및 기능 툴 3이 적용되는 경우, 이전에 수행되었던 프로젝트들 중에서 기능 툴 1, 기능 툴 2, 또는 기능 툴 3이 적용되었던 프로젝트들을 추출할 수 있다. 구체적으로, 이전 프로젝트 A가 기능 툴 1, 기능 툴 2 및 기능 툴 3을 적용하였고, 이전 프로젝트 B가 기능 툴 2, 기능 툴 3 및 기능 툴 4를 적용하였고, 이전 프로젝트 C가 기능 툴 1, 기능 툴 2 및 기능 툴 4를 적용하였고, 이전 프로젝트 D가 기능 툴 1, 기능 툴 3 및 기능 툴 4를 적용하였다.

이에 따라, 오픈예정 프로젝트에 적용되는 기능 툴 1에 대해서, 이전 프로젝트 A, 이전 프로젝트 C, 이전 프로젝트 D의 이력 정보가 추출되고, 기능 툴 2에 대해서, 이전 프로젝트 A, 이전 프로젝트 B, 이전 프로젝트 C의 이력 정보가 추출되고, 기능 툴 3에 대해서, 이전 프로젝트 A, 이전 프로젝트 B, 이전 프로젝트 D의 이력 정보가 추출되게 된다.

다시 도 3을 참조하면, 서버는 이전 프로젝트 이력 정보를 기반으로 각각의 기능 툴당 작업 시간을 산출한다(S130). 여기서, 이전 프로젝트 이력 정보는 이전 프로젝트에서 해당 기능 툴이 사용된 총 작업 시간, 총 작업 수, 평균 작업 시간, 반려 횟수, 반려된 작업의 작업 시간 및 반려 횟수를 고려한 작업 시간 중 적어도 하나를 포함할 수 있으며, 이러한 이전 프로젝트 이력 정보를 이용하여 각 기능 툴 별로 작업 시간을 계산할 수 있다.

구체적으로, 기능 툴의 작업 시간은 이전 프로젝트가 오픈되고 종료될 때까지 복수의 사용자에 의해 해당 툴이 사용되었던 누적 시간 정보, 이전 프로젝트가 오픈되고 종료될 때까지 완성된 작업 결과물의 수, 이에 따른 평균 작업 시간, 작업 중 반려되었던 작업물의 수, 반려된 작업물에 대한 재작업 시간, 재작업 시간을 고려한 작업 시간을 기반으로 생성되는 것이다.

이때, 총 작업시간은 이전 프로젝트에서 특정 기능 툴의 사용 시작 시간(start time)과 사용 종료 시간(end time)이 기록되어 생성되는 것으로서, 이전 프로젝트에 참여한 복수의 작업자들이 해당 툴을 사용한 시간을 합한 총 시간을 의미할 수 있다.

또한, 총 작업 수는 복수의 작업자들에 의해 제공된 최종 작업 결과물을 의미할 수 있다.

또한, 반려 횟수는 프로젝트 진행 중 작업자(32)에 의해 제출된 작업물이 검수자(34)에 의해 반려된 횟수를 의미하며, 작업자(32)는 반려된 작업을 재작업하여 다시 제출하게 된다. 이때, 반려된 작업물은 총 작업 수에 포함되지 않으며, 한 작업물이 여러번 반려된 경우에 총 작업 수에는 하나의 작업으로 포함되게 된다.

평균 작업 시간(sec)은 총 작업 시간(sec)을 총 작업 수로 나눈 값을 의미하며, 반려된 작업의 작업 시간(sec)은 반려 횟수와 평균 작업 시간(sec)을 곱한 값을 의미하며, 반려 횟수를 고려한 작업 시간(sec)은 총 작업 시간(sec)과 반려된 작업의 작업 시간(sec)을 합한 값을 의미한다.

이에 따라, 기능 툴당 작업 시간(sec)은 반려 횟수를 고려한 작업 시간(sec)을 총 작업수로 나눔으로써 산출될 수 있다. 즉, 특정 기능 툴이 사용된 이전 프로젝트가 복수개인 경우, 특정 기능 툴의 작업시간은 각각의 이전 프로젝트의 반려 횟수를 고려한 작업시간을 전부 더한 값을, 각각의 이전 프로젝트의 총 작업 수를 전부 더한 값으로 나눔으로써 산출될 수 있다.

일 실시예에 따라, 오픈예정 프로젝트는 사용되는 기능 툴로 바운딩(Bounding) 작업을 위한 바운딩 박스 툴(Bounding Box Tool), 전사 작업을 위한 인풋 박스 툴(Input Box Tool) 및 속성 분류 작업을 위한 메이크 스텝 툴(Make Step Tool)을 포함할 수 있다.

도 6을 참조하면, 바운딩 박스 툴(Bounding Box Tool)에 대한 이전 프로젝트 A, 이전 프로젝트 C 및 이전 프로젝트 D의 이력 정보가 추출될 수 있다.

이전 프로젝트 A에서, 바운딩 박스 툴을 사용한 총 작업 시간은 1500sec. 이고, 총 작업 수는 100일 때, 평균 작업 시간은 15sec. 이다. 또한, 반려 횟수가 10이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 150sec. 이 된다. 이에 따라, 이전 프로젝트 A에서 바운딩 박스 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 1650sec. 가 된다.

또한, 이전 프로젝트 C에서, 바운딩 박스 툴을 사용한 총 작업 시간은 800sec. 이고, 총 작업 수는 50일 때, 평균 작업 시간은 16sec. 이다. 또한, 반려 횟수가 25이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 400sec. 이 된다. 이에 따라, 이전 프로젝트 C에서 바운딩 박스 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 1200sec. 가 된다.

또한, 이전 프로젝트 D에서, 바운딩 박스 툴을 사용한 총 작업 시간은 600sec. 이고, 총 작업 수는 12일 때, 평균 작업 시간은 50sec. 이다. 또한, 반려 횟수가 3이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 150sec. 이 된다. 이에 따라, 이전 프로젝트 D에서 바운딩 박스 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 750sec. 가 된다.

이에 따라, 바운딩 박스 툴을 이용하여 하나의 작업을 수행하는 평균 시간은 이전 프로젝트 A의 반려 횟수를 고려한 작업 시간, 이전 프로젝트 C의 반려 횟수를 고려한 작업 시간, 이전 프로젝트 D의 반려 횟수를 고려한 작업 시간을 더한 값을, 이전 프로젝트 A의 총 작업 수, 이전 프로젝트 C의 총 작업 수, 이전 프로젝트 D의 총 작업 수를 더한 값으로 나눈 값이다. 즉, 바운딩 박스 툴의 작업 시간은 (1650+1200+750)/(100+50+12) = 22.22sec. 이다.

도 7을 참조하면, 인풋 박스 툴(Input Box Tool)에 대한 이전 프로젝트 A, 이전 프로젝트 B 및 이전 프로젝트 C의 이력 정보가 추출될 수 있다.

이전 프로젝트 A에서, 인풋 박스 툴을 사용한 총 작업 시간은 350sec. 이고, 총 작업 수는 100일 때, 평균 작업 시간은 3.5sec. 이다. 또한, 반려 횟수가 20이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 70sec. 이 된다. 이에 따라, 이전 프로젝트 A에서 인풋 박스 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 420sec. 가 된다.

또한, 이전 프로젝트 B에서, 인풋 박스 툴을 사용한 총 작업 시간은 180sec. 이고, 총 작업 수는 30일 때, 평균 작업 시간은 6sec. 이다. 또한, 반려 횟수가 20이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 120sec. 이 된다. 이에 따라, 이전 프로젝트 B에서 인풋 박스 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 300sec. 가 된다.

또한, 이전 프로젝트 C에서, 인풋 박스 툴을 사용한 총 작업 시간은 100sec. 이고, 총 작업 수는 20일 때, 평균 작업 시간은 5sec. 이다. 또한, 반려 횟수가 10이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 50sec. 이 된다. 이에 따라, 이전 프로젝트 C에서 바운딩 박스 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 150sec. 가 된다.

이에 따라, 인풋 박스 툴을 이용하여 하나의 작업을 수행하는 평균 시간은 이전 프로젝트 A의 반려 횟수를 고려한 작업 시간, 이전 프로젝트 B의 반려 횟수를 고려한 작업 시간, 이전 프로젝트 C의 반려 횟수를 고려한 작업 시간을 더한 값을, 이전 프로젝트 A의 총 작업 수, 이전 프로젝트 B의 총 작업 수, 이전 프로젝트 C의 총 작업 수를 더한 값으로 나눈 값이다. 즉, 인풋 박스 툴의 작업 시간은 (420+300+150)/(100+30+20) = 5.8sec. 이다.

도 8을 참조하면, 메이크 스텝 툴(Make Step Tool)에 대한 이전 프로젝트 A, 이전 프로젝트 B 및 이전 프로젝트 D의 이력 정보가 추출될 수 있다.

이전 프로젝트 A에서, 메이크 스텝 툴을 사용한 총 작업 시간은 500sec. 이고, 총 작업 수는 100일 때, 평균 작업 시간은 5sec. 이다. 또한, 반려 횟수가 20이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 100sec. 이 된다. 이에 따라, 이전 프로젝트 A에서 메이크 스텝 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 600sec. 가 된다.

또한, 이전 프로젝트 B에서, 메이크 스텝 툴을 사용한 총 작업 시간은 480sec. 이고, 총 작업 수는 60일 때, 평균 작업 시간은 8sec. 이다. 또한, 반려 횟수가 15이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 120sec. 이 된다. 이에 따라, 이전 프로젝트 B에서 메이크 스텝 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 600sec. 가 된다.

또한, 이전 프로젝트 D에서, 메이크 스텝 툴을 사용한 총 작업 시간은 320sec. 이고, 총 작업 수는 40일 때, 평균 작업 시간은 8sec. 이다. 또한, 반려 횟수가 10이므로, 반려된 작업의 작업 시간은 평균 작업 시간과 반려 횟수를 곱한 값인 80sec. 이 된다. 이에 따라, 이전 프로젝트 D에서 메이크 스텝 툴을 이용한 총 작업 시간(즉, 반려 횟수를 고려한 작업 시간)은 400sec. 가 된다.

이에 따라, 메이크 스텝 툴을 이용하여 하나의 작업을 수행하는 평균 시간은 이전 프로젝트 A의 반려 횟수를 고려한 작업 시간, 이전 프로젝트 B의 반려 횟수를 고려한 작업 시간, 이전 프로젝트 D의 반려 횟수를 고려한 작업 시간을 더한 값을, 이전 프로젝트 A의 총 작업 수, 이전 프로젝트 B의 총 작업 수, 이전 프로젝트 D의 총 작업 수를 더한 값으로 나눈 값이다. 즉, 메이크 스텝 툴의 작업 시간은 (600+600+400)/(100+60+40) = 8sec. 이다.

다시 도 3을 참조하면, 서버는 각각의 기능 툴당 작업 시간을 합하여 상기 오픈예정 프로젝트의 기준 작업 시간을 설정한다(S140).

즉, 각 기능 툴에 대한 이전 프로젝트 이력 정보를 기반으로 생성된 각 기능 툴의 작업 시간을 더하여 오픈예정 프로젝트의 작업을 수행하는 데 예상되는 작업 시간을 측정할 수 있게 된다.

예를 들어, 오픈예정 프로젝트가 기능 툴 1, 기능 툴 2 및 기능 툴 3을 적용하고, 기능 툴 1의 작업 시간이 22.22sec. 이고, 기능 툴 2의 작업 시간이 5.8sec. 이고, 기능 툴 3의 작업 시간이 8sec. 인 경우, 오픈예정 프로젝트의 한 작업 당 소요될 것으로 예상되는 작업 시간은 22.22+5.8+8 = 36sec. 이 된다. 이에 따라, 서버는 오픈예정 프로젝트의 기준 작업 시간을 36sec. 설정한다.

이후, 서버는 파일럿을 수행하기 위한 m명의 작업자(32)를 선별하여 각 작업자(32)에게 n건의 파일럿용 작업을 각각 할당한다(S150). 이때, m과 n은 자연수이다.

구체적으로, 서버는 작업자(32)의 숙련도에 기반하여 m명의 작업자를 소정의 비율로 나누어서 선별하고, 선별된 m명의 작업자(32)에게 n건의 파일럿용 작업을 각각 할당한다.

여기서, 소정의 비율, m 및 n은 오픈예정 프로젝트의 난이도에 따라 서버에 의해 미리 결정된다.

즉, 프로젝트의 난이도가 높을수록, 서버는 m을 큰 값으로 설정하고, m명의 작업자(32) 중에서 숙련도가 높은 작업자(32)를 더 높은 비율로 선별한다. 숙련도가 높은 작업자란 다양한 유형의 작업을 수행한 경험이 있고, 그에 따른 작업 레벨이 높은 작업자를 의미한다.

프로젝트의 난이도가 높을수록 더 많은 수의 작업자를 선별하고, 그 중에서 더 높은 비율로 숙련도가 높은 작업자를 선별하는 것은, 파일럿 작업 수행에 있어서 오차율을 줄이기 위함이고, 이에 따라 산출되는 오픈예정 프로젝트의 적정 단가의 정확도를 높이기 위함이다.

또한, 프로젝트의 난이도가 높을수록, 서버는 n을 큰 값으로 설정한다.

난이도가 낮은 프로젝트는 작업자(32)가 적은 양의 작업을 반복해보면 금방 능숙해지지만, 난이도가 높은 프로젝트는 작업자(32)가 비교적 많은 양의 작업을 반복 수행해야만 능숙해지게 된다. 따라서, 서버는 프로젝트의 난이도가 높을수록, 작업자(32)가 파일럿 작업에 능숙해질 수 있는 충분한 양으로 n을 설정한다.

이때, n건의 파일럿용 작업은 오픈예정 프로젝트의 작업 중에서 랜덤하게 추출된다. 따라서, 파일럿에 참여한 작업자(32)가 이후 정식 프로젝트에 참여하는 경우, 서버는 작업 할당 시, 해당 작업자(32)가 파일럿에서 수행했던 작업은 제외하고 할당하여야 한다.

이하에서는, 도 9를 참조하여 단계 S160 내지 단계 S180에 대해 상세히 설명하도록 한다. 도 9에서는 이전 프로젝트 이력을 기반으로 산출된 기준 작업 시간을 120sec. 인 것으로 가정하여 설명하지만, 이에 제한되는 것은 아니다. 또한, 도 9에서는 m을 3, n을 16인 것으로 가정하여 설명하지만, 이에 제한되는 것은 아니다.

도 3을 참조하면, 서버는 각 작업자별로 n건의 파일럿용 작업에 대한 각각의 작업 시간을 측정한다(S160). 즉, 파일럿에 참여하는 m명의 작업자(32)는 각자에게 할당된 n건의 작업을 수행하고, 서버는 각 작업자별로 수행한 n건의 작업 시간을 각각 측정한다.

도 9a 내지 9c를 참조하면, 파일럿에 참여하는 3명의 작업자(32), 즉 작업자 A, 작업자 B 및 작업자 C는 각각 16건의 파일럿용 작업을 수행하고, 서버는 작업자 A, 작업자 B 및 작업자 C가 각각 수행한 16건의 파일럿용 작업의 작업 시간을 각각 측정한다.

다시 도 3을 참조하면, 서버는 각 작업자별로 측정된 n건에 대한 각각의 작업 시간을 기반으로 m개의 각 작업자별 파일럿 작업 시간을 산출한다(S170).

구체적으로, 서버는 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간과 기준 작업 시간 간의 편차를 통해서 각 작업자별 n개의 비교 작업 시간을 산출한다.

도 9a를 참조하면, 서버는 작업자 A가 수행한 16건의 파일럿용 작업 시간을 기준 작업 시간과 비교하여, 16개의 비교 작업 시간을 산출한다.

예를 들어, 1번 파일럿용 작업에 대해 작업자 A는 150sec. 의 시간을 소요했다. 이를 기준 작업 시간과 비교하면, 작업자 A의 1번 파일럿용 작업에 대한 비교 작업 시간은 +30sec. 가 된다. 이는 작업자 A는 1번 파일럿용 작업을 수행하는 데 기준 작업 시간에 비해 30sec. 의 시간이 더 걸렸다는 것을 의미한다.

이후, 서버는 각 작업자별로 산출된 n개의 비교 작업 시간의 평균값을 산출하고, 각 작업자별로 산출된 평균값을 기준 작업 시간과 합하여 m개의 각 작업자별 파일럿 작업 시간을 산출한다.

도 9a를 참조하면, 서버는 작업자 A의 16개의 비교 시간(+30, +35, +25,…, -15, 0, -10)의 평균값을 산출한다. 즉, 작업자 A의 비교 작업 시간은 +4.6875sec. 로 산출된다.

서버는 작업자 A의 비교 작업 시간의 평균값을 기준 작업 시간과 합하여 작업자 A의 파일럿 작업 시간을 산출한다. 즉, 작업자 A의 비교 작업 시간 (4.6875에서 반올림된 값인) +5sec. 와 기준 작업 시간 120sec. 을 합하면 작업자 A의 파일럿 작업 시간은 125sec. 로 산출된다. 여기서, 비교 작업 시간이 반올림되는 것으로 설명하였지만, 이에 제한되지 않는다.

도 9b와 도 9c를 참조하면, 작업자 B의 파일럿 작업 시간과 작업자 의 파일럿 작업 시간은 각각 121sec. 와 134sec. 로 산출된다. 각각의 파일럿 작업 시간의 산출 방법은 작업자 A의 파일럿 작업 시간 산출 방법과 동일하므로 구체적인 설명은 생략하도록 한다.

다시 도 3을 참조하면, 서버는 m개의 각 작업자별 파일럿 작업 시간을 기반으로 오픈예정 프로젝트의 예상 작업 시간을 산출한다(S180).

즉, 서버는 m개의 각 작업자별 파일럿 작업 시간의 평균값을 예상 작업 시간으로 산출한다.

도 9a 내지 9c를 참조하면, 작업자 A의 파일럿 작업 시간은 125sec. 로 산출되었고, 작업자 B의 파일럿 작업 시간은 121sec. 로 산출되었고, 작업자 C의 파일럿 작업 시간은 134sec. 로 산출되었음을 알 수 있다.

이에 따라, 오픈예정 프로젝트의 예상 작업 시간은 (125+121+134)/3 = 127sec. 로 산출된다. 즉, 현재 작업자들의 작업 능력에 따라 산출된 오픈예정 프로젝트의 실제 예상 작업 시간은 이전 프로젝트 이력을 통해 산출된 기준 작업 시간보다 7sec. 더 소요될 것으로 예상되는 것이다.

다시 도 3을 참조하면, 서버는 예상 작업 시간을 기반으로 오픈예정 프로젝트의 적정 단가를 결정한다(S190).

즉, 서버는 예상 작업 시간을 이용하여 오픈예정 프로젝트의 시간당 수행 가능한 작업 개수를 산출하고, 시간당 기준 임금을 시간당 수행 가능한 작업 개수로 나눈 값을 이용하여 적정 단가를 결정한다.

예를 들어, 상술한 바와 같이 오픈예정 프로젝트의 하나의 작업당 예상 작업 시간이 127sec. 로 산출된 경우, 오픈예정 프로젝트의 시간당 수행 가능한 작업 개수는 3600/127 = 28.35로, 1시간에 최대 28건의 작업이 가능하다. 그리고, 시간당 기준 임금(예를 들어, 9000원)을 28로 나누면 적정 단가가 317.5원으로 측정되게 된다.

따라서, 서버는 오픈예정 프로젝트의 적정 단가를 317원 또는 318원으로 결정하여, 정식 프로젝트에 참여하는 작업자들이 수행하는 작업에 대해 적정 단가를 적용하여 작업 비용을 지급할 수 있다.

상술한 바와 같이, 본 발명은 이전 프로젝트 이력을 통해 오픈예정 프로젝트의 기준 작업 시간을 산출하고, 파일럿을 진행하여 기준 작업 시간 대비 작업자별 파일럿 작업 시간을 산출함으로써, 이전 프로젝트의 이력 정보를 기준으로 현재 작업자들의 작업 능력을 반영하는 예상 작업 시간을 산출할 수 있게 된다. 이에 따라, 본 발명은 이전 프로젝트의 이력과 오픈예정 프로젝트의 현재 상황을 모두 고려한 적정 단가를 산출해낼 수 있는 것이다.

이하에서는, 도 10 내지 도 12를 참조하여, 본 발명의 실시예에 따른 기준 작업 시간과 파일럿 작업에 대한 작업자별 작업 시간에 기반하여 오픈예정 프로젝트의 적정 작업량을 결정하는 것에 대해 설명하도록 한다.

도 10 및 도 11은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 작업량 결정 방법의 순서도이다. 도 12는 본 발명의 일 실시예에 따른 작업자별 능숙 시점을 결정하는 것을 설명하기 위한 예시도이다.

한편, 도 10 및 도 11에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

설명의 편의를 위하여 도 3과 중복되는 도 10의 일부 단계들(S110 내지 S160)에 대한 설명은 생략하도록 한다.

도 10을 참조하면, 서버는 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기반으로 상기 오픈예정 프로젝트의 적정 작업량을 결정한다(S210).

구체적으로, 도 11을 참조하면, 서버는 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간이 기준 작업 시간보다 작아지는 시점을 기반으로 능숙 시점을 결정한다(S211).

도 12a를 참조하면, 작업자 A가 수행한 16건의 파일럿용 작업 중에서 작업 시간이 기준 작업 시간보다 작아지는 시점(기준 작업 시간보다 더 빨리 작업을 수행한 시점)은 9번 파일럿용 작업을 수행한 시점이다. 이를 통해, 서버는 작업자 A의 능숙 시점을 (9/16)x100 = 56.25%로 결정할 수 있다.

도 12b를 참조하면, 작업자 B가 수행한 16건의 파일럿용 작업 중에서 작업 시간이 기준 작업 시간보다 작아지는 시점(기준 작업 시간보다 더 빨리 작업을 수행한 시점)은 9번 파일럿용 작업을 수행한 시점이다. 이를 통해, 서버는 작업자 B의 능숙 시점을 (9/16)x100 = 56.25%로 결정할 수 있다.

도 12c를 참조하면, 작업자 C가 수행한 16건의 파일럿용 작업 중에서 작업 시간이 기준 작업 시간보다 작아지는 시점(기준 작업 시간보다 더 빨리 작업을 수행한 시점)은 10번 파일럿용 작업을 수행한 시점이다. 이를 통해, 서버는 작업자 C의 능숙 시점을 (10/16)x100 = 62.5%로 결정할 수 있다.

다시 도 11을 참조하면, 서버는 능숙 시점을 기반으로 오픈예정 프로젝트의 적정 작업량을 결정한다(S212). 여기서, 오픈예정 프로젝트의 적정 작업량은 오픈예정 프로젝트에 참여하는 작업자 1인당 최대 작업량을 의미한다.

일 실시예로, 서버는 파일럿에 참여하는 작업자들의 능숙 시점의 평균값을 기반으로 오픈예정 프로젝트의 적정 작업량을 결정할 수 있다.

예를 들어, 작업자 A, 작업자 B 및 작업자 C가 파일럿에 참여하여, 작업자 A의 능숙 시점이 56.25%, 작업자 B의 능숙 시점이 56.25%, 작업자 C의 능숙 시점이 62.5%로 결정된 경우, 세 명의 작업자들의 능숙 시점의 평균값은 58.33%로 산출된다.

따라서, 서버는 오픈예정 프로젝트의 적정 작업량을 16건의 58.33%에 해당하는 9건으로 결정할 수 있다. 즉, 오픈예정 프로젝트의 1인당 최대 작업량은 9개가 될 수 있다.

다른 실시예로, 서버는 파일럿에 참여하는 작업자들의 능숙 시점 중 최대값을 기반으로 오픈예정 프로젝트의 적정 작업량을 결정할 수 있다.

예를 들어, 작업자 A, 작업자 B 및 작업자 C가 파일럿에 참여하여, 작업자 A의 능숙 시점이 56.25%, 작업자 B의 능숙 시점이 56.25%, 작업자 C의 능숙 시점이 62.5%로 결정된 경우, 세 명의 작업자들의 능숙 시점의 최대값은 62.5%로 산출된다.

따라서, 서버는 오픈예정 프로젝트의 적정 작업량을 16건의 62.5%에 해당하는 10건으로 결정할 수 있다. 즉, 오픈예정 프로젝트의 1인당 최대 작업량은 10개가 될 수 있다.

또 다른 실시예로, 서버는 파일럿에 참여하는 작업자들의 능숙 시점에 상응하는 작업량에 소정의 작업량을 증감하는 방식으로 오픈예정 프로젝트의 적정 작업량을 결정할 수도 있다.

이와 같이, 적정 단가와 함께 작업자 1인당 최대 작업량을 제한함으로써, 프로젝트 수행을 위하여 발생되는 비용과 시간을 효과적으로 관리할 수 있다.

또한, 프로젝트의 난이도가 낮은 경우, 작업자들은 적은 양의 작업만을 반복 수행해도 금방 능숙해지게 된다. 그렇기 때문에, 적정 작업량이 적은 비율로 결정되어도 불량 작업물이 발생할 가능성이 거의 없다.

하지만, 프로젝트의 난이도가 높은 경우, 작업자들은 비교적 많은 양의 작업을 반복 수행해야만 능숙해지게 된다. 그렇기 때문에, 이런 경우 적정 작업량이 적은 비율로 결정된다면, 프로젝트에 참여하여 작업을 수행하는 작업자들이 미처 작업에 능숙해지기도 전에 1인당 최대 작업량에 도달하여 작업을 수행할 수 없게 되고, 그만큼 불량 작업물이 발생할 가능성이 높아지게 된다.

따라서, 파일럿을 통해 산출된 능숙 시점을 기반으로 오픈예정 프로젝트의 적정 작업량을 결정하게 되면, 모든 작업자들이 프로젝트의 작업에 능숙해질 수 있는 충분한 양이 최대 작업량으로 설정되기 때문에, 불량 작업물의 발생이 감소하고, 그에 따라 불량 작업물에 지급되는 비용도 절감할 수 있다.

한편, 상술한 설명에서, 단계 S11 내지 S212은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 13의 내용은 도 1 내지 도 12 의 적정 단가 및 적정 작업량 결정 방법에도 적용될 수 있다.

이하에서는 도 13을 참조하여, 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용하여 적정 단가 및 적정 작업량을 결정하는 장치(300)에 대하여 설명하도록 한다.

도 13은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용하여 적정 단가 및 적정 작업량을 결정하는 장치(300)를 설명하기 위한 도면이다.

도 13을 참조하면, 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용하여 적정 단가 및 적정 작업량을 결정하는 장치(300)(이하, 적정 단가 및 적정 작업량 결정 장치)는 통신모듈(310), 메모리(320) 및 프로세서(330)를 포함한다.

통신모듈(310)은 오픈예정 프로젝트의 n건의 파일럿용 작업을 m명의 작업자(32)에게 송신하고, m명의 작업자(32)로부터 각각 n건의 파일럿용 작업에 대한 작업 결과를 수신한다.

메모리(320)에는 기준 작업 시간과 작업자별 n건의 파일럿용 작업에 대한 작업 시간에 기초하여 오픈예정 프로젝트의 적정 단가 및 적정 작업량을 결정하기 위한 프로그램이 저장된다.

프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킨다. 프로세서(330)는 메모리(320)에 저장된 프로그램을 실행시킴에 따라, m명의 작업자(32)에 의해 수행되는 각각 n건의 파일럿용 작업에 대한 각각의 작업 시간을 측정하고, 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기준 작업 시간에 기초하여 작업자별 파일럿 작업 시간을 산출하고, m개의 작업자별 파일럿 작업 시간에 기초하여 오픈예정 프로젝트의 예상 작업 시간을 산출하고, 산출된 예상 작업 시간을 기반으로 오픈예정 프로젝트의 적정 단가를 결정한다.

또한, 프로세서(330)는 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기준 작업 시간에 기초하여 작업자별 능숙 시점을 결정하고, 작업자별 능숙 시점에 기초하여 오픈예정 프로젝트의 적정 작업량을 결정한다.

도 13을 참조하여 설명한 적정 단가 및 적정 작업량 결정 장치(300)는 상술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
300 : 적정 단가 및 적정 작업량 결정 장치
310 : 통신모듈
320 : 메모리
330 : 프로세서

Claims (12)

1. 컴퓨터에 의해 수행되는 방법으로서,
   오픈예정 크라우드소싱 기반 프로젝트(이하 "프로젝트")의 작업에 적용된 복수의 기능 툴을 파악하는 단계;
   각각의 기능 툴이 사용된 이전 프로젝트 이력 정보를 추출하는 단계;
   상기 이전 프로젝트 이력 정보를 기반으로 각각의 기능 툴당 작업 시간을 산출하는 단계;
   각각의 기능 툴당 작업 시간을 합하여 상기 오픈예정 프로젝트의 기준 작업 시간을 설정하는 단계;
   m명의 작업자를 선별하여 각 작업자에게 n건의 파일럿용 작업을 각각 할당하는 단계(m과 n은 자연수);
   각 작업자별로 n건의 파일럿용 작업에 대한 각각의 작업 시간을 측정하는 단계;
   상기 기준 작업 시간 및 각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기반으로 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계;
   m개의 각 작업자별 파일럿 작업 시간을 기반으로 상기 오픈예정 프로젝트의 예상 작업 시간을 산출하는 단계;
   상기 예상 작업 시간을 기반으로 상기 오픈예정 프로젝트의 적정 단가를 결정하는 단계; 및
   각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간을 기반으로 상기 오픈예정 프로젝트의 적정 작업량을 결정하는 단계를 포함하고,
   상기 기능 툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고,
   상기 오픈예정 프로젝트의 적정 단가를 결정하는 단계는,
   상기 예상 작업 시간을 이용하여 상기 오픈예정 프로젝트의 시간당 수행 가능한 작업 개수를 산출하는 단계; 및
   시간당 기준 임금을 상기 시간당 수행 가능한 작업 개수로 나눈 값을 이용하여 상기 적정 단가를 결정하는 단계를 포함하고,
   상기 오픈예정 프로젝트의 적정 작업량을 결정하는 단계는,
   각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간이 상기 기준 작업 시간보다 작아지는 시점을 기반으로 능숙 시점을 결정하는 단계; 및
   상기 능숙 시점을 기반으로 상기 오픈예정 프로젝트의 적정 작업량을 결정하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
2. 제1항에 있어서,
   상기 이전 프로젝트 이력 정보는,
   이전 프로젝트에서 해당 기능 툴이 사용된 총 작업 시간, 총 작업 수, 평균 작업 시간, 반려 횟수, 반려된 작업의 작업 시간 및 반려 횟수를 고려한 작업 시간 중 적어도 하나를 포함하는,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
3. 제1항에 있어서,
   상기 m명의 작업자를 선별하여 각 작업자에게 n건의 파일럿용 작업을 각각 할당하는 단계는,
   작업자의 숙련도에 기반하여 상기 m명의 작업자를 소정의 비율로 나누어서 선별하는 단계; 및
   상기 m명의 작업자에게 상기 n건의 파일럿용 작업을 할당하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
4. 제3항에 있어서,
   상기 n건의 파일럿용 작업은,
   상기 오픈예정 프로젝트의 작업 중에서 랜덤하게 추출되는 것인,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
5. 제3항에 있어서,
   상기 소정의 비율, 상기 m 및 상기 n은 상기 오픈예정 프로젝트의 난이도에 따라 결정되는 것인,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
6. 제1항에 있어서,
   상기 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계는,
   각 작업자별로 측정된 n건의 파일럿용 작업에 대한 각각의 작업 시간과 상기 기준 작업 시간 간의 편차를 통해서 각 작업자별 n개의 비교 작업 시간을 산출하는 단계;
   각 작업자별로 산출된 n개의 비교 작업 시간의 평균값을 산출하는 단계; 및
   각 작업자별로 산출된 평균값을 상기 기준 작업 시간과 합하여 m개의 각 작업자별 파일럿 작업 시간을 산출하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
7. 제6항에 있어서,
   상기 오픈예정 프로젝트의 예상 작업 시간을 산출하는 단계는,
   상기 m개의 각 작업자별 파일럿 작업 시간의 평균값을 상기 예상 작업 시간으로 산출하는 것인,
   크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
8. 삭제
9. 삭제
10. 삭제
11. 제9항에 있어서,
    상기 오픈예정 프로젝트의 적정 작업량은 상기 오픈예정 프로젝트에 참여하는 작업자 1인당 최대 작업량인,
    크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법.
12. 컴퓨터와 결합하여, 제1항 내지 제7항, 제11항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
    

Images