KR102232909B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법 - Google Patents

Abstract

크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법이 제공된다. 상기 방법은 크라우드소싱 기반 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계; 상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계; 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계; 상기 복수의 검수자로부터 상기 복수의 작업 결과 중 검수 완료된 작업 결과에 대한 검수 결과로 검수 통과 또는 반려를 입력받는 단계; 상기 복수의 작업자 각각에 대하여 상기 작업 결과 및 검수 결과에 기초한 히스토리 정보를 추출하는 단계; 상기 히스토리 정보에 기초하여 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계; 및 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법{METHOD FOR PROVIDING REASON FOR REJECTION BASED ON SIMILAR WORK PATTERN INFORMATION FOR EACH WORKER A CROWDSOURCING BASED PROJECTS FOR AIRTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

이때, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.

구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.

한편, 프로젝트가 오픈되면 프로젝트 관리자는 작업자들이 올바르게 작업을 수행할 수 있도록 작업 가이드를 제공한다.

하지만 프로젝트에는 많은 작업자들이 참여하고 있고, 각 작업자들의 작업 방식은 각각 상이하며, 작업 결과에 대한 반려 패턴도 매우 다양하다. 이러한 이유로, 모든 반려사유를 작업 가이드에 포함시키는 것은 불가능하며, 작업 가이드를 통해 각각의 작업자들에게 전달할 수 있는 메시지도 한정적이다.

결국, 프로젝트의 진행 속도와 품질을 향상시키기 위해서는 작업자들의 작업 수행시 발생되는 실수를 최소화하는 것이 필요한바, 작업자가 어떤 실수를 반복적으로 하고 있는지를 파악하여, 작업 가이드 형태가 아닌 특정 작업자에게 타겟화된 타 작업자의 반려사유를 제공하는 방식이 필요한 실정이다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 작업 수행 중인 작업자에게 계속하여 반복적인 문제가 발생하고 있는 경우, 동일한 작업 패턴을 보였던 타 작업자의 반려된 작업 결과 및 반려사유를 제공함으로써, 해당 작업자에게 반복적으로 발생하던 문제를 최소화시킬 수 있는 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법은 크라우드소싱 기반 프로젝트(이하, "프로젝트")의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계; 상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계; 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계; 상기 복수의 검수자로부터 상기 복수의 작업 결과 중 검수 완료된 작업 결과에 대한 검수 결과로 검수 통과 또는 반려를 입력받는 단계; 상기 복수의 작업자 각각에 대하여 상기 작업 결과 및 검수 결과에 기초한 히스토리 정보를 추출하는 단계; 상기 히스토리 정보에 기초하여 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계; 및 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계를 포함한다.

본 발명의 일부 실시예에서, 상기 히스토리 정보를 추출하는 단계는, 상기 복수의 작업자 각각의 작업 수행 건수, 작업 1건당 평균 작업 수행시간, 기능요소별 평균 반려율, 상기 프로젝트에서의 문답사항 및 반려된 작업 결과와 반려사유를 상기 히스토리 정보로 추출하되, 상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴일 수 있다.

본 발명의 일부 실시예에서, 상기 기능요소별 평균 반려율은 각 작업자의 n건(n은 2이상의 자연수)의 작업 결과에 대한 단위 제출 건수마다 산출되며, 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계는, 상기 제1 작업자보다 먼저 상기 프로젝트에 참여한 적어도 하나의 후보 작업자를 선정하는 단계; 및 상기 제1 작업자의 상기 n건의 단위 제출 건수를 기준으로, 상기 후보 작업자 중에서 상기 제1 작업자의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖는 횟수가 일정 횟수 이상인 작업자를, 상기 유사한 작업 패턴 정보를 갖는 제2 작업자로 선정하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 제1 작업자보다 먼저 상기 프로젝트에 참여한 적어도 하나의 후보 작업자를 선정하는 단계는, 상기 제1 작업자보다 먼저 프로젝트에 참여한 작업자에 대한 상기 제1 작업자의 현재 작업 수행 건수에 대응하는 작업 수행 건수에서의 평균 작업 수행시간을 산출하는 단계; 및 상기 산출 결과에 기초하여, 상기 제1 작업자의 평균 작업 수행시간과 소정의 오차 범위의 평균 작업 수행시간을 갖는 작업자를 상기 후보 작업자로 선정하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계는, 상기 제1 작업자의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖는 횟수가 일정 횟수 이상인 작업자를 대상으로, 상기 제1 작업자의 상기 반려된 작업 결과에 대한 반려사유와 유사한 반려사유를 갖는 작업자를 상기 제2 작업자로 선정하되, 상기 유사한 반려사유는 상기 제1 작업자의 반려사유에 포함된 키워드의 비중과 상기 제2 작업자의 반려사유에 포함된 키워드의 비중의 유사도에 기초하여 결정될 수 있다.

본 발명의 일부 실시예에서, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는, 상기 제1 작업자의 상기 기능요소별 평균 반려율이 기준 비율을 초과하는 단위 제출 건수의 시점부터 상기 제1 작업자에게 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 제공하는 단계; 및 상기 제2 작업자의 반려된 작업 결과 및 반려사유가 제공되는 중, 상기 제1 작업자의 상기 기능요소별 평균 반려율이 상기 기준 비율 이하가 되는 단위 제출 건수의 시점부터 상기 제1 작업자에 대한 상기 제2 작업자의 반려된 작업 결과 및 반려사유의 제공을 중단하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는, 확인 가능한 상기 제2 작업자의 반려된 작업 결과 및 반려사유가 있음을 상기 제1 작업자에게 안내하는 단계; 및 상기 제1 작업자의 선택 입력을 수신함에 따라, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는, 상기 제2 작업자의 반려된 작업 결과 중 상기 유사한 작업 패턴 정보를 갖는 기능요소별 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공할 수 있다.

본 발명의 일부 실시예에서, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는, 상기 제2 작업자의 상기 프로젝트에 대한 문답사항을 상기 반려된 작업 결과 및 반려사유와 함께 상기 제1 작업자에게 제공할 수 있다.

본 발명의 일부 실시예에서, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는, 상기 제1 작업자의 현재 작업 수행 건수에 대응하는 상기 제2 작업자의 작업 수행 건수 이후에 제출되어 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공할 수 있다.

본 발명의 일부 실시예에서, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는, 상기 제2 작업자가 복수 명인 경우, 상기 작업 패턴 정보가 가장 유사한 제2 작업자 또는 상기 작업 패턴 정보의 유사도가 높은 순서에 따른 m명(m은 자연수)의 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 작업자들의 잘못된 작업 수행을 미리 예방함으로써 반려율을 낮출 수 있는바, 반려로 인한 작업자의 작업 수행시 그리고 검수자의 검수 수행시의 병목 현상을 줄일 수 있다.

또한, 작업자들의 작업 패턴을 자동으로 분석하고, 분석 결과에 따라 작업 패턴이 유사한 작업자들을 매칭시켜 해당 작업자에게 타 작업자의 반려된 작업 결과 및 반려사유를 제공할 수 있는바, 단순히 작업 가이드를 통해 전달하는 방식보다 더욱 반려율을 낮출 수 있으며 특히 동일한 실수로 인해 반려 처리되는 비율을 줄일 수 있다는 장점이 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법의 순서도이다.
도 4는 기능요소별 평균 반려율의 일 예시를 설명하기 위한 그래프이다.
도 5는 유사 작업 패턴 정보를 갖는 작업자를 선정하는 내용을 설명하기 위한 순서도이다.
도 6은 기능요소별 평균 반려율을 고려하여 유사한 작업 패턴 정보를 갖는 작업자를 선정하는 내용을 설명하기 위한 도면이다.
도 7은 제1 작업자의 기능요소별 평균 반려율에 따라 반려사유를 제공하는 내용을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 반려사유 제공 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

마찬가지로 본 발명의 일 실시예는 프로젝트의 난이도에 따라 설정된 등급 또는 검수자(34)의 자격 요건에 따라 수행 중인 전체 프로젝트 중 적합한 프로젝트만 검수자(34)에게 노출되게끔 할 수 있다.

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

이하에서는 도 3 내지 도 7을 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자(32)별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법을 설명하도록 한다.

도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자(32)별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법의 순서도이다. 도 4는 기능요소별 평균 반려율의 일 예시를 설명하기 위한 그래프이다. 도 5는 유사 작업 패턴 정보를 갖는 작업자(32)를 선정하는 내용을 설명하기 위한 순서도이다.

한편, 도 3과 도 5에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.

먼저, 도 3을 참조하면 서버는 크라우드소싱 기반의 프로젝트(이하, 프로젝트라 한다)의 복수의 작업을 복수의 작업자(32)에게 배정하여 작업 수행을 요청하고(S110), 복수의 작업자(32)로부터 복수의 작업 결과를 입력받는다(S120).

여기에서, 하나의 프로젝트에는 복수의 작업이 포함될 수 있으며, 복수의 작업은 종류에 따라 복수의 태스크로 그룹화될 수 있고, 또는 각각의 작업이 서로 다른 종류의 작업일 수도 있으며, 동일한 작업일 수도 있지만, 이에 제한되는 것은 아니다.

다음으로, 서버는 복수의 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고(S130), 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는다(S140).

다음으로, 서버는 복수의 작업자(32) 각각에 대하여 작업 결과 및 검수 결과에 기초한 히스토리 정보를 추출한다(S150).

일 실시예로, 본 발명은 히스토리 정보로, 각 작업자(32)의 작업 수행 건수, 각 작업자(32)의 작업 1건당 평균 작업 수행시간, 각 작업자(32)의 기능요소별 평균 반려율, 각 작업자(32)의 프로젝트에서의 문답사항, 각 작업자(32)의 반려된 작업 결과와 이에 대한 반려사유를 추출할 수 있다.

여기에서 각 작업자(32)의 작업 수행 건수와 작업 1건당 평균 작업 수행시간은 작업자(32)의 작업이 수행될 때마다 누적하여 카운팅 및 산출된다. 작업 수행 건수는 작업자(32)가 작업 또는 재작업을 수행한 건수를 의미하며, 평균 작업 수행시간은 작업자(32)가 작업 또는 재작업을 수행한 시간의 평균을 의미한다. 이때, 평균 작업 수행시간은 작업자(32)에게 배정된 복수의 작업에 대한 작업 수행을 시작한 시각과, 작업 수행을 완료하여 작업 결과를 입력한 시각을 각각 측정한 후 이들 사이의 시간에 대한 평균을 통해 산출할 수 있다.

각 작업자(32)의 기능요소별 평균 반려율은 프로젝트에서의 각 기능요소를 기준으로 정렬한 작업 결과에 대한 평균 반려율로, 각 작업자(32)의 n건(n은 2 이상의 자연수)의 작업 결과에 대한 단위 제출 건수마다 산출된다. 여기에서 n건은 작업자(32)의 기능요소별 평균 반려율을 산출하기 위한 작업 결과의 단위 제출 건수로, 프로젝트 관리자에 의해 설정될 수 있다. 예를 들어, 프로젝트의 총 작업 건수가 많거나 작업자(32) 1인당 평균 수행해야 할 작업 건수가 많은 경우 n건은 상대적으로 크게 설정되며, 그 반대인 경우 n건은 상대적으로 작게 설정될 수 있다.

도 4를 참조하면 일 예로, 프로젝트에서 이용되는 기능요소로 촬영 기능요소, 이미지 바운딩 기능요소, 레코딩 기능요소가 있는 경우, 촬영 기능요소를 포함하는 n건(예를 들어, 20건)의 작업 결과마다 평균 반려율을 산출하며, 나머지 기능요소들에 대해서도 동일한 방식으로 산출할 수 있다.

이때, 하나의 작업은 적어도 하나의 기능요소를 포함할 수 있으며, 예를 들어 하나의 작업은 촬영 기능요소만을 포함하거나 촬영 기능요소, 이미지 바운딩 기능요소, 레코딩 기능요소를 모두 포함할 수도 있다.

작업자 A에 대한 기능요소별 평균 반려율을 n건의 작업 결과에 대한 단위 제출 건수마다 산출하여 취합하면 도 4와 같은 작업 패턴 정보를 획득할 수 있다. 이에 따라, 본 발명의 일 실시예는 각 작업자(32)들에 대한 작업 패턴 정보를 비교하여 유사 작업 패턴정보를 갖는 작업자(32)를 선정할 수 있다.

한편, 프로젝트의 기능요소는 프로젝트를 수행하기 위한 작업툴(tool)에 기반하여 결정된다. 그리고 작업툴은 프로젝트에서 제공되는 것으로서 작업자(32)들이 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴을 의미한다.

작업툴의 간단한 예로는, 텍스트 입력 툴, 라디오 버튼 입력 툴, 오디오 컷 툴, 마우스나 펜, 기타 장치를 이용한 드로잉 작업을 위한 툴, 외부 디바이스와 연동하여 요소 기능을 수행할 수 있는 다양한 툴이 이에 해당할 수 있다.

각 작업자(32)의 프로젝트에서의 문답사항은 작업자(32)가 작업 수행시 프로젝트 관리자에게 문의하여 답변을 받은 사항으로, 문답사항은 작업별 ID에 매칭되어 관리된다. 이에 따라, 문답사항은 추후 반려된 작업 결과에 대한 반려사유 제공시 함께 제공될 수 있다.

다음으로, 서버는 추출한 히스토리 정보에 기초하여 복수의 작업자(32) 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정한다(S160).

도 5를 참조하면, 서버는 제1 작업자보다 먼저 프로젝트에 참여한 적어도 하나의 후보 작업자를 선정하고, 후보 작업자 중에서 제2 작업자를 선정할 수 있다.

이때, 서버는 제1 작업자보다 먼저 프로젝트에 참여한 작업자(32)를 후보 작업자로 선정할 수도 있으며, 이에 더 나아가 먼저 프로젝트에 참여한 작업자(32) 중에서 평균 작업 수행시간이 유사한 작업자(32)를 후보 작업자로 선정할 수 있다. 즉, 제1 작업자보다 프로젝트에 먼저 참여한 작업자(32)의 작업 수행 이력을 검토한 결과, 제1 작업자와 작업 수행 능력이 비슷한 작업자(32)를 후보 작업자로 선정할 수 있다.

이를 위해, 서버는 제1 작업자보다 먼저 프로젝트에 참여한 작업자(32)에 대하여, 제1 작업자의 현재 작업 수행 건수에 대응하는 작업 수행 건수에서의 평균 작업 수행시간을 산출한다(S161).

그 다음, 서버는 산출 결과에 기초하여, 제1 작업자의 평균 작업 수행시간과 소정의 오차 범위의 평균 작업 수행시간을 갖는 작업자(32)를 후보 작업자로 선정한다(S163). 이때, 소정의 오차 범위는 제1 작업자의 작업 수행 건수, 후보 작업자 선정을 위한 작업자(32)들의 수, 제1 작업자 및 복수의 작업자(32)들에 대한 평균 작업 수행시간의 편차 등을 고려하여 결정될 수 있다.

예를 들어, 제1 작업자인 작업자 A는 현재까지 10건의 작업을 수행하였고, 작업자 A보다 먼저 프로젝트에 참여한 작업자 B는 현재까지 20건의 작업을 수행한 경우, 작업자 B에 대하여 10건의 작업 수행 당시의 평균 작업 수행 시간을 산출한다.

작업자 B의 현재 작업 수행 건수인 20건에 대한 평균 작업 수행시간은 25초이나, 10건의 작업 수행 당시 평균 작업 수행시간은 30초로 산출되었고, 작업자 A 역시 현재까지의 작업 수행 건수인 10건에 대한 평균 작업 수행시간이 30초로 산출된 경우, 작업자 B를 제2 작업자 선정을 위한 후보 작업자로 선정할 수 있다.

한편, 후보 작업자를 선정하는 과정은 제1 작업자가 작업 결과를 입력하는 시점마다 실시간으로 수행될 수 있다. 즉, 작업자 A가 11번째 작업을 수행하여 작업 결과를 입력하면, 서버는 작업자 A의 11번째 작업 결과 고려한 평균 작업 수행시간을 산출하고, 작업자 A보다 먼저 프로젝트에 참여한 작업자(32)들에 대해서도 11번째 작업 수행 당시에서의 평균 작업 수행시간을 산출하며, 그 결과를 고려하여 후보 작업자를 새롭게 추출 또는 갱신할 수 있다.

이와 같은 과정을 통해 적어도 하나의 후보 작업자가 선정되면, 서버는 제1 작업자의 n건의 작업 결과에 대한 단위 제출 건수를 기준으로, 후보 작업자 중에서 제1 작업자의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖는 횟수가 일정 횟수 이상인 작업자(32)를, 유사한 작업 패턴 정보를 갖는 제2 작업자로 선정한다(S165).

도 6은 기능요소별 평균 반려율을 고려하여 유사한 작업 패턴 정보를 갖는 작업자(32)를 선정하는 내용을 설명하기 위한 도면이다.

도 6은 제1 작업자인 작업자 A와 후보 작업자 중 작업자 C의 촬영 기능요소에 대한 n건(예를 들어, n은 20)의 단위 제출 건수마다 산출된 평균 반려율을 그래프를 통해 나타낸 것이다.

서버는 작업자 A의 촬영 기능요소가 포함된 작업 결과가 20건 제출될 때, 촬영 기능요소가 포함된 작업 결과에 대한 평균 반려율을 산출하고, 마찬가지로 작업자 C에 대해서도 20건의 촬영 기능요소가 포함된 작업 결과의 제출 당시의 평균 반려율을 산출한다. 이후, 작업자 A의 촬영 기능요소가 포함된 작업 결과가 n건씩 제출될 될 때마다, 작업자 A 및 작업자 C의 촬영 기능요소가 포함된 작업 결과에 대한 평균 반려율을 산출한다.

이와 같이 산출된 촬영 기능요소에 대한 평균 반려율을 취합하면 작업자 A와 작업자 C의 작업 패턴 정보를 획득할 수 있다. 그리고 작업자 C의 작업 패턴 정보가 작업자 A의 작업 패턴 정보와 유사할 경우 작업자 C를 제2 작업자로 선정할 수 있다.

이때 유사한 작업 패턴 정보에 해당한다 함은, 시간의 흐름에 따른 기능요소별 평균 반려율의 증감 패턴이 유사한 경우를 의미한다. 이는 n건의 단위 제출 건수를 기준으로 작업자 A와 작업자 C의 기능요소별 평균 반려율이 소정의 오차 범위를 만족하며, 만족하는 횟수가 일정 횟수 이상인지 여부로 판단할 수 있다. 이때, 유사한 작업 패턴 정보는 평균 반려율의 증감 패턴을 의미하므로 소정의 오차 범위를 만족하는 일정 횟수는 복수 회임이 바람직하나 반드시 이에 한정되는 것은 아니다.

일 실시예로, 소정의 오차 범위를 만족하는 일정 횟수는 프로젝트의 작업 건수에 비례하여 설정될 수 있다. 예를 들어, 프로젝트의 총 작업 건수가 상대적으로 적은 경우 상기 횟수는 최소 횟수인 1회로 설정될 수도 있으며, 이 경우에는 단위 제출 건수마다 비교한 평균 반려율이 소정의 오차 범위 내인지 여부만으로 작업자 A와 작업자 C의 작업 패턴 정보가 유사한지 여부를 판단할 수 있다.

이와 달리, 프로젝트의 작업 건수가 상대적으로 많은 경우 상기 횟수는 복수 회로 설정될 수도 있으며, 이 경우에는 작업자 A와 작업자 B의 평균 반려율이 소정의 오차 범위를 만족하는 횟수가 복수 회(예를 들어, 4회 이상)이면, 작업자 A와 작업자 C의 작업 패턴 정보가 유사한 것으로 판단할 수 있다.

한편, 도 4와 같이 프로젝트의 기능요소가 복수 개인 경우에는 복수 개의 기능요소별로 평균 반려율을 산출하며, 이때 작업자 간 작업 패턴 정보가 유사한지 여부는 각 기능요소별로 판단하므로, 하나의 기능요소에 대한 작업 패턴 정보만이 유사한 경우에도 해당 작업자를 제2 작업자로 선정할 수 있다.

이와 더불어, 본 발명의 일 실시예는 유사한 작업 패턴 정보를 갖는 작업자(32)를 선정하는 것에서 더 나아가, 선정된 작업자(32)들 중에서 반려사유까지 유사한 작업자(32)를 최종적으로 제2 작업자로 선정할 수 있다.

즉, 서버는 제1 작업자의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖되, 그 횟수가 일정 횟수 이상인 작업자(32)를 대상으로, 제1 작업자의 반려된 작업 결과에 대한 반려사유와 유사한 반려사유를 갖는 작업자(32)를 제2 작업자로 선정할 수 있다(S167).

다시 말해, 시간의 흐름에 따른 기능요소별 평균 반려율의 증감 패턴이 작업자 A의 기능요소별 평균 반려율과 유사한 작업자 C를 대상으로 작업자 D를 추출할 수 있으며, 이때 작업자 D는 작업자 A와 반려사유까지 유사한 작업자(32)를 의미한다.

일 실시예로, 서버는 제1 작업자의 반려사유에 포함된 키워드의 비중과 제2 작업자의 반려사유에 포함된 키워드의 비중의 유사도에 기초하여 유사한 반려사유인지 여부를 판단할 수 있다.

예를 들어, 작업자 A의 현재 작업 수행 건수인 10건의 작업 결과에 대한 반려된 작업 결과 중에서 '흔들림' 키워드가 포함되어 있는 반려사유가 총 4건이 있고, 작업자 C의 10건의 작업 결과에 대한 반려된 작업 결과 중에서 '흔들림' 키워드가 포함되어 있는 반려사유가 총 3건이 있는 경우, 각각의 비중은 40%, 30%로 산출된다.

이때, 각 비중의 유사도에 기초하여 유사 반려사유인지 여부를 판단하는 기준의 일 예로는, 각 비중 간의 편차가 소정의 비율 이하를 만족하는 경우일 수 있다. 예를 들어, 각 비중 간의 편차가 10% 이하를 만족해야 유사 반려사유로 판단되는 경우, 위 예시에서 작업자 A와 작업자 C의 각 비중간 편차는 10%이므로, 작업자 C의 반려사유는 유사 반려사유로 판단될 수 있다.

결국 작업자 C는 작업자 A의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖는 횟수가 일정 횟수 이상이면서, 동시에 유사한 반려사유를 갖는 작업자 D에 해당하므로 제2 작업자로 선정할 수 있다.

한편, 위 예시에서 각 비중 간의 편차에 대한 소정의 비율은 프로젝트에서 요구하는 목표 신뢰도에 기초하여 설정될 수 있다. 즉, 서버는 의뢰자(10)가 요구한 수준 또는 프로젝트의 성격에 따라 요구되는 수준의 신뢰도가 높을수록 해당 비율을 낮게 설정할 수 있다. 또한, 위 예시에서는 하나의 키워드를 예로 들어 설명하였으나 반드시 이에 한정되는 것은 아니며, 복수의 키워드를 종합하여 유사 반려사유 여부를 판단할 수도 있음은 물론이다.

다시 도 3을 참조하면, 서버는 제2 작업자가 선정되고 나면, 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공한다(S170). 이때, 서버는 제1 작업자의 작업 수행에 방해가 되지 않도록 하기 위하여, n건의 단위 제출 건수만큼의 작업 수행이 완료된 때에 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수 있다.

본 발명에서는 다음과 같은 다양한 실시예에 따라 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수 있다. 다만, 본 발명은 후술하는 실시예로 한정되는 것은 아니다.

일 실시예로, 서버는 제2 작업자가 선정되고 나면, 제2 작업자의 모든 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수 있다.

다른 실시예로, 서버는 제1 작업자의 기능요소별 평균 반려율이 기준 비율 이상으로 높은 경우에 한하여 제공할 수 있다.

도 7은 제1 작업자의 기능요소별 평균 반려율에 따라 반려사유를 제공하는 내용을 설명하기 위한 도면이다.

본 발명의 일 실시예는 제2 작업자가 선정된 경우라 하더라도, 제1 작업자의 평균 반려율이 기준 비율(a)을 초과하는 경우에 한하여 제2 작업자의 반려사유를 제공할 수 있다.

즉, 서버는 제1 작업자의 기능요소별 평균 반려율이 기준 비율(a)을 초과하는 n건의 단위 제출 건수의 시점을 검출하고, 해당 시점부터 제1 작업자에게 제2 작업자의 반려된 작업 결과 및 반려사유를 제공한다.

도 7의 예시를 참조하면, 제1 작업자의 촬영 기능요소에 대한 작업 결과의 첫 번째 단위 제출 건수인 20건(1번째~20번째 작업 결과)을 제출한 시점에서의 평균 반려율은 기준 비율(a)을 초과하였으며, 서버는 이 시점부터 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공한다.

이와 같이 제2 작업자의 반려된 작업 결과 및 반려사유가 제공되는 중, 서버는 제1 작업자의 촬영 기능요소에 대한 평균 반려율이 기준 비율(a) 이하가 되는 n 건의 단위 제출 건수의 시점을 검출하면, 해당 시점부터 제1 작업자에 대한 제2 작업자의 반려된 작업 결과 및 반려사유의 제공을 중단한다.

도 7의 예시에서, 두 번째 단위 제출 건수 및 세 번째 단위 제출 건수의 제출 시점에서의 평균 반려율은 여전히 기준 비율(a)를 초과하고 있으나, 네 번째 단위 제출 건수(61번째~80번째 작업 결과)인 20건을 제출한 시점에서의 평균 반려율은 기준 비율(a)보다 낮게 산출되었다. 이 시점 이후부터 서버는 제1 작업자에게 반려된 작업 결과 및 반려사유의 제공을 중단시킬 수 있다.

한편, 본 발명의 일 실시예는 제2 작업자의 반려된 작업 결과 및 반려사유를 제공하는 시점을 판단하기 위한 제1 기준 비율과, 제공을 중단하는 시점을 판단하기 위한 제2 기준 비율을 서로 다르게 설정하여 운영할 수 있다.

일 예로, 제1 기준 비율은 제2 기준 비율보다 높게 설정될 수 있다.

이 경우, 제1 작업자의 기능요소별 평균 반려율이 제1 기준 비율을 초과함에 따라 제1 작업자에게 제2 작업자의 반려된 작업 결과 및 반려사유를 제공하되, 제1 작업자의 기능요소별 평균 반려율이 제1 기준 비율보다 약간 낮아진 경우(제2 기준 비율 이하까지 낮아지지 않은 상태)라 하더라도, 제1 작업자는 아직 해당 기능요소에 덜 익숙해진 상태인 것으로 볼 수 있는바, 서버는 계속하여 반려사유를 제공할 수 있다.

이후, 제1 작업자의 기능요소별 평균 반려율이 제1 기준 비율보다 낮은 제2 기준 비율 이하가 되는 경우, 해당 기능요소에 익숙해진 것으로 볼 수 있는바, 이 경우 서버는 반려사유의 제공을 중단할 수 있다.

또 다른 실시예로, 서버는 제1 작업자의 의사에 따라 제2 작업자의 반려사유를 제공할 수도 있다.

이를 위해, 서버는 "확인이 필요한 반려사유가 있습니다."와 같은 메시지와 같이 확인 가능한 제2 작업자의 반려된 작업 결과 및 반려사유가 있음을 제1 작업자에게 안내할 수 있다.

그리고 서버는 제1 작업자의 선택 입력을 수신함에 따라, 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수 있다.

이와 달리, 서버는 확인 가능한 반려사유가 있음을 제1 작업자에게 안내하고, 안내된 반려사유에 대하여 제1 작업자가 반드시 확인하도록 강제할 수도 있다.

위와 같은 각 실시예를 만족함에 따라, 서버는 제2 작업자의 반려사유를 제1 작업자에게 제공할 수 있으며, 전술한 각 실시예에는 후술하는 적어도 하나의 사항이 적용될 수 있다.

일 실시예로, 서버는 제1 작업자의 현재 작업 수행 건수에 대응하는 제2 작업자의 작업 수행 건수 이후에 제출되어 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수 있다.

예를 들어, 제1 작업자가 현재 30건의 작업을 수행한 상태에서, 제2 작업자는 현재 40건의 작업을 수행한 경우, 제2 작업자의 31번째부터 40번째 작업 수행 건 중에서 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수 있다. 즉, 본 발명의 일 실시예는 제1 작업자가 현재까지 수행한 작업 이후에 작업을 수행하는 과정에서 도움을 받을 수 있는 타 작업자의 반려사유를 제공할 수 있다.

또한, 본 발명의 일 실시예는 제2 작업자의 모든 반려사유를 제1 작업자에게 제공하는 것이 아니라, 제2 작업자의 특정 반려사유를 선별적으로 제공할 수 있다.

즉, 서버는 제2 작업자의 반려된 작업 결과 중에서 유사한 작업 패턴 정보를 갖는 기능요소별 반려된 작업 결과 및 이의 반려사유를 제1 작업자에게 제공할 수 있다.

예를 들어, 제1 작업자와 제2 작업자가 촬영 기능요소에 대하여 유사한 작업 패턴 정보를 갖는 것으로 분석된 경우, 제1 작업자에게 제2 작업자의 반려사유를 제공시, 촬영 기능요소, 이미지 바운딩 기능요소, 레코딩 기능요소에 해당하는 반려된 작업 결과 및 반려사유를 모두 제공하는 것이 아니라, 유사한 작업 패턴을 보인 촬영 기능요소에 해당하는 반려된 작업 결과 및 반려사유만을 제공할 수 있다.

이와 같이, 본 발명의 일 실시예는 기능요소별 평균 반려율 산출시 이용된 기능요소에 대응하는 반려된 작업 결과 및 반려사유만을 제1 작업자에게 제공함으로써, 제1 작업자는 특정 기능요소로 인해 자주 반려되던 작업에 대한 제2 작업자의 특정 반려사유 확인을 통해, 후속되는 작업 수행시 특정 기능요소로 인한 반려율을 더욱 낮출 수 있다는 장점이 있다.

또한, 본 발명의 일 실시예에서 서버는 제2 작업자가 복수 명인 경우, 작업 패턴 정보가 가장 유사한 제2 작업자를 추출하여 해당 작업자의 반려사유를 제공할 수 있으며, 작업 패턴 정보의 유사도가 높은 순서에 따라 선별된 m명(이때, m은 자연수)의 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공할 수도 있다.

또는, 본 발명의 일 실시예에서 서버는 제2 작업자가 복수 명인 경우, 신규 작업자인 제1 작업자에게는 복수의 제2 작업자의 반려된 작업 결과 및 반려사유 전부를 제공하거나 유사도가 높은 순서에 따라 선별된 m명의 제2 작업자의 반려된 작업 결과 및 반려사유를 제공할 수 있다.

이와 달리, 제1 작업자가 비신규 작업자인 경우에는 작업 패턴 정보가 가장 유사한 제2 작업자를 추출하여 해당 작업자의 반려사유를 제공할 수도 있다.

여기에서, 신규 작업자인지 여부는 프로젝트에 참여 중인 전체 작업자 대비 작업 수행 건수로 결정될 수 있다.

그밖에, 본 발명의 일 실시예서 서버는 제2 작업자의 프로젝트에 대한 문답사항을 반려된 작업 결과 및 반려사유와 함께 제1 작업자에게 제공할 수 있다.

예를 들어, 제1 작업자에게 제공해야 할 제2 작업자의 반려된 작업 결과 중에서, 제2 작업자가 작업 수행시 프로젝트 관리자에게 문의하여 답변을 받은 사항이 있는 반려된 작업 결과가 있는 경우, 서버는 해당 작업 결과 및 반려사유를 제1 작업자에게 제공시 문답사항을 함께 제공할 수 있다.

한편, 상술한 설명에서, 단계 S11 내지 S170은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 8의 내용은 도 1 내지 도 7의 크라우드소싱 기반 프로젝트의 작업자(32)별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법에도 적용될 수 있다.

이하에서는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자(32)별 유사 작업 패턴 정보에 기반한 반려사유 제공 장치(200, 이하 반려사유 제공 장치)에 대하여 설명하도록 한다.

도 8은 본 발명의 일 실시예에 따른 반려사유 제공 장치(200)를 설명하기 위한 도면이다.

도 8을 참조하면, 따른 반려사유 제공 장치(200)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.

통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 또한, 반려된 작업 결과에 대한 예상 재작업 시간을 검수자(34)에게 제공하며, 검수자(34)로부터 반려된 작업 결과에 대한 검수 포기 여부의 선택 입력을 수신한다.

메모리(220)에는 작업자(32) 간의 작업 패턴 정보의 유사 여부에 기초하여, 유사한 작업 패턴 정보를 갖는 제2 작업자의 반려된 작업결과 및 반려사유를 제1 작업자에게 제공하기 위한 프로그램이 저장된다.

프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 복수의 작업자(32) 각각에 대하여 작업 결과 및 검수 결과에 기초한 히스토리 정보를 추출하고, 히스토리 정보에 기초하여 복수의 작업자(32) 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정한 후, 제2 작업자의 반려된 작업 결과 및 반려사유를 제1 작업자에게 제공한다.

도 8을 참조하여 설명한 반려사유 제공 장차(200)는 상술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업자(32)별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
200 : 반려사유 제공 장치
210 : 통신모듈
220 : 메모리
230 : 프로세서

Claims (12)

1. 크라우드소싱 플랫폼 서버(이하, "서버")에 의해 수행되는 방법으로서,
   상기 서버가 크라우드소싱 기반 프로젝트(이하, “프로젝트”)의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계;
   상기 서버가 상기 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계;
   상기 서버가 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
   상기 서버가 상기 복수의 검수자로부터 상기 복수의 작업 결과 중 검수 완료된 작업 결과에 대한 검수 결과로 검수 통과 또는 반려를 입력받는 단계;
   상기 서버가 상기 복수의 작업자 각각에 대하여 상기 작업 결과 및 검수 결과에 기초한 히스토리 정보를 추출하는 단계;
   상기 서버가 상기 히스토리 정보에 기초하여 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계; 및
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계를 포함하며,
   상기 히스토리 정보를 추출하는 단계는,
   상기 복수의 작업자 각각의 작업 수행 건수 및 기능요소별 평균 반려율을 상기 히스토리 정보로 추출하되,
   상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고,
   상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이며,
   상기 기능요소별 평균 반려율은 각 작업자의 n건(n은 2이상의 자연수)의 작업 결과에 대한 단위 제출 건수마다 산출되고,
   상기 서버가 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계는,
   상기 서버가 상기 제1 작업자보다 먼저 상기 프로젝트에 참여한 적어도 하나의 후보 작업자를 선정하는 단계; 및
   상기 서버가 상기 제1 작업자의 상기 n건의 단위 제출 건수를 기준으로, 상기 후보 작업자 중에서 상기 제1 작업자의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖는 횟수가 일정 횟수 이상인 작업자를, 상기 유사한 작업 패턴 정보를 갖는 제2 작업자로 선정하는 단계를 포함하며,
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는,
   상기 서버가 상기 제2 작업자가 복수 명인 경우, 상기 작업 패턴 정보가 가장 유사한 제2 작업자 또는 상기 작업 패턴 정보의 유사도가 높은 순서에 따른 m명(m은 자연수)의 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하되,
   상기 제1 작업자의 현재 작업 수행 건수에 대응하는 상기 제2 작업자의 작업 수행 건수 이후에 제출되어 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 것인,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
2. 제1항에 있어서,
   상기 히스토리 정보를 추출하는 단계는,
   상기 서버가 상기 복수의 작업자 각각의 작업 1건당 평균 작업 수행시간 및 상기 프로젝트에서의 문답사항 및 반려된 작업 결과와 반려사유를 상기 히스토리 정보로 추출하는,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
3. 삭제
4. 제2항에 있어서,
   상기 서버가 상기 제1 작업자보다 먼저 상기 프로젝트에 참여한 적어도 하나의 후보 작업자를 선정하는 단계는,
   상기 서버가 상기 제1 작업자보다 먼저 프로젝트에 참여한 작업자에 대한 상기 제1 작업자의 현재 작업 수행 건수에 대응하는 작업 수행 건수에서의 평균 작업 수행시간을 산출하는 단계; 및
   상기 서버가 상기 산출 결과에 기초하여, 상기 제1 작업자의 평균 작업 수행시간과 소정의 오차 범위의 평균 작업 수행시간을 갖는 작업자를 상기 후보 작업자로 선정하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
5. 제2항에 있어서,
   상기 서버가 상기 복수의 작업자 중 제1 작업자의 작업 패턴 정보와 유사한 작업 패턴 정보를 갖는 적어도 하나의 제2 작업자를 선정하는 단계는,
   상기 제1 작업자의 기능요소별 평균 반려율과 소정의 오차 범위의 기능요소별 평균 반려율을 갖는 횟수가 일정 횟수 이상인 작업자를 대상으로, 상기 제1 작업자의 상기 반려된 작업 결과에 대한 반려사유와 유사한 반려사유를 갖는 작업자를 상기 제2 작업자로 선정하되,
   상기 유사한 반려사유는 상기 제1 작업자의 반려사유에 포함된 키워드의 비중과 상기 제2 작업자의 반려사유에 포함된 키워드의 비중의 유사도에 기초하여 결정되는 것인,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
6. 제2항에 있어서,
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는,
   상기 서버가 상기 제1 작업자의 상기 기능요소별 평균 반려율이 기준 비율을 초과하는 단위 제출 건수의 시점부터 상기 제1 작업자에게 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 제공하는 단계; 및
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유가 제공되는 중, 상기 제1 작업자의 상기 기능요소별 평균 반려율이 상기 기준 비율 이하가 되는 단위 제출 건수의 시점부터 상기 제1 작업자에 대한 상기 제2 작업자의 반려된 작업 결과 및 반려사유의 제공을 중단하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
7. 제2항에 있어서,
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는,
   상기 서버가 확인 가능한 상기 제2 작업자의 반려된 작업 결과 및 반려사유가 있음을 상기 제1 작업자에게 안내하는 단계; 및
   상기 서버가 상기 제1 작업자의 선택 입력을 수신함에 따라, 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계를 포함하는,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
8. 제2항에 있어서,
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는,
   상기 제2 작업자의 반려된 작업 결과 중 상기 유사한 작업 패턴 정보를 갖는 기능요소별 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 것인,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
9. 제2항에 있어서,
   상기 서버가 상기 제2 작업자의 반려된 작업 결과 및 반려사유를 상기 제1 작업자에게 제공하는 단계는,
   상기 제2 작업자의 상기 프로젝트에 대한 문답사항을 상기 반려된 작업 결과 및 반려사유와 함께 상기 제1 작업자에게 제공하는 것인,
   크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법.
   
10. 삭제
11. 삭제
12. 컴퓨터와 결합되어, 제1항, 제2항 및 제4항 내지 제9항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

Images