KR102205809B1 - 인공지능 학습데이터 생성을 위한 다중 할당 방식의 크라우드소싱 기반 프로젝트의 일정 산출 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 다중 할당 방식의 크라우드소싱 기반 프로젝트의 일정 산출 방법이 제공된다. 상기 방법은 크라우드소싱 플랫폼의 복수의 작업자 각각의 신뢰도를 산출하는 단계, 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정하는 단계, 상기 프로젝트의 목표 신뢰도에 상응하는 예상 일정을 산출하는 단계 및 상기 산출된 예상 일정을 상기 프로젝트의 의뢰자에게 제공하는 단계를 포함하고, 상기 다중 할당 방식의 프로젝트는, 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업을 포함하고, 상기 신뢰도를 산출하는 단계는, 상기 작업자가 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과를 입력한 건수를 산출하는 단계와, 상기 작업자의 다중 할당된 작업을 수행한 전체 건수 대비 상기 다수 의견에 해당하는 작업 결과를 입력한 건수로 상기 작업자의 신뢰도를 산출하는 단계를 포함하고, 상기 프로젝트의 예상 일정을 산출하는 단계는, 상기 신뢰도가 상기 프로젝트의 목표 신뢰도 이상인 작업자를 추출하는 단계와, 상기 추출된 작업자의 작업 1건당 평균 작업 시간을 산출하는 단계와 상기 산출된 작업 1건당 평균 작업 시간 및 상기 프로젝트의 총 작업 건수에 기초하여, 상기 프로젝트의 예상 일정을 산출하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 다중 할당 방식의 크라우드소싱 기반 프로젝트의 일정 산출 방법{METHOD FOR CALCULATING SCHEDULE OF MULTI-ALLOCATION TYPE CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 인공지능 학습데이터 생성을 위한 다중 할당 방식의 크라우드소싱 기반 프로젝트의 일정 산출 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

구체적으로, 하나의 프로젝트가 오픈 되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.

이때, 크라우드소싱 기반의 프로젝트 중에서는 동일한 작업을 다수의 작업자에게 중복 배정하여 작업 수행할 것을 요청하고, 동일한 작업에 대한 복수의 작업 결과를 수집하여 필요한 데이터를 생산하는 방식을 채택하기도 한다.

이러한 유형의 프로젝트의 작업은 각각의 작업마다 정해진 답안이 존재하는 것이 아니며, 다수의 작업자에 의해 작성된 작업 결과를 비교하여 해당 작업 결과의 유효성을 판단하는 방식을 사용한다. 이러한 유효성 판단 방식을 사용하는 경우, 상술한 검수자는 해당 프로젝트에 참여하지 않을 수 있다.

만약, 검수자가 참여하지 않는 이러한 유형의 프로젝트에 대한, 작업자의 참여를 무분별하게 인정한다면, 품질이 우수한 작업 결과의 생산을 보장하는 것은 어렵다. 이는 프로젝트를 의뢰한 기업이 원하는 수준만큼의 유효한 작업 결과 데이터의 확보를 보장할 수 없다는 문제로 이어진다.

따라서, 이러한 유형의 프로젝트의 경우 유효한 데이터의 생산이 오직 작업자의 작업 결과에 의존하므로, 작업 능력이 뛰어나거나 신뢰할 수 있는 작업자를 참여시키는 것이 바람직하다.

또한, 오픈 되어 진행 중인 프로젝트의 일정이 예상보다 지연되는 경우에 해당 프로젝트의 일정을 중도에 조정하는 것은 어려운 일이다. 추가 예산과 추가 인원을 필요로 하기 때문이다. 따라서, 프로젝트를 오픈 하기 전에, 프로젝트의 의뢰자가 프로젝트에 참여하는 작업자의 수를 조정하여 예상 일정을 계획함으로써, 프로젝트의 일정이 지연되는 것을 사전에 방지하는 방안이 필요하다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 다중 할당 방식의 크라우드소싱 기반 프로젝트의 일정 산출 방법을 제공하는 것이다.

본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 하나의 작업을 다수의 작업자에게 중복 배정하는 다중 할당 방식의 크라우드소싱 기반 프로젝트의 일정 산출 방법은, 컴퓨터에 의해 수행되는 방법으로서, 상기 다중 할당 방식의 프로젝트와 관련하여, 크라우드소싱 플랫폼의 복수의 작업자 각각의 신뢰도를 산출하는 단계, 오픈 예정인 소정의 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정하는 단계, 상기 프로젝트의 목표 신뢰도에 상응하는 상기 프로젝트의 예상 일정을 산출하는 단계, 및 상기 산출된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자에게 제공하는 단계를 포함하고, 상기 다중 할당 방식의 프로젝트는, 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업을 포함하고, 상기 복수의 작업자 각각의 신뢰도를 산출하는 단계는, 상기 다중 할당 방식의 프로젝트와 관련하여, 상기 작업자가 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과를 입력한 건수를 산출하는 단계와, 상기 작업자의 다중 할당된 작업을 수행한 전체 건수 대비 상기 다수 의견에 해당하는 작업 결과를 입력한 건수로 상기 작업자의 신뢰도를 산출하는 단계를 포함하고, 상기 프로젝트의 예상 일정을 산출하는 단계는, 상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 프로젝트의 목표 신뢰도 이상인 하나 이상의 작업자를 추출하는 단계와, 상기 추출된 하나 이상의 작업자의 작업 1건당 평균 작업 시간을 산출하는 단계와, 상기 산출된 작업 1건당 평균 작업 시간 및 상기 프로젝트의 총 작업 건수에 기초하여, 상기 프로젝트의 예상 일정을 산출하는 단계를 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 작업자의 신뢰도를 산출하는 단계는, 상기 작업자의 다중 할당된 작업을 수행한 전체 건수와 관련하여, 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과가 발생하지 않은 경우는 고려하지 않을 수 있다.

본 발명의 일부 실시예에서, 상기 추출된 하나 이상의 작업자의 수 및 상기 산출된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자에게 제공할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은, 상기 오픈 예정인 소정의 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정하는 단계 이전, 상기 의뢰자로부터 오픈 예정 프로젝트의 목표 신뢰도를 입력받는 단계를 더 포함하고, 상기 프로젝트의 목표 신뢰도는 상기 프로젝트의 의뢰자에 의해서 입력된 값에 따라 사전 설정될 수 있다.

본 발명의 일부 실시예에서, 상기 방법은, 상기 예상 일정을 상기 프로젝트의 의뢰자에게 제공하는 단계 이후, 상기 의뢰자로부터 상기 오픈 예정 프로젝트의 변경된 목표 신뢰도를 입력받는 단계, 상기 프로젝트의 변경된 목표 신뢰도에 상응하는 상기 프로젝트의 예상 일정을 산출하는 단계 및 상기 변경된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자에게 제공하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 프로젝트의 예상 일정을 산출하는 단계는, 상기 의뢰자로부터 제1 목표 신뢰도를 입력받은 경우, 상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 제1 목표 신뢰도 이상인 제1 규모의 작업자를 추출하고, 상기 추출된 제1 규모의 작업자의 작업 1건당 평균 작업 시간에 기초하여, 상기 프로젝트의 예상 일정을 제1 기간으로 산출하며, 상기 의뢰자로부터 상기 제1 목표 신뢰도보다 낮은 제2 목표 신뢰도를 입력받은 경우, 상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 제2 목표 신뢰도 이상인 상기 제1 규모보다 큰 제2 규모의 작업자를 추출하고, 상기 추출된 제2 규모의 작업자의 작업 1건당 평균 작업 시간에 기초하여, 상기 프로젝트의 예상 일정을 상기 제1 기간보다 짧은 제2 기간으로 산출할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은 상기 프로젝트에 포함되는 하나 이상의 기능요소의 유형을 판단하는 단계를 더 포함하고, 상기 복수의 작업자 각각의 신뢰도를 산출하는 단계는, 상기 다중 할당 방식의 프로젝트와 관련하여, 플랫폼의 복수의 작업자 각각의 신뢰도를 기능요소의 유형별로 산출하고, 상기 하나 이상의 작업자를 추출하는 단계는, 상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 프로젝트에 포함되는 상기 하나 이상의 기능요소 모두에 대하여 목표 신뢰도 이상인 하나 이상의 작업자를 추출하고, 상기 기능요소는 프로젝트를 수행하기 위한 작업 툴(Tool)에 기반하여 결정되고, 상기 작업 툴은 프로젝트에서 제공되며 작업자의 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴일 수 있다.

본 발명의 일부 실시예에서, 상기 복수의 작업자 각각의 신뢰도를 산출하는 단계는, 상기 작업자의 상기 추출된 하나 이상의 기능요소를 포함하는 다중 할당된 작업을 수행한 전체 건수와 관련하여, 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과가 발생하지 않은 경우는 고려하지 않을 수 있다.

본 발명의 일부 실시예에서, 상기 작업자의 평균 작업 시간을 산출하는 단계는, 상기 추출된 하나 이상의 작업자의 상기 기능요소의 유형별 평균 작업 시간을 산출하고, 상기 프로젝트의 예상 일정을 산출하는 단계는, 상기 산출된 기능요소의 유형별 평균 작업 시간 및 상기 프로젝트의 총 작업 건수에 기초하여, 상기 프로젝트의 예상 일정을 산출할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합하여 상기 크라우드소싱 기반 프로젝트의 일정 산출 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장될 수 있다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 크라우드소싱 플랫폼에 등록된 작업자 각각의 신뢰도를 산출하고, 프로젝트의 의뢰자가 원하는 목표 신뢰도 이상의 신뢰도를 갖는 작업자를 추출함으로써, 프로젝트의 의뢰자가 원하는 품질의 작업 결과를 제공할 수 있는 적합한 작업자를 선별해낼 수 있다.

또한, 프로젝트의 의뢰자가 원하는 목표 신뢰도에 따라 오픈 예정인 프로젝트의 예상 일정을 산출하여 제공함으로써, 프로젝트의 의뢰자는 오픈 전 프로젝트 일정을 계획할 수 있으며, 프로젝트의 일정이 지연되는 것을 사전에 방지할 수 있다.

또한, 프로젝트에 포함되는 기능요소의 유형을 판단하여, 해당 프로젝트에 포함되는 모든 기능요소에 대하여 목표 신뢰도 이상의 신뢰도를 갖는 작업자만을 선별하여 프로젝트에 참여시킴으로써, 더욱 우수한 품질의 작업 결과 확보를 보장할 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 작업자의 주관적 평가를 요구하는 다중 할당 방식의 프로젝트의 작업에 관한 예시도이다.
도 4는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 일정 산출 방법을 개략적으로 나타낸 순서도이다.
도 5는 본 발명의 일 실시예에 따른 작업자의 신뢰도를 산출하는 방법을 개략적으로 나타낸 순서도이다.
도 6은 작업자의 주관적 평가를 요구하는 다중 할당 방식의 프로젝트의 작업에 관한 또 다른 예시도이다.
도 7은 본 발명의 일 실시예에 따른 작업자의 신뢰도를 산출하는 방법을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 프로젝트의 예상 일정을 산출하는 방법을 개략적으로 나타낸 순서도이다.
도 9는 본 발명의 일 실시예에 따른 프로젝트의 예상 일정을 산출하는 방법을 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 변경된 목표 신뢰도를 기초로 변경된 예상 일정을 산출하는 방법을 개략적으로 나타낸 순서도이다.
도 11은 태깅 기능요소를 포함한 다중 할당 방식의 프로젝트의 작업을 수행한 복수의 작업자의 작업 결과를 나타낸 예시도이다.
도 12는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 일정 산출 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈 된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

이하에서는 도 3 내지 도 12를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 일정 산출 방법을 설명한다. 앞서 도 1 및 도 2를 참조하여 설명한 크라우드소싱 서비스의 구성 및 크라우드소싱 기반 프로젝트의 진행 프로세스와 관련하여 중복되는 내용은 그 상세한 설명을 생략한다.

한편, 도 4, 도 5, 도 8 및 도 10에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

도 3은 작업자의 주관적 평가를 요구하는 다중 할당 방식의 프로젝트의 작업에 관한 예시도이다.

본 발명의 일 실시예에 따라, 프로젝트는 하나의 작업을 다수의 작업자에게 중복 배정하는 다중 할당 방식을 채택한다. 이때, 하나의 작업마다 작업을 수행하는 작업자의 수는 프로젝트의 모든 작업에 있어 동일하다. 예를 들어, 특정 작업을 3명의 작업자에게 중복 배정한 경우, 이를 제외한 나머지 모든 작업 또한 3명의 작업자에게 중복 배정된다. 또한, 후술하는 바와 같이, 다수 의견을 결정하기 위하여, 동일한 작업을 배정받는 작업자의 수는 홀수일 수 있으나 이에 제한되는 것은 아니다. 그리고, 각각의 작업자는 임의의 작업을 랜덤하게 배정받는다.

한편, 본 발명의 일 실시예에 따라 다중 할당 방식의 프로젝트는, 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업을 포함한다.

도 3을 참조하면, 문장 단위 감정 라벨링에 관한 작업을 배정받은 작업자는 제시된 문장의 텍스트를 읽고, 느껴지는 분위기를 평가하여 답안을 선택하여야 한다. 즉, 해당 작업을 중복 배정받은 다수의 작업자는 각각의 주관적 판단에 기초하여 해당 텍스트의 분위기가 부정적인지, 중립적인지 아니면 긍정적인지를 선택하게 될 것이다.

도 3에서 제시된 작업과 동일한 유형의 작업의 경우 정해진 답안이 존재하지 않는다. 해당 작업을 수행하는 작업자 개인의 주관적 판단에 기초하여 작업 결과로서 특정 답안을 선택할 것을 요구하기 때문이다. 이때, 해당 작업을 중복 배정받은 다수의 작업자에 의해 선택된 다수 의견에 해당하는 답안이 발생하는 경우에 한하여 해당 답안이 유효한 작업 결과로 분류되고 최종 산출물로 프로젝트의 의뢰자(10)에게 제공된다.

다시 말해, 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업을 포함하는 다중 할당 방식의 프로젝트(이하, "프로젝트")에서는 각각의 작업자가 선택한 답안의 정답 여부가 아닌, 다수의 작업자에 의해 선택된 다수 의견에 해당하는 답안의 발생 여부가 문제된다. 따라서 작업 결과로서 정해진 답안이 존재하지 않으므로 검수를 수행하는 검수자는 상기 프로젝트에서 제외될 수 있다.

이하, 본 발명의 일 실시예인 프로젝트의 일정 산출 방법에 관하여 설명한다.

도 4는 본 발명의 일 실시예에 따른, 크라우드소싱 기반 프로젝트의 일정 산출 방법을 개략적으로 나타낸 순서도이다.

먼저, 크라우드소싱 플랫폼(이하, "플랫폼")에 등록된 복수의 작업자 각각의 신뢰도를 산출한다(S110).

여기서 신뢰도는, 주관적 평가가 요구되는 질문에 대한 답변을 작업자가 선택하는 작업을 포함하는, 다중 할당 방식의 프로젝트에 참여하여 작업 수행의 결과로 얼마나 많은 유효 데이터를 생산해 냈는지를 평가하기 위한 지표이다. 즉, 신뢰도는 작업자가 정해진 정답을 선택하였는지 또는 정해진 정답을 작성하였는지를 평가하는 정답률과는 다른 의미를 갖는다.

작업자의 신뢰도를 산출하는 방법은 다음과 같다.

도 5는 본 발명의 일 실시예에 따른, 작업자의 신뢰도를 산출하는 방법을 개략적으로 나타낸 순서도이고, 6은 작업자의 주관적 평가를 요구하는 다중 할당 방식의 프로젝트의 작업에 관한 또 다른 예시도이고, 도 7은 본 발명의 일 실시예에 따른 작업자의 신뢰도를 산출하는 방법을 설명하기 위한 도면이다.

도 5를 참조하면, S110 단계에서는, 작업자가 이전에 참여했던 하나 이상의 다중 할당 방식의 프로젝트와 관련하여, 작업자가 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과를 입력한 건수를 산출하고(S111), 작업자의 다중 할당된 작업을 수행한 전체 건수 대비 다수 의견에 해당하는 작업 결과를 입력한 건수로 상기 작업자의 신뢰도를 산출한다(S112).

도 6을 참조하면, 도 6에서 제시된 작업은 작업자의 주관적 판단에 기초하여 주어진 대화를 평가하여 답변을 선택할 것을 요구한다. 이때, 도 6에서 제시된 작업을 배정받은 복수의 작업자는 각각의 주관적 판단에 따라 B의 답변이 기분 나쁜 답변인지를 평가한 후 O 또는 X 답안을 선택할 것이다.

도 7을 참조하면, 도 6에서 제시된 작업 유형의 다중 할당 방식의 프로젝트에 5명의 작업자가 참가하였다고 가정하자. 이때 다중 할당 방식은 3명의 작업자가 같은 작업을 배정받아 수행하는 것이다.

첫번째 작업에 해당하는, 문제1을 수행한 작업자는 작업자1, 작업자2 그리고 작업자3이다. 이때, 문제1의 답안 중에서, O 답안을 선택한 작업자는 작업자 1과 작업자3이다. 그리고 X 답안을 선택한 작업자는 작업자 2로 한 명이다. 따라서, 다수 의견에 해당하는 답안은 O 답안이고, O 답안을 입력한 작업자 1과 작업자3 각각의 신뢰도 산출 시 해당 작업 결과는 다수 의견에 해당하는 작업 결과를 입력한 건수에 포함된다.

작업자 1이 수행한 전체 건수는 3건(문제1 내지 문제3)이다. 그리고 작업자 1이 다수 의견에 해당하는 작업 결과를 입력한 건수는 2건(문제1 및 문제2)이다. 따라서 작업자 1의 신뢰도의 값은 2/3로 산출된다. 이를 퍼센트로 환산하면 작업자 1의 신뢰도는 약 66.67%이다.

이와 같은 방식으로 다른 작업자의 신뢰도를 산출하면, 작업자 2는 약 33.33%, 작업자 3과 작업자 5는 약 66.67% 그리고 작업자 4는 100%의 신뢰도를 갖는다.

도 6 및 도 7에서는 하나의 프로젝트와 관련해서만 설명하였으나, 상술한 바와 같이, 작업자가 이전에 참여했던 하나 이상의 다중 할당 방식의 프로젝트와 관련하여, 작업자가 작업을 수행한 전체 건수 대비 다수 의견에 해당하는 작업 결과를 입력한 건수로서 작업자의 신뢰도가 산출된다.

한편, 본 발명의 일 실시예에 따라, S110 단계는, 작업자의 다중 할당된 작업을 수행한 전체 건수와 관련하여, 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과가 발생하지 않은 경우는 고려하지 않을 수 있다.

구체적으로, 같은 작업을 배정받은 작업자에 의해 선택된 답변 중 다수 의견에 해당하는 답변이 발생하지 않은 경우에는 해당 작업에 대한 작업 결과는 유효 데이터로 분류되지 않으므로, 해당 작업은 작업자의 다중 할당된 작업을 수행한 전체 건수를 산출할 때, 합산되지 않는다. 그리고 다수 의견에 해당하는 답변이 발생하지 않은 작업은 다른 복수의 작업자를 대상으로 하여 다시 배정된다.

예를 들어, 다시 도 3을 참조하면, 문장 단위 감정 라벨링의 해당 작업이 3명의 작업자에게 배정된 후, 3명의 작업자가 부정적, 중립, 긍정적의 답변을 각각 선택하였다면, 다수 의견에 해당하는 답변은 발생하지 않게 된다. 따라서 해당 작업은 3명의 작업자 각각의 신뢰도를 산출하는데 기초가 되는 전체 건수에 포함되지 않는다.

또 다른 예를 들어, 다시 도 3을 참조하면, 해당 작업이 5명의 작업자에게 배정된 후, 2명의 작업자가 부정적 답변을 선택하고 또 다른 2명의 작업자가 긍정적 답변을 선택하고 나머지 1명의 작업자가 중립의 답변을 선택하였다고 가정한다. 이 경우에도 마찬가지로 2명의 작업자가 선택한 답변은 2개이다. 따라서 다수 의견에 해당하는 답변이 발생하지 않으므로 해당 작업은 5명의 작업자 각각의 신뢰도를 산출하는데 기초가 되는 전체 건수에 포함되지 않는다.

다시 도 4를 참조하면, 플랫폼의 복수의 작업자 각각의 신뢰도를 산출한 이후(S110), 오픈 예정인 소정의 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정한다(S120).

이때, 본 발명의 일 실시예로, 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정하기 이전에, 프로젝트의 의뢰자로부터 오픈 예정 프로젝트의 목표 신뢰도를 입력받을 수 있다. 그리고 프로젝트의 목표 신뢰도는 프로젝트의 의뢰자에 의해서 입력된 값에 따라 사전 설정된다.

구체적으로, 프로젝트의 의뢰자가 제공받는 최종 산출물 데이터의 신뢰도와 관련하여 의뢰자(10)가 원하는 신뢰도 값을 입력하면, 상기 입력된 신뢰도 값에 의해 오픈 예정의 프로젝트의 목표 신뢰도가 설정된다. 이렇게 설정된 목표 신뢰도는 이후, 프로젝트에 참여하게 될 작업자를 추출하기 위한 기준이 된다. 그리고 후술하는 바와 같이, 추출된 작업자의 평균 작업 시간에 기초하여 프로젝트의 예상 일정이 산출되게 된다.

다시 도 4를 참조하면, 오픈 예정인 소정의 다중 할당 방식의 프로젝트의 목표 신뢰도가 설정되면(S120), 상기 프로젝트의 목표 신뢰도에 상응하는 프로젝트의 예상 일정을 산출한다(S130).

도 8은 본 발명의 일 실시예에 따른, 프로젝트의 예상 일정을 산출하는 방법을 개략적으로 나타낸 순서도이고, 도 9는 본 발명의 일 실시예에 따른 프로젝트의 예상 일정을 산출하는 방법을 설명하기 위한 도면이다.

이하, 도 8 및 도 9를 참조하여 프로젝트의 예상 일정을 산출하는 방법에 대하여 구체적으로 설명한다.

본 발명의 일 실시예로 도 8을 참조하면, S130 단계는 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 프로젝트의 목표 신뢰도 이상인 하나 이상의 작업자를 추출하는 단계(S131)와, 상기 추출된 하나 이상의 작업자의 작업 1건당 평균 작업 시간을 산출하는 단계(S132)와, 상기 산출된 작업 1건당 평균 작업 시간 및 상기 프로젝트의 총 작업 건수에 기초하여, 상기 프로젝트의 예상 일정을 산출하는 단계(S133)를 포함한다.

먼저, S120 단계에서 설정된 프로젝트의 목표 신뢰도를 기준으로 플랫폼의 복수의 작업자 중 신뢰도가 상기 목표 신뢰도 이상인 하나 이상의 작업자를 추출한다(S131).

예를 들어, 도 7을 참조하면, S120 단계에서 프로젝트의 목표 신뢰도가 60%로 설정되었다면(또는 프로젝트의 의뢰자로부터 60%의 목표 신뢰도를 입력받아 설정되었다면), 복수의 작업자 중 작업자 1 및 작업자 3 내지 작업자 5까지 4명의 작업자가 추출될 것이다.

이와 같이 프로젝트의 목표 신뢰도 이상의 신뢰도를 가진 작업자만을 해당 프로젝트에 참여하도록 함으로써, 프로젝트의 의뢰자(10)가 원하는 목표 신뢰도 이상의 신뢰도를 갖는 최종 산출물을 제공할 수 있을 것이다.

한편, 본 발명의 일 실시예로, S120 단계에서 추출된 작업자는 각각 신뢰도에 대응하는 작업 건수로 작업을 배정받을 수 있다. 즉, 추출된 작업자 중에서 신뢰도가 높은 작업자에게는 더 많은 작업을 배정하는 것이다. 이를 통해 신뢰도가 높은 작업자일수록 많은 작업을 수행함으로써, 목표 신뢰도 이상의 신뢰도를 갖는 품질이 뛰어난 작업 결과를 의뢰자에게 제공할 수 있다.

S131 단계에서 목표 신뢰도 이상의 신뢰도를 갖는 하나 이상의 작업자를 추출한 후에는, 추출된 하나 이상의 작업자의 작업 1건당 평균 작업 시간을 산출한다(S132).

구체적으로, 작업자가 수행한 총 작업 건수와 총 작업 수행 시간을 산출하여 작업 1건당 소요되는 평균 시간을 산출한다. 예를 들어, 총 작업 수행 시간을 총 작업 건수로 나누어 작업 1건당 소요되는 평균 시간을 산출할 수 있다.

이때, 본 발명의 일 실시예로, 상기 작업 건수와 작업 수행 시간은 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업에 한하여 산출될 수 있으나 이에 한정하는 것은 아니다.

S132 단계에서 산출된 작업자의 작업 1건당 소요되는 평균 작업 시간 및 프로젝트의 총 작업 건수에 기초하여, 해당 프로젝트의 예상 일정을 산출한다(S133).

구체적으로, 작업자의 작업 1건당 소요되는 평균 작업 시간에 기초하여, 해당 프로젝트에 참여할 수 있는 총 작업자의 작업 1건당 소요되는 평균 작업 시간을 산출한다. 그리고 산출된 총 작업자의 작업 1건당 소요되는 평균 작업 시간과 프로젝트의 총 작업 건수에 기초하여 프로젝트의 예상 일정을 산출한다.

예를 들어, 도 9를 참조하면 프로젝트의 목표 신뢰도가 80%로 설정된 경우 S120 단계에서 작업자 4, 한 명만이 추출된다. 작업자 4의 작업 1건당 평균 작업 시간은 0.4시간이다. 프로젝트에 총 작업 건수가 100건인 경우, 프로젝트의 예상 일정은 40시간으로 산출된다.

한편, 본 발명의 일 실시예로 하나 이상의 작업자의 일일(1 Day) 평균 작업 시간을 더 산출하고, 일일 평균 작업 시간, 작업 1건당 소요되는 평균 작업 시간 및 프로젝트의 총 작업 건수에 기초하여 프로젝트의 예상 일정을 산출할 수 있다.

다시 도 9를 참조하면, 프로젝트의 목표 신뢰도가 80%이고, 작업자 4의 일일 평균 작업 시간이 4시간인 경우 프로젝트의 예상 일정은 10일로 산출된다.

또한, 본 발명의 일 실시예로 하나 이상의 작업자의 산출된 작업 1건당 평균 작업 시간과 상기 작업자의 일일 평균 작업 시간에 기초하여 일일 평균 작업 건수를 산출하고, 상기 산출된 일일 평균 작업 건수 및 프로젝트의 총 작업 건수에 기초하여 프로젝트의 예상 일정을 산출할 수도 있을 것이다.

예를 들어, 도 9를 참조하면, 프로젝트의 목표 신뢰도가 60%로 설정된 경우, S120 단계에서 작업자는 상기 목표 신뢰도인 60% 이상의 신뢰도를 갖는 작업자 1, 작업자 3, 작업자 4 그리고 작업자 5가 추출된다. 이때 추출된 4명의 작업자의 일일 평균 작업 시간이 12시간이라고 가정하면, 작업자 1과 작업자 5의 일일 평균 작업 건수는 20건이다. 그리고 작업자 3의 일일 평균 작업 건수는 48건이고 작업자 4의 일일 평균 작업 건수는 30건이다. 따라서 총 작업자의 일일 평균 작업 건수는 32건이다. 만약 프로젝트의 총 작업 건수가 1280건이라고 가정하면, 4명의 작업자가 각각 일일 평균 32건의 작업을 수행하므로, 1280건의 작업을 수행하는데 10일 소요됨을 알 수 있다. 따라서, 프로젝트의 예상 일정은 10일로 산출된다.

한편 본 발명의 일 실시예로, S132 단계에서 산출된 작업 1건당 소요되는 평균 시간에 기초하여 작업 1건당 평균 작업 속도를 산출하고, 상기 산출된 평균 작업 속도에 상응하는 작업 건수로 작업을 배정할 수 있다. 구체적으로, 작업 1건당 소요되는 평균 시간이 짧을 수록(작업 속도가 빠를수록) 많은 작업을 배정하여, S133 단계에서 산출된 예상 일정까지 프로젝트가 완료될 수 있도록 하고, 무엇보다 프로젝트의 일정이 지연되는 것을 방지할 수도 있을 것이다.

프로젝트의 목표 신뢰도에 상응하는 프로젝트의 예상 일정을 산출한 후 산출된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자에게 제공한다(S140).

이때, 본 발명의 일 실시예로 추출된 하나 이상의 작업자의 수 및 산출된 프로젝트의 예상 일정을 프로젝트의 의뢰자에게 제공할 수 있다.

이를 통해, 프로젝트의 의뢰자는 프로젝트에 참여하게 되는 작업자의 수 및 산출된 예상 일정을 검토하여 해당 프로젝트의 목표 신뢰도를 유지할 것인지를 결정할 수 있을 것이다. 만약 산출된 프로젝트의 예상 일정이 의뢰자가 예상한 일정보다 느린 경우, 의뢰자는 프로젝트의 목표 신뢰도를 낮춤으로써 해당 프로젝트에 참여하게 되는 작업자의 수를 증가시키고 궁극적으로 프로젝트의 예상 일정을 앞당길 수 있을 것이다. 이와 관련한 본 발명의 실시예를 아래에서 설명한다.

도 10은 본 발명의 일 실시예에 따른, 변경된 목표 신뢰도를 기초로 변경된 예상 일정을 산출하는 방법을 개략적으로 나타낸 순서도이다.

도 10을 참조하면, 본 발명의 일 실시예로, 프로젝트의 의뢰자로부터 오픈 예정 프로젝트의 목표 신뢰도를 입력받은 경우, 예상 일정을 제공받은 의뢰자는 오픈 예정 프로젝트의 변경된 목표 신뢰도를 입력할 수 있다(S150). 그리고 프로젝트의 의뢰자가 변경된 목표 신뢰도를 입력하면, 프로젝트의 변경된 목표 신뢰도에 상응하는 프로젝트의 예상 일정을 산출하고(S160), 변경된 프로젝트의 예상 일정을 프로젝트의 의뢰자에게 제공한다(S170).

한편, S150 단계는 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 프로젝트의 변경된 목표 신뢰도 이상인 하나 이상의 작업자를 추출하는 단계(미도시)와, 추출된 하나 이상의 작업자의 작업 1건당 평균 작업 시간을 산출하는 단계(미도시)와, 산출된 작업 1건당 평균 작업 시간 및 프로젝트의 총 작업 건수에 기초하여, 프로젝트의 예상 일정을 산출하는 단계(미도시)를 포함한다. 이에 관한 자세한 설명은 도 8 및 도 9를 참조하여 상술한 바와 실질적으로 동일하므로 생략하도록 한다.

이와 같이 프로젝트의 의뢰자는 신뢰도를 변경하여, 프로젝트의 일정을 조율할 수 있을 것이다. 예를 들어, S140 단계에서 제공된 프로젝트의 예상 일정이 여유로운 경우에는 프로젝트의 신뢰도를 상향 변경하여, 최종 산출물의 품질을 향상시키고, 예상 일정을 좀 더 연기시킬 수 있을 것이다.

한편, 본 발명의 일 실시예로, 변경된 목표 신뢰도에 기초하여 프로젝트의 예상 일정을 산출하는 단계는, 의뢰자(10)로부터 제1 목표 신뢰도를 입력받은 경우, 플랫폼의 복수의 작업자 중 신뢰도가 제1 목표 신뢰도 이상인 제1 규모의 작업자를 추출하고, 추출된 제1 규모의 작업자의 작업 1건당 평균 작업 시간에 기초하여, 프로젝트의 예상 일정을 제1 기간으로 산출하며, 의뢰자(10)로부터 상기 제1 목표 신뢰도보다 낮은 제2 목표 신뢰도를 입력받은 경우, 플랫폼의 복수의 작업자 중 신뢰도가 제2 목표 신뢰도 이상인 제1 규모보다 큰 제2 규모의 작업자를 추출하고, 추출된 제2 규모의 작업자의 작업 1건당 평균 작업 시간에 기초하여, 프로젝트의 예상 일정을 제1 기간보다 짧은 제2 기간으로 산출할 수 있다.

도 9를 참조하면, 의뢰자(10)로부터 제1 목표 신뢰도를 80%로 입력받은 경우, 플랫폼의 복수의 작업자 중 신뢰도가 80% 이상인 작업자인 1명의 작업자(작업자 4)가 추출된다. 그리고 작업자 4의 작업 1건당 평균 작업 시간에 기초하여, 프로젝트의 예상 일정을 산출하게 될 것이다.

반면에, 의뢰자(10)로부터 80%보다 낮은 60%의 제2 목표 신뢰도를 입력받은 경우, 플랫폼의 복수의 작업자 중에서 4명의 작업자(작업자 1, 작업자 3, 작업자 4, 작업자 5)가 추출된다. 이때, 4명의 작업자의 작업 1건당 평균 작업 시간에 기초하여 산출된 프로젝트의 예상 일정은 1명의 작업자(작업자 4)를 기초로 산출된 예상 일정 보다 짧은 기간으로 산출될 것이다.

한편, 작업자의 신뢰도는 프로젝트에 포함되는 기능요소의 유형에 따라 상이할 수 있다. 작업자마다 선호하거나 익숙한 기능요소의 유형이 존재하고, 이러한 기능요소의 유형을 포함한 프로젝트에 참여하였을 때 작업자의 능력이 잘 발휘될 수 있으며 작업 결과의 품질 또한 우수할 수 있기 때문이다. 이와 관련된 본 발명의 실시예를 아래에서 설명한다.

도 11은 태깅 기능요소가 포함된 다중 할당 방식의 프로젝트의 작업을 수행한 복수의 작업자의 작업 결과를 나타낸 예시도이다.

본 발명의 일 실시예로, 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업을 포함하는 다중 할당 방식의 프로젝트에 포함되는 하나 이상의 기능요소의 유형을 판단하는 단계(미도시)를 더 포함하고, S100 단계는 다중 할당 방식의 프로젝트와 관련하여, 플랫폼의 복수의 작업자 각각의 신뢰도를 기능요소의 유형별로 산출하고, S131 단계는 플랫폼의 복수의 작업자 중 신뢰도가 프로젝트에 포함되는 하나 이상의 기능요소 모두에 대하여 목표 신뢰도 이상인 하나 이상의 작업자를 추출할 수 있다.

이때, 기능요소는, 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 작업툴은 프로젝트에서 제공되며 작업자가 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴일 수 있다. 예를 들어, 프로젝트를 수행하기 위해 바운딩 작업을 위한 바운딩 박스 툴(Bounding Box Tool), 전사 작업을 위한 인풋 박스 툴(Input Box Tool) 및 분류 작업을 위한 메이크 스텝 툴(Make Step Tool)이 필요한 경우, 해당 프로젝트는 바운딩 기능요소, 전사 기능요소 및 분류 기능요소를 포함하는 것으로 분류될 수 있다.

도 11을 참조하면, 도 11에서 제시된 작업은 작업자에게 작업자의 주관적 판단에 기초하여, 제시된 문장에서 명사구로 판단되는 텍스트를 선택하는 태깅(Tagging) 작업을 수행할 것을 요구한다. 이러한 태깅 작업도 다중 할당 방식으로 복수의 작업자에게 중복 배정될 수 있다.

이때, 해당 작업을 포함하는 프로젝트의 예상 일정을 산출하기 위해, 플랫폼의 복수의 작업자 각각의 신뢰도를 기능요소의 유형별로 산출하고, 복수의 작업자 중 태깅에 관한 신뢰도가 프로젝트의 목표 신뢰도 이상인 작업자를 추출한다. 그리고 추출된 작업자의 평균 작업 시간 및 프로젝트의 작업 건수에 기초하여 상기 프로젝트의 예상 일정을 산출할 것이다.

한편, 도 11에서 제시된 작업을 포함하는 프로젝트에 참여한 작업자는 태깅 작업을 수행하기 위해서 태깅 박스 툴(Bounding Box Tool)을 사용할 수 있다. 이때, 태깅 박스 툴에 기반하여 해당 프로젝트에 포함되는 기능요소는 태깅 기능요소로 결정된다.

또한, 본 발명의 일 실시예로, 복수의 작업자 각각의 신뢰도를 산출하는 때에, 작업자의 추출된 하나 이상의 기능요소를 포함하는 다중 할당된 작업을 수행한 전체 건수와 관련하여, 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과가 발생하지 않은 경우는 고려하지 않을 수 있다.

다시, 도 11을 참조하면, 도 11에서 제시된 작업을 수행한 3명의 작업자 각각의 작업 결과는 모두 상이하다. 주어진 문장에서 작업자 1은 '밤', '채연'을, 작업자 2는 '밤', '채연', '자야기'을 그리고 작업자 3은 '밤'을 각각 명사구라고 판단하여 선택하였다. 이때, 다수 의견에 해당하는 작업 결과의 발생 여부는 작업자 각각의 작업 결과 전체를 기준으로 작업자 간의 의견이 일치하는지를 판단해야 한다. 따라서, 3명의 작업자가 모두 '밤'을 명사구라고 판단하였으나, '채연' 또는 '자야기'의 텍스트에 관하여는 3명의 작업자의 의견이 일치하지 않으므로, 해당 작업 결과 중 다수 의견에 해당하는 작업 결과는 발생하지 않는다. 따라서 해당 작업 결과는 작업자의 신뢰도를 산출하기 위한 다수 의견에 해당하는 작업 결과의 건수의 산출 시, 포함되지 않는다.

한편, 프로젝트에 포함된 기능요소의 유형이 복수인 경우, 작업자의 신뢰도를 산출하는 방법은 다음과 같다. 예를 들어, 프로젝트에 포함되는 기능요소가 태깅 및 바운딩인 경우를 가정한다. 이때, 작업자에 의하여 다수 의견에 해당하는 작업 결과가 발생한 경우, 해당 작업 결과는 태깅 기능요소와 바운딩 기능요소의 각각의 신뢰도를 산출하기 위한 작업 결과의 건수 산출 시 모두 포함된다.

또한, 본 발명의 일 실시예로, 작업자의 평균 작업 시간을 산출하는 단계(S132)는, 추출된 하나 이상의 작업자의 기능요소의 유형별 평균 작업 시간을 산출하고, 프로젝트의 예상 일정을 산출하는 단계(S133)는, 산출된 기능요소의 유형별 평균 작업 시간 및 프로젝트의 총 작업 건수에 기초하여, 프로젝트의 예상 일정을 산출할 수 있다.

상술한 바와 같이, 작업자마다 작업 능력을 충분히 발휘할 수 있는 기능요소의 유형이 다를 수 있으므로, 평균 작업 시간 또한 기능요소의 유형에 따라서 달라질 수 있다. 따라서, 프로젝트에 포함되는 기능요소의 유형별 작업자의 평균 작업 시간을 산출하고, 산출된 기능요소의 유형별 작업자의 평균 작업 시간 및 총 작업 건수에 기초하여 프로젝트의 예상 일정을 산출할 수 있다.

예를 들어, 태깅 기능요소 및 바운딩 기능요소를 포함하고, 작업자의 주관적 평가를 요구되는 질문에 대한 답변을 선택하는 작업을 포함하는 다중 할당 방식의 프로젝트의 경우, 플랫폼의 복수의 작업자 각각의 신뢰도를 태깅 기능요소와 바운딩 기능요소별로 산출한다. 그리고 산출된 태깅 기능요소에 관한 신뢰도 및 바운딩 기능요소에 관한 신뢰도가 모두 상기 프로젝트의 목표 신뢰도 이상인 하나 이상의 작업자를 추출한다.

이때, 추출된 작업자의 평균 작업 시간을 바운딩 기능요소와 태깅 기능요소별로 추출하고, 상기 추출된 평균 작업 시간을 기초로 총 작업자의 바운딩 기능요소의 평균 작업 시간 및 태깅 기능요소의 평균 작업시간을 산출한다. 그리고 산출된 평균 작업시간 및 총 작업 건수에 기초하여 예상 일정을 산출할 수 있을 것이다.

한편, 작업자의 기능요소의 유형별 평균 작업 시간을 산출하는 방법은 다음과 같다. 서버는 작업자의 작업에 제공되는 작업 툴의 조작 시간을 기록하여 로그(Log)화한다. 이때, 해당 로그를 조회하면 각 작업 툴의 사용 시간을 측정할 수 있다. 예를 들어, 프로젝트에 하나의 기능요소가 포함된 경우, 작업자의 평균 작업 시간은 작업자에게 작업을 배정하고 작업자가 작업 결과를 제출한 시점까지 소요된 시간일 것이다. 그러나 프로젝트에 2개의 기능요소가 포함된 경우, 작업자의 작업 배정 후 첫번째 기능요소에 관한 작업 툴의 마지막 조작 시각을 기초로 첫 번째 기능요소의 작업 시간을 측정할 수 있다. 그리고 첫 번째 기능요소의 마지막 조작 시각 이후 두 번째 기능요소를 조작하여 작업 결과를 제출한 시각을 기초로 두 번째 기능요소에 관한 작업 시간을 산출할 수 있다. 이와 같은 방식으로 작업자의 각각의 작업 수행 시 소요되는 작업 시간을 기능요소별로 측정함으로써, 기능요소의 유형별 평균 작업 시간을 산출할 수 있다. 또한, 프로젝트의 예상 일정을 산출하는 구체적인 방법은 다음과 같다. 예를 들어, 프로젝트에 2개의 태깅 기능요소와 1개의 바운딩 기능요소가 포함되는 경우를 가정한다. 태깅 기능요소에 관한 신뢰도와 바운딩 기능요소에 관한 신뢰도 모두 목표 신뢰도 이상인 하나 이상의 작업자를 추출한다. 추출된 작업자들의 평균 작업 시간이 태깅 기능요소에 관하여 0.2시간 그리고 바운딩 기능요소에 관하여 0.5시간으로 산출된 경우, 해당 프로젝트의 작업 1건당 평균 작업 시간은 2x0.2+0.5인 0.9시간으로 산출될 것이다. 이때, 프로젝트의 총 작업 건수가 100건인 경우, 프로젝트의 예상 일정은 90시간으로 산출된다.

한편, 상술한 설명에서, 단계 S110 내지 S170은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 12의 내용은 도 1 내지 도 11의 크라우드소싱 기반 프로젝트의 일정 산출 방법에도 적용될 수 있다.

이하, 도 12를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 일정 산출 장치에 대하여 설명하도록 한다.

도 12는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 일정 산출 장치를 설명하기 위한 도면이다.

도 12를 참조하면, 크라우드소싱 기반 프로젝트의 일정 산출 장치(200)(이하, 장치)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.

통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 통신모듈(210)은 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다. 이때 통신모듈(210)은 반려된 검수 결과에 대하여는 상응하는 재작업을 작업자(32)에게 송신하여 재작업 수행을 요청하고, 상기 작업자(32)로부터 재작업 결과를 수신한다.

메모리(220)에는 통신모듈(210)로부터 수신한 데이터에 기초하여 프로젝트의 일정을 산출하는 프로그램이 저장된다.

프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 도 3 내지 도 11을 참조하여 설명한 크라우드소싱 기반 프로젝트의 일정 산출 방법을 수행할 수 있다.

도 12를 참조하여 설명한 장치(200)는 전술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 일정 산출 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 컴퓨터 판독가능 기록 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자

Claims (10)

1. 크라우드소싱 플랫폼 서버(이하, 서버)에 의해 수행되는 방법으로서,
   하나의 작업을 다수의 작업자에게 중복 배정하는 다중 할당 방식의 크라우드소싱 기반 프로젝트(이하, "프로젝트")의 일정 산출 방법에 있어서,
   상기 서버가 상기 다중 할당 방식의 프로젝트와 관련하여, 크라우드소싱 플랫폼(이하, "플랫폼")의 복수의 작업자 각각의 신뢰도를 산출하는 단계;
   상기 서버가 오픈 예정인 소정의 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정하는 단계;
   상기 서버가 상기 프로젝트의 목표 신뢰도에 상응하는 상기 프로젝트의 예상 일정을 산출하는 단계; 및
   상기 서버가 상기 산출된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자 단말로 제공하는 단계를 포함하고,
   상기 다중 할당 방식의 프로젝트는, 주관적 평가가 요구되는 질문에 대한 답변을 선택하는 작업을 포함하고,
   상기 서버가 상기 복수의 작업자 각각의 신뢰도를 산출하는 단계는,
   상기 서버가 상기 다중 할당 방식의 프로젝트와 관련하여, 상기 작업자가 작업자 단말을 통해 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과를 입력한 건수를 산출하는 단계와,
   상기 서버가 상기 작업자가 상기 작업자 단말을 통해 다중 할당된 작업을 수행한 전체 건수 대비 상기 다수 의견에 해당하는 작업 결과를 입력한 건수로 상기 작업자의 신뢰도를 산출하는 단계를 포함하고,
   상기 서버가 상기 프로젝트의 예상 일정을 산출하는 단계는,
   상기 서버가 상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 프로젝트의 목표 신뢰도 이상인 하나 이상의 작업자를 추출하는 단계와,
   상기 서버가 상기 추출된 하나 이상의 작업자의 작업 1건당 평균 작업 시간을 산출하는 단계와,
   상기 서버가 상기 산출된 작업 1건당 평균 작업 시간 및 상기 프로젝트의 총 작업 건수에 기초하여, 상기 프로젝트의 예상 일정을 산출하는 단계를 포함하고,
   상기 서버가 상기 작업자의 신뢰도를 산출하는 단계는,
   상기 작업자가 상기 작업자 단말을 통해 다중 할당된 작업을 수행한 전체 건수와 관련하여, 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과가 발생하지 않은 경우는 고려하지 않고,
   상기 서버가 상기 오픈 예정인 소정의 다중 할당 방식의 프로젝트의 목표 신뢰도를 설정하는 단계 이전,
   상기 서버가 상기 의뢰자 단말로부터 오픈 예정 프로젝트의 목표 신뢰도를 입력 받는 단계를 더 포함하고,
   상기 프로젝트의 목표 신뢰도는 상기 프로젝트의 의뢰자 단말로부터 입력된 값에 따라 사전 설정되고,
   상기 서버가 상기 예상 일정을 상기 프로젝트의 의뢰자 단말로 제공하는 단계 이후,
   상기 서버가 상기 의뢰자 단말로부터 상기 오픈 예정 프로젝트의 변경된 목표 신뢰도를 입력 받는 단계;
   상기 서버가 상기 프로젝트의 변경된 목표 신뢰도에 상응하는 상기 프로젝트의 예상 일정을 산출하는 단계; 및
   상기 서버가 상기 변경된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자 단말로 제공하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 일정 산출 방법.
2. 삭제
3. 제1항에 있어서,
   상기 서버가 상기 추출된 하나 이상의 작업자의 수 및 상기 산출된 프로젝트의 예상 일정을 상기 프로젝트의 의뢰자 단말로 제공하는,
   크라우드소싱 기반 프로젝트의 일정 산출 방법.
4. 삭제
5. 삭제
6. 제1항에 있어서,
   상기 서버가 상기 프로젝트의 예상 일정을 산출하는 단계는,
   상기 의뢰자 단말로부터 제1 목표 신뢰도를 입력 받은 경우,
   상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 제1 목표 신뢰도 이상인 제1 규모의 작업자를 추출하고, 상기 추출된 제1 규모의 작업자의 작업 1건당 평균 작업 시간에 기초하여, 상기 프로젝트의 예상 일정을 제1 기간으로 산출하며,
   상기 의뢰자 단말로부터 상기 제1 목표 신뢰도보다 낮은 제2 목표 신뢰도를 입력 받은 경우,
   상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 제2 목표 신뢰도 이상인 상기 제1 규모보다 큰 제2 규모의 작업자를 추출하고, 상기 추출된 제2 규모의 작업자의 작업 1건당 평균 작업 시간에 기초하여, 상기 프로젝트의 예상 일정을 상기 제1 기간보다 짧은 제2 기간으로 산출하는,
   크라우드소싱 기반 프로젝트의 일정 산출 방법.
7. 제1항에 있어서,
   상기 서버가 상기 프로젝트에 포함되는 하나 이상의 기능요소의 유형을 판단하는 단계를 더 포함하고,
   상기 서버가 상기 복수의 작업자 각각의 신뢰도를 산출하는 단계는, 상기 다중 할당 방식의 프로젝트와 관련하여, 플랫폼의 복수의 작업자 각각의 신뢰도를 기능요소의 유형별로 산출하고,
   상기 서버가 상기 하나 이상의 작업자를 추출하는 단계는, 상기 플랫폼의 복수의 작업자 중 상기 신뢰도가 상기 프로젝트에 포함되는 상기 하나 이상의 기능요소 모두에 대하여 목표 신뢰도 이상인 하나 이상의 작업자를 추출하고,
   상기 기능요소는, 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자의 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴인,
   크라우드소싱 기반 프로젝트의 일정 산출 방법.
8. 제7항에 있어서,
   상기 서버가 상기 복수의 작업자 각각의 신뢰도를 산출하는 단계는,
   상기 작업자가 상기 작업자 단말을 통해 상기 추출된 하나 이상의 기능요소를 포함하는 다중 할당된 작업을 수행한 전체 건수와 관련하여, 상기 작업자를 포함한 다수의 작업자의 작업 결과 중 다수 의견에 해당하는 작업 결과가 발생하지 않은 경우는 고려하지 않는,
   크라우드소싱 기반 프로젝트의 일정 산출 방법.
9. 제7항에 있어서,
   상기 서버가 상기 작업자의 평균 작업 시간을 산출하는 단계는,
   상기 추출된 하나 이상의 작업자의 상기 기능요소의 유형별 평균 작업 시간을 산출하고,
   상기 서버가 상기 프로젝트의 예상 일정을 산출하는 단계는,
   상기 산출된 기능요소의 유형별 평균 작업 시간 및 상기 프로젝트의 총 작업 건수에 기초하여, 상기 프로젝트의 예상 일정을 산출하는,
   크라우드소싱 기반 프로젝트의 일정 산출 방법.
10. 컴퓨터와 결합되어, 제1항, 제3항, 제6항 내지 제9항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 일정 산출 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

Images