WO2021230660A1 - 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치 - Google Patents

크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치 Download PDF

Info

Publication number
WO2021230660A1
WO2021230660A1 PCT/KR2021/005968 KR2021005968W WO2021230660A1 WO 2021230660 A1 WO2021230660 A1 WO 2021230660A1 KR 2021005968 W KR2021005968 W KR 2021005968W WO 2021230660 A1 WO2021230660 A1 WO 2021230660A1
Authority
WO
WIPO (PCT)
Prior art keywords
project
difficulty
worker pool
projects
work
Prior art date
Application number
PCT/KR2021/005968
Other languages
English (en)
French (fr)
Inventor
박민우
김주영
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=75250047&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=WO2021230660(A1) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Priority to US17/389,251 priority Critical patent/US20210357847A1/en
Publication of WO2021230660A1 publication Critical patent/WO2021230660A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06312—Adjustment or analysis of established resource schedule, e.g. resource or task levelling, or dynamic rescheduling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063116—Schedule adjustment for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06398—Performance of employee with respect to a job function

Abstract

인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법이 제공된다. 상기 방법은 복수의 완료된 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")의 기능요소를 식별하고, 복수의 제1 프로젝트의 작업 히스토리를 이용하여, 복수의 제1 프로젝트의 난이도를 평가한 다음, 기능요소 및 난이도에 기초하여, 복수의 제1 프로젝트를 복수의 클러스터(cluster)로 클러스터링하고, 각각의 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자를 포함하는 작업자 풀(이하, "템플릿화된 작업자 풀")을 템플릿화하여 생성한다. 그리고, 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")의 기능요소를 식별하고, 제2 프로젝트의 파일럿 작업을 이용하여, 제2 프로젝트의 난이도를 평가하며, 제2 프로젝트의 기능요소 및 난이도에 기초하여 복수의 클러스터 중 어느 하나의 클러스터를 선택하고, 제2 프로젝트의 작업자 풀로 선택된 클러스터의 템플릿화된 작업자 풀을 적용한다. 이후, 제2 프로젝트를 오픈하고 제2 프로젝트의 복수의 작업을 작업자 풀의 복수의 작업자에게 배정하여 작업 수행을 요청하며, 작업자 풀의 복수의 작업자로부터 복수의 작업 결과를 입력받는다.

Description

크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치
본 발명은 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.
이때, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.
구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.
한편, 오픈 예정인 프로젝트에 참여할 작업자들을 선정하기 위해서는 참여 조건을 설정하고, 해당 참여 조건에 부합하는 작업자들을 일일이 선별하는 과정이 필요하다.
이러한 참여 조건을 설정하는 과정, 그리고 참여 조건에 부합하는 작업자들을 일일이 선별하는 과정에는 많은 비용과 시간이 소요되는바, 이전 완료된 프로젝트와 오픈 예정인 프로젝트 간의 특성을 고려하여, 오픈 예정인 프로젝트에 참여할 작업자들을 자동으로 결정하는 방안이 필요하다.
본 발명이 해결하고자 하는 과제는 프로젝트의 기능요소와 난이도를 고려하여 복수의 프로젝트들을 클러스터링 및 생성된 클러스터에 속하는 프로젝트에 참여한 작업자들을 템플릿화하여 작업자 풀로 생성하고, 오픈 예정인 프로젝트에 대하여 템플릿화된 작업자 풀을 자동으로 적용할 수 있는 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법을 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.
상술한 과제를 해결하기 위한 본 발명에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법은, 복수의 완료된 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")의 기능요소를 식별하는 단계; 상기 복수의 제1 프로젝트의 작업 히스토리를 이용하여, 상기 복수의 제1 프로젝트의 난이도를 평가하는 단계; 상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터(cluster)로 클러스터링하는 단계; 각각의 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자를 포함하는 작업자 풀(이하, "템플릿화된 작업자 풀")을 템플릿화하여 생성하는 단계; 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")의 기능요소를 식별하는 단계; 상기 제2 프로젝트의 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가하는 단계; 상기 제2 프로젝트의 기능요소 및 예측 난이도에 기초하여, 상기 복수의 클러스터 중 어느 하나의 클러스터를 선택하는 단계; 상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀을 적용하는 단계; 상기 제2 프로젝트를 오픈하고 상기 제2 프로젝트의 복수의 작업을 상기 템플릿화된 작업자 풀의 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계; 및 상기 템플릿화된 작업자 풀의 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계를 포함하고, 상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고, 상기 제2 프로젝트의 완료 후, 상기 제2 프로젝트의 작업 히스토리를 이용하여, 상기 제2 프로젝트의 실제 난이도를 평가하는 단계; 및 상기 제2 프로젝트의 예측 난이도와 실제 난이도를 비교하여, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당할지 결정하는 단계를 더 포함하고, 상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀 외에 추가적인 작업자 풀이 적용된 경우, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당하기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하는 단계를 더 포함하고, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당하지 않기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않는 단계를 더 포함하는 것을 특징으로 한다.
이때, 상기 난이도는 프로젝트의 전체 작업의 소정의 비율의 작업 결과의 제출 시점, 최초 작업 결과의 반려율, 재작업 결과의 반려율 중 적어도 하나에 기초하여 평가될 수 있다.
또한, 상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터로 클러스터링하는 단계는, 상기 복수의 제1 프로젝트의 기능요소의 동일성에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터로 1차 클러스터링하는 단계와, 상기 복수의 제1 프로젝트의 난이도에 기초하여, 상기 1차 클러스터링 결과에 따른 각각의 클러스터별로 각각의 클러스터에 속하는 복수의 제1 프로젝트를 복수의 클러스터로 2차 클러스터링하는 단계를 포함할 수 있다.
또한, 상기 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가하는 단계는, 상기 제2 프로젝트의 전체 작업 중 소정의 비율을 상기 파일럿 작업으로 이용할 수 있다. 이때, 상기 비율은 상기 예측 난이도의 평가의 신뢰도에 따라 결정될 수 있다.
또한, 본 발명에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법은, 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계; 및 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는 단계를 더 포함하고, 상기 제2 프로젝트의 작업 히스토리는 상기 복수의 검수 결과를 이용하여 기록될 수 있다.
또한, 본 발명에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치는, 프로세서; 및 상기 프로세서가 상기 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀을 자동으로 결정하기 위한 프로그램이 저장된 메모리;를 포함하고, 상기 프로세서는, 상기 프로그램을 실행시킴으로써, 복수의 완료된 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")의 기능요소를 식별하고, 상기 복수의 제1 프로젝트의 작업 히스토리를 이용하여, 상기 복수의 제1 프로젝트의 난이도를 평가하고, 상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터(cluster)로 클러스터링하고, 각각의 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자를 포함하는 작업자 풀(이하, "템플릿화된 작업자 풀")을 템플릿화하여 생성하고, 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")의 기능요소를 식별하고, 상기 제2 프로젝트의 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가하고, 상기 제2 프로젝트의 기능요소 및 예측 난이도에 기초하여, 상기 복수의 클러스터 중 어느 하나의 클러스터를 선택하고, 상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀을 적용하고, 상기 제2 프로젝트를 오픈하고 상기 제2 프로젝트의 복수의 작업을 상기 템플릿화된 작업자 풀의 복수의 작업자에게 배정하여 작업 수행을 요청하며, 그리고 상기 템플릿화된 작업자 풀의 복수의 작업자로부터 복수의 작업 결과를 입력받고, 상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고, 상기 프로세서는, 상기 제2 프로젝트의 완료 후, 상기 제2 프로젝트의 작업 히스토리를 이용하여, 상기 제2 프로젝트의 실제 난이도를 평가하고, 상기 제2 프로젝트의 예측 난이도와 실제 난이도를 비교하여, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당할지 결정하고, 상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀 외에 추가적인 작업자 풀이 적용된 경우, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당하기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하고, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당하지 않기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않는 것을 특징으로 한다.
또한, 본 발명은 컴퓨터와 결합되어, 제1항 내지 제6항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법을 실행시키기 위하여, 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램을 구비할 수 있다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
상술한 본 발명에 의하면, 신규 오픈 예정인 프로젝트에 대한 작업자를 선별하는 시간 및 비용을 최소화시킬 수 있다.
특히, 수동으로 작업자를 선별하던 종래와는 달리, 프로젝트의 기능요소와 난이도를 함께 고려하여 유사 프로젝트끼리 클러스터링하고, 클러스터에 속하는 복수의 작업자들을 작업자 풀로 템플릿화하여 구성함으로써, 신규 오픈 예정인 프로젝트에 작업자 풀을 자동으로 적용시킬 수 있다는 장점이 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법의 순서도이다.
도 4는 복수의 제1 프로젝트를 복수의 클러스터로 클러스터링하는 일 예를 도시한 도면이다.
도 5는 복수의 제1 프로젝트를 복수의 클러스터로 1차 및 2차 클러스터링하는 예를 도시한 도면이다.
도 6은 클러스터의 템플릿화된 작업자 풀을 갱신하는 과정을 설명하기 위한 순서도이다.
도 7은 템플릿화된 작업자 풀을 갱신하는 내용을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 작업자 풀 자동 생성 장치를 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.
서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).
이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).
마찬가지로 본 발명의 일 실시예는 프로젝트의 난이도에 따라 설정된 등급 또는 검수자(34)의 자격 요건에 따라 수행 중인 전체 프로젝트 중 적합한 프로젝트만 검수자(34)에게 노출되게끔 할 수 있다.
이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).
검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
한편, 서비스 제공 업체(20)는 프로젝트의 작업을 작업자(32)에게 할당하기 위해 일정 자격을 갖춘 작업자(32)들을 선별해야 하는데, 작업자(32)들을 선별하는 과정 역시 적지 않은 비용과 시간이 소요된다.
이러한 문제를 해소하기 위하여 해당 프로젝트와 유사한 프로젝트를 선별하고, 유사한 프로젝트에 참여한 작업자(32)들을 해당 프로젝트에 배치되도록 하는 방법이 고려될 수 있다.
유사 프로젝트에 해당하는지 여부를 판단하는 중요한 일 요소로는 프로젝트를 수행하는데 필요한 기능요소가 있다. 예를 들어, 사진 수집과 같은 프로젝트의 경우 '촬영'이라는 기능요소를 통해 프로젝트가 수행되는데, 이전 수행된 프로젝트의 기능요소에 '촬영'이 포함되어 있고, 새로 오픈할 프로젝트 역시 '촬영' 기능요소가 포함되어 있는 경우 유사 프로젝트로 판단할 수 있다.
하지만, 프로젝트의 기능요소만으로 프로젝트가 서로 유사하다고 단정짓기에는 무리가 있다. 왜냐하면, 각 프로젝트는 서로 다른 난이도를 갖고 있으며, 위 '촬영' 예시의 경우만을 보더라도 '어떤 사진'을 수집해야 하느냐에 따라서 프로젝트 간 난이도는 많은 차이가 있다.
또한, 프로젝트의 기능요소만을 기준으로 유사한 프로젝트라 판단할 경우 너무나도 많은 프로젝트가 서로 유사한 프로젝트로 취급될 수 있다. 특히, 이러한 문제는 프로젝트를 수행하는 온라인 작업 공간 상의 화면에 단순한 기능요소만을 포함하는 단순한 프로젝트일수록 더욱 문제가 된다.
따라서, 프로젝트의 기능요소와 더불어 프로젝트의 난이도를 더 고려하여 유사 프로젝트를 선택하고, 선택된 유사 프로젝트에 참여한 작업자(32)들을 해당 프로젝트에 참여토록 할 수 있는 기술이 필요한바, 이하에서는 도 3 내지 도 7을 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법을 설명하도록 한다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법의 순서도이다.
한편, 도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
도 3을 참조하면, 서버는 복수의 완료된 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트라 한다)의 기능요소를 식별한다(S105).
이때, 제1 프로젝트의 기능요소는 제1 프로젝트를 수행하기 위한 작업툴(tool)에 기반하여 결정된다. 그리고 작업툴은 제1 프로젝트에서 제공되는 것으로서 작업자(32)들이 제1 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴을 의미한다.
작업툴의 간단한 예로는, 텍스트 입력 툴, 라디오 버튼 입력 툴, 오디오 컷 툴, 마우스나 펜, 기타 장치를 이용한 드로잉 작업을 위한 툴, 외부 디바이스와 연동하여 요소 기능을 수행할 수 있는 다양한 툴이 이에 해당할 수 있다.
한편, 본 발명의 일 실시예에서, 제1 프로젝트는 완료된 프로젝트를 의미하고, 제2 프로젝트는 오픈 예정인 프로젝트를 의미한다.
다음으로, 서버는 복수의 제1 프로젝트의 작업 히스토리를 이용하여, 복수의 제1 프로젝트의 난이도를 평가한다(S110).
이때, 작업 히스토리는 프로젝트의 경과에 따라 각각의 작업 및 프로젝트와 관련되어 기록된 임의의 로그 데이터를 의미한다.
일 실시예로, 서버는 작업자(32) 및 검수자(34)들을 셋팅하여 제1 프로젝트를 개시한다. 그리고 작업자(32)의 작업 수행이 완료됨에 따라, 복수의 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고, 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과를 입력받는다. 이때, 검수 결과는 검수 통과 또는 반려일 수 있다. 이후 서버는, 복수의 검수 결과를 제1 프로젝트의 작업 히스토리로 기록할 수 있다.
한편, 본 발명의 일 실시예에서의 난이도는 제1 프로젝트를 복수의 클러스터로 클러스터링하기 위해 사용되며, 또한 제2 프로젝트를 대상으로 복수의 클러스터 중 어느 하나를 선택하기 위해 사용된다. 이러한 난이도를 평가하는 구체적인 내용은 제2 프로젝트의 난이도를 평가하는 단계에서 함께 설명하도록 한다.
다음으로, 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 복수의 제1 프로젝트를 복수의 클러스터(cluster)로 클러스터링한다(S115). 여기에서 클러스터링이란 유사한 프로젝트끼리 군집화하는 것을 의미한다.
도 4는 복수의 제1 프로젝트를 복수의 클러스터로 클러스터링하는 일 예를 도시한 도면이다.
일 실시예로, 복수의 제1 프로젝트는 기능요소와 난이도에 따라서 복수의 제1, 제2, 제3 등의 클러스터로 클러스터링될 수 있다.
예를 들어 도 4에 도시된 '클러스터 1' 내지 '클러스터 3'은 동일한 기능요소를 포함하되 난이도가 상, 중 하 또는 소정의 비율에 따라 구분된 난이도로 클러스터링된 것이다. '클러스터 1'의 경우 '기능요소 1'을 포함하되 난이도가 상으로 구분된 '프로젝트 1', '프로젝트 3'을 포함하도록 클러스터링 되었고, '클러스터 2'의 경우 '기능요소 1'을 포함하되 난이도가 중으로 구분된 '프로젝트 2', '프로젝트 4', '프로젝트 5'를 포함하도록 클러스터링 되었다. '클러스터 4'는 '클러스터 1' 내지 '클러스터 3'과는 다른 '기능요소 2'를 포함하는 적어도 하나의 프로젝트로 클러스터링 되었다. 이때, 위 예시에서 설명한 '기능요소 1', '기능요소 2' 등은 하나의 기능요소에 국한된 것이 아니라 하나 또는 그 이상의 기능요소들의 집합을 의미한다.
이와 같이, 본 발명의 일 실시예는 복수의 제1 프로젝트가 서로 동일 또는 상이한 기능요소 및 난이도를 기준으로 하여 클러스터링될 수 있다.
한편, 위 예시의 경우 설명의 편의상 난이도를 상, 중, 하로 구분하여 설명하였으나, 난이도의 구분은 반드시 이에 한정되는 것은 아니며 전술한 바와 같이 소정의 비율 또는 이에 따른 스코어로 구성될 수 있다. 즉, 난이도를 상, 중, 하로 구분할 경우 추후 클러스터링에 오차가 발생할 가능성이 높으므로 비율 또는 스코어에 기초한 난이도를 적용하는 것이 바람직하다.
또 다른 실시예로, 본 발명은 기능요소를 기준으로 계층화하여 복수의 제1 프로젝트를 클러스터링할 수 있다.
도 5는 복수의 제1 프로젝트를 복수의 클러스터로 1차 및 2차 클러스터링하는 예를 도시한 도면이다.
일 실시예로, 서버는 2단계의 과정을 거쳐 클러스터링을 수행할 수 있다.
먼저, 서버는 복수의 제1 프로젝트의 기능요소의 동일성에 기초하여, 복수의 제1 프로젝트를 복수의 클러스터로 1차 클러스터링할 수 있다. 즉, 서버는 기능요소가 동일한 제1 프로젝트들을 1차적으로 클러스터링할 수 있다.
그 결과, 도 5에 도시된 바와 같이 동일한 '기능요소 1'을 포함하는 '프로젝트 1' 내지 '프로젝트 8' 이 1차 클러스터링되어 하나의 '클러스터 1'로 생성되고, '기능요소 1'과 상이한 '기능요소 2'를 포함하는 프로젝트들이 1차 클러스터링되어 하나의 '클러스터 2'로 생성될 수 있다.
그 다음, 서버는 복수의 제1 프로젝트의 난이도에 기초하여, 1차 클러스터링 결과에 따른 각각의 클러스터별로 각각의 클러스터에 속하는 복수의 제1 프로젝트를 복수의 클러스터로 2차 클러스터링할 수 있다. 즉, 서버는 동일한 기능요소를 기준으로 생성된 클러스터를 난이도에 따라 복수의 클러스터로 구분할 수 있다.
2차 클러스터링된 결과, 동일한 '기능요소 1'을 포함하는 '클러스터 1'은 난이도에 따라 계층화된 '클러스터 11' 내지 '클러스터 13'으로 생성되고, 이때 '클러스터 11'은 난이도가 하로 분류된 '프로젝트 1', '프로젝트 4'를 포함하도록 2차 클러스터링되고, '클러스터 12'는 난이도가 중으로 분류된 '프로젝트 3', '프로젝트 6'을 포함하도록 2차 클러스터링될 수 있다.
이와 같이 기능요소의 동일성에 따라 1차 클러스터링을 수행하고, 난이도에 기초하여 2차 클러스터링을 수행할 경우, 추후 작업자 풀 적용을 위한 클러스터 선택시, 기능요소가 동일하고 난이도가 유사한 프로젝트가 포함된 클러스터를 구체적으로 선택할 수 있다는 장점이 있다.
또한, 기능요소가 동일하나 난이도의 특정이 어려운, 즉 하나의 프로젝트 내에 쉬운 난이도와 어려운 난이도가 고루 분포되어 있어 특정 난이도로 구분하기 어려운 경우, 1차 클러스터링된 클러스터만을 선택할 수도 있는 등 폭넓은 관리가 가능하다는 장점이 있다.
이와 더불어, 기능요소가 동일하나 난이도의 특정이 어려운 경우, 1차 클러스터링된 클러스터를 우선 선택하되, 프로젝트 내 복수의 작업을 난이도별로 구별하여, 각 난이도별로 구분된 작업을 대상으로 2차 클러스터링된 클러스터를 각각 적용도 가능함은 물론이다.
다시 도 3을 참조하면, 서버는 각각의 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자(32)를 포함하는 작업자 풀(이하, "템플릿화된 작업자 풀"이라 한다)을 템플릿화하여 생성한다(S120).
즉, 서버는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자(32)를 하나의 클러스터에 대한 작업자 풀로 생성하되, 이를 템플릿화하여 생성할 수 있다.
템플릿화는 각각의 클러스터마다 작업자 풀이 규격화되어 있는 것으로, 추후 유사 프로젝트로 판단될 경유 규격화된 작업자 풀을 자동으로 적용시킬 수 있는 것을 의미한다.
이러한 탬플릿화의 결과에 따라, 관리자는 특정 프로젝트의 작업자 풀을 만들기 위해 임의로 작업자(32)들의 참여 조건을 설정하지 않고도, 템플릿화된 작업자 풀을 이용하여 손쉽게 작업자(32)를 프로젝트에 참여토록 할 수 있다.
한편, 완료된 프로젝트에 참여한 복수의 작업자(32)를 작업자 풀로 구성함에 있어서, 필요에 따라 불량 작업자는 작업자 풀에 포함되지 않도록 미리 선별될 수 있다.
이와 같이 복수의 제1 프로젝트들을 대상으로 하는 클러스터링이 완료되면, 서버는 오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트"라 한다)의 기능요소를 식별한다(S125).
마찬가지로, 제2 프로젝트의 기능요소는 제2 프로젝트를 수행하기 위한 작업툴에 기반하여 결정되며, 작업툴은 제2 프로젝트에서 제공되는 것으로 작업자(32)들이 제2 프로젝트가 요구하는 작업을 수행하기 위해 사용하는 툴에 해당한다.
그 다음, 서버는 제2 프로젝트의 파일럿 작업을 이용하여, 제2 프로젝트의 난이도를 평가한다(S130).
이때, 본 발명의 일 실시예는 제1 프로젝트의 경우 작업 히스토리를 이용하여 난이도를 평가하나, 제2 프로젝트의 경우 작업자 풀이 결정되기 이전 단계이므로 파일럿 작업을 이용하여 난이도를 평가할 수 있다.
여기에서, 파일럿 작업은 제2 프로젝트를 정식으로 오픈하기 이전에 크라우드소싱 플랫폼에 등록된 모든 작업자(32)가 참여 가능하도록 설정된 작업으로, 제2 프로젝트의 난이도를 평가하기 위한 용도로 사용된다. 이러한 파일럿 작업은 작업자 풀이 결정되기 전까지는 작업자(32)들의 참여 조건이 제한되지 않는다. 다만 실시예에 따라, 숙련된 작업자들을 배제시켜 보다 정확한 난이도 평가를 위해 첫 가입된 작업자나 낮은 등급의 작업자를 대상으로 하여 파일럿 작업이 제공될 수도 있다.
한편, 파일럿 작업의 개수를 결정하는 소정의 비율은 난이도의 평가의 신뢰도에 따라 결정될 수 있다. 즉, 난이도의 신뢰도가 높을수록 더 정확한 난이도의 평가가 가능하므로, 요구되는 수준의 신뢰도가 높을수록 해당 비율을 낮게 설정할 수도 있다.
일 실시예로, 서버는 제1 및 제2 프로젝트의 난이도를 프로젝트의 전체 작업의 소정의 비율의 작업 결과의 제출 시점, 최초 작업 결과의 반려율 및 재작업 결과의 반려율 중 적어도 하나에 기초하여 평가할 수 있다.
구체적으로, 난이도의 평가 요소인 제출 시점은 전체 일정이 2400시간이고, 전체 작업 건 수가 1000건인 경우, 전체 작업의 50%인 500건이 제출된 시점인 1200시간에 해당하는 시점은 1200/2400 =0.5로 수치화하여 나타낼 수 있다.
이러한 제출 시점은 난이도가 높을수록 낮은 수치를 갖는다. 예를 들어, 난이도가 높은 프로젝트일 경우, 전체 작업의 50%인 500건이 제출된 시점은 1200시간이나 전체 일정이 증가하게 되므로 산출되는 수치는 더욱 낮다.
제2 프로젝트의 경우는 제1 프로젝트와 달리 아직 작업 히스토리가 생성되기 전이므로, 파일럿 작업의 특성을 고려하여 파일럿 작업의 전체 일정을 대상으로 난이도를 판단해야 한다. 이는 제1 프로젝트와 마찬가지로 파일럿 작업의 전체 일정 대비 소정의 비율의 작업 결과의 제출 시점을 수치화하여 나타내고, 이러한 수치가 낮을수록 높은 난이도로 평가된다.
한편, 본 발명의 일 실시예는 프로젝트의 전체 작업의 소정 비율의 작업 결과 제출 시점을 산출함에 있어, 프로젝트의 전체 일정 대비 앞의 제출 시점 또는 뒤의 제출 시점의 비율로 산출하거나, 프로젝트의 중간 시점에 포함된 작업들의 비율을 적용할 수도 있다.
다음으로, 난이도의 평가 요소인 최초 작업 결과의 반려율은 작업자(32)의 최초 작업 결과에 대한 반려율을 의미한다. 이때, 본 발명의 일 실시예는 프로젝트에 포함된 전체 작업 또는 전체 파일럿 작업을 대상으로 반려율을 산출할 수 있으나, 특정 시점 또는 소정의 비율의 작업 건 수를 대상으로 반려율을 산출할 수도 있다.
전체 작업의 소정 비율이 제출된 시점의 반려율은, 예를 들어 전체 작업의 50%인 500건이 제출된 시점에서, 500건 중 최초 작업 결과가 반려된 건 수가 100건인 경우, 최초 작업 결과에 대한 반려율을 20%로 산출할 수 있다.
마지막으로, 재작업 결과의 반려율은 최초 작업 결과에 따른 반려 이후 작업자(32)의 재작업 결과에 대한 반려율을 의미한다. 본 발명의 일 실시예는 마찬가지로, 프로젝트에 포함된 전체 작업 또는 전체 파일럿 작업을 대상으로 반려율을 산출할 수 있으나, 특정 시점 또는 소정의 비율의 작업 건 수를 대상으로 반려율을 산출할 수도 있다.
예를 들어, 전체 작업의 50%인 500건이 제출된 시점에서, 500건 중 최초 작업 결과가 반려된 건 수가 100건이고 이 중 재반려된 건 수가 20건일 경우, 재작업 결과의 반려율은 20%로 산출할 수 있다.
이때, 본 발명의 일 실시예는 재작업에 의한 반려 횟수는 누적하여 카운팅할 수 있다. 즉, 하나의 작업에 대하여 최초 반려가 있었고, 그 재작업에 대하여 2회의 재반려가 있었다면, 재작업 결과의 반려율은 2회 모두를 카운팅할 수 있다.
이와 같이 제2 프로젝트에 대한 난이도 평가가 완료되면, 서버는 제2 프로젝트의 기능요소 및 난이도에 기초하여, 복수의 클러스터 중 어느 하나의 클러스터를 선택하고(S135), 제2 프로젝트의 작업자 풀로 선택된 클러스터의 템플릿화된 작업자 풀을 적용한다(S140).
작업자 풀이 결정됨에 따라, 서버는 제2 프로젝트를 오픈하고 제2 프로젝트의 복수의 작업을 작업자 풀의 복수의 작업자(32)에게 배정하여 작업 수행을 요청하며(S145), 작업자 풀의 복수의 작업자(32)로부터 복수의 작업 결과를 입력받는다(S150).
이와 같이 본 발명의 일 실시예는 완료된 프로젝트들을 소정의 기준에 따라 클러스터링화하고, 클러스터에 포함된 프로젝트에 참여한 작업자(32)들을 작업자 풀로 템플릿화하여 생성함으로써, 신규로 오픈할 프로젝트의 특성에 매칭되는 작업자(32)를 템플릿화된 작업자 풀을 이용하여 자동 적용할 수 있는바, 의뢰자나 서비스 제공 업체에 의한 작업자(32) 선정에 소요되는 시간 및 비용을 최소화시킬 수 있다는 장점이 있다.
도 6은 클러스터의 템플릿화된 작업자 풀을 갱신하는 과정을 설명하기 위한 순서도이다. 도 7은 템플릿화된 작업자 풀을 갱신하는 내용을 설명하기 위한 도면이다.
이후, 본 발명의 일 실시예는 제2 프로젝트가 완료됨에 따라, 서버는 제2 프로젝트의 작업 히스토리를 이용하여 제2 프로젝트의 난이도를 평가하고(S155), 제2 프로젝트의 기능요소 및 난이도에 기초하여, 제2 프로젝트를 선택된 클러스터에 할당할지 여부를 결정할 수 있다(S160).
여기에서, 제2 프로젝트의 작업 히스토리는 복수의 검수 결과를 이용하여 기록된다. 즉, 서버는 복수의 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고, 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받을 수 있으며, 이러한 검수 결과에 기초하여 제2 프로젝트의 작업 히스토리가 기록될 수 있다.
한편, 이전 과정인 제2 프로젝트에서 파일럿 작업을 이용하여 난이도를 평가하는 것은 예측에 해당하며, 작업 히스토리를 이용하여 난이도를 평가하는 것은 위 예측이 맞았는지 여부를 확인하는 절차이다.
이때, 서버는 제2 프로젝트의 파일럿 작업을 통해 평가한 난이도와 작업 히스토리를 이용하여 평가한 난이도가 일치하거나 소정의 기준 범위를 만족하는 경우, 제2 프로젝트를 선택된 클러스터에 할당도록 결정할 수 있다.
제2 프로젝트를 클러스터에 할당할 경우, 추후 또 다른 제2 프로젝트의 작업자 풀 적용시, 더욱 정확히 매칭되는 난이도를 갖는 프로젝트의 클러스터를 선택할 수 있다는 장점이 있다.
이 과정에서, 제2 프로젝트의 작업자 풀로 선택된 클러스터의 템플릿화된 작업자 풀 외에 추가적인 작업자 풀이 적용된 경우(S165-Y), 서버는 제2 프로젝트를 선택된 클러스터에 할당되도록 결정하였다면, 제2 프로젝트의 작업자 풀을 이용하여 선택된 클러스터의 템플릿화된 작업자 풀을 갱신할 수 있다(S170).
예를 들어 도 7을 참조하면, '프로젝트 1'에 참여한 작업자들('W1~W10'(10명))이 '클러스터 1'의 작업자 풀로 템플릿화되어 있는 상태에서, 제2 프로젝트('프로젝트 2') 수행시 선택된 '클러스터 1'의 작업자들뿐만 아니라 추가적으로 '프로젝트 1'에 참여한바 없는 작업자들('W11~W15'(5명))이 제2 프로젝트의 작업자로 참여한 경우, 제2 프로젝트의 작업자 풀은 'W1~W15'(15명)이 된다.
이후, 제2 프로젝트가 완료되고 서버는 제2 프로젝트를 '클러스터 1'에 할당하기로 결정하였으면, 'W1~W10'의 기존 작업자 풀에 더하여 'W11~W15'의 작업자들을 기존의 템플릿화된 작업자 풀에 추가 갱신할 수 있다.
마찬가지로, 또 다른 제2 프로젝트('프로젝트 3')가 완료되고 서버에 의해 '프로젝트 3'을 '클러스터 1'에 할당하기로 결정된 경우, 해당 프로젝트에서의 추가적인 작업자(32)들은 '클러스터 1'의 작업자 풀에 추가 갱신될 수 있다.
이와 달리, 서버는 제2 프로젝트의 파일럿 작업을 통해 평가한 난이도와 작업 히스토리를 이용하여 평가한 난이도가 불일치하거나 소정의 기준 범위를 벗어난 경우, 제2 프로젝트를 선택된 클러스터에 할당되지 않도록 결정한다(S160-N). 서버는 이 경우 제2 프로젝트의 작업자 풀을 이용하여, 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않을 수 있다(S175).
이는 파일럿 작업을 통한 난이도의 예측이 틀렸으므로 제2 프로젝트는 부적절한 작업자 풀을 이용하여 프로젝트를 진행한 것인바, 이 경우 서버는 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않는다.
또는, 제2 프로젝트를 선택된 클러스터에 할당되도록 결정한 경우라 하더라도(S160-Y), 추가적인 작업자 풀의 적용이 없는 경우(S165-N), 서버는 제2 프로젝트의 작업자 풀을 이용하여, 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않는다(S175).
본 발명의 일 실시예는 이와 같은 추가적인 작업자 풀이 적용된 경우, 클러스터의 작업자 풀로의 갱신 여부를 결정하는 과정을 통해, 신규로 오픈될 제2 프로젝트의 난이도가 점차적으로 다양해지더라도 해당 난이도에 더욱 정확히 매칭되는 작업자 풀이 적용될 수 있게끔 할 수 있다.
이와 더불어, 난이도를 기준으로 하는 세부적인 클러스터링을 함께 수행함으로써, 신규의 제2 프로젝트의 난이도에 더욱 부합하는 작업자 풀이 적용되게끔 할 수 있다.
한편, 상술한 설명에서, 단계 S110 내지 S175은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 8의 내용은 도 1 내지 도 7의 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법에도 적용될 수 있다.
이하에서는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치(200, 이하 작업자 풀 자동 생성 장치라 한다)에 대하여 설명하도록 한다.
도 8은 본 발명의 일 실시예에 따른 작업자 풀 자동 생성 장치(200)를 설명하기 위한 도면이다.
도 8을 참조하면, 따른 작업자 풀 자동 생성 장치(200)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.
통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 복수의 작업을 작업자 풀의 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 작업자 풀의 복수의 작업자(32)로부터 작업 결과를 수신한다. 또한, 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.
메모리(220)에는 프로젝트들의 기능요소 및 난이도에 기초하여 신규 오픈 예정인 프로젝트에 대한 작업자 풀을 자동으로 결정하기 위한 프로그램이 저장된다.
프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 제1 프로젝트의 기능요소를 식별하고, 제1 프로젝트의 작업 히스토리를 이용하여 복수의 제1 프로젝트의 난이도를 평가한 다음, 기능요소 및 난이도에 기초하여 복수의 제1 프로젝트를 복수의 클러스터로 클러스터링하고, 각 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자(32)를 포함하는 작업자 풀을 템플릿화하여 생성한다.
이후, 프로세서(230)는 오픈 예정인 제2 프로젝트의 기능요소를 식별하고, 제2 프로젝트의 파일럿 작업을 이용하여 제2 프로젝트의 난이도를 평가한 다음, 기능요소 및 난이도에 기초하여 복수의 클러스터 중 어느 하나의 클러스터를 선택하여, 해당 클러스터의 템플릿화된 작업자 풀을 제2 프로젝트의 작업자 풀로 적용한다.
이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (13)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    복수의 완료된 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")의 기능요소를 식별하는 단계;
    상기 복수의 제1 프로젝트의 작업 히스토리를 이용하여, 상기 복수의 제1 프로젝트의 난이도를 평가하는 단계;
    상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터(cluster)로 클러스터링하는 단계;
    각각의 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자를 포함하는 작업자 풀(이하, "템플릿화된 작업자 풀")을 템플릿화하여 생성하는 단계;
    오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")의 기능요소를 식별하는 단계;
    상기 제2 프로젝트의 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가하는 단계;
    상기 제2 프로젝트의 기능요소 및 예측 난이도에 기초하여, 상기 복수의 클러스터 중 어느 하나의 클러스터를 선택하는 단계;
    상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀을 적용하는 단계;
    상기 제2 프로젝트를 오픈하고 상기 제2 프로젝트의 복수의 작업을 상기 템플릿화된 작업자 풀의 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계; 및
    상기 템플릿화된 작업자 풀의 복수의 작업자로부터 복수의 작업 결과를 입력받는 단계를 포함하고,
    상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고,
    상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고,
    상기 제2 프로젝트의 완료 후, 상기 제2 프로젝트의 작업 히스토리를 이용하여, 상기 제2 프로젝트의 실제 난이도를 평가하는 단계; 및
    상기 제2 프로젝트의 예측 난이도와 실제 난이도를 비교하여, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당할지 결정하는 단계를 더 포함하고,
    상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀 외에 추가적인 작업자 풀이 적용된 경우, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당하기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하는 단계를 더 포함하고,
    상기 제2 프로젝트를 상기 선택된 클러스터에 할당하지 않기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않는 단계를 더 포함하는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법.
  2. 제1항에 있어서,
    상기 난이도는 프로젝트의 전체 작업의 소정의 비율의 작업 결과의 제출 시점, 최초 작업 결과의 반려율, 재작업 결과의 반려율 중 적어도 하나에 기초하여 평가되는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법.
  3. 제1항에 있어서,
    상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터로 클러스터링하는 단계는,
    상기 복수의 제1 프로젝트의 기능요소의 동일성에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터로 1차 클러스터링하는 단계와,
    상기 복수의 제1 프로젝트의 난이도에 기초하여, 상기 1차 클러스터링 결과에 따른 각각의 클러스터별로 각각의 클러스터에 속하는 복수의 제1 프로젝트를 복수의 클러스터로 2차 클러스터링하는 단계를 포함하는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법.
  4. 제1항에 있어서,
    상기 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가하는 단계는,
    상기 제2 프로젝트의 전체 작업 중 소정의 비율을 상기 파일럿 작업으로 이용하는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법.
  5. 제4항에 있어서,
    상기 비율은 상기 예측 난이도의 평가의 신뢰도에 따라 결정되는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법.
  6. 제1항에 있어서,
    상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계; 및
    상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는 단계를 더 포함하고,
    상기 제2 프로젝트의 작업 히스토리는 상기 복수의 검수 결과를 이용하여 기록되는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법.
  7. 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치에 있어서,
    프로세서; 및
    상기 프로세서가 상기 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀을 자동으로 결정하기 위한 프로그램이 저장된 메모리;를 포함하고,
    상기 프로세서는, 상기 프로그램을 실행시킴으로써,
    복수의 완료된 크라우드소싱 기반 프로젝트(이하, "제1 프로젝트")의 기능요소를 식별하고,
    상기 복수의 제1 프로젝트의 작업 히스토리를 이용하여, 상기 복수의 제1 프로젝트의 난이도를 평가하고,
    상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터(cluster)로 클러스터링하고,
    각각의 클러스터별로 각각의 클러스터에 속하는 하나 이상의 제1 프로젝트에 참여한 복수의 작업자를 포함하는 작업자 풀(이하, "템플릿화된 작업자 풀")을 템플릿화하여 생성하고,
    오픈 예정인 크라우드소싱 기반 프로젝트(이하, "제2 프로젝트")의 기능요소를 식별하고,
    상기 제2 프로젝트의 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가하고,
    상기 제2 프로젝트의 기능요소 및 예측 난이도에 기초하여, 상기 복수의 클러스터 중 어느 하나의 클러스터를 선택하고,
    상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀을 적용하고,
    상기 제2 프로젝트를 오픈하고 상기 제2 프로젝트의 복수의 작업을 상기 템플릿화된 작업자 풀의 복수의 작업자에게 배정하여 작업 수행을 요청하며, 그리고
    상기 템플릿화된 작업자 풀의 복수의 작업자로부터 복수의 작업 결과를 입력받고,
    상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고,
    상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고,
    상기 프로세서는,
    상기 제2 프로젝트의 완료 후, 상기 제2 프로젝트의 작업 히스토리를 이용하여, 상기 제2 프로젝트의 실제 난이도를 평가하고,
    상기 제2 프로젝트의 예측 난이도와 실제 난이도를 비교하여, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당할지 결정하고,
    상기 제2 프로젝트의 작업자 풀로 상기 선택된 클러스터의 템플릿화된 작업자 풀 외에 추가적인 작업자 풀이 적용된 경우, 상기 제2 프로젝트를 상기 선택된 클러스터에 할당하기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하고,
    상기 제2 프로젝트를 상기 선택된 클러스터에 할당하지 않기로 결정하였으면, 상기 제2 프로젝트의 작업자 풀을 이용하여, 상기 선택된 클러스터의 템플릿화된 작업자 풀을 갱신하지 않는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치.
  8. 제7항에 있어서,
    상기 난이도는 프로젝트의 전체 작업의 소정의 비율의 작업 결과의 제출 시점, 최초 작업 결과의 반려율, 재작업 결과의 반려율 중 적어도 하나에 기초하여 평가되는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치.
  9. 제7항에 있어서,
    상기 프로세서는,
    상기 복수의 제1 프로젝트의 기능요소 및 난이도에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터로 클러스터링할 경우,
    상기 복수의 제1 프로젝트의 기능요소의 동일성에 기초하여, 상기 복수의 제1 프로젝트를 복수의 클러스터로 1차 클러스터링하고,
    상기 복수의 제1 프로젝트의 난이도에 기초하여, 상기 1차 클러스터링 결과에 따른 각각의 클러스터별로 각각의 클러스터에 속하는 복수의 제1 프로젝트를 복수의 클러스터로 2차 클러스터링하는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치.
  10. 제7항에 있어서,
    상기 프로세서는,
    상기 파일럿 작업을 이용하여, 상기 제2 프로젝트의 예측 난이도를 평가할 경우,
    상기 제2 프로젝트의 전체 작업 중 소정의 비율을 상기 파일럿 작업으로 이용하는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치.
  11. 제10항에 있어서,
    상기 비율은 상기 예측 난이도의 평가의 신뢰도에 따라 결정되는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치.
  12. 제7항에 있어서,
    상기 프로세서는,
    상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하며,
    상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받고,
    상기 제2 프로젝트의 작업 히스토리는 상기 복수의 검수 결과를 이용하여 기록되는,
    크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 장치.
  13. 컴퓨터와 결합되어, 제1항 내지 제6항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법을 실행시키기 위하여, 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
PCT/KR2021/005968 2020-05-12 2021-05-12 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치 WO2021230660A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/389,251 US20210357847A1 (en) 2020-05-12 2021-07-29 Method and apparatus for automatically generating worker pool based on functional element and difficulty level of crowdsourcing-based project

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0056236 2020-05-12
KR1020200056236A KR102232859B1 (ko) 2020-05-12 2020-05-12 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/389,251 Continuation US20210357847A1 (en) 2020-05-12 2021-07-29 Method and apparatus for automatically generating worker pool based on functional element and difficulty level of crowdsourcing-based project

Publications (1)

Publication Number Publication Date
WO2021230660A1 true WO2021230660A1 (ko) 2021-11-18

Family

ID=75250047

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/005968 WO2021230660A1 (ko) 2020-05-12 2021-05-12 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치

Country Status (2)

Country Link
KR (2) KR102232859B1 (ko)
WO (1) WO2021230660A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102232859B1 (ko) * 2020-05-12 2021-03-29 주식회사 크라우드웍스 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법
KR102315394B1 (ko) * 2021-06-21 2021-10-21 주식회사 크라우드웍스 온라인 워크 기반 최적화된 태스크 운영 방안을 제공하는 프로젝트 태스크 관리 방법 및 이를 수행하는 장치
KR102319811B1 (ko) 2021-06-22 2021-11-01 주식회사 크라우드웍스 온라인 기반 잡 프로세스의 처리자 선정 방법 및 장치
KR102315436B1 (ko) 2021-07-13 2021-10-20 주식회사 크라우드웍스 크라우드소싱 기반 프로젝트의 특성에 따른 작업자 참여조건 자동 설정 방법 및 장치
KR102617635B1 (ko) * 2023-05-15 2023-12-27 조민호 관공서와 기업 간을 연결하는 공공계약 플랫폼 서비스 제공 시스템

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006317988A (ja) * 2005-04-12 2006-11-24 Fujifilm Holdings Corp 要素作業の難易度評価方法、要素作業の作業ミス影響度評価方法、要素作業の特質評価方法、要素作業の配分方法、要素作業の改善方法
US20120265573A1 (en) * 2011-03-23 2012-10-18 CrowdFlower, Inc. Dynamic optimization for data quality control in crowd sourcing tasks to crowd labor
JP2019053640A (ja) * 2017-09-19 2019-04-04 株式会社キャスター 人にマッチするタスクを提示する方法及び装置並びにタスクにマッチする人を提示する方法及び装置
KR20200039035A (ko) * 2018-09-27 2020-04-16 주식회사 스위트케이 인공지능 기반의 학습데이터셋 제공 시스템
KR102232859B1 (ko) * 2020-05-12 2021-03-29 주식회사 크라우드웍스 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8554605B2 (en) * 2011-06-29 2013-10-08 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006317988A (ja) * 2005-04-12 2006-11-24 Fujifilm Holdings Corp 要素作業の難易度評価方法、要素作業の作業ミス影響度評価方法、要素作業の特質評価方法、要素作業の配分方法、要素作業の改善方法
US20120265573A1 (en) * 2011-03-23 2012-10-18 CrowdFlower, Inc. Dynamic optimization for data quality control in crowd sourcing tasks to crowd labor
JP2019053640A (ja) * 2017-09-19 2019-04-04 株式会社キャスター 人にマッチするタスクを提示する方法及び装置並びにタスクにマッチする人を提示する方法及び装置
KR20200039035A (ko) * 2018-09-27 2020-04-16 주식회사 스위트케이 인공지능 기반의 학습데이터셋 제공 시스템
KR102232859B1 (ko) * 2020-05-12 2021-03-29 주식회사 크라우드웍스 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MAGICTREE (BAEKIHYUNG): "Understanding OTT Services: Operator type of OTT service", NAVER BLOG, Korea, pages 1 - 3, XP009531814, Retrieved from the Internet <URL:https://blog.naver.com/baekihyung/221333419722> *

Also Published As

Publication number Publication date
KR102232859B1 (ko) 2021-03-29
KR102232859B9 (ko) 2021-12-21
KR102324041B1 (ko) 2021-11-11
KR102324041B9 (ko) 2022-04-15

Similar Documents

Publication Publication Date Title
WO2021230660A1 (ko) 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치
WO2021040265A1 (ko) 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
WO2020141882A1 (ko) 설명 가능한 인공지능 모델링 및 시뮬레이션 시스템 및 방법
WO2021246772A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법, 그 장치 및 그 컴퓨터 프로그램
WO2022019500A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 실습 교육 참여자에 대한 보상형 실습 교육 제공 방법, 그 장치 및 그 컴퓨터 프로그램
KR102156582B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법
WO2020130306A1 (ko) 검증용 주석 처리 작업을 이용한 실전용 주석 처리 작업의 검증 방법 및 장치
WO2020122291A1 (ko) 인공지능 기반의 공동주택 관리업무지시 자동화 장치 및 방법
WO2021137523A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 시간 대비 검수 시간을 이용한 검수 단가 자동 업데이트 방법
WO2020242108A1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 작업자 선별 방법
WO2021133076A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업단가 관리 방법 및 장치
WO2022019499A1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 티어 자료 구조를 활용한 작업 다중 할당 방법, 그 장치 및 그 컴퓨터 프로그램
KR102232874B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 활용한 신규 검수자 평가 방법
WO2021132831A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법
WO2022005111A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 결과에 기초한 작업자에 대한 검수 권한 자동 부여 방법, 그 장치 및 그 컴퓨터 프로그램
KR102195605B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 소진율을 기반으로 한 작업 단가 보정 방법
KR102155839B1 (ko) 작업불가 사유 기반의 작업자 모니터링 방법 및 장치
WO2021049763A1 (ko) 봇 구별 테스트를 활용한 크라우드 소싱 기반의 데이터 수집 방법
KR102155787B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 효율적인 작업자 풀의 자동 갱신 방법
WO2023282500A1 (ko) 슬라이드 스캔 데이터의 자동 레이블링 방법, 장치 및 프로그램
WO2021091050A1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법
WO2020197075A1 (ko) 크라우드 소싱 기반의 데이터를 수집하는 작업을 작업자에게 할당하는 방법 및 장치
KR102215417B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 가이드 자동 생성 방법
KR102205810B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 재작업 결과의 자동 반려 방법
KR102164852B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 긴급도를 고려한 프로젝트 참여 제한 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21804621

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21804621

Country of ref document: EP

Kind code of ref document: A1