KR102195956B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법 - Google Patents

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법 Download PDF

Info

Publication number
KR102195956B1
KR102195956B1 KR1020200087316A KR20200087316A KR102195956B1 KR 102195956 B1 KR102195956 B1 KR 102195956B1 KR 1020200087316 A KR1020200087316 A KR 1020200087316A KR 20200087316 A KR20200087316 A KR 20200087316A KR 102195956 B1 KR102195956 B1 KR 102195956B1
Authority
KR
South Korea
Prior art keywords
work
difficulty
task
worker
maximum number
Prior art date
Application number
KR1020200087316A
Other languages
English (en)
Inventor
박민우
김주영
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Priority to KR1020200087316A priority Critical patent/KR102195956B1/ko
Application granted granted Critical
Publication of KR102195956B1 publication Critical patent/KR102195956B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063114—Status monitoring or status determination for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063118—Staff planning in a project environment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/103—Workflow collaboration or project management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/105—Human resources

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법이 제공된다. 상기 방법은 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업자 1인당 최대 작업 제한 건수를 사전 설정하는 단계, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계, 상기 복수의 작업자로부터 복수의 작업 결과 또는 작업 패스(pass) 요청을 입력받는 단계, 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계, 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는 단계 및 상기 검수 결과에 기초하여 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법{METHOD FOR UPDATING MAXIMUM NUMBER OF WORK LIMITS ACCORDING TO WORK DIFFICULTY OF CROWDSOURCING BASED PROJECT FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}
본 발명은 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.
이때, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.
구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.
한편, 프로젝트에 참여하는 작업자들 중에는 작업을 성실하게 수행하는 우수 작업자가 있을 수 있고, 작업을 불성실하게 수행하는 불량 작업자가 있을 수 있다. 또한, 프로젝트에 참여하는 각각의 작업자들은 서로 상이한 작업 수행 능력을 가지고 있기 때문에, 프로젝트의 작업에 능숙한 작업자가 있을 수 있고, 능숙하지 못한 작업자가 있을 수도 있다. 즉, 오픈되는 프로젝트에 어떤 작업자들이 참여할지 알 수가 없다.
따라서, 각 프로젝트는 1인당 작업 가능한 건수를 설정하여, 불량 작업자 또는 능숙하지 못한 작업자가 프로젝트에 참여하여 작업을 무제한으로 수행하지 못하도록 하고 있다.
그러나, 1인당 작업 가능한 건수를 설정함에 따라, 우수 작업자 또는 능숙한 작업자까지 더 많은 작업을 수행할 수 없는 상황이 발생하게 된다.
이로 인해, 우수 작업자 또는 능숙한 작업자의 의욕을 상실시키고, 우수 작업자 또는 능숙한 작업자에 의해 고품질 작업 결과가 생성되는 것을 제한시키는 문제가 있다.
공개특허공보 제10-2014-0095956호, 2014.08.04.
본 발명이 해결하고자 하는 과제는 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법을 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법은, 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업자 1인당 최대 작업 제한 건수를 사전 설정하는 단계, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계, 상기 복수의 작업자로부터 복수의 작업 결과 또는 작업 패스(pass) 요청을 입력받는 단계, 상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계, 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는 단계 및 상기 검수 결과에 기초하여 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계를 포함하고, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는, 작업자가 현재까지 작업 수행한 전체 건수를 카운트하여 누적 작업 수행 건수를 산출하는 단계와, 상기 누적 작업 수행 건수가 상기 최대 작업 제한 건수와 일치하는지 판단하는 단계와, 상기 누적 작업 수행 건수가 상기 최대 작업 제한 건수와 일치하면, 상기 작업자에게 추가적인 작업 배정을 중지하는 단계를 포함하고, 상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는, 각 작업에 대해서 상기 작업 패스 요청이 입력된 횟수(이하, 작업 패스 횟수)에 기초하여 작업 난이도를 측정하는 단계와, 상기 검수 결과 및 상기 작업 난이도에 기초하여 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계를 포함한다.
본 발명의 일부 실시예에서, 상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는, 각 작업자에 대해서 상기 작업 난이도별 상기 검수 결과를 검수 통과로 입력받은 작업 결과의 누적 건수에 따라 상기 최대 작업 제한 건수를 갱신할 수 있다.
본 발명의 일부 실시예에서, 상기 작업 패스 횟수에 기초하여 작업 난이도를 측정하는 단계는, 상기 작업 패스 횟수가 제1 값 미만인 작업의 작업 난이도는 제1 난이도로 측정하고, 상기 작업 패스 횟수가 제1 값 이상이고 제2 값 미만인 작업의 작업 난이도는 제2 난이도로 측정하고, 상기 작업 패스 횟수가 제2 값 이상인 작업의 작업 난이도는 제3 난이도로 측정할 수 있다.
본 발명의 일부 실시예에서, 상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는, 상기 제2 난이도로 측정되고, 상기 검수 결과를 검수 통과로 입력받은 작업 결과가 m건 누적될 때마다 n건만큼 최대 작업 제한 건수를 증가시켜 갱신할 수 있다(m 및 n은 자연수).
본 발명의 일부 실시예에서, 상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는, 상기 제3 난이도로 측정되고, 상기 검수 결과를 검수 통과로 입력받은 작업 결과가 i건 누적될 때마다 j건만큼 최대 작업 제한 건수를 증가시켜 갱신할 수 있다(i 및 j는 자연수, i<m, j>n).
본 발명의 일부 실시예에서, 상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는, 상기 제1 난이도로 측정되고, 상기 검수 결과를 검수 통과로 입력받은 작업 결과에 대해서는 누적 건수에 상관없이 상기 최대 작업 제한 건수를 갱신하지 않을 수 있다.
본 발명의 일부 실시예에서, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는, 상기 작업 패스 요청이 입력된 작업은 배정을 철회하고, 다른 작업자에게 재배정하여 작업 수행을 요청할 수 있다.
본 발명의 일부 실시예에서, 상기 작업 패스 횟수에 기초하여 작업 난이도를 측정하는 단계는, 상기 작업 패스 횟수가 기준 값 이상인 작업의 작업 난이도는 고난이도로 측정하고, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는, 상기 고난이도 작업에 대해서 소정 기간 동안 작업자에게의 배정 및 작업 수행 요청을 중단할 수 있다.
본 발명의 일부 실시예에서, 상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는, 상기 프로젝트의 상기 복수의 작업 중 상기 고난이도 작업을 제외한 나머지 작업이 수행 완료되면, 상기 고난이도 작업을 상기 복수의 작업자 중 우수 등급의 작업자에게 재배정하여 작업 수행을 요청할 수 있다.
상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
상술한 본 발명에 의하면, 각 작업에 대한 검수 패스 요청 횟수에 따라 각 작업의 난이도를 측정하고, 각 작업자들이 수행한 작업 중에서 검수 통과된 작업들의 각 난이도에 따라 각 작업자들의 검수 수행 능력을 판단할 수 있다.
각 작업자의 검수 수행 능력에 따라 최대 작업 제한 건수를 차별하여 갱신함으로써, 검수 수행 능력이 더 좋은 작업자가 더 많은 작업을 수행할 수 있도록 할 수 있다.
검수 수행 능력이 더 좋은 작업자가 더 많은 작업을 수행함에 따라, 프로젝트의 전체적인 작업 품질이 향상될 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법의 순서도이다.
도 4는 본 발명의 일 실시예에 따른 도 3의 단계 S120의 구체적인 순서도이다.
도 5는 본 발명의 일 실시예에 따른 도 3의 단계 S160의 구체적인 순서도이다.
도 6은 본 발명의 일 실시예에 따른 작업 패스 횟수에 따른 작업 난이도 측정을 설명하기 위한 예시도이다.
도 7은 본 발명의 일 실시예에 따른 난이도별 작업 결과의 누적 건수를 설명하기 위한 예시도이다.
도 8은 본 발명의 일 실시예에 따른 최대 작업 제한 건수 갱신을 설명하기 위한 예시도이다.
도 9는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 장치를 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.
서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).
이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).
이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).
검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
종래의 경우 프로젝트에는 최대 작업 제한 건수가 설정되어 있어, 프로젝트에서 작업자 1인당 작업을 수행할 수 있는 최대 건수가 정해져 있다. 즉, 각 작업자는 프로젝트에서 최대 작업 제한 건수까지 작업을 수행하면 그 이후에는 프로젝트에서 더 이상 작업 수행이 불가하게 된다. 최대 작업 제한 건수는 프로젝트에서 불량 작업자가 최대 작업 제한 건수 이상으로 작업을 수행하는 것을 제한함으로써 불량 작업자가 프로젝트에 먼저 참가하여 작업을 선점하고, 저품질의 작업 결과를 양산하는 것을 방지하는 기능으로 작용하였지만, 반면에 우수 작업자가 최대 작업 제한 건수 이상으로 작업을 수행하는 것을 제한함으로써 고품질의 작업 결과가 생산되는 것을 방해하는 문제로도 작용하였다.
이러한 문제를 해소하기 위해, 본 발명의 일 실시예는, 각 작업자별로 작업 수행 능력을 판단하여 더 우수한 작업 수행 능력을 나타내는 작업자의 최대 작업 제한 건수를 더 많이 증가시켜 갱신함으로써, 작업 수행 능력이 우수한 작업자일수록 최대 작업 제한 건수보다 더 많은 건수의 작업을 수행할 수 있도록 한다.
이하에서는, 도 3 내지 도 8을 참조하여, 본 발명의 실시예에 따른 각 작업자별로 작업 수행 능력을 판단하여 더 우수한 작업 수행 능력을 나타내는 작업자의 최대 작업 제한 건수를 더 많이 증가시켜 갱신하는 방법에 대해 설명하도록 한다.
도 3은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법의 순서도이다. 도 4는 본 발명의 일 실시예에 따른 도 3의 단계 S120의 구체적인 순서도이다. 도 5는 본 발명의 일 실시예에 따른 도 3의 단계 S160의 구체적인 순서도이다. 도 6은 본 발명의 일 실시예에 따른 작업 패스 횟수에 따른 작업 난이도 측정을 설명하기 위한 예시도이다. 도 7은 본 발명의 일 실시예에 따른 난이도별 작업 결과의 누적 건수를 설명하기 위한 예시도이다. 도 8은 본 발명의 일 실시예에 따른 최대 작업 제한 건수 갱신을 설명하기 위한 예시도이다.
한편, 도 3, 도 4 및 도 5에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
먼저 도 3을 참조하면, 서버는 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업자(32) 1인당 최대 작업 제한 건수를 사전 설정한다(S110).
여기서, 최대 작업 제한 건수는 하나의 프로젝트 내에서 각 작업자(32)가 최대로 수행할 수 있는 작업 건수를 의미한다. 예를 들어, 사전 설정된 최대 작업 제한 건수가 50건인 경우 각 작업자(32)는 50건을 초과하는 작업을 수행할 수 없는 것이 원칙이다.
다만, 모든 작업자(32)들이 모두 동일하게 50건의 작업을 배정받는 것은 아니다. 즉, 작업자(32)들은 첫 번째 건의 작업 수행이 완료되면 다음 작업을 배정받아 수행하고, 두 번째 건의 작업 수행이 완료되면 다음 작업을 배정받아 수행하는 방식으로, 각자의 상황에 맞게 작업을 수행하고 배정받는 것이므로, 동일 기간 동안 어느 작업자는 50건에 도달할 수도 있는 반면 어느 작업자는 동일한 기간 동안 10건, 30건의 작업만을 배정받아 완료할 수도 있다.
다음으로, 서버는 프로젝트의 복수의 작업을 복수의 작업자(32)에게 배정하여 작업 수행을 요청하고(S120), 복수의 작업자(32)로부터 복수의 작업 결과 또는 작업 패스(pass) 요청을 입력한다(S130).
서버는 각 작업자(32)에게 작업을 하나씩 배정하여 작업 수행을 요청한다. 각 작업자는 작업을 배정받으면 작업 결과를 입력하거나 또는 작업 패스 요청을 입력한다. 작업자(32)는 배정받은 작업에 대해 작업 수행이 불가하거나, 작업의 난이도가 높아 작업 수행이 어렵다고 판단되면 작업 패스 요청을 입력할 수 있다.
작업자(32)로부터 작업 결과가 입력되면, 서버는 입력받은 작업 결과를 검수자(34)에게 배정하여 검수 수행을 요청한다.
이와 달리, 작업자(32)로부터 작업 패스 요청이 입력되면, 서버는 작업 패스 요청이 입력된 작업에 대하여 배정을 철회하고, 다른 작업자(32)에게 재배정하여 작업 수행을 요청한다. 이때, 서버는 작업 패스 요청을 입력한 작업자(32)에게 다시 동일한 작업이 배정되지 않도록 할 수 있다.
예를 들어, 프로젝트에 작업자 A, B 및 C가 참여하고 있는 경우, 특정 작업에 대해서 작업자 A가 작업 패스를 요청했을 때 서버는 작업자 A를 제외한 작업자 B 및 C 중 한 명에게 특정 작업을 재배정한다. 만약, 서버가 작업자 B에게 특정 작업을 재배정했는데, 작업자 B도 특정 작업에 대하여 작업 패스를 요청하면 서버는 작업자 C에게 특정 작업을 다시 재배정한다.
상술한 바와 같이, 단계 S120에서 서버는 각 작업자(32)가 배정받은 작업의 수행을 완료하면(즉, 작업 결과를 입력하면) 다음 작업을 배정하여 작업 수행을 요청하는데, 이때 각 작업자(32)가 최대 작업 제한 건수까지 작업을 수행하면 더 이상 작업을 배정하지 않는다.
구체적으로, 도 4를 참조하면, 서버는 작업자(32)가 현재까지 작업 수행한 전체 건수를 카운트하여 누적 작업 수행 건수를 산출한다(S121).
서버는 각 작업자(32)가 현재까지 작업 수행한 전체 건수를 카운트하여 누적 산출하여 각 작업자(32)가 현재까지 몇 건의 작업을 수행했는지를 파악한다.
여기서, 각 작업자(32)마다 현재까지의 누적 작업 수행 건수는 상이할 수 있다. 각 작업자(32)는 각자의 상황에 맞게 작업을 수행하고 배정받기 때문이다.
서버는 누적 작업 수행 건수가 최대 작업 제한 건수와 일치하는지 판단하고(S122), 누적 작업 수행 건수가 최대 작업 제한 건수와 일치하면, 작업자(32)에게 추가적인 작업 배정을 중지한다(S123).
즉, 서버는 최대 작업 제한 건수까지 작업을 수행한 작업자(32)에게는 추가적인 작업의 배정을 중지함으로써, 작업자(32)가 최대 작업 제한 건수를 초과하여 작업을 수행하지 못하도록 한다.
다음으로, 다시 도 3을 참조하면, 서버는 복수의 작업 결과를 복수의 검수자(32)에게 배정하여 검수 수행을 요청하고(S140), 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는다(S150).
상술한 바와 같이, 각 작업자(32)로부터 입력된 작업 결과는 각 검수자(34)에게 배정되어 검수 수행된다. 각 검수자(34)는 배정받은 작업 결과가 적절하게 작업 수행되었다고 판단되면 검수 결과를 검수 통과로 입력하거나, 작업 결과가 적절하지 않게 작업 수행되었다고 판단되면 검수 결과를 반려로 입력한다.
이후, 서버는 검수 결과에 기초하여 각 작업자(32)에 대해서 최대 작업 제한 건수를 갱신한다(S160).
상술한 바와 같이, 각 작업자(32)는 하나의 프로젝트에 대하여 최대 작업 제한 건수만큼의 작업만을 배정받을 수 있으며, 더 이상 추가적인 작업 배정은 불가하다. 다만, 본 발명의 일 실시예는 작업 수행 능력이 우수한 작업자(32)에게 예외적으로 추가 작업 배정을 허용할 수 있는바, 이하 각 작업자별로 최대 작업 제한 건수를 증가시키는 내용을 구체적으로 설명하도록 한다.
일 실시예로, 서버는 각 작업자에 대해서 작업 난이도별 검수 결과를 검수 통과로 입력받은 작업 결과의 누적 건수에 따라 최대 작업 제한 건수를 갱신한다.
구체적으로, 도 5를 참조하면, 서버는 각 작업에 대해서 작업 패스 요청이 입력된 횟수(이하, 작업 패스 횟수)에 기초하여 작업 난이도를 측정한다(S161).
서버는 작업 패스 횟수가 제1 값 미만인 작업의 작업 난이도는 제1 난이도로 측정하고, 작업 패스 횟수가 제1 값 이상이고 제2 값 미만인 작업의 작업 난이도는 제2 난이도로 측정하고, 작업 패스 횟수가 제2 값 이상인 작업의 작업 난이도는 제3 난이도로 측정한다.
도 6에 도시된 예시는 제1 값이 1로 설정되고 제2 값이 2로 설정된 경우이다. 하나의 프로젝트는 총 100건의 작업을 포함하며, 작업자 A, B, C 등 복수의 작업자가 참여하는 것으로 가정한다.
위 예시에서 제1 값인 1회 미만, 즉 작업 패스가 한 번도 요청되지 않고 바로 작업 결과가 입력된 1번, 4번, 8번 등의 작업에 대해서는 작업 난이도를 제1 난이도로 측정한다. 이때, 1번 작업은 작업자 A에 의해 바로 작업 결과가 입력되었고, 4번 작업은 작업자 B에 의해 바로 작업 결과가 입력되었고, 8번 작업은 작업자 D에 의해 바로 작업 결과가 입력되었다.
위 예시에서 제1 값인 1회 이상이고 제2 값인 2회 미만, 즉 작업 패스가 한번 요청된 후에 작업 결과가 입력된 2번, 5번, 6번 등의 작업에 대해서는 작업 난이도를 제2 난이도로 측정한다. 이때, 2번 작업은 작업자 B에 의해 작업 패스된 후 작업자 A에 의해 작업 결과가 입력되었고, 5번 작업은 작업자 A에 의해 작업 패스된 후 작업자 C에 의해 작업 결과가 입력되었고, 6번 작업은 작업자 B에 의해 작업 패스된 후 작업자 A에 의해 작업 결과가 입력되었다.
위 예시에서 제2 값인 2회 이상, 즉 작업 패스가 두 번 요청된 후에 작업 결과가 입력된 9번, 10번, 100번 등의 작업에 대해서는 작업 난이도를 제3 난이도로 측정한다. 이때, 9번 작업은 작업자 B 및 작업자 A에 의해 각각 작업 패스된 후 작업자 D에 의해 작업 결과가 입력되었고, 10번 작업은 작업자 C 및 작업자 B에 의해 각각 작업 패스된 후 작업자 A에 의해 작업 결과가 입력되었고, 100번 작업은 작업자 A 및 작업자 D에 의해 각각 작업 패스된 후 작업자 B에 의해 작업 결과가 입력되었다.
실시예에 따라, 서버는 작업 패스 횟수가 기준 값 이상인 작업의 작업 난이도는 고난이도로 측정한다.
예를 들어, 기준 값이 3인 경우, 작업 패스가 3회 이상 요청된 작업의 작업 난이도는 고난이도로 측정된다.
여기서, 기준 값은 프로젝트의 난이도에 상응하여 결정될 수 있다. 즉, 기본적으로 프로젝트의 난이도가 높다면 기준 값은 작은 값으로 결정될 수 있고, 반대로 프로젝트의 난이도가 낮다면 기준 값은 큰 값으로 결정될 수 있다.
즉, 낮은 난이도의 프로젝트라면 많은 작업자(32)가 작업 패스 요청을 해야 고난이도 작업으로 추정할 수 있지만, 높은 난이도의 프로젝트라면 소수의 작업자(32)가 작업 패스 요청을 한 경우라도 이미 고난이도 작업으로 추정할 수 있다.
따라서, 높은 난이도의 프로젝트에서 단지 세 번의 작업 패스 요청이 있는 경우라 하더라도 해당 작업은 고난이도 작업으로 추정될 수 있다.
서버는 작업 난이도가 고난이도로 측정된 작업에 대해서 소정 기간 동안 작업자에게의 배정 및 작업 수행 요청을 중단한다.
즉, 고난이도 작업의 경우 다른 작업자(32)들에게 계속하여 재배정하더라도 배정받은 작업자(32)들은 계속하여 작업 패스 요청을 할 가능성이 높으며, 이는 결국 프로젝트의 일정을 지연시키는 요인으로 작용하므로, 소정 기간 동안 작업자(32)에게의 배정 및 작업 수행 요청을 중단시킨다.
서버는 작업자(32)로부터 작업 패스 요청이 입력된 작업에 대해서는 상술한 바와 같이 이전 배정을 철회하고 다른 작업자(32)에게 재배정하여 작업 수행을 요청하는 반면, 작업 패스 요청이 기준 값 이상으로 요청된 작업에 대해서는 소정 기간 동안 다른 작업자(32)에게 재배정하지 않음으로써 프로젝트가 원활히 진행될 수 있도록 한다.
도 6의 예시를 참조하면, 작업 패스 요청이 입력된 횟수가 기준 값인 3회 미만인 작업 즉, 작업 패스 요청이 1회인 2번, 5번, 6번 등의 작업과, 작업 패스 요청이 2회인 9번, 10번, 100번 등의 작업에 대해서는 작업 패스 요청시 배정을 철회하고 다른 작업자(32)에게 재배정하여 작업 수행을 다시 요청하게 된다.
하지만, 작업 패스 요청이 입력된 횟수가 기준 값인 3회 이상인 3번, 7번 등의 작업에 대해서는 배정을 철회하되 다른 작업자(32)에게 재배정하지 않고, 소정 기간 동안 작업자(32)에게의 배정 및 작업 수행 요청을 중단시킨다.
이와 같이 중단 상태인 고난이도 작업들에 대하여, 서버는 프로젝트에 포함된 복수의 작업 중 고난이도 작업을 제외한 나머지 작업의 수행이 완료되면, 고난이도 작업을 복수의 작업자(32) 중 우수 등급의 작업자(32)에게 재배정하여 작업 수행을 요청할 수 있다.
즉, 본 발명의 일 실시예는 고난이도 작업으로 분류된 작업들에 대해서는 작업 수행을 중단시키고, 상대적으로 저난이도 작업들의 작업 수행이 모두 완료되면, 그때 고난이도 작업의 재배정을 시작할 수 있다. 이때, 서버는 고난이도 작업들에 대해 복수의 작업자(32)를 대상으로 재배정하게끔 할 수도 있으나, 보다 작업 수행 가능성이 있는 작업자(32)인 우수 등급의 작업자(32)를 추출하여 해당 작업자(32)들에게 고난이도 작업을 재배정할 수 있다.
일 실시예로, 우수 등급의 작업자는 복수의 작업자(32) 중에서 작업자(32)의 반려율에 기초하여 선정될 수 있다.
즉, 서버는 복수의 작업 결과를 복수의 검수자(34)에게 배정하여 검수 수행을 요청하고, 복수의 검수자(34)로부터 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받으면, 해당 결과에 기초하여 각각의 작업자(32)들의 반려율을 산출할 수 있다.
그리고 각 작업자(32)들의 반려율을 내림차순으로 정리하여, 소정의 상위 등급에 해당하는 작업자(32)들을 우수 등급의 작업자(32)로 선정할 수 있다. 반려율이 낮은 작업자(32)일수록 고난이도 작업을 수행할 수 있는 가능성이 높으므로, 본 발명의 일 실시예는 고난이도 작업을 제외한 나머지 작업이 수행 완료되면, 검수 결과에 기초한 반려율을 산출하고 이를 통해 우수 등급의 작업자(32)를 선정할 수 있다.
또한, 일 실시예로 우수 등급의 작업자(32)의 선정은 반려율을 고려하는 것에 더하여, 복수의 작업자(32) 중 작업 패스 요청이 입력된 횟수가 기준 값보다 적고 기준 값-n회(단, n은 1 이상의 자연수) 이상인 작업을 검수 통과시킨 하나 이상의 작업자(32) 중에서 선정될 수 있다.
예를 들어, 복수의 작업자 중 반려율에 기초하여 10명의 작업자가 1차 선정되었고, 기준 값이 3이며, n은 1로 설정된 경우, 위 10명의 작업자 중에서 작업 패스 요청이 입력된 횟수가 3회보다 적고, 2회 이상의 작업 패스 요청이 입력된 작업을 검수 통과시킨 작업자를 우수 등급의 작업자로 선정할 수 있다.
즉, 본 발명의 일 실시예는 우수 등급의 작업자(32) 선정시, 단순히 반려율만을 고려하는 것이 아니라, 다른 작업자(32)들보다도 프로젝트에 대한 프로젝트에 대한 이해도가 높아 작업 패스 요청이 기준 값보다 낮으면서 다른 작업자(32)들에 의한 작업 패스 요청이 입력된 작업을 검수 통과시킨 작업자(32)를 우수 등급의 작업자로 선별할 수 있다.
또 다른 실시예로, 본 발명은 우수 등급의 작업자(32) 선정시, 복수의 작업자(32) 중 작업 패스 요청이 입력된 횟수가 기준 값보다 적고 기준 값-n회 이상인 작업을 수행 완료한 하나 이상의 작업자(32) 중에서 각각의 작업자(32)의 반려율과 작업 수행 속도에 더 기초하여 선정할 수 있다.
즉, 고난이도 작업을 재배정하는 시점은 프로젝트의 말미에 해당하므로, 반려율이 낮고, 다른 작업자(32)보다 더욱 이해도가 높은 작업자 중에서 더욱 빠르게 작업 수행을 완료할 수 있는 작업자(32)를 우수 등급의 작업자(32)로 선정할 수 있다.
이때, 작업 수행 속도는 '누적 작업 수행 건수/프로젝트 참여 기간'으로 산출할 수 있다.
또는, 각각의 작업자(32)에게 배정된 각각의 작업별로 작업 수행을 시작한 시각과 작업 수행을 완료하여 작업 결과를 입력한 시각을 기록하고, 이들을 평균한 평균 작업 수행 속도를 적용할 수도 있다. 이때, 작업 수행을 시작한 시각은 작업자(32)가 작업을 배정받은 시각일 수 있으며, 작업 결과를 입력한 시각은 온라인 작업 공간을 통해 작업 결과를 제출한 시각을 의미한다. 한편, 작업 수행 속도를 산출함에 있어 재작업 건은 검수자(34)의 검수로 인한 추가적인 시간이 소요되므로 합산하지 않을 수도 있다.
다시 도 5를 참조하면, 서버는 검수 결과 및 작업 난이도에 기초하여 각 작업자(32)에 대해서 최대 작업 제한 건수를 갱신한다(S162).
구체적으로, 서버는 각 작업자(32)가 작업 수행한 복수의 작업 결과 중에서 검수 결과가 검수 통과로 입력된 작업 결과를 대상으로, 작업 난이도별 누적 건수에 따라 각 작업자(32)의 최대 작업 제한 건수를 증가시켜 갱신한다.
일 실시예로, 서버는 제1 난이도로 측정되고, 검수 결과를 검수 통과로 입력받은 작업 결과에 대해서는 누적 건수에 상관없이 최대 작업 제한 건수를 갱신하지 않는다.
즉, 상술한 바와 같이 제1 난이도의 작업은 작업 패스가 한 번도 요청되지 않은 작업을 의미하므로, 제1 난이도로 측정된 작업을 수행하여 검수 결과를 검수 통과로 받았다고 해도 해당 작업자(32)의 작업 수행 능력이 다른 작업자(32)들보다 우수하다고는 할 수는 없기 때문에 최대 작업 제한 건수를 그대로 유지하는 것이다.
서버는 제2 난이도로 측정되고, 검수 결과를 검수 통과로 입력받은 작업 결과가 m건 누적될 때마다 n건만큼 최대 작업 제한 건수를 증가시켜 갱신한다. 여기서, m 및 n은 자연수이다.
서버는 제3 난이도로 측정되고, 검수 결과를 검수 통과로 입력받은 작업 결과가 i건 누적될 때마다 j건만큼 최대 작업 제한 건수를 증가시켜 갱신한다. 여기서, i 및 j는 자연수이다.
이때, i는 m보다 작은 값으로 설정되고, j는 n보다 큰 값으로 설정된다.
즉, 상술한 바와 같이 제2 난이도의 작업은 작업 패스가 한번 요청된 작업을 의미하고, 제3 난이도의 작업은 작업 패스가 두 번 요청된 작업을 의미하므로, 제2 난이도로 측정된 작업을 수행하여 검수 결과를 검수 통과로 받은 작업자(32)의 작업 수행 능력보다 제3 난이도로 측정된 작업을 수행하여 검수 결과를 검수 통과로 받은 작업자(32)의 작업 수행 능력이 더 우수하다고 할 수 있다. 제3 난이도로 측정된 작업을 수행하여 검수 통과시킨 작업자(32)가 제2 난이도로 측정된 작업을 수행하여 검수 결과를 검수 통과로 받은 작업자(32)보다도 작업 패스 요청 횟수가 더 많은 작업을 검수 통과시켰기 때문에 프로젝트에 대한 프로젝트에 대한 이해도가 높다고 판단하는 것이다.
따라서, 제3 난이도로 측정된 작업을 수행하여 검수 통과시킨 작업자(32)의 최대 작업 제한 건수를 더 많이 증가시킴으로써, 작업 수행 능력이 더 우수한 작업자(32)가 더 많은 작업을 수행할 수 있도록 한다.
도 7에 도시된 예시는 작업자 A가 사전 설정된 50건의 최대 작업 제한 건수 중에서 20건의 작업을 수행하고, 그 중 10건의 작업 결과가 검수 통과된 경우이다. 그리고, m은 5이고, n은 10이고, i은 3이고, j은 20인 것으로 인 것으로 가정하여 설명한다.
도 7a를 참조하면, 검수 통과된 10건의 작업 결과 중 4건은 제1 난이도의 작업(1번, 2번, 3번, 8번)이고, 5건은 제2 난이도의 작업(4번, 5번, 7번, 9번, 10번)이고, 1건은 제3 난이도의 작업(6번)이다. 상술한 바와 같이 제1 난이도의 작업의 누적 건수는 최대 작업 제한 건수 갱신에 영향을 미치지 않는다. 이와 달리, 제2 난이도의 작업의 누적 건수는 5건이므로 서버는 작업자 A의 최대 작업 제한 건수를 10건 증가시켜 60건으로 갱신하게 된다. 이때, 제3 난이도의 작업의 누적 건수는 1건으로 해당 시점에서 제3 난이도에 대해서는 최대 작업 제한 건수가 갱신되지 않았지만, 이후의 검수 통과된 작업 결과(11번, 12번)의 작업 난이도가 제3 난이도인 경우 서버는 작업자 A의 최대 작업 제한 건수를 20건 더 증가시켜 갱신할 수 있다.
도 7b를 참조하면, 검수 통과된 10건의 작업 결과 중 3건은 제1 난이도의 작업(1번, 3번, 6번)이고, 4건은 제2 난이도의 작업(2번, 5번, 7번, 10번)이고, 3건은 제3 난이도의 작업(4번, 8번, 9번)이다. 상술한 바와 같이 제1 난이도의 작업의 누적 건수는 최대 작업 제한 건수 갱신에 영향을 미치지 않는다. 이와 달리, 제3 난이도의 작업의 누적 건수는 3건이므로 서버는 작업자 A의 최대 작업 제한 건수를 20건 증가시켜 70건으로 갱신하게 된다. 이때, 제2 난이도의 작업의 누적 건수는 4건으로 해당 시점에서 제2 난이도에 대해서는 최대 작업 제한 건수가 갱신되지 않았지만, 이후의 검수 통과된 작업 결과(11번)의 작업 난이도가 제2 난이도인 경우 서버는 작업자 A의 최대 작업 제한 건수를 10건 더 증가시켜 갱신할 수 있다.
즉, 작업자(32)는 프로젝트에 참여하여 사전 설정되고 이후에 갱신되는 최대 작업 제한 건수 내에서 작업을 수행하고, 서버는 작업자(32)가 입력한 작업 결과 중 검수 통과되는 건수가 발생할 때마다 작업 난이도별로 누적 건수를 산출하여 최대 작업 제한 건수의 갱신을 수행할 수 있다.
도 8을 참조하면, 작업자(32)는 사전 설정된 최대 작업 제한 건수 50건 내에서 작업을 수행하게 된다. 서버는 작업자(32)가 작업 수행한 30건의 작업 결과 중 검수 통과된 작업 결과를 대상으로 하여 작업 난이도별 누적 건수를 산출했을 때, 제2 난이도에 대한 누적 건수가 5건으로 산출되어(제3 난이도의 작업은 누적 건수에 도달하지 못함) 작업자(32)의 최대 작업 제한 건수를 10건 증가시켜 60건으로 갱신할 수 있다.
이후, 작업자(32)는 갱신된 최대 작업 제한 건수 60건 내에서 작업을 수행하게 된다. 이때, 서버는 최대 작업 제한 건수의 갱신을 수행하기 위해 각 작업 난이도별 누적 건수를 산출할 때, 갱신 1에서 고려했던 제2 난이도의 누적 건수는 제외하고 새롭게 제2 난이도의 누적 건수를 산출한다. 서버는 작업자(32)가 작업 수행한 55건(이전에 수행했던 30건 이후에 25건의 작업을 수행)의 작업 결과 중 검수 통과된 작업 결과를 대상으로 하여 작업 난이도별 누적 건수를 산출했을 때, 제3 난이도에 대한 누적 건수가 3건으로 산출되어 작업자(32)의 최대 작업 제한 건수를 20건 증가시켜 80건으로 갱신할 수 있다.
이후, 작업자(32)는 갱신된 최대 작업 제한 건수 80건 내에서 작업을 수행하게 된다. 이때, 서버는 최대 작업 제한 건수의 갱신을 수행하기 위해 각 작업 난이도별 누적 건수를 산출할 때, 갱신 1에서 고려했던 제2 난이도의 누적 건수와 갱신 2에서 고려했던 제3 난이도의 누적 건수를 제외하고, 새롭게 제2 난이도의 누적 건수와 제3 난이도의 누적 건수를 산출한다.
상기에서는 최대 작업 제한 건수의 갱신은 검수 통과 건수가 발생할 때마다 이루어지는 것으로 설명하였지만, 작업자(32)의 누적 작업 수행 건수가 최대 작업 제한 건수에 도달했을 때에 비로소 최대 작업 제한 건수의 갱신이 이루어질 수도 있다.
한편, 실시예에 따라 본 발명은 최대 작업 제한 건수를 증가시켜 갱신시키는 것뿐만 아니라 최대 작업 제한 건수를 감소시켜 갱신시킬 수도 있음은 물론이다.
한편, 상술한 설명에서, 단계 S11 내지 S162은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 9의 내용은 도 1 내지 도 8의 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법에도 적용될 수 있다.
이하에서는 도 9를 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 장치(200)에 대하여 설명하도록 한다.
도 9는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 장치를 설명하기 위한 도면이다.
도 9를 참조하면, 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 장치(200)(이하, 최대 작업 제한 건수 갱신 장치)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.
통신모듈(210)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수 수행을 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.
메모리(220)에는 통신모듈(210)로부터 수신한 데이터에 기초하여 각 작업의 난이도를 측정하고, 각 작업자의 최대 작업 제한 건수를 갱신하기 위한 프로그램이 저장된다.
프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 각 작업에 대해서 작업 패스 횟수에 기초하여 작업 난이도를 측정한다.
구체적으로, 프로세서(230)는 작업 패스 횟수가 제1 값 미만인 작업의 작업 난이도는 제1 난이도로 측정하고, 작업 패스 횟수가 제1 값 이상이고 제2 값 미만인 작업의 작업 난이도는 제2 난이도로 측정하고, 작업 패스 횟수가 제2 값 이상인 작업의 작업 난이도는 제3 난이도로 측정한다.
또한, 프로세서(230)는 각 작업자에 대해서 작업 난이도별 검수 결과를 검수 통과로 입력받은 작업 결과의 누적 건수에 따라 최대 작업 제한 건수를 갱신한다.
구체적으로, 프로세서(230)는 제1 난이도로 측정되고, 검수 결과를 검수 통과로 입력받은 작업 결과에 대해서는 누적 건수에 상관없이 최대 작업 제한 건수를 갱신하지 않고, 제2 난이도로 측정되고, 검수 결과를 검수 통과로 입력받은 작업 결과가 m건 누적될 때마다 n건만큼 최대 작업 제한 건수를 증가시켜 갱신하고(m 및 n은 자연수), 제3 난이도로 측정되고, 검수 결과를 검수 통과로 입력받은 작업 결과가 i건 누적될 때마다 j건만큼 최대 작업 제한 건수를 증가시켜 갱신한다(i 및 j는 자연수, i<m, j>n).
도 9를 참조하여 설명한 최대 작업 제한 건수 갱신 장치(200)는 상술한 서버의 구성요소로 제공될 수 있다.
이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
200 : 최대 작업 제한 건수 갱신 장치
210 : 통신모듈
220 : 메모리
230 : 프로세서

Claims (10)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업자 1인당 최대 작업 제한 건수를 사전 설정하는 단계;
    상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계;
    상기 복수의 작업자로부터 복수의 작업 결과 또는 작업 패스(pass) 요청을 입력받는 단계;
    상기 복수의 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청하는 단계;
    상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력받는 단계; 및
    상기 검수 결과에 기초하여 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계를 포함하고,
    상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는,
    작업자가 현재까지 작업 수행한 전체 건수를 카운트하여 누적 작업 수행 건수를 산출하는 단계와,
    상기 누적 작업 수행 건수가 상기 최대 작업 제한 건수와 일치하는지 판단하는 단계와,
    상기 누적 작업 수행 건수가 상기 최대 작업 제한 건수와 일치하면, 상기 작업자에게 추가적인 작업 배정을 중지하는 단계를 포함하고,
    상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는,
    각 작업에 대해서 상기 작업 결과에 대한 검수 결과를 검수 통과로 입력받기 전까지 각 작업을 배정받았으나 작업을 수행하지 않은 작업자에 의해서 상기 작업 패스 요청이 입력된 횟수(이하, 작업 패스 횟수)에 기초하여 작업 난이도를 측정하는 단계와,
    각 작업자에 대해서 상기 작업 난이도별 상기 검수 결과를 검수 통과로 입력받은 작업 결과의 누적 건수에 따라 상기 최대 작업 제한 건수를 갱신하는 단계를 포함하고,
    상기 작업 패스 횟수에 기초하여 작업 난이도를 측정하는 단계는,
    상기 작업 패스 횟수가 제1 값 미만인 작업의 작업 난이도는 제1 난이도로 측정하고, 상기 작업 패스 횟수가 제1 값 이상이고 제2 값 미만인 작업의 작업 난이도는 제2 난이도로 측정하고, 상기 작업 패스 횟수가 제2 값 이상인 작업의 작업 난이도는 제3 난이도로 측정하고,
    상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는,
    상기 작업 패스 요청이 입력된 작업은 배정을 철회하고, 다른 작업자에게 재배정하여 작업 수행을 요청하는,
    크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는,
    상기 제2 난이도로 측정되고, 상기 검수 결과를 검수 통과로 입력받은 작업 결과가 m건 누적될 때마다 n건만큼 최대 작업 제한 건수를 증가시켜 갱신하는(m 및 n은 자연수),
    크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법.
  5. 제4항에 있어서,
    상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는,
    상기 제3 난이도로 측정되고, 상기 검수 결과를 검수 통과로 입력받은 작업 결과가 i건 누적될 때마다 j건만큼 최대 작업 제한 건수를 증가시켜 갱신하는(i 및 j는 자연수, i<m, j>n),
    크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법.
  6. 제4항에 있어서,
    상기 각 작업자에 대해서 상기 최대 작업 제한 건수를 갱신하는 단계는,
    상기 제1 난이도로 측정되고, 상기 검수 결과를 검수 통과로 입력받은 작업 결과에 대해서는 누적 건수에 상관없이 상기 최대 작업 제한 건수를 갱신하지 않는,
    크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법.
  7. 삭제
  8. 제1항에 있어서,
    상기 작업 패스 횟수에 기초하여 작업 난이도를 측정하는 단계는,
    상기 작업 패스 횟수가 기준 값 이상인 작업의 작업 난이도는 고난이도로 측정하고,
    상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는,
    상기 고난이도 작업에 대해서 소정 기간 동안 작업자에게의 배정 및 작업 수행 요청을 중단하는,
    크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법.
  9. 제8항에 있어서,
    상기 프로젝트의 복수의 작업을 복수의 작업자에게 배정하여 작업 수행을 요청하는 단계는,
    상기 프로젝트의 상기 복수의 작업 중 상기 고난이도 작업을 제외한 나머지 작업이 수행 완료되면, 상기 고난이도 작업을 상기 복수의 작업자 중 우수 등급의 작업자에게 재배정하여 작업 수행을 요청하는,
    크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법.
  10. 컴퓨터와 결합하여 제1항, 제4항, 제5항, 제6항, 제8항 및 제9항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법을 수행하기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
KR1020200087316A 2020-07-15 2020-07-15 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법 KR102195956B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200087316A KR102195956B1 (ko) 2020-07-15 2020-07-15 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200087316A KR102195956B1 (ko) 2020-07-15 2020-07-15 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법

Publications (1)

Publication Number Publication Date
KR102195956B1 true KR102195956B1 (ko) 2020-12-29

Family

ID=74090245

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200087316A KR102195956B1 (ko) 2020-07-15 2020-07-15 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법

Country Status (1)

Country Link
KR (1) KR102195956B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102321650B1 (ko) * 2021-07-19 2021-11-04 주식회사 크라우드웍스 크라우드소싱 기반 프로젝트의 특성에 따른 머신러닝 모델의 학습 성능 개선 방법 및 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040018810A (ko) * 2002-08-27 2004-03-04 (주)메이븐 다량 번역 중개 서비스 방법
JP2013190972A (ja) * 2012-03-13 2013-09-26 Nomura Research Institute Ltd プロジェクト管理支援システムおよびプロジェクト管理支援プログラム
US20140039985A1 (en) * 2011-06-29 2014-02-06 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
KR20180065840A (ko) * 2016-12-07 2018-06-18 (주)씽크포비엘 적합한 업무 담당자를 자동으로 할당하는 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040018810A (ko) * 2002-08-27 2004-03-04 (주)메이븐 다량 번역 중개 서비스 방법
US20140039985A1 (en) * 2011-06-29 2014-02-06 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
JP2013190972A (ja) * 2012-03-13 2013-09-26 Nomura Research Institute Ltd プロジェクト管理支援システムおよびプロジェクト管理支援プログラム
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
KR20180065840A (ko) * 2016-12-07 2018-06-18 (주)씽크포비엘 적합한 업무 담당자를 자동으로 할당하는 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102321650B1 (ko) * 2021-07-19 2021-11-04 주식회사 크라우드웍스 크라우드소싱 기반 프로젝트의 특성에 따른 머신러닝 모델의 학습 성능 개선 방법 및 장치

Similar Documents

Publication Publication Date Title
KR102156582B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법
KR102232866B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법
KR102232859B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법
KR102195629B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법
KR102195956B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법
KR102164769B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검수 패스를 활용한 능숙도 측정 방법
KR102205811B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소별 작업시간을 활용한 최소 작업시간 설정 방법
KR102155748B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 시간 대비 검수 시간을 이용한 검수 단가 자동 업데이트 방법
KR102159578B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법
KR102155839B1 (ko) 작업불가 사유 기반의 작업자 모니터링 방법 및 장치
KR102155886B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검수 결과에 기초한 작업자별 최대 작업 제한 건수 적용 방법
KR102205810B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 재작업 결과의 자동 반려 방법
KR102195608B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 오브젝트 반려율을 활용한 자동 반려 방법
KR102195606B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자의 선택적인 셀프 체크를 통한 신뢰도 향상 방법
KR102156587B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법
KR102195631B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 결과에 기초한 작업자에 대한 검수 권한 자동 부여 방법
KR102155747B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법
KR102164837B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 비용 효율적인 검수 품질 관리 방법
KR102156585B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트 간 작업 단가 조정을 통한 작업자의 프로젝트 유입 조절 방법
KR102164852B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 긴급도를 고려한 프로젝트 참여 제한 방법
KR102195632B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 가용 작업자 선별을 통한 최대 작업 결과 수량 산출 방법
KR102232909B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법
KR102183812B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법
KR102159574B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 결과의 정확도 추정 및 관리 방법
KR102155746B1 (ko) 검수자 간 샘플 검수를 통한 검수자 검증 방법

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant