KR102155792B1 - 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법 - Google Patents

크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법 Download PDF

Info

Publication number
KR102155792B1
KR102155792B1 KR1020190140271A KR20190140271A KR102155792B1 KR 102155792 B1 KR102155792 B1 KR 102155792B1 KR 1020190140271 A KR1020190140271 A KR 1020190140271A KR 20190140271 A KR20190140271 A KR 20190140271A KR 102155792 B1 KR102155792 B1 KR 102155792B1
Authority
KR
South Korea
Prior art keywords
project
inspector
previous
inspectors
open
Prior art date
Application number
KR1020190140271A
Other languages
English (en)
Inventor
박민우
김주영
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Priority to KR1020190140271A priority Critical patent/KR102155792B1/ko
Priority to PCT/KR2020/010392 priority patent/WO2021091050A1/ko
Application granted granted Critical
Priority to JP2020154053A priority patent/JP7075969B2/ja
Publication of KR102155792B1 publication Critical patent/KR102155792B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063116—Schedule adjustment for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06313—Resource planning in a project environment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06393—Score-carding, benchmarking or key performance indicator [KPI] analysis

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Development Economics (AREA)
  • Operations Research (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법이 제공된다. 상기 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법은 오픈예정 프로젝트에 포함되는 기능요소를 파악하는 단계, 검수자가 참여했던 복수의 이전 프로젝트 중에서 상기 오픈예정 프로젝트의 기능요소가 하나 이상 포함된 이전 프로젝트를 추출하는 단계, 추출된 이전 프로젝트에 포함된 기능요소 중에서 상기 오픈예정 프로젝트의 기능요소에 해당하는 상기 이전 프로젝트의 기능요소를 기반으로 이전 프로젝트에 대한 검수자의 경험점수를 산출하는 단계, 상기 산출된 각각의 이전 프로젝트에 대한 검수자의 경험점수를 전부 합하여 상기 검수자의 오픈예정 프로젝트 매칭점수를 산출하는 단계 및 산출된 상기 검수자의 상기 오픈예정 프로젝트 매칭점수를 기반으로 하여 상기 검수자를 선별하는 단계를 포함한다.

Description

크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법{METHOD FOR SELECTING INSPECTOR ACCORDING TO FEATURE OF PROJECT BASED ON CROWD SOURCING}
본 발명은 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드 소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자와 검수자가 해당 프로젝트에 참여하게 함으로써, 작업자에게 작업을 수행하게 하고, 검수자에게 검수를 수행하게 하여 필요한 정보를 수집하게 된다.
이때, 기업은 보다 효율적이고 정확한 정보를 수집하기 위해, 오픈 예정인 프로젝트의 종류를 구분하여 적절한 검수자에게 배정해야 한다.
기존에는, 오픈 예정인 프로젝트의 탬플릿 종류, 난이도, 작업 종류 등을 기설정된 항목으로 구분하여, 구분된 프로젝트의 속성과 기능에 적절한 검수자를 평가하여 매칭하는 방식으로 검수자에게 프로젝트를 배정했다.
하지만, 기설정된 항목으로 프로젝트를 구분하는 경우는, 프로젝트의 속성과 기능에 대해 조금만 예외가 생겨도 항목을 무한으로 추가해야 하는 문제점이 있다.
또한, 오픈 예정인 프로젝트가 A/B/C의 항목으로 구분된 경우, 이전에 완료된 프로젝트들 중에서 A/B/C로 구분된 프로젝트가 없다면, 즉, 오픈 예정인 프로젝트와 완전히 같은 프로젝트가 이전 프로젝트 중에 없다면, 오픈 예정인 프로젝트의 검수자 풀(pool) 생성 시, 이전 프로젝트들의 외부 요소들을 오픈 예정인 프로젝트의 검수자 매칭을 위한 평가요소에 포함해야 한다는 문제점이 있다.
또한, 프로젝트를 구분하기 위한 분류 항목들을 트렌드에 맞게 수동으로 업데이트를 해주어야 한다는 번거로움이 있으며, 만약, 분류 항목들을 주기적으로 업데이트 하지 않으면, 동일한 프로젝트임에도 불구하고 다른 항목으로 분류될 수 있다는 문제점이 있다.
공개특허공보 제10-2014-0095956호, 2014.08.04.
본 발명이 해결하고자 하는 과제는 기존의 항목별로 오픈예정 프로젝트 자체를 분류하여 검수자를 매칭하는 방식이 아닌, 하나의 오픈예정 프로젝트의 작업에 필요한 기능요소 별로 분류하여 검수자를 평가하고 선별할 수 있는 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법을 제공하는 것이다.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법은 오픈예정 프로젝트에 포함되는 기능요소를 파악하는 단계, 검수자가 참여했던 복수의 이전 프로젝트 중에서 상기 오픈예정 프로젝트의 기능요소가 하나 이상 포함된 이전 프로젝트를 추출하는 단계, 추출된 이전 프로젝트에 포함된 기능요소 중에서 상기 오픈예정 프로젝트의 기능요소에 해당하는 상기 이전 프로젝트의 기능요소를 기반으로 이전 프로젝트에 대한 검수자의 경험점수를 산출하는 단계, 상기 산출된 각각의 이전 프로젝트에 대한 검수자의 경험점수를 전부 합하여 상기 검수자의 오픈예정 프로젝트 매칭점수를 산출하는 단계 및 산출된 상기 검수자의 상기 오픈예정 프로젝트 매칭점수를 기반으로 하여 상기 검수자를 선별하는 단계를 포함한다.
본 발명의 일부 실시예에서, 상기 이전 프로젝트에 대한 검수자의 경험점수를 산출하는 단계는, 이전 프로젝트의 전체 작업 시간 대비 상기 오픈예정 프로젝트의 기능요소에 해당하는 상기 이전 프로젝트의 기능요소의 작업 시간 비율값(a)과 상기 검수자가 해당 이전 프로젝트에서 검수완료한 건수(b)를 곱함으로써, 해당 이전 프로젝트에 대한 상기 검수자의 경험점수가 산출되는 것일 수 있다.
본 발명의 일부 실시예에서, 상기 검수자가 해당 이전 프로젝트에서 검수완료한 건수(b)가 기준값 이하인 경우, 해당 이전 프로젝트에 대한 검수자의 경험점수는 0으로 산출되는 것일 수 있다.
본 발명의 일부 실시예에서, 상기 기능요소는 프로젝트를 수행하기 위한 작업 툴(tool)에 기반하여 결정되는 것일 수 있다.
본 발명의 일부 실시예에서, 상기 검수자를 선별하는 단계는 검수자별로 산출된 복수의 오픈예정 프로젝트 매칭점수를 내림차순 나열하고, 상기 오픈예정 프로젝트에 필요한 검수자의 수만큼 검수자를 선별하는 것일 수 있다.
본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트에 필요한 검수자의 수는 상기 오픈예정 프로젝트의 신뢰도에 따라 결정되는 것일 수 있다.
본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트 매칭점수를 기준으로 검수자를 선별하여 오픈예정 프로젝트의 검수자 풀(pool)을 생성하는 단계를 포함할 수 있다.
본 발명의 일부 실시예에서, 상기 오픈예정 프로젝트의 상기 검수자 풀은 상기 오픈예정 프로젝트의 기능요소가 변경되거나 검수자들의 이전 프로젝트 참여 이력이 업데이트 됨에 따라 실시간으로 갱신되는 것일 수 있다.
본 발명의 일부 실시예에서, 상기 이전 프로젝트 참여 이력은 검수자가 이전에 참여하여 검수를 완료한 이전 프로젝트 정보일 수 있다.
상술한 과제를 해결하기 위한 본 발명의 다른 일 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법을 실행하며, 매체에 저장된다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
상기와 같은 본 발명에 따르면, 아래와 같은 효과를 얻을 수 있다.
첫째, 기존에 한번 설정해놓은 프로젝트 분류 항목이 아닌, 오픈예정 프로젝트의 기능요소 별로 검수자의 점수를 산출함으로써, 검수자 평가에 불필요한 요소는 제외하고, 오픈예정 프로젝트에 더욱 적합한 검수자들을 선별할 수 있는 효과를 얻을 수 있다.
둘째, 오픈예정 프로젝트의 기능요소를 기준으로 검수자를 분류하여 검수자 풀(pool)을 생성하기 때문에, 프로젝트에 변동 요소가 생기거나 검수자들의 이력이 업데이트 되어도, 변경된 부분을 적용하여 검수자 풀을 실시간으로 갱신할 수 있는 효과를 얻을 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 크라우드 소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드 소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법의 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 프로젝트의 작업을 설명하기 위한 예시도이다.
도 5는 본 발명의 일 실시예에 따른 프로젝트 작업이 반려되는 경우를 설명하기 위한 예시도이다.
도 6은 본 발명의 일 실시예에 따른 오픈예정 프로젝트에 포함되는 기능요소를 설명하기 위한 예시도이다.
도 7은 본 발명의 일 실시예에 따른 검수자의 이전 프로젝트 참여 이력을 설명하기 위한 예시도이다.
도 8은 본 발명의 일 실시예에 따른 검수자가 참여한 이전 프로젝트의 기능요소별 작업시간 비율을 산출하는 것을 설명하기 위한 예시도이다.
도 9는 본 발명의 일 실시예에 따른 각각의 이전 프로젝트의 경험 점수를 이용하여 검수자의 오픈예정 프로젝트 매칭점수를 산출하는 것을 설명하기 위한 예시도이다.
도 10은 본 발명의 일 실시예에 따른 오픈예정 프로젝트 매칭점수를 기반으로 검수자를 선별하는 것을 설명하기 위한 예시도이다.
도 11은 본 발명의 일 실시예에 따른 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 장치의 블록도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드 소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드 소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드 소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.
서비스 제공 업체(20)는 크라우드 소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드 소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드 소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 작업 통과 또는 반려를 할 수 있고, 작업 반려 시 반려 사유를 입력할 수 있다.
도 2는 본 발명의 일 실시예에 따른 크라우드 소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 배정한다(S13).
이후, 작업자(32)는 배정된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 배정한다(S16).
이후, 검수자(34)는 배정된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 제대로 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려를 결정한다. 반려 결정 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이때, 본 발명의 일 실시예는 검수자(34)에게 검수량을 할당함에 있어, 이전 작업 구간에 대한 반려율을 산출하고, 이에 기초하여 당해 작업 구간에 대한 샘플 작업량을 결정하여 검수자(34)에게 할당함으로써, 일정 신뢰도를 확보함과 동시에 검수자(34)의 검수 부담을 최소화시킬 수 있는 것을 특징으로 한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).
검수 결과가 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 작업을 수행하게 할 수도 있다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
한편, 도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
도 3은 본 발명의 일 실시예에 따른 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법의 흐름도이다. 도 4는 본 발명의 일 실시예에 따른 프로젝트의 작업을 설명하기 위한 예시도이다. 도 5는 본 발명의 일 실시예에 따른 프로젝트 작업이 반려되는 경우를 설명하기 위한 예시도이다. 도 6은 본 발명의 일 실시예에 따른 오픈예정 프로젝트에 포함되는 기능요소를 설명하기 위한 예시도이다. 도 7은 본 발명의 일 실시예에 따른 검수자의 이전 프로젝트 참여 이력을 설명하기 위한 예시도이다. 도 8은 본 발명의 일 실시예에 따른 검수자가 참여한 이전 프로젝트의 기능요소별 작업시간 비율을 산출하는 것을 설명하기 위한 예시도이다. 도 9는 본 발명의 일 실시예에 따른 각각의 이전 프로젝트의 경험 점수를 이용하여 검수자의 오픈예정 프로젝트 매칭점수를 산출하는 것을 설명하기 위한 예시도이다. 도 10은 본 발명의 일 실시예에 따른 오픈예정 프로젝트 매칭점수를 기반으로 검수자를 선별하는 것을 설명하기 위한 예시도이다.
한편, 도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
또한, 작업자(32)나 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
도 3을 참조하면, 서버는 오픈예정 프로젝트에 포함되는 기능요소를 파악한다(S110).
서버는 오픈예정 프로젝트에 참여하는 작업자(32)가 프로젝트 작업을 수행하기 위해 필요한 기능요소의 종류와 개수를 파악한다. 여기서, 기능요소는 프로젝트를 수행하기 위한 작업 툴(tool)에 기반하여 결정되는 것이다.
즉, 서버는 오픈예정인 프로젝트의 작업을 수행하기 위해 사용되는 작업 툴이 무엇인지 파악하고, 이를 기반으로 기능요소를 결정하게 된다. 이때, 오픈예정인 프로젝트의 작업을 수행하기 위해 사용되는 작업 툴은 서비스 제공 업체(20)의 관리자에 의해 미리 설정될 수도 있고, 또는 파일럿 진행을 통해 결정될 수 있다.
일 실시예로, 프로젝트의 작업은 복수의 기능요소를 이용한 작업을 통해 수행될 수 있다. 즉, 프로젝트에 참여하는 작업자(32)는 복수의 단계를 수행함으로써 하나의 작업을 완성할 수 있다. 도 4를 참조하면, 해당 프로젝트의 작업을 수행하기 위해서 작업자는 1단계, 2단계 및 3단계를 수행하여야 한다.
구체적으로, 작업자(32)는 특정 이미지에서 특정 객체를 선택하여 1단계, 즉, 바운딩(bounding) 작업을 수행할 수 있다. 이때, 작업자(32)는 바운딩(bounding) 작업을 수행하기 위해서 바운딩 박스 툴(Bounding Box Tool)을 사용할 수 있다.
이후, 작업자(32)는 선택된 특정 객체의 이름을 입력하여 2단계, 즉, 전사 작업을 수행할 수 있다. 이때, 작업자(32)는 전사 작업을 수행하기 위해서 인풋 박스 툴(Input Box Tool)을 사용할 수 있다.
이후, 작업자(32)는 이름이 부여된 특정 객체의 종류를 분류하기 위해, 전사 작업에서 입력된 단어를 포괄하는 상위 개념을 선택하여 3단계, 즉, 속성 분류 작업을 수행할 수 있다. 이때, 작업자(32)는 속성 분류 작업을 수행하기 위해서 메이크 스텝 툴(Make Step Tool)을 사용할 수 있다.
상기와 같이, 작업자(32)가 오픈예정 프로젝트를 수행하기 위해서, 바운딩 박스 툴(Bounding Box Tool), 인풋 박스 툴(Input Box Tool), 및 메이크 스텝 툴(Make Step Tool)을 사용하여야 하는 것으로 설정 또는 결정된 경우, 서버는 세 개의 작업 툴을 기반으로 하여 오픈예정 프로젝트의 기능요소를 파악할 수 있다.
일 실시예로, 오픈예정 프로젝트에 포함되는 기능요소는 기본적으로 작업 툴의 개수 및 명칭과 동일하게 설정될 수 있다. 예를 들어, 상기와 같이, 오픈예정 프로젝트의 작업에 필요한 작업 툴이 바운딩 박스 툴(Bounding Box Tool), 인풋 박스 툴(Input Box Tool), 및 메이크 스텝 툴(Make Step Tool)로 설정 또는 결정된 경우, 서버는 오픈예정 프로젝트의 기능요소의 명칭을 각각 바운딩 박스 툴(Bounding Box Tool), 인풋 박스 툴(Input Box Tool), 및 메이크 스텝 툴(Make Step Tool)로 설정할 수 있고, 기능요소의 수는 3개로 설정할 수 있다.
다른 일 실시예로, 오픈예정 프로젝트에 포함되는 기능요소의 명칭은 관리자에 의해 수정될 수도 있다.
도 6을 참조하면, 오픈예정 프로젝트는 기능요소 a, 기능요소 b, 기능요소 d 및 기능요소 f가 포함된다. 즉, 오픈예정 프로젝트는 작업자(32)가 4개의 작업 툴을 이용하여 작업을 수행하도록 설정 또는 결정되며, 4개의 작업 툴은 각각 기능요소 a, 기능요소 b, 기능요소 d 및 기능요소 f에 대응된다.
다시 도 3을 참조하면, 서버는 오픈예정 프로젝트의 기능요소가 하나 이상 포함된 검수자의 이전 프로젝트를 추출한다(S120).
서버는 검수자(34)의 이전 프로젝트 참여 이력을 기반으로 하여, 검수자(34)가 검수를 수행했던 이전 프로젝트들 중에서 오픈예정 프로젝트의 기능요소가 적어도 하나가 포함된 이전 프로젝트를 추출한다. 여기서, 이전 프로젝트 참여 이력은 검수자가 이전에 참여하여 검수를 완료한 이전 프로젝트 정보를 의미한다.
검수자(34)는 오픈된 프로젝트에 참여하여 동일한 프로젝트에 참여한 작업자(32)가 복수의 기능요소를 이용하여 완료한 작업에 대해 검수를 수행한다.
검수자(34)는 작업자(32)가 각각의 기능요소를 이용하여 작업을 제대로 수행했는지를 판단한다. 즉, 검수자(34)는 기능요소 작업별로 검수를 하여 반려를 하거나 통과할 수 있다.
구체적으로, 복수의 기능요소 중 특정 기능요소를 이용한 작업이 잘못된 경우, 검수자(34)는 해당 기능요소 작업에 대해서만 반려를 하고 나머지 기능요소 작업은 통과시킬 수 있다.
도 5를 참조하면, 해당 프로젝트는 바운딩 박스 툴(Bounding Box Tool)을 이용한 바운딩 작업과 인풋 박스 툴(Input Box Tool)을 이용한 전사 작업을 수행하도록 구성되어 있다. 작업자(32)는 서버로부터 제공된 이미지에서 바운딩 박스 툴(Bounding Box Tool)을 이용하여 각각의 텍스트를 바운딩 작업(a-1, a-2, a-3)할 수 있다. 이후, 작업자(32)는 각각 바운딩된 작업(a-1, a-2, a-3)에 대해 인풋 박스 툴(Input Box Tool)을 이용하여 전사 작업(b-1, b-2, b-3)을 수행할 수 있다.
이후, 검수자(34)는 작업자(32)가 바운딩 작업한 결과물 및 전사 작업한 결과물 각각에 대해서 반려 또는 통과를 할 수 있다. 구체적으로, 작업자(32)가 바운딩 작업(a-1, a-2, a-3)과 이에 대한 전사 작업(b-1, b-2, b-3)을 완료하면, 검수자(34)는 모든 작업(a-1, a-2, a-3, b-1, b-2, b-3) 각각에 대해 검수를 수행한다. 그리고, a-1에 대한 바운딩 작업과 b-2에 대한 전사 작업이 조건에 부합하지 않는다고 판단하면, a-2, a-3, b-1, b-3에 대한 작업을 통과시키고 a-1, b-2에 대한 작업만 반려시킬 수 있다.
예를 들어, 바운딩 작업이 반려되는 경우는, 바운딩된 박스의 여백이 많거나, 바운딩된 박스에 포함된 글자가 잘린 경우, 필요없이 폴리곤이 많이 찍혀있는 경우, 수직방향 설정을 위해 첫 번째 점과 두 번째 점이 수평이 되지 않은 경우, 바운딩이 시계방향으로 진행되지 않은 경우를 포함할 수 있다.
이후, 프로젝트가 종료되면 검수자(34)의 이전 프로젝트 참여 이력에 종료된 프로젝트에 대한 정보가 포함되게 된다. 구체적으로, 종료된 프로젝트의 기능요소 정보, 프로젝트의 전체 작업 시간, 기능요소별 작업 시간 정보, 프로젝트에서 검수자(34)가 검수 완료한 건수 정보 등을 포함한 프로젝트 정보가 이전 프로젝트 참여 이력에 포함되게 된다.
또한, 프로젝트가 진행중인 경우엔, 검수자(34)의 이전 프로젝트 참여 이력에 진행중인 프로젝트에 대한 정보가 포함될 수 있다. 구체적으로, 진행중인 프로젝트의 기능요소 정보, 프로젝트가 오픈된 후부터 현재 시점까지 수행된 전체 작업 시간, 프로젝트가 오픈된 후부터 현재 시점까지 수행된 기능요소별 작업 시간 정보, 프로젝트가 오픈된 후부터 현재 시점까지 검수자(34)가 검수 완료한 건수 정보 등을 포함한 프로젝트 정보가 이전 프로젝트 참여 이력에 포함되게 된다.
따라서, 서버는 실시간으로 변경되는 검수자의 이전 프로젝트 참여 이력을 기반으로 하여, 검수자(34)가 이전에 참여했던 이전 프로젝트들 중에서 오픈예정 프로젝트의 기능요소가 포함된 검수자의 이전 프로젝트를 추출할 수 있게 된다.
도 7을 참조하면, 검수자 1은 이전 프로젝트 A, 이전 프로젝트 B, 이전 프로젝트 C 및 이전 프로젝트 D에 참여하여 검수를 수행한 이력을 가지고 있다. 이때, 이전 프로젝트 A는 기능요소 a, 기능요소 c, 기능요소 f를 포함하고, 이전 프로젝트 B는 기능요소 b, 기능요소 d, 기능요소 e, 기능요소 f를 포함하고, 이전 프로젝트 C는 기능요소 a, 기능요소 d, 기능요소 g를 포함하고, 이전 프로젝트 D는 기능요소 e, 기능요소 g, 기능요소 h를 포함한다.
도 6에 도시된 바와 같이, 오픈예정 프로젝트가 기능요소 a, 기능요소 b, 기능요소 d 및 기능요소 f를 포함한다고 가정하면, 서버는 검수자 1의 이전 프로젝트들(A, B, C, D) 중에서 기능요소 a가 포함된 이전 프로젝트 A를 추출하고, 기능요소 b, 기능요소 d 및 기능요소 f가 포함된 이전 프로젝트 B를 추출하고, 기능요소 a 및 기능요소 d가 포함된 이전 프로젝트 C를 추출한다. 이전 프로젝트 D는 오픈예정 프로젝트의 기능요소를 하나도 포함하고 있지 않기 때문에 제외된다.
다시 도 3을 참조하면, 서버는 이전 프로젝트의 기능요소를 기반으로 이전 프로젝트에 대한 검수자의 경험점수를 산출한다(S130).
여기서, 이전 프로젝트에 대한 경험점수는 검수자(34)가 해당 이전 프로젝트에 참여하여, 오픈예정 프로젝트의 기능요소에 대응하는 기능요소를 이용하여 수행한 검수 건수에 기반하여 산출되는 것이다.
구체적으로, 이전 프로젝트에 대한 경험점수는 이전 프로젝트의 전체 작업 시간 대비 오픈예정 프로젝트의 기능요소에 해당하는 이전 프로젝트의 기능요소의 작업 시간 비율값(a)과 해당 검수자(34)가 해당 이전 프로젝트에서 검수 완료한 건수(b)를 곱하여 산출된다.
일 실시예로, 오픈예정 프로젝트의 기능요소에 해당하는 이전 프로젝트의 기능요소가 n개(n은 2이상 자연수)인 경우, 이전 프로젝트의 전체 작업 시간 대비 오픈예정 프로젝트의 기능요소에 해당하는 이전 프로젝트의 n개의 기능요소의 각각의 작업 시간 비율값을 합한 값(a_1+a_2+...+a_n)과 해당 검수자(34)가 해당 이전 프로젝트에서 검수 완료한 건수(b)를 곱함으로써, 해당 이전 프로젝트에 대한 검수자(34)의 경험점수가 산출될 수 있다.
여기서, 전체 작업 시간은 이전 프로젝트에서 작업자(32)들에 의해 최초로 수행된 작업 시간뿐만 아니라, 검수자(34)들에 의해 반려된 작업을 작업자(32)들이 재작업한 시간까지 모두 고려한 총 작업 시간을 의미한다.
도 8을 참조하면, 반려 수까지 고려한 이전 프로젝트 A의 전체 작업 시간은 3600sec. 이고, 이 중에서 기능요소 a를 이용한 작업 시간은 1650sec. 이고, 기능요소 c는 1200sec. 이고, 기능요소 f는 750sec. 이다. 이에 따라, 이전 프로젝트 A의 기능요소별 작업시간 비율이 각각 46%, 33% 및 21%로 산출된다.
서버는 검수자 별로 추출된 하나 이상의 이전 프로젝트 각각에 대해서 경험점수를 산출한다.
도 7을 참조하면, 서버는 검수자 1에 대해 이전 프로젝트 A의 경험점수, 이전 프로젝트 B의 경험점수, 이전 프로젝트 C의 경험점수를 각각 산출해야 한다.
구체적으로, 이전 프로젝트 A는 오픈예정 프로젝트의 기능요소 중에서 기능요소 a를 포함하고 있으며, 기능요소 a의 작업시간 비율은 46%이다. 이전 프로젝트 B는 오픈예정 프로젝트의 기능요소 중에서 기능요소 b, 기능요소 d 및 기능요소 f를 포함하고 있으며, 기능요소 b, 기능요소 d 및 기능요소 f의 작업시간 비율은 각각 30%, 20% 및 35%이다. 이전 프로젝트 C는 오픈예정 프로젝트의 기능요소 중에서 기능요소 a 및 기능요소 d를 포함하고 있으며, 기능요소 a 및 기능요소 d의 작업시간 비율은 각각 30% 및 40%이다.
도 9를 참조하면, 검수자 1이 이전 프로젝트 A에 참여하여 검수를 완료한 건수는 10건이고, 이전 프로젝트 B에 참여하여 검수를 완료한 건수는 20건이고, 이전 프로젝트 C에 참여하여 검수를 완료한 건수는 50건이다.
따라서, 이전 프로젝트 A에 대한 검수자 1의 경험점수는 0.46×10=4.6이다. 이전 프로젝트 B에 대한 검수자 1의 경험점수는 (0.3+0.2+0.35)×20=17이다. 이전 프로젝트 C에 대한 검수자 1의 경험점수는 (0.3+0.4)×50=35이다.
다시 도 3을 참조하면, 서버는 각각의 이전 프로젝트에 대한 검수자의 경험점수를 합하여 오픈예정 프로젝트 매칭점수를 산출한다(S140).
도 9를 참조하면, 이전 프로젝트 A, B, C 각각에 대한 검수자 1의 경험점수를 더하면(4.6+17+35) 검수자 1의 오픈예정 프로젝트 매칭점수는 56.6점으로 산출된다.
일 실시예로, 검수자(34)가 특정 이전 프로젝트에서 검수완료한 건수(b)가 기 설정된 기준값 이하인 경우, 해당 이전 프로젝트에 대한 검수자의 경험점수는 0으로 산출될 수 있다.
예를 들어, 기준값이 20건인 경우, 검수자 1이 이전 프로젝트 A에 참여하여 검수를 완료한 건수는 상술한 바와 같이 10건이기 때문에 기준값에 미치지 못한다. 따라서, 이전 프로젝트 A에 대한 검수자 1의 경험점수는 0으로 산출되며, 이에 따라 검수자 1의 오픈예정 매칭점수는 0+17+35=52점으로 산출되게 된다.
다른 일 실시예로, 오픈예정 프로젝트 매칭점수는 오픈예정 프로젝트의 기능요소를 기준으로 하여 검수자(34)의 이전 프로젝트 참여 이력에 따라 산출되는 것이기 때문에 최대치에는 한계가 없다. 즉, 검수자(34)의 이전 프로젝트 참여 이력이 많으면 많을수록, 또한 이전에 참여했던 프로젝트들의 기능요소들 중에서 오픈예정 프로젝트의 기능요소에 대응하는 경우가 많으면 많을수록 오픈예정 프로젝트 매칭점수는 큰 값으로 산출되게 된다.
다시 도 3을 참조하면, 서버는 오픈예정 프로젝트 매칭점수를 기반으로 검수자를 선별한다(S150).
즉, 서버는 검수자별로 각각의 오픈예정 프로젝트 매칭점수를 산출하고, 검수자별로 산출된 복수의 오픈예정 프로젝트 매칭점수를 내림차순 나열하여 오픈예정 프로젝트에 필요한 검수자(34)의 수만큼 검수자(34)를 선별한다.
이때, 오픈예정 프로젝트에 필요한 검수자(34)의 수는 오픈예정 프로젝트의 신뢰도에 따라 결정된다. 즉, 서버는 의뢰자(10)가 요구한 수준 또는 오픈예정 프로젝트의 성격에 따라 요구되는 수준의 신뢰도가 높을수록 검수자(34)의 수를 크게 설정할 수있다.
도 10을 참조하면, 오픈예정 프로젝트에 필요한 검수자(34)의 수가 5명인 경우, 검수자 풀에 포함된 복수의 검수자들 중에서 오픈예정 프로젝트 매칭점수가 높은 순서대로 5순위까지의 검수자가 선별될 수 있다.
한편, 서버는 오픈예정 프로젝트 매칭점수를 기준으로 검수자를 선별하여 오픈예정 프로젝트의 검수자 풀(pool)을 생성한다.
즉, 서버가 복수의 검수자(34) 중에서 오픈예정 프로젝트 매칭점수를 기준으로 필요한 소정의 인원만 선별하게 되면, 선별된 검수자들(34)이 포함된 오픈예정 프로젝트의 검수자 풀이 생성되게 된다.
구체적으로, 오픈예정 프로젝트에 필요한 검수자(34)의 수가 50명이라고 했을 때, 복수의 작업자에 대해 산출된 오픈예정 프로젝트 매칭값을 내림차순 나열하여 50번째 이후의 작업자에 대해서는 오픈예정 프로젝트의 작업 풀(pool)에서 제외시킬 수 있다.
일 실시예로, 오픈예정 프로젝트의 검수자 풀은 오픈예정 프로젝트의 기능요소가 변경됨에 따라 실시간으로 갱신된다. 즉, 오픈예정 프로젝트의 기능요소에 따라 검수자들의 매칭점수가 상이하게 산출되고, 이에 따라 선별되는 검수자들도 달라지게 된다. 예를 들어, 오픈예정 프로젝트의 기능요소가 a, b였을 때 검수자 1, 검수자 2가 선별되었고, 이후에 기능요소가 a, c로 변경되어 검수자 1, 검수자 3으로 변경되어 선별된 경우, 검수자 2보다 검수자 3이 오픈예정 프로젝트 매칭점수가 더 높은 것으로 산출되었기 때문에 검수자 2는 제외되고 검수자 3이 선별되게 되는 것이다.
다른 일 실시예로, 오픈예정 프로젝트의 검수자 풀은 검수자들의 이전 프로젝트 참여 이력이 업데이트 됨에 따라 실시간으로 갱신된다. 검수자들은 진행중인 복수의 프로젝트에 참여하여 계속해서 검수를 수행하기 때문에, 검수자들의 이전 프로젝트 참여 이력은 실시간으로 갱신된다. 검수자들 각각의 이전 프로젝트 참여 이력이 실시간으로 갱신됨에 따라, 검수자별로 산출되는 오픈예정 프로젝트 매칭점수도 상이하게 산출되고, 선별되는 검수자들도 달라지게 된다. 예를 들어, 검수자 1이 오픈예정 프로젝트의 기능요소 중 특정 기능요소가 포함된 프로젝트에 참여하여 검수를 수행하게 되면, 해당 프로젝트 정보가 포함되도록 검수자 1의 이전 프로젝트 참여 이력이 갱신되게 된다. 이에 따라, 검수자 1의 오픈예정 프로젝트 매칭점수가 높게 산출되어 오픈예정 프로젝트에 검수자로 선별될 수 있게 되는 것이다.
도 11은 본 발명의 일 실시예에 따른 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 장치의 블록도이다.
도 11을 참조하면, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 장치(100)(이하, '검수자 선별 장치'라 한다)는, 통신부(110), 판단부(120), 추출부(130), 산출부(140), 제어부(150) 및 저장부(160)를 포함한다.
통신부(110)는 의뢰자(10)의 단말 장치, 작업자(32)의 단말 장치 및 검수자(34)의 단말 장치 중 적어도 하나와 통신하여, 데이터를 송수신하는 역할을 수행한다.
판단부(120)는 오픈예정 프로젝트의 작업에 포함되는 복수의 기능요소를 파악하는 역할을 수행한다. 또한, 판단부(120)는 검수자(34)가 이전에 참여했던 이전 프로젝트 각각에 대해서 오픈예정 프로젝트의 기능요소가 포함되었는지를 판단하는 역할을 수행한다.
추출부(130)는 판단부(120)에 의해 오픈예정 프로젝트의 기능요소가 포함된 것으로 판단된 검수자의 이전 프로젝트를 추출하는 역할을 수행한다. 또한, 추출부(130)는 추출된 이전 프로젝트의 기능요소 중에서 오픈예정 프로젝트의 기능요소와 대응되는 기능요소 및 기능요소별 작업시간 비율을 추출하는 역할을 수행한다.
산출부(140)는 추출부(130)에 의해 추출된 오픈예정 프로젝트의 기능요소와 대응되는 이전 프로젝트의 기능요소별 작업시간 비율과 해당 이전 프로젝트에서 검수자(34)가 검수완료한 건수를 기반으로 해당 오픈예정 프로젝트에 대한 검수자(34)의 경험점수를 산출하는 역할을 수행한다. 또한, 산출부(140)는 각각의 이전 프로젝트에 대한 검수자(34)의 경험점수를 모두 합하여 검수자(34)의 오픈예정 프로젝트 매칭점수를 산출하는 역할을 수행한다.
제어부(150)는 검수자 선별 장치(100)의 구성 요소 각각을 제어한다.
저장부(160)는 검수자 선별 장치(100)에 수신된 데이터 및 검수자 선별 장치(100)에서 생성된 데이터 등을 저장 및 관리한다.
이상에서 전술한 본 발명의 일 실시예에 따른 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.
100 : 검수자 선별 장치
110 : 통신부
120 : 판단부
130 : 추출부
140 : 산출부
150 : 제어부
160 : 저장부

Claims (10)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    오픈예정 크라우드 소싱 기반 프로젝트(이하, 프로젝트)에 포함되는 기능요소를 파악하는 단계;
    검수자가 참여했던 복수의 이전 프로젝트 중에서 상기 오픈예정 프로젝트의 기능요소가 하나 이상 포함된 이전 프로젝트를 추출하는 단계;
    추출된 이전 프로젝트에 포함된 기능요소 중에서 상기 오픈예정 프로젝트의 기능요소에 해당하는 상기 이전 프로젝트의 기능요소를 기반으로 이전 프로젝트에 대한 검수자의 경험점수를 산출하는 단계;
    상기 산출된 각각의 이전 프로젝트에 대한 검수자의 경험점수를 전부 합하여 상기 검수자의 오픈예정 프로젝트 매칭점수를 산출하는 단계; 및
    산출된 상기 검수자의 상기 오픈예정 프로젝트 매칭점수를 기반으로 하여 상기 검수자를 선별하는 단계를 포함하고,
    상기 기능요소는 프로젝트를 수행하기 위한 작업툴(Tool)에 기반하여 결정되고, 상기 작업툴은 프로젝트에서 제공되며 작업자들이 상기 프로젝트가 요구하는 작업을 수행하기 위하여 사용하는 툴이고,
    상기 이전 프로젝트에 대한 검수자의 경험점수를 산출하는 단계는,
    이전 프로젝트의 전체 작업 시간 대비 상기 오픈예정 프로젝트의 기능요소에 해당하는 상기 이전 프로젝트의 기능요소의 작업 시간 비율값(a)과 상기 검수자가 해당 이전 프로젝트에서 검수완료한 건수(b)를 곱함으로써, 해당 이전 프로젝트에 대한 상기 검수자의 경험점수가 산출되는 것인, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  2. 삭제
  3. 제1항에 있어서,
    상기 검수자가 해당 이전 프로젝트에서 검수완료한 건수(b)가 기준값 이하인 경우, 해당 이전 프로젝트에 대한 검수자의 경험점수는 0으로 산출되는 것인, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  4. 삭제
  5. 제1항에 있어서,
    상기 검수자를 선별하는 단계는,
    검수자별로 산출된 복수의 오픈예정 프로젝트 매칭점수를 내림차순 나열하고, 상기 오픈예정 프로젝트에 필요한 검수자의 수만큼 검수자를 선별하는 것인, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  6. 제5항에 있어서,
    상기 오픈예정 프로젝트에 필요한 검수자의 수는 상기 오픈예정 프로젝트의 신뢰도에 따라 결정되는 것인, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  7. 제5항에 있어서,
    상기 오픈예정 프로젝트 매칭점수를 기준으로 검수자를 선별하여 오픈예정 프로젝트의 검수자 풀(pool)을 생성하는 단계를 포함하는, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  8. 제7항에 있어서,
    상기 오픈예정 프로젝트의 상기 검수자 풀은,
    상기 오픈예정 프로젝트의 기능요소가 변경되거나 검수자들의 이전 프로젝트 참여 이력이 업데이트 됨에 따라 실시간으로 갱신되는 것인, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  9. 제8항에 있어서,
    상기 이전 프로젝트 참여 이력은 검수자가 이전에 참여하여 검수를 완료한 이전 프로젝트 정보인, 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법.
  10. 컴퓨터와 결합하여, 제1항, 제3항, 제5항 내지 제9항 중 어느 하나의 항의 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
KR1020190140271A 2019-11-05 2019-11-05 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법 KR102155792B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190140271A KR102155792B1 (ko) 2019-11-05 2019-11-05 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법
PCT/KR2020/010392 WO2021091050A1 (ko) 2019-11-05 2020-08-06 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법
JP2020154053A JP7075969B2 (ja) 2019-11-05 2020-09-14 クラウドソーシング基盤のプロジェクトの特性に応じた検収者選別方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190140271A KR102155792B1 (ko) 2019-11-05 2019-11-05 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법

Publications (1)

Publication Number Publication Date
KR102155792B1 true KR102155792B1 (ko) 2020-09-14

Family

ID=72471423

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190140271A KR102155792B1 (ko) 2019-11-05 2019-11-05 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법

Country Status (3)

Country Link
JP (1) JP7075969B2 (ko)
KR (1) KR102155792B1 (ko)
WO (1) WO2021091050A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117151397B (zh) * 2023-08-31 2024-07-12 应急管理部大数据中心 一种现场检查方案任务智能匹配管理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11288435A (ja) * 1998-04-01 1999-10-19 Hitachi Ltd 人材割当支援システム
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
KR20190040890A (ko) * 2018-08-24 2019-04-19 주식회사 산타 클라우드 서비스를 이용한 영상 콘텐츠의 음성 추출 및 기계번역 연동 서비스 제공 시스템

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005084934A (ja) 2003-09-08 2005-03-31 Toshiba Corp 業務委託先選定支援装置、および電子入札システム
JP2006163514A (ja) 2004-12-02 2006-06-22 Toshiba Corp 要員選定支援システム及びそれに適用されるプログラム
KR20110091156A (ko) * 2010-02-05 2011-08-11 현대중공업 주식회사 발주대상업체 선정 관리시스템
KR101823832B1 (ko) * 2017-08-21 2018-01-31 최윤영 프리랜서 클라이언트 매칭 플랫폼 제공 시스템
US11157847B2 (en) 2017-10-20 2021-10-26 Accenture Global Solutions Limited Intelligent crowdsourced resource assistant
KR102013321B1 (ko) * 2017-12-20 2019-08-22 주식회사 잇플루언서 개발 프로젝트 중개 시스템 및 이를 이용한 중개 방법
KR101944093B1 (ko) * 2018-11-19 2019-01-30 (주)엔터랩 인공지능 과제매칭을 위한 과제 지원자 평가방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11288435A (ja) * 1998-04-01 1999-10-19 Hitachi Ltd 人材割当支援システム
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
KR20190040890A (ko) * 2018-08-24 2019-04-19 주식회사 산타 클라우드 서비스를 이용한 영상 콘텐츠의 음성 추출 및 기계번역 연동 서비스 제공 시스템

Also Published As

Publication number Publication date
JP2021077346A (ja) 2021-05-20
WO2021091050A1 (ko) 2021-05-14
JP7075969B2 (ja) 2022-05-26

Similar Documents

Publication Publication Date Title
KR102164844B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 단위 난이도를 활용한 작업자 평가 방법
KR102155790B1 (ko) 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
KR102232866B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법
KR102232859B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법
KR102195630B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 실습 교육 참여자에 대한 보상형 실습 교육 제공 방법
KR102244697B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 성향을 고려한 프로젝트 큐레이션 방법
KR102195629B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 작업 능력 지수에 기반한 작업자 선정 방법
KR102139141B1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 작업자 선별 방법
KR102159578B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법
KR102164769B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검수 패스를 활용한 능숙도 측정 방법
KR102155748B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 시간 대비 검수 시간을 이용한 검수 단가 자동 업데이트 방법
KR102232874B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 활용한 신규 검수자 평가 방법
KR102205811B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소별 작업시간을 활용한 최소 작업시간 설정 방법
KR102155792B1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법
KR102155839B1 (ko) 작업불가 사유 기반의 작업자 모니터링 방법 및 장치
KR102155749B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기준 작업 시간을 이용한 적정 단가 및 적정 작업량 결정 방법
KR102183836B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 예상 소요시간에 기반한 자동 견적 산출 방법
KR102195632B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 가용 작업자 선별을 통한 최대 작업 결과 수량 산출 방법
KR102183812B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업 결과를 이용한 검수자별 시급제 기반 검수 비용 지급 방법
KR102232909B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자별 유사 작업 패턴 정보에 기반한 반려사유 제공 방법
KR102195631B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 결과에 기초한 작업자에 대한 검수 권한 자동 부여 방법
KR102156586B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 및 검수의 순차적인 배정 방법
KR102244705B1 (ko) 학습데이터 생성을 위한 크라우드소싱 기반 유사 프로젝트의 작업 단가 역전 조정을 통한 작업자 유입 조절 방법
KR102183837B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검증용 작업을 이용한 작업자별 시급제 기반 작업 비용 지급 방법
KR102155886B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검수 결과에 기초한 작업자별 최대 작업 제한 건수 적용 방법

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant