WO2021040265A1 - 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치 - Google Patents

평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치 Download PDF

Info

Publication number
WO2021040265A1
WO2021040265A1 PCT/KR2020/010388 KR2020010388W WO2021040265A1 WO 2021040265 A1 WO2021040265 A1 WO 2021040265A1 KR 2020010388 W KR2020010388 W KR 2020010388W WO 2021040265 A1 WO2021040265 A1 WO 2021040265A1
Authority
WO
WIPO (PCT)
Prior art keywords
worker
proficiency
work
rejection
average
Prior art date
Application number
PCT/KR2020/010388
Other languages
English (en)
French (fr)
Inventor
박민우
이준호
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Publication of WO2021040265A1 publication Critical patent/WO2021040265A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06398—Performance of employee with respect to a job function
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063114—Status monitoring or status determination for a person or group
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06313—Resource planning in a project environment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0633—Workflow analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/103—Workflow collaboration or project management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/105—Human resources

Definitions

  • the present invention relates to a method and apparatus for measuring operator proficiency using an average rejection rate.
  • a company opens a project, it selects appropriate workers and assigns tasks according to the type and difficulty of the project.
  • the company selects workers based on the number of jobs completed by the workers. That is, as the number of completion of the work by the worker is larger, it is determined as a worker with high proficiency, and the corresponding worker is given an opportunity to participate in more work.
  • the problem to be solved by the present invention is to provide a method and apparatus for measuring worker proficiency using an average rejection rate capable of determining the worker's work proficiency through a comparison of the worker's rejection rate and the average rejection rate.
  • the method of measuring worker proficiency using an average rejection rate is to assign crowd-sourcing-based work for one project to a plurality of workers, and input work results from a plurality of workers.
  • the step of measuring the proficiency of the worker may include measuring the proficiency of the worker by using a difference between a work score corresponding to the number of inspection passes and a rejection score corresponding to the rejection quantity, and the rejection score is the The weight is not applied when calculating the rejection score before the number of workers' work exceeds the predetermined proficiency time quantity, and when the rejection score is calculated after the worker's work quantity exceeds the predetermined proficiency time quantity. It is characterized in that it is calculated by applying a weight based on the average rejection rate.
  • the number of proficiency points may be derived through a pilot project conducted by equally selecting upper proficiency level workers, intermediate proficiency level workers, and lower proficiency level workers.
  • a weight of a first value greater than 1 is applied to the rejection.
  • a score is calculated, and if the worker's rejection rate is less than the average rejection rate, the rejection score may be calculated by applying a weight of a second value less than 1.
  • the rejection rate of the worker is greater than the average rejection rate
  • the first The rejection score may be calculated by applying the weight of the value.
  • the average rejection quantity (b) of the total rejection quantity (c) is less than the average rejection rate.
  • the work score may be calculated using a work cost paid to the operator upon passing the inspection.
  • the rejection score may be calculated using a rejection cost incurred upon rejection.
  • an opportunity for crowdsourcing-based work for other projects requiring proficiency of a predetermined level or higher may be given by using the measurement result of the proficiency level of the worker.
  • a computer program according to another aspect of the present invention for solving the above-described problems is combined with a computer that is hardware to execute a method for measuring operator proficiency using the average rejection rate, and is stored in a medium.
  • the apparatus for measuring worker proficiency using an average rejection rate transmits a crowd-sourcing-based work for one project to a plurality of workers, and the work results from the plurality of workers
  • a communication unit that receives and transmits the work results input from the plurality of workers to the plurality of inspectors so that the plurality of inspectors can inspect them, and receives the inspection results from the plurality of inspectors, and an operator based on the inspection results
  • weight is not applied until the worker's work quantity exceeds the predetermined proficiency point quantity, and after the worker's work quantity exceeds the predetermined proficiency point quantity, the average rejection rate is applied. It is characterized in that it is calculated by applying the based weight.
  • the proficiency of the worker is measured through a comparison of the rejection rate and the average rejection rate of the worker, the proficiency level in which the work ability of the worker is accurately reflected is measured.
  • assigning tasks to workers through this it is possible to efficiently allocate tasks at a level appropriate to the worker's work ability.
  • a worker with a high rejection rate may have a lower skill level than an worker with a low rejection rate. Accordingly, the quality of the work can be improved by performing the work more carefully so that the work is not rejected by the operator.
  • the project can be completed within a set period of time, and the rejection cost (review cost) can be reduced.
  • FIG. 1 is a conceptual diagram of a crowd sourcing service according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a crowdsourcing-based project progress process according to an embodiment of the present invention.
  • FIG. 3 is a flowchart of a method for measuring worker proficiency using an average rejection rate according to an embodiment of the present invention.
  • FIG. 4 is a flowchart of a method for calculating different rejection points according to the number of tasks and rejection rate of the worker when measuring worker proficiency according to an embodiment of the present invention.
  • 5 is a graph for explaining the number of proficiency points derived through a pilot project according to an embodiment of the present invention.
  • FIG. 6 is a block diagram of an apparatus for measuring operator proficiency using an average rejection rate according to an embodiment of the present invention.
  • FIG. 1 is a conceptual diagram of a crowd sourcing service according to an embodiment of the present invention.
  • the crowd sourcing service is performed by being composed of a client 10, a service provider 20, and a public 30.
  • the sponsor 10 refers to a company or individual who requests a crowdsourcing-based project (hereinafter, referred to as a project).
  • the sponsor 10 requests a project for the purpose of collecting source data or annotating data.
  • Collection of source data means collecting raw data such as recorded voice collection and photo collection.
  • Data annotation refers to inputting relevant annotation data into source data such as text, photos, and videos.
  • the data annotation may include finding an entity in a given fingerprint or finding a similar sentence, but is not limited thereto.
  • the service provider 20 refers to a company that provides crowdsourcing services.
  • the service provider 20 When the service provider 20 receives a request for a project for a product or service from the client 10, the service provider 20 allocates a task for the project to the general public 30 and receives the work result from the public 30. Thereafter, the final product extracted based on the work result is provided to the requester 10.
  • the service provider 20 provides a crowd sourcing service to the client 10 and the public 30 through a crowd sourcing platform (hereinafter, the platform). That is, when the service provider 20 receives a request for a project from the client 10, the service provider 20 opens the project on the platform. Thereafter, when the work result for the open project is provided by the public 30, the project is terminated on the platform, and the final product may be extracted and provided to the client 10.
  • a crowd sourcing platform hereinafter, the platform.
  • the public 30 refers to the general public participating in the project open on the platform.
  • the public 30 may participate in a project opened on the platform through an application or website provided by the service provider 20.
  • the public 30 is composed of a worker 32 and an inspector 34.
  • the worker 32 decides to participate in a specific project among a plurality of projects open on the platform. Thereafter, the operator 32 performs an operation such as collection of source data or data annotation, and transmits it to the platform.
  • the inspector 34 decides to participate in a specific project among a plurality of projects open on the platform. Thereafter, the inspector 34 inspects the result of the work performed by the operator 32. As a result of performing the inspection, the inspector 34 may pass or reject the job, and may input a reason for rejection when returning the job.
  • FIG. 2 is a flowchart illustrating a crowdsourcing-based project progress process according to an embodiment of the present invention.
  • the client 10 requests a project to the service provider 20 (S41).
  • the service provider 20 opens the requested project on the platform (S42). At this time, the service provider 20 determines the grade in consideration of the difficulty level of the project before opening the project. In other words, depending on the level of difficulty, it is decided to expose the project to the public 30 or higher. Accordingly, it is possible to increase the reliability of the work result of the project.
  • the service provider 20 may open a pilot project before officially opening the project. Before opening a formal project, a pilot project checks whether there is a problem with the progress of the project, whether there are exceptions that are not in the work guide, what quality the sponsor (10) wants, etc., or proceeds or evaluates the formal project. It is to get the data you need.
  • the service provider 20 allocates a task to the workers 32 of the corresponding grade or higher according to the grade of the project (S43).
  • the worker 32 performs the assigned task (S44).
  • the worker 32 may input the reason for the inability to work without performing the work for a work in which the work itself is impossible for some reason.
  • the service provider 20 receives the work result from the worker 32 (S45), and assigns the inspection work for the work result to the inspector 34 (S46).
  • the inspector 34 performs the assigned inspection (S47). At this time, the inspector 34 decides to pass the inspection when it is determined that the work has been properly performed, and determines rejection when it is determined that the inspection work is wrong. When deciding to reject, the inspector 34 inputs the rejection reason for what reason the task was judged to be wrong.
  • the service provider 20 receives the inspection result from the inspector 34 (S48).
  • the service provider 20 uses the work result as valid data, and based on this, extracts the final product at the end of the project.
  • the service provider 20 may internally perform the inspection again or assign the work to the worker 32 again to perform the work.
  • the service provider 20 terminates the project (S49), calculates the final result based on the secured valid data, and provides it to the client 10 ( S50).
  • the service provider 20 evaluates the performance results of the worker 32 and the inspector 34, calculates the work cost and the inspection cost according to the evaluation, to the worker 32 and the inspector 34. give.
  • Figs. 1 and 2 it is simply expressed as a requester, service provider, worker, and inspector, but these refer to computer devices or telecommunication devices such as smartphones, tablets, PDAs, laptops, desktops, servers, etc. operated by each participant. .
  • FIG. 3 is a flowchart of a method of measuring worker proficiency using an average rejection rate according to an embodiment of the present invention
  • FIG. 4 is a flow chart of a method for measuring worker proficiency according to an embodiment of the present invention. It is a flowchart of a method for calculating a rejection score
  • FIG. 5 is a graph for explaining the number of proficiency points derived through a pilot project according to an embodiment of the present invention.
  • the steps shown in FIG. 3 may be understood as being performed by a platform server (hereinafter, referred to as a server) operated by the service provider 20, but are not limited thereto.
  • a platform server hereinafter, referred to as a server operated by the service provider 20, but are not limited thereto.
  • step S110 the server assigns a crowdsourcing-based work for one project to a plurality of workers 32 and receives work results from the plurality of workers 32.
  • the server is provided with results of a plurality of tasks performed by a plurality of workers 32 participating in the project.
  • one project includes a plurality of tasks, and the plurality of tasks may be grouped into a plurality of tasks according to the type, or each task may be a different type of work or the same type of work. , But is not limited thereto.
  • the worker 32 receives points for the work that has passed the inspection by the inspector 34. That is, the worker 32 receives points equal to the work score calculated using the work cost incurred due to the completion of the work (passing the inspection).
  • the worker 32 receives a penalty for a job that has not passed the inspection by the inspector 34 and is rejected, and must be reassigned and reworked. In other words, the worker receives a rejection score calculated using the rejection cost incurred due to rejection as a penalty.
  • the worker 32 performs a task using a predetermined terminal device.
  • the terminal device of the worker 32 may be a computer device or a telecommunication device such as a smart phone, tablet, PDA, laptop, desktop, etc., but is not limited thereto.
  • step S120 the server causes the plurality of inspectors 34 to inspect the work results input from the plurality of workers 32, and then receives the inspection results from the plurality of inspectors 34. That is, when each inspector 34 participates in one project, it is determined whether or not the work performed by the plurality of workers 32 has been successfully performed.
  • the inspector 34 rejects the work. At this time, the inspector 34 inputs the reason for rejection together so that the worker 32 can refer to it when reworking the work.
  • the inspector 34 receives points each time the inspection is performed, and the points paid to the inspector 34 correspond to the penalty received by the worker 32 for the rejected job.
  • the inspector 34 performs a task using a predetermined terminal device.
  • the terminal device of the inspector 34 may be a computer device or a telecommunication device such as a smart phone, a tablet, a PDA, a laptop, a desktop, etc., but is not limited thereto.
  • step S130 the server measures the proficiency of the worker 32 based on the inspection result.
  • the server is based on the number of jobs that have passed the inspection among the jobs performed by the worker 32 (hereinafter, the number of jobs that have passed inspection) and the number of jobs that have been rejected among the jobs performed by the worker 32 (hereinafter, the number of rejected).
  • the proficiency of the worker 32 is measured using the corresponding return score.
  • the server measures the proficiency of the worker using the difference value obtained by subtracting the rejection score from the work score of each worker 32. At this time, the greater the difference value, the higher the operator's proficiency is measured.
  • the server can accurately measure the skill level of the worker by calculating the rejection score differently according to the number of rejected jobs compared to the number of jobs of the worker.
  • step S210 the server calculates the worker's work score.
  • the work score corresponds to the number of tasks that have passed the inspection among the tasks performed by the operator 32 (hereinafter, the number of passes through the inspection).
  • the work score means a value obtained by multiplying the number of inspection passes by the work unit cost. This value is the same as the points paid to the worker 32 when the work is completed (passed the inspection).
  • the worker's work score is 15,000 points, and the worker 32 receives 15,000 points from the server.
  • step S220 the server compares the number of work of the worker 32 and the number of proficiency points.
  • the number of tasks of the worker 32 represents the number of tasks that have passed the inspection among tasks performed by the worker 32 participating in the project.
  • the number of proficiency points is a reference value at which a project is opened and the worker 32 performs a task to some extent, and then begins to become proficient in performing a task, and is predetermined by the server.
  • the server can derive the number of proficiency points through the pilot project.
  • the server selects the workers 32 on the basis of a project similar to the currently ongoing project from among the projects that have been carried out previously.
  • the server evenly selects workers with high proficiency level, intermediate level proficiency level, and low level proficiency level workers based on the level of proficiency measured through previous similar projects.
  • the selected high-level proficiency workers, middle-level proficiency workers, and low-level proficiency workers participate in the pilot project to perform tasks.
  • the server may select the number of workers 32 participating in the pilot project equal to the number of workers 32 participating in the formal project, or a predetermined percentage of the number of workers 32 participating in the formal project You can select only as many as you can.
  • the server may set the number of tasks at which the average rejection rate rapidly decreases as the average review completion rate of the pilot project rapidly increases, as the number of proficiency points.
  • step S230 the server does not apply a weight before the number of work of the worker 32 is less than the number of proficiency points, that is, the number of work of the worker 32 exceeds the number of proficiency points. Calculate the match score.
  • the work ability at the beginning of work may vary greatly. Also, depending on the interpretation of the work guide at the beginning of the work, the work may be performed incorrectly.
  • the server calculates the rejection score without applying a weight to the number of jobs that are smaller than the number at the time of proficiency. For example, at the beginning of the project, if the number of work (quantity that passed the inspection) of a specific worker 32 is 300 and the number of proficiency points is 500, the server determines that the number of work does not exceed the proficiency point quantity and does not apply weight. The return score is calculated without.
  • the server calculates a rejection score by multiplying the rejected work quantity by the rejected unit price when the number of tasks of the worker is less than the quantity at the time of proficiency.
  • the rejection score of the corresponding worker 32 is 4,000 points.
  • the weighted rejection score is calculated.
  • the weight is determined based on the average rejection rate.
  • the average rejection rate is calculated through the pilot project.
  • the server calculates an average rejection rate for each number of tasks through a pilot project, and the calculated average rejection rate decreases sharply after the number of proficiency points.
  • step S240 when the number of workers' work exceeds the number of proficiency points, the server compares the worker's rejection rate and the average rejection rate calculated through the pilot project.
  • the server compares the worker's rejection rate and the average rejection rate at the number of 70 jobs.
  • the server may perform comparison with only the work results of the lower proficiency level worker who participated in the pilot project.
  • the server compares the rejection rate of workers with little or no work experience (32) with the average rejection rate of workers with low proficiency level participating in the pilot project, thereby lowering the comparison standard for workers with low ratings (32). It can be.
  • step S250 if the worker's rejection rate is greater than the average rejection rate, the server calculates a rejection score by applying the weight of the first value.
  • the first value is a value greater than 1 (eg, 2).
  • the server calculates a rejection score by applying a double weight to the rejection quantity larger than the average rejection rate when the worker's rejection rate is higher than the average rejection rate in the number of jobs exceeding the proficiency point quantity.
  • the server does not apply a weight with respect to the quantity (b) corresponding to the average rejection quantity (b) of the total rejection quantity (a) of the worker, and the average rejection quantity (
  • the rejection score may be calculated by applying the weight of the first value (double weight) with respect to the remaining quantity (ab) exceeding b).
  • step S260 when the worker's rejection rate is less than the average rejection rate, the server calculates a rejection score by applying a weight of the second value.
  • the second value is a value less than 1 (eg, 0.5).
  • the server calculates the rejection score by applying a weight of 0.5 times to the rejection quantity less than the average rejection quantity.
  • the server is the weight of the second value (0.5 times the weight) in relation to the quantity (bc) that is less than the average rejection quantity (b) among the total rejection quantity (c) of the worker. ), it is possible to calculate the rejection score without applying a weight with respect to the remaining quantity (c-(bc)).
  • step S270 the server measures the proficiency of the worker 32 by using the difference between the calculated work score and the rejection score. In this case, it is determined that the greater the difference value (final score), the greater the proficiency of the worker 32.
  • the server may classify the worker 32 into a high proficiency worker, a medium proficiency worker, and a low proficiency worker.
  • 0 is the lowest score and 300 is the highest, if the final score of the worker 32 is between 0 and 100, it can be classified as a lower proficiency worker, and if it is between 120 and 200, a median proficiency worker If the score is between 201 and 300, the highest proficiency can be classified as a worker.
  • the server may give the worker 32 an opportunity for crowdsourcing-based work for other projects requiring proficiency of a predetermined level or higher by using the proficiency measurement result of the worker 32.
  • the workers 32 classified as high proficiency workers can participate in all projects requiring high proficiency, medium proficiency, or low proficiency.
  • the worker 32 classified as a lower proficiency worker can only participate in a project requiring a lower proficiency level.
  • FIG. 6 is a block diagram of an apparatus for measuring operator proficiency using an average rejection rate according to an embodiment of the present invention.
  • the operator proficiency measuring apparatus 300 (hereinafter, the operator proficiency measuring apparatus) using an average rejection rate includes a communication unit 310 and a calculation unit 320.
  • the communication unit 310 transmits a crowdsourcing-based work for one project to a plurality of workers 32, receives work results from the plurality of workers 32, and inputs work results from the plurality of workers 32 It transmits to the plurality of inspectors 34 so that the plurality of inspectors 34 can inspect and receives the inspection results from the plurality of inspectors 34.
  • the calculation unit 320 calculates a work score corresponding to the inspection pass quantity of the worker 32, calculates a rejection score corresponding to the rejection quantity, and uses the difference between the job score and rejection score. It plays the role of calculating the proficiency level of (32).
  • the calculation unit 320 does not apply a weight before the work quantity of the worker 32 exceeds the predetermined proficiency time quantity, and the work quantity of the worker 32 is the pre-determined proficiency time quantity. After exceeding, it is calculated by applying a weight based on the average rejection rate.
  • the operator proficiency measuring apparatus 300 described with reference to FIG. 6 may be provided as a component of the above-described server.
  • the method for measuring operator proficiency using an average rejection rate according to an embodiment of the present invention described above may be implemented as a program (or application) to be executed by being combined with a computer, which is hardware, and stored in a medium.
  • the above-described program includes C, C++, JAVA, Ruby, which can be read by a processor (CPU) of the computer through the device interface of the computer, in order for the computer to read the program and execute the methods implemented as a program.
  • It may include a code (Code) coded in a computer language such as machine language.
  • code may include a functional code related to a function defining necessary functions for executing the methods, and a control code related to an execution procedure necessary for the processor of the computer to execute the functions according to a predetermined procedure. can do.
  • code may further include code related to a memory reference to which location (address address) of the internal or external memory of the computer or the media or additional information necessary for the processor of the computer to execute the functions. have.
  • the code uses the communication module of the computer to determine how It may further include a communication-related code for whether to communicate or what information or media to transmit and receive during communication.
  • the storage medium is not a medium that stores data for a short moment, such as a register, cache, memory, etc., but a medium that stores data semi-permanently and can be read by a device.
  • examples of the storage medium include, but are not limited to, ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like. That is, the program may be stored in various recording media on various servers to which the computer can access, or on various recording media on the user's computer.
  • the medium may be distributed over a computer system connected through a network, and computer-readable codes may be stored in a distributed manner.

Abstract

평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치가 제공된다. 상기 방법은 하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자에게 부여하고, 복수의 작업자로부터 작업 결과를 입력받는 단계, 상기 복수의 작업자로부터 입력된 상기 작업 결과를 복수의 검수자가 검수하게 하고, 상기 복수의 검수자로부터 검수 결과를 입력받는 단계 및 상기 검수 결과를 기반으로 상기 작업자의 능숙도를 측정하는 단계를 포함하되, 상기 작업자의 능숙도를 측정하는 단계는, 상기 작업자의 검수 통과 수량에 상응하는 작업 점수와 반려 수량에 상응하는 반려 점수의 차를 이용하여 상기 작업자의 능숙도를 측정한다.

Description

평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
본 발명은 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드 소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.
구체적으로, 기업은 프로젝트를 오픈하면, 해당 프로젝트의 유형 및 난이도 등에 따라 적합한 작업자들을 선별하여 작업을 배정한다.
이때, 기업은 작업자가 완료한 작업 건수를 기준으로 작업자를 선별한다. 즉, 작업자의 작업 완료 건수가 많을수록 능숙도가 높은 작업자로 판단되어, 해당 작업자에게는 더 많은 작업에 참여할 수 있는 기회가 주어지게 된다.
그러나, 단순히 작업 완료 건수를 기준으로 하여 작업자의 능숙도를 판단하는 것은 작업자의 실질적인 작업 능력을 전혀 고려하지 않고 판단하는 것이기 때문에, 작업자의 실제 능숙도를 반영하지 못한다.
즉, 작업자가 실질적인 작업 능력이 떨어짐에도 불구하고, 작업 완료 건수가 많다는 이유로 해당 작업자에게 많은 작업이 배정된다는 문제점이 있고, 또한 해당 작업자의 작업 능력보다 높은 수준의 작업 능력이 요구되는 작업이 배정되기 때문에, 반려되는 작업의 수가 늘어나게 되고, 이에 따라 프로젝트의 수행 기간이 연기되고, 반려 비용(검수 비용)이 증가한다는 문제점이 있다.
본 발명이 해결하고자 하는 과제는 작업자의 반려율과 평균 반려율의 비교를 통해 작업자의 작업 능숙도를 판단할 수 있는 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치를 제공하는 것이다.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 평균 반려율을 이용한 작업자 능숙도 측정 방법은 하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자에게 부여하고, 복수의 작업자로부터 작업 결과를 입력받는 단계, 상기 복수의 작업자로부터 입력된 상기 작업 결과를 복수의 검수자가 검수하게 하고, 상기 복수의 검수자로부터 검수 결과를 입력받는 단계 및 상기 검수 결과를 기반으로 상기 작업자의 능숙도를 측정하는 단계를 포함하되, 상기 작업자의 능숙도를 측정하는 단계는, 상기 작업자의 검수 통과 수량에 상응하는 작업 점수와 반려 수량에 상응하는 반려 점수의 차를 이용하여 상기 작업자의 능숙도를 측정하고, 상기 반려 점수는, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과하기 전에는 상기 반려 점수의 산출시 가중치를 적용하지 않고, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에는 상기 반려 점수의 산출시 평균 반려율에 기초한 가중치를 적용하여 산출되는 것을 특징으로 한다.
본 발명의 일부 실시예에서, 상기 능숙 시점 수량은 상위 능숙도 작업자, 중위 능숙도 작업자, 하위 능숙도 작업자를 균등하게 선별하여 진행한 파일럿 프로젝트를 통해서 도출될 수 있다.
본 발명의 일부 실시예에서, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에, 상기 작업자의 반려율이 상기 평균 반려율보다 크면 1보다 큰 제1 값의 가중치를 적용하여 상기 반려 점수를 산출하고, 상기 작업자의 반려율이 상기 평균 반려율보다 작으면 1보다 작은 제2 값의 가중치를 적용하여 상기 반려 점수를 산출할 수 있다.
본 발명의 일부 실시예에서, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후, 상기 작업자의 반려율이 상기 평균 반려율보다 크면,
전체 반려 수량(a) 중 평균 반려 수량(b)에 상응하는 수량(b)과 관련해서는 가중치를 적용하지 않고, 상기 평균 반려 수량(b)을 초과하는 나머지 수량(a-b)과 관련해서 상기 제1 값의 가중치를 적용하여 상기 반려 점수를 산출할 수 있다.
본 발명의 일부 실시예에서, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후, 상기 작업자의 반려율이 상기 평균 반려율보다 작으면 전체 반려 수량(c) 중 평균 반려 수량(b)에 미달하는 수량(b-c)과 관련해서 상기 제2 값의 가중치를 적용하여, 나머지 수량(c-(b-c))과 관련해서는 가중치를 적용하지 않고 상기 반려 점수를 산출할 수 있다.
본 발명의 일부 실시예에서, 상기 작업 점수는 검수 통과시 상기 작업자에게 지급하는 작업 비용을 이용하여 산출될 수 있다.
본 발명의 일부 실시예에서, 상기 반려 점수는 반려시 발생하는 반려 비용을 이용하여 산출될 수 있다.
본 발명의 일부 실시예에서, 상기 작업자의 능숙도의 측정 결과를 이용하여 미리 정해진 등급 이상의 능숙도가 요구되는 다른 프로젝트에 대한 크라우드 소싱 기반의 작업의 기회를 부여할 수 있다.
상술한 과제를 해결하기 위한 본 발명의 다른 일 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 평균 반려율을 이용한 작업자 능숙도 측정 방법을 실행하며, 매체에 저장된다.
상술한 과제를 해결하기 위한 본 발명의 다른 일 면에 따른 평균 반려율을 이용한 작업자 능숙도 측정 장치는 하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자에게 송신하고, 상기 복수의 작업자로부터 작업 결과를 수신하고, 상기 복수의 작업자로부터 입력된 상기 작업 결과를 복수의 검수자가 검수할 수 있도록 상기 복수의 검수자에게 송신하고, 상기 복수의 검수자로부터 검수 결과를 수신하는 통신부 및 상기 검수 결과를 기반으로 작업자의 검수 통과 수량에 상응하는 작업 점수를 산출하고, 반려 수량에 상응하는 반려 점수를 산출하고, 상기 작업 점수와 상기 반려 점수의 차를 이용하여 상기 작업자의 능숙도를 산출하는 산출부를 포함하며, 상기 산출부는 상기 반려 점수의 산출시, 상기 작업자의 작업 수량이 미리 정해진 능숙 시점 수량을 초과하기 전에는 가중치를 적용하지 않고, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에는 평균 반려율에 기초한 가중치를 적용하여 산출하는 것을 특징으로 한다.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
상기와 같은 본 발명의 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치에 따르면, 작업자의 반려율과 평균 반려율의 비교를 통해 작업자의 능숙도를 측정하게 되므로, 작업자의 작업 능력이 정확히 반영된 능숙도를 측정할 수 있고, 이를 통해 작업자에게 작업을 배정할 때, 작업자의 작업 능력에 적합한 수준의 작업을 효율적으로 배정할 수 있다.
또한, 작업자의 반려율을 이용하여 능숙도를 측정하기 때문에, 검수 통과된 작업 수량이 동일하더라도 반려율이 높은 작업자는 반려율이 낮은 작업자보다 능숙도가 낮게 측정될 수 있다. 이에 따라, 작업자는 작업이 반려되지 않도록 보다 신중하게 작업을 수행함으로써 작업의 품질이 향상될 수 있다.
또한, 반려되는 작업의 수가 감소함에 따라, 프로젝트가 정해진 기간 내에 종료될 수 있고, 반려 비용(검수 비용)이 줄어들 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 크라우드 소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드 소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 평균 반려율을 이용한 작업자 능숙도 측정 방법의 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 작업자 능숙도 측정 시, 작업자의 작업 수량 및 반려율에 따라 상이한 반려 점수 산출 방법의 흐름도이다.
도 5는 본 발명의 일 실시예에 따른 파일럿 프로젝트를 통한 도출되는 능숙 시점 수량을 설명하기 위한 그래프이다.
도 6은 본 발명의 일 실시예에 따른 평균 반려율을 이용한 작업자 능숙도 측정 장치의 블록도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드 소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드 소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드 소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다.
서비스 제공 업체(20)는 크라우드 소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드 소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드 소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 작업 통과 또는 반려를 할 수 있고, 작업 반려 시 반려 사유를 입력할 수 있다.
도 2는 본 발명의 일 실시예에 따른 크라우드 소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)가 서비스 제공 업체(20)로 프로젝트를 의뢰한다(S41).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다 (S42). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정한다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정한다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
또한, 서비스 제공 업체(20)는 프로젝트를 정식으로 오픈하기 전에, 파일럿 프로젝트를 오픈할 수 있다. 파일럿 프로젝트는 정식 프로젝트를 오픈하기 전에, 프로젝트 진행에 문제가 없는지, 작업 가이드에 없는 예외 상황은 없는지, 의뢰자(10)가 원하는 품질이 어느 정도인지 등을 확인하거나, 또는 정식 프로젝트를 진행하거나 평가하기 위해 필요한 데이터를 얻기 위한 것이다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 배정한다(S43).
이후, 작업자(32)는 배정된 작업을 수행하게 된다(S44). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S45), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 배정한다(S46).
이후, 검수자(34)는 배정된 검수를 수행하게 된다(S47). 이때, 검수자(34)는 작업이 제대로 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려를 결정한다. 반려 결정 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S48).
검수 결과가 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 작업을 수행하게 할 수도 있다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S49), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S50).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
도 1 및 도 2에서는 단순히 의뢰자, 서비스 제공 업체, 작업자, 검수자로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
도 3은 본 발명의 일 실시예에 따른 평균 반려율을 이용한 작업자 능숙도 측정 방법의 흐름도이고, 도 4는 본 발명의 일 실시예에 따른 작업자 능숙도 측정 시, 작업자의 작업 수량 및 반려율에 따라 상이한 반려 점수 산출 방법의 흐름도이고, 도 5는 본 발명의 일 실시예에 따른 파일럿 프로젝트를 통한 도출되는 능숙 시점 수량을 설명하기 위한 그래프이다.
도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
도 3을 참조하면, 단계 S110에서, 서버는 하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자(32)에게 부여하고, 복수의 작업자(32)로부터 작업 결과를 입력받는다.
서버는 프로젝트를 참여하는 복수의 작업자(32)에 의해 수행된 복수의 작업 결과를 제공받게 된다. 이때, 하나의 프로젝트에는 복수의 작업이 포함되는데, 복수의 작업은 종류에 따라 복수의 태스크로 그룹화될 수 있고, 또는 각각의 작업이 서로 다른 종류의 작업일 수도 있고, 동일한 종류의 작업일 수도 있지만, 이에 제한되는 것은 아니다.
즉, 각 작업자(32)는 하나의 프로젝트에 참여하게 되면, 복수의 작업을 배정받아 수행하게 된다.
이후, 작업자(32)는 검수자(34)에 의해 검수가 통과된 작업에 대해서는 포인트를 지급받는다. 즉, 작업자(32)는 작업 완료(검수 통과)로 인해 발생되는 작업 비용을 이용하여 산출되는 작업 점수만큼의 포인트를 지급받게 된다.
반면, 작업자(32)는 검수자(34)에 의해 검수를 통과하지 못하고 반려된 작업에 대해서는 패널티를 받게되고, 반려된 작업을 다시 배정받아 재작업해야 한다. 즉, 작업자는 반려로 인해 발생되는 반려 비용을 이용하여 산출되는 반려 점수를 패널티로 받게 된다.
여기서, 작업자(32)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
이어서, 단계 S120에서, 서버는 복수의 작업자(32)로부터 입력된 작업 결과를 복수의 검수자(34)가 검수하게 하고, 이후 복수의 검수자(34)로부터 검수 결과를 입력받는다. 즉, 각 검수자(34)는 하나의 프로젝트에 참여하게 되면, 복수의 작업자(32)들로부터 수행된 작업이 잘 수행되었는지 아닌지를 판단한다.
만약, 작업이 잘못 수행된 것으로 판단되면, 검수자(34)는 해당 작업을 반려한다. 이때, 검수자(34)는 반려 사유를 함께 입력하여 작업자(32)가 해당 작업을 재작업할 때 참고할 수 있도록 한다.
검수자(34)는 검수를 수행할때마다 포인트를 지급받는데, 이때 검수자(34)에게 지급되는 포인트는 작업자(32)가 반려된 작업에 대해 받게되는 패널티와 상응한다.
여기서, 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.
이어서, 단계 S130에서, 서버는 검수 결과를 기반으로 작업자(32)의 능숙도를 측정한다.
서버는 작업자(32)가 수행한 작업 중 검수를 통과한 작업 수량(이하, 검수 통과 수량)에 상응하는 작업 점수와 작업자(32)가 수행한 작업 중 반려된 작업 수량(이하, 반려 수량)에 상응하는 반려 점수를 이용하여 작업자(32)의 능숙도를 측정한다.
구체적으로, 서버는 각 작업자(32)의 작업 점수에서 반려 점수를 뺀 차이 값을 이용하여 작업자의 능숙도를 측정한다. 이때, 차이 값이 클수록 작업자의 능숙도는 높은 것으로 측정된다.
따라서, 작업자의 작업 능력에 제대로 부합하도록 능숙도를 측정하기 위해서는, 반려 점수를 정확하게 산출하는 것이 중요하다. 즉, 서버는 작업자의 작업 수량 대비 반려되는 작업 수량에 따라 반려 점수를 상이하게 산출함으로써, 작업자의 능숙도를 정확하게 측정할 수 있다.
이하에서는 도 4를 참조하여 경우에 따라 상이한 반려 점수가 산출되는 것을 설명하도록 한다.
단계 S210에서, 서버는 작업자의 작업 점수를 산출한다.
작업 점수는, 상술한 바와 같이, 작업자(32)가 수행한 작업 중 검수를 통과한 작업 수량(이하, 검수 통과 수량)에 상응하는 것이다. 구체적으로, 작업 점수는 검수 통과 수량에 작업 단가를 곱한 값을 의미한다. 이 값은 작업이 완료(검수 통과)되었을 경우 작업자(32)에게 지급되는 포인트와 동일하다.
예를 들어, 특정 작업자(32)의 검수 통과 수량이 300개이고, 작업 단가가 50원인 경우, 작업자의 작업 점수는 15,000점이고, 작업자(32)는 서버로부터 15,000포인트를 지급받게 된다.
이어서, 단계 S220에서, 서버는 작업자(32)의 작업 수량과 능숙 시점 수량을 비교한다. 여기서, 작업자(32)의 작업 수량은 작업자(32)가 프로젝트에 참여하여 수행한 작업 중에서 검수 통과된 작업의 수량을 나타낸다. 능숙 시점 수량은 프로젝트가 오픈되고 작업자(32)가 어느 정도 작업을 수행한 후, 작업 수행에 있어서 능숙해지기 시작하는 기준 값으로서, 서버에 의해 미리 정해진다.
구체적으로, 서버는 파일럿 프로젝트를 통해 능숙 시점 수량을 도출할 수 있다. 서버는 이전에 진행됐었던 프로젝트 중에서, 현재 진행 중인 프로젝트와 유사한 프로젝트 기준으로 작업자(32)들을 선별한다.
즉, 서버는 이전의 유사한 프로젝트를 통해 측정된 능숙도를 기준으로 하여 상위 능숙도 작업자, 중위 능숙도 작업자, 하위 능숙도 작업자를 균등하게 선별한다. 이렇게 선별된 상위 능숙도 작업자, 중위 능숙도 작업자, 하위 능숙도 작업자는 파일럿 프로젝트에 참여하여 작업을 수행하게 된다.
이때, 서버는 파일럿 프로젝트에 참여하는 작업자(32)들의 수를 정식 프로젝트에 참여하는 작업자(32)들의 수와 동일하게 선별할 수도 있고, 또는 정식 프로젝트에 참여하는 작업자(32)들의 수의 소정 퍼센트만큼만 선별할 수도 있다.
도 5를 참조하면, 서버는 파일럿 프로젝트의 평균 검수 완료율이 급격하게 높아지면서 평균 반려율이 급격하게 낮아지는 작업 수량을 능숙 시점 수량으로 정할 수 있다.
다시 도 4를 참조하면, 단계 S230에서, 서버는 작업자(32)의 작업 수량이 능숙 시점 수량보다 작은 경우, 즉, 작업자(32)의 작업 수량이 능숙 시점 수량을 초과하기 전에는 가중치를 적용하지 않은 반려 점수를 산출한다.
작업자마다 개인차 및 경험차에 따라 작업 초반의 작업 능력은 많은 차이가 있을 수 있다. 또한, 작업 초반에 작업 가이드에 대한 해석에 따라 작업을 잘못 수행할 수도 있다.
따라서, 서버는 능숙 시점 수량보다 작은 작업 수량에 대해서는 가중치를 적용하지 않고 반려 점수를 산출한다. 예를 들어, 프로젝트 초반에 특정 작업자(32)의 작업 수량(검수 통과 수량)이 300개이고, 능숙 시점 수량이 500개이면, 서버는 작업 수량이 능숙 시점 수량을 초과하지 않은 것으로 판단하여 가중치 적용하지 않고 반려 점수를 산출한다.
구체적으로 서버는 작업자의 작업 수량이 능숙 시점 수량보다 작은 경우, 반려 작업 수량에 반려 단가를 곱함으로써 반려 점수를 산출한다.
예를 들어, 특정 작업자(32)의 작업 수량(검수 통과 수량) 300개 중 반려된 작업의 수량이 200개이고, 반려 단가가 20원인 경우, 해당 작업자(32)의 반려 점수는 4,000점이다.
반면에, 서버는 작업자(32)의 작업 수량이 능숙 시점 수량보다 큰 경우, 즉, 작업자(32)의 작업 수량이 능숙 시점 수량을 초과한 후에는 가중치를 적용한 반려 점수를 산출한다. 이때, 가중치는 평균 반려율에 기초하여 결정된다.
평균 반려율은 파일럿 프로젝트를 통해 산출된다. 도 5를 참조하면, 서버는 파일럿 프로젝트를 통해서 작업 수량별로 평균 반려율을 산출하고, 산출된 평균 반려율은 능숙 시점 수량 이후부터 급격히 낮아진다.
다시 도 4를 참조하면, 단계 S240에서, 서버는 작업자의 작업 수량이 능숙 시점 수량을 초과한 경우, 작업자의 반려율과 파일럿 프로젝트를 통해 산출된 평균 반려율을 비교한다.
구체적으로, 작업자(32)가 완료(검수 통과)한 작업 수량이 70개이고, 능숙 시점 수량이 30개인 경우, 서버는 70개의 작업 수량에서의 작업자의 반려율과, 평균 반려율을 비교한다.
일 실시예로, 정식 프로젝트에 참여 중인 작업자(32)가 등급이 낮은 작업자인 경우, 서버는 파일럿 프로젝트에 참여한 하위 능숙도 작업자의 작업 결과만을 가지고 비교를 수행할 수 있다.
즉, 서버는 작업 수행 경험이 별로 없거나 등급이 낮은 작업자(32)의 반려율과 파일럿 프로젝트에 참여한 하위 능숙도 작업자들의 평균 반려율을 비교함으로써, 등급이 낮은 작업자(32)에게는 비교 기준을 조금 낮춰줄 수 있는 것이다.
이어서, 단계 S250에서, 작업자의 반려율이 평균 반려율보다 큰 경우, 서버는 제1 값의 가중치를 적용하여 반려 점수를 산출한다. 여기서, 제1 값은 1보다 큰 값(예를 들어, 2)이다.
즉, 서버는 능숙 시점 수량을 초과한 작업 수량에서 평균 반려율보다 작업자의 반려율이 높은 경우, 평균 반려 수량보다 많은 반려 수량에 2배의 가중치를 적용하여 반려 점수를 산출한다.
구체적으로, 아래 <수학식 1>을 참조하면, 서버는 작업자의 전체 반려 수량(a) 중 평균 반려 수량(b)에 상응하는 수량(b)과 관련해서는 가중치를 적용하지 않고, 평균 반려 수량(b)을 초과하는 나머지 수량(a-b)과 관련해서 제1 값의 가중치(2배의 가중치)를 적용하여 상기 반려 점수를 산출할 수 있다.
<수학식 1>
평균 반려 수량×반려 단가+(반려 수량-평균 반려 수량)×반려 단가×2
예를 들어, 70개의 작업 수량에 대한 작업자의 전체 반려 수량(a)이 50개, 70개의 작업 수량에 대한 평균 반려 수량(b)이 35개, 반려 단가가 10원인 경우, 반려 점수는 35×10＋(50－35)×10×2 = 650점으로 산출될 수 있다.
이어서, 단계 S260에서, 작업자의 반려율이 평균 반려율보다 작은 경우, 서버는 제2 값의 가중치를 적용하여 반려 점수를 산출한다. 여기서, 제2 값은 1보다 작은 값(예를 들어, 0.5)이다.
즉, 서버는 능숙 시점 수량을 초과한 작업 수량에서 평균 반려율보다 작업자의 반려율이 작은 경우, 평균 반려 수량보다 적은 반려 수량에 0.5배의 가중치를 적용하여 반려 점수를 산출한다.
구체적으로, 아래 <수학식 2>을 참조하면, 서버는 작업자의 전체 반려 수량(c) 중 평균 반려 수량(b)에 미달하는 수량(b-c)과 관련해서 제2 값의 가중치(0.5배의 가중치)를 적용하여, 나머지 수량(c-(b-c))과 관련해서는 가중치를 적용하지 않고 반려 점수를 산출할 수 있다.
<수학식 2>
(평균 반려 수량-반려 수량)×반려 단가×0.5+(반려 수량-(평균 반려 수량-반려 수량))×반려 단가
예를 들어, 70개의 작업 수량에 대한 작업자의 전체 반려 수량(c)이 20개, 70개의 작업 수량에 대한 평균 반려 수량(b)이 35개, 반려 단가가 10원인 경우, 반려 점수는 (35－20)×10×0.5＋(20－(35－20))×10=125점으로 산출될 수 있다.
이어서, 단계 S270에서, 서버는 산출된 작업 점수와 반려 점수의 차이 값을 이용하여 작업자(32)의 능숙도를 측정한다. 이때, 차이 값(최종 점수)이 클수록 작업자(32)의 능숙도가 큰 것으로 판단된다.
서버는 최종 점수에 따라 작업자(32)를 상위 능숙도 작업자, 중위 능숙도 작업자, 하위 능숙도 작업자로 분류할 수 있다.
만약, 0점이 최하 점수이고 300점이 최고 점수일 때, 작업자(32)의 최종 점수가 0점에서 100점 사이인 경우 하위 능숙도 작업자로 분류될 수 있고, 120점에서 200점 사이인 경우 중위 능숙도 작업자로 분류될 수 있고, 201점에서 300점 사이인 경우 상위 능숙도 작업자로 분류될 수 있다.
이후, 서버는 작업자(32)의 능숙도 측정 결과를 이용하여 미리 정해진 등급 이상의 능숙도가 요구되는 다른 프로젝트에 대한 크라우드 소싱 기반의 작업의 기회를 작업자(32)에게 부여할 수 있다.
즉, 능숙도 측정 결과 상위 능숙도 작업자로 분류된 작업자(32)는 이후에 상위 능숙도, 중위 능숙도 또는 하위 능숙도가 요구되는 모든 프로젝트에 참여할 수 있다. 하지만, 능숙도 측정 결과 하위 능숙도 작업자로 분류된 작업자(32)는 이후에 하위 능숙도가 요구되는 프로젝트에만 참여할 수 있게 된다.
도 6은 본 발명의 일 실시예에 따른 평균 반려율을 이용한 작업자 능숙도 측정 장치의 블록도이다.
도 6을 참조하면, 평균 반려율을 이용한 작업자 능숙도 측정 장치(300)(이하, 작업자 능숙도 측정 장치)는, 통신부(310) 및 산출부(320)를 포함한다.
통신부(310)는 하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자(32)에게 송신하고, 복수의 작업자(32)로부터 작업 결과를 수신하고, 복수의 작업자(32)로부터 입력된 작업 결과를 복수의 검수자(34)가 검수할 수 있도록 복수의 검수자(34)에게 송신하고, 복수의 검수자(34)로부터 검수 결과를 수신하는 역할을 수행한다.
산출부(320)는 검수 결과를 기반으로 작업자(32)의 검수 통과 수량에 상응하는 작업 점수를 산출하고, 반려 수량에 상응하는 반려 점수를 산출하고, 작업 점수와 반려 점수의 차를 이용하여 작업자(32)의 능숙도를 산출하는 역할을 수행한다.
또한, 산출부(320)는 반려 점수의 산출시, 작업자(32)의 작업 수량이 미리 정해진 능숙 시점 수량을 초과하기 전에는 가중치를 적용하지 않고, 작업자(32)의 작업 수량이 미리 정해진 능숙 시점 수량을 초과한 후에는 평균 반려율에 기초한 가중치를 적용하여 산출한다.
도 6을 참조하여 설명한 작업자 능숙도 측정 장치(300)는 상술한 서버의 구성 요소로 제공될 수 있다.
이상에서 전술한 본 발명의 일 실시예에 따른 평균 반려율을 이용한 작업자 능숙도 측정 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.

Claims (9)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자에게 부여하고, 복수의 작업자로부터 작업 결과를 입력받는 단계;
    상기 복수의 작업자로부터 입력된 상기 작업 결과를 복수의 검수자가 검수하게 하고, 상기 복수의 검수자로부터 검수 결과를 입력받는 단계; 및
    상기 검수 결과를 기반으로 상기 작업자의 능숙도를 측정하는 단계를 포함하되,
    상기 작업자의 능숙도를 측정하는 단계는, 상기 작업자의 검수 통과 수량에 상응하는 작업 점수와 반려 수량에 상응하는 반려 점수의 차를 이용하여 상기 작업자의 능숙도를 측정하고,
    상기 반려 점수는, 상기 작업자의 작업 수량이 미리 정해진 능숙 시점 수량을 초과하기 전에는 상기 반려 점수의 산출시 가중치를 적용하지 않고, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에는 상기 반려 점수의 산출시 평균 반려율에 기초한 가중치를 적용하여 산출하고,
    상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에,
    상기 작업자의 반려율이 상기 평균 반려율보다 크면 1보다 큰 제1 값의 가중치를 적용하여 상기 반려 점수를 산출하고,
    상기 작업자의 반려율이 상기 평균 반려율보다 작으면 1보다 작은 제2 값의 가중치를 적용하여 상기 반려 점수를 산출하는, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  2. 제1항에 있어서,
    상기 능숙 시점 수량은 상위 능숙도 작업자, 중위 능숙도 작업자, 하위 능숙도 작업자를 균등하게 선별하여 진행한 파일럿 프로젝트를 통해서 도출되는 것인, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  3. 제1항에 있어서,
    상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후,
    상기 작업자의 반려율이 상기 평균 반려율보다 크면,
    전체 반려 수량(a) 중 평균 반려 수량(b)에 상응하는 수량(b)과 관련해서는 가중치를 적용하지 않고, 상기 평균 반려 수량(b)을 초과하는 나머지 수량(a-b)과 관련해서 상기 제1 값의 가중치를 적용하여 상기 반려 점수를 산출하는, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  4. 제1항에 있어서,
    상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후,
    상기 작업자의 반려율이 상기 평균 반려율보다 작으면
    전체 반려 수량(c) 중 평균 반려 수량(b)에 미달하는 수량(b-c)과 관련해서 상기 제2 값의 가중치를 적용하여, 나머지 수량(c-(b-c))과 관련해서는 가중치를 적용하지 않고 상기 반려 점수를 산출하는, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  5. 제1항에 있어서,
    상기 작업 점수는 검수 통과시 상기 작업자에게 지급하는 작업 비용을 이용하여 산출되는, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  6. 제5항에 있어서,
    상기 반려 점수는 반려시 발생하는 반려 비용을 이용하여 산출되는, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  7. 제1항에 있어서,
    상기 작업자의 능숙도의 측정 결과를 이용하여 미리 정해진 등급 이상의 능숙도가 요구되는 다른 프로젝트에 대한 크라우드 소싱 기반의 작업의 기회를 부여하는, 평균 반려율을 이용한 작업자 능숙도 측정 방법.
  8. 하드웨어인 컴퓨터와 결합되어, 제1항 내지 제7항 중 어느 한 항의 평균 반려율을 이용한 작업자 능숙도 측정 방법을 실행시키기 위하여 매체에 저장된, 컴퓨터 프로그램.
  9. 평균 반려율을 이용한 작업자 능숙도 측정 장치로서,
    하나의 프로젝트에 대한 크라우드 소싱 기반의 작업을 복수의 작업자에게 송신하고, 상기 복수의 작업자로부터 작업 결과를 수신하고, 상기 복수의 작업자로부터 입력된 상기 작업 결과를 복수의 검수자가 검수할 수 있도록 상기 복수의 검수자에게 송신하고, 상기 복수의 검수자로부터 검수 결과를 수신하는 통신부; 및
    상기 검수 결과를 기반으로 작업자의 검수 통과 수량에 상응하는 작업 점수를 산출하고, 반려 수량에 상응하는 반려 점수를 산출하고, 상기 작업 점수와 상기 반려 점수의 차를 이용하여 상기 작업자의 능숙도를 산출하는 산출부를 포함하며,
    상기 산출부는 상기 반려 점수의 산출시,
    상기 작업자의 작업 수량이 미리 정해진 능숙 시점 수량을 초과하기 전에는 가중치를 적용하지 않고, 상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에는 평균 반려율에 기초한 가중치를 적용하여 산출하고,
    상기 작업자의 작업 수량이 상기 미리 정해진 능숙 시점 수량을 초과한 후에,
    상기 작업자의 반려율이 상기 평균 반려율보다 크면 1보다 큰 제1 값의 가중치를 적용하여 상기 반려 점수를 산출하고,
    상기 작업자의 반려율이 상기 평균 반려율보다 작으면 1보다 작은 제2 값의 가중치를 적용하여 상기 반려 점수를 산출하는, 평균 반려율을 이용한 작업자 능숙도 측정 장치.
PCT/KR2020/010388 2019-08-30 2020-08-06 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치 WO2021040265A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020190107587A KR102155790B1 (ko) 2019-08-30 2019-08-30 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
KR10-2019-0107587 2019-08-30

Publications (1)

Publication Number Publication Date
WO2021040265A1 true WO2021040265A1 (ko) 2021-03-04

Family

ID=72471349

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/010388 WO2021040265A1 (ko) 2019-08-30 2020-08-06 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치

Country Status (3)

Country Link
JP (1) JP6923729B2 (ko)
KR (1) KR102155790B1 (ko)
WO (1) WO2021040265A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2743898C1 (ru) 2018-11-16 2021-03-01 Общество С Ограниченной Ответственностью "Яндекс" Способ выполнения задач
RU2744032C2 (ru) 2019-04-15 2021-03-02 Общество С Ограниченной Ответственностью "Яндекс" Способ и система для определения результата выполнения задачи в краудсорсинговой среде
RU2744038C2 (ru) 2019-05-27 2021-03-02 Общество С Ограниченной Ответственностью «Яндекс» Способ и система для определения результата для задачи, выполняемой в краудсорсинговой среде
RU2019128272A (ru) 2019-09-09 2021-03-09 Общество С Ограниченной Ответственностью «Яндекс» Способ и система для определения производительности пользователя в компьютерной краудсорсинговой среде
RU2019135532A (ru) 2019-11-05 2021-05-05 Общество С Ограниченной Ответственностью «Яндекс» Способ и система для выбора метки из множества меток для задачи в краудсорсинговой среде
RU2020107002A (ru) 2020-02-14 2021-08-16 Общество С Ограниченной Ответственностью «Яндекс» Способ и система приема метки для цифровой задачи, исполняемой в краудсорсинговой среде

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120007302A (ko) * 2010-07-14 2012-01-20 주식회사 비즈엠텍 업무 관리 시스템
JP2016181036A (ja) * 2015-03-23 2016-10-13 株式会社富士通エフサス 作業配分支援装置、作業配分支援プログラムおよび作業配分支援方法
KR101790748B1 (ko) * 2017-06-13 2017-11-20 (주)피터앤데이브 모바일 기반의 업무 관리 방법 및 장치
KR101945200B1 (ko) * 2017-12-14 2019-02-07 주식회사 이앤지테크 성과지표에 근거한 직무역량 평가방법 및 그 시스템

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000250749A (ja) * 1999-03-03 2000-09-14 Hitachi Ltd ソフトウェア品質管理装置
JP2004326310A (ja) * 2003-04-23 2004-11-18 Konica Minolta Photo Imaging Inc 受発注システム及び受発注方法
JP2007141039A (ja) * 2005-11-21 2007-06-07 Hitachi Information Systems Ltd 業務管理システムおよび業務管理方法、ならびにそのためのプログラム
US8554605B2 (en) * 2011-06-29 2013-10-08 CrowdFlower, Inc. Evaluating a worker in performing crowd sourced tasks and providing in-task training through programmatically generated test tasks
JP5646568B2 (ja) * 2012-09-24 2014-12-24 ヤフー株式会社 作業評価指標生成装置
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
US20140343984A1 (en) * 2013-03-14 2014-11-20 University Of Southern California Spatial crowdsourcing with trustworthy query answering
JP6306400B2 (ja) * 2014-04-04 2018-04-04 Kddi株式会社 クラウドソーシングにおける作業者のスキルを評価するスキル評価装置、プログラム及び方法
US10409878B2 (en) * 2016-01-29 2019-09-10 Kiran Girish Sonnad Algorithm for an automated, community based, periodic selection process of creative works

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120007302A (ko) * 2010-07-14 2012-01-20 주식회사 비즈엠텍 업무 관리 시스템
JP2016181036A (ja) * 2015-03-23 2016-10-13 株式会社富士通エフサス 作業配分支援装置、作業配分支援プログラムおよび作業配分支援方法
KR101790748B1 (ko) * 2017-06-13 2017-11-20 (주)피터앤데이브 모바일 기반의 업무 관리 방법 및 장치
KR101945200B1 (ko) * 2017-12-14 2019-02-07 주식회사 이앤지테크 성과지표에 근거한 직무역량 평가방법 및 그 시스템

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
CEO PARK , MINUO: " (Company B) blog. [Company B Interview] #7 - Crowdworks ", 6 August 2018 (2018-08-06), pages 1 - 17, XP009526500, Retrieved from the Internet <URL:https://blog.naver.com/companybb/221333735706>.> *

Also Published As

Publication number Publication date
JP6923729B2 (ja) 2021-08-25
JP2021039756A (ja) 2021-03-11
KR102155790B1 (ko) 2020-09-14

Similar Documents

Publication Publication Date Title
WO2021040265A1 (ko) 평균 반려율을 이용한 작업자 능숙도 측정 방법 및 장치
WO2021246772A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법, 그 장치 및 그 컴퓨터 프로그램
WO2021230660A1 (ko) 크라우드소싱 기반 프로젝트의 기능요소 및 난이도에 기반한 작업자 풀 자동 생성 방법 및 장치
WO2022019500A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트에서의 실습 교육 참여자에 대한 보상형 실습 교육 제공 방법, 그 장치 및 그 컴퓨터 프로그램
KR102156582B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 성실 작업자 선별 및 검수 우선순위 부여 방법
WO2020130306A1 (ko) 검증용 주석 처리 작업을 이용한 실전용 주석 처리 작업의 검증 방법 및 장치
WO2020242108A1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 작업자 선별 방법
KR102155889B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법
WO2021137523A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 시간 대비 검수 시간을 이용한 검수 단가 자동 업데이트 방법
WO2021133076A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업단가 관리 방법 및 장치
WO2020122291A1 (ko) 인공지능 기반의 공동주택 관리업무지시 자동화 장치 및 방법
WO2021132831A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 및 검수자의 증감 운영 방법
KR102164769B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 검수 패스를 활용한 능숙도 측정 방법
WO2022005111A1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 결과에 기초한 작업자에 대한 검수 권한 자동 부여 방법, 그 장치 및 그 컴퓨터 프로그램
WO2021049763A1 (ko) 봇 구별 테스트를 활용한 크라우드 소싱 기반의 데이터 수집 방법
WO2020235898A1 (ko) 크라우드 소싱 기반 프로젝트의 작업 단가 측정 방법
WO2020197075A1 (ko) 크라우드 소싱 기반의 데이터를 수집하는 작업을 작업자에게 할당하는 방법 및 장치
WO2021091050A1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법
KR102205810B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 재작업 결과의 자동 반려 방법
KR102155747B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법
WO2021040264A1 (ko) 크로스체크를 통한 신뢰도 높은 작업 결과 획득 방법 및 장치
KR102195956B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업 난이도에 따른 최대 작업 제한 건수 갱신 방법
KR102155846B1 (ko) 이전 작업의 반려율을 활용한 샘플링 검수 방법 및 장치
WO2021101018A1 (ko) 크라우드소싱 기반 프로젝트의 작업 진행 속도에 따른 작업 단가 조정 방법
KR102164837B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 비용 효율적인 검수 품질 관리 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20857116

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 30/06/2022)

122 Ep: pct application non-entry in european phase

Ref document number: 20857116

Country of ref document: EP

Kind code of ref document: A1