KR20220136569A - 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램 - Google Patents

작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램 Download PDF

Info

Publication number
KR20220136569A
KR20220136569A KR1020210041931A KR20210041931A KR20220136569A KR 20220136569 A KR20220136569 A KR 20220136569A KR 1020210041931 A KR1020210041931 A KR 1020210041931A KR 20210041931 A KR20210041931 A KR 20210041931A KR 20220136569 A KR20220136569 A KR 20220136569A
Authority
KR
South Korea
Prior art keywords
image
cell
work
cells
worker
Prior art date
Application number
KR1020210041931A
Other languages
English (en)
Other versions
KR102517328B1 (ko
Inventor
박민우
신병철
김승진
이혜민
이정민
이진우
Original Assignee
주식회사 크라우드웍스
주식회사 알틱스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스, 주식회사 알틱스 filed Critical 주식회사 크라우드웍스
Priority to KR1020210041931A priority Critical patent/KR102517328B1/ko
Publication of KR20220136569A publication Critical patent/KR20220136569A/ko
Application granted granted Critical
Publication of KR102517328B1 publication Critical patent/KR102517328B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • G06Q10/063114Status monitoring or status determination for a person or group
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • G06Q10/063112Skill-based matching of a person or a group to a task
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • G06Q10/063116Schedule adjustment for a person or group
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316Sequencing of tasks or work
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0633Workflow analysis

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

본 발명은 이미지 내 세포 분별에 관한 작업 수행 방법을 제공한다. 상기 방법은 컴퓨터에 의해 수행되는 방법으로서, 적어도 하나의 작업자 그룹에 속한 작업자에게 제1 작업 툴 및 제2 작업 툴을 제공하여, 상기 제1 작업 툴 및 상기 제2 작업 툴을 기반으로 기 설정된 유형에 따라 이미지 내 적어도 하나의 세포를 분별하는 작업 수행을 요청하는 단계 및 상기 작업자로부터 상기 작업 수행에 상응하는 작업 결과를 입력받는 단계를 포함하고, 상기 제1 작업 툴은, 상기 작업자에게 기 설정된 세포 유형 항목 및 상기 이미지 내의 세포 각각의 세포 유형의 설정 기능을 제공하는 제1-1 UI(User Interface) 및 상기 제1-1 UI를 통해 설정되는 각각의 세포 유형에 해당하는 세포 정보를 분류하여 출력하는 기능을 제공하는 제1-2 UI를 포함하며, 상기 제2 작업 툴은, 상기 작업자에게 상기 이미지 내에서 세포의 지정 및 추출 기능을 제공하는 제2-1 UI 및 상기 제2-1 UI를 통해 추출되는 세포 이미지를 출력하는 기능을 제공하는 제2-2 UI를 포함한다.

Description

작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램{METHOD AND PROGRAM FOR PERFORMING WORK ON CELL TYPE IDENTIFICATION IN IMAGE BASED WORK TOOL}
본 발명은 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램에 관한 것이다.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.
하나의 프로젝트가 오픈 되면, 복수의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 상기 복수의 작업 결과는 복수의 검수자에게 배정하여 검수 수행을 요청한다. 검수자의 검수 결과 부적합한 작업 결과에 대해서는 해당 작업을 반려하여 작업자에게 재작업 수행을 요청한다.
한편, 프로젝트의 의뢰자는 영상 내 세포의 정상 유무, 유형, 크기 등을 식별하고, 세포의 정상 유무, 크기, 유형 등에 따라 세포를 추출하기 위한 소스 데이터의 가공을 요구하기도 한다. 이러한 프로젝트는 세포의 형태, 유형, 정상 여부 등을 식별할 수 있는 전문적인 지식을 작업자에게 요구한다. 그러나 이러한 전문적인 지식을 가진 작업자의 수는 제한적일 수 밖에 없다. 한편, 이미지 내 세포를 추출하는 것은 일반 대중들도 수행할 수 있는 작업에 해당한다. 그러나 이러한 대중들의 경우 대부분 세포의 분류할 수 있는 전문적인 지식을 갖고 있지 못하다. 즉 소수의 전문가를 통해 해당 작업을 요청하는 것은 결국 프로젝트의 일정이 지연되는 결과를 초래하며, 일반 대중에게 해당 작업을 요청하는 것은 작업 교육에 많은 시간과 비용이 소요될 수 밖에 없는 문제점을 발생시킨다.
따라서 세포의 유형을 분별하기 위하여, 전문적인 지식을 가진 작업자와 일반 작업자가 수행할 수 있는 작업의 유형을 분리하여, 분업을 수행하는 것이 바람직할 수 있을 것이다. 이때 서로 다른 유형의 작업간 작업 결과를 연계하여 수행할 수 있도록 한다면 작업 속도 및 품질을 향상시킬 수 있을 것이다. 특히 각각의 작업자가 수행하는 작업 유형과 관련된 적절한 작업 툴을 제공한다면, 효과는 극대화될 수 있다.
공개특허공보 제10-2014-0095956호, 2014.08.04.
상술한 바와 같은 문제점을 해결하기 위한 본 발명은 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램을 제공하는 것이다.
다만 본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 작업툴을 이용한 이미지 내의 세포 분별에 관한 작업 수행 방법은, 컴퓨터에 의해 수행되는 방법으로서, 적어도 하나의 작업자 그룹에 속한 작업자에게 제1 작업 툴 및 제2 작업 툴을 제공하여, 상기 제1 작업 툴 및 상기 제2 작업 툴을 기반으로 기 설정된 유형에 따라 이미지 내 적어도 하나의 세포를 분별하는 작업 수행을 요청하는 단계 및 상기 작업자로부터 상기 작업 수행에 상응하는 작업 결과를 입력받는 단계를 포함하고, 상기 제1 작업 툴은, 상기 작업자에게 기 설정된 세포 유형 항목 및 상기 이미지 내의 세포 각각의 세포 유형의 설정 기능을 제공하는 제1-1 UI(User Interface) 및 상기 제1-1 UI를 통해 설정되는 각각의 세포 유형에 해당하는 세포 정보를 분류하여 출력하는 기능을 제공하는 제1-2 UI를 포함하며, 상기 제2 작업 툴은, 상기 작업자에게 상기 이미지 내에서 세포의 지정 및 추출 기능을 제공하는 제2-1 UI 및 상기 제2-1 UI를 통해 추출되는 세포 이미지를 출력하는 기능을 제공하는 제2-2 UI를 포함한다.
또한 상기 적어도 하나의 작업자 그룹은, 제1 작업자 그룹 및 제2 작업자 그룹을 포함하고, 상기 요청 단계는, 크라우드소싱에 기반하여, 상기 제1 작업자 그룹의 작업자에게 상기 제1 작업 툴을 제공하여 상기 설정 기능에 대한 제1 작업의 수행을 요청하는 단계 및 상기 제2 작업자 그룹의 작업자에게 상기 제2 작업 툴이 제공하여 상기 지정 및 추출 기능에 대한 제2 작업의 수행을 요청하는 단계를 포함하고, 상기 입력 단계는, 상기 제1 작업자 그룹의 작업자로부터 상기 제1 작업 수행 요청에 대한 제1 작업 결과를 입력받는 단계 및 상기 제2 작업자 그룹의 작업자로부터 상기 제2 작업 수행 요청에 대한 제2 작업 결과를 입력받는 단계를 포함하고, 상기 제2 작업 수행을 요청하는 단계는, 상기 제1 작업 결과를 기초로, 상기 제1 작업 툴을 통해 설정된 세포 유형 및 상기 세포 유형이 설정된 세포의 위치 정보를 제공한다.
또한 상기 제2 작업의 수행을 요청하는 단계는 상기 제1 작업자 그룹의 작업자에 의해 입력된 제1 작업 결과에 상응하는 이미지를 제2 작업자 그룹의 작업자에게 배정하여 제2 작업 수행을 요청하는 것이다.
또한 상기 제2 작업의 수행을 요청하는 단계는 상기 제1 작업 결과에 기초하여 상기 이미지 내 각각의 세포 유형으로 설정된 세포의 유형 별 개수 정보 및 유형 별 세포의 분포 정보 중 적어도 하나를 상기 제2 작업자 그룹의 작업자에게 제공하는 단계를 더 포함한다.
또한 상기 제2 작업 결과를 입력받는 단계는, 상기 유형 별 개수 정보와 상기 제2 작업자 그룹의 작업자에 의해 추출된 세포 이미지의 개수 정보가 일치하는 경우에, 작업 결과 입력 인터페이스를 활성화시켜 상기 제2 작업자 그룹의 작업자로부터 작업 결과를 입력 받는다.
또한 상기 제1 작업자 그룹 및 제2 작업자 그룹의 작업자에게 상기 제1 작업 결과 및 제2 작업 결과에 대한 작업 단가를 각각 지급 처리하는 단계를 더 포함하고, 상기 지급 처리하는 단계는 상기 제1 작업자 그룹의 작업자에게는 상기 세포 유형이 설정된 세포의 개수에 기초하여 산정된 제1 작업 단가를 지급하고, 상기 제2 작업자 그룹의 작업자에게는 상기 추출된 세포 이미지 개수에 기초하여 산정된 제2 작업 단가를 지급한다.
또한 상기 제1 작업 툴은, 상기 이미지 내에서 지정되는 복수의 세포에 대해 동일 세포 유형으로 설정 가능한 기능을 제공한다.
또한 상기 제1 작업 툴은 상기 이미지를 크롭핑한 부분 이미지를 생성하는 크롭 기능을 제공하는 제1-3 UI를 더 포함하고, 상기 제1 작업은, 상기 제1 작업 툴을 이용하여 상기 이미지 내의 적어도 하나의 세포를 포함한 부분 이미지를 생성한 후 상기 부분 이미지 내의 상기 적어도 하나의 세포 유형을 설정하도록 하는 작업을 포함하고, 상기 제2 작업은, 상기 제2 작업 툴을 이용하여 상기 부분 이미지 내의 상기 적어도 하나의 세포의 이미지를 추출하는 작업을 포함한다.
또한 상기 제2 작업 툴은 상기 이미지 내에 세포 유형 별로 해당 세포 유형을 나타내는 서로 다른 시각 효과를 제공하고, 상기 이미지 내에서 특정 세포가 지정될 경우, 상기 이미지 내에서 상기 지정된 세포 및 상기 지정된 세포와 동일 세포 유형을 가지는 세포에 해당 시각 효과를 부여하여 출력한다.
상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행 방법을 수행하는 컴퓨터 프로그램은, 기록매체에 저장될 수 있다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.
상기와 같은 본 발명에 따르면, 전문적인 지식을 가진 작업자를 기반으로 이미지 내 세포의 유형을 신속하게 식별할 수 있을 것이다.
또한, 세포를 추출하기 위한 시각 효과를 부여하는 작업은 일반 작업자에게 배정함으로써, 신속한 작업 분업이 가능하고 궁극적으로는 프로젝트의 지연을 방지할 수 있다.
또한, 전문 작업자의 작업 결과에 기반한, 세포의 좌표 정보 및 세포의 개수 및 분포 정보를 일반 작업자에게 제공함으로써, 시각 효과 부여의 정확한 작업 수행이 가능하도록 유도한다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 3은 본 발명의 일 실시예에 따른 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법을 개략적으로 나타낸 순서도이다.
도 4는 본 발명의 일 실시예에 따른 제1 작업툴의 예시도이다.
도 5는 본 발명의 일 실시예에 따른 제1 작업툴을 이용하여 세포 유형을 설정하는 작업 수행 방법을 나타낸 예시도이다.
도 6은 본 발명의 일 실시예에 따른 제1 작업툴을 이용하여 수행한 작업 결과를 나타낸 예시도이다.
도 7은 본 발명의 일 실시예에 따른 제2 작업툴의 예시도이다.
도 8은 본 발명의 일 실시예에 따른 제2 작업툴을 이용하여 세포 이미지를 추출하는 작업 수행 방법을 나타낸 예시도이다.
도 9는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법에 관한 순서도이다.
도 10은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법을 나타낸 예시도이다.
도 11은 본 발명의 일 실시예에 따른 제1 작업자 그룹의 작업자로부터 입력받은 작업 결과에 상응하는 이미지를 제2 작업자 그룹의 작업자에게 중복하여 배정하는 것을 나타낸 예시도이다.
도 12는 본 발명의 일 실시예에 따른 제1 작업자 그룹의 작업 결과에 기초하여 이미지 내 세포의 개수 정보를 제2 작업자 그룹의 작업자의 작업 화면에 출력하여 제공하는 것을 나타낸 예시도이다.
도 13은 본 발명의 일 실시예에 따른, 제1 작업 결과를 기초로 설정된 각각의 이미지의 주요 세포 유형을 기초로, 복수의 이미지를 클러스터링하여 제2 작업자에게 작업 수행을 요청하는 방법을 개략적으로 나타낸 순서도이다.
도 14는 본 발명의 일 실시예에 따른, 각각의 이미지의 주요 세포 유형을 기초로, 복수의 이미지를 클러스터링하고, 제2 작업자에게 작업 수행을 요청하는 것을 나타낸 예시도이다.
도 15는 본 발명의 일 실시예에 따른 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행 정차를 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.
의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.
의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.
서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.
이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.
검수자(34)는 플랫폼에 오픈 된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11). 이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).
이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).
이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).
검수 결과가 검수 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.
검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.
도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.
이하, 도 3 내지 도 14를 참조하여 본 발명의 일 실시예에 따른 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법을 설명한다.
한편, 도 3 및 도 11에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.
도 3은 본 발명의 일 실시예에 따른 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법을 개략적으로 나타낸 순서도이다.
도 4는 본 발명의 일 실시예에 따른 제1 작업툴의 예시도이다.
도 5는 본 발명의 일 실시예에 따른 제1 작업툴을 이용하여 세포 유형을 설정하는 작업 수행 방법을 나타낸 예시도이다.
도 6은 본 발명의 일 실시예에 따른 제1 작업툴을 이용하여 수행한 작업 결과를 나타낸 예시도이다.
도 7은 본 발명의 일 실시예에 따른 제2 작업툴의 예시도이다.
도 8은 본 발명의 일 실시예에 따른 제2 작업툴을 이용하여 세포 이미지를 추출하는 작업 수행 방법을 나타낸 예시도이다.
병원, 제약회사 등에서는 인간, 동물 등의 혈액을 채취하고, 혈액 내 세포들을 진단에 이용하는 혈액 도말 검사를 수행한다. 이때 의사, 제약회사의 직원 등이 직접 혈액 도말 검사를 수행해야 하므로, 검사 대상의 수가 많거나 검사를 수행하는 인원이 적을 경우에는 많은 시간과 비용이 소요될 수 밖에 없다. 최근 딥러닝 기술의 발전과 함께, 채취된 혈액을 딥러닝 모델에 입력하여 인간의 개입 없이도 세포를 식별하거나 세포의 유형을 판단하는 방안이 모색되고 있다.
그러나 이러한 딥러닝 모델을 이용하기 위해서는, 전처리된 가공 데이터를 기반으로 해당 딥러닝 모델을 학습시켜야 하는 과정이 필요하다. 이때 학습 과정에서 이용되는 전처리 데이터가 많아질수록, 해당 딥러닝 모델의 정확도 또한 높아진다.
한편, 딥러닝 모델을 학습시키는데 이용되는 전처리 데이터를 생성하기 위해서는 세포를 포함하는 이미지 내에서 각각의 세포의 유형을 식별하는 작업과 각각의 유형 별로 세포의 이미지를 추출하는 작업이 필요하다. 이때, 각각의 작업을 원활하게 수행할 수 있도록 의사, 약사 등의 사용자에게 적절한 작업툴을 제공하는 것이 바람직하다. 본 발명은 세포 분별을 수행하는 딥러닝 모델의 전처리 데이터를 보다 효율적으로 생성하기 위하여, 상술한 전처리 과정에서의 작업 유형에 따라 적절한 작업 수행을 도모하는 작업툴을 제공한다. 이하, 이와 관련한 본 발명의 일 실시예에 대하여 설명한다.
도 3을 참조하면, 본 발명의 일 실시예로 적어도 하나의 작업자 그룹에 속한 작업자에게 제1 작업 툴 및 제2 작업 툴을 제공하여, 상기 제1 작업 툴 및 상기 제2 작업 툴을 기반으로 기 설정된 유형에 따라 이미지 내 적어도 하나의 세포를 분별하는 작업 수행을 요청한다(S410).
보다 구체적으로, 서버는 특정 작업자 그룹에 속한 작업자에게 적어도 하나의 이미지를 제공한다. 이때, 이미지는 적어도 하나의 세포를 포함하는 것으로서 작업자는 서버로부터 제공받은 제1 작업 툴(500)과 제2 작업 툴(600)을 이용하여 이미지 내 세포를 기 설정된 유형에 따라 분별하는 작업을 수행하게 된다.
한편 본 발명의 이해를 위해 작업자에게 이미지가 제공되거나 배정되는 것으로 설명하고 있으나, 작업자는 서버로부터 동영상을 제공받고 해당 동영상을 구성하는 각각의 프레임 또는 이미지 내에서의 세포를 기 설정된 유형에 따라 분별하는 작업을 수행할 수도 있을 것이다.
한편, 세포 분별의 기준이 되는 유형은 주제 또는 목적에 따라서 다양하게 설정될 수 있다. 즉 세포의 모양, 개수 이외에도 색상, 크기, 분포, 봉입체, 기타 감염 여부 등에 따라서 다양한 유형으로 설정될 수 있다. 예를 들어, 세포 내 말라리아과 같은 기생충 여부를 분별하는 경우, 기 설정된 유형은 기생충 및 정상세포로 설정될 것이다. 또 다른 예로 혈액 내 백혈구 중 백혈병세포를 추출할 것을 요구한다면, 세포의 유형은 백혈병 세포(Leukemic cell, Blast, Immature cell) 및 정상 백혈구로 설정될 수 있다. 정리하면, 작업자가 수행하는 작업은 설정된 유형에 따라서 각각의 세포를 분류하는 것이다.
한편, 기 설정된 유형은 복수의 카테고리로 구분될 수도 있다. 예를 들어, 이미지 내 세포를 적혈구, 백혈구, 혈소판으로 구분하는 제1 유형과 적혈구, 백혈구, 혈소판 각각의 유형에 해당하는 세포를 보다 상세하게 분류하는 제2 유형으로 설정될 수 있다. 제1 유형이 백혈구라고 가정한다면, 제2 유형으로는 호염기성 백혈구(Basophils), 호산성 백혈구(Eosinophils), 호중성 백혈구(Neutrophils) 등으로 설정될 수 있다.
본 발명의 일 실시예로 상기 제1 작업 툴은, 상기 작업자에게 기 설정된 세포 유형 항목 및 상기 이미지 내의 세포 각각의 세포 유형의 설정 기능을 제공하는 제1-1 UI(User Interface) 및 상기 제1-1 UI를 통해 설정되는 각각의 세포 유형에 해당하는 세포 정보를 분류하여 출력하는 기능을 제공하는 제1-2 UI를 포함한다.
도 4를 참조하면, 제1 작업 툴(500)은 작업자에게 제공된 또는 배정된 이미지를 출력하는 제1 영역(501), 기 설정된 세포 유형 항목(502), 이미지 내 세포 각각의 세포 유형의 설정 기능을 제공하는 제1-1 UI(503) 및 사용자에 의해 세포 유형이 설정된 세포 정보를 각각의 세포 유형에 따라 분류하여 출력하는 기능을 제공하는 제1-2 UI(504)를 포함한다.
서버는 작업자에게 제공할 또는 배정한 이미지를 제1 영역에 출력한다. 이를 통해, 작업자는 작업을 수행할 세포 이미지의 직관적인 관찰이 가능하다. 한편, 제1 작업 툴은 기 설정된 세포 유형의 항목(502)을 제2 영역에 출력한다. 이를 통해, 작업자는 자신이 수행해야 할, 즉 이미지 내 세포를 관찰하여 설정해야 하는 세포 유형을 인지할 수 있다.
한편, 세포 유형이 복수의 카테고리로 설정된 경우에는 세포 유형의 항목에는 복수의 카테고리 중 가장 넓은 카테고리의 유형 항목이 출력될 수 있다. 예를 들어, 이미지 내 세포를 적혈구, 백혈구, 혈소판으로 구분하는 제1 유형과 적혈구, 백혈구, 혈소판 각각의 유형에 해당하는 세포를 보다 상세하게 분류하는 제2 유형으로 설정된 경우, 세포 유형의 항목(502)에는 제1 유형이 출력될 수 있다. 그러나 이에 한정하는 것은 아니다.
한편, 다시 도 4를 참조하면, 서버는 제1-1 UI(503)을 통해 특정 세포에 대한 유형을 설정한다. 이때, 바람직하게는 서버는 기 설정된 세포의 유형을 리스트업하여 출력한다. 그리고 작업자에 의해 리스트 업된 복수의 세포 유형 중 특정 세포 유형이 선택되면, 해당 세포의 세포 유형을 선택된 세포 유형으로 설정한다. 즉 작업자는 서버로부터 제공되는 세포 유형 항목 중 특정 세포의 유형에 해당하는 세포 유형을 선택함으로써, 해당 세포의 유형 설정이 가능하다. 제1-2 UI(504)에는 사용자에 의해 설정된 세포 유형이 설정된 세포 정보를 출력한다. 즉, 사용자가 특정 세포에 대한 유형 설정을 수행하면, 해당 세포의 정보가 상기 제1-2 UI(504) 상에 출력된다. 이때, 세포의 정보는 이미지 내 세포의 위치 정보, 세포의 유형 정보, 해당 유형으로 설정된 순서 정보 등을 포함한다.
도 5를 참조하여, 제1 작업 툴(500)을 기반으로 세포의 유형을 설정하는 작업 수행 방법에 대하여 설명한다. 본 발명의 일 실시예로, 서버는 작업자로부터 세포 유형 항목 중 설정하고자 하는 세포 유형을 선택받는다. 서버가 작업자로부터 세포 유형 항목(502) 중 WBC를 선택받은 후 해당 세포 유형, 즉 WBC에 해당하는 세포 정보를 이미지 내에서 입력받는다. 보다 구체적으로, 서버는 이미지 내에서 입력된 특정 세포 정보를 상기 이미지 내 위치 정보와 매칭하고, 해당 위치 정보와 사용자에 의해 입력된 세포 유형과 매칭한다.
그리고 서버는 사용자에 의해 선택된 세포의 정보(504a)를 제1-2 UI(504) 상에 출력한다. 세포의 정보는 WBC에 포함되는 세포 중 해당 세포의 설정 순서가 출력된다. 이때 도면에 명확히 도시되지는 않았으나, 서버는 제1-2 UI 상에 출력된 세포의 정보는 이미지 내 세포의 위치 정보가 매칭하여 출력할 수도 있을 것이다. 한편, 서버는 제1-2 UI 상에 출력된 세포 정보에 상응하는 세포에 대하여, 최종 세포의 유형을 제1-1 UI를 통해 설정할 수 있다. 예를 들어, 이미지 내 해당 세포 또는 제1-2 UI 상에 출력된 해당 세포 정보 상에서 사용자가 제1-1 UI를 통해 특정 세포 유형을 선택하는 경우, 해당 세포의 최종 세포 유형으로 설정한다.
도 6을 참조하면, 제1-2UI 상에는 최종적으로 세포 유형이 설정된 세포 정보를 출력한다. 이때, 서버는 각각의 세포에 대하여 설정된 세포 유형 정보는 이미지 상에 동시에 출력할 수도 있다. 즉 서버가 제1 영역(501) 상에 출력된 이미지 내 각각의 세포에 대하여 설정된 유형 정보를 출력하였음을 알 수 있다. 보다 상세하게는 세포 유형이 설정된 세포(510)와 세포 유형이 설정되지 않은, 즉 기 설정된 세포 유형에 해당하지 않은 세포(511)가 구별되어 이미지 상에 표시된다.
한편 본 발명의 일 실시예로, 서버는 제1 작업 툴을 통해 이미지 내에서 지정되는 복수의 세포에 대해 동일 세포 유형으로 설정 가능한 기능을 제공할 수 있다. 구체적으로, 제1 작업 툴은 복수의 세포를 그룹핑(Grouping)하고, 해당 그룹에 속하는 복수의 세포에 대하여 동일한 세포 유형으로 설정이 가능한 기능을 제공할 수 있다. 이를 통해, 사용자는 이미지 내 각각의 세포를 선택하고 해당 세포의 유형을 설정하는 번거로움을 줄일 수 있을 것이다.
한편 본 발명의 일 실시예로 제2 작업 툴(600)은, 상기 작업자에게 상기 이미지 내에서 세포의 지정 및 추출 기능을 제공하는 제2-1 UI(603) 및 상기 제2-1 UI를 통해 추출되는 세포 이미지를 출력하는 기능을 제공하는 제2-2 UI(604)를 포함한다.
도 7을 참조하면, 제2 작업 툴(600)은 사용자에게 제공된 또는 배정된 이미지가 출력되는 제2 영역(601), 기 설정된 유형 항목(602), 이미지 내에서 세포의 지정 및 추출 기능을 제공하는 제2-1 UI(603) 및 추출된 세포 이미지를 출력하는 기능을 제공하는 제2-2 UI(604)를 포함한다.
사용자는 제2-1 UI(603)를 이용하여, 이미지 내 특정 세포에 대한 경계선을 설정한다. 예를 들어, 도 7을 참조하면 이미지 내 특정 세포를 포함하는 영역에 관하여 사용자의 마우스 입력을 통해 복수의 오브젝트가 출력된다. 이때 서버는 복수의 오브젝트를 기반으로 이미지 내 특정 영역에 대한 경계선을 설정한다. 한편, 경계선이 설정된 세포에 대하여는, 경계선을 기초로 해당 세포의 이미지를 추출한다. 이때 서버는 추출한 세포 이미지를 제2-2 UI 상에 출력한다.
이를 통해, 사용자는 자신이 추출한 세포 이미지를 관찰하고 작업 수행의 정확도를 스스로 검토토할 수 있을 것이다. 한편, 도면에 명확히 도시되지는 않았으나, 제2 작업툴은 제1 작업툴을 이용하여 설정된 세포의 유형에 기초하여, 각각의 세포 유형에 속하는 세포 이미지를 분류하여 추출하도록 하는 기능과 각각의 세포 유형에 따라 세포 이미지를 분류하여 출력하는 기능을 포함할 수 있다.
도 8을 참조하면, 서버가 사용자에 의해 설정된 이미지 내 경계선을 기반으로 복수의 세포(610a, 620b)에 관한 세포 이미지(611a, 612b)를 제2-2 UI 상에 출력한 것을 알 수 있다.
한편, 다시 도 3을 참조하면, 서버는 작업자로부터 상기 작업 수행에 상응하는 작업 결과를 입력 받는다(S420). 구체적으로, 기 설정된 세포 유형에 기초로 이미지 내 세포 유형이 설정된 후 각각의 세포 유형에 해당하는 세포의 이미지를 추출한 작업 결과를 입력 받게 된다.
한편, 본 발명의 일 실시예로, 상술한 세포 유형 분별 작업은 크라우드소싱 시스템을 기초로 수행될 수 있다. 즉, 다수의 작업자를 통해 세포 유형을 분별하는 전처리 작업 수행을 요청할 수도 있을 것이다. 이하 이와 관련한 본 발명의 일 실시예에 대하여 설명하도록 한다.
상술한 세포 유형을 분별하는 작업은 크게 1) 기 설정된 기준에 따른 세포 유형 식별과 2) 이미지 내 세포의 추출로 구분된다. 이때, 세포의 유형을 식별하기 위해서는 세포에 관련한 전문적인 지식이 요구된다. 이러한 작업은 대부분 진단검사의학과, 영상의학과의 전문의 이상의 지식 및 경험을 갖는 의사, 교수, 박사 등에게 적합하다. 반면, 이미지 내 세포를 추출하는 것은, 이미지 내 세포의 바운딩 작업을 수행하는 것으로서, 전문적인 지식이나 교육 없이도 작업 가이드를 통해 작업 수행 방법의 이해 및 숙지가 가능하다.
따라서 본 발명은, 이미지 내 세포를 유형 별로 분별하는 작업을 효과적으로 수행하기 위하여 해당 작업을 1) 전문적이 지식을 기반으로 세포 유형을 식별하는 제1 작업과 2) 전문적인 지식 없이 수행이 가능한, 이미지 내 세포를 추출하는 제2 작업으로 분류한다. 그리고 각각의 제1 작업과 제2 작업을 각각의 작업 수행에 적합한 작업자 그룹에게 요청함으로써, 궁극적으로 세포 유형 분별의 작업을 분업하는 효과를 발휘한다.
도 9는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법에 관한 순서도이다.
도 10은 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 작업 툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법을 나타낸 예시도이다.
S410단계 내지 S424단계는 앞서 도 1 및 도 2를 참조하여 설명한 크라우드소싱 서비스의 구성 및 크라우드소싱 기반 프로젝트의 진행 프로세스와 관련하여 중복되는 내용은 그 상세한 설명을 생략하도록 한다.
먼저 본 발명의 일 실시예로 상기 적어도 하나의 작업자 그룹은, 제1 작업자 그룹 및 제2 작업자 그룹을 포함한다. 이때 제1 작업자 그룹은 상술한 바와 같이 세포와 관련된 전문적인 지식을 가진 또는 전문 교육을 받은 작업자(이하, 제1 작업자)로 구성된다. 그리고 제2 작업자 그룹의 작업자는 제1 작업자와는 달리 자격 조건에 제한이 없는 일반 작업자(이하, 제2 작업자)를 포함한다.
도 9를 참조하면, 본 발명의 일 실시예로, 서버는 크라우드소싱에 기반하여 상기 제1 작업자 그룹의 작업자에게 상기 제1 작업 툴을 제공하여 상기 설정 기능에 대한 제1 작업의 수행을 요청한다(S411).
구체적으로 서버는 제1 작업자(36)들에게 제1 작업 툴을 이용하여 이미지 내의 각 세포들의 유형을 설정하도록 하는 제1 작업의 수행을 요청한다. 서버는 본 발명의 작업물, 즉 세포를 포함하는 이미지를 제1 작업자(36)에게 배정하여 세포들의 유형을 설정하는 제1 작업 수행을 요청한다. 여기서 세포들의 유형은, 적혈구, 백혈구, 혈소판 등과 같이 혈액 내 세포의 유형으로 설정될 수도 있으나 이에 한정하는 것은 아니다. 예를 들어, 정상 세포, 비정상 세포로 세포들의 유형이 설정될 수도 있을 것이다. 상기 세포의 유형은 서버에 의해 설정되어 제1 작업자(36)에게 해당 설정된 세포의 유형에 상응하는 제1 작업을 요청하게 될 것이다.
그리고 서버는 제2 작업자 그룹의 작업자에게 상기 제2 작업 툴이 제공하여 상기 지정 및 추출 기능에 대한 제2 작업의 수행을 요청한다(S412).
구체적으로, 서버는 제2 작업자(38)들에게 제2 작업 툴을 이용하여 기 설정된 세포 유형에 따라 상기 이미지 내 각각의 세포 유형에 해당하는 세포를 지정하여 세포 이미지를 추출하는 하는 제2 작업의 수행을 요청한다.
다시 도 9를 참조하면, 서버는 상기 제1 작업자 그룹의 작업자로부터 상기 제1 작업 수행 요청에 대한 제1 작업 결과를 입력 받고(S421), 상기 제2 작업자 그룹의 작업자로부터 상기 제2 작업 수행 요청에 대한 제2 작업 결과를 입력 받는다(S422).
도 11은 본 발명의 일 실시예에 따른 제1 작업자 그룹의 작업자로부터 입력받은 작업 결과에 상응하는 이미지를 제2 작업자 그룹의 작업자에게 중복하여 배정하는 것을 나타낸 예시도이다.
한편, 본 발명의 일 실시예로, 제2 작업의 수행을 요청하는 단계는, 상기 제1 작업자 그룹의 작업자에 의해 입력된 제1 작업 결과에 상응하는 이미지를 제2 작업자 그룹의 작업자에게 배정하여 제2 작업 수행을 요청하는 것일 수 있다.
도 11을 참조하면, 먼저 서버는 특정 이미지를 제1 작업자(36)에게 배정한 후 작업 수행을 요청한다. 그리고, 해당 작업자가 작업 결과를 입력하면, 해당 작업 결과에 상응하는 작업, 즉 이미지를 제2 작업자(38)에게 배정한 후 작업 수행을 요청한다. 이것은 이미지 내 기 설정된 유형에 해당하는 세포 이미지를 각각 추출해야하는 제2 작업을 수행해야 하는 제2 작업자(38)의 작업 편의성을 높이기 위함이다. 전문적인 지식을 가진 제1 작업자(36)가 이미지 내 세포들의 세포 유형을 설정한 후 해당 설정 정보에 기초하여 제2 작업을 수행하는 것이 제2 작업자(38)의 작업 효율성을 높일 수 있기 때문이다.
구체적으로, 제1 작업자 그룹과 제2 작업자 그룹에게 제공되는 전체 이미지는 동일하다. 각각의 이미지에 대하여 제1 작업과 제2 작업으로 작업 과정이 분리된 것이기 때문이다. 이때, 작업 과정 분리의 효율성을 높이기 위하여, 제1 작업자(36)가 작업을 수행한 후 작업 결과를 입력한 경우에 한하여, 해당 작업 결과에 상응하는 이미지를 제2 작업자(38) 에게 배정하는 것이다. 이는, 작업 과정을 분리하였지만, 각각의 작업 과정을 연계하여 작업의 효율성을 도모하고자 하는 것이다. 이를 위해, 제2 작업자(38)에게 서버는 제1 작업자(36)의 작업 결과를 기초로 세포 유형 정보를 제공할 수 있다.
예를 들어, 제2 작업 수행을 요청하는 단계는, 제1 작업 결과를 기초로, 상기 제1 작업 툴을 통해 설정된 세포 유형 및 상기 세포 유형이 설정된 세포의 위치 정보를 제공할 수 있다.
즉, 제1 작업 결과를 기초로, 이미지 내 각각의 세포에 대하여 설정된 세포의 유형 정보와 세포의 유형이 설정된 이미지 내 세포의 위치 정보를 제공한다. 이를 통해, 제2 작업자는 이미지 내 세포 유형을 식별하지 않더라도, 설정된 세포 유형 정보를 기초로, 특정 세포 유형에 속하는 세포를 인지할 수 있다. 예를 들어, 제1 작업자(36)가 특정 이미지 내 세포에 대하여 백혈구에 해당하는 세포를 식별하여, 백혈구 유형으로 설정하였다고 가정한다. 그리고 제1 작업자(36)가 백혈구 유형을 설정한 작업 결과를 입력하면, 서버는 해당 작업 결과에 상응하는 이미지, 즉 제1 작업자(36)에게 배정된 이미지와 동일한 이미지를 제2 작업자(38)에게 배정한 후 제2 작업 수행을 요청한다.
그리고 서버는 제2 작업 수행을 요청하면서, 제1 작업 결과를 기초로 이미지 내 설정된 유형 정보인 백혈구와 백혈구로 설정된 세포의 위치 정보를 제2 작업자(38)자에게 제공한다. 이를 통해, 제2 작업자(38)는 세포에 대한 전문적인 지식이 없더라도, 이미지 내에서 백혈구로 설정된 세포를 직관적으로 인지할 수 있다. 그리고 백혈구로 설정된 세포 이미지를 추출하는 작업을 수행할 수 있을 것이다.
도 12는 본 발명의 일 실시예에 따른 제1 작업자 그룹의 작업 결과에 기초하여 이미지 내 세포의 개수 정보를 제2 작업자 그룹의 작업자의 작업 화면에 출력하여 제공하는 것을 나타낸 예시도이다.
또한 도면에 명확히 도시되지는 않았으나 본 발명의 일 실시예로, 상술한 제1 작업자(36)와 제2 작업자(38)의 작업 수행을 연계하는 방법으로, 제1 작업자 복수의 작업자로부터 입력 받은 작업 결과에 기초하여, 상기 각각의 이미지 내 세포의 개수 및 분포 정보를 함께 추출하는 단계(미도시)를 더 포함할 수 있다. 이때, 상기 제2 작업의 수행을 요청하는 단계는, 상기 각각의 이미지에 포함된 세포의 개수 및 분포 정보를 출력하여 상기 제2 작업자 그룹의 작업자에게 제공하는 단계(미도시)를 더 포함할 수 있다.
구체적으로, 서버는 제1 작업자(36)가 이미지 내 세포의 유형을 설정하는 과정에서, 세포의 유형마다 설정한 세포의 개수 정보를 누적하여 산출하거나 세포의 분포 정보를 생성한다. 그리고, 이미지 내 각각의 세포의 유형에 따른 세포의 개수 및 분포 정보를 제2 작업자(38)의 작업 화면 상에 출력하여 제공한다. 이를 통해, 전문적인 지식 없이 세포를 추출하는, 바운딩 또는 세포 이미지를 추출하는 작업을 수행하는 제2 작업자(38)가 특정 세포를 누락하지 않고, 올바른 작업 수행을 하도록 도모할 수 있을 것이다.
도 12를 참조하면, 제1 작업자(36)가 입력한 작업 결과에 기반하여, A 세포의 개수와 B 세포의 개수가 각각 10개와 3개로 산출되었다. 그리고 서버는 산출된 각각의 세포 개수 정보를 동일한 이미지를 배정받은 후 제2 작업 수행을 요청 받은 제2 작업자(38)의 제2 작업 툴(600) 상에 출력한다. 이때, 제2 작업자 그룹의 작업자는 서버로부터 제공된 각각의 세포 유형에 따른 세포 개수를 인지하고, 적합한 세포 바운딩 또는 세포 이미지를 추출하는 작업을 수행할 수 있다.
또한 본 발명의 일 실시예로, 상기 출력된 세포의 개수 정보와 상기 제2 작업자(38)에 의해 추출된 세포 이미지 개수 정보가 일치하여야만, 작업 결과 입력 인터페이스를 활성화시켜 상기 제2 작업자(38)로부터 작업 결과를 입력 받을 수 있다.
즉, 상술한 바와 같이 서버는 제1 작업자(36)의 작업 결과를 제2 작업자(38)에게 제공하는 것에 그치지 않고, 제2 작업자(38)에게 배정된 이미지마다 적절한 작업을 수행할 수 있도록 적극적으로 유도하는 것이다. 구체적으로, 서버는 제1 작업자(36)의 작업 결과에 기반하여 각각의 이미지마다 세포의 유형 별 세포 개수를 매칭한 후 이미지를 배정받은 제2 작업자(38)가 이미지 내 추출해야 할 세포를 모두 추출한 경우에 한하여 작업 결과를 입력할 수 있도록 한다.
이를 위해, 도 12를 참조하면, 서버는 이미지마다 산출된 세포의 개수 정보와 제2 작업자 그룹의 작업자에 의해 추출된 세포의 이미지 개수 정보가 일치하는 경우에 한하여, 작업 결과를 입력하는 인터페이스를 활성화 시킨다.
한편 본 발명의 일 실시예로, 제2 작업 툴(600)은 이미지 내에 세포 유형 별로 해당 세포 유형을 나타내는 서로 다른 시각 효과를 제공하고, 이미지 내에서 특정 세포가 지정될 경우, 상기 이미지 내에서 상기 지정된 세포 및 상기 지정된 세포와 동일 세포 유형을 가지는 세포에 해당 시각 효과를 부여하여 출력할 수 있다.
보다 구체적으로, 서버는 기 설정된 세포 유형에 따라 서로 다른 시각 효과를 설정할 수 있을 것이다. 예를 들어, 세포 유형이 적혈구, 백혈구, 혈소판으로 설정된 경우, 각각의 세포 유형에 대하여 다른 색상으로 세포 유형이 출력되도록 설정할 수 있다.
도 6을 참조하면, 도면에 명확히 도시되지는 않았으나, 제1 작업 결과를 기초로, 이미지 상에 출력되는 유형 정보를 각각의 유형에 따라 서로 다른 색상으로 출력할 수 있다. 그리고 이러한 시각 효과는 제1 작업툴과 제2 작업툴에 공통적으로 설정된다. 따라서 전문적인 지식이 없는 제2 작업자 그룹의 작업자의 경우에도 작업 수행을 하는 과정에서, 특정 세포 유형에 대한 동일한 시각 효과를 제공받음으로써, 해당 세포 유형에 속하는 세포를 이미지 내에서 쉽게 인지할 수 있다.
보다 구체적으로, 세포 유형 중 백혈구에 대하여 파란색으로 설정되었다고 가정한다. 이때, 서버는 제2 작업 툴을 이용하여 작업을 수행하는 제2 작업자에게 이미지 내에서 백혈구에 해당하는 세포에 대하여 동일한 파란색의 세포 유형 정보를 이미지 상에 출력하여 제공할 수 있을 것이다. 이는 다수의 세포 유형이 설정된 경우에도 제2 작업자가 각각의 세포 유형에 속하는 세포를 쉽게 구별할 수 있도록 하는 효과를 발휘한다.
한편, 본 발명의 일 실시예로 서버가 상기 제1 작업자 그룹 및 제2 작업자 그룹의 작업자에게 상기 제1 작업 결과 및 제2 작업 결과에 대한 작업 단가를 각각 지급 처리하는 단계를 더 포함할 수 있다. 이때, 상기 지급 처리하는 단계는 상기 제1 작업자 그룹의 작업자에게는 상기 세포 유형이 설정된 세포의 개수에 기초하여 산정된 제1 작업 단가를 지급하고, 상기 제2 작업자 그룹의 작업자에게는 상기 추출된 세포 이미지 개수에 기초하여 산정된 제2 작업 단가를 지급할 수 있다.
예를 들어, 서버는 제1 작업 단가는 기본 단가 및 설정된 세포의 개수에 기초하여 산정할 수 있다. 예를 들어, 기본 단가가 10원이라고 가정한다. 그리고 제1 작업자(36)인 작업자 A가 배정받은 이미지에서 세포 유형을 설정한 세포의 개수가 총 20개라고 가정한다. 이때, 작업자 A에게는 해당 이미지에 대한 작업 수행의 대가로, 총 200원의 제1 작업 단가를 지급한다.
한편, 서버는 제2 작업 단가 또한 기본 단가 및 추출한 세포 이미지 개수에 기초하여 산정할 수 있다. 예를 들어, 기본 단가가 5원이고 제2 작업자(38)인 작업자 B가 배정받은 이미지에서 세포 이미지를 추출한 세포의 개수가 총 15개라고 가정한다면, 서버는 작업자 B에게 75원의 제2 작업 단가를 지급 한다.
이때 본 발명의 일 실시예로, 서버는 제1 작업 단가 및 제2 작업 단가 산정의 기초가 되는 기본 단가는 제1 작업과 제2 작업에 따라 다르게 설정될 수 있다. 즉, 제1 작업 단가는 제1 기본 단가로 제2 작업 단가는 제2 기본 단가에 기초하여 산정할 수 있다.
또한 본 발명의 일 실시예로, 서버는 제1 작업 단가 및 제2 작업 단가의 각각의 기본 단가(제1 작업 단가 및 제2 작업 단가)는 세포 유형에 따라 다르게 설정할 수도 있다. 이는 세포의 유형에 따라 세포 유형을 식별하고 설정하는데 난이도가 상이할 수 있으며, 또한 세포 이미지를 추출하는 작업의 난이도 또한 상이할 수 있기 때문이다.
한편, 본 발명의 일 실시예로, 상기 제1 작업 툴(500)은 상기 이미지를 크롭핑한 부분 이미지를 생성하는 크롭 기능을 제공하는 제1-3 UI(미도시)를 더 포함하고, 제1 작업은, 상기 제1 작업 툴을 이용하여 상기 이미지 내의 적어도 하나의 세포를 포함한 부분 이미지를 생성한 후 상기 부분 이미지 내의 상기 적어도 하나의 세포 유형을 설정하도록 하는 작업을 포함할 수 있다. 그리고 제2 작업은, 상기 제2 작업 툴을 이용하여 상기 부분 이미지 내의 상기 적어도 하나의 세포의 이미지를 추출하는 작업을 포함할 수 있다. 여기서 제1-3 UI는 서버로부터 배정한 이미지를 수정, 편집, 변경할 수 있는 기능을 제공하는 것으로, 이를 통해 제1 작업자 그룹의 작업자는 배정받은 이미지를 부분 이미지로 재생산할 수 있을 것이다.
즉, 세포 유형을 식별하기 위한 전문적인 지식을 가진 제1 작업자 그룹의 작업자가 서버로부터 배정받은 이미지를 확대, 축소 또는 크롭핑(Cropping)하여 세포를 보다 적절하게 식별하고 추출할 수 있는 부분 이미지를 생성한 후 해당 부분 이미지 내 세포의 유형을 설정한다. 이때 서버는 해당 작업자에게 입력된 작업 결과와 매칭하여 해당 부분 이미지 정보를 저장한다. 그리고 작업 결과에 상응하는 이미지를 제2 작업자 그룹의 작업자에게 배정하여 제2 작업 수행을 요청하는 경우, 상기 해당 부분 이미지 정보를 함께 제공한다. 이를 통해, 제2 작업자는 부분 이미지 정보를 기초로, 배정받은 이미지 내에서 특정 부분 이미지에 대한 세포 이미지 추출의 제2 작업을 수행할 수 있을 것이다.
반면 본 발명의 다른 실시예로, 서버는 제1 작업자 그룹의 작업자로부터 부분 이미지에 대한 작업 결과를 입력 받는다. 이때, 서버가 배정한 이미지 상에 작업을 수행한 후 작업 결과를 입력하는 기존의 작업 수행 방법과는 달리, 제1 작업자 그룹의 작업자에 의해 서버가 배정한 이미지를 편집, 수정, 변경한 부분 이미지를 기반으로 한 작업 결과를 입력 받게 된다. 그리고 서버는 제1 작업자 그룹의 작업자에게 배정된 이미지를 해당 작업자로부터 입력된 작업 결과의 부분 이미지로 변경한다. 그리고 해당 부분 이미지를 제2 그룹의 작업자에게 배정한 후 제2 작업툴(600)을 이용한 세포 이미지 추출의 작업 수행을 요청한다.
도 13은 본 발명의 일 실시예에 따른, 제1 작업 결과를 기초로 설정된 각각의 이미지의 주요 세포 유형을 기초로, 복수의 이미지를 클러스터링하여 제2 작업자에게 작업 수행을 요청하는 방법을 개략적으로 나타낸 순서도이고, 도 14는 본 발명의 일 실시예에 따른, 각각의 이미지의 주요 세포 유형을 기초로, 복수의 이미지를 클러스터링하고, 제2 작업자에게 작업 수행을 요청하는 것을 나타낸 예시도이다.
도 13을 참조하면, 본 발명의 일 실시예로, 서버는 제1 작업자의 작업 결과를 기초로 각각의 이미지마다 주요 세포 유형을 설정할 수 있다(S423_a). 그리고, 상기 주요 세포 유형에 따라 복수의 이미지를 클러스터링한다(S423_b).
구체적으로, 서버는 제1 작업자 그룹의 작업자가 각각의 이미지에 포함된 세포의 유형을 설정하면, 각각의 이미지에 대한 주요 세포 유형을 설정할 수 있다. 주요 세포는, 각각의 세포 유형으로 설정된 세포 수를 기초로 설정될 수 있다. 예를 들어, 세포 유형이 세포 A, 세포 B, 세포 C로 사전에 설정되고, 제1 작업자가 각각의 이미지에 포함된 세포에 대하여 세포 A, 세포 B, 세포 C로 유형을 설정하였다고 가정한다. 이때, 각각의 이미지마다 세포 A로 설정된 세포의 개수, 세포 B로 설정된 세포의 개수, 세포 C로 설정된 세포의 개수를 산출하고, 산출된 개수가 가장 많은 세포 유형을 이미지의 주요 세포로 설정한다. 예를 들어, 이미지 1에 세포 A의 유형으로 예측된 세포가 5개, 세포 B의 유형으로 예측된 세포가 10개 그리고 세포 C의 유형으로 예측된 세포가 2개라고 가정한다면, 이미지 1의 주요 세포 유형을 세포 B로 결정된다.
그리고 주요 세포가 동일한 복수의 이미지를 클러스터링 한다. 즉 주요 세포가 세포 A인 복수의 이미지끼리 클러스터링 하는 것이다. 그리고 각각의 제2 작업자에게는 클러스터링 결과를 기초로, 동일한 주요 세포 유형에 속하는 복수의 이미지를 배정한다. 이를 통해, 제2 작업자는 주요 세포 유형이 동일한, 즉 특정 세포 유형이 많은 이미지에 대해서만 세포 이미지를 추출하는 작업을 수행하기 때문에 작업 부담을 줄이고, 작업에 보다 빠르게 적응할 수 있을 것이다.
도 14를 참조하면, 제1 작업자로부터 입력된 복수의 작업 결과를 기초로, 복수의 이미지를 주요 세포 별로 클러스터링 한 것을 알 수 있다. 이때 제2 작업자 그룹에 속하는 작업자 1은 주요 세포 유형이 A로 결정된 복수의 이미지만을 배정받는다. 그리고 작업자 2는 주요 세포 유형이 B로 결정된 복수의 이미지, 작업자 3은 주요 세포 유형이 C로 결정된 복수의 이미지만을 배정받은 후 작업 수행을 요청 받을 것이다. 이를 통해, 세포 유형을 설정하는 제2 작업자 그룹의 작업자의 업무 부담을 줄일 수 있을 것이다
한편 본 발명의 일 실시예로, 작업자로부터 입력받은 복수의 작업 결과는 검수자를 통해 품질 및 작업 수행 방식의 적법성 여부를 검수 받는다. 구체적으로 도면에 명확히 도시되지는 않았으나, 서버는 작업 결과를 복수의 검수자에게 배정하여 검수 수행을 요청한다(미도시). 그리고 상기 복수의 검수자로부터 상기 복수의 작업 결과에 대한 복수의 검수 결과를 검수 통과 또는 반려로 입력 받는다(미도시).
이때, 서버는 동일한 이미지에 대하여 제1 작업 결과와 제2 작업 결과가 입력된 경우에 한하여, 해당 이미지에 대한 복수의 작업 결과를 검수자에게 배정한 후 검수 수행을 요청할 수 있다.
또한, 본 발명의 일 실시예로, 상기 검수 수행을 요청하는 단계는, 상기 검수자에게 배정된 작업 결과와 상기 작업 결과에 상응하는 이미지를 상기 검수자에게 동시에 제공할 수도 있다.
구체적으로, 검수자는 서버로부터 작업 결과를 배정받은 후 해당 작업 결과에 대한 품질 및/또는 작업자의 작업 수행 방식의 적법성 여부를 검수한다. 이때, 본 발명의 일 실시예는, 검수자의 정확한 검수 수행을 위하여 세포의 유형 설정이 되지 않고, 세포 이미지가 추출되지 않은 이미지를 검수자에게 제공할 수 있다. 이를 통해, 검수자는 검수 대상인 작업 결과와 작업 수행이 이루어지지 않은 작업물을 비교하여, 작업자의 정확한 작업 수행 여부를 판단할 수 있을 것이다.
한편, 상술한 본 발명의 일 실시예를 위해, 서버는 검수자에게 검수 툴을 제공할 수 있다. 해당 검수 툴은, 배정받은 작업 결과에 상응하는 작업물, 즉 세포들의 유형이 설정되지도, 세포 이미지가 추출되지 않은 이미지를 출력하는 제1 영역과 검수 대상인 작업 결과를 출력하는 제2 영역을 포함할 수 있다. 상기 제1 영역과 제2 영역은 템플릿 형태로 각각의 영역 크기 및 위치가 사전에 설정되어 검수자에게 제공될 수 있다. 또한, 검수 툴은 각각의 이미지를 확대 또는 축소하는 인터페이스를 제공할 수 있다. 이를 통해, 검수자는 보다 세밀한 검수를 수행할 수 있을 것이다.
한편, 상술한 설명에서, 단계 S410 내지 S450은 본 명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 15의 내용은 도 3 내지 도 14의 크라우드소싱 기반 프로젝트의 이미지 내의 세포 유형 분별에 관한 작업 수행 방법에도 적용될 수 있다.
이하, 도 5를 참조하여 본 발명의 일 실시예에 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행 장치에 대하여 설명하도록 한다.
도 15는 본 발명의 일 실시예에 따른 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행 정차를 설명하기 위한 도면이다.
도 15를 참조하면, 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행 장치(200)(이하, 장치)는 통신모듈(210), 메모리(220) 및 프로세서(230)를 포함한다.
통신모듈(210)은 이미지를 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 통신모듈(210)은 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다. 이때 반려된 검수 결과에 대하여는 상응하는 재작업을 작업자(32)에게 송신하여 재작업 수행을 요청하고, 상기 작업자(32)로부터 재작업 결과를 수신한다.
메모리(220)에는 통신모듈(210)로부터 수신한 데이터에 기초하여 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행을 요청하는 프로그램이 저장된다.
프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킨다. 프로세서(230)는 메모리(220)에 저장된 프로그램을 실행시킴에 따라, 도 3 내지 도 14를 참조하여 설명한 작업툴을 이용한 이미지 내의 세포 유형 분별에 관한 작업 수행 장치를 수행할 수 있다.
도 15를 참조하여 설명한 장치(200)는 상술한 서버의 구성요소로 제공될 수 있다.
이상에서 전술한 본 발명의 일 실시예에 따른 방법은, 하드웨어인 서버와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
본 발명의 실시예와 관련하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어로 직접 구현되거나, 하드웨어에 의해 실행되는 소프트웨어 모듈로 구현되거나, 또는 이들의 결합에 의해 구현될 수 있다. 소프트웨어 모듈은 RAM(Random Access Memory), ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리(Flash Memory), 하드 디스크, 착탈형 디스크, CD-ROM, 또는 본 발명이 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독가능 기록매체에 상주할 수도 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.
10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
36 : 제1 작업자
38 : 제2 작업자

Claims (10)

  1. 컴퓨터에 의해 수행되는 방법으로서,
    적어도 하나의 작업자 그룹에 속한 작업자에게 제1 작업 툴 및 제2 작업 툴을 제공하여, 상기 제1 작업 툴 및 상기 제2 작업 툴을 기반으로 기 설정된 유형에 따라 이미지 내 적어도 하나의 세포를 분별하는 작업 수행을 요청하는 단계; 및
    상기 작업자로부터 상기 작업 수행에 상응하는 작업 결과를 입력받는 단계;를 포함하고,
    상기 제1 작업 툴은, 상기 작업자에게 기 설정된 세포 유형 항목 및 상기 이미지 내의 세포 각각의 세포 유형의 설정 기능을 제공하는 제1-1 UI(User Interface) 및 상기 제1-1 UI를 통해 설정되는 각각의 세포 유형에 해당하는 세포 정보를 분류하여 출력하는 기능을 제공하는 제1-2 UI를 포함하며,
    상기 제2 작업 툴은, 상기 작업자에게 상기 이미지 내에서 세포의 지정 및 추출 기능을 제공하는 제2-1 UI 및 상기 제2-1 UI를 통해 추출되는 세포 이미지를 출력하는 기능을 제공하는 제2-2 UI를 포함하는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  2. 제1항에 있어서,
    상기 적어도 하나의 작업자 그룹은, 제1 작업자 그룹 및 제2 작업자 그룹을 포함하고,
    상기 요청 단계는,
    크라우드소싱에 기반하여, 상기 제1 작업자 그룹의 작업자에게 상기 제1 작업 툴을 제공하여 상기 설정 기능에 대한 제1 작업의 수행을 요청하는 단계; 및
    상기 제2 작업자 그룹의 작업자에게 상기 제2 작업 툴이 제공하여 상기 지정 및 추출 기능에 대한 제2 작업의 수행을 요청하는 단계를 포함하고,
    상기 입력 단계는,
    상기 제1 작업자 그룹의 작업자로부터 상기 제1 작업 수행 요청에 대한 제1 작업 결과를 입력받는 단계; 및,
    상기 제2 작업자 그룹의 작업자로부터 상기 제2 작업 수행 요청에 대한 제2 작업 결과를 입력받는 단계를 포함하고,
    상기 제2 작업 수행을 요청하는 단계는,
    상기 제1 작업 결과를 기초로, 상기 제1 작업 툴을 통해 설정된 세포 유형 및 상기 세포 유형이 설정된 세포의 위치 정보를 제공하는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  3. 제2항에 있어서,
    상기 제2 작업의 수행을 요청하는 단계는,
    상기 제1 작업자 그룹의 작업자에 의해 입력된 제1 작업 결과에 상응하는 이미지를 제2 작업자 그룹의 작업자에게 배정하여 제2 작업 수행을 요청하는 것인,
    이미지 내의 세포 분별에 관한 작업 수행 방법.
  4. 제3항에 있어서,
    상기 제2 작업의 수행을 요청하는 단계는,
    상기 제1 작업 결과에 기초하여 상기 이미지 내 각각의 세포 유형으로 설정된 세포의 유형 별 개수 정보 및 유형 별 세포의 분포 정보 중 적어도 하나를 상기 제2 작업자 그룹의 작업자에게 제공하는 단계를 더 포함하는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  5. 제4항에 있어서,
    상기 제2 작업 결과를 입력받는 단계는,
    상기 유형 별 개수 정보와 상기 제2 작업자 그룹의 작업자에 의해 추출된 세포 이미지의 개수 정보가 일치하는 경우에, 작업 결과 입력 인터페이스를 활성화시켜 상기 제2 작업자 그룹의 작업자로부터 작업 결과를 입력 받는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  6. 제2항에 있어서,
    상기 제1 작업자 그룹 및 제2 작업자 그룹의 작업자에게 상기 제1 작업 결과 및 제2 작업 결과에 대한 작업 단가를 각각 지급 처리하는 단계를 더 포함하고,
    상기 지급 처리하는 단계는,
    상기 제1 작업자 그룹의 작업자에게는 상기 세포 유형이 설정된 세포의 개수에 기초하여 산정된 제1 작업 단가를 지급하고,
    상기 제2 작업자 그룹의 작업자에게는 상기 추출된 세포 이미지 개수에 기초하여 산정된 제2 작업 단가를 지급하는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  7. 제1항에 있어서,
    상기 제1 작업 툴은,
    상기 이미지 내에서 지정되는 복수의 세포에 대해 동일 세포 유형으로 설정 가능한 기능을 제공하는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  8. 제2항에 있어서,
    상기 제1 작업 툴은 상기 이미지를 크롭핑한 부분 이미지를 생성하는 크롭 기능을 제공하는 제1-3 UI를 더 포함하고,
    상기 제1 작업은, 상기 제1 작업 툴을 이용하여 상기 이미지 내의 적어도 하나의 세포를 포함한 부분 이미지를 생성한 후 상기 부분 이미지 내의 상기 적어도 하나의 세포 유형을 설정하도록 하는 작업을 포함하고,
    상기 제2 작업은, 상기 제2 작업 툴을 이용하여 상기 부분 이미지 내의 상기 적어도 하나의 세포의 이미지를 추출하는 작업을 포함하는,
    이미지 내의 세포 분별에 관한 작업 수행 방법.
  9. 제1항에 있어서,
    상기 제2 작업 툴은,
    상기 이미지 내에 세포 유형 별로 해당 세포 유형을 나타내는 서로 다른 시각 효과를 제공하고,
    상기 이미지 내에서 특정 세포가 지정될 경우, 상기 이미지 내에서 상기 지정된 세포 및 상기 지정된 세포와 동일 세포 유형을 가지는 세포에 해당 시각 효과를 부여하여 출력하는,
    이미지 내 세포 분별에 관한 작업 수행 방법.
  10. 컴퓨터와 결합되어, 제1항 내지 제9항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 이미지 내의 세포 분별에 관한 작업 수행 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
KR1020210041931A 2021-03-31 2021-03-31 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램 KR102517328B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210041931A KR102517328B1 (ko) 2021-03-31 2021-03-31 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210041931A KR102517328B1 (ko) 2021-03-31 2021-03-31 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램

Publications (2)

Publication Number Publication Date
KR20220136569A true KR20220136569A (ko) 2022-10-11
KR102517328B1 KR102517328B1 (ko) 2023-04-04

Family

ID=83598930

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210041931A KR102517328B1 (ko) 2021-03-31 2021-03-31 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램

Country Status (1)

Country Link
KR (1) KR102517328B1 (ko)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
KR20140096092A (ko) * 2011-11-17 2014-08-04 바이엘 메디컬 케어 인크. 의료 진단 절차들에 관한 정보를 수집하고 보고하고 관리하는 방법들 및 기법들
KR20150040952A (ko) * 2012-08-02 2015-04-15 가날리아, 엘엘씨 문제의 게임화를 위한 시스템들 및 방법들
KR20150110767A (ko) * 2013-01-25 2015-10-02 일루미나, 인코포레이티드 클라우드 컴퓨팅 환경을 사용하여 생물학적 관련 데이터를 공유하는 방법 및 시스템
KR20150119365A (ko) * 2013-02-18 2015-10-23 테라노스, 인코포레이티드 다중 분석을 위한 시스템 및 방법
JP2016517515A (ja) * 2013-03-15 2016-06-16 ホロジック, インコーポレイテッドHologic, Inc. 細胞診標本を観察および解析するためのシステムおよび方法
KR20180104997A (ko) * 2017-03-14 2018-09-27 한국전자통신연구원 크라우드 소싱 시스템
KR20190046940A (ko) * 2016-09-14 2019-05-07 필립모리스 프로덕츠 에스.에이. 개인의 생물학적 상태를 예측하기 위한 시스템, 방법 및 유전자 시그니처
KR20190105220A (ko) * 2016-11-17 2019-09-16 테라리콘, 인코포레이티드 의료 이미지 식별 및 해석
KR20200058662A (ko) * 2018-11-19 2020-05-28 노을 주식회사 이미지 분석 시스템 및 분석 방법
KR102156584B1 (ko) * 2020-04-08 2020-09-17 주식회사 크라우드웍스 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트를 활용한 작업 보상형 광고 제공 방법

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140096092A (ko) * 2011-11-17 2014-08-04 바이엘 메디컬 케어 인크. 의료 진단 절차들에 관한 정보를 수집하고 보고하고 관리하는 방법들 및 기법들
KR20150040952A (ko) * 2012-08-02 2015-04-15 가날리아, 엘엘씨 문제의 게임화를 위한 시스템들 및 방법들
KR20140095956A (ko) 2013-01-25 2014-08-04 한국전자통신연구원 크라우드 소싱기반 영상 지식 콘텐츠 생성 시스템 및 방법
KR20150110767A (ko) * 2013-01-25 2015-10-02 일루미나, 인코포레이티드 클라우드 컴퓨팅 환경을 사용하여 생물학적 관련 데이터를 공유하는 방법 및 시스템
KR20150119365A (ko) * 2013-02-18 2015-10-23 테라노스, 인코포레이티드 다중 분석을 위한 시스템 및 방법
JP2016517515A (ja) * 2013-03-15 2016-06-16 ホロジック, インコーポレイテッドHologic, Inc. 細胞診標本を観察および解析するためのシステムおよび方法
KR20190046940A (ko) * 2016-09-14 2019-05-07 필립모리스 프로덕츠 에스.에이. 개인의 생물학적 상태를 예측하기 위한 시스템, 방법 및 유전자 시그니처
KR20190105220A (ko) * 2016-11-17 2019-09-16 테라리콘, 인코포레이티드 의료 이미지 식별 및 해석
KR20180104997A (ko) * 2017-03-14 2018-09-27 한국전자통신연구원 크라우드 소싱 시스템
KR20200058662A (ko) * 2018-11-19 2020-05-28 노을 주식회사 이미지 분석 시스템 및 분석 방법
KR102156584B1 (ko) * 2020-04-08 2020-09-17 주식회사 크라우드웍스 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트를 활용한 작업 보상형 광고 제공 방법

Also Published As

Publication number Publication date
KR102517328B1 (ko) 2023-04-04

Similar Documents

Publication Publication Date Title
AU2020200835B2 (en) System and method for reviewing and analyzing cytological specimens
US7925070B2 (en) Method for displaying virtual slide and terminal device for displaying virtual slide
US11776681B2 (en) Systems and methods for processing electronic images
KR101658794B1 (ko) 문서 분류 시스템, 문서 분류 방법 및 문서 분류 프로그램
CN102365645B (zh) 通过关联面部来组织数字图像
CN113892148A (zh) 用于计算病理学的可解释的AI(xAI)平台
KR102232866B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소 단위 작업 분배 방법
CN115516571A (zh) 一种影像学研究报告生成系统
KR102244697B1 (ko) 인공지능 학습 데이터 생성을 위한 크라우드소싱 기반 프로젝트의 작업자 성향을 고려한 프로젝트 큐레이션 방법
CA3150868A1 (en) Using machine learning algorithms to prepare training datasets
US10489427B2 (en) Document classification system, document classification method, and document classification program
EP0995103A1 (en) Inspection system with specimen preprocessing
WO2017145172A1 (en) System and method for extraction and analysis of samples under a microscope
Abdalla et al. Transfer learning models comparison for detecting and diagnosing skin cancer
KR102155839B1 (ko) 작업불가 사유 기반의 작업자 모니터링 방법 및 장치
KR102159578B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 기능요소에 따른 검수자의 검수 권한 부여 방법
KR102517328B1 (ko) 작업툴을 이용한 이미지 내 세포 분별에 관한 작업 수행 방법 및 프로그램
WO2024035722A1 (en) Systems and methods for dental image analysis
KR102155792B1 (ko) 크라우드 소싱 기반 프로젝트의 특성에 따른 검수자 선별 방법
KR102244699B1 (ko) 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 문장 유사도를 이용한 감정 라벨링 방법
Rosenberg et al. Comparative analysis of feature-based ML and CNN for binucleated erythroblast quantification in myelodysplastic syndrome patients using imaging flow cytometry data
KR102256684B1 (ko) 크라우드소싱 기반 프로젝트의 인접 프레임의 작업 결과를 활용한 작업 수행 방법
KR102155789B1 (ko) 크로스체크를 통한 신뢰도 높은 작업 결과 획득 방법 및 장치
Garnier et al. IdentiCyte: Simple red blood cell identification software
Aof et al. An Innovative Leukemia Detection System using Blood Samples via a Microscopic Accessory

Legal Events

Date Code Title Description
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant