KR102386822B1 - Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform - Google Patents

Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform Download PDF

Info

Publication number
KR102386822B1
KR102386822B1 KR1020210056382A KR20210056382A KR102386822B1 KR 102386822 B1 KR102386822 B1 KR 102386822B1 KR 1020210056382 A KR1020210056382 A KR 1020210056382A KR 20210056382 A KR20210056382 A KR 20210056382A KR 102386822 B1 KR102386822 B1 KR 102386822B1
Authority
KR
South Korea
Prior art keywords
task
user
knowledge graph
unit
context
Prior art date
Application number
KR1020210056382A
Other languages
Korean (ko)
Inventor
조근식
Original Assignee
인하대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인하대학교 산학협력단 filed Critical 인하대학교 산학협력단
Priority to KR1020210056382A priority Critical patent/KR102386822B1/en
Application granted granted Critical
Publication of KR102386822B1 publication Critical patent/KR102386822B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group
    • G06Q10/063112—Skill-based matching of a person or a group to a task
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316—Sequencing of tasks or work
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0633—Workflow analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/103—Workflow collaboration or project management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services

Abstract

A task assignment and content authoring method and device for multiple users in an industrial extended reality content platform are presented. The task assignment and content authoring device for multiple users in an industrial extended reality content platform propose according to the present invention includes: a knowledge graph generation unit that generates a plurality of user manuals in the form of a structured knowledge graph; an API service unit that edits an augmented object in units of one work instruction on the basis of the generated knowledge graph; an editing unit that edits a plurality of user manuals, 2D blueprints, and 3D blueprints for cross-reference on the basis of the generated knowledge graph; a menu display unit that extracts users' mixed reality content information related to a work by utilizing the generated knowledge graph and indicates the context of the work; and a task allocator that assigns tasks for each user in units of tasks on the basis of the extracted users' mixed reality content information and the context of the work.

Description

산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법 및 장치{Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform}{Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform}

본 발명은 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법 및 장치에 관한 것이다.The present invention relates to a method and apparatus for task assignment and content authoring for multiple users in an industrial extended reality content platform.

최근 카메라 모듈을 이용한 촬영 시 현실의 공간에 다양한 정보를 덧씌워 보여 주는 증강 현실(Augmented Reality; AR) 기법 및 가상현실(Virtual Reality; VR)을 이용한 컨텐츠 제공이 활발히 연구되고 있다.Recently, when shooting using a camera module, augmented reality (AR) technique that overlays various information on real space and content provision using virtual reality (VR) are being actively studied.

이동 단말기는 최근 휴대폰, PDA(personal digital assistants), UMPC(Ultra Mobile Personal Computer) 등 모바일 기기의 컴퓨팅 능력 향상 및 무선 네트워크 장치의 발달로 핸드헬드(handheld) 가상현실시스템이 가능해졌다. Mobile terminals have recently become capable of handheld virtual reality systems due to the improvement of computing capabilities of mobile devices such as mobile phones, personal digital assistants (PDAs), and ultra mobile personal computers (UMPCs) and the development of wireless network devices.

이러한 시스템이 가능해지면서 모바일 기기를 사용한 가상현실 어플리케이션이 다수 개발되었다. 그리고 모바일 기기의 보급이 매우 빠르게 보편화되어 가상현실 어플리케이션을 접할 수 있는 환경이 조성되고 있는 상황이다. As these systems became possible, many virtual reality applications using mobile devices were developed. In addition, the spread of mobile devices is rapidly becoming common, creating an environment where virtual reality applications can be accessed.

더불어, 단말기의 증강현실을 이용한 다양한 부가서비스에 대한 사용자 요구가 증대하고 있으며, 이를 이용하여 단말기 사용자에게 다양한 가상현실 컨텐츠를 적용하려는 시도가 증가하고 있다. In addition, user demand for various additional services using augmented reality of the terminal is increasing, and attempts to apply various virtual reality contents to terminal users using this are increasing.

한편, 고가의 중요 설비인 변전소, 발전소, 공작기계, 항공, 철도, 반도체 설비를 운영하는 기업을 대상으로 효과적으로 원격에서 업무를 지원할 수 있는 시스템이 제안되고 있다.Meanwhile, a system that can effectively support work remotely is being proposed for companies that operate expensive and important facilities such as substations, power plants, machine tools, aviation, railways, and semiconductor facilities.

시장환경은 산업간 융 복합화, 경쟁의 심화, 변화의 가속화와 같은 환경에 능동적으로 대응하여 경쟁력을 확보해야 하는 시기이며, 기업이 성장하고 규모가 커지게 되면서 조직의 복잡성 증대, 기업 내 프로세스의 단편화, 혁신과 창의성 결핍, 규모의 비 경제 문제 해결을 위해 각 기업들은 업무프로세스관리{Business Process Management: BPM}시스템을 도입하고 있다. The market environment is a time to secure competitiveness by actively responding to environments such as inter-industry convergence, intensifying competition, and accelerating change. In order to solve problems such as, lack of innovation and creativity, and non-economies of scale, each company is introducing the Business Process Management (BPM) system.

업무프로세스관리란 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화해 역할과 책임을 명확히 하고자 하는 경영방법을 말한다. 대한민국 특허등록 제 10-0807355호의 "업무 프로세스 관리 방법 및 시스템"에 의하면 이러한 업무관리시스템을 도입하면 각 기업에서의 업무 처리 기간이 단축되고 작업 오류 발생 가능성이 감소하며 업무 처리 생산성이 향상되는 효과를 기대할 수 있으므로 관심이 높아지고 있는 실정이라고 게시하고 있다.Business process management refers to a management method that aims to clarify roles and responsibilities by standardizing and simplifying business processes and systematizing atypical business configurations. According to Korean Patent Registration No. 10-0807355, "Business process management method and system", the introduction of such a business management system shortens the business processing period in each company, reduces the possibility of error occurrence, and improves business processing productivity. As it can be expected, it is posted that interest is growing.

본 발명이 이루고자 하는 기술적 과제는 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화하여 업무를 할당하는 업무프로세스관리를 위한 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법 및 장치를 제공하는데 있다. The technical task to be achieved by the present invention is to standardize and simplify the business process, and systematize the atypical business configuration to allocate tasks for multiple users in an industrial extended reality content platform for business process management, and a content authoring method and to provide the device.

일 측면에 있어서, 본 발명에서 제안하는 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 장치는 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성하는 지식 그래프 생성부, 생성된 지식 그래프에 기초하여 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집하는 API 서비스부, 생성된 지식 그래프에 기초하여 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집하는 편집부, 생성된 지식 그래프를 활용하여 작업에 관한 사용자의 혼합현실 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내는 메뉴 표시부 및 추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 사용자 별 업무를 태스크(Task) 단위로 할당하는 태스크 할당부를 포함한다. In one aspect, the task assignment and content authoring device for multiple users in the industrial extended reality content platform proposed by the present invention includes a knowledge graph generating unit that generates a plurality of user manuals in the form of a structured knowledge graph; An API service unit that edits the augmented object in units of one work instruction based on the generated knowledge graph, an editing unit that edits to cross-reference a plurality of user manuals, 2D blueprints, and 3D blueprints based on the generated knowledge graph; The user's mixed reality content information about the task is extracted by using the generated knowledge graph, and the user's task is performed based on the menu display unit indicating the context of the task and the extracted user's mixed reality content information and the context of the task. ) includes a task allocator for allocating units.

지식 그래프 생성부는 복수의 사용자 매뉴얼에 관한 온토롤지의 내용을 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)을 포함하는 트리 형태로 표현하는 구조화된 지식 그래프를 생성한다. The knowledge graph generating unit creates a structured knowledge graph that expresses the contents of the ontology paper related to a plurality of user manuals in the form of a tree including a component, a task, a job, and a work instruction. .

메뉴 표시부는 혼합현실 컨텐츠를 제공하는 콘텍스트(context)를 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)의 형태로 표시하여 혼합현실 컨텐츠와 연계 하도록 한다. The menu display unit displays the context that provides the mixed reality content in the form of a component, a task, a job, and an instruction to link it with the mixed reality content.

태스크 할당부는 추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크(Task) 단위로 할당된 사용자 별 업무를 사용자의 단말에 전송하기 위하여 서버와의 통신을 통해 사용자 단말과 서버 간의 동기화를 수행하고, 홀로렌즈를 포함하는 스마트 글래스 또는 사용자 단말을 통해 사용자에게 할당된 작업을 나타내도록 한다. The task assignment unit synchronizes between the user terminal and the server through communication with the server in order to transmit the user-specific task assigned in the task unit to the user's terminal based on the extracted user's mixed reality content information and the context of the task. and display the task assigned to the user through smart glasses including a HoloLens or a user terminal.

또 다른 일 측면에 있어서, 본 발명에서 제안하는 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법은 지식 그래프 생성부를 통해 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성하는 단계, 생성된 지식 그래프에 기초하여 API 서비스부를 통해 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집하는 단계, 생성된 지식 그래프에 기초하여 편집부를 통해 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집하는 단계, 생성된 지식 그래프를 활용하여 메뉴 표시부를 통해 사용자의 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내는 단계 및 추출된 사용자의 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크 할당부를 통해 사용자 별 업무를 태스크(Task) 단위로 할당하는 단계를 포함한다.In another aspect, the task assignment and content authoring method for multiple users in the industrial extended reality content platform proposed in the present invention includes a plurality of user manuals in the form of a structured knowledge graph through a knowledge graph generator. A step of creating, editing the augmented object in units of one work instruction (Instruction) through the API service unit based on the generated knowledge graph, a plurality of user manuals, 2D blueprints and 3D through the editing unit based on the generated knowledge graph Editing the blueprint to cross-reference it, extracting the user's content information through the menu display unit using the generated knowledge graph, indicating the context of the task, and assigning tasks based on the extracted user's content information and the context of the task It includes the step of allocating tasks for each user in units of tasks through departments.

본 발명의 실시예들에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법 및 장치를 통해 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화하여 업무를 할당하는 업무프로세스관리가 가능하다.A business process for standardizing and simplifying a business process through a task assignment and content authoring method and apparatus for multiple users in an industrial extended reality content platform according to embodiments of the present invention, and systematizing an atypical business configuration to allocate tasks management is possible

도 1은 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼을 설명하기 위한 개략도이다.
도 2는 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 장치의 구성을 나타내는 도면이다.
도 3은 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법을 설명하기 위한 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 과정을 수행하기 위해 제안하는 IAR(Intelligent Augmented Reality) 툴을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 IAR 실행 과정을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 타겟뷰를 카메라를 통해 시스템이 현재 상황을 인식한 상태에서의 작업 과정을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 IAR을 통한 작업 과정을 확인하는 절차를 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 현재 수행중인 작업 명령에 해당하는 영상이 출력되는 과정을 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 IAR을 통한 작업 과정을 설명하기 위한 도면이다.1 is a schematic diagram illustrating an industrial extended reality content platform according to an embodiment of the present invention.
2 is a diagram illustrating a configuration of an apparatus for task assignment and content creation for multiple users in an industrial extended reality content platform according to an embodiment of the present invention.
3 is a flowchart for explaining a task assignment and content authoring method for multiple users in an industrial extended reality content platform according to an embodiment of the present invention.
4 is a diagram for explaining an Intelligent Augmented Reality (IAR) tool proposed to perform task assignment and content authoring for multiple users in the industrial extended reality content platform according to an embodiment of the present invention.
5 is a diagram for explaining an IAR execution process according to an embodiment of the present invention.
6 is a view for explaining a work process in a state in which the system recognizes a current situation through a target view camera according to an embodiment of the present invention.
7 is a view for explaining a procedure for confirming a work process through IAR according to an embodiment of the present invention.
8 is a view for explaining a process of outputting an image corresponding to a work command currently being performed according to an embodiment of the present invention.
9 is a view for explaining a work process through IAR according to an embodiment of the present invention.

이하, 본 발명의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼을 설명하기 위한 개략도이다. 1 is a schematic diagram illustrating an industrial extended reality content platform according to an embodiment of the present invention.

기업이 성장하고 규모가 커지게 되면서 조직의 복잡성 증대, 기업 내 프로세스의 단편화, 혁신과 창의성 결핍, 규모의 비 경제 문제 해결을 위해 각 기업들은 업무프로세스관리{Business Process Management: BPM}시스템을 도입하고 있다. As companies grow and grow in size, each company introduces the Business Process Management (BPM) system to solve the problems of increasing organizational complexity, fragmentation of internal processes, lack of innovation and creativity, and non-economies of scale. there is.

이러한 업무프로세스관리 시스템의 도입으로 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화해 역할과 책임을 명확히 하고자 한다. 업무프로세스관리 시스템을 도입하면 각 기업에서의 업무 처리 기간이 단축되고 작업 오류 발생 가능성이 감소하며 업무 처리 생산성이 향상되는 효과를 기대할 수 있다. With the introduction of such a business process management system, it is intended to standardize and simplify business processes, and to systematize atypical business configurations to clarify roles and responsibilities. The introduction of the business process management system can shorten the business processing period in each company, reduce the possibility of job errors, and improve business processing productivity.

본 발명에서는 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법 및 장치를 통해 복수의 사용자들(110, 120, 130)에게 효율적으로 업무(Job#1, Job#2, Job#3)를 할당하고, 복수의 사용자들(110, 120, 130)은 사용자 단말(예를 들어, 홀로렌즈를 포함하는 스마트 글래스 등)을 통해 업무를 할당 받아 작업을 수행하고, 이를 상호 상호 참조하도록 할 수 있다. In the present invention, a plurality of users ( 110 , 120 , 130 ) efficiently perform tasks (Job#1, Job#2, Job#3) through a method and apparatus for task assignment and content authoring for multiple users in an industrial extended reality content platform ), and a plurality of users (110, 120, 130) are assigned a task through a user terminal (eg, smart glasses including a HoloLens, etc.) to perform a task, and cross-reference it. can

본 발명의 실시예에 따르면, ERP(Enterprise Resource Planning), SCM(Supply Chain Managemen) 및 기술 매뉴얼(Technical Manuals) 등에 기초하여 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성한다. 이후, 생성된 지식 그래프에 기초하여 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집하고, 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집할 수 있다. 생성된 지식 그래프를 활용하여 작업에 관한 사용자의 혼합현실 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내며, 이에 기초하여 사용자 별 업무를 태스크(Task) 단위로 할당할 수 있다. According to an embodiment of the present invention, a plurality of user manuals are generated in the form of a structured knowledge graph based on Enterprise Resource Planning (ERP), Supply Chain Management (SCM), and Technical Manuals. Thereafter, the augmented object may be edited in units of one work instruction based on the generated knowledge graph, and a plurality of user manuals, 2D blueprints, and 3D blueprints may be edited to cross-reference. By utilizing the generated knowledge graph, user's mixed reality content information about the task is extracted, the context of the task is indicated, and tasks for each user can be assigned in units of tasks based on this.

도 2는 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 장치의 구성을 나타내는 도면이다. 2 is a diagram illustrating a configuration of an apparatus for task assignment and content creation for multiple users in an industrial extended reality content platform according to an embodiment of the present invention.

산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 장치(200)는 지식 그래프 생성부(210), API 서비스부(220), 편집부(230), 메뉴 표시부(240) 및 태스크 할당부(250)를 포함한다. In the industrial extended reality content platform, the task assignment and content authoring device 200 for multiple users includes a knowledge graph generating unit 210, an API service unit 220, an editing unit 230, a menu display unit 240, and a task assignment unit ( 250).

지식 그래프 생성부(210)는 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성한다.The knowledge graph generating unit 210 generates a plurality of user manuals in the form of a structured knowledge graph.

지식 그래프 생성부(210)는 복수의 사용자 매뉴얼에 관한 온토롤지의 내용을 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)을 포함하는 트리 형태로 표현하는 구조화된 지식 그래프를 생성한다. ERP(Enterprise Resource Planning), SCM(Supply Chain Managemen) 및 기술 매뉴얼(Technical Manuals) 등에 기초하여 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성할 수 있다. The knowledge graph generating unit 210 is structured knowledge that expresses the contents of the ontology paper related to a plurality of user manuals in the form of a tree including a component, a task, a job, and a work instruction. Create a graph. A plurality of user manuals can be generated in the form of a structured knowledge graph based on ERP (Enterprise Resource Planning), SCM (Supply Chain Management), and Technical Manuals.

API 서비스부(220)는 생성된 지식 그래프에 기초하여 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집한다. The API service unit 220 edits the augmented object in units of one work instruction based on the generated knowledge graph.

편집부(230)는 생성된 지식 그래프에 기초하여 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집한다. The editing unit 230 edits a plurality of user manuals, 2D design drawings, and 3D design drawings to cross-reference based on the generated knowledge graph.

복수의 사용자들이 공유하도록 하기 위한 혼합현실 이미지 편집을 위해 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도 내에서의 각 객체들의 특이점 정보에 기초하여 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집한다. Edit to cross-reference multiple user manuals, 2D designs, and 3D designs based on singularity information of multiple user manuals, 2D designs, and 3D designs for mixed reality image editing for multiple users to share do.

메뉴 표시부(240)는 생성된 지식 그래프를 활용하여 작업에 관한 사용자의 혼합현실 컨텐츠 정보를 추출하고, 작업의 문맥을 나타낸다. The menu display unit 240 extracts the user's mixed reality content information regarding the job by utilizing the generated knowledge graph, and indicates the context of the job.

메뉴 표시부(240)는 혼합현실 컨텐츠를 제공하는 콘텍스트(context)를 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)의 형태로 표시하여 혼합현실 컨텐츠와 연계 하도록 하고, 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)에 관한 구체적 정보를 html 형태로 저장할 수 있다. The menu display unit 240 displays the context for providing the mixed reality content in the form of a component, a task, a job, and a work instruction to link it with the mixed reality content, Specific information about a component, a task, a job, and a work instruction may be stored in html format.

태스크 할당부(250)는 추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 사용자 별 업무를 태스크(Task) 단위로 할당한다. The task allocator 250 allocates tasks for each user in units of tasks based on the extracted user's mixed reality content information and the context of the task.

태스크 할당부(250)는 추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크(Task) 단위로 할당된 사용자 별 업무를 사용자의 단말에 전송하기 위하여 서버와의 통신을 통해 사용자 단말과 서버 간의 동기화를 수행한다. 동기화를 수행한 후, 홀로렌즈를 포함하는 스마트 글래스 또는 사용자 단말을 통해 사용자에게 할당된 작업을 나타내도록 할당된 사용자 별 업무를 해당 사용자의 단말에 전송하도록 할 수 있다. The task assignment unit 250 communicates with the user terminal through communication with the server in order to transmit to the user's terminal a task for each user allocated in a task unit based on the extracted user's mixed reality content information and the context of the task. Synchronize between servers. After performing the synchronization, it is possible to transmit the assigned task for each user to the terminal of the corresponding user to indicate the task assigned to the user through smart glasses including a HoloLens or a user terminal.

도 3은 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법을 설명하기 위한 흐름도이다. 3 is a flowchart for explaining a task assignment and content authoring method for multiple users in an industrial extended reality content platform according to an embodiment of the present invention.

제안하는 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법은 지식 그래프 생성부를 통해 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성하는 단계(310), 생성된 지식 그래프에 기초하여 API 서비스부를 통해 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집하는 단계(320), 생성된 지식 그래프에 기초하여 편집부를 통해 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집하는 단계(330), 생성된 지식 그래프를 활용하여 메뉴 표시부를 통해 사용자의 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내는 단계(340) 및 추출된 사용자의 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크 할당부를 통해 사용자 별 업무를 태스크(Task) 단위로 할당하는 단계(350)를 포함한다. In the proposed industrial extended reality content platform, the task assignment and content authoring method for multiple users includes generating a plurality of user manuals in the form of a structured knowledge graph through a knowledge graph generating unit (310), the generated knowledge Cross-referencing a plurality of user manuals, 2D blueprints and 3D blueprints through the editing unit based on the generated knowledge graph, step 320 of editing the augmented object in units of one work instruction (Instruction) unit through the API service unit based on the graph Based on the step 330 of editing to do so, the content information of the user is extracted through the menu display unit using the generated knowledge graph, the step 340 of indicating the context of the work, and the extracted user's content information and the context of the work and a step 350 of allocating tasks for each user in units of tasks through the task allocator.

단계(310)에서, 지식 그래프 생성부를 통해 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성한다. In step 310, a plurality of user manuals are generated in the form of a structured knowledge graph through the knowledge graph generating unit.

지식 그래프 생성부는 복수의 사용자 매뉴얼에 관한 온토롤지의 내용을 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)을 포함하는 트리 형태로 표현하는 구조화된 지식 그래프를 생성한다. ERP(Enterprise Resource Planning), SCM(Supply Chain Managemen) 및 기술 매뉴얼(Technical Manuals) 등에 기초하여 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성할 수 있다. The knowledge graph generating unit creates a structured knowledge graph that expresses the contents of the ontology paper related to a plurality of user manuals in the form of a tree including a component, a task, a job, and a work instruction. . A plurality of user manuals can be generated in the form of a structured knowledge graph based on ERP (Enterprise Resource Planning), SCM (Supply Chain Management), and Technical Manuals.

단계(320)에서, 생성된 지식 그래프에 기초하여 API 서비스부를 통해 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집한다. In step 320, based on the generated knowledge graph, the augmented object is edited in units of one work instruction (Instruction) through the API service unit.

단계(330)에서, 생성된 지식 그래프에 기초하여 편집부를 통해 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집한다. In step 330, based on the generated knowledge graph, a plurality of user manuals, 2D design drawings, and 3D blueprints are edited to be cross-referenced through the editing unit.

복수의 사용자들이 공유하도록 하기 위한 혼합현실 이미지 편집을 위해 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도 내에서의 각 객체들의 특이점 정보에 기초하여 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집한다. Edit to cross-reference multiple user manuals, 2D designs, and 3D designs based on singularity information of multiple user manuals, 2D designs, and 3D designs for mixed reality image editing for multiple users to share do.

단계(340)에서, 생성된 지식 그래프를 활용하여 메뉴 표시부를 통해 사용자의 컨텐츠 정보를 추출하고, 작업의 문맥을 나타낸다. In step 340, the user's content information is extracted through the menu display unit using the generated knowledge graph, and the context of the work is indicated.

메뉴 표시부는 생성된 지식 그래프를 활용하여 작업에 관한 사용자의 혼합현실 컨텐츠 정보를 추출하고, 작업의 문맥을 나타낸다. The menu display unit uses the generated knowledge graph to extract user's mixed reality content information about the job, and indicates the context of the job.

메뉴 표시부는 혼합현실 컨텐츠를 제공하는 콘텍스트(context)를 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)의 형태로 표시하여 혼합현실 컨텐츠와 연계 하도록 하고, 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)에 관한 구체적 정보를 html 형태로 저장할 수 있다. The menu display unit displays the context that provides the mixed reality content in the form of a component, task, job, and operation instruction to link it with the mixed reality content, and Component ), tasks, jobs, and specific information about work instructions can be stored in html format.

단계(350)에서, 추출된 사용자의 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크 할당부를 통해 사용자 별 업무를 태스크(Task) 단위로 할당한다. In step 350, based on the extracted user's content information and the context of the task, the task for each user is assigned in a task unit through the task allocator.

태스크 할당부는 추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 사용자 별 업무를 태스크(Task) 단위로 할당한다. The task assignment unit allocates tasks for each user in units of tasks based on the extracted user's mixed reality content information and the context of the task.

태스크 할당부는 추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크(Task) 단위로 할당된 사용자 별 업무를 사용자의 단말에 전송하기 위하여 서버와의 통신을 통해 사용자 단말과 서버 간의 동기화를 수행한다. 동기화를 수행한 후, 홀로렌즈를 포함하는 스마트 글래스 또는 사용자 단말을 통해 사용자에게 할당된 작업을 나타내도록 할당된 사용자 별 업무를 해당 사용자의 단말에 전송하도록 할 수 있다. The task assignment unit synchronizes between the user terminal and the server through communication with the server in order to transmit the user-specific task assigned in the task unit to the user's terminal based on the extracted user's mixed reality content information and the context of the task. carry out After performing the synchronization, it is possible to transmit the assigned task for each user to the terminal of the corresponding user to indicate the task assigned to the user through smart glasses including a HoloLens or a user terminal.

도 4는 본 발명의 일 실시예에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 과정을 수행하기 위해 제안하는 IAR(Intelligent Augmented Reality) 툴을 설명하기 위한 도면이다. 4 is a diagram for explaining an Intelligent Augmented Reality (IAR) tool proposed to perform task assignment and content authoring for multiple users in the industrial extended reality content platform according to an embodiment of the present invention.

도 4에 도시된 IAR 화면을 참조하면, Menu View(410)는 온토롤지의 내용을 트리 형태로 표현한 것으로, 초기 작업을 위해서는 반드시 사용자가 작업할 태스크를 선택해야 한다. Menu View(410)는 크게 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)의 4부분으로 구성되어 있다.Referring to the IAR screen shown in FIG. 4 , the Menu View 410 represents the contents of the ontology paper in a tree form, and for an initial operation, the user must select a task to work on. The Menu View 410 is largely composed of four parts: a component, a task, a job, and a work instruction.

Video View(420)는 사용자가 선택한 작업(Task, Job, Instruction)에 관련된 비디오를 제공 해준다. The Video View 420 provides a video related to the task (Task, Job, Instruction) selected by the user.

IPC View(430)는 사용자가 선택한 작업 명령(Instruction)에서 AMM(Aircraft Maintenance Manual)과 관련된 IPC(Illustrated Part Catalog)의 그림을 제공해준다. IPC View 430 provides a picture of IPC (Illustrated Part Catalog) related to AMM (Aircraft Maintenance Manual) from the user-selected work instruction (Instruction).

AMM View(440)는 사용자가 선택한 작업 명령(Instruction)에서 AMM에 관련된 그림을 제공해준다. The AMM View 440 provides a picture related to the AMM in a user-selected operation instruction (Instruction).

Summary View(450)는 사용자가 선택한 작업(Task, Job, Instruction)에 대한 요약을 제공해준다.The Summary View 450 provides a summary of tasks (Task, Job, Instruction) selected by the user.

JobCard View(460)는 사용자가 선택한 작업(Task)의 Jobcard를 제공해준다.The JobCard View 460 provides a jobcard of a task selected by the user.

Meta View(470)는 사용자가 선택한 잡업(Task, Job, Instruction)에 대한 온톨로지의 자세 한 내용을 제공해준다.Meta View (470) provides details of the ontology for the tasks (Task, Job, Instruction) selected by the user.

AR View(480)는 사용자가 선택한 작업(Task)에 해당하는 AR(Augmented Reality)을 제공해준다.AR View 480 provides AR (Augmented Reality) corresponding to the task selected by the user.

Control Bar(490)는 각각의 View를 메인 화면에 위치 또는 각 View의 자리로 되돌리는 기 능을 제공하며, 전체화면과 분할된 화면을 제어할 수 있는 기능을 제공해준다. Control Bar (490) provides a function to return each view to the position on the main screen or to the position of each view, and provides a function to control the entire screen and the divided screen.

도 5는 본 발명의 일 실시예에 따른 IAR 실행 과정을 설명하기 위한 도면이다. 5 is a diagram for explaining an IAR execution process according to an embodiment of the present invention.

먼저, IAR을 실행하기에 앞서 사용자, 다시 말해 작업자(Technician)와 관리자(Inspector)를 등록한다. 이때, 복수의 사용자들을 추가 등록할 수 있다. 이후, IAR을 실행하면 도 5(a)와 같이 사용자 및 관리자가 로그인된 화면이 나타나고, 사용자 및 관리자의 ID가 표시된다. First, before executing IAR, users, that is, technicians and inspectors, are registered. In this case, a plurality of users may be additionally registered. Thereafter, when the IAR is executed, a screen in which the user and the administrator are logged in appears as shown in FIG. 5( a ), and IDs of the user and the administrator are displayed.

"TargetView" 메뉴를 선택하면 AR의 TargetView의 시작 위치와 크기를 설정할 수 있는 화면이 나타나고, TargetView의 시작 위치(X 및 Y), 넓이(Width), 높이(Height)를 입력할 수 있다. If you select the "TargetView" menu, a screen where you can set the start position and size of the AR TargetView appears, and you can input the starting position (X and Y), Width, and Height of the TargetView.

TargetView를 나타내기 위한 AR View 부분에 "NO CAMERA"라고 표시될 경우, 카메라의 연결을 확인한다. 즉, 카메라의 연결이 비정상적이기 때문에, AR이 실행되지 않는다. 카메라의 연결이 정상적인 경우에는 "AR Active"라고 표시되고, 해당 TASK의 데이터가 존재하면 카메라가 자동으로 활성화된다. If "NO CAMERA" is displayed in the AR View part to display the TargetView, check the connection of the camera. That is, AR is not executed because the connection of the camera is abnormal. If the camera connection is normal, "AR Active" is displayed, and if the data of the corresponding task exists, the camera is automatically activated.

사용자(다시 말해, 작업자)는 수행하고자 하는 작업을 "Menu View"에서 선택하였다. 예를 들어, 이 매뉴얼에서는 pitch trimmer의 removal을 수행하기 위해 Component에서 AMMFig TASK 32-11-15-999를 선택한다. The user (that is, the operator) selects the task to be performed in the "Menu View". For example, in this manual, select AMMFig TASK 32-11-15-999 from the component to perform the removal of the pitch trimmer.

Component에서 AMMFig TASK 32-11-15-999를 선택하면, Task 탭으로 이동하게 되고, 이 매뉴얼에서는 pitch trimmer의 removal을 예제로 설명하기 위해 TASK 32-11-15-000-801을 선택하였다.If you select AMMFig TASK 32-11-15-999 in Component, you will be moved to the Task tab, and in this manual, TASK 32-11-15-000-801 is selected to explain the removal of the pitch trimmer as an example.

TASK 32-11-15-000-801을 선택하면, 도 5(b)와 같이 현재 선택한 TASK 32-11-15-000-801와 관련된 데이터를 제공하게 된다. If TASK 32-11-15-000-801 is selected, data related to the currently selected TASK 32-11-15-000-801 is provided as shown in FIG. 5(b).

화면(510)은 카메라로부터 들어오는 입력이 출력되는 화면이다. 즉, 카메라로 타겟뷰(Target View)(560)를 비춘 상황이다. The screen 510 is a screen on which an input from the camera is output. That is, it is a situation in which the target view 560 is illuminated by the camera.

화면(520)은 현재 TASK 32-11-15-000-801에 관련된 비디오가 재생되고 있는 화면이다. The screen 520 is a screen in which a video related to the current task 32-11-15-000-801 is being played.

화면(530)은 현재 TASK 32-11-15-000-801에 관련된 AMM 그림을 제공한 화면이다. The screen 530 is a screen providing an AMM picture related to the current TASK 32-11-15-000-801.

화면(540)은 현재 TASK 32-11-15-000-801에 관련된 정보에 대한 요약을 제공한 화면이다. The screen 540 is a screen that provides a summary of information related to the current TASK 32-11-15-000-801.

화면(550)은 현재 TASK 32-11-15-000-801에 해당하는 Jobcard가 제공된 화면입니다. Screen 550 is the screen where the jobcard corresponding to the current TASK 32-11-15-000-801 is provided.

화면(560)은 현재 사용자가 카메라를 비추어야 하는 부분에 대한 정보를 그림으로 제공한 화면이다. 즉, 현재 화면(560)과 같은 화면을 비추어야 한다. The screen 560 is a screen in which information on a part on which the current user should illuminate the camera is provided as a picture. That is, the same screen as the current screen 560 should be illuminated.

바(bar) 표시(570)는 현재 비춘 화면을 시스템이 인식했다는 표시이며, 컬러에 따라 시스템이 현재 상황을 인식했는지 여부를 나타낸다. 카메라를 좌, 우, 위, 아래로 이동하면서 시스템이 현재 상황을 인식하도록 해야 한다. The bar display 570 indicates that the system has recognized the currently projected screen, and indicates whether the system has recognized the current situation according to a color. You have to move the camera left, right, up and down to make the system aware of the current situation.

도 6은 본 발명의 일 실시예에 따른 타겟뷰를 카메라를 통해 시스템이 현재 상황을 인식한 상태에서의 작업 과정을 설명하기 위한 도면이다. 6 is a view for explaining a work process in a state in which the system recognizes a current situation through a target view camera according to an embodiment of the present invention.

도 6(a)는 타겟뷰를 카메라를 통해 시스템이 현재 상황을 인식한 상태에서, 마우스를 타겟뷰 상의 해당 부품에 올렸을 때, 해당하는 부품의 정보를 볼 수 있는 화면이다.6 (a) is a screen on which information of the corresponding part can be viewed when the mouse is placed on the corresponding part on the target view in a state in which the system recognizes the current situation through the target view camera.

도 6(b)는 AR View에서 "Pitch Trimmer" 버튼을 클릭했을 때의 화면으로, "IPC"와 "CMM" 버튼은 각각 IPC와 CMM의 PDF와 연결이 되어있어 각 버튼을 누르면 도 6(c) 및 도 6(d)의 화면과 같은 해당 PDF가 제공된다. 도 6(c)는 "IPC" 버튼을 클릭했을 때의 화면이다. 도 6(d)는 "CMM" 버튼을 클릭했을 때의 화면이다.Figure 6(b) is a screen when the "Pitch Trimmer" button is clicked in AR View. The "IPC" and "CMM" buttons are connected to the PDF of IPC and CMM, respectively. ) and the corresponding PDF as the screen of FIG. 6(d) is provided. Fig. 6(c) is a screen when the "IPC" button is clicked. Fig. 6(d) is a screen when the "CMM" button is clicked.

도 6(e)는 MetaView로써, 현재 작업 중인 TASK 32-11-15-000-801의 내용을 자세하게 표현한 화면이다. FIG. 6(e) is a MetaView, which is a screen detailing the contents of TASK 32-11-15-000-801 currently being worked on.

도 7은 본 발명의 일 실시예에 따른 IAR을 통한 작업 과정을 확인하는 절차를 설명하기 위한 도면이다. 7 is a view for explaining a procedure for confirming a work process through IAR according to an embodiment of the present invention.

도 7(a)는 도 6(b)의 화면의 오른쪽 아래 부분에 위치한 ">>" 버튼을 클릭한 화면으로, 사용자가 작업 전에 Job Set-up에 해당하는 subtask 32-11-15-941, 32-11-15-860-050, 32-11-15-865-050을 모두 완료했음을 확인하는 단계이다. 현재 작업 중인 사용자가 패스워드를 입력하고 "Signature"버튼을 클릭하면 Jobcard의 각 subtask에 해당하는 부분에 사용자의 스탬프가 출력이 된다.Figure 7 (a) is a screen on which the ">>" button located in the lower right part of the screen of Figure 6 (b) is clicked, subtask 32-11-15-941 corresponding to Job Set-up before the user This is the stage to confirm that all 32-11-15-860-050 and 32-11-15-865-050 have been completed. If the user currently working enters the password and clicks the "Signature" button, the user's stamp is printed on the part corresponding to each subtask of the jobcard.

도 7(b)는 도 7(a)에서 사용자가 패스워드를 입력하고 "Signature"버튼을 클릭 하여, Jobcard의 스탬프가 출력되는 내용을 확인하는 화면이다. Figure 7 (b) is a screen in Figure 7 (a), the user inputs a password and clicks the "Signature" button to check the contents of the jobcard stamp is output.

도 8은 본 발명의 일 실시예에 따른 현재 수행중인 작업 명령에 해당하는 영상이 출력되는 과정을 설명하기 위한 도면이다. 8 is a view for explaining a process of outputting an image corresponding to a work command currently being performed according to an embodiment of the present invention.

도 8(a)는 Control Bar에서 "Video" 아이콘을 클릭한 화면으로, 현재 수행중인 작업 명령에 해당하는 영상(video)이 메인 화면에서 출력되는 화면이다. FIG. 8(a) is a screen where the "Video" icon is clicked on the Control Bar, and a video corresponding to the currently being executed command is outputted from the main screen.

도 8(b)는 Control Bar에서 "AMM" 아이콘을 클릭한 화면으로, 현재 수행중인 작업 명령에 해당하는 AMM(CGM)이 메인 화면에서 출력되는 화면이다. FIG. 8(b) is a screen where the "AMM" icon is clicked on the Control Bar, and an AMM (CGM) corresponding to the currently executed work command is outputted from the main screen.

도 8(c)는 도 8(b)에서 메인 화면에 보이는 AMM(CGM)에서 출력되는 숫자 "26"을 클릭한 화면으로, 현재 "26"과 관련된 IPC 정보를 보여주고 있다.FIG. 8(c) is a screen where the number "26" output from the AMM (CGM) displayed on the main screen in FIG. 8(b) is clicked, and shows IPC information related to the current "26".

도 8(d)는 Control Bar에서 "IPC" 아이콘을 클릭한 화면으로, 현재 수행중인 작업 명령에 해당하는 IPC(CGM)이 메인 화면에서 출력되는 화면이다.FIG. 8( d ) is a screen in which the "IPC" icon is clicked on the Control Bar, and is a screen in which an IPC (CGM) corresponding to the currently executed work command is output from the main screen.

도 9는 본 발명의 일 실시예에 따른 IAR을 통한 작업 과정을 설명하기 위한 도면이다. 9 is a view for explaining a work process through IAR according to an embodiment of the present invention.

도 9(a)는 pitch trimmer의 removal 과정인 TASK 32-11-15-000-801중 1번째 procedure인 subtask 32-11-15-020-051을 수행중인 화면이다. FIG. 9(a) is a screen of performing subtask 32-11-15-020-051, which is the first procedure of TASK 32-11-15-000-801, which is the removal process of the pitch trimmer.

현재 subtask 32-11-15-020-051에서 작업 명령을 모두 수행했기 때문에 사용자(다시 말해, 작업자(Technician)와 관리자(Inspector)의 수행 여부를 jobcard에 출력하기 위해 현재작업은 사용자의 서명을 요구할 수 있다.Because the current subtask 32-11-15-020-051 has executed all the job commands, the current job may require the user's signature to output whether the user (that is, the technician or the inspector) performed on the jobcard. can

도 9(b)는 사용자가 패스워드를 입력하고 “Signature"버튼을 클릭 한 이후의 화면이다. 즉, subtask 32-11-15-020-051의 작업 명령 4번을 마치고, subtask 32-11-15-020-050의 첫 번째 작업 명령으로 이동한 화면이다.Figure 9(b) is a screen after the user enters the password and clicks the “Signature” button. That is, after completing the operation command No. 4 of subtask 32-11-15-020-051, subtask 32-11-15 This is the screen moved to the first operation command of -020-050.

도 9(c)는 AR view에서 ">>" 버튼을 클릭한 이후의 화면이다. 현재 subtask의 작업 명령 중 마지막 19번째 작업 명령을 완료 한 것으로 사용자의 서명을 요구하는 화면이다.9(c) is a screen after clicking the ">>" button in the AR view. This is the screen that requests the user's signature as the last 19th task command among the current subtask task commands has been completed.

현재 작업 중인 pitch trimmer의 removal 과정인 TASK 32-11-15-000-801의 마지막 subtask를 완료하면, 현재 작업한 TASK에 대한 서명을 수행한다. 이 때 사용자(Technician) 및 관리자(Inspector)의 서명이 필요할 수 있다. 수행한 서명을 확인하고, 현재 작업한 Jobcard를 출력할 수 있다. When the last subtask of TASK 32-11-15-000-801, which is the removal process of the currently working pitch trimmer, is completed, the signature of the currently worked TASK is performed. At this time, the signatures of the user (Technician) and the administrator (Inspector) may be required. You can check the signed signature and print the current job card.

이와 같이, 본 발명의 실시예들에 따른 산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법 및 장치를 통해 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화하여 업무를 할당하는 업무프로세스관리가 가능하다. In this way, in the industrial extended reality content platform according to the embodiments of the present invention, work assignments are assigned by standardizing and simplifying work processes through the work assignment and content authoring method and apparatus for multiple users, and systematizing an atypical work configuration Business process management is possible.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다.　 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다.　 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다.　 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다.　 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The device described above may be implemented as a hardware component, a software component, and/or a combination of the hardware component and the software component. For example, devices and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable array (FPA), It may be implemented using one or more general purpose or special purpose computers, such as a programmable logic unit (PLU), microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. A processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For convenience of understanding, although one processing device is sometimes described as being used, one of ordinary skill in the art will recognize that the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that can include For example, the processing device may include a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다.　 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다.　 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may comprise a computer program, code, instructions, or a combination of one or more thereof, which configures a processing device to operate as desired or is independently or collectively processed You can command the device. The software and/or data may be any kind of machine, component, physical device, virtual equipment, computer storage medium or apparatus, to be interpreted by or to provide instructions or data to the processing device. may be embodied in The software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored in one or more computer-readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다.　 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.　 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.　 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다.　 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.　 The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and available to those skilled in the art of computer software. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks. - includes magneto-optical media, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다.　 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with reference to the limited embodiments and drawings, various modifications and variations are possible from the above description by those skilled in the art. For example, the described techniques are performed in an order different from the described method, and/or the described components of the system, structure, apparatus, circuit, etc. are combined or combined in a different form than the described method, or other components Or substituted or substituted by equivalents may achieve an appropriate result.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

Claims (8)

복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성하는 지식 그래프 생성부;
생성된 지식 그래프에 기초하여 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집하는 API 서비스부;
생성된 지식 그래프에 기초하여 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집하는 편집부;
생성된 지식 그래프를 활용하여 작업에 관한 사용자의 혼합현실 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내는 메뉴 표시부; 및
추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 사용자 별 업무를 태스크(Task) 단위로 할당하는 태스크 할당부
를 포함하고,
다중 사용자를 위한 업무 할당 및 컨텐츠 저작 과정을 수행하기 위한 IAR(Intelligent Augmented Reality) 툴을 이용하여 작업자 및 관리자를 포함하는 복수의 사용자들을 등록하고,
지식 그래프 생성부는,
ERP(Enterprise Resource Planning), SCM(Supply Chain Managemen) 및 기술 매뉴얼(Technical Manuals)에 기초하여 복수의 사용자 매뉴얼에 관한 온토롤지의 내용을 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)을 포함하는 트리 형태로 표현하는 구조화된 지식 그래프를 생성하며,
태스크 할당부는,
추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크(Task) 단위로 할당된 사용자 별 업무를 사용자의 단말에 전송하기 위하여 서버와의 통신을 통해 사용자 단말과 서버 간의 동기화를 수행하고, 홀로렌즈를 포함하는 스마트 글래스 또는 사용자 단말을 통해 사용자에게 할당된 작업을 나타내도록 함으로써, 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화하여 업무를 할당하는
산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 장치. a knowledge graph generating unit generating a plurality of user manuals in the form of a structured knowledge graph;
API service unit for editing the augmented object in units of one work instruction (Instruction) based on the generated knowledge graph;
an editing unit that edits a plurality of user manuals, 2D design drawings, and 3D design drawings to cross-reference based on the generated knowledge graph;
a menu display unit for extracting user's mixed reality content information on a task by utilizing the generated knowledge graph, and indicating the context of the task; and
Task assignment unit that assigns tasks for each user in task units based on the extracted user's mixed reality content information and the context of the task
including,
Register a plurality of users, including workers and administrators, using IAR (Intelligent Augmented Reality) tool to perform task assignment and content authoring process for multiple users,
The knowledge graph generating unit,
Based on ERP (Enterprise Resource Planning), SCM (Supply Chain Management), and Technical Manuals, the contents of the Ontology Paper for multiple user manuals are displayed as Component, Task, Job, and Job. Creates a structured knowledge graph expressed in the form of a tree including instructions,
task assignment unit,
Synchronization between the user terminal and the server is performed through communication with the server in order to transmit the user-specific task assigned in the task unit to the user's terminal based on the extracted user's mixed reality content information and the context of the task, By displaying tasks assigned to users through smart glasses or user terminals including HoloLens, standardizing and simplifying work processes, and systematizing atypical work configurations to assign tasks
Task assignment and content authoring device for multiple users in an industrial extended reality content platform. 삭제delete 제1항에 있어서,
메뉴 표시부는,
혼합현실 컨텐츠를 제공하는 콘텍스트(context)를 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)의 형태로 표시하여 혼합현실 컨텐츠와 연계 하도록 하는
산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 장치. According to claim 1,
The menu display
The context that provides mixed reality contents is displayed in the form of components, tasks, jobs, and work instructions to link with mixed reality contents.
Task assignment and content authoring device for multiple users in an industrial extended reality content platform. 삭제delete 지식 그래프 생성부를 통해 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성하는 단계;
생성된 지식 그래프에 기초하여 API 서비스부를 통해 하나의 작업 명령(Instruction) 단위로 증강 객체를 편집하는 단계;
생성된 지식 그래프에 기초하여 편집부를 통해 복수의 사용자 매뉴얼, 2D 설계도 및 3D 설계도를 상호 참조하도록 편집하는 단계;
생성된 지식 그래프를 활용하여 메뉴 표시부를 통해 사용자의 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내는 단계; 및
추출된 사용자의 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크 할당부를 통해 사용자 별 업무를 태스크(Task) 단위로 할당하는 단계
를 포함하고,
다중 사용자를 위한 업무 할당 및 컨텐츠 저작 과정을 수행하기 위한 IAR(Intelligent Augmented Reality) 툴을 이용하여 작업자 및 관리자를 포함하는 복수의 사용자들을 등록하고,
지식 그래프 생성부를 통해 복수의 사용자 매뉴얼을 구조화된 지식 그래프(Knowledge Graph)의 형태로 생성하는 단계는,
ERP(Enterprise Resource Planning), SCM(Supply Chain Managemen) 및 기술 매뉴얼(Technical Manuals)에 기초하여 복수의 사용자 매뉴얼에 관한 온토롤지의 내용을 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)을 포함하는 트리 형태로 표현하는 구조화된 지식 그래프를 생성하며,
추출된 사용자의 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크 할당부를 통해 사용자 별 업무를 태스크(Task) 단위로 할당하는 단계는,
추출된 사용자의 혼합현실 컨텐츠 정보 및 작업의 문맥에 기초하여 태스크(Task) 단위로 할당된 사용자 별 업무를 사용자의 단말에 전송하기 위하여 서버와의 통신을 통해 사용자 단말과 서버 간의 동기화를 수행하고, 홀로렌즈를 포함하는 스마트 글래스 또는 사용자 단말을 통해 사용자에게 할당된 작업을 나타내도록 함으로써, 업무프로세스를 표준화, 간소화하고, 비정형화된 업무구성을 시스템화하여 업무를 할당하는
산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법. Generating a plurality of user manuals in the form of a structured knowledge graph (Knowledge Graph) through the knowledge graph generating unit;
Editing the augmented object in units of one work instruction (Instruction) through the API service unit based on the generated knowledge graph;
editing a plurality of user manuals, 2D design drawings, and 3D design drawings to be cross-referenced through an editing unit based on the generated knowledge graph;
extracting the user's content information through the menu display unit by utilizing the generated knowledge graph, and indicating the context of the operation; and
Allocating a task for each user in a task unit through a task assignment unit based on the extracted user's content information and the context of the task
including,
Register a plurality of users, including workers and administrators, using IAR (Intelligent Augmented Reality) tool to perform task assignment and content authoring process for multiple users,
The step of generating a plurality of user manuals in the form of a structured knowledge graph through the knowledge graph generating unit includes:
Based on ERP (Enterprise Resource Planning), SCM (Supply Chain Management), and Technical Manuals, the contents of the Ontology Paper for multiple user manuals are displayed as Component, Task, Job, and Job. Creates a structured knowledge graph expressed in the form of a tree including instructions,
The step of allocating a task for each user in a task unit through the task assignment unit based on the extracted user's content information and the context of the task,
Synchronization between the user terminal and the server is performed through communication with the server in order to transmit the user-specific task assigned in the task unit to the user's terminal based on the extracted user's mixed reality content information and the context of the task, By displaying tasks assigned to users through smart glasses or user terminals including HoloLens, standardizing and simplifying work processes and systematizing atypical work configurations to assign tasks
A method of assigning tasks and authoring content for multiple users in an industrial extended reality content platform. 삭제delete 제5항에 있어서,
생성된 지식 그래프를 활용하여 메뉴 표시부를 통해 사용자의 컨텐츠 정보를 추출하고, 작업의 문맥을 나타내는 단계는,
혼합현실 컨텐츠를 제공하는 콘텍스트(context)를 컴포넌트(Component), 태스크(Task), 잡(Job), 작업 명령(Instruction)의 형태로 표시하여 혼합현실 컨텐츠와 연계 하도록 하는
산업용 확장현실 컨텐츠 플랫폼에서 다중 사용자를 위한 업무 할당 및 컨텐츠 저작 방법. 6. The method of claim 5,
Extracting the user's content information through the menu display unit using the generated knowledge graph, and indicating the context of the operation,
The context that provides mixed reality contents is displayed in the form of components, tasks, jobs, and work instructions to link with mixed reality contents.
A method of assigning tasks and authoring content for multiple users in an industrial extended reality content platform. 삭제delete
KR1020210056382A 2021-04-30 2021-04-30 Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform KR102386822B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210056382A KR102386822B1 (en) 2021-04-30 2021-04-30 Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210056382A KR102386822B1 (en) 2021-04-30 2021-04-30 Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform

Publications (1)

Publication Number Publication Date
KR102386822B1 true KR102386822B1 (en) 2022-04-14

Family

ID=81211208

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210056382A KR102386822B1 (en) 2021-04-30 2021-04-30 Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform

Country Status (1)

Country Link
KR (1) KR102386822B1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190141758A (en) * 2017-05-01 2019-12-24 매직 립, 인코포레이티드 Match content to spatial 3D environments
KR20200109271A (en) * 2019-03-12 2020-09-22 삼성디엠에스 주식회사 System for supporting parts maintenace based on mixed reality and method thereof
KR102174215B1 (en) * 2019-08-14 2020-11-05 씨제이대한통운 (주) Work display system based on augmented reality and a program recorded on a computer-readable recording medium for processing the same

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190141758A (en) * 2017-05-01 2019-12-24 매직 립, 인코포레이티드 Match content to spatial 3D environments
KR20200109271A (en) * 2019-03-12 2020-09-22 삼성디엠에스 주식회사 System for supporting parts maintenace based on mixed reality and method thereof
KR102174215B1 (en) * 2019-08-14 2020-11-05 씨제이대한통운 (주) Work display system based on augmented reality and a program recorded on a computer-readable recording medium for processing the same

Similar Documents

Publication Publication Date Title
CN110688142B (en) Method, device and storage medium for publishing application programming interface
US6823513B1 (en) Workflow distribution process granting to operators with assigned activities access to needed computer resources and withdrawing such access upon the completion of the assigned activity
US20070245321A1 (en) Computer games localisation
CN111476479A (en) Method, device and system for distributing tasks
CN111033465B (en) Terminal device, UI extension method, and recording medium
CN112925520A (en) Method and device for building visual page and computer equipment
KR102386822B1 (en) Method and Apparatus for Task Assignment and Content Authoring for Multiple Users in the Industrial eXtended Reality Content Platform
CN115167785B (en) Label-based network disk file management method and device, network disk and storage medium
CN110908675A (en) Operating environment acquisition method and device and electronic equipment
CN112052224B (en) File export method and device
CN114490000A (en) Task processing method, device, equipment and storage medium
CN114579128A (en) Visual page building method and device, storage medium and computer equipment
JP2009009207A (en) System design support method for soa architecture and system design support deice for soa architecture
EP3709197A1 (en) Information processing system, server, carrier medium, and method for controlling assignment of license
US9787552B2 (en) Operation process creation program, operation process creation method, and information processing device
CN110083357B (en) Interface construction method, device, server and storage medium
CN113312900A (en) Data verification method and device
CN112307379A (en) Page generation method, device and equipment
CN116578405B (en) Simulation training method and system based on virtualization architecture
CN113296790B (en) Method, apparatus and computer readable medium for generating application data packet
CN108846582A (en) Health degree data determination method, electronic equipment and computer readable storage medium
JP7219389B2 (en) Information processing device, its control method and program
CN114491439A (en) User permission configuration method and device, storage medium and terminal
CN115048192A (en) Workflow scheduling method and system and workflow engine
CN116185503A (en) Data stream processing method and system and computer equipment thereof

Legal Events

Date Code Title Description
GRNT Written decision to grant