KR100955655B1 - Method for autonomous navigation of robot - Google Patents

Method for autonomous navigation of robot Download PDF

Info

Publication number
KR100955655B1
KR100955655B1 KR1020070104596A KR20070104596A KR100955655B1 KR 100955655 B1 KR100955655 B1 KR 100955655B1 KR 1020070104596 A KR1020070104596 A KR 1020070104596A KR 20070104596 A KR20070104596 A KR 20070104596A KR 100955655 B1 KR100955655 B1 KR 100955655B1
Authority
KR
South Korea
Prior art keywords
information
robot
semantic
layer
metric
Prior art date
Application number
KR1020070104596A
Other languages
Korean (ko)
Other versions
KR20090039136A (en
Inventor
백문홍
백승호
박재한
전현욱
이호길
Original Assignee
한국생산기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국생산기술연구원 filed Critical 한국생산기술연구원
Priority to KR1020070104596A priority Critical patent/KR100955655B1/en
Publication of KR20090039136A publication Critical patent/KR20090039136A/en
Application granted granted Critical
Publication of KR100955655B1 publication Critical patent/KR100955655B1/en

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/402Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by control arrangements for positioning, e.g. centring a tool relative to a hole in the workpiece, additional detection means to correct position
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/01Mobile robot

Abstract

본 발명은 이동 로봇의 자율 주행 방법에 관한 것으로, 스마트 환경기술을 기반으로 한 의미적(semantic) 정보를 포함하는 지도를 이용하여, 저비용으로 로봇이 주행할 환경의 넓이에 관계없이 신뢰성 있는 주행이 가능하며, 동적인 환경에서도 지능적인 주행이 가능한 로봇의 자율 주행 방법을 제공하는 것을 목적으로 한다.The present invention relates to a method of autonomous driving of a mobile robot, by using a map containing semantic information based on smart environmental technology, reliable driving is possible regardless of the area of the environment in which the robot will run at low cost. It is an object of the present invention to provide a robot autonomous driving method capable of intelligent driving even in a dynamic environment.

상기 목적을 달성하기 위한 본 발명에 따른 로봇의 자율 주행 방법은, (a) 로봇의 이동 공간을 구분한 셀(cell)의 종류와 이름에 대한 정보를 갖는 시맨틱(semantic) 계층과, 셀의 위치와 크기에 대한 정보를 갖는 메트릭(metric) 계층과, 다른 셀과의 연결점에 대한 정보를 갖는 커넥션(connection) 계층과, 로봇의 현재 위치를 결정하기 위한 로컬라이제이션 정보 계층을 포함하는 구조로 이루어진 의미적 지도 정보를 로봇에 로딩하는 단계; (b) 상기 로봇이 자체에 구비된 위치인식 센서 또는 상기 의미적 지도에 포함된 로컬라이제이션 정보를 이용하여 외부의 위치인식 장치로부터 현재 위치정보를 획득하는 단계; (c) 제공된 목적지와, 로딩된 의미적 지도 정보 및 상기 로봇의 현재 위치정보를 기초로 의미적 주행 경로를 설정하는 단계; 및 (d) 상기 로봇이 설정된 경로에 따라 주행하는 단계를; 포함한다.In order to achieve the above object, an autonomous driving method of a robot according to the present invention includes: (a) a semantic layer having information on a type and a name of a cell that divides a robot's moving space, and a position of a cell; And a metric layer with information about the size and size, a connection layer with information about connection points with other cells, and a structure including a localization information layer for determining the current position of the robot. Loading map information into the robot; (b) acquiring current location information from an external location recognition device by using the location recognition sensor provided in the robot or localization information included in the semantic map; (c) establishing a semantic driving route based on the provided destination, loaded semantic map information, and current position information of the robot; And (d) driving the robot according to a predetermined path; Include.

이동 로봇, 의미적 지도, 자율 주행 Mobile robot, semantic map, autonomous driving

Description

로봇의 자율 주행 방법 {METHOD FOR AUTONOMOUS NAVIGATION OF ROBOT}Autonomous driving of robots {METHOD FOR AUTONOMOUS NAVIGATION OF ROBOT}

본 발명은 로봇의 자율 주행 방법에 관한 것으로, 보다 구체적으로는 시맨틱, 메트릭, 커넥션, 물체, 및 센서 계층으로 이루어진 의미적 지도 정보를 로봇에 로딩하여, 상기 지도를 로봇의 주행에 사용함으로써, 저비용으로 영역의 대소에 관계없이 신뢰성 있는 주행이 가능할 뿐 아니라, 상기 의미적 지도 정보를 통해 의미적인 주행 경로 설정이 가능하기 때문에, 로봇에 주행 환경에 맞추어 지능적인 주행이 가능한 로봇의 자율 주행 방법에 관한 것이다.The present invention relates to a method of autonomous driving of a robot, and more particularly, by loading semantic map information composed of semantic, metric, connection, object, and sensor layers in a robot, and using the map for driving of the robot, In addition, since it is possible not only to drive reliably regardless of the size of the area, but also to set a meaningful driving route through the semantic map information, the robot can autonomously operate according to the driving environment. will be.

이동 로봇의 자율 주행 기술은 최근 관심이 고조되고 있는 지능형 서비스 로봇의 기반이 되는 중요한 기술이다.The autonomous driving technology of the mobile robot is an important technology that is the foundation of the intelligent service robot that is recently gaining attention.

한편, 지능형 서비스 로봇으로 적절하게 기능하기 위해서 로봇은 센서를 이용하여 주위환경을 파악하고 자율적으로 상황에 대처하며 주행할 수 있어야 하는데, 이러한 자율주행 기술은 1980년대 이후로 활발하게 연구되어 왔지만 실제 환경에 적용하기에는 아직도 많은 해결과제를 안고 있다.On the other hand, in order to function properly as an intelligent service robot, the robot must be able to understand the surrounding environment by using sensors and autonomously cope with the situation. Such autonomous driving technology has been actively researched since the 1980s, but the actual environment There are still many challenges to apply.

이동 로봇의 자율 주행을 위하여 요구되는 기술로는 현재 로봇의 위치를 정확히 알아내는 '위치결정기술', 현재 작업 중인 환경을 파악해 내는 '지도형성기 술', 작업수행을 위한 이동 경로를 생성한 후, 안전하게 이동을 수행하는 '경로작성기술'로 크게 구분되고 있다.The technologies required for autonomous driving of mobile robots include 'location technology' to accurately locate the robot, 'map formation technology' to grasp the current working environment, and after creating a movement path for work execution. It is largely classified into 'route creation technology' that safely moves.

최근 이동 로봇의 자율 주행을 목적으로 로봇이 위치결정과 지도형성을 동시에 수행하는 SLAM(Simultaneous Localization And Mapping)에 대한 연구가 활발하게 이루어지고 있다.Recently, researches on SLAM (Simultaneous Localization And Mapping) in which a robot performs positioning and mapping at the same time for the purpose of autonomous driving of a mobile robot have been actively conducted.

SLAM은 로봇이 미지의 환경에서도 스스로 환경을 인지하고 그 정보를 바탕으로 위치결정을 수행한다는 점은 매력적이지만 특정 환경에서만 적용할 수 있는 문제점이 있다. 또한, 정밀한 고가의 센서를 사용해야 하기 때문에 경제성을 확보하기 어려울 뿐 아니라, 현재까지 SLAM에 의해 작성된 지도는 환경 내의 물체들이 움직이지 않는 정적인 환경에만 적용 가능하며, 물체들이 움직이는 동적인 환경에 대해서나 문, 자동문, 엘리베이터, 계단과 같은 구체적인 하위 개념의 의미를 포함할 수 없어 지능적인 주행이 어렵다는 단점이 있다.SLAM is attractive because the robot recognizes the environment itself and performs positioning based on the information even in an unknown environment, but there is a problem that can be applied only in a specific environment. In addition, it is difficult to secure economic feasibility due to the use of precise and expensive sensors, and to date, the map created by SLAM is applicable only to the static environment where objects in the environment are not moving. It does not include the meaning of specific sub-concepts such as doors, automatic doors, elevators, stairs, etc., which makes it difficult to drive intelligently.

이와 관련하여, 한국등록특허공보 제10-715609호에는 가정용 서비스 로봇의 효율적인 자율 주행을 위하여, 영역 사이를 연결하는 위치로 그 폭이 이동로봇이 지나갈 수 있으나 제한된 폭을 가지는 엣지와, 장애물로 둘러싸인 영역이고 상기 엣지를 통해 다른 노드로 이동할 수 있는 노드를 이용하고; 상기 위상학적 지도 형성 방법은 센서들로부터의 정보를 이용하여 엣지를 인식하고, 이 엣지들을 중심으로 위상학적 지도를 형성하며, 이 지도를 이용하여 자율 주행을 수행하는 방법이 개시되어 있다.In this regard, Korean Patent Publication No. 10-715609 discloses an efficient space for the home service robot, which is connected to regions, the width of which can be passed by the mobile robot, but with an edge having a limited width and surrounded by obstacles. Using a node that is an area and can move to another node through the edge; The topological map forming method discloses a method of recognizing an edge using information from sensors, forming a topological map around the edges, and performing autonomous driving using the map.

그러나, 이 방법의 경우, 지도를 노드와 에지로 표현하기 때문에, 생성된 경 로는 의미적 정보를 포함하지 않는다. 따라서, 공간을 연결하는 부분을 문, 계단, 복도 등과 같은 의미적인 정보로 표현되지 않기 때문에, 지능적인 주행이 불가능하여, 실제 환경에는 적용하기 어려운 문제점이 있다.However, in this method, since the map is represented by nodes and edges, the generated path does not contain semantic information. Therefore, since the portions connecting the spaces are not represented by semantic information such as doors, stairs, corridors, and the like, intelligent driving is impossible and it is difficult to apply to a real environment.

본 발명은 전술한 종래의 로봇의 자율 주행 방법에 관한 기술의 문제점을 해결하기 위한 것으로, 스마트 환경기술을 기반으로 하여 의미론적 정보를 포함하는 지도를 이용함으로써, 저비용으로 로봇이 주행할 환경의 넓이에 관계없이 신뢰성 있는 주행이 가능할 뿐 아니라, 동적인 환경에서도 지능적인 주행이 가능한 로봇의 자율 주행 방법을 제공하는 것을 목적으로 한다.The present invention is to solve the problems of the above-described conventional autonomous driving method of the robot, by using a map containing semantic information based on smart environmental technology, the area of the environment that the robot will run at low cost It is an object of the present invention to provide a robot autonomous driving method capable of reliable driving regardless of reliability, and capable of intelligent driving even in a dynamic environment.

전술한 목적을 달성하기 위한 본 발명에 따른 로봇의 자율 주행 방법은, (a) 로봇의 이동 공간을 구분한 셀(cell)의 종류와 이름에 대한 정보를 갖는 시맨틱(semantic) 계층과, 셀의 위치와 크기에 대한 정보를 갖는 메트릭(metric) 계층과, 다른 셀과의 연결점에 대한 정보를 갖는 커넥션(connection) 계층과, 로봇의 현재 위치를 결정하기 위한 로컬라이제이션 정보 계층을 포함하는 구조로 이루어진 의미적 지도 정보를 로봇에 로딩하는 단계; (b) 상기 로봇이 자체에 구비된 위치인식 센서 또는 상기 의미적 지도에 포함된 로컬라이제이션 정보를 이용하여 외부의 위치인식 장치로부터 현재 위치정보를 획득하는 단계; (c) 제공된 목적지와, 로딩된 의미적 지도 정보 및 획득된 로봇의 현재 위치정보를 기초로 의미적 주행 경로 를 설정하는 단계; 및 (d) 상기 로봇이 설정된 경로에 따라 주행하는 단계를; 포함하는데 구성적 특징이 있다.In order to achieve the above object, an autonomous driving method of a robot according to the present invention includes: (a) a semantic layer having information on the type and name of a cell in which a robot's moving space is divided; Meaning consisting of a structure including a metric layer having information about position and size, a connection layer having information about connection points with other cells, and a localization information layer for determining the current position of the robot. Loading enemy map information into the robot; (b) acquiring current location information from an external location recognition device by using the location recognition sensor provided in the robot or localization information included in the semantic map; (c) establishing a semantic driving route based on the provided destination, the loaded semantic map information, and the acquired current position information of the robot; And (d) driving the robot according to a predetermined path; There are constituent features to include.

본 발명에 따른 자율 주행 방법의 경우, 구축되어 있는 스마트 환경을 통해서, 로봇이 주행할 환경에 관한 지도 정보를 사전에 로봇에 로딩하는 방식을 사용한다. 따라서 고가의 센서장비를 구비하여 로봇이 자체적으로 지도를 작성하는 방식에 비하여, 저비용으로 자율 주행이 가능하게 된다.In the case of the autonomous driving method according to the present invention, a method of loading in advance the map information about the environment in which the robot is to travel to the robot through the smart environment is established. Therefore, it is possible to provide autonomous driving at low cost compared to a method in which a robot prepares a map by providing expensive sensor equipment.

또한, 본 발명에 따라 제공되는 지도의 전술한 계층 정보는 다음과 같은 기능을 갖는다.In addition, the above-described hierarchical information of the map provided according to the present invention has the following functions.

먼저, 상기 의미적 지도에서 전체 환경에서 구분될 수 있는 공간을 셀(cell) 이라는 기본 단위로 나타내어지며, 전체 환경은 각 단위 셀(cell)의 집합체로 표현된다.First, in the semantic map, a space that can be distinguished from an entire environment is represented by a basic unit called a cell, and the entire environment is represented by an aggregate of each unit cell.

그리고 상기 시맨틱(semantic) 계층은 각 셀(cell)의 종류와 이름에 대한 정보를 가지고 있기 때문에, 이 계층의 정보를 통해 로봇이 현재 위치하는 공간이 어디인지 의미적으로 알 수 있게 된다. 이에 따라, 종래 이동 로봇에게 위치와 방향(x,y,q) 형태로 지시하는 것과 달리, 본 발명에 따른 지도에 의하면 로봇에게 이동 목적지를 '101호 연구실'과 같은 의미적인 이름으로 지시하는 것이 가능해진다.In addition, since the semantic layer has information on the type and name of each cell, the semantic layer can semantically know where the robot is currently located. Accordingly, unlike the conventional mobile robot instructing the position and direction (x, y, q) in the form, according to the map according to the present invention to direct the robot to the destination in the semantic name, such as '101 laboratory' It becomes possible.

또한, 상기 메트릭(metric) 계층은 각 셀(cell)의 위치, 크기 정보를 가지고 있기 때문에, 메트릭 계층의 정보는, 로봇이 경로계획을 설정할 때 목적지의 위치 (x,y)가 어느 셀(cell)에 속하는지 검색할 수 있도록 하며, 또한 경로계획 설정 후 실제 거리를 계산하는데 사용될 수 있다.In addition, since the metric layer has position and size information of each cell, the information of the metric layer may include information about which cell (x, y) of the destination is located when the robot sets the route plan. ), It can be used to calculate the actual distance after setting the route plan.

또한, 상기 커넥션(connection) 계층은, 각 셀(cell)에 있어서 하나 이상의 다른 셀(cell)과 연결되는 연결점에 대한 정보로서 단순한 연결정보 외에 연결점의 종류를 나타내는 토폴로지컬(topological) 정보를 가지는데, 이를 통해 로봇은 현재 경유하는 연결점이 어떤 연결점인지를 알 수 있으므로 그에 따른 지능적 처리를 수행할 수 있게 된다. 예를 들어 로봇이 자동문을 통과할 때는 앞에서 문이 열릴 때까지 기다렸다가 통과하거나, 일반 문이면 손잡이를 인식하여 문을 여는 동작을 하거나, 또는 소리로서 문을 여는 요청을 하여 문을 통과하는 등 종래의 지도로는 구현하기 어려웠던 지능적인 자율주행이 본 발명에 의하면 가능하게 된다.In addition, the connection layer has information about connection points connected to one or more other cells in each cell, and has topological information indicating the type of connection points in addition to simple connection information. In this way, the robot knows which connection point it is currently passing through, and can perform intelligent processing accordingly. For example, when a robot passes an automatic door, it waits for the door to open in the front, passes through it, or if it is a normal door, it recognizes the handle to open the door, or requests to open the door by sound and passes through the door. Intelligent autonomous driving, which was difficult to implement on a map, is made possible according to the present invention.

또한, 상기 로컬라이제이션(localization) 계층은 로봇이 자체 센서 외에 외부로부터 자신의 현재 위치정보를 획득할 수 있는 수단에 대한 정보를 보유한 계층이다. 이와 같이, 본 발명에 따른 지도에서는 외부 환경에 설치된 로봇의 위치인식수단의 정보를 제공함으로써, 로봇에 설치된 자체 센서에 의한 위치인식의 오류를 외부 환경에 설치된 로봇의 위치인식수단을 통해 정정할 수 있도록 하여, 넓은 지역에서도 신뢰성이 있는 자기위치인식과 자율주행이 가능하게 된다.In addition, the localization layer is a layer that holds information on the means by which the robot can obtain its current location information from the outside in addition to its own sensor. As such, in the map according to the present invention, by providing information of the position recognition means of the robot installed in the external environment, the error of the position recognition by its own sensor installed in the robot can be corrected through the position recognition means of the robot installed in the external environment. In this way, it is possible to reliably recognize the position and autonomously in large areas.

한편, 상기 로봇의 위치인식수단으로는 환경에 설치된 로봇의 위치인식센서일 수 있으며, 이 경우 로컬라이제이션 정보는 위치인식센서에 관한 정보(센서가 설치된 위치, 방향 (x,y,q) 정보 외에도 로봇이 센서 네트워크를 통해 위치인식 센서와 연결하기 위한 네트워크 주소 등)를 포함할 수 있다. 이러한 정보를 통해, 로봇은 이동하면서 연결하거나 끊어야 할 위치인식 센서를 지능적으로 판단하여 위치정보를 받을 수 있게 되며, 많은 센서가 설치된 넓은 공간에서도 본 발명에 따른 지도 정보를 참조하여 신뢰성 있는 위치정보를 획득할 수 있게 된다.On the other hand, the position recognition means of the robot may be a position recognition sensor of the robot installed in the environment, in this case, the localization information is a robot in addition to the information on the position recognition sensor (position installed position, direction (x, y, q) information) Network address for connecting to a location sensor via the sensor network. Through this information, the robot can receive the location information by intelligently determining the location recognition sensor to be connected or disconnected while moving, and the reliable location information with reference to the map information according to the present invention even in a large space where many sensors are installed. You can get it.

또한, 상기 의미적 지도는 추가로 각 셀 내에 위치하는 고정 물체에 대한 정보를 갖는 물체(object) 계층을 포함할 수 있는데, 상기 물체 계층에는 물체의 위치, 방향 (x,y,q) 정보와 물체의 인식정보(예컨대, 최대 128비트의 RFID 고유 번호)가 저장될 수 있다. 이러한 정보를 통해, 로봇의 이동 목적지를 물체의 ID나 이름으로 부여할 수 있게 되며, 로봇이 최초로 들어간 환경에서도 서버로부터 본 발명에 지도 정보를 부여받으면 별도의 탐사작업 없이 자율 주행 가능하게 된다.In addition, the semantic map may further include an object layer having information about a fixed object located in each cell, wherein the object layer includes information about the position and orientation (x, y, q) of the object. Recognition information of an object (eg, an RFID unique number of up to 128 bits) may be stored. Through this information, the movement destination of the robot can be given by the ID or name of the object, and even when the robot is first entered, if the map information is given to the present invention from the server, autonomous driving is possible without additional exploration work.

또한, 본 발명에 따른 로봇의 자율 주행 방법에 있어서, 상기 (c) 단계의 의미적 주행 경로의 설정은, (e) 제공된 목적지의 정보의 계층을 식별하는 단계; (f) 제공된 목적지의 정보가 메트릭 계층이 아닌 시맨틱 계층 또는 물체 계층인 경우, 시맨틱 계층 또는 물체 계층으로 제공된 정보를 상기 의미적 지도의 메트릭 계층 정보를 활용하여 메트릭 계층의 정보로 변환하는 단계; (g) 제공된 목적지의 메트릭 계층 정보를 상기 의미적 지도의 커넥션 계층 정보를 통해, 커넥션 계층 수준의 경로를 설정하는 단계; (h) 상기 커넥션 계층 수준의 경로를 상기 의미적 지도의 메트릭 계층 정보를 통해, 각 경로에 메트릭 정보를 부가하는 단계; 및 (i) 상기 메트릭 정보가 부가된 경로에 상기 의미적 지도의 시맨틱 계층 정보를 통해, 각 경로에 시맨틱 정보를 부가하는 단계;를 통해 수행된다.In addition, in the autonomous driving method of the robot according to the present invention, the setting of the semantic driving route of step (c) comprises: (e) identifying a hierarchy of information of a provided destination; (f) converting information provided to the semantic layer or the object layer into information of the metric layer by utilizing the metric layer information of the semantic map if the information of the provided destination is not a metric layer but a semantic layer or object layer; (g) establishing a connection layer level path through the metric layer information of the provided destination through the connection layer information of the semantic map; (h) adding metric information to the paths of the connection layer level through the metric hierarchy information of the semantic map; And (i) adding semantic information to each path through semantic layer information of the semantic map to the path to which the metric information is added.

이상과 같은 알고리즘을 통해, 이동 로봇은 제공된 의미적 지도 정보를 활용하여, 의미적인 경로 설정이 가능해지며, 이에 따라 지능적인 자율 주행이 가능해진다.Through the algorithm described above, the mobile robot can use the provided semantic map information to set up a semantic route, thereby enabling intelligent autonomous driving.

또한 본 발명에 따른 로봇의 자율 주행 방법에 있어서, 상기 (a) 단계에서의 의미적 지도 정보의 로딩은 XML 파일 형식으로 수행되는 것이 바람직한데, XML형태로 지도를 표현함으로써 지도정보의 표준화가 가능하게 된다.In addition, in the autonomous driving method of the robot according to the present invention, the loading of the semantic map information in the step (a) is preferably performed in an XML file format, and standardization of the map information is possible by expressing the map in XML format. Done.

또한 본 발명에 따른 로봇의 자율 주행 방법에 있어서, 상기 (a) 단계의 의미적 지도 정보의 로딩은 상기 로봇이 환경에 대한 의미적 지도를 보유하고 있지 않을 경우에만 수행되도록 하는데, 이는 이미 로봇이 환경에 대한 지도를 보유하고 있을 때에는 재차 환경에 진입하더라도 지도 정보를 반복하여 로딩할 필요가 없기 때문이다.In addition, in the autonomous driving method of the robot according to the present invention, the loading of the semantic map information of the step (a) is to be performed only when the robot does not have a semantic map of the environment, which is already If you have a map of the environment, you do not need to repeatedly load the map information even if you enter the environment again.

또한 본 발명에 따른 로봇의 자율 주행 방법에 있어서, 상기 (b) 단계는, 상기 위치인식센서에 대한 정보로부터 최근접 위치인식센서에 관한 정보를 획득하고, 최근접 위치인식센서로부터 위치정보를 수신하여 상기 로봇의 자기 위치를 결정하도록 한다. 이러한 구성을 통해, 로봇에 고가의 위치인식센서를 구비하지 않아도 신뢰성 있는 위치정보를 획득할 수 있게 되며, 환경에 설치된 위치인식센서로부터 획득한 위치정보를 통해 위치정보의 오차가 축적되는 것을 막을 수 있어, 넓은 지역에서도 로봇이 자신의 현재 위치를 신뢰성 있게 결정할 수 있게 된다.Further, in the autonomous driving method of the robot according to the present invention, the step (b), the information about the nearest position recognition sensor from the information on the position recognition sensor, and receives the position information from the nearest position recognition sensor To determine the magnetic position of the robot. Through this configuration, it is possible to obtain reliable position information even if the robot is not equipped with an expensive position recognition sensor, and it is possible to prevent the error of the position information from accumulating through the position information acquired from the position recognition sensor installed in the environment. This allows the robot to reliably determine its current position in large areas.

또한 상기 연결점에 대한 정보는 각 연결점에 따른 통과방법에 대한 정보를 포함하고 있어, 상기 로봇이 연결점의 종류에 따른 대응이 가능한 것을 특징으로 한다. In addition, the information on the connection point includes information on the passing method according to each connection point, it characterized in that the robot can correspond to the type of connection point.

또한 본 발명에 따른 로봇의 자율 주행 방법에 있어서, 상기 로봇에는 각 셀에 배치된 물체와의 거리를 측정할 수 있는 거리측정수단이 구비되어 있어, 상기 거리측정수단을 통해 상기 3개 이상의 고정물체와 상기 로봇 사이의 거리를 측정한 정보와 상기 물체 계층으로부터 획득한 3개 이상의 고정 물체의 정보를 연산하여 자기 위치를 결정할 수 있다. 이로써, 위치인식센서가 구비되어 있지 않은 환경이나, 위치인식센서의 오작동 또는 고장으로 인해 로봇이 외부로부터 자신의 위치정보를 획득할 수 없을 때에도, 상기 물체 정보가 로봇의 현재 위치정보를 제공하는 백업 수단이 될 수 있다.In the robot autonomous driving method according to the invention, the robot is provided with a distance measuring means for measuring the distance to the object disposed in each cell, the three or more fixed objects through the distance measuring means The magnetic position may be determined by calculating information of a distance between the robot and the robot and information of three or more fixed objects obtained from the object layer. Thus, even when the robot cannot obtain its location information from the outside due to an environment in which the location sensor is not provided or a malfunction or failure of the location sensor, the object information provides a backup of the current location information of the robot. It can be a means.

본 발명에 따른 로봇의 주행 방법에 의하면, 스마트 환경기술을 기반으로 한 의미적 정보를 포함하는 지도를 외부에서 로봇에 로딩하는 방법을 사용함으로써, 저비용으로 로봇이 지능적이고 효율적인 주행을 할 수 있게 된다.According to the driving method of the robot according to the present invention, by using a method of loading a map including semantic information based on smart environmental technology to the robot from the outside, the robot can drive intelligently and efficiently at low cost .

또한 본 발명에 따른 로봇의 주행 방법에 의하면, 가정, 사무실, 빌딩, 공공기관 건물 등의 다양한 넓이와 종류의 공간에서도 신뢰성 있는 주행이 가능하게 된다.In addition, according to the driving method of the robot according to the present invention, it is possible to reliably run in a variety of areas and spaces, such as homes, offices, buildings, public institution buildings.

또한 본 발명에 따른 로봇의 주행 방법에 의하면, 단순히 노드(node)와 에지(edge)로서 인식되는 것이 아니라, 문, 자동문, 방, 복도 등과 같은 구체적인 개념의 의미를 포함하는 의미적(semantic) 경로에 의해 주행하기 때문에, 복잡하고 동적인 환경에서도 로봇의 동작을 지능적으로 구현시킬 수 있다.In addition, according to the driving method of the robot according to the present invention, a semantic path including a meaning of a specific concept such as a door, an automatic door, a room, a corridor, etc. is not simply recognized as a node and an edge. It is possible to intelligently implement the operation of the robot even in a complicated and dynamic environment because of the driving by.

이하, 본 발명의 실시예를 참조하여 본 발명에 대해 보다 구체적으로 설명한다. 그러나 하기 실시예는 단지 예시에 불과한 것으로서, 본 발명을 한정하는 것 으로 해석되어서는 안 된다.Hereinafter, the present invention will be described in more detail with reference to Examples of the present invention. However, the following examples are merely examples and should not be construed as limiting the present invention.

먼저, 본 발명의 실시예에 따른 로봇의 주행방법에 있어서, 로봇에 로딩(loading)되는 의미적 지도에 대해 설명한다.First, in the driving method of the robot according to an embodiment of the present invention, a semantic map loaded on the robot will be described.

본 발명의 실시예에 따른 의미적 지도(semantic map)에서, 환경에서 구분될 수 있는 공간의 최소 단위를 셀(cell)로 설정하였고, 단위 셀(cell)은 도 1에 도시된 바와 같이, 사각형의 공간으로 표현되며 내부에는 다른 공간과 연결되는 연결점, 로봇에 구비되어 있는 식별자(indicator)를 인식하여 로봇의 현재 위치를 알려주는 위치인식 센서, 그리고 랜드마크(landmark)로 사용할 수 있는 고정 물체로 구성되어 있다고 정의하였다.In the semantic map according to the embodiment of the present invention, the minimum unit of space that can be distinguished from the environment is set as a cell, and the unit cell is a rectangle as shown in FIG. 1. It is expressed in the space of the inside, and it is a fixed point that can be used as a landmark, and a position recognition sensor that recognizes the current location of the robot by recognizing the connection point connected to another space, the indicator provided in the robot. It is defined as being composed.

그리고 상기 단위 셀에 대해서는 시맨틱(semantic), 메트릭(metric), 연결점(connections), 센서(sensors) 및 물체(objects)의 5 계층의 자료 구조로 이루어지도록 모델링하였으며, 각 계층의 구체적인 구성은 하기 표 1과 같이 하였다.The unit cell was modeled to have five layers of data structures of semantic, metric, connection points, sensors, and objects. 1 was performed.

본 발명의 실시예에 따른 의미적 지도의 자료 구조Data structure of the semantic map according to the embodiment of the present invention 계층hierarchy 정보Information 의미meaning 구체적인 예Concrete example 시맨틱Semantic 타입(type)Type 현재 셀의 종류Type of current cell 방, 복도Room, corridor 명칭(name)Name 셀의 명칭The name of the cell 102호No. 102 메트릭Metric 위치(position)Position 셀의 중심위치Center position of the cell x, yx, y 크기(size)Size 셀의 크기(폭, 높이)Cell size (width, height) w, hw, h 커넥션connection 수(number)Number 셀의 연결점 수Number of connection points in the cell n ≥ 1n ≥ 1 단위 연결점[n] Unit connection point [n] 연결점의 형태Type of connection point 연결점의 위치, 방향Location, direction of connection point 연결된 셀의 IDID of the linked cell 센서sensor 수(number)Number 설치된 센서의 수Number of installed sensors m ≥ 0m ≥ 0 단위 센서[m]Unit sensor [m] 설치된 센서의 위치, 방향Position and orientation of the installed sensor 설치된 센서의 네트워크 주소Network address of the installed sensor 물체object 수(number)Number 단위 셀 내의 물체의 개수Number of objects in a unit cell j ≥ 0j ≥ 0 단위 물체[j]Unit object [j] 물체의 위치, 방향The position and orientation of the object 물체의 RFID 코드RFID code of the object

표 1에 제시된 바와 같이, 본 발명의 실시예에 따른 의미적 지도의 자료구조 중, 시맨틱 계층은 셀의 종류와 명칭에 대한 정보를 가지고 있으며, 이는 로봇이 현재 위치한 공간이 어디인지 알 수 있도록 한다. 또한 로봇에게 이동 목적지를 종래 위치와 방향(x,y,q) 형태로 지시하는 것과 달리 “101호 연구실”같은 의미적인 이름으로 지시하는 것이 가능하게 한다.As shown in Table 1, of the semantic map data structure according to the embodiment of the present invention, the semantic layer has information on the type and name of the cell, which allows the robot to know where the space is currently located. . It also makes it possible to instruct the robot in a semantic name, such as "Lab 101," as opposed to conventional locations and directions (x, y, q).

상기 메트릭 계층은 셀의 위치 및 크기 정보를 가지고 있는 계층으로, 본 발명의 실시예에 따른 셀은 단위 셀이 사각형으로 모델링되어 있기 때문에, 위치는 x, y좌표로, 크기는 폭(width)과 높이(height)로 표현된다. 이와 같은, 메트릭 계층은 로봇이 경로를 계획할 때, 목적지의 위치(x,y)가 어느 셀에 속하는지 검색할 수 있도록 하며, 경로계획 후 실제 거리를 계산하는데 사용된다.The metric layer is a layer having cell position and size information. Since a cell according to an embodiment of the present invention is a unit cell modeled as a rectangle, the position is x, y coordinates, and the size is width and width. Expressed in height. As such, the metric hierarchy allows the robot to search which cell the location (x, y) of the destination belongs to when planning the route and is used to calculate the actual distance after the route planning.

상기 커넥션 계층은 다른 셀과 연결되는 연결점에 대한 정보를 갖는데, 이는 곧 각 셀 간 토폴로지컬(topological) 정보를 갖는 것을 의미한다. 커넥션 계층의 연결점은 하나 이상이며 단순한 연결정보 이외에 연결점의 종류 정보(예컨대, 개방된 문, 일반문, 여닫이문, 자동문, 엘리베이터 등)를 가지고 있어 로봇이 지금 경유하는 연결점이 어떤 연결점인지를 알 수 있도록 하고, 각 연결점의 종류에 맞추어 예를 들어 로봇이 자동문을 통과할 때는 앞에서 문이 열릴 때까지 기다렸다가 통과할 수 있으며, 일반 문이면 손잡이를 인식하여 문을 여는 동작을 하거나 아니면 소리로서 문을 열어달라는 요청을 하여 문을 통과하는 등의 지능적인 자율주행을 가능하게 한다.The connection layer has information on connection points connected to other cells, which means that it has topological information between each cell. There is more than one connection point in the connection layer. In addition to the simple connection information, the connection point type information (for example, open doors, general doors, swing doors, automatic doors, elevators, etc.) can be used to determine which connection points the robot is currently passing through. According to the type of connection point, for example, when the robot passes through the automatic door, it can wait until the front door is opened and pass through it.If it is a normal door, it recognizes the handle to open the door or opens the door by sound. It enables intelligent autonomous driving, such as asking for a request through a door.

상기 센서 계층은 셀 내에 설치된 위치인식 센서의 정보를 가지는데, 상기 센서의 정보에는 단위 셀에 설치된 위치인식 센서의 수(number), 센서가 설치된 위치 및 방향은 물론, 로봇이 센서 네트워크를 통해 위치정보를 받을 수 있도록 통신 연결을 위한 센서의 네트워크 주소가 포함된다. 이와 같은 센서 계층의 정보를 통해, 로봇은 이동하면서 연결을 생성하거나 끊어야 할 위치인식 센서를 지능적으로 판단하여 위치정보를 받을 수 있게 되므로, 많은 센서가 설치된 넓은 공간에서도 본 발명의 실시예에 따른 지도 정보를 참조하여 위치를 정확하게 인식할 수 있게 된다.The sensor layer has information of a location sensor installed in a cell, and the information of the sensor includes the number of location sensors installed in a unit cell, the location and direction in which the sensor is installed, as well as the location of the robot through the sensor network. The network address of the sensor for the communication connection is included to receive the information. Through the information of the sensor layer, the robot can intelligently determine the location recognition sensor to create or break a connection while moving, and thus receive the location information, even in a large space where many sensors are installed. The location can be recognized accurately by referring to the information.

상기 물체 계층은 각 셀 내에 위치하고 있는 고정형 물체들의 정보를 가진다. 상기 정보는 각 셀 내에 위치한 고정형 물체의 수(number), 각 물체의 위치와 방향, 그리고 각 고정형 물체에 부착되어 있는 최대 128비트의 RFID 코드를 포함한다. 이러한 정보를 통해, 로봇은 구비된 RFID 리더를 통해 인식된 RFID 코드와 일치하는 물체의 위치와 방향 등을, 지도 정보로부터 획득할 수 있기 때문에, 최초로 진입한 환경이라도 별도의 별도 탐사작업 없이 자율주행이 가능하게 된다. 또한, RFID 코드는 각 물체별로 고유의 정보가 되므로, 이를 이용하면 지도정보가 없을 때 서버를 통해 적합한 지도정보를 전달받을 수 있는 키(key) 값이 될 수 있다. 그리고 고장이나 미설치 등으로 인해 위치인식센서로부터 로봇이 위치인식센서를 이용할 수 없고, 단위 셀 내에 적어도 3개의 고정형 물체가 있는 경우, 로봇은 자신과 각 물체 간의 거리정보를 측정하여, 각 물체의 위치정보와의 연산을 통해, 정확한 현재 위치를 파악할 수도 있다. 즉, 본 발명에 따른 물체의 정보는 센서 계층의 백업용으로도 사용될 수 있다.The object hierarchy has information of fixed objects located in each cell. The information includes the number of stationary objects located within each cell, the location and orientation of each object, and up to 128 bits of RFID code attached to each stationary object. Through this information, the robot can obtain the position and direction of the object that matches the RFID code recognized by the RFID reader provided from the map information, so that even if the environment is entered for the first time, autonomous driving without additional exploration work is required. This becomes possible. In addition, since the RFID code is unique information for each object, it can be a key value that can receive appropriate map information through the server when there is no map information. If the robot cannot use the position sensor from the position sensor due to a failure or no installation, and there are at least three fixed objects in the unit cell, the robot measures the distance information between itself and each object, thereby determining the position of each object. By working with information, you can also determine the exact current location. That is, the information of the object according to the present invention can also be used for the backup of the sensor layer.

다음으로 전술한 의미적 지도를 활용하여 로봇이 의미적 경로를 설정하는 알고리즘에 대해 설명한다.Next, an algorithm for establishing a semantic path by the robot using the aforementioned semantic map will be described.

본 발명의 실시예에 따른 의미적 지도는 계층별로 구성되어 있으므로 각 계층의 정보 수준에 따른 경로계획 요청이 가능하다. 최종적인 경로계획은 커넥션(connections) 계층에서 이루어지지만, 목적지가 위치 및 방향으로 제시되는 일반적인 (x,y,q) 형식의 메트릭 계층에서의 경로계획 요청, 목적지가 "101호 연구실", "작은 방"과 같은 형식의 시맨틱 계층의 경로계획 요청, 또는 "00FF312310FC - 작은방 테이블"과 같은 형식의 물체 계층의 경로계획 요청 등 다양한 형태의 경로계획 요청이 가능하다.Since the semantic map according to the embodiment of the present invention is configured for each layer, it is possible to request a route plan according to the information level of each layer. The final route plan is made at the connection layer, but the route plan request in the metric hierarchy of the general (x, y, q) format where the destination is presented in terms of location and direction, the destination being "Lab.101", "small Various types of route planning requests are possible, such as a route planning request of a semantic layer of the form "room", or a route planning request of an object layer of the form of "00FF312310FC-small room table".

또한, 요청된 경로계획에는 모든 계층의 정보, 시맨틱, 메트릭, 커넥션 정보를 모두 포함하게 되며, 이들 정보는 각 계층을 거치면서 차례로 추가된다. 요청된 경로계획을 의미적 경로로 설정하는 개략적인 흐름은 다음과 같다.In addition, the requested route plan includes all the information, semantics, metrics, and connection information of all layers, which are added in turn as they pass through each layer. The general flow of setting the requested path plan as a semantic path is as follows.

예를 들어, 시맨틱 수준의 경로계획을 요청하면, 도 3에 화살표로 표시된 바와 같이, 시맨틱 계층에서 메트릭 수준에 적합한 위치정보로 변환해서 내려주고, 메트릭 계층에서는 다시 커넥션 계층에 맞도록 위치를 셀 정보로 변환해서 내려주며, 최종적으로 커넥션 계층에서 토폴로지컬 경로를 계산하게 된다. 계산된 토폴로지컬 경로는 단순한 연결정보만으로 구성되는데, 이는 다시 메트릭 계층을 통해 위치정보 및 연결점 간의 실제 거리 등의 경로정보가 부가되며, 최종적으로 시맨틱 계층을 지나면서 의미적 정보가 더해져, 의미적 경로가 도출된다.For example, when requesting a path plan of the semantic level, as indicated by arrows in FIG. 3, the semantic layer is converted into position information suitable for the metric level, and the metric layer converts the position to fit the connection layer again. The topological path is calculated at the connection layer. The calculated topological path is composed of simple connection information. In addition, path information such as location information and actual distance between connection points is added through the metric layer, and finally, semantic path is added through the semantic layer. Is derived.

마찬가지로, 도 3에 도시된 바와 같이, 경로계획이 물체 계층 수준으로 요청된 경우, 시맨택 계층과 동일하게, 물체 계층 → 메트릭 계층 → 커넥션 계층 → 메트릭 계층 → 시맨틱 계층을 거치면서 의미적 경로가 설정되고, 경로계획이 메트릭 계층 수준으로 요청된 경우, 메트릭 계층 → 커넥션 계층 → 메트릭 계층 → 시맨틱 계층을 거치면서 의미적 경로가 설정된다.Similarly, as shown in FIG. 3, when the route plan is requested at the object layer level, the semantic path is set through the object layer → metric layer → connection layer → metric layer → semantic layer in the same manner as the semantic layer. If a path plan is requested at the metric layer level, a semantic path is established through the metric layer → connection layer → metric layer → semantic layer.

본 발명에 따른 의미적 지도를 이용하여 의미적 경로를 설정하는 방법에 대해 도 4를 참조로 하여 보다 구체적으로 설명한다.A method of setting up a semantic route using the semantic map according to the present invention will be described in more detail with reference to FIG. 4.

먼저, 로봇에 환경에 대한 의미적 지도를 로딩한 후, 로봇에게 경로계획(목적지)을 요청하면(S101), 목적지가 물체(object) 정보로 된 것인지를 판단하여(S102), 물체 정보인 경우에는 상기 의미적 지도의 물체 계층 정보를 통해 메트릭 정보를 추출한다(S103).First, when the robot loads a semantic map of the environment, and then requests a route plan (destination) from the robot (S101), it is determined whether the destination is object information (S102), and the object information. In step S103, metric information is extracted from the object layer information of the semantic map.

만약, 목적지가 물체(object) 정보가 아닌 경우에는 목적지가 시맨틱(semantic) 정보로 된 것인지를 판단하여(S104), 시맨틱 정보인 경우에는 상기 의미적 지도의 시맨틱 정보 계층을 통해 메트릭 정보를 추출한다(S105).If the destination is not object information, it is determined whether the destination is semantic information (S104). If the destination is semantic information, the metric information is extracted through the semantic information layer of the semantic map. (S105).

또한, 목적지가 시맨틱 정보가 아닌 경우에는 메트릭 정보로 된 것인지를 판단하고(S106), 메트릭 정보가 아닌 경우에는 "알 수 없는 형식의 목적지" 라는 메세지를 출력하여 오류로 처리한다(S107)If the destination is not semantic information, it is determined whether the information is metric information (S106). If the destination is not metric information, the message " Destination of unknown format " is output and processed as an error (S107).

이상과 같은 단계를 통해, 목적지의 메트릭 정보(x,y)를 획득하게 되면, 로봇은 로딩된 의미적 지도의 메트릭 계층 정보를 활용하여 셀(cell) 정보를 추출한다(S108).When the metric information (x, y) of the destination is obtained through the above steps, the robot extracts cell information by using the metric layer information of the loaded semantic map (S108).

이어서, 로봇은 자체 내에 보유한 센서를 통해 자체의 현재 위치를 인식하고 상기 의미적 지도의 메트릭 계층 정보를 활용하여 셀(cell) 정보를 추출하여, 로봇의 의미적 경로를 설정하기 위한 초기화, 즉 출발지와 목적지에 대한 설정을 완료하게 된다(S109).Subsequently, the robot recognizes its current location through a sensor held in the robot, extracts cell information by using the metric hierarchy information of the semantic map, and initializes the starting point, that is, the starting point for setting the robot's semantic path. And the setting for the destination is completed (S109).

초기화가 된 상태에서는, 의미적 경로의 마지막 셀이 목적지 셀인지를 판단하여(S110), 목적지 셀이 아닌 경우에는 상기 의미적 지도의 커넥션 계층 정보를 활용하여 마지막 셀에 연결된 셀을 추가하고(S111), 목적지 셀이 맞는 경우에는 커넥션 계층 정보를 활용한 탐색을 종료한다(S112).In the initialized state, it is determined whether the last cell of the semantic path is the destination cell (S110), and if it is not the destination cell, the cell connected to the last cell is added using the connection layer information of the semantic map (S111). If the destination cell is correct, the search using the connection layer information is terminated (S112).

탐색이 종료된 커넥션 정보는 상기 의미적 지도의 메트릭 계층 정보를 활용하여, 각 연결점의 위치정보를 부가하고(S113), 다시 메트릭 계층 정보를 활용하여 시맨틱 정보를 부가하여(S114), 최종적으로 의미적 경로(semantic path)를 완성함으로써(S115), 작업을 종료한다.After the search is completed, the connection information uses the metric layer information of the semantic map, adds location information of each connection point (S113), and adds semantic information using the metric layer information (S114). By completing the semantic path (S115), the operation is terminated.

이상과 같은 본 발명에 따른 의미적 지도를 이용한 의미적 경로계획 설정 로직을 프로그램화한 후, 도 2a 및 2b에 도시된 바와 같이, 다양한 형태의 셀(cell)과 일반문, 자동문, 복도, 엘리베이터 등 다양한 연결점으로 구성되어 있는 실제 환경에 적용하였다.After programming the semantic route planning setting logic using the semantic map according to the present invention as described above, as shown in Figures 2a and 2b, various types of cells (cells), general doors, automatic doors, corridors, elevators It is applied to a real environment composed of various connection points.

먼저, 하기 표 2와 같이, 상기 도 2b에 도시된 공간을 6개의 셀로 구분하여 모델링하였으며, 엘리베이터 복도, 중앙홀 및 복도에 각각 1개씩 총 3개의 위치인식 센서를 설치하였다.First, as shown in Table 2, the space shown in FIG. 2B was modeled by dividing the space into six cells, and a total of three position recognition sensors, one each in an elevator corridor, a central hall, and a corridor, were installed.

본 발명의 실시예에 따른 의미적 지도(semantic map)의 모델링Modeling of semantic maps in accordance with an embodiment of the present invention Cell 형태shape 위치/크기Position / size 센서 수Number of sensors 바깥 현관Outside porch hall x, y = 0, -1194 w, h = 640, 200x, y = 0, -1194 w, h = 640, 200 00 실내 현과Indoor strings hall x, y = 0, -977 w, h = 440, 234x, y = 0, -977 w, h = 440, 234 00 엘리베이터 복도Elevator corridor 복도hallway x, y = 0, -430 w, h = 440, 860x, y = 0, -430 w, h = 440, 860 1One 중앙 홀Concourse hall x, y = 0, 432 w, h = 1872, 865x, y = 0, 432 w, h = 1872, 865 1One 복도hallway 복도hallway x, y = 1400, 125 w, h = 928, 250x, y = 1400, 125 w, h = 928, 250 1One 101호 연구실Room 101 room x, y = 1400, 557 w, h = 928, 615x, y = 1400, 557 w, h = 928, 615 00

시작점과 도착점은 경유점이 가장 많은 위치로 선정하였는데, 시작점인 로봇의 현재위치는 "101호 연구실"이 되도록 하였고, 목적지는 "바깥 현관"으로 지정하여, 의미적(semantic) 수준으로 경로계획을 요청하였다.The starting point and the arrival point were selected as the location with the largest number of waypoints. The current position of the robot, which is the starting point, was set to "Lab 101", and the destination was designated as "outdoor entrance", requesting route planning at a semantic level. It was.

도 5는 전술한 흐름도의 로직을 구현할 수 있는 프로그램을 통해, 본 발명의 실시예에 따른 의미적 지도를 이용하여 계산된 경로 정보를 나타낸다.FIG. 5 illustrates route information calculated using a semantic map according to an embodiment of the present invention through a program capable of implementing the logic of the above-described flowchart.

도시된 바와 같이, 시작점인 "101호 연구실"에서 도착점인 "바깥 현관"으로 가기 위해서는 5개의 경유점을 지나서 최종 목적지에 도착하게 되며 첫 번째와 다섯 번째 경유점은 "문"이며, 네 번째 경유점은 "자동문"임을 알 수 있다. 따라서 본 발명의 실시예에 따른 의미적 지도를 통해 로봇은 다른 경유점들은 열린 공간이므로 그대로 통과할 수 있고, 첫 번째, 네 번째, 다섯 번째 경유점에서는 적절한 조치를 취해야만 그 지점을 통과할 수 있음을 인식하게 된다. 또한 경로 정보를 보면 통과해야 하는 셀, 경유점의 실제 위치 및 거리정보도 함께 있음을 확인할 수 있다.As shown, in order to get from the starting point "Lab 101" to the end point "outward porch", you will pass five waypoints to your final destination and the first and fifth waypoints will be "doors" and the fourth waypoint. Notice that the dot is an "automatic door." Therefore, through the semantic map according to the embodiment of the present invention, the robot can pass through the other waypoints as they are open spaces, and the first, fourth, and fifth waypoints can pass through the points only when appropriate measures are taken. It will be recognized. In addition, if you look at the route information, you can see that there is a cell to pass through, the actual location and distance information of the waypoint.

한편, 도 6은 본 발명의 실시예에 따른 의미적 지도 정보만을 이용하여 구성한 그림 지도와 계산된 경로정보를 함께 나타낸 것이다. 이로부터 실제 정보는 상기 표 2와 같이 간단하지만 구성된 그림 지도는 환경의 실제 도면인 도 2b와 매우 유사함을 알 수 있다.6 is a diagram illustrating a figure map and calculated route information using only semantic map information according to an exemplary embodiment of the present invention. From this, the actual information is simple as shown in Table 2, but it can be seen that the configured map is very similar to FIG. 2B, which is the actual drawing of the environment.

다음으로, 이상과 같은 의미적 지도를 활용한 경로계획을 통해, 실제 환경에서의 자율주행을 수행하였다.Next, autonomous driving in the real environment was carried out through the route planning using the semantic map as described above.

이동 로봇의 자율주행에는 공지의 리액티브(reactive) 방식의 알고리즘을 사용하였으며, 상기 알고리즘을 구현하기 위하여 이동 로봇의 전방에 7개의 초음파센서 모듈을 장착함으로써, 동적 환경에 대응할 수 있도록 하였다.In the autonomous driving of a mobile robot, a known reactive (active) algorithm was used. In order to implement the algorithm, seven ultrasonic sensor modules were installed in front of the mobile robot to cope with a dynamic environment.

로봇의 위치인식과 관련하여, 로봇이 센서 계층의 위치인식센서 정보로부터 최적의 센서를 검색하여, 현재의 위치를 측정하는 방법은 다음과 같다.Regarding the position recognition of the robot, the robot searches for the optimal sensor from the position sensor information of the sensor hierarchy and measures the current position as follows.

먼저 로봇은 현재 위치하고 있는 셀을 판단한 후, 현재 셀과 인접한 모든 셀에 배치된 위치인식 센서를 최적센서 탐색을 위한 후보집합에 넣는다. 그리고 현재 로봇이 위치한 셀과 인접한 셀 안에 있는 모든 위치센서를 포함하는 N개의 멤버로 구성된 후보 집합 S = S1, S2, ..., SN에서 하기 식[1]에 의해 가장 가까운 거리의 위치인식 센서를 선택한다.First, the robot determines the cell where it is currently located, and then puts the position recognition sensor disposed in all cells adjacent to the current cell into the candidate set for the optimal sensor search. In the candidate set S = S 1 , S 2 , ..., S N which contains all the position sensors in the cell where the robot is currently located and adjacent cells, Select the position sensor.

[식 1][Equation 1]

Figure 112007074324821-pat00001
Figure 112007074324821-pat00001

(Xs: 후보센서의 공간상 위치, Xr: 로봇의 절대공간에서의 위치)(Xs: position of candidate sensor in space, Xr: position of robot in absolute space)

도 7은 의미적 지도를 이용하여 로봇이 최적의 센서를 탐색하는 예를 개략적으로 도시한 도면이다. 도 7에 도시된 바와 같이, 로봇의 현재 위치는 셀 C3이다. 따라서 C3에 인접한 셀인 C2, C3, C4, C5가 탐색 대상이 되며 그 셀에 배치된 위치인식센서 후보 집합 S = S1, S2, S3에서 상기 식[1]에 의해 최적센서가 결정된다. 이때 로봇은 결정된 최적센서의 주소와 현재 연결된 센서의 주소를 비교한 후, 만약 현재의 센서와 다르다면 현재 센서와의 연결을 끊고 최적 센서와의 접속을 시도하여, 최적 센서로부터 로봇의 현재 위치에 대한 정보를 통해 기존의 위치정보를 갱신한다. FIG. 7 is a diagram schematically illustrating an example in which a robot searches for an optimal sensor using a semantic map. As shown in FIG. 7, the current position of the robot is cell C3. Therefore, C2, C3, C4, and C5, which are adjacent to C3, are to be searched, and the optimal sensor is determined by the above equation [1] in the position recognition sensor candidate set S = S1, S2, S3 disposed in the cell. At this time, the robot compares the address of the determined optimal sensor with the address of the currently connected sensor. If it is different from the current sensor, the robot disconnects the current sensor and attempts to connect to the optimal sensor. Update the existing location information through the information.

이에 따라, 본 발명에 따른 로봇의 주행방법에 의하면, 로봇이 여러 영역을 주행하더라도 위치 정보에 대한 오차가 축적되지 않게 되며 로봇이 주행하는 영역의 대소와 관계없이 신뢰성 있는 자기위치 인식이 가능하게 된다. 따라서 다양한 환경에서의 주행이 무리 없이 수행될 수 있다.Accordingly, according to the driving method of the robot according to the present invention, even if the robot travels in various areas, the error of the position information is not accumulated and reliable magnetic position recognition is possible regardless of the size of the area in which the robot travels. . Therefore, driving in various environments can be performed without difficulty.

도 8은 전술한 시작점과 도착점의 조건에서 이동 로봇이 자율주행을 수행한 결과를 나타낸다. 매회 주행을 시도할 때마다 장애물의 위치 및 실험자가 로봇 앞을 막는 등 동적인 환경을 연출하여 로봇이 이에 대응하느라 경로는 모두 다르지만 결과에서 목적지에 성공적으로 도착했음을 알 수 있다.8 shows the result of the autonomous driving performed by the mobile robot under the conditions of the starting point and the arrival point. Each time you try to drive, you can see that the obstacles and the experimenter block the front of the robot to create a dynamic environment.

도 1은 본 발명의 실시예에 따른 의미적 지도에서 모델링한 단위 셀의 구조를 나타내는 도면이다.1 is a diagram illustrating a structure of a unit cell modeled in a semantic map according to an embodiment of the present invention.

도 2a 및 2b는 각각 본 발명의 실시예에 따른 의미적 지도의 환경을 촬영한 사진과 환경의 평면도이다.2A and 2B are plan views of photographs and environments of an environment of a semantic map according to an embodiment of the present invention, respectively.

도 3은 본 발명에 따른 의미적 지도를 기반으로 하여 경로계획을 설정하는 과정에 대한 개략도이다.3 is a schematic diagram of a process for setting a route plan based on a semantic map according to the present invention.

도 4는 본 발명의 실시예에 따른 의미적 지도를 활용하여 경로계획을 설정하는 과정을 나타내는 흐름도이다.4 is a flowchart illustrating a process of setting a route plan using a semantic map according to an embodiment of the present invention.

도 5는 본 발명의 실시예에 따른 의미적 지도를 활용하여, 로봇이 도출된 "101호 연구실"에서 "바깥현관"까지의 경로계획을 나타낸 컴퓨터 화면이다.FIG. 5 is a computer screen showing a route plan from the "101 lab" to the "outdoor hall" from which a robot is derived by utilizing a semantic map according to an embodiment of the present invention.

도 6은 본 발명의 실시예에 따른 의미적 지도를 활용하여 작성된 그래픽 지도와 설정된 경로계획을 나타내는 컴퓨터 화면이다.6 is a computer screen showing a graphical map created using a semantic map and a set route plan according to an embodiment of the present invention.

도 7은 의미적 지도를 이용하여 로봇이 최적의 센서를 탐색하는 예를 개략적으로 나타낸 도면이다.FIG. 7 is a diagram schematically illustrating an example in which a robot searches for an optimal sensor using a semantic map.

도 8은 본 발명의 실시예에 따른 의미적 지도를 활용하여, 로봇이 실제로 주행한 결과를 나타내는 컴퓨터 화면이다.8 is a computer screen showing a result of a robot actually traveling by utilizing a semantic map according to an embodiment of the present invention.

Claims (10)

로봇의 자율 주행 방법으로서, As a robot autonomous driving method, (a) 로봇의 이동 공간을 구분한 셀(cell)의 종류와 이름에 대한 정보를 갖는 시맨틱(semantic) 계층과, 셀의 위치와 크기에 대한 정보를 갖는 메트릭(metric) 계층과, 다른 셀과의 연결점에 대한 정보를 갖는 커넥션(connection) 계층과, 로봇의 현재 위치를 결정하기 위한 로컬라이제이션 정보 계층을 포함하는 구조로 이루어진 의미적 지도 정보를 로봇에 로딩하는 단계; (a) a semantic layer having information on the type and name of a cell that divides the robot's movement space, a metric layer having information on the position and size of the cell, and other cells Loading semantic map information into a robot, the structure including a connection layer having information about a connection point of and a localization information layer for determining a current location of the robot; (b) 상기 로봇이 자체에 구비된 위치인식 센서 또는 상기 의미적 지도에 포함된 로컬라이제이션 정보를 이용하여 외부의 위치인식장치를 통해 현재 위치정보를 획득하는 단계;(b) acquiring the current location information by an external location recognition device by using the location recognition sensor provided in the robot or localization information included in the semantic map; (c) 제공된 목적지와, 로딩된 의미적 지도 정보 및 획득된 로봇의 현재 위치정보를 기초로 의미적 주행 경로를 설정하는 단계; 및 (c) establishing a semantic driving route based on the provided destination, the loaded semantic map information, and the acquired current position information of the robot; And (d) 상기 로봇이 설정된 경로에 따라 주행하는 단계를; 포함하고,(d) driving the robot according to a set route; Including, 상기 (c) 단계의 의미적 주행 경로의 설정은, Setting of the semantic driving route of step (c), (e) 제공된 목적지의 정보의 계층을 식별하는 단계;(e) identifying a hierarchy of information of the provided destination; (f) 제공된 목적지의 정보가 메트릭 계층이 아닌 시맨틱 계층인 경우, 시맨틱 계층으로 제공된 정보를 상기 의미적 지도의 메트릭 계층 정보를 활용하여 메트릭 계층의 정보로 변환하는 단계;(f) converting information provided to the semantic layer into information of the metric layer by utilizing the metric layer information of the semantic map if the information of the provided destination is a semantic layer rather than a metric layer; (g) 제공된 목적지의 메트릭 계층 정보를 상기 의미적 지도의 커넥션 계층 정보를 통해, 커넥션 계층 수준의 경로를 설정하는 단계;(g) establishing a connection layer level path through the metric layer information of the provided destination through the connection layer information of the semantic map; (h) 상기 커넥션 계층 수준의 경로를 상기 의미적 지도의 메트릭 계층 정보를 통해, 각 경로에 메트릭 정보를 부가하는 단계; 및(h) adding metric information to the paths of the connection layer level through the metric hierarchy information of the semantic map; And (i) 상기 메트릭 정보가 부가된 경로에 상기 의미적 지도의 시맨틱 계층 정보를 통해, 각 경로에 시맨틱 정보를 부가하는 단계;를 포함하는 것을 특징으로 하는 로봇의 자율 주행 방법.(i) adding semantic information to each path through the semantic layer information of the semantic map to the path to which the metric information is added. 제 1 항에 있어서, 상기 의미적 지도는 추가로 각 셀 내에 위치하는 고정 물체에 대한 정보를 갖는 물체(object) 계층을 포함하는 것을 특징으로 하는 로봇의 자율 주행 방법.The method of claim 1, wherein the semantic map further includes an object hierarchy having information about fixed objects located in each cell. 삭제delete 제 2 항에 있어서, 상기 (c) 단계의 의미적 주행 경로의 설정은, The method of claim 2, wherein the setting of the semantic driving path of the step (c), (e) 제공된 목적지의 정보의 계층을 식별하는 단계;(e) identifying a hierarchy of information of the provided destination; (f) 제공된 목적지의 정보가 메트릭 계층이 아닌 시맨틱 계층 또는 물체 계층인 경우, 시맨틱 계층 또는 물체 계층으로 제공된 정보를 상기 의미적 지도의 메트릭 계층 정보를 활용하여 메트릭 계층의 정보로 변환하는 단계;(f) converting information provided to the semantic layer or the object layer into information of the metric layer by utilizing the metric layer information of the semantic map if the information of the provided destination is not a metric layer but a semantic layer or object layer; (g) 제공된 목적지의 메트릭 계층 정보를 상기 의미적 지도의 커넥션 계층 정보를 통해, 커넥션 계층 수준의 경로를 설정하는 단계;(g) establishing a connection layer level path through the metric layer information of the provided destination through the connection layer information of the semantic map; (h) 상기 커넥션 계층 수준의 경로를 상기 의미적 지도의 메트릭 계층 정보를 통해, 각 경로에 메트릭 정보를 부가하는 단계; 및 (h) adding metric information to the paths of the connection layer level through the metric hierarchy information of the semantic map; And (i) 상기 메트릭 정보가 부가된 경로에 상기 의미적 지도의 시맨틱 계층 정보를 통해, 각 경로에 시맨틱 정보를 부가하는 단계;를 포함하는 것을 특징으로 하는 로봇의 자율 주행 방법.(i) adding semantic information to each path through the semantic layer information of the semantic map to the path to which the metric information is added. 제 1 항 또는 제 2 항에 있어서, 상기 로컬라이제이션 정보는 환경에 설치되며, 상기 로봇에 구비된 식별자(indicator)를 인식하여 로봇의 현재 위치를 도출할 수 있는 위치인식센서에 대한 정보인 것을 특징으로 하는 로봇의 자율 주행 방법.According to claim 1 or 2, wherein the localization information is installed in the environment, characterized in that the information on the position recognition sensor that can derive the current position of the robot by recognizing the indicator (indicator) provided in the robot. Autonomous driving method of the robot. 제 1 항 또는 제 2 항에 있어서, (a) 단계의 상기 의미적 지도 정보의 로딩은 XML 파일 형식으로 수행되는 것을 특징으로 하는 로봇의 자율 주행 방법.The method of claim 1 or 2, wherein the loading of the semantic map information of step (a) is performed in an XML file format. 제 1 항 또는 제 2 항에 있어서, (a) 단계의 의미적 지도 정보의 로딩은 상기 로봇이 환경에 대한 의미적 지도를 보유하고 있지 않을 경우에만 수행되는 것을 특징으로 하는 로봇의 자율 주행 방법.The method of claim 1 or 2, wherein the loading of the semantic map information in step (a) is performed only when the robot does not have a semantic map of the environment. 제 5 항에 있어서, 상기 (b) 단계는, 상기 위치인식센서에 대한 정보로부터 최근접 위치인식센서에 관한 정보를 획득하고, 최근접 위치인식센서로부터 위치정보를 수신하여 상기 로봇의 자기 위치를 결정함으로써, 넓은 지역에서도 자기 위치 를 신뢰성 있게 결정할 수 있게 한 것을 특징으로 하는 로봇의 자율 주행 방법.The method of claim 5, wherein the step (b) comprises: obtaining information on the nearest position recognition sensor from the information on the position recognition sensor and receiving position information from the nearest position recognition sensor to determine the magnetic position of the robot. The autonomous driving method of the robot which makes it possible to reliably determine a magnetic position even in a large area | region by making a decision. 제 1 항 또는 제 2 항에 있어서, 상기 연결점에 대한 정보는 각 연결점에 따른 통과방법에 대한 정보를 포함하고 있어, 상기 로봇이 연결점의 종류에 따른 대응이 가능한 것을 특징으로 하는 로봇의 자율 주행 방법.The method according to claim 1 or 2, wherein the information on the connection point includes information on a passing method according to each connection point, so that the robot can respond according to the type of connection point. . 제 2 항에 있어서, 상기 로봇에는 각 셀에 배치된 물체와의 거리를 측정할 수 있는 거리측정수단이 구비되어 있어, 상기 거리측정수단을 통해 상기 3개 이상의 고정물체와 상기 로봇 사이의 거리를 측정한 정보와 상기 물체 계층으로부터 획득한 3개 이상의 고정 물체의 정보를 연산하여 자기 위치를 결정할 수 있는 것을 특징으로 하는 로봇의 자율 주행 방법.According to claim 2, wherein the robot is provided with a distance measuring means for measuring the distance to the object disposed in each cell, the distance between the three or more fixed objects and the robot through the distance measuring means The autonomous driving method of the robot, characterized in that the magnetic position can be determined by calculating the measured information and the information of the three or more fixed objects obtained from the object layer.
KR1020070104596A 2007-10-17 2007-10-17 Method for autonomous navigation of robot KR100955655B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020070104596A KR100955655B1 (en) 2007-10-17 2007-10-17 Method for autonomous navigation of robot

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020070104596A KR100955655B1 (en) 2007-10-17 2007-10-17 Method for autonomous navigation of robot

Publications (2)

Publication Number Publication Date
KR20090039136A KR20090039136A (en) 2009-04-22
KR100955655B1 true KR100955655B1 (en) 2010-05-06

Family

ID=40763058

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070104596A KR100955655B1 (en) 2007-10-17 2007-10-17 Method for autonomous navigation of robot

Country Status (1)

Country Link
KR (1) KR100955655B1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101242252B1 (en) 2011-02-10 2013-03-11 고려대학교 산학협력단 Method for building simantic grid map and method for exploring an environment using simantic grid map
KR20160000162A (en) 2014-06-24 2016-01-04 주식회사 네오텍 Self moving method of service robot
WO2019238330A1 (en) * 2018-06-12 2019-12-19 Robert Bosch Gmbh Method and device for operating autonomously operated work machines

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8948913B2 (en) 2009-10-26 2015-02-03 Electronics And Telecommunications Research Institute Method and apparatus for navigating robot
KR102034526B1 (en) * 2012-10-18 2019-10-22 한국전자통신연구원 Apparatus and method for managing indoor moving objects information considering indoor map and positioning infrastructure
CN112015187B (en) * 2020-09-11 2023-10-20 北京洛必德科技有限公司 Semantic map construction method and system for intelligent mobile robot
CN113551676A (en) * 2021-08-16 2021-10-26 河南牧原智能科技有限公司 Autonomous navigation method and device for pig-driving vehicle and readable storage medium
KR20230030954A (en) * 2021-08-26 2023-03-07 한국로봇융합연구원 Apparatus and method for controlling a mobile robot capable of moving between buildings using semantic map-based driving and work planning

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1185273A (en) * 1997-09-02 1999-03-30 Technol Res Assoc Of Medical & Welfare Apparatus Route generation device for autonomously travelling robot and storage medium for storing route generation method and program for the same
KR20020039806A (en) * 2000-11-22 2002-05-30 이충전 Method for compensating the path in mobile robot
JP2003036116A (en) 2001-07-25 2003-02-07 Toshiba Tec Corp Autonomous travel robot
KR20070060954A (en) * 2005-12-09 2007-06-13 한국전자통신연구원 Method for mapping and navigating mobile robot by artificial landmark and local coordinate

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1185273A (en) * 1997-09-02 1999-03-30 Technol Res Assoc Of Medical & Welfare Apparatus Route generation device for autonomously travelling robot and storage medium for storing route generation method and program for the same
KR20020039806A (en) * 2000-11-22 2002-05-30 이충전 Method for compensating the path in mobile robot
JP2003036116A (en) 2001-07-25 2003-02-07 Toshiba Tec Corp Autonomous travel robot
KR20070060954A (en) * 2005-12-09 2007-06-13 한국전자통신연구원 Method for mapping and navigating mobile robot by artificial landmark and local coordinate

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101242252B1 (en) 2011-02-10 2013-03-11 고려대학교 산학협력단 Method for building simantic grid map and method for exploring an environment using simantic grid map
KR20160000162A (en) 2014-06-24 2016-01-04 주식회사 네오텍 Self moving method of service robot
WO2019238330A1 (en) * 2018-06-12 2019-12-19 Robert Bosch Gmbh Method and device for operating autonomously operated work machines

Also Published As

Publication number Publication date
KR20090039136A (en) 2009-04-22

Similar Documents

Publication Publication Date Title
KR100955655B1 (en) Method for autonomous navigation of robot
US9939814B1 (en) Computer system and method for automated mapping by robots
Galindo et al. Multi-hierarchical semantic maps for mobile robotics
US8214079B2 (en) Central information processing system and method for service robot having layered information structure according to recognition and reasoning level
Jensfelt Approaches to mobile robot localization in indoor environments
Elfes A sonar-based mapping and navigation system
US11836857B2 (en) Methods for generating and updating building models
US9075938B2 (en) Method and apparatus for mapping of multiple-floor structures
JP2009515226A (en) Method for creating map and moving method of mobile robot using artificial sign and regional coordinate system
CN106767755A (en) Method and device for planning autonomous formula equipment operating point
CN112015187A (en) Semantic map construction method and system for intelligent mobile robot
TW202225941A (en) Virtually viewing devices in a facility
CN106814734A (en) The method and system of autonomous formula equipment are controlled using computing device
KR100919513B1 (en) Semantic map for autonomous navigation of robot
Liu et al. A Floyd-Dijkstra hybrid application for mobile robot path planning in life science automation
Youngblood et al. A framework for autonomous mobile robot exploration and map learning through the use of place-centric occupancy grids
KR100590210B1 (en) Method for mobile robot localization and navigation using RFID, and System for thereof
CN112987720A (en) Multi-scale map construction method and construction device for mobile robot
Santos et al. Towards extraction of topological maps from 2D and 3D occupancy grids
Nitsche et al. Hybrid mapping for autonomous mobile robot exploration
Ryu et al. Local map-based exploration for mobile robots
Mantha Navigation, Path Planning, and Task Allocation Framework For Mobile Co-Robotic Service Applications in Indoor Building Environments
Truong et al. Automatic Detection and Classi cation of Objects in Point Clouds using multi-stage Semantics
Braga et al. Semantic navigation with domain knowledge
Konolige et al. Mobile robot sense net

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130410

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20141016

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20150713

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20160328

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20170327

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20180406

Year of fee payment: 9