KR102370873B1 - 로봇 원격 제어 방법 및 시스템 - Google Patents

로봇 원격 제어 방법 및 시스템 Download PDF

Info

Publication number
KR102370873B1
KR102370873B1 KR1020200099332A KR20200099332A KR102370873B1 KR 102370873 B1 KR102370873 B1 KR 102370873B1 KR 1020200099332 A KR1020200099332 A KR 1020200099332A KR 20200099332 A KR20200099332 A KR 20200099332A KR 102370873 B1 KR102370873 B1 KR 102370873B1
Authority
KR
South Korea
Prior art keywords
robot
control
user
gesture
space
Prior art date
Application number
KR1020200099332A
Other languages
English (en)
Other versions
KR20220018795A (ko
Inventor
차세진
김가현
Original Assignee
네이버랩스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 네이버랩스 주식회사 filed Critical 네이버랩스 주식회사
Priority to KR1020200099332A priority Critical patent/KR102370873B1/ko
Priority to KR1020210081912A priority patent/KR20220018905A/ko
Publication of KR20220018795A publication Critical patent/KR20220018795A/ko
Application granted granted Critical
Publication of KR102370873B1 publication Critical patent/KR102370873B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1689Teleoperation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1661Programme controls characterised by programming, planning systems for manipulators characterised by task planning, object-oriented languages
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1669Programme controls characterised by programming, planning systems for manipulators characterised by special application, e.g. multi-arm co-operation, assembly, grasping
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Manipulator (AREA)
  • Selective Calling Equipment (AREA)

Abstract

본 발명은 로봇 제어에 관한 것으로서, 로봇을 원격으로 제어할 수 있는 로봇 원격 제어 방법 및 시스템이다. 위에서 살펴본 과제를 해결하기 위하여. 본 발명에 따른 로봇 원격 제어 방법은, 공간에 배치된 카메라로부터 수신된 영상을 이용하여 사용자의 제스처를 인식하는 단계, 상기 사용자에게 제어권이 존재하는지 여부를 확인하는 단계, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 제스처에 따라 제어되는 제어 대상 로봇을 특정하는 단계 및 상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송하는 단계를 포함하는 것을 특징으로 한다.

Description

로봇 원격 제어 방법 및 시스템 {REMOTE CONTROL METHOD AND SYSTEM FOR ROBOT}
본 발명은 로봇 제어에 관한 것으로서, 로봇을 원격으로 제어할 수 있는 로봇 원격 제어 방법 및 시스템이다.
기술이 발전함에 따라, 다양한 서비스 디바이스들이 나타나고 있으며, 특히 최근에는 다양한 작업 또는 서비스를 수행하는 로봇에 대한 기술 개발이 활발하게 이루어지고 있다.
나아가 최근에는, 인공 지능 기술, 클라우드 기술 등이 발전함에 따라, 로봇의 활용도가 점차적으로 높아지고 있다.
한편, 로봇으로 다양한 작업 또는 서비스를 제공하기 위해서는, 로봇을 정확하게 제어하는 것이 매우 중요하다. 로봇의 경우, 사용자가 일일이 로봇의 주변에서 로봇에 대한 제어를 수행하는 데에는 현실적인 한계가 있으므로, 원격에서 로봇을 제어하는 기술에 대한 필요성이 점차적으로 중요해지고 있다.
이에, 대한민국 등록특허 제10-0692526호(시스템 자동제어용 제스처 인식 장치 및 그 방법)에서는, 로봇에 구비된 카메라로부터 촬영된 사용자의 제스처를 인식하여, 로봇을 제어하는 기술에 대하여 개시하고 있다.
이와 같은 선행 문헌에 의하면, 로봇에 대한 직접적인 사용자 입력이 없더라도, 사용자의 제스처에 기반하여 로봇을 제어할 수 있다는 점에서 로봇 제어의 편의성을 높일 수 있다. 다만, 선행 문헌의 경우, 사용자가 로봇 주변에 위치해야 한다는 점 및 단일의 로봇에 대한 제어를 수행한다는 한계가 존재한다.
이에, 복수의 로봇이 운용되는 경우, 사용자의 위치에 대한 제약없이 다수의 로봇을 일괄적으로 제어할 수 있는 기술 개발에 대한 니즈가 여전히 존재한다.
본 발명은 로봇에 대한 원격 제어 방법 및 시스템을 제공하는 것이다. 보다 구체적으로 본 발명은, 보다 직관적으로 로봇을 원격으로 제어할 수 있는 방법 및 시스템을 제공하는 것이다.
나아가, 본 발명은 로봇의 위치에 제한없이 로봇에 대해 제어를 수행할 수 있는 로봇 원격 제어 방법 및 시스템을 제공하는 것이다.
또한, 본 발명은 디바이스에 대한 직접적인 사용자 입력없이 로봇에 대한 원격 제어를 수행할 수 있는 로봇 원격 제어 방법 및 시스템을 제공하는 것이다.
나아가, 본 발명은 복수의 로봇에 대하여 일괄적으로 제어를 수행할 수 있는 로봇 원격 제어 방법 및 시스템을 제공하는 것이다.
위에서 살펴본 과제를 해결하기 위하여. 본 발명에 따른 로봇 원격 제어 방법은, 공간에 배치된 카메라로부터 수신된 영상을 이용하여 사용자의 제스처를 인식하는 단계, 상기 제스처가 인식되는 것에 근거하여, 상기 사용자에게 제어권이 존재하는지 여부를 확인하는 단계, 확인 결과, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 제스처에 따라 제어되는 제어 대상 로봇을 특정하는 단계 및 상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송하는 단계를 포함하는 것을 특징으로 한다.
나아가, 본 발명에 따른 로봇 원격 제어 시스템은, 저장부, 공간에 배치된 카메라로부터 영상을 수신하는 통신부, 상기 수신된 영상에서 로봇의 제어와 관련된 사용자의 제스처를 인식하고, 상기 사용자에게 제어권이 존재하는지 여부를 확인하는 제어부를 포함하고, 상기 제어부는, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 제스처에 따라 제어되는 제어 대상 로봇을 특정하고, 상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송되도록 상기 통신부를 제어하는 것을 특징으로 한다.
위에서 살펴본 것과 같이, 본 발명에 따른 로봇 원격 제어 방법 및 시스템은, 공간에 배치된 카메라로부터 사용자의 제스처를 이용하여, 로봇에 대한 제어 명령을 생성할 수 있다. 즉, 사용자는 로봇을 제어하기 위하여 디바이스를 조작하거나, 로봇을 조작하는 과정없이, 공간에 배치된 카메라에 제스처를 취하는 것 만으로 로봇에 대한 제어를 수행할 수 있다. 이러한 본 발명에 의하면, 로봇을 제어하기 위하여 로봇을 일일이 찾아다니거나, 별도의 조작 디바이스를 제어하는 번거로움을 줄일 수 있다.
나아가, 본 발명에 따른 로봇 원격 제어 방법 및 시스템은, 공간에 배치된 카메라로부터 인식된 사용자의 제스처에 기반하여, 복수의 로봇에 대한 제어 명령을 생성할 수 있다. 따라서, 사용자는 복수의 로봇을 제어하기 위하여 복수번의 제어 명령을 인가할 필요 없이, 한번의 제스처 만으로 복수의 로봇을 제어할 수 있으며, 이를 통해 로봇을 제어하는 시간을 효율적으로 관리할 수 있다.
도 1a, 도 1b 및 도 2는 본 발명에 따른 로봇 원격 제어 방법 및 시스템을 설명하기 위한 개념도들이다.
도 3은 본 발명에 따른 로봇 원격 제어 방법 및 시스템에서 로봇을 식별하는 방법을 설명하기 위한 개념도이다.
도 4는 본 발명에 따른 로봇 원격 제어 방법을 설명하기 위한 흐름도이다.
도 5, 도 6, 도 7a, 도 7b, 도 8a, 도 8b, 도 9 및 도 10은 본 발명에 따른 로봇 원격 제어 방법 및 시스템에서 로봇을 원격으로 제어하는 방법을 설명하기 위한 개념도들이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소에는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 발명은 로봇에 대한 원격 제어 방법 및 시스템을 제공하는 것으로서, 보다 구체적으로, 보다 직관적으로 로봇의 주행을 원격으로 제어할 수 있는 방법 및 시스템을 제공하는 것이다. 이하에서는, 첨부된 도면과 함께, 로봇이 주행하는 공간 및 이를 둘러싼 로봇(robot) 원격 제어 시스템에 대하여 살펴보도록 한다. 도 1a, 도 1b 및 도 2는 본 발명에 따른 로봇 원격 제어 방법 및 시스템을 설명하기 위한 개념도들이다. 그리고, 도 3은 본 발명에 따른 로봇 원격 제어 방법 및 시스템에서 로봇을 식별하는 방법을 설명하기 위한 개념도이다.
기술이 발전함에 따라 로봇의 활용도는 점차적으로 높아지고 있다. 종래 로봇은 특수한 산업분야(예를 들어, 산업 자동화 관련 분야)에서 활용되었으나, 점차적으로 인간이나 설비를 위해 유용한 작업을 수행할 수 있는 서비스 로봇으로 변모하고 있다.
이와 같이 다양한 서비스를 제공할 수 있는 로봇은, 부여된 임무를 수행하기 위하여 도 1a에 도시된 것과 같은 공간(10)을 주행하도록 이루어질 수 있다. 로봇(R)이 주행하는 공간의 종류에는 제한이 없으며, 필요에 따라 실내 공간 및 실외 공간 중 적어도 하나를 주행하도록 이루어 질 수 있다. 예를 들어, 실내 공간은 백화점, 공항, 호텔, 학교, 빌딩, 지하철역, 기차역, 서점 등과 같이 다양한 공간일 수 있다. 로봇(R)은, 이와 같이, 다양한 공간에 배치되어 인간에게 유용한 서비스를 제공하도록 이루어질 수 있다.
한편, 로봇(R)을 이용하여 다양한 서비스를 제공하기 위해서는, 로봇을 정확하고, 신속하게 제어하는 것이 매우 중요한 요소이다. 이에, 본 발명은 공간(10)에 배치된 카메라(20)를 이용하여, 로봇(R)을 원격으로 제어하는 방법을 제안한다. 한편, 본 발명에 따른 로봇(R)은 다양하게 명명될 수 있으며, 예를 들어, 무인 이동 머신, 자율 이동 머신 등으로 표현될 수 있다.
로봇(R)은 수행하는 서비스, 임무에 따라 그 종류가 다양할 수 있다. 예를 들어, 공간(10)에는 서로 다른 서비스를 수행하는 복수의 로봇들(R1, R2, R3, …)이 배치될 수 있다. 로봇(R)은 수행하는 서비스에 따라 다양하게 명명될 수 있으며, 예를 들어, 길안내 로봇, 서빙 로봇, 배달 로봇 등으로 명명될 수 있다.
한편, 도 1a에 도시된 것과 같이, 로봇이 위치한 공간(10)에는 카메라(20)가 배치될 수 있다. 공간(10)에 배치된 카메라(20)의 수는 그 제한이 없다. 공간(10)에는 복수개의 카메라들(20a, 20b, 20c)이 배치될 수 있다. 공간(10)에 배치된 카메라(20)의 종류는 다양할 수 있으며, 공간(10)에 배치된 카메라(20)는 CCTV(closed circuit television)일 수 있다.
한편, 도 1a에 도시된 것과 같이, 공간(10)은 서로 다른 복수의 층(floor, 10a, 10b, 10c, 10d, …)으로 구성될 수 있으며, 로봇(R1 ~ R12, …)은 상황에 따라 서로 다른 복수의 층(floor, 10a, 10b, 10c, 10d, …) 중 어느 하나의 층에 배치될 수 있다. 나아가, 어느 하나의 층에 배치된 로봇은 수행하는 임무 또는 제어에 근거하여, 상기 어느 하나의 층에서 다른 하나의 층으로 이동할 수 있다.
한편, 본 발명에서는 공간(10)에 배치된 카메라(20)를 통하여, 사용자 및 로봇(R) 중 적어도 하나를 인식하고, 인식된 결과를 바탕으로 로봇(R)을 원격으로 제어하는 것이 가능하다. 여기에서 사용자는, 로봇(R)에 대한 관리 권한을 가진 주체로서, 상황에 따라, 제어권자, 관리자 등으로 명명될 수 있다.
이하에서는, 공간(10)에 배치된 카메라(20)를 이용하여, 로봇(R)을 원격으로 제어하는 방법에 대하여 보다 구체적으로 살펴본다. 도 2에 도시된 것과 같이, 본 발명에 따른 로봇 원격 제어 시스템(100)은 로봇(R)의 동작을 원격으로 제어할 수 있다.
본 발명에서 설명하는 “로봇(R)의 동작”의 유형은 매우 다양할 수 있다. 보다 구체적으로, 로봇(R)의 동작은 로봇(R)의 주행, 로봇이 수행하는 임무, 로봇의 전원 상태 등과 관련된 동작을 모두 포함하는 개념으로 이해되어 질 수 있다.
먼저, 로봇(R)의 주행과 관련된 동작은, 로봇(R)의 주행 속도, 주행 방향, 회전 방향, 회전 속도, 주행 시작, 주행 정지, 주행 종료와 같이, 로봇(R)의 주행과 관련된 다양한 동작을 포함할 수 있다.
다음으로 로봇(R)이 수행하는 임무와 관련된 동작은, 로봇(R)이 수행하는 임무의 종류에 따라 다를 수 있다.
예를 들어, 로봇(R)이 길안내 서비스를 제공하는 로봇인 경우, 로봇(R)이 수행하는 임무와 관련된 동작은, 길안내를 위한 길 찾기 동작, 길안내를 위한 주행 동작 등을 포함할 수 있다.
또 다른 예를 들어, 로봇(R)이 서빙 서비스를 제공하는 로봇인 경우, 로봇(R)이 수행하는 임무와 관련된 동작은, 서빙을 위한 주행 동작, 서빙을 위한 로봇(R)의 하드웨어를 구동하는 동작 등을 포함할 수 있다.
다음으로, 로봇(R)의 전원 상태와 관련된 동작은, 로봇(R)의 전원을 온(ON) 또는 오프(OFF)시키는 동작, 로봇(R)을 대기 상태(standby state)로 구동하는 동작, 로봇(R)을 슬립 모드(sleep mode)로 구동하는 동작 등을 포함할 수 있다.
한편, 대기 상태 또는 슬립 모드에서 로봇(R)의 동작 상태는 경우에 따라 달라질 수 있다. 예를 들어, 로봇(R)의 대기 상태는 로봇(R)이 기 설정된 시간 이상 동안 주행을 정지한 상태일 수 있다. 그리고, 로봇(R)의 슬립 모드는, 로봇(R)의 동작 전원을 최소화하면서 주행을 정지한 상태일 수 있다.
위에서 열거한 예들 외에도, 로봇의 동작의 종류는 다양할 수 있으며, 본 발명은 위의 예들에 한정되지 않는다.
한편, 도 2에 도시된 것과 같이, 본 발명에 따른 로봇 원격 제어 시스템(100)은, 통신부(110), 저장부(120), 디스플레이부(130), 입력부(140) 및 제어부(150) 중 적어도 하나를 포함할 수 있다.
통신부(110)는, 공간(10)에 배치된 다양한 디바이스와 유선 또는 무선으로 통신하도록 이루어질 수 있다. 통신부(110)는 도시와 같이 로봇(R), 외부 서버(200), 영상 관제 시스템(2000) 중 적어도 하나와 통신할 수 있다.
예를 들어, 통신부(110)는 로봇(R)으로부터 데이터(예를 들어, 로봇(R)에서 촬영되는 영상, 센싱 데이터 등)를 수신하거나, 로봇(R)으로 제어명령을 전송할 수 있다.
나아가, 통신부(110)는 공간(10)에 배치된 카메라(20)와의 직접적인 통신을 수행할 수 있다. 또한, 통신부(110)는 카메라(20)를 제어하는 영상 관제 시스템(2000)과 통신하도록 이루어질 수 있다. 영상 관제 시스템(2000)과 통신부(110) 사이에 통신이 이루어지는 경우, 로봇 원격 제어 시스템(100)은 통신부(110)를 통해 영상 관제 시스템(2000)으로부터 카메라(20)에서 촬영되는(또는 수신되는) 영상을 수신할 수 있다.
나아가, 통신부(110)는 적어도 하나의 외부 서버(또는 외부 저장소, 200)와 통신하도록 이루어질 수 있다. 여기에서, 외부 서버(200)는, 도시된 것과 같이, 클라우드 서버(210) 또는 데이터베이스(220) 중 적어도 하나를 포함하도록 구성될 수 있다. 한편, 외부 서버(200)에서는, 제어부(150)의 적어도 일부의 역할을 수행하도록 구성될 수 있다. 즉, 데이터 처리 또는 데이터 연산 등의 수행은 외부 서버(200)에서 이루어지는 것이 가능하며, 본 발명에서는 이러한 방식에 대한 특별한 제한을 두지 않는다.
한편, 통신부(110)는 통신하는 디바이스의 통신 규격에 따라 다양한 통신 방식을 지원할 수 있다.
예를 들어, 통신부(110)는, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced), 5G(5th Generation Mobile Telecommunication ), 블루투스(Bluetooth™RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra-Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 공간(20) 내외에 위치한 디바이스(클라우드 서버 포함)와 통신하도록 이루어질 수 있다.
다음으로 저장부(120)는, 본 발명과 관련된 다양한 정보를 저장하도록 이루어질 수 있다. 본 발명에서 저장부(120)는 로봇 원격 제어 시스템(100) 자체에 구비될 수 있다. 이와 다르게, 저장부(120)의 적어도 일부는, 클라우드 서버(210) 및 데이터베이스(220) 중 적어도 하나를 의미할 수 있다. 즉, 저장부(120)는 본 발명에 따른 로봇 원격 제어를 위하여 필요한 정보가 저장되는 공간이면 충분하며, 물리적인 공간에 대한 제약은 없는 것으로 이해될 수 있다. 이에, 이하에서는, 저장부(120), 클라우드 서버(210) 및 데이터베이스(220)를 별도로 구분하지 않고, 모두 저장부(120)라고 표현하도록 한다. 이때, 클라우드 서버(210)는 “클라우드 저장소”를 의미할 수 있다.
먼저, 저장부(120)에는, 로봇(R)에 대한 정보가 저장될 수 있다.
로봇(R)에 대한 정보는 매우 다양할 수 있으며, 로봇(R)에 대한 정보는 일 예로서, i)공간(10)에 배치된 로봇(R)을 식별하기 위한 식별 정보(예를 들어, 일련번호, TAG 정보, QR코드 정보 등), ii)로봇(R)에 부여된 임무 정보, iii)로봇(R)에 설정된 주행 경로 정보, iv)로봇(R)의 위치 정보, v)로봇(R)의 상태 정보(예를 들어, 전원 상태, 고장 유무, 배터리 상태 등), vi)로봇(R)에 구비된 카메라로부터 수신된 영상 정보, vii) 로봇(R)의 동작과 관련된 동작 정보 등이 존재할 수 있다.
다음으로, 저장부(120)에는, 카메라(20)에 대한 정보가 저장될 수 있다.
카메라(20)에 대한 정보는 매우 다양할 수 있으며, 카메라(20)에 대한 정보는, i) 각각의 카메라(20a, 20b, 20c, 20d, …)의 식별 정보(예를 들어, 일련번호, TAG 정보, QR코드 정보 등), ii) 각각의 카메라(20a, 20b, 20c, 20d, …)의 배치 위치 정보(예를 들어, 공간 내에서 각각의 카메라(20a, 20b, 20c, 20d, …)가 어느 위치에 배치되었는지에 대한 정보), iii) 각각의 카메라(20a, 20b, 20c, 20d, …)의 화각 정보(anle of view, 예를 들어, 각각의 카메라(20a, 20b, 20c, 20d, …)가 공간의 어느 뷰를 촬영하고 있는지에 대한 정보), iv) 각각의 카메라(20a, 20b, 20c, 20d, …)의 상태 정보(예를 들어, 전원 상태, 고장 유무, 배터리 상태 등), v) 각각의 카메라(20a, 20b, 20c, 20d, …)로부터 수신된 영상 정보 등이 존재할 수 있다.
한편, 위에서 열거된 카메라(20)에 대한 정보는 각각의 카메라(20a, 20b, 20c, 20d, …)를 기준으로 서로 매칭되어 존재할 수 있다.
예를 들어, 저장부(120)에는, 특정 카메라(20a)의 식별정보, 위치 정보, 화각 정보, 상태 정보, 및 영상 정보 중 적어도 하나가 매칭되어 매칭 정보로서 존재할 수 있다. 이러한 매칭 정보는, 추후 특정 카메라가 위치한 공간(또는 장소, 영역)을 특정하는데 유용하게 활용될 수 있다.
나아가, 저장부(120)에는 사용자와 관련된 정보가 저장될 수 있다. 이러한 사용자와 관련된 정보는 “사용자 DB” 또는 “관리자DB”라고도 명명될 수 있다.
사용자와 관련된 정보는, 사용자의 식별 정보(예를 들어, 이름, 생년월일, 주소, 전화번호, 사번, ID, 얼굴 이미지, 생체 정보(지문 정보, 홍채 정보 등) 등) 및 사용자의 권한 정보(예를 들어, 로봇에 대한 제어 권한 정보) 중 적어도 하나를 포함할 수 있다.
나아가, 저장부(120)에는 제스처와 로봇(R)에 대한 제어명령이 매칭된 제스처와 관련된 매칭 정보가 저장될 수 있다.
여기에서, 제스처(gesture)는 사용자의 동작, 모션에 대한 것으로서, 예를 들어, “사람이 손을 흔드는 동작” 등을 의미할 수 있다.
나아가, 로봇(R)에 대한 제어명령은, 로봇(R)의 동작을 제어하기 위한 제어명령을 의미할 수 있다. 여기에서, 로봇(R)의 동작은 위에서 열거한 다양한 종류의 동작 중 적어도 하나를 포함할 수 있다.
이와 같이, 제스처와 관련된 매칭 정보는, 사용자의 특정 제스처와 로봇(R)의 특정 동작에 대한 제어 명령이 상호 매칭된 정보를 의미할 수 있다. 예를 들어, “사람이 손을 흔드는 동작”에 해당하는 특정 제스처에는 “로봇(R)이 일 방향으로 회전하는 동작”에 대한 제어명령이 매칭될 수 있다. 한편, 서로 다른 사용자의 제스처에는 각각 서로 다른 동작에 대한 제어명령이 매칭될 수 있다.
다음으로 저장부(120)에는, 공간(10)에 대한 지도(map, 또는 지도 정보)가 저장될 수 있다. 여기에서, 지도는, 2차원 또는 3차원 지도 중 적어도 하나로 이루어 질 수 있다. 공간(10)에 대한 지도는 로봇(R)위 현재 위치를 파악하거나, 로봇의 주행 경로를 설정하는데 활용될 수 있는 지도를 의미할 수 있다.
특히, 본 발명에 따른 로봇 원격 제어 시스템(100)에서는, 로봇(R)에서 수신되는 영상을 기반으로 로봇(R)의 위치를 파악할 수 있다. 이를 위하여, 저장부(120)에 저장된 공간(10)에 대한 지도는 영상에 기반하여 위치를 추정할 수 있도록 하는 데이터로 구성될 수 있다.
이때, 공간(10)에 대한 지도는 사전에 공간(10)을 이동하는 적어도 하나의 로봇에 의해, SLAM(Simultaneous Localization and Mapping)에 기반하여 작성된 지도일 수 있다.
한편, 위에서 열거한 정보의 종류 외에도 저장부(120)에는 다양한 정보가 저장될 수 있다.
다음으로 디스플레이부(130)는 로봇(R)을 원격으로 관리하는 사용자 또는 관리자의 디바이스에 구비된 것으로서, 도 2에 도시된 것과 같이, 관제실(100a)에 구비될 수 있다. 나아가, 디스플레이부(130)는 모바일 디바이스에 구비된 디스플레이일 수 있다. 이와 같이, 본 발명에서는 디스플레이부의 종류에 대해서는 제한을 두지 않는다.
다음으로, 입력부(140)는 사용자(또는 관리자)로부터 입력되는 정보의 입력을 위한 것으로서, 입력부(140)는 사용자(또는 관리자)와 로봇 원격 제어 시스템(100) 사이의 매개체가 될 수 있다. 보다 구체적으로, 입력부(140)는 사용자로부터 로봇(R)을 원격으로 제어하기 위한 제어 명령을 수신하는 입력 수단을 의미할 수 있다.
이때, 입력부(140)의 종류에는 특별한 제한이 없으며, 입력부(140)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 마우스(mouse), 조이스틱(joy stic), 물리적인 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단 중 적어도 하나를 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다. 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다. 이때, 입력부(140)가 터치 스크린을 포함하는 경우, 디스플레이부(130)는 터치 스크린으로 이루어 질 수 있다. 이 경우, 디스플레이부(130)는 정보를 출력하는 역할과, 정보를 입력받는 역할을 모두 수행할 수 있다.
다음으로 제어부(150)는 본 발명과 관련된 로봇 원격 제어 시스템(100)의 전반적인 동작을 제어하도록 이루어질 수 있다. 제어부(150)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
특히, 제어부(150)는 공간(10)에 배치된 카메라(20)로부터 수신되는 영상을 이용하여, 로봇(R)을 원격으로 제어하기 위한 제어 명령을 생성할 수 있다.
보다 구체적으로, 제어부(150)는 로봇(R)에 구비된 카메라 또는 공간(10)에 배치된 카메라(20)로부터 수신된 영상을 분석하도록 이루어질 수 있다. 제어부(150)는 적어도 하나의 영상 분석 알고리즘을 이용하여, 로봇의 원격 제어에 활용되는 정보(예를 들어, 사용자 식별정보, 사용자 제스처 정보, 로봇의 식별 정보 등)를 영상으로부터 추출하도록 이루어질 수 있다. 제어부(150)는 딥러닝에 근거한 영상 분석 알고리즘을 활용하여, 영상 분석을 수행하도록 이루어질 수 있다.
나아가, 제어부(150)는 영상 분석 결과를 이용하여, 로봇(R)에 대한 제어 명령을 생성하도록 이루어질 수 있다.
한편, 로봇(R)의 식별 정보는 도 3에 도시된 것과 같이, 로봇(R)에 구비된 식별 표지(또는 식별 마크)에 근거하여, 영상으로부터 추출될 수 있다. 도 3의 (a), (b) 및 (c)에 도시된 것과 같이, 로봇(R)의 식별 표지(301. 302. 303)는 로봇의 식별 정보를 포함할 수 있다. 도시와 같이, 식별 표지(301. 302. 303)는 바코드 (barcode, 301), 일련 정보(또는 시리얼 정보, 302), QR코드(303)로 구성될 수 있으며, 바코드 (barcode, 301), 일련 정보(또는 시리얼 정보, 302), QR코드(303)는 각각 로봇의 식별 정보를 포함하도록 이루어질 수 있다.
로봇의 식별 정보는, 로봇 각각을 구분하기 위한 정보로서, 동일한 종류의 로봇이더라도, 서로 다른 식별 정보를 가질 수 있다. 한편, 식별 표지를 구성하는 정보는, 위에서 살펴본 바코드, 일련 정보, QR코드 외에도 다양하게 구성될 수 있다.
한편, 영상 관제 시스템(2000)은, 공간(10) 내 배치된 적어도 하나의 카메라(20)를 제어하도록 이루어 질 수 있다. 도시와 같이, 공간(10)에는 복수의 카메라(20a, 20b, 20c, 20d, …)가 배치될 수 있다. 이러한 복수의 카메라(20a, 20b, 20c, 20d, …)는 공간(10) 내에서 각각 서로 다른 위치에 배치될 수 있다.
이와 같이, 공간(10)의 서로 다른 위치에 복수의 카메라(20a, 20b, 20c, 20d, …)가 배치되어 있으므로, 로봇 원격 제어 시스템(100)에서는 이러한 복수의 카메라(20a, 20b, 20c, 20d, …)를 이용하여, 로봇(R)을 모니터링하는 것이 가능하다. 나아가, 본 발명에서는, 공간(10)에 배치된 카메라(20)를 통해, 로봇(R)에 대해 제어 권한이 있는 사용자를 인식하고, 나아가 사용자의 제스처(또는 모션, 행동)을 인식함으로써, 사용자의 제스처에 대응되는 제어를 로봇(R)에 대해 수행할 수 있다.
영상 관제 시스템(2000)은 로봇 원격 제어 시스템(100)과의 상호 통신을 통하여, 로봇(R)의 제어에 필요한 정보를 로봇 원격 제어 시스템(100)에 제공할 수 있다. 앞서 저장부(120)의 구성에서 살펴본 것과 같이, 영상 관제 시스템(2000)의 저장부에는, 카메라(20)에 대한 다양한 정보를 저장하도록 이루어질 수 있다. 카메라(20)에 대한 정보는 매우 다양할 수 있으며, 카메라(20)에 대한 정보는, i) 각각의 카메라(20a, 20b, 20c, 20d, …)의 식별 정보(예를 들어, 일련번호, TAG 정보, QR코드 정보 등), ii) 각각의 카메라(20a, 20b, 20c, 20d, …)의 배치 위치 정보(예를 들어, 공간 내에서 각각의 카메라(20a, 20b, 20c, 20d, …)가 어느 위치에 배치되었는지에 대한 정보), iii) 각각의 카메라(20a, 20b, 20c, 20d, …)의 화각 정보(anle of view, 예를 들어, 각각의 카메라(20a, 20b, 20c, 20d, …) 가 공간의 어느 뷰를 촬영하고 있는지에 대한 정보), iv) 각각의 카메라(20a, 20b, 20c, 20d, …)의 상태 정보(예를 들어, 전원 상태, 고장 유무, 배터리 상태 등), v) 각각의 카메라(20a, 20b, 20c, 20d, …)로부터 수신된 영상 정보 등이 존재할 수 있다.
한편, 위에서 열거된 카메라(20)에 대한 정보는 각각의 카메라(20a, 20b, 20c, 20d, …)를 기준으로 서로 매칭되어 존재할 수 있다.
예를 들어, 영상 관제 시스템(2000)의 저장부에는, 특정 카메라(20a)의 식별정보, 위치 정보, 화각 정보, 상태 정보, 및 영상 정보 중 적어도 하나가 매칭되어 매칭 정보로서 존재할 수 있다.
한편, 이하의 설명에서는 위에서 살펴본 카메라의 정보가, 어느 저장부(또는 저장소)에 저장되어 있는지에 대한 구분 없이, 설명의 편의를 위하여, 저장부(120)의 구성에 저장되었음을 예를 들어 설명하도록 한다. 즉, 카메라에 대한 정보는 상황에 따라, 다양한 저장부에 저장될 수 있으므로, 본 발명에서는 이에 대한 특별한 제한을 두지 않는다.
한편, 위의 설명에 의하면, 본 발명에서, 영상 관제 시스템(2000)과 로봇 원격 제어 시스템(100)을 별개의 구성으로 설명하였다. 그러나, 본 발명은 이에 제한되지 않으며, 영상 관제 시스템(2000)과 로봇 원격 제어 시스템(100)은 하나의 통합된 시스템으로 이루어질 수 있다. 이 경우, 영상 관제 시스템(2000)은 “카메라부”의 구성으로 명명되는 것 또한 가능하다.
이하에서는, 이상에서 살펴본 로봇 원격 제어 시스템(100)의 구성과 함께, 본 발명에 따른 로봇 원격 제어 방법에 대하여 첨부된 도면과 함께 보다 구체적으로 살펴본다. 도 4는 본 발명에 따른 로봇 원격 제어 방법을 설명하기 위한 흐름도이고, 도 5, 도 6, 도 7a, 도 7b, 도 8a, 도 8b, 도 9 및 도 10은 본 발명에 따른 로봇 원격 제어 방법 및 시스템에서 로봇을 원격으로 제어하는 방법을 설명하기 위한 개념도들이다.
먼저, 본 발명에 따른 로봇 원격 제어 방법에서는 공간(10)에 배치된 카메라(20)로부터 수신된 영상을 이용하여, 사용자의 제스처를 인식하는 과정이 진행된다(S410).
앞서 살펴본 것과 같이, 제스처(gesture)는 사용자의 “동작” 또는 “모션”이라고도 표현할 수 있다. 예를 들어, 제스처는, 도 5에 도시된 것과 같이, “사용자(1000)가 손바닥을 펴고, 일 방향을 향하여 손을 뻗은 동작” 등과 같은 사람의 동작을 의미할 수 있다. 제어부(150)는 도 5에 도시된 것과 같이, 사용자(1000)가 위치한 공간(10)에 배치된 카메라(20)에서 촬영된 영상을 이용하여, 사용자의 제스처를 인식할 수 있다. 제어부(150)는 영상 분석 알고리즘에 기반하여, 피사체에 해당하는 사용자(1000)의 제스처를 인식할 수 있다. 이때, 사용자(1000)의 제스처는, 로봇(R)의 제어와 관련된 것으로서, 보다 구체적으로, 로봇(R)의 동작을 제어하기 위한 제스처를 의미할 수 있다.
로봇(R)의 동작을 제어하기 위한 제스처는, 로봇(R)의 동작을 제어하기 위한 제어 명령이 매칭된 특정 제스처일 수 있다.
제어부(150)는 카메라(20)를 통해 수신된 영상에서 사용자(1000)의 몸짓이나 행동(또는 제스처)이 감지된 경우, 인식된 사용자의 제스처가 로봇(R)의 동작을 제어하기 위한 제어 명령이 매칭된 제스처인지를 판단하는 과정을 수행할 수 있다. 그리고, 제어부(150)는 인식된 사용자의 제스처가, 로봇(R)의 동작을 제어하기 위한 제스처가 아닌 경우, 이하에서 설명하는 일련의 과정을 진행하지 않을 수 있다.
한편, 앞서 살펴본 것과 같이, 로봇(R)의 동작을 제어하기 위한 제어 명령은, 로봇(R)의 주행, 로봇이 수행하는 임무 및 로봇의 전원 상태 등과 관련된 동작 중 적어도 하나를 제어하기 위한 제어명령일 수 있다.
나아가, 도 5에 도시된 것과 같이, 사용자(1000)를 인식하는 카메라(20)는 공간(10)에 배치되는 카메라(20)로서, 영상 관제 시스템(2000)을 통해, 또는 다이렉트(direct)로 로봇 원격 제어 시스템(100)에 영상을 공유할 수 있는 카메라이면 그 종류 및 배치 위치에 한정되지 않는다.
다음으로, 본 발명에서는, 사용자에게 제어권이 존재하는지 여부를 확인하는 과정이 진행된다(S420).
본 발명에서 “제어권”은 “제어 권한” 이라고도 표현될 수 있다. 여기에서, 제어권은 로봇을 제어할 수 있는 권한을 의미한다. 보다 구체적으로, 사용자에게 제어권이 존재한다고 함은, 사용자가 로봇을 제어할 수 있는 권한이 있음을 의미한다.
제어부(150)는 영상으로부터 사용자(1000)의 제스처가 인식되는 경우이더라도, 사용자(1000)에게 제어 권한이 존재하는 경우에만, 인식된 제스처에 기반하여 로봇을 제어할 수 있다. 제어부(150)는 임의의 사용자에 의하여 로봇이 무분별하게 제어되는 것을 방지하고자, 제어 권한이 부여된 사용자(1000)의 제스처에 대해서만 로봇에 대한 제어 명령을 생성할 수 있다.
한편, 제어부(150)는 S410 과정에서 인식된 사용자의 제스처가, 로봇(R)의 동작을 제어하기 위한 제어 명령이 매칭된 제스처인 경우, 사용자에게 제어 권한이 존재하는지 판단할 수 있다. 즉, 제어부(150)는 사용자의 제스처가, 로봇(R)에 대한 제어를 위한 유효한 제스처인 경우에만, 제스처를 취한 사용자가 로봇(R)에 대한 제어 권한이 존재하는 사용자인지를 판단할 수 있다.
한편, 본 발명에서 사용자의 제스처를 인식하는 과정(S410) 및 사용자에게 제어권이 존재하는지 여부를 확인하는 과정(S420)의 선후는 변경될 수 있으며, 또한 두 과정이 동시에 진행되는 것 또한 가능하다.
즉, 제어부(150)는 i)제어 권한이 존재하는 사용자를 인식한 후, 해당 사용자의 제스처를 인식하는 하거나 또는 ii)사용자의 제스처를 인식한 후, 해당 사용자에게 제어 권한이 존재하는지를 판단할 수 있다. 또는 위의 i) 및 ii)의 과정은 동시에 이루어질 수도 있다.
사용자에게 제어 권한이 존재하는지 여부는 다양한 방식으로 이루어질 수 있다.
일 예로서, 사용자에게 제어 권한이 존재하는지 여부의 판단은, 얼굴 인식 알고리즘에 기반하여 이루어질 수 있다.
보다 구체적으로, 제어부(150)는 사용자를 촬영하는 공간(10)에 배치된 카메라(20)를 통해 수신된 영상으로부터 사용자의 얼굴 이미지를 획득할 수 있다. 그리고, 제어부(150)는 획득된 얼굴 이미지에 대한 분석을 통하여, 사용자에게 제어 권한이 존재하는지 판단할 수 있다. 이때, 제어부(150)는 앞서 살펴본 제스처를 취한 사용자의 얼굴 이미지에 대한 분석을 수행할 수 있다.
제어부(150)는 사용자 DB(database, 데이터베이스)를 참조하여, 상기 획득된 얼굴 이미지에 대응되는 사용자가, 로봇에 대한 제어 권한을 갖는지를 판단할 수 있다. 앞서 살펴본 것과 같이, 사용자 DB는 사용자와 관련된 정보의 집합을 의미할 수 있다. 사용자와 관련된 정보는, 사용자의 식별 정보(예를 들어, 이름, 생년월일, 주소, 전화번호, 사번, ID, 얼굴 이미지, 생체 정보(지문 정보, 홍채 정보 등) 등) 및 사용자의 권한 정보(예를 들어, 로봇에 대한 제어 권한 정보) 중 적어도 하나를 포함할 수 있다.
예를 들어, 도 6에 도시된 것과 같이, 사용자 DB에는 사용자의 식별정보와 각각의 사용자에게 할당된 제어 권한에 대한 범위가 각각 매칭되어 존재할 수 있다. 제어 권한에 대한 범위는, 장소 권한, 로봇 권한 동작 권한 및 제어 시간 중 적어도 하나와 관련된 범위를 포함할 수 있다.
나아가, 도 6에 도시된 것과 같이, 사용자 DB에는 서로 다른 사용자 각각에 매칭되는 얼굴 이미지(1000a, 1000b, 1000c, 1000d, 1000e)가 포함될 수 있다. 제어부(150)는, 이러한 사용자 DB를 참조하여, 영상에서 획득된 얼굴 이미지가, 제어 권한이 있는 사용자의 얼굴 이미지인지를 판단하 할 수 있다. 제어부(150), 획득된 얼굴 이미지에 대응되는 이미지 정보를 입력 데이터로 하는 얼굴 인식 알고리즘을 이용하여, 상기 획득된 얼굴 이미지와 상기 사용자 DB의 얼굴 이미지를 비교할 수 있다. 그리고, 제어부(150)는 비교 결과에 근거하여, 상기 획득된 얼굴 이미지에 대응되는 사용자에게 제어 권한이 존재하는지 판단할 수 있다.
다른 예로서, 사용자에게 제어 권한이 존재하는지 여부의 판단은, 사용자(1000)가 소지한 식별 표지를 인식하는 것에 근거하여 이루어질 수 있다. 사용자(1000)는 로봇의 제어 권한을 가진 사용자에게 부여되는 식별 표지를 소지할 수 있다. 제어부(150)는 통신부(110)를 통하여, 사용자(1000)가 소지한 식별 표지를 인식할 수 있다. 나아가, 제어부(150)는 공간(10)내 배치된 식별 표지를 스캔하는 스캔부 또는 식별 표지를 인식하는 인식부를 이용하여, 식별 표지를 인식할 수 있다. 이러한, 식별 표지는, 안테나(예를 들어, NFC 안테나 등), 바코드, QR코드 등과 같이, 통신을 통하여 인식될 수 있는 구성을 포함할 수 있다. 이러한 식별 표지는 특정 회사의 출입 카드 등으로 구성될 수 있다.
제어부(150)는, 사용자(1000)가 소지한 식별 표지를 인식하고, 인식된 식별 표지에 대응되는 사용자 정보에 로봇에 대한 제어 권한이 포함된 경우, 사용자에게 제어 권한이 존재한다고 판단할 수 있다.
한편, 식별 표지를 통하여, 사용자에게 제어 권한이 존재하는지 판단하는 경우, 제어부(150)는 식별 표지가 인식된 장소와 상기 사용자를 촬영한 카메라(20)가 배치된 장소를 비교할 수 있다.
즉, 제어부(150)는 식별 표지를 직접적으로 소지한 사용자에 의해 로봇이 제어되도록 하기 위하여, 식별 표지가 인식된 장소에 대한 제1 위치 정보와 카메라(20)가 배치된 장소에 대한 제2 위치 정보를 비교할 수 있다. 그리고, 제어부(150)는, 상기 제1 및 제2 위치 정보를 비교한 비교 결과, 상기 식별 표지가 인식된 장소와 상기 사용자를 촬영한 카메라(20)가 배치된 장소가 일치하거나, 유사한 경우 제스처를 취한 사용자에게 제어 권한이 판단할 수 있다. 여기에서, 상기 제1 및 제2 위치 정보는 좌표 정보를 포함할 수 있다. 제어부(150)는 상기 제1 및 제2 위치 정보에 대응되는 좌표 간의 거리를 산출하고, 산출 결과에 따른 거리가 기준 거리 이내인 경우, 식별 표지를 소지한 사용자가 제스처를 취했다고 판단할 수 있다.
한편, 저장부(120)에는 식별 표지를 인식한 스캔부 또는 인식부의 식별 정보와 함께, 스캔부 또는 인식부가 배치된 장소에 대한 위치 정보가 매칭되어 존재할 수 있다. 따라서, 제어부(150)는 식별 표지를 인식한 스캔부 또는 인식부의 식별 정보와 매칭된 위치 정보를 저장부(120)로부터 추출하여, 상기 제1 위치 정보로서 특정할 수 있다.
마찬가지로, 저장부(120)에는 카메라에 대한 식별 정보와 함께, 카메라가 배치된 장소에 대한 위치 정보가 매칭되어 존재할 수 있다. 따라서, 제어부(150)는 영상을 촬영한 카메라의 식별정보와 매칭된 위치 정보를 저장부(120)로부터 추출하여, 상기 제2 위치 정보로서 특정할 수 있다.
다른 예로서, 사용자에게 제어 권한이 존재하는지 여부의 판단은, 사용자(1000)가 소지한 전자기기를 인식하는 것에 근거하여 이루어질 수 있다. 여기에서, 전자기기는, 사용자의 휴대폰(또는 스마트폰)를 포함할 수 있다. 이러한 전자기기는 사용자 DB에 미리 등록된 전자기기로서, 사용자 DB에 따른 사용자와 관련된 정보에는, 사용자의 전자기기에 대응되는 식별 정보가 저장되어 존재할 수 있다. 제어부(150)는 통신부(110)를 이용하여, 사용자(1000)가 소지한 전자기기를 인식할 수 있다. 제어부(150)는, 사용자(1000)가 소지한 전자기기를 인식하고, 인식된 전자기기에 대응되는 식별 정보에 대응되는 사용자 정보에 로봇에 대한 제어 권한이 포함된 경우, 상기 전자기기를 소지한 사용자에게 제어 권한이 존재한다고 판단할 수 있다.
한편, 전자기기를 인식하는 것을 통하여, 사용자에게 제어 권한이 존재하는지 판단하는 경우, 제어부(150)는 전자기기가 인식된 장소와 상기 사용자를 촬영한 카메라(20)가 배치된 장소를 비교할 수 있다.
즉, 제어부(150)는 전자기기를 직접적으로 소지한 사용자에 의해 로봇이 제어되도록 하기 위하여, 전자기기가 인식된 장소에 대한 제1 위치 정보와 카메라(20)가 배치된 장소에 대한 제2 위치 정보를 비교할 수 있다. 그리고, 제어부(150)는, 상기 제1 및 제2 위치 정보를 비교한 비교 결과, 상기 전자기기가 인식된 장소와 상기 사용자를 촬영한 카메라(20)가 배치된 장소가 일치하거나, 유사한 경우 제스처를 취한 사용자에게 제어 권한이 판단할 수 있다. 여기에서, 상기 제1 및 제2 위치 정보는 좌표 정보를 포함할 수 있다. 제어부(150)는 상기 제1 및 제2 위치 정보에 대응되는 좌표 간의 거리를 산출하고, 산출 결과에 따른 거리가 기준 거리 이내인 경우, 전자기기를 소지한 사용자가 제스처를 취했다고 판단할 수 있다.
한편, 저장부(120)에는 전자기기와 가장 강한 신호 강도로 통신한 통신부의 식별 정보와 함께, 통신부가 배치된 장소에 대한 위치 정보가 매칭되어 존재할 수 있다. 따라서, 제어부(150)는 상기 전자기기와 가장 강한 신호 강도로 통신한 통신부의 식별 정보와 매칭된 위치 정보를 저장부(120)로부터 추출하여, 상기 제1 위치 정보를 특정할 수 있다. 제어부(150)는 통신부의 배치 위치, 전자기기와 통신부 사이의 신호 강도에 근거하여, 전자기기의 위치를 특정할 수 있다. 특정된 전자기기의 위치는 상기 제1 위치 정보로서 표현될 수 있다.
마찬가지로, 저장부(120)에는 카메라에 대한 식별 정보와 함께, 카메라가 배치된 장소에 대한 위치 정보가 매칭되어 존재할 수 있다. 따라서, 제어부(150)는 영상을 촬영한 카메라의 식별정보와 매칭된 위치 정보를 저장부(120)로부터 추출하여, 상기 제2 위치 정보로서 특정할 수 있다.
다른 예로서, 사용자에게 제어 권한이 존재하는지 여부의 판단은, 사용자의 제스처에 기반하여 이루어질 수 있다.
여기에서, 사용자의 제스처는, 로봇의 제어 권한이 존재함을 증명하기 위하여 사전에 정의된 특정 제스처일 수 있다. 제어부(150)는 사전에 정의된 특정 제스처가 카메라(20)를 통하여 촬영되는 경우, 상기 특정 제스처를 취한 사용자에게 로봇을 제어할 수 있는 제어 권한이 존재한다고 판단할 수 있다.
한편, 위에서 살펴본 방법 외에도, 사용자에게 로봇에 대한 제어 권한이 존재하는지에 대한 판단은 다양한 방법으로 이루어질 수 있다.
한편, 본 발명에서 사용자에게 제어 권한이 존재하는지 여부는, 제스처를 취한 사용자가, 제스처에 대응되는 로봇의 동작을 제어할 권한이 있는지 존재하는지 여부를 의미할 수 있다.
로봇의 동작을 제어할 권한에 대한 정보는, 동작 권한이라고도 명명될 수 있다. 이러한 동작 권한은 사용자 마다 각각 설정될 수 있다. 도 6에 도시된 것과 같이, 사용자 DB에는 로봇의 제어 권한과 관련된 다양한 권한이 사용자 마다 설정될 수 있다.
동작 권한에 대하여 보다 구체적으로, 살펴보면, 동작 권한은 사용자가 로봇에 대해 어떤 동작을 제어 가능한지에 대한 정보로서, 도 6에 도시된 것과 같이, 사용자에 따라 동작 권한이 설정될 수 있다.
예를 들어, 제1 사용자(JENIFER)에는 로봇의 모든 동작을 제어할 수 있는 제어 권한이 설정될 수 있다. 그리고, 제2 사용자(SAM)에는 로봇의 주행에 대해서 제어할 수 있는 제어 권한이 설정될 수 있다.
앞서 살펴본 것과 같이, “로봇의 동작”의 유형은 매우 다양할 수 있다. 예를 들어, 로봇의 동작은 로봇의 주행, 로봇이 수행하는 임무, 로봇의 전원 상태 등과 관련된 동작을 모두 포함하는 개념으로 이해되어 질 수 있다.
로봇의 주행과 관련된 동작은, 로봇의 주행 속도, 주행 방향, 회전 방향, 회전 속도, 주행 시작, 주행 정지, 주행 종료와 같이, 로봇의 주행과 관련된 다양한 동작을 포함할 수 있다.
다음으로 로봇이 수행하는 임무와 관련된 동작은, 로봇이 수행하는 임무의 종류에 따라 다를 수 있다. 예를 들어, 로봇이 길안내 서비스를 제공하는 로봇인 경우, 로봇이 수행하는 임무와 관련된 동작은, 길안내를 위한 길 찾기 동작, 길안내를 위한 주행 동작 등을 포함할 수 있다. 또 다른 예를 들어, 로봇(R)이 서빙 서비스를 제공하는 로봇인 경우, 로봇이 수행하는 임무와 관련된 동작은, 서빙을 위한 주행 동작, 서빙을 위한 로봇의 하드웨어를 구동하는 동작 등을 포함할 수 있다.
다음으로, 로봇의 전원 상태와 관련된 동작은, 로봇(R)의 전원을 온(ON) 또는 오프(OFF)시키는 동작, 로봇을 대기 상태(standby state)로 구동하는 동작, 로봇을 슬립 모드(sleep mode)로 구동하는 동작 등을 포함할 수 있다. 위에서 열거한 예들 외에도, 로봇의 동작의 종류는 다양할 수 있으며, 본 발명은 위의 예들에 한정되지 않는다.
이와 같이, 로봇의 동작은 다양하며, 본 발명에서 사용자 DB에 따른 사용자의 식별 정보에는 사용자의 직무, 업무 등에 근거하여 설정되는 로봇의 동작에 대한 다양한 동작 권한이 설정될 수 있다.
한편, 도 7a에 도시된 것과 같이, 위에서 살펴본 다양한 로봇의 동작 마다 서로 다른 제스처가 매칭되어 존재할 수 있다. 저장부(120, 또는 데이터베이스)에는 도시와 같이, 제스처 정보와 동작 정보가 서로 매칭되어 매칭 정보로서 저장될 수 있다.
제어부(150)는 영상을 통해 인식된 제스처와 저장부(120)에 저장된 매칭 정보를 비교하여, 상기 인식된 제스처에 대응되는 제스처 및 이에 대응되는 로봇의 동작을 추출할 수 있다. 그리고, 제어부(150)는 상기 추출된 로봇의 동작이, 상기 인식된 제스처를 취한 사용자에게 설정된 제어 권한 범위 내에 포함된 동작인지 판단할 수 있다. 그리고, 판단 결과, 상기 제스처를 취한 사용자에게 상기 추출된 로봇의 동작을 제어할 수 있는 제어 권한이 존재하는 경우, 상기 제스처를 취한 사용자에게 제어 권한이 존재한다고 판단할 수 있다. 즉, 제어부(150)는 제어 대상 로봇을 특정하기 전에, 사용자가 취한 제스처에 대응되는 로봇의 동작을 제어할 수 있는 제어 권한이 사용자에게 존재하는지를 먼저 판단할 수 있다.
예를 들어, 공간(10)에 배치된 카메라(20)를 통해, 제2 사용자(SAM)가 취한 제스처가 인식되었다고 가정하자. 이 경우, 제어부(150)는 제2 사용자(SAM)이 취한 제스처를 인식하고, 인식된 제스처에 대응되는 로봇의 동작을 추출할 수 있다. 만약, 제2 사용자(SAM)가 취한 제스처에 대응되는 로봇의 동작이, 로봇의 전원을 OFF시키는 제스처에 해당하는 경우, 제어부(150)는 로봇의 주행에 대해 동작 권한 만을 갖는 제2 사용자(SAM)에게, 상기 로봇의 전원을 OFF시키는 동작에 대한 제어 권한이 없다고 판단할 수 있다. 따라서, 이경우, 제어부(150)는 제2 사용자(SAM)의 제스처에 근거하여 제어될 제어 대상 로봇을 특정하지 않을 수 있다.
이와 같이, 제어부(150)는, 제스처를 취한 사용자를 다양한 방법으로 인식하고, 인식된 사용자에게, 상기 제스처에 대응되는 로봇의 동작을 제어할 수 있는 동작 권한의 존재 여부를 확인함으로써, 사용자에게 제어 권한이 존재하는지를 확인할 수 있다.
한편, 본 발명에서는, 사용자 마다 로봇의 동작에 대한 동작 권한이 별도로 설정되지 않는 것 또한 가능하다. 이 경우, 제어부(150)는 사용자가 취한 제스처에 대응되는 동작을 제어할 수 있는 권한이 존재하는지, 상기 사용자의 동작 권한을 확인하지 않을 수 있다. 즉, 이경우, 제어부(150)는 제스처를 취한 사용자에게, 로봇의 제어와 관련된 권한이 존재하는지 여부를 판단할 수 있다.
한편, 본 발명에서는, 로봇에 대해 제어를 수행할 수 있는 제어 시간에 따라, 제스처를 취한 사용자에게 제어 권한이 존재하는지 판단하는 것 또한 가능하다. 즉, 도 6에 도시된 것과 같이, 본 발명에서는, 사용자 마다 로봇을 제어할 수 있는 제어 시간이 각각 설정될 수 있다.
예를 들어, 제1 사용자(JENIFER)는 24시간 내내 로봇에 대한 제어 권한을 가질 수 있다. 그리고, 제3 사용자(ANNE)은 18시00분부터 24시00분까지 로봇에 대한 제어 권한을 가질 수 있다. 제어부(150)는 위에서 살펴본 방법에 따라 제스처를 위한 사용자가 인식된 경우, 인식된 사용자에 매칭된 제어 권한을 확인할 수 있다. 그리고, 사용자가 제스처를 취한 시간이, 상기 제어 권한에 포함된 제어 시간 내인 경우에 한하여, 인식된 사용자에 제어 권한이 존재하는 것으로 판단할 수 있다. 예를 들어, 제3 사용자(ANNE)에 의해, 15시 30분에 제스처가 취해진 경우, 제어부(150)는 제3 사용자(ANNE)에 의해 취해진 제스처가 제3 사용자(ANNE)의 동작 권한에 내에 포함된 로봇의 동작에 해당하는 경우이더라도, 제3 사용자(ANNE)에게 제어권이 존재하지 않는다고 판단할 수 있다.
한편, 제어부(150)는 로봇에 대한 동작 권한 및 제어 시간 권한을 모두 갖는 사용자가 인식된 경우에 한하여, 사용자에게 제어권이 존재한다고 판단할 수 있다. 한편, 사용자에게 제어권이 존재하는지 판단하는 기준은 매우 다양할 수 있으며, 본 발명은 위에서 열거된 예들에 구속되지 않는다.
위에서 살펴본 것과 같이, 로봇에 대한 제어 권한이 존재하는 사용자에 의해, 로봇을 제어하기 위한 제스처가 취해진 경우, 본 발명에 따른 로봇 원격 제어 방법에서는, 제어 대상 로봇을 특정하는 과정이 진행될 수 있다(S430). 그리고, 본 발명에 따른 로봇 원격 제어 방법에서는, 특정된 제어 대상 로봇으로 사용자가 취한 제스처에 대응되는 제어 명령이 전송되는 과정이 진행될 수 있다(S440).
보다 구체적으로, 제어부(150)는 제스처를 취한 사용자에게 제어 권한(또는 제어권)이 존재하는지 확인한 결과, 사용자에게 제어권이 존재하는 경우, 상기 제스처에 의해 제어될 제어 대상 로봇을 특정할 수 있다.
앞서 도 1a, 도 1b 및 도 5에 도시된 것과 같이, 공간(10)에는 서로 다른 복수의 로봇이 존재할 수 있다.
따라서, 제어부(150)는, 공간(10)에 위치한 로봇 중 상기 사용자의 제스처에 기반하여 제어되는 적어도 하나의 로봇을 특정하는 작업을 수행함으로써, 제어 대상을 명확하게 특정하도록 한다.
본 발명에서 제어 대상 로봇을 특정하는 방법은 다양할 수 있다.
일 예로서, 제어부(150)는 사용자 DB로부터, 상기 제스처를 취한 사용자의 제어 권한이 미치는 로봇의 식별 정보를 확인할 수 있다. 그리고, 상기 사용자의 제어 권한이 미치는 로봇의 식별 정보에 대응되는 로봇을 제어 대상 로봇으로 특정할 수 있다. 예를 들어, 도 6에 도시된 것과 같이, 사용자 DB에는 사용자의 식별정보와 각각의 사용자에게 할당된 제어 권한에 대한 범위가 각각 매칭되어 존재할 수 있다.
먼저, 장소 권한에 대하여 살펴보면, 장소 권한은, 사용자가, 공간(10) 내 서로 다른 복수의 장소 중 어느 장소에 배치된 로봇을 제어 가능한지에 대한 권한을 의미할 수 있다.
예를 들어, 도 1a에 도시된 것과 같이, 복수의 장소는, 공간(10)에서 서로 다른 층(floor)에 각각 대응되는 장소(10a, 10b, 10c, 10d)를 의미할 수 있다.
제어부(150)는 제스처를 취한 사용자의 식별정보에 매칭된 장소 권한에 근거하여, 상기 장소 권한에 대응되는 장소에 배치된 로봇을 제어 대상 로봇으로 특정할 수 있다.
다음으로, 로봇 권한에 대하여 살펴보면, 로봇 권한은 사용자가 공간(10)내 배치된 로봇 중 어느 로봇에 대해 제어를 수행할 수 있는지에 대한 권한을 의미할 수 있다. 도시와 같이, 로봇 권한은 로봇의 종류(또는 로봇의 식별 정보)를 기준으로 할당될 수 있다. 예를 들어, 수행하는 임무에 따라 로봇은 구분될 수 있으며, 사용자의 식별 정보에는 사용자 마다 각각 제어가 가능한 종류의 로봇에 대한 제어 권한이 설정될 수 있다.
예를 들어, 제1 사용자(JENIFER)에는 모든 종류의 로봇을 제어할 수 있는 제어 권한이 설정될 수 있다. 그리고, 제2 사용자(SAM)에는 길안내 로봇에 한하여 제어할 수 있는 제어 권한이 설정될 수 있다.
이와 같이, 제어부(150)는 제스처를 취한 사용자에게 매칭된 로봇 권한에 근거하여, 제어 대상 로봇을 특정할 수 있다. 즉, 제어부(150)는, 사용자에게 부여된 제어권에 매칭된 로봇의 식별 정보(또는 종류)를 확인하고, 확인된 식별 정보에 대응되는 적어도 하나의 로봇을 상기 제어 대상 로봇으로 특정할 수 있다.
여기에서, 로봇의 식별 정보는 다양하게 해석될 수 있으며, 도 6에 도시된 것과 같이, 로봇의 종류를 의미할 수 있다. 이와 다르게, 로봇의 식별 정보는 개별 로봇 마다의 고유의 정보를 의미할 수 있다. 이 경우, 동일한 종류(예를 들어, 택배 로봇 종류)의 로봇이더라도, 사용자 마다 서로 다른 로봇에 대한 제어 권한이 설정될 수 있다.
한편, 제어부(150)는 제스처를 취한 사용자에게 매칭된 로봇 권한에 근거하여 특정된 로봇이 복수인 경우, 복수의 로봇을 제어 대상 로봇으로 특정할 수 있다. 이 경우, 제어부(150)는 도 5에 도시된 것과 같이, 사용자의 제스처에 기반하여, 복수의 로봇(R1, R2, R3, R4)을 일괄적으로 제어할 수 있다. 따라서, 사용자는 한번의 제스처를 취하는 것만으로도 복수의 로봇을 일괄적으로 제어할 수 있다.
나아가, 제어부(150)는 위에서 살펴본 장소 권한 및 로봇 권한을 모두 만족하는 로봇을 제어 대상 로봇으로 특정할 수 있다. 제어부(150)는 제스처를 취한 사용자의 식별 정보에 매칭된 장소 권한 및 로봇 권한에 모두 대응되는 적어도 하나의 로봇을 제어 대상 로봇으로 특정할 수 있다.
예를 들어, 제1 사용자(JENIFER)에 의해 로봇을 제어하기 위한 제스처가 취해진 것이 카메라(20)로부터 촬영된 경우, 제어부(150)는 공간(10)내 모든 층에 위치한 모든 로봇에 대하여, 상기 제1 사용자(JENIFER)가 취한 제스처에 대응되는 제어를 수행할 수 있다(도 6의 표 참조). 예를 들어, 상기 제1 사용자(JENIFER)가 취한 제스처가 도 5 및 도 7a에 도시된 것과 같이, 로봇의 주행을 정지시키는 동작에 대응되는 경우, 제어부(150)는 공간(10)내 모든 층에 위치한 모든 로봇의 주행이 정지되도록 하는 제어 명령을 생성할 수 있다. 그리고, 생성된 제어 명령은, 공간(10) 내 모든 층에 위치한 모든 로봇에게 전송될 수 있다. 그 결과, 공간(10) 내 모든 층에 위치한 모든 로봇의 주행은 일괄적으로 정지될 수 있다.
또 다른 예를 들어, 제2 사용자(SAM)에 의해 로봇을 제어하기 위한 제스처가 취해진 것이 카메라(20)로부터 촬영된 경우, 제어부(150)는 1층에 해당하는 공간에 위치한 길안내 로봇을 제어 대상 로봇으로 특정할 수 있다. 그리고, 제어부(150)는, 상기 제2 사용자(SAM)이 취한 제스처에 대응되는 제어를, 1층에 해당하는 공간에 위치한 길안내 로봇에 대해 수행할 수 있다(도 6의 표 참조).
한편, 제어 대상 로봇을 특정하는 방법은 위에서 살펴본 사용자 DB를 참조하는 방법 외에 다른 방법으로도 이루어질 수 있다. 이하의 설명에서는, 제스처를 취한 사용자는, 로봇에 대한 제어 권한이 존재한다고 가정한다.
일 예로서, 제어부(150), 사용자의 제스처에 기반하여 제어 대상 로봇을 특정할 수 있다. 도 7b에 도시된 것과 같이, 제어부(150)는 사용자의 제스처에 기반하여, 장소, 로봇의 종류 및 동작 중 적어도 하나를 특정할 수 있다.
사용자에 의하여 취해질 수 있는 서로 다른 제스처 각각에는 서로 다른 정보 또는 명령이 매칭될 수 있다.
예를 들어, 저장부(120)에는 서로 다른 건물에 장소에 각각 대응되는 서로 다른 제스처에 대한 제스처 정보가 포함될 수 있다. 여기에서, 장소는, 로봇이 위치하는 장소로서, 제어부(150)는 사용자의 제스처에 기반하여 장소를 특정하고, 특정된 장소에 위치한 로봇을 제어 대상 로봇으로 특정할 수 있다. 예를 들어, 사용자의 제스처가 “주먹을 쥐는 제스처”에 대응되는 경우, 제어부(150)는 건물 전체에 포함된 로봇을 제어 대상 로봇으로 특정할 수 있다.
또 다른 예를 들어, 저장부(120)에는 서로 다른 로봇(또는 서로 다른 로봇 종류(타입))에 각각 대응되는 서로 다른 제스처에 대한 제스처 정보가 포함될 수 있다. 제어부(150)는 사용자의 제스처에 기반하여 로봇의 종류를 특정하고, 특정된 종류에 대응되는 로봇을 제어 대상 로봇으로 특정할 수 있다. 예를 들어, 사용자의 제스처가 “오른쪽 팔을 위를 향하여 올리는 제스처”에 대응되는 경우, 제어부(150)는 청소 로봇을 제어 대상 로봇으로 특정할 수 있다.
이와 같이, 제어부(150)는 영상으로부터 장소 특정하는 제1 제스처 및 로봇을 특정하는 제2 제스처가 모두 인식된 경우, 제1 제스처에 대응되는 장소에 위치한 로봇 중 제2 제스처에 대응되는 종류의 로봇을 제어 대상 로봇으로 특정할 수 있다.
이 경우, 제어부(150)는 장소 조건 및 로봇 조건을 모두 만족하는 로봇을 제어 대상 로봇으로 특정할 수 있다. 이와 같이, 사용자의 제스처에는 복수의 제스처가 포함될 수 있으며, 제어부(150)는 복수의 제스처에 각각 대응되는 정보 또는 동작에 기반하여, 제어 대상 로봇을 특정하고, 로봇에 대한 동작을 수행할 수 있다.
즉, 사용자는, 제스처를 통하여, 제어 대상 로봇이 위치하는 장소, 로봇의 종류 및 동작을 모두 지정할 수 있다. 이 경우, 사용자의 제스처는 복수 일 수 있다. 사용자는, 장소를 특정하기 위한 제1 제스처, 로봇의 종류를 특정하기 위한 제2 제스처 및 로봇의 동작을 특정하기 위한 제3 제스처를 취할 수 있다. 제어부(150)는 공간(10)에 위치한 카메라(20)로부터 촬영된 영상으로부터, 상기 제1, 제2 및 제3 제스처를 추출할 수 있다. 그리고, 제어부(150)는, 데이터베이스를 참고하여, 추출된 제1, 제2 및 제3 제스처에 각각 매칭된 정보(장소 정보 및 로봇 정보 중 적어도 하나)에 근거하여, 제어 대상 로봇을 특정할 수 있다. 나아가, 제어부(150)는, 추출된 제3 제스처에 대응되는 로봇의 동작이 상기 제어 대상 로봇에서 수행되도록, 상기 제3 제스처에 대응되는 로봇의 동작에 해당하는 제어 명령을 생성할 수 있다. 이러한 제어 명령은 상기 특정된 제어 대상 로봇으로 전송될 수 있다.
제어 대상 로봇을 특정하는 또 다른 예에 대하여 살펴본다. 이하의 설명에서는, 제스처를 취한 사용자는, 로봇에 대한 제어 권한이 존재한다고 가정한다.
제어부(150)는 사용자를 촬영한 카메라(20)가 배치된 장소에 근거하여, 제어 대상 로봇을 특정할 수 있다.
제어부(150)는, 공간(10)에 배치된 카메라 중 상기 사용자를 촬영한 카메라를 식별할 수 있다. 여기에서, 카메라의 식별은, 저장부(120)에 저장된 카메라와 관련된 식별 정보를 이용하여 이루어질 수 있다. 제어부(150)는, 저장부(120)에 저장된 카메라와 관련된 식별정보에 근거하여, 공간(10)에 포함된 복수의 장소 중 상기 사용자를 촬영한 카메라가 배치된 장소를 특정할 수 있다. 그리고, 제어부(150)는, 특정된 장소에 위치한 적어도 하나의 로봇을 제어 대상 로봇으로 특정할 수 있다.
한편, 제어부(150)는 어느 로봇이 어느 장소에 위치했는지에 대한 정보를 실시간 또는 기 설정된 시간 간격으로 모니터링할 수 있다. 제어부(150)는 로봇으로부터 수신되는 위치 정보에 기반하여, 로봇이 위치한 정보를 모니터링할 수 있다. 따라서, 제어부(150)는 로봇으로부터 수신되는 로봇의 위치 정보에 기반하여, 상기 특정된 장소에 위치한 로봇을 제어 대상 로봇으로 특정할 수 있다.
한편, 공간에(10)에 포함된 복수의 장소는 물리적, 개념적 또는 관념적으로 구분되는 서로 다른 장소일 수 있다. 예를 들어, 도 8a에 도시된 것과 같이, 복수의 장소는, 공간(10)에서 서로 다른 층(floor)에 각각 대응되는 영역(또는 장소, 10a, 10b, 10c, 10d)일 수 있다. 제어부(150)는, 도 8a에 도시된 것과 같이, 상기 서로 다른 층 중 제스처를 취한 사용자(1000)를 촬영한 카메라가 배치된 층(예를 들어, 2층, 10b에 대응되는 공간)이 특정된 경우, 상기 특정된 층에 위치한 로봇(R4, R5, R6, …)을 제어 대상 로봇으로 특정할 수 있다. 그리고, 제어부는, 상기 특정된 층에 위치한 제어 대상 로봇 모두에게, 사용자의 제스처에 대응되는 로봇의 동작에 따른 제어 명령이 전송되도록 통신부(110)를 제어할 수 있다.
한편, 제어부(150)는 앞서 설명한 사용자의 제스처 또는 사용자 DB에 근거하여, 제어 대상 로봇을 추가적으로 특정하는 것 또한 가능하다. 즉, 제어부(150)는 상기 카메라가 위치한 장소에 위치한 로봇 중에서, 적어도 하나의 로봇을 제어 대상 로봇으로 선택적으로 특정할 수 있다. 이 경우, 카메라가 식별된 장소는 로봇이 위치한 장소를 특정하는 데에 활용될 수 있다.
제어 대상 로봇을 특정하는 또 다른 예에 대하여 살펴본다. 이하의 설명에서는, 제스처를 취한 사용자는, 로봇에 대한 제어 권한이 존재한다고 가정한다. 제어부(150)는, 도 8에 도시된 것과 같이, 사용자(1000)의 제스처가 인식된 영상에서 특정 로봇(R)이 함께 인식된 경우, 인식된 특정 로봇을 제어 대상 로봇으로 특정할 수 있다. 즉, 제어부(150)는 제스처를 취한 사용자를 촬영한 카메라(20)의 화각(angle of view) 내에 포함된 로봇(R)을 제어 대상 로봇으로 특정할 수 있다.
예를 들어, 제어부(150)는 도 3에서 살펴본 것과 같이, 영상으로부터 로봇(R)에 구비된 식별 표지를 인식하는 것을 통하여, 제어 대상 로봇을 특정할 수 있다. 다른 예를 들어, 제어부(150)는 로봇의 위치 정보와 상기 사용자를 촬영한 카메라(20)가 배치된 위치의 위치 정보를 비교하여, 제어 대상 로봇을 특정할 수 있다.
또 다른 예를 들어 제어부(150)는, 도 8b에 도시된 것과 같이, 로봇을 특정하기 위한 사용자의 제스처(예를 들어, 도 8b에 도시된 것과 같이, 로봇(R)을 가르키는 제스처)에 기반하여, 제어 대상 로봇을 특정할 수 있다.
한편, 제어부(150)는 제스처를 취한 사용자를 촬영한 카메라의 화각에 포함된 로봇이 특정되는 경우, 특정된 로봇의 종류와 동일한 종류의 적어도 하나의 다른 로봇을 제어 대상 로봇으로 특정할 수 있다. 이는 사용자가 동일한 종류의 로봇을 일괄적으로 제어하고 싶어 하는 니즈를 반영하기 위함이다. 이 경우, 제어부(150)는 상기 특정된 로봇과 기 설정된 거리 이내에 위치하는 상기 적어도 하나의 다른 로봇으로, 사용자가 취한 제스처에 대응되는 제어 명령을 전송할 수 있다.
이와 같이, 본 발명에서는, 다양한 방법으로 제어 대상 로봇을 특정할 수 있다. 한편, 제어부(150)는 제어 대상 로봇으로, 사용자의 제스처에 대응되는 제어 명령이 전송되도록 통신부(110)를 제어할 수 있다. 사용자의 제스처에 대응되는 제어 명령은 로봇의 동작을 제어하기 위한 제어 명령으로서, 로봇이 사용자의 제스처에 대응되는 동작을 수행하도록 하는 제어 명령으로 이해되어 질 수 있다. 이러한 제어 명령을 수신한 로봇은, 제어 명령에 대응되는 동작을 수행할 수 있다.
한편, 도 7a 및 도 7b에 도시된 것과 같이, 서로 다른 제스처 마다 서로 다른 로봇의 동작이 매칭될 수 있다. 제어부(150)는 로봇의 동작 및 제스처를 매칭한 데이터베이스를 참조하여, 영상으로부터 인식되는 사용자 제스처에 따른 로봇의 동작을 추출할 수 있다.
한편, 사용자는 도 9에 도시된 것과 같이, 서로 다른 로봇의 동작에 각각 대응되는 서로 다른 제스처(910, 920, 930)를 연속적 또는 서로 다른 시점(t1, t2, t3)에 취할 수 있다.
제어부(150)는 카메라(20)로부터 촬영된 영상으로부터 서로 다른 복수의 제스처(910, 920, 930)가 인식된 경우, 상기 데이터베이스로부터 상기 복수의 제스처에 각각 대응되는 복수의 동작을 추출할 수 있다. 그리고, 제어부(150)는, 상기 복수의 동작이, 앞서 살펴본 방식으로 특정된 제어 대상 로봇에서 수행되도록 상기 복수의 동작에 각각 대응되는 복수의 제어 명령을 생성할 수 있다. 이러한 복수의 제어 명령은 제어 대상 로봇으로 전송될 수 있다. 따라서, 제어 대상 로봇에서는, 수신한 복수의 제어 명령에 각각 대응되는 동작을 수행할 수 있다.
제어부(150)는, 순차적으로 상기 복수의 제어 명령에 각각 대응되는 복수의 동작이 상기 제어 대상 로봇에서 수행되도록, 상기 복수의 제어 명령에 대해 우선순위를 결정할 수 있다. 즉, 제어부(150)는 복수의 제어 명령 간에 우선순위를 할당할 수 있다. 예를 들어, 제어부(150)는 영상에서 복수의 제스처가 인식된 순서에 기반하여, 복수의 제어 명령 간에 우선순위를 결정할 수 있다. 즉, 상기 우선순위는, 영상으로부터 복수의 제스처가 인식된 순서에 근거할 수 있다. 이때, 로봇에서는, 수신한 제어 명령에 각각 대응되는 동작들 중 기 설정될 우선순위에 따라 순차적으로 동작을 수행할 수 있다. 예를 들어, 도 9에 도시된 것과 같이, 제어부(150)는 영상으로부터, 제1 시점(t1)에 택배를 지정 장소로 이동하도록 로봇 동작에 해당하는 제1 제스처(910), 제2 시점(t2)에 10분 동안 대기하도록 하는 로봇 동작에 해당하는 제2 제스처(920), 제3 시점(t1)에 로봇을 대기 모드로 전환하도록 하는 로봇 동작에 해당하는 제3 제스처(930)를 순차적으로 인식할 수 있다. 그리고, 제어부(150)는, 상기 제1 내지 제3 제스처에 각각 대응되는 제1 내지 제3 제어 명령에, 상기 제1 내지 제3 제스처가 인식된 순서에 따른 우선순위를 할당하여, 로봇(R)으로 전송할 수 있다. 이 경우, 로봇(R)에서는, i)택배를 지정 장소로 이동한 후, ii)10분 동안 대기하며, iii)대기 모드로 전환하는 동작을 순차적으로 수행할 수 있다.
한편, 본 발명에 따른 로봇 원격 제어 방법에서는, 제어 대상 로봇으로부터, 제어 대상 로봇에 전송된 제어 명령에 대응되는 동작에 대한 피드백 정보를 수신하는 과정 및 사용자의 단말기로 상기 피드백 정보를 전송하는 과정 중 적어도 하나의 과정을 더 포함할 수 있다. 이 경우, 도 10에 도시된 것과 같이, 사용자의 전자기기 또는 로봇 원격 제어 시스템(100)의 디스플레이부에는, 피드백 정보(1010)가 출력될 수 있다. 한편, 사용자는, 도시와 같이, 사용자의 전자기기 또는 로봇 원격 제어 시스템(100)을 통하여, 로봇에 대한 제어 명령을 인가하는 것 또한 가능하다.
위에서 살펴본 것과 같이, 본 발명에 따른 로봇 원격 제어 방법 및 시스템은, 공간에 배치된 카메라로부터 사용자의 제스처를 이용하여, 로봇에 대한 제어 명령을 생성할 수 있다. 즉, 사용자는 로봇을 제어하기 위하여 디바이스를 조작하거나, 로봇을 조작하는 과정없이, 공간에 배치된 카메라에 제스처를 취하는 것 만으로 로봇에 대한 제어를 수행할 수 있다. 이러한 본 발명에 의하면, 로봇을 제어하기 위하여 로봇을 일일이 찾아다니거나, 별도의 조작 디바이스를 제어하는 번거로움을 줄일 수 있다.
나아가, 본 발명에 따른 로봇 원격 제어 방법 및 시스템은, 공간에 배치된 카메라로부터 인식된 사용자의 제스처에 기반하여, 복수의 로봇에 대한 제어 명령을 생성할 수 있다. 따라서, 사용자는 복수의 로봇을 제어하기 위하여 복수번의 제어 명령을 인가할 필요 없이, 한번의 제스처 만으로 복수의 로봇을 제어할 수 있으며, 이를 통해 로봇을 제어하는 시간을 효율적으로 관리할 수 있다.
한편, 위에서 살펴본 본 발명은, 컴퓨터에서 하나 이상의 프로세스에 의하여 실행되며, 이러한 컴퓨터로 판독될 수 있는 매체에 저장 가능한 프로그램으로서 구현될 수 있다.
나아가, 위에서 살펴본 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드 또는 명령어로서 구현하는 것이 가능하다. 즉, 본 발명은 프로그램의 형태로 제공될 수 있다.
한편, 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다.
나아가, 컴퓨터가 읽을 수 있는 매체는, 저장소를 포함하며 전자기기가 통신을 통하여 접근할 수 있는 서버 또는 클라우드 저장소일 수 있다. 이 경우, 컴퓨터는 유선 또는 무선 통신을 통하여, 서버 또는 클라우드 저장소로부터 본 발명에 따른 프로그램을 다운로드 받을 수 있다.
나아가, 본 발명에서는 위에서 설명한 컴퓨터는 프로세서, 즉 CPU(Central Processing Unit, 중앙처리장치)가 탑재된 전자기기로서, 그 종류에 대하여 특별한 한정을 두지 않는다.
한편, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (13)

  1. 공간에 배치된 카메라로부터 수신된 영상을 이용하여, 로봇의 제어와 관련된 사용자의 제스처를 인식하는 단계;
    상기 사용자에게 제어권이 존재하는지 여부를 확인하는 단계;
    확인 결과, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 제스처에 따라 제어되는 제어 대상 로봇을 특정하는 단계; 및
    상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송하는 단계를 포함하고,
    상기 제어 명령을 전송하는 단계에서는,
    상기 공간에 포함된 복수의 층 중 상기 사용자를 촬영한 카메라가 포함된 특정 층에 위치한 로봇 모두를 제어 대상 로봇으로 특정하고,
    상기 특정 층에 위치한 상기 제어 대상 로봇 모두에서 상기 제스처에 따른 동작이 수행되도록, 상기 특정 층에 위치한 상기 제어 대상 로봇 모두에게 상기 제어 명령을 전송하는 것을 특징으로 하는 로봇 원격 제어 방법.
  2. 삭제
  3. 제1항에 있어서,
    상기 제어 대상 로봇이 복수인 경우,
    상기 제어 명령을 전송하는 단계에서는,
    상기 복수의 제어 대상 로봇 모두에서 상기 제스처에 따른 동작이 수행되도록, 상기 복수의 제어 대상 로봇 각각에 상기 제어 명령을 전송하는 것을 특징으로 하는 로봇 원격 제어 방법.
  4. 삭제
  5. 삭제
  6. 제1항에 있어서,
    상기 제어 명령을 전송하는 단계는,
    상기 제스처에 대응되는 상기 제어 명령을 생성하는 단계를 더 포함하고,
    상기 제어 명령을 생성하는 단계에서는,
    데이터베이스로부터 상기 제스처에 매칭된 동작을 추출하며, 추출된 동작이 상기 제어 대상 로봇에서 수행되도록 상기 추출된 동작에 대응되는 제어 명령을 생성하는 것을 특징으로 하는 로봇 원격 제어 방법.
  7. 제6항에 있어서,
    상기 제어 명령을 생성하는 단계에서는,
    상기 영상으로부터 복수의 제스처가 인식된 경우, 상기 데이터베이스로부터 상기 복수의 제스처에 각각 대응되는 복수의 동작을 추출하고,
    상기 복수의 동작이 상기 제어 대상 로봇에서 수행되도록, 상기 복수의 동작에 각각 대응되는 복수의 제어 명령을 생성하는 것을 특징으로 하는 로봇 원격 제어 방법.
  8. 제7항에 있어서,
    상기 제어 명령을 생성하는 단계에서는,
    순차적으로 상기 복수의 동작이 상기 제어 대상 로봇에서 수행되도록, 상기 복수의 제어 명령에 우선 순위를 할당하고,
    상기 우선 순위는, 상기 영상으로부터 상기 복수의 제스처가 인식된 순서에 근거하는 것을 특징으로 하는 로봇 원격 제어 방법.
  9. 제1항에 있어서,
    상기 제어 대상 로봇으로부터 상기 제어 명령에 대응되는 동작에 대한 피드백 정보를 수신하는 단계; 및
    상기 사용자의 단말기로 상기 피드백 정보를 전송하는 단계를 더 포함하는 것을 특징으로 하는 로봇 원격 제어 방법.
  10. 공간에 배치된 카메라로부터 수신된 영상을 이용하여 로봇의 제어와 관련된 사용자의 제스처를 인식하는 단계;
    상기 사용자에게 제어권이 존재하는지 여부를 확인하는 단계;
    확인 결과, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 영상으로부터 인식된 특정 로봇을 상기 제스처에 따라 제어되는 제어 대상 로봇으로 특정하는 단계; 및
    상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송하는 단계를 포함하고,
    상기 제어 명령을 전송하는 단계에서는,
    상기 특정 로봇의 타입과 동일한 타입의 적어도 하나의 다른 로봇이 상기 특정 로봇과 함께 제어되도록, 상기 특정 로봇과 기 설정된 거리 이내에 위치하는 상기 적어도 하나의 다른 로봇으로 상기 제어 명령을 전송하는 것을 특징으로 하는 로봇 원격 제어 방법.
  11. 삭제
  12. 저장부;
    공간에 배치된 카메라로부터 영상을 수신하는 통신부;
    상기 수신된 영상에서 로봇의 제어와 관련된 사용자의 제스처를 인식하고, 상기 사용자에게 제어권이 존재하는지 여부를 확인하며, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 제스처에 따라 제어되는 제어 대상 로봇을 특정하고,
    상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송되도록 상기 통신부를 제어하는 제어부를 포함하고,
    상기 제어부는,
    상기 공간에 포함된 복수의 층 중 상기 사용자를 촬영한 카메라가 포함된 특정 층에 위치한 로봇 모두를 제어 대상 로봇으로 특정하고,
    상기 특정 층에 위치한 상기 제어 대상 로봇 모두에서 상기 제스처에 따른 동작이 수행되도록, 상기 특정 층에 위치한 상기 제어 대상 로봇 모두에게 상기 제어 명령이 전송되도록 상기 통신부를 제어하는 것을 특징으로 하는 원격 제어 시스템.
  13. 저장부;
    공간에 배치된 카메라로부터 영상을 수신하는 통신부;
    상기 수신된 영상에서 로봇의 제어와 관련된 사용자의 제스처를 인식하고, 상기 사용자에게 제어권이 존재하는지 여부를 확인하며, 상기 사용자에게 제어권이 존재하는 경우, 상기 공간에 위치한 로봇 중 상기 영상으로부터 인식된 특정 로봇을 상기 제스처에 따라 제어되는 제어 대상 로봇을 특정하고,
    상기 제어 대상 로봇으로 상기 제스처에 대응되는 제어 명령을 전송되도록 상기 통신부를 제어하는 제어부를 포함하고,
    상기 제어부는,
    상기 특정 로봇의 타입과 동일한 타입의 적어도 하나의 다른 로봇이 상기 특정 로봇과 함께 제어되도록,
    상기 통신부를 이용하여, 상기 특정 로봇과 기 설정된 거리 이내에 위치하는 상기 적어도 하나의 다른 로봇으로 상기 제어 명령을 전송하는 것을 특징으로 하는 원격 제어 시스템.
KR1020200099332A 2020-08-07 2020-08-07 로봇 원격 제어 방법 및 시스템 KR102370873B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200099332A KR102370873B1 (ko) 2020-08-07 2020-08-07 로봇 원격 제어 방법 및 시스템
KR1020210081912A KR20220018905A (ko) 2020-08-07 2021-06-23 사용자의 제스처에 기반하여 원격 제어되는 로봇이 주행하는 건물

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200099332A KR102370873B1 (ko) 2020-08-07 2020-08-07 로봇 원격 제어 방법 및 시스템

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020210081912A Division KR20220018905A (ko) 2020-08-07 2021-06-23 사용자의 제스처에 기반하여 원격 제어되는 로봇이 주행하는 건물

Publications (2)

Publication Number Publication Date
KR20220018795A KR20220018795A (ko) 2022-02-15
KR102370873B1 true KR102370873B1 (ko) 2022-03-07

Family

ID=80325277

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020200099332A KR102370873B1 (ko) 2020-08-07 2020-08-07 로봇 원격 제어 방법 및 시스템
KR1020210081912A KR20220018905A (ko) 2020-08-07 2021-06-23 사용자의 제스처에 기반하여 원격 제어되는 로봇이 주행하는 건물

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020210081912A KR20220018905A (ko) 2020-08-07 2021-06-23 사용자의 제스처에 기반하여 원격 제어되는 로봇이 주행하는 건물

Country Status (1)

Country Link
KR (2) KR102370873B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11731262B2 (en) 2021-06-28 2023-08-22 Samsung Electronics Co., Ltd. Robot and method for operating the same

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230122565A (ko) 2022-02-14 2023-08-22 에이치엘만도 주식회사 마스터 실린더
KR102553830B1 (ko) * 2022-06-28 2023-07-10 주식회사 포탈301 카메라를 이용한 실시간 로봇 원격 제어 방법 및 장치
CN115351782A (zh) * 2022-07-27 2022-11-18 江门市印星机器人有限公司 基于边缘计算的多机器人控制方法、装置及存储介质
CN117021117B (zh) * 2023-10-08 2023-12-15 电子科技大学 一种基于混合现实的移动机器人人机交互与定位方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019091337A (ja) * 2017-11-16 2019-06-13 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2019118991A (ja) * 2017-12-28 2019-07-22 富士通株式会社 制御プログラム、制御方法及び情報処理装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110055062A (ko) * 2009-11-19 2011-05-25 삼성전자주식회사 로봇 시스템 및 그 제어 방법
KR20190056174A (ko) * 2017-11-16 2019-05-24 서울시립대학교 산학협력단 로봇 시스템 및 이의 제어 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019091337A (ja) * 2017-11-16 2019-06-13 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2019118991A (ja) * 2017-12-28 2019-07-22 富士通株式会社 制御プログラム、制御方法及び情報処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11731262B2 (en) 2021-06-28 2023-08-22 Samsung Electronics Co., Ltd. Robot and method for operating the same

Also Published As

Publication number Publication date
KR20220018905A (ko) 2022-02-15
KR20220018795A (ko) 2022-02-15

Similar Documents

Publication Publication Date Title
KR102370873B1 (ko) 로봇 원격 제어 방법 및 시스템
US10335949B2 (en) System for operating mobile robot based on complex map information and operating method thereof
KR102462636B1 (ko) 클라우드 서버 및 로봇 원격 제어 시스템에 의해 원격 제어되는 로봇이 주행하는 건물
KR102339001B1 (ko) 클라우드 서버를 이용하여 실내 공간을 주행하는 로봇을 모니터링하는 건물
KR102494841B1 (ko) 배송 임무를 수행하는 다수의 로봇을 이용하여 배송 서비스를 제공하는 건물
US20200171667A1 (en) Vision-based robot control system
KR102671223B1 (ko) 맵 생성 방법, 이를 이용한 로봇 원격 제어 방법 및 시스템
US20240045432A1 (en) Method and system for remote control of robot, and building having elevators for robots
KR101827249B1 (ko) Vpn망을 이용한 스마트 디바이스 기반 지능형 객체 인식 드론 시스템 및 지능형 객체 추적 방법
KR102489723B1 (ko) 로봇 원격 제어 방법 및 시스템
KR102315361B1 (ko) 실내 공간을 주행하는 로봇의 동작을 평가하는 건물
KR102355263B1 (ko) 로봇 제어 방법 및 시스템
KR102462635B1 (ko) 실내 공간을 주행하는 로봇의 동작을 평가하는 건물
KR20220131060A (ko) 로봇 원격 제어 방법 및 시스템
US20240004399A1 (en) Method and system for remotely controlling robots, and building having traveling robots flexibly responding to obstacles
KR20160140555A (ko) 무선 통신이 가능한 이동 단말기를 이용하여 전자 장치를 원격 제어하기 위한 방법, 그리고 상기 방법을 실현하기 위한 이동 단말기

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant