KR20200140628A - 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버 - Google Patents

외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버 Download PDF

Info

Publication number
KR20200140628A
KR20200140628A KR1020190067516A KR20190067516A KR20200140628A KR 20200140628 A KR20200140628 A KR 20200140628A KR 1020190067516 A KR1020190067516 A KR 1020190067516A KR 20190067516 A KR20190067516 A KR 20190067516A KR 20200140628 A KR20200140628 A KR 20200140628A
Authority
KR
South Korea
Prior art keywords
robot
driving
external
information
image
Prior art date
Application number
KR1020190067516A
Other languages
English (en)
Other versions
KR102283022B1 (ko
Inventor
이원희
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020190067516A priority Critical patent/KR102283022B1/ko
Priority to US16/555,963 priority patent/US11520348B2/en
Publication of KR20200140628A publication Critical patent/KR20200140628A/ko
Application granted granted Critical
Publication of KR102283022B1 publication Critical patent/KR102283022B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • B25J11/008Manipulators for service tasks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/023Optical sensing devices including video camera means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1689Teleoperation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0287Control of position or course in two dimensions specially adapted to land vehicles involving a plurality of land vehicles, e.g. fleet or convoy travelling
    • G05D1/0289Control of position or course in two dimensions specially adapted to land vehicles involving a plurality of land vehicles, e.g. fleet or convoy travelling with means for avoiding collisions between vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/008Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/12Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H04L67/125Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks involving control of end-device applications over a network

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Robotics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Mechanical Engineering (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Manipulator (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버가 개시된다. 개시된 주행 방법과 이를 구현하는 로봇 및 서버는 로봇의 외부에 설치된 카메라 모듈에서 획득된 외부 영상을 더 이용하여 로봇의 주행을 제어한다. 이를 위해, 본 발명의 일 실시예에 의한 로봇은 주행 중인 로봇이 포함된 외부 영상을 획득하는 외부 카메라 모듈들과 통신하는 통신부, 로봇의 주행 시의 주행 관련 정보를 획득하는 주행 정보 획득부 및 로봇을 주행시키는 주행부 및 외부 카메라 모듈들로부터 수신되는 외부 영상이 포함된 외부 정보 및 주행 관련 정보를 이용하여 주행부를 제어하는 제어부를 포함한다.

Description

외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버{METHOD FOR DRIVING ROBOT BAESD ON EXTERNAL IMAGE, ROBOT AND SERVER IMPLEMENTING THEREOF}
본 발명은 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버에 관한 기술이다.
이동 로봇은 관리 서버의 제어 하에 또는 자율적으로 주행하며, 배송, 청소 등의 다양한 기능을 수행한다.
이 때, 이동 로봇에는 카메라 모듈 및 복수 개의 센서가 부착되며, 카메라 모듈로부터 획득된 영상 및 복수 개의 센서에서 획득된 다양한 센싱 정보들을 이용하여 주행 경로가 설정된다. 이 과정에서, 이동 로봇은 공간에 배치된 사물들 혹은 공간의 구조에 대한 정보를 맵 상에 저장할 수 있으며, 저장된 맵을 더 참조하여 주행 경로를 설정한다.
한편, 미국에서 출원된 공개 번호 US 2018-0232839 A1에서는 이동 로봇을 배송에 사용하는 방법을 개시하고 있다. 즉, 상기 방법에서, 서버는 최종 배송 위치에 관한 정보를 포함하는 배송 관련 명령을 이동 로봇으로 전송하고, 이동 로봇은 운반물을 로딩하고, 로딩된 운반물을 최종 배송 위치로 배송하는 내용을 개시하고 있다.
그러나, 배송에 사용되는 이동 로봇은 불특정한 환경 상에서 이동하여야 하는데, 로봇에 부착된 카메라 모듈 및 복수 개의 센서를 통한 일반적인 주행 방식으로는 로봇이 배송 기능을 정확하게 수행하기 힘든 문제점이 있다. 특히, 최종 배송 위치인 주택, 아파트, 쇼핑몰 등의 복잡한 장소에서는 SLAM(Simultaneous Localization and Mapping) 기능이 제대로 수행될 수 없는 문제점이 있다.
본 발명의 목적은 로봇이 배송에 이용되는 경우 복잡한 장소에서 장소에서 정교하게 로봇의 주행 제어가 가능한 로봇의 주행 방법 및 이를 구현하는 로봇 및 서버를 제공하는 것이다.
또한, 본 발명의 목적은 건물의 내부 또는 외부에 설치된 외부 카메라 모듈에서 획득된 외부 영상을 이용하여 로봇의 주행을 제어하는 로봇의 주행 방법 및 이를 구현하는 로봇 및 서버를 제공하는 것이다.
본 발명의 목적들은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 본 발명의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있고, 본 발명의 실시예에 의해 보다 분명하게 이해될 것이다. 또한, 본 발명의 목적 및 장점들은 특허 청구 범위에 나타낸 수단 및 그 조합에 의해 실현될 수 있음을 쉽게 알 수 있을 것이다.
본 발명의 일 실시예에 의한 외부 영상에 기반하여 주행하는 로봇은 주행 중인 로봇이 포함된 외부 영상을 획득하는 외부 카메라 모듈들과 통신하는 통신부, 상기 로봇의 주행 시의 주행 관련 정보를 획득하는 주행 정보 획득부, 상기 로봇을 주행시키는 주행부; 및 상기 외부 카메라 모듈들로부터 수신되는 상기 외부 영상이 포함된 외부 정보 및 상기 주행 관련 정보를 이용하여 상기 주행부를 제어하는 제어부를 포함하되, 상기 통신부는 상기 외부 카메라 모듈들 중 제1 외부 카메라 모듈로부터 제1 외부 정보를 수신하고, 상기 제어부는 상기 제1 외부 정보를 이용하여 상기 외부 카메라 모듈들 중 제2 외부 카메라 모듈이 설치된 위치로 상기 로봇이 주행하도록 상기 주행부를 제어한다.
본 발명의 일 실시예에 의한 로봇의 주행을 제어하는 제어 서버는 건물의 내부 또는 외부에 설치된 보안 카메라 모듈들 및 로봇과 통신하는 통신부 및 상기 보안 카메라 모듈들로부터 수신되는 상기 로봇에 대한 보안 영상 및 상기 로봇으로부터 수신되는 상기 로봇의 주행 관련 정보에 기초하여 상기 로봇의 주행 제어 명령을 생성하는 제어부를 포함하되, 상기 통신부는 보안 카메라 모듈들 중 제1 보안 카메라 모듈로부터 제1 보안 영상을 수신하고, 상기 제어부는 상기 제1 보안 영상을 이용하여 상기 보안 카메라 모듈들 중 제2 보안 카메라 모듈이 설치된 위치로 상기 로봇이 주행하도록 하는 상기 주행 제어 명령을 생성하고, 상기 통신부는 상기 주행 제어 명령을 상기 로봇으로 전송하는, 로봇의 주행을 제어한다.
본 발명의 일 실시예에 의한 외부 영상에 기반한 로봇의 주행 방법은 주행 정보 획득부가 주행 중인 로봇에 대한 센서 정보 및 주행 영상을 획득하는 단계, 통신부가 상기 로봇에 대한 외부 영상을 포함하는 외부 정보를 외부 카메라 모듈들로부터 수신하는 단계, 제어부가 상기 센서 정보, 상기 주행 영상 및 상기 외부 정보를 이용하여 주행 제어 명령을 생성하는 단계 및 주행부가 상기 주행 제어 명령에 기초하여 상기 로봇을 주행시키는 단계를 포함하되, 상기 수신하는 단계는, 상기 외부 카메라 모듈들 중 제1 외부 카메라 모듈로부터 제1 외부 정보를 수신하고, 상기 생성하는 단계는, 상기 제1 외부 정보를 이용하여 상기 외부 카메라 모듈들 중 제2 외부 카메라 모듈이 설치된 위치로 상기 로봇이 주행하도록 상기 주행 제어 명령을 생성한다.
본 발명에 따르면, 로봇의 외부 카메라 모듈들로부터 획득된 외부 영상을 더 이용함으로 정교한 로봇의 주행이 가능한 장점이 있다.
또한, 본 발명에 따르면 주택, 아파트, 쇼핑몰 등의 복잡한 장소에서도 로봇의 정밀한 주행이 가능한 장점이 있다.
본 발명의 효과는 전술한 효과에 한정되지 않으며, 본 발명의 당업자들은 본 발명의 구성에서 본 발명의 다양한 효과를 쉽게 도출할 수 있다.
도 1는 본 발명의 일 실시예에 따른 로봇 주행 시스템의 개략적인 구성을 도시한 도면이다.
도 2은 본 발명의 일 실시예에 따른 로봇의 개략적인 구성을 도시한 도면이다.
도 3는 본 발명의 일 실시예에 따른 제1 카메라 모듈의 개략적인 구성을 도시한 도면이다
도 4는 본 발명의 일 실시예에 따른 제어 서버의 개략적인 구성을 도시한 도면이다.
도 5는 본 발명의 제1 실시예에 따른 로봇의 주행 방법의 흐름도를 도시한 도면이다.
도 6은 본 발명에 따른 영상 형태의 이동 경로 안내 정보를 도시한 도면이다.
도 7은 본 발명에 따른 3개의 외부 카메라 모듈을 이용한 로봇의 주행 동작의 일례를 도시한 도면이다.
도 8은 본 발명의 제2 실시예에 따른 로봇의 주행 방법의 흐름도를 도시한 도면이다.
이하, 도면을 참조하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다.
본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 동일 또는 유사한 구성요소에 대해서는 동일한 참조 부호를 붙이도록 한다. 또한, 본 발명의 일부 실시예들을 예시적인 도면을 참조하여 상세하게 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가질 수 있다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략할 수 있다.
본 발명의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질, 차례, 순서 또는 개수 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 또는 접속될 수 있지만, 각 구성 요소 사이에 다른 구성 요소가 "개재"되거나, 각 구성 요소가 다른 구성 요소를 통해 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
또한, 본 발명을 구현함에 있어서 설명의 편의를 위하여 구성요소를 세분화하여 설명할 수 있으나, 이들 구성요소가 하나의 장치 또는 모듈 내에 구현될 수도 있고, 혹은 하나의 구성요소가 다수의 장치 또는 모듈들에 나뉘어져서 구현될 수도 있다.
이하에서, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다.
도 1는 본 발명의 일 실시예에 따른 로봇 주행 시스템의 개략적인 구성을 도시한 도면이다.
도 1를 참조하면, 로봇 주행 시스템(100)는 로봇(110), 복수 개의 제1 카메라 모듈들(120) 및 제어 서버(130)를 포함한다.
로봇(110)는 주행 가능한 이동 로봇으로서, 특히 물건을 배송지에서 도착지로 배송하는 배송 로봇일 수 있다. 한편, 로봇 주행 시스템(100)에서는 2 이상의 로봇이 존재할 수도 있으며, 2 이상의 로봇 각각은 동일한 방법으로 주행이 제어될 수 있다.
제1 카메라 모듈들(120)는 건물들의 내부 또는 외부에 설치된 카메라 모듈로서, 로봇(110)이 주행 중인 상태의 영상인 제1 영상을 획득한다. 일례로서, 제1 카메라 모듈들(120)은 건물의 보안을 위한 보안 카메라(CCTV 등)일 수 있으며, 제1 영상은 보안 영상일 수 있다.
한편, 제1 카메라 모듈들(120) 각각은 다른 외부 장치와 통신을 수행하기 위한 통신 모듈을 내부에 포함하고 있거나, 또는 제1 카메라 모듈들(120)과 인접한 장소에 존재하는 통신 모듈 각각이 제1 카메라 모듈들(120)과 유선으로 연결되어 있는 것으로 가정한다. 그리고, 제1 카메라 모듈들(120) 각각은 로봇(110) 및 제어 서버(130)에 미리 등록되어 있는 것으로 가정한다.
제어 서버(130)는 일종의 서버 기능을 하는 컴퓨터일 수 있으며, 로봇(110)의 원격 제어를 위한 주행 제어 명령을 생성하여 로봇(110)으로 제공할 수 있고, 아래에서 설명하는 제1 위치에서 제2 위치까지의 로봇(110)의 이동 경로 안내 정보 및 로봇(110)의 동작을 제어하는 부가 정보 중 적어도 하나를 생성하여 제1 카메라 모듈들(120) 각각으로 제공할 수 있다.
본 발명의 일 실시예에 따르면, 로봇(110)는 자율로 주행할 수도 있고, 제어 서버(130)에서 전송되는 주행 제어 명령에 기초하여 원격으로 주행이 제어될 수도 있다. 이하, 아래의 도면을 참조하여 로봇(110) 및 제어 서버(130)의 구조와, 이에 기초한 로봇(110)의 주행 방법을 상세하게 설명하기로 한다.
도 2은 본 발명의 일 실시예에 따른 로봇(110)의 개략적인 구성을 도시한 도면이다.
도 2을 참조하면, 본 발명의 일 실시예에 따른 로봇(110)는 통신부(111), 주행 정보 획득부(112), 맵 저장부(113), 제어부(114) 및 주행부(115)를 포함한다.
통신부(111)는 제1 카메라 모듈들(120) 및 제어 서버(130)와 통신을 수행한다. 일례로, 통신부(111)는 블루투스 모듈, NFC 모듈, WIFI 모듈 등과 같은 근거리 통신 모듈과 LTE 통신 모듈, 5G 통신 모듈 등과 같은 원거리 통신 모듈을 포함할 수 있다.
한편, 제1 카메라 모듈들(120)은 로봇(110)의 외부에 존재하므로, 로봇(110)의 관점에서, 제1 카메라 모듈들(120)는 외부 카메라 모듈일 수 있으며, 제1 카메라 모듈들(120) 각각에서 획득된 제1 영상은 로봇(110)에 대해 획득된 외부 영상일 수 있다.
주행 정보 획득부(112)는 로봇(110)의 주행 시의 주행 관련 정보를 획득한다.
일례로서, 주행 정보 획득부(112)는 로봇(110)에 부착된 복수 개의 센서들 및 제2 카메라 모듈을 포함할 수 있다. 복수 개의 센서들은 로봇(110)의 주변 환경의 센싱하고 전방에 존재하는 물체를 감지하며, 이를 통해 센싱 정보를 획득한다. 제2 카메라 모듈은 주행 중인 로봇(110)의 전방의 주행 영상인 제2 영상을 획득한다. 따라서, 주행 정보 획득부(112)에서 획득되는 주행 관련 정보는 센싱 정보 및 제2 영상을 포함한다.
맵 저장부(113)는 미리 생성된 맵을 저장한다. 맵은 로봇(110)의 주행 시 사용된다.
제어부(114)는 프로세서 기반의 모듈일 수 있으며, 저장된 맵과, 주행 관련 정보와, 제1 카메라 모듈들(120) 각각으로부터 수신되는 외부 정보 또는 제어 서버(130)에서 수신되는 주행 제어 명령을 이용하여 주행부(115)를 제어한다.
이 때, 외부 정보는 제1 카메라 모듈(120)에서 획득된 제1 영상을 포함하고, 제1 위치에서 제2 위치로의 이동 경로 안내 정보 및 제2 위치에서의 로봇(110)의 동작을 제어하는 부가 정보 중 적어도 하나를 선택적으로 포함할 수 있다. 그리고, 아래에서 설명하는 주행 제어 명령은 제1 영상에 기초하여 제어 서버(130)에서 생성될 수 있다.
주행부(115)는 제어부(114)의 제어에 의해 로봇(110)을 주행시킨다.
도 3는 본 발명의 일 실시예에 따른 제1 카메라 모듈(120)의 개략적인 구성을 도시한 도면이다.
도 3를 참조하면, 본 발명의 일 실시예에 따른 제1 카메라 모듈(120)은 통신부(121), 영상 획득부(122) 및 제어부(132)를 포함한다.
통신부(121)는 로봇(110) 및 제어 서버(130)와 통신을 수행한다. 일례로, 통신부(121)는 블루투스 모듈, NFC 모듈, WIFI 모듈 등과 같은 근거리 통신 모듈과 LTE 통신 모듈, 5G 통신 모듈 등과 같은 원거리 통신 모듈을 포함할 수 있다.
영상 획득부(122)는 로봇(110)에 대한 제1 영상을 획득한다. 제1 영상은 주행 중인 로봇(110)의 모습 및 주변 환경에 대한 정보를 포함한다.
도 4는 본 발명의 일 실시예에 따른 제어 서버(130)의 개략적인 구성을 도시한 도면이다.
도 4를 참조하면, 본 발명의 일 실시예에 따른 제어 서버(130)는 통신부(131) 및 제어부(132)를 포함한다.
통신부(131)는 로봇(110) 및 제1 카메라 모듈들(120)과 통신을 수행한다. 일례로, 통신부(131)는 블루투스 모듈, NFC 모듈, WIFI 모듈 등과 같은 근거리 통신 모듈과 LTE 통신 모듈, 5G 통신 모듈 등과 같은 원거리 통신 모듈을 포함할 수 있다.
제어부(132)는 프로세서 기반의 모듈일 수 있다.
여기서, 로봇(110)의 주행이 원격으로 제어되는 경우, 제1 카메라 모듈들(120) 각각으로부터 수신되는 제1 영상 및 로봇(110)으로부터 수신되는 로봇(110)의 주행 관련 정보에 기초하여 로봇(110)의 주행 제어 명령을 생성한다. 주행 제어 명령은 통신부(131)를 통해 로봇(110)으로 전송된다.
그리고, 로봇(110)이 자율로 주행되는 경우, 제1 위치와 제2 위치로의 이동 경로 안내 정보 및 부가 정보는 제어부(132)에서 생성될 수 있고, 생성된 이동 경로 안내 정보 및 부가 정보는 통신부(131)를 통해 복수 개의 제1 카메라 모듈(120)로 전송된다.
요컨대, 로봇(110)는 자율 주행 또는 원격 제어 주행이 가능하며, 제1 카메라 모듈들(120) 각각으로부터 획득된 제1 영상에 더 기반하여 주행이 제어된다.
다시 말해, 로봇(110)이 자율 주행을 하는 경우, 제어부(114)는 종래 사용되는 주행을 위한 정보(즉, 저장된 맵, 센싱 정보, 전방 주행 영상)와 함께 외부 카메라 모듈들인 제1 카메라 모듈들(120) 각각으로부터 획득된 외부 영상인 제1 영상을 더 이용하여 주행부(115)를 제어한다.
그리고, 로봇(110)의 주행이 원격으로 제어되는 경우, 제어부(114)는 종래 사용되는 주행을 위한 정보(즉, 저장된 맵, 센싱 정보, 전방 주행 영상)와 함께 제1 영상에 기초하여 생성된 주행 제어 명령을 제어 서버(130)에서 수신하여 주행부(115)를 제어한다.
이하, 아래의 도면을 참조하여 로봇(110)이 배송 동작을 수행하는 경우의 주행 동작을 상세하게 설명하기로 한다.
도 5는 본 발명의 제1 실시예에 따른 로봇(110)의 주행 방법의 흐름도를 도시한 도면이다.
여기서, 도 5의 방법은 로봇(110)이 자율 주행을 수행하는 경우의 배송 주행 동작의 단계들을 도시하고 있으며, 설명의 편의를 위해 제1 카메라 모듈을 "외부 카메라 모듈"로, 제2 카메라 모듈을 "내부 카메라 모듈"로, 제1 영상을 "외부 영상"으로, 제2 영상을 "주행 영상"으로 호칭하기로 한다. 이하, 각 단계 별로 수행되는 과정을 설명한다.
먼저, 로봇(110)의 주행 정보 획득부(112)는 주행 중인 로봇에 대한 센서 정보 및 주행 영상을 획득한다(S510). 센서 정보는 로봇(110)에 부착된 복수 개의 센서들에서 획득되고, 주행 영상은 로봇(110)에 부착된 내부 카메라 모듈에서 획득된다.
다음으로, 로봇(110)의 통신부(111)는 로봇(110)에 대한 외부 영상을 포함하는 외부 정보를 외부 카메라 모듈들(120) 각각으로부터 수신한다(S520).
한편, 도 5에서는 단계(S520)이 단계(S510) 이후에 수행되는 것으로 도시하였으나, 단계(S520)보다 단계(S510)가 먼저 수행될 수도 있다.
계속하여, 로봇(110)의 제어부(114)는 저장된 맵, 센서 정보, 주행 영상 및 외부 영상이 포함된 외부 정보를 이용하여 주행 제어 명령을 생성하고(S530), 로봇(110)의 주행부(115)는 주행 제어 명령에 기초하여 로봇(110)을 주행시킨다(S540).
요컨대, 본 발명에 따른 로봇(110)는 외부 카메라 모듈들 각각으로부터 획득된 외부 영상을 더 이용하여 주행이 제어된다. 따라서, 종래 사용되는 주행을 위한 정보(즉, 저장된 맵, 센싱 정보, 전방 주행 영상)만을 이용할 때보다 정교한 로봇(110)의 주행이 가능하다.
한편, 로봇(110)은 모든 외부 카메라 모듈들로부터 외부 정보를 수신할 수도 있지만, 특정 시간 구간에 하나의 외부 카메라 모듈로부터만 외부 정보를 수신할 수도 있다. 즉, 본 발명의 일 실시예에 따르면, 로봇(110)는 하나의 시간 구간에서 하나의 외부 카메라 모듈(120)과만 통신할 수 있다. 다시 말해, 시간 구간 A에서 로봇(110)는 외부 카메라 모듈 A과 통신하며, 시간 구간 B에서 로봇(110)는 외부 카메라 모듈 B과 통신하며, 다른 시간 구간에서도 로봇(110)은 하나의 외부 카메라 모듈과만 통신할 수 있다.
이 경우, 본 발명의 일 실시예에 따르면, 통신부(111)가 외부 카메라 모듈들 중 제1 외부 카메라 모듈과 연결되어 제1 외부 정보를 수신하는 경우, 제어부(114)는 제1 외부 정보를 이용하여 제1 외부 카메라 모듈이 설치된 위치에서 제2 외부 카메라 모듈이 설치된 위치로 로봇(110)이 주행하도록 주행부(115)를 제어할 수 있다.
여기서, 제2 외부 카메라 모듈은 제1 외부 카메라의 다음 번의 외부 카메라 모듈일 수 있다. 일례로, 로봇(110)이 배송 목적지로 주행하는 경우, 제2 외부 카메라 모듈은 제1 외부 카메라 모듈의 위치와 배송 목적지 사이에 배치되는 외부 카메라 모듈들 중 제1 외부 카메라 모듈과 가장 인접하여 배치되는 카메라 모듈일 수 있다. 다른 일례로, 로봇(110)이 배송 목적지에서 회귀하는 경우, 제2 외부 카메라 모듈은 제1 외부 카메라 모듈의 위치와 배송 출발지 사이에 배치되는 외부 카메라 모듈들 중 제1 외부 카메라 모듈과 가장 인접하여 배치되는 카메라 모듈일 수 있다.
그리고, 제1 외부 정보는 외부 영상만을 포함할 수도 있고, 제1 외부 카메라 모듈이 설치된 위치와 제2 외부 카메라 모듈이 설치된 위치 사이의 이동 경로 안내 정보를 더 포함할 수도 있다. 외부 영상과 함께 이동 경로 안내 정보를 더 이용함으로서 제어부(114)는 더욱 더 정교하고 안전하게 로봇(110)의 주행을 제어할 수 있다.
한편, 이동 경로 안내 정보는 맵 상에서 벡터 형태로 제공되는 영상 정보일 수 있다. 도 6에서는 영상 형태의 이동 경로 안내 정보를 도시하고 있다.
그리고, 제1 외부 카메라 모듈이 로봇의 배송 목적지와 가장 인접한 외부 카메라 모듈인 경우, 제1 외부 정보는 배송 목적지에서 수행되는 로봇의 동작의 부가 정보를 더 포함할 수 있다. 일례로, 부가 정보는 배송 목적지에 위치한 배송 보관함에 로봇(110)이 배송 물품을 넣는 동작에 대한 제어 명령 등일 수 있다.
도 7은 3개의 외부 카메라 모듈들을 이용한 로봇(110)의 주행 동작의 일례를 도시하고 있다.
로봇(110)는 외부 카메라 모듈 A(710a)과 먼저 연결되며, 외부 카메라 모듈 A(710a)로부터 외부 영상 A가 포함된 외부 정보 A를 수신한다. 로봇(110)의 제어부(114)는 수신된 외부 정보 A에 포함된 외부 영상 A와 선택적으로 포함된 이동 경로 안내 정보를 분석하여 외부 카메라 모듈 B(710b)이 설치된 위치로 주행하도록 로봇(110)을 제어한다.
외부 카메라 모듈 B(710b)가 설치된 위치로 이동한 로봇(110)은 외부 카메라 모듈 B(710b)과 연결되며, 외부 카메라 모듈 B(710b)로부터 외부 영상 B가 포함된 외부 정보 B를 수신한다. 로봇(110)의 제어부(114)는 수신된 외부 정보 B에 포함된 외부 영상 B와, 선택적으로 포함된 이동 경로 안내 정보를 분석하여 외부 카메라 모듈 C(710c)가 설치된 위치로 주행하도록 로봇(110)을 제어한다.
외부 카메라 모듈 C(710c)가 설치된 위치로 이동한 로봇(110)은 외부 카메라 모듈 C(710c)와 연결되며, 외부 카메라 모듈 C(710c)로부터 외부 영상 C가 포함된 외부 정보 C를 수신한다. 이 때, 외부 카메라 모듈 C(710c)는 배송 목적지와 인접한 외부 카메라 모듈이다. 따라서, 로봇(110)의 제어부(114)는 수신된 외부 정보 C에 포함된 외부 영상 C와, 선택적으로 포함된 이동 경로 안내 정보 및 부가 정보를 분석하여 배송 물품을 배송 보관함(720)에 넣고, 배송 출발지로의 회기를 위해 외부 카메라 모듈 B(710b)가 설치된 위치로 주행하도록 로봇(110)을 제어한다.
이 후, 앞서 설명한 내용과 유사하게 로봇(110)는 외부 카메라 모듈 B(710b)이 설치된 위치 및 외부 카메라 모듈 A(710a)가 설치된 위치로 순차적으로 이동하여 배송 출발지로 회기한다.
도 8은 본 발명의 제2 실시예에 따른 로봇(110)의 주행 방법의 흐름도를 도시한 도면이다.
여기서, 도 8의 방법은 로봇(110)이 원격으로 주행이 제어되는 경우의 배송 주행 동작의 단계들을 도시하고 있다. 이하, 각 단계 별로 수행되는 과정을 설명한다.
먼저, 제어 서버(130)의 통신부(131)는 제1 카메라 모듈들(120)에서 전송된 로봇(110)에 대한 제1 영상 및 로봇(110)에서 전송된 주행 관련 정보를 수신한다(S810).
다음으로, 제어 서버(220)의 제어부(132)는 수신된 로봇에 대한 제1 영상 및 로봇(110)의 주행 관련 정보에 기초하여 로봇(110)의 주행 제어 명령을 생성한다(S820).
마지막으로, 제어 서버(130)의 통신부(131)는 로봇(110)의 주행 제어 명령을 로봇(110)으로 전송한다(S830). 로봇(110)은 주행 제어 명령에 기초하여 주행이 제어된다.
한편, 주행 제어 명령의 생성 동작은 앞서 설명한 로봇(110)의 제어부(114)의 주행 제어 명령의 생성 동작과 유사하고, 주행 제어 명령을 통한 로봇(110)의 주행 동작은 앞서 설명한 도 5 내지 도 7에서 설명한 내용과 로봇(110)의 주행 동작과 유사하므로, 상세한 설명은 생략하기로 한다.
그리고, 도 5 내지 도 8에서 설명한 내용은, 미리 등록된 제1 카메라 모듈들이 설치되어 있는 "배송 출발지" 및 "배송 목적지"에서 로봇(110)이 주행하는데 적용될 수 있다. 만약, 제1 카메라 모듈들로부터 제1 영상을 포함한 정보를 수신하지 못하는 배송 출발지 및 배송 목적지 이외의 위치들에서는 종래의 주행 정보(즉, 센싱 정보, 전방 주행 영상)만을 사용하여 로봇(110)이 자율 주행할 수 있다.
요컨대, 본 발명에 따른 로봇(110)의 주행 방법 및 이를 구현하는 로봇(110) 및 제어 서버(130)는 로봇(110)의 외부 카메라 모듈들로부터 획득된 외부 영상을 더 이용하여 주행이 제어된다. 따라서, 종래의 주행 정보만을 이용할 때보다 정교한 로봇(110)의 주행이 가능하며, 특히, 주택, 아파트, 쇼핑몰 등의 복잡한 장소에서 로봇(110)이 주행하는 경우 본 발명의 주행 방법이 효율적으로 사용될 수 있다.
한편, 로봇(110)의 제어부(114) 및 제어 서버(130)의 제어부(132)는 인공 신경망에 기초한 알고리즘 모델을 이용하여 로봇(110)의 주행부(115)를 제어하기 위한 주행 제어 명령을 생상할 수 있다. 이에 대해 보다 상세하게 설명하면 다음과 같다.
인공 지능(AI: artificial intelligence)은 인간의 지능으로 할 수 있는 사고, 학습, 자기 계발 등을 컴퓨터가 할 수 있도록 하는 방법을 연구하는 컴퓨터 공학 및 정보 기술의 한 분야로, 컴퓨터가 인간의 지능적인 행동을 모방할 수 있도록 하는 것을 의미한다.
인공 지능은 그 자체로 존재하는 것이 아니라, 컴퓨터 과학의 다른 분야와 직간접으로 많은 관련을 맺고 있다. 특히 현대에는 정보 기술의 여러 분야에서 인공 지능적 요소를 도입하여, 그 분야의 문제 풀이에 활용하려는 시도가 매우 활발하게 이루어지고 있다.
머신 러닝(machine learning)은 인공 지능의 한 분야로, 컴퓨터에 명시적인 프로그램 없이 배울 수 있는 능력을 부여하는 연구 분야이다.
구체적으로 머신 러닝은, 경험적 데이터를 기반으로 학습을 하고 예측을 수행하고 스스로의 성능을 향상시키는 시스템과 이를 위한 알고리즘을 연구하고 구축하는 기술이다. 머신 러닝의 알고리즘들은 엄격하게 정해진 정적인 프로그램 명령들을 수행하는 것이라기보다, 입력 데이터를 기반으로 예측이나 결정을 이끌어내기 위해 특정한 모델을 구축하는 방식을 취한다.
용어 '머신 러닝'은 용어 '기계 학습'과 혼용되어 사용될 수 있다.
기계 학습에서 데이터를 어떻게 분류할 것인가를 놓고, 많은 기계 학습 알고리즘이 개발되었다. 의사결정 나무(Decision Tree), 베이지안 망(Bayesian network), 서포트 벡터 머신(SVM: support vector machine), 그리고 인공 신경망(ANN: Artificial Neural Network) 등이 대표적이다.
특히, 인공 신경망은 생물학적 뉴런의 동작 원리와 뉴런 간의 연결 관계를 모델링한 것으로 노드(node) 또는 처리 요소(processing element)인 다수의 뉴런(neuron)들이 레이어(layer) 구조의 형태로 연결된 정보 처리 시스템이다.
즉, 인공 신경망은 기계 학습에서 사용되는 모델로써, 기계 학습과 인지 과학에서 생물학의 신경망(동물의 중추신경계 중 특히 뇌)에서 영감을 얻은 통계학적 학습 알고리즘이다.
구체적으로, 인공 신경망은 복수의 레이어를 포함할 수 있고, 레이어들 각각은 복수의 뉴런를 포함할 수 있다. 또한, 인공 신경망은 뉴런과 뉴런을 연결하는 시냅스(synapse)를 포함할 수 있다. 즉, 인공 신경망은 시냅스의 결합으로 네트워크를 형성한 인공 뉴런이 학습을 통해 시냅스의 결합 세기를 변화시켜 문제 해결 능력을 가지는 모델 전반을 의미할 수 있다.
용어 '인공 신경망'은 용어 '뉴럴 네트워크(Neural Network)'와 혼용되어 사용될 수 있고, 용어 '뉴런'은 용어 '노드'와 혼용되어 사용될 수 있고, 용어 '시냅스'는 용어 '에지'와 혼용되어 사용될 수 있다.
인공 신경망은 일반적으로 다음의 세가지 인자, 즉 (1) 다른 레이어의 뉴런들 사이의 연결 패턴, (2) 시냅스의 가중치를 갱신하는 학습 과정, (3) 이전 레이어로부터 수신되는 입력에 대한 가중 합으로부터 출력값을 생성하는 활성화 함수에 의해 정의될 수 있다.
인공 신경망은, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network), MLP(Multilayer Perceptron), CNN(Convolutional Neural Network)와 같은 방식의 네트워크 모델들을 포함할 수 있으나, 이에 한정되지 않는다.
인공신경망은 계층 수에 따라 단층 신경망(Single-Layer Neural Networks)과 다층 신경망(Multi-Layer Neural Networks)으로 구분된다.
일반적인 단층 신경망은, 입력 레이어와 출력 레이어로 구성된다.
또한, 일반적인 다층 신경망은 입력 레이어(input layer)와, 하나 이상의 은닉 레이어(hidden layer)와, 출력층(output layer)으로 구성된다.
입력 레이어는 외부의 자료들을 받아들이는 레어어로서, 입력 레이어의 뉴런 수는 입력되는 변수의 수와 동일하다.
은닉 레이어는 입력 레이어와 출력 레이어 사이에 위치하며, 입력 레이어로부터 신호를 받아 특성을 추출하여 출력 레이어로 전달한다.
출력 레이어는 은닉 레이어로부터 신호를 받고, 수신한 신호에 기반한 출력 값을 출력한다. 뉴런 간의 입력 신호는 각각의 가중치(연결 강도)와 곱해진 후 합산되며 이 합이 뉴런의 임계치보다 크면 뉴런이 활성화되어 활성화 함수를 통하여 획득한 출력값을 출력한다.
한편, 입력 레이어와 출력 레이어 사이에 복수의 은닉 레이어를 포함하는 심층 신경망은, 기계 학습 기술의 한 종류인 딥 러닝을 구현하는 대표적인 인공 신경망일 수 있다.
한편 용어 '딥 러닝'은 용어 '심층 학습'과 혼용되어 사용될 수 있다.
인공 신경망은 훈련 데이터(training data)를 이용하여 학습(training)될 수 있다. 여기서 학습이란, 입력 데이터를 분류(classification)하거나 회귀분석(regression)하거나 군집화(clustering)하는 등의 목적을 달성하기 위하여, 학습 데이터를 이용하여 인공 신경망의 파라미터(parameter)를 결정하는 과정을 의미할 수 있다. 시냅스 가중치(weight)나 뉴런에 적용되는 바이어스(bias)가 인공 신경망의 파라미터의 대표적인 예이다.
훈련 데이터에 의하여 학습된 인공 신경망은, 입력 데이터를 입력 데이터가 가지는 패턴에 따라 분류하거나 군집화할 수 있다. 한편 훈련 데이터를 이용하여 학습된 인공 신경망을, 본 명세서에서는 학습 모델(trained model)이라 명칭할 수 있다.
다음은 인공 신경망의 학습 방식에 대하여 설명한다.
인공 신경망의 학습 방식은 크게, 지도 학습(supervised learning), 비 지도 학습(unsupervised learning), 준 지도 학습(semi-supervised learning), 강화 학습(reinforcement learning)으로 분류될 수 있다.
지도 학습은 훈련 데이터로부터 하나의 함수를 유추해내기 위한 기계 학습의 한 방법이다. 이 때, 유추되는 함수 중, 연속적인 값을 출력하는 것을 회귀분석(regression)이라 하고, 입력 벡터의 클래스(class)를 예측하여 출력하는 것을 분류(classification)라고 한다. 즉, 지도 학습에서는 훈련 데이터에 대한 레이블(label)이 주어진 상태에서 인공 신경망을 학습시킨다. 여기서, 레이블은 훈련 데이터가 인공 신경망에 입력되는 경우 인공 신경망이 추론해 내야 하는 정답(또는 결과 값)을 의미한다.
비 지도 학습은 기계 학습의 일종으로, 훈련 데이터에 대한 레이블이 주어지지 않는다. 구체적으로, 비 지도 학습은, 훈련 데이터 및 훈련 데이터에 대응하는 레이블의 연관 관계 보다는, 훈련 데이터 자체에서 패턴을 찾아 분류하도록 인공 신경망을 학습시키는 학습 방법이다.
준 지도 학습은 기계 학습의 일종으로, 레이블이 주어진 훈련 데이터와 레이블이 주어지지 않은 훈련 데이터를 모두 사용하는 학습 방법을 의미할 수 있다. 준 지도 학습의 기법 중 하나로, 레이블이 주어지지 않은 훈련 데이터의 레이블을 추론한 후 추론된 라벨을 이용하여 학습을 수행하는 기법이 있으며, 이러한 기법은 레이블링에 소요되는 비용이 큰 경우에 유용하게 사용될 수 있다.
강화 학습은, 에이전트(Agent)가 매 순간 어떤 행동을 해야 좋을지 판단할 수 있는 환경이 주어진다면, 데이터 없이 경험으로 가장 좋을 길을 찾을 수 있다는 이론이다.
상기 내용을 참조하면, 본 발명에 따른 주행 제어 명령을 생성하기 위한 인공 신경망에 기초한 알고리즘 모델은, 입력 노드로 구성된 입력 레이어, 출력 노드로 구성된 출력 레이어 및 입력 레이어와 출력 레이어 사이에 배치되며, 은닉 노드로 구성된 하나 이상의 은닉 레이어를 포함한다. 이 때, 알고리즘 모델은 학습 데이터에 의해 학습되며, 학습을 통해 노드들을 연결하는 에지의 가중치 및 노드의 바이어스가 업데이트될 수 있다.
본 발명의 일 실시예에 따르면, 상기 학습된 알고리즘 모델은 로봇(100)의 제어부(114)에 탑재될 수 있다. 이 때, 제1 카메라 모듈들(120)로부터 수신되는 외부 영상이 포함된 외부 정보 및 주행 정보 획득부(112)에서 획득된 주행 관련 정보가 학습된 알고리즘 모델의 입력 레이어에 입력되고, 학습된 알고리즘 모델의 출력 레이어로 주행 제어 명령이 출력될 수 있다.
또한, 본 발명의 다른 실시예에 따르면, 학습된 알고리즘 모델은 제어 서버(130)의 제어부(132)에 탑재될 수 있다. 이 때, 제1 카메라 모듈들(120)로부터 수신되는 외부 영상 및 로봇(110)으로부터 수신된 로봇(110)의 주행 관련 정보가 학습된 알고리즘 모델의 입력 레이어에 입력되고, 학습된 알고리즘 모델의 출력 레이어로 주행 제어 명령이 출력될 수 있다.
또한, 본 발명의 실시예를 구성하는 모든 구성 요소들이 하나로 결합되거나 결합되어 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시예에 한정되는 것은 아니며, 본 발명의 목적 범위 내에서 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다. 또한, 그 모든 구성 요소들이 각각 하나의 독립적인 하드웨어로 구현될 수 있지만, 각 구성 요소들의 그 일부 또는 전부가 선택적으로 조합되어 하나 또는 복수 개의 하드웨어에서 조합된 일부 또는 전부의 기능을 수행하는 프로그램 모듈을 갖는 컴퓨터 프로그램으로서 구현될 수도 있다. 그 컴퓨터 프로그램을 구성하는 코드들 및 코드 세그먼트들은 본 발명의 기술 분야의 당업자에 의해 용이하게 추론될 수 있을 것이다. 이러한 컴퓨터 프로그램은 컴퓨터가 읽을 수 있는 저장매체(Computer Readable Media)에 저장되어 컴퓨터에 의하여 읽혀지고 실행됨으로써, 본 발명의 실시예를 구현할 수 있다. 컴퓨터 프로그램의 저장매체로서는 자기 기록매체, 광 기록매체, 반도체 기록소자를 포함하는 저장매체를 포함한다. 또한 본 발명의 실시예를 구현하는 컴퓨터 프로그램은 외부의 장치를 통하여 실시간으로 전송되는 프로그램 모듈을 포함한다.
이상에서는 본 발명의 실시예를 중심으로 설명하였지만, 통상의 기술자의 수준에서 다양한 변경이나 변형을 가할 수 있다. 따라서, 이러한 변경과 변형이 본 발명의 범위를 벗어나지 않는 한 본 발명의 범주 내에 포함되는 것으로 이해할 수 있을 것이다.
100: 로봇 주행 시스템 110: 로봇
120: 제1 카메라 모듈 130: 제어 서버

Claims (11)

  1. 주행 중인 로봇이 포함된 외부 영상을 획득하는 외부 카메라 모듈들과 통신하는 통신부;
    상기 로봇의 주행 시의 주행 관련 정보를 획득하는 주행 정보 획득부;
    상기 로봇을 주행시키는 주행부; 및
    상기 외부 카메라 모듈들로부터 수신되는 상기 외부 영상이 포함된 외부 정보 및 상기 주행 관련 정보를 이용하여 상기 주행부를 제어하는 제어부;를 포함하되,
    상기 통신부는 상기 외부 카메라 모듈들 중 제1 외부 카메라 모듈로부터 제1 외부 정보를 수신하고,
    상기 제어부는 상기 제1 외부 정보를 이용하여 상기 외부 카메라 모듈들 중 제2 외부 카메라 모듈이 설치된 위치로 상기 로봇이 주행하도록 상기 주행부를 제어하는, 외부 영상에 기반하여 주행하는 로봇.
  2. 제1항에 있어서,
    상기 제1 외부 정보는, 상기 제1 외부 카메라 모듈에서 획득된 제1 외부 영상 및 상기 제1 외부 카메라 모듈이 설치된 위치와 상기 제2 외부 카메라 모듈이 설치된 위치 사이의 이동 경로 안내 정보를 포함하는, 외부 영상에 기반하여 주행하는 로봇.
  3. 제2항에 있어서,
    상기 이동 경로 안내 정보는 경로 맵 상에서 벡터 형태로 제공되는, 외부 영상에 기반하여 주행하는 로봇.
  4. 제2항에 있어서,
    상기 제1 외부 카메라 모듈은 상기 로봇의 목적지와 인접한 외부 카메라 모듈이고,
    상기 제1 외부 정보는 상기 목적지에서 수행되는 상기 로봇의 동작의 부가 정보를 더 포함하는, 외부 영상에 기반하여 주행하는 로봇.
  5. 제1항에 있어서,
    상기 주행 정보 획득부는, 센싱 정보를 획득하는 복수 개의 센서 및 주행 영상을 획득하는 제2 카메라 모듈을 포함하는, 외부 영상에 기반하여 주행하는 로봇.
  6. 제1항에 있어서,
    상기 제어부는 인공 신경망에 기초한 알고리즘 모델을 이용하여 특징점 매칭을 수행하되,
    상기 알고리즘 모델은 입력 노드로 구성된 입력 레이어, 출력 노드로 구성된 출력 레이어 및 입력 레이어와 출력 레이어 사이에 배치되며, 은닉 노드로 구성된 하나 이상의 은닉 레이어를 포함하고, 학습을 통해 노드들을 연결하는 에지의 가중치 및 노드들의 바이어스가 업데이트되는, 로봇.
  7. 제6항에 있어서,
    상기 학습된 알고리즘 모델의 입력 레이어로 상기 외부 정보 및 상기 주행 관련 정보가 입력 레이어에 입력되고, 학습된 알고리즘 모델의 출력 레이어로 상기 주행부를 제어하는 주행 제어 명령이 출력되는, 외부 영상에 기반하여 주행하는 로봇.
  8. 건물의 내부 또는 외부에 설치된 보안 카메라 모듈들 및 로봇과 통신하는 통신부; 및
    상기 보안 카메라 모듈들로부터 수신되는 상기 로봇에 대한 보안 영상 및 상기 로봇으로부터 수신되는 상기 로봇의 주행 관련 정보에 기초하여 상기 로봇의 주행 제어 명령을 생성하는 제어부;를 포함하되,
    상기 통신부는 보안 카메라 모듈들 중 제1 보안 카메라 모듈로부터 제1 보안 영상을 수신하고,
    상기 제어부는 상기 제1 보안 영상을 이용하여 상기 보안 카메라 모듈들 중 제2 보안 카메라 모듈이 설치된 위치로 상기 로봇이 주행하도록 하는 상기 주행 제어 명령을 생성하고,
    상기 통신부는 상기 주행 제어 명령을 상기 로봇으로 전송하는, 로봇의 주행을 제어하는 제어 서버.
  9. 제8항에 있어서,
    상기 보안 영상은, 주행 중인 상기 로봇과 상기 로봇의 주변 환경 정보를 포함하고,
    상기 주행 관련 정보는, 상기 로봇에 부착된 복수의 센서에서 획득된 센싱 정보 및 상기 로봇에 부착된 제2 카메라 모듈에서 획득된 제2 영상을 포함하는, 로봇의 주행을 제어하는 제어 서버.
  10. 제8항에 있어서,
    상기 주행 제어 명령은 상기 로봇이 다른 로봇과의 충돌을 방지하기 위한 군집 로봇 제어 명령을 포함하는, 로봇의 주행을 제어하는 제어 서버.
  11. 주행 정보 획득부가 주행 중인 로봇에 대한 센서 정보 및 주행 영상을 획득하는 단계;
    통신부가 상기 로봇에 대한 외부 영상을 포함하는 외부 정보를 외부 카메라 모듈들로부터 수신하는 단계;
    제어부가 상기 센서 정보, 상기 주행 영상 및 상기 외부 정보를 이용하여 주행 제어 명령을 생성하는 단계; 및
    주행부가 상기 주행 제어 명령에 기초하여 상기 로봇을 주행시키는 단계;를 포함하되,
    상기 수신하는 단계는, 상기 외부 카메라 모듈들 중 제1 외부 카메라 모듈로부터 제1 외부 정보를 수신하고,
    상기 생성하는 단계는, 상기 제1 외부 정보를 이용하여 상기 외부 카메라 모듈들 중 제2 외부 카메라 모듈이 설치된 위치로 상기 로봇이 주행하도록 상기 주행 제어 명령을 생성하는, 외부 영상에 기반하여 주행하는 로봇.
KR1020190067516A 2019-06-07 2019-06-07 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버 KR102283022B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190067516A KR102283022B1 (ko) 2019-06-07 2019-06-07 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버
US16/555,963 US11520348B2 (en) 2019-06-07 2019-08-29 Method for driving robot based on external image, and robot and server implementing the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190067516A KR102283022B1 (ko) 2019-06-07 2019-06-07 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버

Publications (2)

Publication Number Publication Date
KR20200140628A true KR20200140628A (ko) 2020-12-16
KR102283022B1 KR102283022B1 (ko) 2021-07-28

Family

ID=68839481

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190067516A KR102283022B1 (ko) 2019-06-07 2019-06-07 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버

Country Status (2)

Country Link
US (1) US11520348B2 (ko)
KR (1) KR102283022B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022234923A1 (ko) * 2021-05-06 2022-11-10 네이버랩스 주식회사 통신 기반 로봇 제어 방법 및 시스템과, 로봇이 배치되는 건물
WO2024063334A1 (ko) * 2022-09-23 2024-03-28 삼성전자주식회사 로봇청소기 이상동작 탐지 방법 및 시스템

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210008605A (ko) * 2019-07-15 2021-01-25 (주)로보티즈 이동 로봇 플랫폼 시스템 및 그 운용 방법
CN111097161A (zh) * 2019-12-30 2020-05-05 河池学院 一种基于ros的跑步运动员训练陪伴机器人
CN112650209A (zh) * 2020-09-01 2021-04-13 上海纳深机器人有限公司 一种基于多传感器融合的ai教育机器人无人驾驶方法
US11810057B2 (en) * 2021-02-05 2023-11-07 Here Global B.V. Method, apparatus, and computer program product for vantage view assistance

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101480774B1 (ko) * 2013-09-30 2015-01-13 전자부품연구원 Cctv를 이용한 이동로봇의 위치 인식 장치 및 방법
KR101776823B1 (ko) * 2016-03-02 2017-09-11 가천대학교 산학협력단 외부 감시카메라를 이용한 모바일 로봇의 위치인식 방법 및 시스템
KR20180023301A (ko) * 2016-08-25 2018-03-07 엘지전자 주식회사 이동 로봇 및 그 제어방법

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4779203A (en) * 1985-08-30 1988-10-18 Texas Instruments Incorporated Visual navigation system for mobile robots
CN108139754A (zh) 2015-10-13 2018-06-08 星船科技私人有限公司 用于自主或半自主递送的方法和系统
US10191495B2 (en) * 2015-12-17 2019-01-29 Board Of Trustees Of The University Of Arkansas Distributed ceiling-mounted smart cameras for multi-unmanned ground vehicle routing and coordination
KR101887637B1 (ko) 2016-11-15 2018-08-10 주식회사 로보러스 로봇 시스템
JP7062911B2 (ja) * 2017-10-11 2022-05-09 セイコーエプソン株式会社 ロボットシステム
US10394234B2 (en) * 2017-12-18 2019-08-27 The Boeing Company Multi-sensor safe path system for autonomous vehicles
US20210116907A1 (en) * 2018-03-18 2021-04-22 Driveu Tech Ltd. Device, System, and Method of Autonomous Driving and Tele-Operated Vehicles
US10678253B2 (en) * 2018-05-24 2020-06-09 GM Global Technology Operations LLC Control systems, control methods and controllers for an autonomous vehicle
JP2020013242A (ja) * 2018-07-17 2020-01-23 富士ゼロックス株式会社 ロボット制御システム、ロボット装置およびプログラム
US11731792B2 (en) * 2018-09-26 2023-08-22 Dexterity, Inc. Kitting machine

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101480774B1 (ko) * 2013-09-30 2015-01-13 전자부품연구원 Cctv를 이용한 이동로봇의 위치 인식 장치 및 방법
KR101776823B1 (ko) * 2016-03-02 2017-09-11 가천대학교 산학협력단 외부 감시카메라를 이용한 모바일 로봇의 위치인식 방법 및 시스템
KR20180023301A (ko) * 2016-08-25 2018-03-07 엘지전자 주식회사 이동 로봇 및 그 제어방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022234923A1 (ko) * 2021-05-06 2022-11-10 네이버랩스 주식회사 통신 기반 로봇 제어 방법 및 시스템과, 로봇이 배치되는 건물
WO2024063334A1 (ko) * 2022-09-23 2024-03-28 삼성전자주식회사 로봇청소기 이상동작 탐지 방법 및 시스템

Also Published As

Publication number Publication date
US20190384317A1 (en) 2019-12-19
US11520348B2 (en) 2022-12-06
KR102283022B1 (ko) 2021-07-28

Similar Documents

Publication Publication Date Title
KR102283022B1 (ko) 외부 영상에 기반한 로봇의 주행 방법과, 이를 구현하는 로봇 및 서버
US11449045B2 (en) Artificial intelligence device and method of diagnosing malfunction using operation log and artificial intelligence model
Shaheen et al. Continual learning for real-world autonomous systems: Algorithms, challenges and frameworks
KR20190110073A (ko) 인공 지능 모델을 갱신하는 인공 지능 장치 및 그 방법
KR20190106861A (ko) 학습 데이터를 생성하는 인공 지능 장치, 인공 지능 서버 및 그 방법
KR102212217B1 (ko) 충돌을 효과적으로 방지하는 자율 주행 차량 및 이를 제어하는 제어 장치 및 방법
KR102331563B1 (ko) 구역별 오염정보를 이용하여 청소를 수행하는 인공 지능 로봇 및 그 방법
CN112347691B (zh) 人工智能服务器
KR20210075594A (ko) 전기차의 배터리 소모량 추정 방법 및 장치
US11710036B2 (en) Artificial intelligence server
KR20190109338A (ko) 로봇 제어 방법 및 로봇
KR102293317B1 (ko) 특정 지역의 맵을 작성하는 방법과, 이를 구현하는 로봇 및 전자기기
US20190392382A1 (en) Refrigerator for managing item using artificial intelligence and operating method thereof
KR20190101333A (ko) 음성 인식 장치 및 음성 인식 방법
KR20210067442A (ko) 객체 인식을 위한 자동 레이블링 장치 및 방법
US11467598B2 (en) Method of estimating position in local area of large space and robot and cloud server implementing thereof
US20230161356A1 (en) Method of updating map in fusion slam and robot implementing same
KR20210095359A (ko) 로봇, 로봇의 제어 방법 및 로봇을 제어하기 위한 서버
Anas et al. Comparison of deep Q-learning, Q-learning and SARSA reinforced learning for robot local navigation
US11524404B2 (en) Robot system and control method thereof
US10812904B2 (en) Acoustic equalization method, robot and AI server implementing the same
KR20200144894A (ko) 자율 주행 차량을 이용한 물품 전달 방법
KR20210044598A (ko) 배송 로봇의 관제 서버 및 그의 배송 로봇 제어 방법
KR20210115250A (ko) 하이브리드 심층 학습 시스템 및 방법
KR102591707B1 (ko) 보행경로예측장치

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant