KR20230100981A - Robot control system and control method thereof - Google Patents

Robot control system and control method thereof Download PDF

Info

Publication number
KR20230100981A
KR20230100981A KR1020210190707A KR20210190707A KR20230100981A KR 20230100981 A KR20230100981 A KR 20230100981A KR 1020210190707 A KR1020210190707 A KR 1020210190707A KR 20210190707 A KR20210190707 A KR 20210190707A KR 20230100981 A KR20230100981 A KR 20230100981A
Authority
KR
South Korea
Prior art keywords
robot
control
motion information
arm
user
Prior art date
Application number
KR1020210190707A
Other languages
Korean (ko)
Inventor
박철우
구민호
여상훈
김강민
Original Assignee
박철우
구민호
여상훈
김강민
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 박철우, 구민호, 여상훈, 김강민 filed Critical 박철우
Priority to KR1020210190707A priority Critical patent/KR20230100981A/en
Publication of KR20230100981A publication Critical patent/KR20230100981A/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • B25J13/087Controls for manipulators by means of sensing devices, e.g. viewing or touching devices for sensing other physical parameters, e.g. electrical or chemical properties
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/006Controls for manipulators by means of a wireless system for controlling one or several manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/06Control stands, e.g. consoles, switchboards
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1612Programme controls characterised by the hand, wrist, grip control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1689Teleoperation

Abstract

로봇 제어 시스템이 개시된다. 로봇 제어 시스템은, 카메라가 장착된 로봇, 상기 로봇과 통신 연결되면, 상기 로봇에 장착된 상기 카메라를 통해 획득된 촬영 영상을 수신하여 표시하고, 제어 UI 화면을 통해 입력된 제어 명령을 상기 로봇으로 전송하여 상기 로봇을 제어하는 사용자 단말 및, 사용자 손에 착용되어 상기 사용자 손의 움직임에 대응되는 모션 정보를 획득하고, 상기 모션 정보를 상기 로봇으로 전송하여 상기 로봇을 제어하는 센싱 장갑을 포함한다. A robot control system is disclosed. The robot control system, when a robot equipped with a camera and communication is connected to the robot, receives and displays a photographed image obtained through the camera mounted on the robot, and transmits a control command input through a control UI screen to the robot. and a user terminal that transmits and controls the robot, and a sensing glove that is worn on a user's hand to obtain motion information corresponding to the motion of the user's hand and transmits the motion information to the robot to control the robot.

Description

로봇 제어 시스템 및 그 제어 방법{Robot control system and control method thereof}Robot control system and control method thereof {Robot control system and control method thereof}

본 발명은 로봇 제어 시스템 및 그 제어 방법에 관한 것으로, 더욱 상세하게는 원격으로 로봇을 제어하는 로봇 제어 시스템 및 그 제어 방법에 관한 것이다.The present invention relates to a robot control system and a control method thereof, and more particularly, to a robot control system for remotely controlling a robot and a control method thereof.

다양한 목적의 로봇이 공장, 가정에도 배치되고 있으며, 이러한 로봇은 외부 객체를 파지하여 일 위치에서 타 위치로 이동시키거나, 운반하는 동작을 수행할 수 있다.Robots for various purposes are also deployed in factories and homes, and these robots can perform an operation of gripping an external object and moving it from one location to another or transporting it.

예를 들어, 공장에 배치된 산업용 로봇은 사람이 파지하기 어려운 객체를 파지하여 특정 위치로 운반할 수도 있고, 조립을 수행할 수도 있다. 다른 예로, 가정에 배치된 로봇은 이물질을 운반하는 등 실내 청소를 수행할 수도 있고, 사람이 파지하기 어려운 물체 또는 위험한 물체를 특정 위치로 이동시킬 수도 있다. 이러한 로봇을 제어하기 위한 다양한 방안이 요구되고 있다. For example, an industrial robot disposed in a factory may grip an object that is difficult for a human to grip, transport it to a specific location, or perform assembly. As another example, a robot disposed in a home may perform indoor cleaning, such as carrying foreign substances, or may move an object that is difficult for a person to grip or a dangerous object to a specific location. Various methods for controlling such robots are required.

본 발명은 상술한 필요성에 따른 것으로, 본 발명의 목적은 로봇에 부착된 카메라 및 사용자 손에 착용 가능한 센싱 장갑을 이용하여 로봇을 제어하는 로봇 제어 시스템 및 그 제어 방법에 관한 것이다.The present invention has been made in accordance with the above-described needs, and an object of the present invention relates to a robot control system and a control method for controlling a robot using a camera attached to the robot and a sensing glove wearable on a user's hand.

본 발명의 상술한 목적을 달성하기 위한 일 실시 예에 따르면 로봇 제어 시스템은, 카메라가 장착된 로봇과 통신 연결되면, 상기 로봇에 장착된 상기 카메라를 통해 획득된 촬영 영상을 수신하여 표시하고, 제어 UI 화면을 통해 입력된 제어 명령을 상기 로봇으로 전송하여 상기 로봇을 제어하는 사용자 단말 및, 사용자 손에 착용되어 상기 사용자 손의 움직임에 대응되는 모션 정보를 획득하고, 상기 모션 정보를 상기 로봇으로 전송하여 상기 로봇을 제어하는 센싱 장갑을 포함한다. According to an embodiment for achieving the above object of the present invention, the robot control system receives, displays, and controls a photographed image obtained through the camera mounted on the robot when communication is connected to the robot equipped with the camera. A user terminal that controls the robot by transmitting a control command input through the UI screen and motion information corresponding to the movement of the user's hand worn on the user's hand are acquired, and the motion information is transmitted to the robot and a sensing glove for controlling the robot.

또한, 상기 센싱 장갑은, 각 관절의 회전축에 구비된 가변 저항 및 상기 가변 저항의 변화된 저항 값에 기초하여 획득된 상기 모션 정보를 상기 로봇으로 전송하는 통신 인터페이스를 포함할 수 있다. In addition, the sensing glove may include a variable resistor provided on the rotation axis of each joint and a communication interface that transmits the motion information acquired based on the changed resistance value of the variable resistor to the robot.

또한, 상기 로봇은, 그리퍼(gripper) 및 암(arm)를 포함하는 암(arm)부, 구동부 및, 상기 센싱 장갑으로부터 수신된 상기 모션 정보에 기초하여 상기 암(arm)부를 제어하고, 상기 사용자 단말로부터 수신된 상기 제어 명령에 기초하여 상기 구동부를 제어하는 프로세서를 포함할 수 있다. In addition, the robot controls the arm unit based on the motion information received from an arm unit including a gripper and an arm, a driving unit, and the sensing glove, and the user It may include a processor that controls the driving unit based on the control command received from the terminal.

또한, 상기 모션 정보는, 상기 그리퍼의 그립 동작 및 상기 암의 움직임에 대한 정보를 포함할 수 있다. Also, the motion information may include information about a grip motion of the gripper and a motion of the arm.

또한, 상기 로봇은, 상기 로봇이 지면이나 벽면에 고정되도록 하는 진공 흡착부를 더 포함할 수 있다. In addition, the robot may further include a vacuum adsorption unit for fixing the robot to the ground or a wall surface.

상기 사용자 단말은, 디스플레이, 사용자 인터페이스, 통신 인터페이스 및 상기 제어 UI 화면을 표시하도록 상기 디스플레이를 제어하고, 상기 사용자 인터페이스를 통해 상기 제어 UI 화면에 제공된 제어 메뉴가 선택되면, 상기 제어 메뉴에 대응되는 제어 명령을 상기 통신 인터페이스를 통해 상기 로봇으로 전송하는 프로세서를 포함할 수 있다. The user terminal controls the display to display a display, a user interface, a communication interface, and the control UI screen, and when a control menu provided on the control UI screen is selected through the user interface, a control corresponding to the control menu is selected. A processor for transmitting commands to the robot through the communication interface may be included.

또한, 상기 사용자 단말의 상기 프로세서는, 상기 로봇으로부터 수신된 상기 촬영 영상을 학습된 인공 지능 모델에 입력하여 상기 로봇의 작업 상황 및 작업 현장에 대한 정보를 획득하고, 획득된 정보에 기초하여 알림 메시지를 제공할 수 있다. In addition, the processor of the user terminal obtains information about a work situation and a work site of the robot by inputting the captured image received from the robot to a learned artificial intelligence model, and sends a notification message based on the obtained information. can provide.

한편, 일 실시 예에 따른 로봇 제어 방법은, 사용자 단말이, 상기 카메라가 장착된 로봇으로부터 촬영 영상을 수신하여 표시하는 단계, 상기 사용자 단말이, 제어 UI 화면을 통해 입력된 제어 명령을 상기 로봇으로 전송하여 상기 로봇을 제어하는 단계 및, 사용자 손에 착용된 센싱 장갑이, 상기 사용자 손의 움직임에 대응되는 모션 정보를 획득하고, 상기 모션 정보를 상기 로봇으로 전송하여 상기 로봇을 제어하는 단계를 포함한다. On the other hand, a robot control method according to an embodiment includes the step of receiving and displaying, by a user terminal, a photographed image from the robot equipped with the camera, the user terminal sending a control command input through a control UI screen to the robot. and controlling the robot by transmitting and controlling the robot by obtaining, by a sensing glove worn on the user's hand, motion information corresponding to the movement of the user's hand, and transmitting the motion information to the robot to control the robot. do.

또한, 상기 센싱 장갑은, 각 관절의 회전축에 구비된 가변 저항, 및 상기 가변 저항의 변화된 저항 값에 기초하여 획득된 상기 모션 정보를 상기 로봇으로 전송하는 통신 인터페이스를 포함할 수 있다. In addition, the sensing glove may include a variable resistor provided on the rotation axis of each joint, and a communication interface for transmitting the motion information obtained based on the changed resistance value of the variable resistor to the robot.

또한, 상기 로봇은, 그리퍼(gripper) 및 암(arm)를 포함하는 암(arm)부를 포함하며, 상기 로봇을 제어하는 단계는, 상기 센싱 장갑으로부터 수신된 상기 모션 정보에 기초하여 상기 암(arm)부를 제어하는 단계 및, 상기 사용자 단말로부터 수신된 상기 제어 명령에 기초하여 구동부를 제어하는 단계를 더 포함할 수 있다.In addition, the robot includes an arm including a gripper and an arm, and the step of controlling the robot includes the arm based on the motion information received from the sensing glove. ) unit, and controlling the driving unit based on the control command received from the user terminal.

또한, 상기 모션 정보는, 상기 그리퍼의 그립 동작 및 상기 암의 움직임에 대한 정보를 포함할 수 있다. Also, the motion information may include information about a grip motion of the gripper and a motion of the arm.

상술한 다양한 실시 예에 따르면, 로봇에 부착된 카메라 및 사용자 손에 착용 가능한 센싱 장갑을 이용하여 원격으로 로봇의 동작을 세밀하게 제어할 수 있게 된다. According to various embodiments described above, it is possible to precisely control the operation of the robot remotely using a camera attached to the robot and a sensing glove wearable on a user's hand.

도 1은 일 실시 예에 따른 로봇 제어 시스템을 설명하기 위한 도면이다.
도 2는 일 실시 예에 따른 로봇의 구성을 나타내는 블럭도이다.
도 3은 일 실시 예에 따른 사용자 단말의 구성을 나타내는 블럭도이다.
도 4는 일 실시 예에 따른 센싱 장갑의 구성을 나타내는 블럭도이다.
도 5는 일 실시 예에 따른 시스템 구성을 개략적으로 나타내는 도면이다.
도 6은 일 실시 예에 따른 시나리오를 개략적으로 나타내는 도면이다.
1 is a diagram for explaining a robot control system according to an embodiment.
2 is a block diagram showing the configuration of a robot according to an embodiment.
3 is a block diagram illustrating a configuration of a user terminal according to an exemplary embodiment.
4 is a block diagram showing the configuration of a sensing glove according to an embodiment.
5 is a diagram schematically illustrating a system configuration according to an exemplary embodiment.
6 is a diagram schematically illustrating a scenario according to an exemplary embodiment.

이하에서는 첨부 도면을 참조하여 본 발명을 상세히 설명한다. Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.The terms used in this specification will be briefly described, and the present invention will be described in detail.

본 발명의 실시 예에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 개시의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다. The terms used in the embodiments of the present invention have been selected from general terms that are currently widely used as much as possible while considering the functions in the present invention, but these may vary depending on the intention or precedent of a person skilled in the art, the emergence of new technologies, etc. . In addition, in a specific case, there is also a term arbitrarily selected by the applicant, and in this case, the meaning will be described in detail in the description of the disclosure. Therefore, terms used in the present disclosure should be defined based on the meaning of the term and the general content of the present disclosure, not simply the name of the term.

본 명세서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.In this specification, expressions such as “has,” “can have,” “includes,” or “can include” indicate the existence of a corresponding feature (eg, numerical value, function, operation, or component such as a part). , which does not preclude the existence of additional features.

A 또는/및 B 중 적어도 하나라는 표현은 "A" 또는 "B" 또는 "A 및 B" 중 어느 하나를 나타내는 것으로 이해되어야 한다. The expression at least one of A and/or B should be understood to denote either "A" or "B" or "A and B".

본 명세서에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. Expressions such as "first," "second," "first," or "second," as used herein, may modify various components regardless of order and/or importance, and may refer to one component It is used only to distinguish it from other components and does not limit the corresponding components.

본 개시에서 "모듈" 혹은 "부"는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈" 혹은 복수의 "부"는 특정한 하드웨어로 구현될 필요가 있는 "모듈" 혹은 "부"를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.In the present disclosure, a “module” or “unit” performs at least one function or operation, and may be implemented in hardware or software or a combination of hardware and software. In addition, a plurality of "modules" or a plurality of "units" are integrated into at least one module and implemented by at least one processor (not shown), except for "modules" or "units" that need to be implemented with specific hardware. It can be.

이하 첨부된 도면들을 참조하여 본 개시의 일 실시 예를 보다 상세하게 설명한다.Hereinafter, an embodiment of the present disclosure will be described in more detail with reference to the accompanying drawings.

본 개시에서 '사용자' 는 로봇에게 서비스를 제공받는 사람을 의미할 수 있으나, 이에 한정되는 것은 아니다.In the present disclosure, 'user' may mean a person who is provided with a service by a robot, but is not limited thereto.

도 1은 일 실시 예에 따른 로봇 제어 시스템을 설명하기 위한 도면이다. 1 is a diagram for explaining a robot control system according to an embodiment.

도 1에 따르면 로봇 제어 시스템은 로봇(100), 사용자 단말(200) 및 센싱 장값(300)을 포함한다. According to FIG. 1 , the robot control system includes a robot 100 , a user terminal 200 and a sensing device 300 .

로봇(100)은 스스로 일 기능을 수행하는 능력을 가진 다양한 형태의 기계를 의미할 수 있다. 일 예로, 로봇은 단순 반복 기능 외에 센서, 카메라 등을 기반으로 실시간으로 주변 환경을 감지하고, 정보를 수집하여 자율적으로 동작하는 스마트 기계를 의미할 수도 있다. The robot 100 may refer to various types of machines having the ability to perform a function by itself. For example, a robot may refer to a smart machine that senses the surrounding environment in real time based on sensors, cameras, etc., collects information, and operates autonomously in addition to simple repetitive functions.

일 실시 예에 따른 로봇(100)은 인간의 손가락과 같이 외부 객체를 파지하거나 또는 이동시킬 수 있는 그리퍼를 포함할 수 있다. 한편, 그리퍼는 다관절 로봇의 말단부인 로봇 핸드(robot hand) 등으로 불릴 수도 있으나, 이하에서는 설명의 편의를 위해 그리퍼로 통칭하도록 한다.The robot 100 according to an embodiment may include a gripper capable of gripping or moving an external object like a human finger. Meanwhile, the gripper may be referred to as a robot hand, which is an end part of an articulated robot, but hereinafter, it will be collectively referred to as a gripper for convenience of explanation.

한편, 로봇(100)은 이용 분야 또는 수행 가능한 기능에 따라서 산업용, 의료용, 가정용, 군사용 및 탐사용 로봇 등으로 구분될 수 있다. 일 실시 예에 따라 산업용 로봇은 공장의 제품 제조 과정에서 이용되는 로봇, 매장 또는 식당 등에서 손님 응대, 주문 접수 및 서빙 등을 수행하는 로봇 등으로 세분화될 수도 있다. 예를 들어, 본 개시의 일 실시 예에 따른 로봇(100)은 공장, 호텔, 마트, 병원, 의류 매장 등 다양한 장소에서 그리퍼를 제어하여 외부 객체를 그립(Grip)한 뒤, 외부 객체를 특정 위치까지 운반할 수 있는 로봇으로 구현될 수 있다. 다만, 이는 일 예에 불과할 뿐, 로봇은 활용 분야, 기능 및 사용 목적에 따라 다양하게 분류될 수 있고, 상술한 예에 한정되지 않음은 물론이다. Meanwhile, the robot 100 may be classified into industrial, medical, household, military, and exploration robots according to fields of use or functions that can be performed. According to an embodiment, industrial robots may be subdivided into robots used in the manufacturing process of factories, robots serving customers, receiving orders, and serving in stores or restaurants. For example, the robot 100 according to an embodiment of the present disclosure controls a gripper in various places such as a factory, hotel, mart, hospital, clothing store, etc. to grip an external object, and then moves the external object to a specific location. It can be implemented as a robot that can carry up to However, this is only an example, and the robot may be classified in various ways according to the application field, function, and purpose of use, and is, of course, not limited to the above-described example.

사용자 단말(200)은 로봇(100)과 통신 연결되면, 로봇(100)에 장착된 카메라를 통해 획득된 촬영 영상을 수신하여 표시하고, 제어 UI 화면을 통해 입력된 제어 명령을 로봇(100)으로 전송하여 로봇(100)을 제어할 수 잇다. When the user terminal 200 is communicatively connected to the robot 100, the user terminal 200 receives and displays a captured image obtained through a camera mounted on the robot 100, and transmits a control command input through the control UI screen to the robot 100. It is possible to control the robot 100 by transmitting.

여기서, 사용자 단말(200)은, 스마트폰, 노트북, 태블릿 PC, 스마트 TV, 휴대폰, PDA(personal digital assistant), 랩톱 등의 장치일 수 있으나, 이에 제한되지 않는다. 일 예에 따라 사용자 단말(200)는 터치스크린을 내장하고 있어, 손가락 또는 펜(예를 들어, 스타일러스 펜)을 이용하여 프로그램을 실행시킬 수 있도록 구현될 수 있다.Here, the user terminal 200 may be a device such as a smart phone, a laptop computer, a tablet PC, a smart TV, a mobile phone, a personal digital assistant (PDA), or a laptop, but is not limited thereto. According to one example, the user terminal 200 has a built-in touch screen, so that a program can be executed using a finger or a pen (eg, a stylus pen).

사용자 단말(200)은 웹 페이지에 접속하여 로그인하거나, 어플리케이션을 통해 로그인 하여 사용자 계정에 접속하여 서버와 통신을 수행할 수 있다. 예를 들어, 사용자 단말(200)은 로봇(100)에 대한 제어 권한을 가지는 사용자 계정에 접속할 수 있다. The user terminal 200 may perform communication with a server by accessing a web page and logging in, or logging in through an application and accessing a user account. For example, the user terminal 200 may access a user account having control authority for the robot 100 .

서버는 모든 네트워크 시스템에서 각종 운영 체계와 어플리케이션(application) 간의 상호 작용을 담당하는 중앙 서버(또는 통합 서버) 또는 클라우드 컴퓨팅 기술을 이용하는 클라우드 서버 등으로 구현될 수 있다. 여기서, 클라우드 컴퓨팅(cloud computing)은 인터넷 기반의 컴퓨팅 기술을 의미하는 것으로, 인터넷 상의 유틸리티 데이터 서버(utility data server)에 프로그램을 두고 그때 그때 컴퓨터나 휴대폰 등에 불러와서 사용하는 웹에 기반한 소프트웨어 서비스이다. The server may be implemented as a central server (or integration server) responsible for interaction between various operating systems and applications in all network systems, or a cloud server using cloud computing technology. Here, cloud computing refers to Internet-based computing technology, and is a web-based software service in which a program is placed in a utility data server on the Internet and then called and used on a computer or mobile phone.

일 실시 예에 따라 센싱 장갑(300)은 사용자 손에 착용되어 사용자 손의 움직임에 대응되는 모션 정보를 획득하고, 모션 정보를 로봇(100) 또는 사용자 단말(200) 중 적어도 하나로 전송할 수 있다. According to an embodiment, the sensing glove 300 may be worn on a user's hand to acquire motion information corresponding to a motion of the user's hand, and transmit the motion information to at least one of the robot 100 and the user terminal 200.

도 2는 일 실시 예에 따른 로봇의 구성을 나타내는 블럭도이다.2 is a block diagram showing the configuration of a robot according to an embodiment.

도 2에 따르면, 로봇(100)은 적어도 하나의 센서(110), 메모리(120), 구동부(130), 암부(140), 진공 흡착부(150), 통신 인터페이스(160) 및 프로세서(170)를 포함할 수 있다.According to FIG. 2 , the robot 100 includes at least one sensor 110, a memory 120, a driving unit 130, an arm unit 140, a vacuum suction unit 150, a communication interface 160, and a processor 170. can include

적어도 하나의 센서(110)는 다양한 타입의 복수의 센서를 포함할 수 있다. 센서(110)는 물리량을 계측하거나 로봇(100)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서(110)는 카메라를 포함할 수 있으며, 카메라는 오브젝트에 의해 반사되어 수신되는 가시광 기타 광학 신호를 이미지 센서로 포커싱하는 렌즈 및 가시광 기타 광학 신호를 감지할 수 있는 이미지 센서를 포함할 수 있다. 여기서, 이미지 센서는 복수의 픽셀로 구분되는 2D의 픽셀 어레이를 포함할 수 있으며, 일 예에 따른 카메라는 뎁스 카메라로 구현될 수 있다. 또한, 센서(140)는 라이더(LIDAR, Light Detection And Ranging) 센서 및 TOF(Time of flight) 센서와 같은 거리 센서를 포함할 수 있다.At least one sensor 110 may include a plurality of sensors of various types. The sensor 110 may measure a physical quantity or detect an operating state of the robot 100 and convert the measured or sensed information into an electrical signal. The sensor 110 may include a camera, and the camera may include a lens for focusing visible light and other optical signals received after being reflected by an object into an image sensor, and an image sensor capable of detecting visible light and other optical signals. Here, the image sensor may include a 2D pixel array divided into a plurality of pixels, and the camera according to an example may be implemented as a depth camera. In addition, the sensor 140 may include a distance sensor such as a light detection and ranging (LIDAR) sensor and a time of flight (TOF) sensor.

또한, 센서(110)는 암부(140)의 무게를 식별하기 위한 포스 토크 센서를 더 포함할 수 있다. In addition, the sensor 110 may further include a force torque sensor for identifying the weight of the arm 140 .

그 밖에 센서(110)는 충돌 감지 센서, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러(color) 센서(예: RGB(red, green, blue) 센서), 생체 센서, 온/습도 센서, 조도 센서 또는 UV(ultra violet) 센서 중의 적어도 하나를 포함할 수도 있다.Other sensors 110 include a collision detection sensor, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, and a color sensor (eg, a red, green, blue (RGB) sensor). , a bio sensor, a temperature/humidity sensor, an illuminance sensor, or an ultra violet (UV) sensor.

메모리(120)는 다양한 실시 예를 위해 필요한 데이터를 저장할 수 있다. 메모리(120)는 데이터 저장 용도에 따라 로봇(100)에 임베디드된 메모리 형태로 구현되거나, 로봇(100)에 탈부착이 가능한 메모리 형태로 구현될 수도 있다. 예를 들어, 로봇(100)의 구동을 위한 데이터의 경우 로봇(100)에 임베디드된 메모리에 저장되고, 로봇(100)의 확장 기능을 위한 데이터의 경우 로봇(100)에 탈부착이 가능한 메모리에 저장될 수 있다. 한편, 로봇(100)에 임베디드된 메모리의 경우 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나로 구현될 수 있다. 또한, 로봇(100)에 탈부착이 가능한 메모리의 경우 메모리 카드(예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 등), USB 포트에 연결가능한 외부 메모리(예를 들어, USB 메모리) 등과 같은 형태로 구현될 수 있다.The memory 120 may store data necessary for various embodiments. The memory 120 may be implemented in the form of a memory embedded in the robot 100 or in the form of a removable memory in the robot 100 depending on the data storage purpose. For example, data for driving the robot 100 is stored in a memory embedded in the robot 100, and data for extended functions of the robot 100 is stored in a memory attachable to and detachable from the robot 100. It can be. On the other hand, in the case of memory embedded in the robot 100, volatile memory (eg, DRAM (dynamic RAM), SRAM (static RAM), SDRAM (synchronous dynamic RAM), etc.), non-volatile memory (non-volatile memory) (eg : OTPROM (one time programmable ROM), PROM (programmable ROM), EPROM (erasable and programmable ROM), EEPROM (electrically erasable and programmable ROM), mask ROM, flash ROM, flash memory (e.g. NAND flash or NOR flash, etc.) , hard drive, or solid state drive (SSD). In addition, in the case of a memory attachable to and detachable from the robot 100, a memory card (eg, CF (compact flash), SD (secure digital), Micro-SD (micro secure digital), Mini-SD (mini secure digital), xD (extreme digital), MMC (multi-media card), etc.), external memory that can be connected to the USB port (e.g. For example, a USB memory) may be implemented in the form of the like.

구동부(130)는 로봇(100)을 주행시킬 수 있는 장치이다. 구동부(130)는 프로세서(170)의 제어에 따라 주행 방향 및 주행 속도를 조절할 수 있으며, 일 예에 따른 구동부(130)는 로봇(100)이 주행하기 위한 동력을 발생시키는 동력발생장치(예: 사용 연료(또는 에너지원)에 따라 가솔린 엔진(engine), 디젤 엔진, LPG(liquefied petroleum gas) 엔진, 전기 모터 등), 주행 방향을 조절하기 위한 조향 장치(예: 기계식 스티어링(manual steering), 유압식 스티어링(hydraulics steering), 전자식 스티어링(electronic control power steering; EPS) 등), 동력에 따라 로봇(100)을 주행시키는 주행 장치(예: 바퀴, 프로펠러 등) 등을 포함할 수 있다. 여기서, 구동부(130)는 로봇(100)의 주행 타입(예: 휠 타입, 보행 타입, 비행 타입 등)에 따라 변형 실시될 수 있다.The driving unit 130 is a device capable of driving the robot 100. The driving unit 130 may adjust the driving direction and driving speed under the control of the processor 170, and the driving unit 130 according to an example may be a power generating device (eg: Gasoline engine, diesel engine, LPG (liquefied gas petroleum) engine, electric motor, etc., depending on fuel (or energy source) used steering (hydraulics steering, electronic control power steering (EPS), etc.), driving devices (eg, wheels, propellers, etc.) for driving the robot 100 according to power may be included. Here, the drive unit 130 may be modified according to the driving type (eg, wheel type, walking type, flight type, etc.) of the robot 100 .

암부(140)는 그리퍼(gripper) 및 암(arm)를 포함할 수 있다. The arm unit 140 may include a gripper and an arm.

암부(140)는 인간의 팔과 유사한 형태일 수 있으며, 일 예에 따라 어깨, 팔꿈치, 팔뚝, 그리고 손목을 가질 수 있다. 암부(140)는 기능에 맞는 다양한 타입으로 구현 가능라며, 타입 별로 암이 작동할 수 있는 기능 및 이동 범위에 영향을 미칠 수 있다. The arm part 140 may have a shape similar to a human arm, and may have a shoulder, an elbow, a forearm, and a wrist according to an example. The arm unit 140 can be implemented in various types suitable for the function, and each type can affect the function and movement range in which the arm can operate.

일 실시 예에 따라 암은 관절형 암으로 구현될 수 있다. 관절형 암은 보유한 축 또는 회전 지점의 수에 따라 분류될 수 있다. 예를 들어, 4축, 6축 및 7축 관절형 암으로 구현될 수 있으나, 이에 한정되는 것은 아니다. 예를 들어, 데카르트/직선 로봇 암, 원통형 로봇 암, 구형/폴라 로봇 암, SCARA 로봇 암 등으로 구현될 수 있으나 이에 한정된는 것은 아니다. According to one embodiment, the arm may be implemented as an articulated arm. Articulating arms can be classified according to the number of axes or points of rotation they have. For example, it may be implemented as a 4-axis, 6-axis, and 7-axis articulated arm, but is not limited thereto. For example, it may be implemented as a Cartesian/linear robot arm, a cylindrical robot arm, a spherical/polar robot arm, a SCARA robot arm, etc., but is not limited thereto.

진공 흡착부(150)는 로봇(100)이 지면이나 벽면에 고정되도록 하는 진공 흡착 기능을 할 수 있다. 일 예에 따라 진공 팬모터(또는 흡입 팬모터)를 이용하여 다양한 환경에서 로봇(300)을 지면이나 벽면에 고정시켜 안정적인 작업을 지원할 수 있다. The vacuum adsorption unit 150 may perform a vacuum adsorption function to fix the robot 100 to the ground or a wall surface. According to an example, the robot 300 may be fixed to the ground or a wall surface in various environments using a vacuum fan motor (or a suction fan motor) to support stable work.

통신 인터페이스(160)는 로봇(100)의 구현 예에 따라 다양한 인터페이스로 구현될 수 있음은 물론이다. 예를 들어 통신 인터페이스(160)는 블루투스(Bluetooth), AP 기반의 Wi-Fi(와이파이, Wireless LAN 네트워크), 지그비(Zigbee), 유/무선 LAN(Local Area Network), WAN(Wide Area Network), 이더넷(Ethernet), IEEE 1394 등과 같은 통신 방식을 통해 사용자 단말(200) 및 센싱 장갑(300) 등과 통신을 수행할 수 있다. Of course, the communication interface 160 may be implemented as various interfaces according to the implementation example of the robot 100 . For example, the communication interface 160 includes Bluetooth, AP-based Wi-Fi (Wi-Fi, Wireless LAN network), Zigbee, wired/wireless LAN (Local Area Network), WAN (Wide Area Network), Communication may be performed with the user terminal 200 and the sensing glove 300 through a communication method such as Ethernet or IEEE 1394.

적어도 하나의 프로세서(170)는 로봇(100)의 동작을 전반적으로 제어한다. 구체적으로, 프로세서(170)는 로봇(100)의 각 구성과 연결되어 로봇(100)의 동작을 전반적으로 제어할 수 있다. 예를 들어, 프로세서(170)는 메모리(120) 및 구동부(130)와 전기적으로 연결되어 로봇(100)의 전반적인 동작을 제어할 수 있다. 프로세서(170)는 하나 또는 복수의 프로세서로 구성될 수 있다. 예를 들어, 후술하는 다양한 기능(예를 들어, 맵 생성, 경로 플래닝)은 하나의 프로세서에 의해 수행될 수도 있으나, 복수의 프로세서에 의해 각기 다른 기능이 수행될 수도 있다. At least one processor 170 controls the overall operation of the robot 100. Specifically, the processor 170 may be connected to each component of the robot 100 to control the overall operation of the robot 100. For example, the processor 170 may be electrically connected to the memory 120 and the driving unit 130 to control the overall operation of the robot 100. Processor 170 may be composed of one or a plurality of processors. For example, various functions (eg, map creation and route planning) described below may be performed by one processor, but different functions may be performed by a plurality of processors.

프로세서(170)는 메모리(120)에 저장된 적어도 하나의 인스트럭션(instruction)을 실행함으로써, 다양한 실시 예에 따른 로봇(100)의 동작을 수행할 수 있다.The processor 170 may perform the operation of the robot 100 according to various embodiments by executing at least one instruction stored in the memory 120 .

일 실시 예에 따라 프로세서(170)는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), NPU(Neural Processing Unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)) 등 다양한 이름으로 명명될 수 있으나, 본 명세서에서는 프로세서(170)로 기재한다.According to an embodiment, the processor 170 includes a digital signal processor (DSP), a microprocessor, a central processing unit (CPU), a micro controller unit (MCU), and a micro processing unit (MPU). unit), Neural Processing Unit (NPU), controller, application processor (AP), etc., but is described as the processor 170 in this specification.

프로세서(170)는 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다. 또한, 프로세서(170)는 SRAM 등의 휘발성 메모리를 포함할 수 있다.The processor 170 may be implemented as a system on chip (SoC), large scale integration (LSI), or a field programmable gate array (FPGA). Also, the processor 170 may include volatile memory such as SRAM.

프로세서(170)는 센싱 장갑(300)으로부터 수신된 모션 정보에 기초하여 암(arm)부를 제어할 수 있다. 여기서, 모션 정보는 그리퍼의 그립 동작 및 암의 움직임에 대한 정보를 포함할 수 있다. 다만, 센싱 장갑(300)의 모션 정보는 사용자 단말(200)을 통해 수신하는 것도 가능하다. The processor 170 may control an arm unit based on motion information received from the sensing glove 300 . Here, the motion information may include information about the grip motion of the gripper and the motion of the arm. However, motion information of the sensing glove 300 may also be received through the user terminal 200 .

또한, 프로세서(170)는 사용자 단말(200)로부터 수신된 제어 명령에 기초하여 구동부(130) 또는 암부(140) 중 적어도 하나를 제어할 수 있다. Also, the processor 170 may control at least one of the driving unit 130 and the arm unit 140 based on a control command received from the user terminal 200 .

일 예에 따라 프로세서(170)는 암부(140)에 구비된 모터의 각도를 제어하여 그리퍼 및 암의 동작을 제어할 수 있다. According to an example, the processor 170 may control the operation of the gripper and the arm by controlling the angle of the motor provided in the arm 140 .

또한, 프로세서(170)는 카메라를 통해 획득된 촬영 영상을 사용자 단말(200)로 전송할 수 있다. 이 경우, 사용자는 사용자 단말(200)에 제공되는 이미지를 실시간으로 모니터링하고 로봇(100)의 동작을 제어할 수 있다. 예를 들어, 프로세서(170)는 근적외선이 멀고 어두운 영역의 디테일을 살리고 가시광 영상이 색채를 보존한다는 서로의 장점을 이용하여 영상 합성을 통해 가시성이 우수한 영상을 획득하는 것도 가능하다. In addition, the processor 170 may transmit the captured image acquired through the camera to the user terminal 200 . In this case, the user can monitor the image provided to the user terminal 200 in real time and control the operation of the robot 100 . For example, the processor 170 may obtain an image having excellent visibility through image synthesis using mutual advantages that near infrared rays save detail in a dark region and visible light images preserve colors.

또한, 프로세서(170)는 포스 토크 센서를 통해 획득된 암부(140)의 무게에 기초하여 암부(140)에 적용되는 힘의 세기를 조정하는 것도 가능하다. Also, the processor 170 may adjust the strength of the force applied to the arm 140 based on the weight of the arm 140 obtained through the force torque sensor.

도 3은 일 실시 예에 따른 사용자 단말의 구성을 나타내는 블럭도이다. 3 is a block diagram illustrating a configuration of a user terminal according to an exemplary embodiment.

도 3에 따르면, 사용자 단말(200)은 디스플레이(210), 사용자 인터페이스(22O), 통신 인터페이스(230) 및 프로세서(240)를 포함할 수 있다. According to FIG. 3 , the user terminal 200 may include a display 210 , a user interface 220, a communication interface 230 and a processor 240 .

디스플레이(210)는 자발광 소자를 포함하는 디스플레이 또는, 비자발광 소자 및 백라이트를 포함하는 디스플레이로 구현될 수 있다. 예를 들어, LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 디스플레이, LED(Light Emitting Diodes), 마이크로 LED(micro LED), Mini LED, PDP(Plasma Display Panel), QD(Quantum dot) 디스플레이, QLED(Quantum dot light-emitting diodes) 등과 같은 다양한 형태의 디스플레이로 구현될 수 있다. 디스플레이(110) 내에는 a-si TFT, LTPS(low temperature poly silicon) TFT, OTFT(organic TFT) 등과 같은 형태로 구현될 수 있는 구동 회로, 백라이트 유닛 등도 함께 포함될 수 있다. 한편, 디스플레이(110)는 플렉시블 디스플레이(flexible display), 롤러블 디스플레이(rollable display), 3차원 디스플레이(3D display), 복수의 디스플레이 모듈이 물리적으로 연결된 디스플레이 등으로 구현될 수 있다. The display 210 may be implemented as a display including a self-light emitting element or a display including a non-light emitting element and a backlight. For example, LCD (Liquid Crystal Display), OLED (Organic Light Emitting Diodes) display, LED (Light Emitting Diodes), micro LED (micro LED), Mini LED, PDP (Plasma Display Panel), QD (Quantum dot) display , QLED (Quantum dot light-emitting diodes), etc. can be implemented in various types of displays. The display 110 may also include a driving circuit, a backlight unit, and the like that may be implemented in the form of an a-si TFT, a low temperature poly silicon (LTPS) TFT, or an organic TFT (OTFT). Meanwhile, the display 110 may be implemented as a flexible display, a rollable display, a 3D display, a display in which a plurality of display modules are physically connected, and the like.

사용자 인터페이스(220)는 버튼, 터치 패드, 마우스 및 키보드와 같은 장치로 구현되거나, 상술한 디스플레이 기능 및 조작 입력 기능도 함께 수행 가능한 터치 스크린 등으로 구현될 수 있다. The user interface 220 may be implemented as a device such as a button, touch pad, mouse, or keyboard, or may be implemented as a touch screen capable of simultaneously performing the above-described display function and manipulation input function.

통신 인터페이스(230)는 사용자 단말(200)의 구현 예에 따라 다양한 인터페이스로 구현될 수 있음은 물론이다. 예를 들어 통신 인터페이스(230)는 블루투스(Bluetooth), AP 기반의 Wi-Fi(와이파이, Wireless LAN 네트워크), 지그비(Zigbee), 유/무선 LAN(Local Area Network), WAN(Wide Area Network), 이더넷(Ethernet), IEEE 1394 등과 같은 통신 방식을 통해 로봇(100) 및 센싱 장갑(300) 등과 통신을 수행할 수 있다. Of course, the communication interface 230 may be implemented as various interfaces according to implementation examples of the user terminal 200 . For example, the communication interface 230 includes Bluetooth, AP-based Wi-Fi (Wi-Fi, Wireless LAN network), Zigbee, wired/wireless LAN (Local Area Network), WAN (Wide Area Network), Communication may be performed with the robot 100 and the sensing glove 300 through a communication method such as Ethernet or IEEE 1394.

일 실시 예에 따르면, 프로세서(230)는 로봇(100)으로부터 수신된 촬영 영상을 디스플레이(110)를 통해 표시할 수 있다. 이 경우 사용자는 로봇(100)의 작업 상황 및 작업 현장을 실시간으로 모니터링하고 로봇(100)의 동작을 제어할 수 있다. 예를 들어, 프로세서(230)는 근적외선이 멀고 어두운 영역의 디테일을 살리고 가시광 영상이 색채를 보존한다는 서로의 장점을 이용하여 영상 합성을 통해 가시성이 우수한 영상을 획득하는 것도 가능하다. According to one embodiment, the processor 230 may display the captured image received from the robot 100 through the display 110 . In this case, the user can monitor the work situation and work site of the robot 100 in real time and control the operation of the robot 100 . For example, the processor 230 may acquire an image having excellent visibility through image synthesis using mutual advantages that near infrared rays save details of a far dark region and visible light images preserve colors.

또한, 프로세서(230)는 로봇(100)을 제어하기 위한 제어 UI 화면을 디스플레이(110)를 통해 표시할 수 있다. 이 경우, 프로세서(230)는 사용자 인터페이스(210)를 통해 제어 UI 화면에 제어 메뉴에 대한 사용자 명령에 기초하여 로봇(100)을 제어하기 위한 제어 명령을 로봇(100)으로 전송할 수 있다.Also, the processor 230 may display a control UI screen for controlling the robot 100 through the display 110 . In this case, the processor 230 may transmit a control command for controlling the robot 100 to the robot 100 based on a user command for a control menu on the control UI screen through the user interface 210 .

다른 실시 예에 따르면, 프로세서(230)는 학습된 인공 지능 모델을 이용하여 로봇(100)의 작업 상황 및 작업 현장에 대한 정보를 획득하고, 획득된 정보에 기초하여 특정 상황인 것으로 판단되면 알림 메시지를 제공할 수 있다. 이 경우, 인공 지능 모델은 사용자 단말(200)에 저장되어 있을 수도 있으나, 외부 서버에 저장되는 것도 가능하다. 이 경우, 프로세서(230)는 촬영 영상을 외부 서버로 전송하고, 외부 서버로부터 로봇(100)의 작업 상황 및 작업 현장에 대한 정보 또는 알림 메시지를 수신할 수 있다. 여기서, 알림 메시지는 디스플레이(110)를 통한 비주얼 알림, 스피커를 통한 오디오 알림, 진동 알림 등을 통해 제공될 수 있다. According to another embodiment, the processor 230 obtains information about the work situation and the work site of the robot 100 using the learned artificial intelligence model, and when it is determined that it is a specific situation based on the obtained information, a notification message is received. can provide. In this case, the artificial intelligence model may be stored in the user terminal 200, but may also be stored in an external server. In this case, the processor 230 may transmit the captured image to an external server and receive information or a notification message about the work situation of the robot 100 and the work site from the external server. Here, the notification message may be provided through a visual notification through the display 110, an audio notification through a speaker, a vibration notification, and the like.

일 예에 따라 인공 지능 모델은 CNN (Convolutional Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN(Bidirectional Recurrent Deep Neural Network) 또는 심층 Q-네트워크 (Deep Q-Networks) 등으로 구현될 수 있으나, 이에 한정되지 않는다.According to an example, the artificial intelligence model is a convolutional neural network (CNN), a recurrent neural network (RNN), a restricted boltzmann machine (RBM), a deep belief network (DBN), a bidirectional recurrent deep neural network (BRDNN), or a deep Q-network ( Deep Q-Networks), etc., but is not limited thereto.

일 실시 예에 따르면, 인공 지능 모델은 입력 훈련 데이터 및 출력 훈련 데이터 쌍에 기초하여 학습되거나, 입력 훈련 데이터에 기초하여 학습될 수 있다. 여기서, 인공 지능 모델이 학습된다는 것은, 기본 인공 지능 모델(예를 들어 임의의 랜덤한 파라미터를 포함하는 인공 지능 모델)이 학습 알고리즘에 의하여 다수의 훈련 데이터들을 이용하여 학습됨으로써, 원하는 특성(또는, 목적)을 수행하도록 설정된 기 정의된 동작 규칙 또는 인공 지능 모델이 만들어짐을 의미한다. 이러한 학습은 전자 장치(100)를 통해 이루어질 수 있으나, 이에 한정되는 것은 아니며 별도의 서버 및/또는 시스템을 통해 이루어질 수도 있다. 학습 알고리즘의 예로는, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)이 있으나, 전술한 예에 한정되지 않는다. 다만, 이는 지도 학습의 경우를 예를 든 것이며, 입력 데이터 만을 입력하여 인공 지능 모델을 학습시키는 비지도 학습에 기초하여 인공 지능 모델을 학습시킬 수 있음은 물론이다. According to an embodiment, an artificial intelligence model may be learned based on a pair of input training data and output training data or based on input training data. Here, the learning of the artificial intelligence model means that the basic artificial intelligence model (eg, an artificial intelligence model including random parameters) is learned using a plurality of training data by a learning algorithm, so that desired characteristics (or, It means that a predefined action rule or an artificial intelligence model set to perform a purpose) is created. Such learning may be performed through the electronic device 100, but is not limited thereto and may be performed through a separate server and/or system. Examples of learning algorithms include supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but are not limited to the above examples. However, this is an example of supervised learning, and it goes without saying that an artificial intelligence model can be trained based on unsupervised learning in which an artificial intelligence model is trained by inputting only input data.

그 밖에 사용자 단말(200)은 메모리, 스피커, 마이크 등과 같은 일반적인 구성을 더 포함할 수 있다. In addition, the user terminal 200 may further include general components such as a memory, a speaker, and a microphone.

도 4는 일 실시 예에 따른 센싱 장갑의 구성을 나타내는 블럭도이다. 4 is a block diagram showing the configuration of a sensing glove according to an embodiment.

도 4에 따르면, 센싱 장갑(300)은 가변 저항(310), 통신 인터페이스(320) 및 프로세서(330)를 포함할 수 있다. 여기서, 통신 인터페이스(320) 및 프로세서(330)의 구현 형태는 도 2에 도시된 통신 인터페이스(160) 및 프로세서(170)의 구현 형태와 동일/유사하므로 자세한 설명은 생략하도록 한다. According to FIG. 4 , the sensing glove 300 may include a variable resistor 310 , a communication interface 320 and a processor 330 . Here, the implementation form of the communication interface 320 and the processor 330 is the same as/similar to the implementation form of the communication interface 160 and the processor 170 shown in FIG. 2, so detailed descriptions thereof will be omitted.

센싱 장갑(300)은 사용자의 손에 착용 가능한 형태이며, 사용자의 팔의 적어도 일부를 덮는 형태일 수 있다. The sensing glove 300 is wearable on a user's hand and may cover at least a portion of the user's arm.

가변 저항(310)은 센싱 장갑(300)의 각 관절 영역의 회전축에 구비될 수 있다. The variable resistor 310 may be provided on a rotation axis of each joint region of the sensing glove 300 .

프로세서(330)는 가변 저항의 변화된 저항 값에 기초하여 획득된 모션 정보를 통신 인터페이스(320)를 통해 로봇(100) 또는 사용자 단말(200) 중 적어도 하나로 전송할 수 있다. The processor 330 may transmit motion information obtained based on the changed resistance value of the variable resistor to at least one of the robot 100 and the user terminal 200 through the communication interface 320 .

일 예에 따라 프로세서(330)는 가변 저항을 통해 회전 각도에 따라 각도 값을 측정할 수 있다.According to an example, the processor 330 may measure an angle value according to a rotation angle through a variable resistor.

예를 들어, 사용자가 센싱 장갑(300)을 착용한 상태로 손가락, 손목과 같은 관절을 구부릴 수 있다. 이 경우, 관절의 각도가 변화하면 가변 저항의 회전축도 같이 회전하면서 가변 저항의 값도 변화된다. 이 경우 프로세서(330)는 변화된 가변 저항값을 디지털 신호로 변환하여 로봇(100)으로 전송할 수 있다. 이에 따라 프로세서(330)는 저항 값 감지 회로, ADC(analog-digital converter) 등을 포함하거나, 해당 기능을 하는 회로와 통신하도록 구현될 수 있다. For example, a user may bend a joint such as a finger or a wrist while wearing the sensing glove 300 . In this case, when the angle of the joint is changed, the value of the variable resistor is also changed while the rotating shaft of the variable resistor is also rotated. In this case, the processor 330 may convert the changed variable resistance value into a digital signal and transmit it to the robot 100 . Accordingly, the processor 330 may include a resistance value sensing circuit, an analog-digital converter (ADC), or the like, or may be implemented to communicate with a circuit performing a corresponding function.

그 밖에 센싱 장갑에는 센서가 구비될 수 있다. 여기서, 센서는 가속도 센서, 자이로 센서 등을 포함할 수 있다. 다만 이에 한정되는 것은 아니며, 로봇(100)에 구비된 센서와 동일/유사한 다른 센서가 구비될 수도 있다. 이 경우, 프로세서(330)는 센서의 센싱값을 이용하여 사용자의 팔 동작 및 각도를 측정할 수 있다. In addition, a sensor may be provided in the sensing glove. Here, the sensor may include an acceleration sensor, a gyro sensor, and the like. However, it is not limited thereto, and other sensors identical/similar to those provided in the robot 100 may be provided. In this case, the processor 330 may measure the motion and angle of the user's arm using the sensed value of the sensor.

도 5는 일 실시 예에 따른 로봇 제어 시스템의 구현 예를 개략적으로 나타내는 도면이다. 5 is a diagram schematically illustrating an implementation example of a robot control system according to an embodiment.

도 5에 도시된 구현 예를 일 구현 예일 뿐이며, 각 통신 소자, IC 칩, 인터페이스 등은 다양한 형태로 구현될 수 있음은 물론이다. Of course, the implementation example shown in FIG. 5 is only one implementation example, and each communication element, IC chip, interface, etc. may be implemented in various forms.

도 6은 일 실시 예에 따른 시나리오를 개략적으로 나타내는 도면이다. 6 is a diagram schematically illustrating a scenario according to an exemplary embodiment.

도 6에 도시된 바와 같이 다양한 시나리오가 있을 수 있으며, 각 시나리오에 대해서는 상술하였으므로 자세한 설명은 생략하도록 한다. As shown in FIG. 6, there may be various scenarios, and since each scenario has been described above, a detailed description thereof will be omitted.

상술한 다양한 실시 예에 따르면, 로봇에 부착된 카메라 및 사용자 손에 착용 가능한 센싱 장갑을 이용하여 원격으로 로봇의 동작을 세밀하게 제어할 수 있게 된다. According to various embodiments described above, it is possible to precisely control the operation of the robot remotely using a camera attached to the robot and a sensing glove wearable on a user's hand.

한편, 상술한 다양한 실시 예들에 따른 방법들은, 기존 전자 장치에 설치 가능한 어플리케이션 형태로 구현될 수 있다. 또는 상술한 본 개시의 다양한 실시 예들에 따른 방법들은 딥 러닝 기반의 인공 신경망(또는 심층 인공 신경망) 즉, 학습 네트워크 모델을 이용하여 수행될 수 있다. Meanwhile, the methods according to various embodiments described above may be implemented in the form of an application that can be installed in an existing electronic device. Alternatively, the above-described methods according to various embodiments of the present disclosure may be performed using a deep learning-based artificial neural network (or deep artificial neural network), that is, a learning network model.

또한, 상술한 다양한 실시 예들에 따른 방법들은, 기존 전자 장치에 대한 소프트웨어 업그레이드, 또는 하드웨어 업그레이드 만으로도 구현될 수 있다. In addition, the methods according to various embodiments described above may be implemented only by upgrading software or hardware of an existing electronic device.

또한, 상술한 본다양한 실시 예들은 전자 장치에 구비된 임베디드 서버, 또는 전자 장치의 외부 서버를 통해 수행되는 것도 가능하다. In addition, various embodiments described above may be performed through an embedded server included in the electronic device or an external server of the electronic device.

한편, 일시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 전자 장치(예: 전자 장치(A))를 포함할 수 있다. 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접, 또는 프로세서의 제어 하에 다른 구성요소들을 이용하여 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.Meanwhile, according to an exemplary embodiment, various embodiments described above may be implemented as software including instructions stored in a machine-readable storage medium (eg, a computer). A device is a device capable of calling a stored command from a storage medium and operating according to the called command, and may include an electronic device (eg, the electronic device A) according to the disclosed embodiments. When a command is executed by a processor, the processor may perform a function corresponding to the command directly or by using other components under the control of the processor. An instruction may include code generated or executed by a compiler or interpreter. The device-readable storage medium may be provided in the form of a non-transitory storage medium. Here, 'non-temporary' only means that the storage medium does not contain a signal and is tangible, but does not distinguish whether data is stored semi-permanently or temporarily in the storage medium.

또한, 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.Also, according to one embodiment, the method according to various embodiments described above may be included and provided in a computer program product. Computer program products may be traded between sellers and buyers as commodities. The computer program product may be distributed in the form of a device-readable storage medium (eg compact disc read only memory (CD-ROM)) or online through an application store (eg Play Store™). In the case of online distribution, at least part of the computer program product may be temporarily stored or temporarily created in a storage medium such as a manufacturer's server, an application store server, or a relay server's memory.

또한, 상술한 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.In addition, each of the components (eg, modules or programs) according to various embodiments described above may be composed of a single object or a plurality of entities, and some sub-components among the aforementioned sub-components may be omitted, or other sub-components may be used. Components may be further included in various embodiments. Alternatively or additionally, some components (eg, modules or programs) may be integrated into one entity and perform the same or similar functions performed by each corresponding component prior to integration. According to various embodiments, operations performed by modules, programs, or other components may be executed sequentially, in parallel, repetitively, or heuristically, or at least some operations may be executed in a different order, may be omitted, or other operations may be added. can

이상에서는 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.Although preferred embodiments have been shown and described above, the present disclosure is not limited to the specific embodiments described above, and is available to those skilled in the art without departing from the subject matter claimed in the claims. Of course, various modifications are possible, and these modifications should not be individually understood from the technical spirit or perspective of the present disclosure.

100: 로봇 200: 사용자 단말
300: 센싱 장갑
100: robot 200: user terminal
300: sensing glove

Claims (10)

로봇 제어 시스템에 있어서,
카메라가 장착된 로봇과 통신 연결되면, 상기 로봇에 장착된 상기 카메라를 통해 획득된 촬영 영상을 수신하여 표시하고,
제어 UI 화면을 통해 입력된 제어 명령을 상기 로봇으로 전송하여 상기 로봇을 제어하는 사용자 단말; 및
사용자 손에 착용되어 상기 사용자 손의 움직임에 대응되는 모션 정보를 획득하고, 상기 모션 정보를 상기 로봇으로 전송하여 상기 로봇을 제어하는 센싱 장갑;을 포함하는 로봇 제어 시스템.
In the robot control system,
When communication is connected to a robot equipped with a camera, a photographed image obtained through the camera mounted on the robot is received and displayed;
A user terminal for controlling the robot by transmitting a control command input through a control UI screen to the robot; and
A robot control system comprising: a sensing glove worn on a user's hand to obtain motion information corresponding to a motion of the user's hand and transmit the motion information to the robot to control the robot.
제1항에 있어서,
상기 센싱 장갑은,
각 관절의 회전축에 구비된 가변 저항; 및
상기 가변 저항의 변화된 저항 값에 기초하여 획득된 상기 모션 정보를 상기 로봇으로 전송하는 통신 인터페이스;를 포함하는, 로봇 제어 시스템.
According to claim 1,
The sensing glove,
Variable resistance provided on the axis of rotation of each joint; and
A robot control system comprising a; communication interface for transmitting the motion information acquired on the basis of the changed resistance value of the variable resistor to the robot.
제1항에 있어서,
상기 로봇은,
그리퍼(gripper) 및 암(arm)를 포함하는 암(arm)부;
구동부; 및
상기 센싱 장갑으로부터 수신된 상기 모션 정보에 기초하여 상기 암(arm)부를 제어하고,
상기 사용자 단말로부터 수신된 상기 제어 명령에 기초하여 상기 구동부를 제어하는 프로세서;를 포함하는, 로봇 제어 시스템.
According to claim 1,
the robot,
an arm unit including a gripper and an arm;
driving unit; and
Controlling the arm unit based on the motion information received from the sensing glove;
A robot control system comprising a; processor for controlling the drive unit based on the control command received from the user terminal.
제3항에 있어서,
상기 모션 정보는,
상기 그리퍼의 그립 동작 및 상기 암의 움직임에 대한 정보를 포함하는, 로봇 제어 시스템.
According to claim 3,
The motion information,
A robot control system comprising information about the grip operation of the gripper and the movement of the arm.
제3항에 있어서,
상기 로봇은,
상기 로봇이 지면이나 벽면에 고정되도록 하는 진공 흡착부;를 더 포함하는, 로봇 제어 시스템.
According to claim 3,
the robot,
A robot control system further comprising a; vacuum adsorption unit for fixing the robot to the ground or a wall surface.
제1항에 있어서,
상기 사용자 단말은,
디스플레이;
사용자 인터페이스;
통신 인터페이스; 및
상기 제어 UI 화면을 표시하도록 상기 디스플레이를 제어하고,
상기 사용자 인터페이스를 통해 상기 제어 UI 화면에 제공된 제어 메뉴가 선택되면, 상기 제어 메뉴에 대응되는 제어 명령을 상기 통신 인터페이스를 통해 상기 로봇으로 전송하는 프로세서;를 포함하는 로봇 제어 시스템.
According to claim 1,
The user terminal,
display;
user interface;
communication interface; and
Control the display to display the control UI screen;
A robot control system comprising a; processor for transmitting a control command corresponding to the control menu to the robot through the communication interface when the control menu provided on the control UI screen is selected through the user interface.
제6항에 있어서,
상기 사용자 단말의 상기 프로세서는,
상기 로봇으로부터 수신된 상기 촬영 영상을 학습된 인공 지능 모델에 입력하여 상기 로봇의 작업 상황 및 작업 현장에 대한 정보를 획득하고, 획득된 정보에 기초하여 알림 메시지를 제공하는, 로봇 제어 시스템.
According to claim 6,
The processor of the user terminal,
A robot control system for obtaining information on a work situation and a work site of the robot by inputting the captured image received from the robot to the learned artificial intelligence model, and providing a notification message based on the obtained information.
로봇 제어 방법에 있어서,
상기 사용자 단말이, 카메라가 장착된 로봇으로부터 촬영 영상을 수신하여 표시하는 단계;
상기 사용자 단말이, 제어 UI 화면을 통해 입력된 제어 명령을 상기 로봇으로 전송하여 상기 로봇을 제어하는 단계; 및
사용자 손에 착용된 센싱 장갑이, 상기 사용자 손의 움직임에 대응되는 모션 정보를 획득하고, 상기 모션 정보를 상기 로봇으로 전송하여 상기 로봇을 제어하는 단계;를 포함하는 제어 방법.
In the robot control method,
Receiving and displaying, by the user terminal, a photographed image from a robot equipped with a camera;
Controlling the robot by transmitting, by the user terminal, a control command input through a control UI screen to the robot; and
A control method comprising: obtaining, by a sensing glove worn on a user's hand, motion information corresponding to a motion of the user's hand, and controlling the robot by transmitting the motion information to the robot.
제8항에 있어서,
상기 센싱 장갑은,
각 관절의 회전축에 구비된 가변 저항; 및
상기 가변 저항의 변화된 저항 값에 기초하여 획득된 상기 모션 정보를 상기 로봇으로 전송하는 통신 인터페이스;를 포함하는, 제어 방법.
According to claim 8,
The sensing glove,
Variable resistance provided on the axis of rotation of each joint; and
And a control method comprising a; communication interface for transmitting the motion information obtained on the basis of the changed resistance value of the variable resistor to the robot.
제8항에 있어서,
상기 로봇은,
그리퍼(gripper) 및 암(arm)를 포함하는 암(arm)부를 포함하며,
상기 로봇을 제어하는 단계는,
상기 센싱 장갑으로부터 수신된 상기 모션 정보에 기초하여 상기 암(arm)부를 제어하는 단계; 및
상기 사용자 단말로부터 수신된 상기 제어 명령에 기초하여 구동부를 제어하는 단계;를 더 포함하며,
상기 모션 정보는,
상기 그리퍼의 그립 동작 및 상기 암의 움직임에 대한 정보를 포함하는, 제어 방법.
According to claim 8,
the robot,
It includes an arm part including a gripper and an arm,
Controlling the robot is
controlling the arm unit based on the motion information received from the sensing glove; and
Further comprising: controlling a driving unit based on the control command received from the user terminal;
The motion information,
A control method comprising information on a grip operation of the gripper and a motion of the arm.
KR1020210190707A 2021-12-29 2021-12-29 Robot control system and control method thereof KR20230100981A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210190707A KR20230100981A (en) 2021-12-29 2021-12-29 Robot control system and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210190707A KR20230100981A (en) 2021-12-29 2021-12-29 Robot control system and control method thereof

Publications (1)

Publication Number Publication Date
KR20230100981A true KR20230100981A (en) 2023-07-06

Family

ID=87185298

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210190707A KR20230100981A (en) 2021-12-29 2021-12-29 Robot control system and control method thereof

Country Status (1)

Country Link
KR (1) KR20230100981A (en)

Similar Documents

Publication Publication Date Title
Yamaguchi et al. Recent progress in tactile sensing and sensors for robotic manipulation: can we turn tactile sensing into vision?
US11615884B2 (en) Techniques for virtualized tool interaction
JP6927938B2 (en) Robot system incorporating cloud service system
US8875041B1 (en) Methods and systems for providing feedback on an interface controlling a robotic device
JP2019522301A (en) System and method for training a robot to autonomously travel a route
US11413748B2 (en) System and method of direct teaching a robot
US20190054631A1 (en) System and method for operating and controlling a hyper configurable humanoid robot to perform multiple applications in various work environments
US20150185852A1 (en) Ring mobile device and operation method of the same
CN108572586B (en) Information processing apparatus and information processing system
Breland et al. Robust hand gestures recognition using a deep CNN and thermal images
JP6927937B2 (en) Systems and methods for generating 3D skeletal representations
CN108415675B (en) Information processing apparatus, information processing system, and information processing method
Wilk et al. Wearable human computer interface for control within immersive VAMR gaming environments using data glove and hand gestures
Cremer et al. Investigation of human-robot interface performance in household environments
KR20230100981A (en) Robot control system and control method thereof
KR102565444B1 (en) Method and apparatus for identifying object
CN110989382A (en) Multifunctional cloud service home robot
Chakraborty et al. Autonomous vehicle for industrial supervision based on google assistant services & IoT analytics
KR20230103063A (en) Robot and control method thereof
JP2020504027A (en) Device for performing emotional gestures and interacting with users
Fattah et al. Dynamic map generating rescuer offering surveillance robotic system with autonomous path feedback capability
Ditthapron et al. Object Manipulation and Control with Robotic Hand
JP6809267B2 (en) Information processing equipment, information processing systems and programs
ECE et al. Object Manipulation and Control with Robotic Hand
Rathan et al. Survey of robotic arm controlling techniques