WO2021215668A1 - 로봇 장치 및 그 제어 방법 - Google Patents

로봇 장치 및 그 제어 방법 Download PDF

Info

Publication number
WO2021215668A1
WO2021215668A1 PCT/KR2021/003212 KR2021003212W WO2021215668A1 WO 2021215668 A1 WO2021215668 A1 WO 2021215668A1 KR 2021003212 W KR2021003212 W KR 2021003212W WO 2021215668 A1 WO2021215668 A1 WO 2021215668A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
action
robot device
robot
sensing data
Prior art date
Application number
PCT/KR2021/003212
Other languages
English (en)
French (fr)
Inventor
문경진
문보석
배상현
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP21792813.4A priority Critical patent/EP4129578A4/en
Publication of WO2021215668A1 publication Critical patent/WO2021215668A1/ko
Priority to US17/941,829 priority patent/US20230000304A1/en

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1602—Programme controls characterised by the control system, structure, architecture
    • B25J9/161—Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00—Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/40—Parts or details of machines not provided for in groups A47L11/02 - A47L11/38, or not restricted to one of these groups, e.g. handles, arrangements of switches, skirts, buffers, levers
    • A47L11/4011—Regulation of the cleaning machine by electric means; Control systems and remote control systems therefor
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/028—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal
    • G05D1/0282—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal generated in a local control room
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1661—Programme controls characterised by programming, planning systems for manipulators characterised by task planning, object-oriented languages
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1679—Programme controls characterised by the tasks executed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0736—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751—Error or fault detection not based on redundancy
    • G06F11/0754—Error or fault detection not based on redundancy by exceeding limits
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/362—Software debugging
    • G06F11/3636—Software debugging by tracing the execution of the program
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/362—Software debugging
    • G06F11/366—Software debugging using diagnostics
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L2201/00—Robotic cleaning machines, i.e. with automatic control of the travelling movement or the cleaning operation
    • A47L2201/04—Automatic control of the travelling movement; Automatic obstacle detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/81—Threshold

Definitions

  • the present invention relates to a robot apparatus and a control method thereof, and more particularly, to a moving robot apparatus and a control method thereof.
  • the text-based logging method has a problem in that the amount of log increases exponentially according to the operation time because the components provided in the robot device are very diverse.
  • the log file created according to the text-based logging method is not easy to replay the driving history, and it is also inappropriate to search for the part where the problem occurred during the operation.
  • the present invention has been devised in accordance with the above-described needs, and an object of the present invention is to provide a robot apparatus and a control method thereof for generating and storing data according to the operation of the robot apparatus, and replaying based on the data.
  • a robot device for achieving the above object, when an action (action) of a sensor, a communication interface, a memory and the robot device is changed, instruction data corresponding to the action (instruction) data, Storing the sensing data of the sensor related to the action and map data related to the action in the memory, transmitting the data stored in the memory to the server through the communication interface, and based on the data received from the server and a processor for generating an event when the sensing data corresponding to the action generated by the robot device is identified as not falling within the threshold range.
  • the instruction data is data in a robot programming language format for controlling at least one of a traveling distance, a traveling direction, or a traveling speed of the robot device, and the processor is configured to: A hardware component of the device may be controlled to cause the action.
  • the sensing data of the sensor includes driving data generated by the hardware element as the action occurs
  • the map data includes information on an object in a specific space in which the robot device is located, the object
  • the information on the object may include at least one of location information, size information, shape information, and characteristic information of the object.
  • the data received from the server includes data about a critical range of sensing data for each action that can occur in the robot device, obtained by analyzing data transmitted from the robot device to the server, and the processor, Based on the data for the critical range, it may be identified whether the sensing data corresponding to the action generated in the robot device belongs to the critical range.
  • the data received from the server indicates that sensed data corresponding to the action generated by the robot device does not fall within the threshold range, and the processor may generate the event based on the received data. .
  • the event is a feedback (feedback) for notifying that the sensing data corresponding to the action generated in the robot device does not belong to the threshold range, the sensing data corresponding to the action belongs to the threshold range It may include at least one of an event of notifying an error occurring element among the hardware elements of the robot apparatus based on sensing data corresponding to an instruction or the action for controlling a hardware element of the robot apparatus.
  • the processor replays the action based on the instruction data stored in the memory and the sensing data stored in the memory corresponding to the instruction data, or the instruction stored in the memory
  • the action may be replayed based on data and sensing data received from the server corresponding to the instruction data.
  • the processor may convert the instruction data and the sensing data into data in a robot programming language format, store the converted data in the memory, and transmit the converted data to the server through the communication interface.
  • a robot device that stores data and transmits the stored data to a server, and the sensing data corresponding to the action based on the instruction data received from the robot device, the sensing data, and the map data.
  • a server that identifies a threshold range and transmits data related to the identified threshold range to the robotic device, wherein the robotic device responds to an action generated in the robotic device based on the data received from the server
  • an event may be generated.
  • the server may receive instruction data and sensing data corresponding to each of a plurality of actions from the robot device, and identify a critical range of each of the plurality of actions based on the received data.
  • the data related to the identified critical range includes data for a critical range of sensing data corresponding to each of a plurality of actions that can occur in the robot device or sensing data corresponding to an action generated in the robot device is the critical range It may be data indicating that it does not belong to
  • the instruction data is data in a robot programming language format for controlling at least one of a traveling distance, a traveling direction, or a traveling speed of the robot device
  • the control method is based on the data in the robot programming language format.
  • the method may further include controlling a hardware element to generate the action.
  • the sensing data includes driving data generated by the hardware element as the action occurs
  • the map data includes information about an object in a specific space in which the robot device is located, and
  • the information may include at least one of location information, size information, shape information, and characteristic information of the object.
  • the data received from the server includes data about a critical range of sensing data for each action that can occur in the robot device, obtained by analyzing data transmitted from the robot device to the server, and generates the event
  • the letting may include identifying whether the sensing data corresponding to the action generated in the robot device belongs to the critical range based on the data for the critical range.
  • the data received from the server indicates that the sensing data corresponding to the action generated by the robot device does not belong to the threshold range
  • generating the event includes: It may include the step of generating
  • the event is a feedback (feedback) for notifying that the sensing data corresponding to the action generated in the robot device does not belong to the threshold range, the sensing data corresponding to the action belongs to the threshold range It may include at least one of an event of notifying an error occurring element among the hardware elements of the robot apparatus based on sensing data corresponding to an instruction or the action for controlling a hardware element of the robot apparatus.
  • control method may replay the action based on the stored instruction data and the stored sensing data corresponding to the instruction data when the test mode is executed, or the action stored in the memory
  • the method may further include replaying the action based on instruction data and sensing data received from the server corresponding to the instruction data.
  • the storing may include converting the instruction data and the sensing data into data in a robot programming language format and storing the converted data.
  • a log file may be stored when an action of the robot device occurs.
  • the driving history of the electronic device may be reproduced without a separate interpreter by using the robot programming language.
  • FIG. 1 is a block diagram illustrating a configuration of a robot device according to an embodiment of the present disclosure.
  • FIG. 2 is a detailed block diagram of a robot device according to an embodiment of the present disclosure.
  • FIG. 3 is a diagram for describing data according to an embodiment of the present disclosure.
  • FIG. 4 is a diagram for explaining instruction data and sensing data according to an embodiment of the present disclosure.
  • FIG. 5 is a diagram for explaining a critical range according to an embodiment of the present disclosure.
  • FIG. 6 is a diagram for describing map data according to an embodiment of the present disclosure.
  • FIG. 7 is a view for explaining a case of reproducing the driving of the robot device according to an embodiment of the present disclosure.
  • FIG. 8 is a flowchart illustrating a method for controlling a robot device according to an embodiment of the present disclosure.
  • FIG. 9 is a block diagram illustrating a configuration of a robot device system according to an embodiment of the present disclosure.
  • FIG. 10 is a view for explaining a robot device system according to an embodiment of the present disclosure.
  • FIG. 11 is a sequence diagram illustrating data transmission/reception between a server and a robot device according to an embodiment of the present disclosure.
  • expressions such as “have,” “may have,” “include,” or “may include” indicate the presence of a corresponding characteristic (eg, a numerical value, function, operation, or component such as a part). and does not exclude the presence of additional features.
  • a component eg, a first component is "coupled with/to (operatively or communicatively)" to another component (eg, a second component)
  • another component eg, a second component
  • a component may be directly connected to another component or may be connected through another component (eg, a third component).
  • a “module” or “unit” performs at least one function or operation, and may be implemented as hardware or software, or a combination of hardware and software.
  • a plurality of “modules” or a plurality of “units” are integrated into at least one module and implemented with at least one processor (not shown) except for “modules” or “units” that need to be implemented with specific hardware.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) using the electronic device.
  • a device eg, an artificial intelligence electronic device
  • FIG. 1 is a block diagram illustrating a configuration of a robot device according to an embodiment of the present disclosure.
  • the robot device 100 may refer to various types of machines having the ability to perform a function by itself.
  • a robot may refer to a smart machine that senses a surrounding environment in real time based on a sensor or a camera, collects information, and operates autonomously in addition to a simple repeat function.
  • the electronic device includes a user terminal device, a display device, a set-top box, a tablet personal computer, a smart phone, an e-book reader, and a desktop PC.
  • PC personal computer
  • PDA personal digital assistant
  • PMP portable multimedia player
  • MP3 player MP3 player
  • the electronic device is an accessory type (eg, watch, ring, bracelet, anklet, necklace, glasses, contact lens, or head-mounted-device (HMD)), fabric, or clothing.
  • HMD head-mounted-device
  • a wearable device corresponding to at least one type of integral type (eg, electronic clothing), a robot including a driving unit, a projector, and a server.
  • a robot including a driving unit, a projector, and a server.
  • various embodiments of the present disclosure are implemented in the robot device 100 .
  • the robot device 100 may include an actuator or a driving unit including a motor.
  • the driving unit may include a wheel, a brake, and the like, and the robot may be implemented as a mobile robot capable of moving in a specific space by itself using the driving unit. For example, if it is determined that there is an obstacle in front of the electronic device 100 , the electronic device 100 may rotate the main body of the electronic device 100 to the right or left by using the driving unit and then advance or move the main body backward.
  • the driving unit may move one component (eg, robot joint) of the robot to replace the function of a human arm or hand in addition to the main body.
  • the robot device 100 may generate or change an action of the robot device 100 using a driving unit.
  • the action may include movement and movement of the robot device 100 .
  • the robot apparatus 100 may control the driving unit to drive or rotate the robot apparatus 100 .
  • the robot device 100 may control the driving unit to move an external object or perform an operation such as gripping the external object. That is, of course, the action may include various actions and functions that the robot device 100 can perform.
  • the robot device 100 may be divided into industrial, medical, home, military, exploration, and the like according to fields or functions that can be performed.
  • the industrial robot may be subdivided into a robot used in a product manufacturing process in a factory, a robot that responds to customers, an order reception, and a service in a store or restaurant, and the like.
  • the electronic device 100 according to an embodiment of the present disclosure is a serving robot capable of transporting service items from various places such as restaurants, hotels, marts, hospitals, and clothing stores to a location desired by a user and a specific location. can be implemented.
  • this is only an example, and the robot may be variously classified according to the field of application, function, and purpose of use, and is not limited to the above-described example.
  • the robot device 100 includes a sensor 110 , a communication interface 120 , a memory 130 , and a processor 140 .
  • the sensor 110 may be implemented as a detection sensor.
  • the sensor 110 may generate sensing data by sensing the actual operation of the driving unit and components according to the action of the robot apparatus 100 .
  • the sensing data may include driving data generated by a hardware element provided in the robot device 100 as an action of the robot device 100 is generated.
  • the sensing data may be referred to as a log file or driving data, but for convenience of description, the sensing data will be collectively referred to as sensing data.
  • the sensor 110 may detect an actual operation of the driving unit according to the left rotation action, for example, a rotation angle, a rotation speed, a movement direction of each of the left and right wheels, etc. can be sensed to generate sensed data.
  • the sensor 110 may generate sensing data by sensing an actual operation of the driving unit according to the forward driving action, for example, a driving direction, a driving speed, and the like. This is only an embodiment, and the sensor 110 may generate sensing data by sensing an actual operation of each of the components included in the robot apparatus 100 according to an action of the robot apparatus 100 .
  • the senor 110 may be configured to acquire one or more images of the surroundings.
  • the sensor 110 may be implemented as an RGB camera, a 3D camera, or the like.
  • the processor 140 may acquire map data based on the sensing data of the sensor 110 .
  • the map data may include information about an object in a specific space in which the robot device 100 is located.
  • the senor 110 may be implemented as an ultrasonic sensor, an infrared sensor, or the like.
  • the processor 130 may control the ultrasonic sensor to emit ultrasonic pulses. Subsequently, when the reflected wave from which the ultrasonic pulse is reflected off the object is received, the processor 130 may measure the distance between the object and the processor 130 by measuring the elapsed time therebetween.
  • the ultrasonic sensor may be implemented in various ways, including an ultrasonic proximity sensor.
  • the infrared sensor is a device that detects infrared light information of an object.
  • the processor 140 according to an embodiment of the present disclosure may identify an object based on sensing data of the sensor 110 .
  • the present invention is not limited thereto, and the sensor 110 may be implemented with various types of sensors.
  • the sensor 110 may include an RF sensor, a geomagnetic sensor, a Position Sensitive Device (PSD) sensor, a sensor for detecting a cliff in a driving path, a LIDAR (Light Detection And Ranging) sensor, and the like.
  • the processor 140 may obtain map data by identifying the position of the robot apparatus 100 in a specific space, an object proximate to the robot apparatus 100, etc. based on the sensing data of the sensor 110 . is of course
  • the information on the object included in the map data may include at least one of location information, size information, shape information, and characteristic information of the object in a specific space.
  • the size information may include at least one of information about the width, height, and length of the object
  • the shape information may include a representative image of the object, a planar shape (or a top-view), and the like.
  • the characteristic information of the object includes information on whether the object is capable of climbing or a critical distance between the electronic device 100 and the object when the electronic device 100 avoids the object (or follows the driving). may include
  • the processor 140 analyzes the presence or absence of the object, the position of the object, the distance to the object, etc. based on the sensing data of the sensor 110 , and generates an action of the robot device 100 based on the analysis result. Instruction data can be generated.
  • the instruction data may be data in a robot programming language format for controlling at least one of a traveling distance, a traveling direction, or a traveling speed of the robot device 100 .
  • the instruction data may be data in a robot programming language format for controlling the rotation direction, rotation angle, rotation speed, or movement of each of a plurality of components provided in the robot device 100 . .
  • the processor 140 may generate instruction data in a robot programming language format interpretable by the robot device 100 so that the robot device 100 performs a specific action. For example, when an object (eg, an obstacle) is identified in front of the robot device 100 , the processor 140 rotates the robot device 100 to the right or left, or generates instruction data for moving backward. can do.
  • the instruction data may include instructions related to a right-turn driving action, a left-turn driving action, or a reverse driving action.
  • instruction data may be referred to as command data including instructions, but for convenience of description, they are collectively referred to as instruction data.
  • Communication interface 120 is an AP-based Wi-Fi (Wi-Fi, Wireless LAN network), Bluetooth (Bluetooth), Zigbee (Zigbee), wired / wireless LAN (Local Area Network), WAN ( Wide Area Network), Ethernet, IEEE 1394, HDMI (High-Definition Multimedia Interface), USB (Universal Serial Bus), MHL (Mobile High-Definition Link), AES/EBU (Audio Engineering Society/European Broadcasting Union) , an external device (eg, a source device, an external user terminal), an external storage medium (eg, a USB memory), an external server (eg, Web hard), etc., to transmit or receive data by performing communication.
  • Wi-Fi Wi-Fi, Wireless LAN network
  • Bluetooth Bluetooth
  • Zigbee Zigbee
  • wired / wireless LAN Local Area Network
  • WAN Wide Area Network
  • Ethernet IEEE 1394
  • HDMI High-Definition Multimedia Interface
  • USB Universal Serial Bus
  • MHL Mobile High-Definition Link
  • the robot device 100 may share information by performing communication with another electronic device in a peer-to-peer (P2P) format through the communication interface 120 .
  • the robot device 100 may communicate with another electronic device in an ad hoc mode for transmitting or receiving information in a P2P form between devices without an access point (AP).
  • P2P peer-to-peer
  • the processor 140 may transmit data to and receive data from the server through the communication interface 120 . A detailed description thereof will be provided later.
  • the memory 130 provided in the robot device 100 is a ROM (eg, electrically erasable programmable read-only memory (EEPROM)) included in the processor 140 , RAM It may be implemented as an internal memory such as (RAM), or may be implemented as a memory separate from the processor 140 .
  • the memory 130 may be implemented in the form of a memory embedded in the robot device 100 or may be implemented in the form of a memory detachable to the robot device 100 depending on the purpose of data storage. For example, data for driving the robot device 100 is stored in a memory embedded in the robot device 100 , and data for an extension function of the robot device 100 is detachable from the robot device 100 . It can be stored in any available memory.
  • a volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • non-volatile memory non-volatile memory
  • OTPROM one time programmable ROM
  • PROM programmable ROM
  • EPROM erasable and programmable ROM
  • EEPROM electrically erasable and programmable ROM
  • mask ROM flash ROM, flash memory (such as NAND flash or NOR flash, etc.)
  • flash memory such as NAND flash or NOR flash, etc.
  • SSD solid state drive
  • a memory card eg, compact flash (CF), SD ( secure digital), Micro-SD (micro secure digital), Mini-SD (mini secure digital), xD (extreme digital), MMC (multi-media card), etc.
  • external memory that can be connected to the USB port
  • USB port e.g., compact flash (CF), SD ( secure digital), Micro-SD (micro secure digital), Mini-SD (mini secure digital), xD (extreme digital),
  • the processor 140 provides instruction data corresponding to the action and sensing data of the sensor 110 related to the action.
  • map data related to the action may be stored in the memory 130 .
  • the sensing data of the action-related sensor 110 and the action-related map data may refer to sensing data and map data at a time when the action of the robot device 100 is changed, respectively.
  • the processor 140 may store, in the memory 130 , extraction data corresponding to the corresponding action, sensing data at the time the action is changed, and map data.
  • the map data may include information about an object adjacent to the robot device 100 at the time when the action is changed.
  • the processor 140 controls the overall operation of the robot device 100 .
  • the processor 140 may be implemented as a digital signal processor (DSP), a microprocessor (microprocessor), an artificial intelligence (AI) processor, or a timing controller (T-CON) for processing a digital image signal.
  • DSP digital signal processor
  • microprocessor microprocessor
  • AI artificial intelligence
  • T-CON timing controller
  • CPU central processing unit
  • MCU micro controller unit
  • MPU micro processing unit
  • AP application processor
  • CP communication processor
  • the processor 140 is a SoC (System on Chip) in which a processing algorithm is embedded. , may be implemented in large scale integration (LSI), or may be implemented in the form of field programmable gate array (FPGA).
  • SoC System on Chip
  • the processor 140 may control the driving of the robot apparatus 100 based on map data for a specific space sensed by the sensor 110 .
  • map data for a specific space may mean data representing a physical topography of a space in which the robot apparatus 100 operates, and may be in the form of an image, but is not limited thereto.
  • the processor 140 may generate instruction data for controlling an action of the robot device 100 based on information on an object included in the map data, zone information of each of a plurality of zones constituting a space, and the like.
  • the instruction data may be data in a robot programming language format for controlling at least one of a traveling distance, a traveling direction, or a traveling speed of the robot device 100 .
  • the object may mean, for example, if the space is a restaurant, a table, a seat on which a user can sit, or various types of physical obstacles.
  • the map data may include identification information and location information such as tables and seats provided in the space.
  • the object may mean furniture, home appliances, or various types of obstacles.
  • the obstacle may mean various objects or situations that may interfere with the driving of the robot device 100 or may cause a driving stop, damage, or malfunction between the driving of the robot device 100 .
  • the obstacle may include various objects such as a rug, clothing, a wall, a staircase, a threshold, etc. in addition to furniture and electric appliances.
  • the zone information of each of the plurality of zones constituting the space may refer to information for identifying each of the plurality of zones. For example, when the specific space is a restaurant, the zone information may include identification information, location information, and size information for a kitchen, a payment zone, and a hall area provided in the restaurant.
  • the map data may be received from an external server (not shown) and stored in the memory 130 , and may be stored in the sensing data (or image) obtained through the sensor 110 (or camera) provided in the robot device 100 . Of course, it may be obtained based on the
  • the processor 140 may generate an action by controlling a hardware element of the robot device 100 based on instruction data, that is, data of a robot programming language format.
  • the actions are various actions that the robot device 100 can perform according to the purpose of the robot device 100, such as an action to avoid an obstacle, etc., an action to perform cleaning, an action to transport an object, etc., based on the map data. Of course, it may include movement. This will be described with reference to FIG. 3 .
  • FIG. 3 is a diagram for describing data according to an embodiment of the present disclosure.
  • the processor 140 controls the robot device 100 . It is possible to generate instruction data for turning right or left, or for reversing.
  • the processor 140 may control the driving unit, components, etc. so that the robot apparatus 100 performs a specific action corresponding to the instruction data.
  • the processor 140 may control a hardware element of the robot device 100 based on the instruction data to generate a right rotational driving action.
  • the processor 140 when the action of the robot device 100 is changed from the straight travel action to the right turn action, the processor 140 includes instruction data at the time the action is changed, and driving data generated from the hardware element at the time the action is changed.
  • the sensing data and the map data at the time when the action is changed may be stored in the memory 120 .
  • the processor 140 may perform the changed action, that is, extraction data corresponding to the right rotational driving action, according to the execution of the changed action.
  • driving data generated by the hardware element and map data related to the changed action may be stored in the memory 120 .
  • the driving data may refer to data generated as hardware elements such as a motor and a wheel are driven in order for the robot device 100 to perform an action.
  • the processor 140 may selectively or selectively store at least one of instruction data, sensing data, and map data.
  • the processor 140 may store only sensing data, or may map instruction data and sensing data and store them.
  • the processor 140 may map instruction data, sensing data, and map data to the memory 120 .
  • FIG. 4 is a diagram for explaining instruction data and sensing data according to an embodiment of the present disclosure.
  • the processor 140 may acquire instruction data in a robot programming language format that is interpretable by the robot device 100 based on map data.
  • the processor 140 may generate “Moving” instruction data so that the robot device 100 performs a forward driving action. Subsequently, when an obstacle is detected from the front based on the map data, the processor 140 may generate “Avoiding_obstacle” instruction data to perform avoiding driving for the obstacle.
  • the processor 140 may perform an action by controlling a hardware element based on instruction data. Subsequently, the processor 140 may acquire driving data generated by the hardware element of the robot apparatus 100 .
  • the driving data may mean data related to the actual operation of the hardware element according to the execution of the action.
  • the processor 140 may store instruction data, sensing data, and map data in the memory 120 . Subsequently, the processor 140 may transmit the data stored in the memory 120 to the server through the communication interface 130 .
  • the processor 140 may include instruction data corresponding to the changed action and driving data of a hardware element according to the performance of the action. Map data related to data and actions may be stored in the memory 120 .
  • the processor 140 may generate an event when sensing data corresponding to an action generated in the robot device 100 is identified as not falling within the threshold range based on data received from the server.
  • the data received from the server may include data about a critical range of sensing data for each action that can occur in the robot device 100 , obtained by analyzing data transmitted from the robot device 100 to the server.
  • the critical range may mean an error range or a normal range, but for convenience of description, it is collectively referred to as a critical range.
  • the processor 140 may store extraction data corresponding to the action “Avoiding_obstacle”, sensing data including driving data of a hardware element according to the execution of the action “Avoiding_obstacle”, and map data related to the action “Avoiding_obstacle” to the server. can be sent to Subsequently, the processor 140 may acquire data about a critical range of sensing data related to the action “Avoiding_obstacle” based on the data received from the server.
  • the server may receive a plurality of sensing data for each action from a plurality of robot devices. Subsequently, the server may analyze a plurality of sensing data to obtain data about a critical range of sensing data for each action.
  • the server may analyze the plurality of sensing data to obtain standard sensing data corresponding to the action “Avoiding_obstacle”. For example, the server may obtain standard sensing data through a combination of mode driving data by analyzing a plurality of sensing data, or may obtain sensing data received from a specific robot device as standard sensing data. Subsequently, the server may transmit, to the robot device 100 , the standard sensing data for each action that can occur in the robot device 100 and the critical similarity with the standard sensing data.
  • the robot device 100 may measure the similarity between the received standard sensing data and the sensing data stored in the memory 120 to identify whether the similarity is greater than or equal to a threshold similarity, that is, whether it falls within a threshold range. For example, if the threshold similarity is 95%, the robot device 100 may compare the standard sensing data with the sensing data stored in the memory 120 and determine whether the similarity is 95% or more according to the comparison result.
  • a known similarity measuring method may be used as a method of determining the similarity.
  • this is an exemplary embodiment and not limited thereto.
  • the server analyzes the plurality of sensing data and receives standard sensing data according to the normal operation of the hardware elements provided in the robot device 100 in which an error does not occur.
  • the server may obtain standard sensing data from a plurality of sensing data based on a learning network model or algorithm and transmit it to the robot device 100 .
  • the learning network model may be an artificial intelligence model that is machine learned based on a plurality of sensing data for each action.
  • the processor 140 may include one or a plurality of processors.
  • one or more processors may be general-purpose processors such as CPUs, APs, digital signal processors (DSPs), etc., graphics-only processors such as GPUs and VPUs (Vision Processing Units), or artificial intelligence-only processors such as NPUs.
  • One or more processors control to process input data according to a predefined operation rule or artificial intelligence model stored in the memory.
  • the AI-only processor may be designed with a hardware structure specialized for processing a specific AI model.
  • a predefined action rule or artificial intelligence model is characterized in that it is created through learning.
  • being made through learning means that a basic artificial intelligence model is learned using a plurality of learning data by a learning algorithm, so that a predefined action rule or artificial intelligence model set to perform a desired characteristic (or purpose) is created means burden.
  • Such learning may be performed in the device itself on which the artificial intelligence according to the present disclosure is performed, or may be performed through a separate server and/or system.
  • Examples of the learning algorithm include, but are not limited to, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning.
  • the artificial intelligence model may be composed of a plurality of neural network layers.
  • Each of the plurality of neural network layers has a plurality of weight values, and a neural network operation is performed through an operation between an operation result of a previous layer and the plurality of weights.
  • the plurality of weights of the plurality of neural network layers may be optimized by the learning result of the artificial intelligence model. For example, a plurality of weights may be updated so that a loss value or a cost value obtained from the artificial intelligence model during the learning process is reduced or minimized.
  • the artificial neural network may include a deep neural network (DNN), for example, a Convolutional Neural Network (CNN), a Deep Neural Network (DNN), a Recurrent Neural Network (RNN), a Restricted Boltzmann Machine (RBM), There may be a Deep Belief Network (DBN), a Bidirectional Recurrent Deep Neural Network (BRDNN), or a Deep Q-Networks, but is not limited thereto.
  • DNN Deep Neural Network
  • DNN Deep Belief Network
  • BBDNN Bidirectional Recurrent Deep Neural Network
  • Deep Q-Networks Deep Q-Networks
  • the robot device 100 generates an event when sensing data corresponding to an action generated in the robot device 100 is identified as not falling within the threshold range based on data received from the server. can do it A detailed description thereof will be made with reference to FIG. 5 .
  • FIG. 5 is a diagram for explaining a critical range according to an embodiment of the present disclosure.
  • the processor 140 may acquire sensing data including driving data, that is, data related to driving of a hardware element as the robot device 100 performs an action. have.
  • the processor 140 may receive data from the server.
  • the data received from the server may include data about a critical range of sensing data for each action.
  • the data on the critical range of the sensing data for each action may include standard sensing data for each action and data on the threshold similarity. Subsequently, the processor 140 may identify the similarity by comparing the action-related sensing data with standard data related to the corresponding action. Then, when the similarity is less than the threshold similarity, the processor 140 may identify that the sensing data corresponding to the action generated in the robot device 100 does not fall within the threshold range.
  • the processor 140 determines that the similarity between the sensing data corresponding to the action “Avoiding_obstacle” performed by the robot device 100 and the standard sensing data of the action “Avoiding_obstacle” is less than the threshold similarity, It is possible to identify that the sensed data does not fall within a critical range and generate an event.
  • the event is a feedback for notifying that the sensing data corresponding to the action generated in the robot device 100 does not belong to the critical range, and the robot device so that the sensing data corresponding to the action falls within the critical range. It may include at least one of an event of notifying an element in which an error has occurred among the hardware elements of the robot device based on sensing data corresponding to an instruction or an action for controlling the hardware element.
  • the processor 140 determines that when sensing data corresponding to a specific action performed by the robot device 100 has a similarity of less than a threshold similarity to standard sensing data corresponding to the specific action, an error occurs in the robot device 100 .
  • the processor 140 may provide at least one of visual or auditory feedback notifying that the sensed data corresponding to the action does not fall within the threshold range.
  • the processor 140 may generate an instruction for controlling a hardware element so that sensing data corresponding to the action falls within a threshold range. For example, if the driving speed on the standard sensing data of the action “Moving” is 0.5 m/s and the robot device 100 performs the action “Moving”, the traveling speed on the sensing data generated as 0.1 m/s, the processor ( 140) may generate an instruction for changing the traveling speed to 0.5 m/s by controlling the wheel and the motor provided in the driving unit.
  • the control is performed to perform the specific action.
  • an event notifying that an error (or failure) has occurred in a required hardware element may be generated.
  • the processor ( 140) may provide an auditory or visual feedback notifying that an error has occurred in a wheel, a motor, etc. provided in the driving unit.
  • FIG. 6 is a diagram for describing map data according to an embodiment of the present disclosure.
  • the processor 140 includes information about an object based on the sensing data of the sensor 110 while the robot device 100 is moving (or driving). Map data can be obtained.
  • the information on the object may include at least one of location information, size information, shape information, and characteristic information of the object in a specific space.
  • the size information may include at least one of information about the width, height, and length of the object
  • the shape information may include a representative image of the object, a planar shape (or a top-view), and the like.
  • the characteristic information of the object includes information on whether the object is capable of climbing or the critical distance between the robot device 100 and the object when the robot device 100 avoids the object (or follows the driving). may include
  • the processor 140 may acquire information about an object by using an artificial intelligence model stored in the memory 120 .
  • the memory 120 may store an artificial intelligence model trained to identify an object in an input image.
  • the artificial intelligence model may be a model learned using a plurality of sample images including various objects. Identifying the object may be understood as acquiring information about the object, such as name, type, size information, shape information, or characteristic information of the object.
  • the processor 140 may acquire instruction data corresponding to the object based on the information on the object.
  • the processor 140 may acquire instruction data for avoiding the obstacle.
  • the processor 140 may acquire instruction data for climbing the obstacle.
  • the processor 140 When the action of the robot device 100 is changed based on the information on the object, that is, the map data, the processor 140 according to an embodiment of the present disclosure generates instruction data corresponding to the corresponding action as the corresponding action is performed. It is possible to transmit sensing data including driven data and map data including information on objects to the server.
  • FIG. 7 is a view for explaining a case of reproducing the driving of the robot device according to an embodiment of the present disclosure.
  • the robot apparatus 100 is implemented as a robot cleaner 100 ′.
  • the robot cleaner 100' is based on the sensing data of the sensor 110, a point with a dividing line or a chin on the floor, a point where the movable width narrows, a point with a wall, a point where the wall starts, a point where the wall ends, You can identify objects such as the point where the door is. Subsequently, the processor 130 may divide a space (eg, a home) into a plurality of zones (eg, a living room, a bedroom, a bathroom, a kitchen, etc.) by using the identified point as a boundary between the zones.
  • a space eg, a home
  • zones eg, a living room, a bedroom, a bathroom, a kitchen, etc.
  • the robot cleaner 100 ′ may perform cleaning while sequentially moving the plurality of zones.
  • the robot cleaner 100 ′ may perform cleaning by moving to the next area after cleaning the first area (1), for example, the kitchen.
  • the processor 140 may drive the robot cleaner 100 ′ based on sensing data of the sensor 110 . Referring to FIG. 7 , it can be assumed that the robot cleaner 100 ′ performs a left rotation action to move to the second area (2) after cleaning the first area (1), for example, the kitchen. .
  • the processor 140 Since the action of the robot cleaner 100 ′ is changed from the straight driving action to the left rotation action, the processor 140 stores instruction data corresponding to the left rotation action, sensing data at the time of performing the left rotation action, and map data. (120) can be stored.
  • the processor 140 may replay the action based on the instruction data stored in the memory 120 and the sensing data corresponding to the instruction data by the robot device 100 .
  • the robot device 100 receives sensing data corresponding to the instruction data stored in the memory 120 from the server, and based on the instruction data stored in the memory 120 and the sensing data received from the server Thus, the action corresponding to the instruction data can be reproduced.
  • the robot apparatus 100 may receive instruction data and sensing data corresponding to the instruction data from the server, and reproduce an action based on the instruction data and the sensing data received from the server.
  • the other robot device may receive instruction data and sensing data corresponding to the instruction data from the server by communicating with the server. Then, of course, the other robot device may reproduce the action based on the instruction data and the sensing data received from the server.
  • the action reproduced by another robot device may mean an action performed by the robot device 100 .
  • Another robot device may reproduce an action performed in the past in the robot device 100 or simulate an action that may be performed.
  • other robot devices may also be called simulators.
  • FIG. 2 is a detailed block diagram of a robot device according to an embodiment of the present disclosure.
  • the robot apparatus 100 may include a sensor 110 , a communication interface 120 , a memory 130 , a processor 140 , and a driving unit 150 .
  • a description of the configuration overlapping the configuration shown in FIG. 1 will be omitted.
  • the robot apparatus 100 may include an actuator or a driving unit including a motor.
  • the driving unit may include a wheel, a brake, and the like, and the robot may be implemented as a mobile robot capable of moving in a specific space by itself using the driving unit.
  • the driving unit may include all components that are provided in the robot device 100 to perform various operations and functions in addition to the components that enable movement of the robot device 100 .
  • the driving unit may transport an external object including a robot joint.
  • FIG. 8 is a flowchart illustrating a method for controlling a robot device according to an embodiment of the present disclosure.
  • the instruction data according to an embodiment of the present disclosure is data in a robot programming language format for controlling at least one of a traveling distance, a traveling direction, or a traveling speed of the robot device, and the control method is based on the data in the robot programming language format.
  • the method may further include controlling a hardware element of the robotic device to generate an action.
  • the sensing data includes driving data generated by a hardware element as an action is generated
  • the map data includes information about an object in a specific space in which the robot device is located
  • the information about the object includes the location of the object. It may include at least one of information, size information, shape information, and characteristic information.
  • the data received from the server includes data about a critical range of sensing data for each action that can occur in the robot device, which is obtained by analyzing data transmitted from the robot device to the server, and the step S830 of generating an event includes:
  • the method may include identifying whether sensing data corresponding to an action generated in the robot device falls within the critical range based on the data for the critical range.
  • step S830 of generating an event includes generating an event based on the received data. can do.
  • the event is a feedback (feedback) for notifying that the sensing data corresponding to the action generated in the robot device does not belong to the critical range, the hardware element of the robot device so that the sensing data corresponding to the action belongs to the critical range It may include at least one of an event notifying an error occurring element among hardware elements of the robot device based on sensing data corresponding to an instruction or an action for controlling the .
  • the control method when the test mode is executed, replays an action based on the stored instruction data and the stored sensing data corresponding to the instruction data, or corresponds to the instruction data and the instruction data stored in the memory. It may further include the step of replaying the action based on the sensed data received from the server.
  • the storing step S810 may include converting the instruction data and the sensing data into data in a robot programming language format and storing the converted data in a memory.
  • FIG. 9 is a block diagram illustrating a configuration of a robot device system according to an embodiment of the present disclosure.
  • the robot device system 1000 includes the robot device 100 and the server 200 .
  • the robot device 100 When the action is changed, the robot device 100 according to an embodiment stores instruction data corresponding to the action, sensing data of a sensor related to the action, and map data related to the action, and the stored Data can be sent to the server. Also, the robot device 100 may generate an event when sensing data corresponding to an action generated in the robot device is identified as not falling within a threshold range based on data received from the server 200 .
  • the server 200 may identify a critical range of sensing data corresponding to an action based on instruction data, sensing data, and map data received from the robot device. Subsequently, the server 200 may transmit data related to the identified threshold range to the robot device.
  • FIG. 10 is a view for explaining a robot device system according to an embodiment of the present disclosure.
  • each of the plurality of robot devices 100 - 1 and 100 - 2 may transmit data to the server 200 .
  • the first robot device 100 - 1 may transmit instruction data corresponding to the corresponding action, sensing data related to the action, and map data related to the action to the server 200 .
  • the second robot device 100 - 2 may transmit instruction data corresponding to the action, sensing data related to the action, and map data related to the action to the server 200 .
  • the server 200 may acquire instruction data, sensing data, and map data corresponding to each of a plurality of actions.
  • the server 200 may include instruction data corresponding to the first action from the first robot device 100-1, sensing data and a map generated as the first robot device 100-1 performs the first action. data can be received.
  • the server 200 includes instruction data corresponding to the first action from the second robot device 100-2, sensing data and map data generated as the second robot device 100-2 performs the first action. can receive Subsequently, the server 200 may acquire standard sensing data for the first action based on a plurality of sensing data corresponding to the first action.
  • the server 200 analyzes the sensing data received from the first robot device 100 - 1 and the sensed data received from the second robot device 100 - 2 to analyze hardware provided in the robot device 100 .
  • Sensing data may be acquired by supposing that the first action is performed in the normal state of the elements.
  • the sensing data obtained by the server 200 means standard sensing data corresponding to the first action.
  • the server 200 may acquire standard sensing data for each action that can be performed by the robot device 100 or a critical range of sensing data.
  • the server 200 may acquire sensing data corresponding to the first action and a critical range of the sensing data, sensing data corresponding to the second action, and a critical range of the sensing data.
  • the critical range means a range in which it is determined that the robot device 100 performs a specific action without error (or without error of a hardware element) based on the sensed data received from the robot device 100 .
  • the server 200 may transmit data about a critical range of sensing data corresponding to each of a plurality of actions that may occur in the robot device 100 to the robot device 100 .
  • the robot device 100 compares the standard sensing data corresponding to the specific action with the sensing data corresponding to the specific action performed in the robot device 100 based on the data received from the server 200 to determine the similarity within a threshold range. It can be determined whether or not Then, when the robot device 100 is identified as deviating from the threshold range according to the determination result, feedback indicating that the hardware element of the robot device 100 is in a faulty state or feedback notifying the hardware element related to a specific action as an event. can
  • the similarity falls within the threshold range, it may mean that a specific action performed by the robot device 100 is performed within a normal range.
  • the robot device 100 performs a comparison between the sensed data generated as the action is performed and the standard sensed data corresponding to the action, and the robot device 100 performs the action within the normal range according to the comparison result. It can be determined whether or not
  • the normal range is standard sensing data generated assuming that the robot device 100 performs the corresponding action in a state where the hardware element is not in a state of failure, or standard sensing including information on an error range preset in the corresponding action. It can mean data.
  • the server 200 may determine whether the sensed data received from the robot device 100 is out of a threshold range and transmit the determination result to the robot device 100 .
  • the determination result is data indicating that the sensing data corresponding to the action generated by the robot device 100 does not fall within the threshold range, and the robot device 100 indicates that the hardware element is in a faulty state when the data is received Feedback or feedback notifying a hardware element related to a specific action may be provided as an event.
  • FIG. 11 is a sequence diagram illustrating data transmission/reception between a server and a robot device according to an embodiment of the present disclosure.
  • the robot device 100 may store instruction data corresponding to the action, sensing data of a sensor related to the action, and map data related to the action (S1110). .
  • the robot device 100 may transmit the stored data to the server (S1120).
  • the server 200 may identify a critical range corresponding to the action based on the instruction data, the sensing data, and the map data received from the robot device 100 ( S1130 ).
  • the server 200 may transmit data related to the identified threshold range to the robot device 100 ( S1140 ).
  • the robot apparatus 100 may generate an event when sensing data corresponding to an action generated in the robot apparatus is identified as not belonging to a threshold range based on the received data (S1150).
  • the various embodiments described above may be implemented in a recording medium readable by a computer or a similar device using software, hardware, or a combination thereof.
  • the embodiments described herein may be implemented by the processor itself.
  • embodiments such as the procedures and functions described in this specification may be implemented as separate software modules. Each of the software modules may perform one or more functions and operations described herein.
  • computer instructions for performing the processing operation of the robot cleaner according to various embodiments of the present disclosure described above may be stored in a non-transitory computer-readable medium.
  • the specific device When the computer instructions stored in the non-transitory computer-readable medium are executed by the processor of the specific device, the specific device performs the processing operation in the display apparatus 100 according to the various embodiments described above.
  • the non-transitory computer-readable medium refers to a medium that stores data semi-permanently, rather than a medium that stores data for a short moment, such as a register, cache, memory, etc., and can be read by a device.
  • Specific examples of the non-transitory computer-readable medium may include a CD, DVD, hard disk, Blu-ray disk, USB, memory card, ROM, and the like.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Remote Sensing (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Fuzzy Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Manipulator (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

로봇 장치가 개시된다. 로봇 장치는, 센서, 통신 인터페이스, 메모리, 및 로봇 장치의 액션(action)이 변경되면, 액션에 대응되는 인스트럭션(instruction) 데이터, 액션과 관련된 센서의 센싱 데이터 및 액션과 관련된 맵(map) 데이터를 메모리에 저장하고, 메모리에 저장된 데이터를 통신 인터페이스를 통해 서버로 전송하고, 서버로부터 수신된 데이터에 기초하여 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시키는 프로세서를 포함한다.

Description

로봇 장치 및 그 제어 방법
본 발명은 로봇 장치 및 그 제어 방법에 관한 것으로, 더욱 상세하게는 이동하는 로봇 장치 및 그 제어 방법에 관한 것이다.
최근 다양한 유형의 전자 장치가 개발 및 보급되고 있는 실정이며, 특히, 로봇 분야에 대한 활발한 연구와 함께 산업용 외에도 다양한 유형의 가정용 로봇의 보급률이 증가하고 있는 추세이다.
로봇 장치의 개발 시 텍스트 기반의 로깅 방식은 로봇 장치에 구비된 구성 요소가 매우 다양하므로 구동 시간에 따라 로그의 양이 급수적으로 증가하는 문제가 있었다.
텍스트 기반의 로깅 방식에 따라 생성된 로그 파일은 구동 이력의 재현(replay)가 쉽지 않으며, 구동 간 문제가 발생한 부분을 검색하기에도 부적합하였다.
또한, 종래의 로깅 방식에 따라 생성된 로그 파일은 별도의 컴파일 과정이 요구되는 등 로봇 장치에 대한 개발 환경에 다소 부적합한 문제가 있었다.
이에 따라, 쉽고 빠르게 구동 이력의 재현이 가능하며, 별도의 컴파일 과정이 요구되지 않는 로깅 방식에 대한 다양한 요구가 있었다.
본 발명은 상술한 필요성에 따라 안출된 것으로, 본 발명의 목적은 로봇 장치의 구동에 따른 데이터를 생성 및 저장하고, 데이터에 기초하여 재현(replay)하는 로봇 장치 및 그 제어 방법을 제공함에 있다.
이상과 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따른 로봇 장치는, 센서, 통신 인터페이스, 메모리 및 상기 로봇 장치의 액션(action)이 변경되면, 상기 액션에 대응되는 인스트럭션(instruction) 데이터, 상기 액션과 관련된 상기 센서의 센싱 데이터 및 상기 액션과 관련된 맵(map) 데이터를 상기 메모리에 저장하고, 상기 메모리에 저장된 데이터를 상기 통신 인터페이스를 통해 서버로 전송하고, 상기 서버로부터 수신된 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시키는 프로세서를 포함한다.
여기서, 상기 인스트럭션 데이터는, 상기 로봇 장치의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터이며, 상기 프로세서는, 상기 로봇 프로그래밍 언어 포맷의 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소를 제어하여 상기 액션을 발생시킬 수 있다.
여기서, 상기 센서의 센싱 데이터는, 상기 액션이 발생됨에 따라 상기 하드웨어 요소에서 생성되는 구동 데이터를 포함하며, 상기 맵 데이터는, 상기 로봇 장치가 위치한 특정 공간 내 오브젝트에 대한 정보를 포함하며, 상기 오브젝트에 대한 정보는, 상기 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함할 수 있다.
또한, 상기 서버로부터 수신된 데이터는, 상기 로봇 장치로부터 상기 서버로 전송된 데이터를 분석하여 획득된, 상기 로봇 장치에서 발생 가능한 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함하고, 상기 프로세서는, 상기 임계 범위에 대한 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하는지 여부를 식별할 수 있다.
또한, 상기 서버로부터 수신된 데이터는, 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 나타내고, 상기 프로세서는, 상기 수신된 데이터에 기초하여 상기 이벤트를 발생시킬 수 있다.
또한, 상기 이벤트는, 상기 로봇 장치에서 발생되는 상기 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 노티(notification)하는 피드백(feedback), 상기 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하도록 상기 로봇 장치의 하드웨어 요소를 제어하는 인스트럭션 또는 상기 액션에 대응되는 센싱 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소 중 에러가 발생한 요소를 노티하는 이벤트 중 적어도 하나를 포함할 수 있다.
또한, 상기 프로세서는, 테스트 모드가 실행되면, 상기 메모리에 저장된 상기 인스트럭션 데이터 및 상기 인스트럭션 데이터에 대응되는 상기 메모리에 저장된 센싱 데이터에 기초하여 상기 액션을 재현(replay)하거나, 상기 메모리에 저장된 상기 인스트럭션 데이터 및 상기 인스트럭션 데이터에 대응되는 상기 서버로부터 수신된 센싱 데이터에 기초하여 상기 액션을 재현(replay)할 수 있다.
또한, 상기 프로세서는, 상기 인스트럭션 데이터 및 상기 센싱 데이터를 로봇 프로그래밍 언어 포맷의 데이터로 변환하고 상기 변환된 데이터를 상기 메모리에 저장하고 상기 통신 인터페이스를 통해 상기 서버로 전송할 수 있다.
본 개시의 일 실시 예에 따른 로봇 장치 시스템은, 로봇 장치의 액션(action)이 변경되면, 상기 액션에 대응되는 인스트럭션(instruction) 데이터, 상기 액션과 관련된 상기 센서의 센싱 데이터 및 상기 액션과 관련된 맵(map) 데이터를 저장하고, 상기 저장된 데이터를 서버로 전송하는 로봇 장치 및 상기 로봇 장치로부터 수신된 상기 인스트럭션(instruction) 데이터, 상기 센싱 데이터 및 상기 맵 데이터에 기초하여 상기 액션에 대응되는 센싱 데이터의 임계 범위를 식별하고, 상기 식별된 임계 범위와 관련된 데이터를 상기 로봇 장치로 전송하는 서버를 포함하며, 상기 로봇 장치는, 상기 서버로부터 수신된 상기 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시킬 수 있다.
여기서, 상기 서버는, 상기 로봇 장치로부터 복수의 액션 각각에 대응되는 인스트럭션(instruction) 데이터 및 센싱 데이터를 수신하고, 상기 수신된 데이터에 기초하여 상기 복수의 액션 각각의 임계 범위를 식별할 수 있다.
또한, 상기 식별된 임계 범위와 관련된 데이터는, 상기 로봇 장치에서 발생 가능한 복수의 액션 각각에 대응되는 센싱 데이터의 임계 범위에 대한 데이터 또는 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 나타내는 데이터일 수 있다.
한편, 본 개시의 일 실시 예에 따른 로봇 장치의 제어 방법은, 로봇 장치의 액션(action)이 변경되면, 상기 액션에 대응되는 인스트럭션(instruction) 데이터, 상기 액션과 관련된 센싱 데이터 및 상기 액션과 관련된 맵(map) 데이터를 저장하는 단계, 저장된 데이터를 서버로 전송하는 단계, 및 상기 서버로부터 수신된 데이터에 기초하여 상기 로봇 장치에 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시키는 단계를 포함한다.
여기서, 인스트럭션 데이터는, 상기 로봇 장치의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터이며, 제어 방법은 상기 로봇 프로그래밍 언어 포맷의 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소를 제어하여 상기 액션을 발생시키는 단계를 더 포함할 수 있다.
여기서, 상기 센싱 데이터는, 상기 액션이 발생됨에 따라 상기 하드웨어 요소에서 생성되는 구동 데이터를 포함하며, 상기 맵 데이터는, 상기 로봇 장치가 위치한 특정 공간 내 오브젝트에 대한 정보를 포함하며, 상기 오브젝트에 대한 정보는, 상기 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함할 수 있다.
또한, 상기 서버로부터 수신된 데이터는, 상기 로봇 장치로부터 상기 서버로 전송된 데이터를 분석하여 획득된, 상기 로봇 장치에서 발생 가능한 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함하고, 상기 이벤트를 발생시키는 단계는, 상기 임계 범위에 대한 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하는지 여부를 식별하는 단계를 포함할 수 있다.
또한, 상기 서버로부터 수신된 데이터는, 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 나타내고, 상기 이벤트를 발생시키는 단계는, 상기 수신된 데이터에 기초하여 상기 이벤트를 발생시키는 단계를 포함할 수 있다.
또한, 상기 이벤트는, 상기 로봇 장치에서 발생되는 상기 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 노티(notification)하는 피드백(feedback), 상기 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하도록 상기 로봇 장치의 하드웨어 요소를 제어하는 인스트럭션 또는 상기 액션에 대응되는 센싱 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소 중 에러가 발생한 요소를 노티하는 이벤트 중 적어도 하나를 포함할 수 있다.
또한, 일 실시 예에 따른 제어 방법은, 테스트 모드가 실행되면, 상기 저장된 상기 인스트럭션 데이터 및 상기 인스트럭션 데이터에 대응되는 상기 저장된 센싱 데이터에 기초하여 상기 액션을 재현(replay)하거나, 상기 메모리에 저장된 상기 인스트럭션 데이터 및 상기 인스트럭션 데이터에 대응되는 상기 서버로부터 수신된 센싱 데이터에 기초하여 상기 액션을 재현(replay)하는 단계를 더 포함할 수 있다.
또한, 상기 저장하는 단계는, 상기 인스트럭션 데이터 및 상기 센싱 데이터를 로봇 프로그래밍 언어 포맷의 데이터로 변환하는 단계 및 상기 변환된 데이터를 저장하는 단계를 포함할 수 있다.
상술한 바와 같이 본 개시의 다양한 실시 예에 따르면, 로봇 장치의 액션 발생시에 로그 파일을 저장할 수 있다.
또한, 저 용량의 로그 파일을 이용하여 예측과 다르게 주행한 부분을 용이하게 재현(repaly)할 수 있다.
또한, 로봇 프로그래밍 언어를 이용하여 별도의 인터프리터(interpreter) 없이도, 전자 장치의 주행 이력을 재현할 수 있다.
도 1은 본 개시의 일 실시 예에 따른 로봇 장치의 구성을 도시한 블록도이다.
도 2는 본 개시의 일 실시 예에 따른 로봇 장치의 상세 블록도이다.
도 3은 본 개시의 일 실시 예에 따른 데이터를 설명하기 위한 도면이다.
도 4는 본 개시의 일 실시 예에 따른 인스트럭션 데이터 및 센싱 데이터를 설명하기 위한 도면이다.
도 5는 본 개시의 일 실시 예에 따른 임계 범위를 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따른 맵 데이터를 설명하기 위한 도면이다.
도 7은 본 개시의 일 실시 예에 따른 로봇 장치의 주행을 재현하는 경우를 설명하기 위한 도면이다.
도 8은 본 개시의 일 실시 예에 따른 로봇 장치의 제어 방법을 설명하기 위한 흐름도이다.
도 9는 본 개시의 일 실시 예에 따른 로봇 장치 시스템의 구성을 도시한 블록도이다.
도 10은 본 개시의 일 실시 예에 따른 로봇 장치 시스템을 설명하기 위한 도면이다.
도 11은 본 개시의 일 실시 예에 따른 서버와 로봇 장치 간의 데이터 송수신을 설명하기 위한 시퀀스도이다.
-
이하에서는 첨부 도면을 참조하여 본 개시를 상세히 설명한다.
본 개시의 실시 예에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 개시의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.
본 명세서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
A 또는/및 B 중 적어도 하나라는 표현은 "A" 또는 "B" 또는 "A 및 B" 중 어느 하나를 나타내는 것으로 이해되어야 한다.
본 명세서에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 어떤 구성요소가 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시에서 "모듈" 혹은 "부"는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈" 혹은 복수의 "부"는 특정한 하드웨어로 구현될 필요가 있는 "모듈" 혹은 "부"를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.
본 명세서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
이하 첨부된 도면들을 참조하여 본 개시의 일 실시 예를 보다 상세하게 설명한다.
도 1은 본 개시의 일 실시 예에 따른 로봇 장치의 구성을 도시한 블록도이다.
도 1에 도시된 바에 따르면, 본 개시의 일 실시 예에 따른 로봇 장치(100)는 스스로 일 기능을 수행하는 능력을 가진 다양한 형태의 기계를 의미할 수 있다. 일 예로, 로봇은 단순 반복 기능 외에 센서, 카메라 등을 기반으로 실시간으로 주변 환경을 감지하고, 정보를 수집하여 자율적으로 동작하는 스마트 기계를 의미할 수도 있다.
다만, 이는 일 실시 예에 불과하며 이에 한정되지 않음은 물론이다. 본 개시의 다양한 실시 예는 전자 장치를 통해 구현될 수 있다. 여기서, 전자 장치는 사용자 단말 장치, 디스플레이 장치, 셋톱 박스(set-top box), 태블릿 PC(tablet personal computer), 스마트 폰(smart phone), 전자책 리더기(e-book reader), 데스크탑 PC (desktop PC), 랩탑 PC(laptop PC), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 키오스크(Kiosk) 등과 같은 다양한 형태의 디바이스로 구현될 수 있다. 다만, 이는 일 실시 예이며, 전자 장치는 엑세서리 형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘텍트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체 형(예: 전자 의복) 중 적어도 하나의 형태에 해당하는 웨어러블 장치, 구동부를 포함하는 로봇(robot), 프로젝터(projector), 서버 등 다양한 유형의 전자 장치로 구현될 수도 있다. 이하에서는 설명의 편의를 위해 본 개시의 다양한 실시 예가 로봇 장치(100)에서 구현되는 경우를 상정하여 설명하도록 한다.
로봇 장치(100)는 액추에이터(actuator) 또는 모터를 포함하는 구동부를 구비할 수 있다. 여기서, 구동부는 휠, 브레이크 등을 포함할 수 있고, 로봇은 구동부를 이용하여 특정 공간 내를 스스로 이동가능한 이동 로봇으로 구현될 수 있다. 예를 들어, 전자 장치(100)는 전방에 장애물이 있다고 판단되면, 구동부를 이용하여 전자 장치(100)의 본체를 우측 또는 좌측으로 회전시킨 후 전진시키거나, 본체를 후진시킬 수 있다.
또한, 구동부는 본체 외에도 인간의 팔이나 손의 기능을 대신하기 위한 로봇의 일 구성 요소(예를 들어, 로봇 관절)를 이동시킬 수도 있음은 물론이다. 본 개시의 일 실시 예에 따른 로봇 장치(100)는 구동부를 이용하여 로봇 장치(100)의 액션(action)을 발생시키거나 변경시킬 수 있다. 여기서, 액션은 로봇 장치(100)의 이동, 움직임을 포함할 수 있다. 예를 들어, 로봇 장치(100)는 구동부를 제어하여 로봇 장치(100)를 주행시키거나, 회전시킬 수도 있다. 다른 예로, 로봇 장치(100)는 구동부를 제어하여 외부 객체를 이동시키거나, 외부 객체를 그립(grip) 하는 등의 동작을 수행할 수 있다. 즉, 액션은 로봇 장치(100)가 수행가능한 다양한 동작, 기능을 포함할 수 있음은 물론이다.
한편, 로봇 장치(100)는 분야 또는 수행 가능한 기능에 따라서 산업용, 의료용, 가정용, 군사용 및 탐사용 등으로 구분될 수 있다. 일 실시 예에 따라 산업용 로봇은 공장의 제품 제조 과정에서 이용되는 로봇, 매장 또는 식당 등에서 손님 응대, 주문 접수 및 서빙 등을 수행하는 로봇 등으로 세분화될 수도 있다. 예를 들어, 본 개시의 일 실시 예에 따른 전자 장치(100)는 식당, 호텔, 마트, 병원, 의류 매장 등 다양한 장소에서 서비스 물품을 사용자가 원하는 위치, 특정 위치까지 운반할 수 있는 서빙 로봇으로 구현될 수 있다. 다만, 이는 일 예에 불과할 뿐, 로봇은 활용 분야, 기능 및 사용 목적에 따라 다양하게 분류될 수 있고, 상술한 예에 한정되지 않음은 물론이다.
본 개시의 일 실시 예에 따른 로봇 장치(100)는 센서(110), 통신 인터페이스(120), 메모리(130) 및 프로세서(140)를 포함한다.
한편, 본 개시의 일 실시 예에 따른 센서(110)는 감지 센서로 구현될 수도 있다. 일 실시 예에 따른 센서(110)는 로봇 장치(100)의 액션에 따른 구동부, 구성 요소들의 실제 동작을 센싱하여 센싱 데이터를 생성할 수 있다. 일 실시 예에 따른 센싱 데이터는 로봇 장치(100)의 액션이 발생됨에 따라 로봇 장치(100)에 구비된 하드웨어 요소에서 생성되는 구동 데이터를 포함할 수 있다. 여기서, 센싱 데이터는 로그 파일(log file) 또는 구동 데이터로 불릴 수도 있으나 설명의 편의상 센싱 데이터로 통칭하도록 한다.
예를 들어, 로봇 장치(100)가 좌측 회전 액션을 수행하면 센서(110)는 좌측 회전 액션에 따른 구동부의 실제 동작 예를 들어, 회전 각도, 회전 속도, 좌측 휠과 우측 휠 각각의 이동 방향 등을 센싱하여 센싱 데이터를 생성할 수 있다. 다른 예로, 로봇 장치(100)가 전진 주행 액션을 수행하면 센서(110)는 전진 주행 액션에 따른 구동부의 실제 동작 예를 들어, 주행 방향, 주행 속도 등을 센싱하여 센싱 데이터를 생성할 수 있다. 이는 일 실시 예에 불과하며, 센서(110)는 로봇 장치(100)의 액션에 따라 로봇 장치(100)에 구비된 구성 요소들 각각의 실제 동작을 센싱하여 센싱 데이터를 생성할 수 있다.
또한, 본 개시의 일 실시 예에 따른 센서(110)는 주변에 대한 하나 이상의 이미지를 획득하기 위한 구성일 수 있다. 일 실시 예에 따른 센서(110)는 RGB 카메라, 3D 카메라 등으로 구현될 수 있다. 일 실시 예에 따른 프로세서(140)는 센서(110)의 센싱 데이터에 기초하여 맵(map) 데이터를 획득할 수 있다. 여기서, 맵 데이터는 로봇 장치(100)가 위치한 특정 공간 내 오브젝트에 대한 정보를 포함할 수 있다.
다른 예로, 센서(110)는 초음파 센서, 적외선 센서 등으로 구현될 수도 있다. 일 실시 예에 따라 감지 센서가 초음파 센서로 구현되는 경우, 프로세서(130)는 초음파 센서가 초음파 펄스를 방사하도록 제어할 수 있다. 이어서, 초음파 펄스가 물체에 반사되어 오는 반사파가 수신되면, 프로세서(130)는 그 사이의 경과 시간을 계측하여 오브젝트와 프로세서(130)간의 거리를 측정할 수 있다. 이 밖에, 초음파 센서는 초음파 근접각 센서(ultrasonic proximity sensor)를 포함하여 다양한 방식으로 구현될 수도 있음은 물론이다. 적외선 센서는 오브젝트가 가지고 있는 적외광 정보를 감지하는 소자이다. 본 개시의 일 실시 예에 따른 프로세서(140)는 센서(110)의 센싱 데이터에 기초하여 오브젝트를 식별할 수 있다.
한편, 이에 한정되지 않으며, 센서(110)는 다양한 형태의 센서로 구현될 수 있다. 예를 들어, 센서(110)는 RF 센서, 지자기 센서, PSD(Position Sensitive Device) 센서, 주행 경로 내 절벽을 감지하는 센서, 라이다(LIDAR. Light Detection And Ranging) 센서 등을 구비할 수 있다. 일 실시 예에 따른 프로세서(140)는 센서(110)의 센싱 데이터에 기초하여 특정 공간 내 로봇 장치(100)의 위치, 로봇 장치(100)에 근접한 오브젝트 등을 식별하여 맵 데이터를 획득할 수도 있음은 물론이다.
맵 데이터에 포함된 오브젝트에 대한 정보는 오브젝트에 대한 정보는, 특정 공간 내 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함할 수 있다. 여기서, 크기 정보는 오브젝트의 너비, 높이 및 길이에 대한 정보 중 적어도 하나를 포함하고, 형태 정보는 오브젝트의 대표 이미지, 평면 형상(또는, 평면도(top-view)) 등을 포함할 수 있다. 또한, 오브젝트의 특성 정보는 오브젝트의 승월(climbing) 가능 여부 또는 전자 장치(100)가 오브젝트를 회피 주행(또는, 추종 주행)하는 경우에 전자 장치(100)와 오브젝트 사이의 임계 거리 등에 대한 정보를 포함할 수 있다.
또한, 프로세서(140)는 센서(110)의 센싱 데이터에 기초하여 오브젝트의 유무, 오브젝트의 위치, 오브젝트와의 거리 등을 분석하고, 분석 결과에 기초하여 로봇 장치(100)의 액션을 발생시키기 위한 인스트럭션(instruction) 데이터를 생성할 수 있다.
여기서, 인스트럭션 데이터는 로봇 장치(100)의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터일 수 있다. 다만, 이는 일 예시이며 이에 한정되지 않음은 물론이다. 예를 들어, 인스트럭션 데이터는 로봇 장치(100)의 회전 방향, 회전 각도, 회전 속도 또는 로봇 장치(100)에 구비된 복수의 구성 요소 각각의 움직임을 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터일 수도 있다.
예를 들어, 프로세서(140)는 로봇 장치(100)가 특정 액션을 수행하도록 해당 로봇 장치(100)에서 해석 가능한 로봇 프로그래밍 언어 포맷의 인스트럭션 데이터를 생성할 수 있다. 일 예로, 프로세서(140)는 로봇 장치(100)의 전방에서 오브젝트(예를 들어, 장애물)가 식별되면, 로봇 장치(100)를 우측 또는 좌측으로 회전 주행시키거나, 후진시키기 위한 인스트럭션 데이터를 생성할 수 있다. 여기서, 인스트럭션 데이터는 우측 회전 주행 액션, 좌측 회전 주행 액션 또는 후진 주행 액션 등에 관련된 인스트럭션을 포함할 수 있다.
이어서, 프로세서(140)는 로봇 장치(100)가 인스트럭션 데이터에 대응되는 특정 액션을 수행하도록 구동부, 구성 요소 등을 제어할 수 있다. 한편, 인스트럭션 데이터는 명령어를 포함하는 커맨드(command) 데이터로 불릴 수도 있으나 설명의 편의를 위해 인스트럭션 데이터로 통칭하도록 한다.
본 개시의 일 실시 예에 따른 통신 인터페이스(120)는 AP 기반의 Wi-Fi(와이파이, Wireless LAN 네트워크), 블루투스(Bluetooth), 지그비(Zigbee), 유/무선 LAN(Local Area Network), WAN(Wide Area Network), 이더넷(Ethernet), IEEE 1394, HDMI(High-Definition Multimedia Interface), USB(Universal Serial Bus), MHL(Mobile High-Definition Link), AES/EBU(Audio Engineering Society/ European Broadcasting Union), 옵티컬(Optical), 코액셜(Coaxial) 등과 같은 통신 방식을 통해 외부 장치(예를 들어, 소스 장치, 외부 사용자 단말), 외부 저장 매체(예를 들어, USB 메모리), 외부 서버(예를 들어 웹 하드) 등과 통신을 수행하여 데이터를 전송하거나, 수신할 수 있다.
특히, 본 개시의 일 실시 예에 따른 로봇 장치(100)는 통신 인터페이스(120)를 통해 타 전자 장치와 P2P(Peer to Peer) 형태로 통신을 수행하여 정보를 공유할 수 있다. 일 예로, 로봇 장치(100)는 AP(Access Point) 없이 장치 간 P2P 형태로 정보를 전송 또는 수신하는 애드 혹(Ad Hoc) 모드로 타 전자 장치와 통신을 수행할 수도 있다.
본 개시의 일 실시 예에 따른 프로세서(140)는 통신 인터페이스(120)를 통해 데이터를 서버로 전송하고, 서버로부터 데이터를 수신할 수 있다. 이에 대한 구체적인 설명은 후술하도록 한다.
본 개시의 일 실시 예에 따라 로봇 장치(100)에 구비된 메모리(130)는 프로세서(140)에 포함된 롬(ROM)(예를 들어, EEPROM(electrically erasable programmable read-only memory)), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(140)와 별도의 메모리로 구현될 수도 있다. 이 경우, 메모리(130)는 데이터 저장 용도에 따라 로봇 장치(100)에 임베디드된 메모리 형태로 구현되거나, 로봇 장치(100)에 탈부착이 가능한 메모리 형태로 구현될 수도 있다. 예를 들어, 로봇 장치(100)의 구동을 위한 데이터의 경우 로봇 장치(100)에 임베디드된 메모리에 저장되고, 로봇 장치(100)의 확장 기능을 위한 데이터의 경우 로봇 장치(100)에 탈부착이 가능한 메모리에 저장될 수 있다. 한편, 로봇 장치(100)에 임베디드된 메모리의 경우 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나로 구현되고, 로봇 장치(100)에 탈부착이 가능한 메모리의 경우 메모리 카드(예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 등), USB 포트에 연결가능한 외부 메모리(예를 들어, USB 메모리) 등과 같은 형태로 구현될 수 있다.
특히 본 개시의 일 실시 예에 따른 프로세서(140)의 제어에 따라 로봇 장치(100)의 액션이 변경되면, 프로세서(140)는 액션에 대응되는 인스트럭션 데이터, 액션과 관련된 센서(110)의 센싱 데이터 및 액션과 관련된 맵 데이터를 메모리(130)에 저장할 수 있다. 여기서, 액션과 관련된 센서(110)의 센싱 데이터 및 액션과 관련된 맵 데이터는 각각 로봇 장치(100)의 액션이 변경된 시점의 센싱 데이터 및 맵 데이터를 의미할 수 있다. 예를 들어, 프로세서(140)는 로봇 장치(100)의 액션이 변경되면, 해당 액션에 대응되는 익스트럭션 데이터, 액션이 변경된 시점의 센싱 데이터 및 맵 데이터를 메모리(130)에 저장할 수 있다. 여기서, 맵 데이터는 액션이 변경된 시점의 로봇 장치(100)에 인접한 오브젝트에 대한 정보를 포함할 수 있다.
프로세서(140)는 로봇 장치(100)의 전반적인 동작을 제어한다.
일 실시 예에 따라 프로세서(140)는 디지털 영상 신호를 처리하는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), AI(Artificial Intelligence) 프로세서, T-CON(Timing controller)으로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며, 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ARM 프로세서 중 하나 또는 그 이상을 포함하거나, 해당 용어로 정의될 수 있다. 또한, 프로세서(140)는 프로세싱 알고리즘이 내장된 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다.
본 개시의 일 실시 예에 따른 프로세서(140)는 센서(110)에 의해 센싱된 특정 공간에 대한 맵 데이터에 기초하여 로봇 장치(100)의 구동을 제어할 수 있다. 여기서, 특정 공간에 대한 맵 데이터는 로봇 장치(100)가 운행되는 공간(place)의 물리적인 지형을 나타내는 데이터를 의미할 수 있으며, 이미지 형태일 수도 있으나 이에 한정되지 않음은 물론이다.
프로세서(140)는 맵 데이터에 포함된 오브젝트에 대한 정보, 공간을 구성하는 복수의 구역 각각의 구역 정보 등에 기초하여 로봇 장치(100)의 액션을 제어하기 위한 인스트럭션 데이터를 생성할 수 있다. 여기서, 인스트럭션 데이터는 로봇 장치(100)의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터일 수 있다.
오브젝트는 일 예로 공간이 식당이면, 테이블, 사용자의 착석이 가능한 좌석 또는 다양한 형태의 물리적 장애물을 의미할 수 있다. 맵 데이터는 공간에 마련된 테이블, 좌석 등의 식별 정보 및 위치 정보를 포함할 수 있다. 다른 예로, 공간이 가정집이면, 오브젝트는 가구, 가전 기기 또는 다양한 형태의 장애물 등을 의미할 수도 있음은 물론이다.
여기서, 장애물은 로봇 장치(100)의 주행에 방해가 되거나, 로봇 장치(100)의 주행 간 구동 정지, 파손 또는 고장을 유발할 수 있는 각종 사물이나 상황을 의미할 수 있다. 예를 들어, 장애물은 가구, 전가 기기 외에도 러그(rug), 의류, 벽면, 계단, 문턱(threshold) 등과 같이 다양한 객체를 포함할 수 있음은 물론이다. 또한, 공간을 구성하는 복수의 구역 각각의 구역 정보는, 복수의 구역 각각을 식별하기 위한 정보를 의미할 수 있다. 예를 들어, 특정 공간이 식당인 경우에 구역 정보는 식당에 마련된 주방, 결제 구역, 홀 영역에 대한 식별 정보, 위치 정보 및 크기 정보 등을 포함할 수 있다.
맵 데이터는 외부 서버(미도시)로부터 수신되어 메모리(130)에 저장될 수도 있고, 로봇 장치(100)에 구비된 센서(110)(또는, 카메라)를 통해 획득된 센싱 데이터(또는 이미지)에 기초하여 획득될 수도 있음은 물론이다.
본 개시의 일 실시 예에 따른 프로세서(140)는 인스트럭션 데이터 즉, 로봇 프로그래밍 언어 포맷의 데이터에 기초하여 로봇 장치(100)의 하드웨어 요소를 제어하여 액션을 발생시킬 수 있다. 여기서, 액션은 맵 데이터에 기초하여 장애물 등을 회피 주행하기 위한 액션, 청소를 수행하기 위한 액션, 물건을 운반하기 위한 액션 등 로봇 장치(100)의 목적에 따른 로봇 장치(100)가 수행가능한 다양한 움직임을 포함할 수 있음은 물론이다. 이에 대한 설명은 도 3을 참조하여 하도록 한다.
도 3은 본 개시의 일 실시 예에 따른 데이터를 설명하기 위한 도면이다.
도 3을 참조하면, 본 개시의 일 실시 예에 따른 프로세서(140)는 센싱 데이터에 기초하여 로봇 장치(100)의 전방에서 오브젝트(예를 들어, 장애물)가 식별되면, 로봇 장치(100)를 우측 또는 좌측으로 회전 주행시키거나, 후진시키기 위한 인스트럭션 데이터를 생성할 수 있다.
이어서, 프로세서(140)는 로봇 장치(100)가 인스트럭션 데이터에 대응되는 특정 액션을 수행하도록 구동부, 구성 요소 등을 제어할 수 있다. 도 3을 참조하면, 프로세서(140)는 인스트럭션 데이터에 기초하여 로봇 장치(100)의 하드웨어 요소를 제어하여 우측 회전 주행 액션을 발생시킬 수 있다.
여기서, 프로세서(140)는 로봇 장치(100)의 액션이 직진 주행 액션에서 우측 회전 주행 액션으로 변경되면, 액션이 변경된 시점의 인스트럭션 데이터, 액션이 변경된 시점의 하드웨어 요소에서 생성되는 구동 데이터를 포함하는 센싱 데이터 및 액션이 변경된 시점의 맵 데이터를 메모리(120)에 저장할 수 있다.
다른 예로, 프로세서(140)는 로봇 장치(100)의 액션이 직진 주행 액션에서 우측 회전 주행 액션으로 변경되면, 변경된 액션 즉, 우측 회전 주행 액션에 대응되는 익스트럭션 데이터, 변경된 액션의 수행에 따른 하드웨어 요소에서 생성되는 구동 데이터 및 변경된 액션과 관련된 맵 데이터를 메모리(120)에 저장할 수도 있음은 물론이다. 여기서, 구동 데이터는 로봇 장치(100)가 액션을 수행하기 위해 모터, 휠 등 하드웨어 요소가 구동함에 따라 생성된 데이터를 의미할 수 있다.
한편, 본 개시의 일 실시 예에 따른 프로세서(140)는 인스트럭션 데이터, 센싱 데이터 또는 맵 데이터 중 적어도 하나를 선별적으로 또는 선택적으로 저장할 수도 있다. 예를 들어, 프로세서(140)는 센싱 데이터 만을 저장할 수도 있고, 인스트럭션 데이터 및 센싱 데이터를 맵핑하여 저장할 수도 있음은 물론이다. 다른 예로, 프로세서(140)는 인스트럭션 데이터, 센싱 데이터 및 맵 데이터를 맵핑하여 메모리(120)에 저장할 수 도 있음은 물론이다.
도 4는 본 개시의 일 실시 예에 따른 인스트럭션 데이터 및 센싱 데이터를 설명하기 위한 도면이다.
도 4를 참조하면, 본 개시의 일 실시 예에 따른 프로세서(140)는 맵 데이터에 기초하여 로봇 장치(100)에서 해석 가능한 형태인 로봇 프로그래밍 언어 포맷의 인스트럭션 데이터를 획득할 수 있다.
일 예로, 프로세서(140)는 로봇 장치(100)가 전진 주행 액션을 수행하도록 “Moving” 인스트럭션 데이터를 생성할 수 있다. 이어서, 프로세서(140)는 맵 데이터에 기초하여 전방에서 장애물이 감지되면, 해당 장애물에 대한 회피 주행을 수행하도록 “Avoiding_obstacle” 인스트럭션 데이터를 생성할 수 있다.
특히, 본 개시의 일 실시 예에 따른 프로세서(140)는 인스트럭션 데이터에 기초하여 하드웨어 요소를 제어하여 액션을 수행할 수 있다. 이어서, 프로세서(140)는 로봇 장치(100)의 하드웨어 요소에서 생성되는 구동 데이터를 획득할 수 있다. 여기서, 구동 데이터는 액션의 수행에 따른 하드웨어 요소의 실제 동작 관련 데이터를 의미할 수 있다.
일 실시 예에 따른 프로세서(140)는 로봇 장치(100)의 액션이 변경되면, 인스트럭션 데이터, 센싱 데이터 및 맵 데이터를 메모리(120)에 저장할 수 있다. 이어서, 프로세서(140)는 메모리(120)에 저장된 데이터를 통신 인터페이스(130)를 통해 서버로 전송할 수 있다. 예를 들어, 프로세서(140)는 로봇 장치(100)의 액션이 “Moving”에서 “Avoiding_obstacle”로 변경되면, 변경된 액션에 대응되는 인스트럭션 데이터, 액션의 수행에 따른 하드웨어 요소의 구동 데이터를 포함하는 센싱 데이터, 액션과 관련된 맵 데이터를 메모리(120)에 저장할 수 있다.
본 개시의 일 실시 예에 따른 프로세서(140)는 서버로부터 수신된 데이터에 기초하여 로봇 장치(100)에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시킬 수 있다. 여기서, 서버로부터 수신된 데이터는 로봇 장치(100)로부터 서버로 전송된 데이터를 분석하여 획득된, 로봇 장치(100)에서 발생 가능한 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함할 수 있다. 여기서, 임계 범위는 오차 범위, 정상 범위를 의미할 수 있으나, 설명의 편의를 위해 임계 범위로 통칭하도록 한다.
예를 들어, 프로세서(140)는 액션 “Avoiding_obstacle”에 대응되는 익스트럭션 데이터, 액션 “Avoiding_obstacle”의 수행에 따른 하드웨어 요소의 구동 데이터를 포함하는 센싱 데이터, 액션 “Avoiding_obstacle”과 관련된 맵 데이터를 서버로 전송할 수 있다. 이어서, 프로세서(140)는 서버로부터 수신된 데이터에 기초하여 액션 “Avoiding_obstacle”과 관련된 센싱 데이터의 임계 범위에 대한 데이터를 획득할 수 있다.
예를 들어, 서버는 복수의 로봇 장치로부터 액션 별 복수의 센싱 데이터를 수신할 수 있다. 이어서, 서버는 복수의 센싱 데이터를 분석하여 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 획득할 수 있다.
일 예로, 서버는 복수의 로봇 장치 각각으로부터 액션 “Avoiding_obstacle”에 대응되는 센싱 데이터가 수신되면, 복수의 센싱 데이터를 분석하여 액션 “Avoiding_obstacle”에 대응되는 표준 센싱 데이터를 획득할 수 있다. 예를 들어, 서버는 복수의 센싱 데이터를 분석하여 최빈 구동 데이터의 조합을 통해 표준 센싱 데이터를 획득할 수도 있고, 특정 로봇 장치로부터 수신된 센싱 데이터를 표준 센싱 데이터로 획득할 수도 있다. 이어서, 서버는 로봇 장치(100)에서 발생 가능한 액션 별 표준 센싱 데이터 및 표준 센싱 데이터와의 임계 유사도를 로봇 장치(100)로 전송할 수 있다.
이어서, 로봇 장치(100)는 수신된 표준 센싱 데이터와 메모리(120)에 저장된 센싱 데이터와의 유사도를 측정하여 임계 유사도 이상인지 여부 즉, 임계 범위에 속하는지 여부를 식별할 수 있다. 예를 들어, 임계 유사도가 95%이면, 로봇 장치(100)는 표준 센싱 데이터와 메모리(120)에 저장된 센싱 데이터를 비교하고, 비교 결과에 따라 유사도가 95% 이상인지 여부를 판단할 수 있다. 여기서, 유사도를 판단하는 방법은 공지의 유사도 측정 방법이 이용될 수 있음은 물론이다. 다만, 이는 일 실시 예로 이에 한정되지 않음은 물론이다.
예를 들어, 서버는 특정 액션에 대한 복수의 센싱 데이터가 수집되면, 복수의 센싱 데이터를 분석하여 에러가 발생하지 않은, 로봇 장치(100)에 구비된 하드웨어 요소들의 정상 동작에 따른 표준 센싱 데이터를 획득할 수 있다. 일 예로, 서버는 학습 네트워크 모델 또는 알고리즘에 기초하여 복수의 센싱 데이터로부터 표준 센싱 데이터를 획득하고, 로봇 장치(100)로 전송할 수 있다. 여기서, 학습 네트워크 모델은 액션 별 복수의 센싱 데이터에 기초하여 기계 학습(Machine Learning)된 인공지능 모델일 수 있다.
본 개시에 따른 인공지능과 관련된 기능은 프로세서(140)와 메모리(120)를 통해 동작된다. 프로세서(140)는 하나 또는 복수의 프로세서로 구성될 수 있다. 이때, 하나 또는 복수의 프로세서는 CPU, AP, DSP(Digital Signal Processor) 등과 같은 범용 프로세서, GPU, VPU(Vision Processing Unit)와 같은 그래픽 전용 프로세서 또는 NPU와 같은 인공지능 전용 프로세서일 수 있다. 하나 또는 복수의 프로세서는, 메모리에 저장된 기 정의된 동작 규칙 또는 인공지능 모델에 따라, 입력 데이터를 처리하도록 제어한다. 또는, 하나 또는 복수의 프로세서가 인공지능 전용 프로세서인 경우, 인공지능 전용 프로세서는, 특정 인공지능 모델의 처리에 특화된 하드웨어 구조로 설계될 수 있다.
기 정의된 동작 규칙 또는 인공지능 모델은 학습을 통해 만들어진 것을 특징으로 한다. 여기서, 학습을 통해 만들어진다는 것은, 기본 인공지능 모델이 학습 알고리즘에 의하여 다수의 학습 데이터들을 이용하여 학습됨으로써, 원하는 특성(또는, 목적)을 수행하도록 설정된 기 정의된 동작 규칙 또는 인공지능 모델이 만들어짐을 의미한다. 이러한 학습은 본 개시에 따른 인공지능이 수행되는 기기 자체에서 이루어질 수도 있고, 별도의 서버 및/또는 시스템을 통해 이루어 질 수도 있다. 학습 알고리즘의 예로는, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)이 있으나, 전술한 예에 한정되지 않는다.
인공지능 모델은, 복수의 신경망 레이어들로 구성될 수 있다. 복수의 신경망 레이어들 각각은 복수의 가중치들(weight values)을 갖고 있으며, 이전(previous) 레이어의 연산 결과와 복수의 가중치들 간의 연산을 통해 신경망 연산을 수행한다. 복수의 신경망 레이어들이 갖고 있는 복수의 가중치들은 인공지능 모델의 학습 결과에 의해 최적화될 수 있다. 예를 들어, 학습 과정 동안 인공지능 모델에서 획득한 로스(loss) 값 또는 코스트(cost) 값이 감소 또는 최소화되도록 복수의 가중치들이 갱신될 수 있다. 인공 신경망은 심층 신경망(DNN:Deep Neural Network)를 포함할 수 있으며, 예를 들어, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN(Bidirectional Recurrent Deep Neural Network) 또는 심층 Q-네트워크 (Deep Q-Networks) 등이 있으나, 전술한 예에 한정되지 않는다.
이어서, 본 개시의 일 실시 예에 따른 로봇 장치(100)는 서버로부터 수신된 데이터에 기초하여 로봇 장치(100)에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시킬 수 있다. 이에 대한 구체적인 설명은 도 5를 참조하여 하도록 한다.
도 5는 본 개시의 일 실시 예에 따른 임계 범위를 설명하기 위한 도면이다.
도 5를 참조하면, 본 개시의 일 실시 예에 따른 프로세서(140)는 로봇 장치(100)가 액션을 수행함에 따라 하드웨어 요소의 구동에 관한 데이터 즉, 구동 데이터를 포함하는 센싱 데이터를 획득할 수 있다.
이어서, 프로세서(140)는 서버로부터 데이터를 수신할 수 있다. 여기서, 서버로부터 수신된 데이터는 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함할 수 있다.
액션 별 센싱 데이터의 임계 범위에 대한 데이터는 액션 별 표준 센싱 데이터 및 임계 유사도에 대한 데이터를 포함할 수 있다. 이어서, 프로세서(140)는 액션과 관련된 센싱 데이터와 해당 액션과 관련된 표준 데이터를 비교하여 유사도를 식별할 수 있다. 이어서, 프로세서(140)는 유사도가 임계 유사도 미만이면, 로봇 장치(100)에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별할수 있다.
도 5를 참조하면, 일 실시 예에 따른 프로세서(140)는 로봇 장치(100)에서 수행된 액션 “Avoiding_obstacle”에 대응되는 센싱 데이터와 액션 “Avoiding_obstacle”의 표준 센싱 데이터 간 유사도가 임계 유사도 미만이면, 센싱 데이터가 임계 범위에 속하지 않는 것을 식별하고 이벤트를 발생시킬 수 있다.
여기서, 이벤트는 로봇 장치(100)에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않음을 노티(notification)하는 피드백(feedback), 액션에 대응되는 센싱 데이터가 임계 범위에 속하도록 로봇 장치의 하드웨어 요소를 제어하는 인스트럭션 또는 액션에 대응되는 센싱 데이터에 기초하여 로봇 장치의 하드웨어 요소 중 에러가 발생한 요소를 노티하는 이벤트 중 적어도 하나를 포함할 수 있다.
일 예로, 프로세서(140)는 로봇 장치(100)에서 수행된 특정 액션에 대응되는 센싱 데이터가 특정 액션에 대응되는 표준 센싱 데이터와 임계 유사도 미만의 유사도를 가지면, 로봇 장치(100)에 에러가 발생한 것으로 식별할 수 있다. 프로세서(140)는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않음을 노티하는 시각 또는 청각 피드백 중 적어도 하나를 제공할 수 있다.
다른 예로, 프로세서(140)는 액션에 대응되는 센싱 데이터가 임계 범위에 속하도록 하드웨어 요소를 제어하는 인스트럭션을 발생시킬 수 있다. 예를 들어, 액션 “Moving”의 표준 센싱 데이터 상 주행 속도는 0.5m/s이고 로봇 장치(100)가 액션 “Moving”을 수행함에 따라 생성된 센싱 데이터 상 주행 속도 0.1m/s이면, 프로세서(140)는 구동부에 구비된 휠, 모터를 제어하여 주행 속도를 0.5m/s로 변경시키는 인스트럭션을 발생시킬 수 있다.
또 다른 예로, 프로세서(140)는 로봇 장치(100)에서 수행된 특정 액션에 대응되는 센싱 데이터가 특정 액션에 대응되는 표준 센싱 데이터와 임계 유사도 미만의 유사도를 가지면, 특정 액션을 수행하기 위해 제어가 요구되는 하드웨어 요소에 에러(또는, 장애)가 발생하였음을 노티하는 이벤트를 발생시킬 수도 있음은 물론이다. 예를 들어, 액션 “Moving”의 표준 센싱 데이터 상 주행 속도는 0.5m/s이고 로봇 장치(100)가 액션 “Moving”을 수행함에 따라 생성된 센싱 데이터 상 주행 속도 0.1m/s이면, 프로세서(140)는 구동부에 구비된 휠, 모터 등에 에러가 발생하였음을 노티하는 청각 또는 시각적 피드백을 제공할 수도 있다.
도 6은 본 개시의 일 실시 예에 따른 맵 데이터를 설명하기 위한 도면이다.
도 6을 참조하면, 본 개시의 일 실시 예에 따른 프로세서(140)는 로봇 장치(100)가 이동(또는, 주행)하는 동안 센서(110)의 센싱 데이터에 기초하여 오브젝트에 대한 정보를 포함하는 맵 데이터를 획득할 수 있다.
여기서, 오브젝트에 대한 정보는, 오브젝트에 대한 정보는, 특정 공간 내 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함할 수 있다. 여기서, 크기 정보는 오브젝트의 너비, 높이 및 길이에 대한 정보 중 적어도 하나를 포함하고, 형태 정보는 오브젝트의 대표 이미지, 평면 형상(또는, 평면도(top-view)) 등을 포함할 수 있다. 또한, 오브젝트의 특성 정보는 오브젝트의 승월(climbing) 가능 여부 또는 로봇 장치(100)가 오브젝트를 회피 주행(또는, 추종 주행)하는 경우에 로봇 장치(100)와 오브젝트 사이의 임계 거리 등에 대한 정보를 포함할 수 있다.
본 개시의 일 실시 예에 따른 프로세서(140)는 메모리(120)에 저장된 인공 지능 모델(Artificial Intelligence Model)을 이용하여 오브젝트에 대한 정보를 획득할 수도 있다. 예를 들어, 본 개시의 일 실시 예에 따른 메모리(120)는 입력 이미지에서 오브젝트를 식별하도록 학습된 인공 지능 모델이 저장될 수 있다. 여기서, 인공 지능 모델은 다양한 오브젝트를 포함하는 복수의 샘플 이미지를 이용하여 학습된 모델일 수 있다. 오브젝트를 식별한다는 것은, 오브젝트의 명칭, 종류, 크기 정보, 형태 정보 또는 특성 정보 등 오브젝트에 대한 정보를 획득하는 것으로 이해될 수 있다.
이어서, 프로세서(140)는 오브젝트에 대한 정보에 기초하여 해당 오브젝트에 대응되는 인스트럭션 데이터를 획득할 수 있다.
예를 들어, 프로세서(140)는 승월 불가한 장애물이 전방에서 감지되면, 해당 장애물을 회피 주행하기 위한 인스트럭션 데이터를 획득할 수 있다. 다른 예로, 프로세서(140)는 승월 가능한 장애물이 전방에서 감지되면, 해당 장애물을 승월 주행하기 위한 인스트럭션 데이터를 획득할 수 있다.
본 개시의 일 실시 예에 따른 프로세서(140)는 오브젝트에 대한 정보 즉, 맵 데이터에 기초하여 로봇 장치(100)의 액션이 변경되면, 해당 액션에 대응되는 인스트럭션 데이터, 해당 액션을 수행함에 따라 생성된 구동 데이터를 포함하는 센싱 데이터 및 오브젝트에 대한 정보를 포함하는 맵 데이터를 서버로 전송할 수 있다.
도 7은 본 개시의 일 실시 예에 따른 로봇 장치의 주행을 재현하는 경우를 설명하기 위한 도면이다.
도 7을 참조하면, 본 개시의 일 실시 예에 따른 로봇 장치(100)가 로봇 청소기(100’)로 구현된 경우를 상정할 수 있다.
로봇 청소기(100’)는 센서(110)의 센싱 데이터에 기초하여 바닥에 구분선 내지는 턱이 있는 지점, 이동 가능한 폭이 좁아지는 지점, 벽이 있는 지점, 벽이 시작하는 지점, 벽이 끝나는 지점, 문이 있는 지점 등 오브젝트들을 식별할 수 있다. 이어서, 프로세서(130)는 식별된 지점을 구역 간의 경계로 하여 공간(예를 들어, 가정집)을 복수의 구역(예를 들어, 거실, 침실, 화장실 또는 주방 등)으로 구분할 수 있다.
이어서, 로봇 청소기(100’)는 복수의 구역을 순차적으로 이동하며 청소를 수행할 수 있다.
도 7을 참조하면, 본 개시의 일 실시 예에 따른 로봇 청소기(100’)는 제1 구역(①) 예를 들어, 주방을 청소한 뒤 다음 구역으로 이동하여 청소를 수행할 수 있다.
본 개시의 일 실시 예에 따라 프로세서(140)는 센서(110)의 센싱 데이터에 기초하여 로봇 청소기(100’)를 주행시킬 수 있다. 도 7을 참조하면, 로봇 청소기(100’)가 제1 구역(①) 예를 들어, 주방을 청소한 뒤 제2 구역(②)으로 이동하기 위해 좌측 회전 액션을 수행하는 경우를 상정할 수 있다.
로봇 청소기(100’)의 액션이 직진 주행 액션에서 좌측 회전 액션으로 변경되었으므로, 프로세서(140)는 좌측 회전 액션에 대응되는 인스트럭션 데이터, 좌측 회전 액션을 수행하는 시점에서의 센싱 데이터 및 맵 데이터를 메모리(120)에 저장할 수 있다.
추후, 프로세서(140)는 테스트 모드가 실행되면, 로봇 장치(100)가 메모리(120)에 저장된 인스트럭션 데이터 및 인스트럭션 데이터에 대응되는 센싱 데이터에 기초하여 액션을 재현(replay)할 수 있다.
본 개시의 다른 실시 예에 따른 로봇 장치(100)는 메모리(120)에 저장된 인스트럭션 데이터에 대응되는 센싱 데이터를 서버로부터 수신하고, 메모리(120)에 저장된 인스트럭션 데이터 및 서버로부터 수신된 센싱 데이터에 기초하여 인스트럭션 데이터에 대응되는 액션을 재현할 수 있다.
또 다른 실시 예에 따른 로봇 장치(100)는 서버로부터 인스트럭션 데이터 및 인스트럭션 데이터에 대응되는 센싱 데이터를 수신하고, 서버로부터 수신된 인스트럭션 데이터 및 센싱 데이터에 기초하여 액션을 재현할 수도 있음은 물론이다.
예를 들어, 타 로봇 장치는 서버와 통신을 수행하여 서버로부터 인스트럭션 데이터 및 인스트럭션 데이터에 대응되는 센싱 데이터를 수신할 수 있다. 이어서, 타 로봇 장치는 서버로부터 수신된 인스트럭션 데이터 및 센싱 데이터에 기초하여 액션을 재현할 수도 있음은 물론이다. 여기서, 타 로봇 장치가 재현하는 액션은 로봇 장치(100)가 수행한 액션을 의미할 수 있다. 타 로봇 장치는 로봇 장치(100)에서 과거에 수행된 액션을 재현하거나, 수행될 수 있는 액션을 시뮬레이션할 수 있다. 여기서, 타 로봇 장치는 시뮬레이터로 불릴 수도 있음은 물론이다.
도 2는 본 개시의 일 실시 예에 따른 로봇 장치의 상세 블록도이다.
도 2를 참조하면 본 개시의 일 실시 예에 따른 로봇 장치(100)는 센서(110), 통신 인터페이스(120), 메모리(130), 프로세서(140) 및 구동부(150)를 포함할 수 있다. 도 1에 도시된 구성과 중복된 구성에 대해서는 설명을 생략하도록 한다.
일 실시 예에 따른 로봇 장치(100)는 액추에이터(actuator) 또는 모터를 포함하는 구동부를 구비할 수 있다. 여기서, 구동부는 휠, 브레이크 등을 포함할 수 있고, 로봇은 구동부를 이용하여 특정 공간 내를 스스로 이동가능한 이동 로봇으로 구현될 수 있다.
구동부는 로봇 장치(100)의 이동가능하게 하는 구성 요소 외에 로봇 장치(100)에 구비되어 다양한 동작, 기능을 수행가능하게 하는 모든 구성 요소를 포함할 수 있음은 물론이다. 예를 들어, 구동부는 로봇 관절을 포함하여 외부 객체를 운반시킬 수도 있다.
도 8은 본 개시의 일 실시 예에 따른 로봇 장치의 제어 방법을 설명하기 위한 흐름도이다.
로봇 장치의 제어 방법에 있어서, 우선, 로봇 장치의 액션(action)이 변경되면, 액션에 대응되는 인스트럭션(instruction) 데이터, 액션과 관련된 센싱 데이터 및 액션과 관련된 맵(map) 데이터를 저장한다(S810).
이어서, 저장된 데이터를 서버로 전송한다(S820).
이어서, 서버로부터 수신된 데이터에 기초하여 로봇 장치에 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시킨다(S830).
본 개시의 일 실시 예에 따른 인스트럭션 데이터는, 로봇 장치의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터이며, 제어 방법은 로봇 프로그래밍 언어 포맷의 데이터에 기초하여 로봇 장치의 하드웨어 요소를 제어하여 액션을 발생시키는 단계를 더 포함할 수 있다.
여기서, 센싱 데이터는, 액션이 발생됨에 따라 하드웨어 요소에서 생성되는 구동 데이터를 포함하며, 맵 데이터는, 로봇 장치가 위치한 특정 공간 내 오브젝트에 대한 정보를 포함하며, 오브젝트에 대한 정보는, 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함할 수 있다.
또한, 서버로부터 수신된 데이터는, 로봇 장치로부터 서버로 전송된 데이터를 분석하여 획득된, 로봇 장치에서 발생 가능한 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함하고, 이벤트를 발생시키는 S830 단계는, 임계 범위에 대한 데이터에 기초하여 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하는지 여부를 식별하는 단계를 포함할 수 있다.
또한, 서버로부터 수신된 데이터는, 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않음을 나타내고, 이벤트를 발생시키는 S830 단계는, 수신된 데이터에 기초하여 이벤트를 발생시키는 단계를 포함할 수 있다.
또한, 이벤트는, 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않음을 노티(notification)하는 피드백(feedback), 액션에 대응되는 센싱 데이터가 임계 범위에 속하도록 로봇 장치의 하드웨어 요소를 제어하는 인스트럭션 또는 액션에 대응되는 센싱 데이터에 기초하여 로봇 장치의 하드웨어 요소 중 에러가 발생한 요소를 노티하는 이벤트 중 적어도 하나를 포함할 수 있다.
또한, 일 실시 예에 따른 제어 방법은, 테스트 모드가 실행되면, 저장된 인스트럭션 데이터 및 인스트럭션 데이터에 대응되는 저장된 센싱 데이터에 기초하여 액션을 재현(replay)하거나, 메모리에 저장된 인스트럭션 데이터 및 인스트럭션 데이터에 대응되는 서버로부터 수신된 센싱 데이터에 기초하여 액션을 재현(replay)하는 단계를 더 포함할 수 있다.
또한, 저장하는 S810 단계는, 인스트럭션 데이터 및 센싱 데이터를 로봇 프로그래밍 언어 포맷의 데이터로 변환하는 단계 및 변환된 데이터를 메모리에 저장하는 단계를 포함할 수 있다.
도 9는 본 개시의 일 실시 예에 따른 로봇 장치 시스템의 구성을 도시한 블록도이다.
도 9에 도시된 바에 따르면 로봇 장치 시스템(1000)은 로봇 장치(100) 및 서버(200)를 포함한다.
일 실시 예에 따른 로봇 장치(100)는 액션(action)이 변경되면, 액션에 대응되는 인스트럭션(instruction) 데이터, 액션과 관련된 센서의 센싱 데이터 및 액션과 관련된 맵(map) 데이터를 저장하고, 저장된 데이터를 서버로 전송할 수 있다. 또한, 로봇 장치(100)는 서버(200)로부터 수신된 데이터에 기초하여 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시킬 수 있다.
본 개시의 일 실시 예에 따른 서버(200)는 로봇 장치로부터 수신된 인스트럭션(instruction) 데이터, 센싱 데이터 및 맵 데이터에 기초하여 액션에 대응되는 센싱 데이터의 임계 범위를 식별할 수 있다. 이어서, 서버(200)는 식별된 임계 범위와 관련된 데이터를 로봇 장치로 전송할 수 있다.
이에 대한 구체적인 설명은 도 10을 참조하여 설명하도록 한다.
도 10은 본 개시의 일 실시 예에 따른 로봇 장치 시스템을 설명하기 위한 도면이다.
도 10을 참조하면, 본 개시의 일 실시 예에 따른 복수의 로봇 장치(100-1, 100-2) 각각은 데이터를 서버(200)로 전송할 수 있다. 일 예로, 제1 로봇 장치(100-1)는 액션이 변경되면, 해당 액션에 대응되는 인스트럭션 데이터, 액션과 관련된 센싱 데이터 및 액션과 관련된 맵 데이터를 서버(200)로 전송할수 있다. 또한, 제2 로봇 장치(100-2)는 액션이 변경되면, 해당 액션에 대응되는 인스트럭션 데이터, 액션과 관련된 센싱 데이터 및 액션과 관련된 맵 데이터를 서버(200)로 전송할 수 있다. 서버(200)는 복수의 로봇 장치(100-1, 100-2)로부터 데이터가 수신됨에 따라 복수의 액션 각각에 대응되는 인스트럭션 데이터, 센싱 데이터 및 맵 데이터를 획득할 수 있다.
일 예로, 서버(200)는 제1 로봇 장치(100-1)로부터 제1 액션에 대응되는 인스트럭션 데이터, 제1 로봇 장치(100-1)가 제1 액션을 수행함에 따라 생성된 센싱 데이터 및 맵 데이터를 수신할 수 있다. 또한, 서버(200)는 제2 로봇 장치(100-2)로부터 제1 액션에 대응되는 인스트럭션 데이터, 제2 로봇 장치(100-2)가 제1 액션을 수행함에 따라 생성된 센싱 데이터 및 맵 데이터를 수신할 수 있다. 이어서, 서버(200)는 제1 액션에 대응되는 복수의 센싱 데이터에 기초하여 제1 액션에 대한 표준 센싱 데이터를 획득할 수 있다.
예를 들어, 서버(200)는 제1 로봇 장치(100-1)로부터 수신된 센싱 데이터 및 제2 로봇 장치(100-2)로부터 수신된 센싱 데이터를 분석하여 로봇 장치(100)에 구비된 하드웨어 요소들의 정상 상태에서 제1 액션이 수행되는 경우를 상정하여 센싱 데이터를 획득할 수 있다. 여기서, 서버(200)가 획득한 센싱 데이터는 제1 액션에 대응되는 표준 센싱 데이터를 의미한다.
이어서, 서버(200)는 로봇 장치(100)에서 수행 가능한 액션 별 표준 센싱 데이터 또는 센싱 데이터의 임계 범위를 획득할 수 있다. 예를 들어, 서버(200)는 제1 액션에 대응되는 센싱 데이터 및 해당 센싱 데이터의 임계 범위, 제2 액션에 대응되는 센싱 데이터 및 해당 센싱 데이터의 임계 범위를 획득할 수 있다. 여기서, 임계 범위는 로봇 장치(100)로부터 수신된 센싱 데이터에 기초하여 로봇 장치(100)가 특정 액션을 에러 없이(또는, 하드웨어 요소의 오류 없이) 수행하였음을 판단하는 범위를 의미한다.
일 예로, 본 개시의 일 실시 예에 따른 서버(200)는 로봇 장치(100)에서 발생 가능한 복수의 액션 각각에 대응되는 센싱 데이터의 임계 범위에 대한 데이터를 로봇 장치(100)로 전송할 수 있다. 이어서, 로봇 장치(100)는 서버(200)로부터 수신된 데이터에 기초하여 로봇 장치(100)에서 수행된 특정 액션에 대응되는 센싱 데이터와 특정 액션에 대응되는 표준 센싱 데이터를 비교하여 유사도가 임계 범위 내에 속하는지 여부를 판단할 수 있다. 이어서, 로봇 장치(100)는 판단 결과에 따라 임계 범위를 벗어나는 것으로 식별되면, 로봇 장치(100)의 하드웨어 요소가 장애 상태임을 나타내는 피드백 또는 특정 액션과 관련된 하드웨어 요소를 노티하는 피드백을 이벤트로 제공할 수 있다.
한편, 유사도가 임계 범위 내에 속하는 경우는 로봇 장치(100)에서 수행된 특정 액션이 정상 범위 내에서 수행되었음을 의미할 수 있다. 예를 들어, 로봇 장치(100)가 액션을 수행함에 따라 생성된 센싱 데이터와 해당 액션에 대응되는 표준 센싱 데이터 간에 비교를 수행하고, 비교 결과에 따라 로봇 장치(100)가 해당 액션을 정상 범위 내에서 수행하였는지 여부를 판단할 수 있다. 여기서, 정상 범위는 하드웨어 요소가 장애 상태가 아닌 상태에서 로봇 장치(100)가 해당 액션을 수행하였을 경우를 가정하여 생성된 표준 센싱 데이터 또는 해당 액션에 기 설정된 오차 범위에 대한 정보를 포함하는 표준 센싱 데이터를 의미할 수 있다.
다른 예로, 서버(200)는 로봇 장치(100)로부터 수신된 센싱 데이터가 임계 범위를 벗어나는지 여부를 판단하여 판단 결과를 로봇 장치(100)로 전송할 수도 있다. 예를 들어, 판단 결과는 로봇 장치(100)에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않음을 나타내는 데이터이고, 로봇 장치(100)는 해당 데이터가 수신되면 하드웨어 요소가 장애 상태임을 나타내는 피드백 또는 특정 액션과 관련된 하드웨어 요소를 노티하는 피드백을 이벤트로 제공할 수 있다.
도 11은 본 개시의 일 실시 예에 따른 서버와 로봇 장치 간의 데이터 송수신을 설명하기 위한 시퀀스도이다.
도 11을 참조하면, 로봇 장치(100)는 로봇 장치(100)의 액션이 변경되면, 액션에 대응되는 인스트럭션 데이터, 액션과 관련된 센서의 센싱 데이터 및 액션과 관련된 맵 데이터를 저장할 수 있다(S1110).
이어서, 로봇 장치(100)는 저장된 데이터를 서버로 전송할 수 있다(S1120).
일 실시 예에 따른 서버(200)는 로봇 장치(100)로부터 수신된 인스트럭션 데이터, 센싱 데이터 및 맵 데이터에 기초하여 액션에 대응되는 임계 범위를 식별할 수 있다(S1130).
이어서, 서버(200)는 식별된 임계 범위와 관련된 데이터를 로봇 장치(100)로 전송할 수 있다(S1140).
본 개시의 일 실시 예에 따른 로봇 장치(100)는 수신된 데이터에 기초하여 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시킬 수 있다(S1150).
다만, 본 개시의 다양한 실시 예들은 로봇 장치 뿐 아니라, 모든 전자 장치에 적용될 수 있음은 물론이다.
한편, 이상에서 설명된 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다. 일부 경우에 있어 본 명세서에서 설명되는 실시 예들이 프로세서 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 로봇 청소기의 프로세싱 동작을 수행하기 위한 컴퓨터 명령어(computer instructions)는 비일시적 컴퓨터 판독 가능 매체(non-transitory computer-readable medium) 에 저장될 수 있다. 이러한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 명령어는 특정 기기의 프로세서에 의해 실행되었을 때 상술한 다양한 실시 예에 따른 디스플레이 장치(100)에서의 처리 동작을 특정 기기가 수행하도록 한다.
비일시적 컴퓨터 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.

Claims (15)

  1. 로봇 장치에 있어서,
    센서;
    통신 인터페이스;
    메모리; 및
    상기 로봇 장치의 액션(action)이 변경되면, 상기 액션에 대응되는 인스트럭션(instruction) 데이터, 상기 액션과 관련된 상기 센서의 센싱 데이터 및 상기 액션과 관련된 맵(map) 데이터를 상기 메모리에 저장하고,
    상기 메모리에 저장된 데이터를 상기 통신 인터페이스를 통해 서버로 전송하고,
    상기 서버로부터 수신된 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시키는 프로세서;를 포함하는, 로봇 장치.
  2. 제1항에 있어서,
    상기 인스트럭션 데이터는,
    상기 로봇 장치의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터이며,
    상기 프로세서는,
    상기 로봇 프로그래밍 언어 포맷의 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소를 제어하여 상기 액션을 발생시키는, 로봇 장치.
  3. 제2항에 있어서,
    상기 센서의 센싱 데이터는,
    상기 액션이 발생됨에 따라 상기 하드웨어 요소에서 생성되는 구동 데이터를 포함하며,
    상기 맵 데이터는, 상기 로봇 장치가 위치한 특정 공간 내 오브젝트에 대한 정보를 포함하며,
    상기 오브젝트에 대한 정보는,
    상기 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함하는, 로봇 장치.
  4. 제1항에 있어서,
    상기 서버로부터 수신된 데이터는,
    상기 로봇 장치로부터 상기 서버로 전송된 데이터를 분석하여 획득된, 상기 로봇 장치에서 발생 가능한 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함하고,
    상기 프로세서는,
    상기 임계 범위에 대한 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하는지 여부를 식별하는, 로봇 장치.
  5. 제1항에 있어서,
    상기 서버로부터 수신된 데이터는,
    상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 나타내고,
    상기 프로세서는,
    상기 수신된 데이터에 기초하여 상기 이벤트를 발생시키는, 로봇 장치.
  6. 제1항에 있어서,
    상기 이벤트는,
    상기 로봇 장치에서 발생되는 상기 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 노티(notification)하는 피드백(feedback), 상기 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하도록 상기 로봇 장치의 하드웨어 요소를 제어하는 인스트럭션 또는 상기 액션에 대응되는 센싱 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소 중 에러가 발생한 요소를 노티하는 이벤트 중 적어도 하나를 포함하는, 로봇 장치.
  7. 제1항에 있어서,
    상기 프로세서는,
    테스트 모드가 실행되면, 상기 메모리에 저장된 상기 인스트럭션 데이터 및 상기 인스트럭션 데이터에 대응되는 상기 메모리에 저장된 센싱 데이터에 기초하여 상기 액션을 재현(replay)하거나, 상기 메모리에 저장된 상기 인스트럭션 데이터 및 상기 인스트럭션 데이터에 대응되는 상기 서버로부터 수신된 센싱 데이터에 기초하여 상기 액션을 재현(replay)하는, 로봇 장치.
  8. 제1항에 있어서,
    상기 프로세서는,
    상기 인스트럭션 데이터 및 상기 센싱 데이터를 로봇 프로그래밍 언어 포맷의 데이터로 변환하고 상기 변환된 데이터를 상기 메모리에 저장하고 상기 통신 인터페이스를 통해 상기 서버로 전송하는, 로봇 장치.
  9. 로봇 장치 시스템에 있어서,
    로봇 장치의 액션(action)이 변경되면, 상기 액션에 대응되는 인스트럭션(instruction) 데이터, 상기 액션과 관련된 상기 센서의 센싱 데이터 및 상기 액션과 관련된 맵(map) 데이터를 저장하고, 상기 저장된 데이터를 서버로 전송하는 로봇 장치; 및
    상기 로봇 장치로부터 수신된 상기 인스트럭션(instruction) 데이터, 상기 센싱 데이터 및 상기 맵 데이터에 기초하여 상기 액션에 대응되는 센싱 데이터의 임계 범위를 식별하고, 상기 식별된 임계 범위와 관련된 데이터를 상기 로봇 장치로 전송하는 서버;를 포함하며,
    상기 로봇 장치는,
    상기 서버로부터 수신된 상기 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시키는, 로봇 장치 시스템.
  10. 제9항에 있어서,
    상기 서버는,
    상기 로봇 장치로부터 복수의 액션 각각에 대응되는 인스트럭션(instruction) 데이터 및 센싱 데이터를 수신하고,
    상기 수신된 데이터에 기초하여 상기 복수의 액션 각각의 임계 범위를 식별하는, 로봇 장치 시스템.
  11. 제9항에 있어서,
    상기 식별된 임계 범위와 관련된 데이터는,
    상기 로봇 장치에서 발생 가능한 복수의 액션 각각에 대응되는 센싱 데이터의 임계 범위에 대한 데이터 또는 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하지 않음을 나타내는 데이터인, 로봇 장치 시스템.
  12. 로봇 장치의 제어 방법에 있어서,
    상기 로봇 장치의 액션(action)이 변경되면, 상기 액션에 대응되는 인스트럭션(instruction) 데이터, 상기 액션과 관련된 센싱 데이터 및 상기 액션과 관련된 맵(map) 데이터를 저장하는 단계;
    상기 저장된 데이터를 서버로 전송하는 단계; 및
    상기 서버로부터 수신된 데이터에 기초하여 상기 로봇 장치에 발생되는 액션에 대응되는 센싱 데이터가 임계 범위에 속하지 않는 것으로 식별되면 이벤트를 발생시키는 단계;를 포함하는 제어 방법.
  13. 제12항에 있어서,
    상기 인스트럭션 데이터는,
    상기 로봇 장치의 주행 거리, 주행 방향 또는 주행 속도 중 적어도 하나를 제어하기 위한 로봇 프로그래밍 언어 포맷의 데이터이며,
    상기 로봇 프로그래밍 언어 포맷의 데이터에 기초하여 상기 로봇 장치의 하드웨어 요소를 제어하여 상기 액션을 발생시키는 단계;를 더 포함하는, 제어 방법.
  14. 제13항에 있어서,
    상기 센싱 데이터는,
    상기 액션이 발생됨에 따라 상기 하드웨어 요소에서 생성되는 구동 데이터를 포함하며,
    상기 맵 데이터는, 상기 로봇 장치가 위치한 특정 공간 내 오브젝트에 대한 정보를 포함하며,
    상기 오브젝트에 대한 정보는,
    상기 오브젝트의 위치 정보, 크기 정보, 형태 정보 또는 특성 정보 중 적어도 하나를 포함하는, 제어 방법.
  15. 제12항에 있어서,
    상기 서버로부터 수신된 데이터는,
    상기 로봇 장치로부터 상기 서버로 전송된 데이터를 분석하여 획득된, 상기 로봇 장치에서 발생 가능한 액션 별 센싱 데이터의 임계 범위에 대한 데이터를 포함하고,
    상기 이벤트를 발생시키는 단계는,
    상기 임계 범위에 대한 데이터에 기초하여 상기 로봇 장치에서 발생되는 액션에 대응되는 센싱 데이터가 상기 임계 범위에 속하는지 여부를 식별하는 단계;를 포함하는, 제어 방법.
PCT/KR2021/003212 2020-04-20 2021-03-16 로봇 장치 및 그 제어 방법 WO2021215668A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP21792813.4A EP4129578A4 (en) 2020-04-20 2021-03-16 ROBOT DEVICE AND ITS CONTROL METHOD
US17/941,829 US20230000304A1 (en) 2020-04-20 2022-09-09 Robot device and control method therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020200047672A KR20210129519A (ko) 2020-04-20 2020-04-20 로봇 장치 및 그 제어 방법
KR10-2020-0047672 2020-04-20

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/941,829 Continuation US20230000304A1 (en) 2020-04-20 2022-09-09 Robot device and control method therefor

Publications (1)

Publication Number Publication Date
WO2021215668A1 true WO2021215668A1 (ko) 2021-10-28

Family

ID=78232763

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/003212 WO2021215668A1 (ko) 2020-04-20 2021-03-16 로봇 장치 및 그 제어 방법

Country Status (4)

Country Link
US (1) US20230000304A1 (ko)
EP (1) EP4129578A4 (ko)
KR (1) KR20210129519A (ko)
WO (1) WO2021215668A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114326462A (zh) * 2021-11-16 2022-04-12 深圳市普渡科技有限公司 机器人系统、方法、计算机设备及存储介质
CN117697769B (zh) * 2024-02-06 2024-04-30 成都威世通智能科技有限公司 一种基于深度学习的机器人控制系统和方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100125794A (ko) * 2009-05-21 2010-12-01 한국과학기술연구원 로봇의 서비스 수행 방법 및 장치
KR20120116606A (ko) * 2011-04-13 2012-10-23 한국과학기술원 로봇을 이용한 가상 사물 자동 생성 동기화 방법 및 로봇을 이용한 가상 사물 자동 생성 동기화 시스템
KR20190065830A (ko) * 2017-12-04 2019-06-12 엘지전자 주식회사 인공지능을 이용한 이동 로봇, 이동 로봇의 제어방법, 및 이동 로봇의 제어 시스템
JP2019166592A (ja) * 2018-03-22 2019-10-03 株式会社日立製作所 ロボット制御システム、ロボット制御方法
US20190333359A1 (en) * 2018-04-26 2019-10-31 Maidbot, Inc. Automated Robot Alert System

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9195233B2 (en) * 2006-02-27 2015-11-24 Perrone Robotics, Inc. General purpose robotics operating system
WO2016125111A1 (en) * 2015-02-05 2016-08-11 Mohite Sumedh Hiraji Systems and methods for monitoring and controlling vehicles
US9740207B2 (en) * 2015-12-23 2017-08-22 Intel Corporation Navigating semi-autonomous mobile robots
US10296003B2 (en) * 2016-05-12 2019-05-21 Georgia Tech Research Corporation Autonomous vehicle research system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100125794A (ko) * 2009-05-21 2010-12-01 한국과학기술연구원 로봇의 서비스 수행 방법 및 장치
KR20120116606A (ko) * 2011-04-13 2012-10-23 한국과학기술원 로봇을 이용한 가상 사물 자동 생성 동기화 방법 및 로봇을 이용한 가상 사물 자동 생성 동기화 시스템
KR20190065830A (ko) * 2017-12-04 2019-06-12 엘지전자 주식회사 인공지능을 이용한 이동 로봇, 이동 로봇의 제어방법, 및 이동 로봇의 제어 시스템
JP2019166592A (ja) * 2018-03-22 2019-10-03 株式会社日立製作所 ロボット制御システム、ロボット制御方法
US20190333359A1 (en) * 2018-04-26 2019-10-31 Maidbot, Inc. Automated Robot Alert System

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4129578A4 *

Also Published As

Publication number Publication date
EP4129578A1 (en) 2023-02-08
KR20210129519A (ko) 2021-10-28
EP4129578A4 (en) 2023-08-30
US20230000304A1 (en) 2023-01-05

Similar Documents

Publication Publication Date Title
WO2021215668A1 (ko) 로봇 장치 및 그 제어 방법
WO2021101134A1 (en) Electronic apparatus and control method thereof
WO2019135534A1 (ko) 전자 장치 및 그의 제어 방법
WO2020071697A1 (ko) 전자 장치 및 이의 제어 방법
WO2020046038A1 (ko) 로봇 및 그의 제어 방법
WO2018117514A1 (ko) 공항용 로봇 및 그의 동작 방법
WO2021256735A1 (ko) 전자 장치 및 그 동작방법
WO2019245320A1 (ko) 이미지 센서와 복수의 지자기 센서를 융합하여 위치 보정하는 이동 로봇 장치 및 제어 방법
WO2022131488A1 (ko) 전자 장치 및 그 제어 방법
WO2020204355A1 (ko) 전자 장치 및 그 제어 방법
WO2020184855A1 (ko) 응대 방법을 제공하는 전자 장치 및 그의 동작 방법
WO2020166796A1 (ko) 전자 장치 및 그 제어 방법
WO2020149493A1 (ko) 전자 장치 및 이의 제어 방법
WO2020004727A1 (ko) 실시간 소리 분석 방법 및 장치
EP3577583A1 (en) Electronic apparatus, method for controlling the same, and non-transitory computer readable recording medium
WO2022177345A1 (ko) 인공지능 기반으로 화면 정보를 인지하여 화면 상의 오브젝트에 이벤트를 발생시키는 방법 및 시스템
WO2021080220A1 (en) Electronic device and method for controlling the electronic device
WO2021071249A1 (en) Electronic apparatus and control method thereof
WO2022035054A1 (ko) 로봇 및 이의 제어 방법
WO2021125550A1 (en) Electronic device and method for controlling the electronic device.
WO2022186598A1 (ko) 로봇 청소기 및 이의 제어 방법
WO2022114847A1 (ko) 전자 장치 및 그 제어 방법
WO2022086029A1 (ko) 전자 장치 및 그 제어 방법
WO2023003158A1 (ko) 로봇 및 그 제어 방법
WO2024043575A1 (ko) 신뢰도 값을 이용하여 이동 경로를 식별하는 로봇 장치 및 그 제어 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21792813

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021792813

Country of ref document: EP

Effective date: 20221102

NENP Non-entry into the national phase

Ref country code: DE