WO2018139865A1 - 이동 로봇 - Google Patents

이동 로봇 Download PDF

Info

Publication number
WO2018139865A1
WO2018139865A1 PCT/KR2018/001101 KR2018001101W WO2018139865A1 WO 2018139865 A1 WO2018139865 A1 WO 2018139865A1 KR 2018001101 W KR2018001101 W KR 2018001101W WO 2018139865 A1 WO2018139865 A1 WO 2018139865A1
Authority
WO
WIPO (PCT)
Prior art keywords
home appliance
mobile robot
map
image
unit
Prior art date
Application number
PCT/KR2018/001101
Other languages
English (en)
French (fr)
Inventor
김민수
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US16/480,775 priority Critical patent/US11317778B2/en
Publication of WO2018139865A1 publication Critical patent/WO2018139865A1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00—Manipulators not otherwise provided for
    • B25J11/008—Manipulators for service tasks
    • B25J11/0085—Cleaning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803—Home automation networks
    • H04L12/2807—Exchanging configuration information on appliance services in a home automation network
    • H04L12/2809—Exchanging configuration information on appliance services in a home automation network indicating that an appliance service is present in a home automation network
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00—Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/40—Parts or details of machines not provided for in groups A47L11/02 - A47L11/38, or not restricted to one of these groups, e.g. handles, arrangements of switches, skirts, buffers, levers
    • A47L11/4011—Regulation of the cleaning machine by electric means; Control systems and remote control systems therefor
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00—Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/40—Parts or details of machines not provided for in groups A47L11/02 - A47L11/38, or not restricted to one of these groups, e.g. handles, arrangements of switches, skirts, buffers, levers
    • A47L11/4061—Steering means; Means for avoiding obstacles; Details related to the place where the driver is accommodated
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L9/00—Details or accessories of suction cleaners, e.g. mechanical means for controlling the suction or for effecting pulsating action; Storing devices specially adapted to suction cleaners or parts thereof; Carrying-vehicles specially adapted for suction cleaners
    • A47L9/28—Installation of the electric equipment, e.g. adaptation or attachment to the suction cleaner; Controlling suction cleaners by electric means
    • A47L9/2805—Parameters or conditions being sensed
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L9/00—Details or accessories of suction cleaners, e.g. mechanical means for controlling the suction or for effecting pulsating action; Storing devices specially adapted to suction cleaners or parts thereof; Carrying-vehicles specially adapted for suction cleaners
    • A47L9/28—Installation of the electric equipment, e.g. adaptation or attachment to the suction cleaner; Controlling suction cleaners by electric means
    • A47L9/2836—Installation of the electric equipment, e.g. adaptation or attachment to the suction cleaner; Controlling suction cleaners by electric means characterised by the parts which are controlled
    • A47L9/2852—Elements for displacement of the vacuum cleaner or the accessories therefor, e.g. wheels, casters or nozzles
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L9/00—Details or accessories of suction cleaners, e.g. mechanical means for controlling the suction or for effecting pulsating action; Storing devices specially adapted to suction cleaners or parts thereof; Carrying-vehicles specially adapted for suction cleaners
    • A47L9/28—Installation of the electric equipment, e.g. adaptation or attachment to the suction cleaner; Controlling suction cleaners by electric means
    • A47L9/2894—Details related to signal transmission in suction cleaners
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00—Controls for manipulators
    • B25J13/006—Controls for manipulators by means of a wireless system for controlling one or several manipulators
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02—Sensing devices
    • B25J19/021—Optical sensing devices
    • B25J19/023—Optical sensing devices including video camera means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J5/00—Manipulators mounted on wheels or on carriages
    • B25J5/007—Manipulators mounted on wheels or on carriages mounted on wheels
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/0003—Home robots, i.e. small robots for domestic use
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664—Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00—Programme-controlled manipulators
    • B25J9/16—Programme controls
    • B25J9/1679—Programme controls characterised by the tasks executed
    • B25J9/1689—Teleoperation
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/027—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0011—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot associated with a remote control arrangement
    • G05D1/0022—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot associated with a remote control arrangement characterised by the communication link
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803—Home automation networks
    • H04L12/2816—Controlling appliance services of a home automation network by calling their functionalities
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L2201/00—Robotic cleaning machines, i.e. with automatic control of the travelling movement or the cleaning operation
    • A47L2201/02—Docking stations; Docking operations
    • A—HUMAN NECESSITIES
    • A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47L—DOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L2201/00—Robotic cleaning machines, i.e. with automatic control of the travelling movement or the cleaning operation
    • A47L2201/04—Automatic control of the travelling movement; Automatic obstacle detection
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/50—Machine tool, machine tool null till machine tool work handling
    • G05B2219/50391—Robot
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning

Definitions

  • the present invention relates to a mobile robot, and more particularly, to a mobile robot that communicates with a lighting device to determine a location of the lighting device.
  • the mobile robot is a device that automatically cleans by inhaling foreign substances such as dust from the floor while driving the area to be cleaned by itself.
  • the mobile robot is equipped with a rechargeable battery, which is free to move and can be moved by itself using the operating power of the battery.It sucks and cleans foreign substances on the floor during the movement. do.
  • such a mobile robot detects a distance to an obstacle such as a furniture, an office equipment, a wall, and the like installed in a driving zone, and controls the driving of the left and right wheels to perform an obstacle avoidance operation.
  • an obstacle such as a furniture, an office equipment, a wall, and the like installed in a driving zone
  • the mobile robot may generate a map of the driving area by acquiring a surrounding image and sensing an object present in the surrounding.
  • the information on the map of the driving zone may be previously stored information or information provided from the outside.
  • the mobile robot may move to a specific position in the travel zone based on the map of the travel zone, and determine the current location.
  • the mobile robot may determine the current position by extracting feature points from an image of the surrounding environment. In addition, the mobile robot may detect various objects from the captured image.
  • Devices that can communicate in the IoT environment may each communicate, and may be connected to each other by wire or wireless communication.
  • Various household appliances arranged in a travel area in which the mobile robot travels may also be connected by communication.
  • the mobile robot may acquire various information from the home appliance or remotely control the home appliance.
  • the home appliance may include various electronic devices such as an air conditioner, a refrigerator, a laundry processing device, a lighting device, a security device, a computer, a fan, a TV, and a humidifier.
  • the mobile robot in order for the mobile robot to utilize the home appliances arranged in the travel zone, it is necessary to determine the position and type of each home appliance.
  • the mobile robot needs to sense various home appliances while moving within the driving zone, and acquire various information such as the location and type of the detected home appliances.
  • an embodiment of the present invention is to provide a mobile robot that determines the location and type of the home appliance while moving the travel area.
  • an embodiment of the present invention is to provide a mobile robot that outputs a map of the driving zone in which the information related to the home appliance is displayed, and remotely controls the home appliance based on a user's input or various information.
  • the home appliance is arranged in the driving zone based on an image obtained through the image acquisition unit to control the driving unit to move in the driving zone; It may include a control unit for determining the type and location of the.
  • the home appliance device map displaying the type, location, operation state, controllability, etc. of the home appliance is output, the user's control command or is obtained Based on the information, it may include a control unit for remote control of the specific home appliance.
  • the mobile robot can determine the type and location of the home appliance while moving the driving area by itself without additional input, thereby improving convenience of use.
  • FIG. 1 is a perspective view showing a mobile robot and a charging table for charging the mobile robot according to an embodiment of the present invention.
  • FIG. 2 is a diagram illustrating an upper surface of a mobile robot according to an embodiment of the present invention.
  • FIG. 3 is a diagram illustrating a front portion of a mobile robot according to an embodiment of the present invention.
  • Figure 4 is a view showing the bottom portion of the mobile robot according to an embodiment of the present invention.
  • FIG. 5 is a block diagram illustrating the components of a mobile robot according to an embodiment of the present invention.
  • 6 to 8 are flowcharts for explaining the operation of the mobile robot according to the present invention.
  • FIG. 9 is a view for explaining a process of determining the position and type of the home appliance by the mobile robot according to the present invention.
  • FIG 10 and 11 are diagrams for explaining the home appliance map output by the mobile robot according to the present invention.
  • the mobile robot according to the present invention can determine the position and type of various household appliances arranged in the travel zone while moving in the travel zone.
  • the home appliance may be an electronic device disposed in the travel zone.
  • the home appliance may include various electronic devices such as an air conditioner, a refrigerator, a laundry processing device, a lighting device, a security device, a computer, a fan, a TV, and a humidifier.
  • the mobile robot according to the present invention may determine the location and type of the home appliance based on the image acquired through the image acquisition unit.
  • the type of home appliance is a concept including a model name, a production date, a kind, a function, a manufacturer, and the like of the home appliance.
  • the mobile robot may determine the type of home appliance by performing deep learning based on the acquired image.
  • the mobile robot may determine an operation state of the home appliance based on at least one of information acquired through the communication unit and an image obtained through the image acquisition unit.
  • the mobile robot may receive various information transmitted by the home appliance by communicating with the home appliance.
  • the mobile robot according to the present invention may output a home appliance device map, which is a map of a travel area in which at least one of a type, a location, and an operation state of the home appliance is displayed, through a preset mobile terminal or an output unit.
  • a home appliance device map which is a map of a travel area in which at least one of a type, a location, and an operation state of the home appliance is displayed, through a preset mobile terminal or an output unit.
  • the mobile robot according to the present invention can determine and display the remote control of the home appliance.
  • the mobile robot may remotely control the home appliance based on the control command when a control command for the remotely controllable home appliance is received.
  • the mobile robot according to the present invention may remotely control a specific home appliance based on information obtained through various units. For example, the mobile robot may determine the current situation based on the obtained information, and control the home appliance to perform an operation corresponding to the determined situation.
  • the mobile robot according to the present invention obtains information about the home appliance and controls the home appliance.
  • FIG. 1 is a perspective view showing a mobile robot and a charging table for charging a mobile robot according to an embodiment of the present invention
  • Figure 2 is a view showing the upper surface of the mobile robot according to an embodiment of the present invention
  • Figure 3 is a view showing a front portion of a mobile robot according to an embodiment of the present invention
  • Figure 4 is a view showing a bottom portion of the mobile robot according to an embodiment of the present invention.
  • the mobile robot 100 includes a main body 110 and an image acquisition unit 120 that acquires an image around the main body 110.
  • the portion facing the ceiling in the travel zone is defined as the upper surface portion (see FIG. 2)
  • the portion facing the floor in the travel zone is defined as the bottom portion (see FIG. 4).
  • the front part is defined as a part facing the driving direction among the parts forming the circumference of the main body 110 between the upper and lower parts.
  • the mobile robot 100 includes a driving unit 160 for moving the main body 110.
  • the driving unit 160 includes at least one driving wheel 136 for moving the main body 110.
  • the driving unit 160 includes a driving motor (not shown) connected to the driving wheel 136 to rotate the driving wheel.
  • the driving wheels 136 may be provided at the left and right sides of the main body 110, respectively, hereinafter referred to as left wheels 136 (L) and right wheels 136 (R).
  • the left wheel 136 (L) and the right wheel 136 (R) may be driven by one drive motor, but the left wheel drive motor and the right wheel 136 (R) which drive the left wheel 136 (L) as necessary.
  • Each right wheel drive motor for driving may be provided.
  • the driving direction of the main body 110 can be switched to the left or the right, with a difference in the rotational speed of the left wheel 136 (L) and the right wheel 136 (R).
  • An inlet 110h through which air is sucked may be formed in a bottom portion of the main body 110, and an inhalation device (not shown) that provides suction power so that air may be sucked through the inlet 110h in the main body 110. And a dust container (not shown) for collecting dust sucked with air through the suction port 110h.
  • the main body 110 may include a case 111 forming a space in which various components of the mobile robot 100 are accommodated.
  • An opening for inserting and removing the dust container may be formed in the case 111, and a dust container cover 112 that opens and closes the opening may be rotatably provided with respect to the case 111.
  • the battery 138 supplies not only a driving motor but also power necessary for the overall operation of the mobile robot 100.
  • the mobile robot 100 may perform driving to return to the charging station 200 for charging, and during such a return driving, the mobile robot 100 may make a position of the charging station 200 by itself. Can be detected.
  • Charging station 200 may include a signal transmitter (not shown) for transmitting a predetermined return signal.
  • the return signal may be an ultrasonic signal or an infrared signal, but is not necessarily limited thereto.
  • the mobile robot 100 may include a signal detector (not shown) that receives a return signal.
  • the charging unit 200 may transmit an infrared signal through the signal transmitter, and the signal detector may include an infrared sensor that detects the infrared signal.
  • the mobile robot 100 moves to the position of the charging stand 200 according to the infrared signal transmitted from the charging stand 200 and docks with the charging stand 200. The docking is performed between the charging terminal 133 of the mobile robot 100 and the charging terminal 210 of the charging table 200.
  • the image acquisition unit 120 photographs a driving zone, and may include a digital camera.
  • a digital camera comprises an image sensor (e.g. CMOS image sensor) comprising at least one optical lens and a plurality of photodiodes (e.g. pixels) formed by light passing through the optical lens. It may include a digital signal processor (DSP) that forms an image based on the signals output from the photodiodes.
  • DSP digital signal processor
  • the digital signal processor may generate not only a still image but also a moving image composed of frames composed of the still image.
  • the image acquisition unit 120 is provided on the upper surface of the main body 110 to obtain an image of the ceiling in the driving zone, but the position and the shooting range of the image acquisition unit 120 should be limited thereto. no.
  • the image acquisition unit 120 may be provided to acquire an image in front of the main body 110.
  • the mobile robot 100 may further include an obstacle detecting sensor 131 for detecting an obstacle in front of the moving robot 100.
  • the mobile robot 100 may further include a cliff detection sensor 132 for detecting the presence of a cliff on the floor in the driving zone, and a lower camera sensor 139 for acquiring an image of the floor.
  • the mobile robot 100 includes an input unit 137 capable of inputting On / Off or various commands.
  • the input unit 137 may receive various control commands necessary for the overall operation of the mobile robot 100.
  • the mobile robot 100 may include an output unit (not shown) to display reservation information, a battery state, an operation mode, an operation state, an error state, and the like.
  • FIG. 5 is a block diagram illustrating the components of a mobile robot according to an embodiment of the present invention.
  • the mobile robot 100 includes an image acquisition unit 120, an input unit 137, a control unit 140, a storage unit 150, a traveling unit 160, a cleaning unit 170, and an output unit ( 180, and a communication unit 190.
  • the mobile robot 100 may receive various commands transmitted from a remote controller (not shown) or a mobile terminal (not shown) through the communication unit 190.
  • the remote controller or the mobile terminal may perform the same function as the input unit 137 that receives a user command for the mobile robot.
  • the mobile terminal is provided with an application for controlling the mobile robot 100, through the execution of the application to display the map for the driving area to be cleaned by the mobile robot 100, and to clean a specific area on the map You can specify an area.
  • the mobile terminal may include a remote controller, a PDA, a laptop, a smartphone, a tablet, and the like, having an application for setting a map.
  • the remote control and the mobile terminal can output various types of information transmitted by the mobile robot.
  • the remote controller or the mobile terminal may perform the same function as the output unit 180 for outputting various kinds of information.
  • the mobile terminal may communicate with the mobile robot 100 to display a current location of the mobile robot along with a map, and information about a plurality of areas may be displayed.
  • the mobile terminal updates and displays its position as the mobile robot travels.
  • the controller 140 controls the overall operation of the mobile robot 100 by controlling the image acquisition unit 120, the input unit 137, and the driving unit 160 constituting the mobile robot 100.
  • the storage unit 150 records various types of information necessary for the control of the mobile robot 100 and may include a volatile or nonvolatile recording medium.
  • the recording medium stores data that can be read by a microprocessor, and includes a hard disk drive (HDD), a solid state disk (SSD), a silicon disk drive (SDD), a ROM, a RAM, a CD-ROM, a magnetic Tapes, floppy disks, optical data storage devices, and the like.
  • the storage unit 150 may store a map for the driving zone.
  • the map may be input by a mobile terminal capable of exchanging information with the mobile robot 100 through wired or wireless communication, or may be generated by the mobile robot 100 learning by itself.
  • the map may indicate the location of the rooms in the driving zone.
  • the current position of the mobile robot 100 may be displayed on the map, and the current position of the mobile robot 100 on the map may be updated during the driving process.
  • the mobile terminal stores the same map as the map stored in the storage 150.
  • the controller 140 may operate the cleaning unit 170 to control the movement of the mobile robot 100 to absorb dust or foreign matter around the mobile robot 100.
  • a brush (not shown) provided in the cleaning unit 170 may be driven to make it easy to inhale dust or foreign matter around the mobile robot 100.
  • the suction device (not shown) provided in the cleaning unit 170 may suck dust or foreign matter.
  • the controller 140 may control the moving robot 100 to perform cleaning while moving to the specific area by the driving unit 160.
  • the controller 140 may include a driving control module 141, a zone classification module 142, a learning module 143, and a recognition module 144.
  • the driving control module 141 controls the driving of the mobile robot 100 and controls the driving of the driving unit 160 according to the driving setting.
  • the driving control module 141 may determine the movement path of the mobile robot 100 based on the operation of the driving unit 160.
  • the driving control module 141 may grasp the current or past moving speed of the mobile robot 100, the distance traveled, and the like based on the rotational speed of the driving wheel 136, and each driving wheel 136 ( L) and 136 (R) may also determine the current or past direction change process. Based on the driving information of the mobile robot 100 thus identified, the position of the mobile robot 100 on the map may be updated.
  • the zone classification module 142 may divide the driving zone into a plurality of zones according to a predetermined criterion.
  • the driving zone may be defined as the sum of all the on-plane zones in which the mobile robot 100 has a driving experience and the zones on the plane in which the mobile robot is currently traveling.
  • the zone classification module 142 divides the driving zone into a plurality of small zones, and the small zones may be divided based on each room (room) in the driving zone.
  • the zone classification module 142 may divide the driving zone into a plurality of large zones separated from each other in terms of driving ability. For example, two indoor spaces completely separated from each other on the same line may be divided into two large areas. As another example, even in the same indoor space, the large zone may be divided based on each floor in the driving zone.
  • the learning module 143 may generate a map of the driving zone. In addition, the learning module 143 processes the image acquired through the image acquisition unit 120 at each position and recognizes the global position in association with the map.
  • the recognition module 144 estimates and recognizes the current position.
  • the recognition module 144 detects the position in connection with the learning module 143 using the image information of the image acquisition unit 120, and estimates the current position even when the position of the mobile robot 100 is suddenly changed. can do.
  • the mobile robot 100 may recognize the position during continuous driving through the zone classification module 142, and learn the map through the learning module 143 and the recognition module 144 without the zone classification module 142. You can estimate your current location.
  • the image acquisition unit 120 acquires images around the mobile robot 100.
  • an image acquired by the image acquisition unit 120 is defined as an 'acquisition image'.
  • the acquired image includes various features such as lightings on the ceiling, edges, corners, blobs, and ridges.
  • the feature may be represented by a feature point.
  • the learning module 143 detects a feature from each of the acquired images.
  • Various methods of detecting a feature from an image are well known in the field of computer vision technology.
  • Several feature detectors are known that are suitable for the detection of these features. Examples include Canny, Sobel, Harris & Stephens / Plessey, SUSAN, Shi & Tomasi, Level curve curvature, FAST, Laplacian of Gaussian, Difference of Gaussians, Determinant of Hessian, MSER, PCBR, and Gray-level blobs detectors.
  • the learning module 143 calculates a descriptor based on each feature point.
  • the learning module 143 may convert feature points into descriptors using a scale invariant feature transform (SIFT) technique for feature detection.
  • SIFT scale invariant feature transform
  • the descriptor may be expressed as an n-dimensional vector.
  • the SIFT can detect an invariant feature with respect to the scale, rotation, and brightness change of the photographing target, and thus the same area is not changed even when the mobile robot 100 is photographed with different postures.
  • -invariant)) feature can be detected.
  • HOG Histogram of Oriented Gradient
  • Haar feature Haar feature
  • Fems Fems
  • LBP Local Binary Pattern
  • MCT Modified Census Transform
  • the learning module 143 classifies at least one descriptor into a plurality of groups according to a predetermined sub-classification rule for each acquired image based on descriptor information obtained through the acquired image of each position, and assigns the same group to the same group according to the predetermined sub-representation rule.
  • Each included descriptor may be converted into a lower representative descriptor.
  • all descriptors gathered from the acquired images in a predetermined zone are classified into a plurality of groups according to a predetermined sub-classification rule, and the descriptors included in the same group according to the predetermined sub-representation rule are each lower representative descriptors. You can also convert to.
  • Each positional feature distribution can be represented by a histogram or an n-dimensional vector.
  • the learning module 143 may estimate an unknown current position based on a descriptor calculated from each feature point without passing through a predetermined sub classification rule and a predetermined sub representative rule.
  • the learning module 143 may estimate the current position based on data such as a previously stored descriptor or a lower representative descriptor.
  • the mobile robot 100 obtains an acquired image through the image acquisition unit 120 at an unknown current position. Through the image, various features such as lightings on the ceiling, edges, corners, blobs, and ridges are identified.
  • the recognition module 144 detects features from the acquired image. Description of the various methods of detecting features from an image in the field of computer vision technology and the various feature detectors suitable for the detection of these features are described above.
  • the recognition module 144 calculates a recognition descriptor through a recognition descriptor calculating step based on each recognition feature point.
  • the recognition feature point and the recognition descriptor are for explaining the process performed by the recognition module 144 and are distinguished from terms describing the process performed by the learning module 143.
  • the features of the external world of the mobile robot 100 are merely defined in different terms.
  • the recognition module 144 may convert the recognition feature point into a recognition descriptor by using a scale invariant feature transform (SIFT) technique for detecting the feature.
  • SIFT scale invariant feature transform
  • the recognition descriptor may be expressed as an n-dimensional vector.
  • SIFT selects a feature point that can be easily identified, such as a corner point, in an acquired image, and then distributes the gradient of brightness gradients of pixels belonging to a predetermined area around each feature point (the direction of the change of brightness and the degree of change of brightness). ) Is an image recognition technique that obtains an n-dimensional vector whose value is a numerical value for each dimension.
  • Recognition module 144 is based on the at least one recognition descriptor information obtained through the acquired image of the unknown current position, and the position information (for example, feature distribution of each position) to be compared according to a predetermined lower conversion rule; Convert to comparable information (sub-recognition feature distribution).
  • each position feature distribution may be compared with each recognition feature distribution to calculate each similarity. Similarity (probability) may be calculated for each location corresponding to each location, and a location where the greatest probability is calculated may be determined as the current location.
  • the controller 140 may distinguish a driving zone and generate a map composed of a plurality of regions, or recognize a current position of the main body 110 based on a pre-stored map.
  • the controller 140 transmits the generated map to the mobile terminal through the communication unit 190.
  • the controller 140 may store the map in the storage 150.
  • the controller 140 transmits the updated information to the mobile terminal so that the map stored in the mobile terminal and the mobile robot 100 is the same.
  • the area designated by the mobile robot 100 may be cleaned for the cleaning command from the mobile terminal, and the current position of the mobile robot may be stored in the mobile terminal. To be displayed.
  • the map is divided into a plurality of areas
  • the cleaning path includes a connection passage connecting the plurality of areas, and includes information on the obstacles in the area.
  • the cleaning area is divided into a small area and a large area by the zone division module 142.
  • the controller 140 determines whether the current position of the mobile robot matches the position on the map.
  • the cleaning command may be input from a remote controller, an input unit, or a mobile terminal.
  • the controller 140 recognizes the current position and recovers the current position of the mobile robot 100 based on the current position.
  • the driving unit moves to the designated area.
  • the recognition module 144 analyzes the acquired image input from the image acquisition unit 120 to estimate the current position based on the map. Can be.
  • the zone classification module 142 or the learning module 143 may also recognize the current position as described above.
  • the driving control module 141 calculates a movement route from the current position to the designated region and controls the driving unit 160 to move to the designated region.
  • the driving control module 141 sets the selected area as the designated area and calculates a movement route.
  • the driving control module 141 performs cleaning after moving the designated area.
  • the driving control module 141 determines whether the priority area is set among the plurality of areas or whether the cleaning order for the selected plurality of designated areas is set and then moves to the designated area. Go to perform cleaning.
  • the driving control module 141 moves to the priority area among the plurality of designated areas, cleans the priority area first, and then moves to the remaining designated area. In addition, when the cleaning order for the designated area is set, the driving control module 141 performs the cleaning while sequentially moving the designated area according to the designated cleaning order.
  • the driving control module 141 moves to the set designated memory to perform cleaning when a predetermined area is newly set regardless of the division of the plurality of areas on the map.
  • the controller 140 stores the cleaning record in the storage 150 when the cleaning of the set designated area is completed.
  • the control unit 140 transmits the operating state or cleaning state of the mobile robot 100 to the mobile terminal at predetermined intervals through the communication unit 190. Accordingly, the mobile terminal displays the position of the mobile robot together with the map on the screen of the running application based on the received data, and outputs information on the cleaning state.
  • the output unit 180 may include a display unit (not shown) for outputting an image and a sound output unit 180 for outputting a sound.
  • the sound output unit 180 may be a speaker.
  • the output unit 180 may output various types of information under the control of the controller 140.
  • the output unit 180 may output the home appliance device map, which is a map in which the type and the location of the home appliance disposed in the driving zone are displayed under the control of the control unit 140.
  • the mobile robot 100 may determine a current position by using feature points detected in an image acquired by a camera.
  • the mobile robot 100 may generate a map for a driving zone based on location information determined through Simultaneous Localization And Map-Building (SLAM).
  • SLAM Simultaneous Localization And Map-Building
  • 6 to 8 are flowcharts for explaining the operation of the mobile robot 100 according to the present invention.
  • the controller 140 may acquire an image around the main body through the image acquisition unit 120 (S100).
  • the controller 140 may acquire an image through the image acquisition unit 120 while moving the main body in the driving zone.
  • the controller 140 may acquire images of the front, rear, left, right, and top directions of the main body through the image acquisition unit 120.
  • the mobile robot 100 may include at least one image acquisition unit 120.
  • the controller 140 may determine whether the home appliance is detected from the obtained image (S200).
  • the controller 140 may detect various objects appearing in the obtained image and determine whether the detected objects are home appliances.
  • the controller 140 may determine the type and location of the home appliance detected in the image (S300).
  • the controller 140 may simultaneously detect the home appliance from the obtained image and determine the type and location of the detected home appliance.
  • the controller 140 may determine the type and location of the home appliance disposed in the driving zone based on the image acquired through the image acquisition unit 120.
  • the controller 140 may acquire various images of the driving zone.
  • various household appliances arranged in the driving zone may appear.
  • an image of the ceiling of the driving zone may show a lighting device disposed on the ceiling
  • an image of the wall of the driving zone may show a refrigerator, an air conditioner, a washing machine, a microwave oven, a TV, etc. May appear.
  • the controller 140 may determine the type of home appliance by performing deep learning based on the image.
  • the type of home appliance may be a concept including a model name, a function, a manufacturer, an appearance, and the like of the home appliance.
  • Deep learning is the analysis of data using machine learning processes. Deep learning analyzes an image appearing on an image based on data existing in a network and a storage unit 150 to which the controller 140 is connected.
  • deep learning may be image analysis using a deep neural network (DNN).
  • DNN deep neural network
  • a deep neural network is an artificial neural network (ANN) composed of a plurality of hidden layers between an input layer and an output layer.
  • ANN artificial neural network
  • Deep neural networks can model complex non-linear relationships.
  • elements constituting the image may be represented in a hierarchical structure. Through this hierarchical structure, the objects appearing in the image can be analyzed.
  • the controller 140 may perform deep learning based on the acquired image.
  • the controller 140 may determine what an object appears in the image by performing deep learning using the acquired image. For example, the controller 140 may determine a model name, a manufacturer, a function, and the like of the refrigerator displayed on the image by performing deep learning based on the image on which the refrigerator is displayed.
  • the controller 140 may determine the current position of the main body based on the acquired image, and determine the position of the home appliance within the driving zone based on the position of the main body and the position of the home appliance shown in the image. have.
  • the controller 140 may generate and output the home appliance map (S400).
  • the storage unit 150 stores a map of the driving zone, which is map information of the driving zone.
  • the controller 140 may generate the home appliance map, which is a map of the travel zone, in which at least one of the type and location of the home appliance is displayed, based on the map of the travel zone.
  • the home appliance map is a map image in which an icon representing the type of home appliance is displayed on the driving zone map. The icon corresponding to the home appliance may be displayed at a point corresponding to the position of the actual home appliance in the map of the driving zone.
  • the controller 140 may output the home appliance map through at least one of the preset mobile terminal or the output unit 180.
  • the home appliance map may be output through the mobile terminal connected to the mobile robot 100 or the output unit 180 provided in the mobile robot 100.
  • the preset mobile terminal may perform communication with the mobile robot 100.
  • the controller 140 may transmit the home appliance map data generated through the communication unit 190 to the mobile terminal.
  • the mobile terminal can display the home appliance map transmitted by the controller 140 on the display unit. Accordingly, the user can identify which household appliance is disposed at which position in the driving zone through the mobile terminal.
  • the controller 140 may determine an operation state of the home appliance (S500).
  • the controller 140 may determine an operation state of the home appliance based on at least one of information received through the communication unit 190 and an image obtained through the image acquisition unit 120.
  • the information received through the communication unit 190 may be data representing an operation state of the home appliance.
  • the household appliance may transmit data corresponding to the operation state to the mobile robot 100.
  • the operation state of the home appliance may include various types of information related to an operation performed by the home appliance.
  • the operating state of the refrigerator may include a set temperature of each compartment, whether a door is opened or the like.
  • the operating state of the washing machine may include a washing course being performed, a time remaining until the end of washing, and the like.
  • the operating state of the air conditioner may include the type and setting of the operation being performed, the set temperature, the air volume, and the like.
  • the controller 140 may determine whether the home appliance is a communicable device based on the information received through the communication unit 190.
  • the control unit 140 may detect a home appliance that can communicate through the communication unit 190.
  • the mobile robot 100 and the home appliance may be connected by communication.
  • the mobile robot 100 and the home appliance may perform communication through Bluetooth, Zigbee, Wi-Fi, other short-range wireless communication, network communication network technology, and the like.
  • the mobile robot 100 and the home appliance may transmit and receive various signals or information.
  • the home appliance may transmit data corresponding to at least one of its type, location, and operation state to the mobile robot 100.
  • the control unit 140 of the mobile robot 100 receives the data transmitted by the home appliance through the communication unit 190 and transmits a control signal for controlling the home appliance to the home appliance, thereby transmitting the home appliance. Can be controlled remotely
  • the controller 140 may include the home appliance based on at least one of an image acquired by the image acquisition unit 120 and information transmitted by the home appliance.
  • the operating state of the device can be determined.
  • the controller 140 may determine an operation state of the home appliance by analyzing the image of the home appliance displayed in the acquired image through a deep learning process.
  • the controller 140 may determine the operation state of the home appliance based on data about the operation state transmitted by the home appliance.
  • the controller 140 may determine the time remaining until the operation of the washing machine and the end of the washing, etc., based on the operation state information transmitted by the washing machine. For example, the controller 140 may determine whether the TV is turned on and what the current channel is based on the image of the TV appearing in the acquired image.
  • the controller 140 may determine the operation state of the home appliance based on the image of the home appliance displayed in the image when the home appliance having the determined type and location is not a communicable device.
  • the controller 140 may output an operation state of the home appliance (S600).
  • the controller 140 may output the determined operation state of the home appliance through the preset mobile terminal or the output unit 180.
  • the controller 140 may display, on the mobile terminal or the output unit 180, a phrase or an indicator indicating an operation state of the home appliance.
  • the controller 140 may generate a home appliance device map that is a map of a driving zone in which at least one of a type, a location, and an operation state of the home appliance is displayed.
  • the home appliance map may display not only the type and location of the home appliance, but also an operation state.
  • the controller 140 may output the generated home appliance map through at least one of the preset mobile terminal or the output unit 180.
  • the controller 140 may determine whether the home appliance is remotely controlled.
  • the controller 140 may transmit a control signal to the home appliance through the communication unit 190 when the home appliance is a communicable device.
  • the control unit 140 transmits the control signal and receives a feedback signal for the control signal from the home appliance, or determines that the home appliance operates according to the control signal based on the acquired image, the home appliance is remotely controlled. It can be determined as controllable.
  • the controller 140 may determine the control method of the home appliance according to the previously determined type of the home appliance when the home appliance is a device in which communication is not possible.
  • the manner in which the home appliance is controlled may be determined according to the type of the home appliance.
  • the type of home appliance may include information about a specific model name and specifications. Accordingly, the controller 140 may determine the remote control method of the home appliance by determining the type of the home appliance. In this case, the controller 140 may determine whether the home appliance is remotely controlled by transmitting a control signal according to the determined remote control method.
  • the controller 140 may determine that the TV can be controlled by an infrared signal by determining the type of the TV. . In this case, the controller 140 may transmit an infrared signal to the TV and check whether the TV operates in response to the transmitted infrared signal through the acquired image. When the TV operates in response to the transmitted infrared signal, the controller 140 may finally determine that the TV can be remotely controlled by the infrared signal.
  • the controller 140 may output the remote control of the home appliance through the preset mobile terminal or the output unit 180.
  • the controller 140 may generate a home appliance device map that is a map of a driving zone in which at least one of the type, the location, and the remote control whether the home appliance device is determined is determined. have.
  • the controller 140 may output the generated home appliance map through the mobile terminal or the output unit 180.
  • the controller 140 remotely controls the selected home appliance based on the control command. can do.
  • the control command received through the mobile terminal or the input unit 137 may be a command for selecting one of the plurality of home appliances and designating an operation to be performed by the selected home appliance. For example, when the home appliance map is displayed on the mobile terminal and a touch input for selecting an icon corresponding to the washing machine is received from the icons corresponding to each of the plurality of home appliances displayed on the home appliance map, A command for an operation to be performed may be additionally input.
  • the mobile terminal may generate a control command and transmit it to the mobile robot 100.
  • the controller 140 may generate a control signal for allowing the selected washing machine to perform the selected operation and transmit the generated control signal to the selected washing machine in response to the control command received through the communication unit 190.
  • the selected washing machine may perform the selected operation in response to the control signal transmitted from the mobile robot 100.
  • the controller 140 may move the main body to a controllable area corresponding to the remote control method of the selected home appliance, and remotely control the selected home appliance.
  • the controllable area is an area where the main body should be located in order for the mobile robot 100 to control a specific home appliance.
  • the mobile robot 100 may remotely control the home appliance.
  • the controllable area may exist according to the communication method of the mobile robot 100 and the home appliance or the remote control method of the home appliance.
  • an area in which the infrared signal may reach the home appliance may be a controllable region.
  • an area where the Wi-Fi signal is received may be a controllable area.
  • an area within a distance from which the short range wireless communication is possible may be a controllable area.
  • the controller 140 may determine the controllable area for each home appliance, based on the spec information included in the type of the home appliance, the location information of the home appliance, and the map information of the driving zone. For example, when a control command for turning on the power of the TV controlled by the infrared signal is received, the controller 140 may determine a controllable area capable of transmitting the infrared signal to the TV. The controller 140 may move the main body to the controllable area of the TV and transmit an infrared signal to turn on the TV. In this case, the TV may be turned on.
  • the user may control various home appliances existing in the driving zone by using a mobile terminal or a remote controller connected to the mobile robot 100.
  • FIG. 7 is a flowchart illustrating a specific process of the mobile robot 100 to determine the location and type of a home appliance.
  • the controller 140 may determine the type and location of the detected home appliance (S300).
  • the controller 140 may determine the location of the home appliance based on the obtained image (S310).
  • the controller 140 may determine a current position of the main body based on the obtained image.
  • the controller 140 may determine the location of the home appliance in the driving zone based on the determined position of the main body and the direction and the location of the home appliance in the image.
  • the controller 140 may generate and output the home appliance map by displaying the determined location of the home appliance on the map of the driving zone (S400).
  • the controller 140 may manually receive the location of the home appliance through a preset mobile terminal or the input unit 137 (S320).
  • the controller 140 may inform the user of the location of the home appliance and a message indicating that the location of the home appliance cannot be determined through the mobile terminal or the output unit 180. You can output an input menu that allows you to type directly. In this case, the controller 140 may output an image of the home appliance in which the location is not determined.
  • the controller 140 may display the location of the input home appliance on the map of the driving zone (S400).
  • the controller 140 may determine the type of home appliance disposed in the driving zone, based on the image acquired through the image acquisition unit 120 (S330).
  • the controller 140 may determine the type of home appliance by performing deep learning based on the image. Accordingly, the controller 140 may determine the model name, the manufacturer, the control method, the drive method, the type, and other various specifications of the home appliance. For example, the controller 140 may determine that the detected home appliance is a washing machine, and may also determine a model name, a manufacturer, a function, and the like of the washing machine.
  • the controller 140 may generate and output the home appliance map by displaying the determined type of the home appliance on the map of the driving zone (S400).
  • the controller 140 may manually receive the type of the home appliance through the preset mobile terminal or the input unit 137 (S340).
  • the controller 140 may display a message indicating that the type of the household appliance cannot be determined through the mobile terminal or the output unit 180 and the user of the type of the household appliance. You can output an input menu that allows you to type directly. In this case, the controller 140 may output an image of the home appliance, in which the type is not determined.
  • the controller 140 may display the type of the input home appliance on the map of the driving zone (S400).
  • the process of determining the type and location of the detected home appliance by the controller 140 may be performed at the same time.
  • FIG. 8 is a flowchart illustrating a specific process of the mobile robot 100 to determine the operation state of the home appliance.
  • the controller 140 may determine an operation state of the home appliance (S500).
  • the controller 140 may determine whether the home appliance is a device that can communicate with each other, based on the information received through the communication unit 190 (S510).
  • the control unit 140 may detect a home appliance that can communicate through the communication unit 190.
  • the controller 140 may determine whether the home appliance device having the type and location is determined to be a communicable device by matching the home appliance device that is detected as being communicable with the home appliance device having the determined type and location.
  • the controller 140 is based on at least one of an image acquired by the image acquisition unit 120 and information transmitted by the home appliance.
  • the operation state of the device may be determined (S520).
  • the controller 140 may determine an operation state of the home appliance by analyzing the image of the home appliance displayed in the acquired image through a deep learning process. The controller 140 may determine the operation state of the home appliance based on data about the operation state transmitted by the home appliance.
  • the controller 140 may determine an operation state of the home appliance, based on the image of the home appliance displayed in the image (S530).
  • the controller 140 may determine the operating state of the household appliance by analyzing an image of the household appliance appearing in the acquired image through a deep learning process.
  • the controller 140 may output the operation state of the home appliance (S600).
  • the controller 140 may output the determined operation state of the home appliance through the preset mobile terminal or the output unit 180.
  • the controller 140 may display, on the mobile terminal or the output unit 180, a phrase or an indicator indicating an operation state of the home appliance.
  • the controller 140 may generate a home appliance device map that is a map of a driving zone in which at least one of a type, a location, and an operation state of the home appliance is displayed.
  • the home appliance map may display not only the type and location of the home appliance, but also an operation state.
  • the controller 140 may output the generated home appliance map through at least one of the preset mobile terminal or the output unit 180.
  • the controller 140 may output an image in which the home appliance appears to the mobile terminal or the output unit 180 (S700).
  • the user can directly determine the operation state of the home appliance by looking at the image.
  • FIG. 9 is a view for explaining a process of determining the position and type of the home appliance by the mobile robot 100 according to the present invention.
  • the mobile robot 100 may acquire the surrounding image while moving the driving area.
  • the mobile robot 100 can photograph most areas existing in the travel area while moving all areas of the travel area.
  • the surrounding image may be an image of at least one of front, rear, left, right, and top directions of the main body.
  • the controller 140 may acquire an image 601 in which the home appliance is displayed through the image acquisition unit 120.
  • the controller 140 may detect an object appearing in the acquired image.
  • the controller 140 may determine what an object appears in the image 601 by performing a deep learning process based on the acquired image 601.
  • the controller 140 may determine what kind of home appliance is an object displayed in the image by performing a deep learning process based on the acquired image 601.
  • Deep learning may be image analysis using a deep neural network (DNN).
  • DNN deep neural network
  • a deep neural network is an artificial neural network (ANN) composed of a plurality of hidden layers between an input layer and an output layer. Deep neural networks can model complex non-linear relationships.
  • ANN artificial neural network
  • In the deep neural network structure for identifying the objects appearing in the image elements constituting the image may be represented in a hierarchical structure. Through this hierarchical structure, the objects appearing in the image can be analyzed.
  • the controller 140 may perform deep learning based on the obtained image 601.
  • the controller 140 may determine what an object appears in the image 601 by performing deep learning using the acquired image 601. For example, the controller 140 performs deep learning based on the image on which the air conditioner 500 appears, such that the object shown in the image is the air conditioner 500, and the model name of the air conditioner 500. , Manufacturer, date of manufacture, etc. can be determined.
  • the controller 140 may determine a current position of the main body based on the acquired image, and based on the position of the main body and the position of the home appliance shown in the image, the home appliance in the driving zone. The location of the device can be determined.
  • the controller 140 may display an icon representing the home appliance at a point of the driving zone map corresponding to the determined location of the home appliance.
  • the home appliance map displaying the location of the home appliance may be output through the mobile terminal or the output unit 180.
  • FIG 10 and 11 are diagrams for explaining the home appliance map output by the mobile robot 100 according to the present invention.
  • the controller 140 may output a home appliance map through the mobile terminal 300.
  • the home appliance device map may be displayed on the display unit of the mobile terminal 300.
  • the control unit 140 may transmit data corresponding to the home appliance map to the mobile terminal through the communication unit 190, and the mobile terminal may display the home appliance map corresponding to the data transmitted by the control unit 140. have.
  • the home appliance map may be in the form of an image moving in response to the operation state of the home appliance and the movement state of the mobile robot 100. For example, when the operation state of a specific home appliance displayed on the map of the home appliance changes, an icon corresponding to the changed home appliance may change, or a phrase displayed together with the icon may change.
  • the controller 140 determines the positions of the lighting devices 501, 502, 504, 505, 506, and 507 from the image acquired while the mobile robot 100 moves the travel area, and the lighting devices 501, 502, and 504.
  • the operating states of the lighting devices 501, 502, 504, 505, 506, and 507 may be determined based on the operation state information received from the, 505, 506, and 507.
  • the controller 140 controls the lighting device 501, 502, 504, 505, 506, 507 based on the obtained image. It may also determine the operating state.
  • the controller 140 places icons corresponding to the respective lighting devices 501, 502, 504, 505, 506, and 507 on the driving zone map at the positions of the lighting devices 501, 502, 504, 505, 506, and 507. Mark at the corresponding point.
  • the controller 140 displays a phrase indicating an operating state of each lighting device 501, 502, 504, 505, 506, 507 together with an icon of each lighting device 501, 502, 504, 505, 506, 507. can do.
  • the controller 140 controls the air conditioner 511, the TV 512, the refrigerator 510, the washing machine 503, the ventilator 509, and the computer from the image acquired while the mobile robot 100 moves the travel area.
  • the position of the 508 is determined, and each household appliance is based on the information received from the air conditioner 511, the TV 512, the refrigerator 510, the washing machine 503, the ventilator 509, and the computer 508.
  • the operation state of the can be determined.
  • the controller 140 may display an icon corresponding to each home appliance and a phrase indicating an operation state at one point corresponding to the location of each home appliance on the driving area map. Unlike the drawing, the operation state of each home appliance may be indicated by an indicator other than a phrase.
  • the mobile terminal 300 may determine that the home appliance corresponding to the selected icon is selected.
  • the mobile terminal 300 may display a control menu 301 for receiving a control command for the home appliance corresponding to the selected icon on the screen. .
  • the control menu 301 may include a button corresponding to an operation that the selected home appliance may perform. For example, when an icon corresponding to a TV is selected, the mobile terminal may display a control menu 301 for controlling the TV on the screen.
  • the mobile terminal 300 may display buttons corresponding to channel change, volume adjustment, and power, which are operations that the TV may perform, on the control menu 301 for controlling the TV.
  • the mobile terminal 300 may determine that a control command for the selected home appliance is received.
  • the mobile terminal 300 may transmit a signal corresponding to the control command to the mobile robot 100.
  • the mobile terminal 300 may transmit a control command for changing the channel of the selected TV according to the user's input to the mobile robot 100. have.
  • the controller 140 may remotely control the home appliance based on a control command transmitted from the mobile terminal 300.
  • the controller 140 may transmit a control signal to the selected home appliance so that the home appliance selected by the control command performs an operation corresponding to the control command.
  • the home appliance receiving the control signal transmitted by the controller 140 may perform an operation corresponding to the control command. For example, when a control command corresponding to a channel change of a TV is received through the mobile terminal 300, the controller 140 transmits a control signal for changing a channel of the selected TV to the TV, thereby outputting from the TV.
  • the channel can be controlled to change.
  • the mobile robot 100 may further include a sensing unit (not shown) for sensing an object.
  • the sensing unit is a device capable of sensing an object having a predetermined volume.
  • the sensing unit may include at least one of an infrared sensor, an ultrasonic sensor, a radar, and a lidar.
  • the mobile robot 100 may include at least one sensing unit.
  • the controller 140 may detect an object that exists around the main body through the sensing unit. When the object is detected, the sensing unit may transmit object information on the distance and direction in which the object is detected, to the controller 140. The controller 140 may determine an object position detected around the main body based on the object information transmitted by the sensing unit.
  • the controller 140 may be obtained through the information obtained from the plurality of home appliances disposed in the driving zone, the image information obtained through the image acquisition unit 120, the object information obtained through the sensing unit, and the communication unit 190. Based on at least one of the information, at least one of the plurality of home appliances can be controlled.
  • control unit 140 when the cleaning is performed in the driving zone, based on the information obtained from the home appliance to detect the air state of the plurality of home appliances, determines the air state, In response to the determined air condition, the home appliance apparatus affecting the air condition among the plurality of home appliances may be controlled.
  • the air state includes at least one of temperature, humidity, air pressure, and dust amount.
  • the home appliance for detecting the air condition may be a device for measuring at least one of temperature, humidity, barometric pressure, and the first amount.
  • the home appliance that detects the air condition may be an air conditioner or various measuring devices.
  • the controller 140 may control the air condition by controlling the home appliance that affects the air condition among the plurality of home appliances existing in the travel zone.
  • the household appliance influencing the air condition may include an air conditioner, a fan, a heating device, a cooling device, an air purifier, a fan, and the like.
  • the controller 140 when the cleaning is performed, based on the information obtained from the home appliance that detects the air condition, if the amount of dust in the driving zone is determined to be more than the set amount, the amount of dust To reduce, it is possible to operate at least one of the air conditioner, the air purifier, and the ventilator present in the travel zone.
  • the set amount may be determined by experiment as a reference value for the amount of dust.
  • the set amount may be set by the user and may be a value stored in the storage 150.
  • the controller 140 may determine that at least one of the temperature, humidity, and air pressure of the driving zone is out of the setting range based on the obtained information when the cleaning is performed. At least one of the air conditioner, the air cleaner, the air conditioner, the heating device, the fan, and the fan existing in the travel zone may be operated so that a value out of the setting range of the air pressure is adjusted within the setting range.
  • the setting range may be a reference range for each of temperature, humidity, and barometric pressure.
  • the setting range may be determined by an experiment or set by a user.
  • the setting range set by the user may be stored in the storage 150.
  • control unit 140 when it is determined that there is a moving object based on at least one of the object information and the image information in the security mode, the control unit 140 operates the lighting device and operates the contact device. Emergency contact can be performed and the acquired image can be saved.
  • the security mode may be one of the operation modes of the mobile robot 100.
  • the mobile robot 100 may determine the presence of an intruder in order to prevent a third party from invading the driving zone, and perform a corresponding operation when an intruder is detected.
  • the controller 140 may determine whether an intruder exists in the driving zone based on the object information provided by the sensing unit and the image provided by the image acquisition unit 120 in the crime prevention mode. In the crime prevention mode, the controller 140 may move the main body in the driving zone so that the mobile robot 100 can detect all areas of the driving zone. The controller 140 may determine that the detected object is an intruder when the moving object is detected based on at least one of the object information and the image information during the movement of the main body.
  • the controller 140 may control the lighting device in the driving area included in the home appliance to be turned on. Accordingly, since the driving area becomes bright, it may be easy for the user to recognize the intruder or to acquire an image of the intruder through the image acquisition unit 120.
  • the controller 140 may perform emergency contact through a contact device included in the home appliance.
  • the contact device is a device capable of sending a message or a call to a preset terminal.
  • the emergency contact may be a device for sending a message or a call to a preset terminal.
  • the telephone apparatus existing in the driving zone can perform emergency contact by sending a call to a terminal of a predetermined police station when an intruder is detected.
  • the controller 140 may store the image acquired through the image acquisition unit 120 in the storage unit 150.
  • the controller 140 may transmit an image of detecting an intruder to a preset terminal.
  • the video of the intruder can be used as evidence later.
  • the controller 140 when it is determined that illuminance is required to determine the position of the main body based on the image information, the controller 140 turns on at least one of the plurality of lighting devices corresponding to the position of the main body. Can be.
  • the controller 140 corresponds to the position of the main body 110 among the plurality of lighting devices arranged in the driving zone based on the home appliance map when the illuminance sensed by the image acquisition unit 120 is equal to or less than the set illuminance. You can turn it on.
  • the setting illuminance may be the minimum illuminance required for the controller 140 to determine the position of the main body 110 through the image.
  • the set illuminance may be illuminance required for the controller 140 to detect and determine the surrounding obstacle or the surrounding environment through the image acquired by the image acquisition unit 120.
  • the set roughness may be a value determined by an experiment or a value stored in the storage unit.
  • the control unit 140 illuminates the position corresponding to the position of the main body when the illuminance exceeds the set illuminance. By turning off the device, energy can be saved.
  • the driving zone 600 may include a plurality of rooms, and at least one lighting device 501, 502, 504, 505, 506, 507 may be disposed in the plurality of rooms, respectively.
  • the plurality of rooms and the plurality of lighting devices 501, 502, 504, 505, 506, and 507 may appear in the home appliance map.
  • the controller 140 may turn on the lighting device arranged in the room where the main body 110 enters based on the home appliance device map.
  • the controller 140 may secure the illuminance required for sensing the surroundings by turning on the lighting apparatus disposed in the room in which the main body 110 enters.
  • the control unit 140 may turn off the lighting device arranged in the room where the main body 110 exits based on the home appliance device map.
  • the control part 140 can save energy by turning off the lighting device of the room where the main body 110 leaves.
  • the second lighting device 502 when the main body 110 enters a room where the second lighting device 502 is installed, the second lighting device may be turned on, and the second lighting device 502 may be controlled to be turned off when leaving the room. have.
  • the controller 140 turns on the lighting devices 501, 502, 504, 505, 506, and 507 of the room where the mobile robot 100 enters, and turns off the lighting of the room to exit when exiting from the room where the mobile robot 100 enters.
  • the efficiency can be maximized.
  • the controller 140 determines the position of the main body 110 based on the image acquired through the image acquisition unit 120, and the illuminance of the image is low so that the main body 110 is low. If it is determined that the position of the) can not be determined, all of the plurality of lighting devices (501, 502, 504, 505, 506, 507) can be turned on.
  • the control unit 140 includes a mobile robot ( If it is determined that additional illumination is required to determine the current position of the 100, all the lighting devices 501, 502, 504, 505, 506, and 507 in the driving zone 600 may be turned on.
  • the minimum illuminance necessary to determine the position of the main body 110 may be a value determined by experiment and pre-stored in the storage unit. If the location of the lighting device is unknown and the current illuminance is less than the minimum illuminance, the controller 140 turns on all the lighting devices 501, 502, 504, 505, 506, and 507 in the travel area 600. After securing the illuminance, the current position of the mobile robot 100 may be determined.

Abstract

본 발명은, 주행 구역 내에 존재하는 가전 장치의 종류 및 위치를 판단하고, 제어 명령이나 상황에 따라 가전 장치를 제어하는 이동 로봇에 대한 것으로, 발명에 따른 이동 로봇은, 영상획득부를 통하여 획득되는 영상에 기초하여, 주행 구역 내 배치된 가전 장치의 종류 및 위치를 판단하고, 가전 장치의 종류 및 위치 중 적어도 하나가 표시된 상기 주행 구역의 맵인 가전 장치 맵을 생성하고 출력하는 제어부를 포함하여, 사용자의 제어 명령에 따라 가전 장치를 원격 제어함은 물론, 제어 명령 없이도 획득되는 정보에 따라 상황을 판단하고, 특정 상황에 적합한 가전 장치를 제어할 수 있다.

Description

이동 로봇
본 발명은 이동 로봇에 관한 것으로서, 구체적으로 조명 장치와 통신을 수행하여, 조명 장치의 위치를 판단하는 이동 로봇에 관한 것이다.
이동 로봇은 청소하고자 하는 영역을 스스로 주행하면서 바닥면으로부터 먼지 등의 이물질을 흡입하여 자동으로 청소하는 기기이다.
이동 로봇은 충전 가능한 배터리가 구비되어, 이동이 자유롭고 배터리의 동작전원을 이용한 스스로 이동이 가능하며, 이동 중 바닥면의 이물질을 흡입하여 청소를 실시하며, 필요 시 충전대로 복귀하여 배터리를 충전하도록 구성된다.
통상 이러한 이동 로봇은 주행 구역 내에 설치된 가구나 사무용품, 벽 등의 장애물까지의 거리를 감지하고, 좌륜과 우륜의 구동을 제어하여 장애물 회피 동작을 수행한다.
이동 로봇은, 주변 영상을 획득하고 주변에 존재하는 오브젝트를 감지하여 주행 구역에 대한 맵(Map)을 생성할 수 있다. 주행 구역의 맵에 대한 정보는, 기 저장된 정보이거나 외부에서 제공되는 정보일 수도 있다. 이동 로봇은, 주행 구역에 대한 맵에 기초하여, 주행 구역 내 특정 위치로 이동할 수 있고, 현재 위치를 판단할 수도 있다.
이동 로봇은, 주변 환경을 촬영한 영상으로부터 특징점을 추출하는 방식으로, 현재 위치를 판단할 수 있다. 또한, 이동 로봇은, 촬영한 영상으로부터 각종 오브젝트를 감지할 수도 있다.
사물 인터넷 환경에서 통신 가능한 디바이스들은 각각 통신을 수행할 수 있고, 상호 간의 유선 또는 무선 통신으로 연결될 수 있다. 이동 로봇이 주행하는 주행 구역 내에 배치된 다양한 가전 장치도 통신으로 연결될 수 있다. 이 경우, 이동 로봇은 가전 장치로부터 다양한 정보를 획득하거나, 가전 장치를 원격 제어할 수 있다. 예를 들어, 가전 장치는, 공기 조화기, 냉장고, 세탁믈 처리 장치, 조명 장치, 보안 장치, 컴퓨터, 선풍기, TV, 가습기 등 각종 전자 장치를 포함할 수 있다.
그러나, 이동 로봇이 주행 구역 내에 배치된 가전 장치를 활용하기 위해서는, 각 가전 장치의 위치 및 종류를 판단할 필요가 있다. 특히, 이동 로봇이 스스로 주행 구역 내에서 이동하면서 다양한 가전 장치를 감지하고, 감지된 가전 장치의 위치 및 종류와 같은 다양한 정보를 획득할 필요가 있다.
또한, 가전 장치를 감지하는 이동 로봇이 종류 및 위치가 판단된 가전 장치를 주행 구역의 맵에 표시하고, 이를 활용하여 다양한 상황에서 가전 장치를 원격 제어할 필요성이 있다.
본 발명의 실시예는 상기한 문제점을 해결하기 위하여, 주행 구역을 이동하면서 가전 장치의 위치 및 종류를 판단하는 이동 로봇을 제공하는데 목적이 있다.
또한, 본 발명의 실시예는, 가전 장치에 관련된 정보가 표시된 주행 구역의 맵을 출력하고, 사용자의 입력 또는 다양한 정보에 기초하여 가전 장치를 원격 제어하는 이동 로봇을 제공하는데 목적이 있다.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 이동 로봇은, 본체가 주행 구역 내에서 이동하도록 주행부를 제어하고, 영상획득부를 통하여 획득되는 영상에 기초하여, 상기 주행 구역 내 배치된 가전 장치의 종류 및 위치를 판단하는 제어부를 포함할 수 있다.
또한, 상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 이동 로봇은, 가전 장치의 종류, 위치, 동작 상태, 및 제어 가부 등이 표시된 가전 장치 맵을 출력하고, 사용자의 제어 명령 또는 획득되는 정보에 기초하여, 특정 가전 장치를 원격 제어하는 제어부를 포함할 수 있다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.
첫째, 이동 로봇이 별도의 입력 없이도 자체적으로 주행 구역을 이동하면서 가전 장치의 종류 및 위치를 판단할 수 있어, 사용 편의성이 향상되는 효과가 있다.
둘째, 가전 장치에 관련된 정보가 표시된 주행 구역의 맵을 출력함으로써, 사용자가 가전 장치의 배치 및 상태를 직관적으로 인식할 수 있도록 하는 효과가 있다.
셋째, 사용자의 제어 명령에 따라 가전 장치를 원격 제어함은 물론, 제어 명령 없이도 획득되는 정보에 따라 상황을 판단하고, 특정 상황에 적합한 가전 장치를 제어할 수 있는 효과가 있다.
본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 이동 로봇 및 이동 로봇을 충전시키는 충전대를 도시한 사시도이다.
도 2는 본 발명의 일 실시예에 따른 이동 로봇의 상면부를 도시한 도이이다.
도 3은 본 발명의 일 실시예에 따른 이동 로봇의 정면부를 도시한 도이다.
도 4는 본 발명의 일 실시예에 따른 이동 로봇의 저면부를 도시한 도이다.
도 5는 본 발명의 일 실시예에 따른 이동 로봇의 구성 요소를 설명하기 위한 블록도이다.
도 6 내지 도 8은 본 발명에 따른 이동 로봇의 동작을 설명하기 위한 순서도이다.
도 9는 본 발명에 따른 이동 로봇이 가전 장치의 위치 및 종류를 판단하는 과정을 설명하기 위한 도면이다.
도 10 및 도 11은 본 발명에 따른 이동 로봇이 출력하는 가전 장치 맵을 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다. 또한, 본 발명에 포함되는 제어부 및 그 외 각 부는, 하나 또는 그 이상의 프로세서로 구현될 수 있고, 하드웨어 장치로 구현될 수 있음을 명시한다.
본 발명에 따른 이동 로봇은, 주행 구역 내에서 이동하면서, 주행 구역 내에 배치된 다양한 가전 장치의 위치 및 종류를 판단할 수 있다. 가전 장치는, 주행 구역에 배치된 전자 장치일 수 있다. 예를 들어, 가전 장치는, 공기 조화기, 냉장고, 세탁믈 처리 장치, 조명 장치, 보안 장치, 컴퓨터, 선풍기, TV, 가습기 등 각종 전자 장치를 포함할 수 있다.
본 발명에 따른 이동 로봇은, 영상획득부를 통하여 획득된 영상에 기초하여, 가전 장치의 위치 및 종류를 판단할 수 있다. 가전 장치의 종류는, 가전 장치의 모델명, 제조일, 종류, 기능, 제조사 등을 포함하는 개념이다. 이동 로봇은, 획득된 영상에 기초하여 딥러닝을 수행함으로써, 가전 장치의 종류를 판단할 수 있다.
본 발명에 따른 이동 로봇은, 통신부를 통하여 획득되는 정보 및 영상획득부를 통하여 획득되는 영상 중 적어도 하나에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다. 가전 장치가 통신 가능한 유닛을 포함하는 경우, 이동 로봇은 가전 장치와 통신을 수행함으로써, 가전 장치가 전송하는 각종 정보를 수신할 수 있다.
본 발명에 따른 이동 로봇은, 가전 장치의 종류, 위치 및 동작 상태 중 적어도 하나가 표시된 주행 구역의 맵인 가전 장치 맵을, 기 설정된 이동 단말기 또는 출력부를 통하여 출력할 수 있다.
본 발명에 따른 이동 로봇은, 가전 장치의 원격 제어 가부를 판단하여 표시할 수 있다. 이동 로봇은, 원격 제어 가능한 가전 장치에 대한 제어 명령이 수신되는 경우, 제어 명령에 기초하여 가전 장치를 원격 제어할 수 있다.
본 발명에 따른 이동 로봇은, 다양한 유닛을 통하여 획득되는 정보에 기초하여, 특정 가전 장치를 원격 제어할 수 있다. 예를 들어, 이동 로봇은, 획득되는 정보에 기초하여, 현재 상황을 판단하고, 가전 장치가 판단된 상황에 대응하는 동작을 수행하도록 제어할 수 있다.
이하에서는 도면을 참조하여 본 발명에 따른 이동 로봇에 대해서 구체적으로 설명한다. 도 1 내지 도 5를 참조하여 본 발명에 따른 이동 로봇의 외관 및 구성을 설명한다. 도 6 내지 도 11을 참조하여 본 발명에 따른 이동 로봇이 가전 장치에 대한 정보를 획득하고, 가전 장치를 제어하는 것을 설명한다.
도 1은 본 발명의 일 실시예에 따른 이동 로봇 및 이동 로봇을 충전시키는 충전대를 도시한 사시도이고, 도 2는 본 발명의 일 실시예에 따른 이동 로봇의 상면부를 도시한 도이다. 또한, 도 3은 본 발명의 일 실시예에 따른 이동 로봇의 정면부를 도시한 도이고, 도 4는 본 발명의 일 실시예에 따른 이동 로봇의 저면부를 도시한 도이다.
도 1 내지 도 4에 도시된 바와 같이, 이동 로봇(100)은 본체(110)와, 본체(110) 주변의 영상을 획득하는 영상획득부(120)를 포함한다. 이하, 본체(110)의 각부분을 정의함에 있어서, 주행 구역 내의 천장을 향하는 부분을 상면부(도 2 참조)로 정의하고, 주행 구역 내의 바닥을 향하는 부분을 저면부(도 4 참조)로 정의하며, 상면부와 저면부 사이에서 본체(110)의 둘레를 이루는 부분 중 주행방향을 향하는 부분을 정면부(도 3 참조)라고 정의한다.
이동 로봇(100)은 본체(110)를 이동시키는 주행부(160)를 포함한다. 주행부(160)는 본체(110)를 이동시키는 적어도 하나의 구동 바퀴(136)를 포함한다. 주행부(160)는 구동 바퀴(136)에 연결되어 구동 바퀴를 회전시키는 구동 모터(미도시)를 포함 한다. 구동 바퀴(136)는 본체(110)의 좌, 우 측에 각각 구비될 수 있으며, 이하, 각각 좌륜(136(L))과 우륜(136(R))이라고 한다.
좌륜(136(L))과 우륜(136(R))은 하나의 구동 모터에 의해 구동될 수도 있으나, 필요에 따라 좌륜(136(L))을 구동시키는 좌륜 구동 모터와 우륜(136(R))을 구동시키는 우륜 구동 모터가 각각 구비될 수도 있다. 좌륜(136(L))과 우륜(136(R))의 회전 속도에 차이를 두어 좌측 또는 우측으로 본체(110)의 주행방향을 전환할 수 있다.
본체(110)의 저면부에는 공기의 흡입이 이루어지는 흡입구(110h)가 형성될 수 있으며, 본체(110) 내에는 흡입구(110h)를 통해 공기가 흡입될 수 있도록 흡입력을 제공하는 흡입장치(미도시)와, 흡입구(110h)를 통해 공기와 함께 흡입된 먼지를 집진하는 먼지통(미도시)이 구비될 수 있다.
본체(110)는 이동 로봇(100)을 구성하는 각종 부품들이 수용되는 공간을 형성하는 케이스(111)를 포함할 수 있다. 케이스(111)에는 상기 먼지통의 삽입과 탈거를 위한 개구부가 형성될 수 있고, 개구부를 여닫는 먼지통 커버(112)가 케이스(111)에 대해 회전 가능하게 구비될 수 있다.
흡입구(110h)를 통해 노출되는 솔들을 갖는 롤형의 메인 브러시(134)와, 본체(110)의 저면부 전방측에 위치하며, 방사상으로 연장된 다수개의 날개로 이루어진 솔을 갖는 보조 브러시(135)가 구비될 수 있다. 이들 브러시(134, 135)들의 회전에 의해 주행 구역 내 바닥으로부터 먼지들이 분리되며, 이렇게 바닥으로부터 분리된 먼지들은 흡입구(110h)를 통해 흡입되어 먼지통에 모인다.
배터리(138)는 구동 모터뿐만 아니라, 이동 로봇(100)의 작동 전반에 필요한 전원을 공급한다. 배터리(138)가 방전될 시, 이동 로봇(100)은 충전을 위해 충전대(200)로 복귀하는 주행을 실시할 수 있으며, 이러한 복귀 주행 중, 이동 로봇(100)은 스스로 충전대(200)의 위치를 탐지할 수 있다.
충전대(200)는 소정의 복귀 신호를 송출하는 신호 송출부(미도시)를 포함할 수 있다. 복귀 신호는 초음파 신호 또는 적외선 신호일 수 있으나, 반드시 이에 한정되어야하는 것은 아니다.
이동 로봇(100)은 복귀 신호를 수신하는 신호 감지부(미도시)를 포함할 수 있다. 충전대(200)는 신호 송출부를 통해 적외선 신호를 송출하고, 신호 감지부는 적외선 신호를 감지하는 적외선 센서를 포함할 수 있다. 이동 로봇(100)은 충전대(200)로부터 송출된 적외선 신호에 따라 충전대(200)의 위치로 이동하여 충전대(200)와 도킹(docking)한다. 이러한 도킹에 의해 이동 로봇(100)의 충전 단자(133)와 충전대(200)의 충전 단자(210) 간에 충전에 이루어진다.
영상획득부(120)는 주행 구역을 촬영하는 것으로, 디지털 카메라를 포함할 수 있다. 디지털 카메라는 적어도 하나의 광학렌즈와, 광학렌즈를 통과한 광에 의해 상이 맺히는 다수개의 광다이오드(photodiode, 예를들어, pixel)를 포함하여 구성된 이미지센서(예를들어, CMOS image sensor)와, 광다이오드들로부터 출력된 신호를 바탕으로 영상을 구성하는 디지털 신호 처리기(DSP: Digital Signal Processor)를 포함할 수 있다. 디지털 신호 처리기는 정지영상은 물론이고, 정지영상으로 구성된 프레임들로 이루어진 동영상을 생성하는 것도 가능하다.
바람직하게, 영상획득부(120)는 본체(110)의 상면부에 구비되어, 주행 구역 내의 천장에 대한 영상을 획득하나, 영상획득부(120)의 위치와 촬영범위가 반드시 이에 한정되어야 하는 것은 아니다. 예를 들어, 영상획득부(120)는 본체(110) 전방의 영상을 획득하도록 구비될 수도 있다.
또한, 이동 로봇(100)은 전방의 장애물을 감지하는 장애물 감지센서(131)를 더 포함할 수 있다. 이동 로봇(100)은 주행 구역 내 바닥에 낭떠러지의 존재 여부를 감지하는 낭떠러지 감지센서(132)와, 바닥의 영상을 획득하는 하부 카메라 센서(139)를 더 포함할 수 있다.
또한, 이동 로봇(100)은 On/Off 또는 각종 명령을 입력할 수 있는 입력부(137)를 포함한다. 입력부(137)를 통해 이동 로봇(100)의 작동 전반에 필요한 각종 제어명령을 입력받을 수 있다. 또한, 이동 로봇(100)은 출력부(미도시)를 포함하여, 예약 정보, 배터리 상태, 동작모드, 동작상태, 에러상태 등을 표시할 수 있다.
도 5는 본 발명의 일 실시예에 따른 이동 로봇의 구성 요소를 설명하기 위한 블록도이다.
도 5를 참조하면, 이동 로봇(100)은, 영상획득부(120), 입력부(137), 제어부(140), 저장부(150), 주행부(160), 청소부(170), 출력부(180), 및 통신부(190)를 포함할 수 있다.
이동 로봇(100)은, 통신부(190)를 통하여, 리모컨(미도시) 또는 이동 단말기(미도시)가 전송하는 각종 명령을 수신할 수 있다. 이 경우, 리모컨 또는 이동 단말기는, 이동 로봇에 대한 사용자 명령을 수신하는 입력부(137)와 같은 기능을 수행할 수 있다.
예를 들어, 이동 단말기는 이동 로봇(100)을 제어하기 위한 어플리케이션을 구비하고, 어플리케이션의 실행을 통해 이동 로봇(100)이 청소할 주행 구역에 대한 맵을 표시하고, 맵 상에 특정 영역을 청소하도록 영역을 지정할 수 있다. 이동 단말기는 맵 설정을 위한 어플리케이션(application)이 탑재된 리모콘, PDA, 랩탑(laptop), 스마트 폰, 태블릿 등을 예로 들 수 있다.
리모컨이나 이동 단말기는, 이동 로봇이 전송하는 각종 정보를 출력할 수 있다. 이 경우, 리모컨이나 이동 단말기는, 각종 정보를 출력하는 출력부(180)와 같은 기능을 수행할 수 있다.
예를 들어, 이동 단말기는 이동 로봇(100)과 통신하여, 맵과 함께 이동 로봇의 현재 위치를 표시할 수 있으며, 복수의 영역에 대한 정보가 표시될 수 있다. 또한, 이동 단말기는 이동 로봇의 주행에 따라 그 위치를 갱신하여 표시한다.
제어부(140)는 이동 로봇(100)을 구성하는 영상획득부(120), 입력부(137), 주행부(160)를 제어하여, 이동 로봇(100)의 동작 전반을 제어한다.
저장부(150)는 이동 로봇(100)의 제어에 필요한 각종 정보들을 기록하는 것으로, 휘발성 또는 비휘발성 기록 매체를 포함할 수 있다. 기록 매체는 마이크로 프로세서(micro processor)에 의해 읽힐 수 있는 데이터를 저장한 것으로, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등을 포함할 수 있다.
저장부(150)에는 주행 구역에 대한 맵(Map)이 저장될 수 있다. 맵은 이동 로봇(100)과 유선 또는 무선 통신을 통해 정보를 교환할 수 있는 이동 단말기에 의해 입력된 것일 수도 있고, 이동 로봇(100)이 스스로 학습을 하여 생성한 것일 수도 있다.
맵에는 주행 구역 내의 방들의 위치가 표시될 수 있다. 또한, 이동 로봇(100)의 현재 위치가 맵 상에 표시될 수 있으며, 맵 상에서의 이동 로봇(100)의 현재의 위치는 주행 과정에서 갱신될 수 있다. 이동 단말기는 저장부(150)에 저장된 맵과 동일한 맵을 저장한다.
제어부(140)는, 이동 로봇(100)의 주행 제어 중, 청소부(170)를 가동시킴으로써, 이동 로봇(100) 주변의 먼지 또는 이물질이 흡수되도록 할 수 있다. 이 경우, 청소부(170)에 구비된 브러쉬(미도시)가 구동되어 이동 로봇(100) 주변의 먼지 또는 이물질을 흡입되기 용이한 상태로 만들수 있다. 청소부(170)에 구비된 흡입장치(미도시)는 먼지 또는 이물질을 흡입할 수 있다.
제어부(140)는, 이동 로봇(100)이 주행부(160)에 의하여 특정 영역으로 이동하면서 청소를 수행하도록 제어할 수 있다.
제어부(140)는 주행제어모듈(141), 구역구분모듈(142), 학습모듈(143) 및 인식모듈(144)을 포함할 수 있다.
주행제어모듈(141)은 이동 로봇(100)의 주행을 제어하는 것으로, 주행 설정에 따라 주행부(160)의 구동을 제어한다. 또한, 주행제어모듈(141)은 주행부(160)의 동작을 바탕으로 이동 로봇(100)의 이동 경로를 파악할 수 있다. 예를 들어, 주행제어모듈(141)은 구동 바퀴(136)의 회전속도를 바탕으로 이동 로봇(100)의 현재 또는 과거의 이동속도, 주행한 거리 등을 파악할 수 있으며, 각 구동 바퀴(136(L), 136(R))의 회전 방향에 따라 현재 또는 과거의 방향 전환 과정 또한 파악할 수 있다. 이렇게 파악된 이동 로봇(100)의 주행 정보를 바탕으로, 맵 상에서 이동 로봇(100)의 위치가 갱신될 수 있다.
구역구분모듈(142)은 소정 기준에 따라 주행 구역을 복수의 구역으로 구분할 수 있다. 주행 구역은 이동 로봇(100)이 주행 경험이 있는 모든 평면상의 구역 및 현재 주행하고 있는 평면상의 구역을 모두 합한 범위로 정의될 수 있다.
구역구분모듈(142)은 주행 구역을 복수의 소구역으로 구분하며, 소구역은 주행 구역 내의 각 실(방)을 근거로 구분될 수 있다. 또한, 구역구분모듈(142)은 주행 구역을 주행능력상 서로 분리된 복수의 대구역으로 구분할 수 있다. 예를 들면, 서로 동선상 완전히 분리된 두개의 실내공간은 각각 두개의 대구역으로 구분될 수 있다. 다른 예로, 같은 실내 공간이라 하더라도, 상기 대구역은 주행 구역 내의 각 층을 근거로 구분될 수 있다.
학습모듈(143)은 주행 구역의 맵을 생성할 수 있다. 또한, 학습모듈(143)은 각 위치에서 영상획득부(120)를 통해 획득한 영상을 처리하여 맵과 연계시켜 전역위치를 인식한다.
인식모듈(144)은 현재 위치를 추정하여 인식한다. 인식모듈(144)은 영상획득부(120)의 영상 정보를 이용하여 학습모듈(143)과 연계하여 위치를 파악함으로써, 이동 로봇(100)의 위치가 갑자기 변경되는 경우에도 현재 위치를 추정하여 인식할 수 있다.
이동 로봇(100)은 구역구분모듈(142)을 통해 연속적인 주행 중에 위치 인식이 가능하고 또한, 구역구분모듈(142) 없이 학습모듈(143) 및 인식모듈(144)을 통해, 맵을 학습하고 현재 위치를 추정할 수 있다.
이동 로봇(100)이 주행하는 중에, 영상획득부(120)는 이동 로봇(100) 주변의 영상들을 획득한다. 이하, 영상획득부(120)에 의해 획득된 영상을 '획득영상'이라고 정의한다. 획득영상에는 천장에 위치하는 조명들, 경계(edge), 코너(corner), 얼룩(blob), 굴곡(ridge) 등의 여러가지 특징(feature)들이 포함된다. 이하, 특징은 특징점으로 표현될 수도 있다.
학습모듈(143)은 획득영상들 각각으로부터 특징을 검출한다. 컴퓨터 비전(Computer Vision) 기술 분야에서 영상으로부터 특징을 검출하는 다양한 방법(Feature Detection)이 잘 알려져 있다. 이들 특징의 검출에 적합한 여러 특징검출기(feature detector)들이 알려져 있다. 예를들어, Canny, Sobel, Harris&Stephens/Plessey, SUSAN, Shi&Tomasi, Level curve curvature, FAST, Laplacian of Gaussian, Difference of Gaussians, Determinant of Hessian, MSER, PCBR, Grey-level blobs 검출기 등이 있다.
학습모듈(143)은 각 특징점을 근거로 디스크립터를 산출한다. 학습모듈(143)은 특징 검출을 위해 SIFT(Scale Invariant Feature Transform) 기법을 이용하여 특징점을 디스크립터(descriptor)로 변환할 수 있다. 디스크립터는 n차원 벡터(vector)로 표기될 수 있다.
SIFT는 촬영 대상의 스케일(scale), 회전, 밝기변화에 대해서 불변하는 특징을 검출할 수 있어, 같은 영역을 이동 로봇(100)의 자세를 달리하며 촬영하더라도 불변하는(즉, 회전 불변한(Rotation-invariant)) 특징을 검출할 수 있다. 물론, 이에 한정되지 않고 다른 다양한 기법(예를들어, HOG: Histogram of Oriented Gradient, Haar feature, Fems, LBP:Local Binary Pattern, MCT:Modified Census Transform)들이 적용될 수도 있다.
학습모듈(143)은 각 위치의 획득영상을 통해 얻은 디스크립터 정보를 바탕으로, 획득영상마다 적어도 하나의 디스크립터를 소정 하위 분류규칙에 따라 복수의 군으로 분류하고, 소정 하위 대표규칙에 따라 같은 군에 포함된 디스크립터들을 각각 하위 대표 디스크립터로 변환할 수 있다.
다른 예로, 실(room)과 같이 소정 구역내의 획득영상 들로부터 모인 모든 디스크립터를 소정 하위 분류규칙에 따라 복수의 군으로 분류하여 상기 소정 하위 대표규칙에 따라 같은 군에 포함된 디스크립터들을 각각 하위 대표 디스크립터로 변환할 수도 있다.
학습모듈(143)은 이 같은 과정을 거쳐, 각 위치의 특징분포를 구할 수 있다. 각 위치 특징분포는 히스토그램 또는 n차원 벡터로 표현될 수 있다. 또 다른 예로, 학습모듈(143)은 소정 하위 분류규칙 및 소정 하위 대표규칙을 거치지 않고, 각 특징점으로부터 산출된 디스크립터를 바탕으로 미지의 현재위치를 추정할 수 있다.
학습모듈(143)은 위치 도약 등의 이유로 이동 로봇(100)의 현재 위치가 미지의 상태가 된 경우에, 기 저장된 디스크립터 또는 하위 대표 디스크립터 등의 데이터를 근거로 현재 위치를 추정할 수 있다.
이동 로봇(100)은, 미지의 현재 위치에서 영상획득부(120)를 통해 획득영상을 획득한다. 영상을 통해 천장에 위치하는 조명들, 경계(edge), 코너(corner), 얼룩(blob), 굴곡(ridge) 등의 여러가지 특징(feature)들이 확인된다.
인식모듈(144)은 획득영상으로부터 특징들을 검출한다. 컴퓨터 비전 기술 분야에서 영상으로부터 특징을 검출하는 다양한 방법 및 이들 특징의 검출에 적합한 여러 특징검출기들에 대한 설명은 상기한 바와 같다.
인식모듈(144)은 각 인식 특징점을 근거로 인식 디스크립터 산출단계를 거쳐 인식 디스크립터를 산출한다. 이때 인식 특징점 및 인식 디스크립터는 인식모듈(144)에서 수행하는 과정을 설명하기 위한 것으로 학습모듈(143)에서 수행하는 과정을 설명하는 용어와 구분하기 위한 것이다. 다만, 이동 로봇(100)의 외부 세계의 특징이 각각 다른 용어로 정의되는 것에 불과하다.
인식모듈(144)은 본 특징 검출을 위해 SIFT(Scale Invariant Feature Transform) 기법을 이용하여 인식 특징점을 인식 디스크립터로 변환할 수 있다. 인식 디스크립터는 n차원 벡터(vector)로 표기될 수 있다.
SIFT는 앞서 설명한 바와 같이, 획득영상에서 코너점 등 식별이 용이한 특징점을 선택한 후, 각 특징점 주변의 일정한 구역에 속한 픽셀들의 밝기 구배(gradient)의 분포 특성(밝기 변화의 방향 및 변화의 급격한 정도)에 대해, 각 방향에 대한 변화의 급격한 정도를 각 차원에 대한 수치로 하는 n차원 벡터(vector)를 구하는 영상인식기법이다.
인식모듈(144)은 미지의 현재 위치의 획득영상을 통해 얻은 적어도 하나의 인식 디스크립터 정보를 근거로, 소정 하위 변환규칙에 따라 비교대상이 되는 위치 정보(예를 들면, 각 위치의 특징분포)와 비교 가능한 정보(하위 인식 특징분포)로 변환한다.
소정 하위 비교규칙에 따라, 각각의 위치 특징분포를 각각의 인식 특징분포와 비교하여 각각의 유사도를 산출할 수 있다. 각각의 위치에 해당하는 상기 위치 별로 유사도(확률)를 산출하고, 그 중 가장 큰 확률이 산출되는 위치를 현재위치로 결정할 수 있다.
이와 같이, 제어부(140)는 주행 구역을 구분하고 복수의 영역으로 구성된 맵을 생성하거나, 기 저장된 맵을 바탕으로 본체(110)의 현재 위치를 인식할 수 있다.
제어부(140)는 맵이 생성되면, 생성된 맵을 통신부(190)를 통해 이동 단말기로 전송한다. 또한, 제어부(140)는 앞서 설명한 바와 같이, 이동 단말기로부터 맵이 수신되면, 저장부(150)에 저장할 수 있다.
또한 제어부(140)는 주행 중 맵이 갱신되는 경우 갱신된 정보를 이동 단말기로 전송하여 이동 단말기와 이동 로봇(100)에 저장되는 맵이 동일하도록 한다. 이동 단말기와 이동 로봇(100)에 저장된 맵이 동일하게 유지됨에 따라 이동 단말기로부터의 청소명령에 대하여, 이동 로봇(100)이 지정된 영역을 청소할 수 있으며, 또한, 이동 단말기에 이동 로봇의 현재 위치가 표시될 수 있도록 하기 위함이다.
이때, 맵은 청소 영역을 복수의 영역으로 구분되고, 복수의 영역을 연결하는 연결통로가 포함하며, 영역 내의 장애물에 대한 정보를 포함한다. 청소 영역에 대한 구분은, 앞서 설명한 바와 같이 구역구분모듈(142)에 의해 소영역 및 대영역으로 구분된다.
제어부(140)는 청소명령이 입력되면, 맵 상의 위치와 이동 로봇의 현재위치가 일치하는지 여부를 판단한다. 청소명령은 리모컨, 입력부 또는 이동 단말기로부터 입력될 수 있다.
제어부(140)는 현재 위치가 맵 상의 위치와 일치하지 않는 경우, 또는 현재 위치를 확인할 수 없는 경우, 현재 위치를 인식하여 이동 로봇(100)의 현재 위치를 복구한 한 후, 현재 위치를 바탕으로 지정영역으로 이동하도록 주행부다.
현재 위치가 맵 상의 위치와 일치하지 않는 경우 또는 현재 위치를 확인 할 수 없는 경우, 인식모듈(144)은 영상획득부(120)로부터 입력되는 획득영상을 분석하여 맵을 바탕으로 현재 위치를 추정할 수 있다. 또한, 구역구분모듈(142) 또는 학습모듈(143) 또한, 앞서 설명한 바와 같이 현재 위치를 인식할 수 있다.
위치를 인식하여 이동 로봇(100)의 현재 위치를 복구한 후, 주행제어모듈(141)은 현재 위치로부터 지정영역으로 이동 경로를 산출하고 주행부(160)를 제어하여 지정영역으로 이동한다.
이동 단말기로부터 복수의 영역 중, 적어도 하나의 영역이 선택되는 경우, 주행제어모듈(141)은 선택된 영역을 지정영역으로 설정하고, 이동 경로를 산출한다. 주행제어모듈(141)은 지정영역 이동 후, 청소를 수행한다.
한편, 복수의 영역이 지정영역으로 선택된 경우, 주행제어모듈(141)은 복수의 영역 중 우선영역이 설정되었는지 여부 또는 선택된 복수의 지정영역에 대한 청소순서가 설정되었는지 여부를 판단한 후, 지정영역으로 이동하여 청소를 수행한다.
주행제어모듈(141)은 복수의 지정영역 중 어느 하나가 우선영역으로 설정된 경우, 복수의 지정영역 중 우선영역으로 이동하여, 우선영역을 제일 먼저 청소한 후 나머지 지정영역으로 이동하여 청소하도록 한다. 또한, 지정영역에 대한 청소순서가 설정된 경우 주행제어모듈(141)은 지정된 청소순서에 따라 지정영역을 순차적으로 이동하면서 청소를 수행한다.
또한, 주행제어모듈(141)은 맵 상의 복수의 영역에 대한 구분에 관계없이 새롭게 임의의 영역이 설정되는 경우, 설정된 지정영억으로 이동하여 청소를 수행하도록 한다.
제어부(140)는 설정된 지정영역에 대한 청소가 완료되면, 청소기록을 저장부(150)에 저장한다.
제어부(140)는 통신부(190)를 통해 이동 로봇(100)의 동작상태 또는 청소상태를 소정 주기로 이동 단말기로 전송한다. 그에 따라 이동 단말기는 수신되는 데이터를 바탕으로, 실행중인 어플리케이션의 화면상에 맵과 함게 이동 로봇의 위치를 표시하고, 또한 청소상태에 대한 정보를 출력한다.
출력부(180)는, 영상을 출력하는 디스플레이부(미도시) 및 음향을 출력하는 음향 출력부(180)를 포함할 수 있다. 예를 들어, 음향 출력부(180)는 스피커일 수 있다.
출력부(180)는, 제어부(140)의 제어에 따라 각종 정보를 출력할 수 있다. 예를 들어, 출력부(180)는, 제어부(140)에 제어에 따라, 주행 구역에 배치된 가전 장치의 종류 및 위치가 표시된 맵인 가전 장치 맵을 출력할 수 있다.
본 발명에 따른 이동 로봇(100)은, 카메라로 획득한 영상에서 검출된 특징점들을 이용하여 현재 위치를 판단할 수 있다. 이동 로봇(100)은, SLAM(Simultaneous Localization And Map-Building)을 통하여 판단된 위치 정보에 기초하여 주행 구역에 대한 맵을 생성할 수 있다.
이하, 도 6 내지 도 8을 참조하여 본 발명에 따른 이동 로봇(100)이 가전 장치의 종류, 위치, 및 동작 상태를 판단하고, 가전 장치 맵을 출력하는 과정을 설명한다.
도 6 내지 도 8은 본 발명에 따른 이동 로봇(100)의 동작을 설명하기 위한 순서도이다.
도 6을 참조하면, 제어부(140)는, 영상획득부(120)를 통하여 본체 주변의 영상을 획득할 수 있다(S100).
제어부(140)는, 주행 구역 내에서 본체를 이동시키면서 영상획득부(120)를 통하여 영상을 획득할 수 있다. 예를 들어, 제어부(140)는, 영상획득부(120)를 통하여, 본체의 전방, 후방, 좌측, 우측, 상단 방향의 영상을 획득할 수 있다. 이를 위하여, 이동 로봇(100)은, 적어도 하나의 영상획득부(120)를 구비할 수 있다.
제어부(140)는, 획득되는 영상에서 가전 장치가 검출되는지 판단할 수 있다(S200).
제어부(140)는, 획득되는 영상에 나타나는 각종 오브젝트를 검출하고, 검출된 오브젝트가 가전 장치인지 판단할 수 있다.
제어부(140)는, 영상에서 검출된 가전 장치의 종류 및 위치를 판단할 수 있다(S300).
제어부(140)가 획득된 영상에서 가전 장치를 검출하고, 검출된 가전 장치의 종류 및 위치를 판단하는 과정을 동시에 이루어질 수 있다.
제어부(140)는, 영상획득부(120)를 통하여 획득되는 영상에 기초하여, 주행 구역 내 배치된 가전 장치의 종류 및 위치를 판단할 수 있다.
본체가 주행 구역 내에서 주행하는 경우, 제어부(140)는, 주행 구역 내에 대한 다양한 영상을 획득할 수 있다. 주행 구역 내에 대한 다양한 영상에는, 주행 구역에 배치된 다양한 가전 장치들이 나타날 수 있다. 예를 들어, 주행 구역의 천장을 촬영한 영상에는 천장에 배치된 조명 장치가 나타날 수 있고, 주행 구역의 벽면을 촬영한 영상에서는 벽면에 배치된 냉장고, 공기 조화기, 세탁기, 전자 레인지, TV 등이 나타날 수 있다.
제어부(140)는, 영상에 기초하여 딥러닝을 수행함으로써, 가전 장치의 종류를 판단할 수 있다. 본 발명의 실시예에서 가전 장치의 종류는, 가전 장치의 모델명, 기능, 제조사, 외형 등을 포함하는 개념일 수 있다.
딥러닝은 기계 학습 과정을 이용하여 데이터를 분석하는 것이다. 딥러닝은, 제어부(140)가 연결된 네트워크 망 및 저장부(150)에 존재하는 데이터에 기초하여, 영상에 나타나는 이미지를 분석하는 것이다.
예를 들어, 딥러닝은, 심층 신경망(DNN, Deep Neural Network)을 이용한 이미지 분석일 수 있다. 심층 신경망은, 입력 계층(input layer)과 출력 계층(output layer) 사이에 복수개의 은닉 계층(hidden layer)들로 이뤄진 인공신경망(ANN, Artificial Neural Network)이다. 심층 신경망은 복잡한 비선형 관계(non-linear relationship)들을 모델링할 수 있다. 이미지에 나타나는 사물울 식별하기 위한 심층 신경망 구조에서는, 이미지를 구성하는 요소들이 계층적 구조로 표현될 수 있다. 이러한 계층적 구조를 통하여 이미지에 나타나는 객체가 분석될 수 있다.
제어부(140)는, 획득되는 영상에 기초하여 딥러닝을 수행할 수 있다. 제어부(140)는, 획득되는 영상을 이용하여 딥러닝을 수행함으로써, 영상에 나타나는 오브젝트가 무엇인지 판단할 수 있다. 예를 들어, 제어부(140)는, 냉장고가 나타나는 영상에 기초하여 딥러닝을 수행함으로써, 영상에 나타나는 냉장고의 모델명, 제조사, 기능 등을 판단할 수 있다.
제어부(140)는, 획득되는 영상에 기초하여, 본체의 현재 위치를 판단할 수 있고, 본체의 위치 및 영상에 나타나는 가전 장치의 위치에 기초하여 주행 구역 내에서의 가전 장치의 위치를 판단할 수 있다.
제어부(140)는, 가전 장치의 종류 및 위치가 판단되면, 가전 장치 맵을 생성하고, 출력할 수 있다(S400).
저장부(150)에는 주행 구역의 지도 정보인 주행 구역의 맵(map)이 저장된다. 제어부(140)는, 주행 구역의 맵에 기초하여, 가전 장치의 종류 및 위치 중 적어도 하나가 표시된 주행 구역의 맵인 가전 장치 맵을 생성할 수 있다. 가전 장치 맵은 주행 구역맵에 가전 장치의 종류를 나타내는 아이콘이 표시된 지도 영상이다. 가전 장치에 대응하는 아이콘은, 주행 구역의 맵 내에서, 실제 가전 장치의 위치에 대응하는 지점에 표시될 수 있다.
제어부(140)는, 가전 장치 맵을, 기 설정된 이동 단말기 또는 출력부(180) 중 적어도 하나를 통하여 출력할 수 있다. 이 경우, 이동 로봇(100)과 연결된 이동 단말기나 이동 로봇(100)에 구비된 출력부(180)를 통하여 가전 장치 맵이 출력될 수 있다.
기 설정된 이동 단말기는, 이동 로봇(100)과 통신을 수행할 수 있다. 가전 장치 맵이 이동 단말기를 통하여 출력되는 경우, 제어부(140)는, 통신부(190)를 통하여 생성된 가전 장치 맵 데이터를 이동 단말기로 전송할 수 있다. 이동 단말기는 제어부(140)가 전송하는 가전 장치 맵을 디스플레이부에 표시할 수 있다. 이에 따라, 사용자는 이동 단말기를 통하여 주행 구역 내에서 어떤 가전 장치가 어떤 위치에 배치되는지 확인할 수 있다.
제어부(140)는, 가전 장치의 동작 상태를 판단할 수 있다(S500).
제어부(140)는, 통신부(190)를 통하여 수신되는 정보, 및 영상획득부(120)를 통하여 획득되는 영상 중 적어도 하나에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다. 이 경우 통신부(190)를 통하여 수신되는 정보는 가전 장치의 동작 상태를 나타내는 데이터일 수 있다. 가전 장치는 동작 상태에 대응하는 데이터를 이동 로봇(100)으로 전송할 수 있다.
가전 장치의 동작 상태는, 가전 장치가 수행하고 있는 동작에 관련된 각종 정보를 포함할 수 있다. 예를 들어, 냉장고의 동작 상태는, 각 칸의 설정 온도, 문 열림 여부 등을 포함할 수 있다. 예를 들어, 세탁기의 동작 상태는, 수행 중인 세탁 코스, 세탁 종료까지 남은 시간 등을 포함할 수 있다. 예를 들어, 공기 조화기의 동작 상태는 수행 중인 운전의 종류 및 설정, 설정 온도, 풍량 등을 포함할 수 있다.
제어부(140)는, 가전 장치의 동작 상태를 판단하기 전, 통신부(190)를 통하여 수신되는 정보에 기초하여, 가전 장치가 통신 가능한 장치인지 판단할 수 있다. 제어부(140)는, 통신부(190)를 통하여 통신 가능한 가전 장치를 감지할 수 있다.
이동 로봇(100)과 가전 장치는, 통신으로 연결될 수 있다. 예를 들어, 이동 로봇(100)과 가전 장치는, 블루투스(Bluetooth), 지그비(Zigbee), 와이 파이(Wi-Fi), 기타 근거리 무선 통신, 네트워크 통신망 기술 등을 통하여 통신을 수행할 수 있다. 이동 로봇(100)과 가전 장치는 각종 신호나 정보를 송수신할 수 있다. 예를 들어, 가전 장치는, 자신의 종류, 위치, 및 동작 상태 중 적어도 하나에 대응하는 데이터를 이동 로봇(100)에 전송할 수 있다. 예를 들어, 이동 로봇(100)의 제어부(140)는, 통신부(190)를 통하여 가전 장치가 전송하는 데이터를 수신하고, 가전 장치를 제어하기 위한 제어 신호를 가전 장치로 전송함으로써, 가전 장치를 원격으로 제어할 수 있다.
제어부(140)는, 위치 및 종류가 판단된 가전 장치가 통신 가능한 가전 장치로서 감지되는 경우, 영상획득부(120)가 획득하는 영상, 및 가전 장치가 전송하는 정보 중 적어도 하나에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다. 제어부(140)는, 획득되는 영상에 나타나는 가전 장치의 이미지를 딥러닝 과정으로 분석하여 가전 장치의 동작 상태를 판단할 수 있다. 제어부(140)는, 가전 장치가 전송하는 동작 상태에 대한 데이터에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다.
예를 들어, 제어부(140)는, 세탁기가 전송하는 동작 상태 정보에 기초하여, 세탁기가 수행 중이 동작 및 세탁 종료시까지 남은 시간 등을 판단할 수 있다. 예를 들어, 제어부(140)는, 획득되는 영상에 나타나는 TV의 이미지에 기초하여, TV가 켜져 있는지 및 현재 채널이 무엇인지 등을 판단할 수 있다.
제어부(140)는, 종류 및 위치가 판단된 가전 장치가 통신 가능한 장치가 아닌 경우, 영상에 나타나는 가전 장치의 이미지에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다.
제어부(140)는, 가전 장치의 동작 상태를 출력할 수 있다(S600).
제어부(140)는, 판단된 가전 장치의 동작 상태를 기 설정된 이동 단말기 또는 출력부(180)를 통하여 출력할 수 있다. 예를 들어, 제어부(140)는, 가전 장치의 동작 상태를 나타내는 문구나 인디케이터를 이동 단말기 또는 출력부(180)에 표시할 수 있다.
제어부(140)는, 가전 장치의 종류, 위치, 및 동작 상태 중 적어도 하나가 표시된 주행 구역의 맵인 가전 장치 맵을 생성할 수 있다. 이 경우, 가전 장치 맵에는 가전 장치의 종류 및 위치뿐만 아니라 동작 상태까지 표시될 수 있다. 제어부(140)는, 생성된 가전 장치 맵을 기 설정된 이동 단말기 또는 출력부(180) 중 적어도 하나를 통하여 출력할 수 있다.
제어부(140)는, 가전 장치의 원격 제어 가부를 판단할 수 있다.
제어부(140)는, 가전 장치가 통신 가능한 장치인 경우, 통신부(190)를 통하여 가전 장치로 제어 신호를 전송할 수 있다. 제어부(140)는, 제어 신호를 전송한 후, 가전 장치로부터 제어 신호에 대한 피드백 신호가 수신되거나, 획득되는 영상에 기초하여 가전 장치가 제어 신호에 따라 동작하는 것으로 판단되는 경우, 가전 장치가 원격 제어 가능한 것으로 판단할 수 있다.
제어부(140)는, 가전 장치가 통신이 불가한 장치인 경우, 기 판단된 가전 장치의 종류에 따라 가전 장치의 제어 방법을 판단할 수 있다. 가전 장치가 제어되는 방식은 가전 장치의 종류에 따라 판단될 수 있다. 가전 장치의 종류에는 구체적인 모델명 및 스펙에 대한 정보가 포함될 수 있다. 이에 따라, 제어부(140)는, 가전 장치의 종류를 판단함으로써, 가전 장치의 원격 제어 방법을 판단할 수 있다. 이 경우 제어부(140)는, 판단된 원격 제어 방법에 따라 제어 신호를 전송하여 가전 장치가 원격 제어 되는지 확인할 수 있다.
예를 들어, 특정 모델명의 TV가 적외선 신호를 통하여 원격 제어될 수 있는 가전 장치인 경우, 제어부(140)는, 상기 TV의 종류를 판단함으로써 상기 TV를 적외선 신호로 제어할 수 있다고 판단할 수 있다. 이 경우, 제어부(140)는, 상기 TV로 적외선 신호를 송출하고, 획득되는 영상을 통하여 상기 TV가 송출된 적외선 신호에 대응하여 동작하는지 확인할 수 있다. 제어부(140)는, 상기 TV가 송출된 적외선 신호에 대응하여 동작하면, 최종적으로 상기 TV가 적외선 신호로 원격 제어 가능하다고 판단할 수 있다.
제어부(140)는, 가전 장치의 원격 제어 가부를 기 설정된 이동 단말기 또는 출력부(180)를 통하여 출력할 수 있다.
제어부(140)는, 종류 및 위치가 판단된 가전 장치의 원격 제어 가부가 판단되는 경우, 가전 장치의 종류, 위치, 및 원격 제어 가부 중 적어도 하나가 표시된 주행 구역의 맵인 가전 장치 맵을 생성할 수 있다. 제어부(140)는, 생성된 가전 장치 맵을 이동 단말기 또는 출력부(180)를 통하여 출력할 수 있다.
제어부(140)는, 기 설정된 이동 단말기 또는 입력부(137)를 통하여, 가전 장치 맵에 나타난 복수의 가전 장치 중 하나에 대한 제어 명령이 수신되는 경우, 제어 명령에 기초하여, 선택된 가전 장치를 원격 제어할 수 있다.
이동 단말기 또는 입력부(137)를 통하여 수신되는 제어 명령은, 복수의 가전 장치 중 하나를 선택하고, 선택된 가전 장치가 수행할 동작을 지정하는 명령일 수 있다. 예를 들어, 이동 단말기에 가전 장치 맵이 표시되고, 가전 장치 맵에 표시된 복수의 가전 장치 각각에 대응하는 아이콘 중 세탁기에 대응하는 아이콘을 선택하는 터치 입력이 수신되는 경우, 이동 단말기는 선택된 세탁기가 수행할 동작에 대한 명령을 추가로 입력받을 수 있다. 이동 단말기는, 세탁기가 수행할 동작에 대한 명령의 입력이 완료되면, 제어 명령을 생성하여 이동 로봇(100)으로 전송할 수 있다. 제어부(140)는, 통신부(190)를 통하여 수신되는 제어 명령에 대응하여, 선택된 세탁기가 선택된 동작을 수행하도록 하는 제어 신호를 생성하여 선택된 세탁기로 전송할 수 있다. 선택된 세탁기는, 이동 로봇(100)으로부터 전송되는 제어 신호에 대응하여 선택된 동작을 수행할 수 있다.
제어부(140)는, 선택된 가전 장치의 원격 제어 방식에 대응하는 제어 가능 영역으로 본체를 이동시키고, 선택된 가전 장치를 원격 제어할 수 있다.
제어 가능 영역은, 이동 로봇(100)이 특정 가전 장치를 제어하기 위하여 본체가 위치해야 하는 영역이다. 본체가 제어 가능 영역에 위치하는 경우, 이동 로봇(100)은 가전 장치를 원격 제어할 수 있다.
이동 로봇(100)과 가전 장치의 통신 방식이나 가전 장치의 원격 제어 방식에 따라 제어 가능 영역이 존재할 수 있다. 예를 들어, 적외선 신호로 원격 제어되는 가전 장치의 경우, 적외선 신호가 가전 장치에 도달할 수 있는 영역이 제어 가능 영역일 수 있다. 와이 파이 통신을 통하여 제어 신호를 수신하는 가전 장치의 경우, 와이 파이 신호가 수신되는 영역이 제어 가능 영역일 수 있다. 블루투스나 지그비와 같은 근거리 무선 통신을 통하여 제어 신호를 수신하는 가전 장치의 경우, 가전 장치로부터 근거리 무선 통신이 가능한 거리 이내의 영역이 제어 가능 영역일 수 있다.
제어부(140)는, 가전 장치의 종류에 포함되는 스펙 정보, 가전 장치의 위치 정보, 및 주행 구역의 맵 정보에 기초하여, 가전 장치 별 제어 가능 영역을 판단할 수 있다. 예를 들어, 적외선 신호로 제어되는 TV의 전원을 온시키는 제어 명령이 수신되는 경우, 제어부(140)는, TV로 적외선 신호를 전송할 수 있는 제어 가능 영역을 판단할 수 있다. 제어부(140)는, 본체를 TV의 제어 가능 영역으로 이동시키고, TV의 전원을 온시키는 적외선 신호를 TV로 전송할 수 있다. 이 경우, TV의 전원이 켜질 수 있다.
이에 따라, 사용자는 이동 로봇(100)과 통신 연결된 이동 단말기나 리모컨을 활용하여 주행 구역 내에 존재하는 다양한 가전 장치를 제어할 수 있다.
도 7은 이동 로봇(100)이 가전 장치의 위치 및 종류를 판단하는 구체적인 과정을 설명하기 위한 순서도이다.
제어부(140)는, 영상에서 가전 장치가 검출되는 경우, 검출된 가전 장치의 종류 및 위치를 판단할 수 있다(S300).
제어부(140)는, 획득되는 영상에 기초하여, 가전 장치의 위치를 판단할 수 있다(S310).
제어부(140)는, 획득되는 영상에 기초하여, 본체의 현재 위치를 판단할 수 있다. 제어부(140)는, 판단된 본체의 위치와 영상에서의 가전 장치가 존재하는 방향 및 위치에 기초하여, 주행 구역 내에서의 가전 장치의 위치를 판단할 수 있다.
제어부(140)는, 가전 장치의 위치가 판단되는 경우, 판단된 가전 장치의 위치를 주행 구역의 맵에 표시함으로써, 가전 장치 맵을 생성하고 출력할 수 있다(S400).
제어부(140)는, 가전 장치의 위치가 판단되지 않는 경우, 기 설정된 이동 단말기나 입력부(137)를 통하여 가전 장치의 위치를 수동 입력받을 수 있다(S320).
이를 위하여, 제어부(140)는, 가전 장치의 위치가 판단되지 않는 경우, 이동 단말기나 출력부(180)를 통하여, 가전 장치의 위치를 판단할 수 없음을 알리는 메시지와, 가전 장치의 위치를 사용자가 직접 입력할 수 있도록 하는 입력 메뉴를 출력할 수 있다. 이 경우, 제어부(140)는, 위치가 판단되지 않는 가전 장치가 나타난 영상을 함께 출력할 수 있다.
제어부(140)는, 이동 단말기나 입력부(137)를 통하여 가전 장치의 위치가 입력되는 경우, 입력된 가전 장치의 위치를 주행 구역의 맵에 표시할 수 있다(S400).
제어부(140)는, 영상획득부(120)를 통하여 획득되는 영상에 기초하여, 주행 구역 내 배치된 가전 장치의 종류를 판단할 수 있다(S330).
제어부(140)는, 영상에 기초하여 딥러닝을 수행함으로써, 가전 장치의 종류를 판단할 수 있다. 이에 따라, 제어부(140)는, 가전 장치의 모델명, 제조사, 제어 방식, 구동 방식, 타입, 기타 각종 스펙을 판단할 수 있다. 예를 들어, 제어부(140)는, 검출된 가전 장치가 세탁기인 것을 판단할 수 있고, 세탁기의 모델명, 제조사, 기능 등도 판단할 수 있다.
제어부(140)는, 가전 장치의 종류가 판단되는 경우, 판단된 가전 장치의 종류를 주행 구역의 맵에 표시함으로써, 가전 장치 맵을 생성하고 출력할 수 있다(S400).
제어부(140)는, 가전 장치의 종류가 판단되지 않는 경우, 기 설정된 이동 단말기나 입력부(137)를 통하여 가전 장치의 종류를 수동 입력받을 수 있다(S340).
이를 위하여, 제어부(140)는, 가전 장치의 종류가 판단되지 않는 경우, 이동 단말기나 출력부(180)를 통하여, 가전 장치의 종류를 판단할 수 없음을 알리는 메시지와, 가전 장치의 종류를 사용자가 직접 입력할 수 있도록 하는 입력 메뉴를 출력할 수 있다. 이 경우, 제어부(140)는, 종류가 판단되지 않는 가전 장치가 나타난 영상을 함께 출력할 수 있다.
제어부(140)는, 이동 단말기나 입력부(137)를 통하여 가전 장치의 종류가 입력되는 경우, 입력된 가전 장치의 종류를 주행 구역의 맵에 표시할 수 있다(S400).
제어부(140)가 검출된 가전 장치의 종류 및 위치를 판단하는 과정은 동시에 이루어질 수 있다.
도 8은 이동 로봇(100)이 가전 장치의 동작 상태를 판단하는 구체적인 과정을 설명하기 위한 순서도이다.
제어부(140)는, 가전 장치의 동작 상태를 판단할 수 있다(S500).
제어부(140)는, 통신부(190)를 통하여 수신되는 정보에 기초하여, 가전 장치가 통신 가능한 장치인지 판단할 수 있다(S510).
제어부(140)는, 통신부(190)를 통하여 통신 가능한 가전 장치를 감지할 수 있다. 제어부(140)는, 통신 가능한 것으로 감지되는 가전 장치와 종류 및 위치가 판단된 가전 장치를 매칭시킴으로써, 종류 및 위치가 판단된 가전 장치가 통신 가능한 장치인지 판단할 수 있다.
제어부(140)는, 위치 및 종류가 판단된 가전 장치가 통신 가능한 장치라고 판단되는 경우, 영상획득부(120)가 획득하는 영상, 및 가전 장치가 전송하는 정보 중 적어도 하나에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다(S520).
제어부(140)는, 획득되는 영상에 나타나는 가전 장치의 이미지를 딥러닝 과정으로 분석하여 가전 장치의 동작 상태를 판단할 수 있다. 제어부(140)는, 가전 장치가 전송하는 동작 상태에 대한 데이터에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다.
제어부(140)는, 위치 및 종류가 판단된 가전 장치가 통신 가능한 장치가 아니라고 판단되는 경우, 영상에 나타나는 가전 장치의 이미지에 기초하여, 가전 장치의 동작 상태를 판단할 수 있다(S530).
이 경우, 가전 장치가 동작 상태에 대응하는 데이터를 전송할 수 없으므로, 제어부(140)는, 획득되는 영상에 나타나는 가전 장치의 이미지를 딥러닝 과정으로 분석하여 가전 장치의 동작 상태를 판단할 수 있다.
제어부(140)는, 가전 장치의 동작 상태가 판단되는 경우, 가전 장치의 동작 상태를 출력할 수 있다(S600).
제어부(140)는, 판단된 가전 장치의 동작 상태를 기 설정된 이동 단말기 또는 출력부(180)를 통하여 출력할 수 있다. 예를 들어, 제어부(140)는, 가전 장치의 동작 상태를 나타내는 문구나 인디케이터를 이동 단말기 또는 출력부(180)에 표시할 수 있다.
제어부(140)는, 가전 장치의 종류, 위치, 및 동작 상태 중 적어도 하나가 표시된 주행 구역의 맵인 가전 장치 맵을 생성할 수 있다. 이 경우, 가전 장치 맵에는 가전 장치의 종류 및 위치뿐만 아니라 동작 상태까지 표시될 수 있다. 제어부(140)는, 생성된 가전 장치 맵을 기 설정된 이동 단말기 또는 출력부(180) 중 적어도 하나를 통하여 출력할 수 있다.
제어부(140)는, 가전 장치의 동작 상태를 판단할 수 없는 경우, 가전 장치가 나타나는 영상을, 이동 단말기나 출력부(180)로 출력할 수 있다(S700).
이 경우, 이동 단말기나 출력부(180)로 영상이 표시되므로, 사용자가 직접 영상을 보고 가전 장치의 동작 상태를 판단할 수 있다.
도 9는 본 발명에 따른 이동 로봇(100)이 가전 장치의 위치 및 종류를 판단하는 과정을 설명하기 위한 도면이다.
(a)를 참조하면, 이동 로봇(100)은, 주행 구역을 이동하면서 주변 영상을 획득할 수 있다. 이동 로봇(100)은, 주행 구역의 모든 영역을 이동하면서, 주행 구역에 존재하는 대부분의 영역을 촬영할 수 있다.
주변 영상은, 본체의 전방, 후방, 좌측, 우측, 상단 중 적어도 하나의 방향에 대한 영상일 수 있다.
(b)를 참조하면, 제어부(140)는, 영상획득부(120)를 통하여 가전 장치가 나타나는 영상(601)을 획득할 수 있다.
제어부(140)는, 획득되는 영상에 나타나는 오브젝트를 검출할 수 있다. 제어부(140)는, 획득되는 영상(601)에 기초하여 딥러닝 과정을 수행함으로써, 영상(601)에 나타나는 오브젝트가 무엇인지 판단할 수 있다.
(c)를 참조하면, 제어부(140)는, 획득되는 영상(601)에 기초하여 딥러닝 과정을 수행함으로써, 영상에 나타나는 오브젝트가 어떤 종류의 가전 장치인지 판단할 수 있다.
딥러닝은, 심층 신경망(DNN, Deep Neural Network)을 이용한 이미지 분석일 수 있다. 심층 신경망은, 입력 계층(input layer)과 출력 계층(output layer) 사이에 복수개의 은닉 계층(hidden layer)들로 이뤄진 인공신경망(ANN, Artificial Neural Network)이다. 심층 신경망은 복잡한 비선형 관계(non-linear relationship)들을 모델링할 수 있다. 이미지에 나타나는 사물울 식별하기 위한 심층 신경망 구조에서는, 이미지를 구성하는 요소들이 계층적 구조로 표현될 수 있다. 이러한 계층적 구조를 통하여 이미지에 나타나는 객체가 분석될 수 있다.
제어부(140)는, 획득되는 영상(601)에 기초하여 딥러닝을 수행할 수 있다. 제어부(140)는, 획득되는 영상(601)을 이용하여 딥러닝을 수행함으로써, 영상(601)에 나타나는 오브젝트가 무엇인지 판단할 수 있다. 예를 들어, 제어부(140)는, 공기 조화기(500)가 나타나는 영상에 기초하여 딥러닝을 수행함으로써, 영상에 나타나는 오브젝트가 공기 조화기(500)라는 것과, 공기 조화기(500)의 모델명, 제조사, 제조일자 등을 판단할 수 있다.
(d)를 참조하면, 제어부(140)는, 획득되는 영상에 기초하여, 본체의 현재 위치를 판단할 수 있고, 본체의 위치 및 영상에 나타나는 가전 장치의 위치에 기초하여 주행 구역 내에서의 가전 장치의 위치를 판단할 수 있다.
제어부(140)는, 판단된 가전 장치의 위치에 대응하는 주행 구역 맵의 일 지점에 가전 장치를 나타나는 아이콘을 표시할 수 있다. 가전 장치의 위치가 표시된 가전 장치 맵은, 이동 단말기나 출력부(180)를 통하여 출력될 수 있다.
도 10 및 도 11은 본 발명에 따른 이동 로봇(100)이 출력하는 가전 장치 맵을 설명하기 위한 도면이다.
도 10을 참조하면, 제어부(140)는, 이동 단말기(300)를 통하여 가전 장치 맵을 출력할 수 있다. 이 경우, 이동 단말기(300)의 디스플레이부에는 가전 장치 맵이 표시될 수 있다.
제어부(140)는, 통신부(190)를 통하여, 가전 장치 맵에 대응하는 데이터를 이동 단말기로 전송할 수 있고, 이동 단말기는, 제어부(140)가 전송한 데이터에 대응하는 가전 장치 맵을 표시할 수 있다.
가전 장치 맵은, 가전 장치의 동작 상태 및 이동 로봇(100)의 이동 상황에 대응하여 움직이는 영상의 형태일 수 있다. 예를 들어, 가전 장치 맵에 표시된 특정 가전 장치의 동작 상태가 변화하는 경우, 동작 상태가 변화한 가전 장치에 대응하는 아이콘이 변화하거나, 아이콘과 함께 표시되는 문구가 변화될 수 있다.
제어부(140)는, 이동 로봇(100)이 주행 구역을 이동하면서 획득한 영상으로부터 조명 장치(501, 502, 504, 505, 506, 507)의 위치를 판단하고, 조명 장치(501, 502, 504, 505, 506, 507)로부터 수신되는 동작 상태 정보에 기초하여 각 조명 장치(501, 502, 504, 505, 506, 507)의 동작 상태를 판단할 수 있다. 조명 장치(501, 502, 504, 505, 506, 507)가 통신이 안되는 경우, 제어부(140)는, 획득되는 영상에 기초하여, 조명 장치(501, 502, 504, 505, 506, 507)의 동작 상태를 판단할 수도 있다.
제어부(140)는, 주행 구역 맵에 각 조명 장치(501, 502, 504, 505, 506, 507)에 대응하는 아이콘을 각 조명 장치(501, 502, 504, 505, 506, 507)의 위치에 대응하는 지점에 표시할 수 있다. 제어부(140)는, 각 조명 장치(501, 502, 504, 505, 506, 507)의 동작 상태를 나타내는 문구를 각 조명 장치(501, 502, 504, 505, 506, 507)의 아이콘과 함께 표시할 수 있다.
제어부(140)는, 이동 로봇(100)이 주행 구역을 이동하면서 획득한 영상으로부터 공기 조화기(511), TV(512), 냉장고(510), 세탁기(503), 환풍기(509), 컴퓨터(508)의 위치를 판단하고, 공기 조화기(511), TV(512), 냉장고(510), 세탁기(503), 환풍기(509), 컴퓨터(508)로부터 수신되는 정보에 기초하여, 각 가전 장치의 동작 상태를 판단할 수 있다. 제어부(140)는, 각 가전 장치에 대응하는 아이콘 및 동작 상태를 나타내는 문구를, 주행 구역 맵 상에서 각 가전 장치의 위치에 대응하는 일 지점에 표시할 수 있다. 도면과 달리, 각 가전 장치의 동작 상태는, 문구 이외의 인디케이터로 표시될 수도 있다.
도 11을 참조하면, 이동 단말기(300)는, 가전 장치 맵에 표시된 아이콘 중 하나가 선택되는 입력이 수신되면, 선택된 아이콘에 대응하는 가전 장치가 선택된 것으로 판단할 수 있다.
이동 단말기(300)는, 가전 장치 맵에 표시된 아이콘 중 하나가 선택되는 입력이 수신되면, 선택된 아이콘에 대응하는 가전 장치에 대한 제어 명령을 수신하기 위한 제어 메뉴(301)를 화면에 표시할 수 있다.
제어 메뉴(301)는, 선택된 가전 장치가 수행할 수 있는 동작에 대응하는 버튼을 포함할 수 있다. 예를 들어, 이동 단말기는, TV에 대응하는 아이콘이 선택되는 경우, TV를 제어하기 위한 제어 메뉴(301)를 화면에 표시할 수 있다. 이동 단말기(300)는, TV를 제어하기 위한 제어 메뉴(301)에 TV가 수행할 수 있는 동작인 채널 변경, 음량 조정, 및 전원에 대응하는 버튼들을 표시할 수 있다.
이동 단말기(300)는 제어 메뉴(301)에 대응하는 입력이 수신되는 경우, 선택된 가전 장치에 대한 제어 명령이 수신되는 것으로 판단할 수 있다. 이동 단말기(300)는, 제어 명령에 대응하는 신호를 이동 로봇(100)에 전송할 수 있다. 예를 들어, 이동 단말기(300)는, TV가 선택되고, 채널 변경에 대응하는 입력이 수신되는 경우, 사용자의 입력에 따라 선택된 TV의 채널을 변경하는 제어 명령을 이동 로봇(100)에 전송할 수 있다.
제어부(140)는, 이동 단말기(300)가 전송하는 제어 명령에 기초하여, 가전 장치를 원격 제어할 수 있다. 제어부(140)는, 제어 명령에 의하여 선택된 가전 장치가 제어 명령에 대응하는 동작을 수행하도록, 선택된 가전 장치에 제어 신호를 전송할 수 있다. 제어부(140)가 전송하는 제어 신호를 수신하는 가전 장치는, 제어 명령에 대응하는 동작을 수행할 수 있다. 예를 들어, 이동 단말기(300)를 통하여 TV의 채널 변경에 대응하는 제어 명령이 수신되는 경우, 제어부(140)는, 선택된 TV의 채널을 변경시키는 제어 신호를 TV로 전송함으로써, TV에서 출력되는 채널이 변경되도록 제어할 수 있다.
이하, 본 발명에 따른 이동 로봇(100)이 상황에 따라 다양한 가전 장치를 제어하는 실시예를 설명한다.
본 발명에 따른 이동 로봇(100)은, 오브젝트를 감지하는 센싱부(미도시)를 더 포함할 수 있다. 센싱부는, 일정 부피를 가지는 오브젝트를 감지할 수 있는 장치이다. 예를 들어, 센싱부는, 적외선 센서, 초음파 센서, 레이더, 및 라이다 중 적어도 하나를 포함할 수 있다. 이동 로봇(100)은 적어도 하나의 센싱부를 구비할 수 있다.
제어부(140)는, 센싱부를 통하여 본체 주변에 존재하는 오브젝트를 감지할 수 있다. 센싱부는, 오브젝트가 감지되는 경우, 오브젝트가 감지된 거리 및 방향에 대한 오브젝트 정보를 제어부(140)에 전달할 수 있다. 제어부(140)는, 센싱부가 전달하는 오브젝트 정보에 기초하여, 본체 주변에서 감지되는 오브젝트 위치를 판단할 수 있다.
제어부(140)는, 주행 구역에 배치된 복수의 가전 장치로부터 획득되는 정보, 영상획득부(120)를 통하여 획득되는 영상 정보, 센싱부를 통하여 획득되는 오브젝트 정보, 및 통신부(190)를 통하여 획득되는 정보 중 적어도 하나에 기초하여, 복수의 가전 장치 중 적어도 하나를 제어할 수 있다.
본 발명의 일 실시예에서, 제어부(140)는, 주행 구역 내에서 청소를 수행하는 경우, 복수의 가전 장치 중 공기 상태를 감지하는 가전 장치로부터 획득되는 정보에 기초하여, 공기 상태를 판단하고, 판단된 공기 상태에 대응하여, 복수의 가전 장치 중 공기 상태에 영향을 미치는 가전 장치를 제어할 수 있다.
공기 상태는, 온도, 습도, 기압, 및 먼지의 양 중 적어도 하나를 포함하는 것이다. 공기 상태를 감지하는 가전 장치는, 온도, 습도, 기압, 및 먼저의 양 중 적어도 하나를 측정하는 장치일 수 있다. 예를 들어, 공기 상태를 감지하는 가전 장치는, 공기 조화기 또는 각종 측정 장치일 수 있다.
제어부(140)는, 청소를 수행하는 경우, 주행 구역 내에 존재하는 복수의 가전 장치 중 공기 상태에 영향을 미치는 가전 장치를 제어함으로써, 공기 상태를 조정할 수 있다. 공기 상태에 영향을 미치는 가전 장치는, 공기 조화기, 선풍기, 난방 장치, 냉방 장치, 공기 청정기 및 환풍기 등을 포함할 수 있다.
예를 들어, 제어부(140)는, 청소를 수행하는 경우, 공기 상태를 감지하는 가전 장치로부터 획득되는 정보에 기초하여, 주행 구역 내 먼지의 양이 설정량 이상인 것으로 판단되는 경우, 먼지의 양이 감소하도록, 주행 구역에 존재하는 공기 조화기, 공기 청정기, 및 환풍기 중 적어도 하나를 동작시킬 수 있다. 상기 설정량은, 먼지의 양에 대한 기준 값으로 실험에 의하여 결정될 수 있다. 설정량은 사용자가 설정할 수 있고, 저장부(150)에 저장된 값일 수 있다.
예를 들어, 제어부(140)는, 청소를 수행하는 경우, 획득되는 정보에 기초하여, 주행 구역의 온도, 습도, 및 기압 중 적어도 하나가 설정 범위를 벗어난 것으로 판단되는 경우, 온도, 습도, 및 기압 중 상기 설정 범위를 벗어난 값이 상기 설정 범위 내로 조정되도록, 주행 구역에 존재하는 공기 조화기, 공기 청정기, 냉방 장치, 난방 장치, 선풍기, 및 환풍기 중 적어도 하나를 동작시킬 수 있다. 상기 설정 범위는, 온도, 습도, 및 기압 각각에 대한 기준 범위일 수 있다. 설정 범위는 실험에 의하여 결정되거나 사용자가 설정한 것일 수 있다. 사용자가 설정한 설정 범위는, 저장부(150)에 저장될 수 있다.
본 발명의 일 실시예에서, 제어부(140)는, 방범 모드에서, 오브젝트 정보 및 영상 정보 중 적어도 하나에 기초하여, 이동하는 오브젝트가 존재한다고 판단되는 경우, 조명 장치를 동작시키고, 연락 장치를 통하여 비상 연락을 수행하고, 획득되는 영상을 저장할 수 있다.
방범 모드는, 이동 로봇(100)의 동작 모드 중 하나일 수 있다. 방범 모드에서 이동 로봇(100)은, 주행 구역에 제3자가 침입하는 것을 방지하기 위하여 침입자의 존재를 판단하고, 침입자가 감지되는 경우 이에 대응하는 동작을 수행할 수 있다.
제어부(140)는, 방범 모드에서 센싱부가 제공하는 오브젝트 정보 및 영상획득부(120)가 제공하는 영상에 기초하여, 주행 구역에 침입자가 존재하는지 판단할 수 있다. 방범 모드에서, 제어부(140)는, 이동 로봇(100)이 주행 구역의 모든 영역을 감지할 수 있도록, 본체를 주행 구역 내에서 이동시킬 수 있다. 제어부(140)는, 본체의 이동 중, 오브젝트 정보 및 영상 정보 중 적어도 하나에 기초하여, 이동하는 오브젝트가 감지되는 경우, 감지되는 오브젝트가 침입자라고 판단할 수 있다.
제어부(140)는, 침입자가 감지되는 경우, 가전 장치에 포함되는 주행 구역 내의 조명 장치를 점등되도록 제어할 수 있다. 이에 따라, 주행 구역이 밝아지므로, 사용자가 침입자를 인지하거나, 영상획득부(120)를 통하여 침입자에 대한 영상을 획득하는 것이 용이해질 수 있다.
제어부(140)는, 침입자가 감지되는 경우, 가전 장치에 포함되는 연락 장치를 통하여 비상 연락을 수행할 수 있다. 연락 장치는, 기 설정된 단말기로 메시지나 통화를 발신할 수 있는 장치이다. 비상 연락을 연락 장치가 기 설정된 단말기로 메시지나 통화를 발신하는 것일 수 있다. 예를 들어, 주행 구역에 존재하는 전화 장치는, 침입자가 감지되는 경우, 기 설정된 경찰서의 단말기로 전화를 발신함으로써, 비상 연락을 수행할 수 있다.
제어부(140)는, 침입자가 감지되는 경우, 영상획득부(120)를 통하여 획득되는 영상을 저장부(150)에 저장할 수 있다. 제어부(140)는, 침입자가 검출되는 영상을 기 설정된 단말기에 전송할 수도 있다. 침입자가 나오는 영상은 차후 증거로 활용될 수 있다.
본 발명의 일 실시예에서, 제어부(140)는, 영상 정보에 기초하여 본체의 위치를 판단함에 있어서 조도가 필요한 것으로 판단되는 경우, 복수의 조명 장치 중 본체의 위치에 대응하는 적어도 하나를 점등시킬 수 있다.
제어부(140)는, 영상획득부(120)를 통하여 감지되는 조도가 설정 조도 이하인 경우, 가전 장치 맵에 기초하여, 주행 구역에 배치된 복수 개의 조명 장치 중, 본체(110)의 위치에 대응하는 것을 온 시킬 수 있다. 설정 조도는, 제어부(140)가 영상을 통하여 본체(110)의 위치를 판단하기 요구되는 최소한의 조도일 수 있다. 또한, 설정 조도는, 제어부(140)가 영상획득부(120)가 획득한 영상을 통하여 주변 장애물이나 주변 환경을 감지하고 판단하기 위하여 요구되는 조도일 수 있다. 설정 조도는 실험에 의하여 결정된 값일 수 있고 저장부에 저장된 값일 수 있다.
이동 로봇(100) 주변 환경의 조도가 이미 충분한 경우, 조명 장치를 온 시켜서 조도를 확보할 필요가 없으므로, 제어부(140)는, 주변 조도가 설정 조도를 초과하는 경우, 본체의 위치에 대응하는 조명 장치를 소등시킴으로써, 에너지를 절약할 수 있다.
주행 구역(600)은, 복수 개의 방을 포함할 수 있고, 복수 개의 방에는, 각각 적어도 하나의 조명 장치(501, 502, 504, 505, 506, 507)가 배치될 수 있다. 이 경우, 가전 장치 맵은, 복수 개의 방 및 복수 개의 조명 장치(501, 502, 504, 505, 506, 507)가 나타날 수 있다.
제어부(140)는, 가전 장치 맵에 기초하여, 본체(110)가 진입하는 방에 배치된 조명 장치를 온 시킬 수 있다. 제어부(140)는, 본체(110)가 진입하는 방에 배치된 조명 장치를 온 시킴으로써, 주변 감지에 필요한 조도를 확보할 수 있다.
제어부(140)는, 가전 장치 맵에 기초하여, 본체(110)가 퇴장하는 방에 배치된 조명 장치를 오프 시킬 수 있다. 제어부(140)는, 본체(110)가 퇴장하는 방의 조명 장치를 오프시킴으로써, 에너지를 절약할 수 있다.
예를 들어, 본체(110)가 제 2 조명장치(502)가 설치된 룸에 진입하는 경우 제 2 조명장치를 온시키고, 해당 룸에서 퇴장시에 제 2 조명장치(502)가 오프되도록 제어할 수 있다.
제어부(140)는, 이동 로봇(100)이 진입하는 방의 조명 장치(501, 502, 504, 505, 506, 507)를 온 시키고, 진입했던 방에서 퇴장하는 경우 퇴장하는 방의 조명의 오프시킴으로써, 에너지 효율을 극대화할 수 있다.
본 발명의 다른 일 실시예에 따르면, 제어부(140)는, 영상획득부(120)를 통하여 획득되는 영상에 기초하여, 본체(110)의 위치를 판단하고, 영상의 조도가 낮아서 상기 본체(110)의 위치를 판단할 수 없다고 판단되는 경우, 복수 개의 조명 장치(501, 502, 504, 505, 506, 507)를 모두 온 시킬 수 있다. 주행 구역(600)에 배치된 조명 장치(501, 502, 504, 505, 506, 507)의 위치가 판단되지 않은 경우, 각 조명 장치의 위치를 알 수 없으므로, 제어부(140)는, 이동 로봇(100)의 현재 위치를 판단하기 위해서 추가적인 조도 확보가 필요하다고 판단되는 경우, 주행 구역(600) 내 모든 조명 장치(501, 502, 504, 505, 506, 507)를 온 시킬 수 있다.
본체(110)의 위치를 판단하기 위하여 필요한 최소한의 조도는 실험에 의하여 결정되어 저장부에 기 저장된 값일 수 있다. 제어부(140)는, 조명 장치의 위치를 알 수 없고, 현재 조도가 상기 최소한의 조도 이하인 경우, 주행 구역(600) 내 모든 조명 장치(501, 502, 504, 505, 506, 507)를 온 시킴으로써, 조도를 확보한 후, 이동 로봇(100)의 현재 위치를 판단할 수 있다.
본 발명의 실시예를 구성하는 모든 구성 요소들이 하나로 결합되어 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시예에 한정되는 것은 아니다. 본 발명의 목적 범위 안에서라면, 실시예에 따라서는 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다.

Claims (13)

  1. 본체;
    상기 본체를 이동시키는 주행부;
    영상을 획득하는 영상획득부; 및
    상기 본체가 주행 구역 내에서 이동하도록 상기 주행부를 제어하는 제어부;
    를 포함하고,
    상기 제어부는,
    상기 영상획득부를 통하여 획득되는 영상에 기초하여, 상기 주행 구역 내 배치된 가전 장치의 종류 및 위치를 판단하는 이동 로봇.
  2. 제1항에 있어서,
    상기 제어부는,
    상기 영상에 기초하여 딥러닝을 수행함으로써, 상기 가전 장치의 종류를 판단하는 이동 로봇.
  3. 제1항에 있어서,
    상기 주행 구역의 맵이 저장된 저장부; 를 더 포함하고,
    상기 제어부는,
    상기 주행 구역의 맵에 기초하여, 상기 가전 장치의 종류 및 위치 중 적어도 하나가 표시된 상기 주행 구역의 맵인 가전 장치 맵을 생성하고,
    상기 가전 장치 맵을, 기 설정된 이동 단말기 또는 출력부 중 적어도 하나를 통하여 출력하는 이동 로봇.
  4. 제1항에 있어서,
    통신부; 를 더 포함하고,
    상기 제어부는,
    상기 통신부를 통하여 수신되는 정보에 기초하여, 상기 가전 장치가 통신 가능한 장치인지 판단하고,
    상기 가전 장치가 통신 가능한 장치인 경우, 상기 영상획득부가 획득하는 영상, 및 상기 가전 장치가 전송하는 정보 중 적어도 하나에 기초하여, 상기 가전 장치의 동작 상태를 판단하는 이동 로봇.
  5. 제4항에 있어서,
    상기 제어부는,
    상기 가전 장치가 통신 가능한 장치가 아닌 경우, 상기 영상에 나타나는 상기 가전 장치의 이미지에 기초하여, 상기 가전 장치의 동작 상태를 판단하는 이동 로봇.
  6. 제5항에 있어서,
    상기 주행 구역의 맵이 저장된 저장부; 를 더 포함하고,
    상기 제어부는,
    상기 가전 장치의 종류, 위치, 및 동작 상태 중 적어도 하나가 표시된 상기 주행 구역의 맵인 가전 장치 맵을,
    기 설정된 이동 단말기 또는 출력부 중 적어도 하나를 통하여 출력하는 이동 로봇.
  7. 제4항에 있어서,
    상기 주행 구역의 맵이 저장된 저장부; 를 더 포함하고,
    상기 제어부는,
    상기 가전 장치의 원격 제어 가부를 판단하고,
    상기 가전 장치의 종류, 위치, 및 원격 제어 가부 중 적어도 하나가 표시된 상기 주행 구역의 맵인 가전 장치 맵을,
    기 설정된 이동 단말기 또는 출력부 중 적어도 하나를 통하여 출력하는 이동 로봇.
  8. 제7항에 있어서,
    상기 제어부는,
    상기 이동 단말기 또는 입력부를 통하여, 상기 가전 장치 맵에 나타난 복수의 가전 장치 중 하나에 대한 제어 명령이 수신되는 경우,
    상기 제어 명령에 기초하여, 선택된 가전 장치를 원격 제어하는 이동 로봇.
  9. 제8항에 있어서,
    상기 제어부는,
    상기 선택된 가전 장치의 원격 제어 방식에 대응하는 제어 가능 영역으로 상기 본체를 이동시키고, 상기 선택된 가전 장치를 원격 제어하는 이동 로봇.
  10. 제4항에 있어서,
    오브젝트를 감지하는 센싱부; 를 더 포함하고,
    상기 제어부는,
    상기 주행 구역에 배치된 복수의 가전 장치로부터 획득되는 정보, 상기 영상획득부를 통하여 획득되는 영상 정보, 상기 센싱부를 통하여 획득되는 오브젝트 정보, 및 상기 통신부를 통하여 획득되는 정보 중 적어도 하나에 기초하여, 상기 복수의 가전 장치 중 적어도 하나를 제어하는 이동 로봇.
  11. 제10항에 있어서,
    상기 제어부는,
    상기 주행 구역 내에서 청소를 수행하는 경우,
    상기 복수의 가전 장치 중 공기 상태를 감지하는 가전 장치로부터 획득되는 정보에 기초하여, 공기 상태를 판단하고,
    상기 판단된 공기 상태에 대응하여, 상기 복수의 가전 장치 중 공기 상태에 영향을 미치는 가전 장치를 제어하는 이동 로봇.
  12. 제10항에 있어서,
    상기 복수의 가전 장치는, 조명 장치, 및 연락 장치를 포함하고,
    상기 제어부는,
    방범 모드에서, 상기 오브젝트 정보 및 상기 영상 정보 중 적어도 하나에 기초하여, 이동하는 오브젝트가 존재한다고 판단되는 경우,
    상기 조명 장치를 동작시키고, 상기 연락 장치를 통하여 비상 연락을 수행하고, 획득되는 영상을 저장하는 이동 로봇.
  13. 제10항에 있어서,
    상기 복수의 가전 장치는, 주행 구역에 배치된 복수의 조명 장치를 포함하고,
    상기 제어부는,
    상기 영상 정보에 기초하여 상기 본체의 위치를 판단함에 있어서 조도가 필요한 것으로 판단되는 경우,
    상기 복수의 조명 장치 중 상기 본체의 위치에 대응하는 적어도 하나를 점등시키는 이동 로봇.
PCT/KR2018/001101 2017-01-25 2018-01-25 이동 로봇 WO2018139865A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/480,775 US11317778B2 (en) 2017-01-25 2018-01-25 Mobile robot

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2017-0012266 2017-01-25
KR1020170012266A KR101976424B1 (ko) 2017-01-25 2017-01-25 이동 로봇

Publications (1)

Publication Number Publication Date
WO2018139865A1 true WO2018139865A1 (ko) 2018-08-02

Family

ID=62979545

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/001101 WO2018139865A1 (ko) 2017-01-25 2018-01-25 이동 로봇

Country Status (3)

Country Link
US (1) US11317778B2 (ko)
KR (1) KR101976424B1 (ko)
WO (1) WO2018139865A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110281245A (zh) * 2019-05-24 2019-09-27 山东新海软件股份有限公司 一种基于可移动底座的桌面小型机器人及其控制方法

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190216283A1 (en) * 2018-01-16 2019-07-18 Avidbots Corp Detecting degradation of back squeegee water pick-up performance for autonomous floor scrubbers
KR102528737B1 (ko) * 2018-04-27 2023-05-08 삼성전자주식회사 외부 전자 장치를 제어하는 전자 장치 및 방법
KR102293551B1 (ko) 2018-07-27 2021-08-24 주식회사 엘지화학 점착제 조성물, 이를 포함하는 점착 필름, 점착 필름을 포함하는 백플레이트 필름 및 점착 필름을 포함하는 플라스틱 유기 발광 디스플레이
KR102544072B1 (ko) * 2018-09-04 2023-06-15 엘지전자 주식회사 로봇 청소기 및 그 로봇 청소기의 제어 방법
KR102285427B1 (ko) * 2018-11-28 2021-08-03 서울대학교산학협력단 물체 레이블을 활용한 Visual SLAM에서의 영상 특징점 강화 방법 및 장치
WO2020111844A2 (ko) * 2018-11-28 2020-06-04 서울대학교 산학협력단 물체 레이블을 활용한 비주얼 슬램에서의 영상 특징점 강화 방법 및 장치
KR102111268B1 (ko) 2018-11-30 2020-05-18 주식회사 이루미 환기용 공기청정기와 자율주행용 공기청정기를 이용한 실내공기 정화 시스템
CN109849005A (zh) * 2018-12-30 2019-06-07 周帆 一种可滑动便于拆卸的应急救援机器人
KR102508073B1 (ko) * 2019-03-25 2023-03-08 엘지전자 주식회사 이동 로봇 및 이동 로봇의 제어방법
EP3915048A4 (en) 2019-06-03 2022-03-30 Samsung Electronics Co., Ltd. ELECTRONIC OBJECT RECOGNITION APPARATUS AND METHOD FOR OPERATING IT
KR102242744B1 (ko) * 2019-06-14 2021-04-20 고려대학교 산학협력단 이동 로봇과 이동 로봇의 엘리베이터 인식 방법
KR20210081048A (ko) * 2019-12-23 2021-07-01 엘지전자 주식회사 운송 로봇 및 그의 작동 방법
CN113616112A (zh) * 2020-05-07 2021-11-09 云米互联科技(广东)有限公司 扫地机控制方法、系统、扫地机及计算机可读存储介质
KR102412945B1 (ko) * 2020-10-23 2022-06-24 선문대학교 산학협력단 스마트 리빙 케어 로봇
KR20220090716A (ko) * 2020-12-23 2022-06-30 삼성전자주식회사 전자 장치 및 전자 장치에서 외부 장치들을 공간별로 그룹핑 하는 방법
USD989426S1 (en) * 2021-01-20 2023-06-13 Vorwerk & Co. Interholding Gmbh Robot vacuum cleaner
CN113110481B (zh) * 2021-04-26 2024-02-06 上海智蕙林医疗科技有限公司 一种应急避让实现方法、系统、机器人和存储介质
AT17724U1 (de) * 2021-06-10 2022-12-15 Ars Electronica Linz Gmbh & Co Kg System zur räumlich begrenzten Aktivierung einer Steuereinheit
KR20230012368A (ko) * 2021-07-15 2023-01-26 삼성전자주식회사 청소 로봇을 제어하는 전자 장치 및 그 동작 방법
KR20230029427A (ko) * 2021-08-24 2023-03-03 삼성전자주식회사 로봇 청소기 및 그의 위치 식별 방법
KR20240014178A (ko) * 2022-07-25 2024-02-01 삼성전자주식회사 진단 로봇 및 그 진단 방법
KR20240028574A (ko) * 2022-08-24 2024-03-05 삼성전자주식회사 전자 장치를 관리하는 로봇 및 그 제어 방법
CN116319501B (zh) * 2023-05-25 2023-09-05 深圳市英创立电子有限公司 一种获取设备运行参数的网络系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010106845A (ko) * 2000-05-23 2001-12-07 이정철 다기능 가정용 로봇 및 그의 제어방법
KR20020088880A (ko) * 2001-05-22 2002-11-29 안현기 다기능 로봇 및 그 제어 방법
KR100619745B1 (ko) * 2004-09-23 2006-09-12 엘지전자 주식회사 로봇 청소기를 이용한 원격 가전 제어시스템 및 방법
JP2015197250A (ja) * 2014-04-01 2015-11-09 株式会社東芝 空気調和機と自走式掃除機の連携システム
JP2016167200A (ja) * 2015-03-10 2016-09-15 東芝ライテック株式会社 表示制御システム、表示制御方法及び表示制御プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100812506B1 (ko) * 2002-05-31 2008-03-11 후지쯔 가부시끼가이샤 원격 조작 로봇 및 로봇 자기 위치 추정 방법
US20100231506A1 (en) * 2004-09-07 2010-09-16 Timothy Pryor Control of appliances, kitchen and home
US9436276B2 (en) * 2009-02-25 2016-09-06 Microsoft Technology Licensing, Llc Second-person avatars
KR101764251B1 (ko) * 2011-04-19 2017-08-04 삼성전자주식회사 전력 사용 상태 표시 방법 및 이를 적용한 휴대기기
US20130214935A1 (en) * 2011-08-22 2013-08-22 Lg Electronics Inc. Information management system for home appliance
JP6064260B2 (ja) * 2012-02-28 2017-01-25 パナソニックＩｐマネジメント株式会社 制御情報表示装置、制御情報表示方法、および、制御情報表示システム
EP2827605B1 (en) * 2012-03-12 2016-09-28 NTT DoCoMo, Inc. Remote control system, remote control method, communication device and program
KR20130137379A (ko) * 2012-06-07 2013-12-17 삼성전자주식회사 홈 네트워크에서 사용자 정보를 저장하는 장치 및 방법
KR102058918B1 (ko) * 2012-12-14 2019-12-26 삼성전자주식회사 홈 모니터링 방법 및 장치
US20140316594A1 (en) * 2013-04-17 2014-10-23 Green Edge Technologies, Inc. Systems, devices, and methods for reducing safety risk and optimizing energy use
KR102061511B1 (ko) * 2013-04-26 2020-01-02 삼성전자주식회사 청소 로봇, 홈 모니터링 장치 및 그 제어 방법
US20170176967A1 (en) * 2014-07-25 2017-06-22 Sony Corporation Control apparatus, control method, information processing apparatus, information processing method, and program
US10091015B2 (en) * 2014-12-16 2018-10-02 Microsoft Technology Licensing, Llc 3D mapping of internet of things devices
KR101659037B1 (ko) * 2015-02-16 2016-09-23 엘지전자 주식회사 로봇 청소기, 이를 포함하는 원격 제어 시스템 및 이의 제어 방법
KR20160118924A (ko) * 2015-04-03 2016-10-12 백인기 실,내외 환경 변화에 따른 스마트홈 시스템
US9408041B1 (en) * 2015-04-24 2016-08-02 Insensi, Inc. Premise occupancy detection based on smartphone presence
US10203748B2 (en) * 2015-06-30 2019-02-12 Google Llc Systems and methods for efficiently communicating between low-power devices

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010106845A (ko) * 2000-05-23 2001-12-07 이정철 다기능 가정용 로봇 및 그의 제어방법
KR20020088880A (ko) * 2001-05-22 2002-11-29 안현기 다기능 로봇 및 그 제어 방법
KR100619745B1 (ko) * 2004-09-23 2006-09-12 엘지전자 주식회사 로봇 청소기를 이용한 원격 가전 제어시스템 및 방법
JP2015197250A (ja) * 2014-04-01 2015-11-09 株式会社東芝 空気調和機と自走式掃除機の連携システム
JP2016167200A (ja) * 2015-03-10 2016-09-15 東芝ライテック株式会社 表示制御システム、表示制御方法及び表示制御プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110281245A (zh) * 2019-05-24 2019-09-27 山东新海软件股份有限公司 一种基于可移动底座的桌面小型机器人及其控制方法

Also Published As

Publication number Publication date
KR20180087779A (ko) 2018-08-02
US11317778B2 (en) 2022-05-03
US20190387945A1 (en) 2019-12-26
KR101976424B1 (ko) 2019-05-09

Similar Documents

Publication Publication Date Title
WO2018139865A1 (ko) 이동 로봇
WO2018160035A1 (ko) 이동 로봇 및 그 제어방법
WO2018038488A1 (ko) 이동 로봇 및 그 제어방법
WO2018124682A2 (ko) 이동 로봇 및 그 제어방법
WO2018135870A1 (en) Mobile robot system and control method thereof
WO2018139796A1 (ko) 이동 로봇 및 그의 제어 방법
WO2017188800A1 (ko) 이동 로봇 및 그 제어방법
WO2021006677A2 (en) Mobile robot using artificial intelligence and controlling method thereof
WO2020139064A1 (en) Cleaning robot and method of performing task thereof
WO2019066444A1 (en) MOBILE ROBOT AND CONTROL METHOD
WO2021006556A1 (en) Moving robot and control method thereof
WO2016200098A1 (ko) 이동 로봇 및 그 제어방법
WO2018155999A2 (en) Moving robot and control method thereof
WO2018117616A1 (ko) 이동 로봇
WO2018143620A2 (en) Robot cleaner and method of controlling the same
WO2019017521A1 (ko) 청소기 및 그 제어방법
AU2020362530B2 (en) Robot cleaner and method for controlling the same
WO2019004742A1 (ko) 이동 로봇과 이동 단말기를 포함하는 로봇 시스템
WO2021006674A2 (ko) 이동 로봇 및 그 제어방법
WO2020256370A1 (en) Moving robot and method of controlling the same
WO2020251096A1 (ko) 인공 지능 로봇 및 그의 동작 방법
WO2021020621A1 (ko) 인공지능 무빙 에이전트
WO2022097859A1 (ko) 가전 기기 및 이의 제어 방법
WO2021006547A2 (en) Moving robot and method of controlling the same
EP3562369A2 (en) Robot cleaner and method of controlling the same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18745089

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18745089

Country of ref document: EP

Kind code of ref document: A1