WO2020190082A1 - 이동 단말기를 이용한 내비게이션 서비스 제공 방법 및 이동 단말기 - Google Patents

이동 단말기를 이용한 내비게이션 서비스 제공 방법 및 이동 단말기 Download PDF

Info

Publication number
WO2020190082A1
WO2020190082A1 PCT/KR2020/003849 KR2020003849W WO2020190082A1 WO 2020190082 A1 WO2020190082 A1 WO 2020190082A1 KR 2020003849 W KR2020003849 W KR 2020003849W WO 2020190082 A1 WO2020190082 A1 WO 2020190082A1
Authority
WO
WIPO (PCT)
Prior art keywords
mobile terminal
map data
navigation
section
mode
Prior art date
Application number
PCT/KR2020/003849
Other languages
English (en)
French (fr)
Inventor
정두경
최성환
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US17/440,933 priority Critical patent/US12018947B2/en
Publication of WO2020190082A1 publication Critical patent/WO2020190082A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/029—Location-based management or tracking services
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/3407—Route searching; Route guidance specially adapted for specific applications
    • G01C21/3423—Multimodal routing, i.e. combining two or more modes of transportation, where the modes can be any of, e.g. driving, walking, cycling, public transport
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3647—Guidance involving output of stored or live camera images or video streams
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3688—Systems comprising multiple parts or multiple output devices (not client-server), e.g. detachable faceplates, key fobs or multiple output screens
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42—Determining position
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/023—Services making use of location information using mutual or relative location information between multiple location based services [LBS] targets or of distance thresholds
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H04W4/024—Guidance services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]

Definitions

  • the present specification relates to a method of providing a navigation service using a mobile terminal.
  • Vehicles can be classified into internal combustion engine vehicles, external combustion engine vehicles, gas turbine vehicles, or electric vehicles, depending on the type of prime mover used.
  • the navigation function provided by the vehicle may guide a route to a destination through a navigation provided in the vehicle.
  • the destination is a location where the vehicle cannot enter, the driver must perform a new task to receive the route guidance service to the final destination after getting off the vehicle.
  • the present specification aims to solve the aforementioned necessities and/or problems.
  • the present specification aims to provide a navigation service method using a mobile terminal capable of providing a navigation service seamlessly through a vehicle and a mobile device.
  • the present specification aims to provide a navigation service method using a mobile terminal capable of psychologically maintaining switching between the vehicle mode and the mobile mode when there is a section in which the vehicle cannot enter the route guidance section. .
  • the present specification aims to provide a navigation service method using a mobile terminal capable of more efficiently performing route guidance to a final destination by extending the navigation mode from vehicle mode to mobile mode through one destination setting. do.
  • a method of providing a navigation service in a mobile terminal includes: searching for a route to a destination; Determining whether at least one mode change section requiring a change of a navigation mode exists among the searched routes; And when it is determined that the mode change section has entered, changing map data, which is a basis for route guidance, from first map data to second map data, and controlling the navigation service to be continuously provided in the changed navigation mode.
  • the determining whether there is a change section of the navigation mode comprises determining whether there is at least one section requiring the route guidance based on the map data configured through different positioning methods among the searched routes. It may include; determining step.
  • the map data may include at least one of map data configured through GPS positioning technology and map data configured through SLAM positioning technology.
  • the second map data is displayed without resetting the destination Based on this, a route to the destination can be guided.
  • a distance between a current position of the mobile terminal and a start point of the first section is less than a predetermined distance, it may be determined that the first section has been entered.
  • the first map data is map data configured through GPS positioning technology, and when the current location of the mobile terminal enters the first section, the second map data is downloaded through the wireless communication unit.
  • Receiving step may further include.
  • the mobile terminal when entering within a predetermined distance between the current location of the mobile terminal and the start point of the first section, it may be determined that the first section has been entered.
  • the navigation mode may include at least one of a first mode providing a navigation screen through at least one vehicle display, and a second mode providing the navigation screen through a display unit of the mobile terminal. have.
  • the first mode when a predetermined condition is satisfied, the first mode is switched from the first mode to the second mode, or the second mode is switched to the first mode, and the first mode is in a state in which the navigation service is continuously performed. Mutual switching between the and the second mode can be made.
  • the predetermined condition is determined by a combination of at least one of vehicle sensor data and sensor data of the mobile terminal, and whether the vehicle is stopped or whether the mobile terminal moves to the inside or outside of the vehicle. It may further include determining whether or not to move.
  • the navigation screen displayed on the mobile terminal may be provided as a mirroring screen on the vehicle display.
  • it may further include determining that the mode change section has been entered based on at least one of vehicle sensor data received through a wireless communication unit or sensor data of the mobile terminal.
  • the steps of: obtaining an image for configuring a navigation screen through at least one camera; Generating an AR image in which AR information is mapped to the image; And providing the navigation service in an AR mode; may further include.
  • the camera may include at least one of at least one camera provided in the mobile terminal and at least one camera provided in the vehicle.
  • the image may include a driving streaming image received from a network through a wireless communication unit.
  • the first map data may be map data stored in a memory of the mobile terminal
  • the second map data may be map data for providing a navigation service in an indoor space.
  • the destination when the destination is input, displaying a service available menu according to a change of the navigation mode on a display; And providing summary information of the navigation service for each mode change section.
  • a mobile terminal includes a wireless communication unit; A memory for storing map data; An input unit for receiving a destination; And searching for a route to the destination, determining whether at least one mode change section requiring a change of a navigation mode exists among the searched routes, and when it is determined that the mode change section has entered, a basis for route guidance And a processor that changes map data from first map data to second map data and controls the navigation service to be continuously provided in the changed navigation mode.
  • An intelligent device providing a navigation function includes: a wireless communication unit, an input unit, and a sensing unit including at least one sensor; And a processor; A memory including an instruction executable by the processor; and wherein the instruction searches for a route to a destination, and determines whether at least one mode change section requiring a change of a navigation mode among the searched routes exists, and When it is determined that the mode change section has been entered, the map data, which is the basis for the route guidance, is changed from the first map data to the second map data, and the navigation service is continuously provided in the changed navigation mode.
  • a method of providing a navigation service using a mobile terminal according to the present specification and an effect of the mobile terminal will be described as follows.
  • a navigation service may be provided seamlessly through a vehicle and a mobile device.
  • FIG. 1 is a diagram for describing a system to which the present specification can be applied.
  • FIG. 2 is a block diagram illustrating a mobile terminal related to the present specification.
  • FIG. 3 is a conceptual diagram illustrating a seamless navigation service disclosed in the present specification.
  • FIG. 4 is a flowchart of a method for providing a navigation service of a mobile terminal according to an embodiment of the present specification.
  • FIG. 5 is a flowchart of a method of providing a navigation service while changing a navigation mode according to an embodiment of the present specification.
  • FIG. 6 is a diagram for illustratively explaining a mode change required period according to an embodiment of the present specification.
  • FIG. 8 is a conceptual diagram illustrating a seamless navigation service using a mobile terminal according to an embodiment of the present specification.
  • 9 to 10 are exemplary diagrams for setting a navigation service using a mobile terminal according to an embodiment of the present specification.
  • 11 to 12 illustrate an example of providing an AR navigation screen according to an embodiment of the present specification.
  • FIG. 13 to 15 are diagrams for explaining a method of providing a navigation service using a mobile terminal according to an embodiment of the present invention when entering a parking lot in the drawing shown in FIG. 8.
  • 16 to 17 are diagrams for explaining a method of providing a navigation service using a mobile terminal according to an embodiment of the present invention when entering an indoor building in the drawing shown in FIG. 8.
  • FIG. 18 is a diagram illustrating output of a navigation screen according to a navigation service using a mobile terminal in consideration of sensing information according to an embodiment of the present specification.
  • the three main requirements areas for 5G are (1) Enhanced Mobile Broadband (eMBB) area, (2) Massive Machine Type Communication (mMTC) area, and (3) ultra-reliability and It includes a low-latency communication (Ultra-reliable and Low Latency Communications, URLLC) area.
  • eMBB Enhanced Mobile Broadband
  • mMTC Massive Machine Type Communication
  • URLLC Low Latency Communications
  • KPI key performance indicator
  • eMBB goes far beyond basic mobile Internet access and covers rich interactive work, media and entertainment applications in the cloud or augmented reality.
  • Data is one of the key drivers of 5G, and it may not be possible to see dedicated voice services for the first time in the 5G era.
  • voice is expected to be processed as an application program simply using the data connection provided by the communication system.
  • the main reasons for the increased traffic volume are an increase in content size and an increase in the number of applications requiring high data rates.
  • Streaming services (audio and video), interactive video and mobile Internet connections will become more widely used as more devices connect to the Internet. Many of these applications require always-on connectivity to push real-time information and notifications to the user.
  • Cloud storage and applications are increasing rapidly in mobile communication platforms, which can be applied to both work and entertainment.
  • cloud storage is a special use case that drives the growth of the uplink data rate.
  • 5G is also used for remote work in the cloud, and requires much lower end-to-end delays to maintain a good user experience when tactile interfaces are used.
  • Entertainment For example, cloud gaming and video streaming is another key factor that is increasing the demand for mobile broadband capabilities. Entertainment is essential on smartphones and tablets anywhere, including high mobility environments such as trains, cars and airplanes.
  • Another use case is augmented reality and information retrieval for entertainment.
  • augmented reality requires very low latency and an instantaneous amount of data.
  • one of the most anticipated 5G use cases relates to the ability to seamlessly connect embedded sensors in all fields, i.e. mMTC.
  • mMTC massive machine type computer
  • Industrial IoT is one of the areas where 5G plays a major role in enabling smart cities, asset tracking, smart utilities, agriculture and security infrastructure.
  • URLLC includes new services that will transform the industry with ultra-reliable/low-latency links such as self-driving vehicles and remote control of critical infrastructure.
  • the level of reliability and delay is essential for smart grid control, industrial automation, robotics, drone control and coordination.
  • 5G can complement fiber-to-the-home (FTTH) and cable-based broadband (or DOCSIS) as a means of providing streams rated at hundreds of megabits per second to gigabits per second. This high speed is required to deliver TV in 4K or higher (6K, 8K and higher) resolution as well as virtual reality and augmented reality.
  • Virtual Reality (VR) and Augmented Reality (AR) applications involve almost immersive sports events. Certain application programs may require special network settings. In the case of VR games, for example, game companies may need to integrate core servers with network operators' edge network servers to minimize latency.
  • Automotive is expected to be an important new driving force in 5G, with many use cases for mobile communication to vehicles. For example, entertainment for passengers demands simultaneous high capacity and high mobility mobile broadband. The reason is that future users will continue to expect high-quality connections, regardless of their location and speed.
  • Another application example in the automotive field is an augmented reality dashboard. It identifies an object in the dark on top of what the driver is looking through the front window, and displays information that tells the driver about the distance and movement of the object overlaid.
  • wireless modules enable communication between vehicles, exchange of information between the vehicle and supporting infrastructure, and exchange of information between the vehicle and other connected devices (eg, devices carried by pedestrians).
  • the safety system allows the driver to lower the risk of accidents by guiding alternative courses of action to make driving safer.
  • the next step will be a remote controlled or self-driven vehicle. It is very reliable and requires very fast communication between different self-driving vehicles and between the vehicle and the infrastructure. In the future, self-driving vehicles will perform all driving activities, and drivers will be forced to focus only on traffic anomalies that the vehicle itself cannot identify.
  • the technical requirements of self-driving vehicles call for ultra-low latency and ultra-fast reliability to increase traffic safety to levels unachievable by humans.
  • Smart cities and smart homes referred to as smart society, will be embedded with high-density wireless sensor networks.
  • a distributed network of intelligent sensors will identify the conditions for cost and energy-efficient maintenance of a city or home.
  • a similar setup can be done for each household.
  • Temperature sensors, window and heating controllers, burglar alarms and appliances are all wirelessly connected. Many of these sensors are typically low data rates, low power and low cost. However, for example, real-time HD video may be required in certain types of devices for surveillance.
  • the smart grid interconnects these sensors using digital information and communication technologies to collect information and act accordingly. This information can include the behavior of suppliers and consumers, allowing smart grids to improve efficiency, reliability, economics, sustainability of production and the distribution of fuels such as electricity in an automated way.
  • the smart grid can also be viewed as another low-latency sensor network.
  • the health sector has many applications that can benefit from mobile communications.
  • the communication system can support telemedicine providing clinical care from remote locations. This can help reduce barriers to distance and improve access to medical services that are not consistently available in remote rural areas. It is also used to save lives in critical care and emergencies.
  • a wireless sensor network based on mobile communication may provide remote monitoring and sensors for parameters such as heart rate and blood pressure.
  • Wireless and mobile communications are becoming increasingly important in industrial applications. Wiring is expensive to install and maintain. Thus, the possibility of replacing cables with reconfigurable wireless links is an attractive opportunity for many industries. However, achieving this requires that the wireless connection operates with a delay, reliability and capacity similar to that of the cable, and its management is simplified. Low latency and very low error probability are new requirements that need to be connected to 5G.
  • Logistics and freight tracking are important use cases for mobile communications that enable tracking of inventory and packages from anywhere using location-based information systems. Logistics and freight tracking use cases typically require low data rates, but require a wide range and reliable location information.
  • FIG. 1 is a diagram for describing a system to which the present specification can be applied.
  • the AI system includes at least one of an AI server 16, a robot 11, an autonomous vehicle 12, an XR device 13, a smartphone 14, or a home appliance 15. It is connected with (10).
  • the robot 11 to which the AI technology is applied, the autonomous vehicle 12, the XR device 13, the smartphone 14, or the home appliance 15 may be referred to as AI devices 11 to 15.
  • the cloud network 10 may constitute a part of the cloud computing infrastructure or may mean a network that exists in the cloud computing infrastructure.
  • the cloud network 10 may be configured using a 3G network, a 4G or Long Term Evolution (LTE) network, or a 5G network.
  • LTE Long Term Evolution
  • the devices 11 to 16 constituting the AI system may be connected to each other through the cloud network 10.
  • the devices 11 to 16 may communicate with each other through a base station, but may directly communicate with each other without passing through the base station.
  • the AI server 16 may include a server that performs AI processing and a server that performs an operation on big data.
  • the AI server 16 includes at least one of a robot 11, an autonomous vehicle 12, an XR device 13, a smartphone 14, or a home appliance 15, which are AI devices constituting an AI system, and a cloud network ( 10) is connected through, and can help at least part of the AI processing of the connected AI devices 11 to 15.
  • the AI server 16 may train an artificial neural network according to a machine learning algorithm in place of the AI devices 11 to 15, and may directly store the learning model or transmit it to the AI devices 11 to 15.
  • the AI server 16 receives input data from the AI devices 11 to 15, infers a result value for the received input data using a learning model, and a response or control command based on the inferred result value. Can be generated and transmitted to the AI devices (11 to 15).
  • the AI devices 11 to 15 may infer a result value for input data using a direct learning model, and generate a response or a control command based on the inferred result value.
  • the robot 11 is applied with AI technology and may be implemented as a guide robot, a transport robot, a cleaning robot, a wearable robot, an entertainment robot, a pet robot, an unmanned flying robot, and the like.
  • the robot 11 may include a robot control module for controlling an operation, and the robot control module may refer to a software module or a chip implemented with hardware.
  • the robot 11 acquires status information of the robot 11 by using sensor information acquired from various types of sensors, detects (recognizes) the surrounding environment and objects, generates map data, and travels and travels. It can decide a plan, decide a response to user interaction, or decide an action.
  • the robot 11 may use sensor information obtained from at least one sensor among a lidar, a radar, and a camera in order to determine a moving route and a driving plan.
  • the robot 11 may perform the above operations using a learning model composed of at least one artificial neural network.
  • the robot 11 may recognize a surrounding environment and an object using the learning model, and may determine an operation using the recognized surrounding environment information or object information.
  • the learning model may be directly learned by the robot 11 or learned by an external device such as the AI server 16.
  • the robot 11 may directly generate a result using a learning model to perform an operation, but transmits sensor information to an external device such as the AI server 16 and receives the result generated accordingly to perform the operation. You can also do it.
  • the robot 11 determines a movement route and a driving plan by using at least one of map data, object information detected from sensor information, or object information obtained from an external device, and controls the driving unit to determine the determined movement path and travel plan. Accordingly, the robot 11 can be driven.
  • the map data may include object identification information on various objects arranged in a space in which the robot 11 moves.
  • the map data may include object identification information on fixed objects such as walls and doors and movable objects such as flower pots and desks.
  • the object identification information may include a name, type, distance, and location.
  • the robot 11 may perform an operation or run by controlling a driving unit based on a user's control/interaction.
  • the robot 11 may acquire interaction intention information according to a user's motion or voice speech, and determine a response based on the obtained intention information to perform the operation.
  • the autonomous vehicle 12 may be implemented as a mobile robot, vehicle, or unmanned aerial vehicle by applying AI technology.
  • the autonomous driving vehicle 12 may include an autonomous driving control module for controlling an autonomous driving function, and the autonomous driving control module may refer to a software module or a chip implementing the same as hardware.
  • the autonomous driving control module may be included inside as a configuration of the autonomous driving vehicle 12, but may be configured and connected to the exterior of the autonomous driving vehicle 12 as separate hardware.
  • the autonomous vehicle 12 acquires status information of the autonomous vehicle 12 by using sensor information acquired from various types of sensors, detects (recognizes) surrounding environments and objects, or generates map data, It is possible to determine the travel route and travel plan, or to determine the motion.
  • the autonomous vehicle 12 may use sensor information obtained from at least one sensor from among a lidar, a radar, and a camera, similar to the robot 11, in order to determine a moving route and a driving plan.
  • the autonomous vehicle 12 may recognize an environment or object in an area where the view is obscured or an area greater than a certain distance by receiving sensor information from external devices or directly recognized information from external devices. .
  • the autonomous vehicle 12 may perform the above operations by using a learning model composed of at least one artificial neural network.
  • the autonomous vehicle 12 may recognize the surrounding environment and objects using the learning model, and may determine the driving movement using the recognized surrounding environment information or object information.
  • the learning model may be directly learned by the autonomous vehicle 12 or learned by an external device such as the AI server 16.
  • the autonomous vehicle 12 may directly generate a result and perform an operation using a learning model, but transmits sensor information to an external device such as the AI server 16 and receives the result generated accordingly. You can also perform actions.
  • the autonomous vehicle 12 determines a movement path and a driving plan using at least one of map data, object information detected from sensor information, or object information obtained from an external device, and controls the driving unit to determine the determined movement path and driving.
  • the autonomous vehicle 12 can be driven according to a plan.
  • the map data may include object identification information on various objects arranged in a space (eg, a road) in which the autonomous vehicle 12 travels.
  • the map data may include object identification information on fixed objects such as street lights, rocks, and buildings, and movable objects such as vehicles and pedestrians.
  • the object identification information may include a name, type, distance, and location.
  • the autonomous vehicle 12 may perform an operation or run by controlling a driving unit based on a user's control/interaction.
  • the autonomous vehicle 12 may obtain information on intention of interaction according to a user's motion or voice speech, and determine a response based on the obtained intention information to perform the operation.
  • the XR device 13 is applied with AI technology, such as HMD (Head-Mount Display), HUD (Head-Up Display) provided in the vehicle, TV, mobile phone, smart phone, computer, wearable device, home appliance, digital signage. , A vehicle, a fixed robot, or a mobile robot.
  • HMD Head-Mount Display
  • HUD Head-Up Display
  • the XR device 13 analyzes 3D point cloud data or image data acquired through various sensors or from an external device to generate location data and attribute data for 3D points, thereby providing information on surrounding spaces or real objects.
  • the XR object to be acquired and output can be rendered and output.
  • the XR apparatus 13 may output an XR object including additional information on the recognized object in correspondence with the recognized object.
  • the XR device 13 may perform the above operations using a learning model composed of at least one artificial neural network.
  • the XR apparatus 13 may recognize a real object from 3D point cloud data or image data using a learning model, and may provide information corresponding to the recognized real object.
  • the learning model may be directly trained by the XR device 13 or may be trained by an external device such as the AI server 16.
  • the XR device 13 may perform an operation by generating a result using a direct learning model, but it transmits sensor information to an external device such as the AI server 16 and receives the result generated accordingly. You can also do
  • the robot 11 may be implemented as a guide robot, a transport robot, a cleaning robot, a wearable robot, an entertainment robot, a pet robot, an unmanned flying robot, etc. by applying AI technology and autonomous driving technology.
  • the robot 11 to which AI technology and autonomous driving technology are applied may refer to a robot itself having an autonomous driving function, or a robot 11 that interacts with the autonomous driving vehicle 12.
  • the robot 11 having an autonomous driving function may collectively refer to devices that move by themselves according to a given movement line without the user's control or by determining the movement line by themselves.
  • the robot 11 and the autonomous vehicle 12 having an autonomous driving function may use a common sensing method to determine one or more of a moving route or a driving plan.
  • the robot 11 and the autonomous vehicle 12 having an autonomous driving function may determine one or more of a movement route or a driving plan using information sensed through a lidar, a radar, and a camera.
  • the robot 11 interacting with the autonomous driving vehicle 12 exists separately from the autonomous driving vehicle 12 and is linked to an autonomous driving function inside or outside the autonomous driving vehicle 12, or ), you can perform an operation associated with the user on board.
  • the robot 11 interacting with the autonomous vehicle 12 acquires sensor information on behalf of the autonomous vehicle 12 and provides it to the autonomous vehicle 12, or acquires sensor information and provides information on the surrounding environment.
  • object information may be generated and provided to the autonomous vehicle 12 to control or assist the autonomous driving function of the autonomous vehicle 12.
  • the robot 11 interacting with the autonomous vehicle 12 may monitor a user aboard the autonomous vehicle 12 or control the functions of the autonomous vehicle 12 through interaction with the user. .
  • the robot 11 may activate an autonomous driving function of the autonomous driving vehicle 12 or assist the control of a driving unit of the autonomous driving vehicle 12.
  • the functions of the autonomous driving vehicle 12 controlled by the robot 11 may include not only an autonomous driving function, but also functions provided by a navigation system or an audio system provided inside the autonomous driving vehicle 12.
  • the robot 11 interacting with the autonomous vehicle 12 may provide information or assist a function to the autonomous vehicle 12 from the outside of the autonomous vehicle 12.
  • the robot 11 may provide traffic information including signal information to the autonomous vehicle 12 such as a smart traffic light, or interact with the autonomous vehicle 12 such as an automatic electric charger of an electric vehicle. You can also automatically connect an electric charger to the charging port.
  • the robot 11 may be implemented as a guide robot, a transport robot, a cleaning robot, a wearable robot, an entertainment robot, a pet robot, an unmanned flying robot, a drone, etc. by applying AI technology and XR technology.
  • the robot 11 to which the XR technology is applied may refer to a robot that is an object of control/interaction in an XR image.
  • the robot 11 is separated from the XR device 13 and can be interlocked with each other.
  • the robot 11 which is the object of control/interaction in the XR image, acquires sensor information from sensors including a camera, the robot 11 or the XR device 13 generates an XR image based on the sensor information. Then, the XR device 13 may output the generated XR image. In addition, the robot 11 may operate based on a control signal input through the XR device 13 or a user's interaction.
  • the user can check the XR image corresponding to the viewpoint of the robot 11 remotely linked through an external device such as the XR device 13, and adjust the autonomous driving path of the robot 11 through interaction.
  • You can control motion or driving, or check information on surrounding objects.
  • the autonomous vehicle 12 may be implemented as a mobile robot, a vehicle, or an unmanned aerial vehicle by applying AI technology and XR technology.
  • the self-driving vehicle 12 to which the XR technology is applied may refer to an autonomous vehicle having a means for providing an XR image, or an autonomous vehicle that is an object of control/interaction within the XR image.
  • the autonomous vehicle 12, which is an object of control/interaction in the XR image is distinguished from the XR device 13 and may be interlocked with each other.
  • the autonomous vehicle 12 provided with a means for providing an XR image may obtain sensor information from sensors including a camera, and may output an XR image generated based on the acquired sensor information.
  • the autonomous vehicle 12 may provide a real object or an XR object corresponding to an object in a screen to the occupant by outputting an XR image with a HUD.
  • the XR object when the XR object is output to the HUD, at least a part of the XR object may be output so that it overlaps the actual object facing the occupant's gaze.
  • the XR object when the XR object is output on a display provided inside the autonomous vehicle 12, at least a part of the XR object may be output to overlap the object in the screen.
  • the autonomous vehicle 12 may output XR objects corresponding to objects such as lanes, other vehicles, traffic lights, traffic signs, motorcycles, pedestrians, and buildings.
  • the autonomous vehicle 12 which is the object of control/interaction within the XR image, acquires sensor information from sensors including a camera, the autonomous vehicle 12 or the XR device 13 is based on the sensor information. An XR image is generated, and the XR device 13 may output the generated XR image.
  • the autonomous vehicle 12 may operate based on a control signal input through an external device such as the XR device 13 or a user's interaction.
  • Extended reality collectively refers to virtual reality (VR), augmented reality (AR), and mixed reality (MR).
  • VR technology provides only CG images of real world objects or backgrounds, AR technology provides virtually created CG images on top of real object images, and MR technology provides computers that mix and combine virtual objects in the real world. It is a graphic technology.
  • MR technology is similar to AR technology in that it shows real and virtual objects together.
  • virtual objects are used in a form that complements real objects
  • MR technology virtual objects and real objects are used with equal characteristics.
  • XR technology can be applied to HMD (Head-Mount Display), HUD (Head-Up Display), mobile phones, tablet PCs, laptops, desktops, TVs, digital signage, etc., and devices applied with XR technology are XR devices. It can be called as.
  • HMD Head-Mount Display
  • HUD Head-Up Display
  • mobile phones tablet PCs, laptops, desktops, TVs, digital signage, etc.
  • devices applied with XR technology are XR devices. It can be called as.
  • FIG. 2 is a block diagram illustrating a mobile terminal related to the present specification.
  • the mobile terminal 100 includes a wireless communication unit 110, an input unit 120, a sensing unit 140, an output unit 150, an interface unit 160, a memory 170, and a control unit 180. And a power supply unit 190 and the like. Since the components shown in FIG. 34 are not essential for implementing the mobile terminal, the mobile terminal described herein may have more or fewer components than the components listed above.
  • the wireless communication unit 110 may be configured between the mobile terminal 100 and the wireless communication system, between the mobile terminal 100 and another mobile terminal 100, or between the mobile terminal 100 and an external server. It may include one or more modules that enable wireless communication between. In addition, the wireless communication unit 110 may include one or more modules that connect the mobile terminal 100 to one or more 5G networks.
  • the wireless communication unit 110 may include at least one of a broadcast reception module 111, a mobile communication module 112, a wireless Internet module 113, a short-range communication module 114, and a location information module 115. .
  • the input unit 120 includes a camera 121 or an image input unit for inputting an image signal, a microphone 122 for inputting an audio signal, or an audio input unit, and a user input unit 123 for receiving information from a user, for example, , A touch key, a mechanical key, etc.).
  • the voice data or image data collected by the input unit 120 may be analyzed and processed as a user's control command.
  • the sensing unit 140 may include one or more sensors for sensing at least one of information in the mobile terminal, information on surrounding environments surrounding the mobile terminal, and user information.
  • the sensing unit 140 includes a proximity sensor 141, an illumination sensor 142, a touch sensor, an acceleration sensor, a magnetic sensor, and gravity.
  • G-sensor for example, camera (see 121)), microphone (microphone, see 122), battery gauge, environmental sensor (for example, barometer, hygrometer, thermometer, radiation detection sensor, It may include at least one of a heat sensor, a gas sensor, etc.), and a chemical sensor (eg, an electronic nose, a healthcare sensor, a biometric sensor, etc.).
  • the mobile terminal disclosed in the present specification may combine and utilize information sensed by at least two or more of these sensors.
  • the output unit 150 is for generating an output related to visual, auditory or tactile sense, and includes at least one of the display unit 151, the sound output unit 152, the hap tip module 153, and the light output unit 154 can do.
  • the display unit 151 may implement a touch screen by forming a layer structure or integrally with the touch sensor. Such a touch screen can function as a user input unit 123 that provides an input interface between the mobile terminal 100 and a user, and can provide an output interface between the mobile terminal 100 and a user.
  • the interface unit 160 serves as a passage between various types of external devices connected to the mobile terminal 100.
  • the interface unit 160 connects a wired/wireless headset port, an external charger port, a wired/wireless data port, a memory card port, and a device equipped with an identification module. It may include at least one of a port, an audio input/output (I/O) port, an input/output (video I/O) port, and an earphone port.
  • the mobile terminal 100 may perform appropriate control related to the connected external device in response to the connection of the external device to the interface unit 160.
  • the memory 170 stores data supporting various functions of the mobile terminal 100.
  • the memory 170 may store a plurality of application programs or applications driven by the mobile terminal 100, data for operation of the mobile terminal 100, and commands. At least some of these application programs may be downloaded from an external server through wireless communication. In addition, at least some of these application programs may exist on the mobile terminal 100 from the time of delivery for basic functions of the mobile terminal 100 (eg, incoming calls, outgoing functions, message reception, and outgoing functions). Meanwhile, the application program may be stored in the memory 170, installed on the mobile terminal 100, and driven by the controller 180 to perform an operation (or function) of the mobile terminal.
  • the controller 180 In addition to the operation related to the application program, the controller 180 generally controls the overall operation of the mobile terminal 100.
  • the controller 180 may provide or process appropriate information or functions to a user by processing signals, data, information, etc. input or output through the above-described components or by driving an application program stored in the memory 170.
  • controller 180 may control at least a portion of the application program stored in the memory 170. Furthermore, in order to drive the application program, the controller 180 may operate by combining at least two or more of the components included in the mobile terminal 100 with each other.
  • the power supply unit 190 receives external power and internal power under the control of the controller 180 and supplies power to each of the components included in the mobile terminal 100.
  • the power supply unit 190 includes a battery, and the battery may be a built-in battery or a replaceable battery.
  • At least some of the components may operate in cooperation with each other to implement an operation, control, or control method of a mobile terminal according to various embodiments described below.
  • the operation, control, or control method of the mobile terminal may be implemented on the mobile terminal by driving at least one application program stored in the memory 170.
  • the broadcast reception module 111 of the wireless communication unit 110 receives a broadcast signal and/or broadcast-related information from an external broadcast management server through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel.
  • Two or more broadcast receiving modules may be provided to the mobile terminal 100 for simultaneous broadcast reception or broadcast channel switching of at least two broadcast channels.
  • the mobile communication module 112 includes technical standards or communication methods for mobile communication (eg, GSM (Global System for Mobile communication), CDMA (Code Division Multi Access), CDMA2000 (Code Division Multi Access 2000)), EV -DO (Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA (Wideband CDMA), HSDPA (High Speed Downlink Packet Access), HSUPA (High Speed Uplink Packet Access), LTE (Long Term Evolution), LTE-A (Long Term Evolution-Advanced), etc.), transmits and receives radio signals with at least one of a base station, an external terminal, and a server on a mobile communication network.
  • GSM Global System for Mobile communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • EV -DO Enhanced Voice-Data Optimized or Enhanced Voice-Data Only
  • WCDMA Wideband CDMA
  • HSDPA High Speed Downlink Packet Access
  • HSUPA High Speed Uplink Packet Access
  • LTE Long Term
  • the wireless signal may include a voice call signal, a video call signal, or various types of data according to transmission/reception of text/multimedia messages.
  • the wireless Internet module 113 refers to a module for wireless Internet access, and may be built-in or external to the mobile terminal 100.
  • the wireless Internet module 113 is configured to transmit and receive wireless signals in a communication network according to wireless Internet technologies.
  • wireless Internet technologies include WLAN (Wireless LAN), Wi-Fi (Wireless-Fidelity), Wi-Fi (Wireless Fidelity) Direct, DLNA (Digital Living Network Alliance), WiBro (Wireless Broadband), WiMAX (World Interoperability for Microwave Access), HSDPA (High Speed Downlink Packet Access), HSUPA (High Speed Uplink Packet Access), LTE (Long Term Evolution), LTE-A (Long Term Evolution-Advanced), etc., and the wireless Internet module ( 113) transmits and receives data according to at least one wireless Internet technology in a range including Internet technologies not listed above.
  • the wireless Internet module 113 performs wireless Internet access through the mobile communication network.
  • the short range communication module 114 is for short range communication, and includes BluetoothTM, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, and NFC. Near field communication may be supported by using at least one of (Near Field Communication), Wi-Fi (Wireless-Fidelity), Wi-Fi Direct, and Wireless USB (Wireless Universal Serial Bus) technologies.
  • the short-distance communication module 114 is, between the mobile terminal 100 and a wireless communication system, between the mobile terminal 100 and another mobile terminal 100, or between the mobile terminal 100 through a wireless area network (Wireless Area Networks). ) And a network in which another mobile terminal 100 or an external server is located may support wireless communication.
  • the local area wireless communication network may be a wireless personal area network (Wireless Personal Area Networks).
  • the other mobile terminal 100 is a wearable device capable of exchanging (or interlocking with) data with the mobile terminal 100 according to the present invention, for example, a smartwatch, a smart glasses. (smart glass), HMD (head mounted display)).
  • the short-range communication module 114 may detect (or recognize) a wearable device capable of communicating with the mobile terminal 100 around the mobile terminal 100.
  • the controller 180 transmits at least part of the data processed by the mobile terminal 100 to the short-range communication module ( 114) can be transmitted to the wearable device. Accordingly, a user of the wearable device can use data processed by the mobile terminal 100 through the wearable device.
  • the user when a call is received by the mobile terminal 100, the user performs a phone call through the wearable device, or when a message is received by the mobile terminal 100, the user receives the received call through the wearable device. It is possible to check the message.
  • the location information module 115 is a module for obtaining a location (or current location) of a mobile terminal, and representative examples thereof include a GPS (Global Positioning System) module or a WiFi (Wireless Fidelity) module.
  • a GPS Global Positioning System
  • WiFi Wireless Fidelity
  • the mobile terminal may acquire the location of the mobile terminal based on information of the Wi-Fi module and a wireless access point (AP) that transmits or receives a wireless signal.
  • AP wireless access point
  • the location information module 115 may perform any function among other modules of the wireless communication unit 110 in order to obtain data on the location of the mobile terminal as a substitute or additionally.
  • the location information module 115 is a module used to obtain the location (or current location) of the mobile terminal, and is not limited to a module that directly calculates or obtains the location of the mobile terminal.
  • the input unit 120 is for inputting image information (or signal), audio information (or signal), data, or information input from a user.
  • the mobile terminal 100 Alternatively, a plurality of cameras 121 may be provided.
  • the camera 121 processes an image frame such as a still image or a video obtained by an image sensor in a video call mode or a photographing mode.
  • the processed image frame may be displayed on the display unit 151 or stored in the memory 170.
  • a plurality of cameras 121 provided in the mobile terminal 100 may be arranged to form a matrix structure, and through the camera 121 forming a matrix structure as described above, various angles or focal points are applied to the mobile terminal 100.
  • a plurality of image information may be input.
  • the plurality of cameras 121 may be arranged in a stereo structure to obtain a left image and a right image for implementing a stereoscopic image.
  • the microphone 122 processes an external sound signal into electrical voice data.
  • the processed voice data may be variously utilized according to a function (or an application program being executed) being executed by the mobile terminal 100.
  • the microphone 122 may be implemented with various noise removal algorithms for removing noise generated in a process of receiving an external sound signal.
  • the user input unit 123 is for receiving information from the user, and when information is input through the user input unit 123, the controller 180 can control the operation of the mobile terminal 100 to correspond to the input information.
  • the user input unit 123 is a mechanical (mechanical) input means (or a mechanical key, for example, a button located on the front, rear or side of the mobile terminal 100, a dome switch (dome switch), a jog wheel, Jog switch, etc.) and a touch-type input means.
  • the touch-type input means comprises a virtual key, a soft key, or a visual key displayed on a touch screen through software processing, or a portion other than the touch screen It may be made of a touch key (touch key) disposed on.
  • the virtual key or visual key can be displayed on the touch screen while having various forms, for example, graphic, text, icon, video, or these It can be made of a combination of.
  • the sensing unit 140 senses at least one of information in the mobile terminal, information on a surrounding environment surrounding the mobile terminal, and user information, and generates a sensing signal corresponding thereto.
  • the controller 180 may control the driving or operation of the mobile terminal 100 or perform data processing, functions, or operations related to an application program installed in the mobile terminal 100 based on such a sensing signal. Representative sensors among various sensors that may be included in the sensing unit 140 will be described in more detail.
  • the proximity sensor 141 refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object existing in the vicinity using the force of an electromagnetic field or infrared rays without mechanical contact.
  • the proximity sensor 141 may be disposed in an inner area of the mobile terminal surrounded by the touch screen as described above or near the touch screen.
  • the proximity sensor 141 examples include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive type proximity sensor, a magnetic type proximity sensor, an infrared proximity sensor, and the like.
  • the proximity sensor 141 may be configured to detect the proximity of the object by a change in the electric field according to the proximity of the conductive object. In this case, the touch screen (or touch sensor) itself may be classified as a proximity sensor.
  • proximity touch the action of allowing an object to be recognized as being positioned on the touch screen by being approached without contacting an object on the touch screen
  • contact touch the touch
  • a position at which an object is touched in proximity on the touch screen means a position at which the object is vertically corresponding to the touch screen when the object is touched in proximity.
  • the proximity sensor 141 may detect a proximity touch and a proximity touch pattern (eg, proximity touch distance, proximity touch direction, proximity touch speed, proximity touch time, proximity touch position, proximity touch movement state, etc.). have.
  • the controller 180 processes data (or information) corresponding to the proximity touch operation and the proximity touch pattern sensed through the proximity sensor 141, and further, provides visual information corresponding to the processed data. It can be output on the touch screen. Furthermore, the controller 180 may control the mobile terminal 100 to process different operations or data (or information) according to whether a touch to the same point on the touch screen is a proximity touch or a touch touch. .
  • the touch sensor applies a touch (or touch input) to the touch screen (or display unit 151) using at least one of various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method. To detect.
  • various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method.
  • the touch sensor may be configured to convert a pressure applied to a specific portion of the touch screen or a change in capacitance generated at a specific portion of the touch screen into an electrical input signal.
  • the touch sensor may be configured to detect a location, an area, a pressure upon touch, a capacitance upon touch, and the like at which a touch object applying a touch on the touch screen is touched on the touch sensor.
  • the touch object is an object that applies a touch to the touch sensor, and may be, for example, a finger, a touch pen, a stylus pen, or a pointer.
  • the touch controller processes the signal(s) and then transmits the corresponding data to the controller 180.
  • the controller 180 can know whether an area of the display unit 151 is touched.
  • the touch controller may be a separate component from the controller 180 or may be the controller 180 itself.
  • the controller 180 may perform different controls or perform the same control according to the type of the touch object by touching the touch screen (or a touch key provided in addition to the touch screen). Whether to perform different controls or to perform the same control according to the type of the touch object may be determined according to an operating state of the mobile terminal 100 or an application program being executed.
  • the touch sensor and the proximity sensor described above are independently or in combination, and a short (or tap) touch, a long touch, a multi touch, and a drag touch on the touch screen. ), flick touch, pinch-in touch, pinch-out touch, swipe touch, hovering touch, etc. You can sense the touch.
  • the ultrasonic sensor may recognize location information of a sensing target by using ultrasonic waves.
  • the controller 180 may calculate the location of the wave generator through information sensed from the optical sensor and the plurality of ultrasonic sensors.
  • the location of the wave generator may be calculated by using a property that the light is much faster than the ultrasonic wave, that is, the time that the light reaches the optical sensor is much faster than the time that the ultrasonic wave reaches the ultrasonic sensor. More specifically, the location of the wave generator may be calculated by using the time difference between the time at which the ultrasound reaches the light as a reference signal.
  • the camera 121 viewed as the configuration of the input unit 120, includes at least one of a camera sensor (eg, CCD, CMOS, etc.), a photo sensor (or image sensor), and a laser sensor.
  • a camera sensor eg, CCD, CMOS, etc.
  • a photo sensor or image sensor
  • a laser sensor e.g., a laser sensor
  • the camera 121 and the laser sensor may be combined with each other to detect a touch of a sensing target for a 3D stereoscopic image.
  • the photosensor may be stacked on the display device, and the photosensor is configured to scan a motion of a sensing object close to the touch screen. More specifically, the photo sensor scans the contents placed on the photo sensor by mounting a photo diode and a transistor (TR) in a row/column and using an electrical signal that changes according to the amount of light applied to the photo diode. That is, the photosensor calculates the coordinates of the sensing target according to the amount of light change, and through this, the location information of the sensing target may be obtained.
  • TR transistor
  • the display unit 151 displays (outputs) information processed by the mobile terminal 100.
  • the display unit 151 may display execution screen information of an application program driven in the mobile terminal 100, or UI (User Interface) and GUI (Graphic User Interface) information according to such execution screen information. .
  • the display unit 151 displays (outputs) information processed by the mobile terminal 100.
  • the display unit 151 may display execution screen information of an application program driven in the mobile terminal 100, or UI (User Interface) and GUI (Graphic User Interface) information according to such execution screen information. .
  • the display unit 151 may be configured as a three-dimensional display unit that displays a three-dimensional image.
  • a three-dimensional display method such as a stereoscopic method (glasses method), an auto stereoscopic method (no glasses method), and a projection method (holographic method) may be applied to the stereoscopic display unit.
  • the sound output unit 152 may output audio data received from the wireless communication unit 110 or stored in the memory 170 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like.
  • the sound output unit 152 also outputs sound signals related to functions (eg, a call signal reception sound, a message reception sound, etc.) performed in the mobile terminal 100.
  • the sound output unit 152 may include a receiver, a speaker, and a buzzer.
  • the haptic module 153 generates various tactile effects that a user can feel.
  • a typical example of the tactile effect generated by the haptic module 153 may be vibration.
  • the intensity and pattern of vibrations generated by the haptic module 153 may be controlled by a user's selection or setting of a controller.
  • the haptic module 153 may synthesize and output different vibrations or sequentially output them.
  • the haptic module 153 is used for stimulation such as an arrangement of pins that move vertically with respect to the contact skin surface, blowing force or suction force of air through the injection or inlet, grazing against the skin surface, contact of electrodes, and electrostatic force. It can generate various tactile effects, such as the effect by the effect and the effect by reproducing the feeling of cooling and warming using an endothermic or heat generating element.
  • the haptic module 153 may not only deliver a tactile effect through direct contact, but may also be implemented so that a user can feel the tactile effect through muscle sensations such as a finger or an arm. Two or more haptic modules 153 may be provided depending on the configuration aspect of the mobile terminal 100.
  • the light output unit 154 outputs a signal for notifying the occurrence of an event using light from a light source of the mobile terminal 100.
  • Examples of events occurring in the mobile terminal 100 may include message reception, call signal reception, missed call, alarm, schedule notification, email reception, and information reception through an application.
  • the signal output from the light output unit 154 is implemented as the mobile terminal emits a single color or multiple colors of light to the front or rear.
  • the signal output may be terminated when the mobile terminal detects the user's event confirmation.
  • the interface unit 160 serves as a passage for all external devices connected to the mobile terminal 100.
  • the interface unit 160 receives data from an external device or receives power and transmits it to each component inside the mobile terminal 100, or transmits data inside the mobile terminal 100 to an external device.
  • a wired/wireless headset port for example, a wired/wireless headset port, an external charger port, a wired/wireless data port, a memory card port, a port for connecting a device equipped with an identification module. (port), an audio input/output (I/O) port, a video input/output (I/O) port, an earphone port, and the like may be included in the interface unit 160.
  • the identification module is a chip that stores various types of information for authenticating the right to use the mobile terminal 100, and includes a user identification module (UIM), a subscriber identity module (SIM), and universal user authentication. It may include a module (universal subscriber identity module; USIM).
  • a device equipped with an identification module hereinafter,'identification device' may be manufactured in the form of a smart card. Accordingly, the identification device may be connected to the terminal 100 through the interface unit 160.
  • the interface unit 160 serves as a path through which power from the cradle is supplied to the mobile terminal 100 when the mobile terminal 100 is connected to an external cradle, or is input from the cradle by a user. It may be a path through which various command signals are transmitted to the mobile terminal 100. Various command signals or the power input from the cradle may be operated as signals for recognizing that the mobile terminal 100 is correctly mounted on the cradle.
  • the memory 170 may store a program for the operation of the controller 180 and may temporarily store input/output data (eg, a phone book, a message, a still image, a video, etc.).
  • the memory 170 may store data on vibrations and sounds of various patterns output when a touch input on the touch screen is performed.
  • the memory 170 is a flash memory type, a hard disk type, a solid state disk type, an SDD type, a multimedia card micro type. ), card-type memory (e.g., SD or XD memory), random access memory (RAM), static random access memory (SRAM), read-only memory (ROM), electrically erasable programmable read (EEPROM) -only memory), programmable read-only memory (PROM), magnetic memory, magnetic disk, and optical disk.
  • card-type memory e.g., SD or XD memory
  • RAM random access memory
  • SRAM static random access memory
  • ROM read-only memory
  • EEPROM electrically erasable programmable read
  • PROM programmable read-only memory
  • magnetic memory magnetic disk, and optical disk.
  • the mobile terminal 100 may be operated in connection with a web storage that performs a storage function of the memory 170 over the Internet.
  • the controller 180 controls an operation related to an application program and, in general, an overall operation of the mobile terminal 100. For example, when the state of the mobile terminal satisfies a set condition, the controller 180 may execute or release a lock state limiting input of a user's control command for applications.
  • the controller 180 performs control and processing related to voice calls, data communication, video calls, etc., or performs pattern recognition processing capable of recognizing handwriting input or drawing input performed on the touch screen as characters and images, respectively. I can. Furthermore, in order to implement various embodiments described below on the mobile terminal 100 according to the present invention, the controller 180 may control any one or a combination of a plurality of components described above.
  • the power supply unit 190 receives external power and internal power under the control of the controller 180 to supply power necessary for the operation of each component.
  • the power supply unit 190 includes a battery, and the battery may be a built-in battery configured to be rechargeable, and may be detachably coupled to a terminal body for charging or the like.
  • the power supply unit 190 may include a connection port, and the connection port may be configured as an example of an interface 160 to which an external charger supplying power for charging a battery is electrically connected.
  • the power supply unit 190 may be configured to charge the battery in a wireless manner without using the connection port.
  • the power supply unit 190 uses at least one of an inductive coupling method based on a magnetic induction phenomenon or a magnetic resonance coupling method based on an electromagnetic resonance phenomenon from an external wireless power transmitter. Power can be delivered.
  • the controller 180 may include an AR processor 185.
  • the AR processor 185 may recognize an object from an image acquired from a camera.
  • the image may be a preview image.
  • the image may include a streaming image received from a network.
  • the image may include an image in front of the vehicle, and the object may include a lane on a road, at least one object located on the road, an environment around the road, and the like.
  • the AR processor 185 may display an Augmented Object (AR) object related to the object by overlapping the image acquired from the camera.
  • AR Augmented Object
  • FIG. 3 is a conceptual diagram illustrating a seamless navigation service disclosed in the present specification.
  • the navigation device may receive destination setting information.
  • the navigation device may include a mobile terminal 100 carried by a vehicle occupant and a navigation device provided inside the vehicle 200.
  • the navigation device is the mobile terminal 100.
  • the controller 180 can search for a route to the final destination.
  • the controller 180 may provide a navigation service based on the searched path.
  • the navigation service may be provided through a screen or audio output.
  • a navigation service provided through the mobile terminal 100 may be provided through a display of the vehicle 200 or a navigation device provided in the vehicle 200 (vehicle mode). If the vehicle 200 enters the specific building 10, according to the exemplary embodiment of the present specification, a navigation service that was being provided before entering the specific building 10 may be continuously provided.
  • the navigation service is continuously provided when a specific section on the route is entered while the route guidance service is provided to the destination.
  • the specific section may mean a section in which continuous route guidance is not possible by the map data stored in the navigation device.
  • the mobile terminal 100 may store map data for executing a navigation function in a memory.
  • the navigation service means that route guidance is possible based on map data stored in the memory.
  • the mobile terminal 100 may provide a navigation service based on map data provided in real time through a wireless network in addition to map data stored in the memory.
  • map data stored in the memory of the mobile terminal 100 or map data acquired through a network may be map data based on GPS location data. Therefore, when the vehicle 200 or the mobile terminal 100 enters the specific section (for example, 10 of FIG. 3) in which the GPS location data is not detected, the navigation service may be temporarily stopped.
  • the map data that can be provided in the specific section is used instead of map data based on GPS location data. This means that the navigation service provided before entering a specific section can be provided without interruption.
  • the final destination may be the indoor building 20.
  • the GPS data for the final destination is only location data of the indoor building 20, and the final destination of the user in the indoor building 20 may be a specific floor or a specific space within the specific floor.
  • map data based on general GPS location data cannot provide specific location coordinates of the specific blue or specific space.
  • the navigation mode may be changed to enable a route guidance service from the indoor building 20 to a specific final destination of the user.
  • the navigation service converted to the walking mode can be provided by extending the navigation service provided through the mobile terminal 100. have.
  • FIG. 4 is a flowchart of a method for providing a navigation service of a mobile terminal according to an embodiment of the present specification.
  • the mobile terminal 100 may search for a route based on a destination input through an input unit (S400).
  • the controller 180 may analyze the searched path.
  • the path may generally be searched based on map data stored in memory.
  • the search condition may be converted according to the type of the destination.
  • location information that can be recognized by the map data may include “Samsung-dong” and "COEX”.
  • the mobile terminal 100 determines that the Starbucks store cannot actually search for the exact location (the number of floors and coordinate information on the floor, etc.) inside the COEX building, and finally determines the exact location information of the COEX building. It can be output as destination coordinate information.
  • the mobile terminal 100 may determine that there is a section in which a navigation mode change is required (S410).
  • a method of determining whether there is at least one section in which a navigation mode change is required may be configured in various ways.
  • the controller 180 may set the COEX building as a primary destination and request the location information of Starbucks inside the COEX building from the network through a wireless communication unit.
  • the network may be a cloud server.
  • the mobile terminal 100 may receive location information about a final destination (Starbucks) from the network.
  • the location information may include accurate floor information of the Starbucks inside the COEX building, and 2D coordinate information of the corresponding floor number.
  • the mobile terminal 100 may determine whether route guidance is possible through map data (eg, SD map data) stored in a memory with location information of a final destination received from the network. That is, if the map data stored in the memory does not include the location information of the final destination received from the network, it may be determined that route guidance by the map data is impossible. According to an embodiment, when it is determined that the location information received from the network cannot be recognized in the map data stored in the memory, it may be determined that there is a section in which a navigation mode change is required (S410).
  • map data eg, SD map data
  • the mobile terminal 100 may request predetermined map data capable of guiding a route for the location information through a wireless communication unit.
  • the mobile terminal 100 may consider section information between a last location where a vehicle can enter and a final destination.
  • the last location a vehicle can enter may be a parking lot of a building. Accordingly, the mobile terminal 100 may determine whether or not a navigation mode change is necessary in consideration of the location information of the final vehicle parked in the parking lot and the path between the interior of the building where the final destination is located.
  • the mobile terminal 100 cannot check the location information inside the parking lot or inside the building where the final destination is located based on the map data stored in the memory.
  • the reason why the location information cannot be confirmed is that there is no map data capable of detecting the location information.
  • the mobile terminal 100 may determine that there is a section in which a navigation mode change is required.
  • the mobile terminal 100 sets a destination detectable by primary map data (eg, SD map data) as a primary destination, and secondary map data (eg, parking lot map data) Intermediate stops that can be detected by can be set as the secondary destination. Furthermore, the final destination that can be detected by the map data (third map data) inside the building where the final destination is located through the parking lot may be set as the third destination.
  • primary map data eg, SD map data
  • secondary map data eg, parking lot map data
  • the mobile terminal 100 may determine that there is at least one section requiring a navigation mode change (S410).
  • the mobile terminal 100 may determine whether there is at least one section in which a navigation mode change is required by analyzing the final route searched in the route search process. In this case, it is possible to download map data corresponding to a section requiring mode change from the network before starting the driving.
  • the mobile terminal 100 determines in real time whether there is at least one section requiring a navigation mode change through real-time communication with the network while performing route guidance according to the route search result, and according to the determination result.
  • Map data applicable to the mode to be changed may be requested from the network.
  • the method of determining whether there is at least one section for which a navigation mode change is required is not limited to the above example, and can be implemented in various ways depending on the type of the final destination, the network environment, and the performance of the mobile terminal. to be.
  • map data download may be performed using a section in which a network resource environment is maintained in a good state.
  • the map data may be downloaded through a route search process or real-time communication with a network. have.
  • the mobile terminal 100 may provide a navigation service based on the first map data (S420).
  • the first map data may be SD map data stored in the memory of the mobile terminal 100.
  • the mobile terminal 100 may continuously provide a navigation service provided based on the first map data based on the second map data (S430).
  • Providing a continuous navigation service according to the change of the navigation mode means that even after the navigation service based on the first map data is terminated, the destination is initially set based on the second map data without additionally entering the same destination and searching for a route. This means that route guidance services can be made seamlessly.
  • FIG. 5 is a flowchart of a method of providing a navigation service while changing a navigation mode according to an embodiment of the present specification.
  • the navigation service disclosed in the present specification may be provided through a vehicle or a mobile terminal, and will be described below on the assumption that a navigation function is executed in the mobile terminal.
  • the mobile terminal 100 may search for a route to a destination based on the input destination information (S500).
  • the mobile terminal 100 may check whether at least one section in which a navigation mode change is required exists among the searched routes (S510).
  • S500 and S510 correspond to S400 and S410 of FIG. 4 and may replace the description of FIG. 4.
  • a plurality of sections such as a first section and a second section, may exist in at least one section requiring a navigation mode change.
  • the second section may be a section continuous with the first section.
  • the mobile terminal 100 may determine whether to enter the first section among the searched routes (S520).
  • the mobile terminal 100 may provide a navigation service based on SD map data stored in a memory.
  • the first section may not be a section that can be identified by the SD map data.
  • the first map data may be parking lot map data of a specific building.
  • the mobile terminal 100 may download the first map data corresponding to the first section from the network during the route search process. Also, for example, after searching for a route, the mobile terminal 100 may download the first map data from the network when the distance from the first section approaches less than a predetermined distance.
  • the mobile terminal 100 may transmit a first map data request signal corresponding to the first section to the network (S521).
  • the mobile terminal 100 may receive the first map data from the network (S523).
  • the mobile terminal 100 may perform route guidance based on the first map data (S530).
  • the mobile terminal 100 Before entering the first section, the mobile terminal 100 detects the location of the vehicle (the location of the mobile terminal) using GPS positioning technology and maps it on SD map data, thereby providing a navigation service.
  • a positioning technology capable of measuring the location of the mobile terminal 100 within an indoor building for example, Simultaneous localization and mapping, SLAM
  • SLAM Simultaneous localization and mapping
  • the mobile terminal 100 estimates the vehicle location in the first section through SLAM by referring to the first map data received from the network and generates a map of the first section (the space inside the parking lot) ( mapping) can be done.
  • the mobile terminal 100 when it is determined that the mobile terminal 100 enters the first section, even if the first map data is not received from the network, the mobile terminal 100 estimates the location within the first section by using SLAM positioning technology. ) And a map of the surrounding environment of the first section are simultaneously performed (simultaneous), thereby performing a route guidance function in the first section.
  • the computer vision and deep learning algorithm are combined to estimate the location of the first section in the 3D space and at the same time
  • the route guidance function in the first section may be performed through Visual SLAM (simultaneous location estimation and map creation technology using visual information) that configures a map in which information is collected into a virtual space.
  • the mobile terminal 100 when it is determined that the mobile terminal 100 enters the first section, transmits the LiDAR data of the vehicle 200 to the network, and uses a convolution neural network (CNN) in the network. It is also possible to receive the generated map data on the three-dimensional space.
  • CNN convolution neural network
  • the mobile terminal 100 may determine that the first section has passed and has entered the second section (S540).
  • the second section may be an indoor building connected to the first section (parking lot).
  • the mobile terminal 100 may request second map data corresponding to the second section from the network (S540), and receive the second map data from the network (S543).
  • the mobile terminal 100 may perform a route guidance service within the second section based on the second map data (S550).
  • the location of the mobile terminal 100 in the second section may be detected by a second positioning technology.
  • the operation of estimating the location of the mobile terminal 100 and generating a map may be simultaneously performed using the SLAM positioning technology, similar to the first section.
  • FIG. 6 is a diagram for illustratively explaining a mode change required period according to an embodiment of the present specification.
  • the mobile terminal 100 or the vehicle 200 searches for a route based on the input final destination, and the searched route is an external section Ro from an external road to a parking lot, and the parking lot section is It may be divided into a first section R1 and a second section R2 that is an indoor building section.
  • a point at which the first section starts is designated as a first destination (1)
  • a point corresponding to a location where a vehicle parks within the first section is designated as a second destination (2)
  • the third destination 3 which is the starting point, and the final destination will be described assuming the fourth destination 4.
  • a plurality of intermediate destinations on the route may correspond to points where a navigation mode change is required.
  • the mobile terminal 100 may provide a navigation service based on general map data and a GPS location signal.
  • the first section (R1) is an indoor space corresponding to the parking lot, and between the first destination (1), the starting point of the first section (R1), and the first destination (1) and the second destination (2). It may be divided into a first shaded section of and a second shaded section between the second destination 2 and the third destination 3.
  • the first shaded section may mean a section from a vehicle entering a parking lot entrance to a location where the vehicle is parked.
  • the second shaded section may mean a section from a location where the vehicle is treated to an indoor building entrance.
  • the first section R1 is a parking lot section, and since a GPS signal is not detected, the mobile terminal 100 can download parking 3D map data from a network. Therefore, in order to continuously provide the navigation service in the external section Ro even in the first section R1, the mobile terminal 100 needs a process of converting the reference map data.
  • Parking 3D map data received from the network can be used for route guidance.
  • the second section R2 is an indoor space of the building connected to the parking lot, and 3D indoor map data of the building is required for the route guidance service in the second section R2.
  • the mobile terminal 100 converts the reference map data to the 3D indoor map data of the building received from the network in order to continuously provide the navigation service in the first section R1 even in the second section R2. You can perform the operation
  • map data required for route guidance in the outer section Ro in FIG. 6 may be SD map data.
  • map data necessary for route guidance in an indoor space such as the first section R1 and the second section R2
  • 3D indoor map data may be data in which a plan configuration for each floor of a building and coordinate information of a specific area in the plane of each floor are mapped.
  • the mobile terminal 100 refers to the 3D indoor map data, estimates the location of the mobile terminal 100 and generates map information at the same time through 3D SLAM positioning, and uses the result to create a route to the final destination.
  • Guidance service can be provided.
  • FIG. 8 is a conceptual diagram illustrating a seamless navigation service using a mobile terminal according to an embodiment of the present specification. Hereinafter, reference may be made to the contents described in FIG. 6.
  • the mobile terminal 100 may provide a navigation service based on SD map data for an external section Ro between a departure point and a first destination 1 (mobile terminal mode).
  • the mobile terminal 100 may provide a navigation service through a mirroring method with respect to a navigation device provided in the vehicle 200 or at least one display provided in the vehicle through a navigation screen output from the mobile terminal 100 ( Vehicle mode).
  • the mobile terminal 100 When the mobile terminal 100 enters the parking lot entrance (first destination), it enters a shaded area in which the navigation function of the mobile terminal and the navigation function of the vehicle are not executed inside the parking lot.
  • the mobile terminal 100 may receive 3D map data of a parking lot from a network and obtain location information of the mobile terminal based on SLAM positioning technology.
  • the vehicle 200 may map and store location information of a specific space (second destination) inside the parking lot to the 3D map data of the parking lot. Meanwhile, when the mobile terminal 100 detects whether the vehicle 200 is parked based on vehicle sensor data (eg, speed data, start-off data), an alarm message indicating that the navigation mode is switched to the walking mode Can receive.
  • vehicle sensor data eg, speed data, start-off data
  • the mobile terminal 100 may provide a route guidance service from the parking location (second destination) to the building entrance (third destination). As described above in the walking mode, the mobile terminal 100 may estimate the location of the mobile terminal 100 in the parking lot based on 3D map data of the parking lot and SLAM positioning technology.
  • the mobile terminal 100 In a state in which the navigation mode is a walking mode, when the location of the mobile terminal 100 approaches the building entrance (third destination), the mobile terminal 100 informs the arrival of the building entrance and whether the indoor route guidance service is provided. You can receive alarm messages.
  • the mobile terminal 100 estimates the location of the mobile terminal 100 inside the building based on the indoor 3D map data and SLAM positioning technology, and provides a route guidance service to the final destination accordingly.
  • 9 to 10 are exemplary diagrams for setting a navigation service using a mobile terminal according to an embodiment of the present specification.
  • the mobile terminal 100 may provide an additional service item that can be used when a destination is input.
  • the additional service items may include menus of "parking lot entrance directions", “parking space directions”, and "indoor walking directions”. Each of the items is not provided in the general navigation service, so it can be performed as a paid service. When a user of the mobile terminal 100 is using a paid service for all three items, all three items may be activated and provided.
  • the mobile terminal 100 determines whether there is at least one section on the searched route in which the additional service item can be provided. I can.
  • the mobile terminal 100 summarizes and displays navigation information (1) in the first section, navigation information (2) in the second section, and navigation information (3,4) in the third and fourth sections before starting route guidance. Alternatively, it may be provided through an audio output unit.
  • 11 to 12 illustrate an example of providing an AR navigation screen according to an embodiment of the present specification.
  • the navigation service disclosed in this specification may provide an AR navigation service.
  • 11 to 12 illustrate a camera image acquisition method for providing an AR navigation service and an output position of an AR navigation screen.
  • the AR processor maps the image in front of the vehicle and AR information to create an AR navigation screen.
  • the image in front of the vehicle may be acquired through a camera.
  • the camera may include at least one camera (eg, a black box image) provided in the vehicle.
  • the image may be an image obtained from a camera of the mobile terminal 100.
  • a front image is acquired through a camera provided in the vehicle and transmitted to the mobile terminal 100, and AR information is generated by an AR processor provided in the mobile terminal 100.
  • the AR information may include a lane detection and a rendering element of a road based on the detected lane as an AR graphic.
  • An AR navigation image in which AR information is mapped to a camera image may be encoded and transmitted to a vehicle display (navigation display).
  • the display of the vehicle may display the AR navigation screen 1110 by decoding the encoded image.
  • the AR navigation screen 1110 provided in the mobile terminal 100 may be displayed on a vehicle display in a mirroring manner.
  • FIG. 11B shows that when the vehicle's own camera is not available, a front image is acquired through the camera of the mobile terminal 100, and the mobile terminal 100 uses the AR processing described above to obtain an AR navigation screen 1110. Can be created.
  • FIGS. 12A to 12D An example of selecting a camera source and a display to output an AR navigation screen will be described with reference to FIGS. 12A to 12D.
  • the mobile terminal 100 may be connected to the vehicle 200 by wire via USB (eg, USB 3.1 data protocol). Also, the camera image may be acquired through a black box of the vehicle 200. The mobile terminal 100 may receive the streaming image acquired by the black box camera through a wireless communication unit (eg, Wi-Fi). The mobile terminal 100 may perform AR processing to output an AR navigation screen through a display of the vehicle 200 (eg, a navigation device provided in the vehicle).
  • USB eg, USB 3.1 data protocol
  • Wi-Fi wireless communication unit
  • the mobile terminal 100 may perform AR processing to output an AR navigation screen through a display of the vehicle 200 (eg, a navigation device provided in the vehicle).
  • the camera image may receive a black box camera image through a wireless communication unit, and the mobile terminal 100 may output an AR navigation screen generated by performing AR processing on the display unit of the mobile terminal 100.
  • the mobile terminal 100 may be wired to the vehicle 200 via USB (eg, USB 3.1 data protocol).
  • the mobile terminal 100 transmits vehicle sensing information such as the location of the own vehicle, a GPS value, and a speed to a network.
  • the mobile terminal 100 may receive a driving image streaming from the network through a wireless communication unit.
  • the mobile terminal 100 may generate an AR navigation image by performing AR processing on the image received from the network, and output the generated AR navigation screen to the display of the wired vehicle 200.
  • the mobile terminal 100 may obtain a front image through a camera and output an AR navigation screen generated by performing AR processing on the acquired image on the display unit.
  • FIG. 13 to 15 are diagrams for explaining a method of providing a navigation service using a mobile terminal according to an embodiment of the present invention when entering a parking lot in the drawing shown in FIG. 8.
  • a description will be given of a navigation service in which the vehicle 200 arrives at the parking lot and is informed of the parking space.
  • the mobile terminal 100 may check the location of a vehicle through a GPS positioning method (S1300). At this time, GPS location data may be received from the network in real time. Before entering the first section, the vehicle 200 is provided with a navigation service based on general map data.
  • the mobile terminal 100 may calculate the starting point of the first section (parking lot) and the GPS distance of the current vehicle 200 (S1310).
  • the mobile terminal 100 determines the vehicle It is confirmed that it has entered the first section (S1320).
  • the mobile terminal 100 may download a 3D map of the first section (parking lot) from the network (server) (S1330).
  • the mobile terminal 100 may check the location of the vehicle on the 3D map through the 3D SLAM positioning method (S1340). In this case, the mobile terminal 100 may detect the current location of the vehicle on the 3D map of the first section (parking lot) using the camera image received from the network (server).
  • the mobile terminal 100 may check location information of a specific area (position of a parking space) within the first section (parking lot) (S1350). In addition, the mobile terminal 100 may perform a route guidance to the specific area (parkable space) by extending the navigation guidance provided before entering the first section. Accordingly, even if the vehicle enters from the outdoors to the interior, the route guidance to the final destination is not interrupted, and a seamless navigation service can be provided.
  • the mobile terminal 100 may download parking lot map data from the server through a wireless communication unit.
  • 3D coordinate information of a space available for parking may be received from a server.
  • the mobile terminal 100 may perform a navigation service inside the parking lot by mapping the 3D coordinates of the parking space to the parking 3D map data received from the server.
  • 16 to 17 are diagrams for explaining a method of providing a navigation service using a mobile terminal according to an embodiment of the present invention when entering an indoor building in the drawing shown in FIG. 8.
  • the mobile terminal 100 when the vehicle 200 is parked in the above-described parking space and the vehicle is turned off, the mobile terminal 100 indicates that the vehicle is in the off state by receiving information on the ignition off state from the vehicle network. It can be confirmed (S1600).
  • the mobile terminal 100 may transmit the starting state of the vehicle to the network when it is confirmed that the starting state of the vehicle 200 is off (S1601).
  • the mobile terminal 100 may check the parking position (3D coordinate information) of the vehicle and transmit it to the network (S1610, 1611).
  • the network may receive vehicle start state information and parking location information, and transmit a message informing the mobile terminal 100 to change the navigation mode (S1620).
  • the change of the navigation mode may mean that the driver receives a navigation service through a mobile terminal after getting off the vehicle.
  • the mobile terminal 100 may control the navigation function to be executed in the walking mode (S1630).
  • an AR navigation screen including AR information for guiding the entry of the second section (building) may be output on the display of the mobile terminal (S1640).
  • the mobile terminal 100 may check whether to enter the second section based on the 3D distance between the second section (building) and the mobile terminal 100 (S1650).
  • the mobile terminal 100 may download 3D map data of the second section (indoor) from the network (S1660).
  • the mobile terminal 100 may perform an indoor walking navigation function by estimating an indoor location through a 3D SLAM positioning method and mapping the estimated location to the indoor 3D map data (S1670).
  • the mobile terminal 100 may display AR information on a navigation screen while executing a navigation walking mode.
  • the AR information may display a route guidance indicator (eg, 3D coordinate information (3DC), rendering graphic element (ARP)) for guiding a route to the entrance of the second section (building) on the navigation screen.
  • a route guidance indicator eg, 3D coordinate information (3DC), rendering graphic element (ARP)
  • ARP rendering graphic element
  • the direction indicator BI1 may be added on the screen.
  • the mobile terminal 100 may display an arrow indicator BI1 in the right direction of the display to indicate that the destination exists in the right direction. have.
  • a route guidance service to the final destination may be performed. For example, a guide message such as "Please enter the entrance indicated on the screen” or “Get on the elevator and get off at the 3rd floor” may be displayed.
  • FIG. 18 is a diagram illustrating output of a navigation screen according to a navigation service using a mobile terminal in consideration of sensing information according to an embodiment of the present specification.
  • the embodiment disclosed in the present specification may provide an AR navigation screen divided into a vehicle mode and a walking mode.
  • different map data may be used for each section in which map data conversion is required in the searched route.
  • the mobile terminal 100 may enter the external section Ro and the first section R1 and output a navigation screen to the second destination 2 through at least one display unit of the vehicle.
  • the mobile terminal 100 can output a navigation screen on the display of the mobile terminal 100 after getting off from the parking location point (second destination) within the first section (R1, parking lot) to the final destination (fourth destination). have.
  • the mobile terminal 100 provides a navigation service using SD map data in the external section Ro.
  • the mobile terminal 100 provides a navigation service in the first section R1 and the second section R2 using 3D map data of a parking space and indoor 3D map data of a building.
  • positioning is performed based on GPS in the outer section Ro, but positioning in the indoor space is performed based on SLAM in the first section R1 and the second section R2. Can be.
  • an embodiment of the present specification may be classified into a section in which vehicle entry is possible and a section in which vehicle entry is possible among the searched routes.
  • the section in which vehicle entry is possible for example, the outside section (Ro) and the second destination (R2, parking position) of the first section (R1, parking lot), the vehicle can be operated, so the vehicle sensing data is transmitted through the vehicle network.
  • the vehicle sensing data may include a vehicle speed, a yaw rate, a gear position (P, N, D, R), and a blinking state (Left, Right).
  • the mobile terminal 100 may control an AR navigation output based on the vehicle sensing data.
  • the position of the AR navigation screen may be controlled to be switched from the vehicle to the mobile terminal.
  • sensing data e.g., IMU angle (roll, pitch, yaw) information, mobile built-in information
  • the mobile terminal 100 in order to provide an AR navigation function, enters the outer section Ro and the first section R1 and reaches the second destination 2 obtained from the camera provided in the vehicle.
  • the video can be used to compose the AR navigation screen.
  • the mobile terminal may use the image acquired from the camera of the user terminal from the parking location point (second destination) to the final destination (fourth destination) in the first section (R1, parking lot) after getting off.
  • This specification may include the following embodiments.
  • Embodiment 1 A method of providing a navigation service in a mobile terminal, the method comprising: searching for a route to a destination; Determining whether at least one mode change section requiring a change of a navigation mode exists among the searched routes; And when it is determined that the mode change section has entered, changing map data, which is a basis for route guidance, from first map data to second map data, and controlling the navigation service to be continuously provided in the changed navigation mode.
  • a method for providing a navigation service of a mobile terminal comprising a.
  • Embodiment 2 In Embodiment 1, the determining whether there is a change section of the navigation mode comprises at least one route guidance required based on the map data configured through different positioning methods among the searched routes. Determining whether a section exists; and a method for providing a navigation service for a mobile terminal.
  • Embodiment 3 The method of providing a navigation service of a mobile terminal according to Embodiment 2, wherein the map data includes at least one of map data configured through a GPS positioning technology and map data configured through a SLAM positioning technology.
  • Embodiment 4 In Embodiment 2, when it is determined that the navigation service has entered a first section among the at least one section while providing the navigation service, the first section is 2 A method of providing a navigation service for a mobile terminal, comprising guiding a route to the destination based on map data.
  • Embodiment 5 In Embodiment 4, when the distance between the current location of the mobile terminal and the start point of the first section is less than or equal to a predetermined distance, it is determined that the first section has been entered. How to provide navigation services.
  • the first map data is map data configured through GPS positioning technology, and when the current location of the mobile terminal enters the first section, the second map data is transmitted through the wireless communication unit. Downloading the map data; further comprising a navigation service providing method of a mobile terminal.
  • Embodiment 7 In Embodiment 6, when entering within a predetermined distance between the current location of the mobile terminal and the start point of the first section, it is determined that the first section has been entered. How to provide navigation services.
  • Embodiment 8 In Embodiment 1, the navigation mode includes at least one of a first mode providing a navigation screen through at least one vehicle display, and a second mode providing the navigation screen through a display unit of the mobile terminal.
  • a method of providing a navigation service for a mobile terminal comprising: a.
  • Embodiment 9 In Embodiment 8, when a predetermined condition is satisfied, the first mode is switched to the second mode, or the second mode is switched to the first mode, and the navigation service is continuously performed. A method for providing a navigation service for a mobile terminal, wherein the first mode and the second mode are switched to each other.
  • Embodiment 10 In Embodiment 8, the predetermined condition is determined by a combination of at least one of vehicle sensor data and sensor data of the mobile terminal, and whether or not the vehicle is stopped, the mobile terminal is Determining whether there is a movement to the inside or outside; a method for providing a navigation service of a mobile terminal further comprising.
  • Embodiment 11 The method of providing a navigation service of a mobile terminal according to Embodiment 8, wherein in the first mode, the navigation screen displayed on the mobile terminal is provided as a mirroring screen on the vehicle display.
  • Embodiment 12 In Embodiment 1, further comprising: determining that the mode change section has been entered based on at least one of vehicle sensor data received through a wireless communication unit or sensor data of the mobile terminal. A method of providing a navigation service for a mobile terminal.
  • Embodiment 13 In Embodiment 1, the steps of: acquiring an image for configuring a navigation screen through at least one camera; Generating an AR image in which AR information is mapped to the image; And providing the navigation service in an AR mode.
  • the method for providing a navigation service of a mobile terminal further comprising.
  • Embodiment 14 The method of providing a navigation service for a mobile terminal according to Embodiment 13, wherein the camera includes at least one of at least one camera provided in the mobile terminal and at least one camera provided in the vehicle. .
  • Embodiment 15 The method for providing a navigation service of a mobile terminal according to Embodiment 11, wherein the video includes a driving streaming video received from a network through a wireless communication unit.
  • Embodiment 16 In Embodiment 1, the first map data is map data stored in a memory of the mobile terminal, and the second map data is map data for providing a navigation service in an indoor space. A method of providing a navigation service for a mobile terminal.
  • Embodiment 17 In Embodiment 1, when the destination is input, displaying a service available menu according to the change of the navigation mode on a display; Providing summary information of a navigation service for each mode change section; A method for providing a navigation service of a mobile terminal, further comprising.
  • Embodiment 18 wireless communication unit; A memory for storing map data; An input unit for receiving a destination; And searching for a route to the destination, determining whether at least one mode change section requiring a change of a navigation mode exists among the searched routes, and when it is determined that the mode change section has entered, a basis for route guidance And a processor that changes map data from first map data to second map data and controls the navigation service to be continuously provided in the changed navigation mode.
  • Embodiment 19 In Embodiment 18, the processor determines whether there is at least one section requiring the route guidance based on the map data configured through different positioning methods among the topped routes. Mobile terminal.
  • Embodiment 20 The mobile terminal of embodiment 19, wherein the map data includes at least one of map data configured through GPS positioning technology and map data configured through SLAM positioning technology.
  • Embodiment 21 In Embodiment 19, when it is determined that the processor has entered a first section of the at least one section while providing the navigation service based on the first map data, the destination is reset. And guiding the route to the destination based on the second map data without operation.
  • Embodiment 22 In Embodiment 21, the processor determines that the first section has entered when the distance between the current location of the mobile terminal and the start point of the first section is less than or equal to a predetermined distance. Mobile terminal.
  • the first map data is map data configured through GPS positioning technology
  • the processor comprises, when the current location of the mobile terminal enters the first section, the wireless communication unit And downloading the second map data through the mobile terminal.
  • Embodiment 24 In Embodiment 18, the navigation mode includes at least one of a first mode providing a navigation screen through at least one vehicle display and a second mode providing the navigation screen through a display unit of the mobile terminal.
  • Mobile terminal comprising a.
  • Embodiment 25 In Embodiment 24, the processor controls the navigation mode to switch from the first mode to the second mode or to switch from the second mode to the first mode when a predetermined condition is satisfied. And controlling the first mode and the second mode to be switched to each other while the navigation service is continuously performed.
  • Embodiment 26 In Embodiment 24, the predetermined condition is determined by a combination of at least one of vehicle sensor data and sensor data of the mobile terminal, and the processor includes whether the vehicle is stopped or the mobile terminal is stopped. And determining whether there is movement of the vehicle to the inside or outside.
  • Embodiment 27 The mobile terminal according to embodiment 24, wherein the processor controls, in the first mode, to provide the navigation screen displayed on the mobile terminal as a mirroring screen on the vehicle display.
  • Embodiment 28 In Embodiment 18, the processor, based on at least one of vehicle sensor data received through the wireless communication unit or sensor data of the mobile terminal, determines that the mode change section has been entered. Mobile terminal.
  • Embodiment 29 In Embodiment 18, further comprising: an AR processor for generating an AR image by mapping AR information to an image obtained by misunderstanding a camera, wherein the processor provides the navigation service in an AR mode.
  • an AR processor for generating an AR image by mapping AR information to an image obtained by misunderstanding a camera, wherein the processor provides the navigation service in an AR mode.
  • Embodiment 30 In Embodiment 29, the image includes at least one of an image acquired through at least one camera provided in the vehicle through the wireless communication unit and a driving streaming image received from a network through the wireless communication unit.
  • Mobile terminal comprising a.
  • Embodiment 31 The mobile terminal according to Embodiment 18, wherein the first map data is map data stored in the memory, and the second map data is map data for providing a navigation service in an indoor space.
  • Embodiment 32 In Embodiment 18, when the destination is input through the input unit, the processor displays a service available menu according to the navigation mode change on the display unit, and summarizes the navigation service for each mode change section.
  • Mobile terminal characterized in that to provide information.
  • the foregoing specification can be implemented as computer-readable codes on a medium in which a program is recorded.
  • the computer-readable medium includes all types of recording devices that store data that can be read by a computer system. Examples of computer-readable media include HDD (Hard Disk Drive), SSD (Solid State Disk), SDD (Silicon Disk Drive), ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc. There is also a carrier wave (e.g., transmission over the Internet). Therefore, the detailed description above should not be construed as restrictive in all respects and should be considered as illustrative. The scope of the present invention should be determined by rational interpretation of the appended claims, and all changes within the equivalent scope of the present invention are included in the scope of the present invention.

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Navigation (AREA)

Abstract

이동 단말기에서 내비게이션 서비스를 제공하는 방법이 개시된다. 본 명세서는 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드변경 구간이 존재할 때, 모드 변경 구간에 진입하면, 경로 안내에 기초가 되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 변경된 내비게이션 모드에서 상기 내비게이션 서비스가 연속적으로 제공될 수 있다. 이에 따라, 한 번의 목적지 입력을 통해 차량이 진입하지 못하는 환경에서도 모바일을 이용하여 심리스한 경로 안내 서비스를 구현할 수 있다.

Description

이동 단말기를 이용한 내비게이션 서비스 제공 방법 및 이동 단말기
본 명세서는 이동 단말기를 이용한 내비게이션 서비스를 제공하는 방법에 관한 것이다.
자동차는 사용되는 원동기의 종류에 따라, 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등으로 분류될 수 있다.
최근 운전자, 보행자 등의 안전이나 편의를 위해 지능형 자동차(Smart Vehicle)의 개발이 활발히 되고 있으며, 지능형 자동차에 탑재되는 센서에 대한 연구가 활발히 진행되고 있다. 카메라, 적외선센서, 레이더, GPS, 라이더(Lidar), 자이로스코프 등이 지능형 자동차에 이용되고 있으며, 그 중 카메라는 사람의 눈을 대신하는 역할을 수행한다.
각종 센서와 전자 장비들의 개발로 인하여, 탑승자의 운전을 보조하고 주행 안전성 및 편의 등을 향상시키는 운전 주행 보조기능을 구비한 차량이 주목받고 있다.
한편, 차량에서 제공되는 내비게이션 기능은 목적지까지의 경로를 차량에 구비된 내비게이션을 통해 안내할 수 있다. 다만, 목적지가 차량이 진입할 수 없는 위치인 경우, 운전자는 차량에서 하차한 후 최종 목적지까지의 경로 안내 서비스를 제공받기 위해 새로운 태스크를 수행하여야 한다.
본 명세서는 전술한 필요성 및/또는 문제점을 해결하는 것을 목적으로 한다.
또한, 본 명세서는 내비게이션 서비스를 차량과 모바일을 통해 심리스(Seamless)하게 제공할 수 있는 이동 단말기를 이용한 내비게이션 서비스 방법을 제공하는 것을 목적으로 한다.
또한, 본 명세서는 경로 안내 구간에 차량이 진입할 수 없는 구간이 존재하는 경우, 차량 모드와 모바일 모드 상호간의 전환을 심리하게 유지할 수 있도록 하는 이동 단말기를 이용한 내비게이션 서비스 방법을 제공하는 것을 목적으로 한다.
또한, 본 명세서는 한 번의 목적지 설정을 통해 차량 모드에서 모바일 모드로 내비게이션 모드를 확장함으로써, 최종 목적지까지의 경로 안내를 보다 효율적으로 수행할 수 있는 이동 단말기를 이용한 내비게이션 서비스 방법을 제공하는 것을 목적으로 한다.
본 명세서의 일 양상에 따른 이동 단말기에서 내비게이션 서비스를 제공하는 방법은, 목적지까지의 경로를 탐색하는 단계; 상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드변경 구간이 존재하는지를 판단하는 단계; 및 상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가 되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에서 상기 내비게이션 서비스가 연속적으로 제공되도록 제어하는 단계;를 포함한다.
일 실시예에 따라, 상기 내비게이션 모드의 변경 구간이 존재하는지를 판단하는 단계는, 상기 탐색된 경로 중 서로 다른 측위 방법을 통해 구성된 상기 맵 데이터에 기초하여 상기 경로 안내가 필요한 적어도 하나의 구간이 존재하는지를 판단하는 단계;를 포함할 수 있다.
일 실시예에 따라, 상기 맵 데이터는, GPS 측위 기술을 통해 구성된 맵 데이터, SLAM 측위 기술을 통해 구성된 맵 데이터 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라, 상기 제1 맵 데이터에 기초하여 상기 내비게이션 서비스를 제공하는 중 상기 적어도 하나의 구간 중 제1 구간에 진입한 것으로 판단한 경우, 상기 목적지의 재 설정 동작 없이 상기 제2 맵 데이터에 기초하여 상기 목적지까지의 경로를 안내할 수 있다.
일 실시예에 따라, 상기 이동 단말기의 현재 위치와 상기 제1 구간이 시작지점 간의 거리가 미리 정해진 거리 이하인 경우, 상기 제1 구간에 진입한 것으로 판단할 수 있다.
일 실시예에 따라, 상기 제1 맵 데이터는 GPS 측위 기술을 통해 구성된 맵 데이터이고, 상기 이동 단말기의 현재 위치가 상기 제1 구간에 진입한 경우, 상기 무선 통신부를 통해 상기 제2 맵 데이터를 다운로드 받는 단계;를 더 포함할 수 있다.
일 실시예에 따라, 상기 이동 단말기의 현재 위치와 상기 제1 구간의 시작지점과 미리 정해진 거리 이내로 진입하는 경우, 상기 제1 구간에 진입한 것으로 판단할 수 있다.
일 실시예에 따라, 상기 내비게이션 모드는, 내비게이션 화면을 적어도 하나의 차량 디스플레이를 통해 제공하는 제1 모드, 상기 내비게이션 화면을 상기 이동 단말기의 디스플레이부를 통해 제공하는 제2 모드 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라, 미리 정해진 조건을 만족하는 경우 상기 제1 모드에서 제2 모드로 전환되거나, 상기 제2 모드에서 제1 모드로 전환되며, 상기 내비게이션 서비스가 연속적으로 이루어지는 상태에서 상기 제1 모드와 제2 모드 간의 상호 전환이 이루어질 수 있다.
일 실시예에 따라, 상기 미리 정해진 조건은, 차량 센서 데이터 및 상기 이동 단말기의 센서 데이터 중 적어도 하나의 조합에 의해 판단되며, 차량의 정차 여부, 정차 중 상기 이동 단말기가 상기 차량의 내부 또는 외부로의 움직임 여부를 판단하는 단계;를 더 포함할 수 있다.
일 실시예에 따라, 상기 제1 모드는, 상기 이동 단말기에 표시되는 상기 내비게이션 화면을 상기 차량 디스플레이에 미러링 화면으로 제공될 수 있다.
일 실시예에 따라, 무선 통신부를 통해 수신된 차량 센서 데이터 또는 상기 이동 단말기의 센서 데이터 중 적어도 하나에 기초하여 상기 모드 변경 구간에 진입한 것으로 판단하는 단계;를 더 포함할 수 있다.
일 실시예에 따라, 적어도 하나의 카메라를 통해 내비게이션 화면을 구성하기 위한 영상을 획득하는 단계; 상기 영상에 AR 정보를 매핑한 AR 영상을 생성하는 단계; 및 상기 내비게이션 서비스를 AR 모드에서 제공하는 단계;를 더 포함할 수 있다.
일 실시예에 따라, 상기 카메라는, 상기 이동 단말기에 구비된 적어도 하나의 카메라, 차량에 구비된 적어도 하나의 카메라 중 적어도 하나를 포함할 수 있다.
일 실시예에 따라, 상기 영상은 무선 통신부를 통해 네트워크로 부터 수신된 주행 스트리밍 영상을 포함할 수 있다.
일 실시예에 따라, 상기 제1 맵 데이터는 상기 이동 단말기의 메모리에 저장된 맵 데이터이고, 상기 제2 맵 데이터는 실내 공간에서의 내비게이션 서비스를 제공하기 위한 맵 데이터일 수 있다.
일 실시예에 따라 상기 목적지가 입력되는 경우, 상기 내비게이션 모드 변경에 따른 서비스 이용 가능 메뉴를 디스플레이에 표시하는 단계; 및 상기 모드 변경 구간별 내비게이션 서비스 요약정보를 제공하는 단계;를 더 포함할 수 있다.
본 명세서의 다른 양상에 따른 이동 단말기는, 무선 통신부; 맵 데이터를 저장하는 메모리; 목적지를 입력받는 입력부; 및 상기 목적지까지의 경로를 탐색하고, 상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드 변경 구간이 존재하는지 판단하고, 상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에서 상기 내비게이션 서비스가 연속적으로 제공되도록 제어하는 프로세서;를 포함한다.
본 명세서의 다른 양상에 따른 내비게이션 기능을 제공하는 지능형 디바이스는, 무선 통신부, 입력부, 적어도 하나의 센서를 포함하는 센싱부; 및 프로세서; 상기 프로세서에 의해 실행 가능한 명령어를 포함하는 메모리;를 포함하고, 상기 명령어는, 목적지까지의 경로를 탐색하고, 상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드 변경 구간이 존재하는지 판단하고, 상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에서 상기 내비게이션 서비스가 연속적으로 제공되도록 제어한다.
본 명세서에 따른 이동 단말기를 이용한 내비게이션 서비스 제공 방법, 이동 단말기의 효과에 대해 설명하면 다음과 같다.
본 명세서는 내비게이션 서비스를 차량과 모바일을 통해 심리스(Seamless)하게 제공할 수 있다.
또한, 본 명세서는 경로 안내 구간에 차량이 진입할 수 없는 구간이 존재하는 경우, 차량 모드와 모바일 모드 상호간의 전환을 심리하게 유지할 수 있다.
또한, 본 명세서는 한 번의 목적지 설정을 통해 차량 모드에서 모바일 모드로 내비게이션 모드를 확장함으로써, 최종 목적지까지의 경로 안내를 보다 효율적으로 수행할 수 있다.
도 1은 본 명세서가 적용될 수 있는 시스템을 설명하기 위한 도면이다.
도 2는 본 명세서와 관련된 이동 단말기를 설명하기 위한 블록도이다.
도 3은 본 명세서에서 개시하는 심리스(seamless)한 내비게이션 서비스를 설명하기 위한 개념도이다.
도 4는 본 명세서의 일 실시예에 따른 이동 단말기의 내비게이션 서비스 제공 방법의 흐름도이다.
도 5는 본 명세서의 일 실시예에 따라 내비게이션 모드를 변경하면서 내비게이션 서비스를 제공하는 방법의 흐름도이다.
도 6는 본 명세서의 일 실시예에 따라 모드변경 필요구간을 예시적으로 설명하기 위한 도면이다.
도 7은 본 명세서의 일 실시예에 따라 모드변경 필요구간에서 사용되는 맵 데이터의 일 예이다.
도 8은 본 명세서의 일 실시예에 따라 이동 단말기를 이용하여 심리스한 내비게이션 서비스를 설명하기 위한 개념도이다.
도 9 내지 도 10은 본 명세서의 일 실시예에 따라 이동 단말기를 이용한 내비게이션 서비스를 설정하기 위한 예시적인 도면들이다.
도 11 내지 도 12는 본 명세서의 일 실시예에 따라 AR 내비게이션 화면을 제공하는 예를 설명한다.
도 13 내지 도 15는 도 8에 도시한 도면에서 주차장에 진입하는 경우 본 발명의 일 실시예에 따라 이동 단말기를 이용한 내비게이션 서비스 제공 방법을 설명하기 위한 도면들이다.
도 16 내지 도 17은 도 8에 도시한 도면에서 실내 건물에 진입하는 경우 본 발명의 일 실시예에 따라 이동 단말기를 이용한 내비게이션 서비스 제공 방법을 설명하기 위한 도면들이다.
도 18은 본 명세서의 일 실시예에 따라 센싱 정보를 고려하여 이동 단말기를 이용하여 내비게이션 서비스에 따른 내비게이션 화면의 출력을 설명하기 위한 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
본 명세서에 개시된 실시예를 설명함에 있어서 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
[5G 시나리오]
5G의 세 가지 주요 요구 사항 영역은 (1) 개선된 모바일 광대역 (Enhanced Mobile Broadband, eMBB) 영역, (2) 다량의 머신 타입 통신 (massive Machine Type Communication, mMTC) 영역 및 (3) 초-신뢰 및 저 지연 통신 (Ultra-reliable and Low Latency Communications, URLLC) 영역을 포함한다.
일부 사용 예(Use Case)는 최적화를 위해 다수의 영역들이 요구될 수 있고, 다른 사용 예는 단지 하나의 핵심 성능 지표 (Key Performance Indicator, KPI)에만 포커싱될 수 있다. 5G는 이러한 다양한 사용 예들을 유연하고 신뢰할 수 있는 방법으로 지원하는 것이다.
eMBB는 기본적인 모바일 인터넷 액세스를 훨씬 능가하게 하며, 풍부한 양방향 작업, 클라우드 또는 증강현실에서 미디어 및 엔터테인먼트 애플리케이션을 커버한다. 데이터는 5G의 핵심 동력 중 하나이며, 5G 시대에서 처음으로 전용 음성 서비스를 볼 수 없을 수 있다. 5G에서, 음성은 단순히 통신 시스템에 의해 제공되는 데이터 연결을 사용하여 응용 프로그램으로서 처리될 것이 기대된다. 증가된 트래픽 양(volume)을 위한 주요 원인들은 콘텐츠 크기의 증가 및 높은 데이터 전송률을 요구하는 애플리케이션 수의 증가이다. 스트리밍 서비스 (오디오 및 비디오), 대화형 비디오 및 모바일 인터넷 연결은 더 많은 장치가 인터넷에 연결될수록 더 널리 사용될 것이다. 이러한 많은 응용 프로그램들은 사용자에게 실시간 정보 및 알림을 푸쉬하기 위해 항상 켜져 있는 연결성이 필요하다. 클라우드 스토리지 및 애플리케이션은 모바일 통신 플랫폼에서 급속히 증가하고 있으며, 이것은 업무 및 엔터테인먼트 모두에 적용될 수 있다. 그리고, 클라우드 스토리지는 상향링크 데이터 전송률의 성장을 견인하는 특별한 사용 예이다. 5G는 또한 클라우드의 원격 업무에도 사용되며, 촉각 인터페이스가 사용될 때 우수한 사용자 경험을 유지하도록 훨씬 더 낮은 단-대-단(end-to-end) 지연을 요구한다. 엔터테인먼트 예를 들어, 클라우드 게임 및 비디오 스트리밍은 모바일 광대역 능력에 대한 요구를 증가시키는 또 다른 핵심 요소이다. 엔터테인먼트는 기차, 차 및 비행기와 같은 높은 이동성 환경을 포함하는 어떤 곳에서든지 스마트폰 및 태블릿에서 필수적이다. 또 다른 사용 예는 엔터테인먼트를 위한 증강현실 및 정보 검색이다. 여기서, 증강현실은 매우 낮은 지연과 순간적인 데이터 양을 필요로 한다.
또한, 가장 많이 예상되는 5G 사용 예 중 하나는 모든 분야에서 임베디드 센서를 원활하게 연결할 수 있는 기능 즉, mMTC에 관한 것이다. 2020년까지 잠재적인 IoT 장치들은 204 억 개에 이를 것으로 예측된다. 산업 IoT는 5G가 스마트 도시, 자산 추적(asset tracking), 스마트 유틸리티, 농업 및 보안 인프라를 가능하게 하는 주요 역할을 수행하는 영역 중 하나이다.
URLLC는 주요 인프라의 원격 제어 및 자체-구동 차량(self-driving vehicle)과 같은 초 신뢰 / 이용 가능한 지연이 적은 링크를 통해 산업을 변화시킬 새로운 서비스를 포함한다. 신뢰성과 지연의 수준은 스마트 그리드 제어, 산업 자동화, 로봇 공학, 드론 제어 및 조정에 필수적이다.
다음으로, 다수의 사용 예들에 대해 보다 구체적으로 살펴본다.
5G는 초당 수백 메가 비트에서 초당 기가 비트로 평가되는 스트림을 제공하는 수단으로 FTTH (fiber-to-the-home) 및 케이블 기반 광대역 (또는 DOCSIS)을 보완할 수 있다. 이러한 빠른 속도는 가상현실과 증강현실뿐 아니라 4K 이상(6K, 8K 및 그 이상)의 해상도로 TV를 전달하는데 요구된다. VR(Virtual Reality) 및 AR(Augmented Reality) 애플리케이션들은 거의 몰입형(immersive) 스포츠 경기를 포함한다. 특정 응용 프로그램은 특별한 네트워크 설정이 요구될 수 있다. 예를 들어, VR 게임의 경우, 게임 회사들이 지연을 최소화하기 위해 코어 서버를 네트워크 오퍼레이터의 에지 네트워크 서버와 통합해야 할 수 있다.
자동차(Automotive)는 차량에 대한 이동 통신을 위한 많은 사용 예들과 함께 5G에 있어 중요한 새로운 동력이 될 것으로 예상된다. 예를 들어, 승객을 위한 엔터테인먼트는 동시의 높은 용량과 높은 이동성 모바일 광대역을 요구한다. 그 이유는 미래의 사용자는 그들의 위치 및 속도와 관계없이 고품질의 연결을 계속해서 기대하기 때문이다. 자동차 분야의 다른 활용 예는 증강현실 대시보드이다. 이는 운전자가 앞면 창을 통해 보고 있는 것 위에 어둠 속에서 물체를 식별하고, 물체의 거리와 움직임에 대해 운전자에게 말해주는 정보를 겹쳐서 디스플레이 한다. 미래에, 무선 모듈은 차량들 간의 통신, 차량과 지원하는 인프라구조 사이에서 정보 교환 및 자동차와 다른 연결된 디바이스들(예를 들어, 보행자에 의해 수반되는 디바이스들) 사이에서 정보 교환을 가능하게 한다. 안전 시스템은 운전자가 보다 안전한 운전을 할 수 있도록 행동의 대체 코스들을 안내하여 사고의 위험을 낮출 수 있게 한다. 다음 단계는 원격 조종되거나 자체 운전 차량(self-driven vehicle)이 될 것이다. 이는 서로 다른 자체 운전 차량들 사이 및 자동차와 인프라 사이에서 매우 신뢰성이 있고, 매우 빠른 통신을 요구한다. 미래에, 자체 운전 차량이 모든 운전 활동을 수행하고, 운전자는 차량 자체가 식별할 수 없는 교통 이상에만 집중하도록 할 것이다. 자체 운전 차량의 기술적 요구 사항은 트래픽 안전을 사람이 달성할 수 없을 정도의 수준까지 증가하도록 초 저 지연과 초고속 신뢰성을 요구한다.
스마트 사회(smart society)로서 언급되는 스마트 도시와 스마트 홈은 고밀도 무선 센서 네트워크로 임베디드될 것이다. 지능형 센서의 분산 네트워크는 도시 또는 집의 비용 및 에너지-효율적인 유지에 대한 조건을 식별할 것이다. 유사한 설정이 각 가정을 위해 수행될 수 있다. 온도 센서, 창 및 난방 컨트롤러, 도난 경보기 및 가전 제품들은 모두 무선으로 연결된다. 이러한 센서들 중 많은 것들이 전형적으로 낮은 데이터 전송 속도, 저전력 및 저비용이다. 하지만, 예를 들어, 실시간 HD 비디오는 감시를 위해 특정 타입의 장치에서 요구될 수 있다.
열 또는 가스를 포함한 에너지의 소비 및 분배는 고도로 분산화되고 있어, 분산 센서 네트워크의 자동화된 제어가 요구된다. 스마트 그리드는 정보를 수집하고 이에 따라 행동하도록 디지털 정보 및 통신 기술을 사용하여 이런 센서들을 상호 연결한다. 이 정보는 공급 업체와 소비자의 행동을 포함할 수 있으므로, 스마트 그리드가 효율성, 신뢰성, 경제성, 생산의 지속 가능성 및 자동화된 방식으로 전기와 같은 연료들의 분배를 개선하도록 할 수 있다. 스마트 그리드는 지연이 적은 다른 센서 네트워크로 볼 수도 있다.
건강 부문은 이동 통신의 혜택을 누릴 수 있는 많은 응용 프로그램을 보유하고 있다. 통신 시스템은 멀리 떨어진 곳에서 임상 진료를 제공하는 원격 진료를 지원할 수 있다. 이는 거리에 대한 장벽을 줄이는데 도움을 주고, 거리가 먼 농촌에서 지속적으로 이용하지 못하는 의료 서비스들로의 접근을 개선시킬 수 있다. 이는 또한 중요한 진료 및 응급 상황에서 생명을 구하기 위해 사용된다. 이동 통신 기반의 무선 센서 네트워크는 심박수 및 혈압과 같은 파라미터들에 대한 원격 모니터링 및 센서들을 제공할 수 있다.
무선 및 모바일 통신은 산업 응용 분야에서 점차 중요해지고 있다. 배선은 설치 및 유지 비용이 높다. 따라서, 케이블을 재구성할 수 있는 무선 링크들로의 교체 가능성은 많은 산업 분야에서 매력적인 기회이다. 그러나, 이를 달성하는 것은 무선 연결이 케이블과 비슷한 지연, 신뢰성 및 용량으로 동작하는 것과, 그 관리가 단순화될 것이 요구된다. 낮은 지연과 매우 낮은 오류 확률은 5G로 연결될 필요가 있는 새로운 요구 사항이다.
물류(logistics) 및 화물 추적(freight tracking)은 위치 기반 정보 시스템을 사용하여 어디에서든지 인벤토리(inventory) 및 패키지의 추적을 가능하게 하는 이동 통신에 대한 중요한 사용 예이다. 물류 및 화물 추적의 사용 예는 전형적으로 낮은 데이터 속도를 요구하지만 넓은 범위와 신뢰성 있는 위치 정보가 필요하다.
본 명세서에서 후술할 본 발명은 전술한 5G의 요구 사항을 만족하도록 각 실시예를 조합하거나 변경하여 구현될 수 있다.
도 1은 본 명세서가 적용될 수 있는 시스템을 설명하기 위한 도면이다.
도 1을 참조하면, AI 시스템은 AI 서버(16), 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 중에서 적어도 하나 이상이 클라우드 네트워크(10)와 연결된다. 여기서, AI 기술이 적용된 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 등을 AI 장치(11 내지 15)라 칭할 수 있다.
클라우드 네트워크(10)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(10)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.
즉, AI 시스템을 구성하는 각 장치들(11 내지 16)은 클라우드 네트워크(10)를 통해 서로 연결될 수 있다. 특히, 각 장치들(11 내지 16)은 기지국을 통해서 서로 통신할 수도 있지만, 기지국을 통하지 않고 직접 서로 통신할 수도 있다.
AI 서버(16)는 AI 프로세싱을 수행하는 서버와 빅 데이터에 대한 연산을 수행하는 서버를 포함할 수 있다.
AI 서버(16)는 AI 시스템을 구성하는 AI 장치들인 로봇(11), 자율주행 차량(12), XR 장치(13), 스마트폰(14) 또는 가전(15) 중에서 적어도 하나 이상과 클라우드 네트워크(10)을 통하여 연결되고, 연결된 AI 장치들(11 내지 15)의 AI 프로세싱을 적어도 일부를 도울 수 있다.
이 때, AI 서버(16)는 AI 장치(11 내지 15)를 대신하여 머신 러닝 알고리즘에 따라 인공 신경망을 학습시킬 수 있고, 학습 모델을 직접 저장하거나 AI 장치(11 내지 15)에 전송할 수 있다.
이 때, AI 서버(16)는 AI 장치(11 내지 15)로부터 입력 데이터를 수신하고, 학습 모델을 이용하여 수신한 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성하여 AI 장치(11 내지 15)로 전송할 수 있다.
또는, AI 장치(11 내지 15)는 직접 학습 모델을 이용하여 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수도 있다.
<AI+로봇>
로봇(11)은 AI 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.
로봇(11)은 동작을 제어하기 위한 로봇 제어 모듈을 포함할 수 있고, 로봇 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다.
로봇(11)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 로봇(11)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 사용자 상호작용에 대한 응답을 결정하거나, 동작을 결정할 수 있다.
여기서, 로봇(11)은 이동 경로 및 주행 계획을 결정하기 위하여, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
로봇(11)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 로봇(11)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 동작을 결정할 수 있다. 여기서, 학습 모델은 로봇(11)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.
이 때, 로봇(11)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
로봇(11)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 로봇(11)을 주행시킬 수 있다.
맵 데이터에는 로봇(11)이 이동하는 공간에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 벽, 문 등의 고정 객체들과 화분, 책상 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 로봇(11)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이 때, 로봇(11)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
<AI+자율주행>
자율주행 차량(12)은 AI 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
자율주행 차량(12)은 자율주행 기능을 제어하기 위한 자율주행 제어 모듈을 포함할 수 있고, 자율주행 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다. 자율주행 제어 모듈은 자율주행 차량(12)의 구성으로써 내부에 포함될 수도 있지만, 자율주행 차량(12)의 외부에 별도의 하드웨어로 구성되어 연결될 수도 있다.
자율주행 차량(12)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 자율주행 차량(12)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 동작을 결정할 수 있다.
여기서, 자율주행 차량(12)은 이동 경로 및 주행 계획을 결정하기 위하여, 로봇(11)과와 마찬가지로, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
특히, 자율주행 차량(12)은 시야가 가려지는 영역이나 일정 거리 이상의 영역에 대한 환경이나 객체는 외부 장치들로부터 센서 정보를 수신하여 인식하거나, 외부 장치들로부터 직접 인식된 정보를 수신할 수 있다.
자율주행 차량(12)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 자율주행 차량(12)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 주행 동선을 결정할 수 있다. 여기서, 학습 모델은 자율주행 차량(12)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.
이 때, 자율주행 차량(12)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
자율주행 차량(12)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 자율주행 차량(12)을 주행시킬 수 있다.
맵 데이터에는 자율주행 차량(12)이 주행하는 공간(예컨대, 도로)에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 가로등, 바위, 건물 등의 고정 객체들과 차량, 보행자 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 자율주행 차량(12)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이 때, 자율주행 차량(12)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
<AI+XR>
XR 장치(13)는 AI 기술이 적용되어, HMD(Head-Mount Display), 차량에 구비된 HUD(Head-Up Display), 텔레비전, 휴대폰, 스마트 폰, 컴퓨터, 웨어러블 디바이스, 가전 기기, 디지털 사이니지, 차량, 고정형 로봇이나 이동형 로봇 등으로 구현될 수 있다.
XR 장치(13)는 다양한 센서들을 통해 또는 외부 장치로부터 획득한 3차원 포인트 클라우드 데이터 또는 이미지 데이터를 분석하여 3차원 포인트들에 대한 위치 데이터 및 속성 데이터를 생성함으로써 주변 공간 또는 현실 객체에 대한 정보를 획득하고, 출력할 XR 객체를 렌더링하여 출력할 수 있다. 예컨대, XR 장치(13)는 인식된 물체에 대한 추가 정보를 포함하는 XR 객체를 해당 인식된 물체에 대응시켜 출력할 수 있다.
XR 장치(13)는 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, XR 장치(13)는 학습 모델을 이용하여 3차원 포인트 클라우드 데이터 또는 이미지 데이터에서 현실 객체를 인식할 수 있고, 인식한 현실 객체에 상응하는 정보를 제공할 수 있다. 여기서, 학습 모델은 XR 장치(13)에서 직접 학습되거나, AI 서버(16) 등의 외부 장치에서 학습된 것일 수 있다.
이 때, XR 장치(13)는 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(16) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
<AI+로봇+자율주행>
로봇(11)은 AI 기술 및 자율주행 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇 등으로 구현될 수 있다.
AI 기술과 자율주행 기술이 적용된 로봇(11)은 자율주행 기능을 가진 로봇 자체나, 자율주행 차량(12)과 상호작용하는 로봇(11) 등을 의미할 수 있다.
자율주행 기능을 가진 로봇(11)은 사용자의 제어 없이도 주어진 동선에 따라 스스로 움직이거나, 동선을 스스로 결정하여 움직이는 장치들을 통칭할 수 있다.
자율주행 기능을 가진 로봇(11) 및 자율주행 차량(12)은 이동 경로 또는 주행 계획 중 하나 이상을 결정하기 위해 공통적인 센싱 방법을 사용할 수 있다. 예를 들어, 자율주행 기능을 가진 로봇(11) 및 자율주행 차량(12)은 라이다, 레이더, 카메라를 통해 센싱된 정보를 이용하여, 이동 경로 또는 주행 계획 중 하나 이상을 결정할 수 있다.
자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)과 별개로 존재하면서, 자율주행 차량(12)의 내부 또는 외부에서 자율주행 기능에 연계되거나, 자율주행 차량(12)에 탑승한 사용자와 연계된 동작을 수행할 수 있다.
이 때, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)을 대신하여 센서 정보를 획득하여 자율주행 차량(12)에 제공하거나, 센서 정보를 획득하고 주변 환경 정보 또는 객체 정보를 생성하여 자율주행 차량(12)에 제공함으로써, 자율주행 차량(12)의 자율주행 기능을 제어하거나 보조할 수 있다.
또는, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)에 탑승한 사용자를 모니터링하거나 사용자와의 상호작용을 통해 자율주행 차량(12)의 기능을 제어할 수 있다. 예컨대, 로봇(11)은 운전자가 졸음 상태인 경우로 판단되는 경우, 자율주행 차량(12)의 자율주행 기능을 활성화하거나 자율주행 차량(12)의 구동부의 제어를 보조할 수 있다. 여기서, 로봇(11)이 제어하는 자율주행 차량(12)의 기능에는 단순히 자율주행 기능뿐만 아니라, 자율주행 차량(12)의 내부에 구비된 네비게이션 시스템이나 오디오 시스템에서 제공하는 기능도 포함될 수 있다.
또는, 자율주행 차량(12)과 상호작용하는 로봇(11)은 자율주행 차량(12)의 외부에서 자율주행 차량(12)에 정보를 제공하거나 기능을 보조할 수 있다. 예컨대, 로봇(11)은 스마트 신호등과 같이 자율주행 차량(12)에 신호 정보 등을 포함하는 교통 정보를 제공할 수도 있고, 전기 차량의 자동 전기 충전기와 같이 자율주행 차량(12)과 상호작용하여 충전구에 전기 충전기를 자동으로 연결할 수도 있다.
<AI+로봇+XR>
로봇(11)은 AI 기술 및 XR 기술이 적용되어, 안내 로봇, 운반 로봇, 청소 로봇, 웨어러블 로봇, 엔터테인먼트 로봇, 펫 로봇, 무인 비행 로봇, 드론 등으로 구현될 수 있다.
XR 기술이 적용된 로봇(11)은 XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇을 의미할 수 있다. 이 경우, 로봇(11)은 XR 장치(13)와 구분되며 서로 연동될 수 있다.
XR 영상 내에서의 제어/상호작용의 대상이 되는 로봇(11)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 로봇(11) 또는 XR 장치(13)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(13)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 로봇(11)은 XR 장치(13)를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.
예컨대, 사용자는 XR 장치(13) 등의 외부 장치를 통해 원격으로 연동된 로봇(11)의 시점에 상응하는 XR 영상을 확인할 수 있고, 상호작용을 통하여 로봇(11)의 자율주행 경로를 조정하거나, 동작 또는 주행을 제어하거나, 주변 객체의 정보를 확인할 수 있다.
<AI+자율주행+XR>
자율주행 차량(12)은 AI 기술 및 XR 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
XR 기술이 적용된 자율주행 차량(12)은 XR 영상을 제공하는 수단을 구비한 자율주행 차량이나, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량 등을 의미할 수 있다. 특히, XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량(12)은 XR 장치(13)와 구분되며 서로 연동될 수 있다.
XR 영상을 제공하는 수단을 구비한 자율주행 차량(12)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하고, 획득한 센서 정보에 기초하여 생성된 XR 영상을 출력할 수 있다. 예컨대, 자율주행 차량(12)은 HUD를 구비하여 XR 영상을 출력함으로써, 탑승자에게 현실 객체 또는 화면 속의 객체에 대응되는 XR 객체를 제공할 수 있다.
이 때, XR 객체가 HUD에 출력되는 경우에는 XR 객체의 적어도 일부가 탑승자의 시선이 향하는 실제 객체에 오버랩되도록 출력될 수 있다. 반면, XR 객체가 자율주행 차량(12)의 내부에 구비되는 디스플레이에 출력되는 경우에는 XR 객체의 적어도 일부가 화면 속의 객체에 오버랩되도록 출력될 수 있다. 예컨대, 자율주행 차량(12)은 차로, 타 차량, 신호등, 교통 표지판, 이륜차, 보행자, 건물 등과 같은 객체와 대응되는 XR 객체들을 출력할 수 있다.
XR 영상 내에서의 제어/상호작용의 대상이 되는 자율주행 차량(12)은 카메라를 포함하는 센서들로부터 센서 정보를 획득하면, 자율주행 차량(12) 또는 XR 장치(13)는 센서 정보에 기초한 XR 영상을 생성하고, XR 장치(13)는 생성된 XR 영상을 출력할 수 있다. 그리고, 이러한 자율주행 차량(12)은 XR 장치(13) 등의 외부 장치를 통해 입력되는 제어 신호 또는 사용자의 상호작용에 기초하여 동작할 수 있다.
[확장현실 기술]
확장현실(XR: eXtended Reality)은 가상현실(VR: Virtual Reality), 증강현실(AR: Augmented Reality), 혼합현실(MR: Mixed Reality)을 총칭한다. VR 기술은 현실 세계의 객체나 배경 등을 CG 영상으로만 제공하고, AR 기술은 실제 사물 영상 위에 가상으로 만들어진 CG 영상을 함께 제공하며, MR 기술은 현실 세계에 가상 객체들을 섞고 결합시켜서 제공하는 컴퓨터 그래픽 기술이다.
MR 기술은 현실 객체와 가상 객체를 함께 보여준다는 점에서 AR 기술과 유사하다. 그러나, AR 기술에서는 가상 객체가 현실 객체를 보완하는 형태로 사용되는 반면, MR 기술에서는 가상 객체와 현실 객체가 동등한 성격으로 사용된다는 점에서 차이점이 있다.
XR 기술은 HMD(Head-Mount Display), HUD(Head-Up Display), 휴대폰, 태블릿 PC, 랩탑, 데스크탑, TV, 디지털 사이니지 등에 적용될 수 있고, XR 기술이 적용된 장치를 XR 장치(XR Device)라 칭할 수 있다.
도 2는 본 명세서와 관련된 이동 단말기를 설명하기 위한 블록도이다.
도 2를 참조하면, 이동 단말기(100)는 무선 통신부(110), 입력부(120), 센싱부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 34에 도시된 구성요소들은 이동 단말기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 이동 단말기는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 상기 구성요소들 중 무선 통신부(110)는, 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기(100) 사이, 또는 이동 단말기(100)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 무선 통신부(110)는, 이동 단말기(100)를 하나 이상의 5G 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.
입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 122), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(123, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(140)는 근접센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 이동 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅팁 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 이동 단말기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 이동 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(160)는 이동 단말기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. 이동 단말기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(170)는 이동 단말기(100)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(170)는 이동 단말기(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 이동 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 이동 단말기(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 이동 단말기(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, 이동 단말기(100) 상에 설치되어, 제어부(180)에 의하여 상기 이동 단말기의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용 프로그램의 구동을 위하여, 이동 단말기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 이동 단말기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체가능한 형태의 배터리가 될 수 있다.
상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 이동 단말기의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 이동 단말기의 동작, 제어, 또는 제어방법은 상기 메모리(170)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 이동 단말기 상에서 구현될 수 있다.
먼저, 무선 통신부(110)에 대하여 살펴보면, 무선 통신부(110)의 방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.
이동통신 모듈(112)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(113)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(113)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다.
WiBro, HSDPA, HSUPA, GSM, CDMA, WCDMA, LTE, LTE-A 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다. 이러한, 근거리 통신 모듈(114)은, 근거리 무선 통신망(Wireless Area Networks)을 통해 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기(100) 사이, 또는 이동 단말기(100)와 다른 이동 단말기(100, 또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 지원할 수 있다. 상기 근거리 무선 통신망은 근거리 무선 개인 통신망(Wireless Personal Area Networks)일 수 있다.
여기에서, 다른 이동 단말기(100)는 본 발명에 따른 이동 단말기(100)와 데이터를 상호 교환하는 것이 가능한(또는 연동 가능한) 웨어러블 디바이스(wearable device, 예를 들어, 스마트워치(smartwatch), 스마트 글래스(smart glass), HMD(head mounted display))가 될 수 있다. 근거리 통신 모듈(114)은, 이동 단말기(100) 주변에, 상기 이동 단말기(100)와 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(180)는 상기 감지된 웨어러블 디바이스가 본 발명에 따른 이동 단말기(100)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(100)에서 처리되는 데이터의 적어도 일부를, 상기 근거리 통신 모듈(114)을 통해 웨어러블 디바이스로 전송할 수 있다. 따라서, 웨어러블 디바이스의 사용자는, 이동 단말기(100)에서 처리되는 데이터를, 웨어러블 디바이스를 통해 이용할 수 있다. 예를 들어, 이에 따르면 사용자는, 이동 단말기(100)에 전화가 수신된 경우, 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(100)에 메시지가 수신된 경우, 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.
위치정보 모듈(115)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, 이동 단말기는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 이동 단말기의 위치를 획득할 수 있다. 다른 예로서, 이동 단말기는 Wi-Fi모듈을 활용하면, Wi-Fi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)의 정보에 기반하여, 이동 단말기의 위치를 획득할 수 있다. 필요에 따라서, 위치정보모듈(115)은 치환 또는 부가적으로 이동 단말기의 위치에 관한 데이터를 얻기 위해 무선 통신부(110)의 다른 모듈 중 어느 기능을 수행할 수 있다. 위치정보모듈(115)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위해 이용되는 모듈로, 이동 단말기의 위치를 직접적으로 계산하거나 획득하는 모듈로 한정되지는 않는다.
다음으로, 입력부(120)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, 이동 단말기(100) 는 하나 또는 복수의 카메라(121)를 구비할 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시되거나 메모리(170)에 저장될 수 있다. 한편, 이동 단말기(100)에 구비되는 복수의 카메라(121)는 매트릭스 구조를 이루도록 배치될 수 있으며, 이와 같이 매트릭스 구조를 이루는 카메라(121)를 통하여, 이동 단말기(100)에는 다양한 각도 또는 초점을 갖는 복수의 영상정보가 입력될 수 있다. 또한, 복수의 카메라(121)는 입체영상을 구현하기 위한 좌 영상 및 우 영상을 획득하도록, 스트레오 구조로 배치될 수 있다.
마이크로폰(122)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 이동 단말기(100)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(123)는 사용자로부터 정보를 입력받기 위한 것으로서, 사용자 입력부(123)를 통해 정보가 입력되면, 제어부(180)는 입력된 정보에 대응되도록 이동 단말기(100)의 동작을 제어할 수 있다. 이러한, 사용자 입력부(123)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 이동 단말기(100)의 전·후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다. 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다.
한편, 센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하고, 이에 대응하는 센싱 신호를 발생시킨다. 제어부(180)는 이러한 센싱 신호에 기초하여, 이동 단말기(100)의 구동 또는 동작을 제어하거나, 이동 단말기(100)에 설치된 응용 프로그램과 관련된 데이터 처리, 기능 또는 동작을 수행 할 수 있다. 센싱부(140)에 포함될 수 있는 다양한 센서 중 대표적인 센서들의 대하여, 보다 구체적으로 살펴본다.
먼저, 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선 등을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 이러한 근접 센서(141)는 위에서 살펴본 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다.
근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 터치 스크린이 정전식인 경우에, 근접 센서(141)는 전도성을 갖는 물체의 근접에 따른 전계의 변화로 상기 물체의 근접을 검출하도록 구성될 수 있다. 이 경우 터치 스크린(또는 터치 센서) 자체가 근접 센서로 분류될 수 있다.
한편, 설명의 편의를 위해, 터치 스크린 상에 물체가 접촉되지 않으면서 근접되어 상기 물체가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 명명하고, 상기 터치 스크린 상에 물체가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 명명한다. 상기 터치 스크린 상에서 물체가 근접 터치 되는 위치라 함은, 상기 물체가 근접 터치될 때 상기 물체가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다. 상기 근접 센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지할 수 있다. 한편, 제어부(180)는 위와 같이, 근접 센서(141)를 통해 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 데이터(또는 정보)를 처리하며, 나아가, 처리된 데이터에 대응하는 시각적인 정보를 터치 스크린상에 출력시킬 수 있다. 나아가, 제어부(180)는, 터치 스크린 상의 동일한 지점에 대한 터치가, 근접 터치인지 또는 접촉 터치인지에 따라, 서로 다른 동작 또는 데이터(또는 정보)가 처리되도록 이동 단말기(100)를 제어할 수 있다.
터치 센서는 저항막 방식, 정전용량 방식, 적외선 방식, 초음파 방식, 자기장 방식 등 여러 가지 터치방식 중 적어도 하나를 이용하여 터치 스크린(또는 디스플레이부(151))에 가해지는 터치(또는 터치입력)을 감지한다.
일 예로서, 터치 센서는, 터치 스크린의 특정 부위에 가해진 압력 또는 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 스크린 상에 터치를 가하는 터치 대상체가 터치 센서 상에 터치 되는 위치, 면적, 터치 시의 압력, 터치 시의 정전 용량 등을 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.
이와 같이, 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다. 여기에서, 터치 제어기는, 제어부(180)와 별도의 구성요소일 수 있고, 제어부(180) 자체일 수 있다.
한편, 제어부(180)는, 터치 스크린(또는 터치 스크린 이외에 구비된 터치키)을 터치하는, 터치 대상체의 종류에 따라 서로 다른 제어를 수행하거나, 동일한 제어를 수행할 수 있다. 터치 대상체의 종류에 따라 서로 다른 제어를 수행할지 또는 동일한 제어를 수행할 지는, 현재 이동 단말기(100)의 동작상태 또는 실행 중인 응용 프로그램에 따라 결정될 수 있다.
한편, 위에서 살펴본 터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다.
초음파 센서는 초음파를 이용하여, 감지대상의 위치정보를 인식할 수 있다. 한편 제어부(180)는 광 센서와 복수의 초음파 센서로부터 감지되는 정보를 통해, 파동 발생원의 위치를 산출하는 것이 가능하다. 파동 발생원의 위치는, 광이 초음파보다 매우 빠른 성질, 즉, 광이 광 센서에 도달하는 시간이 초음파가 초음파 센서에 도달하는 시간보다 매우 빠름을 이용하여, 산출될 수 있다. 보다 구체적으로 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치가 산출될 수 있다
한편, 입력부(120)의 구성으로 살펴본, 카메라(121)는 카메라 센서(예를 들어, CCD, CMOS 등), 포토 센서(또는 이미지 센서) 및 레이저 센서 중 적어도 하나를 포함한다.
카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 이동 단말기(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 이동 단말기(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부로서 구성될 수 있다.
상기 입체 디스플레이부에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다.
음향 출력부(152)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(170)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력부(152)는 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
햅틱 모듈(haptic module)(153)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(153)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅틱 모듈(153)에서 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(153)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(153)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(electrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(153)은 직접적인 접촉을 통해 촉각 효과를 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(153)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
광출력부(154)는 이동 단말기(100)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.
광출력부(154)가 출력하는 신호는 이동 단말기가 전면이나 후면으로 단색이나 복수색의 빛을 발광함에 따라 구현된다. 상기 신호 출력은 이동 단말기가 사용자의 이벤트 확인을 감지함에 의하여 종료될 수 있다.
인터페이스부(160)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(160)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트(port), 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(160)에 포함될 수 있다.
한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(160)를 통하여 단말기(100)와 연결될 수 있다.
또한, 상기 인터페이스부(160)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.
메모리(170)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(170)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(170)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(170)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
한편, 앞서 살펴본 것과 같이, 제어부(180)는 응용 프로그램과 관련된 동작과, 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어, 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다.
또한, 제어부(180)는 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행하거나, 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. 나아가 제어부(180)는 이하에서 설명되는 다양한 실시 예들을 본 발명에 따른 이동 단말기(100) 상에서 구현하기 위하여, 위에서 살펴본 구성요소들을 중 어느 하나 또는 복수를 조합하여 제어할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(190)는 배터리를 포함하며, 배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다.
또한, 전원공급부(190)는 연결포트를 구비할 수 있으며, 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(160)의 일 예로서 구성될 수 있다.
다른 예로서, 전원공급부(190)는 상기 연결포트를 이용하지 않고 무선방식으로 배터리를 충전하도록 이루어질 수 있다. 이 경우에, 전원공급부(190)는 외부의 무선 전력 전송장치로부터 자기 유도 현상에 기초한 유도 결합(Inductive Coupling) 방식이나 전자기적 공진 현상에 기초한 공진 결합(Magnetic Resonance Coupling) 방식 중 하나 이상을 이용하여 전력을 전달받을 수 있다.
한편, 본 명세서의 일 실시예에 따라 제어부(180)는 AR 프로세서(185)를 포함할 수 있다.
AR 프로세서(185)는 카메라로부터 획득된 영상에서 객체를 인식할 수 있다. 상기 영상을 프리뷰 영상일 수 있다. 또는 상기 영상은 네트워크로부터 수신되는 스트리밍 영상을 포함할 수 있다. 본 명세서의 일 실시예에 따라 상기 영상은 차량 전방 영상을 포함할 수 있으며, 상기 객체는 도로 상의 차선, 도로 상에 위치한 적어도 하나의 객체, 도로 주변 환경 등을 포함할 수 있다. AR 프로세서(185)는 상기 객체와 관련된 AR(Augmented Object) 객체를 상기 카메라로부터 획득된 영상과 중첩하여 표시할 수 있다.
도 3은 본 명세서에서 개시하는 심리스(seamless)한 내비게이션 서비스를 설명하기 위한 개념도이다.
도 3을 참조하면, 내비게이션 디바이스는 목적지 설정 정보를 입력받을 수 있다. 여기서 내비게이션 디바이스는 차량 탑승자가 소지하는 이동 단말기(100), 차량(200)의 내부에 구비된 내비게이션 디바이스를 포함할 수 있다. 본 명세서에서는 상기 내비게이션 디바이스를 상기 이동 단말기(100)로 가정하여 설명한다.
이동 단말기(100)를 통해 입력된 목적지 설정정보에 기초하여 제어부(180)는 최종 목적지까지의 경로를 탐색할 수 있다. 제어부(180)는 탐색된 경로에 기초하여 내비게이션 서비스를 제공할 수 있다. 상기 내비게이션 서비스는 화면 또는 음성 출력을 통해 제공될 수 있다.
차량 탑승 후 이동 단말기(100)를 통해 제공되는 내비게이션 서비서는 차량(200)의 디스플레이 또는 차량(200)에 구비된 내비게이션 디바이스를 통해 제공될 수 있다(차량 모드). 만약 차량(200)이 특정 건물(10)에 진입한 경우, 본 명세서의 실시예에 의하면 상기 특정 건물(10)에 진입하기 전에 제공중이던 내비게이션 서비스가 연속하여 제공될 수 있다.
여기서, 내비게이션 서비스가 연속하여 제공되는 것은 목적지까지 경로 안내 서비스를 제공받는 중 경로 상의 특정 구간에 진입하는 경우를 가정할 수 있다. 여기서 상기 특정 구간은, 내비게이션 디바이스가 저장하고 있는 맵 데이터에 의해서는 지속적인 경로 안내가 불가능한 구간을 의미할 수 있다.
예를 들어, 이동 단말기(100)는 내비게이션 기능을 실행하기 위한 맵 데이터를 메모리에 저장할 수 있다. 내비게이션 서비스는 상기 메모리에 저장된 맵 데이터에 기초하여 경로 안내가 가능함을 의미한다. 또는 이동 단말기(100)는 상기 메모리에 저장된 맵 데이터 외에 무선 네트워크를 통해 실시간 제공되는 맵 데이터에 기초하여 내비게이션 서비스를 제공할 수 있다. 여기서 상기 이동 단말기(100)의 메모리에 저장된 맵 데이터 또는 네트워크로 획득되는 맵 데이터는 모두 GPS 위치 데이터에 기초한 맵 데이터일 수 있다. 따라서 차량(200) 또는 이동 단말기(100)가 상기 GPS 위치 데이터를 감지하지 못하는 상기 특정 구간(예를 들어, 도 3의 10) 진입한 경우, 내비게이션 서비스가 일시적으로 중단될 수 있다.
이에 따라, 본 명세서에서 내비게이션 서비스가 연속하여 제공되는 경우는, 상기 특정 구간(도 3의 10)에 진입할 때 GPS 위치 데이터에 기초한 맵 데이터가 아닌 상기 특정 구간에서 제공 가능한 맵 데이터에 기초하여 상기 특정 구간에 진입하기 전에 제공받는 내비게이션 서비스를 중단 없이 제공받을 수 있음을 의미한다.
한편, 최종 목적지는 실내 건물(20)일 수 있다. 여기서 상기 최종 목적지에 대한 GPS 데이터는 상기 실내 건물(20) 자체의 위치 데이터일 뿐, 상기 실내 건물(20) 내에서 사용자의 최종 목적지는 특정 층 또는 상기 특정 층 내에서 특정 공간일 수 있다. 이 경우 일반적인 GPS 위치 데이터에 기초한 맵 데이터는 상기 특정 청 또는 특정 공간의 구체적인 위치 좌표를 제공할 수 없다.
이에 따라, 본 명세서에서는 상기 실내 건물(20)에서 더 나아가 사용자의 구체적인 최종 목적지까지 경로 안내 서비스가 가능하도록 내비게이션 모드를 변경할 수 있다. 예를 들어, 운전자가 차량 하차 전까지 차량 모드로 내비게이션 서비스를 제공받는 중, 차량에서 하차한 경우 이동 단말기(100)를 통해 제공받고 있던 내비게이션 서비스에서 연장하여 도보 모드로 전환된 내비게이션 서비스를 제공받을 수 있다.
이상 도 3에서는 본 명세서에서 구현하고자 하는 끊김 없는 내비게이션 서비스를 개략적으로 설명하였다. 이하에서는 본 명세서의 실시예들을 구체적으로 설명하기로 한다.
도 4는 본 명세서의 일 실시예에 따른 이동 단말기의 내비게이션 서비스 제공 방법의 흐름도이다.
도 4를 참조하면, 이동 단말기(100)는 입력부를 통해 입력된 목적지에 기초하여 경로를 탐색할 수 있다(S400).
제어부(180)는 탐색된 경로를 분석할 수 있다. 상기 경로는 일반적으로 메모리에 저장된 맵 데이터에 기초하여 탐색될 수 있다. 그러나, 상기 입력부를 입력된 목적지가 상기 맵 데이터에서 탐색하는 과정에서 목적지의 타입에 따라 탐색 조건을 변환할 수 있다.
예를 들어, 목적지가 "삼성동 코엑스에 위치하는 스타벅스"인 경우, 상기 맵 데이터가 인식할 수 있는 위치 정보는 "삼성동", "코엑스" 까지일 수 있다. 이 경우, 이동 단말기(100)는 상기 스타벅스 상점이 실제로 코엑스 건물 실내에서의 정확한 위치(층수 및 해당 층에서의 좌표 정보 등)를 탐색할 수 없는 것으로 판단하고, 코엑스 건물의 정확한 위치 정보를 최종 목적지의 좌표 정보로 출력할 수 있다.
이동 단말기(100)는 상기 최종 목적지의 구체적인 위치 정보를 탐색할 수 없는 것으로 판단한 경우 내비게이션 모드 변경이 필요한 구간이 존재하는 것으로 판단할 수 있다(S410).
내비게이션 모드변경이 필요한 적어도 하나의 구간이 존재하는지 여부를 판단하는 방법은 다양하게 구성될 수 잇다.
예를 들어, 본 명세서의 일 실시예에 의하면 제어부(180)는 상기 코엑스 건물을 1차 목적지로 설정하고, 상기 코엑스 건물 내부에서 스타벅스의 위치 정보를 무선 통신부를 통해 네트워크로 요청할 수 있다. 상기 네트워크는 클라우드 서버일 수 있다. 이동 단말기(100)는 상기 네트워크로부터 최종 목적지(스타벅스)에 관한 위치 정보를 수신할 수 있다. 상기 위치 정보는 상기 코엑스 건물 내부에서 상기 스타벅스의 정확한 층수 정보(floor information), 해당 층수에서 2D 좌표 정보를 포함할 수 있다.
이동 단말기(100)는 상기 네트워크로 부터 수신된 최종 목적지의 위치 정보가 메모리에 저장된 맵 데이터(예를 들어, SD 지도 데이터)를 통해 경로 안내가 가능한지 여부를 판단할 수 있다. 즉, 상기 메모리에 저장된 맵 데이터가 상기 네트워크로 부터 수신된 최종 목적지의 위치 정보를 포함하고 있지 않는 경우, 상기 맵 데이터에 의한 경로 안내가 불가능한 것으로 판단할 수 있다. 일 실시예에 의하면, 네트워크로부터 수신된 위치 정보가 메모리에 저장된 맵 데이터에서 인식이 불가능한 것으로 판단한 경우, 내비게이션 모드변경이 필요한 구간이 존재하는 것으로 판단할 수도 있다(S410).
이 경우, 이동 단말기(100)는 무선 통신부를 통해 상기 위치 정보에 대한 경로 안내가 가능한 소정의 맵 데이터를 요청할 수 있다.
일 실시예에 의하면, 이동 단말기(100)는 내비게이션 모드 변경이 필요한 적어도 하나의 구간이 존재하는지를 판단할 때, 차량이 진입할 수 있는 마지막 위치와 최종 목적지 사이의 구간 정보를 고려할 수 있다. 예를 들어, 차량이 진입할 수 있는 마지막 위치는 건물의 주차장일 수 있다. 이에 따라 이동 단말기(100)는 주차장에 주차한 최종 차량의 위치 정보와, 최종 목적지가 위치하는 건물 내부 사이의 경로를 고려하여 내비게이션 모드변경이 필요한지 여부를 판단할 수 있다.
보다 구체적으로는, 이동 단말기(100)는 메모리에 저장된 맵 데이터에 기초해서는 주차장 내부의 위치 정보, 최종 목적지가 위치하는 건물 내부에서의 위치 정보를 확인할 수 없다. 전술한 바와 같이, 위치 정보를 확인할 수 없는 이유는 상기 위치 정보를 검출할 수 있는 맵 데이터가 존재하지 않기 때문이다.
따라서 이동 단말기(100)는 현재의 맵 데이터에 기초해서는 최종 목적지까지의 구체적인 경로 안내를 완벽하게 수행할 수 없는 것으로 판단하는 경우, 내비게이션 모드 변경이 필요한 구간이 존재하는 것으로 판단할 수 있다.
즉, 본 명세서의 일 실시예에 의하면, 경로 안내에 필요한 맵 데이터의 전환이 필요한 경우, 내비게이션 모드변경이 필요한 적어도 하나의 구간이 존재하는 것으로 판단한다.
일 실시예에서 이동 단말기(100)는 1차 맵 데이터(예를 들어, SD 맵 데이터)에 의해 디텍트 가능한 목적지를 1차 목적지로 설정하고, 2차 맵 데이터(예를 들어, 주차장 맵 데이터)에 의해 디텍트 가능한 중간 경유지를 2차 목적지로 설정할 수 있다. 나아가, 주차장을 거쳐 최종 목적지가 위치하는 건물 내부의 맵 데이터(3차 맵 데이터)에 의해 디텍트 가능한 최종 목적지를 3차 목적지로 설정할 수 있다. 이동 단말기(100)는 상기 1차 목적지, 2차 목적지, 3차 목적지가 존재하는 경우 내비게이션 모드변경이 필요한 적어도 하나의 구간이 존재하는 것으로 판단할 수도 있다(S410)
일 실시예에서 이동 단말기(100)는 경로 탐색과정에서 탐색된 최종 경로를 분석하여 내비게이션 모드변경이 필요한 적어도 하나의 구간이 존재하는지를 판단할 수도 있다. 이 경우, 주행 시작 전에 네트워크로부터 모드 변경이 필요한 구간에 대응하는 맵 데이터를 미리 다운로드 받을 수 있다.
일 실시예에서 이동 단말기(100)는 경로 탐색 결과에 따라 경로 안내를 수행하는 중, 네트워크와의 실시간 통신을 통해 내비게이션 모드변경이 필요한 적어도 하나의 구간이 존재하는지를 실시간으로 판단하고, 판단 결과에 따라 상기 네트워크에 변경될 모드에 적용 가능한 맵 데이터를 요청할 수도 있다.
내비게이션 모드변경이 필요한 적어도 하나의 구간이 존재하는지 여부를 판단하는 방법은 전술한 예에 한정되지 않고, 최종 목적지의 타입, 네트워크 환경, 이동 단말의 성능 등에 따라 다양하게 변형되어 구현될 수 있음은 물론이다.
예를 들어, 상기 최종 목적지의 타입이 복수의 서로 다른 맵 데이터에 기초하여야만 정확한 경로 안내가 가능한 타입인 경우, 네트워크 리소스 환경이 양호한 상태를 유지하는 구간을 이용하여 맵 데이터 다운로드가 이루어질 수 있다. 한편, 상기 최종 목적지 타입이 SD 맵 데이터 외에 한 가지의 다른 타입의 맵 데이터에 기초하여 정확한 경로 안내가 가능한 타입인 경우는 경로 탐색 과정이나 네트워크와의 실시간 통신을 통해 상기 맵 데이터의 다운로드가 이루어질 수도 있다.
내비게이션 모드 변경이 필요한 적어도 하나의 구간이 존재하는지 판단한 이후, 이동 단말기(100)는 제1 맵 데이터에 기초하여 내비게이션 서비스를 제공할 수 있다(S420).
여기서 상기 제1 맵 데이터는 이동 단말기(100)의 메모리에 저장된 SD 맵 데이터일 수 있다.
이동 단말기(100)는 내비게이션 모드 변경구간에 진입한 것으로 판단한 경우, 상기 제1 맵 데이터에 기초하여 제공하는 내비게이션 서비스를 제2 맵 데이터에 기초하여 연속적으로 제공할 수 있다(S430).
내비게이션 모드 변경에 따라 연속적인 내비게이션 서비스를 제공이라 함은, 제1 맵 데이터에 기초한 내비게이션 서비스가 종료한 이후에도, 추가적으로 동일한 목적지 입력 및 경로 탐색 과정 없이 제2 맵 데이터에 기초하여 최초 설정한 목적지까지의 경로 안내 서비스가 심리스하게 이루어질 수 있음을 의미한다.
도 5는 본 명세서의 일 실시에에 따라 내비게이션 모드를 변경하면서 내비게이션 서비스를 제공하는 방법의 흐름도이다.
본 명세서에 개시된 내비게이션 서비스는 차량 또는 이동 단말기를 통해 제공될 수 있으며, 이하에서는 이동 단말기에서 내비게이션 기능이 실행되는 것을 가정하여 설명한다.
도 5를 참조하면, 이동 단말기(100)는 입력된 목적지 정보에 기초하여 목적지까지의 경로를 탐색할 수 있다(S500). 이동 단말기(100)는 탐색된 경로 중 내비게이션 모드 변경이 필요한 적어도 하나의 구간이 존재하는지를 확인할 수 있다(S510). S500, S510은 도 4의 S400, S410에 대응되는 것으로서 도 4의 설명을 대체할 수 있다.
이하에서는 상기 내비게이션 모드 변경이 필요한 적어도 하나의 구간이 존재하는 것으로 가정하여 설명한다. 탐색된 경로 중, 내비게이션 모드 변경이 필요한 적어도 하나의 구간은 제1 구간, 제2 구간 등 복수의 구간이 존재할 수 있다. 상기 제2 구간은 제1 구간와 연속하는 구간일 수 있다.
주행 중 이동 단말기(100)는 탐색된 경로 중 상기 제1 구간에 진입하는지 여부를 판단할 수 있다(S520).
예를 들어, 상기 제1 구간에 진입하기 전 이동 단말기(100)는 메모리에 저장된 SD 맵 데이터에 기초하여 내비게이션 서비스를 제공할 수 있다. 상기 제1 구간은 상기 SD 맵 데이터로 확인될 수 있는 구간이 아닐 수 있다. 예를 들어, 상기 제1 맵 데이터는 특정 건물의 주차장 맵 데이터일 수 있다.
전술한 바와 같이 이동 단말기(100)는 경로 탐색 과정에서 상기 제1 구간에 대응하는 제1 맵 데이터를 네트워크로 부터 다운로드 받을 수 있다. 또한 예를 들어, 이동 단말기(100)는 경로 탐색 후, 상기 제1 구간과의 거리가 일정 거리 미만으로 접근하는 경우 상기 제1 맵 데이터를 네트워크로부터 다운로드 받을 수도 있다.
이동 단말기(100)는 차량(200)의 위치가 상기 제1 구간에 진입한 것으로 판단한 경우, 상기 제1 구간에 대응하는 제1 맵 데이터 요청 신호를 네트워크로 전송할 수 있다(S521). 이동 단말기(100)는 상기 네트워크로부터 상기 제1 맵 데이터를 수신할 수 있다(S523).
이동 단말기(100)는 상기 제1 맵 데이터에 기초하여 경로 안내를 수행할 수 있다(S530).
이동 단말기(100)는 상기 제1 구간에 진입하기 전에는 GPS 측위 기술에 의해 차량의 위치(이동 단말기의 위치)를 디텍트하여 SD 맵 데이터 상에 매핑함으로써, 내비게이션 서비스를 제공한다. 그러나, 이동 단말기(100)가 상기 제1 구간에 진입한 경우, 실내 건물 내에서 이동 단말기(100)의 위치를 측정할 수 있는 측위 기술 예를 들어, 동시다발적 지역화 매핑(Simultaneous localization and mapping, SLAM)을 이용하여 주변을 탐색하여 해당 공간의 지도 및 현재 위치를 추정할 수 있다. 따라서, 이동 단말기(100)는 네트워크로 부터 수신된 제1 맵데이터를 참조하여 SLAM 을 통해 상기 제1 구간에서의 차량 위치를 추정하는 것과 동시에 상기 제1 구간(주차장 내부 공간)의 지도를 생성(mapping) 할 수 있다.
일 실시예에서, 이동 단말기(100)는 상기 제1 구간에 진입하는 것으로 판단한 경우 상기 네트워크로부터 상기 제1 맵 데이터를 수신하지 않더라도 SLAM 측위 기술을 이용하여 상기 제1 구간 내에서의 위치 추정(localization) 및 제1 구간의 주변 환경에 대한 지도 생성(mapping)을 동시에(simultaneous) 수행함으로써, 상기 제1 구간에서의 경로 안내 기능을 수행할 수도 있다.
일 실시예에서, 이동 단말기(100)는 상기 제1 구간에 진입하는 것으로 판단한 경우, 컴퓨터 비전(computer vision)과 딥러닝 알고리즘을 결합하여 상기 제1 구간의 3차원 공간 상의 위치를 추정하고 동시에 주변 정보를 취합한 지도를 가상 공간으로 구성하는 Visual SLAM(시각정보를 이용한 동시적 위치 추정 및 지도 작성 기술)을 통해 상기 제1 구간에서의 경로 안내 기능을 수행할 수도 있다.
일 실시예에서, 이동 단말기(100)는 상기 제1 구간에 진입하는 것으로 판단한 경우, 차량(200)의 LiDAR 데이터를 네트워크로 전송하고, 상기 네트워크에서 CNN(Convolution Neural Network)를 이용하여 보다 정교하게 생성된 3차원 공간상의 지도 데이터를 수신할 수도 있다.
이동 단말기(100)는 상기 제1 구간을 경과하여 제2 구간에 진입한 것으로 판단할 수 있다(S540).
예를 들어, 상기 제2 구간을 상기 제1 구간(주차장)과 연결된 실내 건물일 수 있다. 이동 단말기(100)는 상기 제2 구간에 대응하는 제2 맵 데이터를 네트워크로 요청하고(S540), 상기 네트워크로부터 상기 제2 맵 데이터를 수신할 수 있다(S543).
이동 단말기(100)는 상기 제2 맵 데이터에 기초하여 제2 구간 내에서의 경로 안내 서비스를 수행할 수 있다(S550). 상기 제2 구간에서 이동 단말기(100)의 위치는 제2 측위 기술에 의해 디텍트될 수 있다. 상기 제2 구간이 실내 건물인 경우 상기 제1 구간과 마찬가지로 SLAM 측위 기술에 의해 이동 단말기(100)의 위치 추정 및 지도 생성 동작을 동시에 수행할 수도 있다.
도 6은 본 명세서의 일 실시예에 따라 모드변경 필요구간을 예시적으로 설명하기 위한 도면이다.
도 6을 참조하면, 이동 단말기(100) 또는 차량(200)은 입력된 최종 목적지에 기초하여 경로를 탐색한 결과, 탐색된 경로는 외부 도로상에서 주차장 까지의 외부 구간(Ro)와, 주차장 구간이 제1 구간(R1), 실내 건물 구간인 제2 구간(R2)로 구분될 수 있다. 또한, 설명의 편의를 위하여 상기 제1 구간이 시작되는 지점을 제1 목적지(1), 상기 제1 구간 내에서 차량이 주차하는 위치에 대응되는 지점을 제2 목적지(2), 상기 제2 구간이 시작되는 지점인 제3 목적지(3), 최종 목적지를 제4 목적지(4)로 가정하여 설명한다. 상기 경로 상에서 복수의 중간 목적지는 내비게이션 모드 변경이 필요한 지점에 대응될 수 있다.
상기 외부 구간(Ro)에서 이동 단말기(100)는 일반 맵 데이터 및 GPS 위치 신호에 기초하여 내비게이션 서비스를 제공할 수 있다.
그리고, 제1 구간(R1)은 주차장에 대응되는 실내 공간으로서, 상기 제1 구간(R1)의 시작지점인 제1 목적지(1), 상기 제1 목적지(1)와 제2 목적지(2) 사이의 제1 음영 구간과, 제2 목적지(2)와 제3 목적지(3) 사이의 제2 음영 구간으로 구분될 수 있다. 예를 들어, 상기 제1 음영 구간은, 차량이 주차장 입구를 진입한 이후 차량이 주차된 위치까지의 구간을 의미할 수 있다. 상기 제2 음영 구간은, 상기 차량이 주치된 위치에서 실내 건물 입구까지의 구간을 의미할 수 있다. 상기 제1 구간(R1)은 주차장 구간으로서, GPS 신호가 디텍트되지 않으므로 이동 단말기(100)는 네트워크로부터 주차장 3D 맵 데이터를 다운로드 받을 수 있다. 따라서, 상기 외부 구간(Ro)에서의 내비게이션 서비스를 상기 제1 구간(R1)에서도 연속하여 제공하기 위해서 이동 단말기(100)는 참조하는 맵 데이터의 전환 과정이 필요하며, 본 명세서의 일 실시예에서는 네트워크로부터 수신된 주차장 3D 지도 데이터를 경로 안내에 이용할 수 있다.
그리고, 제2 구간(R2)은 주차장과 연결된 건물의 실내 공간으로서, 상기 제2 구간(R2)에서의 경로 안내 서비스를 위해서는 상기 건물의 3D 실내지도 데이터가 필요하다. 이동 단말기(100)는 상기 제1 구간(R1)에서의 내비게이션 서비스를 상기 제2 구간(R2)에서도 연속하여 제공하기 위해서, 참조하는 맵 데이터를 네트워크로부터 수신된 상기 건물의 3D 실내지도 데이터로 전환하는 동작을 수행할 수 있다.
도 7은 본 명세서의 일 실시예에 따라 모드변경 필요구간에서 사용되는 맵 데이터의 일 예이다.
도 7을 참조하면, 상기 도 6에서 외부 구간(Ro)에서의 경로 안내에 필요한 맵 데이터는 SD 맵 데이터일 수 있다. 이에 반해, 제1 구간(R1) 및 제2 구간(R2) 처럼 실내 공간에서의 경로 안내에 필요한 맵 데이터는 3D 실내 지도 데이터일 수 있다. 상기 3D 실내 지도 데이터는 건물의 층별 평면 구성, 각 층의 평면에서 특정 영역의 좌표 정보가 각각 매핑된 데이터일 수 있다. 이동 단말기(100)는 상기 3D 실내 지도 데이터를 참조하고, 3D SLAM 측위를 통해 상기 실내에서의 이동 단말기(100)의 위치 추정 및 지도 정보를 동시에 생성하고, 그 결과를 이용하여 최종 목적지까지의 경로 안내 서비스를 제공할 수 있다.
도 8은 본 명세서의 일 실시예에 따라 이동 단말기를 이용하여 심리스한 내비게이션 서비스를 설명하기 위한 개념도이다. 이하 도 6에서 설명한 내용을 참조할 수 있다.
도 8을 참조하면, 이동 단말기(100)는 출발지와 제1 목적지(1) 사이의 외부 구간(Ro)에 대하여 SD 맵 데이터에 기초한 내비게이션 서비스를 제공할 수 있다(이동 단말기 모드). 상기 이동 단말기(100)는 이동 단말기(100)에서 출력되는 내비게이션 화면을 차량(200)에 구비된 내비게이션 디바이스 또는 차량에 구비된 적어도 하나의 디스플레이에 대하여 미러링 방법을 통해 내비게이션 서비스를 제공할 수 있다(차량 모드).
이동 단말기(100)는 주차장 입구(제1 목적지)에 진입하는 경우 주차장 내부에서는 이동 단말기의 내비게이션 기능 및 차량의 내비게이션 기능이 실행되지 않는 음영지역에 진입하게 된다. 이동 단말기(100)는 네트워크로부터 주차장 3D 지도데이터를 수신하고, SLAM 측위 기술에 기초하여 이동 단말기의 위치 정보를 획득할 수 있다. 차량(200)이 상기 주차장 내부의 특정 공간(제2 목적지)의 위치 정보를 상기 주차장 3D 지도 데이터에 매핑하여 저장할 수 있다. 한편, 이동 단말기(100)는 차량 센서 데이터(예를 들어, 속도 데이터, 시동 오프 데이터)에 기초하여 차량(200)의 주차 여부를 디텍트하는 경우, 내비게이션 모드를 도보 모드로 전환됨을 알리는 알람 메시지를 수신할 수 있다.
내비게이션 모드가 도보 모드로 전환된 경우, 이동 단말기(100)는 상기 주차 위치(제2 목적지)에서 건물 입구(제3 목적지)까지의 경로 안내 서비스를 제공할 수 있다. 상기 도보 모드 또한 전술한 바와 같이, 이동 단말기(100)는, 주차장 3D 지도 데이터 및 SLAM 측위 기술에 기초하여 주차장 내부에서 이동 단말기(100)의 위치를 추정할 수 있다.
상기 내비게이션 모드가 도보 모드인 상태에서, 이동 단말기(100)의 위치가 상기 건물 입구(제3 목적지)에 접근하는 경우, 이동 단말기(100)는 건물 입구 도착 및 건물 실내 경로 안내 서비스 제공 여부를 알리는 알람 메시지를 수신할 수 있다. 이동 단말기(100)는 상기 건물 실내 3D 지도 데이터 및 SLAM 측위 기술에 기초하여 건물 내부에서 이동 단말기(100)의 위치를 추정하고, 그에 따라 최종 목적지까리의 길 안내 서비스를 제공할 수 있다.
도 9 내지 도 10은 본 명세서의 일 실시예에 따라 이동 단말기를 이용한 내비게이션 서비스를 설정하기 위한 예시적인 도면들이다.
도 9를 참조하면, 본 명세서에 개시된 실시에에 의하면 이동 단말기(100)는 목적지를 입력받으면 이용 가능한 부가 서비스 항목을 제공할 수 있다. 상기 부가 서비스 항목은 "주차장 입구 길안내", "주차공간 길안내", "도보 실내 길안내" 메뉴를 포함할 수 있다. 각각의 항목들은 모두 일반 내비게이션 서비스에서는 제공되지 않기 때문에 유료 서비스로 진행될 수 있다. 이동 단말기(100) 사용자가 위 3가지 항목 모두에 대하여 유료 서비스를 이용중인 경우 세가지 항목 모두 활성화되어 제공될 수 있다.
이동 단말기(100)는 입력된 목적지 정보, 선택된 부가 서비스 이용항목에 기초하여 목적지까지의 경로 탐색 결과, 탐색된 경로 상에서 상기 부가 서비스 항목이 제공될 수 있는 적어도 하나의 구간이 존재하는지 여부를 판단할 수 있다. 이동 단말기(100)는 제1 구간의 내비게이션 정보(1), 제2 구간에서의 내비게이션 정보(2), 제3, 제4 구간에서의 내비게이션 정보(3,4)를 경로 안내 시작 전에 요약하여 디스플레이 또는 음성 출력부를 통해 제공할 수 있다.
도 11 내지 도 12는 본 명세서의 일 실시예에 따라 AR 내비게이션 화면을 제공하는 예를 설명한다.
본 명세서에 개시된 내비게이션 서비스는 AR 내비게이션 서비스를 제공할 수 있다. 도 11 내지 도 12는 AR 내비게이션 서비스를 제공하기 위한 카메라 영상 획득 방법 및 AR 내비게이션 화면의 출력 위치에 대하여 설명한다.
AR 내비게이션 서비스를 제공하기 위해서는 AR 프로세서에서 차량 전방의 영상과 AR 정보를 매핑시켜 AR 내비게이션 화면을 생성한다. 상기 차량 전방의 영상은 카메라를 통해 획득될 수 있다. 상기 카메라는 차량에 구비된 적어도 하나의 카메라(예를 들어, 블랙박스 영상)을 포함할 수 있다. 또한, 상기 영상은 이동 단말기(100)의 카메라로부터 획득된 영상일 수도 있다.
도 11의 (a)는 차량에 구비된 카메라를 통해 전방 영상을 획득하여 이동 단말기(100)로 전송하고, 이동 단말기(100)에 구비된 AR 프로세서에서 AR 정보를 생성한다. 상기 AR 정보는, 차선 검출, 검출된 차선에 기초한 도로를 AR 그래픽으로 렌더링 요소를 포함할 수 있다. 카메라 영상에 AR 정보가 매핑된 AR 내비게이션 영상을 인코딩하여 차량의 디스플레이(내비게이션 디스플레이)로 전송할 수 있다. 차량의 디스플레이는 상기 인코딩된 영상을 디코딩하여 AR 내비게이션 화면(1110)을 디스플레이할 수 있다.
일 실시에에 따라, 이동 단말기(100)에서 마련된 AR 내비게이션 화면(1110)은 차량 디스플레이에 미러링 방식으로 표시될 수도 있다.
도 11의 (b)는 차량 자체의 카메라를 이용할 수 없는 경우, 이동 단말기(100)의 카메라를 통해 전방 영상을 획득하고, 이동 단말기(100)는 전술한 AR 프로세싱을 통해 AR 내비게이션 화면(1110)을 생성할 수 있다.
도 12A 내지 도 12D를 통해 카메라 소스와 AR 내비게이션 화면을 출력할 디스플레이를 선택하는 예를 설명한다.
도 12A를 참조하면, 이동 단말기(100)는 USB(예를 들어, USB 3.1 데이터 프로토콜)로 차량(200)과 유선연결될 수 있다. 또한, 카메라 영상은 차량(200)의 블랙박스를 통해 획득될 수 있다. 이동 단말기(100)는 상기 블랙박스 카메라로 획득된 스트리밍 영상을 무선 통신부(예를 들어, 와이파이)를 통해 수신할 수 있다. 이동 단말기(100)는 AR 프로세싱을 수행하여 AR 내비게이션 화면을 차량(200) 디스플레이(예를 들어, 차량에 구비된 내비게이션 디바이스)를 통해 출력할 수 있다.
도 12B는 이동 단말기(100)가 차량(200)과 연결되지 않은 상태를 예시한다. 카메라 영상은 블랙박스 카메라 영상을 무선 통신부를 통해 수신하고, 이동 단말기(100)는 AR 프로세싱을 수행하여 생성된 AR 내비게이션 화면을 이동 단말기(100)의 디스플레이부에 출력할 수 있다.
도 12C는 카메라 영상을 네트워크로부터 수신되는 경우를 예시한다. 이동 단말기(100)는 USB(예를 들어, USB 3.1 데이터 프로토콜)로 차량(200)과 유선연결될 수 있다. 이동 단말기(100)는 자차의 위치, GPS 값, 속도 등 차량 센싱 정보를 네트워크로 전송한다. 이동 단말기(100)는 무선 통신부를 통해 상기 네트워크로부터 주행 영상 스트리밍을 수신할 수 있다. 이동 단말기(100)는 네트워크로 부터 수신된 영상에 대하여 AR 프로세싱을 수행하여 AR 내비게이션 영상을 생성하고, 생성된 AR 내비게이션 화면을 유선 연결된 차량(200)의 디스플레이에 출력할 수 있다.
도 12D는 카메라 영상을 이동 단말기(100)에서 획득되는 경우를 예시한다. 이동 단말기(100)는 카메라를 통해 전방 영상을 획득하고, 획득한 영상에 대하여 AR 프로세싱을 수행하여 생성된 AR 내비게이션 화면을 디스플레이부에 출력할 수 있다.
도 13 내지 도 15는 도 8에 도시한 도면에서 주차장에 진입하는 경우 본 발명의 일 실시예에 따라 이동 단말기를 이용한 내비게이션 서비스 제공 방법을 설명하기 위한 도면들이다. 이하, 차량(200)이 주차장에 도착하여 주차공간을 안내받는 내비게이션 서비스에 대하여 설명한다.
도 13을 참조하면, 이동 단말기(100)는 GPS 측위 방법을 통해 차량의 위치를 확인할 수 있다(S1300). 이때 GPS 위치 데이터는 네트워크로부터 실시간으로 수신받을 수 있다. 제1 구간에 진입 전, 차량(200)은 일반 맵 데이터에 기초하여 내비게이션 서비스를 제공받는다.
이동 단말기(100)는 제1 구간(주차장)의 시작점과 현재 차량(200)의 GPS 거리를 산출할 수 있다(S1310).
상기 제1 구간의 시작점에 도착 전 상기 제1 구간의 내비게이션 경로안내에 필요한 맵 데이터를 준비하기 위하여 차량과 제1 구간 시작점 사이의 거리가 미리 정해진 거리 미만인 경우, 이동 단말기(100)는 차량이 상기 제1 구간에 진입한 것으로 확인한다(S1320).
이동 단말기(100)는 네트워크(서버)로부터 상기 제1 구간(주차장)의 3D 지도를 다운로드 받을 수 있다(S1330).
이동 단말기(100)는 3D SLAM 측위 방법을 통해 상기 3D 지도 상에서 차량의 위치를 확인할 수 있다(S1340). 이 때 이동 단말기(100)는 네트워크(서버)로부터 수신된 카메라 영상을 이용하여 제1 구간(주차장) 3D 지도 상에서 차량의 현재 위치를 검출할 수 있다.
한편, 차량이 제1 구간(주차장)에 진입한 경우, 주차 안내 서비스에 등록된 경우(유료 서비스일 수 있음) 네트워크(서버)로부터 주차 가능한 공간의 3D 좌표 정보를 수신할 수 있다. 이를 통해 이동 단말기(100)는 상기 제1 구간(주차장) 내에서 특정 영역(주차 가능한 공간의 위치)의 위치 정보를 확인할 수 있다(S1350). 또한, 이동 단말기(100)는 상기 제1 구간 진입 전에 제공받던 내비게이션 안내가 연장되어 상기 특정 영역(주차 가능한 공간)으로 경로 안내를 수행할 수 있다. 이에 따라, 차량이 실외에서 실내로 진입하더라도 최종 목적지까지의 경로 안내가 중단되지 않고 심리스한 내비게이션 서비스가 제공될 수 있다.
도 14를 참조하면, 차량(200)이 제1 구간(주차장)의 출입구로부터 GPS 거리가 일정 거리 미만인 경우, 이동 단말기(100)는 무선 통신부를 통해 주차장 지도 데이터를 서버로부터 다운로드 받을 수 있다.
도 15를 참조하면, 차량(200)이 제1 구간(주차장) 내부로 진입한 경우, 서버로부터 주차 가능한 공간의 3D 좌표 정보를 수신할 수 있다. 이동 단말기(100)는 서버로부터 수신받은 주차장 3D 지도 데이터에 상기 주차 가능한 공간의 3D 좌표를 매핑함으로써, 주차장 내부에서의 내비게이션 서비스를 진행할 수 있다.
도 16 내지 도 17은 도 8에 도시한 도면에서 실내 건물에 진입하는 경우 본 발명의 일 실시예에 따라 이동 단말기를 이용한 내비게이션 서비스 제공 방법을 설명하기 위한 도면들이다.
도 16을 참조하면, 이동 단말기(100)는 차량(200)이 전술한 주차 가능한 공간에 주차한 후 시동이 오프되는 경우, 차량 네트워크로부터 시동 오프 상태 정보를 수신함으로써, 차량의 시동이 오프 상태임을 확인할 수 있다(S1600).
이동 단말기(100)는 차량(200)의 시동 상태가 오프인 것을 확인하면 차량의 시동 상태를 네트워크로 전송할 수 있다(S1601).
이동 단말기(100)는 차량의 주차 위치(3D 좌표 정보) 확인하고, 네트워크로 전송할 수 있다(S1610, 1611).
네트워크는 차량의 시동 상태 정보, 주차 위치 정보를 수신하고, 이동 단말기(100)에 내비게이션 모드 변경을 알리는 메시지를 전송할 수 있다(S1620). 상기 내비게이션 모드 변경은 운전자가 차량에서 하차한 후 모바일 단말을 통해 내비게이션 서비스를 제공받는 것을 의미할 수 있다.
이동 단말기(100)는 상기 네트워크로부터 수신된 메시지에 응답하여 도보 모드 실행을 확인한 경우, 내비게이션 기능을 도보 모드에서 실행되도록 제어할 수 있다(S1630).
이동 단말기(100), 도보 모드가 실행됨에 따라 제2 구간(건물) 진입을 안내하기 위한 AR 정보를 포함하는 AR 내비게이션 화면을 이동 단말기의 디스플레이에 출력할 수 있다(S1640).
이동 단말기(100)는, 상기 제2 구간(건물)와 이동 단말기(100) 사이의 3D 거리에 기초하여 상기 제2 구간으로의 진입 여부를 확인할 수 있다(S1650).
한편, 이동 단말기(100)는 상기 제2 구간(실내)의 3D 지도 데이터를 네트워크로부터 다운로드 받을 수 있다(S1660). 이동 단말기(100)는 3D SLAM 측위 방법을 통해 실내에서의 위치를 추정하고, 추정된 위치를 상기 실내 3D 지도 데이터에 매핑함으로써, 실내 도보 내비게이션 기능을 실행할 수 있다(S1670).
도 17을 참조하면, 이동 단말기(100)는 내비게이션 도보 모드 실행 과정에서 AR 정보를 내비게이션 화면에 표시할 수 있다.
상기 AR 정보는 제2 구간(건물) 출입구 까지의 경로를 안내하기 위한 경로 안내 인디케이터(예를 들어, 3D 좌표 정보(3DC), 렌더링 그래픽 요소(ARP))를 내비게이션 화면상에 표시할 수 있다. 한편, 이동 단말기(100)가 향하는 방향이 목적지와 다른 경우, 방향 인디케이터(BI1)를 화면상에 추가할 수도 있다. 예를 들어, 이동 단말기(100)는 목적지 방향을 기준으로 좌측 방향으로 소정 각도의 차이가 있는 경우 우측 방향에 목적지가 존재함을 나타내기 위한 화살표 인디케이터(BI1)를 디스플레이의 우측 방향에 표시할 수 있다.
한편, 내비게이션 도보 모드가 실행된 상태에서 제2 구간(건물)에 진입한 경우, 최종 목적지까지의 경로 안내 서비스가 수행될 수 있다. 예를 들어, "화면에서 가리키는 입구로 진입하세요", "엘리베이터를 탑승하여 3층에서 내리세요" 등의 안내메시지가 출력될 수 있다.
도 18은 본 명세서의 일 실시예에 따라 센싱 정보를 고려하여 이동 단말기를 이용하여 내비게이션 서비스에 따른 내비게이션 화면의 출력을 설명하기 위한 도면이다.
도 18을 참조하면, 본 명세서에 개시된 실시예는 AR 내비게이션 화면을 자동차 모드와 도보 모드로 구분하여 제공할 수 있다. 또한 일 실시예에 따라 탐색된 경로에서 맵 데이터의 전환이 필요한 구간 별로 서로 다른 지도 데이터가 이용될 수 있다.
일 실시예에 따라, 이동 단말기(100)는 외부 구간(Ro) 및 제1 구간(R1)에 진입하여 제2 목적지(2)까지는 내비게이션 화면을 차량의 적어도 하나의 디스플레이부를 통해 출력할 수 있다. 이동 단말기(100)는 상기 제1 구간(R1, 주차장) 내에서 주차 위치 지점(제2 목적지) 부터 하차 후 최종 목적지(제4 목적지) 까지는 내비게이션 화면을 이동 단말기(100)의 디스플레이에 출력할 수 있다.
일 실시예에 따라, 이동 단말기(100)는 외부 구간(Ro)는 SD 맵 데이터를 이용하여 내비게이션 서비스를 제공한다. 이동 단말기(100)는 제1 구간(R1) 및 제2 구간(R2)은 주차공간 3D 맵 데이터, 건물의 실내 3D 맵 데이터 등을 이용하여 내비게이션 서비스를 제공한다.
일 실시예에 따라, 이동 단말기(100)는 외부 구간(Ro)는 GPS 기반으로 측위가 진행되지만, 제1 구간(R1) 및 제2 구간(R2)은 SLAM 기반으로 실내 공간에서의 측위가 수행될 수 있다.
일 실시예 따라, 본 명세서의 일 실시예는 탐색된 경로 중 차량 진입이 가능한 구간과 그렇지 않은 구간으로 분류될 수 있다. 이 중 차량 진입이 가능한 구간 예를 들어, 외부 구간(Ro) 및 제1 구간(R1, 주차장)의 제2 목적지(R2, 주차 위치) 까지는 차량 운행이 가능한 구간이므로 차량 네트워크를 통해 차량 센싱 데이터를 획득할 수 있다. 예를 들어, 상기 차량 센싱 데이터는 차량 속도, yaw rate, 기어위치 (P,N,D,R), 깜빡이 상태(Left, Right)를 포함할 수 있다. 이동 단말기(100)는 상기 차량 센싱 데이터에 기초하여 AR 내비게이션 출력을 제어할 수 있다. 예를 들어, 차량이 주행 상태에서 주차 상태로 전환된 경우 AR 내비게이션 화면의 위치를 차량에서 이동 단말기로 전환시키도록 제어할 수 있다. 한편, AR 내비게이션 화면의 출력 위치가 이동 단말기로 전환된 경우, 이동 단말기에 구비된 적어도 하나의 센서로부터 획득된 센싱 데이터(예를 들어, IMU 각도(roll, pitch, yaw) 정보, 모바일 built-in 카메라 영상 등)을 이용하여 AR 내비게이션 화면을 출력할 수 있다.
일 실시예에 따라, AR 내비게이션 기능을 제공하기 위해, 이동 단말기(100)는 외부 구간(Ro) 및 제1 구간(R1)에 진입하여 제2 목적지(2)까지는 차량에 구비된 카메라로부터 획득된 영상을 AR 내비게이션 화면을 구성하는데 이용할 수 있다. 한편, 이동 단말기는 제1 구간(R1, 주차장) 내에서 주차 위치 지점(제2 목적지) 부터 하차 후 최종 목적지(제4 목적지) 까지는 사용자 단말의 카메라로부터 획득된 영상을 이용할 수 있다.
본 명세서는 다음의 실시예들을 포함할 수 있다.
실시예 1: 이동 단말기에서 내비게이션 서비스를 제공하는 방법에 있어서, 목적지까지의 경로를 탐색하는 단계; 상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드변경 구간이 존재하는지를 판단하는 단계; 및 상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가 되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에서 상기 내비게이션 서비스가 연속적으로 제공되도록 제어하는 단계;를 포함하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 2: 실시예 1에 있어서, 상기 내비게이션 모드의 변경 구간이 존재하는지를 판단하는 단계는, 상기 탐색된 경로 중 서로 다른 측위 방법을 통해 구성된 상기 맵 데이터에 기초하여 상기 경로 안내가 필요한 적어도 하나의 구간이 존재하는지를 판단하는 단계;를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 3: 실시예 2에 있어서, 상기 맵 데이터는, GPS 측위 기술을 통해 구성된 맵 데이터, SLAM 측위 기술을 통해 구성된 맵 데이터 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 4: 실시예 2에 있어서, 상기 제1 맵 데이터에 기초하여 상기 내비게이션 서비스를 제공하는 중 상기 적어도 하나의 구간 중 제1 구간에 진입한 것으로 판단한 경우, 상기 목적지의 재 설정 동작 없이 상기 제2 맵 데이터에 기초하여 상기 목적지까지의 경로를 안내하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 5: 실시예 4에 있어서, 상기 이동 단말기의 현재 위치와 상기 제1 구간이 시작지점 간의 거리가 미리 정해진 거리 이하인 경우, 상기 제1 구간에 진입한 것으로 판단하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 6: 실시예 4 에 있어서, 상기 제1 맵 데이터는 GPS 측위 기술을 통해 구성된 맵 데이터이고, 상기 이동 단말기의 현재 위치가 상기 제1 구간에 진입한 경우, 상기 무선 통신부를 통해 상기 제2 맵 데이터를 다운로드 받는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 7: 실시예 6 에 있어서, 상기 이동 단말기의 현재 위치와 상기 제1 구간의 시작지점과 미리 정해진 거리 이내로 진입하는 경우, 상기 제1 구간에 진입한 것으로 판단하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 8: 실시예 1 에 있어서, 상기 내비게이션 모드는, 내비게이션 화면을 적어도 하나의 차량 디스플레이를 통해 제공하는 제1 모드, 상기 내비게이션 화면을 상기 이동 단말기의 디스플레이부를 통해 제공하는 제2 모드 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 9: 실시예 8 에 있어서, 미리 정해진 조건을 만족하는 경우 상기 제1 모드에서 제2 모드로 전환되거나, 상기 제2 모드에서 제1 모드로 전환되며, 상기 내비게이션 서비스가 연속적으로 이루어지는 상태에서 상기 제1 모드와 제2 모드 간의 상호 전환이 이루어지는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 10: 실시예 8에 있어서, 상기 미리 정해진 조건은, 차량 센서 데이터 및 상기 이동 단말기의 센서 데이터 중 적어도 하나의 조합에 의해 판단되며, 차량의 정차 여부, 정차 중 상기 이동 단말기가 상기 차량의 내부 또는 외부로의 움직임 여부를 판단하는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 11: 실시예 8에 있어서, 상기 제1 모드는, 상기 이동 단말기에 표시되는 상기 내비게이션 화면을 상기 차량 디스플레이에 미러링 화면으로 제공되는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 12: 실시예 1에 있어서, 무선 통신부를 통해 수신된 차량 센서 데이터 또는 상기 이동 단말기의 센서 데이터 중 적어도 하나에 기초하여 상기 모드 변경 구간에 진입한 것으로 판단하는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 13: 실시예 1에 있어서, 적어도 하나의 카메라를 통해 내비게이션 화면을 구성하기 위한 영상을 획득하는 단계; 상기 영상에 AR 정보를 매핑한 AR 영상을 생성하는 단계; 및 상기 내비게이션 서비스를 AR 모드에서 제공하는 단계;를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 14: 실시예 13에 있어서, 상기 카메라는, 상기 이동 단말기에 구비된 적어도 하나의 카메라, 차량에 구비된 적어도 하나의 카메라 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 15: 실시예 11에 있어서, 상기 영상은 무선 통신부를 통해 네트워크로 부터 수신된 주행 스트리밍 영상을 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 16: 실시예 1에 있어서, 상기 제1 맵 데이터는 상기 이동 단말기의 메모리에 저장된 맵 데이터이고, 상기 제2 맵 데이터는 실내 공간에서의 내비게이션 서비스를 제공하기 위한 맵 데이터인 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 17: 실시예 1에 있어서, 상기 목적지가 입력되는 경우, 상기 내비게이션 모드 변경에 따른 서비스 이용 가능 메뉴를 디스플레이에 표시하는 단계; 상기 모드 변경 구간별 내비게이션 서비스 요약정보를 제공하는 단계; 를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
실시예 18: 무선 통신부; 맵 데이터를 저장하는 메모리; 목적지를 입력받는 입력부; 및 상기 목적지까지의 경로를 탐색하고, 상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드 변경 구간이 존재하는지 판단하고, 상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에섯 상기 내비게이션 서비스가 연속적으로 제공되도록 제어하는 프로세서;를 포함하는 이동 단말기.
실시예 19: 실시예 18에 있어서, 상기 프로세서는, 상기 탑색된 경로 중 서로 다른 측위 방법을 통해 구성된 상기 맵 데이터에 기초하여 상기 경로 안내가 필요한 적어도 하나의 구간이 존재하는지를 판단하는 것을 특징으로 하는 이동 단말기.
실시예 20: 실시예 19에 있어서, 상기 맵 데이터는, GPS 측위 기술을 통해 구성된 맵 데이터, SLAM 측위 기술을 통해 구성된 맵 데이터 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기.
실시예 21: 실시예 19에 있어서, 상기 프로세서는, 상기 제1 맵 데이터에 기초하여 상기 내비게이션 서비스를 제공하는 중 상기 적어도 하나의 구간 중 제1 구간에 진입한 것으로 판단한 경우, 상기 목적지의 재 설정 동작 없이 상기 제2 맵 데이터에 기초하여 상기 목적지까지의 경로를 안내하는 것을 특징으로 하는 이동 단말기.
실시예 22: 실시예 21에 있어서, 상기 프로세서는, 상기 이동 단말기의 현재 위치와 상기 제1 구간의 시작지점 간의 거리가 미리 정해진 거리 이하인 경우, 상기 제1 구간에 진입한 것으로 판단하는 것을 특징으로 하는 이동 단말기.
실시예 23: 실시예 21에 있어서, 상기 제1 맵 데이터는 GPS 측위 기술을 통해 구성된 맵 데이터이고, 상기 프로세서는, 상기 이동 단말기의 현재 위치가 상기 제1 구간에 진입한 경우, 상기 무선 통신부를 통해 상기 제2 맵 데이터를 다운로드 받는 것을 특징으로 하는 이동 단말기.
실시예 24: 실시예 18에 있어서, 상기 내비게이션 모드는, 내비게이션 화면을 적어도 하나의 차량 디스플레이를 통해 제공하는 제1 모드, 상기 내비게이션 화면을 상기 이동 단말기의 디스플레이부를 통해 제공하는 제2 모드 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기.
실시예 25: 실시예 24에 있어서, 상기 프로세서는, 미리 정해진 조건을 만족하는 경우, 상기 제1 모드에서 제2 모드로 전환되거나, 상기 제2 모드에서 제1 모드로 전환되도록 상기 내비게이션 모드를 제어하며, 상기 내비게이션 서비스가 연속적으로 이루어지는 상태에서 상기 제1 모드와 제2 모드 간의 상호 전환이 이루어지도록 제어하는 것을 특징으로 하는 이동 단말기.
실시예 26: 실시예 24에 있어서, 상기 미리 정해진 조건은, 차량 센서 데이터 및 상기 이동 단말기의 센서 데이터 중 적어도 하나의 조합에 의해 판단되며, 상기 프로세서는, 차량의 정차 여부, 정차 중 상기 이동 단말기가 상기 차량의 내부 또는 외부로의 움짐임이 존재하는지 여부를 판단하는 것을 특징으로 하는 이동 단말기.
실시예 27: 실시예 24에 있어서, 상기 프로세서는, 상기 제1 모드에서, 상기 이동 단말기에 표시되는 상기 내비게이션 화면을 상기 차량 디스플레이에 미러링 화면으로 제공되도록 제어하는 것을 특징으로 하는 이동 단말기.
실시예 28: 실시예 18에 있어서, 상기 프로세서는, 상기 무선 통신부를 통해 수신된 차량 센서 데이터 또는 상기 이동 단말기의 센서 데이터 중 적어도 하나에 기초하여 상기 모드 변경 구간에 진입한 것으로 판단하는 것을 특징으로 하는 이동 단말기.
실시예 29: 실시예 18에 있어서, 카메라릍 오해 획득된 영상에 AR 정보를 매핑하여 AR 영상을 생성하는 AR 프로세서;를 더 포함하고 상기 프로세서는, 상기 내비게이션 서비스를 AR 모드에서 제공하는 것을 특징으로 하는 이동 단말기.
실시예 30: 실시예 29에 있어서, 상기 영상은, 상기 무선 통신부를 통해 상기 차량에 구비된 적어도 하나의 카메라를 통해 획득된 영상, 상기 무선 통신부를 통해 네트워크로부터 수신된 주행 스트리밍 영상 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기.
실시예 31: 실시예 18에 있어서, 상기 제1 맵 데이터는 상기 메모리에 저장된 맵 데이터이고, 상기 제2 맵 데이터는 실내 공간에서의 내비게이션 서비스를 제공하는 위한 맵 데이터인 것을 특징으로 하는 이동 단말기.
실시예 32: 실시예 18에 있어서, 상기 프로세서는, 상기 입력부를 통해 상기 목적지가 입력되는 경우, 상기 내비게이션 모드 변경에 따른 서비스 이용 가능 메뉴를 디스플레이부에 표시하고, 상기 모드 변경 구간별 내비게이션 서비스 요약 정보를 제공하는 것을 특징으로하는 이동 단말기.
전술한 본 명세서는, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (20)

  1. 이동 단말기에서 내비게이션 서비스를 제공하는 방법에 있어서,
    목적지까지의 경로를 탐색하는 단계;
    상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드변경 구간이 존재하는지를 판단하는 단계; 및
    상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가 되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에서 상기 내비게이션 서비스가 연속적으로 제공되도록 제어하는 단계;
    를 포함하는 이동 단말기의 내비게이션 서비스 제공 방법.
  2. 제 1 항에 있어서,
    상기 내비게이션 모드의 변경 구간이 존재하는지를 판단하는 단계는,
    상기 탐색된 경로 중 서로 다른 측위 방법을 통해 구성된 상기 맵 데이터에 기초하여 상기 경로 안내가 필요한 적어도 하나의 구간이 존재하는지를 판단하는 단계;
    를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  3. 제 2 항에 있어서,
    상기 맵 데이터는,
    GPS 측위 기술을 통해 구성된 맵 데이터, SLAM 측위 기술을 통해 구성된 맵 데이터 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  4. 제 2 항에 있어서,
    상기 제1 맵 데이터에 기초하여 상기 내비게이션 서비스를 제공하는 중 상기 적어도 하나의 구간 중 제1 구간에 진입한 것으로 판단한 경우,
    상기 목적지의 재 설정 동작 없이 상기 제2 맵 데이터에 기초하여 상기 목적지까지의 경로를 안내하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  5. 제 4 항에 있어서,
    상기 이동 단말기의 현재 위치와 상기 제1 구간이 시작지점 간의 거리가 미리 정해진 거리 이하인 경우, 상기 제1 구간에 진입한 것으로 판단하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  6. 제 4 항에 있어서,
    상기 제1 맵 데이터는 GPS 측위 기술을 통해 구성된 맵 데이터이고,
    상기 이동 단말기의 현재 위치가 상기 제1 구간에 진입한 경우, 상기 무선 통신부를 통해 상기 제2 맵 데이터를 다운로드 받는 단계;
    를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  7. 제 6 항에 있어서,
    상기 이동 단말기의 현재 위치와 상기 제1 구간의 시작지점과 미리 정해진 거리 이내로 진입하는 경우, 상기 제1 구간에 진입한 것으로 판단하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  8. 제 1 항에 있어서,
    상기 내비게이션 모드는,
    내비게이션 화면을 적어도 하나의 차량 디스플레이를 통해 제공하는 제1 모드, 상기 내비게이션 화면을 상기 이동 단말기의 디스플레이부를 통해 제공하는 제2 모드 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  9. 제 8 항에 있어서,
    미리 정해진 조건을 만족하는 경우 상기 제1 모드에서 제2 모드로 전환되거나, 상기 제2 모드에서 제1 모드로 전환되며,
    상기 내비게이션 서비스가 연속적으로 이루어지는 상태에서 상기 제1 모드와 제2 모드 간의 상호 전환이 이루어지는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  10. 제 8 항에 있어서,
    상기 미리 정해진 조건은, 차량 센서 데이터 및 상기 이동 단말기의 센서 데이터 중 적어도 하나의 조합에 의해 판단되며,
    차량의 정차 여부, 정차 중 상기 이동 단말기가 상기 차량의 내부 또는 외부로의 움직임 여부를 판단하는 단계;
    를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  11. 제 8 항에 있어서,
    상기 제1 모드는,
    상기 이동 단말기에 표시되는 상기 내비게이션 화면을 상기 차량 디스플레이에 미러링 화면으로 제공되는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  12. 제 1 항에 있어서,
    무선 통신부를 통해 수신된 차량 센서 데이터 또는 상기 이동 단말기의 센서 데이터 중 적어도 하나에 기초하여 상기 모드 변경 구간에 진입한 것으로 판단하는 단계;
    를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  13. 제 1 항에 있어서,
    적어도 하나의 카메라를 통해 내비게이션 화면을 구성하기 위한 영상을 획득하는 단계;
    상기 영상에 AR 정보를 매핑한 AR 영상을 생성하는 단계; 및
    상기 내비게이션 서비스를 AR 모드에서 제공하는 단계;
    를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  14. 제 13 항에 있어서,
    상기 카메라는,
    상기 이동 단말기에 구비된 적어도 하나의 카메라, 차량에 구비된 적어도 하나의 카메라 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  15. 제 11 항에 있어서,
    상기 영상은 무선 통신부를 통해 네트워크로 부터 수신된 주행 스트리밍 영상을 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  16. 제 1 항에 있어서,
    상기 제1 맵 데이터는 상기 이동 단말기의 메모리에 저장된 맵 데이터이고, 상기 제2 맵 데이터는 실내 공간에서의 내비게이션 서비스를 제공하기 위한 맵 데이터인 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  17. 제 1 항에 있어서,
    상기 목적지가 입력되는 경우, 상기 내비게이션 모드 변경에 따른 서비스 이용 가능 메뉴를 디스플레이에 표시하는 단계;
    상기 모드 변경 구간별 내비게이션 서비스 요약정보를 제공하는 단계;
    를 더 포함하는 것을 특징으로 하는 이동 단말기의 내비게이션 서비스 제공 방법.
  18. 무선 통신부;
    맵 데이터를 저장하는 메모리;
    목적지를 입력받는 입력부; 및
    상기 목적지까지의 경로를 탐색하고, 상기 탐색된 경로 중 내비게이션 모드의 변경이 필요한 적어도 하나의 모드 변경 구간이 존재하는지 판단하고, 상기 모드 변경 구간에 진입한 것으로 판단한 경우, 경로 안내에 기초가되는 맵 데이터를 제1 맵 데이터에서 제2 맵 데이터로 변경하여 상기 변경된 내비게이션 모드에섯 상기 내비게이션 서비스가 연속적으로 제공되도록 제어하는 프로세서;
    를 포함하는 이동 단말기.
  19. 제 18 항에 있어서,
    상기 프로세서는,
    상기 탑색된 경로 중 서로 다른 측위 방법을 통해 구성된 상기 맵 데이터에 기초하여 상기 경로 안내가 필요한 적어도 하나의 구간이 존재하는지를 판단하는 것을 특징으로 하는 이동 단말기.
  20. 제 19 항에 있어서,
    상기 맵 데이터는,
    GPS 측위 기술을 통해 구성된 맵 데이터, SLAM 측위 기술을 통해 구성된 맵 데이터 중 적어도 하나를 포함하는 것을 특징으로 하는 이동 단말기.
PCT/KR2020/003849 2019-03-20 2020-03-20 이동 단말기를 이용한 내비게이션 서비스 제공 방법 및 이동 단말기 WO2020190082A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/440,933 US12018947B2 (en) 2019-03-20 2020-03-20 Method for providing navigation service using mobile terminal, and mobile terminal

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201962821400P 2019-03-20 2019-03-20
US62/821,400 2019-03-20

Publications (1)

Publication Number Publication Date
WO2020190082A1 true WO2020190082A1 (ko) 2020-09-24

Family

ID=72521111

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/003849 WO2020190082A1 (ko) 2019-03-20 2020-03-20 이동 단말기를 이용한 내비게이션 서비스 제공 방법 및 이동 단말기

Country Status (2)

Country Link
US (1) US12018947B2 (ko)
WO (1) WO2020190082A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113806461A (zh) * 2021-09-03 2021-12-17 深圳特为科创信息技术有限公司 标注数据的处理方法及标注数据的处理系统

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220083631A1 (en) * 2020-09-15 2022-03-17 Facebook Technologies, Llc Systems and methods for facilitating access to distributed reconstructed 3d maps
US20230135554A1 (en) * 2021-11-01 2023-05-04 Here Global B.V. Method and apparatus for managing movement in an indoor space
US20230194270A1 (en) * 2021-12-21 2023-06-22 Rivian Ip Holdings, Llc Multi-modal navigation system
CN116600252B (zh) * 2023-07-17 2023-09-15 深圳市艾米艺术设计有限公司 基于无线热点的房间路线引导方法、装置和计算机设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150081218A1 (en) * 2012-03-16 2015-03-19 Qoros Automotive Co., Ltd. Navigation system and method for different mobility modes
KR20150137799A (ko) * 2014-05-30 2015-12-09 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20160016627A (ko) * 2014-07-31 2016-02-15 삼성전자주식회사 특정 영역에서 애플리케이션을 실행하는 휴대 단말 및 그 방법
US20160138926A1 (en) * 2013-10-25 2016-05-19 Qualcomm Incorporated Automatic handover of positioning parameters from a navigation device to a mobile device
KR20180075843A (ko) * 2016-12-27 2018-07-05 러브투트레일 주식회사 증강현실을 이용한 경로 안내 장치 및 이를 이용한 경로 안내 방법

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5225527B2 (ja) * 2001-05-02 2013-07-03 京セラ株式会社 ナビゲーションシステム、ナビゲーションシステムの携帯通信装置及びナビゲーションシステムのベース装置
JP2013217808A (ja) * 2012-04-10 2013-10-24 Alpine Electronics Inc 車載機器
US9215659B2 (en) * 2013-07-19 2015-12-15 Google Technology Holdings LLC Method and apparatus for disconnecting a wireless communication link between a communication device and a mobile device
JP6389442B2 (ja) * 2015-03-26 2018-09-12 株式会社ゼンリンデータコム 情報処理装置、情報処理方法及びプログラム
US9438948B1 (en) * 2015-04-02 2016-09-06 Tinnos Inc. AVN system having function of analyzing mirroring data and method of controlling mirroring data
CN109086277B (zh) * 2017-06-13 2024-02-02 纵目科技（上海）股份有限公司 一种重叠区构建地图方法、系统、移动终端及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150081218A1 (en) * 2012-03-16 2015-03-19 Qoros Automotive Co., Ltd. Navigation system and method for different mobility modes
US20160138926A1 (en) * 2013-10-25 2016-05-19 Qualcomm Incorporated Automatic handover of positioning parameters from a navigation device to a mobile device
KR20150137799A (ko) * 2014-05-30 2015-12-09 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20160016627A (ko) * 2014-07-31 2016-02-15 삼성전자주식회사 특정 영역에서 애플리케이션을 실행하는 휴대 단말 및 그 방법
KR20180075843A (ko) * 2016-12-27 2018-07-05 러브투트레일 주식회사 증강현실을 이용한 경로 안내 장치 및 이를 이용한 경로 안내 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113806461A (zh) * 2021-09-03 2021-12-17 深圳特为科创信息技术有限公司 标注数据的处理方法及标注数据的处理系统

Also Published As

Publication number Publication date
US20220163334A1 (en) 2022-05-26
US12018947B2 (en) 2024-06-25

Similar Documents

Publication Publication Date Title
WO2020190082A1 (ko) 이동 단말기를 이용한 내비게이션 서비스 제공 방법 및 이동 단말기
WO2017018603A1 (ko) 이동 단말기 및 이의 제어방법
WO2016182108A1 (ko) 이동단말기 및 그 제어방법
WO2017007045A1 (ko) 무인 항공기, 이동 단말기 및 그것들의 제어방법
WO2016195147A1 (ko) 헤드 마운티드 디스플레이
WO2017022931A1 (ko) 이동단말기 및 그 제어방법
WO2018056473A1 (ko) 헤드 마운티드 디스플레이 장치
WO2018044015A1 (ko) 공항용 로봇, 그의 서비스 제공 방법을 수행하는 프로그램이 기록된 기록 매체, 및 그와 연결되는 이동 단말기
WO2016204357A1 (ko) 이동 단말기 및 그 제어 방법
WO2016010262A1 (en) Mobile terminal and controlling method thereof
WO2020145625A1 (ko) 인공 지능 장치 및 그의 동작 방법
WO2018016731A1 (en) Electronic device and method for controlling the same
WO2021040076A1 (ko) 전자 디바이스
WO2018048092A1 (en) Head mounted display and method for controlling the same
WO2017026554A1 (ko) 이동 단말기
WO2016035955A1 (ko) 이동 단말기 및 그 제어방법
WO2018135675A1 (ko) 전자장치
WO2021040107A1 (ko) Ar 장치 및 그 제어 방법
WO2020246640A1 (ko) 사용자의 위치를 결정하는 인공 지능 장치 및 그 방법
WO2017022872A1 (ko) 헤드 마운티드 디스플레이 및 그 제어방법
WO2018030567A1 (ko) Hmd 및 그 hmd의 제어 방법
WO2016129781A1 (ko) 이동 단말기 및 그 제어 방법
WO2016125971A1 (ko) 이동단말기 및 그 제어방법
WO2021215547A1 (ko) 스마트 홈 장치 및 방법
WO2016035920A1 (ko) 이동 단말기 및 이의 제어 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20774254

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20774254

Country of ref document: EP

Kind code of ref document: A1