WO2022025689A1 - 경로 안내 장치 및 그것의 경로 안내 방법 - Google Patents

경로 안내 장치 및 그것의 경로 안내 방법 Download PDF

Info

Publication number
WO2022025689A1
WO2022025689A1 PCT/KR2021/009938 KR2021009938W WO2022025689A1 WO 2022025689 A1 WO2022025689 A1 WO 2022025689A1 KR 2021009938 W KR2021009938 W KR 2021009938W WO 2022025689 A1 WO2022025689 A1 WO 2022025689A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
vehicle
driving
processor
lane
Prior art date
Application number
PCT/KR2021/009938
Other languages
English (en)
French (fr)
Inventor
이기형
정준영
지애띠
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US18/018,847 priority Critical patent/US20230304822A1/en
Priority to EP21848695.9A priority patent/EP4191204A1/en
Priority to KR1020237003172A priority patent/KR20230042285A/ko
Publication of WO2022025689A1 publication Critical patent/WO2022025689A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3658—Lane guidance
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/365—Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3635—Guidance using 3D or perspective road maps
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00—Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display

Definitions

  • the present invention relates to a route guidance device mounted on a vehicle to implement augmented reality and a route guidance method thereof.
  • a vehicle refers to a means of transportation capable of moving a person or a load by using kinetic energy.
  • Representative examples of vehicles include automobiles and motorcycles.
  • the function of the vehicle may be divided into a convenience function for promoting the convenience of the driver, and a safety function for promoting the safety of the driver and/or pedestrian.
  • convenience functions have a motive for development related to driver convenience, such as giving infotainment (information + entertainment) functions to vehicles, supporting partial autonomous driving functions, or helping drivers secure their vision, such as night vision or blind spots.
  • driver convenience such as giving infotainment (information + entertainment) functions to vehicles, supporting partial autonomous driving functions, or helping drivers secure their vision, such as night vision or blind spots.
  • ACC adaptive cruise control
  • SPS smart parking assist system
  • NV night vision
  • HUD head up display
  • AVM adaptive headlight system
  • AHS adaptive headlight system
  • the safety function is a technology that secures driver safety and/or pedestrian safety.
  • Lane departure warning system (LDWS), lane keeping assist system (LKAS), automatic emergency braking (autonomous emergency) braking, AEB) functions, etc.
  • LDWS Lane departure warning system
  • LKAS lane keeping assist system
  • AEB automatic emergency braking
  • V2I Vehicle to Infrastructure
  • V2V Vehicle to Vehicle
  • V2X Vehicle to Everything
  • the vehicle is provided with a route guidance device for visually providing various information to passengers.
  • the route guidance device includes a head-up display (HUD) for outputting information to a vehicle windshield or a separately provided transparent screen and/or various displays for outputting information through a panel.
  • HUD head-up display
  • the route guide device provides route guide information to a destination and information on a point of interest (POI), and is evolving in a direction to effectively provide various information.
  • POI point of interest
  • research on a route guidance device that directly and effectively provides necessary information to a driver who has to concentrate on driving within a range that does not interfere with driving is continuing.
  • the present invention aims to solve the above and other problems.
  • One object of the present invention is to provide a route guidance apparatus capable of providing a route through which a vehicle should travel in an optimized method in augmented reality, and a route guidance method thereof.
  • Another object of the present invention is to provide a route guidance device capable of providing various types of information to passengers in augmented reality, and a route guidance method thereof.
  • Another object of the present invention is to provide a route guidance device capable of guiding a driving route of a vehicle in augmented reality optimized according to a situation in which the vehicle is driving.
  • the present invention provides a route guidance device and a route guidance method for providing a route on which a vehicle should travel.
  • a route guidance apparatus provides a communication unit that receives a first image captured by a camera, and performs calibration on the first image, and guides driving of the vehicle to the calibrated second image. It includes a processor that overlaps the graphic object to output.
  • the processor outputs a driving-related first graphic object to the first image before the calibration is performed, and after the calibration is performed, the first graphic object and a driving-related second graphic object The object is output by overlapping the second image.
  • the first graphic object includes turn-by-turn information indicating a road to enter before a predetermined distance
  • the second graphic object includes the second image It is overlapped with the lane included in the , and characterized in that it includes a carpet image for guiding the driving route of the vehicle.
  • the processor overlaps and outputs the second graphic object on a lane on which the vehicle is traveling among a plurality of lanes included in the second image, and when it is determined that the vehicle departs from the driving lane, It is characterized in that the second graphic object is not output.
  • the first graphic object is characterized in that the output is maintained regardless of whether the vehicle is out of a driving lane.
  • the processor is characterized in that the calibration is performed so that the road area included in the first image is larger than or equal to a predetermined size.
  • the processor when the viewing angle of the second image is changed so that the lane included in the second image and the graphic object overlapping the lane are changed by the driving of the vehicle, the processor is configured to change the viewing angle of the second image It is characterized in that the graphic object is changed to match the lane based on .
  • the processor outputs a carpet image overlapping the lane included in the second image and guiding a driving route of the vehicle to the second image, and the carpet image is displayed by the vehicle in the second image. It overlaps with the driving lane, and the processor outputs a wall image guiding the driving direction to a lane adjacent to the driving lane in the second image.
  • the processor outputs the carpet image to the lane in which the vehicle is traveling before a predetermined distance before the vehicle enters the intersection where the direction change is to be performed, and the vehicle moves the predetermined distance based on the intersection.
  • the carpet image is changed to the wall image, and the wall image is overlapped with a lane adjacent to a lane in which the vehicle is traveling and outputted.
  • the processor when the vehicle performs a direction change at the intersection, changes the wall image to the carpet image, and overlaps the carpet image on the lane in which the vehicle is traveling and outputs it .
  • the processor enlarges the output size of the wall image as the distance between the vehicle and the intersection increases.
  • the processor overlaps the second image with a compass image including a compass object indicating a direction in which the front of the vehicle looks, and outputs the overlapped image.
  • the compass image may include a fixed carpet image for guiding a direction in which the vehicle should travel from the current location.
  • the processor is characterized in that the display position of the fixed carpet image is varied along the edge of the compass object.
  • the processor is, based on a distance between the vehicle and an intersection at which the vehicle needs to change direction, a carpet image for guiding a planned driving route of the vehicle or a compass for indicating the direction the vehicle is facing It is characterized in that any one of the images is output.
  • the processor determines the slope of the road on which the vehicle travels, and determines the slope of the first graphic object overlapped with the first image and output based on the determined slope of the road. do it with
  • a route guidance method of a route guidance apparatus includes the steps of receiving a first image photographed through a camera, performing calibration on the first image, and displaying the calibrated second image on the vehicle It includes the step of overlapping and outputting a graphic object guiding the driving of the.
  • the outputting includes outputting a driving-related first graphic object to the first image before the calibration is performed, and after the calibration is performed, the first graphic object and driving-related first graphic object It is characterized in that two graphic objects are overlapped and outputted on the second image.
  • the first graphic object includes turn-by-turn information indicating a road to enter before a predetermined distance
  • the second graphic object includes the second image It is overlapped with the lane included in the , and characterized in that it includes a carpet image for guiding the driving route of the vehicle.
  • the outputting includes overlapping and outputting the second graphic object on a lane on which the vehicle is traveling among a plurality of lanes included in the image, and when it is determined that the vehicle departs from the driving lane, It is characterized in that the second graphic object is not output.
  • the passenger may be provided with information on the route on which the vehicle is to travel by autonomous driving or the driver should drive through the carpet image in units of lanes.
  • the passenger can determine the route the vehicle should travel through the various types of carpet images in an optimized way.
  • FIG. 1 is a view showing the exterior of a vehicle according to an embodiment of the present invention.
  • FIG. 2 is a view of a vehicle according to an embodiment of the present invention viewed from various angles from the outside.
  • 3 to 4 are views illustrating the interior of a vehicle according to an embodiment of the present invention.
  • 5 to 6 are diagrams referenced to describe an object according to an embodiment of the present invention.
  • FIG. 7 is a block diagram referenced for explaining a vehicle according to an embodiment of the present invention.
  • FIG. 8 is a block diagram illustrating a mobile terminal related to the present invention.
  • FIG. 9 is a block diagram for explaining a route guidance device of the present invention.
  • 10A, 10B, 10C, 10D, 10E, 10F, 11A, 11B, 11C, 11D, 11E, 11F, and 11G illustrate augmented reality according to an embodiment of the present invention. It is a conceptual diagram for explaining the applied route guidance method.
  • FIG 12, 13A, and 13B are flowcharts for explaining a method of determining a type of an image output to augmented reality according to a driving state of a vehicle according to an embodiment of the present invention.
  • 14, 15, 16, 17, 18, 19, 20, 21, 22 and 23 are conceptual diagrams for explaining a compass image output to augmented reality according to an embodiment of the present invention. to be.
  • 24A, 24B, 25, 26, 27A, and 27B are conceptual views for explaining a route guidance method according to another embodiment of the present invention.
  • FIG. 28 is a conceptual diagram illustrating a method of outputting turn-by-turn information according to an embodiment of the present invention.
  • 29A, 29B, 29C, and 29D are conceptual diagrams for explaining various methods of outputting a compass image according to an embodiment of the present invention.
  • 30, 31 and 32 are conceptual diagrams for explaining a route guidance method to which augmented reality of the present invention is applied.
  • the vehicle described in this specification may be a concept including an automobile and a motorcycle.
  • the vehicle will be mainly described with respect to the vehicle.
  • the vehicle described herein may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.
  • the left side of the vehicle means the left side in the driving direction of the vehicle
  • the right side of the vehicle means the right side in the driving direction of the vehicle
  • FIG. 1 is a view showing the exterior of a vehicle according to an embodiment of the present invention.
  • FIG. 2 is a view of a vehicle according to an embodiment of the present invention viewed from various angles from the outside.
  • 3 to 4 are views illustrating the interior of a vehicle according to an embodiment of the present invention.
  • 5 to 6 are diagrams referenced to describe an object according to an embodiment of the present invention.
  • FIG. 7 is a block diagram referenced for explaining a vehicle according to an embodiment of the present invention.
  • the vehicle 100 may include wheels rotated by a power source and a steering input device 510 for controlling the traveling direction of the vehicle 100 .
  • the vehicle 100 may be an autonomous driving vehicle.
  • the vehicle 100 may be switched to an autonomous driving mode or a manual mode based on a user input.
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on a user input received through the user interface device 200 .
  • the vehicle 100 may be switched to an autonomous driving mode or a manual mode based on driving situation information.
  • the driving situation information may be generated based on object information provided by the object detection apparatus 300 .
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on the driving situation information generated by the object detection apparatus 300 .
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on driving situation information received through the communication device 400 .
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on information, data, and signals provided from an external device.
  • the autonomous driving vehicle 100 may be operated based on the driving system 700 .
  • the autonomous vehicle 100 may be driven based on information, data, or signals generated by the driving system 710 , the taking-out system 740 , and the parking system 750 .
  • the autonomous driving vehicle 100 may receive a user input for driving through the driving manipulation device 500 . Based on a user input received through the driving manipulation device 500 , the vehicle 100 may be driven.
  • the overall length refers to the length from the front part to the rear part of the vehicle 100
  • the width refers to the width of the vehicle 100
  • the height refers to the length from the lower part of the wheel to the roof.
  • the overall length direction (L) is the standard direction for measuring the overall length of the vehicle 100
  • the overall width direction (W) is the standard direction for measuring the full width of the vehicle 100
  • the total height direction (H) is the vehicle (100) may mean a direction that is the standard for measuring the total height.
  • the vehicle 100 includes a user interface device 200 , an object detection device 300 , a communication device 400 , a driving manipulation device 500 , a vehicle driving device 600 , and a driving system. 700 , a navigation system 770 , a sensing unit 120 , a vehicle interface unit 130 , a memory 140 , a control unit 170 , and a power supply unit 190 may be included.
  • the vehicle 100 may further include other components in addition to the components described herein, or may not include some of the components described herein.
  • the user interface device 200 is a device for communication between the vehicle 100 and a user.
  • the user interface device 200 may receive a user input and provide information generated in the vehicle 100 to the user.
  • the vehicle 100 may implement User Interfaces (UIs) or User Experiences (UXs) through the user interface device 200 .
  • UIs User Interfaces
  • UXs User Experiences
  • the user interface device 200 may include an input unit 210 , an internal camera 220 , a biometric sensor 230 , an output unit 250 , and a processor 270 .
  • the user interface device 200 may further include other components in addition to the described components, or may not include some of the described components.
  • the input unit 200 is for receiving information from a user, and the data collected by the input unit 120 may be analyzed by the processor 270 and processed as a user's control command.
  • the input unit 200 may be disposed inside the vehicle.
  • the input unit 200 may include one region of a steering wheel, one region of an instrument panel, one region of a seat, one region of each pillar, and a door.
  • One area of the door, one area of the center console, one area of the head lining, one area of the sun visor, one area of the windshield or the window (window) It may be disposed in one area or the like.
  • the input unit 200 may include a voice input unit 211 , a gesture input unit 212 , a touch input unit 213 , and a mechanical input unit 214 .
  • the voice input unit 211 may convert the user's voice input into an electrical signal.
  • the converted electrical signal may be provided to the processor 270 or the controller 170 .
  • the voice input unit 211 may include one or more microphones.
  • the gesture input unit 212 may convert the user's gesture input into an electrical signal.
  • the converted electrical signal may be provided to the processor 270 or the controller 170 .
  • the gesture input unit 212 may include at least one of an infrared sensor and an image sensor for detecting a user's gesture input.
  • the gesture input unit 212 may detect a user's 3D gesture input.
  • the gesture input unit 212 may include a light output unit that outputs a plurality of infrared rays or a plurality of image sensors.
  • the gesture input unit 212 may sense the user's 3D gesture input through a time of flight (TOF) method, a structured light method, or a disparity method.
  • TOF time of flight
  • the touch input unit 213 may convert a user's touch input into an electrical signal.
  • the converted electrical signal may be provided to the processor 270 or the controller 170 .
  • the touch input unit 213 may include a touch sensor for sensing a user's touch input.
  • the touch input unit 213 may be integrally formed with the display unit 251 to implement a touch screen.
  • a touch screen may provide both an input interface and an output interface between the vehicle 100 and the user.
  • the mechanical input unit 214 may include at least one of a button, a dome switch, a jog wheel, and a jog switch.
  • the electrical signal generated by the mechanical input unit 214 may be provided to the processor 270 or the control unit 170 .
  • the mechanical input unit 214 may be disposed on a steering wheel, a center fascia, a center console, a cockpick module, a door, and the like.
  • the internal camera 220 may acquire an image inside the vehicle.
  • the processor 270 may detect the user's state based on the image inside the vehicle.
  • the processor 270 may obtain the user's gaze information from the image inside the vehicle.
  • the processor 270 may detect the user's gesture from the image inside the vehicle.
  • the biometric sensor 230 may obtain biometric information of the user.
  • the biometric sensor 230 may include a sensor capable of obtaining the user's biometric information, and may obtain the user's fingerprint information, heart rate information, and the like, using the sensor.
  • the biometric information may be used for user authentication.
  • the output unit 250 is for generating an output related to sight, hearing, or touch.
  • the output unit 250 may include at least one of a display unit 251 , a sound output unit 252 , and a haptic output unit 253 .
  • the display unit 251 may display graphic objects corresponding to various pieces of information.
  • the display unit 251 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display (Flexible Display).
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light-emitting diode
  • Flexible Display Flexible Display
  • display a three-dimensional display (3D display)
  • e-ink display may include at least one.
  • the display unit 251 may form a layer structure with the touch input unit 213 or be integrally formed to implement a touch screen.
  • the display unit 251 may be implemented as a head-up display (HUD).
  • the display unit 251 may include a projection module to output information through an image projected on the windshield or window.
  • the display unit 251 may include a transparent display.
  • the transparent display may be attached to a windshield or window.
  • the transparent display may display a predetermined screen while having predetermined transparency.
  • Transparent display in order to have transparency, transparent TFEL (Thin Film Elecroluminescent), transparent OLED (Organic Light-Emitting Diode), transparent LCD (Liquid Crystal Display), transmissive transparent display, transparent LED (Light Emitting Diode) display may include at least one of The transparency of the transparent display can be adjusted.
  • the user interface device 200 may include a plurality of display units 251a to 251g.
  • the display unit 251 includes one area of the steering wheel, one area 521a, 251b, and 251e of the instrument panel, one area 251d of the seat, one area 251f of each pillar, and one area of the door ( 251g), one area of the center console, one area of the head lining, one area of the sun visor, or one area 251c of the windshield and one area 251h of the window.
  • the sound output unit 252 converts an electric signal provided from the processor 270 or the controller 170 into an audio signal and outputs the converted signal. To this end, the sound output unit 252 may include one or more speakers.
  • the haptic output unit 253 generates a tactile output.
  • the haptic output unit 253 may vibrate the steering wheel, seat belt, and seats 110FL, 110FR, 110RL, and 110RR so that the user can recognize the output.
  • the processor 270 may control the overall operation of each unit of the user interface device 200 .
  • the user interface apparatus 200 may include a plurality of processors 270 or may not include the processors 270 .
  • the user interface device 200 may be operated under the control of a processor or the controller 170 of another device in the vehicle 100 .
  • the user interface device 200 may be referred to as a vehicle display device.
  • the user interface device 200 may be operated under the control of the controller 170 .
  • the object detecting apparatus 300 is an apparatus for detecting an object located outside the vehicle 100 .
  • the object may be various objects related to the operation of the vehicle 100 .
  • an object O includes a lane OB10, another vehicle OB11, a pedestrian OB12, a two-wheeled vehicle OB13, traffic signals OB14, OB15, light, road, structure, This may include speed bumps, features, animals, and the like.
  • the lane OB10 may be a driving lane, a lane next to the driving lane, or a lane in which vehicles facing each other travel.
  • the lane OB10 may be a concept including left and right lines forming a lane.
  • the other vehicle OB11 may be a vehicle running in the vicinity of the vehicle 100 .
  • the other vehicle may be a vehicle located within a predetermined distance from the vehicle 100 .
  • the other vehicle OB11 may be a vehicle preceding or following the vehicle 100 .
  • the pedestrian OB12 may be a person located in the vicinity of the vehicle 100 .
  • the pedestrian OB12 may be a person located within a predetermined distance from the vehicle 100 .
  • the pedestrian OB12 may be a person located on a sidewalk or a roadway.
  • the two-wheeled vehicle OB12 may refer to a vehicle positioned around the vehicle 100 and moving using two wheels.
  • the two-wheeled vehicle OB12 may be a vehicle having two wheels positioned within a predetermined distance from the vehicle 100 .
  • the two-wheeled vehicle OB13 may be a motorcycle or a bicycle located on a sidewalk or roadway.
  • the traffic signal may include a traffic light OB15, a traffic sign OB14, and a pattern or text drawn on a road surface.
  • the light may be light generated from a lamp provided in another vehicle.
  • the light can be the light generated from the street lamp.
  • the light may be sunlight.
  • the road may include a road surface, a curve, an uphill slope, a downhill slope, and the like.
  • the structure may be an object located around a road and fixed to the ground.
  • the structure may include a street lamp, a street tree, a building, a power pole, a traffic light, and a bridge.
  • Features may include mountains, hills, and the like.
  • the object may be classified into a moving object and a fixed object.
  • the moving object may be a concept including other vehicles and pedestrians.
  • the fixed object may be a concept including a traffic signal, a road, and a structure.
  • the object detecting apparatus 300 may include a camera 310 , a radar 320 , a lidar 330 , an ultrasonic sensor 340 , an infrared sensor 350 , and a processor 370 .
  • the object detecting apparatus 300 may further include other components in addition to the described components, or may not include some of the described components.
  • the camera 310 may be located at an appropriate place outside the vehicle in order to acquire an image outside the vehicle.
  • the camera 310 may be a mono camera, a stereo camera 310a, an AVM (Around View Monitoring) camera 310b, or a 360 degree camera.
  • the camera 310 may be disposed adjacent to the front windshield in the interior of the vehicle to acquire an image of the front of the vehicle.
  • the camera 310 may be disposed around the front bumper or radiator grill.
  • the camera 310 may be disposed adjacent to the rear glass in the interior of the vehicle to acquire an image of the rear of the vehicle.
  • the camera 310 may be disposed around a rear bumper, a trunk, or a tailgate.
  • the camera 310 may be disposed adjacent to at least one of the side windows in the interior of the vehicle in order to acquire an image of the side of the vehicle.
  • the camera 310 may be disposed around a side mirror, a fender, or a door.
  • the camera 310 may provide the acquired image to the processor 370 .
  • the radar 320 may include an electromagnetic wave transmitter and a receiver.
  • the radar 320 may be implemented in a pulse radar method or a continuous wave radar method in view of a radio wave emission principle.
  • the radar 320 may be implemented in a frequency modulated continuous wave (FMCW) method or a frequency shift keyong (FSK) method according to a signal waveform among continuous wave radar methods.
  • FMCW frequency modulated continuous wave
  • FSK frequency shift keyong
  • the radar 320 detects an object based on an electromagnetic wave, a time of flight (TOF) method or a phase-shift method, and a position of the detected object, a distance from the detected object, and a relative speed. can be detected.
  • TOF time of flight
  • the radar 320 may be disposed at an appropriate location outside of the vehicle to detect an object located in front, rear, or side of the vehicle.
  • the lidar 330 may include a laser transmitter and a receiver.
  • the lidar 330 may be implemented in a time of flight (TOF) method or a phase-shift method.
  • TOF time of flight
  • the lidar 330 may be implemented as a driven or non-driven type.
  • the lidar 330 When implemented as a driving type, the lidar 330 is rotated by a motor and may detect an object around the vehicle 100 .
  • the lidar 330 may detect an object located within a predetermined range with respect to the vehicle 100 by light steering.
  • the vehicle 100 may include a plurality of non-driven lidars 330 .
  • the lidar 330 detects an object based on a time of flight (TOF) method or a phase-shift method as a laser light medium, and determines the position of the detected object, the distance to the detected object, and Relative speed can be detected.
  • TOF time of flight
  • phase-shift method as a laser light medium
  • the lidar 330 may be disposed at an appropriate location outside the vehicle to detect an object located in the front, rear, or side of the vehicle.
  • the ultrasonic sensor 340 may include an ultrasonic transmitter and a receiver.
  • the ultrasound sensor 340 may detect an object based on ultrasound, and detect a position of the detected object, a distance from the detected object, and a relative speed.
  • the ultrasonic sensor 340 may be disposed at an appropriate location outside the vehicle to detect an object located in the front, rear, or side of the vehicle.
  • the infrared sensor 350 may include an infrared transmitter and a receiver.
  • the infrared sensor 340 may detect an object based on infrared light, and detect a position of the detected object, a distance from the detected object, and a relative speed.
  • the infrared sensor 350 may be disposed at an appropriate location outside the vehicle to detect an object located in front, rear, or side of the vehicle.
  • the processor 370 may control the overall operation of each unit of the object detection apparatus 300 .
  • the processor 370 may detect and track the object based on the acquired image.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to an object through an image processing algorithm.
  • the processor 370 may detect and track the object based on the reflected electromagnetic wave that is reflected by the object and returns.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the electromagnetic wave.
  • the processor 370 may detect and track the object based on reflected laser light from which the transmitted laser is reflected by the object and returned.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the laser light.
  • the processor 370 may detect and track the object based on the reflected ultrasound reflected back by the transmitted ultrasound.
  • the processor 370 may perform operations, such as calculating a distance to an object and calculating a relative speed with respect to the object, based on the ultrasound.
  • the processor 370 may detect and track the object based on the reflected infrared light reflected back by the transmitted infrared light.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the infrared light.
  • the object detecting apparatus 300 may include a plurality of processors 370 or may not include the processors 370 .
  • each of the camera 310 , the radar 320 , the lidar 330 , the ultrasonic sensor 340 , and the infrared sensor 350 may individually include a processor.
  • the object detecting apparatus 300 may be operated under the control of the processor or the controller 170 of the apparatus in the vehicle 100 .
  • the object detection apparatus 400 may be operated under the control of the controller 170 .
  • the communication apparatus 400 is an apparatus for performing communication with an external device.
  • the external device may be another vehicle, a mobile terminal, or a server.
  • the communication device 400 may include at least one of a transmit antenna, a receive antenna, a radio frequency (RF) circuit capable of implementing various communication protocols, and an RF element to perform communication.
  • RF radio frequency
  • the communication device 400 may include a short-range communication unit 410 , a location information unit 420 , a V2X communication unit 430 , an optical communication unit 440 , a broadcast transceiver 450 , and a processor 470 .
  • the communication device 400 may further include other components in addition to the described components, or may not include some of the described components.
  • the short-range communication unit 410 is a unit for short-range communication.
  • the short-range communication unit 410 Bluetooth (BluetoothTM), RFID (Radio Frequency Identification), infrared communication (Infrared Data Association; IrDA), UWB (Ultra Wideband), ZigBee, NFC (Near Field Communication), Wi-Fi (Wireless) -Fidelity), Wi-Fi Direct, and at least one of Wireless USB (Wireless Universal Serial Bus) technologies may be used to support short-distance communication.
  • the short-distance communication unit 410 may form wireless area networks to perform short-range communication between the vehicle 100 and at least one external device.
  • the location information unit 420 is a unit for obtaining location information of the vehicle 100 .
  • the location information unit 420 may include a Global Positioning System (GPS) module or a Differential Global Positioning System (DGPS) module.
  • GPS Global Positioning System
  • DGPS Differential Global Positioning System
  • the V2X communication unit 430 is a unit for performing wireless communication with a server (V2I: Vehicle to Infra), another vehicle (V2V: Vehicle to Vehicle), or a pedestrian (V2P: Vehicle to Pedestrian).
  • the V2X communication unit 430 may include an RF circuit capable of implementing protocols for communication with infrastructure (V2I), vehicle-to-vehicle communication (V2V), and communication with pedestrians (V2P).
  • the optical communication unit 440 is a unit for performing communication with an external device via light.
  • the optical communication unit 440 may include an optical transmitter that converts an electrical signal into an optical signal to transmit to the outside, and an optical receiver that converts the received optical signal into an electrical signal.
  • the light transmitter may be formed to be integrated with a lamp included in the vehicle 100 .
  • the broadcast transceiver 450 is a unit for receiving a broadcast signal from an external broadcast management server or transmitting a broadcast signal to the broadcast management server through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel.
  • the broadcast signal may include a TV broadcast signal, a radio broadcast signal, and a data broadcast signal.
  • the processor 470 may control the overall operation of each unit of the communication device 400 .
  • the communication device 400 may include a plurality of processors 470 or may not include the processors 470 .
  • the communication device 400 may be operated under the control of a processor or the controller 170 of another device in the vehicle 100 .
  • the communication device 400 may implement a vehicle display device together with the user interface device 200 .
  • the vehicle display device may be referred to as a telematics device or an AVN (Audio Video Navigation) device.
  • the communication device 400 may be operated under the control of the controller 170 .
  • the driving operation device 500 is a device that receives a user input for driving.
  • the vehicle 100 may be driven based on a signal provided by the driving manipulation device 500 .
  • the driving manipulation device 500 may include a steering input device 510 , an acceleration input device 530 , and a brake input device 570 .
  • the steering input device 510 may receive a driving direction input of the vehicle 100 from the user.
  • the steering input device 510 is preferably formed in a wheel shape to enable steering input by rotation.
  • the steering input device may be formed in the form of a touch screen, a touch pad, or a button.
  • the acceleration input device 530 may receive an input for acceleration of the vehicle 100 from a user.
  • the brake input device 570 may receive an input for decelerating the vehicle 100 from a user.
  • the acceleration input device 530 and the brake input device 570 are preferably formed in the form of pedals. According to an embodiment, the acceleration input device or the brake input device may be formed in the form of a touch screen, a touch pad, or a button.
  • the driving operation device 500 may be operated under the control of the controller 170 .
  • the vehicle driving device 600 is a device that electrically controls driving of various devices in the vehicle 100 .
  • the vehicle driving unit 600 may include a power train driving unit 610 , a chassis driving unit 620 , a door/window driving unit 630 , a safety device driving unit 640 , a lamp driving unit 650 , and an air conditioning driving unit 660 .
  • a power train driving unit 610 may be included in the vehicle driving unit 600 .
  • a chassis driving unit 620 may be included in the vehicle driving unit 600 .
  • a door/window driving unit 630 may include a safety device driving unit 640 , a lamp driving unit 650 , and an air conditioning driving unit 660 .
  • the vehicle driving apparatus 600 may further include other components in addition to the described components, or may not include some of the described components.
  • the vehicle driving apparatus 600 may include a processor.
  • Each unit of the vehicle driving apparatus 600 may include a processor, respectively.
  • the power train driver 610 may control the operation of the power train device.
  • the power train driving unit 610 may include a power source driving unit 611 and a transmission driving unit 612 .
  • the power source driving unit 611 may control the power source of the vehicle 100 .
  • the power source driving unit 610 may electronically control the engine. Thereby, the output torque of an engine, etc. can be controlled.
  • the power source driving unit 611 may adjust the engine output torque according to the control of the control unit 170 .
  • the power source driving unit 610 may control the motor.
  • the power source driving unit 610 may adjust the rotation speed, torque, etc. of the motor according to the control of the control unit 170 .
  • the transmission driving unit 612 may control the transmission.
  • the transmission driving unit 612 may adjust the state of the transmission.
  • the transmission driving unit 612 may adjust the state of the transmission to forward (D), reverse (R), neutral (N), or park (P).
  • the transmission driving unit 612 may adjust the engagement state of the gear in the forward (D) state.
  • the chassis driver 620 may control the operation of the chassis device.
  • the chassis driving unit 620 may include a steering driving unit 621 , a brake driving unit 622 , and a suspension driving unit 623 .
  • the steering driving unit 621 may perform electronic control of a steering apparatus in the vehicle 100 .
  • the steering driving unit 621 may change the traveling direction of the vehicle.
  • the brake driving unit 622 may perform electronic control of a brake apparatus in the vehicle 100 .
  • the speed of the vehicle 100 may be reduced by controlling the operation of a brake disposed on the wheel.
  • the brake driving unit 622 may individually control each of the plurality of brakes.
  • the brake driving unit 622 may differently control the braking force applied to the plurality of wheels.
  • the suspension driving unit 623 may perform electronic control of a suspension apparatus in the vehicle 100 . For example, when there is a curve in the road surface, the suspension driving unit 623 may control the suspension device to reduce vibration of the vehicle 100 .
  • the suspension driving unit 623 may individually control each of the plurality of suspensions.
  • the door/window driving unit 630 may perform electronic control of a door apparatus or a window apparatus in the vehicle 100 .
  • the door/window driving unit 630 may include a door driving unit 631 and a window driving unit 632 .
  • the door driving unit 631 may control the door device.
  • the door driving unit 631 may control opening and closing of a plurality of doors included in the vehicle 100 .
  • the door driving unit 631 may control opening or closing of a trunk or a tail gate.
  • the door driving unit 631 may control opening or closing of a sunroof.
  • the window driving unit 632 may perform electronic control of a window apparatus. Opening or closing of a plurality of windows included in the vehicle 100 may be controlled.
  • the safety device driving unit 640 may perform electronic control of various safety apparatuses in the vehicle 100 .
  • the safety device driving unit 640 may include an airbag driving unit 641 , a seat belt driving unit 642 , and a pedestrian protection device driving unit 643 .
  • the airbag driving unit 641 may perform electronic control of an airbag apparatus in the vehicle 100 .
  • the airbag driving unit 641 may control the airbag to be deployed when a danger is detected.
  • the seat belt driving unit 642 may perform electronic control of a seat belt appartus in the vehicle 100 .
  • the seat belt driving unit 642 may control the occupant to be fixed to the seats 110FL, 110FR, 110RL, and 110RR using the seat belt when a danger is sensed.
  • the pedestrian protection device driving unit 643 may perform electronic control for the hood lift and the pedestrian airbag. For example, when detecting a collision with a pedestrian, the pedestrian protection device driving unit 643 may control to lift up the hood and deploy the pedestrian airbag.
  • the lamp driver 650 may electronically control various lamp apparatuses in the vehicle 100 .
  • the air conditioning driving unit 660 may perform electronic control of an air conditioner in the vehicle 100 . For example, when the temperature inside the vehicle is high, the air conditioning driving unit 660 may control the air conditioner to operate to supply cool air to the interior of the vehicle.
  • the vehicle driving apparatus 600 may include a processor. Each unit of the vehicle driving apparatus 600 may include a processor, respectively.
  • the vehicle driving apparatus 600 may be operated under the control of the controller 170 .
  • the operation system 700 is a system for controlling various operations of the vehicle 100 .
  • the driving system 700 may be operated in an autonomous driving mode.
  • the driving system 700 may include a driving system 710 , a vehicle taking-out system 740 , and a parking system 750 .
  • the navigation system 700 may further include other components in addition to the described components, or may not include some of the described components.
  • the driving system 700 may include a processor.
  • Each unit of the navigation system 700 may each individually include a processor.
  • the operation system 700 when the operation system 700 is implemented in software, it may be a sub-concept of the control unit 170 .
  • the driving system 700 may control at least one of the user interface device 200 , the object detection device 300 , the communication device 400 , the vehicle driving device 600 , and the control unit 170 . It may be a concept that includes
  • the driving system 710 may perform driving of the vehicle 100 .
  • the driving system 710 may receive navigation information from the navigation system 770 and provide a control signal to the vehicle driving device 600 to drive the vehicle 100 .
  • the driving system 710 may receive object information from the object detection apparatus 300 , and may provide a control signal to the vehicle driving apparatus 600 to drive the vehicle 100 .
  • the driving system 710 may receive a signal from an external device through the communication device 400 and provide a control signal to the vehicle driving device 600 to drive the vehicle 100 .
  • the un-parking system 740 may perform un-parking of the vehicle 100 .
  • the un-parking system 740 may receive navigation information from the navigation system 770 and provide a control signal to the vehicle driving device 600 to un-park the vehicle 100 .
  • the un-parking system 740 may receive the object information from the object detection apparatus 300 and provide a control signal to the vehicle driving apparatus 600 to un-park the vehicle 100 .
  • the un-parking system 740 may receive a signal from an external device through the communication device 400 and provide a control signal to the vehicle driving apparatus 600 to un-park the vehicle 100 .
  • the parking system 750 may perform parking of the vehicle 100 .
  • the parking system 750 may receive navigation information from the navigation system 770 and provide a control signal to the vehicle driving device 600 to park the vehicle 100 .
  • the parking system 750 may receive object information from the object detection apparatus 300 , and may provide a control signal to the vehicle driving apparatus 600 to park the vehicle 100 .
  • the parking system 750 may receive a signal from an external device through the communication device 400 and provide a control signal to the vehicle driving apparatus 600 to park the vehicle 100 .
  • the navigation system 770 may provide navigation information.
  • the navigation information may include at least one of map information, set destination information, route information according to the destination setting, information on various objects on a route, lane information, and current location information of the vehicle.
  • the navigation system 770 may include a memory and a processor.
  • the memory may store navigation information.
  • the processor may control the operation of the navigation system 770 .
  • the navigation system 770 may receive information from an external device through the communication device 400 and update pre-stored information.
  • the navigation system 770 may be classified into sub-components of the user interface device 200 .
  • the sensing unit 120 may sense the state of the vehicle.
  • the sensing unit 120 may include a posture sensor (eg, a yaw sensor, a roll sensor, a pitch sensor), a collision sensor, a wheel sensor, a speed sensor, and an inclination. sensor, weight sensor, heading sensor, yaw sensor, gyro sensor, position module, vehicle forward/reverse sensor, battery sensor, fuel sensor, tire sensor, steering wheel It may include a steering sensor by rotation, a vehicle internal temperature sensor, a vehicle internal humidity sensor, an ultrasonic sensor, an illuminance sensor, an accelerator pedal position sensor, a brake pedal position sensor, and the like.
  • the sensing unit 120 includes vehicle posture information, vehicle collision information, vehicle direction information, vehicle location information (GPS information), vehicle angle information, vehicle speed information, vehicle acceleration information, vehicle tilt information, vehicle forward/reverse information, and a battery.
  • GPS information vehicle location information
  • vehicle angle information vehicle speed information
  • vehicle acceleration information vehicle acceleration information
  • vehicle tilt information vehicle forward/reverse information
  • a battery Acquire sensing signals for information, fuel information, tire information, vehicle lamp information, vehicle interior temperature information, vehicle interior humidity information, steering wheel rotation angle, vehicle exterior illumination, pressure applied to the accelerator pedal, and pressure applied to the brake pedal can do.
  • the sensing unit 120 is, in addition, an accelerator pedal sensor, a pressure sensor, an engine speed sensor, an air flow sensor (AFS), an intake air temperature sensor (ATS), a water temperature sensor (WTS), and a throttle position sensor. (TPS), a TDC sensor, a crank angle sensor (CAS), and the like.
  • the vehicle interface unit 130 may serve as a passage with various types of external devices connected to the vehicle 100 .
  • the vehicle interface unit 130 may include a port connectable to a mobile terminal, and may be connected to a mobile terminal through the port. In this case, the vehicle interface unit 130 may exchange data with the mobile terminal.
  • the vehicle interface unit 130 may serve as a passage for supplying electrical energy to a connected mobile terminal.
  • the vehicle interface unit 130 may provide the electric energy supplied from the power supply unit 190 to the mobile terminal. .
  • the memory 140 is electrically connected to the control unit 170 .
  • the memory 140 may store basic data for the unit, control data for operation control of the unit, and input/output data.
  • the memory 140 may be various storage devices such as ROM, RAM, EPROM, flash drive, hard drive, etc. in terms of hardware.
  • the memory 140 may store various data for the overall operation of the vehicle 100 , such as a program for processing or controlling the controller 170 .
  • the memory 140 may be formed integrally with the control unit 170 or may be implemented as a sub-component of the control unit 170 .
  • the controller 170 may control the overall operation of each unit in the vehicle 100 .
  • the control unit 170 may be referred to as an Electronic Control Unit (ECU).
  • ECU Electronic Control Unit
  • the power supply unit 190 may supply power required for the operation of each component under the control of the control unit 170 .
  • the power supply unit 190 may receive power from a battery inside the vehicle.
  • processors and control unit 170 include one or more processors and control unit 170, ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs ( field programmable gate arrays), processors, controllers, micro-controllers, microprocessors, and other electrical units for performing functions.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays
  • processors controllers, micro-controllers, microprocessors, and other electrical units for performing functions.
  • the vehicle 100 related to the present invention may include a route guidance device 790 .
  • the route guide device 790 may control at least one of the components described with reference to FIG. 7 . From this point of view, the route guide device 790 may be the controller 170 .
  • the route guide device 790 may be a separate configuration independent of the controller 170 . That is, the route guide device 790 may be implemented as an independent device or module from the vehicle 100 , and in this case, the route guide device 790 may use a part of the vehicle 100 to pass through the vehicle 100 . can communicate/interact with one component of
  • the route guide device 790 When the route guide device 790 is implemented as a component independent from the controller 170 , the route guide device 790 may be provided/connected/mounted to a part of the vehicle 100 .
  • the route guide device 790 will be described as a separate component independent of the control unit 170 .
  • functions (operations) and control methods described for the route guidance device 790 in this specification may be performed by the control unit 170 of the vehicle. That is, all contents described in relation to the route guide device 790 may be analogously applied to the controller 170 in the same/similar manner.
  • route guide device 790 described in this specification may include some of the components described with reference to FIG. 7 and various components provided in the vehicle.
  • the components described with reference to FIG. 7 and various components provided in the vehicle will be described with separate names and reference numerals.
  • the route guidance device 790 of the present invention may be the mobile terminal 800 illustrated in FIG. 8 or may be implemented as the mobile terminal 800 .
  • the mobile terminal 800 may communicate with the vehicle 100 and may be an independent component from the vehicle 100 .
  • the mobile terminal 800 as an embodiment of the route guidance device 790 will be described in detail.
  • the mobile terminal described in this specification includes a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant (PDA), a portable multimedia player (PMP), a navigation system, and a slate PC.
  • PDA personal digital assistant
  • PMP portable multimedia player
  • slate PC slate PC
  • tablet PCs ultrabooks
  • wearable devices for example, watch-type terminals (smartwatch), glass-type terminals (smart glass), HMD (head mounted display), etc. may be included. have.
  • FIG. 8 is a block diagram illustrating a mobile terminal related to the present invention.
  • the mobile terminal 800 includes a wireless communication unit 810 , an input unit 820 , a sensing unit 840 , an output unit 850 , an interface unit 860 , a memory 870 , a control unit 880 , and a power supply unit 890 . ) and the like. Since the components shown in FIG. 8 are not essential for implementing the mobile terminal, the mobile terminal described in this specification may have more or fewer components than those listed above.
  • the wireless communication unit 810 is between the mobile terminal 800 and the wireless communication system, between the mobile terminal 800 and another mobile terminal 800, or between the mobile terminal 800 and an external server. It may include one or more modules that enable wireless communication between them. In addition, the wireless communication unit 810 may include one or more modules for connecting the mobile terminal 800 to one or more networks.
  • the wireless communication unit 810 may include at least one of a broadcast reception module 811 , a mobile communication module 812 , a wireless Internet module 813 , a short-range communication module 814 , and a location information module 815 . .
  • the input unit 820 includes a camera 821 or image input unit for inputting an image signal, a microphone 822 or an audio input unit for inputting an audio signal, and a user input unit 823 for receiving information from a user, for example , a touch key, a push key, etc.).
  • the voice data or image data collected by the input unit 820 may be analyzed and processed as a user's control command.
  • the sensing unit 840 may include one or more sensors for sensing at least one of information in the mobile terminal, surrounding environment information surrounding the mobile terminal, and user information.
  • the sensing unit 840 may include a proximity sensor 841, an illumination sensor 842, an illumination sensor, a touch sensor, an acceleration sensor, a magnetic sensor, and gravity.
  • G-sensor gyroscope sensor
  • motion sensor RGB sensor
  • infrared sensor IR sensor: infrared sensor
  • fingerprint recognition sensor fingerprint recognition sensor
  • ultrasonic sensor ultrasonic sensor
  • optical sensors eg, cameras (see 821)), microphones (see 822), battery gauges, environmental sensors (eg, barometers, hygrometers, thermometers, radiation sensors, It may include at least one of a thermal sensor, a gas sensor, etc.) and a chemical sensor (eg, an electronic nose, a healthcare sensor, a biometric sensor, etc.).
  • the mobile terminal disclosed in the present specification may combine and utilize information sensed by at least two or more of these sensors.
  • the output unit 850 is for generating an output related to visual, auditory or tactile sense, and includes at least one of a display unit 851 , a sound output unit 852 , a haptip module 853 , and a light output unit 854 . can do.
  • the display unit 851 may implement a touch screen by forming a layer structure with the touch sensor or being integrally formed. Such a touch screen may function as the user input unit 823 providing an input interface between the mobile terminal 800 and the user, and may provide an output interface between the mobile terminal 800 and the user.
  • the interface unit 860 serves as a passage with various types of external devices connected to the mobile terminal 800 .
  • This interface unit 860 a wired / wireless headset port (port), an external charger port (port), a wired / wireless data port (port), a memory card (memory card) port, for connecting a device equipped with an identification module It may include at least one of a port, an audio input/output (I/O) port, a video input/output (I/O) port, and an earphone port.
  • the mobile terminal 800 may perform appropriate control related to the connected external device.
  • the memory 870 stores data supporting various functions of the mobile terminal 800 .
  • the memory 870 may store a plurality of application programs (or applications) driven in the mobile terminal 800 , data for operation of the mobile terminal 800 , and commands. At least some of these application programs may be downloaded from an external server through wireless communication. In addition, at least some of these application programs may exist on the mobile terminal 800 from the time of shipment for basic functions (eg, incoming calls, outgoing functions, message reception, and outgoing functions) of the mobile terminal 800 . Meanwhile, the application program may be stored in the memory 870 , installed on the mobile terminal 800 , and driven to perform an operation (or function) of the mobile terminal by the controller 880 .
  • the controller 880 generally controls the overall operation of the mobile terminal 800 in addition to the operation related to the application program.
  • the control unit 880 may provide or process appropriate information or functions to the user by processing signals, data, information, etc. input or output through the above-described components or by driving an application program stored in the memory 870 .
  • controller 880 may control at least some of the components discussed with reference to FIG. 8 in order to drive an application program stored in the memory 870 . Furthermore, in order to drive the application program, the controller 880 may operate at least two or more of the components included in the mobile terminal 800 in combination with each other.
  • the power supply unit 890 receives external power and internal power under the control of the control unit 880 and supplies power to each component included in the mobile terminal 800 .
  • the power supply unit 890 includes a battery, and the battery may be a built-in battery or a replaceable battery.
  • At least some of the respective components may operate in cooperation with each other in order to implement an operation, control, or control method of a mobile terminal according to various embodiments to be described below. Also, the operation, control, or control method of the mobile terminal may be implemented on the mobile terminal by driving at least one application program stored in the memory 870 .
  • the broadcast reception module 811 of the wireless communication unit 810 receives a broadcast signal and/or broadcast related information from an external broadcast management server through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel.
  • Two or more broadcast reception modules may be provided in the mobile terminal 800 for simultaneous broadcast reception or broadcast channel switching for at least two broadcast channels.
  • the mobile communication module 812 is a technical standard or communication method for mobile communication (eg, Global System for Mobile communication (GSM), Code Division Multi Access (CDMA), Code Division Multi Access 2000 (CDMA2000), EV -Enhanced Voice-Data Optimized or Enhanced Voice-Data Only (DO), Wideband CDMA (WCDMA), High Speed Downlink Packet Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE), LTE-A (Long Term Evolution-Advanced, etc.) transmits and receives a radio signal to and from at least one of a base station, an external terminal, and a server on a mobile communication network constructed according to.
  • GSM Global System for Mobile communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • DO EV -Enhanced Voice-Data Optimized or Enhanced Voice-Data Only
  • WCDMA Wideband CDMA
  • HSDPA High Speed Downlink Packet Access
  • HSUPA High Speed Uplink Packet Access
  • the wireless signal may include various types of data according to transmission/reception of a voice call signal, a video call signal, or a text/multimedia message.
  • the wireless Internet module 813 refers to a module for wireless Internet access, and may be built-in or external to the mobile terminal 800 .
  • the wireless Internet module 813 is configured to transmit and receive wireless signals in a communication network according to wireless Internet technologies.
  • wireless Internet technology for example, WLAN (Wireless LAN), Wi-Fi (Wireless-Fidelity), Wi-Fi (Wireless Fidelity) Direct, DLNA (Digital Living Network Alliance), WiBro (Wireless Broadband), WiMAX (World Interoperability for Microwave Access), High Speed Downlink Packet Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE), Long Term Evolution-Advanced (LTE-A), etc.
  • the wireless Internet module ( 813) transmits and receives data according to at least one wireless Internet technology within a range including Internet technologies not listed above.
  • the wireless Internet module 813 performs wireless Internet access through the mobile communication network.
  • the wireless Internet module 813 may be understood as a type of the mobile communication module 812 .
  • the short-range communication module 814 is for short-range communication, and includes BluetoothTM, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, NFC. At least one of (Near Field Communication), Wireless-Fidelity (Wi-Fi), Wi-Fi Direct, and Wireless Universal Serial Bus (USB) technologies may be used to support short-range communication.
  • the short-distance communication module 814 is, between the mobile terminal 800 and the wireless communication system, between the mobile terminal 800 and another mobile terminal 800, or the mobile terminal 800 through wireless area networks (Wireless Area Networks). ) and a network in which another mobile terminal 800 or an external server is located can support wireless communication.
  • the local area network may be local area networks (Wireless Personal Area Networks).
  • the other mobile terminal 800 is a wearable device capable of exchanging (or interworking) data with the mobile terminal 800 according to the present invention, for example, a smart watch, smart glasses. (smart glass) or HMD (head mounted display)).
  • the short-range communication module 814 may detect (or recognize) a wearable device capable of communicating with the mobile terminal 800 in the vicinity of the mobile terminal 800 .
  • the controller 880 transmits at least a portion of data processed in the mobile terminal 800 to the short-range communication module ( 814) to the wearable device. Accordingly, the user of the wearable device may use data processed by the mobile terminal 800 through the wearable device.
  • the user when a call is received in the mobile terminal 800, the user performs a phone call through the wearable device, or when a message is received in the mobile terminal 800, the user receives the received call through the wearable device. It is possible to check the message.
  • the location information module 815 is a module for obtaining a location (or current location) of a mobile terminal, and a representative example thereof includes a Global Positioning System (GPS) module or a Wireless Fidelity (WiFi) module.
  • GPS Global Positioning System
  • WiFi Wireless Fidelity
  • the mobile terminal utilizes a GPS module, it can acquire the location of the mobile terminal by using a signal transmitted from a GPS satellite.
  • the location of the mobile terminal may be obtained based on information of the Wi-Fi module and a wireless access point (AP) that transmits or receives a wireless signal.
  • AP wireless access point
  • the location information module 815 may perform any function among other modules of the wireless communication unit 810 in order to obtain data on the location of the mobile terminal as a substitute or additionally.
  • the location information module 815 is a module used to obtain the location (or current location) of the mobile terminal, and is not limited to a module that directly calculates or obtains the location of the mobile terminal.
  • the input unit 820 is for input of image information (or signal), audio information (or signal), data, or information input from a user.
  • the mobile terminal 800 is one Alternatively, a plurality of cameras 821 may be provided.
  • the camera 821 processes an image frame such as a still image or a moving image obtained by an image sensor in a video call mode or a photographing mode.
  • the processed image frame may be displayed on the display unit 851 or stored in the memory 870 .
  • a plurality of cameras 821 provided in the mobile terminal 800 may be arranged to form a matrix structure, and various angles or focal points are applied to the mobile terminal 800 through the cameras 821 forming the matrix structure as described above.
  • a plurality of image information with can be input.
  • the plurality of cameras 821 may be arranged in a stereo structure to acquire a left image and a right image for realizing a stereoscopic image.
  • the microphone 822 processes an external sound signal as electrical voice data.
  • the processed voice data may be utilized in various ways according to a function (or a running application program) being performed by the mobile terminal 800 . Meanwhile, various noise removal algorithms for removing noise generated in the process of receiving an external sound signal may be implemented in the microphone 822 .
  • the user input unit 823 is for receiving information from the user. When information is input through the user input unit 823, the controller 880 may control the operation of the mobile terminal 800 to correspond to the input information. .
  • the user input unit 823 is a mechanical input means (or, a mechanical key, for example, a button located on the front/rear or side of the mobile terminal 800), a dome switch, a jog wheel, jog switch, etc.) and a touch input means.
  • the touch input means consists of a virtual key, a soft key, or a visual key displayed on the touch screen through software processing, or a part other than the touch screen. It may be made of a touch key (touch key) disposed on the.
  • the virtual key or the visual key it is possible to be displayed on the touch screen while having various forms, for example, graphic (graphic), text (text), icon (icon), video (video) or these can be made by a combination of
  • the sensing unit 840 senses at least one of information in the mobile terminal, surrounding environment information surrounding the mobile terminal, and user information, and generates a sensing signal corresponding thereto.
  • the controller 880 may control the driving or operation of the mobile terminal 800 or perform data processing, function, or operation related to an application program installed in the mobile terminal 800 based on the sensing signal. Representative sensors among various sensors that may be included in the sensing unit 840 will be described in more detail.
  • the proximity sensor 841 refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object existing in the vicinity without mechanical contact using the force of an electromagnetic field or infrared rays.
  • the proximity sensor 841 may be disposed in an inner region of the mobile terminal covered by the touch screen described above or in the vicinity of the touch screen.
  • the proximity sensor 841 examples include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive type proximity sensor, a magnetic type proximity sensor, an infrared proximity sensor, and the like.
  • the proximity sensor 841 may be configured to detect the proximity of an object having conductivity as a change in an electric field according to the proximity of the object.
  • the touch screen (or touch sensor) itself may be classified as a proximity sensor.
  • the act of approaching an object on the touch screen without contacting it so that the object is recognized that it is located on the touch screen is called “proximity touch”, and the touch The act of actually touching an object on the screen is called “contact touch”.
  • the position where the object is touched in proximity on the touch screen means a position where the object is perpendicular to the touch screen when the object is touched in proximity.
  • the proximity sensor 841 may detect a proximity touch and a proximity touch pattern (eg, proximity touch distance, proximity touch direction, proximity touch speed, proximity touch time, proximity touch position, proximity touch movement state, etc.) have.
  • the controller 880 processes data (or information) corresponding to the proximity touch operation and the proximity touch pattern sensed through the proximity sensor 841 as described above, and furthermore, provides visual information corresponding to the processed data. It can be printed on the touch screen. Furthermore, the controller 880 may control the mobile terminal 800 to process different operations or data (or information) according to whether a touch to the same point on the touch screen is a proximity touch or a contact touch. .
  • the touch sensor receives a touch (or touch input) applied to the touch screen (or the display unit 851) using at least one of various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method. detect a touch (or touch input) applied to the touch screen (or the display unit 851) using at least one of various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method. detect
  • the touch sensor may be configured to convert a change in pressure applied to a specific part of the touch screen or a change in capacitance occurring in a specific part of the touch screen into an electrical input signal.
  • the touch sensor may be configured to detect a position, an area, a pressure at the time of touch, an electrostatic capacitance at the time of touch, etc. in which a touch object applying a touch on the touch screen is touched on the touch sensor.
  • the touch object is an object that applies a touch to the touch sensor, and may be, for example, a finger, a touch pen, a stylus pen, or a pointer.
  • the touch controller processes the signal(s) and then transmits corresponding data to the controller 880 .
  • the control unit 880 can know which area of the display unit 851 has been touched, and the like.
  • the touch controller may be a component separate from the controller 880 , or may be the controller 880 itself.
  • the controller 880 may perform different controls or may perform the same control according to the type of the touch object that touches the touch screen (or a touch key provided in addition to the touch screen). Whether to perform different controls or the same control according to the type of the touch object may be determined according to the current operating state of the mobile terminal 800 or a running application program.
  • the above-described touch sensor and proximity sensor independently or in combination, a short (or tap) touch on the touch screen (short touch), long touch (long touch), multi touch (multi touch), drag touch (drag touch) ), flick touch, pinch-in touch, pinch-out touch, swype touch, hovering touch, etc. It can sense touch.
  • the ultrasonic sensor may recognize position information of a sensing target by using ultrasonic waves.
  • the control unit 880 may calculate the position of the wave source through information sensed by the optical sensor and the plurality of ultrasonic sensors.
  • the position of the wave source may be calculated using the property that light is much faster than ultrasonic waves, that is, the time at which light arrives at the optical sensor is much faster than the time at which ultrasonic waves reach the ultrasonic sensor. More specifically, the position of the wave source may be calculated using a time difference from the time that the ultrasonic wave arrives using light as a reference signal.
  • the camera 821 as seen in the configuration of the input unit 820 includes at least one of a camera sensor (eg, CCD, CMOS, etc.), a photo sensor (or image sensor), and a laser sensor.
  • a camera sensor eg, CCD, CMOS, etc.
  • a photo sensor or image sensor
  • a laser sensor e.g., a laser sensor
  • the camera 821 and the laser sensor may be combined with each other to detect a touch of a sensing target for a 3D stereoscopic image.
  • the photo sensor may be stacked on the display device, and the photo sensor is configured to scan the motion of the sensing target close to the touch screen. More specifically, the photo sensor mounts photo diodes and transistors (TRs) in rows/columns and scans the contents placed on the photo sensors using electrical signals that change according to the amount of light applied to the photo diodes. That is, the photo sensor calculates the coordinates of the sensing target according to the amount of change in light, and through this, location information of the sensing target can be obtained.
  • TRs photo diodes and transistors
  • the display unit 851 displays (outputs) information processed by the mobile terminal 800 .
  • the display unit 851 may display execution screen information of an application program driven in the mobile terminal 800, or UI (User Interface) and GUI (Graphic User Interface) information according to the execution screen information. .
  • the display unit 851 may be configured as a stereoscopic display unit for displaying a stereoscopic image.
  • a three-dimensional display method such as a stereoscopic method (glasses method), an auto stereoscopic method (glassesless method), or a projection method (holographic method) may be applied to the stereoscopic display unit.
  • a 3D stereoscopic image consists of a left image (image for left eye) and a right image (image for right eye).
  • a top-down method in which the left and right images are placed up and down in one frame, and the left and right images in one frame L-to-R (left-to-right, side by side) method, which arranges the pieces of the left and right images in tiles
  • L-to-R left-to-right, side by side
  • it is divided into an interlaced method in which rows are alternately arranged, and a time sequential (frame by frame) method in which a left image and a right image are displayed alternately by time.
  • the 3D thumbnail image may be generated as a single image by generating a left image thumbnail and a right image thumbnail from the left image and the right image of the original image frame, respectively, and combining them.
  • a thumbnail means a reduced image or a reduced still image.
  • the generated left image thumbnail and right image thumbnail may be displayed with a left and right distance difference on the screen by a depth corresponding to the parallax between the left image and the right image, thereby representing a three-dimensional sense of space.
  • the left image and the right image necessary for realizing the 3D stereoscopic image may be displayed on the stereoscopic display unit by the stereoscopic processing unit.
  • the stereoscopic processing unit receives a 3D image (a reference view image and an extended view image) and sets a left image and a right image therefrom, or receives a 2D image and converts it into a left image and a right image.
  • the sound output unit 852 may output audio data received from the wireless communication unit 810 or stored in the memory 870 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like.
  • the sound output unit 852 also outputs a sound signal related to a function (eg, a call signal reception sound, a message reception sound, etc.) performed in the mobile terminal 800 .
  • the sound output unit 852 may include a receiver, a speaker, a buzzer, and the like.
  • the haptic module 853 generates various tactile effects that the user can feel.
  • a representative example of the tactile effect generated by the haptic module 853 may be vibration.
  • the intensity and pattern of vibration generated by the haptic module 853 may be controlled by a user's selection or setting of the controller. For example, the haptic module 853 may synthesize and output different vibrations or output them sequentially.
  • the haptic module 853 is configured to respond to stimuli such as a pin arrangement that moves vertically with respect to the contact skin surface, a jet force or suction force of air through a nozzle or an inlet, a brush against the skin surface, contact of an electrode, an electrostatic force, etc.
  • stimuli such as a pin arrangement that moves vertically with respect to the contact skin surface, a jet force or suction force of air through a nozzle or an inlet, a brush against the skin surface, contact of an electrode, an electrostatic force, etc.
  • Various tactile effects can be generated, such as the effect of heat absorption and the effect of reproducing a feeling of coolness and warmth using an element capable of absorbing heat or generating heat.
  • the haptic module 853 may not only deliver a tactile effect through direct contact, but may also be implemented so that the user can feel the tactile effect through a muscle sense such as a finger or arm. Two or more haptic modules 853 may be provided according to the configuration of the mobile terminal 800 .
  • the light output unit 854 outputs a signal for notifying the occurrence of an event by using the light of the light source of the mobile terminal 800 .
  • Examples of the event generated in the mobile terminal 800 may be message reception, call signal reception, missed call, alarm, schedule notification, email reception, information reception through an application, and the like.
  • the signal output from the optical output unit 854 is implemented as the mobile terminal emits light of a single color or a plurality of colors toward the front or rear.
  • the signal output may be terminated when the mobile terminal detects the user's event confirmation.
  • the interface unit 860 serves as a passage with all external devices connected to the mobile terminal 800 .
  • the interface unit 860 receives data from an external device, receives power and transmits it to each component inside the mobile terminal 800 , or transmits data inside the mobile terminal 800 to an external device.
  • a wired/wireless headset port, an external charger port, a wired/wireless data port, a memory card port, a port for connecting a device equipped with an identification module (port), an audio I/O (Input/Output) port, a video I/O (Input/Output) port, an earphone port, etc. may be included in the interface unit 860 .
  • the identification module is a chip storing various information for authenticating the use authority of the mobile terminal 800, a user identification module (UIM), a subscriber identity module (subscriber identity module; SIM), universal user authentication It may include a universal subscriber identity module (USIM) and the like.
  • a device equipped with an identification module (hereinafter, 'identification device') may be manufactured in the form of a smart card. Accordingly, the identification device may be connected to the terminal 800 through the interface unit 860 .
  • the interface unit 860 is a path through which power from the cradle is supplied to the mobile terminal 800 when the mobile terminal 800 is connected to an external cradle, or is input from the cradle by a user.
  • Various command signals may be a path through which the mobile terminal 800 is transmitted.
  • Various command signals or the power input from the cradle may be operated as signals for recognizing that the mobile terminal 800 is correctly mounted on the cradle.
  • the memory 870 may store a program for the operation of the controller 880, and may temporarily store input/output data (eg, a phone book, a message, a still image, a moving picture, etc.).
  • the memory 870 may store data related to vibrations and sounds of various patterns output when a touch input on the touch screen is input.
  • the memory 870 is a flash memory type, a hard disk type, a solid state disk type (SSD), a silicon disk drive type (SDD), and a multimedia card micro type.
  • card-type memory such as SD or XD memory
  • random access memory RAM
  • static random access memory SRAM
  • read-only memory ROM
  • electrically erasable programmable read EEPROM
  • PROM programmable read-only memory
  • a magnetic memory a magnetic disk, and an optical disk
  • the mobile terminal 800 may be operated in relation to a web storage that performs a storage function of the memory 870 on the Internet.
  • the controller 880 controls the operation related to the application program and the general operation of the mobile terminal 800 . For example, if the state of the mobile terminal satisfies a set condition, the controller 880 may execute or release a lock state that restricts input of a user's control command to applications.
  • control unit 880 performs control and processing related to voice calls, data communication, video calls, etc., or performs pattern recognition processing capable of recognizing handwriting input or drawing input performed on the touch screen as text and image, respectively.
  • control unit 880 may control any one or a plurality of components described above in order to implement various embodiments described below on the mobile terminal 800 according to the present invention.
  • the power supply unit 890 receives external power and internal power under the control of the control unit 880 to supply power required for operation of each component.
  • the power supply unit 890 includes a battery, and the battery may be a built-in battery configured to be rechargeable, and may be detachably coupled to the terminal body for charging or the like.
  • the power supply unit 890 may include a connection port, and the connection port may be configured as an example of the interface 860 to which an external charger that supplies power for charging the battery is electrically connected.
  • the power supply unit 890 may be configured to charge the battery in a wireless manner without using the connection port.
  • the power supply 890 uses one or more of an inductive coupling method based on a magnetic induction phenomenon or a resonance coupling method based on an electromagnetic resonance phenomenon from an external wireless power transmitter. power can be transmitted.
  • FIG. 9 is a block diagram for explaining a route guidance device of the present invention.
  • the route guidance apparatus 790 includes a communication unit 910 , a processor 920 capable of controlling it, and a display unit for outputting information processed by the processor 920 . (930).
  • the communication unit 910 may be configured such that the route guide device 790 communicates with an external device or an external component, and may perform wired/wireless communication.
  • the communication unit 910 is any one of the above-described communication device 400 of the vehicle 100 , the wireless communication unit 810 of the mobile terminal 800 , or the interface unit 860 of the mobile terminal 800 , The same/similar content can be applied by analogy.
  • the communication unit 910 may be the communication device 400 of the vehicle.
  • the communication unit 910 may be the wireless communication unit 810 of the mobile terminal 800 or the interface unit 860 of the mobile terminal 800 .
  • the route guidance device 790 is a separate independent device implemented to enable communication with the vehicle 100 and/or the mobile terminal 800
  • the communication device 400 and the wireless communication unit described above The contents of the 810 and/or the interface unit 860 may be analogously applied in the same/similar manner.
  • the processor 920 may be configured to control the communication unit 910 , and may control operations and functions performed by the route guide device 790 .
  • the processor 920 may be the control unit 170 of the vehicle 100 or the control unit 880 of the mobile terminal 800 as described above, and the same/similarly applied contents thereof may be applied.
  • the processor 920 may be the controller 170 of the vehicle 100 .
  • the processor 920 may be the controller 880 of the mobile terminal 800 .
  • the processor 920 may Alternatively, it may communicate with a mobile terminal and control at least one of a vehicle and/or a mobile terminal.
  • the communication unit 910 may receive the first image captured by the camera.
  • the camera may be a camera provided in the route guide device 790 , a camera 310 provided in a vehicle, or a camera 821 provided in a mobile terminal.
  • the processor 920 may receive an image (eg, a real-time image, a preview image, or a live image) processed through the camera through the communication unit 910 .
  • an image eg, a real-time image, a preview image, or a live image
  • the processor 920 transmits the first image captured by the camera 821 to the communication unit 810 (or the interface unit 860 ). can be received through
  • the processor 920 may perform calibration for realizing augmented reality on the received first image.
  • the image before calibration is referred to as a first image
  • the image on which calibration is performed is referred to as a second image.
  • the processor 920 may perform calibration on the first image.
  • the processor 920 may overlap and output a graphic object guiding the driving of the vehicle on the second image on which the calibration is performed.
  • Overlapsing and outputting a graphic object for guiding the driving of a vehicle on an image captured by a camera may mean implementing Augmented Reality or performing route guidance in Augmented Reality.
  • the display unit 930 may be configured to output information processed by the processor 920 , and the display unit 251 provided in the vehicle 100 and/or the display unit 851 of the mobile terminal 800 . can be
  • the processor 920 may overlap the image received through the camera and a graphic object guiding the driving of the vehicle on the image and output the overlapped image to the display unit 930 .
  • the operation and control method of the route guide device 790 described in this specification may be performed by the controller 170 of the vehicle 100 . That is, the operation and/or control method performed by the processor 920 of the route guidance device 790 may be performed by the controller 170 of the vehicle 100 or the controller 880 of the mobile terminal 800 . have.
  • the communication unit 910 is configured to perform communication with various components described with reference to FIGS. 7 and 8 .
  • the communication unit 910 may receive various types of information provided through a controller are network (CAN).
  • the communication unit 910 may communicate with all communicable devices such as a vehicle, a mobile terminal and a server, and another vehicle. This may be called V2X (Vehicle to everything) communication.
  • V2X communication can be defined as a technology for exchanging or sharing information such as traffic conditions while communicating with road infrastructure and other vehicles while driving.
  • the communication unit 910 is configured to communicate with one or more devices provided in the vehicle 100 .
  • the communication unit 810 may include a beam former and a radio frequency IC (RFIC) for controlling the beam former to implement 5G communication in a frequency band of 6 GHz or higher.
  • RFIC radio frequency IC
  • the beam former and the RFIC are not essential.
  • the communication unit 910 may receive information related to driving of the vehicle from most devices included in the vehicle 100 .
  • Information transmitted from the vehicle 100 to the route guide device 790 is referred to as 'vehicle driving information'.
  • the vehicle driving information includes vehicle information and surrounding information of the vehicle. Based on the frame of the vehicle 100 , information related to the inside of the vehicle may be defined as vehicle information, and information related to the outside of the vehicle may be defined as surrounding information.
  • the vehicle information means information about the vehicle itself.
  • vehicle information includes vehicle travel speed, travel direction, acceleration, angular speed, location (GPS), weight, number of passengers in the vehicle, vehicle braking force, maximum vehicle braking force, air pressure of each wheel, and centrifugal force applied to the vehicle.
  • the driving mode of the vehicle whether autonomous driving mode or manual driving
  • the parking mode of the vehicle autonomous parking mode, automatic parking mode, manual parking mode
  • whether a user is in the vehicle and information related to the user, etc. may include
  • the surrounding information means information about other objects located within a predetermined range around the vehicle and information related to the outside of the vehicle. For example, the condition of the road surface (friction force) on which the vehicle is traveling, the weather, the distance to the front (or rear) vehicle, the relative speed of the front (or rear) vehicle, the curvature of the curve when the driving lane is a curve, the vehicle Ambient brightness, information related to an object existing in a reference area (constant area) with respect to the vehicle, whether an object enters/leaves into the predetermined area, whether a user exists around the vehicle, and information related to the user (e.g., For example, whether the user is an authenticated user), and the like.
  • the condition of the road surface (friction force) on which the vehicle is traveling the weather
  • the distance to the front (or rear) vehicle the relative speed of the front (or rear) vehicle
  • the curvature of the curve when the driving lane is a curve the vehicle Ambient brightness
  • the surrounding information includes ambient brightness, temperature, sun position, object information located in the vicinity (person, other vehicle, sign, etc.), the type of road surface being driven, topographical features, lane information, and driving lane (Lane). ) information, and information necessary for autonomous driving/autonomous parking/automatic parking/manual parking modes.
  • the surrounding information includes an object (object) existing in the vicinity of the vehicle and the distance to the vehicle 100, the possibility of a collision, the type of the object, a parking space in which the vehicle can be parked, an object for identifying a parking space (for example, , parking lines, ropes, other vehicles, walls, etc.) may be further included.
  • the vehicle driving information is not limited to the example described above, and may include all information generated from components included in the vehicle 100 .
  • the display unit 930 outputs various visual information under the control of the processor 920 .
  • the display unit 930 may output visual information to a windshield of the vehicle or a screen provided separately, or may output visual information through a panel.
  • the display unit 930 may correspond to the display unit 251 described with reference to FIG. 7 .
  • the visual information output by the display unit 930 is reflected from the windshield or the screen, so that the visual information is displayed on the windshield or the screen.
  • the passenger simultaneously checks the real world located outside the vehicle 100 and the virtual object displayed on the windshield or the screen, and augmented reality is implemented by the display unit 930 .
  • various visual information may be overlapped with an image received in real time through a camera to realize augmented reality.
  • the processor 920 may be configured to control one or more devices included in the vehicle 100 using the communication unit 910 .
  • the processor 920 may determine whether at least one of a plurality of preset conditions is satisfied, based on the vehicle driving information received through the communication unit 910 .
  • the processor 920 may control the one or more displays in different ways.
  • the processor 90 may detect that an event has occurred in the electrical equipment and/or application provided in the vehicle 100 , and determine whether the detected event satisfies the preset condition. In this case, the processor 920 may detect that an event has occurred from information received through the communication unit 910 .
  • the application is a concept including a widget or a home launcher, and refers to all types of programs that can be driven in the vehicle 100 . Accordingly, the application may be a program that performs functions of a web browser, video playback, message transmission and reception, schedule management, and application update.
  • FCW Forward Collision Warning
  • BSD Blind Spot Detection
  • LWD Lane Departure Warning
  • PD Pedestrian Detection
  • Curve Speed Warning It may include at least one of (Curve Speed Warning, CSW) and turn by turn navigation (TBT).
  • event occurrence may occur when there is a missed call, when there is an application to be updated, when a message arrives, start on, start off, autonomous driving on/off, display activation key press (LCD awake key), an alarm (alarm), a call connection (Incoming call), may be a missed notification (missed notification) and the like.
  • LCD awake key display activation key press
  • alarm alarm
  • call connection Incoming call
  • missed notification missed notification
  • the event may be a case in which a warning set in an advanced driver assistance system (ADAS) is generated or a function set in the ADAS is performed.
  • ADAS advanced driver assistance system
  • a forward collision warning occurs
  • a blind spot detection occurs
  • a lane departure warning occurs
  • a lane keeping assist warning it may be considered that an event has occurred when an autonomous emergency braking function is performed.
  • the processor 920 controls the communication unit 910 to display information corresponding to the satisfied condition on the one or more displays.
  • the processor 920 receives a front image of the front of the vehicle 100 through a camera.
  • the front image may be received through the communication unit 910 and may include one or more images.
  • the processor 920 searches for one or more lanes in which the vehicle 100 is scheduled to travel from the front image.
  • one or more lanes in which the vehicle 100 is scheduled to travel are referred to as 'planned driving lanes'.
  • the driving schedule lane refers to a lane in which the vehicle 100 is scheduled to travel from the current time point to the time t, which is a positive real number.
  • the t may vary depending on the speed of the vehicle 100 , characteristics of the road on which the vehicle 100 is traveling, and a speed limit set on the road on which the vehicle 100 is traveling.
  • the driving scheduled lane means a lane in which autonomous driving is scheduled.
  • the planned driving lane means a lane recommended to a driver.
  • the processor 920 may receive a high-precision map from the route providing device and/or server, and may receive vehicle driving information for specifying the driving scheduled lane.
  • the processor 920 may receive forward path information for guiding a road located in front of the vehicle 100 in units of lanes.
  • the forward route information is configured to provide a driving route to a destination for each lane displayed on the road, and may be route information conforming to the ADASIS standard.
  • the forward path information may be provided by subdividing a path on which the vehicle should travel or drivable in units of lanes.
  • the forward route information may be information for guiding a driving route to a destination in units of lanes.
  • a guide line for guiding a drivable lane may be displayed on a map.
  • a graphic object indicating the location of the vehicle 100 may be included on at least one lane in which the vehicle 100 is located among a plurality of lanes included in the map.
  • the road located in front of the vehicle 100 may be 8 lanes, and the driving scheduled lane may be 2 lanes.
  • the processor 920 may search for the second lane in the front image.
  • the road located in front of the vehicle 100 is 8 lanes, and driving in 2 lanes is scheduled from the current point to 50 m in front, and a lane change from 50 m in front to 3 lanes is scheduled.
  • the processor 920 may search for a second lane up to 50 m ahead and a third lane after 50 m from the front image.
  • the search for the lane means searching for a partial area including the planned driving lane among the entire area of the front image. This is to enable the passenger of the vehicle 100 to intuitively recognize the driving lane by displaying the carpet image guiding the driving lane to be superimposed on the searched partial region.
  • the processor 920 outputs a carpet image guiding the one or more searched lanes in lane units through the display unit 930 .
  • the processor 920 may set an image display area to output visual information based on the eye position and/or gaze of the passenger.
  • the processor 920 determines at least one of a position, a size, and a shape of the main carpet image based on the passenger's eye position and/or gaze. At least one of the position, size, and shape of the main carpet image being output to the windshield or the screen may vary according to the eye position and/or gaze of the passenger. This is to provide an augmented reality in which the real world and a virtual image exactly match.
  • the main carpet image guides the driving lane, and may be a transparent image overlapping the driving schedule lane and having a predetermined color.
  • the predetermined color may vary according to a reference condition.
  • the first color may be a second color different from the first color when snow is accumulated on the road.
  • the passenger may be provided with route information on a driving schedule lane in which the vehicle is driven by autonomous driving or a driving lane in which the driver should drive, in units of lanes, through the main carpet image.
  • the processor 920 may provide not only the main carpet image but also one or more sub-carpet images that the passenger can select together with the main carpet image to the passenger.
  • the processor 920 controls the communication unit to receive an image captured by another vehicle existing on a route on which the vehicle is traveling. Specifically, an image taken from another vehicle may be encoded and then transmitted to the vehicle. Accordingly, the image captured by the other vehicle received through the communication unit needs to undergo a separate decoding process.
  • a decoder for decoding may be built in the route guidance device 800 or the vehicle 100 .
  • 10A, 10B, 10C, 10D, 10E, 10F, 11A, 11B, 11C, 11D, 11E, 11F, and 11G illustrate augmented reality according to an embodiment of the present invention. It is a conceptual diagram for explaining the applied route guidance method.
  • processor 920 when the processor 920 outputs certain information, it may mean that certain information is output to the display unit 930 or that the display unit 930 is controlled to output certain information.
  • the processor 920 performs an augmented reality (AR) mode on the basis that a preset condition is satisfied after an application (eg, a navigation app) 1000 for guidance is executed, as shown in FIG. 10 . can enter into
  • AR augmented reality
  • the preset conditions for entering the AR mode include various conditions, such as when a user request is input, when the communication state is smooth, when the vehicle enters the highway, and within a predetermined distance to enter/exit the intersection. , can be added/changed/set by the user.
  • the processor 920 may receive the first image captured by the camera.
  • the first image may be an image captured in real time.
  • the processor 920 may receive a first image captured by a camera, and perform calibration on the first image.
  • the calibration may mean correcting or correcting an image to be suitable for realizing augmented reality.
  • the processor 920 may perform calibration on the first image, and may overlap the calibrated second image with a graphic object guiding vehicle driving and output the overlapped graphic object.
  • an image on which calibration is performed on the first image will be referred to as a second image.
  • calibration may be continuously performed in real time, and accordingly, the second image may also be an image captured in real time.
  • the processor 920 may output a first graphic object related to driving to the first image 1010 before calibration is performed.
  • the processor 920 may overlap the first graphic object and the driving-related second graphic object on the second image 1020 to output them.
  • the first graphic object or the second graphic object related to driving is, for example, information generated by a navigation application (or navigation system 770 ), or through communication with a navigation application (or navigation system 770 ). It may be generated by the processor 920 based on the received route information to the destination.
  • the first graphic object includes turn-by-turn information 931 indicating a road to enter in front of a predetermined distance, and the second graphic object is included in the second image
  • a carpet image 932 that overlaps the designated lane and guides the planned driving route of the vehicle may be included.
  • a road is a place that is open to anyone or horses to pass, and a place where safe and smooth communication can occur.
  • a portion of the road divided into lanes 1031 so that the horses and horses travel in one line on such a road is called a lane 1032 .
  • the lane may mean a line on which a lane and a boundary point of the lane are marked with safety signs.
  • the processor 920 includes turn-by-turn information (first Only the graphic object) 931 may be output while overlapping the first image 1010 .
  • a carpet image (second graphic) for guiding the driving route of the vehicle. object) 932 may be output by overlapping the road 1032 .
  • the lane 1032 on which the carpet image overlaps may be a lane in which the vehicle is currently driving.
  • the processor 920 overlaps and outputs the second graphic object 932 on the lane on which the vehicle is driving among the plurality of lanes included in the second image 1020 , and the vehicle is driving. If it is determined to deviate from the in-lane, the second graphic object may not be output (Off Route).
  • the output of the first graphic object 931 may be maintained regardless of whether the vehicle departs from the driving lane as shown in FIG. 10A .
  • the processor 920 may perform calibration so that the road area 1022 included in the first image has a predetermined size or larger. For example, the processor 920 may perform calibration on the image so that the area of the road occupied by the image becomes more than half.
  • the processor 920 displays the first image. After re-outputting, calibration may be performed to output the second image to the display unit 930 .
  • the processor 920 outputs the first image in the same manner even when the route guide device 790 is placed in the landscape mode, performs calibration on the first image, and then performs calibration
  • the first and second graphic objects may be overlapped and outputted on the performed second image.
  • the processor 920 when the viewing angle of the second image is changed so that the lane included in the second image and the graphic object 932a overlapping the lane are distorted by the driving of the vehicle, the second image in which the viewing angle is changed 2
  • the graphic object may be changed to match the lane based on the image (932a is changed to 932b).
  • the viewing angle of the second image captured by the camera is changed with respect to the ground (that is, based on the ground)
  • the direction (angle) the camera shoots will change).
  • the size of the area occupied by the road in the image captured by the camera may be changed, and the graphic object being output may be distorted by overlapping the road and the road.
  • the processor 920 may change the graphic object 932b (carpet image) to match the road based on the changed second image 1020b.
  • the processor 920 may change the graphic object 932b (carpet image) to match the roadway based on the second image 1020b of which the viewing angle is changed.
  • the processor 920 may end the AR mode as illustrated in FIG. 10F .
  • the condition for turning off the AR mode is when GPS data is not transmitted for a predetermined time (for example, there is no transmission for 2 seconds or more) or when a delay of more than a predetermined time occurs more than a certain number of times within a predetermined time (1.5 within 10 seconds) When transmission delay occurs 3 times or more) It may include the case of falling.
  • the processor 920 may end the AR mode and output the execution screen 1000 of the navigation application, as shown in FIG. 10F .
  • the processor 920 may output a carpet image overlapping the lane included in the second image and guiding the planned driving route of the vehicle to the second image.
  • the carpet image may overlap the lane in which the vehicle is driving in the second image.
  • the processor 920 may output a wall image guiding a driving direction in a lane adjacent to a lane in which the vehicle is traveling in the second image.
  • the processor 920 is configured to enter a predetermined distance (eg, a point at which the vehicle needs to perform a direction change, such as a right turn, left turn, or U-turn, etc.)
  • a predetermined distance eg, a point at which the vehicle needs to perform a direction change, such as a right turn, left turn, or U-turn, etc.
  • the carpet image 932 may be output to the lane in which the vehicle is traveling.
  • the turn-by-turn information 931 may be continuously output to the second image 1020 on which the calibration is performed.
  • the processor 920 further adds a wall image 933 guiding the driving direction of the vehicle when the vehicle enters within a predetermined distance based on the intersection in a state where the carpet image 932 overlaps the lane in which the vehicle is traveling. can be printed
  • the processor 920 may change the carpet image 932 to the wall image 933 when the vehicle enters within a predetermined distance (eg, 50 m) from the intersection.
  • a predetermined distance eg, 50 m
  • the processor 920 may output the wall image 933 by overlapping the wall image 933 on a road adjacent to the road on which the vehicle is traveling.
  • the processor 920 outputs the carpet image 932 when the vehicle enters within a predetermined distance (50 m) from the intersection while the carpet image 932 and the wall image 933 are being output together. can be stopped, and only the wall image 933 can be output.
  • the processor 920 may output the wall image 933 by overlapping the wall image 933 on a road adjacent to the road on which the vehicle is traveling.
  • the carpet image 932 may be output to overlap the lane on which the vehicle is traveling, and the wall image (or wall arrow) 933 may be displayed on a lane adjacent to the lane on which the vehicle is traveling.
  • the wall image 933 is a wall image pointing in the first direction (right)
  • the wall image 933 is adjacent to the lane in which the vehicle is traveling, as shown in the second and third views of FIG. 11A .
  • the output may be overlapped with a road located in a second direction (left) opposite to the first direction among left and right lanes.
  • the processor 930 outputs only the wall image 933 on a road adjacent to the road on which the vehicle is traveling when the vehicle enters within a predetermined distance (eg, 50 m) from the intersection, as shown in the third diagram of FIG. 11A , and , the carpet image 932 may not be output.
  • a predetermined distance eg, 50 m
  • the processor 920 When the vehicle performs a direction change at the intersection (eg, performs a right turn at the intersection), the processor 920 is configured to generate the carpet image ( 932 is not output, and a state in which the wall image 933 is output may be maintained.
  • the processor 920 changes the wall image 933 to the carpet image 932 as shown in the fourth and fifth views of FIG. 11A , and the vehicle is driving
  • the carpet image 932 may be overlapped and outputted on the in-roadway.
  • the wall image 933 may be output from a position (eg, 200 m before) at which the predetermined distance (eg, 100 m) is identified in the image to a lane adjacent to the lane in which the vehicle is traveling. At this time, as shown in the second drawing of FIG. 11B , the wall image 933 may be output to overlap from the predetermined distance 100m.
  • a predetermined distance eg, 100 m
  • the wall image 933 may be output from a position (eg, 200 m before) at which the predetermined distance (eg, 100 m) is identified in the image to a lane adjacent to the lane in which the vehicle is traveling.
  • the processor 920 may output the turn-by-turn information 931 and the carpet image 932 overlapping the lane in which the vehicle is traveling when the vehicle is more than a predetermined distance from the intersection where the direction change is to be performed. .
  • the processor 920 When the vehicle enters within a predetermined distance (eg, 100 m) from the intersection, the processor 920 additionally outputs a wall image 933 guiding the driving direction of the vehicle in a lane adjacent to the lane in which the vehicle is traveling.
  • the carpet image 932 may be changed to a wall image 932 .
  • the processor 920 when the vehicle enters within a predetermined distance from the intersection, the processor 920 outputs the carpet image 932 overlapping the lane in which the vehicle is traveling to the position where the wall image 933 is to be output. After conversion, the converted carpet image 932-1 may be output to a position where the wall image is to be output.
  • the processor 920 may change the converted carpet image 932-1 to a wall image 933 .
  • the processor 920 converts the wall image 933 to be output at a position where the carpet image 932 is to be output, and converts the converted wall image 933-1 into the carpet image. It can be output to the position to be output (the lane in which the vehicle is traveling).
  • the processor 920 may change the converted wall image 933 - 1 into a carpet image 932 .
  • the processor 920 may enlarge the output size of the wall image 933 as the distance between the vehicle and the intersection increases.
  • the processor 920 may not output the wall image 933 for guiding the direction change.
  • the processor 920 stops the output of the carpet image and stops the output of the carpet image when the vehicle cannot receive the GPS signal or enters the tunnel in which the GPS signal strength is less than or equal to the reference strength. ) may be output by overlapping the graphic object 1100 for guiding the location on the image (eg, the second image).
  • FIG 12, 13A, and 13B are flowcharts for explaining a method of determining a type of an image output to augmented reality according to a driving state of a vehicle according to an embodiment of the present invention.
  • the processor 920 may determine whether the altitude information exists in an on route ( S1202 ).
  • the altitude information may be received from a satellite or an external server through the communication unit 910 .
  • the processor 920 may output a carpet image 932 when the altitude information exists in the path. If it is determined that the altitude information does not exist in the route, a new user interface (UX) may be overlapped with an image to be implemented as augmented reality.
  • UX new user interface
  • the processor 920 of the present invention may include an AR adapter 922 and an AR engine 924 .
  • the AR adapter 922 may serve to convert various information required for route guidance received from the navigation application or the navigation system 770 into information (or data) necessary for implementing the AR adapter into augmented reality.
  • the AR engine 924 may implement route guidance in an image captured by the camera in augmented reality by using the information converted by the AR adapter 922 .
  • the navigation application (or system) 770 may transmit the type (or class) of the current road, the location of the current vehicle (GPS information), and curve data of the current road to the AR adapter. (S1302, S1304, S1306, S1308).
  • the AR adapter 922 may determine whether the current road is a curve ( S1310 ), and, if it is not a curve, may determine a change in altitude of the last predetermined distance (10 m) ( S1312 ).
  • the elevation change of the last predetermined distance is not more than a specific distance (3m) (S1314), the current road is not local (S1316), there is no next junction (S1318), and the lane (or lane) for the last predetermined time (5 seconds) If there is no such thing (S1320), the AR adapter 922 may request a carpet image from the AR engine for a predetermined time (10 seconds) (S1322).
  • the AR engine 924 that has received the request may output the carpet image by overlapping the image (S1324).
  • the AR adapter 922 may request the AR engine 924 to output a fixed carpet image or a compass image (S1326).
  • the AR engine 924 in response to the request may output a fixed carpet image or a compass image by overlapping the image (S1328).
  • Another embodiment of outputting a compass image, a carpet image, or a fixed carpet image may be the same as the flowchart shown in FIG. 13B .
  • the navigation application (or system) 770 may transmit current GPS information to the AR adapter 922 .
  • AR adapter 922 when a guide point (eg, an intersection where a direction change is required) is on the road (S1332) and is within a predetermined distance (300m) to the next guide point (S1334), there is no guide point A compass image may be requested from the AR engine 924 as the next road.
  • a guide point eg, an intersection where a direction change is required
  • the AR engine 924 may overlap the compass image on the image and output it as augmented reality (S1338).
  • AR adapter 922 there is no guide point (S1332, S1340), calculates the elevation change for the last predetermined distance (10m) (S1342), if the elevation change is greater than the specific distance (3m), a fixed carpet image is predetermined
  • a request may be made to the AR engine 924 to output for a period of time (S1348).
  • the AR engine 924 may output the fixed carpet image by overlapping the image (S1350).
  • the fixed carpet image may refer to a carpet image having a fixed shape, not a carpet image whose shape is changed according to the shape of the lane identified in the image.
  • the AR adapter 922 may calculate an elevation change for the last predetermined distance (10m) when there is a guide point on the road but is not within a predetermined distance to the next guide point (S1332, 1334) (S1352).
  • the AR adapter 922 may request the AR engine 924 to output the carpet image for a predetermined period of time (10 seconds) when the elevation change is within a specific distance (3m) (S1346, S1354).
  • the AR engine 924 may overlap and output the carpet image 932 to match the lane in which the vehicle is traveling, based on a request (S1358).
  • the AR adapter 922 determines whether the vehicle is on the path ( Alternatively, it may be determined that the vehicle is out of the road) (S1360).
  • the operation/function/control method performed by the AR adapter 922 and the AR engine 924 may be understood as being performed by the processor 920 .
  • 14, 15, 16, 17, 18, 19, 20, 21, 22 and 23 are conceptual diagrams for explaining a compass image output to augmented reality according to an embodiment of the present invention. to be.
  • the processor 920 performs calibration on the image acquired through the camera, and then applies a carpet image 932 for guiding the planned driving route to the lane in which the vehicle is driving.
  • Augmented reality can be implemented by overlapping to correspond.
  • the processor 920 calibrates the compass image 1400 including the compass object 1410 indicating the direction in which the front of the vehicle is looking, the second image on which the calibration is performed. (1020) can be output.
  • the compass image 1400 may include a fixed carpet image 1420 that guides the direction in which the vehicle should travel from the current location.
  • the compass image 1400 is a compass object 1410 indicating which direction the front of the vehicle (that is, corresponding to the direction the camera is shooting) points and the display position is along the border of the compass object 1410. It may include a fixed carpet image 1420 that is changed.
  • the processor 920 may vary the display position of the fixed carpet image 1420 along the edge of the compass object 1410 .
  • the fixed carpet image 1420 may be fixed to a specific shape (eg, a triangular shape) without changing its shape depending on the shape of the road, and a compass object ( 1410) can be guided while moving along.
  • a specific shape eg, a triangular shape
  • the AR adapter 922 of the processor 920 receives map information (SD MAP) and information on the direction in which the vehicle is driving (GPS heading) from the navigation application (or navigation system) 770 . can do.
  • SD MAP map information
  • GPS heading information on the direction in which the vehicle is driving
  • the AR adapter 922 may convert the compass image into applicable data based on the received information and then transmit it to the AR engine 924 .
  • the AR engine 924 may generate a compass image 1400 to be output in augmented reality based on the converted data, overlap the image, and output the compass image to augmented reality.
  • the compass image 1400 includes a compass object 1410 , azimuth information 1430 indicating in which direction the current vehicle is driving based on the north direction (N), and the vehicle at the next guide point (for example, For example, it may include a fixed carpet image 1430 guiding the direction in which the vehicle should travel from the current location in order to travel to an intersection where a direction change is required).
  • the position at which the fixed carpet image 1430 is output may be determined and changed based on the angle at which the next guide point is located with respect to the front of the vehicle.
  • the processor 920 may output the compass image 1400 in various ways.
  • the fixed carpet image 1420 may guide the direction in which the vehicle should travel from the current location (that is, the vehicle guides the location of the next guide point from the current location), and the compass object 1410
  • the display position may be variable along the edge of the .
  • the processor 920 may output the fixed carpet image 1832 in various ways.
  • the carpet image 932 described above refers to a dynamic carpet image, is generated/changed to correspond to the lane in which the vehicle travels in the image, is overlapped with the lane in which the vehicle is traveling, and is output as augmented reality.
  • the static carpet image 1832 may be bent and displayed using the moving direction (or inertia) of the vehicle.
  • Such a fixed carpet image is useful for a one-lane curved road, does not use the lane recognition result, is fixed on the screen, and does not move while moving in a vehicle and can be formed to only bend.
  • the processor 920 may be configured to generate a carpet image 932 for guiding the vehicle's planned driving path or a compass image for indicating the direction the vehicle is facing. Any one (or at least one) of (1400) may be output.
  • the processor 920 may select any one of a carpet image 932 for guiding the planned driving route of the vehicle or a compass image 1400 for indicating a direction from which the front of the vehicle is viewed. You can output one (or at least one).
  • the processor 920 is configured to overlap the carpet image 932 with the lane in which the vehicle is traveling, when driving on a preset type of road in which straight driving is mainly performed on highways/arterial roads/collectors, etc. It can be output by overlapping the image captured by the camera.
  • the processor 920 may output the compass image 1400 instead of the carpet image 932 .
  • the carpet image 932 may be output to overlap the lane in which the vehicle is traveling.
  • the processor 920 implements augmented reality by overlapping the carpet image on the image when the location of the vehicle is not a local road (ie, a preset type of road) and (S2000, S2010). ), when the location of the vehicle is a local road, augmented reality may be implemented by overlapping the compass image on the image (S2000, S2020).
  • the processor 920 may change the carpet image 932 to the compass image 1400 based on the vehicle entering the road on which the slope exists.
  • the processor 920 overlaps and outputs the carpet image 932 on the lane in which the vehicle included in the image is driving when the GPS altitude change for the past predetermined time (5 seconds) is within a specific distance (10 m). can do.
  • the processor 920 may overlap the compass image 1400 with the image captured by the camera and output it.
  • the processor 920 is configured to perform a carpet image guiding the vehicle's planned travel route or the vehicle's front view based on the distance between the vehicle and the intersection at which the vehicle needs to change direction. Any one of the compass images indicating the bearing may be output by overlapping the image.
  • the processor 920 outputs a carpet image when the distance between the vehicle and an intersection (eg, a guide point) where a direction change is to be performed is greater than or equal to a predetermined distance, and the vehicle When the distance between the intersection and the intersection is within a predetermined distance (eg, 200 m), the carpet image 932 may not be output, and the compass image 1400 may be overlapped with the image and output.
  • a predetermined distance eg, 200 m
  • the processor 920 maintains the output of the compass image 1400 until a predetermined distance (eg, 30 m) after the vehicle passes the intersection, and when it deviates from the predetermined distance (30 m), the compass image 1400 The output may be stopped, and the carpet image 932 may be overlapped on the image to be output.
  • a predetermined distance eg, 30 m
  • the processor 920 when a plurality of intersections exist and the distance between the plurality of intersections is within a predetermined distance, for example, (within 300m), at the first intersection among the plurality of intersections
  • a predetermined distance for example, (within 300m)
  • the carpet image 932 may be changed to the compass image 1400 .
  • the processor 920 may maintain the output of the compass image 1400 until the vehicle passes the last intersection among the plurality of intersections.
  • the processor 920 maintains the compass image 1400 until the vehicle travels up to a predetermined distance (eg, 30 m) after passing the last intersection, and when the predetermined distance is passed, the compass image 1400 ) can be stopped, and augmented reality can be implemented so that the carpet image 932 overlaps with the lane in which the vehicle included in the image is running.
  • a predetermined distance eg, 30 m
  • 24A, 24B, 25, 26, 27A, and 27B are conceptual views for explaining a route guidance method according to another embodiment of the present invention.
  • the present invention provides a graphic object output as augmented reality to an image captured by a camera according to the distance between an intersection (or guide point) and a vehicle at which direction change is to be performed. It can be set in various ways.
  • the processor 920 may output a carpet image, a wall image, and/or a fixed carpet image.
  • the processor 920 may stop outputting at least one of a carpet image, a wall image, and a fixed carpet image.
  • the processor 920 may output a different type of carpet image or maintain an output of an object being output within the specific distance by a predetermined distance.
  • the processor 920 determines whether a guide point (an intersection or a point of an intersection requiring a change of direction) exists within a predetermined distance and when the guide point exists outside a predetermined distance (Road). Without guide point), it is possible to determine the type of graphic object implemented in augmented reality.
  • the processor 920 overlaps the fusion carpet image 251 , the car carpet image 2502 , the fixed carpet image 2503 , the compass image 1400 , and the like on the image captured by the camera. It can be printed in augmented reality.
  • the fusion carpet image 2501 is a carpet image (eg, 932) that is mapped to a lane in which a map-based vehicle is driving and is output, and the lane carpet image 2502 is from an image captured by a camera. It may be a carpet image output only within the identified lane.
  • the fixed carpet image 2503 may be a carpet image output based on the driving direction (or movement direction) of the vehicle, rather than a carpet image generated/variable based on a map or an image.
  • a carpet image curved to the left may be output.
  • Compass image 1400 is, as described above, the GPS direction (ie, the room the vehicle is facing) and SD MAP direction (ie, the direction the vehicle is currently facing) received from the navigation application or system 770 , as described above. It can be created/changed based on the angle at which the next guide point is located).
  • the processor 920 may output a fusion carpet image when the GPS direction and the SD MAP direction coincide with each other, and output a carpet image 2502 with a car that does not match.
  • FIG. 26 there is shown a flowchart for explaining an embodiment of outputting various augmented reality graphic objects described above.
  • the processor 920 may hide the carpet image and output turn-by-turn information when a tunnel or a path (or road) is deviated ( S2602 , S2612 ).
  • the processor 920 determines the type of graphic object that is overlapped with the image and is being output when it is not a tunnel or a path departure, a guide point does not exist, and the vehicle is driving on a road without a guide point (S2602, S2604, S2606).
  • the processor 920 may output the carpet image to and from the next road including the guide point when the carpet image is being output by the road ( S2608 , S2610 ).
  • the processor 920 When the fixed carpet image is being output, the processor 920 does not send a lane boundary message and may output the carpet image to the next road including the guide point (S2632, S2634).
  • the processor 920 may hide the carpet image without sending a lane boundary message, and may output the carpet image to the next road including the guide point (S2636, S2638, S2640). ).
  • the processor 920 may determine whether the road being driven is inclined or local (S2642, S2644, S2646).
  • the processor 920 may enter step S2632 when the road being driven is sloped or local.
  • the processor 920 When the road being driven is not inclined or local, the processor 920 outputs a fusion carpet image to the next road including a guide point if the image being output is a fusion carpet image, and if the image being output is an auto carpet image, a guide point is displayed. It is possible to output the auto carpet image up to the next road including (S2648, 2650).
  • the processor 920 outputs a fusion carpet image 932, outputs a wall image 933, and a guide point, as described above, when driving on a road including a guide point and not a tunnel or route departure. If it is within a specific distance from , the fusion carpet image is not output, and after passing through the guide point, the carpet image may be output by car (S2604, S2614, S2616, S2618, S2620, S2622).
  • the processor 920 may not transmit a lane boundary message, hide the carpet image, and overlap the compass image on the image (S2604, S2614, S2624, S2626, S2628).
  • DS_EGO, DS_ROUTE, and DS_MERGED are terms used in the AR engine and mean Ego Lane, Fusion, and Auto, respectively.
  • the processor 920 may output various graphic objects to the image in augmented reality.
  • 27A and 27B illustrate an embodiment of graphic objects output for each situation based on the content described in FIG. 26 .
  • the processor 920 may implement a graphic object for performing route guidance in accordance with each situation in an image captured by the camera in augmented reality.
  • FIG. 28 is a conceptual diagram illustrating a method of outputting turn-by-turn information according to an embodiment of the present invention.
  • the processor 920 determines the slope of the road on which the vehicle travels, and determines the slope of the first graphic object 931 overlapped with the first image (and the second image) and output based on the determined slope of the road.
  • the processor 920 may receive information on the slope of the road on which the vehicle is currently traveling from the vehicle through the communication unit, or may receive information on the slope of the road on which the vehicle is currently traveling through the camera.
  • the processor 920 tilts the tilt of the first graphic object 931 corresponding to the turn-by-turn information to correspond to the tilt information, and the tilted first graphic object can be output as augmented reality by overlapping the image.
  • the present invention can improve the quality of augmented reality by tilting and overlapping the augmented reality graphic object to correspond to the inclined road.
  • 29A, 29B, 29C, and 29D are conceptual diagrams for explaining various methods of outputting a compass image according to an embodiment of the present invention.
  • the compass image 1400 is to output the compass image 1400 including the compass object 1410 indicating the direction in which the front of the vehicle is looking to the second image 1020 on which the calibration is performed.
  • the compass image 1400 may include a fixed carpet image 1420 that guides the direction in which the vehicle should travel from the current location.
  • the compass image 1400 is a compass object 1410 indicating which direction the front of the vehicle (that is, corresponding to the direction the camera is shooting) points and the display position is along the border of the compass object 1410. It may include a fixed carpet image 1420 that is changed.
  • the processor 920 may vary the display position of the fixed carpet image 1420 along the edge of the compass object 1410 .
  • the fixed carpet image 1420 may be fixed to a specific shape (eg, a triangular shape) without changing its shape depending on the shape of the road, and a compass object ( 1410) can be guided while moving along.
  • a specific shape eg, a triangular shape
  • the processor 920 may output the compass image 1400 by overlapping the image captured by the camera.
  • the processor 920 may output the compass image in various ways.
  • the processor 920 determines between the direction (azimuth) the vehicle is currently looking at and the direction (angle) where the next guide point is located with respect to the front of the vehicle.
  • the angle ( ⁇ ) exceeds 90 degrees, reduce the size of the compass image (Option 1), or use a fixed carpet image 1430 that guides the direction (angle) where the next guide point is located based on the front of the vehicle. It is possible to maintain the output at a position of 90 degrees relative to the front of the (option 2).
  • 30, 31 and 32 are conceptual diagrams for explaining a route guidance method to which augmented reality of the present invention is applied.
  • the processor 920 determines that the gyroscope direction (eg, the direction in which the vehicle travels by the steering wheel of the vehicle) and the center line do not match (eg, the gyroscope direction is bent If there is), a short fixed carpet image 3000 may be output, and if they match (eg, when the gyroscope direction is a straight line), a long fixed carpet image 3020 may be output.
  • the gyroscope direction eg, the direction in which the vehicle travels by the steering wheel of the vehicle
  • the center line do not match (eg, the gyroscope direction is bent If there is)
  • a short fixed carpet image 3000 may be output, and if they match (eg, when the gyroscope direction is a straight line)
  • a long fixed carpet image 3020 may be output.
  • the processor 920 may output various types of wall images according to circumstances.
  • the route guidance device of the present invention provides a driving lane for indicating the direction of a route, such as types 1 to 3, as shown in FIG. 31, in order to improve low visibility and ambiguous directionality of a wall image (wall arrow). It may be output to the lane adjacent to (type1), output to maintain a lane and direction (type2), or output to indicate crossing an intersection (type3).
  • the route guidance apparatus of the present invention may output a carpet image and a wall image to an image captured by a camera in augmented reality to perform route guidance optimized for the user.
  • the passenger may be provided with information on the route on which the vehicle is to travel by autonomous driving or the driver should drive through the carpet image in units of lanes.
  • the passenger can determine the route the vehicle should travel through the various types of carpet images in an optimized way.
  • the present invention described above can be implemented as computer-readable code (or application or software) on a medium in which a program is recorded.
  • the above-described method for controlling the autonomous vehicle may be realized by a code stored in a memory or the like.
  • the computer-readable medium includes all types of recording devices in which data readable by a computer system is stored. Examples of computer-readable media include Hard Disk Drive (HDD), Solid State Disk (SSD), Silicon Disk Drive (SDD), ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc. There is also a carrier wave (eg, transmission over the Internet) that is implemented in the form of.
  • the computer may include a processor or a control unit. Accordingly, the above detailed description should not be construed as restrictive in all respects but as exemplary. The scope of the present invention should be determined by a reasonable interpretation of the appended claims, and all modifications within the equivalent scope of the present invention are included in the scope of the present invention.

Abstract

본 발명은 차량에 탑재되어 증강현실을 구현하는 경로 안내 장치 및 그것의 경로 안내 방법을 제공한다. 본 발명의 일 실시 예에 따른 경로 안내 장치는, 카메라를 통해 촬영된 제1 영상을 수신하는 통신부 및 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 프로세서를 포함한다.

Description

경로 안내 장치 및 그것의 경로 안내 방법
본 발명은 차량에 탑재되어 증강현실을 구현하는 경로 안내 장치 및 그것의 경로 안내 방법에 관한 것이다.
차량은 운동 에너지를 이용하여 사람이나 짐을 이동시킬 수 있는 교통 수단을 의미한다. 차량의 대표적인 예로, 자동차 및 오토바이를 들 수 있다.
차량을 이용하는 사용자의 안전 및 편의를 위해, 차량에는 각종 센서와 장치가 구비되고 있으며, 차량의 기능이 다양화되고 있다.
차량의 기능은 운전자의 편의를 도모하기 위한 편의 기능, 그리고 운전자 및/또는 보행자의 안전을 도모하기 위한 안전 기능으로 나뉠 수 있다.
먼저, 편의 기능은 차량에 인포테인먼트(information + entertainment) 기능을 부여하고, 부분적인 자율 주행 기능을 지원하거나, 야간 시야나 사각 지대와 같은 운전자의 시야 확보를 돕는 등의 운전자 편의와 관련된 개발 동기를 가진다. 예를 들어, 적응 순향 제어(active cruise control, ACC), 스마트주자시스템(smart parking assist system, SPAS), 나이트비전(night vision, NV), 헤드 업 디스플레이(head up display, HUD), 어라운드 뷰 모니터(around view monitor, AVM), 적응형 상향등 제어(adaptive headlight system, AHS) 기능 등이 있다.
안전 기능은 운전자의 안전 및/또는 보행자의 안전을 확보하는 기술로, 차선 이탈 경고 시스템(lane departure warning system, LDWS), 차선 유지 보조 시스템(lane keeping assist system, LKAS), 자동 긴급 제동(autonomous emergency braking, AEB) 기능 등이 있다.
상술한 편의 기능과 안전 기능이 보다 더 향상될 수 있도록, 차량에 특화된 통신 기술이 개발되고 있다. 예를 들어, 차량과 인프라간의 통신을 가능케 하는 V2I(Vehicle to Infrastructure), 차량과 차량간의 통신을 가능케 하는 V2V(Vehicle to Vehicle) 그리고, 차량과 사물간의 통신을 가능케 하는 V2X(Vehicle to Everything) 등이 있다.
차량에는 탑승객에게 다양한 정보를 시각적으로 제공하기 위한 경로 안내 장치가 구비된다. 상기 경로 안내 장치는 차량의 윈드실드(windshield)나 별도로 구비된 투명 스크린으로 정보를 출력하는 헤드 업 디스플레이(HUD) 및/또는 패널을 통해 정보를 출력하는 각종 디스플레이를 포함한다.
상기 경로 안내 장치는 목적지까지의 경로 안내 정보와 관심지점(Point of Interest, POI)에 관한 정보를 제공하며, 다양한 정보를 효과적으로 제공하는 방향으로 발전하고 있다. 특히, 운전에 집중해야 하는 운전자에게 운전에 방해가 되지 않는 범위 내에서 필요한 정보를 직접적이면서도 효과적으로 제공하는 경로 안내 장치에 대한 연구가 계속되고 있다.
본 발명은 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다.
본 발명의 일 목적은 최적화된 방법으로 차량이 주행해야 할 경로를 증강 현실로 제공하는 것이 가능한 경로 안내 장치 및 그것의 경로 안내 방법을 제공하는 것이다.
본 발명의 다른 일 목적은 탑승객에게 각종 정보를 증강 현실로 제공하는 것이 가능한 경로 안내 장치 및 그것의 경로 안내 방법을 제공하는 것이다.
본 발명의 또 다른 일 목적은 차량이 주행중인 상황에 따라 최적화된 증강 현실로 차량의 주행 경로를 안내하는 것이 가능한 경로 안내 장치를 제공하는 것이다.
본 발명은 차량이 주행해야 하는 경로를 제공하는 경로 안내 장치 및 그것의 경로 안내 방법을 제공한다.
본 발명의 일 실시 예에 따른 경로 안내 장치는, 카메라를 통해 촬영된 제1 영상을 수신하는 통신부 및 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 프로세서를 포함한다.
실시 예에 있어서, 상기 프로세서는, 상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고, 상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고, 상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 제2 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고, 상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 한다.
실시 예에 있어서, 상기 제1 그래픽 객체는, 상기 차량이 주행중인 차로를 벗어나는지와 무관하게 출력이 유지되는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 제1 영상에 포함된 도로 영역이 소정 크기 이상이 되도록 캘리브레이션을 수행하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량의 주행에 의해, 상기 제2 영상에 포함된 차로와 상기 차로에 오버랩된 그래픽 객체가 틀어지도록 상기 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상을 기준으로 상기 차로에 매칭되도록 상기 그래픽 객체를 변경하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 제2 영상에 포함된 차로에 오버랩되며 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 상기 제2 영상에 출력하고, 상기 카펫 이미지는 상기 제2 영상에서 차량이 주행중인 차로에 오버랩되며, 상기 프로세서는, 상기 제2 영상에서 차량이 주행중인 차로에 인접한 차로에 주행 방향을 가이드하는 벽 이미지를 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량이 방향 전환을 수행해야 하는 교차로로 진입하기 소정 거리 이전에는 상기 차량이 주행중인 차로에 상기 카펫 이미지를 출력하고, 상기 차량이 상기 교차로를 기준으로 상기 소정 거리 이내에 진입하면, 상기 카펫 이미지를 상기 벽 이미지로 변경하고, 상기 벽 이미지를 상기 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 차량이 상기 교차로에서 방향 전환을 수행하면, 상기 벽 이미지를 상기 카펫 이미지로 변경하고, 상기 차량이 주행중인 차로에 카펫 이미지를 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량과 상기 교차로 사이의 거리가 가까워질수록 상기 벽 이미지의 출력 크기를 확대하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량의 전방이 바라보는 방위를 알려주는 나침반 객체를 포함하는 나침반 이미지를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 나침반 이미지는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 나침반 객체의 테두리를 따라 고정카펫 이미지의 표시위치를 가변하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량이 방향 전환을 수행해야 하는 교차로와 상기 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지 중 어느 하나를 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량이 주행하는 도로의 기울기를 결정하고, 상기 결정된 도로의 기울기에 근거하여, 상기 제1 영상에 오버랩하여 출력하는 상기 제1 그래픽 객체의 기울기를 결정하는 것을 특징으로 한다.
본 발명의 다른 실시 예에 따른 경로 안내 장치의 경로 안내 방법은, 카메라를 통해 촬영된 제1 영상을 수신하는 단계 및 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 단계를 포함한다.
실시 예에 있어서, 상기 출력하는 단계는, 상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고, 상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고, 상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 출력하는 단계는, 상기 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고, 상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 한다.
본 발명에 따른 경로 안내 장치 및 그것의 경로 안내 방법의 효과에 대해 설명하면 다음과 같다.
본 발명에 따르면, 탑승객은 카펫 이미지를 통해 상기 차량이 자율 주행으로 주행할 또는 운전자가 운전해야 하는 경로 정보를 차선 단위로 제공받을 수 있다.
또한, 본 발명에 따르면, 탑승객은 다양한 종류의 카펫 이미지를 통해 차량이 주행해야 할 경로를 최적화된 방법으로 파악할 수 있게 된다.
또한, 본 발명에 따르면, 본 발명은 나침반 이미지를 통해 차량의 주행 경로를 가이드할 수 있는 새로운 경로 안내 인터페이스를 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 8은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이다.
도 9는 본 발명의 경로 안내 장치를 설명하기 위한 블록도이다.
도 10a, 도 10b, 도 10c, 도 10d, 도 10e, 도 10f, 도 11a, 도 11b, 도 11c, 도 11d, 도 11e, 도 11f 및 도 11g는 본 발명의 일 실시 예에 따른 증강 현실을 적용한 경로 안내 방법을 설명하기 위한 개념도이다.
도 12, 도 13a 및 도 13b는 본 발명의 일 실시 예에 따른 차량의 주행 상태에 따라 증강 현실로 출력되는 이미지의 종류를 결정하는 방법을 설명하기 위한 흐름도이다.
도 14, 도 15, 도 16, 도 17, 도 18, 도 19, 도 20, 도 21, 도 22 및 도 23은 본 발명의 일 실시 예에 따른 증강 현실로 출력되는 나침반 이미지를 설명하기 위한 개념도이다.
도 24a, 도 24b, 도 25, 도 26, 도 27a 및 도 27b은, 본 발명의 다른 실시 예에 따른 경로 안내 방법을 설명하기 위한 개념도이다.
도 28은 본 발명의 일 실시 예에 따른 턴-바이-턴 정보의 출력 방법을 설명하기 위한 개념도이다.
도 29a, 도 29b, 도 29c 및 도 29d는 본 발명의 일 실시 예에 따른 나침반 이미지의 다양한 출력 방법을 설명하기 위한 개념도이다.
도 30, 도 31 및 도 32는 본 발명의 증강 현실이 적용된 경로 안내 방법을 설명하기 위한 개념도이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 1 내지 도 7을 참조하면, 차량(100)은 동력원에 의해 회전하는 바퀴, 차량(100)의 진행 방향을 조절하기 위한 조향 입력 장치(510)를 포함할 수 있다.
차량(100)은 자율 주행 차량일 수 있다.
차량(100)은, 사용자 입력에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 사용자 인터페이스 장치(200)를 통해, 수신되는 사용자 입력에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 주행 상황 정보에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다. 주행 상황 정보는, 오브젝트 검출 장치(300)에서 제공된 오브젝트 정보에 기초하여 생성될 수 있다.
예를 들면, 차량(100)은, 오브젝트 검출 장치(300)에서 생성되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 통신 장치(400)를 통해 수신되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 외부 디바이스에서 제공되는 정보, 데이터, 신호에 기초하여 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)이 자율 주행 모드로 운행되는 경우, 자율 주행 차량(100)은, 운행 시스템(700)에 기초하여 운행될 수 있다.
예를 들면, 자율 주행 차량(100)은, 주행 시스템(710), 출차 시스템(740), 주차 시스템(750)에서 생성되는 정보, 데이터 또는 신호에 기초하여 운행될 수 있다.
차량(100)이 메뉴얼 모드로 운행되는 경우, 자율 주행 차량(100)은, 운전 조작 장치(500)를 통해 운전을 위한 사용자 입력을 수신할 수 있다. 운전 조작 장치(500)를 통해 수신되는 사용자 입력에 기초하여, 차량(100)은 운행될 수 있다.
전장(overall length)은 차량(100)의 앞부분에서 뒷부분까지의 길이, 전폭(width)은 차량(100)의 너비, 전고(height)는 바퀴 하부에서 루프까지의 길이를 의미한다. 이하의 설명에서, 전장 방향(L)은 차량(100)의 전장 측정의 기준이 되는 방향, 전폭 방향(W)은 차량(100)의 전폭 측정의 기준이 되는 방향, 전고 방향(H)은 차량(100)의 전고 측정의 기준이 되는 방향을 의미할 수 있다.
도 7에 예시된 바와 같이, 차량(100)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 운행 시스템(700), 내비게이션 시스템(770), 센싱부(120), 차량 인터페이스부(130), 메모리(140), 제어부(170) 및 전원 공급부(190)를 포함할 수 있다.
실시예에 따라, 차량(100)은, 본 명세서에서 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
사용자 인터페이스 장치(200)는, 차량(100)과 사용자와의 소통을 위한 장치이다. 사용자 인터페이스 장치(200)는, 사용자 입력을 수신하고, 사용자에게 차량(100)에서 생성된 정보를 제공할 수 있다. 차량(100)은, 사용자 인터페이스 장치(200)를 통해, UI(User Interfaces) 또는 UX(User Experience)를 구현할 수 있다.
사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 출력부(250) 및 프로세서(270)를 포함할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
입력부(200)는, 사용자로부터 정보를 입력받기 위한 것으로, 입력부(120)에서 수집한 데이터는, 프로세서(270)에 의해 분석되어, 사용자의 제어 명령으로 처리될 수 있다.
입력부(200)는, 차량 내부에 배치될 수 있다. 예를 들면, 입력부(200)는, 스티어링 휠(steering wheel)의 일 영역, 인스투루먼트 패널(instrument panel)의 일 영역, 시트(seat)의 일 영역, 각 필러(pillar)의 일 영역, 도어(door)의 일 영역, 센타 콘솔(center console)의 일 영역, 헤드 라이닝(head lining)의 일 영역, 썬바이저(sun visor)의 일 영역, 윈드 쉴드(windshield)의 일 영역 또는 윈도우(window)의 일 영역 등에 배치될 수 있다.
입력부(200)는, 음성 입력부(211), 제스쳐 입력부(212), 터치 입력부(213) 및 기계식 입력부(214)를 포함할 수 있다.
음성 입력부(211)는, 사용자의 음성 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
음성 입력부(211)는, 하나 이상의 마이크로 폰을 포함할 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 감지하기 위한 적외선 센서 및 이미지 센서 중 적어도 어느 하나를 포함할 수 있다.
실시예에 따라, 제스쳐 입력부(212)는, 사용자의 3차원 제스쳐 입력을 감지할 수 있다. 이를 위해, 제스쳐 입력부(212)는, 복수의 적외선 광을 출력하는 광출력부 또는 복수의 이미지 센서를 포함할 수 있다.
제스쳐 입력부(212)는, TOF(Time of Flight) 방식, 구조광(Structured light) 방식 또는 디스패러티(Disparity) 방식을 통해 사용자의 3차원 제스쳐 입력을 감지할 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 감지하기 위한 터치 센서를 포함할 수 있다.
실시예에 따라, 터치 입력부(213)는 디스플레이부(251)와 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한, 터치 스크린은, 차량(100)과 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 함께 제공할 수 있다.
기계식 입력부(214)는, 버튼, 돔 스위치(dome switch), 조그 휠 및 조그 스위치 중 적어도 어느 하나를 포함할 수 있다. 기계식 입력부(214)에 의해 생성된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
기계식 입력부(214)는, 스티어링 휠, 센테 페시아, 센타 콘솔, 칵픽 모듈, 도어 등에 배치될 수 있다.
내부 카메라(220)는, 차량 내부 영상을 획득할 수 있다. 프로세서(270)는, 차량 내부 영상을 기초로, 사용자의 상태를 감지할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 시선 정보를 획득할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 제스쳐를 감지할 수 있다.
생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있다. 생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있는 센서를 포함하고, 센서를 이용하여, 사용자의 지문 정보, 심박동 정보 등을 획득할 수 있다. 생체 정보는 사용자 인증을 위해 이용될 수 있다.
출력부(250)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것이다.
출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253) 중 적어도 어느 하나를 포함할 수 있다.
디스플레이부(251)는, 다양한 정보에 대응되는 그래픽 객체를 표시할 수 있다.
디스플레이부(251)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(251)는 터치 입력부(213)와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다.
디스플레이부(251)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(251)가 HUD로 구현되는 경우, 디스플레이부(251)는 투사 모듈을 구비하여 윈드 쉴드 또는 윈도우에 투사되는 이미지를 통해 정보를 출력할 수 있다.
디스플레이부(251)는, 투명 디스플레이를 포함할 수 있다. 투명 디스플레이는 윈드 쉴드 또는 윈도우에 부착될 수 있다.
투명 디스플레이는 소정의 투명도를 가지면서, 소정의 화면을 표시할 수 있다. 투명 디스플레이는, 투명도를 가지기 위해, 투명 디스플레이는 투명 TFEL(Thin Film Elecroluminescent), 투명 OLED(Organic Light-Emitting Diode), 투명 LCD(Liquid Crystal Display), 투과형 투명디스플레이, 투명 LED(Light Emitting Diode) 디스플레이 중 적어도 하나를 포함할 수 있다. 투명 디스플레이의 투명도는 조절될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 복수의 디스플레이부(251a 내지 251g)를 포함할 수 있다.
디스플레이부(251)는, 스티어링 휠의 일 영역, 인스투루먼트 패널의 일 영역(521a, 251b, 251e), 시트의 일 영역(251d), 각 필러의 일 영역(251f), 도어의 일 영역(251g), 센타 콘솔의 일 영역, 헤드 라이닝의 일 영역, 썬바이저의 일 영역에 배치되거나, 윈드 쉴드의 일영역(251c), 윈도우의 일영역(251h)에 구현될 수 있다.
음향 출력부(252)는, 프로세서(270) 또는 제어부(170)로부터 제공되는 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(252)는, 하나 이상의 스피커를 포함할 수 있다.
햅틱 출력부(253)는, 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(253)는, 스티어링 휠, 안전 벨트, 시트(110FL, 110FR, 110RL, 110RR)를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
프로세서(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 복수의 프로세서(270)를 포함하거나, 프로세서(270)를 포함하지 않을 수도 있다.
사용자 인터페이스 장치(200)에 프로세서(270)가 포함되지 않는 경우, 사용자 인터페이스 장치(200)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 차량용 디스플레이 장치로 명명될 수 있다.
사용자 인터페이스 장치(200)는, 제어부(170)의 제어에 따라 동작될 수 있다.
오브젝트 검출 장치(300)는, 차량(100) 외부에 위치하는 오브젝트를 검출하기 위한 장치이다.
오브젝트는, 차량(100)의 운행과 관련된 다양한 물체들일 수 있다.
도 5 내지 도 6을 참조하면, 오브젝트(O)는, 차선(OB10), 타 차량(OB11), 보행자(OB12), 이륜차(OB13), 교통 신호(OB14, OB15), 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 포함할 수 있다.
차선(Lane)(OB10)은, 주행 차선, 주행 차선의 옆 차선, 대향되는 차량이 주행하는 차선일 수 있다. 차선(Lane)(OB10)은, 차선(Lane)을 형성하는 좌우측 선(Line)을 포함하는 개념일 수 있다.
타 차량(OB11)은, 차량(100)의 주변에서 주행 중인 차량일 수 있다. 타 차량은, 차량(100)으로부터 소정 거리 이내에 위치하는 차량일 수 있다. 예를 들면, 타 차량(OB11)은, 차량(100)보다 선행 또는 후행하는 차량일 수 있다.
보행자(OB12)는, 차량(100)의 주변에 위치한 사람일 수 있다. 보행자(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 사람일 수 있다. 예를 들면, 보행자(OB12)는, 인도 또는 차도상에 위치하는 사람일 수 있다.
이륜차(OB12)는, 차량(100)의 주변에 위치하고, 2개의 바퀴를 이용해 움직이는 탈것을 의미할 수 있다. 이륜차(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 2개의 바퀴를 가지는 탈 것일 수 있다. 예를 들면, 이륜차(OB13)는, 인도 또는 차도상에 위치하는 오토바이 또는 자전거일 수 있다.
교통 신호는, 교통 신호등(OB15), 교통 표지판(OB14), 도로면에 그려진 문양 또는 텍스트를 포함할 수 있다.
빛은, 타 차량에 구비된 램프에서 생성된 빛일 수 있다. 빛은, 가로등에서 생성된 빛을 수 있다. 빛은 태양광일 수 있다.
도로는, 도로면, 커브, 오르막, 내리막 등의 경사 등을 포함할 수 있다.
구조물은, 도로 주변에 위치하고, 지면에 고정된 물체일 수 있다. 예를 들면, 구조물은, 가로등, 가로수, 건물, 전봇대, 신호등, 다리를 포함할 수 있다.
지형물은, 산, 언덕, 등을 포함할 수 있다.
한편, 오브젝트는, 이동 오브젝트와 고정 오브젝트로 분류될 수 있다. 예를 들면, 이동 오브젝트는, 타 차량, 보행자를 포함하는 개념일 수 있다. 예를 들면, 고정 오브젝트는, 교통 신호, 도로, 구조물을 포함하는 개념일 수 있다.
오브젝트 검출 장치(300)는, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340), 적외선 센서(350) 및 프로세서(370)를 포함할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
카메라(310)는, 차량 외부 영상을 획득하기 위해, 차량의 외부의 적절한 곳에 위치할 수 있다. 카메라(310)는, 모노 카메라, 스테레오 카메라(310a), AVM(Around View Monitoring) 카메라(310b) 또는 360도 카메라일 수 있다.
예를 들면, 카메라(310)는, 차량 전방의 영상을 획득하기 위해, 차량의 실내에서, 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 후방의 영상을 획득하기 위해, 차량의 실내에서, 리어 글라스에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 측방의 영상을 획득하기 위해, 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다.
카메라(310)는, 획득된 영상을 프로세서(370)에 제공할 수 있다.
레이다(320)는, 전자파 송신부, 수신부를 포함할 수 있다. 레이더(320)는 전파 발사 원리상 펄스 레이더(Pulse Radar) 방식 또는 연속파 레이더(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이더(320)는 연속파 레이더 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다.
레이더(320)는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
레이더(320)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
라이다(330)는, 레이저 송신부, 수신부를 포함할 수 있다. 라이다(330)는, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다.
라이다(330)는, 구동식 또는 비구동식으로 구현될 수 있다.
구동식으로 구현되는 경우, 라이다(330)는, 모터에 의해 회전되며, 차량(100) 주변의 오브젝트를 검출할 수 있다.
비구동식으로 구현되는 경우, 라이다(330)는, 광 스티어링에 의해, 차량(100)을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 차량(100)은 복수의 비구동식 라이다(330)를 포함할 수 있다.
라이다(330)는, 레이저 광 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
라이다(330)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
초음파 센서(340)는, 초음파 송신부, 수신부를 포함할 수 있다. 초음파 센서(340)은, 초음파를 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
초음파 센서(340)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
적외선 센서(350)는, 적외선 송신부, 수신부를 포함할 수 있다. 적외선 센서(340)는, 적외선 광을 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
적외선 센서(350)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
프로세서(370)는, 오브젝트 검출 장치(300)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(370)는, 획득된 영상에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 영상 처리 알고리즘을 통해, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 전자파가 오브젝트에 반사되어 되돌아오는 반사 전자파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 전자파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 레이저가 오브젝트에 반사되어 되돌아오는 반사 레이저 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 레이저 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 초음파가 오브젝트에 반사되어 되돌아오는 반사 초음파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 초음파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 적외선 광이 오브젝트에 반사되어 되돌아오는 반사 적외선 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 적외선 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 복수의 프로세서(370)를 포함하거나, 프로세서(370)를 포함하지 않을 수도 있다. 예를 들면, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350) 각각은 개별적으로 프로세서를 포함할 수 있다.
오브젝트 검출 장치(300)에 프로세서(370)가 포함되지 않는 경우, 오브젝트 검출 장치(300)는, 차량(100)내 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
오브젝트 검출 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
통신 장치(400)는, 외부 디바이스와 통신을 수행하기 위한 장치이다. 여기서, 외부 디바이스는, 타 차량, 이동 단말기 또는 서버일 수 있다.
통신 장치(400)는, 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다.
통신 장치(400)는, 근거리 통신부(410), 위치 정보부(420), V2X 통신부(430), 광통신부(440), 방송 송수신부(450) 및 프로세서(470)를 포함할 수 있다.
실시예에 따라, 통신 장치(400)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
근거리 통신부(410)는, 근거리 통신(Short range communication)을 위한 유닛이다. 근거리 통신부(410)는, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
근거리 통신부(410)는, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량(100)과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다.
위치 정보부(420)는, 차량(100)의 위치 정보를 획득하기 위한 유닛이다. 예를 들면, 위치 정보부(420)는, GPS(Global Positioning System) 모듈 또는 DGPS(Differential Global Positioning System) 모듈을 포함할 수 있다.
V2X 통신부(430)는, 서버(V2I : Vehicle to Infra), 타 차량(V2V : Vehicle to Vehicle) 또는 보행자(V2P : Vehicle to Pedestrian)와의 무선 통신 수행을 위한 유닛이다. V2X 통신부(430)는, 인프라와의 통신(V2I), 차량간 통신(V2V), 보행자와의 통신(V2P) 프로토콜이 구현 가능한 RF 회로를 포함할 수 있다.
광통신부(440)는, 광을 매개로 외부 디바이스와 통신을 수행하기 위한 유닛이다. 광통신부(440)는, 전기 신호를 광 신호로 전환하여 외부에 발신하는 광발신부 및 수신된 광 신호를 전기 신호로 전환하는 광수신부를 포함할 수 있다.
실시예에 따라, 광발신부는, 차량(100)에 포함된 램프와 일체화되게 형성될 수 있다.
방송 송수신부(450)는, 방송 채널을 통해, 외부의 방송 관리 서버로부터 방송 신호를 수신하거나, 방송 관리 서버에 방송 신호를 송출하기 위한 유닛이다. 방송 채널은, 위성 채널, 지상파 채널을 포함할 수 있다. 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 수 있다.
프로세서(470)는, 통신 장치(400)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 통신 장치(400)는, 복수의 프로세서(470)를 포함하거나, 프로세서(470)를 포함하지 않을 수도 있다.
통신 장치(400)에 프로세서(470)가 포함되지 않는 경우, 통신 장치(400)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 통신 장치(400)는, 사용자 인터페이스 장치(200)와 함께 차량용 디스플레이 장치를 구현할 수 있다. 이경우, 차량용 디스플레이 장치는, 텔레 매틱스(telematics) 장치 또는 AVN(Audio Video Navigation) 장치로 명명될 수 있다.
통신 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운전 조작 장치(500)는, 운전을 위한 사용자 입력을 수신하는 장치이다.
메뉴얼 모드인 경우, 차량(100)은, 운전 조작 장치(500)에 의해 제공되는 신호에 기초하여 운행될 수 있다.
운전 조작 장치(500)는, 조향 입력 장치(510), 가속 입력 장치(530) 및 브레이크 입력 장치(570)를 포함할 수 있다.
조향 입력 장치(510)는, 사용자로부터 차량(100)의 진행 방향 입력을 수신할 수 있다. 조향 입력 장치(510)는, 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
가속 입력 장치(530)는, 사용자로부터 차량(100)의 가속을 위한 입력을 수신할 수 있다. 브레이크 입력 장치(570)는, 사용자로부터 차량(100)의 감속을 위한 입력을 수신할 수 있다. 가속 입력 장치(530) 및 브레이크 입력 장치(570)는, 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 장치 또는 브레이크 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
운전 조작 장치(500)는, 제어부(170)의 제어에 따라 동작될 수 있다.
차량 구동 장치(600)는, 차량(100)내 각종 장치의 구동을 전기적으로 제어하는 장치이다.
차량 구동 장치(600)는, 파워 트레인 구동부(610), 샤시 구동부(620), 도어/윈도우 구동부(630), 안전 장치 구동부(640), 램프 구동부(650) 및 공조 구동부(660)를 포함할 수 있다.
실시예에 따라, 차량 구동 장치(600)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 차량 구동 장치(600)는 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
파워 트레인 구동부(610)는, 파워 트레인 장치의 동작을 제어할 수 있다.
파워 트레인 구동부(610)는, 동력원 구동부(611) 및 변속기 구동부(612)를 포함할 수 있다.
동력원 구동부(611)는, 차량(100)의 동력원에 대한 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진이 동력원인 경우, 동력원 구동부(610)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(611)는, 제어부(170)의 제어에 따라, 엔진 출력 토크를 조정할 수 있다.
예를 들면, 전기 에너지 기반의 모터가 동력원인 경우, 동력원 구동부(610)는, 모터에 대한 제어를 수행할 수 있다. 동력원 구동부(610)는, 제어부(170)의 제어에 따라, 모터의 회전 속도, 토크 등을 조정할 수 있다.
변속기 구동부(612)는, 변속기에 대한 제어를 수행할 수 있다.
변속기 구동부(612)는, 변속기의 상태를 조정할 수 있다. 변속기 구동부(612)는, 변속기의 상태를, 전진(D), 후진(R), 중립(N) 또는 주차(P)로 조정할 수 있다.
한편, 엔진이 동력원인 경우, 변속기 구동부(612)는, 전진(D) 상태에서, 기어의 물림 상태를 조정할 수 있다.
샤시 구동부(620)는, 샤시 장치의 동작을 제어할 수 있다.
샤시 구동부(620)는, 조향 구동부(621), 브레이크 구동부(622) 및 서스펜션 구동부(623)를 포함할 수 있다.
조향 구동부(621)는, 차량(100) 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 조향 구동부(621)는, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(622)는, 차량(100) 내의 브레이크 장치(brake apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량(100)의 속도를 줄일 수 있다.
한편, 브레이크 구동부(622)는, 복수의 브레이크 각각을 개별적으로 제어할 수 있다. 브레이크 구동부(622)는, 복수의 휠에 걸리는 제동력을 서로 다르게 제어할 수 있다.
서스펜션 구동부(623)는, 차량(100) 내의 서스펜션 장치(suspension apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 서스펜션 구동부(623)는 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량(100)의 진동이 저감되도록 제어할 수 있다.
한편, 서스펜션 구동부(623)는, 복수의 서스펜션 각각을 개별적으로 제어할 수 있다.
도어/윈도우 구동부(630)는, 차량(100) 내의 도어 장치(door apparatus) 또는 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다.
도어/윈도우 구동부(630)는, 도어 구동부(631) 및 윈도우 구동부(632)를 포함할 수 있다.
도어 구동부(631)는, 도어 장치에 대한 제어를 수행할 수 있다. 도어 구동부(631)는, 차량(100)에 포함되는 복수의 도어의 개방, 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 트렁크(trunk) 또는 테일 게이트(tail gate)의 개방 또는 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 썬루프(sunroof)의 개방 또는 폐쇄를 제어할 수 있다.
윈도우 구동부(632)는, 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 차량(100)에 포함되는 복수의 윈도우의 개방 또는 폐쇄를 제어할 수 있다.
안전 장치 구동부(640)는, 차량(100) 내의 각종 안전 장치(safety apparatus)에 대한 전자식 제어를 수행할 수 있다.
안전 장치 구동부(640)는, 에어백 구동부(641), 시트벨트 구동부(642) 및 보행자 보호 장치 구동부(643)를 포함할 수 있다.
에어백 구동부(641)는, 차량(100) 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 에어백 구동부(641)는, 위험 감지시, 에어백이 전개되도록 제어할 수 있다.
시트벨트 구동부(642)는, 차량(100) 내의 시트벨트 장치(seatbelt appartus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 시트벨트 구동부(642)는, 위험 감지시, 시트 밸트를 이용해 탑승객이 시트(110FL, 110FR, 110RL, 110RR)에 고정되도록 제어할 수 있다.
보행자 보호 장치 구동부(643)는, 후드 리프트 및 보행자 에어백에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 보행자 보호 장치 구동부(643)는, 보행자와의 충돌 감지시, 후드 리프트 업 및 보행자 에어백 전개되도록 제어할 수 있다.
램프 구동부(650)는, 차량(100) 내의 각종 램프 장치(lamp apparatus)에 대한 전자식 제어를 수행할 수 있다.
공조 구동부(660)는, 차량(100) 내의 공조 장치(air cinditioner)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 공조 구동부(660)는, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
차량 구동 장치(600)는, 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
차량 구동 장치(600)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운행 시스템(700)은, 차량(100)의 각종 운행을 제어하는 시스템이다. 운행 시스템(700)은, 자율 주행 모드에서 동작될 수 있다.
운행 시스템(700)은, 주행 시스템(710), 출차 시스템(740) 및 주차 시스템(750) 을 포함할 수 있다.
실시예에 따라, 운행 시스템(700)은, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 운행 시스템(700)은, 프로세서를 포함할 수 있다. 운행 시스템(700)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
한편, 실시예에 따라, 운행 시스템(700)이 소프트웨어적으로 구현되는 경우, 제어부(170)의 하위 개념일 수도 있다.
한편, 실시예에 따라, 운행 시스템(700)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 차량 구동 장치(600) 및 제어부(170) 중 적어도 어느 하나를 포함하는 개념일 수 있다.
주행 시스템(710)은, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
출차 시스템(740)은, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
주차 시스템(750)은, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
내비게이션 시스템(770)은, 내비게이션 정보를 제공할 수 있다. 내비게이션 정보는, 맵(map) 정보, 설정된 목적지 정보, 상기 목적지 설정 따른 경로 정보, 경로 상의 다양한 오브젝트에 대한 정보, 차선 정보 및 차량의 현재 위치 정보 중 적어도 어느 하나를 포함할 수 있다.
내비게이션 시스템(770)은, 메모리, 프로세서를 포함할 수 있다. 메모리는 내비게이션 정보를 저장할 수 있다. 프로세서는 내비게이션 시스템(770)의 동작을 제어할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 통신 장치(400)를 통해, 외부 디바이스로부터 정보를 수신하여, 기 저장된 정보를 업데이트 할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 사용자 인터페이스 장치(200)의 하위 구성 요소로 분류될 수도 있다.
센싱부(120)는, 차량의 상태를 센싱할 수 있다. 센싱부(120)는, 자세 센서(예를 들면, 요 센서(yaw sensor), 롤 센서(roll sensor), 피치 센서(pitch sensor)), 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 조도 센서, 가속 페달 포지션 센서, 브레이크 페달 포지션 센서, 등을 포함할 수 있다.
센싱부(120)는, 차량 자세 정보, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도, 차량 외부 조도, 가속 페달에 가해지는 압력, 브레이크 페달에 가해지는 압력 등에 대한 센싱 신호를 획득할 수 있다.
센싱부(120)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
차량 인터페이스부(130)는, 차량(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 차량 인터페이스부(130)는 이동 단말기와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기와 연결할 수 있다. 이경우, 차량 인터페이스부(130)는 이동 단말기와 데이터를 교환할 수 있다.
한편, 차량 인터페이스부(130)는 연결된 이동 단말기에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기가 차량 인터페이스부(130)에 전기적으로 연결되는 경우, 제어부(170)의 제어에 따라, 차량 인터페이스부(130)는 전원 공급부(190)에서 공급되는 전기 에너지를 이동 단말기에 제공할 수 있다.
메모리(140)는, 제어부(170)와 전기적으로 연결된다. 메모리(140)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(140)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(140)는 제어부(170)의 처리 또는 제어를 위한 프로그램 등, 차량(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(140)는, 제어부(170)와 일체형으로 형성되거나, 제어부(170)의 하위 구성 요소로 구현될 수 있다.
제어부(170)는, 차량(100) 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(170)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
전원 공급부(190)는, 제어부(170)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(190)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
차량(100)에 포함되는, 하나 이상의 프로세서 및 제어부(170)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
한편, 본 발명과 관련된 차량(100)은 경로 안내 장치(790)를 포함할 수 있다.
경로 안내 장치(790)는, 도 7에서 설명한 구성요소들 중 적어도 하나를 제어하는 것이 가능하다. 이러한 관점에서 봤을 때, 상기 경로 안내 장치(790)는 제어부(170)일 수 있다.
이에 한정되지 않고, 경로 안내 장치(790)는, 제어부(170)와 독립된 별도의 구성일 수 있다. 즉, 경로 안내 장치(790)는, 차량(100)과는 독립된 장치 또는 모듈로 구현될 수 있으며, 이 경우, 경로 안내 장치(790)는, 차량(100)의 일 부분을 통해 차량(100)의 일 구성요소와 통신/상호작용을 할 수 있다.
경로 안내 장치(790)가 제어부(170)와는 별개로 독립된 구성요소로 구현되는 경우, 상기 경로 안내 장치(790)는 차량(100)의 일부분에 구비/연결/장착될 수 있다.
이하에서는, 설명의 편의를 위해 경로 안내 장치(790)를 제어부(170)와 독립된 별도의 구성인 것으로 설명하기로 한다.
또한, 본 명세서에서 경로 안내 장치(790)에 대하여 설명하는 기능(동작) 및 제어방법은, 차량의 제어부(170)에 의해 수행될 수 있다. 즉, 경로 안내 장치(790)와 관련하여 설명한 모든 내용은, 제어부(170)에도 동일/유사하게 유추적용될 수 있다.
또한, 본 명세서에서 설명하는 경로 안내 장치(790)는, 도 7에서 설명한 구성요소 및 차량에 구비되는 다양한 구성요소들 중 일부분이 포함될 수 있다. 본 명세서에서는, 설명의 편의를 위해, 도 7에서 설명한 구성요소 및 차량에 구비되는 다양한 구성요소들을 별도의 명칭과 도면부호를 부여하여 설명하기로 한다.
한편, 본 발명의 경로 안내 장치(790)는, 도 8에 도시된 이동 단말기(800)이거나, 이동 단말기(800)로 구현될 수 있다. 상기 이동 단말기(800)는, 차량(100)과 통신 가능하며, 차량(100)과는 독립된 구성요소일 수 있다.
이하에서는, 경로 안내 장치(790)의 일 실시 예인 이동 단말기(800)에 대하여 구체적으로 설명하기로 한다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다.
그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 8은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이다.
상기 이동 단말기(800)는 무선 통신부(810), 입력부(820), 센싱부(840), 출력부(850), 인터페이스부(860), 메모리(870), 제어부(880) 및 전원 공급부(890) 등을 포함할 수 있다. 도 8에 도시된 구성요소들은 이동 단말기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 이동 단말기는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 상기 구성요소들 중 무선 통신부(810)는, 이동 단말기(800)와 무선 통신 시스템 사이, 이동 단말기(800)와 다른 이동 단말기(800) 사이, 또는 이동 단말기(800)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(810)는, 이동 단말기(800)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(810)는, 방송 수신 모듈(811), 이동통신 모듈(812), 무선 인터넷 모듈(813), 근거리 통신 모듈(814), 위치정보 모듈(815) 중 적어도 하나를 포함할 수 있다.
입력부(820)는, 영상 신호 입력을 위한 카메라(821) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 822), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(823, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(820)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(840)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(840)는 근접센서(841, proximity sensor), 조도 센서(842, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(821 참조)), 마이크로폰(microphone, 822 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 이동 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(850)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(851), 음향 출력부(852), 햅팁 모듈(853), 광 출력부(854) 중 적어도 하나를 포함할 수 있다. 디스플레이부(851)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 이동 단말기(800)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(823)로써 기능함과 동시에, 이동 단말기(800)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(860)는 이동 단말기(800)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(860)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. 이동 단말기(800)에서는, 상기 인터페이스부(860)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(870)는 이동 단말기(800)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(870)는 이동 단말기(800)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 이동 단말기(800)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 이동 단말기(800)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 이동 단말기(800)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(870)에 저장되고, 이동 단말기(800) 상에 설치되어, 제어부(880)에 의하여 상기 이동 단말기의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(880)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 이동 단말기(800)의 전반적인 동작을 제어한다. 제어부(880)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(870)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(880)는 메모리(870)에 저장된 응용 프로그램을 구동하기 위하여, 도 8과 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(880)는 상기 응용 프로그램의 구동을 위하여, 이동 단말기(800)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(890)는 제어부(880)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 이동 단말기(800)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(890)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체가능한 형태의 배터리가 될 수 있다.
상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 이동 단말기의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 이동 단말기의 동작, 제어, 또는 제어방법은 상기 메모리(870)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 이동 단말기 상에서 구현될 수 있다.
이하에서는, 위에서 살펴본 이동 단말기(800)를 통하여 구현되는 다양한 실시 예들을 살펴보기에 앞서, 위에서 열거된 구성요소들에 대하여 도 8을 참조하여 보다 구체적으로 살펴본다.
먼저, 무선 통신부(810)에 대하여 살펴보면, 무선 통신부(810)의 방송 수신 모듈(811)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(800)에 제공될 수 있다.
이동통신 모듈(812)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(813)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(800)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(813)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(813)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다.
WiBro, HSDPA, HSUPA, GSM, CDMA, WCDMA, LTE, LTE-A 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(813)은 상기 이동통신 모듈(812)의 일종으로 이해될 수도 있다.
근거리 통신 모듈(814)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다. 이러한, 근거리 통신 모듈(814)은, 근거리 무선 통신망(Wireless Area Networks)을 통해 이동 단말기(800)와 무선 통신 시스템 사이, 이동 단말기(800)와 다른 이동 단말기(800) 사이, 또는 이동 단말기(800)와 다른 이동 단말기(800, 또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 지원할 수 있다. 상기 근거리 무선 통신망은 근거리 무선 개인 통신망(Wireless Personal Area Networks)일 수 있다.
여기에서, 다른 이동 단말기(800)는 본 발명에 따른 이동 단말기(800)와 데이터를 상호 교환하는 것이 가능한(또는 연동 가능한) 웨어러블 디바이스(wearable device, 예를 들어, 스마트워치(smartwatch), 스마트 글래스(smart glass), HMD(head mounted display))가 될 수 있다. 근거리 통신 모듈(814)은, 이동 단말기(800) 주변에, 상기 이동 단말기(800)와 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(880)는 상기 감지된 웨어러블 디바이스가 본 발명에 따른 이동 단말기(800)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(800)에서 처리되는 데이터의 적어도 일부를, 상기 근거리 통신 모듈(814)을 통해 웨어러블 디바이스로 전송할 수 있다. 따라서, 웨어러블 디바이스의 사용자는, 이동 단말기(800)에서 처리되는 데이터를, 웨어러블 디바이스를 통해 이용할 수 있다. 예를 들어, 이에 따르면 사용자는, 이동 단말기(800)에 전화가 수신된 경우, 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(800)에 메시지가 수신된 경우, 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.
위치정보 모듈(815)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, 이동 단말기는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 이동 단말기의 위치를 획득할 수 있다. 다른 예로서, 이동 단말기는 Wi-Fi모듈을 활용하면, Wi-Fi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)의 정보에 기반하여, 이동 단말기의 위치를 획득할 수 있다. 필요에 따라서, 위치정보모듈(815)은 치환 또는 부가적으로 이동 단말기의 위치에 관한 데이터를 얻기 위해 무선 통신부(810)의 다른 모듈 중 어느 기능을 수행할 수 있다. 위치정보모듈(815)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위해 이용되는 모듈로, 이동 단말기의 위치를 직접적으로 계산하거나 획득하는 모듈로 한정되지는 않는다.
다음으로, 입력부(820)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, 이동 단말기(800) 는 하나 또는 복수의 카메라(821)를 구비할 수 있다. 카메라(821)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(851)에 표시되거나 메모리(870)에 저장될 수 있다. 한편, 이동 단말기(800)에 구비되는 복수의 카메라(821)는 매트릭스 구조를 이루도록 배치될 수 있으며, 이와 같이 매트릭스 구조를 이루는 카메라(821)를 통하여, 이동 단말기(800)에는 다양한 각도 또는 초점을 갖는 복수의 영상정보가 입력될 수 있다. 또한, 복수의 카메라(821)는 입체영상을 구현하기 위한 좌 영상 및 우 영상을 획득하도록, 스트레오 구조로 배치될 수 있다.
마이크로폰(822)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 이동 단말기(800)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(822)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(823)는 사용자로부터 정보를 입력받기 위한 것으로서, 사용자 입력부(823)를 통해 정보가 입력되면, 제어부(880)는 입력된 정보에 대응되도록 이동 단말기(800)의 동작을 제어할 수 있다. 이러한, 사용자 입력부(823)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 이동 단말기(800)의 전?후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다. 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다.
한편, 센싱부(840)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하고, 이에 대응하는 센싱 신호를 발생시킨다. 제어부(880)는 이러한 센싱 신호에 기초하여, 이동 단말기(800)의 구동 또는 동작을 제어하거나, 이동 단말기(800)에 설치된 응용 프로그램과 관련된 데이터 처리, 기능 또는 동작을 수행 할 수 있다. 센싱부(840)에 포함될 수 있는 다양한 센서 중 대표적인 센서들의 대하여, 보다 구체적으로 살펴본다.
먼저, 근접 센서(841)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선 등을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 이러한 근접 센서(841)는 위에서 살펴본 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(841)가 배치될 수 있다.
근접 센서(841)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 터치 스크린이 정전식인 경우에, 근접 센서(841)는 전도성을 갖는 물체의 근접에 따른 전계의 변화로 상기 물체의 근접을 검출하도록 구성될 수 있다. 이 경우 터치 스크린(또는 터치 센서) 자체가 근접 센서로 분류될 수 있다.
한편, 설명의 편의를 위해, 터치 스크린 상에 물체가 접촉되지 않으면서 근접되어 상기 물체가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 명명하고, 상기 터치 스크린 상에 물체가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 명명한다. 상기 터치 스크린 상에서 물체가 근접 터치 되는 위치라 함은, 상기 물체가 근접 터치될 때 상기 물체가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다. 상기 근접 센서(841)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지할 수 있다. 한편, 제어부(880)는 위와 같이, 근접 센서(841)를 통해 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 데이터(또는 정보)를 처리하며, 나아가, 처리된 데이터에 대응하는 시각적인 정보를 터치 스크린상에 출력시킬 수 있다. 나아가, 제어부(880)는, 터치 스크린 상의 동일한 지점에 대한 터치가, 근접 터치인지 또는 접촉 터치인지에 따라, 서로 다른 동작 또는 데이터(또는 정보)가 처리되도록 이동 단말기(800)를 제어할 수 있다.
터치 센서는 저항막 방식, 정전용량 방식, 적외선 방식, 초음파 방식, 자기장 방식 등 여러 가지 터치방식 중 적어도 하나를 이용하여 터치 스크린(또는 디스플레이부(851))에 가해지는 터치(또는 터치입력)을 감지한다.
일 예로서, 터치 센서는, 터치 스크린의 특정 부위에 가해진 압력 또는 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 스크린 상에 터치를 가하는 터치 대상체가 터치 센서 상에 터치 되는 위치, 면적, 터치 시의 압력, 터치 시의 정전 용량 등을 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.
이와 같이, 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(880)로 전송한다. 이로써, 제어부(880)는 디스플레이부(851)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다. 여기에서, 터치 제어기는, 제어부(880)와 별도의 구성요소일 수 있고, 제어부(880) 자체일 수 있다.
한편, 제어부(880)는, 터치 스크린(또는 터치 스크린 이외에 구비된 터치키)을 터치하는, 터치 대상체의 종류에 따라 서로 다른 제어를 수행하거나, 동일한 제어를 수행할 수 있다. 터치 대상체의 종류에 따라 서로 다른 제어를 수행할지 또는 동일한 제어를 수행할 지는, 현재 이동 단말기(800)의 동작상태 또는 실행 중인 응용 프로그램에 따라 결정될 수 있다.
한편, 위에서 살펴본 터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다.
초음파 센서는 초음파를 이용하여, 감지대상의 위치정보를 인식할 수 있다. 한편 제어부(880)는 광 센서와 복수의 초음파 센서로부터 감지되는 정보를 통해, 파동 발생원의 위치를 산출하는 것이 가능하다. 파동 발생원의 위치는, 광이 초음파보다 매우 빠른 성질, 즉, 광이 광 센서에 도달하는 시간이 초음파가 초음파 센서에 도달하는 시간보다 매우 빠름을 이용하여, 산출될 수 있다. 보다 구체적으로 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치가 산출될 수 있다.
한편, 입력부(820)의 구성으로 살펴본, 카메라(821)는 카메라 센서(예를 들어, CCD, CMOS 등), 포토 센서(또는 이미지 센서) 및 레이저 센서 중 적어도 하나를 포함한다.
카메라(821)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다.
디스플레이부(851)는 이동 단말기(800)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(851)는 이동 단말기(800)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
또한, 상기 디스플레이부(851)는 입체영상을 표시하는 입체 디스플레이부로서 구성될 수 있다.
상기 입체 디스플레이부에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다.
일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.
또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이들이 합쳐짐에 따라 하나의 영상으로 생성될 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.
3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부에 의하여 입체 디스플레이부에 표시될 수 있다. 입체 처리부는 3D 영상(기준시점의 영상과 확장시점의 영상)을 입력 받아 이로부터 좌 영상과 우 영상을 설정하거나, 2D 영상을 입력 받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.
음향 출력부(852)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(810)로부터 수신되거나 메모리(870)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력부(852)는 이동 단말기(800)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력부(852)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
햅틱 모듈(haptic module)(853)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(853)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅틱 모듈(853)에서 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(853)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(853)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(electrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(853)은 직접적인 접촉을 통해 촉각 효과를 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(853)은 이동 단말기(800)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
광출력부(854)는 이동 단말기(800)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(800)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.
광출력부(854)가 출력하는 신호는 이동 단말기가 전면이나 후면으로 단색이나 복수색의 빛을 발광함에 따라 구현된다. 상기 신호 출력은 이동 단말기가 사용자의 이벤트 확인을 감지함에 의하여 종료될 수 있다.
인터페이스부(860)는 이동 단말기(800)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(860)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(800) 내부의 각 구성요소에 전달하거나, 이동 단말기(800) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트(port), 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(860)에 포함될 수 있다.
한편, 식별 모듈은 이동 단말기(800)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(860)를 통하여 단말기(800)와 연결될 수 있다.
또한, 상기 인터페이스부(860)는 이동 단말기(800)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(800)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(800)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(800)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.
메모리(870)는 제어부(880)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(870)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(870)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(800)는 인터넷(internet)상에서 상기 메모리(870)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
한편, 앞서 살펴본 것과 같이, 제어부(880)는 응용 프로그램과 관련된 동작과, 통상적으로 이동 단말기(800)의 전반적인 동작을 제어한다. 예를 들어, 제어부(880)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다.
또한, 제어부(880)는 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행하거나, 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. 나아가 제어부(880)는 이하에서 설명되는 다양한 실시 예들을 본 발명에 따른 이동 단말기(800) 상에서 구현하기 위하여, 위에서 살펴본 구성요소들을 중 어느 하나 또는 복수를 조합하여 제어할 수 있다.
전원 공급부(890)는 제어부(880)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(890)는 배터리를 포함하며, 배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다.
또한, 전원공급부(890)는 연결포트를 구비할 수 있으며, 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(860)의 일 예로서 구성될 수 있다.
다른 예로서, 전원공급부(890)는 상기 연결포트를 이용하지 않고 무선방식으로 배터리를 충전하도록 이루어질 수 있다. 이 경우에, 전원공급부(890)는 외부의 무선 전력 전송장치로부터 자기 유도 현상에 기초한 유도 결합(Inductive Coupling) 방식이나 전자기적 공진 현상에 기초한 공진 결합(Magnetic Resonance Coupling) 방식 중 하나 이상을 이용하여 전력을 전달받을 수 있다.
한편, 이하에서 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
이하에서는, 본 발명의 일 실시 예에 따른 증강 현실을 통해 차량이 주행해야 할 경로를 최적화된 방법으로 가이드하는 경로 안내 장치 및 그것의 경로 안내 방법에 대하여 살펴보기로 한다.
도 9는 본 발명의 경로 안내 장치를 설명하기 위한 블록도이다.
도 9를 참조하면, 본 발명의 일 실시 예에 따른 경로 안내 장치(790)는, 통신부(910), 이를 제어하는 것이 가능한 프로세서(920) 및 프로세서(920)에서 처리된 정보를 출력하는 디스플레이부(930)를 포함할 수 있다.
상기 통신부(910)는, 경로 안내 장치(790)가 외부 장치 또는 외부 구성요소와 통신을 수행하도록 형성될 수 있으며, 유선/무선 통신을 수행할 수 있다.
상기 통신부(910)는, 앞서 설명한 차량(100)의 통신 장치(400) 또는 이동 단말기(800)의 무선 통신부(810) 또는 이동 단말기(800)의 인터페이스부(860) 중 어느 하나이거나, 이들의 내용을 동일/유사하게 유추적용할 수 있다.
일 예로, 경로 안내 장치(790)가 차량(100)의 제어부(170)로 구현되는 경우, 상기 통신부(910)는 차량의 통신 장치(400)일 수 있다.
다른 예로, 경로 안내 장치(790)가 이동 단말기(100)로 구현되는 경우, 통신부(910)는, 이동 단말기(800)의 무선 통신부(810) 또는 이동 단말기(800)의 인터페이스부(860)일 수 있다.
또 다른 예로, 경로 안내 장치(790)가 차량(100) 및/또는 이동 단말기(800)와 통신을 수행하는 것이 가능하도록 구현된 별도의 독립된 장치인 경우, 앞서 설명한 통신 장치(400), 무선 통신부(810) 및/또는 인터페이스부(860)의 내용을 동일/유사하게 유추적용할 수 있다.
프로세서(920)는, 상기 통신부(910)를 제어하도록 형성될 수 있으며, 경로 안내 장치(790)에서 수행되는 동작 및 기능을 제어할 수 있다.
상기 프로세서(920)는, 앞서 설명한 차량(100)의 제어부(170) 또는 이동 단말기(800)의 제어부(880)일 수 있으며, 이들의 내용을 동일/유사하게 유추적용할 수 있다.
일 예로, 경로 안내 장치(790)가 차량(100)의 제어부(170)로 구현되는 경우, 상기 프로세서(920)는 차량(100)의 제어부(170)일 수 있다.
다른 예로, 경로 안내 장치(790)가 이동 단말기(100)로 구현되는 경우, 상기 프로세서(920)는, 이동 단말기(800)의 제어부(880)일 수 있다.
또 다른 예로, 경로 안내 장치(790)가 차량(100) 및/또는 이동 단말기(800)와 통신을 수행하는 것이 가능하도록 구현된 별도의 독립된 장치인 경우, 상기 프로세서(920)는, 차량 및/또는 이동 단말기와 통신을 수행하며, 차량 및/또는 이동 단말기 중 적어도 하나를 제어할 수 있다.
통신부(910)는, 카메라를 통해 촬영된 제1 영상을 수신할 수 있다.
상기 카메라는, 경로 안내 장치(790)에 구비된 카메라일 수도 있고, 차량에 구비된 카메라(310)이거나, 이동 단말기에 구비된 카메라(821)일 수 있다.
프로세서(920)는, 카메라를 통해 처리된 영상(예를 들어, 실시간 영상, 프리뷰(preview) 영상, 또는 라이브(Live) 영상)을 통신부(910)를 통해 수신할 수 있다.
일 예로, 경로 안내 장치(790)가 이동 단말기(800)로 구현된 경우, 프로세서(920)는, 카메라(821)를 통해 촬영된 제1 영상을 통신부(810)(또는 인터페이스부(860))를 통해 수신할 수 있다.
프로세서(920)는, 수신된 제1 영상에 대하여 증강 현실을 구현하기 위한 캘리브레이션(Calibration)을 수행할 수 있다.
본 명세서에서는, 캘리브레이션이 수행되기 전 영상을 제1 영상으로 명명하고, 캘리브레이션이 수행된 영상을 제2 영상으로 명명하기로 한다.
프로세서(920)는, 상기 제1 영상에 대하여 캘리브레이션을 수행할 수 있다.
또한, 프로세서(920)는, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력할 수 있다.
카메라를 통해 촬영된 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력한다는 것은, 증강 현실(Augmented Reality)를 구현한다 또는 증강 현실로 경로 안내를 수행한다는 것을 의미할 수 있다.
상기 디스플레이부(930)는, 프로세서(920)에서 처리된 정보를 출력하도록 형성될 수 있으며, 차량(100)에 구비된 디스플레이부(251) 및/또는 이동 단말기(800)의 디스플레이부(851)일 수 있다.
일 예로, 프로세서(920)는, 카메라를 통해 수신된 영상과, 상기 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 디스플레이부(930)에 출력할 수 있다.
본 명세서에서 설명하는 경로 안내 장치(790)의 동작 및 제어방법은, 상기 차량(100)의 제어부(170)에 의해 수행될 수도 있다. 즉, 경로 안내 장치(790)의 프로세서(920)에 의하여 수행되는 동작 및/또는 제어방법은, 차량(100)의 제어부(170) 또는 이동 단말기(800)의 제어부(880)에 의하여 수행될 수 있다.
통신부(910)는, 도 7 및 도 8에서 설명한 다양한 구성요소들과 통신을 수행하도록 이루어진다. 일 예로, 통신부(910)는 CAN(controller are network)을 통해 제공되는 각종 정보를 수신할 수 있다. 다른 일 예로, 통신부(910)는, 차량, 이동 단말기와 서버, 다른 차량과 같이 통신 가능한 모든 기기와 통신을 수행할 수 있다. 이는, V2X(Vehicle to everything) 통신으로 명명될 수 있다. V2X 통신은 운전 중 도로 인프라 및 다른 차량과 통신하면서 교통상황 등의 정보를 교환하거나 공유하는 기술로 정의될 수 있다.
통신부(910)는 상기 차량(100)에 구비된 하나 또는 그 이상의 디바이스들과 통신을 수행하도록 이루어진다. 상기 통신부(810)는 6GHz 이상의 주파수 대역에서 5G 통신을 구현하기 위해, 빔 포머(Beam former) 및 상기 빔 포머를 제어하는 RFIC(Radio Frequency IC)를 구비할 수 있다. 다만, 상기 통신부(810)가 6GHz 이하의 주파수 대역에서 5G 통신을 구현하는 경우, 상기 빔 포머 및 RFIC는 필수적인 것은 아니다.
나아가, 통신부(910)는 차량(100)에 구비된 대부분의 장치들로부터 차량의 주행과 관련된 정보를 수신할 수 있다. 상기 차량(100)에서 경로 안내 장치(790)로 전송되는 정보를 ‘차량 주행 정보’로 호칭한다.
차량 주행 정보는 차량 정보 및 차량의 주변 정보를 포함한다. 차량(100)의 프레임을 기준으로 차량 내부와 관련된 정보를 차량 정보, 차량 외부와 관련된 정보를 주변 정보로 정의할 수 있다.
차량 정보는 차량 자체에 관한 정보를 의미한다. 예를 들어, 차량 정보는 차량의 주행속도, 주행방향, 가속도, 각속도, 위치(GPS), 무게, 차량의 탑승인원, 차량의 제동력, 차량의 최대 제동력, 각 바퀴의 공기압, 차량에 가해지는 원심력, 차량의 주행모드(자율주행모드인지 수동주행인지 여부), 차량의 주차모드(자율주차모드, 자동주차모드, 수동주차모드), 차량 내에 사용자가 탑승해있는지 여부 및 상기 사용자와 관련된 정보 등을 포함할 수 있다.
주변 정보는 차량을 중심으로 소정 범위 내에 위치하는 다른 물체에 관한 정보 및 차량 외부와 관련된 정보를 의미한다. 예를 들어, 차량이 주행중인 노면의 상태(마찰력), 날씨, 전방(또는 후방) 차량과의 거리, 전방(또는 후방) 차량의 상대속도, 주행중인 차선이 커브인 경우 커브의 굴곡률, 차량 주변밝기, 차량을 기준으로 기준영역(일정영역) 내에 존재하는 객체와 관련된 정보, 상기 일정영역으로 객체가 진입/이탈하는지 여부, 차량 주변에 사용자가 존재하는지 여부 및 상기 사용자와 관련된 정보(예를 들어, 상기 사용자가 인증된 사용자인지 여부) 등일 수 있다.
또한, 상기 주변 정보는, 주변밝기, 온도, 태양위치, 주변에 위치하는 객체 정보(사람, 타차량, 표지판 등), 주행중인 노면의 종류, 지형지물, 차선(Line) 정보, 주행 차로(Lane) 정보, 자율주행/자율주차/자동주차/수동주차 모드에 필요한 정보를 포함할 수 있다.
또한, 주변 정보는, 차량 주변에 존재하는 객체(오브젝트)와 차량(100)까지의 거리, 충돌 가능성, 상기 객체의 종류, 차량이 주차 가능한 주차공간, 주차공간을 식별하기 위한 객체(예를 들어, 주차선, 노끈, 타차량, 벽 등) 등을 더 포함할 수 있다.
상기 차량 주행 정보는 이상에서 설명한 예에 한정되지 않으며, 상기 차량(100)에 구비된 구성요소로부터 생성된 모든 정보를 포함할 수 있다.
디스플레이부(930)는 프로세서(920)의 제어에 따라 다양한 시각정보를 출력한다. 디스플레이부(930)는 차량의 윈드실드나 별도로 구비된 스크린에 시각정보를 출력하거나, 패널을 통해 시각정보를 출력할 수 있다. 상기 디스플레이부(930)는 도 7을 통해 설명한 디스플레이부(251)에 해당할 수도 있다.
예를 들어, 디스플레이부(930)가 출력한 시각정보는 상기 윈드실드나 상기 스크린에서 반사되어 상기 시각정보가 상기 윈드실드나 상기 스크린에 표시되고 있는 것과 같은 효과가 발생한다. 탑승객은 상기 차량(100) 밖에 위치한 현실 세계와 상기 윈드실드나 상기 스크린에 표시되는 가상 객체를 동시에 확인하게 되며, 상기 디스플레이부(930)에 의하여 증강현실이 구현된다.
다른 예로, 디스플레이부(930)에서는, 프로세서(920)의 제어에 의해, 카메라를 통해 실시간으로 수신되는 영상에 다양한 시각정보가 오버랩되어 증강현실이 구현될 수 있다.
프로세서(920)는 상기 통신부(910)를 이용하여 상기 차량(100)에 구비된 하나 또는 그 이상의 디바이스들을 제어하도록 이루어질 수 있다.
구체적으로, 상기 프로세서(920)는 상기 통신부(910)를 통해 수신되는 차량 주행 정보에 근거하여, 기 설정되어 있는 복수의 조건들 중에서 적어도 하나의 조건이 만족되는지를 판단할 수 있다.
만족되는 조건에 따라, 프로세서(920)는 상기 하나 또는 그 이상의 디스플레이들을 서로 다른 방식으로 제어할 수 있다.
기 설정된 조건과 관련하여, 상기 프로세서(90)는 차량(100)에 구비된 전장품 및/또는 애플리케이션에서 이벤트가 발생한 것을 감지하고, 감지된 이벤트가 기 설정된 조건을 만족하는지를 판단할 수 있다. 이때, 상기 프로세서(920)는 통신부(910)를 통해 수신된 정보로부터 이벤트가 발생한 것을 감지할 수도 있다.
상기 애플리케이션은 위젯(widget)이나 홈 런처 등을 포함한 개념으로서, 차량(100)에서 구동 가능한 모든 형태의 프로그램을 의미한다. 따라서, 상기 애플리케이션은 웹 브라우저, 동영상 재생, 메세지 송수신, 일정 관리, 애플리케이션의 업데이트의 기능을 수행하는 프로그램이 될 수 있다.
나아가, 상기 애플리케이션은 전방 추돌 방지(Forward Collision Warning, FCW), 사각 지대 감지(Blind Spot Detection, BSD), 차선 이탈 경고(Lane Departure Warning, LDW), 보행자 감지(Pedestrian Detection, PD), 커브 속도 경고(Curve Speed Warning, CSW) 및 턴 바이 턴 길안내(turn by turn navigation, TBT) 중 적어도 하나를 포함할 수 있다.
예를 들어, 이벤트 발생은, 부재중 전화가 있는 경우, 업데이트 대상인 애플리케이션이 있는 경우, 메세지가 도착한 경우, 시동 온(start on), 시동 오프(start off), 자율 주행 온/오프, 디스플레이 활성화 키 눌림(LCD awake key), 알람(alarm), 호 연결(Incoming call), 부재중 알림(missed notification) 등이 될 수 있다.
다른 예로서, 이벤트 발생은 ADAS(advanced driver assistance system)에서 설정한 경고 발생, ADAS에서 설정한 기능이 수행되는 경우일 수 있다. 예를 들어, 전방 충돌 경고(forward collision warning)가 발생하는 경우, 후측방 경고(blind spot detection)가 발생하는 경우, 차선 이탈 경보(lane departure warning)가 발생하는 경우, 주행 조향 보조 경보(lane keeping assist warning)가 발생하는 경우, 긴급 제동 기능(autonomous emergency braking)이 수행되는 경우에 이벤트가 발생한 것으로 볼 수 있다.
또 다른 예로서, 전진 기어에서 후진 기어로 변경되는 경우, 소정 값보다 큰 가속이 발생되는 경우, 소정 값보다 큰 감속이 발생되는 경우, 동력장치가 내연기관에서 모터로 변경되는 경우, 또는 모터에서 내연기관으로 변경되는 경우에도 이벤트가 발생한 것으로 볼 수 있다.
이 밖에도, 차량(100)에 구비된 다양한 ECU가 특정 기능을 수행하는 경우에도 이벤트가 발생한 것으로 볼 수 있다.
발생한 이벤트가 기 설정된 조건에 만족되는 경우, 프로세서(920)는 만족되는 조건에 대응하는 정보가 상기 하나 또는 그 이상의 디스플레이들에 표시되도록 상기 통신부(910)를 제어한다.
프로세서(920)는 카메라를 통해 상기 차량(100)의 전방을 촬영한 전방 영상을 수신한다. 상기 전방 영상은 상기 통신부(910)를 통해 수신될 수 있으며, 하나 또는 그 이상의 영상들로 이루어질 수 있다.
다음으로, 상기 프로세서(920)는 상기 차량(100)의 주행이 예정된 하나 또는 그 이상의 차선들을 상기 전방 영상으로부터 탐색한다.
설명의 편의를 위하여, 상기 차량(100)의 주행이 예정된 하나 또는 그 이상의 차선들을 '주행 예정 차선'이라고 호칭한다.
상기 주행 예정 차선은 현재 시점을 기준으로 양의 실수인 t 시점까지 상기 차량(100)의 주행이 예정된 차선을 의미한다. 상기 t는 상기 차량(100)의 속도, 상기 차량(100)이 주행 중인 도로의 특성, 상기 차량(100)이 주행 중인 도로에 설정된 제한 속도에 따라 달라질 수 있다.
상기 차량(100)이 자율 주행인 경우, 상기 주행 예정 차선은 자율 주행으로 주행이 예정된 차선을 의미한다. 상기 차량(100)이 수동 주행인 경우 상기 주행 예정 차선은 운전자에게 추천되는 차선을 의미한다.
상기 주행 예정 차선을 탐색하기 위하여, 상기 프로세서(920)는 경로 제공 장치 및/또는 서버로부터 고정밀 지도를 수신하고, 상기 주행 예정 차선을 특정할 수 있는 차량 주행 정보를 수신할 수 있다.
보다 구체적으로, 상기 프로세서(920)는 상기 차량(100)의 전방에 위치한 도로를 차선 단위로 가이드 하는 전방 경로 정보를 수신할 수 있다.
상기 전방 경로 정보는 목적지까지의 주행 경로를 도로에 표시된 차선별로 제공하도록 이루어지며, ADASIS의 표준을 따르는 경로 정보일 수 있다.
상기 전방 경로 정보는 차선 단위로 차량이 주행해야 하는 또는 주행 가능한 경로를 세분화하여 제공할 수 있다. 상기 전방 경로 정보는, 목적지까지의 주행 경로를 차선 단위로 가이드 하는 정보일 수 있다. 상기 전방 경로 정보가 상기 차량(100)에 탑재된 디스플레이에 표시되는 경우, 지도 상에 주행 가능한 차선을 가이드 하는 가이드 라인이 표시될 수 있다. 나아가, 지도에 포함된 복수의 차선들 중 상기 차량(100)이 위치하는 적어도 하나의 차선 위에 상기 차량(100)의 위치를 나타내는 그래픽 객체가 포함될 수 있다.
예를 들어, 상기 차량(100)의 전방에 위치한 도로가 8차선이고, 상기 주행 예정 차선은 2차선일 수 있다. 이 경우, 상기 프로세서(920)는 상기 전방 영상에서 상기 2차선을 탐색할 수 있다.
다른 예를 들어, 상기 차량(100)의 전방에 위치한 도로가 8차선이고, 현재 지점에서 전방 50m까지 2차선으로의 주행이 예정되어 있고, 전방 50m에서 3차선으로의 차선 변경이 예정되어 있을 수 있다. 이 경우, 상기 프로세서(920)는 상기 전방 영상에서 전방 50m까지의 2차선과 전방 50m 이후의 3차선을 탐색할 수 있다.
여기서, 차선을 탐색한다는 것은, 상기 전방 영상의 전체 영역 중에서 상기 주행 예정 차선이 포함된 일부 영역을 탐색하는 것을 의미한다. 이는, 상기 주행 예정 차선을 가이드 하는 카펫 이미지를 상기 탐색된 일부 영역에 중첩되도록 표시함으로써, 상기 차량(100)의 탑승객이 상기 주행 예정 차선을 직관적으로 인식할 수 있도록 하기 위함이다.
다음으로, 상기 프로세서(920)는 상기 탐색된 하나 또는 그 이상의 차선들을 차선 단위로 가이드 하는 카펫 이미지를 디스플레이부(930)를 통해 출력한다.
상기 프로세서(920)는 상기 디스플레이부(930)가 차량의 윈드쉴드 또는 윈도우인 경우, 탑승객의 눈 위치 및/또는 시선에 근거하여 시각정보를 출력할 영상 표시 영역을 설정할 수 있다.
나아가, 상기 프로세서(920)는 탑승객의 눈 위치 및/또는 시선에 근거하여 상기 메인 카펫 이미지의 위치, 크기 및 형태 중 적어도 하나를 결정한다. 상기 메인 카펫 이미지가 상기 윈드실드 또는 상기 스크린에 출력되는 위치, 크기 및 형태 중 적어도 하나는 탑승객의 눈 위치 및/또는 시선에 따라 달라질 수 있다. 이는, 현실 세계(real world)와 가상 이미지(virtual image)가 정확히 일치하는 증강현실(augmented reality)을 제공하기 위한 것이다.
상기 메인 카펫 이미지는 상기 주행 예정 차선을 가이드 하는 것으로 상기 주행 예정 차선과 오버랩 되며 소정 색을 가지는 투명 이미지일 수 있다.
상기 소정 색은 기준 조건에 따라 달라질 수 있다. 예를 들어, 일반적인 도로인 경우, 제1색이지만, 도로에 눈이 쌓인 경우 상기 제1색과 다른 제2색일 수 있다.
탑승객은 상기 메인 카펫 이미지를 통해 상기 차량이 자율 주행으로 주행할 또는 운전자가 운전해야 하는 주행 예정 차선에 대한 경로 정보를 차선 단위로 제공받을 수 있다.
한편, 상기 프로세서(920)는 상기 메인 카펫 이미지뿐만 아니라 탑승객이 선택할 수 있는 하나 또는 그 이상의 서브 카펫 이미지를 상기 메인 카펫 이미지와 함께 탑승객에게 제공할 수 있다.
한편, 상기 프로세서(920)는 상기 차량의 주행이 예정된 경로상에 존재하는 다른 차량에서 촬영된 영상을 수신하도록 상기 통신부를 제어한다. 구체적으로, 다른 차량으로부터 촬영된 영상은 인코딩(enconding)된 후, 상기 차량으로 전송될 수 있다. 이에 따라, 상기 통신부를 통해 수신된 상기 다른 차량에서 촬영된 영상은 별도의 디코딩(decoding)과정을 거쳐야 한다. 디코딩(decoding)을 위한 디코더(decoder)는 경로 안내 장치(800) 또는 차량(100)에 내장되어 있을 수 있다.
이하에서는, 본 발명의 경로 안내 장치(790)가 증강 현실을 통해 차량이 주행해야 하는 경로를 가이드(안내)하는 방법에 대하여 첨부된 도면을 참조하여 보다 구체적으로 살펴보기로 한다.
도 10a, 도 10b, 도 10c, 도 10d, 도 10e, 도 10f, 도 11a, 도 11b, 도 11c, 도 11d, 도 11e, 도 11f 및 도 11g는 본 발명의 일 실시 예에 따른 증강 현실을 적용한 경로 안내 방법을 설명하기 위한 개념도이다.
본 명세서에서, 프로세서(920)가 어느 정보를 출력한다는 것은, 어느 정보를 디스플레이부(930)에 출력한다 또는 어느 정보가 출력되도록 디스플레이부(930)를 제어한다는 것을 의미할 수 있다.
프로세서(920)는, 도 10에 도시된 것과 같이, 길 안내를 위한 애플리케이션(예를 들어, 내비게이션 앱)(1000)이 실행된 후 기 설정된 조건이 만족되는 것에 근거하여, 증강현실(AR) 모드에 진입할 수 있다.
상기 AR 모드에 진입하기 위한 기 설정된 조건은, 사용자 요청이 입력되는 경우, 통신 상태가 원활한 경우, 차량이 고속도로에 진입한 경우, 교차로에 진입/진출하기 소정 거리 이내 등 다양한 조건을 포함할 수 있으며, 사용자에 의해 추가/변경/설정될 수 있다.
AR 모드에 진입하게 되면, 프로세서(920)는, 카메라를 통해 촬영된 제1 영상을 수신할 수 있다. 상기 제1 영상은, 실시간으로 촬영되는 영상일 수 있다.
우선, 프로세서(920)는, 카메라를 통해 촬영된 제1 영상을 수신하고, 상기 제1 영상에 대하여 캘리브레이션을 수행할 수 있다. 상기 캘리브레이션은, 증강 현실을 구현하기 적합하도록 영상을 보정 또는 교정하는 것을 의미할 수 있다.
프로세서(920)는, 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력할 수 있다.
본 명세서에서는, 상기 제1 영상에 캘리브레이션이 수행된 영상을 제2 영상으로 명명하기로 한다.
상기 제1 영상이 실시간으로 수신됨에 따라, 캘리브레이션도 지속적으로 실시간으로 수행될 수 있으며, 이에 따라, 제2 영상도 실시간으로 촬영되는 영상일 수 있다.
프로세서(920)는, 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 제1 영상(1010)에 출력할 수 있다.
프로세서(920)는, 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 제2 영상(1020)에 오버랩하여 출력할 수 있다.
상기 주행과 관련된 제1 그래픽 객체 또는 제2 그래픽 객체는, 일 예로, 내비게이션 애플리케이션(또는 내비게이션 시스템(770))에 의해 생성된 정보이거나, 내비게이션 애플리케이션(또는 내비게이션 시스템(770))과의 통신을 통해 수신된 목적지까지의 경로 정보에 기반하여 프로세서(920)에 의해 생성될 수 있다.
상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보(931)를 포함하고, 상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(932)를 포함할 수 있다.
누구나 또는 차마가 통행할 수 있도록 공개된 장소로 안전하고 원활한 소통을 할 수 있는 장소를 도로라 한다.
이러한 도로에서 차마가 한줄로 주행하도록 차선(line)(1031)으로 구분한 차도의 부분을 차로(lane)(1032)라 한다.
차선은 차로와 차로의 경계지점을 안전표지로 표시한 선을 의미할 수 있다.
도 10a에 도시된 것과 같이, 프로세서(920)는, 캘리브레이션이 수행되기 전 제1 영상(1010)에는, 소정 거리 앞에서 진입해야 하는 도로(또는 방향)을 알려주는 턴-바이-턴 정보(제1 그래픽 객체)(931)만을 제1 영상(1010)에 오버랩하여 출력할 수 있다.
이후, 캘리브레이션이 수행되면, 프로세서(920)는, 캘리브레이션이 수행된 제2 영상(1020)에, 상기 제1 그래픽 객체(931)와 더불어, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(제2 그래픽 객체)(932)를 차로(1032)에 오버랩하여 출력할 수 있다.
상기 카펫 이미지가 오버랩되는 차로(1032)는, 현재 차량이 주행중인 차로일 수 있다.
도 10a에 도시된 것과 같이, 프로세서(920)는, 제2 영상(1020)에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 제2 그래픽 객체(932)를 오버랩하여 출력하고, 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 제2 그래픽 객체를 미출력시킬 수 있다(Off Route).
또한, 상기 제1 그래픽 객체(931)는, 도 10a에 도시된 것과 같이, 차량이 주행중인 차로를 벗어나는지와 무관하게 출력이 유지될 수 있다.
한편, 프로세서(920)는, 제1 영상에 포함된 도로 영역(1022)이 소정 크기 이상이 되도록 캘리브레이션을 수행할 수 있다. 일 예로, 프로세서(920)는, 영상에서 차지하는 도로의 영역이 절반 이상이 되도록, 영상에 대한 캘리브레이션을 수행할 수 있다.
도 10b를 참조하면, 캘리브레이션이 수행된 제2 영상(1020)이 출력중인 상태에서 다른 애플리케이션(1000)의 실행화면이 수행된 후 다시 AR 모드에 진입하면, 프로세서(920)는, 제1 영상을 다시 출력한 후 캘리브레이션을 수행하여 제2 영상을 디스플레이부(930)에 출력할 수 있다.
도 10c를 참조하면, 프로세서(920)는, 경로 안내 장치(790)가 가로 모드로 놓여진 상태인 경우에도, 동일하게 제1 영상을 출력하고, 상기 제1 영상에 대하여 캘리브레이션을 수행한 후, 캘리브레이션이 수행된 제2 영상에 제1 및 제2 그래픽 객체를 오버랩하여 출력할 수 있다.
한편, 프로세서(920)는, 차량의 주행에 의해, 상기 제2 영상에 포함된 차로와 상기 차로에 오버랩된 그래픽 객체(932a)가 틀어지도록 상기 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상을 기준으로 상기 차로에 매칭되도록 상기 그래픽 객체를 변경할 수 있다(932a를 932b로 변경).
예를 들어, 도 10d에 도시된 것과 같이, 차량이 경사의 기울기가 달라지는 지점 부근을 주행하는 경우, 지면을 기준으로 카메라가 촬영하는 제2 영상의 시야각이 달라지게 되고(즉, 지면을 기준으로 카메라가 촬영하는 방향(각도)가 달라지게 된다).
이에 따라, 카메라를 통해 촬영되는 영상에서 도로가 차지하는 영역의 크기가 달라지게 되고, 차로와 차로에 오버랩되어 출력중인 그래픽 객체가 틀어질 수 있다.
프로세서(920)는, 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상(1020b)을 기준으로 차로에 매칭되도록 그래픽 객체(932b)(카펫 이미지)를 변경할 수 있다.
또한, 도 10e에 도시된 것과 같이, 사용자의 조작에 의해 카메라의 시야각(즉, 제2 영상의 시야각)이 변경된 경우에도, 도 10d에서 설명한 것과 마찬가지로, 차로와 차로에 오버랩된 그래픽 객체가 틀어지게 된다.
이 경우에도, 프로세서(920)는, 시야각이 변경된 제2 영상(1020b)을 기준으로 차로에 매칭되도록 그래픽 객체(932b)(카펫 이미지)를 변경할 수 있다.
또한, 프로세서(920)는, AR 모드에 진입한 상태에서, AR 모드를 오프(off)시키는 조건이 만족되면, 도 10f에 도시된 것과 같이, AR 모드를 종료할 수 있다.
상기 AR 모드를 오프시키는 조건은, GPS 데이터가 소정 시간동안 전송이 없거나(예를 들어, 2초 이상 전송이 없는 경우) 일정 시간 이상의 지연이 소정 시간 이내에 특정 횟수 이상 발생되는 경우(10초안에 1.5초 이상 전송 지연이 3회 발생하는 경우), 자이로 데이터의 전송이 없는 경우, 액셀레미터의 데이터 전송이 없는 경우, SD MAP의 전송이 소정 시간 발생되지 않는 경우, 카메라의 화질이 특정 Hz 이하로 떨어지는 경우 등을 포함할 수 있다.
이 경우, 프로세서(920)는, 도 10f에 도시된 것과 같이, AR 모드를 종료하고, 내비게이션 애플리케이션의 실행화면(1000)을 출력할 수 있다.
한편, 프로세서(920)는, 제2 영상에 포함된 차로에 오버랩되며 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 제2 영상에 출력할 수 있다.
상기 카펫 이미지는, 상기 제2 영상에서 차량이 주행중인 차로에 오버랩될 수 있다.
프로세서(920)는, 제2 영상에서 차량이 주행중인 차로에 인접한 차로에 주행 방향을 가이드하는 벽 이미지를 출력할 수 있다.
도 11a를 참조하면, 프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로(즉, 교차로에서 직진이 아닌 우회전, 좌회전 또는 유턴 등 방향 전환을 수행해야 하는 지점)로 진입하기 소정 거리(예를 들어, 100m) 전에는, 차량이 주행중인 차로에 카펫 이미지(932)를 출력할 수 있다. 이 때, 턴-바이-턴 정보(931)는 캘리브레이션이 수행된 제2 영상(1020)에 계속 출력될 수 있다.
프로세서(920)는, 차량이 주행중인 차로에 카펫 이미지(932)가 오버랩된 상태에서, 차량이 상기 교차로를 기준으로 소정 거리 이내에 진입하면, 차량의 주행 방향을 가이드하는 벽 이미지(933)를 더 출력할 수 있다.
프로세서(920)는, 차량이 상기 교차로를 기준으로 소정 거리(예를 들어, 50m) 이내에 진입하면, 카펫 이미지(932)를 벽 이미지(933)로 변경할 수 있다.
프로세서(920)는, 상기 벽 이미지(933)를 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력할 수 있다.
다른 말로, 프로세서(920)는, 카펫 이미지(932)와 벽 이미지(933)가 함께 출력중인 상태에서, 차량이 상기 교차로를 기준으로 소정 거리(50m) 이내에 진입하면, 카펫 이미지(932)의 출력을 중단하고, 벽 이미지(933)만을 출력할 수 있다.
프로세서(920)는, 상기 벽 이미지(933)를 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력할 수 있다.
상기 카펫 이미지(932)는 차량이 주행중인 차로에 오버랩되도록 출력되고, 상기 벽 이미지(또는 wall arrow)(933)를 차량이 주행중인 차로에 인접한 차로에 표시될 수 있다.
일 예로, 상기 벽 이미지(933)가 제1 방향(오른쪽)을 가리키는 벽 이미지인 경우, 상기 벽 이미지(933)는, 도 11a의 두 번째 및 세 번째 도면과 같이, 차량이 주행중인 차로에 인접한 좌우 차로들 중 상기 제1 방향과 반대되는 제2 방향(왼쪽)에 위치한 차로에 오버랩되어 출력될 수 있다.
프로세서(930)는, 도 11a의 세번째 도면과 같이, 차량이 상기 교차로로부터 소정 거리(예를 들어, 50m) 이내에 진입하면, 상기 벽 이미지(933)만을 차량이 주행중인 도로에 인접한 도로에 출력하고, 카펫 이미지(932)는 미출력할 수 있다.
프로세서(920)는, 차량이 상기 교차로에서 방향 전환을 수행하면(예를 들어, 교차로에서 우회전을 수행하면), 소정 거리(예를 들어, 방향 전환을 수행한 지점으로부터 30m)까지는 상기 카펫 이미지(932)를 미출력하고, 벽 이미지(933)를 출력하는 상태를 유지할 수 있다.
이후, 프로세서(920)는, 차량이 상기 교차로에서 방향 전환을 수행하면, 도 11a의 네 번째 및 다섯 번째 도면과 같이, 벽 이미지(933)를 카펫 이미지(932)로 변경하고, 상기 차량이 주행중인 차로에 카펫 이미지(932)를 오버랩하여 출력할 수 있다.
도 11b에 도시된 것과 같이, 프로세서(920)는, 방향 전환을 수행해야 하는 교차로로부터 소정 거리(예를 들어, 100m) 전부터 벽 이미지(933)를 출력하도록 설정된 경우, 두 번째 도면에 도시된 것과 같이, 상기 소정 거리(예를 들어, 100m)가 영상에서 식별되는 위치(예를 들어, 200m 전)부터 상기 벽 이미지(933)를 차량이 주행중인 차로에 인접한 차로에 출력할 수 있다. 이 때, 상기 벽 이미지(933)는, 도 11b의 두 번째 도면에 도시된 것과 같이, 상기 소정 거리(100m)부터 오버랩되도록 출력될 수 있다.
도 11c를 참조하면, 카펫 이미지(932)와 벽 이미지(933)의 전환 과정을 보다 구체적으로 살펴보기로 한다.
프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로로부터 소정 거리 이상인 경우에는, 턴-바이-턴 정보(931) 및 카펫 이미지(932)를 차량이 주행중인 차로에 오버랩하여 출력할 수 있다.
차량이 상기 교차로로부터 소정 거리(예를 들어, 100m)이내에 진입하는 경우, 프로세서(920)는, 차량이 주행중인 차로에 인접한 차로에 차량의 주행 방향을 가이드하는 벽 이미지(933)를 추가로 출력하거나, 카펫 이미지(932)를 벽 이미지(932)로 변경할 수 있다.
도 11c에 도시된 것과 같이, 프로세서(920)는, 차량이 교차로로부터 소정 거리 이내에 진입하면, 차량이 주행중인 차로에 오버랩된 카펫 이미지(932)를 벽 이미지(933)가 출력될 위치에 출력되도록 변환하고, 변환된 카펫 이미지(932-1) 상기 벽 이미지가 출력될 위치에 출력할 수 있다.
이후, 프로세서(920)는, 상기 변환된 카펫 이미지(932-1)를 벽 이미지(933)로 변경할 수 있다.
차량이 교차로에서 방향 전환이 이루어진 후, 프로세서(920)는, 벽 이미지(933)를 카펫 이미지(932)가 출력될 위치에 출력되도록 변환하고, 변환된 벽 이미지(933-1)를 카펫 이미지가 출력될 위치(차량이 주행중인 차로)에 출력할 수 있다.
이후, 프로세서(920)는, 상기 변환된 벽 이미지(933-1)를 카펫 이미지(932)로 변경할 수 있다.
프로세서(920)는, 도 11d 및 도 11e에 도시된 것과 같이, 차량과 교차로 사이의 거리가 가까워질수록 벽 이미지(933)의 출력 크기를 확대할 수 있다.
이후, 프로세서(920)는, 차량의 방향 전환이 완료되면, 방향 전환을 가이드하는 벽 이미지(933)를 미출력할 수 있다.
도 11f에 도시된 것과 같이, 프로세서(920)는, 차량이 GPS 신호를 수신할 수 없거나 GPS 신호의 세기가 기준세기 이하인 터널에 진입하는 경우, 카펫 이미지의 출력을 중단하고, POI(Point of Interest)에 대한 위치를 가이드하는 그래픽 객체(1100)를 영상(예를 들어, 제2 영상)에 오버랩하여 출력할 수 있따.
또한, 도 11f에 도시된 것과 같이, 차량이 주행중인 차로에 카펫 이미지(932)가 출력중인 상태에서, 차량이 주행 예정 경로를 벗어나는 경우(Off-route), 위에 도시된 것과 같이, 턴-바이-턴 정보(931), 벽 이미지(933) 및 POI 위치 가이드 그래픽 객체(1100) 중 적어도 하나를 영상에 오버랩하여 출력할 수 있다.
이 때, 카펫 이미지의 출력은 중단될 수 있으며, 턴-바이-턴 정보(931)도 미출력될 수 있다.
도 12, 도 13a 및 도 13b는 본 발명의 일 실시 예에 따른 차량의 주행 상태에 따라 증강 현실로 출력되는 이미지의 종류를 결정하는 방법을 설명하기 위한 흐름도이다.
도 12를 참조하면, 프로세서(920)는, 고도 정보가 경로 내(On route)에 존재하는지 여부를 판단할 수 있다(S1202). 상기 고도 정보는, 통신부(910)를 통해 위성 또는 외부 서버로부터 수신할 수 있다.
프로세서(920)는, 고도 정보가 경로 내에 존재하는 경우, 카펫 이미지(932)를 출력할 수 있다. 만약 고도 정보가 경로 내에 존재하지 않는다고 판단되는 경우, 새로운 사용자 인터페이스(UX)를 영상에 오버랩하여 증강 현실로 구현할 수 있다.
도 13a를 참조하면, 본 발명의 프로세서(920)는, AR 어댑터(Adapter)(922) 및 AR 엔진(Engine)(924)을 포함할 수 있다.
상기 AR 어댑터(922)는, 내비게이션 애플리케이션 또는 내비게이션 시스템(770)으로부터 수신되는 경로 안내에 필요한 다양한 정보들을 증강 현실로 구현하는데 필요한 정보(또는 데이터)로 변환하는 역할을 수행할 수 있다.
AR 엔진 (924)은, AR 어댑터(922)에서 변환된 정보를 이용하여, 카메라를 통해 촬영된 영상에서 경로 안내를 증강 현실로 구현할 수 있다.
도 13a를 참조하면, 내비게이션 애플리케이션(또는 시스템)(770)은, 현재 도로의 종류(또는 등급)(class), 현재 차량의 위치(GPS 정보), 현재 도로의 커브 데이터를 AR 어댑터로 전송할 수 있다(S1302, S1304, S1306, S1308).
AR 어댑터(922)는, 현재 도로가 커브인지 판단하고(S1310), 커브가 아닌 경우, 지난 소정 거리(10m)의 고도 변화를 판단할 수 있다(S1312).
지난 소정 거리의 고도 변화가 특정 거리(3m) 이상이 아니고(S1314), 현재 도로가 로컬이 아니며(S1316), 다음 분기점이 없으며(S1318), 지난 소정 시간(5초)동안 차로(또는 차선)이 없는 경우(S1320), AR 어댑터(922)는, 소정 시간(10초)동안 카펫 이미지를 AR 엔진에 요청할 수 있다(S1322).
요청을 받은 AR 엔진(924)은, 카펫 이미지를 영상에 오버랩하여 출력할 수 있다(S1324).
한편, 상기 S1310, S1314, S1316, S1318, S1320 단계에서 Yes에 해당하는 경우, AR 어댑터(922)는 고정 카펫 이미지 또는 나침반 이미지의 출력을 AR 엔진(924)에 요청할 수 있다(S1326).
요청을 받은 AR 엔진(924)은, 고정 카펫 이미지 또는 나침반 이미지를 영상에 오버랩하여 출력할 수 있다(S1328).
나침반 이미지, 카펫 이미지 또는 고정 카펫 이미지를 출력하는 또 다른 실시 예는, 도 13b에 도시된 흐름도와 같을 수 있다.
내비게이션 애플리케이션(또는 시스템)(770)은 AR 어댑터(922)로 현재 위치(current GPS) 정보를 전송할 수 있다.
AR 어댑터(922)는, 가이드 포인트(예를 들어, 방향 전환을 수행해야 하는 교차로)가 도로에 있고(S1332), 다음 가이드 포인트까지 소정 거리(300m) 이내인 경우(S1334), 가이드 포인트가 없는 다음 도로로 나침반 이미지를 AR 엔진(924)으로 요청할 수 있다.
AR 엔진(924)은, 요청에 응답하여, 나침반 이미지를 영상에 오버랩하여 증강 현실로 출력할 수 있다(S1338).
AR 어댑터(922)는, 가이드 포인트가 없으며(S1332, S1340), 지난 소정 거리(10m)동안 고도 변화를 계산하고(S1342), 고도 변화가 특정 거리(3m)보다 큰 경우, 고정 카펫 이미지를 소정 시간동안 출력할 것을 AR 엔진(924)에 요청할 수 있다(S1348).
AR 엔진(924)은, 요청에 응답하여, 고정 카펫 이미지를 영상에 오버랩하여 출력할 수 있다(S1350).
고정 카펫 이미지는, 영상에서 식별되는 차로의 모양에 따라 형태이 가변되는 카펫 이미지가 아닌, 형태가 고정된 카펫 이미지를 의미할 수 있다.
한편, AR 어댑터(922)는, 도로에 가이드 포인트가 존재하지만, 다음 가이드 포인트까지 소정 거리 이내가 아닌 경우(S1332, 1334), 지난 소정 거리(10m)동안 고도 변화를 계산할 수 있다(S1352).
AR 어댑터(922)는, 고도 변화가 특정 거리(3m) 이내인 경우, (S1346, S1354), 소정 시간(10초)동안 카펫 이미지의 출력을 AR 엔진(924)으로 요청할 수 있다.
AR 엔진(924)은, 요청에 근거하여, 카펫 이미지(932)를 차량이 주행중인 차로에 매칭되도록 오버랩하여 출력할 수 있다(S1358).
만약, 도로에 가이드 포인트가 없으며, 가이드 포인트가 없는 도로도 아닌 경우(예를 들어, 가이드 포인트의 존재 여부를 판단할 수 없는 경우)(S1332, 1340), AR 어댑터(922)는 차량이 경로(또는 도로)를 벗어난 것으로 판단할 수 있다(S1360).
AR 어댑터(922) 및 AR 엔진(924)이 수행하는 동작/기능/제어방법은, 프로세서(920)가 수행하는 것으로 이해될 수 있다.
도 14, 도 15, 도 16, 도 17, 도 18, 도 19, 도 20, 도 21, 도 22 및 도 23은 본 발명의 일 실시 예에 따른 증강 현실로 출력되는 나침반 이미지를 설명하기 위한 개념도이다.
도 12 내지 도 13b의 흐름도에서 살펴본 바와 같이, 프로세서(920)는, 카메라를 통해 획득된 영상에 대하여 캘리브레이션을 수행한 뒤, 주행 예정 경로를 가이드하는 카펫 이미지(932)를 차량이 주행중인 차로에 대응되도록 오버랩하여 증강 현실을 구현할 수 있다.
한편, 프로세서(920)는, 도 14의 오른쪽 그림에 도시된 것과 같이, 차량의 전방이 바라보는 방위를 알려주는 나침반 객체(1410)를 포함하는 나침반 이미지(1400)를 캘리브레이션이 수행된 제2 영상(1020)에 출력할 수 있다.
상기 나침반 이미지(1400)는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지(1420)를 포함할 수 있다.
또한, 상기 나침반 이미지(1400)는, 차량의 전방(즉, 카메라가 촬영하는 방향에 대응)이 어느 방위를 가리키는지 나타내는 나침반 객체(1410)와 상기 나침반 객체(1410)의 테두리를 따라 표시위치가 변경되는 고정카펫 이미지(1420)를 포함할 수 있다.
프로세서(920)는, 나침반 객체(1410)의 테두리를 따라 고정카펫 이미지(1420)의 표시위치를 가변할 수 있다.
상기 고정카펫 이미지(1420)는, 형태가 차로의 형태에 따라 가변되지 않고 특정 모양(예를 들어, 삼각형 모양)으로 고정될 수 있으며, 차량의 현재 위치에서 차량이 주행해야 하는 방향을 나침반 객체(1410)를 따라 이동하면서 가이드할 수 있다.
도 15를 참조하면, 프로세서(920)의 AR 어댑터(922)는, 내비게이션 애플리케이션(또는 내비게이션 시스템)(770)으로부터 지도 정보(SD MAP) 및 차량이 주행중인 방향에 대한 정보(GPS heading)을 수신할 수 있다.
AR 어댑터(922)는, 수신된 정보에 근거하여, 나침반 이미지로 적용 가능한 데이터로 변환한 후 AR 엔진(924)으로 전송할 수 있다.
AR 엔진(924)은, 변환된 데이터에 근거하여 증강 현실로 출력할 나침반 이미지(1400)를 생성하고, 영상에 오버랩하여 증강 현실로 출력할 수 있다.
도 16을 참조하면, 나침반 이미지(1400)는, 나침반 객체(1410), 현제 차량이 북향(N)을 기준으로 어느 방향으로 주행중인지를 나타내는 방위정보(1430) 및 차량이 다음 가이드 포인트(예를 들어, 방향 전환을 수행해야 하는 교차로)로 주행하기 위해 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지(1430)를 포함할 수 있다.
상기 고정카펫 이미지(1430)가 출력되는 위치는, 차량의 전방을 기준으로 다음 가이드 포인트가 위치한 각도에 근거하여 결정 및 가변될 수 있다.
도 17을 참조하면, 프로세서(920)는, 나침반 이미지(1400)를 다양한 방식으로 출력할 수 있다.
앞서 설명한 것과 같이, 고정카펫 이미지(1420)는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드할 수 있으며(즉, 차량이 현재 위치에서 다음 가이드 포인트의 위치를 가이드함), 나침반 객체(1410)의 테두리를 따라 표시위치가 가변될 수 있다.
한편, 도 18에 도시된 것과 같이, 프로세서(920)는, 다양한 방식으로 고정카펫 이미지(1832)를 출력할 수 있다.
예를 들어, 앞서 설명한 카펫 이미지(932)는, 다이나믹 카펫 이미지를 의미하며, 영상에서 차량이 주행하는 차로(Lane)에 대응되도록 생성/가변되고, 차량이 주행중인 차로에 오버랩되어 증강현실로 출력될 수 있다.
반면, 고정카펫(Static Carpet) 이미지(1832)는, 차량의 이동 방향(또는 관성)을 이용하여 구부려져서 표시될 수 있다.
이러한 고정카펫 이미지는, 1차선 곡선 도로에 유용하고, 차선 인식 결과를 사용하지 않으며, 화면에 고정되고, 차로 이동 중에 이동되지 않고 단지 구부러지기만 하도록 형성될 수 있다.
프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로와 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(932) 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지(1400) 중 어느 하나(또는 적어도 하나)를 출력할 수 있다.
또한, 프로세서(920)는, 차량이 주행중인 도로의 종류에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(932) 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지(1400) 중 어느 하나(또는 적어도 하나)를 출력할 수 있다.
도 19를 참조하면, 프로세서(920)는, 고속도로/간선도로/콜렉터 등을 직선 주행이 주를 이루는 기 설정된 종류의 도로를 주행중인 경우, 카펫 이미지(932)를 차량이 주행중인 차로에 오버랩되도록 카메라를 통해 촬영된 영상에 오버랩하여 출력할 수 있다.
반면, 차량이 주행중인 도로가 로컬(예를 들어, 시내, 도심, 시골길 등) 도로인 경우, 프로세서(920)는, 카펫 이미지(932)가 아닌 나침반 이미지(1400)를 출력할 수 있다.
다시 차량이 상기 기 설정된 종류의 도로에 진입하면, 차량이 주행중인 차로에 오버랩되도록 카펫 이미지(932)를 출력할 수 있다.
도 20을 참조하면, 프로세서(920)는, 차량의 위치가 로컬 도로가 아닌 경우에는(즉, 기 설정된 종류의 도로인 경우), 카펫 이미지를 영상에 오버랩하여 증강현실을 구현하고(S2000, S2010), 차량의 위치가 로컬 도로인 경우, 나침반 이미지를 영상에 오버랩하여 증강현실을 구현할 수 있다(S2000, S2020).
도 21을 참조하면, 프로세서(920)는, 차량이 경사가 존재하는 도로에 진입하는 것에 근거하여, 카펫 이미지(932)를 나침반 이미지(1400)로 변경할 수도 있다.
예를 들어, 프로세서(920)는, 지난 소정 시간(5초) 동안 GPS 고도 변화가 특정 거리(10m) 이내인 경우, 카펫 이미지(932)를 영상에 포함된 차량이 주행중인 차로에 오버랩하여 출력할 수 있다.
다른 예로, 프로세서(920)는, 지난 소정 시간(5초) 동안 GPS 고도 변화가 특정 거리(10m) 이상인 경우, 나침반 이미지(1400)를 카메라를 통해 촬영된 영상에 오버랩하여 출력할 수 있다.
도 22에 도시된 것과 같이, 프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로와 상기 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지 중 어느 하나를 영상에 오버랩하여 출력할 수도 있다.
예를 들어, 도 22에 도시된 것과 같이, 프로세서(920)는, 차량과 방향 전환을 수행해야 하는 교차로(예를 들어, 가이드 포인트)와의 거리가 소정거리 이상인 경우, 카펫 이미지를 출력하고, 차량과 교차로 사이의 거리가 소정거리 이내(예를 들어, 200m)인 경우, 카펫 이미지(932)를 미출력하고 나침반 이미지(1400)를 영상에 오버랩하여 출력할 수 있다.
이후, 프로세서(920)는, 차량이 교차로를 지나친 후 소정 거리(예를 들어, 30m)까지는 나침반 이미지(1400)의 출력을 유지하다가, 상기 소정 거리(30m)를 벗어나면 나침반 이미지(1400)의 출력을 중단하고, 카펫 이미지(932)를 영상에 오버랩하여 출력할 수 있다.
도 23에 도시된 것과 같이, 프로세서(920)는, 복수의 교차로가 존재하고, 복수의 교차로 사이의 거리가 소정 거리 이내인 경우, 예를 들어, (300m 이내), 복수의 교차로 중 첫번째 교차로에 진입하기 소정거리 이내에 차량이 진입하면 카펫 이미지(932)를 나침반 이미지(1400)로 변경할 수 있다.
이후, 프로세서(920)는, 차량이 복수의 교차로 중 마지막 교차로를 통과할 때까지 나침반 이미지(1400)의 출력을 유지할 수 있다.
이후, 프로세서(920)는, 마지막 교차로를 통과한 후 소정 거리(예를 들어, 30m)까지 차량이 주행할 때까지 나침반 이미지(1400)를 유지하다가, 상기 소정 거리를 지나치면, 나침반 이미지(1400)의 출력을 중단하고, 카펫 이미지(932)를 영상에 포함된 차량이 주행중인 차로에 오버랩되도록 증강현실을 구현할 수 있다.
도 24a, 도 24b, 도 25, 도 26, 도 27a 및 도 27b은, 본 발명의 다른 실시 예에 따른 경로 안내 방법을 설명하기 위한 개념도이다.
도 24a 및 도 24b를 참조하면, 본 발명은 방향 전환을 수행해야 하는 교차로(또는 가이드 포인트(Guide point))와 차량 사이의 거리에 따라 카메라를 통해 촬영되는 영상에 증강 현실로 출력되는 그래픽 객체를 다양하게 설정할 수 있다.
도 24a를 참조하면, 프로세서(920)는 차량이 가이드 포인트를 기준으로 소정거리 이내에 진입하면, 카펫 이미지, 벽 이미지 및/또는 고정카펫 이미지 등을 출력할 수 있다.
프로세서(920)는, 차량이 가이드 포인트로부터 특정 거리 이내에 진입하면, 카펫 이미지, 벽 이미지 및 고정카펫 이미지 중 적어도 하나의 출력을 중단할 수 있다.
프로세서(920)는, 차량이 가이드 포인트를 지나친 경우, 다른 종류의 카펫 이미지를 출력하거나, 상기 특정 거리 이내에서 출력중인 객체를 소정 거리만큼 출력을 유지할 수 있다.
도 24b에 도시된 것과 같이, 프로세서(920)는, 가이드 포인트(방향 전환을 필요로 하는 교차로 또는 교차로의 일 지점)이 소정거리 이내에 존재하는 경우와, 가이드 포인트가 소정거리 이외에 존재하는 경우(Road without guide point)로 구분되어 증강 현실로 구현되는 그래픽 객체의 종류를 결정할 수 있다.
도 25를 참조하면, 프로세서(920)는, 퓨전 카펫 이미지(251), 이고 차로 카펫 이미지(2502), 고정 카펫 이미지(2503), 나침반 이미지(1400) 등을 카메라를 통해 촬영된 영상에 오버랩하여 증강현실로 출력할 수 있다.
퓨전 카펫 이미지(2501)은, 지도(SD map) 기반 차량이 주행중인 차로에 매핑되어 출력되는 카펫 이미지(예를 들어, 932)이고, 이고 차로 카펫 이미지(2502)는, 카메라로 촬영된 영상에서 식별된 차로 내에서만 출력되는 카펫 이미지일 수 있다.
고정 카펫 이미지(2503)는, 지도 또는 영상에 기반하여 생성/가변되는 카펫 이미지가 아닌, 차량의 주행 방향(또는 운동 방향)에 근거하여 출력되는 카펫 이미지일 수 있다. 고정 카펫 이미지(2503)는, 일 예로, 차량이 좌측으로 주행중인 경우 좌측으로 휘어진 카펫 이미지가 출력될 수 있다.
나침반 이미지(1400)는, 앞서 설명한 것과 같이, 내비게이션 애플리케이션 또는 시스템(770)으로부터 수신된 GPS 방향(즉, 내 차량이 바라보고 있는 방와) 및 SD MAP 방향(즉, 현재 차량이 바라보고 있는 방향에서 다음 가이드 포인트가 위치한 각도)에 근거하여 생성/가변될 수 있다.
프로세서(920)는, 상기 GPS 방향과 SD MAP 방향이 서로 일치하면, 퓨전 카펫 이미지를 출력하고, 일치하지 않으면 이고 차로 카펫 이미지(2502)를 출력할 수 있다.
도 26을 참조하면, 앞서 설명한 다양한 증강현실 그래픽 객체를 출력하는 일 실시 예를 설명하기 위한 흐름도가 도시되어 있다.
프로세서(920)는, 터널이거나 경로(또는 도로)를 이탈한 경우, 카펫 이미지를 숨기고, 턴-바이-턴 정보를 출력할 수 있다(S2602, S2612).
프로세서(920)는, 터널 또는 경로 이탈이 아니며, 가이드 포인트가 미존재하고, 가이드 포인트가 없는 도로를 주행중이면, 영상에 오버랩되어 출력중인 그래픽 객체의 종류를 판단한다(S2602, S2604, S2606).
프로세서(920)는, 이고 차로 카펫 이미지를 출력중인 경우, 가이드 포인트를 포함하는 다음 도로까지 이고 차로 카펫 이미지를 출력할 수 있다(S2608, S2610).
프로세서(920)는, 고정카펫 이미지가 출력중인 경우, 차선 경계 메시지를 보내지 않으며, 가이드 포인트를 포함하는 다음 도로까지 이고 차로 카펫 이미지를 출력할 수 있다(S2632, S2634).
프로세서(920)는, 나침반 이미지가 출력중인 경우, 차선 경계 메시지를 보내지 않고, 카펫 이미지를 숨길 수 있으며, 가이드 포인트를 포함하는 다음 도로까지 이고 차로 카펫 이미지를 출력할 수 있다(S2636, S2638, S2640).
프로세서(920)는, 퓨전 카펫 이미지 또는 오토 카펫 이미지가 출력중인 경우, 주행중인 도로가 경사 또는 로컬 여부를 판단할 수 있다(S2642, S2644, S2646).
프로세서(920)는, 주행중인 도로가 경사 또는 로컬인 경우, S2632단계로 진입할 수 있다.
프로세서(920)는 주행중인 도로가 경사 또는 로컬이 아닌 경우, 출력중인 이미지가 퓨전 카펫 이미지이면 가이드 포인트를 포함하는 다음 도로까지 퓨전 카펫 이미지를 출력하고, 출력중인 이미지가 오토 카펫 이미지이면 가이드 포인트를 포함하는 다음 도로까지 오토 카펫 이미지를 출력할 수 있다(S2648, 2650).
프로세서(920)는, 가이드 포인트를 포함하는 도로를 주행중이며, 터널 또는 경로 이탈이 아닌 경우, 앞서 설명한 것과 같이, 퓨전 카펫 이미지(932)를 출력하고, 벽 이미지(933)를 출력하며, 가이드 포인트로부터 특정 거리 이내인 경우, 퓨전 카펫 이미지를 미출력하고, 가이드 포인트를 통과한 이후에는 이고 차로 카펫 이미지를 출력할 수 있다(S2604, S2614, S2616, S2618, S2620, S2622).
프로세서(920)는, 가이드 포인트를 포함하는 도로를 주행중이지만 터널 또는 경로를 이탈한 경우, 차로 경계 메시지를 전송하지 않으며, 카펫 이미지를 숨기고, 나침반 이미지를 영상에 오버랩하여 출력할 수 있다(S2604, S2614, S2624, S2626, S2628).
DS_EGO, DS_ROUTE, DS_MERGED는 AR 엔진에서 사용하는 용어이고 각각 Ego Lane, Fusion, Auto를 의미함.
이 밖에도, 도면에 도시된 흐름도의 내용에 따라, 프로세서(920)는 다양한 그래픽 객체를 영상에 증강현실로 출력할 수 있다.
도 27a 및 도 27b는 도 26에서 설명한 내용을 바탕으로 각 상황별로 출력되는 그래픽 객체를 나타낸 실시 예가 도시되어 있다.
도 27a 및 도 27b의 각 상황별로 프로세서(920)는, 각 상황에 부합되도록 경로 안내를 수행하는 그래픽 객체를 카메라를 통해 촬영된 영상에 증강 현실로 구현할 수 있다.
도 28은 본 발명의 일 실시 예에 따른 턴-바이-턴 정보의 출력 방법을 설명하기 위한 개념도이다.
프로세서(920)는, 차량이 주행하는 도로의 기울기를 결정하고, 결정된 도로의 기울기에 근거하여, 제1 영상(및 제 2 영상)에 오버랩하여 출력하는 제1 그래픽 객체(931)의 기울기를 결정할 수 있다.
도 28을 참조하면, 프로세서(920)는, 통신부를 통해 차량으로부터 현재 차량이 주행하고 있는 도로의 기울기 정보를 수신하거나, 카메라를 통해 현재 주행중인 도로의 기울기 정보를 수신할 수 있다.
이후, 도 28에 도시된 것과 같이, 프로세서(920)는, 기울기 정보에 대응되도록 턴-바이-턴 정보에 해당하는 제1 그래픽 객체(931)의 기울기를 기울이고, 기울기가 기울어진 제1 그래픽 객체를 영상에 오버랩하여 증강 현실로 출력할 수 있다.
이러한 구성을 통해, 본 발명은, 기울어진 도로에 대응되도록 증강현실 그래픽 객체를 기울여 오버랩함으로써, 증강현실의 퀄리티를 향상시킬 수 있다.
도 29a, 도 29b, 도 29c 및 도 29d는 본 발명의 일 실시 예에 따른 나침반 이미지의 다양한 출력 방법을 설명하기 위한 개념도이다.
도 29a를 참조하면, 나침반 이미지(1400)는, 차량의 전방이 바라보는 방위를 알려주는 나침반 객체(1410)를 포함하는 나침반 이미지(1400)를 캘리브레이션이 수행된 제2 영상(1020)에 출력할 수 있다.
상기 나침반 이미지(1400)는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지(1420)를 포함할 수 있다.
또한, 상기 나침반 이미지(1400)는, 차량의 전방(즉, 카메라가 촬영하는 방향에 대응)이 어느 방위를 가리키는지 나타내는 나침반 객체(1410)와 상기 나침반 객체(1410)의 테두리를 따라 표시위치가 변경되는 고정카펫 이미지(1420)를 포함할 수 있다.
프로세서(920)는, 나침반 객체(1410)의 테두리를 따라 고정카펫 이미지(1420)의 표시위치를 가변할 수 있다.
상기 고정카펫 이미지(1420)는, 형태가 차로의 형태에 따라 가변되지 않고 특정 모양(예를 들어, 삼각형 모양)으로 고정될 수 있으며, 차량의 현재 위치에서 차량이 주행해야 하는 방향을 나침반 객체(1410)를 따라 이동하면서 가이드할 수 있다.
도 29b에 도시된 것과 같이, 프로세서(920)는, 카메라를 통해 촬영된 영상에 나침반 이미지(1400)를 오버랩하여 출력할 수 있다.
프로세서(920)는, 상기 나침반 이미지를 다양항 방식으로 출력할 수 있다.
예를 들어, 도 29c 및 도 29d에 도시된 것과 같이, 프로세서(920)는, 현재 차량이 바라보고 있는 방향(방위)와, 차량의 전방을 기준으로 다음 가이드 포인트가 위치한 방향(각도) 사이의 각도(θ)가 90도를 넘어가는 경우, 나침반 이미지의 크기를 줄이거나(Option 1), 차량의 전방을 기준으로 다음 가이드 포인트가 위치한 방향(각도)을 가이드하는 고정카펫 이미지(1430)를 차량의 전방을 기준으로 90도 위치에 출력을 유지시킬 수 있다(option 2).
도 30, 도 31 및 도 32는 본 발명의 증강 현실이 적용된 경로 안내 방법을 설명하기 위한 개념도이다.
도 30을 참조하면, 프로세서(920)는, 자이로스코프 방향(예를 들어, 차량의 스티어링 휠에 의해 차량이 주행하는 방향)과 센터 라인이 일치하지 않는 경우(예를 들어, 자이로스코프 방향이 휘어져 있는 경우), 짧은 고정 카펫 이미지(3000)를 출력하고, 일치하는 경우에는(예를 들어, 자이로스코프 방향이 직선인 경우), 긴 고정 카펫 이미지(3020)를 출력할 수 있다.
도 31을 참조하면, 프로세서(920)는, 상황에 따라 다양한 종류의 벽 이미지를 출력할 수 있다.
본 발명의 경로 안내 장치는, 벽 이미지(벽 화살표)의 낮은 가시성과 모호한 방향성을 개선하기 위해, 도 31에 도시된 것과 같이, type 1 내지 3과 같이, 경로의 방향을 나타내기 위해 주행중인 차로에 인접한 차로에 출력하거나(type1), 차선과 방향을 유지하기 위해 출력하거나(type2), 교차로를 건너는 것을 나타내도록 출력될 수 있다(type3).
본 발명의 경로 안내 장치는, 카메라를 통해 촬영된 영상에 카펫 이미지 및 벽 이미지를 증강현실로 출력하여, 사용자에게 최적화된 경로 안내를 수행할 수 있다.
본 발명에 따른 경로 안내 장치 및 그것의 경로 안내 방법의 효과에 대해 설명하면 다음과 같다.
본 발명에 따르면, 탑승객은 카펫 이미지를 통해 상기 차량이 자율 주행으로 주행할 또는 운전자가 운전해야 하는 경로 정보를 차선 단위로 제공받을 수 있다.
또한, 본 발명에 따르면, 탑승객은 다양한 종류의 카펫 이미지를 통해 차량이 주행해야 할 경로를 최적화된 방법으로 파악할 수 있게 된다.
또한, 본 발명에 따르면, 본 발명은 나침반 이미지를 통해 차량의 주행 경로를 가이드할 수 있는 새로운 경로 안내 인터페이스를 제공할 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드(또는, 애플리케이션이나 소프트웨어)로서 구현하는 것이 가능하다. 상술한 자율 주행 차량의 제어 방법은 메모리 등에 저장된 코드에 의하여 실현될 수 있다.
컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 프로세서 또는 제어부를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (20)

  1. 카메라를 통해 촬영된 제1 영상을 수신하는 통신부; 및
    상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 프로세서를 포함하는 경로 안내 장치.
  2. 제 1 항에 있어서,
    상기 프로세서는,
    상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고,
    상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  3. 제 2 항에 있어서,
    상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고,
    상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 하는 경로 안내 장치.
  4. 제 3 항에 있어서,
    상기 프로세서는,
    상기 제2 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고,
    상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 하는 경로 안내 장치.
  5. 제 4 항에 있어서,
    상기 제1 그래픽 객체는, 상기 차량이 주행중인 차로를 벗어나는지와 무관하게 출력이 유지되는 것을 특징으로 하는 경로 안내 장치.
  6. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제1 영상에 포함된 도로 영역이 소정 크기 이상이 되도록 캘리브레이션을 수행하는 것을 특징으로 하는 경로 안내 장치.
  7. 제 1 항에 있어서,
    상기 프로세서는,
    차량의 주행에 의해, 상기 제2 영상에 포함된 차로와 상기 차로에 오버랩된 그래픽 객체가 틀어지도록 상기 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상을 기준으로 상기 차로에 매칭되도록 상기 그래픽 객체를 변경하는 것을 특징으로 하는 경로 안내 장치.
  8. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제2 영상에 포함된 차로에 오버랩되며 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 상기 제2 영상에 출력하고,
    상기 카펫 이미지는 상기 제2 영상에서 차량이 주행중인 차로에 오버랩되며,
    상기 프로세서는,
    상기 제2 영상에서 차량이 주행중인 차로에 인접한 차로에 주행 방향을 가이드하는 벽 이미지를 출력하는 것을 특징으로 하는 경로 안내 장치.
  9. 제 8 항에 있어서,
    상기 프로세서는,
    차량이 방향 전환을 수행해야 하는 교차로로 진입하기 소정 거리 이전에는 상기 차량이 주행중인 차로에 상기 카펫 이미지를 출력하고,
    상기 차량이 상기 교차로를 기준으로 상기 소정 거리 이내에 진입하면, 상기 카펫 이미지를 상기 벽 이미지로 변경하고,
    상기 벽 이미지를 상기 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  10. 제 9 항에 있어서,
    상기 프로세서는,
    상기 차량이 상기 교차로에서 방향 전환을 수행하면, 상기 벽 이미지를 상기 카펫 이미지로 변경하고,
    상기 차량이 주행중인 차로에 카펫 이미지를 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  11. 제 8 항에 있어서,
    상기 프로세서는, 차량과 상기 교차로 사이의 거리가 가까워질수록 상기 벽 이미지의 출력 크기를 확대하는 것을 특징으로 하는 경로 안내 장치.
  12. 제 1 항에 있어서,
    상기 프로세서는,
    차량의 전방이 바라보는 방위를 알려주는 나침반 객체를 포함하는 나침반 이미지를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  13. 제 12 항에 있어서,
    상기 나침반 이미지는,
    차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지를 포함하는 것을 특징으로 하는 경로 안내 장치.
  14. 제 13 항에 있어서,
    상기 프로세서는,
    상기 나침반 객체의 테두리를 따라 고정카펫 이미지의 표시위치를 가변하는 것을 특징으로 하는 경로 안내 장치.
  15. 제 1 항에 있어서,
    상기 프로세서는,
    차량이 방향 전환을 수행해야 하는 교차로와 상기 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지 중 어느 하나를 출력하는 것을 특징으로 하는 경로 안내 장치.
  16. 제 2 항에 있어서,
    상기 프로세서는,
    차량이 주행하는 도로의 기울기를 결정하고,
    상기 결정된 도로의 기울기에 근거하여, 상기 제1 영상에 오버랩하여 출력하는 상기 제1 그래픽 객체의 기울기를 결정하는 것을 특징으로 하는 경로 안내 장치.
  17. 카메라를 통해 촬영된 제1 영상을 수신하는 단계; 및
    상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 단계를 포함하는 경로 안내 방법.
  18. 제 1 항에 있어서,
    상기 출력하는 단계는,
    상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고,
    상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 방법.
  19. 제 18 항에 있어서,
    상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고,
    상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 하는 경로 안내 방법.
  20. 제 19 항에 있어서,
    상기 출력하는 단계는,
    상기 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고,
    상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 하는 경로 안내 방법.
PCT/KR2021/009938 2020-07-30 2021-07-29 경로 안내 장치 및 그것의 경로 안내 방법 WO2022025689A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US18/018,847 US20230304822A1 (en) 2020-07-30 2021-07-29 Route guidance device and route guidance method thereof
EP21848695.9A EP4191204A1 (en) 2020-07-30 2021-07-29 Route guidance device and route guidance method thereof
KR1020237003172A KR20230042285A (ko) 2020-07-30 2021-07-29 경로 안내 장치 및 그것의 경로 안내 방법

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US202063058510P 2020-07-30 2020-07-30
US63/058,510 2020-07-30

Publications (1)

Publication Number Publication Date
WO2022025689A1 true WO2022025689A1 (ko) 2022-02-03

Family

ID=80035902

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/009938 WO2022025689A1 (ko) 2020-07-30 2021-07-29 경로 안내 장치 및 그것의 경로 안내 방법

Country Status (4)

Country Link
US (1) US20230304822A1 (ko)
EP (1) EP4191204A1 (ko)
KR (1) KR20230042285A (ko)
WO (1) WO2022025689A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022184350A (ja) * 2021-06-01 2022-12-13 マツダ株式会社 ヘッドアップディスプレイ装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010221830A (ja) * 2009-03-23 2010-10-07 Toshiba Corp 車載用表示システム、表示方法及び車両
US9551867B1 (en) * 2004-06-03 2017-01-24 Making Virtual Solid, LLC Head-up display
KR101766747B1 (ko) * 2015-08-27 2017-08-10 경북대학교 산학협력단 실내 대피경로 화면표시 방법
KR20170099188A (ko) * 2016-02-23 2017-08-31 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량
KR101916993B1 (ko) * 2015-12-24 2018-11-08 엘지전자 주식회사 차량용 디스플레이 장치 및 그 제어방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9551867B1 (en) * 2004-06-03 2017-01-24 Making Virtual Solid, LLC Head-up display
JP2010221830A (ja) * 2009-03-23 2010-10-07 Toshiba Corp 車載用表示システム、表示方法及び車両
KR101766747B1 (ko) * 2015-08-27 2017-08-10 경북대학교 산학협력단 실내 대피경로 화면표시 방법
KR101916993B1 (ko) * 2015-12-24 2018-11-08 엘지전자 주식회사 차량용 디스플레이 장치 및 그 제어방법
KR20170099188A (ko) * 2016-02-23 2017-08-31 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량

Also Published As

Publication number Publication date
US20230304822A1 (en) 2023-09-28
KR20230042285A (ko) 2023-03-28
EP4191204A1 (en) 2023-06-07

Similar Documents

Publication Publication Date Title
WO2021045257A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2017138702A1 (ko) 차량용 사용자 인터페이스 장치 및 차량
WO2019098434A1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
WO2021141142A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2018056536A1 (ko) 계기판 디스플레이 및 그것을 포함하는 차량
WO2017078209A1 (ko) 영상을 공유하는 전자 기기 및 방법
WO2021090971A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2020159247A1 (ko) 영상 출력 장치
WO2018088614A1 (ko) 차량용 사용자 인터페이스 장치 및 차량
WO2021141143A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2020017716A1 (ko) 차량용 로봇 및 상기 로봇의 제어 방법
WO2022154425A1 (ko) 차량과 연동된 내비게이션 장치, ar 플랫폼 장치, 이들을 포함하는 ar 플랫폼 시스템 및 동작방법
WO2021157760A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2019198998A1 (ko) 차량 제어 장치 및 그것을 포함하는 차량
WO2021045256A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2020017677A1 (ko) 영상 출력 장치
WO2020080566A1 (ko) 전자 제어 장치 및 통신 장치
WO2020235714A1 (ko) 자율 주행 차량과 이를 이용한 주행 제어 시스템 및 방법
WO2017155199A1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
WO2020149431A1 (ko) 경로 제공 장치 및 그것의 제어 방법
WO2021045255A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2021141145A1 (ko) 영상 출력 장치 및 그것의 제어 방법
WO2020149427A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2021230387A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법
WO2021246534A1 (ko) 경로 제공 장치 및 그것의 경로 제공 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21848695

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20237003172

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 2021848695

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2021848695

Country of ref document: EP

Effective date: 20230228

NENP Non-entry into the national phase

Ref country code: DE