WO2022154323A1 - 차량과 연동된 디스플레이 장치 및 그것의 동작방법 - Google Patents

차량과 연동된 디스플레이 장치 및 그것의 동작방법 Download PDF

Info

Publication number
WO2022154323A1
WO2022154323A1 PCT/KR2021/020065 KR2021020065W WO2022154323A1 WO 2022154323 A1 WO2022154323 A1 WO 2022154323A1 KR 2021020065 W KR2021020065 W KR 2021020065W WO 2022154323 A1 WO2022154323 A1 WO 2022154323A1
Authority
WO
WIPO (PCT)
Prior art keywords
vehicle
image
digital signage
driving
information
Prior art date
Application number
PCT/KR2021/020065
Other languages
English (en)
French (fr)
Inventor
이진상
김수진
강병수
손진호
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US18/020,403 priority Critical patent/US20230296394A1/en
Priority to EP21919946.0A priority patent/EP4083931A4/en
Publication of WO2022154323A1 publication Critical patent/WO2022154323A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3679—Retrieval, searching and output of POI information, e.g. hotels, restaurants, shops, filling stations, parking facilities
    • G01C21/3682—Retrieval, searching and output of POI information, e.g. hotels, restaurants, shops, filling stations, parking facilities output of POI information on a road map
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0251—Targeted advertisements
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Arrangement of adaptations of instruments
    • B60K35/23—
    • B60K35/28—
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/3453—Special cost functions, i.e. other than distance or default speed limit of road segments
    • G01C21/3476—Special cost functions, i.e. other than distance or default speed limit of road segments using point of interest [POI] information, e.g. a route passing visible POIs
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3602—Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3605—Destination input or retrieval
    • G01C21/3617—Destination input or retrieval using user history, behaviour, conditions or preferences, e.g. predicted or inferred from previous use or current movement
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3635—Guidance using 3D or perspective road maps
    • G01C21/3638—Guidance using 3D or perspective road maps including 3D objects and buildings
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3644—Landmark guidance, e.g. using POIs or conspicuous other objects
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3647—Guidance involving output of stored or live camera images or video streams
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/365—Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3679—Retrieval, searching and output of POI information, e.g. hotels, restaurants, shops, filling stations, parking facilities
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3697—Output of additional, non-guidance related information, e.g. low fuel level
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G06Q50/40—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q90/00—Systems or methods specially adapted for administrative, commercial, financial, managerial or supervisory purposes, not involving significant data processing
    • G06Q90/20—Destination assistance within a business structure or complex
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • B60K2360/177—
    • B60K2360/21—

Definitions

  • the present invention relates to a display device linked to a vehicle and an operating method thereof, and more particularly, to a display device linked to a vehicle capable of communicating with a system and displaying an AR digital signage on a driving image of a vehicle for each floor of a building and to a method of operation thereof.
  • the function of the vehicle may be divided into a convenience function for the convenience of the driver, and a safety function for the safety of the driver and/or pedestrians.
  • Vehicle convenience functions have a motivation for development related to driver convenience, such as giving information + entertainment functions to the vehicle, supporting partial autonomous driving functions, or helping the driver gain visibility, such as night vision or blind spots.
  • driver convenience such as giving information + entertainment functions to the vehicle, supporting partial autonomous driving functions, or helping the driver gain visibility, such as night vision or blind spots.
  • adaptive cruise control ACC
  • smart runner system smart runner system (smart0020parking assist system, SPAS), night vision (NV), head up display (HUD), around view monitor ( around view monitor (AVM) and adaptive headlight system (AHS) functions.
  • ACC adaptive cruise control
  • SPAS smart runner system
  • NV night vision
  • HUD head up display
  • AHS adaptive headlight system
  • the safety function of the vehicle is a technology that secures driver safety and/or pedestrian safety, and includes a lane departure warning system (LDWS), a lane keeping assist system (LKAS), and an automatic emergency system. and automatic emergency braking (AEB).
  • LDWS lane departure warning system
  • LKAS lane keeping assist system
  • AEB automatic emergency braking
  • AR augmented reality
  • HUD Head Up Display
  • a graphic object to an image captured by a camera to additionally output a graphic object to the real world
  • AR augmented reality
  • the development of technologies for guiding a route to a driver through augmented reality (AR) technology or exposing various additional information or advertisements related to POI existing on the route is expanding. .
  • AR augmented reality
  • AR augmented reality
  • the present invention aims to solve the above and other problems.
  • an object of the present invention is to provide a vehicle display device capable of providing an AR digital signage closer to a real billboard in a driving image of a vehicle, and an operating method thereof.
  • a display device for a vehicle capable of providing a plurality of AR digital signages at a location corresponding to each POI for each floor, and an operating method thereof Its purpose is to provide
  • the image of a plurality of AR digital signage is displayed by flexibly reflecting the shape of the building based on the driver's view, the driving situation of the vehicle, the driver's individual tendency, and the surrounding traffic and structure environment.
  • An object of the present invention is to provide a display device for a vehicle capable of providing a naturally variable display and an operating method thereof.
  • An object of the present invention is to provide a display device for a vehicle that can be changed and an operating method thereof.
  • the display device interlocked with the vehicle is a display device interlocked with the vehicle, and collects, processes, and matches data to generate a vehicle and AR digital signage providing sensing data of the vehicle for each floor of a building. to communicate with the digital signage platform providing system that renders it.
  • the display device displays AR digital signage corresponding to each content information related to a plurality of POI information included in a building area by using sensing data of a vehicle and spatial location and number of floors information of the building area.
  • a rendering request to be provided to the system can be performed to the system.
  • the display device may receive the result of the rendering request, map the image of the AR digital signage by floor to a display area determined based on the image of the building area in the driving image, and display it.
  • the display area is determined differently based on the shape of the image of the building recognized based on the sensing data of the vehicle received from the vehicle, for example, the camera sensing data, and the AR digital signage is mapped for each floor according to the changed display area. can be displayed
  • a display device interlocked with a vehicle includes: a communication unit that communicates with a digital signage platform providing system; a display unit configured to display a driving image of the vehicle acquired through a vision sensor; and a controller configured to receive the sensing data of the vehicle and control the communication unit to transmit a request for POI information related thereto to the system.
  • the control unit recognizes the spatial position of the building area including at least a plurality of POI information detected by the system, and uses the sensing data of the vehicle and the spatial position and the number of floors information of the building area to obtain the plurality of POI information.
  • the image of the AR digital signage is mapped and displayed for each floor, and in response to the change of the display area based on the shape of the image of the building area in the driving image, information on the changed display area is transmitted to the system and the system
  • a rendering result for mapping the image of the AR digital signage corresponding to the changed display area may be received from the .
  • control unit changes the display area based on the distortion ratio of the image of the building area recognized through the camera of the vehicle, and transmits information about the changed display area to the system, so that the AR digital A result of a rendering request for displaying the image of the signage for each layer in the changed display area may be received.
  • control unit when at least a part of the building area in the driving image is out of the camera field of view of the vehicle or a part is not recognized, the image of the AR digital signage is another structure in the driving image It can be mapped to be displayed for each layer using
  • the controller changes a display area to which the image of the AR digital signage is mapped based on sensing data of the vehicle received while the vehicle is driving, and transmits information about the changed display area to the system. can be transmitted
  • the control unit transmits information about the change in the area to the system and transmits the corresponding rendering request to the system. After receiving the result, it is possible to map the image of the AR digital signage by changing the display area from one side of the building area in the driving image to the other side.
  • the image of the AR digital signage may be displayed while gradually moving from one side of the building area to the other side in the driving image to correspond to the driving direction and driving speed of the vehicle.
  • the amount of content information included in the image of the AR digital signage may vary based on the driving speed of the vehicle.
  • the amount of content information included in the image of the AR digital signage may vary based on whether the vehicle approaches a building area in the driving image.
  • the controller transmits pre-registered preference POI information to the system, and when one of the plurality of POI information includes the pre-registered preference POI information, based on a result of the rendering request :
  • One side of the building area in the driving image is determined as the first display area, the image of the AR digital signage corresponding to each of the plurality of POI information is mapped for each floor, and the other side of the building area in the driving image is determined.
  • the display unit may be controlled to map and display the image of the AR digital signage corresponding to the pre-registered preference POI information on the entire other surface.
  • control unit transmits the information on the destination of the vehicle to the system, and when one of a plurality of POI information included in the building area is set as the destination of the vehicle, the rendering request from the system
  • the rendering request from the system
  • an image of a corresponding AR digital signage matching the destination of the vehicle may be mapped to the display area to be visually distinguished from other AR objects.
  • the controller in response to the vehicle approaching the building area including the destination of the vehicle, maps and displays the image of the AR digital signage only on the number of floors corresponding to the destination of the vehicle.
  • the area can be varied.
  • the method of operating a display device interlocked with a vehicle may include the following steps, and each step may be performed by a processor built in the display device. Specifically, in response to a user input, by the processor, performing a connection with the AR digital signage platform providing system; receiving the sensing data of the vehicle and transmitting a request for POI information related to the sensing data of the vehicle to the system; recognizing a spatial location of a building area including a plurality of POI information detected by the system; Using the sensing data of the vehicle and spatial location and number of floors information of the building area, a rendering request for generating AR digital signage corresponding to each content information related to the plurality of POI information for each floor is transmitted to the system step; receiving a result of the rendering request, mapping and displaying the image of the AR digital signage by floor in a display area determined based on an image of a building area in the driving image of the vehicle obtained through a vision sensor; and transmitting information on the display area changed based on the shape of the image of
  • the displaying includes determining a display area based on a distortion ratio of the image of the building area recognized through a camera of the vehicle, and transmitting information about the determined display area to the system,
  • the method may include receiving a result of a rendering request for displaying the image of the AR digital signage layer by layer in the determined display area.
  • the displaying may include, in the case where at least a part of the building area in the driving image is out of the camera field of view of the vehicle or a part is not recognized, the image of the AR digital signage is displayed in another image in the driving image.
  • the method may include varying the display area to be displayed on a layer-by-layer basis using a structure.
  • changing the display area to which the image of the AR digital signage is mapped, and transmitting information about the changed display area to the system may further include.
  • the digital signage platform providing apparatus and operating method according to the present invention, and the effect of the system including the same will be described as follows.
  • the awkwardness of artificially floating and displaying an AR object on the driving route screen is resolved.
  • the limitation of displaying only one advertisement in one area is solved, and the advantage of expanding to provide a plurality of advertisements of various types in one building provides
  • the shape of the building based on the driver's view, the driving situation of the vehicle, preference, and the surrounding traffic and structure environment are flexible.
  • the position of the display area can be changed. Accordingly, the visibility of the displayed AR digital signage can be further improved.
  • advertisement information is more effectively provided by varying the amount or display method of information provided through AR digital signage based on service grade, user preference, and environmental change due to vehicle driving can do. For example, when a vehicle approaches a building displaying an AR digital signage and drives at a slow driving speed or stops for a while, by providing a more detailed and active advertisement, the advertisement effect can be maximized.
  • FIG. 1 is a diagram illustrating an example of a vehicle related to an embodiment of the present invention.
  • FIG. 2 is a view of a vehicle related to an embodiment of the present invention viewed from various angles.
  • 3 and 4 are views illustrating the interior of a vehicle according to an embodiment of the present invention.
  • 5 and 6 are diagrams referenced to explain various objects related to driving of a vehicle according to an embodiment of the present invention.
  • FIG. 7 is a block diagram referenced for explaining a vehicle related to an embodiment of the present invention.
  • FIG. 8 is a block diagram illustrating communication with a digital signage platform providing apparatus, a user terminal, and a cloud server according to an embodiment of the present invention.
  • FIG. 9 is a block diagram showing that the information processing system related to the embodiment of the present invention communicates with a plurality of user terminals.
  • FIG. 10 is a diagram for explaining the configuration of an apparatus for providing a digital signage platform according to an embodiment of the present invention.
  • FIG. 11 is a representative flowchart for explaining an operating method of an apparatus for providing a digital signage platform according to an embodiment of the present invention.
  • FIGS. 12 and 13 are diagrams for explaining a method of arranging AR digital signage by floor in a building area of a driving image, according to an embodiment of the present invention.
  • FIG. 14 is a diagram for explaining a method of selecting a display area of an AR digital signage for each floor based on the shape of a building area, according to an embodiment of the present invention.
  • 15 is a diagram for explaining a method of selecting a display area of an AR digital signage for each floor based on driving information of a vehicle, according to an embodiment of the present invention.
  • 16 is a diagram for explaining a method of selecting a display area of an AR digital signage for each floor based on a driver's preference, according to an embodiment of the present invention.
  • 17A, 17B, and 17C are diagrams for explaining various methods of varying a display area of an AR digital signage for each floor based on situation information around a vehicle, according to an embodiment of the present invention.
  • FIG. 18 is a diagram for explaining a method of varying information included in an AR digital signage for each floor based on a driving speed and a driving direction of a vehicle, according to an embodiment of the present invention.
  • FIG. 19 is a diagram illustrating that a display device according to an embodiment of the present invention communicates with a vehicle and a system for providing a digital signage platform.
  • the vehicle described in this specification may be a concept including an automobile and a motorcycle.
  • the vehicle will be mainly described with respect to the vehicle.
  • the vehicle described herein may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.
  • the left side of the vehicle means the left side of the driving direction of the vehicle
  • the right side of the vehicle means the right side of the driving direction of the vehicle
  • the "system” disclosed herein may include at least one of a server device and a cloud device, but is not limited thereto.
  • a system may consist of one or more server devices.
  • a system may consist of one or more cloud devices.
  • the system may be operated with a server device and a cloud device configured together.
  • a “user terminal” or “user client” refers to a computing device such as a vehicle (or an electrical component, device/system, etc.) and a user terminal that communicates with the AR digital signage platform device/system and/or It may be referred to as including the system or the user itself.
  • the "digital signage platform” disclosed herein may provide an embedded/device-based or cloud-based platform capable of PaaS (Platform as a Service) and/or MLaaS (Machine Learning as a Service) services.
  • This digital signage platform relates to a method/operation of providing AR digital signage.
  • map information includes images captured by a vision sensor such as a camera, two-dimensional map information, three-dimensional map information, a digital twin three-dimensional map, and map information in real/virtual space. can be referred to as meaning.
  • Point of Interest (POI) information is a point of interest selected based on the map information, and includes pre-registered POI information (POI stored in a map map of a cloud server), user-set POI information (eg, home, school, company, etc.), driving-related POI information (eg, destination, stopover, gas station, rest stop, parking lot, etc.) can Such POI information may be updated in real time based on the current location of the vehicle.
  • pre-registered POI information POI stored in a map map of a cloud server
  • user-set POI information eg, home, school, company, etc.
  • driving-related POI information eg, destination, stopover, gas station, rest stop, parking lot, etc.
  • the "driving image” disclosed in this specification is obtained through a vision sensor around a vehicle or vehicle, for example, an image obtained or projected through a vision sensor (camera, laser sensor for image, etc.) during driving of the vehicle, the vehicle's It may include an image of the real image itself/virtual space projected on the windshield. That is, the driving image may be referred to as including all images output through a display, an image projected through a laser sensor, or a real image shown through a vehicle windshield.
  • FIGS. 1 and 2 are exterior views of a vehicle according to an embodiment of the present invention
  • FIGS. 3 and 4 are views illustrating an interior of a vehicle according to an embodiment of the present invention.
  • 5 to 6 are views illustrating various objects related to driving of a vehicle according to an embodiment of the present invention.
  • 7 is a block diagram referenced for explaining a vehicle related to an embodiment of the present invention. 7 is a block diagram referenced for explaining a vehicle according to an embodiment of the present invention.
  • the vehicle 100 may include wheels rotated by a power source and a steering input device 510 for controlling the traveling direction of the vehicle 100 .
  • the vehicle 100 may be an autonomous driving vehicle.
  • the vehicle 100 may be switched to an autonomous driving mode or a manual mode based on a user input.
  • the vehicle 100 is switched from the manual mode to the autonomous driving mode based on a user input received through the user interface device (hereinafter, may be referred to as a 'user terminal') 200, or It can be switched from autonomous driving mode to manual mode.
  • a 'user terminal' the user interface device
  • the vehicle 100 may be switched to an autonomous driving mode or a manual mode based on driving situation information.
  • the driving situation information may be generated based on object information provided by the object detection apparatus 300 .
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on the driving situation information generated by the object detection apparatus 300 .
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on driving situation information received through the communication device 400 .
  • the vehicle 100 may be switched from the manual mode to the autonomous driving mode or from the autonomous driving mode to the manual mode based on information, data, and signals provided from an external device.
  • the autonomous driving vehicle 100 may be operated based on the driving system 700 .
  • the autonomous driving vehicle 100 may be operated based on information, data, or signals generated by the driving system 710 , the taking-out system 740 , and the parking system 750 .
  • the autonomous driving vehicle 100 may receive a user input for driving through the driving manipulation device 500 . Based on a user input received through the driving manipulation device 500 , the vehicle 100 may be driven.
  • the overall length refers to the length from the front part to the rear part of the vehicle 100
  • the width refers to the width of the vehicle 100
  • the height refers to the length from the lower part of the wheel to the roof.
  • the overall length direction (L) is the standard direction for measuring the overall length of the vehicle 100
  • the full width direction (W) is the standard direction for measuring the full width of the vehicle 100
  • the total height direction (H) is the vehicle (100) may mean a direction that is a reference for measuring the total height.
  • the vehicle 100 includes a user interface device (hereinafter, may be referred to as a 'user terminal') 200 , an object detection device 300 , a communication device 400 , and a driving operation device.
  • a user interface device hereinafter, may be referred to as a 'user terminal'
  • an object detection device 300 e.g., a senor 300
  • a communication device 400 e.g., a Wi-Fi Protected Access 2
  • a driving operation device e.g., a driving operation device. 500
  • the vehicle driving device 600 the driving system 700
  • the navigation system 770 e.g., the navigation system 770 , the sensing unit 120 , the vehicle interface unit 130 , the memory 140 , the control unit 170 , and the power supply unit 190 .
  • the vehicle 100 may further include other components in addition to the components described herein, or may not include some of the components described herein.
  • the user interface device 200 is a device for communication between the vehicle 100 and a user.
  • the user interface device 200 may receive a user input and provide information generated in the vehicle 100 to the user.
  • the vehicle 100 may implement a user interface (UI) or a user experience (UX) through the user interface device (hereinafter, may be referred to as a 'user terminal') 200 .
  • UI user interface
  • UX user experience
  • the user interface device 200 may include an input unit 210 , an internal camera 220 , a biometric sensor 230 , an output unit 250 , and a processor 270 . According to an embodiment, the user interface device 200 may further include other components in addition to the described components, or may not include some of the described components.
  • the input unit 210 is for receiving information from a user, and the data collected by the input unit 210 may be analyzed by the processor 270 and processed as a user's control command.
  • the input unit 210 may be disposed inside the vehicle.
  • the input unit 210 may include one region of a steering wheel, one region of an instrument panel, one region of a seat, one region of each pillar, and a door.
  • One area of the door, one area of the center console, one area of the head lining, one area of the sun visor, one area of the windshield or the window (window) It may be disposed in one area or the like.
  • the input unit 210 may include a voice input unit 211 , a gesture input unit 212 , a touch input unit 213 , and a mechanical input unit 214 .
  • the voice input unit 211 may convert the user's voice input into an electrical signal.
  • the converted electrical signal may be provided to the processor 270 or the controller 170 .
  • the voice input unit 211 may include one or more microphones.
  • the gesture input unit 212 may convert the user's gesture input into an electrical signal.
  • the converted electrical signal may be provided to the processor 270 or the controller 170 .
  • the gesture input unit 212 may include at least one of an infrared sensor and an image sensor for detecting a user's gesture input. According to an embodiment, the gesture input unit 212 may detect a user's 3D gesture input. To this end, the gesture input unit 212 may include a light output unit that outputs a plurality of infrared rays or a plurality of image sensors.
  • the gesture input unit 212 may detect the user's 3D gesture input through a time of flight (TOF) method, a structured light method, or a disparity method.
  • TOF time of flight
  • the touch input unit 213 may convert a user's touch input into an electrical signal.
  • the converted electrical signal may be provided to the processor 270 or the controller 170 .
  • the touch input unit 213 may include a touch sensor for sensing a user's touch input. According to an embodiment, the touch input unit 213 may be integrally formed with the display unit 251 to implement a touch screen. Such a touch screen may provide both an input interface and an output interface between the vehicle 100 and the user.
  • the mechanical input unit 214 may include at least one of a button, a dome switch, a jog wheel, and a jog switch.
  • the electrical signal generated by the mechanical input unit 214 may be provided to the processor 270 or the control unit 170 .
  • the mechanical input unit 214 may be disposed on a steering wheel, a center fascia, a center console, a cockpick module, a door, and the like.
  • the internal camera 220 may acquire an image inside the vehicle.
  • the processor 270 may detect the user's state based on the image inside the vehicle.
  • the processor 270 may acquire the user's gaze information from the image inside the vehicle.
  • the processor 270 may detect the user's gesture from the image inside the vehicle.
  • the biometric sensor 230 may obtain biometric information of the user.
  • the biometric sensor 230 may include a sensor capable of obtaining the user's biometric information, and may obtain the user's fingerprint information, heart rate information, and the like, using the sensor.
  • the biometric information may be used for user authentication.
  • the output unit 250 is for generating an output related to visual, auditory or tactile sense.
  • the output unit 250 may include at least one of a display unit 251 , a sound output unit 252 , and a haptic output unit 253 .
  • the display unit 251 may display graphic objects corresponding to various pieces of information.
  • the display unit 251 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display (Flexible Display).
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light-emitting diode
  • Flexible Display Flexible Display
  • display a three-dimensional display (3D display)
  • an electronic ink display e-ink display
  • e-ink display may include at least one.
  • the display unit 251 may form a layer structure with the touch input unit 213 or be integrally formed to implement a touch screen.
  • the display unit 251 may be implemented as a head-up display (HUD).
  • the display unit 251 may include a projection module to output information through an image projected on a windshield or window.
  • the display unit 251 may include a transparent display.
  • the transparent display may be attached to a windshield or window.
  • the transparent display may display a predetermined screen while having a predetermined transparency.
  • Transparent display in order to have transparency, transparent TFEL (Thin Film Elecroluminescent), transparent OLED (Organic Light-Emitting Diode), transparent LCD (Liquid Crystal Display), transmissive transparent display, transparent LED (Light Emitting Diode) display may include at least one of The transparency of the transparent display can be adjusted.
  • the user interface device 200 may include a plurality of display units 251a to 251g.
  • the display unit 251 includes one area of the steering wheel, one area 521a, 251b, and 251e of the instrument panel, one area 251d of the seat, one area 251f of each pillar, and one area of the door ( 251g), one area of the center console, one area of the head lining, one area of the sun visor, or one area 251c of the windshield and one area 251h of the window.
  • the sound output unit 252 converts an electric signal provided from the processor 270 or the controller 170 into an audio signal and outputs the converted signal. To this end, the sound output unit 252 may include one or more speakers.
  • the haptic output unit 253 generates a tactile output.
  • the haptic output unit 253 may vibrate the steering wheel, the seat belt, and the seats 110FL, 110FR, 110RL, and 110RR so that the user can recognize the output.
  • the processor (hereinafter, may be referred to as a 'control unit') 270 may control the overall operation of each unit of the user interface device 200 .
  • the user interface apparatus 200 may include a plurality of processors 270 or may not include the processors 270 .
  • the user interface device 200 may be operated under the control of a processor or controller 170 of another device in the vehicle 100 .
  • the user interface device 200 may be referred to as a vehicle display device.
  • the user interface device 200 may be operated under the control of the controller 170 .
  • the object detecting apparatus 300 is an apparatus for detecting an object located outside the vehicle 100 .
  • the object may be various objects related to the operation of the vehicle 100 . 5 to 6
  • the object O includes a lane OB10, another vehicle OB11, a pedestrian OB12, a two-wheeled vehicle OB13, traffic signals OB14, OB15, light, road, structure, This may include speed bumps, features, animals, and the like.
  • the lane OB10 may be a driving lane, a lane next to the driving lane, or a lane in which vehicles facing each other travel.
  • the lane OB10 may be a concept including left and right lines forming a lane.
  • the other vehicle OB11 may be a vehicle running in the vicinity of the vehicle 100 .
  • the other vehicle may be a vehicle located within a predetermined distance from the vehicle 100 .
  • the other vehicle OB11 may be a vehicle preceding or following the vehicle 100 .
  • the pedestrian OB12 may be a person located in the vicinity of the vehicle 100 .
  • the pedestrian OB12 may be a person located within a predetermined distance from the vehicle 100 .
  • the pedestrian OB12 may be a person located on a sidewalk or a roadway.
  • the two-wheeled vehicle OB12 may refer to a vehicle positioned around the vehicle 100 and moving using two wheels.
  • the two-wheeled vehicle OB12 may be a vehicle having two wheels positioned within a predetermined distance from the vehicle 100 .
  • the two-wheeled vehicle OB13 may be a motorcycle or a bicycle located on a sidewalk or roadway.
  • the traffic signal may include a traffic light OB15, a traffic sign OB14, and a pattern or text drawn on a road surface.
  • the light may be light generated from a lamp provided in another vehicle.
  • the light can be the light generated from the street lamp.
  • the light may be sunlight.
  • the road may include a road surface, a curve, an uphill slope, a downhill slope, and the like.
  • the structure may be an object located around a road and fixed to the ground.
  • the structure may include a street light, a street tree, a building, a power pole, a traffic light, and a bridge.
  • Features may include mountains, hills, and the like.
  • the object may be classified into a moving object and a fixed object.
  • the moving object may be a concept including other vehicles and pedestrians.
  • the fixed object may be a concept including a traffic signal, a road, and a structure.
  • the object detection apparatus 300 may include a camera 310 , a radar 320 , a lidar 330 , an ultrasonic sensor 340 , an infrared sensor 350 , and a processor 370 .
  • the object detecting apparatus 300 may further include other components in addition to the described components, or may not include some of the described components.
  • the camera 310 may be located at an appropriate place outside the vehicle in order to acquire an image outside the vehicle.
  • the camera 310 may be a mono camera, a stereo camera 310a, an AVM (Around View Monitoring) camera 310b, or a 360 degree camera.
  • the camera 310 may be disposed adjacent to the front windshield in the interior of the vehicle to acquire an image of the front of the vehicle.
  • the camera 310 may be disposed around the front bumper or radiator grill.
  • the camera 310 may be disposed adjacent to the rear glass in the interior of the vehicle to acquire an image of the rear of the vehicle.
  • the camera 310 may be disposed around a rear bumper, a trunk, or a tailgate.
  • the camera 310 may be disposed adjacent to at least one of the side windows in the interior of the vehicle in order to acquire an image of the side of the vehicle.
  • the camera 310 may be disposed around a side mirror, a fender, or a door.
  • the camera 310 may provide the acquired image to the processor 370 .
  • the radar 320 may include an electromagnetic wave transmitter and a receiver.
  • the radar 320 may be implemented in a pulse radar method or a continuous wave radar method in view of a radio wave emission principle.
  • the radar 320 may be implemented in a frequency modulated continuous wave (FMCW) method or a frequency shift keyong (FSK) method according to a signal waveform among continuous wave radar methods.
  • FMCW frequency modulated continuous wave
  • FSK frequency shift keyong
  • the radar 320 detects an object based on a time of flight (TOF) method or a phase-shift method using an electromagnetic wave as a medium, and a position of the detected object, a distance from the detected object, and a relative speed can be detected.
  • TOF time of flight
  • phase-shift method using an electromagnetic wave as a medium
  • the radar 320 may be disposed at an appropriate location outside the vehicle to detect an object located in front, rear, or side of the vehicle.
  • the lidar 330 may include a laser transmitter and a receiver.
  • the lidar 330 may be implemented in a time of flight (TOF) method or a phase-shift method.
  • TOF time of flight
  • the lidar 330 may be implemented as a driven or non-driven type.
  • the lidar 330 When implemented as a driving type, the lidar 330 is rotated by a motor and may detect an object around the vehicle 100 .
  • the lidar 330 may detect an object located within a predetermined range with respect to the vehicle 100 by light steering.
  • the vehicle 100 may include a plurality of non-driven lidars 330 .
  • the lidar 330 detects an object based on a time of flight (TOF) method or a phase-shift method as a laser light medium, and determines the position of the detected object, the distance from the detected object, and Relative speed can be detected.
  • TOF time of flight
  • phase-shift method as a laser light medium
  • the lidar 330 may be disposed at an appropriate location outside the vehicle to detect an object located in the front, rear, or side of the vehicle.
  • the ultrasonic sensor 340 may include an ultrasonic transmitter and a receiver.
  • the ultrasound sensor 340 may detect an object based on ultrasound, and detect a position of the detected object, a distance from the detected object, and a relative speed.
  • the ultrasonic sensor 340 may be disposed at an appropriate location outside the vehicle to detect an object located at the front, rear, or side of the vehicle.
  • the infrared sensor 350 may include an infrared transmitter and a receiver.
  • the infrared sensor 340 may detect an object based on infrared light, and detect a position of the detected object, a distance from the detected object, and a relative speed.
  • the infrared sensor 350 may be disposed at an appropriate location outside the vehicle to detect an object located in front, rear, or side of the vehicle.
  • the processor 370 may control the overall operation of each unit of the object detection apparatus 300 .
  • the processor 370 may detect and track the object based on the acquired image.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to an object through an image processing algorithm.
  • the processor 370 may detect and track the object based on the reflected electromagnetic wave that is reflected by the object and returns.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the electromagnetic wave.
  • the processor 370 may detect and track the object based on reflected laser light from which the transmitted laser is reflected by the object and returned.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the laser light.
  • the processor 370 may detect and track the object based on the reflected ultrasound reflected back by the transmitted ultrasound.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the ultrasound.
  • the processor 370 may detect and track the object based on the reflected infrared light reflected back by the transmitted infrared light.
  • the processor 370 may perform operations such as calculating a distance to an object and calculating a relative speed with respect to the object based on the infrared light.
  • the object detecting apparatus 300 may include a plurality of processors 370 or may not include the processors 370 .
  • each of the camera 310 , the radar 320 , the lidar 330 , the ultrasonic sensor 340 , and the infrared sensor 350 may individually include a processor.
  • the object detection apparatus 300 may be operated under the control of the processor or the controller 170 of the apparatus in the vehicle 100 .
  • the object detection apparatus 400 may be operated under the control of the controller 170 .
  • the communication apparatus 400 is an apparatus for performing communication with an external device.
  • the external device may be another vehicle, a mobile terminal, or a server.
  • the communication device 400 may include at least one of a transmission antenna, a reception antenna, a radio frequency (RF) circuit capable of implementing various communication protocols, and an RF element to perform communication.
  • RF radio frequency
  • the communication device 400 may include a short-range communication unit 410 , a location information unit 420 , a V2X communication unit 430 , an optical communication unit 440 , a broadcast transceiver unit 450 , and a processor 470 .
  • the communication device 400 may further include other components in addition to the described components, or may not include some of the described components.
  • the short-range communication unit 410 is a unit for short-range communication.
  • the short-range communication unit 410 Bluetooth (BluetoothTM), RFID (Radio Frequency Identification), infrared communication (Infrared Data Association; IrDA), UWB (Ultra Wideband), ZigBee, NFC (Near Field Communication), Wi-Fi (Wireless) -Fidelity), Wi-Fi Direct, and at least one of Wireless USB (Wireless Universal Serial Bus) technologies may be used to support short-distance communication.
  • the short-range communication unit 410 may form wireless area networks to perform short-range communication between the vehicle 100 and at least one external device.
  • the location information unit 420 is a unit for obtaining location information of the vehicle 100 .
  • the location information unit 420 may include a Global Positioning System (GPS) module or a Differential Global Positioning System (DGPS) module.
  • GPS Global Positioning System
  • DGPS Differential Global Positioning System
  • the V2X communication unit 430 is a unit for performing wireless communication with a server (V2I: Vehicle to Infra), another vehicle (V2V: Vehicle to Vehicle), or a pedestrian (V2P: Vehicle to Pedestrian).
  • the V2X communication unit 430 may include an RF circuit capable of implementing protocols for communication with infrastructure (V2I), vehicle-to-vehicle communication (V2V), and communication with pedestrians (V2P).
  • the optical communication unit 440 is a unit for performing communication with an external device via light.
  • the optical communication unit 440 may include an optical transmitter that converts an electrical signal into an optical signal to transmit to the outside, and an optical receiver that converts the received optical signal into an electrical signal.
  • the light transmitter may be formed to be integrated with a lamp included in the vehicle 100 .
  • the broadcast transceiver 450 is a unit for receiving a broadcast signal from an external broadcast management server or transmitting a broadcast signal to the broadcast management server through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel.
  • the broadcast signal may include a TV broadcast signal, a radio broadcast signal, and a data broadcast signal.
  • the processor 470 may control the overall operation of each unit of the communication device 400 .
  • the communication device 400 may include a plurality of processors 470 or may not include the processors 470 .
  • the communication device 400 may be operated under the control of a processor of another device in the vehicle 100 or the control unit 170 .
  • the communication device 400 may implement a vehicle display device together with the user interface device 200 .
  • the vehicle display device may be referred to as a telematics device or an AVN (Audio Video Navigation) device.
  • the communication device 400 may be operated under the control of the controller 170 .
  • the driving operation device 500 is a device that receives a user input for driving.
  • the vehicle 100 may be driven based on a signal provided by the driving manipulation device 500 .
  • the driving manipulation device 500 may include a steering input device 510 , an acceleration input device 530 , and a brake input device 570 .
  • the steering input device 510 may receive a driving direction input of the vehicle 100 from the user.
  • the steering input device 510 is preferably formed in a wheel shape to enable steering input by rotation.
  • the steering input device may be formed in the form of a touch screen, a touch pad, or a button.
  • the acceleration input device 530 may receive an input for acceleration of the vehicle 100 from a user.
  • the brake input device 570 may receive an input for decelerating the vehicle 100 from a user.
  • the acceleration input device 530 and the brake input device 570 are preferably formed in the form of pedals. According to an embodiment, the acceleration input device or the brake input device may be formed in the form of a touch screen, a touch pad, or a button.
  • the driving operation device 500 may be operated under the control of the controller 170 .
  • the vehicle driving device 600 is a device that electrically controls driving of various devices in the vehicle 100 .
  • the vehicle driving device 600 may include a power train driving unit 610 , a chassis driving unit 620 , a door/window driving unit 630 , a safety device driving unit 640 , a lamp driving unit 650 , and an air conditioning driving unit 660 .
  • a power train driving unit 610 may be included in the vehicle driving device 600 .
  • a chassis driving unit 620 may be included in the vehicle driving device 600 .
  • a door/window driving unit 630 may include a door/window driving unit 630 , a safety device driving unit 640 , a lamp driving unit 650 , and an air conditioning driving unit 660 .
  • the vehicle driving apparatus 600 may further include other components in addition to the described components, or may not include some of the described components.
  • the vehicle driving apparatus 600 may include a processor.
  • Each unit of the vehicle driving apparatus 600 may include a processor, respectively.
  • the power train driver 610 may control the operation of the power train device.
  • the power train driving unit 610 may include a power source driving unit 611 and a transmission driving unit 612 .
  • the power source driving unit 611 may control the power source of the vehicle 100 .
  • the power source driving unit 610 may perform electronic control of the engine. Thereby, the output torque of an engine, etc. can be controlled.
  • the power source driving unit 611 may adjust the engine output torque according to the control of the control unit 170 .
  • the power source driving unit 610 may control the motor.
  • the power source driving unit 610 may adjust the rotation speed, torque, and the like of the motor according to the control of the control unit 170 .
  • the transmission driving unit 612 may control the transmission.
  • the transmission driving unit 612 may adjust the state of the transmission.
  • the transmission driving unit 612 may adjust the state of the transmission to forward (D), reverse (R), neutral (N), or park (P).
  • the transmission driving unit 612 may adjust the engagement state of the gear in the forward (D) state.
  • the chassis driver 620 may control the operation of the chassis device.
  • the chassis driving unit 620 may include a steering driving unit 621 , a brake driving unit 622 , and a suspension driving unit 623 .
  • the steering driving unit 621 may perform electronic control of a steering apparatus in the vehicle 100 .
  • the steering driving unit 621 may change the traveling direction of the vehicle.
  • the brake driving unit 622 may perform electronic control of a brake apparatus in the vehicle 100 .
  • the speed of the vehicle 100 may be reduced by controlling the operation of a brake disposed on the wheel.
  • the brake driving unit 622 may individually control each of the plurality of brakes.
  • the brake driving unit 622 may differently control the braking force applied to the plurality of wheels.
  • the suspension driving unit 623 may electronically control a suspension apparatus in the vehicle 100 . For example, when there is a curve in the road surface, the suspension driving unit 623 may control the suspension device to reduce vibration of the vehicle 100 . Meanwhile, the suspension driving unit 623 may individually control each of the plurality of suspensions.
  • the door/window driving unit 630 may perform electronic control of a door apparatus or a window apparatus in the vehicle 100 .
  • the door/window driving unit 630 may include a door driving unit 631 and a window driving unit 632 .
  • the door driving unit 631 may control the door device.
  • the door driving unit 631 may control opening and closing of a plurality of doors included in the vehicle 100 .
  • the door driving unit 631 may control opening or closing of a trunk or a tail gate.
  • the door driving unit 631 may control opening or closing of a sunroof.
  • the window driving unit 632 may perform electronic control of a window apparatus. Opening or closing of a plurality of windows included in the vehicle 100 may be controlled.
  • the safety device driving unit 640 may perform electronic control of various safety apparatuses in the vehicle 100 .
  • the safety device driving unit 640 may include an airbag driving unit 641 , a seat belt driving unit 642 , and a pedestrian protection device driving unit 643 .
  • the airbag driving unit 641 may perform electronic control of an airbag apparatus in the vehicle 100 .
  • the airbag driver 641 may control the airbag to be deployed when a danger is detected.
  • the seat belt driving unit 642 may perform electronic control of a seat belt appartus in the vehicle 100 .
  • the seat belt driving unit 642 may control the occupant to be fixed to the seats 110FL, 110FR, 110RL, and 110RR using the seat belt when a danger is sensed.
  • the pedestrian protection device driving unit 643 may perform electronic control for the hood lift and the pedestrian airbag. For example, when detecting a collision with a pedestrian, the pedestrian protection device driving unit 643 may control to lift up the hood and deploy the pedestrian airbag.
  • the lamp driver 650 may electronically control various lamp apparatuses in the vehicle 100 .
  • the air conditioning driving unit 660 may perform electronic control of an air conditioner in the vehicle 100 . For example, when the temperature inside the vehicle is high, the air conditioning driving unit 660 may control the air conditioner to operate to supply cool air to the interior of the vehicle.
  • the vehicle driving apparatus 600 may include a processor. Each unit of the vehicle driving apparatus 600 may include a processor, respectively.
  • the vehicle driving apparatus 600 may be operated under the control of the controller 170 .
  • the operation system 700 is a system for controlling various operations of the vehicle 100 .
  • the driving system 700 may be operated in an autonomous driving mode.
  • the driving system 700 may include a driving system 710 , a vehicle taking-out system 740 , and a parking system 750 .
  • the navigation system 700 may further include other components in addition to the described components, or may not include some of the described components.
  • the driving system 700 may include a processor.
  • Each unit of the navigation system 700 may each individually include a processor.
  • the operation system 700 when the operation system 700 is implemented in software, it may be a sub-concept of the control unit 170 .
  • the driving system 700 may control at least one of the user interface device 200 , the object detection device 300 , the communication device 400 , the vehicle driving device 600 , and the control unit 170 . It may be a concept that includes
  • the driving system 710 may perform driving of the vehicle 100 .
  • the driving system 710 may receive navigation information from the navigation system 770 and provide a control signal to the vehicle driving apparatus 600 to drive the vehicle 100 .
  • the driving system 710 may receive object information from the object detecting apparatus 300 , and provide a control signal to the vehicle driving apparatus 600 to drive the vehicle 100 .
  • the driving system 710 may receive a signal from an external device through the communication device 400 and provide a control signal to the vehicle driving apparatus 600 to drive the vehicle 100 .
  • the un-parking system 740 may perform un-parking of the vehicle 100 .
  • the un-parking system 740 may receive navigation information from the navigation system 770 and provide a control signal to the vehicle driving apparatus 600 to un-park the vehicle 100 .
  • the un-parking system 740 may receive the object information from the object detection apparatus 300 and provide a control signal to the vehicle driving apparatus 600 to un-park the vehicle 100 .
  • the un-parking system 740 may receive a signal from an external device through the communication device 400 and provide a control signal to the vehicle driving apparatus 600 to un-park the vehicle 100 .
  • the parking system 750 may perform parking of the vehicle 100 .
  • the parking system 750 may receive navigation information from the navigation system 770 and provide a control signal to the vehicle driving device 600 to park the vehicle 100 .
  • the parking system 750 may receive object information from the object detection apparatus 300 , and may provide a control signal to the vehicle driving apparatus 600 to park the vehicle 100 .
  • the parking system 750 may receive a signal from an external device through the communication device 400 and provide a control signal to the vehicle driving apparatus 600 to park the vehicle 100 .
  • the navigation system 770 may provide navigation information.
  • the navigation information may include at least one of map information, set destination information, route information according to the destination setting, information on various objects on a route, lane information, and current location information of the vehicle.
  • the navigation system 770 may include a memory and a processor.
  • the memory may store navigation information.
  • the processor may control the operation of the navigation system 770 .
  • the navigation system 770 may receive information from an external device through the communication device 400 and update pre-stored information.
  • the navigation system 770 may be classified into sub-components of the user interface device 200 .
  • the sensing unit 120 may sense the state of the vehicle.
  • the sensing unit 120 may include a posture sensor (eg, a yaw sensor, a roll sensor, a pitch sensor), a collision sensor, a wheel sensor, a speed sensor, and an inclination. sensor, weight sensor, heading sensor, yaw sensor, gyro sensor, position module, vehicle forward/reverse sensor, battery sensor, fuel sensor, tire sensor, steering wheel It may include a steering sensor by rotation, a vehicle internal temperature sensor, a vehicle internal humidity sensor, an ultrasonic sensor, an illuminance sensor, an accelerator pedal position sensor, a brake pedal position sensor, and the like.
  • the sensing unit 120 may include vehicle posture information, vehicle collision information, vehicle direction information, vehicle location information (GPS information), vehicle angle information, vehicle speed information, vehicle acceleration information, vehicle tilt information, vehicle forward/reverse information, and a battery. Acquires sensing signals for information, fuel information, tire information, vehicle lamp information, vehicle interior temperature information, vehicle interior humidity information, steering wheel rotation angle, vehicle exterior illumination, pressure applied to the accelerator pedal, and pressure applied to the brake pedal can do.
  • the sensing unit 120 is, in addition, an accelerator pedal sensor, a pressure sensor, an engine speed sensor, an air flow sensor (AFS), an intake air temperature sensor (ATS), a water temperature sensor (WTS), and a throttle position sensor. (TPS), a TDC sensor, a crank angle sensor (CAS), and the like.
  • the vehicle interface unit 130 may serve as a passage with various types of external devices connected to the vehicle 100 .
  • the vehicle interface unit 130 may include a port connectable to the mobile terminal, and may be connected to the mobile terminal through the port. In this case, the vehicle interface unit 130 may exchange data with the mobile terminal.
  • the vehicle interface unit 130 may serve as a passage for supplying electrical energy to the connected mobile terminal.
  • the vehicle interface unit 130 may provide the electric energy supplied from the power supply unit 190 to the mobile terminal. .
  • the memory 140 is electrically connected to the control unit 170 .
  • the memory 140 may store basic data for the unit, control data for operation control of the unit, and input/output data.
  • the memory 140 may be a variety of storage devices such as ROM, RAM, EPROM, flash drive, hard drive, etc. in terms of hardware.
  • the memory 140 may store various data for the overall operation of the vehicle 100 , such as a program for processing or controlling the controller 170 .
  • the memory 140 may be formed integrally with the control unit 170 or may be implemented as a sub-component of the control unit 170 .
  • the controller 170 may control the overall operation of each unit in the vehicle 100 .
  • the control unit 170 may be referred to as an Electronic Control Unit (ECU).
  • ECU Electronic Control Unit
  • the power supply unit 190 may supply power required for the operation of each component under the control of the control unit 170 .
  • the power supply unit 190 may receive power from a battery inside the vehicle.
  • processors and control unit 170 include one or more processors and control unit 170, ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs ( field programmable gate arrays), processors, controllers, micro-controllers, microprocessors, and other electrical units for performing functions.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays
  • processors controllers, micro-controllers, microprocessors, and other electrical units for performing functions.
  • the digital signage platform providing device communicates with the user interface device (or, hereinafter referred to as 'user terminal') 200 or the navigation system 770 of the vehicle 100, and A platform for providing AR digital signage by layer and/or data related thereto may be provided.
  • the AR digital signage disclosed in this specification means providing multimedia information displayed on a building or a related area in a driving image using augmented reality (AR) technology, and a function such as an outdoor electric signage is implemented with AR technology.
  • AR augmented reality
  • the display of AR digital signage for each floor in a building includes, in a building in which a plurality of POI information exists, content information (eg, advertisement information, brand information, news information, etc.) related to a plurality of POI information.
  • content information eg, advertisement information, brand information, news information, etc.
  • FIG. 8 is a block diagram showing that the digital signage platform providing apparatus 800 according to an embodiment of the present invention is connected to communicate with the user terminal 200 , the vehicle 100 , and the cloud server 900 .
  • the apparatus 800 for providing a digital signage platform may be implemented as a part of an electronic device or a system of the vehicle 100 , or may be implemented by being included in a cloud server.
  • the digital signage platform providing apparatus 800 may be implemented in the form of a program implemented by the processor of the user terminal 200 interlocked with the vehicle 100 .
  • the digital signage platform providing device 800 may communicate with the vehicle 100 to collect sensing data by a sensor provided in the vehicle, and collect and process user data through the user terminal 200 interlocked with the vehicle. .
  • the digital signage platform providing device 800 filters and processes the data collected by communicating with the vehicle 100 and the user terminal 200 and the information collected through the cloud server 900, and then performs AR matching, AR digital You can request to perform rendering to generate signage.
  • the digital signage platform providing apparatus 800 transmits the result of the rendering request to the user terminal 200, and maps it into the driving image displayed on the windshield, dashboard, head-up display (HUD), etc. through the user terminal 200 You can request continuous image correction to do this.
  • the user terminal 200 may be implemented as a user interface device or a navigation system 770 implemented as a part of the system of the vehicle 100 as described above.
  • the digital signage platform providing device 800 is communicatively connected to the cloud server 900 through the communication module 810 . There may be a plurality of cloud servers 900 communicating with the digital signage platform providing device 800 .
  • the digital signage platform providing device 800 communicates with the cloud server 900, 2D or 3D map information including POI information, footpint information of a building, entrance information, and the number of floors Map information such as building stories information may be received.
  • the digital signage platform providing device 800 communicates with the cloud server 900 to collect advertisement information about POI (Point of Interest) (eg, NoSQL DB, Mongo, etc.) information) can be received. Also, the digital signage platform providing device 800 may communicate with the cloud server 900 to receive real-time traffic information.
  • POI Point of Interest
  • the digital signage platform providing device 800 may communicate with the cloud server 900 to receive real-time traffic information.
  • the digital signage platform providing apparatus 800 may collect and store map information, advertisement information, and traffic information received from the cloud server 900 in the data collection interface 821 .
  • the collected and stored information is passed to data filtering 824 .
  • the digital signage platform providing device 800 includes a camera 310, an ADAS sensor 360, a GPS/DR (not shown) provided in the vehicle 100 through a communication unit (not shown) or a user interface (not shown).
  • 460 receives vehicle sensing data from, etc.
  • the vehicle sensing data may include, for example, a driving image acquired through a camera 310 provided in the vehicle, a driving direction and speed acquired through the ADAS sensor 360, and driving-related information such as a distance from a lane.
  • the sensing data may include location data of the vehicle acquired through the GPS/DR 460 vehicle navigation system.
  • the received vehicle sensing data is collected and stored through the overnight sensing data collection 823 , and the stored information is transmitted to the data filtering 824 .
  • the digital signage platform providing apparatus 800 provides a request corresponding to a user input from the user terminal 200 embedded in the vehicle 100 or interlocked with the vehicle 100 (eg, AR signage provision request, path). guidance requests, etc.).
  • the received user input is processed and processed via user data processing 822 and passed to data filtering 824 .
  • the data filtering 824 of the digital signage platform providing device 800 information received from the cloud server 900 , input information transmitted by the user terminal 200 , and vehicle sensing received from the vehicle 100 . Filtering and processing are performed so that only the optimal data for displaying the data on the driving image remains.
  • the digital signage platform providing apparatus 800 detects a building area including a plurality of POI information based on the map information received from the cloud server 900, calculates spatial coordinates thereof, and calculates the plurality of Obtain floor number information for each POI information of Then, the digital signage platform providing device 800 provides content information related to a plurality of POI information based on the vehicle sensing data by the vehicle sensing data collection 823 and spatial coordinates and the number of floors for the building area. The reference point of the building area to be displayed can be calculated.
  • Calculation of such a reference point matches the viewpoint of the actual driving road or the above-mentioned driving image with the viewpoint of the screen to render the content information related to a plurality of POI information, thereby providing a sense of realism such as displaying a signage electronic board in an actual building. It is a process for
  • the digital signage platform providing apparatus 800 performs a rendering request for displaying an AR digital signage corresponding to content information related to a plurality of POI information in a display area determined based on the calculated reference point.
  • the information/data filtered and processed by the data filtering 824 is matched with the map information continuously/real-time through the cloud server 900 and AR-matched (AR Mergin) 825 .
  • the digital signage platform providing apparatus 800 provides AR-matched (AR Mergin) 825 information/data to the AR engine 830 to request AR rendering.
  • the AR engine 830 may be embedded in the digital signage platform providing device 800 as shown in FIG. 8 .
  • the AR engine 830 is connected to the processor provided in the user terminal 200 or the user interface device 200 ( FIG. 7 ) of the vehicle shown in FIG. 7 or the navigation system 770 ( FIG. 7 ). or may be implemented by a separate terminal/device/cloud server.
  • the AR engine 830 responds to the AR rendering request, and renders AR on the path (or 2D/3D map information) of the navigation 832 based on the information/data obtained by the AR Mergin 825 . (831) can be performed in real time. Accordingly, the actual driving road and the viewpoint of the screen on which the AR digital signage will be rendered coincide.
  • the result of rendering through the AR engine 830 may be transmitted to the user terminal 200 , and the user terminal 200 based on this may display its own display or a display device for the vehicle 100 , for example, information guidance for a vehicle.
  • Map and output AR digital signage by floor in the building in the driving video displayed on the display (CID), cluster, head-up display (HUD), rear-seat entertainment (RSE), windshield/dashboard, etc. can do.
  • the driving image captured/reflected through the camera sensor provided in the vehicle 100 is output.
  • AR digital signage is mapped on the corresponding driving image.
  • a vehicle display device such as an AR navigation system, maps the AR digital signage directly onto the windshield/dashboard of the vehicle through a laser sensor provided in the vehicle 100 .
  • the 'driving image' disclosed in this specification is not only an image captured through a camera sensor (or including smart glasses including such a function), but also an image reflected on the LCD screen through the camera sensor and AR digital. It includes both the image of the real space shown on the windshield/dashboard where Nizi is directly projected and the digital twinned 3D image.
  • the user terminal 200 can transmit the mapping result to the digital signage platform providing device 800 so that the display area of the building in the actual driving road or driving image and the display area to which the image of the AR digital signage is mapped match. and may receive an image correction request continuously/real-time from the digital signage platform providing device 800 .
  • FIG. 9 is a block diagram illustrating an information processing system related to an embodiment of the present invention connected to communicate with a plurality of user terminals.
  • FIG. 9 is a schematic diagram illustrating a configuration in which the information processing system 800 according to an embodiment of the present disclosure is connected to communicate with a plurality of user terminals 200_1 , 200_2 , and 200_3 .
  • the information processing system 800 may refer to a system capable of providing a digital signage platform according to the present invention.
  • the plurality of user terminals 200_1 , 200_2 , and 200_3 may be referred to as including devices such as user terminals built in/equipped with/connected to the vehicle 100 .
  • the plurality of user terminals 200_1 , 200_2 , and 200_3 may be connected to an information processing system 800 that may provide an AR rendering request result for generating an AR digital signage through a network 50 .
  • the plurality of user terminals 200_1 , 200_2 , and 200_3 have a user and/or access right to receive an AR rendering request result for generating an AR digital signage of an operator (eg, a registered driver, etc.) It may include a terminal.
  • information processing system 800 may store, provide, and execute computer-executable programs (eg, downloadable applications) and data related to the creation of AR digital signage and/or one or more server devices and/or It may include a database, or one or more distributed computing devices and/or distributed databases based on cloud computing services.
  • computer-executable programs eg, downloadable applications
  • data related to the creation of AR digital signage and/or one or more server devices and/or It may include a database, or one or more distributed computing devices and/or distributed databases based on cloud computing services.
  • the result of the request for rendering of the AR digital signage provided by the information processing system 800 is an application related to the provision of AR digital signage installed in each of the plurality of user terminals 200_1, 200_2, 200_3, a route guidance application, a mobile It may be provided to the user through a browser application, a web browser, or a web browser extension.
  • the information processing system 800 may provide information corresponding to an AR digital signage provision request received from the user terminals 200_1 , 200_2 , 200_3 through a route guidance application or the like, or may perform corresponding processing. .
  • the plurality of user terminals 200_1 , 200_2 , and 200_3 may communicate with the information processing system 800 through the network 50 .
  • the network 50 may be configured to enable communication between the plurality of user terminals 200_1 , 200_2 , and 200_3 and the information processing system 800 .
  • Network 50 according to the installation environment, for example, Ethernet (Ethernet), wired home network (Power Line Communication), telephone line communication device and wired networks such as RS-serial communication, mobile communication network, WLAN (Wireless LAN), It may consist of a wireless network such as Wi-Fi, Bluetooth and ZigBee, or a combination thereof.
  • the communication method is not limited, and the user terminals 200_1, 200_2, 200_3 as well as a communication method utilizing a communication network (eg, a mobile communication network, a wired Internet, a wireless Internet, a broadcasting network, a satellite network, etc.) that the network 50 may include. ) may also include short-range wireless communication between a communication network and a communication network.
  • a communication network eg, a mobile communication network, a wired Internet, a wireless Internet, a broadcasting network, a satellite network, etc.
  • the plurality of user terminals 200_1 , 200_2 , and 200_3 are capable of wired and/or wireless communication, and applications related to AR digital signage provision, route guidance applications, mobile browser applications, web browsers or web browser extension programs, etc. It can be any computing device that can be installed and executed.
  • the user terminal includes an AI speaker, a smartphone, a mobile phone, a navigation system, a computer, a laptop computer, a digital broadcasting terminal, a PDA (Personal Digital Assistants), a PMP (Portable Multimedia Player), a tablet PC, a game console, It may include a wearable device, an Internet of things (IoT) device, a virtual reality (VR) device, an augmented reality (AR) device, a set-top box, and the like.
  • IoT Internet of things
  • VR virtual reality
  • AR augmented reality
  • the user terminal may be a vehicle display device such as a central information display (CID), a cluster, a head-up display (HUD), a rear-view mirror display, and a rear seat entertainment (RSE).
  • CID central information display
  • HUD head-up display
  • RSE rear seat entertainment
  • three user terminals 200_1 , 200_2 , and 200_3 are illustrated as communicating with the information processing system 800 through the network 50 , but the present invention is not limited thereto. 50 ) and may be configured to communicate with information processing system 800 .
  • the information processing system 800 may receive a request for providing an AR digital signage or a route guidance request from the plurality of user terminals 200_1 , 200_2 , and 200_3 .
  • the information processing system 800 collects and matches information for generating an AR digital signage, and renders it in a display area for display as an AR signage to a plurality of user terminals 200_1, 200_2, 200_3) can be provided.
  • the information processing system 800 may receive sensing data of the vehicle 100 ( FIG. 8 ), request map information related to the received vehicle sensing data to a cloud server, and receive and store the map information.
  • the information processing system 800 detects a building area including a plurality of POI information based on the received map information, calculates spatial coordinates for the detected building area, and obtains floor number information for each of the plurality of POI information can do.
  • the information processing system 800 determines the reference point of the building area to display the content information related to the plurality of POI information based on the spatial coordinates and the number of floors for the building area including the sensing data of the vehicle and the plurality of POI information. can be calculated.
  • the information processing system 800 may perform a rendering request for displaying an AR digital signage corresponding to content information related to a plurality of POI information in a display area determined based on the calculated reference point.
  • the rendering request is performed for an AR engine, which is a processor of the user terminals 200_1, 200_2, and 200_3, a processor of an electric device embedded in a vehicle, a processor of the information processing system 800, or interworking therewith It can be understood to mean the operation of the processor of the device/server/system.
  • an AR engine which is a processor of the user terminals 200_1, 200_2, and 200_3, a processor of an electric device embedded in a vehicle, a processor of the information processing system 800, or interworking therewith It can be understood to mean the operation of the processor of the device/server/system.
  • the information processing system 800 transmits the result of the AR rendering request to the user terminals 200_1, 200_2, and 200_3, and causes the user terminals 200_1, 200_2, and 200_3 to perform the AR rendering corresponding to the result of the rendering request.
  • An image correction request can be sent to map the Nizi image to the display area of the building in the driving image acquired through the vision sensor for each floor.
  • the user terminals 200_1, 200_2, and 200_3 map the image of the AR digital signage to the display area of the building in the driving image for each floor and/or output the AR digital signage in response to the image correction request received from the information processing system 800 It is possible to output the image of signage by mapping layer by layer.
  • FIG. 10 is a diagram for explaining the configuration of a digital signage platform providing apparatus 800 according to an embodiment of the present invention.
  • the apparatus 800 for providing a digital signage platform may be implemented as a device embedded in the user terminal 200 or the navigation system 770 embedded/interlocked in the vehicle 100 as described above. Also, in another embodiment, the digital signage platform providing apparatus 800 may be implemented as a platform provided by a cloud server. Also, in another embodiment, the digital signage platform providing apparatus 800 may be implemented in the form of a separate terminal/device/system/program, etc. independent of the vehicle 100 and the cloud server.
  • an apparatus 800 for providing a digital signage platform includes a communication module 810 , a data collection and processing module 820 , an AR rendering request module 827 , and a memory 840 .
  • a communication module 810 may be included.
  • a data collection and processing module 820 may be included.
  • an AR rendering request module 827 may be included.
  • the present invention is not limited thereto, and may consist of fewer components or may include more components.
  • the digital signage platform providing apparatus 800 may include an additional component such as an AR engine configured to perform rendering.
  • the communication module 810 is formed so that the digital signage platform providing device 800 can communicate with the cloud server 900 ( FIG. 8 ), the vehicle 100 , and the user terminal 200 , for example, to perform communication. To this end, it may include at least one of a transmit antenna, a receive antenna, a radio frequency (RF) circuit and an RF device capable of implementing various communication protocols, or a wired/wireless interface device.
  • RF radio frequency
  • the data collection and processing module 820 is a vehicle sensing data received through the communication module 810, image data, user input request, map information, location of a building area including a plurality of POI information, the number of floors, advertisements, etc. Collect, filter and process information about content information.
  • the data collection and processing module 820 may perform a series of operations for generating an AR digital signage corresponding to content information related to a plurality of POI information by filtering, processing, editing, and matching one or more pieces of information. .
  • the AR rendering request module 827 performs a rendering request for generating an AR digital signage corresponding to a plurality of POI information.
  • the AR rendering request module 827 may refer to an AR engine that performs AR rendering.
  • the AR rendering request module 827 causes the AR engine to link with the vehicle's route guidance map, and the viewpoint of the actual driving road or driving image ('first viewpoint') and the viewpoint of the screen to render the AR digital signage (' By matching the second viewpoint'), it is possible to determine the display area to render the AR digital signage and to change continuously/real-time.
  • the memory 840 includes programs and instructions related to the overall operation of the digital signage platform providing apparatus 800 .
  • the memory 840 is communicatively connected to at least one processor (not shown), and the at least one processor may execute a program implemented with at least one or more computer-readable instructions included in the memory 840 . .
  • the memory 840 responds to a request received from the user terminal, receives the sensing data of the vehicle interlocked with the user terminal, and includes a command for requesting map information related to the sensing data of the vehicle to the cloud server. can do.
  • the memory 840 calculates spatial coordinates for a building area including a plurality of POI information in the map information received from the cloud server, and a command for obtaining floor number information for each of the plurality of POI information based on this may include.
  • the memory 840 may include a command for calculating a reference point of a building area to display content information related to a plurality of POI information, based on vehicle sensing data and spatial coordinates and floor number information for the building area. have.
  • the memory 840 provides a command for performing a rendering request to display the AR digital signage corresponding to the content information in the display area (ie, the position to render the AR object) determined based on the calculated reference point.
  • the memory 840 transmits the result of the rendering request to the user terminal, and the user terminal displays the image of the AR digital signage corresponding to the result of the rendering request in the display area of the building area in the driving image obtained through the vision sensor. It may include a command for performing an image correction request for layer-by-layer mapping.
  • the digital signage platform providing device 800 configured including such a configuration or function is implemented as a part of the device/system embedded in the vehicle 100 , or implemented as a separate device/system, or a user terminal (Alternatively, it can be implemented as being embedded in the user interface device 200 ( FIG. 7 ) or the navigation system 770 ).
  • FIG. 11 is a representative flowchart for explaining an operating method 1100 of an apparatus for providing a digital signage platform according to an embodiment of the present invention.
  • the operation method 1100 of FIG. 11 is implemented by a processor provided in the digital signage platform providing device 800 or a processor provided in a user terminal (or an electronic device/system of a vehicle or a cloud server, etc.) connected to communicate therewith. and can provide a platform for creating AR digital signage.
  • the operating method 1100 first responds to a request (eg, AR digital signage provision request, route guidance request, etc.) received from the user terminal by the digital signage platform providing device, The process of receiving sensing data of a vehicle and transmitting a map information request related thereto to the cloud server is initiated ( 1110 ).
  • a request eg, AR digital signage provision request, route guidance request, etc.
  • the map information may include POI information and 2D/3D map information included within a predetermined range based on the current location of the vehicle.
  • the map information may be a driving image captured by a vision sensor such as a camera of a vehicle.
  • the apparatus for providing a digital signage platform calculates spatial coordinates for a building area including at least a plurality of POI information in the received map information, and obtains floor number information for each of the plurality of POI information ( 1120 ).
  • x, y, and z coordinate information thereof may be calculated as spatial coordinates.
  • map information when the map information is 2D/3D map information received from the cloud server, it is received from the cloud server based on information on the location, height, and number of floors of a building area including a plurality of POI information. spatial coordinates can be calculated.
  • map information when the map information is a driving image obtained through a camera provided in a vehicle, the location, height, and number of floors of a building area may be estimated based on the driving image, and spatial coordinates may be estimated therefrom.
  • floor number information for each of the plurality of POI information included in the building area may be calculated/estimated.
  • a height value for each floor that is, a height offset
  • a height offset may be calculated based on the height and the number of floors included in the spatial coordinates for the building area, and based on this, the number of floors corresponding to the plurality of POI information may be calculated. can be calculated or estimated.
  • the digital signage platform providing apparatus calculates a reference point for displaying content information related to a plurality of POI information based on the vehicle sensing data, the spatial coordinates of the building area, and the number of floors ( 1130 ).
  • the content information related to the POI may mean a brand icon, a 3D model, a still image, a moving image, and the like for advertisement exposure related to the POI.
  • the reference point of the building area to display the content information can be calculated by matching information on vehicle sensing data (vehicle driving speed and direction), spatial coordinates of the building area, and floor number information of each POI information to correspond to the driving image. That is, the reference point of the actual driving road (for example, when AR digital signage is an AR navigation device that is projected on the windshield through a laser sensor) or a building area to display the viewpoint and content information of the driving image using AR technology. Match the view point of the screen to find it.
  • the reference point may be determined as a coordinate point close to the current location based on the driving direction of the vehicle among the spatial coordinates of the building area.
  • each display area for the plurality of POI information is obtained by applying a height offset to the number of floors information corresponding to each of the plurality of POI information based on the reference point, and the number of floors + the height from the reference point It is set to a position moved by an offset.
  • a coordinate point close to the current location of the vehicle may be obtained or estimated through detection of an edge of a building identified using coordinate data included in map information or camera sensing information provided in the vehicle.
  • a reference point for each content information corresponding to a plurality of POI information (hereinafter, a 'reference point for each floor') may be set as the reference point + a height offset (off) equal to the number of floors matching each POI information. That is, different reference points for each layer are calculated and applied to each of the plurality of pieces of content information.
  • the digital signage platform providing apparatus performs an AR rendering request for displaying the AR digital signage corresponding to the content information in the display area determined based on the calculated reference point ( 1140 ).
  • the apparatus for providing a digital signage platform may determine a display area for mapping a plurality of AR digital signages matching the plurality of POI information for each floor of a building, respectively.
  • the digital signage platform providing apparatus uses height information of a building area calculated based on spatial coordinates for the building area and floor number information matching each of a plurality of POI information, corresponding to a plurality of POI information. Display areas of the plurality of AR digital signages may be determined, respectively.
  • the digital signage platform providing apparatus may include the building area estimated using the camera sensing information included in the vehicle's sensing data. It is possible to determine a display area to which content information is to be mapped by using the height information and the number of floors.
  • the AR rendering request performed by the digital signage platform providing device is performed with respect to the AR engine.
  • the AR engine may be implemented by a processor of a digital signage platform providing device, a processor of a user terminal, a processor of another electronic device/system of a vehicle, or a cloud server.
  • the digital signage platform providing apparatus transmits the result of the rendering request to the user terminal.
  • the digital signage platform providing device causes the user terminal to map the AR digital signage image corresponding to the result of the rendering request to the display area of the building in the driving image acquired through the vision sensor and output the image, A correction request is transmitted (1150).
  • the image correction request is a request for mapping the image of the AR digital signage so that each display area matching each content information is moved by the height of each floor information from the calculated reference point.
  • the image correction request may be a request for floor-by-floor mapping of the AR digital signage to the display area changed based on the reference point (or reference point for each floor) and the driving direction and speed of the vehicle. Specific examples thereof will be described in detail below with reference to FIGS. 14 and 15 .
  • FIGS. 12 and 13 are diagrams for explaining a method of arranging AR digital signage by floor in a building area of a driving image, according to an embodiment of the present invention.
  • the method of arranging AR digital signage by floor in the building area of the driving image may be implemented by the processor tax of the digital signage platform providing apparatus according to the present invention.
  • it may be implemented by a processor of a vehicle display device (eg, a user interface device or a navigation system provided in a vehicle) including a digital signage platform, or implemented by a cloud server connected to communicate.
  • a vehicle display device eg, a user interface device or a navigation system provided in a vehicle
  • a cloud server connected to communicate.
  • the digital signage platform providing apparatus when a building area 1200 including a plurality of POI information is detected, the digital signage platform providing apparatus according to the present invention provides map information (eg, 2D/3D map information, The spatial coordinates 1211, 1212, 1213, P for the building area 1200 may be calculated (or estimated) based on the number of floors, height information, etc.) or a driving image obtained through a camera provided in the vehicle.
  • map information eg, 2D/3D map information, The spatial coordinates 1211, 1212, 1213, P for the building area 1200 may be calculated (or estimated) based on the number of floors, height information, etc.
  • the digital signage platform providing device includes sensing data (eg, vehicle driving direction) of the vehicle, the spatial coordinates 1211, 1212, 1213, P, and map information (or edge detection of the driving image) By using information on the height and the number of floors of the building (estimated through the
  • the reference coordinate closest to the location of the vehicle included in the vehicle sensing data is set as the origin P .
  • the origin P may be calculated in consideration of the driving direction of the vehicle.
  • map information for the building area 1200 does not exist (or is not recognized) or if information on the number of floors and height cannot be obtained
  • the The origin of the building area can be extracted by estimating the height and number of floors of the building from the image, and detecting the edge of the image. In this case, the height of each layer may use a predefined value.
  • the 'reference point for each floor' for the plurality of AR digital signage is a reference point of the corresponding POI information based on the spatial coordinates 1211, 1212, 1213, P and the origin P of the building area. It becomes the position where the height is moved by the number of floors. That is, the digital signage platform providing device determines the origin (P) + the position where the height offset (off) equal to the number of floors matching each POI information is applied as the 'reference point for each floor', and the corresponding AR digital signage is mapped to this position. Request corrections as much as possible.
  • the reference point of the first AR digital signage 1301 displayed on the first floor of the building area 1200 is determined as the origin P.
  • the reference point for each floor of the second AR digital signage 1302 displayed on the second floor of the building area 1200 is determined as a point P1 to which a height offset of two floors is applied from the origin P.
  • the reference points for each floor of the second and fourth AR digital signage 1303 and 1304 displayed on the third and fourth floors of the building area 1200, respectively are offset in height from the origin P by the third and fourth floors, respectively. It is determined by each point (P2, P3) applied.
  • height information eg, height offset between floors
  • map information received from the cloud server eg, 2 dimensional/3D map information
  • at least one of a position and a shape of each display area may be corrected.
  • the database The position of each display area can be corrected using the height information of (DB).
  • the digital signage platform providing apparatus may change the height offset between floors described with reference to FIG. 13 .
  • the digital signage platform providing device may map a plurality of AR digital signages 1301, 1302, 1303, and 1304 on the side, not the front, of the building area 1200 in FIG. 13 for each floor, for example. have.
  • a plurality of AR digital signage (1301, 1302, 1303, 1304) mapped to each floor in the building area 1200 is mapped to surround at least one surface of each display area of the building in the driving image.
  • a plurality of AR digital signages 1301 , 1302 , 1303 , and 1304 are formed to cover the entire surface of the building area 1200 for each floor. Accordingly, a plurality of advertisement exposure effects are provided for each floor in one building, and a sense of realism as if an actual signage display board is mounted is given.
  • the image of a plurality of AR digital signage can be viewed by flexibly reflecting various changes in the shape of the building based on the driver's (in front of the vehicle) viewing angle, the driving situation of the vehicle, the individual driver's tendency, and the surrounding traffic and structural environment. Examples of methods that can provide a variable naturally will be described.
  • AR digital signage such as an actual signage electronic signage is provided on one side of the building area for each floor, the sense of realism is further increased.
  • the advertisement exposure time has a short limit because it does not reflect the driving or surrounding conditions of the vehicle.
  • the size of the specific display area may decrease or disappear from view depending on the current location and driving direction of the vehicle. In this case, the advertisement exposure time of the AR digital signage is reduced by that much.
  • the AR digital signage may not be recognized at all. That is, since the visibility of the AR digital signage is not secured, the advertising effect is reduced.
  • FIG. 14 is a diagram for explaining a method of selecting a display area of an AR digital signage for each floor based on the shape of a building area, according to an embodiment of the present invention.
  • the shape of the building area or the shape of the image of the building area means the shape of the 'front and side' of the building area that is changed in real time based on the driver's (or the front of the vehicle) view in two dimensions. do.
  • the shape of the front and side of the building area can be expressed as numerical information about the front and side of the building area that is changed in real time based on the driver's (or the front of the vehicle) view in two dimensions.
  • the numerical information may include, for example, an area, an area ratio, and a distortion ratio of the front and side surfaces of the building area.
  • the display device 200 may determine the display area of the AR digital signage based on the image of the building area in the driving image, and the display area is changed based on the shape of the image of the building area. If done, the AR digital signage can be mapped and displayed on the changed display area.
  • determining the display area based on the image of the building area means that the display device 200 communicates with a system including the vehicle 100 and the digital signage platform providing device 800 described above, thereby generating a vision sensor. It means determining the display position of AR digital signage for each floor on the side of the building in the driving image obtained through
  • Such a display position may be any one of the front or side surfaces of the building area, and in the present disclosure, it is determined as a more advantageous side for securing the visibility of the AR digital signage.
  • changing the display area based on the shape of the image of the building area means that the display apparatus 200 communicates with the vehicle 100 and the system including the digital signage platform providing apparatus 800 described above. , means changing the display position of the AR digital signage for each floor from the front (or side) of the building to the side (or front) or other proximate location in the driving image acquired through the vision sensor.
  • the change display position includes not only the front or side of the building area, but also other adjacent positions outside the building, and in the present disclosure, it is determined as a side or other position more advantageous for securing the visibility of the AR digital signage.
  • the display device 200 senses the vehicle including information about a driving image obtained from the vehicle 100 through a vision sensor in real time and driving-related information (eg, driving direction of the vehicle, driving speed, etc.) receive data.
  • the display device 200 transmits the collected data to the digital signage platform providing system, and performs data collection, processing, filtering, and matching to display the AR digital signage layer by layer in the determined/changed display area, AR rendering requests can be made.
  • a building area A 1410 and a building area B 1420 each including a plurality of POI information in the driving image are displayed on the left and right of the driving road, and the building A In the area 1410, the first plurality of AR digital signage 1411, 1412, 1413 is mapped by floor, and in the B building area 1420, the second plurality of AR digital signage 1421, 1422, 1423 is mapped by floor has been displayed
  • the display areas of the first plurality of AR digital signage 1411, 1412, 1413 and the second plurality of AR digital signage 1421, 1422, 1423 are advantageous for securing more visibility based on the driving direction 1401 of the vehicle. determined by location.
  • the first and second plurality of AR digital signages 1411 , 1412 , 1413 , 1421 , 1422 , and 1423 are displayed in a display area more advantageous for securing visibility among the front and side surfaces of each of the building areas 1410 and 1420 .
  • the side of the A building area 1410 is determined as the display area
  • the second plurality of AR digital signage 1421, 1422, 1423 The front of the B building area 1420 was determined as the display area.
  • the display area is determined based on the image of the building area, and the display area is determined based on the image of the building area so that different display surfaces for each building area in the driving image can be determined as the display area of the AR digital signage for each floor at the same time. It can operate so that the display area can be changed based on the shape of
  • the display device 200 determines a position with high visibility as the display area based on the driving direction of the vehicle among the front/side of the building area, and the width value (area value) of the front/side ) to determine the display area.
  • the display device 200 compares the difference between the respective width values (area value) of the front and side surfaces of the building area with a preset threshold value, and based on the comparison result, any of the front/side of the building area One can be selected as the display area.
  • the preset threshold value means a reference value for determining the display area only by the size of the width value. Therefore, only when the difference between the respective width values (area values) of the front and side surfaces of the building area exceeds a preset threshold value, it is possible to limit the determination of the display area with only the width value.
  • the display area can be determined at a predetermined location (eg, the front of the building area) or the display area can be determined based on another selection criterion. have.
  • any one of the front/side of the building area based on the image distortion ratio of the AR digital signage for each floor can be selected as the display area.
  • the display area can be selected from the front/side of the building area with the smaller image distortion ratio of AR digital signage per floor. .
  • the display area may be selected with a less distortion ratio of the text (font) included in the AR digital signage for each floor.
  • the distortion ratio of the front/side image of the building area and the distortion ratio of the text (font) included in the AR digital signage for each floor can be calculated by giving each image a predetermined weight.
  • the difference between the respective width values (area values) of the front and side surfaces of the building area in the A building area 1410 is within a preset threshold value, and , the image distortion ratio of AR digital signage by layer was mapped to the side display area with less.
  • the difference between the width values (area values) of the front and side surfaces of the building area in the B building area 1420 is a preset threshold value. , and was mapped to the front display area having a larger width value.
  • the display device 200 communicates with the vehicle 100 and the digital signage platform providing system, and based on the image of the building area in the driving image obtained through the vision sensor, AR digital signage for each floor is displayed. You can determine the display area of the image.
  • the display device 200 according to the present invention changes the display area based on the shape of the image of the building area in the driving image obtained through the vision sensor, and transmits information about the changed display area to the digital signage platform providing system. A rendering result for mapping an image of an AR digital signage corresponding to the changed display area or information related thereto may be received from the corresponding system.
  • the processor of the display device may change the display area based on the distortion ratio of the image of the building area recognized through the camera of the vehicle.
  • information on the changed display area may be transmitted to the digital signage platform providing system, and a rendering result for displaying the AR digital signage for each layer in the changed display area or information related thereto may be received.
  • 15 is a diagram for explaining a method of selecting a display area of an AR digital signage for each floor based on driving information of a vehicle, according to an embodiment of the present invention.
  • the width values of the front and side of the building area that change according to the driving of the vehicle are calculated, and the display area is changed based on the calculation result.
  • AR digital signage can be mapped for each floor. This provides an effect of advantageously securing the visibility of AR digital signage in real time.
  • the display device 200 in order to calculate the width values of the front and side surfaces of the building area that change according to the driving of the vehicle, the display device 200 according to the present disclosure provides an image of the front and side of the building obtained through the vehicle's vision sensor.
  • the width value can be calculated based on the shape change.
  • FIG. 15 as shown in (a) at first (first time point), a plurality of AR digital signages 15111, 1512, and 1513 are mapped and displayed using the side of the building area in the driving image as the display area.
  • the difference between the width values A and B of the front and side surfaces of the building area is preset based on the current position and driving direction 1501 of the vehicle at the first time point. Below the threshold, the side with the smaller image distortion ratio is determined as the display area.
  • the display area is changed to the front of the building area in the driving image, A plurality of AR digital signage (1521, 1522, 1523) was mapped and displayed. That is, once the display area has been determined, the display area itself is not limited to mapping the plurality of AR digital signage 15111, 1512, 1513 according to the image of the side display area changed according to the driving of the vehicle. changed to the front.
  • the processor of the display apparatus 200 may change the display area to which the image of the AR digital signage for each floor is mapped based on sensing data of the vehicle received while the vehicle is driving.
  • the difference between the respective width values of the front and side surfaces of the same building area is determined in advance. Monitors whether a set threshold is exceeded.
  • the display area may be changed.
  • the side with the smaller image distortion ratio among the front and side surfaces eg, the side with the smaller horizontal and vertical (height offset) ratio difference
  • the processor (or control unit) of the display device 200 when the processor (or control unit) of the display device 200 according to the present disclosure changes the area of the front and side of the building area in the driving image acquired through the vision sensor according to the driving of the vehicle , it is possible to transmit information about the change in area to the digital signage platform providing system.
  • the information about the change in the area is, for example, the difference between the respective width values of the front and the side of the building area, and the result of comparing the difference between the respective width values with the threshold value, such as the image distortion ratio of the front and the side. It may include information related to the change of the display area.
  • the processor of the display device 200 receives a result of a rendering request for generating an AR digital signage based on the information about the change in the area, and displays the AR digital signage for each floor.
  • the area can be mapped by changing from one side of the building area in the driving image to the other side.
  • the processor of the display device 200 may map the AR digital signage by floor to correspond to the driving direction and driving speed of the vehicle while gradually moving from one side of the building area to the other side in the driving image. have.
  • the first plurality of AR digital signage 1511 displayed by floor on the side of the building , 1512 , 1513) may be displayed by gradually moving toward the front to correspond to the driving of the vehicle, and then moving seamlessly to the front of the building as shown in (b) after a certain period of time has elapsed. Accordingly, the display rejection of the plurality of second AR digital signages 1521, 1522, and 1523 is minimized, and as the digital signage moves along the vehicle driving direction, the advertisement exposure time is further increased.
  • 16 is a diagram for explaining a method of selecting a display area of an AR digital signage for each floor based on a driver's preference, according to an embodiment of the present invention.
  • a method of displaying an AR digital signage by utilizing both the front and side surfaces of a building area is presented. As described above with reference to FIGS. 14 and 15, when any one of the front and side surfaces of the building area is selected/changed as the display area, the remaining unselected surface is utilized.
  • the present disclosure provides a method of increasing the exposure effect of an AR digital signage that matches the driver's preference or the service level of the advertisement is high.
  • the processor of the display apparatus 200 may transmit pre-registered preference POI information stored or collected by communicating with the vehicle 100 to the digital signage platform providing system.
  • the processor of the display apparatus 200 when one of the plurality of POI information includes pre-registered preference POI information, a driving image acquired through a vision sensor based on information received from a corresponding system
  • One side of my building area is determined as the first display area to map the image of normal AR digital signage by floor, and the other side is determined as the second display area to display AR digital signage corresponding to preference POI information on the whole.
  • a plurality of AR digital signages corresponding to the preference POI information may be mapped to the second display area by layer (or by integrating a plurality of layers) . That is, in the case of AR digital signage matching the pre-registered preference POI information, by allowing it to be exposed on a plurality of sides of a building, advertisement exposure can be further improved.
  • the first display area may be a position with better visibility among the front and side surfaces of the building area.
  • the first display area may mean a side having a larger width value or a smaller image distortion ratio among the front and side surfaces of the building area.
  • the second display area may be a different surface of the building area other than the first display area.
  • the second display area to which the AR digital signage matching the preference POI information is mapped is first determined, and the AR corresponding to the entire second display area is determined first.
  • Digital signage may be displayed.
  • the second display area means an area more adjacent to the current location of the vehicle (a location that enters the field of view first), and the first display area is an area farther from the current location of the vehicle or of the second display area. After the determination, it may be an optimal display area determined after a predetermined time has elapsed.
  • the current position of the vehicle among the front and side surfaces of the building in the driving image is more
  • An adjacent side area may be determined as the second display area, and the AR digital signage 1611 corresponding to the preference POI information may be mapped to the entire side surface.
  • the plurality of AR digital signages 1621 , 1622 , and 1623 may be mapped and displayed for each floor.
  • the AR digital signage 1622 matching the preference POI information is also included in the first display area.
  • advertisements related to the preference POI information may be exposed on a plurality of surfaces of the building.
  • the AR digital signage 1622 when the AR digital signage 1622 matching the preference POI information is displayed on each floor of the other AR digital signages 1621 and 1623, the AR digital signage 1622 is an advertisement It is regarded as a signage with a higher service rating. Accordingly, in order to be visually distinguished, the layer of the corresponding AR digital signage 1622 may be mapped, for example, including a highlight such as a differentiated color, a border mark, and a flicker.
  • the front and side surfaces of the building are targeted in relation to the determination/change of the display area, but the present invention is not limited thereto.
  • the front (entrance direction) of the building includes the rear face of the facing building.
  • a plurality of AR digital signages are displayed for each floor as described above, so that preference/destination POI locations can be more easily recognized.
  • 17A, 17B, and 17C are diagrams for explaining various methods of varying a display area of an AR digital signage for each floor based on situation information around a vehicle, according to an embodiment of the present invention.
  • the display area is changed to a different location around the building area other than one of the front and side surfaces of the building area.
  • FIG. 17A is an embodiment of changing the display area of AR digital signage for each floor when destination POI information is included in a building and the vehicle approaches the building or when the vehicle intends to enter the building.
  • 17B is an embodiment of changing the display area of the AR digital signage for each floor to a different location when visibility is not secured because the building is covered by other structures.
  • Fig. 17c is an embodiment of changing the display area of the AR digital signage for each floor to a location other than the building in the case of a special building such as a high-rise building (eg, a building with more than 10 floors).
  • the vehicle approaches the building area 1700 closely at least a part of the building area 1700 in the driving image obtained through the vision sensor is blocked or difficult to recognize.
  • the size of the image of the building and the AR digital signage increases together or in proportion as it approaches the building area 1700 .
  • some floors (eg, upper floors) of the building area 1700 or a part of the AR digital signage deviate from the driving image.
  • FIG. 17A only the icon 1710 indicating the building location is displayed in the building area 1700 , and a plurality of AR digital signage 1721 , 1722 , and 1723 are displayed for each floor. It is displayed, but the mapping is displayed in another location adjacent to the building area 1700 .
  • the other location adjacent to the building area may be any one of a road edge adjacent to the building area, a guard rail, a sidewalk area adjacent to the building area, and a floor of a driving road.
  • a height offset of another position adjacent to the building area may be set to a value smaller than a height offset corresponding to a previous display area of the building area in order to secure visibility.
  • the entire size of the plurality of AR digital signage 1721 , 1722 , and 1723 may be displayed by reducing the size of the building area 1700 so that the image of the signage is not distorted.
  • the type of content and/or the amount of information included in the plurality of AR digital signages 1721 , 1722 , and 1723 may be reduced and displayed.
  • a line (dotted line) indicating their relationship can be displayed together.
  • the plurality of AR digital signages 1721 , 1722 , and 1723 may be further reduced correspondingly.
  • it may be changed to display only the AR digital signage matching the preference POI information or the destination POI information among the plurality of AR digital signages 1721 , 1722 , and 1723 .
  • the processor of the display device 200 transmits information on the destination of the vehicle to the digital signage platform providing system, and when one of a plurality of POI information included in the building area is set as the destination, the vehicle The image of the corresponding AR digital signage matching the destination of can be mapped to the display area to be visually distinguished from other AR objects.
  • the processor of the display apparatus 200 may map and display the image of the AR digital signage only on the number of floors corresponding to the destination of the vehicle.
  • the destination POI information is located on a high floor, only the AR digital signage corresponding to the destination POI information may be displayed in the entire (changed) display area to ensure visibility.
  • the AR digital signage 1731 and 1732 for each floor on the driving road floor indicates the driving direction.
  • An example of mapping is shown to be placed in the order of the layers as the basis.
  • an icon 1710 indicating a building location is displayed, and a line (eg, a dotted line) indicating a relationship with the AR digital signage 1731 and 1732 displayed on the floor is displayed, so that the driver can use the AR digital signage 1731 , 1732) and allows us to intuit the position relative to it.
  • a line eg, a dotted line
  • the processor of the display device 200 whether at least a part of the building area in the driving image obtained through the vision sensor is out of the vehicle's camera field of view or is obscured by other structures, the part is not recognized can be monitored and detected.
  • the display device 200 receives the camera sensing data from the vehicle 100 in real time through the communication unit, and transmits the monitoring and detection results to the digital signage platform providing system.
  • the display apparatus 200 may determine whether to display the AR digital signage in a location other than a building based on the result of the rendering request received from the digital signage platform providing system.
  • the AR digital signage 1731 and 1732 may be displayed together with an AR object guiding the entrance. .
  • AR digital signage is displayed on the front and/or side of the building.
  • the digital signage 1750 for each layer may be displayed in the void area 1750 instead of displaying for each layer.
  • the void area may be designated as a structure-free area, for example, an area free of structures that do not affect the sky, a building on the other side, and other safe operation.
  • the digital signage 1750 for each floor may be displayed based on the upper end of the driving image so as not to overlap with other driving-related information (eg, route guidance, driving speed display, etc.) in the driving image.
  • the digital signage 1750 for each floor may include guide information for each floor, not content related to detailed POI information for each floor.
  • a line (eg, a dotted line) connecting the relationship between the icon 1710 indicating the building location and the digital signage 1750 for each floor may be displayed.
  • a line eg, a dotted line
  • FIG. 18 is a diagram for explaining a method of varying information included in an AR digital signage for each floor based on a driving speed and a driving direction of a vehicle, according to an embodiment of the present invention.
  • the processor of the display apparatus 200 may map the amount of content information included in the image of the AR digital signage into the driving image by changing the amount of content information included in the image of the AR digital signage based on the driving speed of the vehicle. have.
  • a plurality of AR digital signage 1811 and 1812 mapped to the display area of the building area , 1813) may be mapped by configuring AR digital signage 1811, 1812, 1813 to include simple type of content.
  • the display device 200 communicates with the vehicle to receive driving-related information including the driving speed and driving direction of the vehicle, and to determine the content type to be displayed based on this, the display device 200 provides the relevant information to the digital signage platform providing system.
  • configuring AR digital signage to include simple type of content reduces the advertisement service rating to configure AR digital signage, or increases the size of text (font) or the form of icons/symbols. It may mean configuring AR digital signage in the form of
  • the processor of the display device 200 may determine whether the vehicle's traveling speed is a high speed greater than or equal to a threshold speed, and in response to the determination, configure the AR digital signage to include a simple type of content. have.
  • the threshold speed may be dynamically changed in consideration of the type of driving road (eg, whether it is a highway, whether it is a speed-limited protected area, etc.), the number of lanes on the road on which the vehicle is traveling, real-time traffic information, and the like.
  • the advertisement rating may be increased so that more information is displayed on the AR digital signage 1811 , 1812 , and 1813 or additional information is continuously displayed.
  • configuring AR digital signage to include detailed types of content comprises increasing an advertisement service level to configure AR digital signage, or a form or text (font) size including various advertisements/events. It may mean configuring AR digital signage in the form of reducing the amount of information and increasing the amount of information.
  • the processor of the display device 200 may determine whether the vehicle's driving speed is a low-speed driving less than a threshold speed, and in response to the determination, configure the AR digital signage to include detailed types of content.
  • the threshold speed may be dynamically changed in consideration of the type of driving road (eg, whether it is a highway, whether it is a speed-limited protected area, etc.), the number of lanes on the road on which the vehicle is traveling, real-time traffic information, and the like.
  • the amount of content information included in the image of the AR digital signage may vary based on whether the vehicle approaches the building area in the driving image.
  • the processor of the display device 200 determines whether the distance between the current location of the vehicle and the building is less than a threshold value based on the sensing data of the vehicle and the driving image obtained through the vision sensor, and based on the determination
  • the content type and amount of information to be included in the AR digital signage can be varied. For example, if the distance between the current location of the vehicle and the building is greater than or equal to a threshold, it can be varied to compose an AR digital signage with a simple content type and little information. For example, if it is determined that the current location of the vehicle is gradually approaching the building, it may be varied to configure the AR digital signage so that a plurality of contents are sequentially displayed.
  • 19 is a diagram illustrating that the display apparatus 200 according to an embodiment of the present invention communicates with the vehicle 100 and the digital signage platform providing system 1000 .
  • the display apparatus 200 may include a communication unit 1910 , a display unit (or an image sensor) 1920 , and a processor 1930 .
  • the digital signage platform providing system 1000 may include a platform providing apparatus 800 and one or more clouds 900 communicating therewith.
  • the display apparatus 200 may receive sensing data of the vehicle from a system, such as a sensor, an electric device, or an ADAS, provided in the vehicle 100 through the communication unit 1910 .
  • a system such as a sensor, an electric device, or an ADAS
  • the display apparatus 200 may transmit sensing data of the vehicle to the digital signage platform providing system 1000 through the communication unit 1910 and receive POI information related to the sensing data of the vehicle.
  • the digital signage platform providing device 800 and the cloud 900 are communicatively connected.
  • the display unit 1920 of the display device 200 displays a driving image acquired through a vehicle vision sensor (eg, a camera, an image laser sensor, etc.).
  • the processor 1930 of the display apparatus 200 transmits the information about the driving image to the digital signage platform providing system 1000 through the communication unit 1920 .
  • the digital signage platform providing system 1000 includes the vehicle sensing data received from the vehicle 100 , map information related to the vehicle sensing data collected from the cloud 900 , POI information, and a plurality of POI information of a building including Based on spatial location, floor number information, POI-related advertisement information, and information on driving images received through the display device 200, filtering and processing information to generate AR digital signage for each floor Merge (merging) , and may transmit it to the display device 200 .
  • the display device 200 receives the result of the rendering request for generating the AR digital signage for each floor received from the digital signage platform providing system 1000, and displays the AR digital space between the building in the driving image through the processor 1930. You can map the nudge layer by layer.
  • the processor 1930 may have a built-in AR engine or operate in conjunction therewith.
  • the display device 200 is based on the shape of the image of the building in the driving image obtained through the sensing data (the current position of the vehicle, the driving speed, and the driving direction, etc.) of the vehicle 100 from the vehicle 100 and the vision sensor. , the display area to which AR digital signage is mapped for each layer can be varied. For example, the display device 200 may vary the display area from the side of the building area to the front in the driving image based on the distance between the current location of the vehicle and the current location of the building and the driving speed of the vehicle, so that AR digital You can map signage by floor.
  • the display apparatus 200 may transmit information about the changed display area to the digital signage platform providing system 1000, and receive sensing data of the vehicle from the vehicle 100 in real time to change the display area in real time.
  • the variable display area may be determined to be a location other than the building area in the driving image to ensure visibility, and the other location may be, for example, a road edge adjacent to a building area, a guard rail, or a sidewalk adjacent to a building area. It may be any one of the area and the driving road floor.
  • the awkwardness of artificially floating and displaying an AR object on the driving route screen this is resolved
  • AR augmented reality
  • it is solved from the limitation of displaying only one advertisement in one area, and provides the advantage of being expanded to provide a plurality of advertisements in various forms in one building.
  • the AR digital signage is mapped to the display area of the building by floor, it flexibly reflects the shape of the building based on the driver's view, the driving situation of the vehicle, preferences, and the surrounding traffic and structure environment. position can be changed.
  • the visibility of the displayed AR digital signage can be further improved. Furthermore, by varying the amount or display method of information provided through AR digital signage based on service grades, user preferences, and environmental changes due to vehicle driving, advertisement information can be provided more effectively. For example, when a vehicle approaches a building displaying an AR digital signage and drives at a slow driving speed or stops for a while, by providing a more detailed and active advertisement, the advertisement effect can be maximized.
  • the present invention described above can be implemented as computer-readable code (or application or software) on a medium in which a program is recorded.
  • the above-described method for controlling the autonomous vehicle may be realized by a code stored in a memory or the like.
  • the computer readable medium includes all kinds of recording devices in which data readable by a computer system is stored.
  • Examples of computer-readable media include Hard Disk Drive (HDD), Solid State Disk (SSD), Silicon Disk Drive (SDD), ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc.
  • HDD Hard Disk Drive
  • SSD Solid State Disk
  • SDD Silicon Disk Drive
  • ROM Read Only Memory
  • RAM compact disc-read only memory
  • CD-ROM compact disc-read only memory
  • magnetic tape floppy disk
  • optical data storage device etc.
  • carrier wave eg, transmission over the Internet
  • the computer may include a processor or a control unit. Accordingly, the above detailed description should not be construed as restrictive in all respects but as exemplary. The scope of the present invention should be determined by a reasonable interpretation of the appended claims, and all modifications within the equivalent scope of the present invention are included in the scope of the present invention.

Abstract

차량과 연동된 디스플레이 장치 및 그것의 동작방법이 개시된다. 본 발명의 일부 실시 예에 의하면, 차량의 센싱 데이터와 빌딩영역의 공간 위치 및 층수정보를 이용하여 복수의 POI 정보와 관련된 각 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 층별로 생성하기 위한 렌더링 요청을 디지털 사이니지 플랫폼 제공 시스템에 전송하고, 렌더링 요청의 결과를 수신하여, 비전센서를 통해 획득된 주행영상 내 빌딩영역의 이미지를 기초로 표시영역을 결정하여 AR 디지털 사이니지의 이미지를 층별 매핑하여 디스플레이한다. 이때, 주행영상 내 빌딩영역의 이미지의 형상을 기초로 표시영역이 변경되면, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하고 상기 시스템으로부터 변경된 표시영역에 대응되는 AR 디지털 사이니지의 이미지를 매핑하기 위한 렌더링 결과를 수신하여, 변경된 표시영역에 AR 디지털 사이니지를 계속 매핑할 수 있다.

Description

차량과 연동된 디스플레이 장치 및 그것의 동작방법
본 발명은 차량과 연동된 디스플레이 장치 및 그것의 동작방법에 관한 것으로, 보다 구체적으로는 시스템과 통신하여 차량의 주행영상에 AR 디지털 사이니지를 빌딩의 층별로 표시하는 것이 가능한 차량과 연동된 디스플레이 장치 및 그것의 동작방법에 관한 것이다.
차량을 이용하는 사용자의 안전 및 편의를 위해, 차량에는 각종 센서와 장치가 구비되고 있으며, 차량의 기능이 다양화 되고 있다. 이러한 차량의 기능은 운전자의 편의를 도모하기 위한 편의 기능, 그리고 운전자 및/또는 보행자의 안전을 도모하기 위한 안전 기능으로 나뉠 수 있다.
차량의 편의 기능은 차량에 인포테인먼트(information + entertainment) 기능을 부여하고, 부분적인 자율 주행 기능을 지원하거나, 야간 시야나 사각 대와 같은 운전자의 시야 확보를 돕는 등의 운전자 편의와 관련된 개발 동기를 가진다. 예를 들어, 적응 순향 제어(active cruise control, ACC), 스마트주자시스템(smart0020parking assist system, SPAS), 나이트비전(night vision, NV), 헤드 업 디스플레이(head up display, HUD), 어라운드 뷰 모니터(around view monitor, AVM), 적응형 상향등 제어(adaptive headlight system, AHS) 기능 등이 있다.
또한, 차량의 안전 기능은 운전자의 안전 및/또는 보행자의 안전을 확보하는 기술로, 차선 이탈 경고 시스템(lane departure warning system, LDWS), 차선 유지 보조 시스템(lane keeping assist system, LKAS), 자동 긴급 제동(autonomous emergency braking, AEB) 기능 등이 있다.
최근에는, 차량의 윈드쉴드, HUD(Head Up Display)를 통해 그래픽 객체를 출력하거나, 카메라로 촬영되는 영상에 그래픽 객체를 출력하여 실제 세계에 그래픽 객체를 추가로 출력시키는 증강현실(Augmented Reality, AR)에 대한 기술개발이 활발히 이루어지고 있다. 특히, 이러한 증강현실(AR) 기술을 활용하여, 운전자에게 증강현실(AR) 기술을 통해 경로를 안내하거나 경로 상에 존재하는 POI 와 관련된 다양한 부가 정보나 광고를 노출하는 기술들의 개발이 확대되고 있다.
한편, 이와 같이 증강현실(AR) 기술을 통한 다양한 안내 또는 광고의 경우, 실제 주행영상에 떠있는 AR 오브젝트의 형태로 표현됨으로써, 현실과 다소 괴리감이 있었으며, 한번에 다양한 정보를 제공하는데 한계가 있었다.
또한, 이와 같이 증강현실(AR) 기술을 통한 다양한 안내 또는 광고가 주행영상에 표시될 때, 운전자 시야 기준의 빌딩의 형태, 차량의 주행 상황이나, 운전자 개인의 성향, 주변의 교통 및 구조물 환경을 유연하게 반영하지 못하는 한계가 있었다.
나아가, 증강현실(AR) 기술을 이용한 안내 또는 광고가 정해진 위치(예, 연관된 오브젝트에 오버랩되거나 또는 인접하여)에 일단 표시된 후에는, 차량의 주행으로 인해 변화하는 환경에 맞추어 표시위치가 가변되지 못하는 한계가 있었다. 그에 따라 AR 기술을 이용한 안내 또는 광고의 시인성이 저하되는 문제가 있었다.
본 발명은 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다.
본 발명의 일부 실시 예에 따르면, 차량의 주행 영상에 보다 현실의 광고판에 가까운 AR 디지털 사이니지를 제공할 수 있는 차량용 디스플레이 장치 및 그것의 동작방법을 제공하는데 그 목적이 있다.
또한, 본 발명의 일부 실시 예에 따르면, 복수의 POI를 포함하는 빌딩에서 하나가 아닌 복수의 AR 디지털 사이니지를 각 POI에 대응되는 위치에 층별로 제공할 수 있는 차량용 디스플레이 장치 및 그것의 동작방법을 제공하는데 그 목적이 있다.
또한, 본 발명의 일부 실시 예에 따르면, 운전자 시야 기준의 빌딩의 형태, 차량의 주행 상황이나, 운전자 개인의 성향, 주변의 교통 및 구조물 환경을 유연하게 반영하여 복수의 AR 디지털 사이니지의 이미지를 자연스럽게 가변 제공할 수 있는 차량용 디스플레이 장치 및 그것의 동작방법을 제공하는데 그 목적이 있다.
본 발명의 일부 실시 예에 따르면, 일단 복수의 POI를 포함하는 빌딩에 복수의 AR 디지털 사이니지가 층별로 표시된 후에도, 주변 장애물이나 차량의 주행으로 인해 변화하는 환경에 맞추어 표시위치나 정보의 종류를 변경할 수 있는 차량용 디스플레이 장치 및 그것의 동작방법을 제공하는데 그 목적이 있다.
이를 위해, 본 발명에 따른 차량과 연동된 디스플레이 장치는, 차량과 연동된 디스플레이 장치로서, 차량의 센싱 데이터를 제공하는 차량 및 AR 디지털 사이니지를 빌딩의 층별로 생성하도록 데이터를 수집, 가공, 정합하여 렌더링하는 디지털 사이니지 플랫폼 제공 시스템과 통신할 수 있다.
또한, 본 발명에 따른 디스플레이 장치는, 차량의 센싱 데이터와 상기 빌딩영역의 공간 위치 및 층수정보를 이용하여 빌딩영역에 포함된 복수의 POI 정보와 관련된 각 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 층별로 제공받기 위한 렌더링 요청을 시스템에 대해 수행할 수 있다.
또한, 본 발명에 따른 디스플레이 장치는, 렌더링 요청의 결과를 수신하여, 주행 영상 내 빌딩영역의 이미지를 기초로 결정된 표시영역에 AR 디지털 사이니지의 이미지를 층별 매핑하여 표시할 수 있다. 이때, 차량으로부터 수신되는 차량의 센싱 데이터, 예를 들어 카메라 센싱 데이터에 기반하여 파악되는 빌딩의 이미지의 형상에 기초하여 표시영역을 다르게 결정하고, 가변된 표시영역에 맞게 AR 디지털 사이니지를 층별 매핑 표시할 수 있다.
본 발명의 실시 예에 따른 차량과 연동된 디스플레이 장치는, 디지털 사이니지 플랫폼 제공 시스템과 통신하는 통신부; 비전 센서를 통해 획득된 상기 차량의 주행 영상을 디스플레이하는 디스플레이부; 및 상기 차량의 센싱 데이터를 수신하고, 이와 연관된 POI 정보의 요청을 상기 시스템에 전송하도록 상기 통신부를 제어하는 제어부를 포함할 수 있다. 또한, 상기 제어부는, 상기 시스템에 의해 검출된 적어도 복수의 POI 정보를 포함하는 빌딩영역의 공간 위치를 인식하고, 상기 차량의 센싱 데이터와 상기 빌딩영역의 공간 위치 및 층수정보를 이용하여 상기 복수의 POI 정보와 관련된 각 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 층별로 생성하기 위한 렌더링 요청을 전송하고, 상기 렌더링 요청의 결과를 수신하고, 상기 주행 영상 내 빌딩영역의 이미지를 기초로 결정된 표시영역에 상기 AR 디지털 사이니지의 이미지를 층별 매핑하여 디스플레이하고, 상기 주행 영상 내 상기 빌딩영역의 이미지의 형상을 기초로 표시영역이 변경된 것에 응답하여, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하고 상기 시스템으로부터 변경된 표시영역에 대응되는 AR 디지털 사이니지의 이미지를 매핑하기 위한 렌더링 결과를 수신할 수 있다.
일 실시 예에서, 상기 제어부는, 상기 차량의 카메라를 통해 인식된 상기 빌딩영역의 이미지의 왜곡비율을 기초로 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하여, 상기 AR 디지털 사이니지의 이미지를 상기 변경된 표시영역에 층별 표시하기 위한 렌더링 요청의 결과를 수신할 수 있다.
일 실시 예에서, 상기 제어부는, 상기 주행 영상 내 빌딩영역의 적어도 일부가 상기 차량의 카메라 화각을 벗어나거나 또는 일부가 인식되지 않는 경우, 상기 AR 디지털 사이니지의 이미지가 상기 주행 영상 내 다른 구조물을 이용하여 층별 표시되도록 매핑시킬 수 있다.
일 실시 예에서, 상기 제어부는, 상기 차량이 주행하는 동안 수신되는 차량의 센싱 데이터에 기초하여 상기 AR 디지털 사이니지의 이미지가 매핑될 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 상기 시스템에 전송할 수 있다.
일 실시 예에서, 상기 제어부는, 상기 차량의 주행에 따라 상기 주행 영상 내 빌딩역역의 정면 및 측면의 면적이 변화하는 경우, 상기 면적의 변화에 관한 정보를 상기 시스템에 전송하여 대응되는 렌더링 요청의 결과를 수신하고, 상기 표시영역을 상기 주행 영상 내 빌딩영역의 일 면에서 타 면으로 변경하여 상기 AR 디지털 사이니지의 이미지를 매핑할 수 있다.
일 실시 예에서, 상기 AR 디지털 사이니지의 이미지는 상기 차량의 주행 방향 및 주행 속도에 대응되도록 상기 주행 영상 내 빌딩영역의 일 면에서 타 면으로 점진적으로 이동하며 표시될 수 있다.
일 실시 예에서, 상기 AR 디지털 사이니지의 이미지에 포함되는 컨텐츠 정보의 양은 상기 차량의 주행 속도에 기초하여 가변될 수 있다.
일 실시 예에서, 상기 AR 디지털 사이니지의 이미지에 포함되는 컨텐츠 정보의 양은 상기 차량이 상기 주행 영상 내 빌딩영역에 접근하는지 여부에 기초하여 가변될 수 있다.
일 실시 예에서, 상기 제어부는, 미리등록된 선호도 POI 정보를 상기 시스템에 전송하고, 상기 복수의 POI 정보 중 하나가 상기 미리등록된 선호도 POI 정보를 포함하는 경우, 상기 렌더링 요청의 결과에 근거하여: 상기 주행 영상 내 빌딩영역의 일 면을 제1 표시영역으로 결정하여 상기 복수의 POI 정보 각각에 대응되는 AR 디지털 사이니지의 이미지를 층별로 매핑하고, 상기 주행 영상 내 빌딩영역의 타 면을 제2 표시영역으로 결정하여 상기 미리등록된 선호도 POI 정보에 대응되는 AR 디지털 사이니지의 이미지를 상기 타 면 전체에 매핑하여 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.
일 실시 예에서, 상기 제어부는, 상기 차량의 목적지에 관한 정보를 상기 시스템에 전송하고, 상기 빌딩영역에 포함된 복수의 POI 정보 중 하나가 상기 차량의 목적지로 설정된 경우, 상기 시스템으로부터 상기 렌더링 요청의 결과를 수신하여, 상기 차량의 목적지에 매칭되는 대응 AR 디지털 사이니지의 이미지를 다른 AR 오브젝트와 시각적으로 구별되도록 상기 표시영역에 매핑할 수 있다.
일 실시 예에서, 상기 제어부는, 상기 차량이 상기 차량의 목적지를 포함하는 빌딩영역에 접근하는 것에 응답하여, 상기 차량의 목적지에 대응되는 층수에만 AR 디지털 사이니지의 이미지를 매핑하여 표시하도록 상기 표시영역을 가변할 수 있다.
본 발명의 실시 예에 따른 차량과 연동된 디스플레이 장치의 동작방법은 다음의 단계들을 포함할 수 있으며, 각 단계들은 디스플레이 장치에 내장된 프로세서에 의해 수행될 수 있다. 구체적으로, 상기 프로세서에 의해, 사용자 입력에 응답하여, AR 디지털 사이니지 플랫폼 제공 시스템과 연결을 수행하는 단계; 상기 차량의 센싱 데이터를 수신하고, 상기 차량의 센싱 데이터와 연관된 POI 정보의 요청을 상기 시스템에 전송하는 단계; 상기 시스템에 의해 검출된 복수의 POI 정보를 포함하는 빌딩영역의 공간 위치를 인식하는 단계; 상기 차량의 센싱 데이터와 상기 빌딩영역의 공간 위치 및 층수정보를 이용하여, 상기 복수의 POI 정보와 관련된 각 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 층별로 생성하기 위한 렌더링 요청을 상기 시스템에 전송하는 단계; 상기 렌더링 요청의 결과를 수신하여, 비전 센서를 통해 획득된 상기 차량의 주행 영상 내 빌딩영역의 이미지를 기초로 결정된 표시영역에 상기 AR 디지털 사이니지의 이미지를 층별 매핑하여 디스플레이하는 단계; 및 상기 주행 영상 내 빌딩영역의 이미지의 형상을 기초로 변경된 표시영역에 관한 정보를 상기 시스템에 전송하고, 상기 시스템으로부터 변경된 표시영역에 대응되는 AR 디지털 사이니지의 이미지를 매핑하기 위한 렌더링 결과를 수신하는 단계를 포함할 수 있다.
일 실시 예에서, 상기 디스플레이하는 단계는, 상기 차량의 카메라를 통해 인식된 상기 빌딩영역의 이미지의 왜곡비율을 기초로 표시영역을 결정하고, 결정된 표시영역에 관한 정보를 상기 시스템에 전송하여, 상기 AR 디지털 사이니지의 이미지를 상기 결정된 표시영역에 층별로 표시하기 위한 렌더링 요청의 결과를 수신하는 단계를 포함할 수 있다.
일 실시 예에서, 상기 디스플레이하는 단계는, 상기 주행 영상 내 빌딩영역의 적어도 일부가 상기 차량의 카메라 화각을 벗어나거나 또는 일부가 인식되지 않는 경우, 상기 AR 디지털 사이니지의 이미지가 상기 주행 영상 내 다른 구조물을 이용하여서 층별 표시되도록 상기 표시영역을 가변하는 단계를 포함할 수 있다.
일 실시 예에서, 상기 차량이 주행하는 동안 수신되는 차량의 센싱 데이터에 기초하여, 상기 AR 디지털 사이니지의 이미지가 매핑되는 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하는 단계를 더 포함할 수 있다.
본 발명에 따른 디지털 사이니지 플랫폼 제공 장치와 동작방법, 및 이를 포함하는 시스템의 효과에 대해 설명하면 다음과 같다.
본 발명의 일부 실시 예에 의하면, 보다 현실의 광고판에 가깝도록 주행 영상내 빌딩에 AR 사이니지를 매핑시켜 표시함으로써, 기존에 주행 경로 화면에 인위적으로 AR 오브젝트를 띄워 표시했던 어색함이 해소된다.
본 발명의 일부 실시 예에 의하면, 종래에 증강현실(AR) 기술을 이용하더라도 하나의 영역에 한가지 광고만 표시했던 제한으로부터 해소되어, 하나의 빌딩에 다양한 형태의 복수의 광고를 제공하도록 확장되는 장점을 제공한다.
본 발명의 일부 실시 예에 의하면, 일단 빌딩의 표시영역에 층별로 AR 디지털 사이니지가 매핑된 후에도, 운전자 시야 기준의 빌딩의 형태, 차량의 주행 상황이나, 선호도, 주변의 교통 및 구조물 환경을 유연하게 반영하여, 표시영역의 위치를 가변할 수 있다. 그에 따라, 표시되는 AR 디지털 사이니지의 시인성을 보다 향상시킬 수 있다.
본 발명의 일부 실시 예에 의하면, 서비스의 등급, 사용자 선호, 차량의 주행으로 인한 환경 변화에 기초하여 AR 디지털 사이니지를 통해 제공되는 정보의 양이나 표시방법을 가변함으로써, 광고 정보를 보다 효과적으로 제공할 수 있다. 예를 들어, 차량이 AR 디지털 사이니지를 표시하고 있는 빌딩에 근접하고 느린 주행속도로 주행하거나 잠시 정지한 경우에는, 보다 상세하고 적극적인 광고를 제공함으로써, 광고 효과를 극대화할 수 있다.
도 1은 본 발명의 실시예와 관련된 차량의 예시를 도시한 도면이다.
도 2는 본 발명의 실시예와 관련된 차량을 다양한 각도에서 본 도면이다.
도 3 및 도 4는 본 발명의 실시예와 관련된 차량의 내부를 도시한 도면이다.
도 5 및 도 6은 본 발명의 실시예와 관련된 차량의 주행과 관련된 다양한 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예와 관련된 차량을 설명하는데 참조되는 블럭도이다.
도 8은 본 발명의 실시예에 따른 디지털 사이니지 플랫폼 제공 장치, 사용자 단말, 및 클라우드 서버와 통신하는 것을 보여주는 블록도이다.
도 9는 본 발명의 실시예와 관련된 정보 처리 시스템이 복수의 사용자 단말과 통신하는 것을 보여주는 블록도이다.
도 10은 본 발명의 실시예에 따른 디지털 사이니지 플랫폼 제공 장치의 구성을 설명하기 위한 도면이다.
도 11은 본 발명의 실시예에 따른 디지털 사이니지 플랫폼 제공 장치의 동작방법을 설명하기 위한 대표 흐름도이다.
도 12 및 도 13은 본 발명의 실시예에 따라, 주행 영상의 빌딩영역에 AR 디지털 사이니지를 층별로 배치하는 방법을 설명하기 위한 도면들이다.
도 14는 본 발명의 실시예에 따라, 빌딩영역의 형태에 기초하여 층별 AR 디지털 사이니지의 표시영역을 선택하는 방법을 설명하기 위한 도면이다.
도 15는 본 발명의 실시예에 따라, 차량의 주행 정보에 기초하여 층별 AR 디지털 사이니지의 표시영역을 선택하는 방법을 설명하기 위한 도면이다.
도 16은 본 발명의 실시예에 따라, 운전자의 선호도에 기초하여 층별 AR 디지털 사이니지의 표시영역을 선택하는 방법을 설명하기 위한 도면이다.
도 17a, 도 17b, 도 17c는 본 발명의 실시예에 따라, 차량 주변의 상황 정보에 기초하여 층별 AR 디지털 사이니지의 표시영역을 가변하는 다양한 방법을 설명하기 위한 도면들이다.
도 18은 본 발명의 실시예에 따라, 차량의 주행속도 및 주행방향에 기초하여 층별 AR 디지털 사이니지에 포함되는 정보를 가변하는 방법을 설명하기 위한 도면이다.
도 19는 본 발명의 실시예에 따른 디스플레이 장치가 차량 및 디지털 사이니지 플랫폼 제공 시스템과 통신하는 것을 나타내는 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
본 명세서에 개시된 "시스템"은 서버 장치와 클라우드 장치 중 적어도 하나의 장치를 포함할 수 있으나, 이에 한정되는 것은 아니다. 예를 들어, 시스템은 하나 이상의 서버 장치로 구성될 수 있다. 다른 예로서, 시스템은 하나 이상의 클라우드 장치로 구성될 수 있다. 또 다른 예로서, 시스템은 서버 장치와 클라우드 장치가 함께 구성되어 동작될 수 있다.
본 개시에서, "사용자 단말" 또는 "사용자 클라이언트"는 차량(또는, 차량에 구비된 전장품, 장치/시스템 등) 및 AR 디지털 사이니지 플랫폼 장치/시스템과 통신하는 사용자 단말 등의 컴퓨팅 장치 및/또는 시스템 또는 사용자 자체를 포함하는 것으로 지칭할 수 있다.
본 명세서에 개시된 "디지털 사이니지 플랫폼"은 PaaS(Platform as a Service) 및/또는 MLaaS(Machine Learning as a Service) 서비스가 가능한 임베디드/장치 기반 또는 클라우드 기반의 플랫폼을 제공할 수 있다. 이러한 디지털 사이니지 플랫폼은 AR 디지털 사이니지를 제공하는 방법/동작과 관련된다.
본 명세서에 개시된 "맵 정보"는 카메라 등의 비전센서를 통해 촬영된 영상, 2차원 지도정보, 3차원지도정보, 디지털 트윈(Digital Twin) 3차원 맵, 실제/가상 공간상의 지도정보를 포함하는 의미로 지칭될 수 있다.
본 명세서에 개시된 "POI(Point of Interest, POI) 정보"는 상기 맵 정보를 기초로 선택된 관심지점으로, 기등록된 POI 정보(클라우드 서버의 맵 지도에 저장된 POI), 사용자 설정 POI 정보(예, 우리집, 학교, 회사 등), 주행 관련 POI 정보(예, 목적지, 경유지, 주유소, 휴게소, 주차장 등), 및 상위 검색 POI 정보(예, 최근 클릿/방문수가 많은 POI, 핫 플레이스 등)를 포함할 수 있다. 이러한 POI 정보는, 차량의 현재 위치를 기준으로 실시간 업데이트될 수 있다.
본 명세서에 개시된 "주행 영상"은 차량 또는 차량 주변의 비전센서를 통해 획득된 것으로, 예를 들어 차량의 주행 동안 비전센서(카메라, 영상용 레이저센서 등)를 통해 획득되거나 투사되는 영상, 차량의 윈드쉴드에 투사되는 현실의 이미지 자체/가상공간의 영상을 포함할 수 있다. 즉, 상기 주행 영상은 디스플레이를 통해 출력되는 영상, 레이저 센서 등을 통해 투사되는 영상, 또는 차량의 윈드쉴드를 통해 보여지는 현실의 이미지 자체를 모두 포함하는 의미로 지칭될 수 있다.
도 1 및 도 2는 본 발명의 실시 예와 관련된 차량의 외관이고, 도 3 및 도 4는 본 발명의 실시예와 관련된 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예와 관련된 차량의 주행과 관련된 다양한 오브젝트를 도시한 도면이다.
도 7은 본 발명의 실시예와 관련된 차량을 설명하는데 참조되는 블럭도이다. 도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 1 내지 도 7을 참조하면, 차량(100)은 동력원에 의해 회전하는 바퀴, 차량(100)의 진행 방향을 조절하기 위한 조향 입력 장치(510)를 포함할 수 있다.
차량(100)은 자율 주행 차량일 수 있다. 차량(100)은, 사용자 입력에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다. 예를 들면, 차량(100)은, 사용자 인터페이스 장치(이하, '사용자 단말'로 명명될 수 있음)(200)를 통해, 수신되는 사용자 입력에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 주행 상황 정보에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다. 주행 상황 정보는, 오브젝트 검출 장치(300)에서 제공된 오브젝트 정보에 기초하여 생성될 수 있다. 예를 들면, 차량(100)은, 오브젝트 검출 장치(300)에서 생성되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다. 예를 들면, 차량(100)은, 통신 장치(400)를 통해 수신되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 외부 디바이스에서 제공되는 정보, 데이터, 신호에 기초하여 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)이 자율 주행 모드로 운행되는 경우, 자율 주행 차량(100)은, 운행 시스템(700)에 기초하여 운행될 수 있다. 예를 들면, 자율 주행 차량(100)은, 주행 시스템(710), 출차 시스템(740), 주차 시스템(750)에서 생성되는 정보, 데이터 또는 신호에 기초하여 운행될 수 있다.
차량(100)이 메뉴얼 모드로 운행되는 경우, 자율 주행 차량(100)은, 운전 조작 장치(500)를 통해 운전을 위한 사용자 입력을 수신할 수 있다. 운전 조작 장치(500)를 통해 수신되는 사용자 입력에 기초하여, 차량(100)은 운행될 수 있다.
전장(overall length)은 차량(100)의 앞부분에서 뒷부분까지의 길이, 전폭(width)은 차량(100)의 너비, 전고(height)는 바퀴 하부에서 루프까지의 길이를 의미한다. 이하의 설명에서, 전장 방향(L)은 차량(100)의 전장 측정의 기준이 되는 방향, 전폭 방향(W)은 차량(100)의 전폭 측정의 기준이 되는 방향, 전고 방향(H)은 차량(100)의 전고 측정의 기준이 되는 방향을 의미할 수 있다.
도 7에 예시된 바와 같이, 차량(100)은, 사용자 인터페이스 장치(이하, '사용자 단말'로 명명될 수 있음)(200), 오브젝트 검출 장치(300), 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 운행 시스템(700), 내비게이션 시스템(770), 센싱부(120), 차량 인터페이스부(130), 메모리(140), 제어부(170) 및 전원 공급부(190)를 포함할 수 있다.
실시예에 따라, 차량(100)은, 본 명세서에서 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
사용자 인터페이스 장치(200)는, 차량(100)과 사용자와의 소통을 위한 장치이다. 사용자 인터페이스 장치(200)는, 사용자 입력을 수신하고, 사용자에게 차량(100)에서 생성된 정보를 제공할 수 있다. 차량(100)은, 사용자 인터페이스 장치(이하, '사용자 단말'로 명명될 수 있음)(200)를 통해, UI(User Interfaces) 또는 UX(User Experience)를 구현할 수 있다.
사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 출력부(250) 및 프로세서(270)를 포함할 수 있다. 실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
입력부(210)는, 사용자로부터 정보를 입력받기 위한 것으로, 입력부(210)에서 수집한 데이터는, 프로세서(270)에 의해 분석되어, 사용자의 제어 명령으로 처리될 수 있다.
입력부(210)는, 차량 내부에 배치될 수 있다. 예를 들면, 입력부(210)는, 스티어링 휠(steering wheel)의 일 영역, 인스투루먼트 패널(instrument panel)의 일 영역, 시트(seat)의 일 영역, 각 필러(pillar)의 일 영역, 도어(door)의 일 영역, 센타 콘솔(center console)의 일 영역, 헤드 라이닝(head lining)의 일 영역, 썬바이저(sun visor)의 일 영역, 윈드 쉴드(windshield)의 일 영역 또는 윈도우(window)의 일 영역 등에 배치될 수 있다.
입력부(210)는, 음성 입력부(211), 제스쳐 입력부(212), 터치 입력부(213) 및 기계식 입력부(214)를 포함할 수 있다.
음성 입력부(211)는, 사용자의 음성 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다. 음성 입력부(211)는, 하나 이상의 마이크로 폰을 포함할 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 감지하기 위한 적외선 센서 및 이미지 센서 중 적어도 어느 하나를 포함할 수 있다. 실시예에 따라, 제스쳐 입력부(212)는, 사용자의 3차원 제스쳐 입력을 감지할 수 있다. 이를 위해, 제스쳐 입력부(212)는, 복수의 적외선 광을 출력하는 광출력부 또는 복수의 이미지 센서를 포함할 수 있다.
제스쳐 입력부(212)는, TOF(Time of Flight) 방식, 구조광(Structured light) 방식 또는 디스패러티(Disparity) 방식을 통해 사용자의 3차원 제스쳐 입력을 감지할 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 감지하기 위한 터치 센서를 포함할 수 있다. 실시예에 따라, 터치 입력부(213)는 디스플레이부(251)와 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한, 터치 스크린은, 차량(100)과 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 함께 제공할 수 있다.
기계식 입력부(214)는, 버튼, 돔 스위치(dome switch), 조그 휠 및 조그 스위치 중 적어도 어느 하나를 포함할 수 있다. 기계식 입력부(214)에 의해 생성된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다. 기계식 입력부(214)는, 스티어링 휠, 센테 페시아, 센타 콘솔, 칵픽 모듈, 도어 등에 배치될 수 있다.
내부 카메라(220)는, 차량 내부 영상을 획득할 수 있다. 프로세서(270)는, 차량 내부 영상을 기초로, 사용자의 상태를 감지할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 시선 정보를 획득할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 제스쳐를 감지할 수 있다.
생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있다. 생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있는 센서를 포함하고, 센서를 이용하여, 사용자의 지문 정보, 심박동 정보 등을 획득할 수 있다. 생체 정보는 사용자 인증을 위해 이용될 수 있다.
출력부(250)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것이다. 출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253) 중 적어도 어느 하나를 포함할 수 있다.
디스플레이부(251)는, 다양한 정보에 대응되는 그래픽 객체를 표시할 수 있다. 디스플레이부(251)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(251)는 터치 입력부(213)와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다.
디스플레이부(251)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(251)가 HUD로 구현되는 경우, 디스플레이부(251)는 투사 모듈을 구비하여 윈드 쉴드 또는 윈도우에 투사되는 이미지를 통해 정보를 출력할 수 있다.
디스플레이부(251)는, 투명 디스플레이를 포함할 수 있다. 투명 디스플레이는 윈드 쉴드 또는 윈도우에 부착될 수 있다. 투명 디스플레이는 소정의 투명도를 가지면서, 소정의 화면을 표시할 수 있다. 투명 디스플레이는, 투명도를 가지기 위해, 투명 디스플레이는 투명 TFEL(Thin Film Elecroluminescent), 투명 OLED(Organic Light-Emitting Diode), 투명 LCD(Liquid Crystal Display), 투과형 투명디스플레이, 투명 LED(Light Emitting Diode) 디스플레이 중 적어도 하나를 포함할 수 있다. 투명 디스플레이의 투명도는 조절될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 복수의 디스플레이부(251a 내지 251g)를 포함할 수 있다.
디스플레이부(251)는, 스티어링 휠의 일 영역, 인스투루먼트 패널의 일 영역(521a, 251b, 251e), 시트의 일 영역(251d), 각 필러의 일 영역(251f), 도어의 일 영역(251g), 센타 콘솔의 일 영역, 헤드 라이닝의 일 영역, 썬바이저의 일 영역에 배치되거나, 윈드 쉴드의 일영역(251c), 윈도우의 일영역(251h)에 구현될 수 있다.
음향 출력부(252)는, 프로세서(270) 또는 제어부(170)로부터 제공되는 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(252)는, 하나 이상의 스피커를 포함할 수 있다.
햅틱 출력부(253)는, 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(253)는, 스티어링 휠, 안전 벨트, 시트(110FL, 110FR, 110RL, 110RR)를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
프로세서(이하, '제어부'로 명명될 수 있음)(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다. 실시예에 따라, 사용자 인터페이스 장치(200)는, 복수의 프로세서(270)를 포함하거나, 프로세서(270)를 포함하지 않을 수도 있다.
사용자 인터페이스 장치(200)에 프로세서(270)가 포함되지 않는 경우, 사용자 인터페이스 장치(200)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 차량용 디스플레이 장치로 명명될 수 있다. 사용자 인터페이스 장치(200)는, 제어부(170)의 제어에 따라 동작될 수 있다.
오브젝트 검출 장치(300)는, 차량(100) 외부에 위치하는 오브젝트를 검출하기 위한 장치이다. 오브젝트는, 차량(100)의 운행과 관련된 다양한 물체들일 수 있다. 도 5 내지 도 6을 참조하면, 오브젝트(O)는, 차선(OB10), 타 차량(OB11), 보행자(OB12), 이륜차(OB13), 교통 신호(OB14, OB15), 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 포함할 수 있다.
차선(Lane)(OB10)은, 주행 차선, 주행 차선의 옆 차선, 대향되는 차량이 주행하는 차선일 수 있다. 차선(Lane)(OB10)은, 차선(Lane)을 형성하는 좌우측 선(Line)을 포함하는 개념일 수 있다.
타 차량(OB11)은, 차량(100)의 주변에서 주행 중인 차량일 수 있다. 타 차량은, 차량(100)으로부터 소정 거리 이내에 위치하는 차량일 수 있다. 예를 들면, 타 차량(OB11)은, 차량(100)보다 선행 또는 후행하는 차량일 수 있다.
보행자(OB12)는, 차량(100)의 주변에 위치한 사람일 수 있다. 보행자(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 사람일 수 있다. 예를 들면, 보행자(OB12)는, 인도 또는 차도상에 위치하는 사람일 수 있다.
이륜차(OB12)는, 차량(100)의 주변에 위치하고, 2개의 바퀴를 이용해 움직이는 탈것을 의미할 수 있다. 이륜차(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 2개의 바퀴를 가지는 탈 것일 수 있다. 예를 들면, 이륜차(OB13)는, 인도 또는 차도상에 위치하는 오토바이 또는 자전거일 수 있다.
교통 신호는, 교통 신호등(OB15), 교통 표지판(OB14), 도로면에 그려진 문양 또는 텍스트를 포함할 수 있다.
빛은, 타 차량에 구비된 램프에서 생성된 빛일 수 있다. 빛은, 가로등에서 생성된 빛을 수 있다. 빛은 태양광일 수 있다.
도로는, 도로면, 커브, 오르막, 내리막 등의 경사 등을 포함할 수 있다.
구조물은, 도로 주변에 위치하고, 지면에 고정된 물체일 수 있다. 예를 들면, 구조물은, 가로등, 가로수, 건물, 전봇대, 신호등, 다리를 포함할 수 있다.
지형물은, 산, 언덕, 등을 포함할 수 있다.
한편, 오브젝트는, 이동 오브젝트와 고정 오브젝트로 분류될 수 있다. 예를 들면, 이동 오브젝트는, 타 차량, 보행자를 포함하는 개념일 수 있다. 예를 들면, 고정 오브젝트는, 교통 신호, 도로, 구조물을 포함하는 개념일 수 있다.
오브젝트 검출 장치(300)는, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340), 적외선 센서(350) 및 프로세서(370)를 포함할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
카메라(310)는, 차량 외부 영상을 획득하기 위해, 차량의 외부의 적절한 곳에 위치할 수 있다. 카메라(310)는, 모노 카메라, 스테레오 카메라(310a), AVM(Around View Monitoring) 카메라(310b) 또는 360도 카메라일 수 있다.
예를 들면, 카메라(310)는, 차량 전방의 영상을 획득하기 위해, 차량의 실내에서, 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 후방의 영상을 획득하기 위해, 차량의 실내에서, 리어 글라스에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 측방의 영상을 획득하기 위해, 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다.
카메라(310)는, 획득된 영상을 프로세서(370)에 제공할 수 있다.
레이다(320)는, 전자파 송신부, 수신부를 포함할 수 있다. 레이더(320)는 전파 발사 원리상 펄스 레이더(Pulse Radar) 방식 또는 연속파 레이더(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이더(320)는 연속파 레이더 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다.
레이더(320)는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
레이더(320)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
라이다(330)는, 레이저 송신부, 수신부를 포함할 수 있다. 라이다(330)는, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다.
라이다(330)는, 구동식 또는 비구동식으로 구현될 수 있다.
구동식으로 구현되는 경우, 라이다(330)는, 모터에 의해 회전되며, 차량(100) 주변의 오브젝트를 검출할 수 있다.
비구동식으로 구현되는 경우, 라이다(330)는, 광 스티어링에 의해, 차량(100)을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 차량(100)은 복수의 비구동식 라이다(330)를 포함할 수 있다.
라이다(330)는, 레이저 광 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
라이다(330)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
초음파 센서(340)는, 초음파 송신부, 수신부를 포함할 수 있다. 초음파 센서(340)는, 초음파를 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
초음파 센서(340)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
적외선 센서(350)는, 적외선 송신부, 수신부를 포함할 수 있다. 적외선 센서(340)는, 적외선 광을 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
적외선 센서(350)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
프로세서(370)는, 오브젝트 검출 장치(300)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(370)는, 획득된 영상에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 영상 처리 알고리즘을 통해, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 전자파가 오브젝트에 반사되어 되돌아오는 반사 전자파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 전자파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 레이저가 오브젝트에 반사되어 되돌아오는 반사 레이저 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 레이저 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 초음파가 오브젝트에 반사되어 되돌아오는 반사 초음파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 초음파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 적외선 광이 오브젝트에 반사되어 되돌아오는 반사 적외선 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 적외선 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 복수의 프로세서(370)를 포함하거나, 프로세서(370)를 포함하지 않을 수도 있다. 예를 들면, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350) 각각은 개별적으로 프로세서를 포함할 수 있다.
오브젝트 검출 장치(300)에 프로세서(370)가 포함되지 않는 경우, 오브젝트 검출 장치(300)는, 차량(100)내 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
오브젝트 검출 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
통신 장치(400)는, 외부 디바이스와 통신을 수행하기 위한 장치이다. 여기서, 외부 디바이스는, 타 차량, 이동 단말기 또는 서버일 수 있다.
통신 장치(400)는, 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다.
통신 장치(400)는, 근거리 통신부(410), 위치 정보부(420), V2X 통신부(430), 광통신부(440), 방송 송수신부(450) 및 프로세서(470)를 포함할 수 있다.
실시예에 따라, 통신 장치(400)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
근거리 통신부(410)는, 근거리 통신(Short range communication)을 위한 유닛이다. 근거리 통신부(410)는, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
근거리 통신부(410)는, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량(100)과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다.
위치 정보부(420)는, 차량(100)의 위치 정보를 획득하기 위한 유닛이다. 예를 들면, 위치 정보부(420)는, GPS(Global Positioning System) 모듈 또는 DGPS(Differential Global Positioning System) 모듈을 포함할 수 있다.
V2X 통신부(430)는, 서버(V2I : Vehicle to Infra), 타 차량(V2V : Vehicle to Vehicle) 또는 보행자(V2P : Vehicle to Pedestrian)와의 무선 통신 수행을 위한 유닛이다. V2X 통신부(430)는, 인프라와의 통신(V2I), 차량간 통신(V2V), 보행자와의 통신(V2P) 프로토콜이 구현 가능한 RF 회로를 포함할 수 있다.
광통신부(440)는, 광을 매개로 외부 디바이스와 통신을 수행하기 위한 유닛이다. 광통신부(440)는, 전기 신호를 광 신호로 전환하여 외부에 발신하는 광발신부 및 수신된 광 신호를 전기 신호로 전환하는 광수신부를 포함할 수 있다.
실시예에 따라, 광발신부는, 차량(100)에 포함된 램프와 일체화되게 형성될 수 있다.
방송 송수신부(450)는, 방송 채널을 통해, 외부의 방송 관리 서버로부터 방송 신호를 수신하거나, 방송 관리 서버에 방송 신호를 송출하기 위한 유닛이다. 방송 채널은, 위성 채널, 지상파 채널을 포함할 수 있다. 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 수 있다.
프로세서(470)는, 통신 장치(400)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 통신 장치(400)는, 복수의 프로세서(470)를 포함하거나, 프로세서(470)를 포함하지 않을 수도 있다.
통신 장치(400)에 프로세서(470)가 포함되지 않는 경우, 통신 장치(400)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 통신 장치(400)는, 사용자 인터페이스 장치(200)와 함께 차량용 디스플레이 장치를 구현할 수 있다. 이경우, 차량용 디스플레이 장치는, 텔레 매틱스(telematics) 장치 또는 AVN(Audio Video Navigation) 장치로 명명될 수 있다.
통신 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운전 조작 장치(500)는, 운전을 위한 사용자 입력을 수신하는 장치이다.
메뉴얼 모드인 경우, 차량(100)은, 운전 조작 장치(500)에 의해 제공되는 신호에 기초하여 운행될 수 있다.
운전 조작 장치(500)는, 조향 입력 장치(510), 가속 입력 장치(530) 및 브레이크 입력 장치(570)를 포함할 수 있다.
조향 입력 장치(510)는, 사용자로부터 차량(100)의 진행 방향 입력을 수신할 수 있다. 조향 입력 장치(510)는, 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
가속 입력 장치(530)는, 사용자로부터 차량(100)의 가속을 위한 입력을 수신할 수 있다. 브레이크 입력 장치(570)는, 사용자로부터 차량(100)의 감속을 위한 입력을 수신할 수 있다. 가속 입력 장치(530) 및 브레이크 입력 장치(570)는, 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 장치 또는 브레이크 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
운전 조작 장치(500)는, 제어부(170)의 제어에 따라 동작될 수 있다.
차량 구동 장치(600)는, 차량(100)내 각종 장치의 구동을 전기적으로 제어하는 장치이다.
차량 구동 장치(600)는, 파워 트레인 구동부(610), 샤시 구동부(620), 도어/윈도우 구동부(630), 안전 장치 구동부(640), 램프 구동부(650) 및 공조 구동부(660)를 포함할 수 있다.
실시예에 따라, 차량 구동 장치(600)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 차량 구동 장치(600)는 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
파워 트레인 구동부(610)는, 파워 트레인 장치의 동작을 제어할 수 있다.
파워 트레인 구동부(610)는, 동력원 구동부(611) 및 변속기 구동부(612)를 포함할 수 있다.
동력원 구동부(611)는, 차량(100)의 동력원에 대한 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진이 동력원인 경우, 동력원 구동부(610)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(611)는, 제어부(170)의 제어에 따라, 엔진 출력 토크를 조정할 수 있다.
예를 들면, 전기 에너지 기반의 모터가 동력원인 경우, 동력원 구동부(610)는, 모터에 대한 제어를 수행할 수 있다. 동력원 구동부(610)는, 제어부(170)의 제어에 따라, 모터의 회전 속도, 토크 등을 조정할 수 있다.
변속기 구동부(612)는, 변속기에 대한 제어를 수행할 수 있다. 변속기 구동부(612)는, 변속기의 상태를 조정할 수 있다. 변속기 구동부(612)는, 변속기의 상태를, 전진(D), 후진(R), 중립(N) 또는 주차(P)로 조정할 수 있다.
한편, 엔진이 동력원인 경우, 변속기 구동부(612)는, 전진(D) 상태에서, 기어의 물림 상태를 조정할 수 있다.
샤시 구동부(620)는, 샤시 장치의 동작을 제어할 수 있다. 샤시 구동부(620)는, 조향 구동부(621), 브레이크 구동부(622) 및 서스펜션 구동부(623)를 포함할 수 있다.
조향 구동부(621)는, 차량(100) 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 조향 구동부(621)는, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(622)는, 차량(100) 내의 브레이크 장치(brake apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량(100)의 속도를 줄일 수 있다.
한편, 브레이크 구동부(622)는, 복수의 브레이크 각각을 개별적으로 제어할 수 있다. 브레이크 구동부(622)는, 복수의 휠에 걸리는 제동력을 서로 다르게 제어할 수 있다.
서스펜션 구동부(623)는, 차량(100) 내의 서스펜션 장치(suspension apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 서스펜션 구동부(623)는 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량(100)의 진동이 저감되도록 제어할 수 있다. 한편, 서스펜션 구동부(623)는, 복수의 서스펜션 각각을 개별적으로 제어할 수 있다.
도어/윈도우 구동부(630)는, 차량(100) 내의 도어 장치(door apparatus) 또는 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다.
도어/윈도우 구동부(630)는, 도어 구동부(631) 및 윈도우 구동부(632)를 포함할 수 있다.
도어 구동부(631)는, 도어 장치에 대한 제어를 수행할 수 있다. 도어 구동부(631)는, 차량(100)에 포함되는 복수의 도어의 개방, 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 트렁크(trunk) 또는 테일 게이트(tail gate)의 개방 또는 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 썬루프(sunroof)의 개방 또는 폐쇄를 제어할 수 있다.
윈도우 구동부(632)는, 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 차량(100)에 포함되는 복수의 윈도우의 개방 또는 폐쇄를 제어할 수 있다.
안전 장치 구동부(640)는, 차량(100) 내의 각종 안전 장치(safety apparatus)에 대한 전자식 제어를 수행할 수 있다.
안전 장치 구동부(640)는, 에어백 구동부(641), 시트벨트 구동부(642) 및 보행자 보호 장치 구동부(643)를 포함할 수 있다.
에어백 구동부(641)는, 차량(100) 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 에어백 구동부(641)는, 위험 감지시, 에어백이 전개되도록 제어할 수 있다.
시트벨트 구동부(642)는, 차량(100) 내의 시트벨트 장치(seatbelt appartus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 시트벨트 구동부(642)는, 위험 감지시, 시트 밸트를 이용해 탑승객이 시트(110FL, 110FR, 110RL, 110RR)에 고정되도록 제어할 수 있다.
보행자 보호 장치 구동부(643)는, 후드 리프트 및 보행자 에어백에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 보행자 보호 장치 구동부(643)는, 보행자와의 충돌 감지시, 후드 리프트 업 및 보행자 에어백 전개되도록 제어할 수 있다.
램프 구동부(650)는, 차량(100) 내의 각종 램프 장치(lamp apparatus)에 대한 전자식 제어를 수행할 수 있다.
공조 구동부(660)는, 차량(100) 내의 공조 장치(air cinditioner)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 공조 구동부(660)는, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
차량 구동 장치(600)는, 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
차량 구동 장치(600)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운행 시스템(700)은, 차량(100)의 각종 운행을 제어하는 시스템이다. 운행 시스템(700)은, 자율 주행 모드에서 동작될 수 있다.
운행 시스템(700)은, 주행 시스템(710), 출차 시스템(740) 및 주차 시스템(750) 을 포함할 수 있다.
실시예에 따라, 운행 시스템(700)은, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 운행 시스템(700)은, 프로세서를 포함할 수 있다. 운행 시스템(700)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
한편, 실시예에 따라, 운행 시스템(700)이 소프트웨어적으로 구현되는 경우, 제어부(170)의 하위 개념일 수도 있다.
한편, 실시예에 따라, 운행 시스템(700)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 차량 구동 장치(600) 및 제어부(170) 중 적어도 어느 하나를 포함하는 개념일 수 있다.
주행 시스템(710)은, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다. 주행 시스템(710)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다. 주행 시스템(710)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
출차 시스템(740)은, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다. 출차 시스템(740)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다. 출차 시스템(740)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
주차 시스템(750)은, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다. 주차 시스템(750)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다. 주차 시스템(750)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
내비게이션 시스템(770)은, 내비게이션 정보를 제공할 수 있다. 내비게이션 정보는, 맵(map) 정보, 설정된 목적지 정보, 상기 목적지 설정 따른 경로 정보, 경로 상의 다양한 오브젝트에 대한 정보, 차선 정보 및 차량의 현재 위치 정보 중 적어도 어느 하나를 포함할 수 있다.
내비게이션 시스템(770)은, 메모리, 프로세서를 포함할 수 있다. 메모리는 내비게이션 정보를 저장할 수 있다. 프로세서는 내비게이션 시스템(770)의 동작을 제어할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 통신 장치(400)를 통해, 외부 디바이스로부터 정보를 수신하여, 기 저장된 정보를 업데이트 할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 사용자 인터페이스 장치(200)의 하위 구성 요소로 분류될 수도 있다.
센싱부(120)는, 차량의 상태를 센싱할 수 있다. 센싱부(120)는, 자세 센서(예를 들면, 요 센서(yaw sensor), 롤 센서(roll sensor), 피치 센서(pitch sensor)), 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 조도 센서, 가속 페달 포지션 센서, 브레이크 페달 포지션 센서, 등을 포함할 수 있다.
센싱부(120)는, 차량 자세 정보, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도, 차량 외부 조도, 가속 페달에 가해지는 압력, 브레이크 페달에 가해지는 압력 등에 대한 센싱 신호를 획득할 수 있다.
센싱부(120)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
차량 인터페이스부(130)는, 차량(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 차량 인터페이스부(130)는 이동 단말기와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기와 연결할 수 있다. 이경우, 차량 인터페이스부(130)는 이동 단말기와 데이터를 교환할 수 있다.
한편, 차량 인터페이스부(130)는 연결된 이동 단말기에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기가 차량 인터페이스부(130)에 전기적으로 연결되는 경우, 제어부(170)의 제어에 따라, 차량 인터페이스부(130)는 전원 공급부(190)에서 공급되는 전기 에너지를 이동 단말기에 제공할 수 있다.
메모리(140)는, 제어부(170)와 전기적으로 연결된다. 메모리(140)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(140)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(140)는 제어부(170)의 처리 또는 제어를 위한 프로그램 등, 차량(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(140)는, 제어부(170)와 일체형으로 형성되거나, 제어부(170)의 하위 구성 요소로 구현될 수 있다.
제어부(170)는, 차량(100) 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(170)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
전원 공급부(190)는, 제어부(170)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(190)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
차량(100)에 포함되는, 하나 이상의 프로세서 및 제어부(170)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
한편, 본 발명에 따른 디지털 사이니지 플랫폼 제공 장치는 차량(100)의 사용자 인터페이스 장치(또는, 이하 '사용자 단말'로 명명됨)(200) 또는 내비게이션 시스템(770)과 통신하여, 주행영상 내 빌딩에 AR 디지털 사이니지를 층별로 제공하기 위한 플랫폼 및/또는 이와 관련된 데이터를 제공할 수 있다.
본 명세서에 개시된, AR 디지털 사이니지는 증강현실(AR) 기술을 이용하여 주행 영상 내 빌딩 또는 그와 관련된 영역에 표시되는 멀티미디어 정보 제공를 의미하며, 옥외 전광판과 같은 기능을 AR 기술로 구현한 것이다
본 명세서에 개시된, 빌딩에 층별 AR 디지털 사이니지를 표시하는 것은, 복수의 POI 정보가 존재하는 빌딩에서, 복수의 POI 정보와 관련된 컨텐츠 정보(예, 광고 정보, 브랜드 정보, 뉴스 정보 등)가 있는 경우, 각 POI 정보에 매칭되는 층수 정보를 파악하여, 빌딩의 각 층에 대응되는 컨텐츠 정보를 AR 디지털 사이니지로 층별 표시하는 것을 의미한다.
도 8은 본 발명의 실시예에 따른 디지털 사이니지 플랫폼 제공 장치(800)가 사용자 단말(200), 차량(100), 및 클라우드 서버(900)와 통신가능하도록 연결된 것을 보여주는 블록도이다.
본 발명에 따른 디지털 사이니지 플랫폼 제공 장치(800)는 차량(100)의 전장품 또는 시스템의 일부로 구현되거나, 클라우드 서버에 포함되어 구현될 수 있다. 또한, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 차량(100)과 연동된 사용자 단말(200)의 프로세서에 의해 구현되는 프로그램의 형태로 구현될 수 있다.
디지털 사이니지 플랫폼 제공 장치(800)는 차량(100)과 통신하여 차량에 구비된 센서에 의한 센싱 데이터를 수집하고, 차량과 연동된 사용자 단말(200)을 통해 사용자 데이터를 수집 및 처리할 수 있다. 디지털 사이니지 플랫폼 제공 장치(800)는 차량(100) 및 사용자 단말(200)과 통신하여 수집된 데이터와 클라우드 서버(900)를 통해 수집된 정보를 필터링 및 가공한 다음, AR 정합하여, AR 디지털 사이니지를 생성하기 위한 렌더링 수행하도록 요청할 수 있다.
디지털 사이니지 플랫폼 제공 장치(800)는 렌더링 요청의 결과를 사용자 단말(200)에 전송하여, 사용자 단말(200)을 통해 윈드쉴드, 대쉬보드, 헤드업 디스플레이(HUD) 등에 디스플레이되는 주행영상 내에 매핑하도록 지속적인 이미지 보정을 요청할 수 있다. 여기에서, 사용자 단말(200)은 전술한 바와 같이, 차량(100)의 시스템의 일부로 구현되는 사용자 인터페이스 장치나 내비게이션 시스템(770)으로 구현될 수 있다.
디지털 사이니지 플랫폼 제공 장치(800)는 통신모듈(810)을 통해 클라우드 서버(900)와 통신가능하도록 연결된다. 디지털 사이니지 플랫폼 제공 장치(800)와 통신하는 클라우드 서버(900)는 복수 개일 수 있다.
디지털 사이니지 플랫폼 제공 장치(800)는 클라우드 서버(900)와 통신하여, POI 정보를 포함하는 2차원 또는 3차원 지도정보, 빌딩의 지형정보(footpint information), 입구정보(entrance information), 및 층수정보(building stories information) 등의 맵 정보를 수신할 수 있다.
또한, 디지털 사이니지 플랫폼 제공 장치(800)는 클라우드 서버(900)와 통신하여, POI(Point of Interest, 관심지점)에 대한 광고정보(예, NoSQL DB, Mongo 등의 데이터베이스와 연동하여 수집되는 광고 정보)를 수신할 수 있다. 또한, 디지털 사이니지 플랫폼 제공 장치(800)는 클라우드 서버(900)와 통신하여, 실시간 교통 정보를 수신할 수 있다.
디지털 사이니지 플랫폼 제공 장치(800)는 클라우드 서버(900)로부터 수신된 맵 정보, 광고 정보, 및 교통 정보를 데이터 수집 인터페이스(821)에 수집 및 저장할 수 있다. 상기 수집 및 저장된 정보들은 데이터 필터링(824)에 전달된다.
또한, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 통신부(미도시)나 사용자 인터페이스(미도시)를 통해, 차량(100)에 구비되는 카메라(310), ADAS 센서(360), GPS/DR(460) 등으로부터 차량 센싱 데이터를 수신한다. 여기에서, 상기 차량 센싱 데이터는, 예를 들어, 차량에 구비된 카메라(310)를 통해 획득된 주행 영상, ADAS 센서(360)를 통해 획득된 주행 방향 및 속도, 차선과의 거리 등의 주행 관련 센싱 데이터, GPS/DR(460) 차량항법시스템을 통해 획득된 차량의 위치 데이터를 포함할 수 있다. 수신된 차량 센싱 데이터는 찰야 센싱 데이터 수집(823)을 통해 수집 및 저장되며, 저장된 정보는 데이터 필터링(824)에 전달된다.
또한, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 차량(100)에 임베디드된 또는 차량(100)과 연동된 사용자 단말(200)로부터 사용자 입력에 대응되는 요청(예, AR 사이니지 제공 요청, 경로 안내 요청 등)을 수신할 수 있다. 수신된 사용자 입력은 사용자 데이터 처리(822)를 통해 처리 및 가공되어 데이터 필터링(824)에 전달된다.
디지털 사이니지 플랫폼 제공 장치(800)의 데이터 필터링(824)에서는, 클라우드 서버(900)로부터 수신된 정보와, 사용자 단말(200)에 의해 전송된 입력 정보와, 차량(100)으로부터 수신된 차량 센싱 데이터를 주행 영상에 표시를 위한 최적 데이터만 남도록 필터링 및 가공을 수행한다.
구체적으로, 디지털 사이니지 플랫폼 제공 장치(800)는 클라우드 서버(900)로부터 수신된 맵 정보에 기초하여, 복수의 POI 정보를 포함하는 빌딩영역을 검출하고, 그에 대한 공간좌표를 산출하여, 상기 복수의 POI 정보 각각에 대한 층수정보를 획득한다. 그런 다음, 디지털 사이니지 플랫폼 제공 장치(800)는 차량 센싱 데이터 수집(823)에 의한 차량의 센싱 데이터와 상기 빌딩영역에 대한 공간좌표와 층수 정보에 기초하여, 복수의 POI 정보와 관련된 컨텐츠 정보를 표시할 빌딩영역의 기준점을 산출할 수 있다.
이러한 기준점의 산출은, 실제 주행 도로나 전술한 주행 영상의 시점과 복수의 POI 정보와 관련된 컨텐츠 정보를 렌더링할 화면의 시점을 일치시켜서, 실제 빌딩에 사이니지 전광판이 표시되는 것과 같은 사실감을 제공하기 위한 과정이다.
다음, 디지털 사이니지 플랫폼 제공 장치(800)는 산출된 기준점을 기초로 결정된 표시영역에, 복수의 POI 정보와 관련된 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 표시하기 위한 렌더링 요청을 수행한다.
이를 위해, 데이터 필터링(824)에 의해 필터링 및 가공된 정보/데이터는 클라우드 서버(900)를 통해 지속적/실시간으로 수집되는 맵 정보와 AR 정합(AR Mergin)(825)된다. 디지털 사이니지 플랫폼 제공 장치(800)는 AR 정합(AR Mergin)(825)된 정보/데이터를 AR 엔진(830)에 제공하여, AR 렌더링을 요청한다.
AR 엔진(830)은 도 8에 도시된 바와 같이 디지털 사이니지 플랫폼 제공 장치(800)에 임베디드될 수 있다. 또는, 다른 실시 예에서, 상기 AR 엔진(830)은 사용자 단말(200)이나 도 7에 도시된 차량의 사용자 인터페이스 장치(200, 도 7) 또는 내비게이션 시스템(770, 도 7)에 구비된 프로세서에 의해 구현되거나 또는 별도의 단말/장치/클라우드서버에 의해 구현될 수 있을 것이다.
AR 엔진(830)은 AR 렌더링 요청에 응답하여, AR 정합(AR Mergin)(825)된 정보/데이터를 기초로 내비게이션(832)의 경로(또는, 2차원/3차원 지도정보)상에 AR 렌더링(831)을 실시간으로 수행할 수 있다. 그에 따라, 실제 주행 도로와 AR 디지털 사이니지가 렌더링될 화면의 시점이 일치된다.
AR 엔진(830)을 통한 렌더링 수행 결과는 사용자 단말(200)로 전송될 수 있으며, 사용자 단말(200)은 이를 기초로 자신의 디스플레이나, 차량(100)용 디스플레이 장치, 예를 들어 차량용 정보안내 디스플레이(CID), 클러스터, 헤드업디스플레이(HUD), 룸미러 디스플레이, 뒷좌석 엔터테인먼트(RSE), 차량의 윈드쉴드/대시보드 등에 보여지는 주행영상 내 빌딩에 AR 디저털 사이니지를 층별로 매핑시켜 출력할 수 있다.
이때, 사용자 단말(200)의 디스플레이나 차량(100)의 CID, HUD, RSE 등에 구비된 디스플레이/LCD 화면에는, 차량(100)에 구비된 카메라 센서를 통해 촬영된/반사된 주행 영상이 출력되며, 해당 주행 영상 위에 AR 디지털 사이니지가 매핑된다. 반면, AR 내비게이션 등과 같은 차량용 디스플레이 장치는, 차량(100)에 구비된 레이저 센서 등을 통해 차량의 윈드쉴드/대시보드에 AR 디지털 사이니지를 직접 투영시키는 방식으로 매핑한다.
따라서, 본 명세서에 개시된 '주행 영상'은, 카메라 센서(또는, 이러한 기능을 포함하는 스마트 글래스를 포함함)를 통해 촬영된 영상뿐만 아니라, 카메라 센서를 통해 LCD 화면에 반사되는 영상 및 AR 디지털 사이니지가 직접 투영되는 윈드쉴드/대시보드에 보여지는 실제공간의 이미지 및 디지털 트윈된 3차원 이미지 등을 모두 포함한다.
한편, 사용자 단말(200)은 실제 주행 도로나 주행영상 내 빌딩의 표시영역과 AR 디지털 사이니지의 이미지가 매핑되는 표시영역이 일치되도록, 매핑 결과를 디지털 사이니지 플랫폼 제공 장치(800)로 전송할 수 있고, 디지털 사이니지 플랫폼 제공 장치(800)로부터 지속적으로/실시간으로 이미지 보정 요청을 수신할 수 있다.
도 9는 본 발명의 실시예와 관련된 정보 처리 시스템이 복수의 사용자 단말과 통신가능하도록 연결된 것을 보여주는 블록도이다.
도 9는 본 개시의 일 실시예에 따른 정보 처리 시스템(800)이 복수의 사용자 단말(200_1, 200_2, 200_3)과 통신 가능하도록 연결된 구성을 나타내는 개요도이다. 여기에서, 정보 처리 시스템(800)은 본 발명에 따른 디지털 사이니지 플랫폼을 제공할 수 있는 시스템을 지칭할 수 있다. 또한, 상기 복수의 사용자 단말(200_1, 200_2, 200_3)은 차량(100)에 내장된/구비된/연결된 사용자 단말 등의 장치를 포함하여 지칭될 수 있다.
도시된 바와 같이, 복수의 사용자 단말(200_1, 200_2, 200_3)은 네트워크(50)를 통해 AR 디지털 사이니지를 생성하기 위한 AR 렌더링 요청 결과를 제공할 수 있는 정보 처리 시스템(800)과 연결될 수 있다. 여기서, 복수의 사용자 단말(200_1, 200_2, 200_3)은 AR 디지털 사이니지를 생성하기 위한 AR 렌더링 요청 결과를 제공받을 수 있는 사용자 및/또는 접근권한이 운영자(예를 들어, 등록된 운전자 등)의 단말을 포함할 수 있다.
일 실시예에서, 정보 처리 시스템(800)은 AR 디지털 사이니지의 생성과 관련된 컴퓨터 실행 가능한 프로그램(예를 들어, 다운로드 가능한 애플리케이션) 및 데이터를 저장, 제공 및 실행할 수 있는 하나 이상의 서버 장치 및/또는 데이터베이스, 또는 클라우드 컴퓨팅 서비스 기반의 하나 이상의 분산 컴퓨팅 장치 및/또는 분산 데이터베이스를 포함할 수 있다.
정보 처리 시스템(800)에 의해 제공되는 AR 디지털 사이니지의 렌더링 요청의 결과는, 복수의 사용자 단말(200_1, 200_2, 200_3)의 각각에 설치된 AR 디지털 사이니지 제공과 관련된 애플리케이션, 경로 안내 애플리케이션, 모바일 브라우저 애플리케이션, 웹 브라우저 또는 웹 브라우저 확장 프로그램 등을 통해 사용자에게 제공될 수 있다.
예를 들어, 정보 처리 시스템(800)은 경로 안내 애플리케이션 등을 통해 사용자 단말(200_1, 200_2, 200_3)로부터 수신되는 AR 디지털 사이니지 제공 요청에 대응하는 정보를 제공하거나 대응하는 처리를 수행할 수 있다.
복수의 사용자 단말(200_1, 200_2, 200_3)은 네트워크(50)를 통해 정보 처리 시스템(800)과 통신할 수 있다. 네트워크(50)는 복수의 사용자 단말(200_1, 200_2, 200_3)과 정보 처리 시스템(800) 사이의 통신이 가능하도록 구성될 수 있다. 네트워크(50)는 설치 환경에 따라, 예를 들어, 이더넷(Ethernet), 유선 홈 네트워크(Power Line Communication), 전화선 통신 장치 및 RS-serial 통신 등의 유선 네트워크, 이동통신망, WLAN(Wireless LAN), Wi-Fi, Bluetooth 및 ZigBee 등과 같은 무선 네트워크 또는 그 조합으로 구성될 수 있다. 통신 방식은 제한되지 않으며, 네트워크(50)가 포함할 수 있는 통신망(일례로, 이동통신망, 유선 인터넷, 무선 인터넷, 방송망, 위성망 등)을 활용하는 통신 방식뿐만 아니라 사용자 단말(200_1, 200_2, 200_3) 사이의 근거리 무선 통신 역시 포함될 수 있다.
도 9에서 복수의 사용자 단말(200_1, 200_2, 200_3)은 유선 및/또는 무선 통신이 가능하고 AR 디지털 사이니지 제공과 관련된 애플리케이션, 경로 안내 애플리케이션, 모바일 브라우저 애플리케이션, 웹 브라우저 또는 웹 브라우저 확장 프로그램 등이 설치되어 실행될 수 있는 임의의 컴퓨팅 장치일 수 있다.
예를 들어, 사용자 단말은, AI 스피커, 스마트폰, 휴대폰, 내비게이션, 컴퓨터, 노트북, 디지털방송용 단말, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 태블릿 PC, 게임 콘솔(game console), 웨어러블 디바이스(wearable device), IoT(internet of things) 디바이스, VR(virtual reality) 디바이스, AR(augmented reality) 디바이스, 셋톱 박스 등을 포함할 수 있다.
또는, 예를 들어, 사용자 단말은, 중앙정보표시디스플레이(CID), 클러스터, 헤드업 디스플레이(HUD, Head Up Display), 룸미러 디스플레이, 뒷좌석 엔터테인먼트(RSE) 등과 같은 차량용 디스플레이 장치일 수 있다.
또한, 도 9에서는 3개의 사용자 단말(200_1, 200_2, 200_3)이 네트워크(50)를 통해 정보 처리 시스템(800)과 통신하는 것으로 도시되어 있으나, 이에 한정되지 않으며, 상이한 수의 사용자 단말이 네트워크(50)를 통해 정보 처리 시스템(800)과 통신하도록 구성될 수도 있다.
일 실시예에 따르면, 정보 처리 시스템(800)은 복수의 사용자 단말(200_1, 200_2, 200_3)로부터 AR 디지털 사이니지의 제공 요청 또는 경로 안내 요청을 수신할 수 있다. 정보 처리 시스템(800)은 수신된 요청에 응답하여, AR 디지털 사이니지를 생성하기 위한 정보를 수집 및 정합하고, AR 사이니지로 표시하기 위한 표시영역에 렌더링하여 복수의 사용자 단말(200_1, 200_2, 200_3)에 제공할 수 있다.
구체적으로, 정보 처리 시스템(800)은 차량(100, 도 8)의 센싱 데이터를 수신하고, 수신된 차량 센싱 데이터와 연관된 맵 정보를 클라우드 서버에 요청하여, 맵 정보를 수신 및 저장할 수 있다. 정보 처리 시스템(800)은 수신된 맵 정보에 기초하여 복수의 POI 정보를 포함하는 빌딩영역을 검출하고, 검출된 빌딩영역에 대한 공간좌표를 산출하여, 복수의 POI 정보 각각에 대한 층수정보를 획득할 수 있다.
또한, 정보 처리 시스템(800)은 차량의 센싱 데이터 및 복수의 POI 정보를 포함하는 빌딩영역에 대한 공간 좌표와 층수 정보에 기초하여서, 복수의 POI 정보와 관련된 컨텐츠 정보를 표시할 빌딩영역의 기준점을 산출할 수 있다. 그리고, 상기 정보 처리 시스템(800)은 산출된 기준점을 기초로 결정된 표시영역에 복수의 POI 정보와 관련된 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 표시하기 위한 렌더링 요청을 수행할 수 있다. 여기에서, 상기 렌더링 요청은 AR 엔진에 대해 수행되는데, 상기 AR 엔진은 사용자 단말(200_1, 200_2, 200_3)의 프로세서, 차량에 임베디드된 전장장치의 프로세서, 정보 처리 시스템(800)의 프로세서나 이와 연동된 장치/서버/시스템의 프로세서의 동작을 의미하는 것으로 이해될 수 있다.
계속해서, 정보 처리 시스템(800)은 AR 렌더링 요청의 결과를 사용자 단말(200_1, 200_2, 200_3)로 전송하고, 사용자 단말(200_1, 200_2, 200_3)로 하여금 렌더링 요청의 결과에 대응되는 AR 디지털 사이니지의 이미지를 비전 센서를 통해 획득된 주행영상 내 빌딩의 표시영역에 층별 매핑하도록 이미지 보정 요청을 전송할 수 있다. 사용자 단말(200_1, 200_2, 200_3)은 AR 디지털 사이니지의 이미지를 주행영상 내 빌딩의 표시영역에 층별 매핑하여 출력하고 그리고/또는 정보 처리 시스템(800)으로부터 수신된 이미지 보정 요청에 응답하여 AR 디지털 사이니지의 이미지를 층별 매핑하여 출력할 수 있다.
도 10은 본 발명의 실시예에 따른 디지털 사이니지 플랫폼 제공 장치(800)의 구성을 설명하기 위한 도면이다.
일부 실시 예에서, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 전술한 바와 같이 차량(100)에 내장/연동된 사용자 단말(200)이나 내비게이션 시스템(770)에 내장된 장치로 구현가능하다. 또한, 다른 실시 예에서, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 클라우드 서버에서 제공되는 플랫폼으로 구현가능하다. 또한, 또 다른 실시 예에서, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 차량(100) 및 클라우드 서버와 독립된 별개의 단말/장치/시스템/프로그램 등의 형태로도 구현가능하다.
도 10을 참조하면, 본 발명의 실시 예에 따른 디지털 사이니지 플랫폼 제공 장치(800)는 통신모듈(810), 데이터 수집 및 처리 모듈(820), AR 렌더링 요청 모듈(827), 및 메모리(840)를 포함할 수 있다. 다만, 이에 한정되는 것은 아니며, 이보다 더 적은 구성으로 이루어지거나 또는 더 많은 구성을 포함하여 이루어질 수 있다. 예를 들어, 상기 디지털 사이니지 플랫폼 제공 장치(800)는 렌더링을 수행하도록 형성된 AR 엔진 등의 추가 구성을 포함할 수 있다.
통신모듈(810)은 디지털 사이니지 플랫폼 제공 장치(800)가 클라우드 서버(900, 도 8), 차량(100), 및 사용자 단말(200)과 통신가능하도록 형성되며, 예를 들어 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함하거나, 유무선 인터페이스 장치를 포함할 수 있다.
데이터 수집 및 처리 모듈(820)은 통신모듈(810)을 통해 수신되는 차량의 센싱 데이터, 영상 데이터, 사용자 입력 요청, 맵 정보, 복수의 POI 정보를 포함하는 빌딩영역의 위치, 층수, 광고 등의 컨텐츠 정보에 관한 정보를 수집하고, 필터링 및 가공한다. 또한, 데이터 수집 및 처리 모듈(820)은 하나 이상의 정보를 필터링, 가공, 편집, 정합하여 복수의 POI 정보와 관련된 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 생성하기 위한 일련의 동작을 수행할 수 있다.
AR 렌더링 요청 모듈(827)은 복수의 POI 정보에 대응되는 AR 디지털 사이니지를 생성하기 위한 렌더링 요청을 수행한다. 일 실시 예에서, 상기 AR 렌더링 요청 모듈(827)은 AR 렌더링을 수행하는 AR 엔진 자체를 의미할 수 있다. AR 렌더링 요청 모듈(827)은 AR 엔진으로 하여금, 차량의 경로 안내 지도와 연동하여, 실제 주행 도로나 주행영상의 시점('제1시점')과 AR 디지털 사이니지를 렌더링할 화면의 시점('제2시점')을 일치시켜서, AR 디지털 사이니지를 렌더링할 표시영역을 결정하고, 지속적으로/실시간으로 가변하게할 수 있다.
메모리(840)는 상기 디지털 사이니지 플랫폼 제공 장치(800)의 전반 동작과 관련된 프로그램 및 명령어들을 포함한다. 상기 메모리(840)는 적어도 하나의 프로세서(미도시)오 통신가능하도록 연결되며, 상기 적어도 하나의 프로세서는 메모리(840)에 포함된 컴퓨터 판독가능한 적어도 하나 이상의 명령어들로 구현되는 프로그램을 실행할 수 있다.
이를 위해, 상기 메모리(840)는 사용자 단말로부터 수신되는 요청에 응답하고, 사용자 단말과 연동된 차량의 센싱 데이터를 수신하고, 차량의 센싱 데이터와연관된 맵 정보를 클라우드 서버에 요청하기 위한 명령어를 포함할 수 있다. 또한, 상기 메모리(840)는 클라우드 서버로부터 수신된 맵 정보에 복수의 POI 정보를 포함하는 빌딩영역에 대한 공간 좌표를 산출하고, 이를 기초로 복수의 POI 정보 각각에 대한 층수정보를 획득하기 위한 명령어를 포함할 수 있다. 또한, 상기 메모리(840)는 차량의 센싱 데이터 및 빌딩영역에 대한 공간 좌표 및 층수 정보에 기초하여, 복수의 POI 정보와 관련된 컨텐츠 정보를 표시할 빌딩영역의 기준점을 산출하기 위한 명령어를 포함할 수 있다. 또한, 상기 메모리(840)는 산출된 기준점을 기초로 결정된 표시영역(즉, AR 오브젝트를 렌더링할 위치)에 상기 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 표시하기 위한 렌더링 요청을 수행하기 위한 명령어를 포함할 수 있다. 또한, 상기 메모리(840)는 렌더링 요청의 결과를 사용자 단말로 전송하고, 사용자 단말이 렌더링 요청의 결과에 대응되는 AR 디지털 사이니지의 이미지를 비전 센서를 통해 획득된 주행 영상 내 빌딩영역의 표시영역에 층별 매핑하기 위한 이미지 보정 요청을 수행하기 위한 명령어를 포함할 수 있다.
한편, 이와 같은 구성이나 기능을 포함하여 구성된 디지털 사이니지 플랫폼 제공 장치(800)는 차량(100)에 임베드된 장치/시스템의 일부 구성으로 구현되거나, 별도의 장치/시스템으로 구현되거나, 또는 사용자 단말(또는, 사용자 인터페이스 장치(200, 도 7)나 내비게이션 시스템(770))에 임베디드되는 것으로 구현가능하다.
도 11은 본 발명의 실시예에 따른 디지털 사이니지 플랫폼 제공 장치의 동작 방법(1100)을 설명하기 위한 대표 흐름도이다.
도 11의 동작방법(1100)은 디지털 사이니지 플랫폼 제공 장치(800)에 구비된 프로세서나 이와 통신가능하도록 연결된 사용자 단말(또는, 차량의 전장품/시스템이나 클라우드 서버 등)에 구비된 프로세서에 의해 구현될 수 있으며, AR 디지털 사이니지를 생성하기 위한 플랫폼을 제공할 수 있다.
도 11을 참조하면, 동작방법(1100)은, 먼저 디지털 사이니지 플랫폼 제공 장치에 의해, 사용자 단말로부터 수신되는 요청(예, AR 디지털 사이니지 제공 요청, 경로 안내 요청 등)에 응답하여, 연동된 차량의 센싱 데이터를 수신하고 이와 연관된 맵 정보 요청을 클라우드 서버로 전송하는 과정으로 개시된다(1110).
일 실시 예에서, 상기 맵 정보는 차량의 현재 위치를 기준으로 소정범위내에 포함된 POI 정보 및 2차원/3차원 지도정보를 포함할 수 있다. 다른 실시 예에서, 상기 맵 정보는 차량의 카메라 등의 비전센서를 통해 촬영된 주행 영상일 수 있다.
디지털 사이니지 플랫폼 제공 장치는, 수신된 맵 정보에 적어도 복수의 POI 정보를 포함하는 빌딩영역에 대한 공간좌표를 산출하여, 복수의 POI 정보 각각에 대한 층수 정보를 획득한다(1120).
다시 말해, 디지털 사이니지 플랫폼 제공 장치의 프로세서에 의해, 상기 맵 정보로부터 복수의 POI를 포함하는 빌딩이 검출/인지되면, 그에 대한 x, y, z 좌표정보를 공간좌표로서 산출할 수 있다.
일 실시 예에서, 상기 맵 정보가 클라우드 서버로부터 수신된 2차원/3차원 지도정보인 경우, 복수의 POI 정보를 포함하는 빌딩영역의 위치, 높이, 층수에 관한 정보를 기초로 클라우드 서버로부터 수신하여 공간좌표를 산출할 수 있다. 다른 실시 예에서, 상기 맵 정보가 차량에 구비된 카메라를 통해 획득된 주행 영상인 경우, 주행 영상을 기초로 빌딩영역의 위치, 높이, 층수를 추정하고, 이로부터 공간좌표를 추정할 수 있다.
이와 같이, 빌딩영역에 대한 공간좌표가 산출되면, 빌딩영역에 포함된 복수의 POI 정보 각각에 대한 층수 정보를 산출/추정할 수 있다. 예를 들어, 빌딩영역에 대한 공간좌표에 포함된 빌딩의 높이 및 층수를 기초로 층별 높이값, 즉 높이 오프셋(offset)을 산출할 수 있고, 이를 기초로 복수의 POI 정보에 대응되는 각 층수의 계산하거나 추정할 수 있다.
계속해서, 디지털 사이니지 플랫폼 제공 장치는 차량의 센싱 데이터와 빌딩영역의 공간좌표 및 층수 정보에 기초하여, 복수의 POI 정보와 관련된 컨텐츠 정보를 표시할 기준점을 산출한다(1130).
여기에서, POI와 관련된 컨텐츠 정보란, POI와 관련된 광고 노출을 위한 브랜드 아이콘, 3D 모델, 스틸 이미지, 및 동영상 이미지 등을 의미할 수 있다.
컨텐츠 정보를 표시할 빌딩영역의 기준점은 차량 센싱 데이터(차량 주행 속도 및 방향)에 관한 정보와 빌딩영역의 공간좌표 및 각 POI 정보의 층수정보를 주행 영상에 대응되게 매칭시킴으로써, 산출될 수 있다. 즉, 실제 주행 도로(예, AR 디지털 사이니티가 레이저 센서를 통해 전면 유리에 투사되는 AR 내비게이션 장치인 경우 이에 해당함)나 주행 영상의 시점과 컨텐츠 정보를 AR 기술을 이용하여 표시할 빌딩영역의 기준점을 찾기위한 화면의 시점을 일치시킨다.
일 실시 예에서, 상기 기준점은 빌딩영역의 공간 좌표 중 차량의 주행 방향을 기초로 현재 위치에서 가까운 좌표 지점으로 결정될 수 있다.
일 실시 예에서, 상기 복수의 POI 정보에 대한 각 표시영역은, 상기 기준점을 기준으로 복수의 POI 정보 각각에 대응되는 층수정보에 높이 오프셋(offset)을 적용시킨 것으로, 상기 기준점으로부터 해당 층수 + 높이 오프셋(offset)만큼 이동한 위치로 설정된다.
여기에서, 차량의 현재 위치에서 가까운 좌표 지점이란, 맵 정보에 포함된 좌표 데이터나 차량에 구비된 카메라 센싱 정보를 이용하여 파악되는 빌딩의 에지(edge) 검출을 통해 획득되거나 또는 추정될 수 있다. 이러한 경우, 복수의 POI 정보에 대응되는 각 컨텐츠 정보에 대한 기준점(이하, '층별 기준점')은, 상기 기준점 + 각 POI 정보에 매칭되는 층수만큼의 높이 오프셋(off)으로 설정될 수 있다. 즉, 복수의 컨텐츠 정보 각각에 대해 서로 다른 층별 기준점이 산출 및 적용된다.
디지털 사이니지 플랫폼 제공 장치는, 산출된 기준점에 기초하여 결정된 표시영역에, 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 표시하기 위한 AR 렌더링 요청을 수행한다(1140).
이와 관련하여, 디지털 사이니지 플랫폼 제공 장치는, 상기 복수의 POI 정보에 매칭되는 복수의 AR 디지털 사이니지를 빌딩의 층별로 매핑하기 위한 표시영역을 각각 결정할 수 있다.
구체적으로, 상기 디지털 사이니지 플랫폼 제공 장치는, 빌딩영역에 대한 공간좌표에 기초하여 산출된 빌딩영역의 높이 정보와 복수의 POI 정보 각각에 매칭되는 층수정보를 이용하여, 복수의 POI 정보에 대응되는 복수의 AR 디지털 사이니지들의 표시영역을 각각 결정할 수 있다.
일 실시 예에서, 상기 맵 정보에 기초하여 빌딩영역에 대한 공간좌표를 획득할 수 없으면, 상기 디지털 사이니지 플랫폼 제공 장치는, 차량의 센싱 데이터에 포함된 카메라 센싱 정보를 이용하여 추정된 상기 빌딩영역의 높이 정보와 층수 정보를 이용하여, 컨텐츠 정보를 매핑할 표시영역을 결정할 수 있다.
한편, 본 발명에 따른 실시 예에서, 디지털 사이니지 플랫폼 제공 장치에 의해 수행되는 상기 AR 렌더링 요청은 AR 엔진에 대해 수행된다. 상기 AR 엔진은 디지털 사이니지 플랫폼 제공 장치의 프로세서, 사용자 단말의 프로세서, 차량의 다른 전장품/시스템의 프로세서, 또는 클라우드 서버에 의해 구현될 수 있다.
이와 같이, AR 엔진을 통해 렌더링이 수행되면, 상기 디지털 사이니지 플랫폼 제공 장치는, 렌더링 요청의 결과를 사용자 단말에 전송한다. 그리하여, 상기 디지털 사이니지 플랫폼 제공 장치는, 사용자 단말로 하여금 렌더링 요청의 결과에 대응되는 AR 디지털 사이니지의 이미지를 비전센서를 통해 획득된 주행영상 내 빌딩의 표시영역에 층별 매핑하여 출력하도록, 이미지 보정 요청을 전송한다(1150).
일 실시 예에서, 상기 이미지 보정 요청은, 각 컨텐츠 정보에 매칭되는 각 표시영역이 상기 산출된 기준점으로부터 각 층수정보의 높이만큼 이동한 위치가 되도록, 상기 AR 디지털 사이니지의 이미지를 매핑하는 요청일 수 있다. 이와 관련해서는 도 12 및 도 13을 참고하여 이하에서 보다 구체적으로 설명하겠다.
또한, 일 실시 예에서, 상기 이미지 보정 요청은, 상기 기준점(또는, 층별 기준점)과 상기 차량의 주행 방향 및 속도에 근거하여 가변된 표시영역에 AR 디지털 사이니지를 층별 매핑하는 요청일 수 있다. 이에 관한 구체적인 예시는 이하 도 14 및 도 15를 참조하여 자세히 설명하겠다.
도 12 및 도 13은 본 발명의 실시예에 따라, 주행 영상의 빌딩영역에 AR 디지털 사이니지를 층별로 배치하는 방법을 설명하기 위한 도면들이다.
주행 영상의 빌딩영역에 AR 디지털 사이니지를 층별로 배치하는 방법은 본 발명에 따른 디지털 사이니지 플랫폼 제공 장치의 프로세서세 의해 구현될 수 있다. 또는, 다른 예에서는, 디지털 사이니지 플랫폼을 포함하는 차량용 디스플레이 장치(예, 차량에 구비된 사용자 인터페이스 장치 또는 내비게이션 시스템 등)의 프로세서에 의해 구현되거나, 또는 통신가능하도록 연결된 클라우드 서버에 의해 구현될 수 있다.
도 12를 참조하면, 복수의 POI 정보를 포함하는 빌딩영역(1200)이 검출되면, 본 발명에 따른 디지털 사이니지 플랫폼 제공 장치는, 맵 정보(예, 2차원/3차원 지도정보, 빌딩영역의 층수, 높이정보 등)나 차량에 구비된 카메라를 통해 획득된 주행영상에 기초하여 빌딩영역(1200)에 대한 공간 좌표(1211, 1212, 1213, P)를 산출(또는, 추정)할 수 있다.
디지털 사이니지 플랫폼 제공 장치는, 차량의 센싱 데이터(예, 차량 주행 방향)와 상기 공간 좌표(1211, 1212, 1213, P) 및 맵 정보에 포함된(또는, 주행영상의 에지(edge) 검출을 통해 추정된) 빌딩의 높이 및 층수 정보를 이용하여, 주행 영상에 AR 디지털 사이니지를 층별로 매핑하기 위한 원점(P)을 추출할 수 있다.
즉, 빌딩영역의 공간좌표(1211, 1212, 1213, P) 중에서 차량의 주행 방향(1201)을 고려하여, 차량의 센싱 데이터에 포함됨 차량의 위치에서 가장 가까운 기준좌표가 원점(P)으로 설정된다.
예를 들어, 수신된 맵 정보로부터 빌딩영역(1200)의 층수 및 높이에 관한 정보를 획득할 수 있다면, 차량의 주행 방향을 고려하여 원점(P)을 계산할 수 있다. 다만, 빌딩영역(1200)에 대한 맵 정보가 존재하지 않거나(또는, 인식되지 않는 경우) 또는 층수 및 높이에 관한 정보를 획득할 수 없는 경우라면, 차량에 구비된 카메라의 센싱 정보를 이용한 빌딩의 이미지로부터 빌딩의 높이와 층수를 추정하고, 이미지의 에지(edge)를 검출하여 빌딩영역에 대한 원점을 추출할 수 있다. 이때, 층별 높이는 미리정의된 값을 사용할 수 있을 것이다.
한편, 복수의 AR 디지털 사이니지를 층별로 표시하기 위해서는, 복수의 AR 디지털 사이니지 각각에 대한 '층별 기준점'이 산출되어야한다.
이와 관련하여, 도 13을 참조하면, 상기 복수의 AR 디지털 사이니지에 대한 '층별 기준점'은 빌딩영역의 공간좌표(1211, 1212, 1213, P)와 원점(P)을 기준으로 해당 POI 정보의 층수 만큼 높이를 이동시킨 위치가 된다. 즉, 디지털 사이니지 플랫폼 제공 장치는, 원점(P) + 각 POI 정보에 매칭되는 층수만큼의 높이 오프셋(off)을 적용한 위치를 '층별 기준점'으로 결정하고, 여기에 대응 AR 디지털 사이니지가 매핑되도록 보정 요청한다.
도 13에서, 빌딩영역(1200)의 1층에 표시되는 제1 AR 디지털 사이니지(1301)의 기준점은 원점(P)으로 결정된다. 빌딩영역(1200)의 2층에 표시되는 제2 AR 디지털 사이니지(1302)의 층별 기준점은 원점(P)에서 2층만큼의 높이 오프셋이 적용된 지점(P1)으로 결정된다. 그리고, 빌딩영역(1200)의 3층 및 4층에 각각 표시되는 제2 및 제4 AR 디지털 사이니지(1303, 1304)의 층별 기준점들은 원점(P)에서 각각 3층 및 4층만큼의 높이 오프셋을 적용시킨 각 지점(P2, P3)으로 결정된다.
빌딩영역의 높이 정보를 보다 정확하게 산출하기 위해, 일 실시 예에서는, 위와 같이 층별 기준점을 기초로 결정된 각 표시영역의 높이정보(예, 층간 높이 오프셋)와 클라우드 서버로부터 수신된 맵 정보(예, 2차원/3차원 지도정보)에 포함된 높이 데이터를 비교하고, 비교 결과에 근거하여, 각 표시영역의 위치 및 형상 중 적어도 하나를 보정할 수 있다. 또한, 일 실시 예에서는, 초기에 계산한 층간 높이 셋의 값과 높이정보가 데이터베이스(DB)를 통해 획득한 빌딩영역의 높이 정보가 임계값(통상의 오차범위) 이상의 차이가 검출되면, 상기 데이터베이스(DB)의 높이 정보를 이용하여 각 표시영역의 위치를 보정할 수 있다.
예를 들어, 디지털 사이니지 플랫폼 제공 장치는, 도 13에서 설명한 층간 높이 오프셋을 변경할 수 있다. 또는, 디지털 사이니지 플랫폼 제공 장치는, 예를 들어, 도 13에서 빌딩영역(1200)의 전면이 아닌 측면에 복수의 AR 디지털 사이니지들(1301, 1302, 1303, 1304)를 층별로 매핑할 수 있다.
한편, 일 실시 예에서, 빌딩영역(1200)에 층별 매핑되는 복수의 AR 디지털 사이니지들(1301, 1302, 1303, 1304)은 주행영상 내 빌딩의 각 표시영역의 적어도 일 면을 감싸도록 매핑된다. 예를 들어, 도 13에서, 복수의 AR 디지털 사이니지들(1301, 1302, 1303, 1304)은 각 층별로 빌딩영역(1200)의 전면을 감싸도록 형성되었다. 그에 따라, 하나의 빌딩에 층별로 복수의 광고 노출 효과를 제공하며, 실제 사이니지 전광판이 올려져 있는 것과 같은 사실감이 부여된다.
이하에서는, 운전자(차량 전방) 시야각 기준의 빌딩의 형태, 차량의 주행 상황이나, 운전자 개인의 성향, 주변의 교통 및 구조물 환경의 다양한 변화를 유연하게 반영하여 복수의 AR 디지털 사이니지의 이미지를 보다 자연스럽게 가변 제공할 수 있는 방법들의 실시 예들을 살펴보기로 한다.
전술한 바와 같이, 실제 사이니지 전광판과 같은 AR 디지털 사이니지를 층별로 빌딩영역의 일 면에 제공하면 사실감은 보다 증대된다. 그러나, 차량의 주행이나 주변 상황을 반영하지 못하기 때문에 광고 노출시간은 짧은 한계가 있다.
뿐만 아니라, AR 디지털 사이니지를 항시 빌딩의 특정 표시영역(예, 빌딩의 정면)에 매핑하는 경우, 차량의 현재 위치 및 주행방향에 따라 특정 표시영역의 크기가 감소하거나 시야에서 사라질 수 있다. 이러한 경우, AR 디지털 사이니지의 광고 노출 시간은 그만큼 감소하게 된다.
나아가, AR 디지털 사이니지가 매핑된 특정 표시영역이 구조물에 의해 가려지는 경우, AR 디지털 사이니지가 아예 인식되지 못할 수 있다. 즉, AR 디지털 사이니지의 시인성이 확보되지 않음으로써, 광고 효과가 감소된다.
도 14는 본 발명의 실시예에 따라, 빌딩영역의 형태에 기초하여 층별 AR 디지털 사이니지의 표시영역을 선택하는 방법을 설명하기 위한 도면이다.
본 개시에서, 빌딩영역의 형태 또는 빌딩영역의 이미지의 형상이라 함은, 2차원 상에서 운전자(또는, 차량의 전방) 시야를 기준으로 실시간으로 가변되는 빌딩영역의 '정면 및 측면'의 형상을 의미한다. 또, 빌딩영역의 정면 및 측면의 형상이란, 2차원 상에서 운전자(또는, 차량의 전방) 시야를 기준으로 실시간으로 가변되는 빌딩영역의 정면, 측면 관한 수치정보로 나타낼 수 있다.
여기에서, 운전자(또는, 차량의 전방) 시야는 차량의 주행방향과 일치하는 것으로 전제될 수 있다. 또한, 여기에서, 상기 수치정보는 예를 들어 상기 빌딩영역의 정면 및 측면의 면적, 면적비율, 왜곡비율을 포함할 수 있다.
일 실시 예에서, 본 발명에 따른 디스플레이 장치(200)는 주행 영상 내 빌딩영역의 이미지를 기초로 AR 디지털 사이니지의 표시영역을 결정할 수 있고, 빌딩영역의 이미지의 형상을 기초로 표시영역이 변경되면, 변경된 표시영역에 AR 디지털 사이니지를 매핑하여 표시할 수 있다.
여기에서, 빌딩영역의 이미지를 기초로 표시영역을 결정한다는 것은, 상기 디스플레이 장치(200)가 차량(100) 및 전술한 디지털 사이니지 플랫폼 제공 장치(800)를 포함한 시스템과 통신하여, 비전 센서를 통해 획득된 주행 영상 내 빌딩의 면에 층별 AR 디지털 사이니지의 표시위치를 결정하는 것을 의미한다.
이러한 표시위치는 빌딩영역의 정면 또는 측면 중 어느 하나일 수 있고, 본 개시에서는 AR 디지털 사이니지의 시인성 확보에 보다 유리한 면으로 결정된다.
또, 여기에서, 빌딩영역의 이미지의 형상을 기초로 표시영역을 변경한다는 것은, 상기 디스플레이 장치(200)가 차량(100) 및 전술한 디지털 사이니지 플랫폼 제공 장치(800)를 포함한 시스템과 통신하여, 비전 센서를 통해 획득된 주행 영상 내 빌딩의 정면(또는, 측면)에서 측면(또는, 정면)으로 또는 다른 근접 위치로 층별 AR 디지털 사이니지의 표시위치를 변경하는 것을 의미한다.
이러한 변경 표시위치는 빌딩영역의 정면 또는 측면 뿐만 아니라, 빌딩을 벗어난 다른 근접 위치를 포함하며, 본 개시에서는 AR 디지털 사이니지의 시인성 확보에 보다 유리한 면 또는 다른 위치로 결정된다.
이를 위해, 상기 디스플레이 장치(200)는 차량(100)으로부터 실시간으로 비전 센서를 통해 획득되는 주행 영상에 관한 정보와 주행 관련 정보(예, 차량의 주행방향, 주행속도 등)를 포함하는 차량의 센싱 데이터를 수신한다. 또, 상기 디스플레이 장치(200)는 수집된 데이터를 디지털 사이니지 플랫폼 제공 시스템에 전달하여, 결정된/변경된 표시영역에 AR 디지털 사이니지를 층별 표시하기 위한 데이터 수집, 가공, 필터링, 정합을 수행하여, AR 렌더링 요청을 수행하게 할 수 있다.
도 14를 참조하면, 예를 들어 차량이 주행하는 동안, 주행 영상 내 각각 복수의 POI 정보를 포함하는 A 빌딩영역(1410)과 B 빌딩영역(1420)이 주행 도로의 좌우에 표시되며, A 빌딩영역(1410)에는 제1 복수의 AR 디지털 사이니지(1411, 1412, 1413)가 층별 매핑되고, B 빌딩영역(1420)에는 제2 복수의 AR 디지털 사이니지(1421, 1422, 1423)가 층별 매핑되어 표시되었다.
제1 복수의 AR 디지털 사이니지(1411, 1412, 1413) 및 제2 복수의 AR 디지털 사이니지(1421, 1422, 1423)의 표시영역은 차량의 주행방향(1401)을 기준으로 보다 시인성 확보에 유리한 위치로 결정된다.
제1 및 제2 복수의 AR 디지털 사이니지(1411, 1412, 1413, 1421, 1422, 1423)는 각 빌딩영역(1410, 1420)의 정면 및 측면 중 시인성 확보에 보다 유리한 표시영역에 표시된다. 예를 들어, 제1 복수의 AR 디지털 사이니지(1411, 1412, 1413)은 A 빌딩영역(1410)의 측면이 표시영역으로 결정되었고, 제2 복수의 AR 디지털 사이니지(1421, 1422, 1423)는 B 빌딩영역(1420)의 정면이 표시영역으로 결정되었다.
이는, 차량의 주행방향(1401)을 기준으로, A 빌딩영역(1410)의 경우 측면이 시인성 확보에 보다 유리하고, B 빌딩영역(1420)의 경우 정면이 시인성 확보에 보다 유리한 것으로 결정되었기 때문이다.
이와 같이, 동시간에 주행 영상 내 빌딩영역마다 서로 다른 표시면을 층별 AR 디지털 사이니지의 표시영역으로 결정할 수 있도록, 본 개시에서는 빌딩영역의 이미지를 기초로 표시영역을 결정하고, 빌딩영역의 이미지의 형상을 기초로 표시영역을 변경할 수 있도록 동작할 수 있다.
이를 위해, 본 개시에 따른 디스플레이 장치(200)는 빌딩영역의 정면/측면 중 차량의 주행방향을 기준으로 하여, 시인성이 높은 위치를 표시영역으로 결정하기 위해, 정면/측면의 너비값(면적값)에 기초하여 표시영역을 결정할 수 있다.
일 실시 예에서, 상기 디스플레이 장치(200)는 빌딩영역의 정면 및 측면의 각 너비값(면적값)의 차이를 미리설정된 임계값과 비교하고, 비교 결과에 근거하여 빌딩영역의 정면/측면 중 어느 하나를 표시영역으로 선택할 수 있다. 여기에서, 상기 미리설정된 임계값은 너비값의 크기만으로 표시영역을 결정하기 위한 기준수치를 의미한다. 따라서, 빌딩영역의 정면 및 측면의 각 너비값(면적값)의 차이정도가 미리설정된 임계값을 초과하는 경우에 한해, 너비값만으로 표시영역으로 결정하도록 제한할 수 있다.
예를 들어, 빌딩영역의 정면 및 측면의 너비값의 차이가 미리설정된 임계값을 초과하는 경우, 빌딩영역의 정면 및 측면 중 큰 너비값을 갖는 쪽을 표시영역으로 선택할 수 있다. 반면, 빌딩영역의 정면 및 측면의 너비값의 차이가 미리설정된 임계값 이내이면, 미리정해진 위치(예, 빌딩영역의 정면)로 표시영역을 결정하거나 또 다른 선택기준에 기초하여 표시영역을 결정할 수 있다.
일 실시 예에서, 빌딩영역의 정면 및 측면의 각 너비값(면적값)의 차이가 미리설정된 임계값 이내이면, 층별 AR 디지털 사이니지의 이미지 왜곡비율에 기초하여 빌딩영역의 정면/측면 중 어느 하나를 표시영역으로 선택할 수 있다.
예를 들어, 빌딩영역의 정면 및 측면의 너비값의 차이가 미리설정된 임계값 이내이면, 빌딩영역의 정면/측면 중 층별 AR 디지털 사이니지의 이미지 왜곡비율이 보다 적은 쪽을 표시영역으로 선택할 수 있다. 또는, 예를 들어 빌딩영역의 정면 및 측면의 너비값의 차이가 미리설정된 임계값 이내이면, 층별 AR 디지털 사이니지에 포함된 텍스트(폰트)의 왜곡비율이 보다 적은 쪽을 표시영역으로 선택할 수 있다. 여기에서, 상기 빌딩영역의 정면/측면의 이미지 왜곡비율과 층별 AR 디지털 사이니지에 포함된 텍스트(폰트)의 왜곡비율은, 각 이미지에 소정의 가중치를 부여하여 산출될 수 있다.
도 14에서, 제1 복수의 AR 디지털 사이니지(1411, 1412, 1413)는 A 빌딩영역(1410)에서 빌딩영역의 정면 및 측면의 각 너비값(면적값)의 차이가 미리설정된 임계값 이내이고, 층별 AR 디지털 사이니지의 이미지 왜곡비율이 보다 적은 측면 표시영역에 매핑되었다.
그리고, 도 14에서, 제2 복수의 AR 디지털 사이니지(1421, 1422, 1423)는 B 빌딩영역(1420)에서 빌딩영역의 정면 및 측면의 각 너비값(면적값)의 차이가 미리설정된 임계값을 초과하여, 보다 큰 너비값을 갖는 정면 표시영역에 매핑되었다.
이와 같이, 본 발명에 따른 디스플레이 장치(200)는 차량(100) 및 디지털 사이니지 플랫폼 제공 시스템과 통신하여, 비전센서를 통해 획득되는 주행영상 내 빌딩영역의 이미지를 기초로 층별 AR 디지털 사이니지의 이미지의 표시영역을 결정할 수 있다. 또한, 본 발명에 따른 디스플레이 장치(200)는 비전센서를 통해 획득되는 주행영상 내 빌딩영역의 이미지의 형상을 기초로 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 디지털 사이니지 플랫폼 제공 시스템에 전송하고, 해당 시스템으로부터 변경된 표시영역에 대응되는 AR 디지털 사이니지의 이미지를 매핑하기 위한 렌더링 결과나 이와 관련된 정보를 수신할 수 있다.
또한, 일 실시 예에서, 본 발명에 따른 디스플레이 장치의 프로세서는, 차량의 카메라를 통해 인식된 빌딩영역의 이미지의 왜곡비율을 기초로 표시영역을 변경할 수 있다. 이러한 경우, 변경된 표시영역에 관한 정보를 디지털 사이니지 플랫폼 제공 시스템에 전송하여, 변경된 표시영역에 AR 디지털 사이니지를 층별로 표시하기 위한 렌더링 결과나 이와 관련된 정보를 수신할 수 있다.
도 15는 본 발명의 실시예에 따라, 차량의 주행 정보에 기초하여 층별 AR 디지털 사이니지의 표시영역을 선택하는 방법을 설명하기 위한 도면이다.
본 개시에서는, 일단 표시영역이 결정되어 AR 디지털 사이니지가 층별로 표시된 후에도, 차량의 주행에 따라 변화하는 빌딩영역의 정면 및 측면의 너비값을 산출하고, 산출 결과에 기초하여 표시영역을 변경하여 층별 AR 디지털 사이니지를 매핑할 수 있다. 이는, AR 디지털 사이니지의 시인성 확보를 실시간으로 유리하게 가져갈 수 있는 효과를 제공한다.
이와 같이, 차량의 주행에 따라 변화하는 빌딩영역의 정면 및 측면의 너비값을 산출하기 위해, 본 개시에 따른 디스플레이 장치(200)는 차량의 비전센서를 통해 획득되는 빌딩의 정면 및 측면의 이미지의 형상 변화를 기초로 너비값을 산출할 수 있다.
도 15에서, 처음에는(제1시점) (a)에 도시된 바와 같이, 주행 영상 내 빌딩영역의 측면을 표시영역으로 하여 복수의 AR 디지털 사이니지(15111, 1512, 1513)가 매핑 표시되었다. 이는, 위에서 도 14를 참조하여 설명한 바와 같이, 제1시점에서의 차량의 현재위치 및 주행방향(1501)을 기초로 빌딩영역의 정면 및 측면의 너비값들(A, B)의 차이가 미리설정된 임계값 이하여서, 이미지 왜곡비율이 보다 적은 측면이 표시영역으로 결정된 것이다.
이 후 차량의 주행에 따라, 차량이 빌딩영역에 근접한 시점(제1시점 이후의 제2시점)에서는, (b)에 도시된 바와 같이, 주행 영상 내 빌딩영역의 정면으로 표시영역이 변경되어, 복수의 AR 디지털 사이니지(1521, 1522, 1523)가 매핑 표시되었다. 즉, 일단 표시영역이 한번 결정되었지만, 차량의 주행에 따라 가변된 측면 표시영역의 이미지에 맞추어 복수의 AR 디지털 사이니지(15111, 1512, 1513)를 매핑하는 것에 그치지 않고, 표시영역 자체를 측면에서 정면으로 변경하였다.
이는, 제2시점에서의 차량의 현재위치 및 주행방향(1502)을 기초로 빌딩영역의 정면 및 측면의 너비값들(A", B")의 차이가 미리설정된 임계값을 초과하여, 너비값이 보다 큰 정면이 표시영역으로 결정된 것이다.
일 실시 예에서, 본 개시에 따른 디스플레이 장치(200)의 프로세서는, 차량이 주행하는 동안 수신되는 차량의 센싱 데이터에 기초하여, 층별 AR 디지털 사이니지의 이미지가 매핑될 표시영역을 변경할 수 있다.
예를 들어, 위에서 도 15를 참조하여 설명한 바와 같이, 차량의 센싱 데이터(예, 차량의 현재 위치, 주행방향)를 실시간 수신하여, 동일 빌딩영역의 정면 및 측면의 각 너비값의 차이가 상기 미리설정된 임계값을 초과하는지를 모니터링한다.
모니터링 결과, 상기 각 너비값의 차이가 상기 미리설정된 임계값을 초과하면, 현재 너비값이 보다 큰 쪽이 표시영역으로 결정된다. 이때, 현재 너비값이 더 작은 쪽에 층별 AR 디지털 사이지가 표시되고 있었다면, 표시영역의 변경이 이루어질 수 있다. 반면, 모니터링 결과, 상기 각 너비값의 차이가 상기 미리설정된 임계값 이하이면, 정면 및 측면 중 이미지 왜곡비율이 보다 적은 쪽(예, 가로 및 세로(높이 오프셋(offset)) 비율차가 적은 쪽)이 표시영역으로 결정된다. 이때, 현재 이미지 왜곡비율이 보다 큰 쪽에 층별 AR 디지털 사이지가 표시되고 있었다면, 표시영역의 변경이 이루어질 수 있다.
일 실시 예에서, 본 개시에 따른 디스플레이 장치(200)의 프로세서(또는, 제어부)는, 차량의 주행에 따라, 비전센서를 통해 획득된 주행영상 내 빌딩역역의 정면 및 측면의 면적이 변화하는 경우, 면적의 변화에 관한 정보를 디지털 사이니지 플랫폼 제공 시스템에 전송할 수 있다. 여기에서, 상기 면적의 변화에 관한 정보는, 예를 들어 빌딩영역의 정면 및 측면의 각 너비값의 차이, 각 너비값의 차이를 임계값과 비교한 결과, 정면 및 측면의 이미지 왜곡비율과 같은 표시영역의 변경 관련 정보를 포함할 수 있다.
또, 일 실시 예에서, 상기 디스플레이 장치(200)의 프로세서는, 상기 면적의 변화에 관한 정보에 기초하여 AR 디지털 사이니지를 생성하기 위한 렌더링 요청의 결과를 수신하여, 층별 AR 디지털 사이니지의 표시영역을 상기 주행영상 내 빌딩영역의 일 면에서 타 면으로 변경하여 매핑할 수 있다.
일 실시 예에서, 상기 디스플레이 장치(200)의 프로세서는 차량의 주행방향 및 주행속도에 대응되도록, 층별 AR 디지털 사이니지를 주행영상 내 빌딩영역의 일 면에서 타 면으로 점진적으로 이동하면서 매핑할 수 있다.
예를 들어, 도 15를 참조하면, 표시영역을 측면 -> 정면으로 변경하는 것으로 결정된 경우, (a)에 도시된 바와 같이, 빌딩의 측면에 층별 표시되던 제1 복수의 AR 디지털 사이니지(1511, 1512, 1513)가 차량의 주행에 대응되게 점진적으로 정면쪽으로 이동하다가, 일정시간 경과후에 (b)에 도시된 바와 같이, 빌딩의 정면으로 심리스하게 이동하여 표시될 수 있다. 그에 따라, 제2 복수의 AR 디지털 사이니지(1521, 1522, 1523)에 대한 표시 거부감이 최소화되며, 디지털 사이니지가 차량 주행방향을 따라 이동함에 따라, 광고 노출시간은 보다 증가된다.
도 16은 본 발명의 실시예에 따라, 운전자의 선호도에 기초하여 층별 AR 디지털 사이니지의 표시영역을 선택하는 방법을 설명하기 위한 도면이다.
본 개시에서는, 빌딩영역의 정면 및 측면을 모두 활용하여 AR 디지털 사이니지를 표시하는 방법을 제시한다. 이는, 위에서 도 14 및 도 15를 참조하여 설명한 바와 같이 빌딩영역의 정면 및 측면 중 어느 하나를 표시영역으로 선택/변경한 경우, 선택되지 않은 나머지 면에 대한 활용에 관한 것이다. 또한, 본 개시에서는, 운전자의 선호도나 광고의 서비스 등급이 높은 경우, 이에 매칭되는 AR 디지털 사이니지의 노출 효과를 증대시키는 방법을 제시한다.
일 실시 예에서, 본 개시에 따른 디스플레이 장치(200)의 프로세서는, 저장된 또는 차량(100)과 통신하여 수집된, 미리등록된 선호도 POI 정보를 디지털 사이니지 플랫폼 제공 시스템에 전송할 수 있다.
일 실시 예에서, 디스플레이 장치(200)의 프로세서는, 복수의 POI 정보 중 하나가 미리등록된 선호도 POI 정보를 포함하는 경우, 해당 시스템으로부터 수신된 정보에 근거하여, 비전센서를 통해 획득된 주행 영상 내 빌딩영역의 일 면을 제1 표시영역으로 결정하여 통상의 AR 디지털 사이니지의 이미지를 층별 매핑하고, 타 면을 제2 표시영역으로 결정하여 선호도 POI 정보에 대응되는 AR 디지털 사이니지를 전체에 매핑하여 표시할 수 있다, 이때, 선호도 POI 정보가 복수이면, 선호도 POI 정보에 대응되는 복수의 AR 디지털 사이니지가 제2 표시영역에 층별로(또는, 복수의 층을 통합하여) 매핑될 수 있다. 즉, 미리등록된 선호도 POI 정보에 매칭되는 AR 디지털 사이니지의 경우, 빌딩의 복수의 면에 노출되도록 함으로써, 광고 노출을 더욱 향상시킬 수 있다.
여기에서, 상기 제1 표시영역은 빌딩영역의 정면 및 측면 중 시인성이 보다 좋은 위치일 수 있다. 예를 들어, 상기 제1 표시영역은 빌딩영역의 정면 및 측면 중 너비값이 큰 쪽이거나 또는 이미지 왜곡비율이 보다 적은 쪽을 의미할 수 있다. 이러한 경우, 상기 제2 표시영역은 제1 표시영역이 아닌 빌딩영역의 다른 면일 수 있다.
한편, 제1 및 제2 표시영역의 결정순서는 정해진 것이 아니므로, 선호도 POI 정보에 매칭되는 AR 디지털 사이니지가 전체에 매핑되는 제2 표시영역이 먼저 결정되고, 제2 표시영역 전체에 해당 AR 디지털 사이니지가 표시될 수도 있다.
이러한 경우, 상기 제2 표시영역은 차량의 현재 위치에 보다 인접한 영역(가장 먼저 시야에 들어오는 위치)을 의미하고, 상기 제1 표시영역은 차량의 현재 위치에서 보다 먼 영역 또는 상기 제2 표시영역의 결정 후, 일정 시간 경과 후에 결정된 최적의 표시영역일 수 있다.
예를 들어, 도 16에서 (a)에 도시된 바와 같이, 제1시점에서의 차량의 현재 위치 및 주행방향(1601)을 기준으로 주행영상 내 빌딩의 정면 및 측면 중, 차량의 현재위치에 보다 인접한 측면영역을 제2 표시영역으로 결정하고, 측면 전체에 선호도 POI 정보에 대응되는 AR 디지털 사이니지(1611)를 매핑할 수 있다.
이 후, (b)에 도시된 바와 같이, 제1시점으로부터 일정시간 경과한 제2시점에서의 차량의 현재 위치 및 주행방향(1602)을 기준으로 주행영상 내 빌딩의 정면 및 측면 중, 시인성이 최적이 되는 빌딩의 정면을 제1 표시영역으로 하여, 복수의 AR 디지털 사이니지들(1621, 1622, 1623)을 층별로 매핑하여 표시할 수 있다. 제1 표시영역에는 선호도 POI 정보에 매칭되는 AR 디지털 사이니지(1622)도 포함된다.
이 때, 제2 표시영역에는 계속 선호도 POI 정보에 대응되는 AR 디지털 사이니지(1611)가 표시되도록 매핑함으로써, 빌딩의 복수의 면에 선호도 POI 정보와 관련된 광고를 노출시킬 수 있다.
한편, 도 16의 (b)에서, 선호도 POI 정보에 매칭되는 AR 디지털 사이니지(1622)를 다른 AR 디지털 사이니지들(1621, 1623)를 층별 표시할 때, AR 디지털 사이니지(1622)는 광고 서비스 등급이 보다 높은 사이니지로 본다. 그에 따라, 시각적으로 구별되도록, 해당 AR 디지털 사이니지(1622)의 층에, 예를 들어 차별화 색상, 테두리 표시, 깜빡임 등의 하이라이트를 포함하여 매핑할 수 있다.
반면, 비록 도 16에는 도시되지 않았지만, 운전자 또는 수집된 정보를 기초로 비선호 POI 정보로 분류된 대응 AR 디지털 사이니지의 경우, 보다 작은 크기로 표시되거나 또는 비워두기나 일부정보 숨기기 등을 적용하여, 광고 노출이 감소되도록 매핑할 수 있다.
한편, 위에서는 표시영역의 결정/변경과 관련하여 빌딩의 정면 및 측면을 대상으로 하였으나, 이에 한정되지 않는다. 예를 들어, 빌딩의 정면(입구방향)은 대면되는 빌딩의 후면을 포함하는 것으로 이해될 수 있을 것이다. 이러한 경우, 차량이 빌딩의 후면이 노출되는 골목길로 들어선 경우에도, 전술한 바와 같이 복수의 AR 디지털 사이니지가 층별로 표시되어, 선호도/목적지 POI 위치를 보다 쉽게 인지할 수 있다.
도 17a, 도 17b, 도 17c는 본 발명의 실시예에 따라, 차량 주변의 상황 정보에 기초하여 층별 AR 디지털 사이니지의 표시영역을 가변하는 다양한 방법을 설명하기 위한 도면들이다. 특히, 본 실시 예들에서는, 빌딩영역의 정면 및 측면 중 하나가 아닌 빌딩영역 주변의 다른 위치로 표시영역을 변경하는 예시들이다.
구체적으로, 도 17a는 빌딩에 목적지 POI 정보가 포함되고 차량이 빌딩에 근접하는 경우 또는 차량이 빌딩내로 진입하려는 경우, 층별 AR 디지털 사이니지의 표시영역을 변경하는 실시 예이다. 도 17b는 빌딩이 다른 구조물에 의해 가려져서 시인성이 확보되지 않는 경우, 층별 AR 디지털 사이니지의 표시영역을 다른 위치로 변경하는 실시 예이다. 그리고, 도 17c는 고층 빌딩(예, 10층 이상의 빌딩)과 같은 특수 빌딩의 경우, 층별 AR 디지털 사이니지의 표시영역을 빌딩이 아닌 다른 위치로 변경하는 실시 예이다.
도 17a를 참조하면, 차량이 해당 빌딩영역(1700)에 가까이 접근함에 따라, 비전센서를 통해 획득되는 주행영상 내 빌딩영역(1700)의 적어도 일부가 가려지거나 또는 인식이 어려워진다. 구체적으로, 일반적으로 빌딩영역(1700)에 가까이 갈수록 빌딩의 이미지와 AR 디지털 사이니지의 크기가 함께 또는 비례하여 증가한다. 그러나, 차량이 빌딩영역(1700)에 인접할 정도로 가까워지거나 진입을 시도하는 경우, 빌딩영역(1700)의 일부 층(예, 상부 층)이나 AR 디지털 사이니지의 일부가 주행영상을 벗어나게 된다.
이에, 운전자의 시인성 개선을 위해, 도 17a에 도시된 바와 같이, 빌딩영역(1700)에는 빌딩위치를 나타내는 아이콘(1710)만 표시되고, 복수의 AR 디지털 사이니지(1721, 1722, 1723)는 층별 표시되되, 빌딩영역(1700)이 아닌 인접한 다른 위치에 매핑 표시된다.
일 실시 예에서, 상기 빌딩영역에 인접한 다른 위치는, 빌딩영역에 인접한 도로 가장자리, 가드레일, 빌딩영역에 인접한 인도영역, 주행도로 바닥 중 어느 하나일 수 있다.
이때, 상기 빌딩영역에 인접한 다른 위치의 높이 오프셋(offset)은, 시인성 확보를 위해, 빌딩영역의 이전 표시영역에 대응되는 높이 오프셋보다 작은 값으로 설정될 수 있다. 또는, 사이니지의 이미지가 왜곡되지 않도록, 복수의 AR 디지털 사이니지(1721, 1722, 1723)의 전체 크기를 빌딩영역(1700)의 크기보다 축소시켜서 표시할 수 있다. 또는, 복수의 AR 디지털 사이니지(1721, 1722, 1723)에 포함되는 컨텐츠의 타입 및/또는 정보 량을 감소시켜 표시할 수 있다.
한편, 도 17a 에 도시된 바와 같이, 빌딩위치를 나타내는 아이콘(1710)과 인접한 다른 위치에 매핑된 복수의 AR 디지털 사이니지(1721, 1722, 1723)의 사이에는 이들의 관계를 나타내는 라인(점선)이 함께 표시될 수 있다.
또한, 비록 도시되지는 않았지만, 도 17a의 표시 상태에서, 차량이 빌딩영역(1700)에 더욱 접근하거나 내부에 진입하려고 시도하는 경우, 차량의 현재 위치와 빌딩영역(1700) 간의 거리에 기초하여, 복수의 AR 디지털 사이니지(1721, 1722, 1723)를 대응되게 더욱 축소시킬 수 있다. 또는, 다른 예에서는, 복수의 AR 디지털 사이니지(1721, 1722, 1723) 중 선호도 POI 정보나 목적지 POI 정보에 매칭되는 AR 디지털 사이니지만 표시하도록 가변할 수 있다.
이를 위해, 본 발명에 따른 디스플레이 장치(200)의 프로세서는 차량의 목적지에 관한 정보를 디지털 사이니지 플랫폼 제공 시스템에 전송하고, 빌딩영역에 포함된 복수의 POI 정보 중 하나가 목적지로 설정된 경우, 차량의 목적지에 매칭되는 대응 AR 디지털 사이니지의 이미지를 다른 AR 오브젝트와 시각적으로 구별되도록 표시영역에 매핑할 수 있다.
또, 일 실시 예에서, 상기 디스플레이 장치(200)의 프로세서는 차량이 상기 목적지를 포함한 빌딩영역에 접근하면, 차량의 목적지에 대응되는 층수에만 AR 디지털 사이니지의 이미지를 매핑하여 표시할 수 있다. 다만, 목적지 POI 정보가 고층에 위치한 경우, 시인성 확보를 위해 (변경된) 표시영역 전체에, 목적지 POI 정보에 대응되는 AR 디지털 사이니지만 표시될 수 있을 것이다.
도 17b를 참조하면, 빌딩영역(1700)이 주변 구조물, 예를 들어 나무에 의해 가려져 사이니지의 시인성이 확보되지 않은 경우, 주행 도로 바닥에 층별 AR 디지털 사이니지(1731, 1732)가 주행방향을 기초로 층 순서대로 놓이도록 매핑된 예시를 보여준다.
여기에서도, 빌딩위치를 나타내는 아이콘(1710)이 표시되고, 바닥에 표시되는 AR 디지털 사이니지(1731, 1732)와의 관계를 나타내는 라인(예, 점선)이 표시되어, 운전자가 AR 디지털 사이니지(1731, 1732)와 관련된 위치를 직관할 수 있게 한다.
일 실시 예에서, 본 발명에 따른 디스플레이 장치(200)의 프로세서는, 비전센서를 통해 획득된 주행영상 내 빌딩영역의 적어도 일부가 차량의 카메라 화각을 벗어나는지 또는 다른 구조물에 의해 가려져 일부가 인식되지 않는지를 모니터링 및 검출할 수 있다.
이를 위해, 상기 디스플레이 장치(200)는 통신부를 통해 차량(100)으로부터 카메라 센싱 데이터를 실시간으로 수신하며, 상기 모니터링 및 검출의 결과를 디지털 사이니지 플랫폼 제공 시스템에 전송한다. 상기 디스플레이 장치(200)는, 디지털 사이니지 플랫폼 제공 시스템으로부터 수신된 렌더링 요청의 결과에 기초하여 빌딩이 아닌 다른 위치에 AR 디지털 사이니지의 표시할지를 결정할 수 있다.
비록 도시되지 않았지만, 도 17b의 표시상태에서, 차량이 빌딩영역(1700)에더욱 접근하거나 또는 진입하는 경우, AR 디지털 사이니지(1731, 1732)는 진입을 안내하는 AR 오브젝트와 함께 표시될 수 있다.
계속해서, 도 17c를 참조하면, 다수의 POI 정보를 포함하는 고층 빌딩(1701), 예를 들어 복합 쇼핑몰의 경우, 보다 나은 시인성 확보를 위해, 해당 빌딩의 정면 및/또는 측면에 AR 디지털 사이니지를 층별 표시하지 않고, 보이드(void) 영역(1750)에 층별 디지털 사이니지(1750)를 표시할 수 있다.
여기에서, 상기 보이드(void) 영역은 구조물이 없는 영역으로, 예를 들어 하늘, 건너편 건물, 및 기타 안전운행에 영향이 없는 구조물 없는 영역으로 지정될 수 있다. 또한, 상기 층별 디지털 사이니지(1750)는 주행영상 내 다른 주행 관련 정보(예, 경로안내, 주행속도표시 등)와 중첩되지 않도록 주행영상내 상단을 기준으로 표시될 수 있다. 또, 상기 층별 디지털 사이니지(1750)는 층별 세부 POI 정보와 관련된 컨텐츠가 아닌, 층별 안내 정보를 포함할 수 있다.
도 17c에서도 빌딩위치를 나타내는 아이콘(1710)과 층별 디지털 사이니지(1750)의 관계를 연결하는 라인(예, 점선)이 표시될 수 있다. 그리하여, 차량의 주행에 따라 층별 디지털 사이니지(1750)가 다른 보이드(void) 영역에 대응되는 위치로 변경되더라도 라인을 통해 어떤 빌딩에 대한 컨텐츠인지를 직관할 수 있다.
도 18은 본 발명의 실시예에 따라, 차량의 주행속도 및 주행방향에 기초하여 층별 AR 디지털 사이니지에 포함되는 정보를 가변하는 방법을 설명하기 위한 도면이다.
본 실시 예에서는, 층별 AR 디지털 사이니지가 제공되는 동안, 차량의 주행속도 및 주행방향의 변경과 그에 따른 빌딩과의 거리변화에 기초하여, 운전자에게 보다 적극적이고 상세한 광고 노출을 시도할지 또는 간단한 정보만 제공할지를 결정하여, AR 디지털 사이니지의 표시를 가변하는 방법을 제시한다.
일 실시 예에서, 본 발명에 따른 디스플레이 장치(200)의 프로세서는, AR 디지털 사이니지의 이미지에 포함되는 컨텐츠 정보의 양이, 차량의 주행 속도에 기초하여 가변되도록 하여, 주행 영상 내 매핑할 수 있다.
도 18의 (a)에 도시된 바와 같이, 차량이 기준속도(예, 40km/h) 이상으로 주행(1801)하는 경우, 빌딩영역의 표시영역에 매핑되는 복수의 AR 디지털 사이니지(1811, 1812, 1813)에는 간단한 타입의 컨텐츠를 포함하도록 AR 디지털 사이니지(1811, 1812, 1813)을 구성하여 매핑할 수 있다. 이를 위해, 디스플레이 장치(200)는 차량과 통신하여 차량의 주행속도 및 주행방향을 포함한 주행 관련 정보를 수신하고, 이를 기초로 표시될 컨텐츠 타입을 결정하도록, 디지털 사이니지 플랫폼 제공 시스템에 관련 정보를 제공할 수 있다.
일 실시 예에서, 간단한 타입의 컨텐츠를 포함하도록 AR 디지털 사이니지를 구성하는 것은, 광고 서비스 등급을 감소시켜 AR 디지털 사이니지를 구성하거나, 아이콘/심볼 등의 형태 또는 텍스트(폰트)의 크기를 증가시키는 형태로 AR 디지털 사이니지를 구성하는 것을 의미할 수 있다. 일 실시 예에서, 상기 디스플레이 장치(200)의 프로세서는 차량의 주행속도가 임계속도 이상의 고속주행인지를 결정할 수 있고, 그 결정에 응답하여 간단한 타입의 컨텐츠를 포함하도록 AR 디지털 사이니지를 구성할 수 있다. 여기에서, 상기 임계속도는 주행 도로의 종류(예, 고속도로인지, 속도제한 있는 보호구역인지 등), 차량의 주행중인 도로의 차선 개수, 실시간 교통 정보 등을 고려하여 동적으로 가변될 수 있다.
실시간 주행 관련 정보를 수신한 결과, 도 18의 (b)에 도시된 바와 같이, 차량이 기준속도(예, 40km/h) 미만으로 느리게 주행(1802)하는 것이 검출되면, 더 많은 정보 또는 상세한 타입의 컨텐츠를 포함하도록 AR 디지털 사이니지(1811, 1812, 1813)을 구성하여 매핑할 수 있다. 다시 말해, 차량의 주행속도가 느려지면, AR 디지털 사이니지(1811, 1812, 1813)에 더 많은 정보가 표시되거나 추가 정보가 연속 표시되도록 광고 등급이 상승될 수 있다.
일 실시 예에서, 상세한 타입의 컨텐츠를 포함하도록 AR 디지털 사이니지를 구성하는 것은, 광고 서비스 등급을 증가시켜서 AR 디지털 사이니지를 구성하거나, 다양한 광고/이벤트 등을 포함한 형태 또는 텍스트(폰트)의 크기를 감소시키고 정보량을 증가시키는 형태로 AR 디지털 사이니지를 구성하는 것을 의미할 수 있다. 일 실시 예에서, 상기 디스플레이 장치(200)의 프로세서는 차량의 주행속도가 임계속도 미만의 저속주행인지를 결정할 수 있고, 그 결정에 응답하여 상세한 타입의 컨텐츠를 포함하도록 AR 디지털 사이니지를 구성할 수 있다. 여기에서, 상기 임계속도는 주행 도로의 종류(예, 고속도로인지, 속도제한 있는 보호구역인지 등), 차량의 주행중인 도로의 차선 개수, 실시간 교통 정보 등을 고려하여 동적으로 가변될 수 있다.
일 실시 예에서, AR 디지털 사이니지의 이미지에 포함되는 컨텐츠 정보의 양은, 차량이 주행영상 내 빌딩영역에 접근하는지 여부에 기초하여 가변될 수 있다. 예를 들어, 디스플레이 장치(200)의 프로세서는 차량의 센싱 데이터와 비전센서를 통해 획득된 주행 영상에 기초하여, 차량의 현재위치와 빌딩의 거리가 임계값 미만인지를 결정하고, 그 결정에 기초하여 AR 디지털 사이니지에 포함될 컨텐츠 타입과 정보의 양을 가변할 수 있다. 예를 들어, 차량의 현재위치와 빌딩의 거리가 임계값 이상이면 간단한 컨텐츠 타입과 적은 정보로 AR 디지털 사이니지를 구성하도록 가변할 수 있다. 예를 들어, 차량의 현재위치가 빌딩에 점진적으로 가까워지는 것으로 결정되면, 복수의 컨텐츠가 순차적으로 표시되도록 AR 디지털 사이니지를 구성하도록 가변할 수 있다.
도 19는 본 발명의 실시예에 따른 디스플레이 장치(200)가 차량(100) 및 디지털 사이니지 플랫폼 제공 시스템(1000)과 통신하는 것을 나타내는 도면이다.
도 19에서, 본 발명에 따른 디스플레이 장치(200)는 통신부(1910), 디스플레이부(또는, 영상용 센서)(1920), 및 프로세서(1930)를 포함하여 이루어질 수 있다. 디지털 사이니지 플랫폼 제공 시스템(1000)은 플랫폼 제공 장치(800) 및 이와 통신하는 하나 이상의 클라우드(900)를 포함할 수 있다.
디스플레이 장치(200)는 통신부(1910)를 통해 차량(100)에 구비된 센서, 전장품, ADAS 등의 시스템으로부터 차량의 센싱 데이터를 수신할 수 있다.
디스플레이 장치(200)는 통신부(1910)를 통해, 디지털 사이니지 플랫폼 제공 시스템(1000)에 차량의 센싱 데이터를 전송할 수 있고, 차량의 센싱 데이터와 연관된 POI 정보를 수신할 수 있다. 이를 위해, 디지털 사이니지 플랫폼 제공 장치(800)와 클라우드(900)가 통신가능하도록 연결된다.
디스플레이 장치(200)의 디스플레이부(1920)는 차량의 비전 센서(예, 카메라, 영상용 레이저 센서 등)을 통해 획득된 주행 영상을 디스플레이한다. 디스플레이 장치(200)의 프로세서(1930)는 상기 주행 영상에 관한 정보를 통신부(1920)를 통해 디지털 사이니지 플랫폼 제공 시스템(1000)에 전송한다.
디지털 사이니지 플랫폼 제공 시스템(1000)은 차량(100)으로부터 수신된 차량의 센싱 데이터, 클라우드(900)로부터 수집된 차량의 센싱 데이터와 연관된 맵 정보, POI 정보, 복수의 POI 정보를 포함하는 빌딩의 공간 위치, 층수 정보, POI 와 관련된 광고 정보와, 디스플레이 장치(200)를 통해 수시된 주행 영상에 관한 정보 등에 기초하여, 정보의 필터링, 가공하여 AR 디지털 사이니지를 층별 생성하기 위한 정합(merging)을 수행하고, 이를 디스플레이 장치(200)로 전송할 수 있다.
디스플레이 장치(200)는 디지털 사이니지 플랫폼 제공 시스템(1000)으로부터 수신된 AR 디지털 사이니지를 층별로 생성하기 위한 렌더링 요청의 결과를 수신하여, 프로세서(1930)를 통해 주행 영상 내 빌딩에 AR 디지털 사이니지를 층별로 매핑할 수 있다. 이를 위해, 상기 프로세서(1930)는 AR 엔진을 내장하거나 또는 이와 연동하여 동작할 수 있다.
디스플레이 장치(200)는 차량(100)으로부터 차량(100)의 센싱 데이터(차량의 현재위치, 주행속도, 및 주행방향 등) 및 비전 센서를 통해 획득된 주행 영상 내 빌딩의 이미지의 형상에 기초하여, 층별 AR 디지털 사이니지가 매핑되는 표시영역을 가변할 수 있다. 예를 들어, 상기 디스플레이 장치(200)는 차량의 현재 위치와 빌딩의 현재 위치와의 거리 및 차량의 주행 속도에 기초하여, 주행 영상 내 빌딩영역의 측면에서 정면으로 표시영역을 가변하여, AR 디지털 사이니지를 층별 매핑할 수 있다.
디스플레이 장치(200)는 가변된 표시영역에 관한 정보를 디지털 사이니지 플랫폼 제공 시스템(1000)에 전송할 수 있고, 차량(100)으로부터 차량의 센싱 데이터를 실시간으로 수신하여 실시간으로 표시영역을 가변할 수 있다. 여기에서, 상기 가변된 표시영역은 시인성 확보를 위해, 주행 영상 내 빌딩영역이 아닌 다른 위치로 결정될 수 있으며, 상기 다른 위치는 예를 들어 빌딩영역에 인접한 도로 가장자리, 가드레일, 빌딩영역에 인접한 인도영역, 주행도로 바닥 중 어느 하나일 수 있다.
이상에서 살펴본 바와 같이 본 발명의 일부 실시 예에 의하면, 보다 현실의 광고판에 가깝도록 주행 영상내 빌딩에 AR 사이니지를 매핑시켜 표시함으로써, 기존에 주행 경로 화면에 인위적으로 AR 오브젝트를 띄워 표시했던 어색함이 해소된다. 또한, 종래에 증강현실(AR) 기술을 이용하더라도 하나의 영역에 한가지 광고만 표시했던 제한으로부터 해소되어, 하나의 빌딩에 다양한 형태의 복수의 광고를 제공하도록 확장되는 장점을 제공한다. 또한, 일단 빌딩의 표시영역에 층별로 AR 디지털 사이니지가 매핑된 후에도, 운전자 시야 기준의 빌딩의 형태, 차량의 주행 상황이나, 선호도, 주변의 교통 및 구조물 환경을 유연하게 반영하여, 표시영역의 위치를 가변할 수 있다. 그에 따라, 표시되는 AR 디지털 사이니지의 시인성을 보다 향상시킬 수 있다. 나아가, 서비스의 등급, 사용자 선호, 차량의 주행으로 인한 환경 변화에 기초하여 AR 디지털 사이니지를 통해 제공되는 정보의 양이나 표시방법을 가변함으로써, 광고 정보를 보다 효과적으로 제공할 수 있다. 예를 들어, 차량이 AR 디지털 사이니지를 표시하고 있는 빌딩에 근접하고 느린 주행속도로 주행하거나 잠시 정지한 경우에는, 보다 상세하고 적극적인 광고를 제공함으로써, 광고 효과를 극대화할 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드(또는, 애플리케이션이나 소프트웨어)로서 구현하는 것이 가능하다. 상술한 자율 주행 차량의 제어 방법은 메모리 등에 저장된 코드에 의하여 실현될 수 있다.
컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 프로세서 또는 제어부를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (15)

  1. 차량과 연동된 디스플레이 장치로서,
    디지털 사이니지 플랫폼 제공 시스템과 통신하는 통신부;
    비전 센서를 통해 획득된 상기 차량의 주행 영상을 디스플레이하는 디스플레이부; 및
    상기 차량의 센싱 데이터를 수신하고, 이와 연관된 POI 정보의 요청을 상기 시스템에 전송하도록 상기 통신부를 제어하는 제어부를 포함하고,
    상기 제어부는,
    상기 시스템에 의해 검출된 적어도 복수의 POI 정보를 포함하는 빌딩영역의 공간 위치를 인식하고,
    상기 차량의 센싱 데이터와 상기 빌딩영역의 공간 위치 및 층수정보를 이용하여 상기 복수의 POI 정보와 관련된 각 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 층별로 생성하기 위한 렌더링 요청을 전송하고, 상기 렌더링 요청의 결과를 수신하고, 상기 주행 영상 내 빌딩영역의 이미지를 기초로 결정된 표시영역에 상기 AR 디지털 사이니지의 이미지를 층별 매핑하여 디스플레이하고,
    상기 주행 영상 내 상기 빌딩영역의 이미지의 형상을 기초로 표시영역이 변경된 것에 응답하여, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하고 상기 시스템으로부터 변경된 표시영역에 대응되는 AR 디지털 사이니지의 이미지를 매핑하기 위한 렌더링 결과를 수신하는
    디스플레이 장치.
  2. 제1항에 있어서,
    상기 제어부는,
    상기 차량의 카메라를 통해 인식된 상기 빌딩영역의 이미지의 왜곡비율을 기초로 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하여, 상기 AR 디지털 사이니지의 이미지를 상기 변경된 표시영역에 층별 표시하기 위한 렌더링 요청의 결과를 수신하는
    디스플레이 장치.
  3. 제2항에 있어서,
    상기 제어부는,
    상기 주행 영상 내 빌딩영역의 적어도 일부가 상기 차량의 카메라 화각을 벗어나거나 또는 일부가 인식되지 않는 경우, 상기 AR 디지털 사이니지의 이미지가 상기 주행 영상 내 다른 구조물을 이용하여 층별 표시되도록 상기 디스플레이부를 제어하는
    디스플레이 장치.
  4. 제1항에 있어서,
    상기 제어부는,
    상기 차량이 주행하는 동안 수신되는 차량의 센싱 데이터에 기초하여 상기 AR 디지털 사이니지의 이미지가 매핑될 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하는
    디스플레이 장치.
  5. 제4항에 있어서,
    상기 제어부는,
    상기 차량의 주행에 따라 상기 주행 영상 내 빌딩역역의 정면 및 측면의 면적이 변화하는 경우,
    상기 면적의 변화에 관한 정보를 상기 시스템에 전송하여 대응되는 렌더링 요청의 결과를 수신하고, 상기 표시영역을 상기 주행 영상 내 빌딩영역의 일 면에서 타 면으로 변경하여 상기 AR 디지털 사이니지의 이미지를 매핑하는
    디스플레이 장치.
  6. 제4항에 있어서,
    상기 AR 디지털 사이니지의 이미지는 상기 차량의 주행 방향 및 주행 속도에 대응되도록 상기 주행 영상 내 빌딩영역의 일 면에서 타 면으로 점진적으로 이동하며 표시되는
    디스플레이 장치.
  7. 제4항에 있어서,
    상기 AR 디지털 사이니지의 이미지에 포함되는 컨텐츠 정보의 양은 상기 차량의 주행 속도에 기초하여 가변되는
    디스플레이 장치.
  8. 제4항에 있어서,
    상기 AR 디지털 사이니지의 이미지에 포함되는 컨텐츠 정보의 양은 상기 차량이 상기 주행 영상 내 빌딩영역에 접근하는지 여부에 기초하여 가변되는
    디스플레이 장치.
  9. 제1항에 있어서,
    상기 제어부는,
    미리등록된 선호도 POI 정보를 상기 시스템에 전송하고,
    상기 복수의 POI 정보 중 하나가 상기 미리등록된 선호도 POI 정보를 포함하는 경우, 상기 렌더링 요청의 결과에 근거하여:
    상기 주행 영상 내 빌딩영역의 일 면을 제1 표시영역으로 결정하여 상기 복수의 POI 정보 각각에 대응되는 AR 디지털 사이니지의 이미지를 층별로 매핑하고,
    상기 주행 영상 내 빌딩영역의 타 면을 제2 표시영역으로 결정하여 상기 미리등록된 선호도 POI 정보에 대응되는 AR 디지털 사이니지의 이미지를 상기 타 면 전체에 매핑하여 디스플레이하도록 상기 디스플레이부를 제어하는
    디스플레이 장치.
  10. 제1항에 있어서,
    상기 제어부는,
    상기 차량의 목적지에 관한 정보를 상기 시스템에 전송하고,
    상기 빌딩영역에 포함된 복수의 POI 정보 중 하나가 상기 차량의 목적지로 설정된 경우,
    상기 시스템으로부터 상기 렌더링 요청의 결과를 수신하여, 상기 차량의 목적지에 매칭되는 대응 AR 디지털 사이니지의 이미지를 다른 AR 오브젝트와 시각적으로 구별되도록 상기 표시영역에 매핑하는
    디스플레이 장치.
  11. 제10항에 있어서,
    상기 제어부는,
    상기 차량이 상기 차량의 목적지를 포함하는 빌딩영역에 접근하는 것에 응답하여, 상기 차량의 목적지에 대응되는 층수에만 AR 디지털 사이니지의 이미지를 매핑하여 표시하도록 상기 표시영역을 가변하는
    디스플레이 장치.
  12. 차량과 연동된 디스플레이 장치의 동작방법으로서,
    사용자 입력에 응답하여, AR 디지털 사이니지 플랫폼 제공 시스템과 연결을 수행하는 단계;
    상기 차량의 센싱 데이터를 수신하고, 상기 차량의 센싱 데이터와 연관된 POI 정보의 요청을 상기 시스템에 전송하는 단계;
    상기 시스템에 의해 검출된 복수의 POI 정보를 포함하는 빌딩영역의 공간 위치를 인식하는 단계;
    상기 차량의 센싱 데이터와 상기 빌딩영역의 공간 위치 및 층수정보를 이용하여, 상기 복수의 POI 정보와 관련된 각 컨텐츠 정보에 대응되는 AR 디지털 사이니지를 층별로 생성하기 위한 렌더링 요청을 상기 시스템에 전송하는 단계;
    상기 렌더링 요청의 결과를 수신하여, 비전 센서를 통해 획득된 상기 차량의 주행 영상 내 빌딩영역의 이미지를 기초로 결정된 표시영역에 상기 AR 디지털 사이니지의 이미지를 층별 매핑하여 디스플레이하는 단계; 및
    상기 주행 영상 내 빌딩영역의 이미지의 형상을 기초로 변경된 표시영역에 관한 정보를 상기 시스템에 전송하고, 상기 시스템으로부터 변경된 표시영역에 대응되는 AR 디지털 사이니지의 이미지를 매핑하기 위한 렌더링 결과를 수신하는 단계를 포함하는
    디스플레이 장치의 동작방법.
  13. 제12항에 있어서,
    상기 디스플레이하는 단계는,
    상기 차량의 카메라를 통해 인식된 상기 빌딩영역의 이미지의 왜곡비율을 기초로 표시영역을 결정하고, 결정된 표시영역에 관한 정보를 상기 시스템에 전송하여, 상기 AR 디지털 사이니지의 이미지를 상기 결정된 표시영역에 층별로 표시하기 위한 렌더링 요청의 결과를 수신하는 단계를 포함하는
    디스플레이 장치의 동작방법.
  14. 제13항에 있어서,
    상기 디스플레이하는 단계는,
    상기 주행 영상 내 빌딩영역의 적어도 일부가 상기 차량의 카메라 화각을 벗어나거나 또는 일부가 인식되지 않는 경우, 상기 AR 디지털 사이니지의 이미지가 상기 주행 영상 내 다른 구조물을 이용하여서 층별 표시되도록 상기 표시영역을 가변하는 단계를 포함하는
    디스플레이 장치의 동작방법.
  15. 제12항에 있어서,
    상기 차량이 주행하는 동안 수신되는 차량의 센싱 데이터에 기초하여, 상기 AR 디지털 사이니지의 이미지가 매핑되는 표시영역을 변경하고, 변경된 표시영역에 관한 정보를 상기 시스템에 전송하는 단계를 더 포함하는
    디스플레이 장치의 동작방법.
PCT/KR2021/020065 2021-01-12 2021-12-28 차량과 연동된 디스플레이 장치 및 그것의 동작방법 WO2022154323A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US18/020,403 US20230296394A1 (en) 2021-01-12 2021-12-28 Display device linked to vehicle and operating method thereof
EP21919946.0A EP4083931A4 (en) 2021-01-12 2021-12-28 DISPLAY DEVICE IN CONNECTION WITH A VEHICLE AND ITS OPERATING METHOD

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20210004116 2021-01-12
KR10-2021-0004116 2021-01-12

Publications (1)

Publication Number Publication Date
WO2022154323A1 true WO2022154323A1 (ko) 2022-07-21

Family

ID=82447351

Family Applications (7)

Application Number Title Priority Date Filing Date
PCT/KR2021/019615 WO2022154299A1 (ko) 2021-01-12 2021-12-22 디지털 사이니지 플랫폼 제공 장치와 동작방법, 및 이를 포함하는 시스템
PCT/KR2021/020065 WO2022154323A1 (ko) 2021-01-12 2021-12-28 차량과 연동된 디스플레이 장치 및 그것의 동작방법
PCT/KR2022/000206 WO2022154369A1 (ko) 2021-01-12 2022-01-06 차량과 연동된 디스플레이 장치 및 그것의 동작방법
PCT/KR2022/000484 WO2022154437A1 (ko) 2021-01-12 2022-01-11 증강현실 서비스를 제공하는 ar 서비스 플랫폼
PCT/KR2022/000442 WO2022154425A1 (ko) 2021-01-12 2022-01-11 차량과 연동된 내비게이션 장치, ar 플랫폼 장치, 이들을 포함하는 ar 플랫폼 시스템 및 동작방법
PCT/KR2022/000483 WO2022154436A1 (ko) 2021-01-12 2022-01-11 증강현실 서비스를 제공하는 ar 서비스 플랫폼
PCT/KR2022/000561 WO2022154478A1 (ko) 2021-01-12 2022-01-12 증강현실 서비스를 제공하는 ar 서비스 플랫폼

Family Applications Before (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/019615 WO2022154299A1 (ko) 2021-01-12 2021-12-22 디지털 사이니지 플랫폼 제공 장치와 동작방법, 및 이를 포함하는 시스템

Family Applications After (5)

Application Number Title Priority Date Filing Date
PCT/KR2022/000206 WO2022154369A1 (ko) 2021-01-12 2022-01-06 차량과 연동된 디스플레이 장치 및 그것의 동작방법
PCT/KR2022/000484 WO2022154437A1 (ko) 2021-01-12 2022-01-11 증강현실 서비스를 제공하는 ar 서비스 플랫폼
PCT/KR2022/000442 WO2022154425A1 (ko) 2021-01-12 2022-01-11 차량과 연동된 내비게이션 장치, ar 플랫폼 장치, 이들을 포함하는 ar 플랫폼 시스템 및 동작방법
PCT/KR2022/000483 WO2022154436A1 (ko) 2021-01-12 2022-01-11 증강현실 서비스를 제공하는 ar 서비스 플랫폼
PCT/KR2022/000561 WO2022154478A1 (ko) 2021-01-12 2022-01-12 증강현실 서비스를 제공하는 ar 서비스 플랫폼

Country Status (3)

Country Link
US (7) US20230304821A1 (ko)
EP (6) EP4083930A4 (ko)
WO (7) WO2022154299A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113167903A (zh) * 2018-12-12 2021-07-23 日立安斯泰莫株式会社 外界识别装置
KR20220110967A (ko) * 2021-02-01 2022-08-09 현대자동차주식회사 사용자 단말 및 그 제어 방법
KR20220117550A (ko) * 2021-02-17 2022-08-24 현대자동차주식회사 정보 표시 방법 및 정보 표시 방법을 실행하기 위한 프로그램이 저장된 컴퓨터로 판독 가능한 기록매체
WO2024025018A1 (ko) * 2022-07-29 2024-02-01 엘지전자 주식회사 차량의 ar 사이니지 디스플레이 장치 및 그것의 동작방법
DE102022120236B3 (de) * 2022-08-11 2023-03-09 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum harmonisierten Anzeigen von Kamerabildern in einem Kraftfahrzeug und entsprechend eingerichtetes Kraftfahrzeug

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017126142A (ja) * 2016-01-13 2017-07-20 株式会社ぐるなび 情報処理装置、情報処理方法及びプログラム
KR101817452B1 (ko) * 2013-09-24 2018-01-11 메타이오 게엠베하 모바일 디바이스 상에 실제 환경의 뷰에서 관심 지점을 나타내기 위한 방법 및 그것을 위한 모바일 디바이스
KR20190078676A (ko) * 2017-12-12 2019-07-05 엘지전자 주식회사 차량에 구비된 차량 제어 장치 및 차량의 제어방법
JP2019164001A (ja) * 2018-03-19 2019-09-26 株式会社Ｌｉｆｕｌｌ 情報提供システム、サーバ装置、端末用プログラム、及び情報提供方法
KR102103980B1 (ko) * 2017-12-27 2020-04-23 주식회사 버넥트 사용자의 응시정보에 따른 증강영상의 동적 표현기술이 적용된 증강현실 시스템

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101331827B1 (ko) * 2007-01-31 2013-11-22 최윤정 차량용 디스플레이 장치 및 이를 이용한 디스플레이 방법
KR101266198B1 (ko) * 2010-10-19 2013-05-21 주식회사 팬택 증강현실 객체정보의 가시성을 높이는 디스플레이 장치 및 디스플레이 방법
US8952983B2 (en) * 2010-11-04 2015-02-10 Nokia Corporation Method and apparatus for annotating point of interest information
KR20130000160A (ko) * 2011-06-22 2013-01-02 광주과학기술원 사용자 적응형 증강현실 이동통신 장치와 서버 및 그 방법
US9235553B2 (en) * 2012-10-19 2016-01-12 Hand Held Products, Inc. Vehicle computer system with transparent display
KR102098058B1 (ko) * 2013-06-07 2020-04-07 삼성전자 주식회사 뷰 모드에서 정보 제공 방법 및 장치
KR101650924B1 (ko) * 2014-07-01 2016-08-24 주식회사 아이티엑스엠투엠 지능형 영상 분석 시스템 및 방법
KR101848612B1 (ko) * 2015-12-10 2018-04-13 현대자동차주식회사 내비게이션 시스템, 이의 할인 쿠폰 사용가능한 관심 지점 표시 방법
JP7331696B2 (ja) * 2017-08-31 2023-08-23 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム、および移動体
KR20190058999A (ko) * 2017-11-22 2019-05-30 이화여자대학교 산학협력단 증강현실 기반의 프로모션 시스템 및 방법
JP6542956B2 (ja) * 2018-06-11 2019-07-10 ヤフー株式会社 情報処理装置、情報処理方法、及び情報処理プログラム
KR20190000860A (ko) * 2018-12-20 2019-01-03 주식회사 비즈모델라인 적응형 증강현실 제공 방법
KR20190104272A (ko) * 2019-08-19 2019-09-09 엘지전자 주식회사 차량 운전과 관련된 정보를 제공하는 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101817452B1 (ko) * 2013-09-24 2018-01-11 메타이오 게엠베하 모바일 디바이스 상에 실제 환경의 뷰에서 관심 지점을 나타내기 위한 방법 및 그것을 위한 모바일 디바이스
JP2017126142A (ja) * 2016-01-13 2017-07-20 株式会社ぐるなび 情報処理装置、情報処理方法及びプログラム
KR20190078676A (ko) * 2017-12-12 2019-07-05 엘지전자 주식회사 차량에 구비된 차량 제어 장치 및 차량의 제어방법
KR102103980B1 (ko) * 2017-12-27 2020-04-23 주식회사 버넥트 사용자의 응시정보에 따른 증강영상의 동적 표현기술이 적용된 증강현실 시스템
JP2019164001A (ja) * 2018-03-19 2019-09-26 株式会社Ｌｉｆｕｌｌ 情報提供システム、サーバ装置、端末用プログラム、及び情報提供方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4083931A4 *

Also Published As

Publication number Publication date
WO2022154299A1 (ko) 2022-07-21
US20240071012A1 (en) 2024-02-29
US20230332915A1 (en) 2023-10-19
US20230296394A1 (en) 2023-09-21
EP4083930A1 (en) 2022-11-02
EP4083932A4 (en) 2024-04-03
EP4083931A1 (en) 2022-11-02
US20240062432A1 (en) 2024-02-22
US20230304821A1 (en) 2023-09-28
EP4280166A1 (en) 2023-11-22
EP4083931A4 (en) 2024-02-14
WO2022154478A1 (ko) 2022-07-21
EP4280165A1 (en) 2023-11-22
WO2022154425A1 (ko) 2022-07-21
WO2022154436A1 (ko) 2022-07-21
WO2022154437A1 (ko) 2022-07-21
US20230258466A1 (en) 2023-08-17
EP4280167A1 (en) 2023-11-22
EP4083930A4 (en) 2024-04-03
EP4083932A1 (en) 2022-11-02
WO2022154369A1 (ko) 2022-07-21
US20240071074A1 (en) 2024-02-29

Similar Documents

Publication Publication Date Title
WO2022154323A1 (ko) 차량과 연동된 디스플레이 장치 및 그것의 동작방법
WO2017138702A1 (ko) 차량용 사용자 인터페이스 장치 및 차량
WO2019098434A1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
WO2018044098A1 (en) Vehicle user interface apparatus and vehicle
WO2019117333A1 (ko) 차량에 구비된 디스플레이 장치 및 디스플레이 장치의 제어방법
WO2018088615A1 (ko) 차량 주행 제어 장치 및 방법
WO2018230768A1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
WO2018079919A1 (ko) 자율 주행 차량 및 자율 주행 차량의 동작 방법
WO2018097465A1 (en) Vehicle control device mounted on vehicle and method for controlling the vehicle
WO2019035652A1 (en) DRIVING ASSISTANCE SYSTEM AND VEHICLE COMPRISING THE SAME
WO2018135811A1 (en) User interface apparatus for vehicle and vehicle
WO2018088614A1 (ko) 차량용 사용자 인터페이스 장치 및 차량
WO2018169162A1 (ko) 차량 제어 장치를 구비한 차량 및 차량의 제어방법
WO2018110762A1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
WO2019132078A1 (ko) 차량에 구비된 디스플레이 장치
WO2018110789A1 (en) Vehicle controlling technology
EP3545380A1 (en) Vehicle control device mounted on vehicle and method for controlling the vehicle
WO2018186709A1 (ko) 차량용 헤드 업 디스플레이 장치
WO2017155199A1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
WO2019198998A1 (ko) 차량 제어 장치 및 그것을 포함하는 차량
WO2020017677A1 (ko) 영상 출력 장치
WO2019066477A1 (en) AUTONOMOUS VEHICLE AND ITS CONTROL METHOD
WO2019054719A1 (ko) 차량 운전 보조 장치 및 차량
WO2021141145A1 (ko) 영상 출력 장치 및 그것의 제어 방법
WO2020246627A1 (ko) 영상 출력 장치

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2021919946

Country of ref document: EP

Effective date: 20220725

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21919946

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE