WO2020111349A1 - 차량 제어장치 및 차량 제어방법 - Google Patents

차량 제어장치 및 차량 제어방법 Download PDF

Info

Publication number
WO2020111349A1
WO2020111349A1 PCT/KR2018/015149 KR2018015149W WO2020111349A1 WO 2020111349 A1 WO2020111349 A1 WO 2020111349A1 KR 2018015149 W KR2018015149 W KR 2018015149W WO 2020111349 A1 WO2020111349 A1 WO 2020111349A1
Authority
WO
WIPO (PCT)
Prior art keywords
search query
keyword
utterance
occupant
vehicle
Prior art date
Application number
PCT/KR2018/015149
Other languages
English (en)
French (fr)
Inventor
허희정
박도연
이동규
조재훈
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to PCT/KR2018/015149 priority Critical patent/WO2020111349A1/ko
Priority to KR1020197019220A priority patent/KR102192146B1/ko
Priority to US16/487,049 priority patent/US20210357177A1/en
Publication of WO2020111349A1 publication Critical patent/WO2020111349A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Arrangement of adaptations of instruments
    • B60K35/10—
    • B60K35/28—
    • B60K35/81—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43—Querying
    • G06F16/432—Query formulation
    • G06F16/433—Query formulation using audio data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • B60K2360/146—
    • B60K2360/148—
    • B60K2360/164—
    • B60K2360/165—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/089—Driver voice
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/21—Voice
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L2015/088—Word spotting
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/228—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of application context

Definitions

  • the present invention relates to a vehicle control device and a vehicle control method.
  • Vehicles may be classified into internal combustion engine vehicles, external combustion engine vehicles, gas turbine vehicles, or electric vehicles, depending on the type of prime mover used.
  • An object of the present invention may be to provide a control device that assists the driving of the vehicle.
  • Another object may be to provide a control device that can communicate with the occupant while driving.
  • Another object may be to provide a control device capable of providing information desired by the occupant in response to the ignition of the occupant while driving.
  • Another object may be to provide a control device capable of inferring related keywords and providing a search result based thereon in response to an occupant's utterance while driving.
  • Another object may be to provide a control device capable of updating related keywords and providing a search result based thereon in response to an occupant's utterance.
  • Another object may be to provide a method for assisting the driving of the vehicle.
  • Another object may be to provide a control method for communicating with a passenger while driving.
  • Another object may be to provide a control method capable of providing information desired by the occupant in response to the ignition of the occupant while driving.
  • Another object may be to provide a control method capable of inferring related keywords and providing a search result based thereon in response to an occupant's utterance while driving.
  • Another object may be to provide a control method capable of updating related keywords and providing a search result based thereon in response to an occupant's utterance.
  • Control method for controlling a vehicle using an agent module, the method comprising: receiving a speaking of the occupant through a voice input unit; Updating the dialog while a process of providing a search result is performed multiple times according to a search request through the utterance of the occupant; And displaying the update process of the dialog on a display in real time; wherein the updating of the dialog is based on the utterance of the occupant sequentially inputting keywords inference from the occupant's utterance. Updating, and providing the search results based on the updated keyword, wherein displaying on the display, visually distinguishes the utterance of the occupant and the keyword deduced through the agent module It may be characterized by displaying the characteristics differently.
  • the updating of the dialog may include: extracting at least one keyword directly included in the first utterance of the occupant into a first search query; Extracting at least one keyword inference from the occupant's speech into a second search query; And displaying the primary search results searched based on the first search query, the second search query, and the first search query on the display.
  • the control method may include receiving a second utterance of the occupant after the primary search result is provided; And based on the second utterance, if it is determined that at least one keyword of the second search query needs to be corrected with a keyword included in the second utterance, the keyword of at least one of the second search queries is selected. And correcting and switching to the first search query.
  • the control method when it is determined that there is a need to re-inference (re-inference) of at least one keyword of the second search query based on the second speech, at least one keyword of the second search query
  • the method may further include; re-inferring and switching to a third search query, and displaying secondary search results searched based on the updated first search query on the display.
  • the displaying on the display may display different display characteristics such that the first search query, the second search query, and the third search query are visually separated from each other.
  • colors of the first search query, the second search query, and the third search query may be displayed differently.
  • the displaying on the display is characterized in that the display characteristics of the first search query, the second search query, and the third search query are updated and displayed in real time according to the first and second utterances sequentially input. can do.
  • the control method may further include displaying the dialog on the display, but may further include displaying a dialog window displaying a conversation between the occupant and the agent module and the search result. .
  • the search result may be characterized in that a list including at least one image or at least one text corresponding to the search result is provided.
  • the control method includes: recognizing the utterance of the occupant and converting it into a first text; And generating a second text describing the response to the utterance of the occupant or the search result through the agent module. And outputting at least a portion of the second text through a voice output unit, wherein the conversation window further includes a first area in which the first text and the second text are selectively displayed, and the first text.
  • the first search query and the second search curriculum may be divided into second areas.
  • the first text displayed on the first area includes the entire contents spoken by the occupant, and the second text is displayed on the first area as at least a part of a text, image, or graphic object. It can be characterized by.
  • the first region may be characterized as a circular graphic object.
  • the first search query and the second search query are expressed as bubble-shaped graphic objects, and each keyword constituting the search query is displayed to be included in an independent bubble, and each keyword is extracted by the same or similar criteria.
  • each bubble may be connected to each other and may be represented as one group.
  • the criteria for extracting the keyword may include at least one of a route, location information, time or utterance content of the passenger, and a search source.
  • At least one keyword constituting the second search query may be characterized by including a keyword extracted by the agent module or received from an external server through a wireless communication unit.
  • Control device for achieving the above object, the display; A voice input unit that receives an occupant's speaking; An agent module that generates a dialog in response to an input of the occupant's utterance in a dialog type response, and the dialog includes a search request through the occupant's utterance and the agent Consists of a search result provided by the module, a control unit for displaying on the display in real time the process of updating the dialog while the process of providing the search result by the utterance of the occupant and the agent module is performed multiple times.
  • the agent module updates an inference keyword from the occupant's utterance based on the utterance of the occupant sequentially input, and provides a search result based on the updated keyword, and the controller controls the occupant It may be characterized in that the display characteristics are displayed differently to visually distinguish the utterance of the keyword and the keyword deduced through the agent module.
  • the agent module extracts at least one keyword directly included in the passenger's first utterance into a first search query, and extracts at least one keyword inference from the rider's utterance into a second. Extracted by a search query, the control unit may be characterized by displaying the primary search results searched based on the first search query, the second search query and the first search query on the display.
  • the agent module after the primary search result is provided, recognizes the second utterance of the occupant, and based on the second utterance, at least one keyword in the second search query is included in the second utterance When it is determined that there is a need to be corrected with a keyword, it may be characterized by correcting at least one keyword of the second search query and switching to the first search query.
  • the agent module determines that there is a need to re-inference at least a keyword of the second search query based on the second utterance, the agent module selects at least one keyword of the second search query.
  • the result may be re-extracted and extracted as a third search query, and the control unit may display a secondary search result searched on the display based on the updated first search query.
  • the control unit may be configured to control the first search query, the second search query, and the third search query to be displayed with different display characteristics to be visually separated from each other.
  • control device that can communicate with a passenger while driving.
  • a control device capable of providing desired information to the occupant may be provided.
  • a control device capable of inferring related keywords and providing search results based thereon may be provided.
  • a control device capable of updating related keywords and providing search results based thereon may be provided.
  • a method of assisting driving of a vehicle may be provided.
  • a control method capable of providing desired information to the occupant in response to an occupant's utterance while driving, a control method capable of providing desired information to the occupant may be provided.
  • a control method capable of inferring related keywords and providing search results based thereon may be provided.
  • Figure 1 shows the appearance of a vehicle having a control device according to an embodiment of the present invention.
  • FIG. 2 is an example of an internal block diagram of a vehicle.
  • FIG. 3 shows a block diagram of a control device according to an embodiment of the present invention.
  • FIG 4 shows a plane of a vehicle equipped with a control device according to an embodiment of the present invention.
  • FIG 5 shows an example of a camera according to an embodiment of the present invention.
  • 6 and 7 are diagrams for explaining an example of a method for generating image information from an image of a camera according to an embodiment of the present invention.
  • FIG 8 and 9 are views illustrating an inner tube of a vehicle including a vehicle driving assistance device according to an embodiment of the present invention.
  • 10 to 23 are views showing an embodiment of a control device according to an embodiment of the present invention.
  • the vehicle described herein may be a concept including an automobile and a motorcycle.
  • a vehicle is mainly described for a vehicle.
  • the vehicle described in this specification may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, an electric vehicle having an electric motor as a power source, and the like.
  • the left side of the vehicle means the left side of the driving direction of the vehicle
  • the right side of the vehicle means the right side of the driving direction of the vehicle
  • a user a driver, a passenger, and a passenger may be mixed depending on the embodiment.
  • control device 100 is a separate device provided in a vehicle, and is described as exchanging necessary information through a data communication with the vehicle and executing a vehicle driving assist function. However, a set of some of the units of the vehicle may be defined as the control device 100.
  • the control device 100 may be referred to as a control device 100, a vehicle control device 100, a vehicle driving assistance device 100 or a driving assistance device 100.
  • control device 100 when the control device 100 is a separate device, at least some of each unit (see FIG. 3) of the control device 100 is not included in the control device 100, the vehicle or other devices mounted on the vehicle It can be a unit. And it can be understood that these external units are included in the control device 100 by transmitting and receiving data through the interface unit of the control device 100.
  • control apparatus 100 for convenience of description below, the control apparatus 100 according to the embodiment will be described as including each unit shown in FIG. 3 directly.
  • control apparatus 100 According to the embodiment will be described in detail with reference to the drawings.
  • a vehicle may include wheels 13FL and 13RL that are rotated by a power source and a control device 100 that provides driving assistance information to a user.
  • the vehicle includes a communication unit 710, an input unit 720, a sensing unit 760, an output unit 740, a vehicle driving unit 750, a memory 730, an interface unit 780, and a control unit 770 ), a power supply unit 790, a control device 100, and an AVN device 400.
  • the communication unit 710 may include one or more modules that enable wireless communication between the vehicle and the mobile terminal 600, between the vehicle and the external server 500, or between the vehicle and the other vehicle 510.
  • the communication unit 710 may include one or more modules that connect the vehicle to one or more networks.
  • the communication unit 710 may include a broadcast reception module 711, a wireless Internet module 712, a short-range communication module 713, a location information module 714, and an optical communication module 715.
  • the broadcast reception module 711 receives a broadcast signal or broadcast related information from an external broadcast management server through a broadcast channel.
  • the broadcast includes radio broadcast or TV broadcast.
  • the wireless Internet module 712 refers to a module for wireless Internet access, and may be built in or external to a vehicle.
  • the wireless Internet module 712 is configured to transmit and receive wireless signals in a communication network according to wireless Internet technologies.
  • Wireless Internet technologies include, for example, Wireless LAN (WLAN), Wireless-Fidelity (Wi-Fi), Wireless Fidelity (Wi-Fi) Direct, Digital Living Network Alliance (DLNA), Wireless Broadband (WiBro), WiMAX ( World Interoperability for Microwave Access (HSDPA), High Speed Downlink Packet Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE), Long Term Evolution-Advanced (LTE-A), etc. 712, data is transmitted and received according to at least one wireless Internet technology in a range including the Internet technology not listed above.
  • the wireless Internet module 712 can exchange data wirelessly with the external server 500.
  • the wireless Internet module 712 may receive weather information, road traffic condition information (eg, Transport Protocol Expert Group (TPEG)) information from the external server 500.
  • TPEG Transport Protocol Expert Group
  • the short-range communication module 713 is for short-range communication, BluetoothTM, Radio Frequency Identification (RFID), Infrared Data Association (IRDA), Ultra Wideband (UWB), ZigBee, Near field communication may be supported using at least one of NFC (Near Field Communication), Wi-Fi (Wireless-Fidelity), Wi-Fi Direct, and Wireless Universal Serial Bus (USB) technology.
  • RFID Radio Frequency Identification
  • IRDA Infrared Data Association
  • UWB Ultra Wideband
  • ZigBee ZigBee
  • Near field communication may be supported using at least one of NFC (Near Field Communication), Wi-Fi (Wireless-Fidelity), Wi-Fi Direct, and Wireless Universal Serial Bus (USB) technology.
  • NFC Near Field Communication
  • Wi-Fi Wireless-Fidelity
  • Wi-Fi Direct Wireless Universal Serial Bus
  • the short-range communication module 713 may form short-range wireless communication networks to perform short-range communication between the vehicle and at least one external device.
  • the short-range communication module 713 can exchange data wirelessly with the mobile terminal 600.
  • the short-range communication module 713 may receive weather information and road traffic condition information (eg, Transport Protocol Expert Group (TPEG)) from the mobile terminal 600.
  • TPEG Transport Protocol Expert Group
  • the user's mobile terminal 600 and the vehicle may perform pairing with each other automatically or by executing the user's application.
  • the location information module 714 is a module for acquiring a location of a vehicle, and a representative example thereof is a Global Positioning System (GPS) module.
  • GPS Global Positioning System
  • the location of the vehicle can be obtained using a signal sent from a GPS satellite.
  • the optical communication module 715 may include an optical transmitter and an optical receiver.
  • the light receiving unit may convert the light signal into an electrical signal and receive information.
  • the light receiving unit may include a photo diode (PD) for receiving light.
  • Photodiodes can convert light into electrical signals.
  • the light receiving unit may receive information of the front vehicle through light emitted from a light source included in the front vehicle.
  • the light emitting unit may include at least one light emitting device for converting an electrical signal into an optical signal.
  • the light emitting element is an LED (Light Emitting Diode).
  • the light emitting unit converts an electrical signal into an optical signal and transmits it to the outside.
  • the light transmitting unit may emit an optical signal to the outside through flashing of a light emitting device corresponding to a predetermined frequency.
  • the light emitting unit may include a plurality of light emitting element arrays.
  • the light emitting unit may be integrated with a lamp provided in the vehicle.
  • the light emitting unit may be at least one of a headlight, a taillight, a brake light, a direction indicator light, and a vehicle width light.
  • the optical communication module 715 may exchange data with the other vehicle 510 through optical communication.
  • the input unit 720 may include a driving operation means 721, a camera 195, a microphone 723, and a user input unit 724.
  • the driving operation means 721 receives a user input for driving a vehicle. (See FIG. 8 below)
  • the driving operation means 721 may include a steering input means 721A, a shift input means 721D, an acceleration input means 721C, and a brake input means 721B.
  • the steering input means 721A receives input of a vehicle traveling direction from a user.
  • the steering input means 721A is preferably formed in a wheel shape to enable steering input by rotation.
  • the steering input means 721A may be formed of a touch screen, a touch pad or a button.
  • the shift input means 721D receives inputs of parking (P), forward (D), neutral (N), and reverse (R) of the vehicle from the user.
  • the shift input means 721D is preferably formed in the form of a lever.
  • the shift input means 721D may be formed of a touch screen, a touch pad, or a button.
  • the acceleration input means 721C receives an input for acceleration of the vehicle from the user.
  • the brake input means 721B receives an input for deceleration of the vehicle from the user. It is preferable that the acceleration input means 721C and the brake input means 721B are formed in the form of a pedal. Depending on the embodiment, the acceleration input means 721C or the brake input means 721B may be formed of a touch screen, a touch pad or a button.
  • the camera 722 may include an image sensor and an image processing module.
  • the camera 722 can process still images or moving images obtained by an image sensor (eg, CMOS or CCD).
  • the image processing module may process the still image or video acquired through the image sensor, extract necessary information, and transmit the extracted information to the control unit 770.
  • the vehicle may include a camera 722 for photographing a vehicle front image or a vehicle surrounding image, and a monitoring unit 725 for photographing a vehicle interior image.
  • the monitoring unit 725 may acquire an image of the occupant.
  • the monitoring unit 725 may acquire an image for biometric recognition of the occupant.
  • the monitoring unit 725 and the camera 722 are illustrated as being included in the input unit 720, the camera 722 may be described as a configuration included in the control device 100 as described above. have.
  • the microphone 723 can process external sound signals as electrical data.
  • the processed data can be used in various ways depending on the function being performed in the vehicle.
  • the microphone 723 may convert a user's voice command into electrical data.
  • the converted electrical data may be transmitted to the control unit 770.
  • the microphone 723 may be referred to as a microphone 723.
  • the camera 722 or the microphone 723 may be a component included in the sensing unit 760 rather than a component included in the input unit 720.
  • the user input unit 724 is for receiving information from the user.
  • the control unit 770 may control the operation of the vehicle to correspond to the inputted information.
  • the user input unit 724 may include a touch input means or a mechanical input means.
  • the user input unit 724 may be arranged in an area of the steering wheel. In this case, the driver may operate the user input unit 724 with a finger while holding the steering wheel.
  • the sensing unit 760 senses a signal related to driving of the vehicle.
  • the sensing unit 760 includes a collision sensor, a wheel sensor, a speed sensor, a tilt sensor, a weight sensor, a heading sensor, a yaw sensor, and a gyro sensor. Includes, position module, vehicle forward/reverse sensor, battery sensor, fuel sensor, tire sensor, steering sensor by steering wheel rotation, vehicle interior temperature sensor, vehicle interior humidity sensor, ultrasonic sensor, radar, rider, etc. Can be.
  • the sensing unit 760 includes vehicle collision information, vehicle direction information, vehicle location information (GPS information), vehicle angle information, vehicle speed information, vehicle acceleration information, vehicle tilt information, vehicle forward/reverse information, battery information , It is possible to obtain sensing signals for fuel information, tire information, vehicle lamp information, vehicle interior temperature information, vehicle interior humidity information, steering wheel rotation angle, and the like.
  • the sensing unit 760 other, accelerator pedal sensor, pressure sensor, engine speed sensor (engine speed sensor), air flow sensor (AFS), intake temperature sensor (ATS), water temperature sensor (WTS), throttle A position sensor (TPS), a TDC sensor, a crank angle sensor (CAS), and the like may be further included.
  • engine speed sensor engine speed sensor
  • air flow sensor air flow sensor
  • ATS intake temperature sensor
  • WTS water temperature sensor
  • TPS throttle A position sensor
  • TDC sensor crank angle sensor
  • CAS crank angle sensor
  • the sensing unit 760 may include a biometric information detection unit.
  • the biometric information detector detects and acquires biometric information of the occupant.
  • the biometric information includes fingerprint recognition, iris-scan information, retina-scan information, hand geo-metry information, facial recognition information, and voice recognition ( Voice recognition) information.
  • the biometric information detection unit may include a sensor that senses biometric information of a passenger.
  • the monitoring unit 725 and the microphone 723 may operate as a sensor.
  • the biometric information detection unit may acquire hand shape information and facial recognition information through the monitoring unit 725.
  • the output unit 740 is for outputting information processed by the control unit 770, and may include a display unit 741, an audio output unit 742, and a haptic output unit 743.
  • the display unit 741 may display information processed by the control unit 770.
  • the display portion 741 may display vehicle-related information.
  • the vehicle-related information may include vehicle control information for direct control of the vehicle, or vehicle driving assistance information for driving guidance to the vehicle driver.
  • the vehicle-related information may include vehicle status information that informs the current state of the vehicle or vehicle operation information related to the operation of the vehicle.
  • the display portion 741 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display (flexible) display), a three-dimensional display (3D display), an electronic ink display (e-ink display).
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light-emitting diode
  • flexible display flexible display
  • 3D display three-dimensional display
  • e-ink display electronic ink display
  • the display unit 741 forms a mutual layer structure with the touch sensor or is integrally formed, thereby realizing a touch screen.
  • the touch screen functions as a user input unit 724 that provides an input interface between the vehicle and the user, and at the same time, can provide an output interface between the vehicle and the user.
  • the display unit 741 may include a touch sensor that senses a touch on the display unit 741 so that a control command can be input by a touch method.
  • the touch sensor detects the touch, and the controller 770 may be configured to generate a control command corresponding to the touch based on the touch.
  • the content input by the touch method may be a letter or a number, or an instruction or designable menu item in various modes.
  • Touch sensors and proximity sensors can be independently or in combination, short (or tap) touch on touch screen, long touch, multi touch, drag touch, flick It can sense various types of touches, such as flick touch, pinch-in touch, pinch-out touch, swipe touch, hovering touch, etc. Can be.
  • a touch or a touch input may be used as a generic term for various types of touch mentioned above.
  • the display unit 741 may include a cluster so that the driver can check the vehicle status information or the vehicle driving information while driving.
  • Clusters can be located on the dashboard. In this case, the driver can check the information displayed on the cluster while keeping the gaze in front of the vehicle.
  • the display unit 741 may be embodied as a head up display (HUD).
  • HUD head up display
  • information may be output through a transparent display provided in the wind shield.
  • the display portion 741 may include a projection module to output information through an image projected on the wind shield.
  • the sound output unit 742 converts and outputs an electrical signal from the control unit 770 to an audio signal.
  • the sound output unit 742 may include a speaker or the like.
  • the sound output unit 742 can output sound corresponding to the operation of the user input unit 724.
  • the haptic output unit 743 generates a tactile output.
  • the haptic output unit 743 may operate by allowing the user to recognize the output by vibrating the steering wheel, seat belt, and seat.
  • the vehicle driving unit 750 may control operations of various types of vehicles.
  • the vehicle driving unit 750 includes a power source driving unit 751, a steering driving unit 752, a brake driving unit 753, a lamp driving unit 754, an air conditioning driving unit 755, a window driving unit 756, an airbag driving unit 757, a sunroof
  • the driving unit 758 and the suspension driving unit 759 may be included.
  • the power source driving unit 751 may perform electronic control of the power source in the vehicle.
  • the power source driving unit 751 may perform electronic control of the engine. Thereby, the output torque of an engine, etc. can be controlled.
  • the power source driving unit 751 is an engine, under the control of the control unit 770, the engine output torque may be limited to limit the speed of the vehicle.
  • the power source driving unit 751 may perform control of the motor. Thereby, the rotational speed, torque, etc. of a motor can be controlled.
  • the steering drive unit 752 may perform electronic control of a steering apparatus in a vehicle. Thereby, the traveling direction of the vehicle can be changed.
  • the brake driving unit 753 may perform electronic control of a brake apparatus (not shown) in the vehicle.
  • the speed of the vehicle can be reduced by controlling the operation of the brake disposed on the wheel.
  • the direction of the vehicle may be adjusted to the left or the right by varying the operation of the brakes respectively disposed on the left and right wheels.
  • the lamp driving unit 754 may control turn-on/turn-off of lamps disposed inside and outside the vehicle. In addition, it is possible to control the light intensity, direction, and the like of the lamp. For example, it is possible to perform control for a direction indicator lamp, a brake lamp, and the like.
  • the air conditioning driving unit 755 may perform electronic control of an air conditioner (not shown) in the vehicle. For example, when the temperature inside the vehicle is high, the air conditioning device operates to control the cold air to be supplied into the vehicle.
  • the window driving unit 756 may perform electronic control of a window apparatus in a vehicle. For example, it is possible to control the opening or closing of the left and right windows on the side of the vehicle.
  • the airbag driving unit 757 may perform electronic control of an airbag apparatus in a vehicle. For example, in case of danger, the airbag can be controlled to burst.
  • the sunroof driving unit 758 may perform electronic control of a sunroof apparatus (not shown) in the vehicle. For example, it is possible to control the opening or closing of the sunroof.
  • the suspension driving unit 759 may perform electronic control of a suspension apparatus (not shown) in the vehicle. For example, when there is a curvature on the road surface, the suspension device may be controlled to control vibration of the vehicle.
  • the memory 730 is electrically connected to the control unit 770.
  • the memory 770 may store basic data for the unit, control data for controlling the operation of the unit, and input/output data.
  • the memory 790 may be various storage devices such as ROM, RAM, EPROM, flash drive, hard drive, and the like in hardware.
  • the memory 730 may store various data for overall operation of the vehicle, such as a program for processing or controlling the control unit 770.
  • the interface unit 780 may serve as a passage with various types of external devices connected to the vehicle.
  • the interface unit 780 may be provided with a port connectable to the mobile terminal 600, and may be connected to the mobile terminal 600 through the port. In this case, the interface unit 780 may exchange data with the mobile terminal 600.
  • the interface unit 780 may serve as a passage for supplying electrical energy to the connected mobile terminal 600.
  • the interface unit 780 provides the mobile terminal 600 with electric energy supplied from the power unit 790. do.
  • the control unit 770 may control the overall operation of each unit in the vehicle.
  • the control unit 770 may be referred to as an electronic control unit (ECU).
  • ECU electronice control unit
  • the control unit 770 may execute a function corresponding to the transmitted signal according to the execution signal transmission of the control device 100.
  • the control unit 770 includes hardware, application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), processors ( It may be implemented using at least one of processors, controllers, micro-controllers, microprocessors, and electrical units for performing other functions.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays
  • processors It may be implemented using at least one of processors, controllers, micro-controllers, microprocessors, and electrical units for performing other functions.
  • the control unit 770 may delegate the role of the above-described processor 170. That is, the processor 170 of the control device 100 may be set directly to the controller 770 of the vehicle. In this embodiment, the control device 100 may be understood to refer to some components of the vehicle in combination.
  • control unit 770 may control components to transmit information requested by the processor 170.
  • the power supply unit 790 may supply power required for the operation of each component under the control of the control unit 770.
  • the power supply unit 770 may receive power from a battery (not shown) or the like inside the vehicle.
  • the audio video navigation (AVN) device 400 may exchange data with the control unit 770.
  • the control unit 770 may receive navigation information from the AVN device 400 or a separate navigation device (not shown).
  • the navigation information may include set destination information, route information according to the destination, map information related to vehicle driving, or vehicle location information.
  • the control device 100 includes an input unit 110, a communication unit 120, an interface unit 130, a memory 140, a sensor unit 155, a processor 170, and a display unit 180 , An audio output unit 185 and a power supply unit 190.
  • the units of the control device 100 shown in FIG. 3 are not essential for implementing the control device 100, the control device 100 described in this specification is more than the components listed above, Or it may have fewer components.
  • the unit included in the control device 100 and the unit having the same name among the units described in the vehicle may be any one included in the vehicle or included in the control device 100.
  • control device 100 may include an input unit 110 that detects a user's input.
  • the user inputs a setting for the vehicle driving assistance function provided by the control device 100 through the input unit 110 or turns the power of the control device 100 on/off. You can input execution.
  • the input unit 110 includes a gesture input unit (eg, an optical sensor) that detects a user gesture, a touch input unit (eg, a touch sensor, a touch key), and a fu A user input may be detected, including at least one of a mechanical key, etc. and a microphone that detects a voice input.
  • a gesture input unit eg, an optical sensor
  • a touch input unit eg, a touch sensor, a touch key
  • a fu A user input may be detected, including at least one of a mechanical key, etc. and a microphone that detects a voice input.
  • control device 100 may include a communication unit 120 that communicates with the other vehicle 510, the terminal 600, and the server 500.
  • the control device 100 may receive communication information including at least one of navigation information, other vehicle driving information, and traffic information through the communication unit 120. Conversely, the control device 100 may transmit information about the vehicle viewed through the communication unit 120.
  • the communication unit 120 may include at least one of location information, weather information, and traffic condition information on the road (eg, Transport Protocol Expert Group (TPEG)) from the mobile terminal 600 or/and the server 500. Can receive.
  • location information eg, weather information, and traffic condition information on the road (eg, Transport Protocol Expert Group (TPEG)) from the mobile terminal 600 or/and the server 500.
  • TPEG Transport Protocol Expert Group
  • the communication unit 120 may receive traffic information from the server 500 equipped with an intelligent traffic system (ITS).
  • ITS intelligent traffic system
  • the traffic information may include traffic signal information, lane information, vehicle surrounding information, or location information.
  • the communication unit 120 may transmit navigation information from the server 500 and/or the mobile terminal 600.
  • the navigation information may include at least one of map information related to vehicle driving, lane information, vehicle location information, set destination information, and route information according to a destination.
  • the communication unit 120 may receive a real-time location of the vehicle as navigation information.
  • the communication unit 120 may acquire a location of a vehicle including a global positioning system (GPS) module and/or a wireless fidelity (WiFi) module.
  • GPS global positioning system
  • WiFi wireless fidelity
  • the communication unit 120 may share driving information between vehicles by receiving the driving information of the other vehicle 510 from the other vehicle 510 and transmitting the information of the vehicle.
  • the driving information shared with each other may include at least one or more of information about a vehicle moving direction, location information, vehicle speed information, acceleration information, moving path information, forward/reverse information, adjacent vehicle information, and turn signal information. .
  • the user's mobile terminal 600 and the control device 100 may perform pairing with each other automatically or by executing the user's application.
  • the communication unit 120 may exchange data in a wireless manner with the other vehicle 510, the mobile terminal 600, or the server 500.
  • the communication unit 120 may perform wireless communication using a wireless data communication method.
  • wireless data communication methods technical standards or communication methods for mobile communication (eg, Global System for Mobile Communication (GSM), Code Division Multi Access (CDMA), Code Division Multi Access 2000 (CDMA2000), EV-DO (Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA (Wideband CDMA), HSDPA (High Speed Downlink Packet Access), HSUPA (High Speed Uplink Packet Access), LTE (Long Term Evolution), LTE-A (Long Term Evolution-Advanced).
  • GSM Global System for Mobile Communication
  • CDMA Code Division Multi Access
  • CDMA2000 Code Division Multi Access 2000
  • EV-DO Enhanced Voice-Data Optimized or Enhanced Voice-Data Only
  • WCDMA Wideband CDMA
  • HSDPA High Speed Downlink Packet Access
  • HSUPA High Speed Uplink Packet Access
  • LTE Long Term Evolution
  • LTE-A Long Term Evolution-Advanced
  • the communication unit 120 may use wireless Internet technology, for example, wireless LAN technology (Wireless LAN), Wi-Fi (Wireless-Fidelity), Wi-Fi (Wireless Fidelity) Direct, DLNA (Digital) Living Network Alliance, WiBro (Wireless Broadband), WiMAX (World Interoperability for Microwave Access), HSDPA (High Speed Downlink Packet Access), HSUPA (High Speed Uplink Packet Access), LTE (Long Term Evolution), LTE-A (Long) Term Evolution-Advanced).
  • wireless LAN technology Wi-Fi
  • Wi-Fi Wireless Fidelity
  • Wi-Fi Wireless Fidelity
  • Direct Wireless LAN technology
  • DLNA Digital) Living Network Alliance
  • WiBro Wireless Broadband
  • WiMAX Worldwide Interoperability for Microwave Access
  • HSDPA High Speed Downlink Packet Access
  • HSUPA High Speed Uplink Packet Access
  • LTE Long Term Evolution
  • LTE-A Long) Term Evolution-Advanced
  • the communication unit 120 may use short range communication, for example, BluetoothTM, Radio Frequency Identification (RFID), Infrared Data Association (IRDA), Ultra Wideband (UWB) ), ZigBee, NFC (Near Field Communication), Wi-Fi (Wireless-Fidelity), Wi-Fi Direct, Wireless USB (Wireless Universal Serial Bus) technology can be used to support short-range communication.
  • RFID Radio Frequency Identification
  • IRDA Infrared Data Association
  • UWB Ultra Wideband
  • ZigBee NFC (Near Field Communication)
  • Wi-Fi Wireless-Fidelity
  • Wi-Fi Direct Wireless USB (Wireless Universal Serial Bus) technology
  • Wireless USB Wireless Universal Serial Bus
  • control device 100 is paired with a mobile terminal in the vehicle using a short-range communication method, and wirelessly transmits data to another vehicle 510 or a server 500 using the long-distance wireless communication module of the mobile terminal. You can also exchange
  • control device 100 may include an interface unit 130 that receives data of a vehicle or transmits a signal processed or generated by the processor 170 to the outside.
  • control device 100 may receive at least one of vehicle driving information, navigation information, and sensor information through the interface unit 130.
  • control device 100 may transmit a control signal for executing a vehicle driving assist function or information generated by the control device 100 to the controller 770 of the vehicle through the interface unit 130.
  • the interface unit 130 performs data communication with at least one of a controller 770, an audio video navigation (AVN) device 400, and a sensing unit 760 inside the vehicle by wired communication or wireless communication. Can be.
  • a controller 770 an audio video navigation (AVN) device 400
  • APN audio video navigation
  • a sensing unit 760 inside the vehicle by wired communication or wireless communication. Can be.
  • the interface unit 130 may receive navigation information by data communication with the control unit 770, the AVN device 400, and/or a separate navigation device.
  • the interface unit 130 may receive sensor information from the control unit 770 or the sensing unit 760.
  • the sensor information is at least one of the vehicle direction information, position information, vehicle speed information, acceleration information, tilt information, forward/reverse information, fuel information, distance information between the front and rear vehicles, distance information between the vehicle and the lane, and turn signal information. It may contain one or more information.
  • the sensor information includes a heading sensor, a yaw sensor, a gyro sensor, a position module, a vehicle forward/reverse sensor, a wheel sensor, a vehicle speed sensor, It can be obtained from a vehicle tilt sensor, a battery sensor, a fuel sensor, a tire sensor, a steering sensor by steering wheel rotation, a temperature sensor inside the vehicle, a humidity sensor inside the vehicle, a door sensor, and the like.
  • the position module may include a GPS module for receiving GPS information.
  • the interface unit 130 may receive a user input received through the user input unit 110 of the vehicle.
  • the interface unit 130 may receive a user input from the vehicle input unit or through the control unit 770. That is, when the input unit is disposed in the vehicle itself, the user input may be transmitted through the interface unit 130.
  • the interface unit 130 may receive traffic information obtained from the server 500.
  • the server 500 may be a server located in a traffic control center that controls traffic. For example, when traffic information is received from the server 500 through the communication unit 120 of the vehicle, the interface unit 130 may receive the traffic information from the control unit 770.
  • the memory 140 may store various data for the overall operation of the control device 100 such as a program for processing or controlling the processor 170.
  • the memory 140 may store a number of application programs or applications that are driven by the control device 100 and data and commands for the operation of the control device 100. At least some of these applications can be downloaded from external servers via wireless communication. In addition, at least some of these application programs may exist on the control device 100 from the time of shipment for basic functions of the control device 100 (for example, a driving assistance information guiding function).
  • the application program may be stored in the memory 140 and driven by the processor 170 to perform an operation (or function) of the control device 100.
  • the memory 140 may store data for identifying an object included in an image.
  • the memory 140 may store data for determining what the object corresponds to, by a predetermined algorithm, when a predetermined object is detected in a vehicle surrounding image acquired through the camera 160. .
  • the memory 140 includes a predetermined object such as a lane, a traffic sign, a two-wheeled vehicle, or a pedestrian in an image obtained through the camera 160, a predetermined algorithm determines what the object corresponds to. You can store the data to do it.
  • a predetermined object such as a lane, a traffic sign, a two-wheeled vehicle, or a pedestrian in an image obtained through the camera 160
  • a predetermined algorithm determines what the object corresponds to. You can store the data to do it.
  • the memory 140 is hardware, flash memory type, hard disk type, SSD type (Solid State Disk type), SDD type (Silicon Disk Drive type), multimedia card micro type (multimedia card micro type), card type memory (eg SD or XD memory, etc.), random access memory (RAM), static random access memory (SRAM), read-only memory (ROM), EEPROM It may include at least one type of storage medium (electrically erasable programmable read-only memory), PROM (programmable read-only memory), magnetic memory, magnetic disk, and optical disk.
  • control device 100 may be operated in connection with a web storage performing a storage function of the memory 140 on the Internet.
  • the monitoring unit may obtain information about the situation inside the vehicle.
  • the information detected by the monitoring unit includes facial recognition information, fingerprint information, iris-scan information, retina-scan information, hand geo-metry information, and voice recognition. recognition) information.
  • the monitoring unit may include other sensors for sensing the biometric information.
  • control device 100 may further include a sensor unit 155 for detecting objects around the vehicle.
  • the control device 100 may detect surrounding objects, including a separate sensor unit 155, and may also receive sensor information obtained from the sensing unit 770 of the vehicle through the interface unit 130. And the sensor information obtained in this way may be included in the vehicle surrounding information.
  • the sensor unit 155 may include at least one of a distance sensor 150 that detects the location of an object located around the vehicle and a camera 160 that captures an image of the vehicle surroundings.
  • the distance sensor 150 may accurately detect the position of the object, the direction in which the object is spaced, the distance from the object, or the moving direction of the object in the vehicle.
  • the distance sensor 150 may continuously measure the position of the detected object, thereby accurately detecting a change in the positional relationship with the vehicle.
  • the distance sensor 150 may detect an object located in at least one area of front, rear, left, and right of the vehicle. To this end, the distance sensor 150 can be placed at various locations on the vehicle.
  • the distance sensor 150 may be disposed in at least one of front, rear, left and right and ceiling of the body of the vehicle.
  • the distance sensor 150 may include one or more of various distance measurement sensors such as a lidar sensor, a laser sensor, an ultrasonic waves sensor, and a stereo camera.
  • the distance sensor 150 is a laser sensor, and uses a time-of-flight (TOF) or/and a phase-shift method according to a laser signal modulation method, and the like. It is possible to accurately measure the positional relationship between objects.
  • TOF time-of-flight
  • phase-shift method according to a laser signal modulation method, and the like. It is possible to accurately measure the positional relationship between objects.
  • the information on the object may be obtained by analyzing the image captured by the camera 160 by the processor 170.
  • the controller 100 photographs the vehicle surroundings with the camera 160, and the processor 170 analyzes the acquired vehicle surrounding image to detect the vehicle surrounding objects, determines the properties of the objects, and detects sensor information. Can be created.
  • the image information may be included in sensor information as at least one of a type of object, traffic signal information displayed by the object, a distance between the object and the vehicle, and a position of the object.
  • the processor 170 detects an object from an image photographed through image processing, tracks the object, measures a distance to the object, and performs object analysis such as checking the object to generate image information. Can be.
  • the camera 160 may be provided at various locations.
  • the camera 160 may include an inner camera 160f that acquires a front image by photographing the front of the vehicle inside the vehicle.
  • the plurality of cameras 160 may be respectively disposed in at least one of left, rear, right, front, and ceiling positions of the vehicle.
  • the left camera 160b may be disposed in a case surrounding the left side mirror. Alternatively, the left camera 160b may be disposed outside the case surrounding the left side mirror. Alternatively, the left camera 160b may be disposed in an area outside the left front door, the left rear door, or the left fender.
  • the right camera 160c may be disposed in a case surrounding the right side mirror. Alternatively, the right camera 160c may be disposed outside the case surrounding the right side mirror. Alternatively, the right camera 160c may be disposed in one area outside the right front door, the right rear door, or the right fender.
  • the rear camera 160d may be disposed in the vicinity of a rear license plate or a trunk switch.
  • the front camera 160a may be disposed near the emblem or near the radiator grill.
  • the processor 170 may synthesize an image photographed from all directions to provide an around view image of a vehicle viewed from a top view.
  • a boundary portion between each image area occurs.
  • the boundary portion may be displayed naturally by image blending.
  • the ceiling camera 160e may be disposed on the ceiling of the vehicle to photograph both the front, rear, left, and right directions of the vehicle.
  • the camera 160 may directly include an image sensor and an image processing module.
  • the camera 160 may process a still image or moving picture obtained by an image sensor (for example, CMOS or CCD).
  • the image processing module may process a still image or a video acquired through an image sensor, extract necessary image information, and transmit the extracted image information to the processor 170.
  • the camera 160 may be a stereo camera that measures a distance from an object while capturing an image.
  • the sensor unit 155 may be a stereo camera in which the distance sensor 150 and the camera 160 are combined. That is, the stereo camera can acquire an image and sense the positional relationship with the object.
  • the stereo camera 160 may include a first camera 160a having a first lens 163a and a second camera 160b having a second lens 163b. .
  • the vehicle driving assistance device includes a first light shield 162a and a second light shield for shielding light incident on the first lens 163a and the second lens 163b, respectively. (162b) may be further provided.
  • the vehicle driving assistance device obtains a stereo image of the vehicle surroundings from the first and second cameras 160a and 160b, performs disparity detection based on the stereo image, and based on disparity information. Accordingly, object detection may be performed on at least one stereo image, and after object detection, motion of the object may be continuously tracked.
  • the processor 170 in the control device 100 includes an image preprocessor 410, a disparity operator 420, an object detector 434, An object tracking unit 440 and an application unit 450 may be included.
  • an image preprocessor 410 a disparity operator 420
  • an object detector 434 An object tracking unit 440 and an application unit 450 may be included.
  • FIG. 5 and the following description it is described that the images are processed in the order of the image pre-processing unit 410, the disparity calculation unit 420, the object detection unit 434, the object tracking unit 440, and the application unit 450. It is not limited.
  • the image preprocessor 410 may receive an image from the camera 160 and perform preprocessing.
  • the image preprocessing unit 410 for image, noise reduction, rectification, calibration, color enhancement, color space conversion (CSC) ), interpolation, camera 160 gain control, and the like. Accordingly, a clearer image may be obtained than the stereo image photographed by the camera 160.
  • CSC color space conversion
  • the disparity calculator 420 receives an image, which is signal-processed by the image preprocessing unit 410, performs stereo matching on the received images, and according to stereo matching, A parity map can be obtained. That is, disparity information on the stereo image of the vehicle front side can be obtained.
  • stereo matching may be performed in units of pixels of stereo images or in units of predetermined blocks.
  • the disparity map may refer to a stereo image, that is, a map representing binocular parallax information numerically.
  • the segmentation unit 432 may perform segmentation and clustering on at least one of the images based on disparity information from the disparity calculation unit 420.
  • the segmentation unit 432 may separate a background and a foreground for at least one of the stereo images based on disparity information.
  • an area in which disparity information is less than or equal to a predetermined value in the disparity map may be calculated as a background, and a corresponding portion may be excluded. Thereby, the foreground can be relatively separated.
  • an area in which disparity information is greater than or equal to a predetermined value in a disparity map may be calculated as a foreground and a corresponding portion may be extracted. Thereby, the foreground can be separated.
  • the object detector 434 may detect an object based on the image segment from the segmentation unit 432.
  • the object detection unit 434 may detect an object for at least one of the images based on the disparity information information.
  • the object detection unit 434 may detect an object with respect to at least one of the images. For example, an object can be detected from the foreground separated by an image segment.
  • the object verification unit 436 classifies and verifies the separated object.
  • the object identification unit 436 an identification method using a neural network, a support vector machine (SVM) technique, a technique identified by AdaBoost using a Haar-like feature, or histograms of Oriented Gradients (HOG) Techniques and the like can be used.
  • SVM support vector machine
  • AdaBoost technique identified by AdaBoost using a Haar-like feature
  • HOG histograms of Oriented Gradients
  • the object confirmation unit 436 may compare the objects stored in the memory 140 with the detected objects to check the objects.
  • the object identification unit 436 may identify surrounding vehicles, lanes, road surfaces, signs, dangerous areas, tunnels, and the like, which are located around the vehicle.
  • the object tracking unit 440 may track the identified object. For example, sequentially, in the acquired stereo images, an object is identified, a motion or motion vector of the identified object is calculated, and movement of the corresponding object is tracked based on the calculated motion or motion vector. Can be. Accordingly, it is possible to track surrounding vehicles, lanes, road surfaces, signs, dangerous areas, tunnels, and the like located around the vehicle.
  • the application unit 450 may calculate a vehicle's risk, etc., based on various objects located around the vehicle, for example, other vehicles, lanes, road surfaces, signs, and the like. In addition, it is possible to calculate the possibility of a collision with a vehicle in front, whether or not the vehicle is slipping.
  • the application unit 450 may output a message, etc., to inform the user of this information, as vehicle driving assistance information, based on the calculated risk, possibility of collision, or slip.
  • a control signal for attitude control or driving control of the vehicle may be generated as vehicle control information.
  • the image pre-processing unit 410 is a processor It may be an internal configuration of the image processing unit in (170).
  • the processor 170 may include an image pre-processing unit 410, a disparity calculation unit 420, a segmentation unit 432, an object detection unit 434, an object confirmation unit 436, and an object tracking unit ( 440) and only a portion of the application unit 450.
  • the disparity calculator 420 may be excluded.
  • the segmentation unit 432 may be excluded.
  • the camera 160 may acquire a stereo image.
  • the disparity calculator 420 in the processor 170 receives the stereo images FR1a and FR1b, which are signal-processed by the image preprocessor 410, and performs stereo matching on the received stereo images FR1a and FR1b. By doing so, a disparity map 520 is obtained.
  • the disparity map 520 is a leveled parallax between the stereo images FR1a and FR1b. The larger the disparity level, the closer the distance to the vehicle, and the smaller the disparity level, the more the vehicle It can be calculated that the distance of is far.
  • the higher the disparity level, the higher the luminance, and the lower the disparity level, the lower the luminance level may be.
  • the first to fourth lanes 528a, 528b, 528c, and 528d each have a corresponding disparity level, and the construction area 522 and the first front vehicle 524 ), it is illustrated that each of the second front vehicles 526 has a corresponding disparity level.
  • object detection and verification are performed on the second stereo image FR1b using the disparity map 520.
  • the first to fourth lanes 538a, 538b, 538c, and 538d the construction area 532, the first front vehicle 534, and the second front vehicle 536 detect objects. And confirmation can be performed.
  • control device 100 may acquire various vehicle surrounding information, such as what the surrounding object is and where it is located, using the sensor unit 155 as sensor information.
  • the control device 100 may further include a display unit 180 displaying a graphic image.
  • the display unit 180 may include a plurality of displays.
  • the display unit 180 may include a first display unit 180a that projects and displays a graphic image on a windshield (W) of a vehicle. That is, the first display unit 180a is a head up display (HUD), and may include a projection module that projects a graphic image on the windshield W.
  • the projection graphic image projected by the projection module may have a certain transparency. Accordingly, the user can simultaneously view the graphic image and the graphic image.
  • the graphic image may overlap the projection image projected on the windshield W to achieve augmented reality (AR).
  • AR augmented reality
  • the display unit may include a second display unit 180b and a third display unit 180c installed separately inside the vehicle to display an image of the vehicle driving assistance function.
  • the second display unit 180b may be a display of a vehicle navigation device or a center information display (CID).
  • the third display unit 180c may be a cluster.
  • the second display unit 180b and the third display unit 180c include a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light emitting diode (organic light- It may include at least one of a light emitting diode (OLED), a flexible display, a 3D display, and an e-ink display.
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light emitting diode
  • OLED organic light emitting diode
  • the second display unit 180b and the third display unit 180c may be combined with a gesture input unit to form a touch screen.
  • the audio output unit 185 may output a message confirming the description of the function of the control device 100, whether it is executed, or the like, as audio. That is, the control device 100 may complement each other with a description of the functions of the control device 100 through visual output through the display unit 180 and sound output from the audio output unit 185.
  • the haptic output unit may output an alarm for the vehicle driving assistance function as a haptic.
  • the control device 100 includes a warning to a driver in at least one of navigation information, traffic information, communication information, vehicle status information, driving assistance function (ADAS) information, and other driver convenience information, Vibration can alert the user.
  • ADAS driving assistance function
  • the haptic output unit may provide vibration having directionality.
  • the haptic output unit may be disposed on a steering controlling steering to output vibration, and when vibration is provided, the left and right sides of the steering are divided to output vibration, thereby providing directionality of the haptic output.
  • the power supply unit 190 may receive external power or internal power under the control of the processor 170 to supply power required for the operation of each component.
  • the control device 100 may include a processor 170 that controls the overall operation of each unit in the control device 100.
  • the processor 170 may delegate the role of the control unit 770. That is, the processor 170 of the control device 100 may be set directly to the controller 770 of the vehicle. In this embodiment, the control device 100 may be understood to refer to some components of the vehicle in combination. Alternatively, the processor 170 may control components to transmit information requested by the controller 770.
  • the processor 170 may operate by combining at least two or more of the components included in the control device 100 to drive the application program.
  • these processors 170 include application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), controllers ( controllers), micro-controllers, microprocessors, and electrical units for performing other functions.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays
  • controllers controllers
  • micro-controllers microprocessors, and electrical units for performing other functions.
  • the processor 170 In addition to the operation related to the application program stored in the memory 140, the processor 170 generally controls the overall operation of the control device 100.
  • the processor 170 may provide or process appropriate information or functions to the user by processing signals, data, information, etc. input or output through the above-described components or by driving an application program stored in the memory 140.
  • the camera 160h may photograph the inside of the vehicle 700 and the occupant 900 who has boarded the vehicle 700.
  • the microphones 110 and 723 may receive sound or voice generated inside the vehicle 700.
  • the microphones 110 and 723 may be referred to as voice input units 110 and 723.
  • the processor 170 may sense the inside of the vehicle 700 through the camera 160h.
  • the processor 170 may detect the movement of the occupant 900 and the state of the occupant 900 through the camera 160h.
  • the processor 170 may sense the voice of the occupant 900 through the microphone 160h.
  • the processor 170 may be referred to as a control unit 170.
  • the agent module 141 may be a program stored in the memory 140.
  • the agent module 141 may be executed by the processor 170.
  • the agent module 141 may be a part of the processor 170 or the processor 170.
  • the processor 170 may receive the speaking of the occupant 900 through the microphone 110.
  • the utterance of the passenger 900 may include words, phrases, and sentences.
  • the agent module 141 may generate content to respond to the utterance of the occupant 900.
  • the processor 170 may respond to the content generated by the agent module 141 in a dialog form.
  • the response of the processor 170 may be output as sound through the audio output unit 185.
  • the processor 170 may respond in the form of answering the ignition of the occupant 900.
  • the processor 170 may respond to the display unit 180 in a format that displays a conversation, an image, or text.
  • At least one word to be searched can be referred to as a query.
  • a query can be called a search query.
  • the query When the query is generated from the utterance of the occupant 900, it may be called a voice query.
  • the query may include multiple words.
  • the processor 170 When receiving the voice query, the processor 170 may convert it into a text form.
  • the agent module 141 or the processor 170 may have a function of providing a search result corresponding to a query received from the passenger 900.
  • the agent module 141 or the processor 170 may convert the text query.
  • the processor 170 may perform a search for a query in the database of the memory 140 and output a search result.
  • the processor 170 may convert the query into a text form.
  • the processor 170 may transmit a query to the server 500 through the communication unit 120.
  • the query may be executed in the search engine of the server 500.
  • the processor 170 may receive a search result from the server 500 through the communication unit 120.
  • the processor 170 may output the received search results.
  • the agent module 141 or the processor 170 may extract keywords from the utterances of the passengers 900. In addition, the agent module 141 or the processor 170 may infer a related keyword from the utterance of the occupant 900. The agent module 141 or the processor 170 may infer related keywords in order to perform an utterance command of the passenger 900. The process of inferring keywords may be performed in the agent module 141, the processor 170, or the server 500.
  • the processor 170 may generate a dialog 140a.
  • the dialog 140a may store the utterance of the occupant 900 and the response of the processor 170 responding to the utterance of the occupant 900.
  • the dialog 140a may store the utterance of the occupant 900 and the response of the processor 170 in text form.
  • the dialog 140a may store the utterance of the occupant 900 and the response of the processor 170 in order over time.
  • the dialog 140a may store utterance content of the passenger 900 or content related to the response of the processor 170 together.
  • the related content may be time information, image information, image information, driving information, vehicle location information, destination, origin, stopover, and the like.
  • the processor 170 may display a dialog and content related to the dialog together through the display 180.
  • the continuation of the ignition of the passenger 900 and the response of the processor 170 may be referred to as conversation or communication.
  • the dialog 140a may be one in which conversation or communication is stored.
  • the content that the processor 170 responds may be content generated by the agent module 141 itself.
  • the processor 170 may transmit the utterance content of the occupant 900 to the outside through the communication unit 120, and may output the content received from the outside in response to the utterance content of the occupant 900.
  • the processor 170 may transmit the utterance content of the occupant 900 to the server 500 through the communication unit 120.
  • the server 500 may generate content to respond to based on the utterance content of the occupant 900, and may transmit the content to the processor 170.
  • the processor 170 may output the content received from the server 500 in response to the utterance content of the occupant 900.
  • the content that the processor 170 responds may include both the case generated by the agent module 141 itself and the reception from the outside.
  • the driving information may include a driving mode of the vehicle 700, a state of the vehicle 700, a driving state, a moving direction of the vehicle 700, a surrounding situation of the vehicle 700, a situation inside the vehicle 700, and the like. .
  • the operation of the vehicle 700 is manually performed by the driver, the operation of the vehicle 700 is automatically performed by the processor 170, or the operation of the vehicle 700 is partially performed manually by the driver.
  • the rest can be distinguished according to whether it is automatically made by the processor 170.
  • the processor 170 may display a dialog as an image 140a through the display unit 180.
  • the processor 170 may distinguish and display the content 900a uttered by the occupant 900 and the content 200a replied by the processor 170.
  • the processor 170 may activate or call the agent module 141 through a predetermined input. Alternatively, a function related to the dialog can be activated.
  • the predetermined input may include a voice input, a touch input, a button input, etc. in which the passenger 900 utters specific content. For example, the predetermined input may be that the occupant 900 utters “Hi, LG”.
  • the processor 170 may detect a predetermined input through the microphone 110 or the camera 160h. The processor 170 may deactivate the agent module 141 after a certain time has elapsed without ignition of the occupant 900.
  • the processor 170 may activate the microphone 110 when a predetermined input is received.
  • the processor 170 may activate the microphone 110 for a predetermined time when a predetermined input is received.
  • the processor 170 may deactivate the microphone 110 when a predetermined time has elapsed without ignition of the occupant 900.
  • the memory 140 may store a plurality of dialogs.
  • the processor may selectively and repeatedly load a plurality of dialogs stored in the memory 140.
  • the display unit 180c may display an image.
  • the display unit 180c may be referred to as a cluster 180c.
  • the cluster 180c divides the display area into a first display area 181, a second display area 182, and a third display area 183 to display an image.
  • Each of the display areas 181, 182, and 183 may display different images.
  • the first display area 181 may display an image 181a related to the speed of the vehicle 700.
  • the first display area 181 may display the current speed of the vehicle 700 and the speed limit of the road on which the vehicle 700 is driving.
  • the second display area 182 may display the navigation 182a.
  • the second display area 182 may display functions related to autonomous driving of the vehicle 700.
  • ADAS advanced driver assistance system
  • the third display area 183 may display information 183a and 183b related to power of the vehicle 700. For example, when the vehicle 700 is driven by an electric motor, the third display area 183 may display the remaining power of the battery 790 of the vehicle 700 by a number 183a and a gauge 183b. have.
  • the processor 170 may receive a voice query through the utterance of the occupant 900.
  • the processor 170 may receive the voice query of the occupant 900 through the microphone 110.
  • the processor 170 may display an image in response to a voice query.
  • the first display area 184 may display the utterance content of the occupant 900 recognized by the processor 170 as text.
  • the second display area 185 may display the keyword 185a recognized by the processor 170 from the ignition of the occupant 900.
  • the second display area 185 may display a keyword 185b inferred from the utterance of the occupant 900.
  • the third display area 186 may display the search result based on the keyword 185a recognized from the occupant 900's speech and the keyword 185b inferred from the occupant's 900 speech.
  • the occupant 900 may utter "Please find a parking lot around the destination".
  • the processor 170 may extract and display the keyword “parking” from the ignition of the passenger 900.
  • the processor 170 may obtain destination and route information of the vehicle 700 through navigation information.
  • the processor 170 may infer the distance from the ignition of the occupant 900 to the parking lot, the shape of the parking lot, the price of the parking lot, etc., and display it with the inferred keyword 185b. Keywords 185a recognized from the utterances of the passengers 900 and keywords 185b deduced from the utterances of the passengers 900 may be displayed differently.
  • the font of the font, the color of the font, the size of the font, the background pattern around the font, and the background color around the font may be different.
  • keywords 185a and 185b may be displayed as a bubble-shaped graphic object as a background.
  • keywords related to each other may be displayed to be related to each other.
  • the keywords 185a and 185b may be displayed as a bubble-shaped graphic object as a background, and the bubble-shaped backgrounds of related keywords may be connected to each other.
  • the processor 170 may update the dialog based on the additional utterance of the occupant 900.
  • the processor 170 may update keywords deduced from additional utterances of the passenger 900.
  • the passenger 900 may make an additional utterance of “only within a radius of 100 m”.
  • the processor 170 may extract and display the keyword “100m” from the ignition of the passenger 900.
  • the processor 170 may update the inferred keyword “distance: around 300m” with the keyword “distance: around 100m”.
  • the processor 170 may display the updated keyword 185c differently from the inferred keyword 185b after being inferred.
  • the font of the font, the color of the font, the size of the font, the background pattern around the font, and the background color around the font may be different.
  • the keywords 185a, 185b, and 185c may be displayed as a bubble-shaped graphic object as a background.
  • keywords related to each other may be displayed to be related to each other.
  • the keywords 185a, 185b, and 185c may be displayed as a bubble-shaped graphic object as a background, and the bubble-shaped backgrounds of related keywords may be connected to each other.
  • the processor 170 searches the search result based on the keyword 185a recognized from the ignition of the occupant 900, the updated keyword 185c, and the keyword 185b not inferred and then updated, in the third display area 186 Can be marked on.
  • the processor 170 may update the dialog based on the additional utterance of the occupant 900.
  • the processor 170 may update keywords deduced from additional utterances of the passenger 900.
  • the passenger 900 may make an additional utterance “Only as an indoor parking lot”.
  • the processor 170 may extract and display the keyword “indoor” from the utterance of the occupant 900.
  • the processor 170 may update the inferred keyword “type: indoor/outdoor” with the keyword “type: indoor”.
  • the processor 170 may display the updated keyword 185c differently from the inferred keyword 185b after being inferred.
  • the font of the font, the color of the font, the size of the font, the background pattern around the font, and the background color around the font may be different.
  • the keywords 185a, 185b, and 185c may be displayed as a bubble-shaped graphic object as a background.
  • keywords related to each other may be displayed to be related to each other.
  • the keywords 185a, 185b, and 185c may be displayed as a bubble-shaped graphic object as a background, and the bubble-shaped backgrounds of related keywords may be connected to each other.
  • the processor 170 searches the search result based on the keyword 185a recognized from the ignition of the occupant 900, the updated keyword 185c, and the keyword 185b not inferred and then updated, in the third display area 186 Can be marked on.
  • the processor 170 may display an image suggesting a driving strategy to the occupant 900 when the search result from the ignition of the occupant 900 does not exist. For example, in order to find a result that satisfies the ignition of the occupant, a driving strategy for increasing the speed may be proposed.
  • the driving strategy may be driving for the main purpose of safety, driving for the main purpose of fuel economy, driving for the shortest path, and driving for the minimum time.
  • the processor 170 may update the dialog based on the additional utterance of the occupant 900.
  • the processor 170 may update keywords deduced from additional utterances of the passenger 900.
  • the passenger 900 may make an additional utterance of “within 2000 won per hour”.
  • the processor 170 may extract and display the keyword “2000 won” from the utterance of the occupant 900.
  • the processor 170 may update the inferred keyword “price: unlimited” with the keyword “price: 2000 won or less”.
  • the processor 170 may display the search result on the third display area 186 based on the keyword 185a recognized from the utterance of the occupant 900 and the updated keyword 185c.
  • Keywords 185a and 185c may be displayed as a bubble-shaped graphic object as a background.
  • keywords related to each other may be displayed to be related to each other.
  • the keywords 185a and 185c may be displayed as a bubble-shaped graphic object as a background, and the bubble-shaped backgrounds of keywords related to each other may be connected to each other.
  • the processor 170 may receive a voice query through the utterance of the occupant 900.
  • the processor 170 may receive the voice query of the occupant 900 through the microphone 110.
  • the processor 170 may display an image in response to a voice query.
  • the first display area 187 may display the utterance content of the occupant 900 recognized by the processor 170 as text.
  • the second display area 188 may display a keyword recognized by the processor 170 from the utterance of the occupant 900.
  • the third display area 189 may display a keyword inferred from the utterance of the occupant 900.
  • the passenger 900 says, “Let's go and have lunch! I think it's better to be light.”
  • the processor 170 may extract and display the keyword “lunch, light” from the ignition of the passenger 900.
  • the processor 170 may infer food types, places, times, and the like related to “light” from the ignition of the passenger 900, and display them with the inferred keyword 189.
  • the keyword 188 recognized from the utterance of the passenger 900 and the keyword 189 deduced from the utterance of the passenger 900 may be displayed differently.
  • the font of the font, the color of the font, the size of the font, the background pattern around the font, and the background color around the font may be different.
  • the keywords 188 and 189 may be displayed with a bubble-shaped graphic object as a background. Also, keywords related to each other may be displayed to be related to each other. Also, keywords 188 and 189 may be displayed as a bubble-shaped graphic object as a background, and bubble-related backgrounds of keywords related to each other may be connected to each other.
  • the processor 170 may update the dialog based on the additional utterance of the occupant 900.
  • the processor 170 may update keywords deduced from additional utterances of the passenger 900.
  • the passenger 900 may make an additional utterance, “I'm still hungry, so I want to eat about 1:30”.
  • the processor 170 may extract and display the keyword “about 1:30” from the ignition of the passenger 900.
  • the processor 170 may obtain information about a destination, a route, and the like of the vehicle 700 from the navigation of the vehicle 700, and may infer that the vehicle 700 will pass near Yangjae near 1:30.
  • the processor 170 may update and display the deduced keyword 189 "1 o'clock" with the keyword 188 "1:30" recognized from the occupant 900's utterance.
  • the processor 170 may update and display the inferred keyword 189 “Gangnam” with the inferred keyword 189 “Yangjae”.
  • the processor 170 may display the definitive keyword 188 when it is determined that the inference on the “face” of the inferred keyword 189 is reliable information.
  • the processor 170 may respond to an utterance or voice query of the passenger 900 in a conversational form.
  • the processor 170 may display a response to the speech or voice query of the occupant 900 as an image 180c1.
  • the image 180c1 may display the utterance or voice of the passenger 900 and the response of the processor 170 in distinct text.
  • the processor 170 may display the image 900a of the passenger 900 and the image 200a of the processor 170 so that the utterance or voice query of the passenger 900 and the response of the processor 170 are distinguished.
  • the first display area 203 may display a keyword recognized by the processor 170 from the utterance of the occupant 900.
  • the second display area 204 may display a keyword inferred from the utterance of the occupant 900.
  • the third display area 202 may display a search result based on keywords recognized from the utterance of the passenger 900 and keywords inferred from the utterance of the passenger 900.
  • the fourth display area 201 may display a search result closest to the ignition intention of the occupant among a plurality of results displayed in the third display area 202.
  • the passenger 900 may say “Let's stop by for lunch. "Find me something to eat lightly.”
  • the processor 170 may extract the keyword “lunch, light” from the ignition of the passenger 900 and display it as the image 203.
  • the processor 170 may infer keywords related to time and place from the utterance of the occupant 900 and display the image 204.
  • the processor 170 may display the image 204 that the keyword “popularity” is inferred from the server 500.
  • the third display area 202 may be displayed.
  • the processor may display “Salad Shack”, which is determined to be closest to the “popularity” criterion among the searched restaurants, on the fourth display area 201.
  • the keyword 203 recognized from the utterance of the occupant 900 and the keyword 204 inferred from the utterance of the occupant 900 may be displayed differently.
  • the font of the font, the color of the font, the size of the font, the background pattern around the font, and the background color around the font may be different.
  • the keywords 203 and 204 may be displayed in the background of bubble-shaped graphic objects.
  • keywords related to each other may be displayed to be related to each other.
  • the keywords 203 and 204 may be displayed as a bubble-shaped graphic object as a background, and the bubble-shaped backgrounds of related keywords may be connected to each other.
  • the processor 170 may update the dialog based on the additional utterance of the occupant 900.
  • the processor 170 may update keywords deduced from additional utterances of the passenger 900.
  • the passenger 900 may make an additional utterance “Show me some places to eat at 1 o'clock”.
  • the processor 170 may extract and display the keyword “1pm” from the ignition of the passenger 900.
  • the processor 170 may obtain information about a destination, a route, and the like of the vehicle 700 from the navigation of the vehicle 700 and may infer that the vehicle 700 will pass near Soho at about 1 o'clock.
  • the processor 170 may update and display the deduced keyword 204 “12:30pm” with the keyword 203 “1pm” recognized from the occupant 900's utterance.
  • the processor 170 may update and display the deduced keyword 204 “Central station” with the deduced keyword 205 “Soho”.
  • the processor 170 may display the uncertain keyword 205 when it is determined that the reasoning about the inferred keyword 204 “Soho” is not certain.
  • the processor 170 sorts the results of the searched restaurant based on the inferred keyword “popularity” criteria based on the inferred keyword “Soho” and the keyword “lunch, light, 1pm” recognized from the ignition of the occupant 900 It can be displayed on the third display area 202.
  • the processor may display “Fine Deli”, which is determined to be closest to the “popularity” criterion among the searched restaurants, on the fourth display area 201.
  • the processor 170 may update the dialog based on the additional utterance of the occupant 900.
  • the processor 170 may update keywords deduced from additional utterances of the passenger 900.
  • the passenger 900 may make an additional utterance “Show me places with the lowest price”.
  • the processor 170 may extract and display the keyword “price” from the utterance of the occupant 900.
  • the processor 170 may sort the result of the searched restaurant according to the inferred keyword “price” criterion and display it on the third display area 202.
  • the processor may display “Tasty Greens” determined to be closest to the “popularity” criterion among the searched restaurants on the fourth display area 201.
  • the processor 170 may recognize the ignition of the occupant 900 (S1910 ).
  • the processor 170 may update the dialog based on the utterance of the occupant 900 (S1920).
  • the keyword inferred from the utterance of the occupant 900 is updated based on the utterance of the occupant 900 that is sequentially input (S1921) and the searched result is based on the updated keyword. It provides a step (S1922) to provide.
  • the processor 170 may display the update process of the dialog in real time (S1930).
  • the step of displaying the process of updating the dialog in real time may include displaying the utterance of the occupant 900 and the inferred keyword to be visually distinguished (S1931).
  • the processor 170 may extract a keyword directly included in the first utterance of the passenger 900 into the first search query (S2010).
  • the processor 170 may extract a keyword inferred from the utterance of the occupant 900 into a second search query (S2020 ).
  • the processor 170 may provide the primary search result, the first search query, and the second search query searched based on the first search query (S2030).
  • the processor 170 may recognize the second utterance of the occupant 900 (S2110 ). The processor 170 may determine whether at least one keyword in the second search query needs to be corrected with a keyword included in the second speech (S2120). The processor 170 may correct at least one keyword of the second search query and convert it to the first search query (S2130).
  • the processor 170 may recognize the second utterance of the occupant 900 (S2210 ).
  • the processor 170 may determine whether at least one keyword in the second search query needs to be corrected with a keyword included in the second speech (S2220).
  • the processor 170 may correct at least one keyword of the second search query and convert it to the first search query (S2230).
  • the processor 170 displays the first search query, the second search query, and the third search query with different display characteristics so as to be visually distinguished from each other (S2241), or according to the first utterance or the second utterance input sequentially.
  • the display characteristics of the first search query, the second search query, and the third search query may be updated and displayed in real time (S2242).
  • the present invention may include the following examples.
  • Example 1 In a control method of controlling a vehicle using an agent module that generates a dialog constituting a response in the form of a dialog to a speaking of an input occupant
  • the method comprising: receiving a speaking of the occupant through a voice input unit; Updating the dialog while a process of providing a search result is performed multiple times according to a search request through the utterance of the occupant; And displaying the update process of the dialog in real time on a display, wherein the updating of the dialog is based on the utterance of the occupant sequentially inputting keywords inferred from the occupant's utterance. Updating, and providing the search results based on the updated keyword, wherein displaying on the display, visually distinguishes the utterance of the occupant and the keyword deduced through the agent module Control method characterized by displaying the characteristics differently.
  • Embodiment 2 In Embodiment 1, updating the dialog may include: extracting at least one keyword directly included in the first utterance of the occupant into a first search query; Extracting at least one keyword inferrence from the occupant's speech into a second search query; And displaying, on the display, the primary search results searched based on the first search query, the second search query, and the first search query.
  • Example 3 In Example 2, after the primary search result is provided, receiving a second utterance of the occupant; And based on the second utterance, if it is determined that at least one keyword of the second search query needs to be corrected with a keyword included in the second utterance, the keyword of at least one of the second search queries is selected. And correcting and switching to the first search query.
  • Embodiment 4 In the third embodiment, when it is determined that there is a need for at least one keyword of the second search query to be re-inferred based on the second utterance, the second search query And re-deducing at least one keyword to switch to a third search query, and displaying secondary search results searched based on the updated first search query on the display. .
  • Embodiment 5 In embodiment 4, the displaying on the display is characterized by displaying display characteristics differently so that the first search query, the second search query, and the third search query are visually distinguished from each other. Control method.
  • Embodiment 6 The control method according to Embodiment 5, wherein colors of the first search query, the second search query, and the third search query are displayed differently.
  • Example 7 In Example 5, the displaying on the display may include display characteristics of the first search query, the second search query, and the third search query according to the first and second utterances sequentially input. Control method characterized in that the display in real time updated.
  • Embodiment 8 In Embodiment 2, further comprising the step of displaying the dialog on the display, further comprising displaying a dialog window displaying the conversation between the occupant and the agent module and the search result together. Control method characterized by.
  • Embodiment 9 The control method according to embodiment 8, wherein the search result provides a list including at least one image or at least one text corresponding to the search result.
  • Embodiment 10 In Embodiment 8, recognizing the utterance of the occupant and switching to a first text; And generating a second text describing the response to the utterance of the occupant or the search result through the agent module. And outputting at least a portion of the second text through a voice output unit, wherein the conversation window further includes a first area in which the first text and the second text are selectively displayed, and the first text.
  • a control method characterized by being divided into a second area in which the first search query and the second search query are displayed as an area excluding the area.
  • Embodiment 11 In Embodiment 10, the first text displayed in the first area includes the entire contents spoken by the occupant, and the second text includes at least a part of the text as an image, image, or graphic object. Control method characterized in that it is displayed in one area.
  • Embodiment 12 The control method according to embodiment 10, wherein the first area is a circular graphic object.
  • Example 13 In Example 10, the first search query and the second search query are represented as bubble-shaped graphic objects, and each keyword constituting the search query is displayed to be included in an independent bubble, and the respective When a keyword is extracted based on the same or similar criteria, at least a part of each bubble is connected and expressed as a group.
  • Embodiment 14 The control method according to embodiment 13, wherein the criteria for extracting the keyword includes at least one of a route, location information, time or utterance content of the passenger, and a search source.
  • Embodiment 15 The control according to embodiment 2, wherein at least one keyword constituting the second search query includes keywords extracted by the agent module or received from an external server through a wireless communication unit. Way.
  • Example 16 Display; A voice input unit that receives an occupant's speaking; An agent module that generates a dialog in response to an input of the occupant's utterance in a dialog type response, and the dialog includes a search request through the occupant's utterance and the agent Consists of a search result provided by the module, a control unit for displaying on the display in real time the process of updating the dialog while the process of providing the search result by the utterance of the occupant and the agent module is performed multiple times.
  • the agent module updates the inferrence keyword from the occupant's utterance based on the utterance of the occupant sequentially input, and provides a search result based on the updated keyword, and the controller controls the occupant
  • the control device characterized in that the display characteristics are bridged to visually distinguish the utterance of the keyword and the keyword inferred through the agent module.
  • Embodiment 17 In embodiment 16, the agent module extracts at least one keyword directly included in the passenger's first utterance into a first search query and infers from the rider's utterance (inferrence) extracts at least one keyword into a second search query, and the controller displays the primary search results searched based on the first search query, the second search query, and the first search query on the display Control device characterized in that.
  • Embodiment 18 In embodiment 17, the agent module, after the primary search result is provided, recognizes the second utterance of the occupant, and based on the second utterance, at least one of the second search queries If it is determined that there is a need to be corrected with the keyword included in the second utterance, the control device, characterized in that to correct at least one keyword of the second search query to switch to the first search query.
  • Example 19 In Example 18, if the agent module determines that there is a need for at least a keyword of the second search query to be re-inferred based on the second utterance, the agent It is characterized in that at least one keyword of the second search query is re-inferred and extracted as a third search query, and the control unit displays the secondary search result searched based on the updated first search query on the display. Control device.
  • Embodiment 20 The control device according to embodiment 19, wherein the control unit controls the first search query, the second search query, and the third search query to be displayed with different display characteristics so as to be visually distinguished from each other. .
  • Embodiment 21 The control device of embodiment 20, wherein the control unit controls colors of the first search query, the second search query, and the third search query to be displayed differently.
  • Example 22 In Example 20, the control unit updates display characteristics of the first search query, the second search query, and the third search query in real time according to the first and second utterances sequentially input. Control device characterized in that it is displayed.
  • Embodiment 23 In Embodiment 17, the control unit displays the dialog on the display, but also displays a dialog window displaying a conversation between the occupant and the agent module and the search result. Control device.
  • Embodiment 24 The control device according to embodiment 23, wherein the search result provides a list including at least one image or at least one text corresponding to the search result.
  • Example 25 In Example 23, the control unit recognizes the utterance of the passenger and converts it to a first text, and the second text that describes the response to the utterance of the passenger or the search result through the agent module And outputting at least a portion of the second text through a voice output unit, wherein the conversation window includes a first area in which the first text and the second text are selectively displayed, and the first text.
  • a control device characterized by being divided into a second area in which the first search query and the second search query are displayed, except for one area.
  • Example 26 In Example 25, the first text displayed in the first area includes the entire contents spoken by the occupant, and the second text is the text, an image, or a graphic object. Control device characterized in that it is displayed in one area.
  • Embodiment 27 The control method according to embodiment 25, wherein the first area is a circular graphic object.
  • Example 28 In Example 25, the first search query and the second search query are expressed as bubble-shaped graphic objects, and each keyword constituting the search query is displayed to be included in an independent bubble, and the respective When the keyword is extracted by the same or similar criteria, at least a part of each bubble is connected to the control device, characterized in that represented by a group.
  • Embodiment 29 The control device according to embodiment 28, wherein the criteria for extracting the keyword includes at least one of a route, location information, time or utterance content of the passenger, and a search source.
  • Embodiment 30 The control according to embodiment 17, wherein at least one keyword constituting the second search query includes keywords extracted by the agent module or received from an external server through a wireless communication unit. Device.
  • control device that assists in driving the vehicle.
  • a control device that can communicate with a passenger while driving.
  • a control device capable of providing desired information to the occupant may be provided.
  • a control device capable of inferring related keywords and providing search results based thereon may be provided.
  • a control device capable of updating related keywords and providing search results based thereon may be provided.
  • a method of assisting driving of a vehicle may be provided.
  • a control method capable of talking to a passenger while driving in response to an occupant's utterance while driving, a control method capable of providing desired information to the occupant may be provided.
  • a control method capable of inferring related keywords and providing search results based thereon in response to an occupant's utterance, it is possible to provide a control method capable of updating related keywords and providing search results based thereon.
  • the control device or control method according to the above-described embodiment may assist the driver in driving.
  • the control device or control method according to the above-described embodiment may assist the vehicle so that the vehicle can autonomously or semi-autonomously.

Abstract

차량의 제어방법이 개시된다. 제어방법은, 입력되는 탑승자의 발화(speaking)에 대화 형식(dialogue type)으로 응답(response)을 구성하는 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module)을 이용하여 차량을 제어하는 제어방법으로서, 음성 입력부를 통해 상기 탑승자의 발화(speaking)을 입력받는 단계; 상기 탑승자의 발화를 통한 검색 요청에 따라 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그를 업데이트하는 단계; 및 상기 다이얼로그의 업데이트 과정을 실시간으로 디스플레이에 표시하는 단계;를 포함하되, 상기 다이얼로그를 업데이트하는 단계는, 상기 탑승자의 발화로부터 추론한(inference) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하는 단계, 및 상기 업데이트된 키워드에 기초하여 상기 검색 결과를 제공하는 단계를 포함하며, 상기 디스플레이에 표시하는 단계는, 상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 한다.

Description

차량 제어장치 및 차량 제어방법
본 발명은 차량 제어장치 및 차량 제어방법에 관한 것이다.
자동차는 사용되는 원동기의 종류에 따라, 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등으로 분류될 수 있다.
최근 운전자, 보행자 등의 안전이나 편의를 위해 지능형 자동차(Smart Vehicle)의 개발이 활발히 되고 있으며, 지능형 자동차에 탑재되는 센서에 대한 연구가 활발히 진행되고 있다. 카메라, 적외선센서, 레이더, GPS, 라이더(Lidar), 자이로스코프 등이 지능형 자동차에 이용되고 있으며, 그 중 카메라는 사람의 눈을 대신하는 역할을 수행한다.
각종 센서와 전자 장비들의 개발로 인하여, 탑승자의 운전을 보조하고 주행 안전성 및 편의 등을 향상시키는 운전 주행 보조기능을 구비한 차량이 주목 받고 있다.
본 발명의 목적은 차량의 운전을 보조하는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 주행 중 탑승자와 대화할 수 있는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 주행 중 탑승자 발화에 응답하여, 탑승자가 원하는 정보를 제공할 수 있는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 주행 중 탑승자의 발화에 응답하여, 관련된 키워드를 추론하고 이에 기초한 검색결과를 제공할 수 있는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 탑승자의 발화에 응답하여, 관련된 키워드를 업데이트하고 이에 기초한 검색결과를 제공할 수 있는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 차량의 운전을 보조하는 방법을 제공하는 것일 수 있다.
또 다른 목적은 주행 중 탑승자와 대화할 수 있는 제어방법을 제공하는 것일 수 있다.
또 다른 목적은 주행 중 탑승자 발화에 응답하여, 탑승자가 원하는 정보를 제공할 수 있는 제어방법을 제공하는 것일 수 있다.
또 다른 목적은 주행 중 탑승자의 발화에 응답하여, 관련된 키워드를 추론하고 이에 기초한 검색결과를 제공할 수 있는 제어방법을 제공하는 것일 수 있다.
또 다른 목적은 탑승자의 발화에 응답하여, 관련된 키워드를 업데이트하고 이에 기초한 검색결과를 제공할 수 있는 제어방법을 제공하는 것일 수 있다.
상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 제어방법은, 입력되는 탑승자의 발화(speacking)에 대화 형식(dialogue type)으로 응답(response)을 구성하는 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module)을 이용하여 차량을 제어하는 제어방법으로서, 음성 입력부를 통해 상기 탑승자의 발화(speaking)을 입력받는 단계; 상기 탑승자의 발화를 통한 검색 요청에 따라 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그를 업데이트하는 단계; 및 상기 다이얼로그의 업데이트 과정을 실시간으로 디스플레이에 표시하는 단계;를 포함하되, 상기 다이얼로그를 업데이트하는 단계는, 상기 탑승자의 발화로부터 추론한(inference) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하는 단계, 및 상기 업데이트된 키워드에 기초하여 상기 검색 결과를 제공하는 단계를 포함하며, 상기 디스플레이에 표시하는 단계는, 상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 할 수 있다.
상기 다이얼로그를 업데이트 단계는, 상기 탑승자의 제1 발화에 직접적으로 포함된 적어도 하나의 키워드를 제1 검색 쿼리(search query)로 추출하는 단계; 상기 탑승자의 발화로부터 추론한(inference) 적어도 하나의 키워드를 제2 검색 쿼리로 추출하는 단계; 및 상기 제1 검색 쿼리, 제2 검색 쿼리 및 상기 제1 검색 쿼리에 기초하여 검색된 1차 검색 결과를 상기 디스플레이에 표시하는 단계;를 더 포함할 수 있다.
상기 제어방법은, 상기 1차 검색 결과가 제공된 후, 상기 탑승자의 제2 발화를 입력받는 단계; 및 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 상기 제2 발화에 포함된 키워드로 정정될 필요가 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 정정하여 상기 제1 검색 쿼리로 전환하는 단계;를 더 포함할 수 있다.
상기 제어방법은, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 재추론(re-inference)될 필요성이 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 재추론하여 제3 검색 쿼리로 전환하고, 업데이트된 상기 제1 검색 쿼리에 기초하여 검색된 2차 검색 결과를 상기 디스플레이에 표시하는 단계;를 더 포함할 수 있다.
상기 디스플레이에 표시하는 단계는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리가 시각적으로 서로 구분되도록 표시 특성을 달리하여 표시할 수 있다.
상기 제어방법에 따르면, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 색상이 서로 다르게 표시할 수 있다.
상기 디스플레이에 표시하는 단계는, 순차적으로 입력되는 상기 제1 발화, 제2 발화에 따라 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 표시 특성을 실시간으로 업데이트하여 표시하는 것을 특징으로 할 수 있다.
상기 제어방법은, 상기 다이얼로그를 상기 디스플레이에 표시하는 단계;를 더 포함하되, 상기 탑승자와 상기 에이전트 모듈의 대화를 표시하는 대화창(dialogue window) 및 상기 검색 결과를 함께 표시하는 것을 특징으로 할 수 있다.
상기 검색 결과는, 상기 검색 결과에 대응하는 적어도 하나의 이미지 또는 적어도 하나의 텍스트가 포함된 리스트를 제공되는 것을 특징으로 할 수 있다.
상기 제어방법은, 상기 탑승자의 발화를 인식하여 제1 텍스트로 전환하는 단계; 및 상기 에이전트 모듈을 통해 상기 탑승자의 발화에 대한 응답 또는 상기 검색 결과를 설명하는 제2 텍스트를 생성하는 단계; 및 상기 제2 텍스트의 적어도 일부를 음성 출력부를 통해 출력하는 단계;를 더 포함하되, 상기 대화창은, 상기 제1 텍스트와 제2 텍스트가 선택적으로(selectively) 표시되는 제1 영역과, 상기 제1 영역을 제외한 영역으로서, 상기 제1 검색 쿼리와 제2 검색 커리가 표시되는 제2 영역으로 구분되는 것을 특징으로 할 수 있다.
상기 제어방법은, 상기 제1 영역에 표시되는 상기 제1 텍스트는 상기 탑승자가 발화한 내용 전체를 포함하고, 상기 제2 텍스트는 적어도 일부가 텍스트, 이미지 또는 그래픽 객체로 상기 제1 영역에 표시되는 것을 특징으로 할 수 있다.
상기 제1 영역은, 원형의 그래픽 객체인 것을 특징으로 할 수 있다.
상기 제1 검색 쿼리 및 제2 검색 쿼리는 버블 형태의 그래픽 객체로 표현되며, 검색 쿼리를 구성하는 각각의 키워드가 독립된 버블에 포함되도록 표시되며, 상기 각각의 키워드가 동일 또는 유사한 기준에 의해 추출된 경우, 각 버블의 적어도 일부가 연결되어 하나의 그룹으로 표현되는 것을 특징으로 할 수 있다.
상기 키워드를 추출하는 기준은, 경로, 위치 정보, 시간 또는 상기 탑승자의 발화 내용, 검색 출처 중 적어도 하나를 포함하는 것을 특징으로 할 수 있다.
상기 제2 검색 쿼리를 구성하는 적어도 하나의 키워드는, 상기 에이전트 모듈에 의해 추출되거나, 무선 통신부를 통해 외부 서버로부터 수신된 키워드를 포함하는 것을 특징으로 할 수 있다.
상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 제어장치는, 디스플레이; 탑승자의 발화(speaking)를 입력받는 음성 입력부; 입력되는 상기 탑승자의 발화에 대하여 대화 형식(dialogue type)의 응답(response)으로 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module): 및 상기 다이얼로그는, 상기 탑승자의 발화를 통한 검색 요청 및 상기 에이전트 모듈이 제공하는 검색 결과로 구성되며, 상기 탑승자의 발화 및 상기 이에전트 모듈이 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그가 업데이트되는 과정을 실시간으로 상기 디스플레이에 표시하는 제어부;를 포함하고, 상기 에이전트 모듈은, 상기 탑승자의 발화로부터 추론한(inference) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하고, 상기 업데이트된 키워드에 기초한 검색 결과를 제공하며, 상기 제어부는, 상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 할 수 있다.
상기 에이전트 모듈은, 상기 탑승자의 제1 발화에 직접적으로 포함된 적어도 하나의 키워드를 제1 검색 쿼리(search query)로 추출하고, 상기 탐승자의 발화로부터 추론한(inference) 적어도 하나의 키워드를 제2 검색 쿼리로 추출하며, 상기 제어부는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 상기 제1 검색 쿼리에 기초하여 검색된 1차 검색 결과를 상기 디스플레이에 표시하는 것을 특징으로 할 수 있다.
상기 에이전트 모듈은, 상기 1차 검색 결과가 제공된 후, 상기 탑승자의 제2 발화를 인식하고, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 상기 제2 발화에 포함된 키워드로 정정될 필요가 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 정정하여 상기 제1 검색 쿼리로 전환하는 것을 특징으로 할 수 있다.
상기 에이전트 모듈은, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도의 키워드가 재추론(re-inference)될 필요성이 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 재추론하여 제3 검색 쿼리로 추출하고, 상기 제어부는, 상기 업데이트된 상기 제1 검색 쿼리에 기초하여 검색된 2차 검색 결과를 상기 디스플레이에 표시하는 것을 특징으로 할 수 있다.
상기 제어부는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리가 시각적으로 서로 구분되도록 표시 특성을 달리하여 표시되도록 제어하는 것을 특징으로 할 수 있다.
본 발명에 따른 제어장치의 효과에 설명하면 다음과 같다.
본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 제어장치를 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자와 대화할 수 있는 제어장치를 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자 발화에 응답하여, 탑승자가 원하는 정보를 제공할 수 있는 제어장치를 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자의 발화에 응답하여, 관련된 키워드를 추론하고 이에 기초한 검색결과를 제공할 수 있는 제어장치를 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화에 응답하여, 관련된 키워드를 업데이트하고 이에 기초한 검색결과를 제공할 수 있는 제어장치를 제공할 수 있다.
본 발명에 따른 제어방법의 효과에 설명하면 다음과 같다.
본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 방법을 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자와 대화할 수 있는 제어방법을 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자 발화에 응답하여, 탑승자가 원하는 정보를 제공할 수 있는 제어방법을 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자의 발화에 응답하여, 관련된 키워드를 추론하고 이에 기초한 검색결과를 제공할 수 있는 제어방법을 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화에 응답하여, 관련된 키워드를 업데이트하고 이에 기초한 검색결과를 제공할 수 있는 제어방법을 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 제어장치를 구비하는 차량의 외관을 나타낸다.
도 2는 차량의 내부 블록도의 일 예이다.
도 3은 본 발명의 실시예에 따른 제어장치의 블록도를 나타낸다.
도 4는 본 발명의 실시예에 따른 제어장치를 구비한 차량의 평면을 나타낸다.
도 5는 본 발명의 실시예에 따른 카메라의 일례를 나타낸다.
도 6 및 도 7은 본 발명의 실시예에 따른 카메라의 영상에서 영상 정보를 생성하는 방법의 일례를 설명하기 위한 도면들이다.
도 8 및 도 9는 본 발명의 실시예에 따른 차량 운전 보조장치를 포함하는 차량의 내관을 도시한 도면이다.
도 10 내지 도 23은 본 발명의 실시예에 따른 제어장치의 실시 예를 나타낸 도면들이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
이하의 설명에서 별도로 언급되지 않는 한 LHD(Left Hand Drive) 차량을 중심으로 설명한다.
이하에서, 사용자, 운전자, 탑승자 및 동승자는 실시 예에 따라 혼용될 수 있다.
이하의 설명에서 제어장치(100)는 차량에 구비되는 별도의 장치로서, 차량과 데이터 통신을 통해 필요 정보를 주고 받으며 차량 운전 보조기능을 실행하는 것으로 설명한다. 다만, 차량의 유닛 중 일부의 집합을 제어장치(100)로 정의할 수도 있다. 제어장치(100)는 컨트롤 디바이스(100), 차량 제어장치(100), 차량 운전 보조장치(100) 또는 운전 보조장치(100)로 칭할 수 있다.
그리고 제어장치(100)가 별도의 장치일 때, 제어장치(100)의 각 유닛들(도 3 참조) 중 적어도 일부는 제어장치(100)에 포함되지 않고, 차량 또는 차량에 탑재된 다른 장치의 유닛일 수 있다. 그리고 이러한 외부 유닛들은 제어장치(100)의 인터페이스부를 통해 데이터를 송수신함으로써, 제어장치(100)에 포함되는 것으로 이해할 수 있다.
이하 설명의 편의를 위하여, 실시 예에 따른 제어장치(100)는 도 3에 도시한 각 유닛들을 직접 포함하는 것으로 설명한다.
이하, 도면들을 참조하여 실시예에 따른 제어장치(100)에 대해 상세히 설명한다.
도 1을 참조하면, 실시예에 따른 차량은, 동력원에 의해 회전하는 바퀴(13FL, 13RL) 및 사용자에게 운전 보조정보를 제공하는 제어장치(100)를 포함할 수 있다.
도 2를 참조하면, 차량은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), 인터페이스부(780), 제어부(770), 전원부(790), 제어장치(100) 및 AVN 장치(400)를 포함할 수 있다. 통신부(710)는, 차량과 이동 단말기(600) 사이, 차량과 외부 서버(500) 사이 또는 차량과 타차량(510)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량을 하나 이상의 망(network)에 연결하는 하나 이상의 모듈을 포함할 수 있다.
통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.
방송 수신 모듈(711)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.
무선 인터넷 모듈(712)은, 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(500)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(500)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))정보를 수신할 수 있다.
근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
이러한, 근거리 통신 모듈(713)은, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 이동 단말기(600)와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 이동 단말기(600)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))를 수신할 수 있다. 가령, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 차량은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.
위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들면, 차량은 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 차량의 위치를 획득할 수 있다.
광통신 모듈(715)은, 광발신부 및 광수신부를 포함할 수 있다.
광수신부는, 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.
광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)인 것이 바람직하다. 광발신부는, 전기 신호를 광 신호로 전환하여, 외부에 발신한다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다. 실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들면, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다. 예를 들면, 광통신 모듈(715)은 광 통신을 통해 타차량(510)과 데이터를 교환할 수 있다.
입력부(720)는, 운전 조작 수단(721), 카메라(195), 마이크로 폰(723) 및 사용자 입력부(724)를 포함할 수 있다.
운전 조작 수단(721)은, 차량 운전을 위한 사용자 입력을 수신한다. (이하 설명 도 8참조) 운전 조작 수단(721)은 조향 입력 수단(721A), 쉬프트 입력 수단(721D), 가속 입력 수단(721C), 브레이크 입력 수단(721B)을 포함할 수 있다.
조향 입력 수단(721A)은, 사용자로부터 차량의 진행 방향 입력을 수신한다. 조향 입력 수단(721A)은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 수단(721A)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
쉬프트 입력 수단(721D)은, 사용자로부터 차량의 주차(P), 전진(D), 중립(N), 후진(R)의 입력을 수신한다. 쉬프트 입력 수단(721D)은 레버 형태로 형성되는 것이 바람직하다. 실시예에 따라, 쉬프트 입력 수단(721D)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
가속 입력 수단(721C)은, 사용자로부터 차량의 가속을 위한 입력을 수신한다. 브레이크 입력 수단(721B)은, 사용자로부터 차량의 감속을 위한 입력을 수신한다. 가속 입력 수단(721C) 및 브레이크 입력 수단(721B)은 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 수단(721C) 또는 브레이크 입력 수단(721B)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
카메라(722)는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(722)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 제어부(770)에 전달할 수 있다. 한편, 차량은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라(722) 및 차량 내부 영상을 촬영하는 모니터링부(725)를 포함할 수 있다.
모니터링부(725)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(725)는 탑승자의 생체 인식을 위한 이미지를 획득할 수 있다.
한편, 도 2에서는 모니터링부(725)와 카메라(722)가 입력부(720)에 포함되는 것으로 도시하였으나, 카메라(722)는 전술한 바와 같이, 제어장치(100)에 포함된 구성으로 설명될 수도 있다.
마이크로폰(723)은, 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적인 데이터로 전환할 수 있다. 전환된 전기적인 데이터는 제어부(770)에 전달될 수 있다. 마이크로폰(723)은 마이크(723)라고 칭할 수 있다.
한편, 실시 예에 따라, 카메라(722) 또는 마이크로폰(723)는 입력부(720)에 포함되는 구성요소가 아닌, 센싱부(760)에 포함되는 구성요소일 수도 있다.
사용자 입력부(724)는 사용자로부터 정보를 입력받기 위한 것이다. 사용자 입력부(724)를 통해, 정보가 입력되면, 제어부(770)는 입력된 정보에 대응되도록 차량의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724)는 스티어링 휠의 일 영역에 배치될 수 있다. 이 경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.
센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱한다. 이를 위해, 센싱부(760)는, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.
이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.
한편, 센싱부(760)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다. 여기서, 모니터링부(725) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 모니터링부(725)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.
출력부(740)는, 제어부(770)에서 처리된 정보를 출력하기 위한 것으로, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.
디스플레이부(741)는 제어부(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량 운전자에게 운전 가이드를 위한 차량 운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.
디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량와 사용자 사이의 출력 인터페이스를 제공할 수 있다. 이 경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다.
이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.
터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다. 이하에서, 터치 또는 터치입력은 앞서 언급된 다양한 방식의 터치를 통칭하는 것으로 쓰일 수 있다.
한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이경우, 운전자는, 시선을 차량 전방에 유지한채로 클러스터에 표시되는 정보를 확인할 수 있다.
한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드에 투사되는 이미지를 통해 정보를 출력할 수 있다.
음향 출력부(742)는 제어부(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는, 사용자 입력부(724) 동작에 대응하는, 사운드를 출력하는 것도 가능하다.
햅틱 출력부(743)는 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(743)는, 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
차량 구동부(750)는, 차량 각종 장치의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 조향 구동부(752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.
동력원 구동부(751)는, 차량 내의 동력원에 대한 전자식 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진(미도시)이 동력원인 경우, 동력원 구동부(751)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, 제어부(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.
다른 예로, 전기 기반의 모터(미도시)가 동력원인 경우, 동력원 구동부(751)는, 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.
조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(753)는, 차량 내의 브레이크 장치(brake apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.
램프 구동부(754)는, 차량 내, 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.
공조 구동부(755)는, 차량 내의 공조 장치(air conditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
윈도우 구동부(756)는, 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량의 측면의 좌,우 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.
에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 위험시, 에어백이 터지도록 제어할 수 있다.
썬루프 구동부(758)는, 차량 내의 썬루프 장치(sunroof apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.
서스펜션 구동부(759)는, 차량 내의 서스펜션 장치(suspension apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.
메모리(730)는, 제어부(770)와 전기적으로 연결된다. 메모리(770)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(790)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(730)는 제어부(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
인터페이스부(780)는, 차량에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 이동 단말기(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기(600)와 연결할 수 있다. 이 경우, 인터페이스부(780)는 이동 단말기(600)와 데이터를 교환할 수 있다.
한편, 인터페이스부(780)는 연결된 이동 단말기(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, 제어부(770)의 제어에 따라, 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 이동 단말기(600)에 제공한다.
제어부(770)는, 차량 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(770)는 ECU(Electronic Control Unit)로 명명될 수 있다.
이러한 제어부(770)은 제어장치(100)의 실행 신호 전달에 따라서, 전달된 신호에 대응되는 기능을 실행할 수 있다.
제어부(770)는, 하드웨어적으로, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
제어부(770)는 전술한 프로세서(170)의 역할을 위임할 수 있다. 즉, 제어장치(100)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시 예에서는 제어장치(100)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다.
또는, 제어부(770)는 프로세서(170)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.
전원부(790)는, 제어부(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원부(770)는, 차량 내부의 배터리(미도시) 등으로부터 전원을 공급받을 수 있다.
AVN(Audio Video Navigation) 장치(400)는 제어부(770)와 데이터를 교환할 수 있다. 제어부(770)는 AVN 장치(400) 또는 별도의 내비게이션 장치(미도시)로부터 내비게이션 정보를 수신할 수 있다. 여기서, 여기서, 내비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한, 맵(map) 정보 또는 차량 위치 정보를 포함할 수 있다.
도 3을 참조하면, 이러한 제어장치(100)는 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 센서부(155), 프로세서(170), 디스플레이부(180), 오디오 출력부(185) 및 전원 공급부(190)를 포함할 수 있다. 다만, 도 3에 도시된 제어장치(100)의 유닛들은 제어장치(100)를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 제어장치(100)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. 여기서, 제어장치(100)에 포함되는 유닛과, 차량에 기재된 유닛 중 동일한 명칭을 갖는 유닛은, 차량에 포함되거나 제어장치(100)에 포함되는 것 중 어느 하나일 수 있다.
각 구성에 대해 상세히 설명하면, 제어장치(100)는 사용자의 입력을 감지하는 입력부(110)를 포함할 수 있다.
예를 들어, 사용자는, 입력부(110)를 통해 제어장치(100)가 제공하는 차량 운전 보조기능에 대한 설정 입력을 하거나, 제어장치(100)의 전원을 온(on)/오프(off)시키는 실행 입력 등을 할 수 있다.
이러한 입력부(110)는 사용자 제스쳐를 감지하는 제스쳐 입력부(예를 들어 (optical sensor) 등), 터치를 감지하는 터치 입력부(예를 들어, 터치 센서(touch sensor), 터치키(touch key), 푸시키(mechanical key) 등) 및 음성 입력을 감지하는 마이크로폰(microphone) 중 적어도 하나 이상을 포함하여, 사용자 입력을 감지할 수 있다.
다음으로, 제어장치(100)는 타차량(510), 단말기(600) 및 서버(500) 등과 통신하는 통신부(120)를 포함할 수 있다.
제어장치(100)는, 통신부(120)를 통해 내비게이션(Navigation) 정보, 타차량 주행정보 및 교통 정보 중 적어도 하나의 정보를 포함하는 통신 정보를 수신할 수 있다. 반대로, 제어장치(100)는, 통신부(120)를 통해 본 차량에 대한 정보를 송신할 수도 있다.
자세히, 통신부(120)는 이동 단말기(600) 또는/및 서버(500)로부터 위치 정보, 날씨 정보 및 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group) 등) 중 적어도 하나의 정보를 수신할 수 있다.
또한, 통신부(120)는 지능형 교통 시스템(ITS)을 갖춘 서버(500)로부터 교통 정보를 수신할 수 있다. 여기서, 교통 정보는 교통 신호 정보, 차선 정보, 차량 주변 정보 또는 위치 정보 등을 포함할 수 있다.
또한, 통신부(120)는 서버(500) 또는/및 이동 단말기(600)로부터 내비게이션 정보를 송신할 수도 있다. 여기서, 내비게이션 정보는, 차량 주행과 관련된 지도(map) 정보, 차선 정보, 차량의 위치 정보, 설정된 목적지 정보 및 목적지에 따른 경로 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
예를 들어, 통신부(120)는 내비게이션 정보로 차량의 실시간 위치를 수신할 수 있다. 자세히, 통신부(120)는 GPS(Global Positioning System) 모듈 또는/및 WiFi(Wireless Fidelity) 모듈을 포함하여 차량의 위치를 획득할 수 있다.
또한, 통신부(120)는, 타차량(510)으로부터 타차량(510)의 주행정보를 수신하고 본 차량의 정보를 송신하여, 차량간 주행정보를 서로 공유할 수 있다. 여기서, 서로 공유하는 주행정보는, 차량의 이동방향 정보, 위치 정보, 차속 정보, 가속도 정보, 이동경로 정보, 전진/후진 정보, 인접차량 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 제어장치(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 서로 페어링(pairing)을 수행할 수도 있다.
이러한 통신부(120)는 타차량(510), 이동 단말기(600) 또는 서버(500)와 무선(wireless) 방식으로 데이터를 교환할 수 있다.
자세히, 통신부(120)는 무선테이터 통신 방식을 이용하여 무선 통신할 수 있다. 무선 데이터 통신 방식으로는 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)을 이용할 수 있다.
또한, 통신부(120)는 무선 인터넷 기술을 이용할 수 있으며, 예를 들어, 무선 인터넷 기술로 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등을 이용할 수 있다.
또한, 통신부(120)는 근거리 통신(Short range communication)을 이용할 수 있으며, 예를 들어, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
또한, 제어장치(100)는 근거리 통신 방식을 이용하여 차량 내부의 이동 단말기와 페어링(paring)하고, 이동 단말기의 장거리 무선 통신 모듈을 이용하여 타차량(510) 또는 서버(500) 등과 무선으로 데이터를 교환할 수도 있다.
다음으로, 제어장치(100)는 차량의 데이터를 수신하거나 프로세서(170)에서 처리 또는 생성된 신호를 외부로 전송하는 인터페이스부(130)를 포함할 수 있다.
자세히, 제어장치(100)는 인터페이스부(130)를 통해 타차량 주행정보, 내비게이션 정보 및 센서 정보 중 적어도 하나의 정보를 수신할 수 있다.
또한, 제어장치(100)는 인터페이스부(130)를 통해 차량 운전 보조기능 실행을 위한 제어 신호나, 제어장치(100)에서 생성한 정보 등을 차량의 제어부(770)에 송신할 수 있다.
이를 위해, 인터페이스부(130)는 유선 통신 또는 무선 통신 방식에 의해 차량 내부의 제어부(770), AVN(Audio Video Navigation) 장치(400) 및 센싱부(760) 중 적어도 하나와 데이터 통신을 수행할 수 있다.
자세히, 인터페이스부(130)는 제어부(770), AVN 장치(400) 또는/및 별도의 내비게이션 장치와의 데이터 통신에 의해 내비게이션 정보를 수신할 수 있다.
또한, 인터페이스부(130)는 제어부(770) 또는 센싱부(760)로부터 센서 정보를 수신할 수 있다.
여기서, 센서 정보는 차량의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진/후진 정보, 연료 정보, 전후방 차량과의 거리 정보, 차량과 차선과의 거리 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 센서 정보는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 휠 센서(wheel sensor), 차량 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 도어 센서 등으로부터 획득될 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.
그리고 인터페이스부(130)는 차량의 사용자 입력부(110)를 통해 수신되는 사용자 입력을 수신할 수 있다. 인터페이스부(130)는 사용자 입력을 차량의 입력부로부터 수신하거나 제어부(770)를 거쳐 수신할 수 있다. 즉, 입력부가 차량 자체 내에 구성으로 배치된 경우, 인터페이스부(130)를 통해 사용자 입력을 전달받을 수 있다.
또한, 인터페이스부(130)는 서버(500)로부터 획득된 교통 정보를 수신할 수도 있다. 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있다. 예를 들면, 차량의 통신부(120)를 통해 서버(500)로부터 교통 정보가 수신되는 경우 인터페이스부(130)는 교통 정보를 제어부(770)로부터 수신할 수도 있다.
다음, 메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 제어장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
또한, 메모리(140)는 제어장치(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 제어장치(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 제어장치(100)의 기본적인 기능(예를 들어, 운전 보조정보 안내 기능)을 위하여 출고 당시부터 제어장치(100) 상에 존재할 수 있다.
그리고 이러한 응용 프로그램은, 메모리(140)에 저장되고, 프로세서(170)에 의하여 제어장치(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
한편, 메모리(140)는 영상에 포함되는 오브젝트 확인을 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 차량 주변 영상에서, 소정 오브젝트가 검출되는 경우, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에 차선, 교통 표지판, 이륜차, 보행자와 같은 소정의 오브젝트가 포함되면, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
이러한 메모리(140)는 하드웨어적으로, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
또한, 제어장치(100)는 인터넷(internet)상에서 메모리(140)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
다음으로, 모니터링부는 차량 내부 상황에 대한 정보를 획득할 수 있다.
모니터링부가 감지하는 정보는, 안면 인식 정보, 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 음성 인식(Voice recognition) 정보 중 적어도 하나 이상의 정보를 포함할 수 있다. 그리고 모니터링부는 이러한 생체 인식 정보를 센싱하는 기타 센서들을 포함할 수 있다.
다음으로, 제어장치(100)는 차량 주변 오브젝트를 감지하는 센서부(155)를 더 포함할 수 있다. 제어장치(100)는, 별도의 센서부(155)를 포함하여 주변 오브젝트를 감지할 수 있으며, 차량의 센싱부(770)에서 얻어진 센서 정보를 인터페이스부(130)를 통해 수신할 수도 있다. 그리고 이와 같이 획득된 센서 정보는, 차량 주변 정보에 포함될 수 있다.
이러한 센서부(155)는 차량 주변에 위치한 오브젝트의 위치를 감지하는 거리 센서(150)와, 차량 주변을 촬영하여 영상을 획득하는 카메라(160) 중 적어도 하나를 포함할 수 있다.
먼저, 거리 센서(150)는 본 차량에서 오브젝트의 위치, 오브젝트가 이격된 방향, 이격거리 또는 오브젝트의 이동 방향 등을 정밀하게 감지할 수 있다. 이러한 거리 센서(150)는 감지된 오브젝트와의 위치를 지속적으로 측정하여, 본 차량과의 위치관계에 대한 변화를 정확하게 감지할 수 있다.
이러한 거리 센서(150)는 차량의 전후좌우 중 적어도 하나의 영역에 위치한 오브젝트를 감지할 수 있다. 이를 위해, 거리 센서(150)는 차량의 다양한 위치에 배치될 수 있다.
자세히, 도 3을 참조하면, 거리 센서(150)는 차량의 바디의 전후좌우 및 천장 중 적어도 하나의 위치에 배치될 수 있다.
이러한 거리 센서(150)는, 라이다(lidar) 센서, 레이저(laser) 센서, 초음파(ultrasonic waves) 센서 및 스테레오 카메라(stereo camera) 등 다양한 거리 측정 센서 중 하나 이상을 포함할 수 있다.
예를 들어, 거리 센서(150)는 레이저 센서로서, 레이저 신호 변조 방법에 따라 시간 지연 방식(time-of-flight, TOF) 또는/및 위상 변조 방식(phase-shift) 등을 사용하여, 차량과 오브젝트 사이의 위치 관계를 정확히 측정할 수 있다.
한편, 오브젝트에 대한 정보는, 카메라(160)가 촬영한 영상을 프로세서(170)가 분석하여 획득될 수 있다.
자세히, 제어장치(100)는, 카메라(160)로 차량 주변을 촬영하고, 획득된 차량 주변 영상을 프로세서(170)가 분석하여 차량 주변 오브젝트를 검출하고, 오브젝트의 속성을 판단하여, 센서 정보를 생성할 수 있다.
여기서, 영상 정보는, 오브젝트의 종류, 오브젝트가 표시하는 교통 신호 정보, 오브젝트와 차량 사이의 거리 및 오브젝트의 위치 중 적어도 하나의 정보로서, 센서 정보에 포함될 수 있다.
자세히, 프로세서(170)는 이미지 처리를 통해 촬영된 영상에서 오브젝트를 검출하고, 오브젝트를 트래킹하고, 오브젝트와의 거리를 측정하고, 오브젝트를 확인하는 등의 오브젝트 분석을 수행함으로써, 영상 정보를 생성할 수 있다.
이러한 카메라(160)는 다양한 위치에 구비될 수 있다.
자세히, 카메라(160)는 차량 내부에서 차량의 전방을 촬영하여 전방 영상을 획득하는 내측 카메라(160f)를 포함할 수 있다.
또한, 도 4를 참조하면, 복수의 카메라(160)는, 각각 차량의 좌측, 후방, 우측, 전방 및 천장 중 적어도 하나 이상의 위치에 각각 배치될 수 있다.
자세히, 좌측 카메라(160b)는, 좌측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는, 좌측 카메라(160b)는, 좌측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 좌측 카메라(160b)는 좌측 프런트 도어, 좌측 리어 도어 또는 좌측 휀더(fender) 외측 일 영역에 배치될 수 있다.
우측 카메라(160c)는, 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는 우측 카메라(160c)는, 우측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 우측 카메라(160c)는 우측 프런트 도어, 우측 리어 도어 또는 우측 휀더(fendere) 외측 일 영역에 배치될 수 있다.
또한, 후방 카메라(160d)는, 후방 번호판 또는 트렁크 스위치 부근에 배치될 수 있다. 전방 카메라(160a)는, 앰블럼 부근 또는 라디에이터 그릴 부근에 배치될 수 있다.
한편, 프로세서(170)는 사방에서 촬영된 영상을 합성하여 차량을 탑뷰에서 바라본 어라운드 뷰 이미지를 제공할 수 있다. 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있다.
또한, 천장 카메라(160e)는 차량의 천장 상에 배치되어 차량의 전후좌우 방향을 모두 촬영할 수도 있다.
이러한 카메라(160)는 이미지 센서와 영상 처리 모듈을 직접 포함할 수도 있다. 카메라(160)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 또한, 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 영상 정보를 추출하고, 추출된 영상 정보를 프로세서(170)에 전달할 수도 있다.
프로세서(170)가 오브젝트 분석을 좀 더 수월하게 수행하기 위해, 실시예에서, 카메라(160)는 영상을 촬영함과 동시에 오브젝트와의 거리를 측정하는 스테레오 카메라일 수 있다.
센서부(155)는, 거리 센서(150)와 카메라(160)가 결합된 스테레오 카메라일 수 있다. 즉, 스테레오 카메라는 영상을 획득함과 동시에 오브젝트와의 위치 관계를 감지할 수 있다.
이하, 도 5 내지 도 7을 참조하여, 스테레오 카메라와, 프로세서(170)가 스테레오 카메라를 이용하여 영상 정보를 검출하는 방법을 좀더 상세히 설명한다.
먼저, 도 5를 참조하면, 스테레오 카메라(160)는 제1 렌즈(163a)를 구비하는 제1 카메라(160a), 제2 렌즈(163b)를 구비하는 제2 카메라(160b)를 포함할 수 있다.
한편, 차량 운전 보조 장치는, 각각, 제1 렌즈(163a)와 제2 렌즈(163b)에 입사되는 광을 차폐하기 위한, 제1 광 차폐부(light shield)(162a), 제2 광 차폐부(162b)를 더 구비할 수 있다.
이러한 차량 운전 보조 장치는 제1 및 제2 카메라(160a, 160b)로부터, 차량 주변에 대한 스테레오 이미지를 획득하고, 스테레오 이미지에 기초하여, 디스패러티(disparity) 검출을 수행하고, 디스패러티 정보에 기초하여, 적어도 하나의 스테레오 이미지에 대한, 오브젝트 검출을 수행하며, 오브젝트 검출 이후, 계속적으로, 오브젝트의 움직임을 트래킹할 수 있다.
도 6을 참조하면, 프로세서(170)의 내부 블록도의 일예로서, 제어장치(100) 내의 프로세서(170)는, 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450)를 포함할 수 있다. 도 5와 이하 설명에서는 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450) 순으로 영상이 처리되는 것으로 설명하나, 이에 한정되지는 않는다.
영상 전처리부(image preprocessor)(410)는, 카메라(160)로부터의 이미지를 수신하여, 전처리(preprocessing)를 수행할 수 있다.
구체적으로, 영상 전처리부(410)는, 이미지에 대한, 노이즈 리덕션(noise reduction), 렉티피케이션(rectification), 캘리브레이션(calibration), 색상 강화(color enhancement), 색상 공간 변환(color space conversion;CSC), 인터폴레이션(interpolation), 카메라(160) 게인 컨트롤(camera gain control) 등을 수행할 수 있다. 이에 따라, 카메라(160)에서 촬영된 스테레오 이미지 보다 선명한 이미지를 획득할 수 있다.
디스패러티 연산부(disparity calculator)(420)는, 영상 전처리부(410)에서 신호 처리된, 이미지를 수신하고, 수신된 이미지들에 대한 스테레오 매칭(stereo matching)을 수행하며, 스테레오 매칭에 따른, 디스패러티 맵(dispartiy map)을 획득할 수 있다. 즉, 차량 전방에 대한, 스테레오 이미지에 대한 디스패러티 정보를 획득할 수 있다.
이때, 스테레오 매칭은, 스테레오 이미지들의 픽셀 단위로 또는 소정 블록 단위로 수행될 수 있다. 한편, 디스패러티 맵은, 스테레오 이미지, 즉 좌,우 이미지의 시차(時差) 정보(binocular parallax information)를 수치로 나타낸 맵을 의미할 수 있다.
세그멘테이션부(segmentation unit)(432)는, 디스패러티 연산부(420)로부터의 디스페러티 정보에 기초하여, 이미지 중 적어도 하나에 대해, 세그먼트(segment) 및 클러스터링(clustering)을 수행할 수 있다.
구체적으로, 세그멘테이션부(432)는, 디스페러티 정보에 기초하여, 스테레오 이미지 중 적어도 하나에 대해, 배경(background)과 전경(foreground)을 분리할 수 있다.
예를 들면, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이하인 영역을, 배경으로 연산하고, 해당 부분을 제외시킬 수 있다. 이에 의해, 상대적으로 전경이 분리될 수 있다. 다른 예로, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이상인 영역을, 전경으로 연산하고, 해당 부분을 추출할 수 있다. 이에 의해, 전경이 분리될 수 있다.
이와 같이, 스테레오 이미지에 기반하여 추출된 디스페러티 정보 정보에 기초하여, 전경과 배경을 분리함으로써, 이후의, 오브젝트 검출시, 신호 처리 속도, 신호 처리 양 등을 단축할 수 있게 된다.
다음, 오브젝트 검출부(object detector)(434)는, 세그멘테이션부(432)로부터의 이미지 세그먼트에 기초하여, 오브젝트를 검출할 수 있다.
즉, 오브젝트 검출부(434)는, 디스페러티 정보 정보에 기초하여, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다.
구체적으로, 오브젝트 검출부(434)는, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다. 예를 들면, 이미지 세그먼트에 의해 분리된 전경으로부터 오브젝트를 검출할 수 있다.
다음, 오브젝트 확인부(object verification unit)(436)는, 분리된 오브젝트를 분류하고(classify), 확인할 수 있다(verify).
이를 위해, 오브젝트 확인부(436)는, 뉴럴 네트워크(neural network)를 이용한 식별법, SVM(Support Vector Machine) 기법, Haar-like 특징을 이용한 AdaBoost에 의해 식별하는 기법, 또는 HOG(Histograms of Oriented Gradients) 기법 등을 사용할 수 있다.
한편, 오브젝트 확인부(436)는, 메모리(140)에 저장된 오브젝트들과, 검출된 오브젝트를 비교하여, 오브젝트를 확인할 수 있다.
예를 들면, 오브젝트 확인부(436)는, 차량 주변에 위치하는, 주변 차량, 차선, 도로면, 표지판, 위험 지역, 터널 등을 확인할 수 있다.
오브젝트 트래킹부(object tracking unit)(440)는, 확인된 오브젝트에 대한 트래킹을 수행할 수 있다. 예를 들면, 순차적으로, 획득되는 스테레오 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다. 이에 따라, 차량 주변에 위치하는, 주변 차량, 차선, 도로면, 표지판, 위험 지역, 터널 등을 트래킹할 수 있게 된다.
다음, 어플리케이션부(450)는, 차량 주변에, 위치하는 다양한 오브젝트들, 예를 들면, 다른 차량, 차선, 도로면, 표지판 등에 기초하여, 차량의 위험도 등을 연산할 수 있다. 또한, 앞차와의 추돌 가능성, 차량의 슬립 여부 등을 연산할 수 있다.
그리고, 어플리케이션부(450)는, 연산된 위험도, 추돌 가능성, 또는 슬립 여부 등에 기초하여, 사용자에게, 이러한 정보를 알려주기 위한, 메시지 등을, 차량 운전 보조 정보로서, 출력할 수 있다. 또는, 차량의 자세 제어 또는 주행 제어를 위한 제어 신호를, 차량 제어 정보로서, 생성할 수도 있다.
한편, 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450)는 프로세서(170)내의 영상 처리부의 내부 구성일 수 있다.
한편, 실시예에 따라, 프로세서(170)는 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450) 중 일부만을 포함할 수 있다. 가령, 카메라(160)가 모노 카메라(160) 또는 어라운드 뷰 카메라(160)로 구성되는 경우, 디스패러티 연산부(420)는 제외될 수 있다. 또한, 실시예에 따라, 세그먼테이션부(432)는 제외될 수도 있다.
도 7을 참조하면, 제1 프레임 구간 동안, 카메라(160)는, 스테레오 이미지를 획득할 수 있다.
프로세서(170) 내의 디스패러티 연산부(420)는, 영상 전처리부(410)에서 신호 처리된, 스테레오 이미지(FR1a, FR1b)를 수신하고, 수신된 스테레오 이미지(FR1a, FR1b)에 대한 스테레오 매칭을 수행하여, 디스패러티 맵(dispartiy map)(520)을 획득한다.
디스패러티 맵(dispartiy map)(520)은, 스테레오 이미지(FR1a, FR1b) 사이의 시차를 레벨화한 것으로서, 디스패러티 레벨이 클수록, 차량과의 거리가 가깝고, 디스패러티 레벨이 작을수록, 차량과의 거리가 먼 것으로 연산할 수 있다.
한편, 이러한 디스패러티 맵을 디스플레이 하는 경우, 디스패러티 레벨이 클수록, 높은 휘도를 가지고, 디스패러티 레벨이 작을수록 낮은 휘도를 가지도록 표시할 수도 있다.
도면에서는, 디스패러티 맵(520) 내에, 제1 차선 내지 제4 차선(528a, 528b, 528c, 528d) 등이 각각 해당하는 디스패러티 레벨을 가지며, 공사 지역(522), 제1 전방 차량(524), 제2 전방 차량(526)이 각각 해당하는 디스패러티 레벨을 가지는 것을 예시한다.
세그멘테이션부(432)와, 오브젝트 검출부(434), 오브젝트 확인부(436)는, 디스패러티 맵(520)에 기초하여, 스테레오 이미지(FR1a, FR1b) 중 적어도 하나에 대한, 세그먼트, 오브젝트 검출, 및 오브젝트 확인을 수행한다.
도면에서는, 디스패러티 맵(520)을 사용하여, 제2 스테레오 이미지(FR1b)에 대한, 오브젝트 검출, 및 확인이 수행되는 것을 예시한다.
즉, 이미지(530) 내에, 제1 차선 내지 제4 차선(538a, 538b, 538c, 538d), 공사 지역(532), 제1 전방 차량(534), 제2 전방 차량(536)이, 오브젝트 검출 및 확인이 수행될 수 있다.
이와 같은 이미지 처리로, 제어장치(100)는 센서부(155)를 이용하여 주변 오브젝트가 무엇인지, 어디에 위치하는지 등의 다양한 차량 주변 정보들을 센서 정보로 획득할 수 있다.
다음으로, 제어장치(100)는, 그래픽 이미지를 표시하는 디스플레이부(180)를 더 포함할 수 있다. 디스플레이부(180)는 복수의 디스플레이를 포함할 수 있다. 디스플레이부(180)는 차량의 윈드실드(W)(windshield)에 그래픽 이미지를 투사하여 표시하는 제 1 디스플레이부(180a)를 포함할 수 있다. 즉, 제 1 디스플레이부(180a)는 HUD(Head Up Display)로, 윈드실드(W)에 그래픽 이미지를 투사하는 투사 모듈을 포함할 수 있다. 그리고 투사 모듈이 투사하는 투사 그래픽 이미지는 일정 투명도를 가질 수 있다. 따라서, 사용자는 그래픽 이미지 뒤 모습과 그래픽 이미지를 동시에 볼 수도 있다.
그리고 이러한 그래픽 이미지는 윈드실드(W)에 투영되는 투영 이미지와 겹쳐셔 증강현실(Augmented Reality, AR)을 이룰 수도 있다.
한편, 디스플레이부는 차량 내부에 별도로 설치되어 차량 운전 보조기능에 대한 이미지를 디스플레이하는 제 2 디스플레이부(180b)와 제3 디스플레이부(180c)를 포함할 수 있다.
자세히, 제 2 디스플레이부(180b)는 차량 내비게이션 장치의 디스플레이 또는 CID(center information display)일 수 있다. 제3 디스플레이부(180c)는 클러스터(cluster)일 수 있다.
제 2 디스플레이부(180b) 및 제3 디스플레이부(180c)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
이러한 제 2 디스플레이부(180b) 및 제3 디스플레이부(180c)는 제스쳐 입력부와 결합되어 터치 스크린을 이룰 수 있다.
다음으로, 오디오 출력부(185)는 제어장치(100)의 기능에 대한 설명, 실행 여부 등을 확인하는 메시지를 오디오로 출력할 수 있다. 즉, 제어장치(100)는, 디스플레이부(180)를 통한 시각적인 표시와 더불어 오디오 출력부(185)의 음향 출력을 통해 제어장치(100)의 기능에 대한 설명을 서로 보완할 수 있다.
다음으로, 햅틱 출력부는 차량 운전 보조기능에 대한 알람을 햅틱으로 출력할 수 있다. 예를 들어, 제어장치(100)는, 내비게이션 정보, 교통 정보, 통신 정보, 차량 상태 정보, 운전 보조기능(ADAS) 정보 및 기타 운전자 편의 정보 중 적어도 하나의 정보에 운전자에게 경고가 포함되면, 이를 진동으로 사용자에게 알릴 수 있다.
이러한 햅틱 출력부는, 방향성을 갖는 진동을 제공할 수 있다. 예를 들어, 햅틱 출력부는, 조향을 제어하는 스티어링에 배치되어 진동을 출력할 수 있으며, 진동 제공시 스티어링의 좌우를 구분하여 진동을 출력함으로써, 햅틱 출력의 방향성을 부여할 수 있다.
또한, 전원 공급부(190)는 프로세서(170)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다.
제어장치(100)는 제어장치(100) 내의 각 유닛의 전반적인 동작을 제어하는 프로세서(170)를 포함할 수 있다.
프로세서(170)는 제어부(770)의 역할을 위임할 수 있다. 즉, 제어장치(100)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시 예에서는 제어장치(100)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다. 또는, 프로세서(170)는 제어부(770)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.
나아가, 프로세서(170)는 상기 응용 프로그램의 구동을 위하여, 제어장치(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
이러한 프로세서(170)는 하드웨어 측면에서, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(170)(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
그리고 프로세서(170)는 상기 메모리(140)에 저장된 응용 프로그램과 관련된 동작 외에도, 통상적으로 제어장치(100)의 전반적인 동작을 제어한다. 프로세서(170)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(140)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
도 9를 참조하면, 카메라(160h)는 차량(700)의 내부 및 차량(700)에 탑승한 탑승자(900)를 촬영할 수 있다. 마이크(110, 723)는 차량(700)의 내부에서 발생하는 음향 또는 음성을 입력받을 수 있다. 마이크(110, 723)는 음성 입력부(110, 723)이라고 칭할 수 있다. 프로세서(170)는 카메라(160h)를 통해, 차량(700) 내부를 감지할 수 있다. 프로세서(170)는 카메라(160h)를 통해, 탑승자(900)의 움직임, 탑승자(900)의 상태를 감지할 수 있다. 프로세서(170)는 마이크(160h)를 통해 탑승자(900)의 음성을 감지할 수 있다. 프로세서(170)은 제어부(170)라고 칭할 수 있다.
에이전트 모듈(Agent module, 141)은 메모리(140)에 저장되는 프로그램일 수 있다. 에이전트 모듈(141)은 프로세서(170)에 의해 실행될 수 있다. 또는, 에이전트 모듈(141)은 프로세서(170)의 일부 또는 프로세서(170)일 수 있다. 프로세서(170)는 마이크(110)를 통해 탑승자(900)의 발화(speaking)을 수신할 수 있다. 탑승자(900)의 발화는 단어, 어구, 문장을 포함할 수 있다. 에이전트 모듈(141)은 탑승자(900)의 발화에 대해 응답할 내용을 생성할 수 있다. 프로세서(170)는 에이전트 모듈(141)이 생성한 내용을 대화 형식으로 응답할 수 있다. 프로세서(170)의 응답은 오디오 출력부(185)를 통해 음향으로 출력될 수 있다. 프로세서(170)는 탑승자(900)의 발화에 대해 답하는 형식으로 응답할 수 있다. 또는, 프로세서(170)는 디스플레이부(180)에 대화, 이미지, 텍스트 등을 표시하는 형식으로 응답할 수 있다.
검색의 대상이 되는 적어도 하나의 단어를 쿼리라고 할 수 있다. 쿼리는 검색쿼리라고 칭할 수 있다. 쿼리가 탑승자(900)의 발화로부터 생성되는 경우, 음성쿼리라고 칭할 수 있다. 쿼리는 복수의 단어를 포함할 수 있다. 프로세서(170)는 음성쿼리를 수신하는 경우, 텍스트 형태로 변환할 수 있다.
에이전트 모듈(141) 또는 프로세서(170)는 탑승자(900)로부터 수신된 쿼리에 대응하는 검색결과를 제공하는 기능을 구비할 수 있다.
에이전트 모듈(141) 또는 프로세서(170)는 탑승자(900)로부터 입력부(110)를 통해 음성쿼리를 수신하면, 텍스트 형태의 쿼리로 변환할 수 있다. 프로세서(170)는 메모리(140)의 데이터 베이스에서 쿼리에 대해 검색을 수행하고 검색결과를 출력할 수 있다.
또는, 프로세서(170)는 탑승자(900)로부터 입력부(110)를 통해 음성쿼리를 수신하면, 텍스트 형태의 쿼리로 변환할 수 있다. 프로세서(170)는 쿼리를 통신부(120)를 통해 서버(500)로 송신할 수 있다. 쿼리는 서버(500)의 검색엔진에서 실행될 수 있다. 프로세서(170)는 통신부(120)를 통해 서버(500)로부터 검색결과를 수신할 수 있다. 프로세서(170)는 수신한 검색결과를 출력할 수 있다.
에이전트 모듈(141), 또는 프로세서(170)는 탑승자(900)의 발화로부터 키워드를 추출할 수 있다. 또한, 에이전트 모듈(141) 또는 프로세서(170)는 탑승자(900)의 발화로부터 관련 키워드를 추론(inference)할 수 있다. 에이전트 모듈(141) 또는 프로세서(170)는 탑승자(900)의 발화명령을 수행하기 위해, 관련된 키워드를 추론할 수 있다. 키워드를 추론하는 과정은 에이전트 모듈(141), 프로세서(170) 또는 서버(500)에서 이루어질 수 있다.
도 10을 참조하면, 프로세서(170)는 다이얼로그(140a)를 생성할 수 있다. 다이얼로그(140a)는 탑승자(900)의 발화와 탑승자(900)의 발화에 응답하는 프로세서(170)의 응답을 저장한 것일 수 있다. 다이얼로그(140a)는 탑승자(900)의 발화와 프로세서(170)의 응답을 텍스트 형태로 저장할 수 있다. 다이얼로그(140a)는 탑승자(900)의 발화와 프로세서(170)의 응답을 시간의 흐름에 따른 순서로 저장할 수 있다. 다이얼로그(140a)는 탑승자(900)의 발화내용 또는 프로세서(170)의 응답과 관련된 컨텐츠를 함께 저장할 수 있다. 관련된 컨텐츠는 시간정보, 이미지정보, 영상정보, 주행정보, 차량의 위치정보, 목적지, 출발지, 경유지 등 일 수 있다. 프로세서(170)는 디스플레이부(180)를 통해 다이얼로그 및 다이얼로그와 관련된 컨텐츠를 함께 표시할 수 있다.
탑승자(900)의 발화와 프로세서(170)의 응답이 연속되는 것을 대화 또는 커뮤니케이션이라고 칭할 수 있다. 다이얼로그(140a)는 대화 또는 커뮤니케이션이 저장되는 것일 수 있다.
프로세서(170)가 응답하는 내용은 에이전트 모듈(141)이 자체적으로 생성한 내용일 수 있다. 또는, 프로세서(170)는 통신부(120)를 통해 탑승자(900)의 발화 내용을 외부로 전송할 수 있고, 외부에서 수신한 내용을 탑승자(900)의 발화 내용에 대한 응답으로 출력할 수 있다. 예를 들어, 프로세서(170)는 통신부(120)를 통해 탑승자(900)의 발화 내용을 서버(500)로 전송할 수 있다. 서버(500)는 탑승자(900)의 발화 내용에 기초하여 응답할 내용을 생성할 수 있고, 이를 프로세서(170)에 송신할 수 있다. 프로세서(170)는 서버(500)로부터 수신한 내용을 탑승자(900)의 발화 내용에 대한 응답으로 출력할 수 있다. 이하에서는, 프로세서(170)가 응답하는 내용은 에이전트 모듈(141)이 자체적으로 생성한 경우와 외부로부터 수신하는 것을 모두 포함할 수 있다.
주행정보는 차량(700)의 주행모드, 차량(700)의 상태, 주행상태, 차량(700)의 이동방향, 차량(700)의 주변상황, 차량(700) 내부의 상황 등을 포함할 수 있다.
주행모드는 차량(700)의 운행이 운전자의 수동으로 이루어지는지, 차량(700)의 운행이 프로세서(170)에 의해 자동으로 이루어지는지 또는 차량(700)의 운행이 부분적으로 운전자의 수동으로 이루어지고 나머지가 프로세서(170)에 의해 자동으로 이루어지는지에 따라 구별될 수 있다.
프로세서(170)는 디스플레이부(180)를 통해 다이얼로그를 이미지(140a)로 표시할 수 있다. 프로세서(170)는 탑승자(900)가 발화한 내용(900a)과 프로세서(170)가 응답한 내용(200a)을 구별하여 표시할 수 있다.
프로세서(170)는 미리 정해진 입력을 통해, 에이전트 모듈(141)을 활성화시키거나 호출할 수 있다. 또는, 다이얼로그와 관련된 기능을 활성화시킬 수 있다. 미리 정해진 입력은 탑승자(900)가 특정 내용을 발화하는 음성입력, 터치입력 또는 버튼입력 등을 포함할 수 있다. 예를 들어, 미리 정해진 입력은 탑승자(900)가 “Hi, LG”라고 발화하는 것일 수 있다. 프로세서(170)는 마이크(110) 또는 카메라(160h) 등을 통해 미리 정해진 입력을 감지할 수 있다. 프로세서(170)는 탑승자(900)의 발화 없이 일정 시간이 경과하면 에이전트 모듈(141)을 비활성화시킬 수 있다.
프로세서(170)는 미리 정해진 입력이 수신되면, 마이크(110)를 활성화시킬 수 있다. 프로세서(170)는 미리 정해진 입력이 수신되면 일정 시간 동안 마이크(110)를 활성화시킬 수 있다. 프로세서(170)는 탑승자(900)의 발화 없이 일정 시간이 경과하면 마이크(110)를 비활성화시킬 수 있다.
메모리(140)는 복수의 다이얼로그를 저장할 수 있다. 프로세서는 메모리(140)에 저장된 복수의 다이얼로그를 선택적, 반복적 로딩할 수 있다.
도 11을 참조하면, 디스플레이부(180c)는 이미지를 표시할 수 있다. 디스플레이부(180c)는 클러스터(180c)라고 칭할 수 있다. 클러스터(180c)는 표시영역을 제1 표시영역(181), 제2 표시영역(182) 및 제3 표시영역(183)으로 나누어 이미지를 표시할 수 있다. 각 표시영역(181, 182, 183)은 서로 다른 이미지를 표시할 수 있다.
제1 표시영역(181)은 차량(700)의 속도와 관련된 이미지(181a)를 표시할 수 있다. 예를 들어, 제1 표시영역(181)은 차량(700)의 현재속도, 차량(700)이 주행하고 있는 도로의 제한속도를 표시할 수 있다.
제2 표시영역(182)은 네비게이션(182a)을 표시할 수 있다. 또는, 제2 표시영역(182)은 차량(700)의 자율주행과 관련된 기능을 표시할 수 있다. 예를 들어, 현재 차량(700)의 주행에서 활성화 되어 있는 ADAS(Advanced Driver Assistance System) 기능을 표시할 수 있다.
제3 표시영역(183)은 차량(700)의 전력과 관련된 정보(183a, 183b)를 표시할 수 있다. 예를 들어, 차량(700)이 전기모터로 구동되는 경우, 제3 표시영역(183)은 차량(700)의 배터리(790)의 잔존 전력을 숫자(183a)와 게이지(183b)로 표시할 수 있다.
도 12를 참조하면, 프로세서(170)는 탑승자(900)의 발화를 통해 음성쿼리를 수신할 수 있다. 프로세서(170)는 마이크(110)를 통해 탑승자(900)의 음성쿼리를 수신할 수 있다. 프로세서(170)는 음성쿼리에 대응하여 이미지를 표시할 수 있다.
제1 표시영역(184)은 프로세서(170)가 인식한 탑승자(900)의 발화 내용을 텍스트로 표시할 수 있다. 제2 표시영역(185)은 프로세서(170)가 탑승자(900)의 발화로부터 인식한 키워드(185a)를 표시할 수 있다. 제2 표시영역(185)은 탑승자(900)의 발화로부터 추론된 키워드(185b)를 표시할 수 있다. 제3 표시영역(186)은 탑승자(900)의 발화로부터 인식한 키워드(185a)와 탑승자(900)의 발화로부터 추론된 키워드(185b)에 기초하여 검색한 결과를 표시할 수 있다.
예를 들어, 탑승자(900)는 “목적지 주변 주차장을 찾아줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “주차장”이라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 네비게이션의 정보를 통해 차량(700)의 목적지와 경로 정보를 획득할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 주차장까지의 거리, 주차장의 형태, 주차장의 가격 등을 추론하고, 이를 추론된 키워드(185b)로 표시할 수 있다. 탑승자(900)의 발화로부터 인식한 키워드(185a)와 탑승자(900)의 발화로부터 추론된 키워드(185b)는 서로 다르게 표시될 수 있다. 예를 들어, 글자 폰트, 글자 색깔, 글자 크기, 글자 주변의 배경 패턴, 글자 주변의 배경 색깔 등을 다르게 할 수 있다. 또는, 키워드(185a, 185b)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있다. 또한, 서로 관련된 키워드는 서로 연관되도록 표시될 수 있다. 또한, 키워드(185a, 185b)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있고, 서로 관련된 키워드의 버블 형태의 배경은 서로 연결될 수 있다.
도 13을 참조하면, 프로세서(170)는 탑승자(900)의 추가적인 발화에 기초하여 다이얼로그를 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 추가적인 발화로부터 추론된 키워드를 업데이트할 수 있다.
예를 들어, 탑승자(900)는 “반경 100m 이내로만”이라고 추가적인 발화를 할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “100m”이라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 추론된 키워드 “거리: 주변 300m”를 “거리: 주변 100m”라는 키워드로 업데이트할 수 있다. 프로세서(170)는 업데이트된 키워드(185c)를 추론된 후 업데이트 되지 않은 키워드(185b)와 다르게 표시할 수 있다. 예를 들어, 글자 폰트, 글자 색깔, 글자 크기, 글자 주변의 배경 패턴, 글자 주변의 배경 색깔 등을 다르게 할 수 있다. 또는, 키워드(185a, 185b, 185c)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있다. 또한, 서로 관련된 키워드는 서로 연관되도록 표시될 수 있다. 또한, 키워드(185a, 185b, 185c)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있고, 서로 관련된 키워드의 버블 형태의 배경은 서로 연결될 수 있다.
프로세서(170)는 탑승자(900)의 발화로부터 인식한 키워드(185a), 업데이트된 키워드(185c) 및 추론된 후 업데이트되지 않은 키워드(185b)에 기초하여 검색한 결과를 제3 표시영역(186)에 표시할 수 있다.
도 14를 참조하면, 프로세서(170)는 탑승자(900)의 추가적인 발화에 기초하여 다이얼로그를 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 추가적인 발화로부터 추론된 키워드를 업데이트할 수 있다.
예를 들어, 탑승자(900)는 “실내 주차장으로 만”이라고 추가적인 발화를 할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “실내”라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 추론된 키워드 “형태: 실내/외”를 “형태: 실내”라는 키워드로 업데이트할 수 있다. 프로세서(170)는 업데이트된 키워드(185c)를 추론된 후 업데이트 되지 않은 키워드(185b)와 다르게 표시할 수 있다. 예를 들어, 글자 폰트, 글자 색깔, 글자 크기, 글자 주변의 배경 패턴, 글자 주변의 배경 색깔 등을 다르게 할 수 있다. 또는, 키워드(185a, 185b, 185c)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있다. 또한, 서로 관련된 키워드는 서로 연관되도록 표시될 수 있다. 또한, 키워드(185a, 185b, 185c)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있고, 서로 관련된 키워드의 버블 형태의 배경은 서로 연결될 수 있다.
프로세서(170)는 탑승자(900)의 발화로부터 인식한 키워드(185a), 업데이트된 키워드(185c) 및 추론된 후 업데이트되지 않은 키워드(185b)에 기초하여 검색한 결과를 제3 표시영역(186)에 표시할 수 있다.
프로세서(170)는 탑승자(900)의 발화로부터 검색한 결과가 존재하지 않는 경우, 탑승자(900)에게 주행전략을 제안하는 이미지를 표시할 수 있다. 예를 들어, 탑승자의 발화를 만족하는 결과를 찾기 위해, 속도를 높이는 주행전략을 제안할 수 있다. 주행전략이란, 안전을 주 목적으로 하는 주행, 연비를 주 목적으로 하는 주행, 최단경로 주행, 최소시간 주행일 수 있다.
도 15를 참조하면, 프로세서(170)는 탑승자(900)의 추가적인 발화에 기초하여 다이얼로그를 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 추가적인 발화로부터 추론된 키워드를 업데이트할 수 있다.
예를 들어, 탑승자(900)는 “시간 당 2000원 이내로”라고 추가적인 발화를 할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “2000원”라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 추론된 키워드 “가격: 제한없음”을 “가격: 2000원 이하”라는 키워드로 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 인식한 키워드(185a) 및 업데이트된 키워드(185c)에 기초하여 검색한 결과를 제3 표시영역(186)에 표시할 수 있다. 키워드(185a, 185c)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있다. 또한, 서로 관련된 키워드는 서로 연관되도록 표시될 수 있다. 또한, 키워드(185a, 185c)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있고, 서로 관련된 키워드의 버블 형태의 배경은 서로 연결될 수 있다.
도 16의 (a)를 참조하면, 프로세서(170)는 탑승자(900)의 발화를 통해 음성쿼리를 수신할 수 있다. 프로세서(170)는 마이크(110)를 통해 탑승자(900)의 음성쿼리를 수신할 수 있다. 프로세서(170)는 음성쿼리에 대응하여 이미지를 표시할 수 있다.
제1 표시영역(187)은 프로세서(170)가 인식한 탑승자(900)의 발화 내용을 텍스트로 표시할 수 있다. 제2 표시영역(188)은 프로세서(170)가 탑승자(900)의 발화로부터 인식한 키워드를 표시할 수 있다. 제3 표시영역(189)은 탑승자(900)의 발화로부터 추론된 키워드를 표시할 수 있다.
예를 들어, 탑승자(900)는 “가다가 점심 먹고 가자! 가벼운 게 좋을 것 같어~”라고 발화할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “점심, 가벼운”이라는 키워드를 추출하고 표시(188)할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “가벼운”과 관련된 음식종류, 장소, 시간 등을 추론하고, 이를 추론된 키워드(189)로 표시할 수 있다. 탑승자(900)의 발화로부터 인식한 키워드(188)와 탑승자(900)의 발화로부터 추론된 키워드(189)는 서로 다르게 표시될 수 있다. 예를 들어, 글자 폰트, 글자 색깔, 글자 크기, 글자 주변의 배경 패턴, 글자 주변의 배경 색깔 등을 다르게 할 수 있다. 또는, 키워드(188, 189)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있다. 또한, 서로 관련된 키워드는 서로 연관되도록 표시될 수 있다. 또한, 키워드(188, 189)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있고, 서로 관련된 키워드의 버블 형태의 배경은 서로 연결될 수 있다.
도 16의 (b)를 참조하면, 프로세서(170)는 탑승자(900)의 추가적인 발화에 기초하여 다이얼로그를 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 추가적인 발화로부터 추론된 키워드를 업데이트할 수 있다.
예를 들어, 탑승자(900)는 “아직 배가 많이는 안고파서 1시 반쯤 먹을래”라고 추가적인 발화를 할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “1시 반쯤”이라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 차량(700)의 네비게이션으로부터 차량(700)의 목적지, 경로 등에 관한 정보를 획득할 수 있고, 차량(700)이 1시 반쯤에 양재 근처를 지날 것임을 추론할 수 있다. 프로세서(170)는 추론된 키워드(189) “1시”를 탑승자(900)의 발화로부터 인식한 키워드(188) “1시 반”으로 업데이트하여 표시할 수 있다. 프로세서(170)는 추론된 키워드(189) “강남”을 추론된 키워드(189) “양재”로 업데이트하여 표시할 수 있다. 또한, 프로세서(170)는 추론된 키워드(189) “면”에 대한 추론이 확실한 정보라고 판단하면 확정적인 키워드(188)로 표시할 수 있다.
도 17을 참조하면, 프로세서(170)는 탑승자(900)의 발화 또는 음성쿼리에 대해 대화형식으로 응답할 수 있다. 프로세서(170)는 탑승자(900)의 발화 또는 음성쿼리에 대한 응답을 이미지(180c1)로 표시할 수 있다. 이미지(180c1)는 탑승자(900)의 발화 또는 음성커리와 프로세서(170)의 응답을 구별되는 텍스트로 표시할 수 있다. 프로세서(170)는 탑승자(900)의 발화 또는 음성쿼리와 프로세서(170)의 응답이 구별되도록 탑승자(900)의 이미지(900a)와 프로세서(170)의 이미지(200a)를 표시할 수 있다.
제1 표시영역(203)은 프로세서(170)가 탑승자(900)의 발화로부터 인식한 키워드를 표시할 수 있다. 제2 표시영역(204)은 탑승자(900)의 발화로부터 추론된 키워드를 표시할 수 있다. 제3 표시영역(202)은 탑승자(900)의 발화로부터 인식한 키워드와 탑승자(900)의 발화로부터 추론된 키워드에 기초하여 검색한 결과를 표시할 수 있다. 제4 표시영역(201)은 제3 표시영역(202)에 표시되는 복수의 결과 중 탑승자의 발화의도와 가장 가까운 검색결과를 표시할 수 있다.
예를 들어, 탑승자(900)는 “Let's stop by for lunch. Find me something to eat lightly”라고 발화할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “lunch, light”라는 키워드를 추출하고 이미지(203)로 표시할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 시간 및 장소와 관련된 키워드를 추론하고 이미지(204)로 표시할 수 있다. 또는, 프로세서(170)는 서버(500) 로부터 “popularity”라는 키워드를 추론했음을 이미지(204)로 표시할 수 있다. 프로세서(170)는 추론된 키워드 “12:30pm, Central station”와 탑승자(900)의 발화로부터 인식한 키워드 ”lunch, light”에 기초하여 검색한 음식점의 결과를 추론된 키워드 “popularity” 기준에 따라 정렬한 후 제3 표시영역(202)에 표시할 수 있다. 프로세서는 검색된 음식점 중 “popularity” 기준에 가장 가깝다고 판단되는 “Salad Shack”을 제4 표시영역(201)에 표시할 수 있다. 탑승자(900)의 발화로부터 인식한 키워드(203)와 탑승자(900)의 발화로부터 추론된 키워드(204)는 서로 다르게 표시될 수 있다. 예를 들어, 글자 폰트, 글자 색깔, 글자 크기, 글자 주변의 배경 패턴, 글자 주변의 배경 색깔 등을 다르게 할 수 있다. 또는, 키워드(203, 204)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있다. 또한, 서로 관련된 키워드는 서로 연관되도록 표시될 수 있다. 또한, 키워드(203, 204)는 버블 형태의 그래픽 객체를 배경으로 표시될 수 있고, 서로 관련된 키워드의 버블 형태의 배경은 서로 연결될 수 있다.
도 18을 참조하면, 프로세서(170)는 탑승자(900)의 추가적인 발화에 기초하여 다이얼로그를 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 추가적인 발화로부터 추론된 키워드를 업데이트할 수 있다.
예를 들어, 탑승자(900)는 “Show me some places to eat at 1 o'clock”이라고 추가적인 발화를 할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “1pm”이라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 차량(700)의 네비게이션으로부터 차량(700)의 목적지, 경로 등에 관한 정보를 획득할 수 있고, 차량(700)이 1시쯤에 Soho 근처를 지날 것임을 추론할 수 있다. 프로세서(170)는 추론된 키워드(204) “12:30pm”를 탑승자(900)의 발화로부터 인식한 키워드(203) “1pm”으로 업데이트하여 표시할 수 있다. 프로세서(170)는 추론된 키워드(204) “Central station”을 추론된 키워드(205) “Soho”로 업데이트하여 표시할 수 있다. 또한, 프로세서(170)는 추론된 키워드(204) “Soho”에 대한 추론이 확실하지 않다고 판단하면 불확실한 키워드(205)로 표시할 수 있다. 프로세서(170)는 추론된 키워드 “Soho”와 탑승자(900)의 발화로부터 인식한 키워드 ”lunch, light, 1pm”에 기초하여 검색한 음식점의 결과를 추론된 키워드 “popularity” 기준에 따라 정렬한 후 제3 표시영역(202)에 표시할 수 있다. 프로세서는 검색된 음식점 중 “popularity” 기준에 가장 가깝다고 판단되는 “Fine Deli”을 제4 표시영역(201)에 표시할 수 있다.
도 19를 참조하면, 프로세서(170)는 탑승자(900)의 추가적인 발화에 기초하여 다이얼로그를 업데이트할 수 있다. 프로세서(170)는 탑승자(900)의 추가적인 발화로부터 추론된 키워드를 업데이트할 수 있다.
예를 들어, 탑승자(900)는 “Show me places with the lowest price”이라고 추가적인 발화를 할 수 있다. 프로세서(170)는 탑승자(900)의 발화로부터 “price”이라는 키워드를 추출하고 표시할 수 있다. 프로세서(170)는 검색한 음식점의 결과를 추론된 키워드 “price” 기준에 따라 정렬한 후 제3 표시영역(202)에 표시할 수 있다. 프로세서는 검색된 음식점 중 “popularity” 기준에 가장 가깝다고 판단되는 “Tasty Greens”을 제4 표시영역(201)에 표시할 수 있다.
도 20을 참조하면, 프로세서(170)는 탑승자(900)의 발화를 인식할 수 있다(S1910). 프로세서(170)는 탑승자(900)의 발화에 기초하여 다이얼로그를 업데이트할 수 있다(S1920). 다이얼로그를 업데이트하는 단계(S1920)는, 탑승자(900)의 발화에서 추론한 키워드를 순차적으로 입력되는 탑승자(900) 발화에 기초하여 업데이트하는 단계(S1921)과 업데이트 된 키워드에 기초하여 검색한 결과를 제공하는 단계(S1922)를 포함한다. 프로세서(170)는 다이얼로그의 업데이트 과정 실시간으로 표시할 수 있다(S1930). 다이얼로그를 업데이트하는 과정을 실시간으로 표시하는 단계는 탑승자(900)의 발화와 추론된 키워드를 시각적으로 구분되도록 표시하는 단계를 포함할 수 있다(S1931).
도 21을 참조하면, 프로세서(170)는 탑승자(900)의 제1 발화에 직접 포함된 키워드를 제1 검색쿼리로 추출할 수 있다(S2010). 프로세서(170)는 탑승자(900)의 발화로부터 추론한 키워드를 제2 검색쿼리로 추출할 수 있다(S2020). 프로세서(170)는 제1 검색쿼리에 기초하여 검색된 1차 검색결과와 제1 검색쿼리 및 제2 검색쿼리를 제공할 수 있다(S2030).
도 22를 참조하면, 프로세서(170)는 1차 검색결과가 제공된 후, 탑승자(900)의 제2 발화 인식할 수 있다(S2110). 프로세서(170)는 제2 검색쿼리 중 적어도 하나의 키워드가 제2 발화에 포함된 키워드로 정정될 필요가 존재하는지 판단할 수 있다(S2120). 프로세서(170)는 제2 검색쿼리 중 적어도 하나의 키워드를 정정하여 제1 검색쿼리로 전환할 수 있다(S2130).
도 23을 참조하면, 프로세서(170)는 1차 검색결과가 제공된 후, 탑승자(900)의 제2 발화 인식할 수 있다(S2210). 프로세서(170)는 제2 검색쿼리 중 적어도 하나의 키워드가 제2 발화에 포함된 키워드로 정정될 필요가 존재하는지 판단할 수 있다(S2220). 프로세서(170)는 제2 검색쿼리 중 적어도 하나의 키워드를 정정하여 제1 검색쿼리로 전환할 수 있다(S2230). 프로세서(170)는 제1 검색쿼리, 제2 검색쿼리, 그리고 제3 검색쿼리가 시각적으로 서로 구분되도록 표시특성을 달리하여 표시하거나(S2241), 순차적으로 입력되는 제1 발화, 제2 발화에 따라 제1 검색쿼리, 제2 검색쿼리 및 제3 검색쿼리의 표시 특성을 실시간으로 업데이트하여 표시할 수 있다(S2242).
본 발명은 다음의 실시예를 포함할 수 있다.
실시예 1: 입력되는 탑승자의 발화(speaking)에 대화 형식(dialogue type)으로 응답(response)을 구성하는 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module)을 이용하여 차량을 제어하는 제어방법에 있어서, 음성 입력부를 통해 상기 탑승자의 발화(speaking)을 입력받는 단계; 상기 탑승자의 발화를 통한 검색 요청에 따라 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그를 업데이트하는 단계; 및 상기 다이얼로그의 업데이트 과정을 실시간으로 디스플레이에 표시하는 단계;를 포함하되, 상기 다이얼로그를 업데이트하는 단계는, 상기 탑승자의 발화로부터 추론한(inferrence) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하는 단계, 및 상기 업데이트된 키워드에 기초하여 상기 검색 결과를 제공하는 단계를 포함하며, 상기 디스플레이에 표시하는 단계는, 상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 하는 제어방법.
실시예 2: 실시예 1에 있어서, 상기 다이얼로그를 업데이트 단계는, 상기 탑승자의 제1 발화에 직접적으로 포함된 적어도 하나의 키워드를 제1 검색 쿼리(search query)로 추출하는 단계; 상기 탑승자의 발화로부터 추론한(inferrence) 적어도 하나의 키워드를 제2 검색 쿼리로 추출하는 단계; 및 상기 제1 검색 쿼리, 제2 검색 쿼리 및 상기 제1 검색 쿼리에 기초하여 검색된 1차 검색 결과를 상기 디스플레이에 표시하는 단계;를 더 포함하는 것을 특징으로 하는 제어방법.
실시예 3: 실시예 2에 있어서, 상기 1차 검색 결과가 제공된 후, 상기 탑승자의 제2 발화를 입력받는 단계; 및 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 상기 제2 발화에 포함된 키워드로 정정될 필요가 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 정정하여 상기 제1 검색 쿼리로 전환하는 단계;를 더 포함하는 것을 특징으로 하는 제어방법.
실시예 4: 실시예 3에 있어서, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 재추론(re-inferrence)될 필요성이 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 재추론하여 제3 검색 쿼리로 전환하고, 업데이트된 상기 제1 검색 쿼리에 기초하여 검색된 2차 검색 결과를 상기 디스플레이에 표시하는 단계;를 더 포함하는 것을 특징으로 하는 제어방법.
실시예 5: 실시예 4에 있어서, 상기 디스플레이에 표시하는 단계는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리가 시각적으로 서로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 하는 제어방법.
실시예 6: 실시예 5에 있어서, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 색상이 서로 다르게 표시되는 것을 특징으로 하는 제어방법.
실시예 7: 실시예 5에 있어서, 상기 디스플레이에 표시하는 단계는, 순차적으로 입력되는 상기 제1 발화, 제2 발화에 따라 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 표시 특성을 실시간으로 업데이트하여 표시하는 것을 특징으로 하는 제어방법.
실시예 8: 실시예 2에 있어서, 상기 다이얼로그를 상기 디스플레이에 표시하는 단계;를 더 포함하되, 상기 탑승자와 상기 에이전트 모듈의 대화를 표시하는 대화창(dialogue window) 및 상기 검색 결과를 함께 표시하는 것을 특징으로 하는 제어방법.
실시예 9: 실시예 8에 있어서, 상기 검색 결과는, 상기 검색 결과에 대응하는 적어도 하나의 이미지 또는 적어도 하나의 텍스트가 포함된 리스트를 제공되는 것을 특징으로 하는 제어방법.
실시예 10: 실시예 8에 있어서, 상기 탑승자의 발화를 인식하여 제1 텍스트로 전환하는 단계; 및 상기 에이전트 모듈을 통해 상기 탑승자의 발화에 대한 응답 또는 상기 검색 결과를 설명하는 제2 텍스트를 생성하는 단계; 및 상기 제2 텍스트의 적어도 일부를 음성 출력부를 통해 출력하는 단계;를 더 포함하되, 상기 대화창은, 상기 제1 텍스트와 제2 텍스트가 선택적으로(selectively) 표시되는 제1 영역과, 상기 제1 영역을 제외한 영역으로서, 상기 제1 검색 쿼리와 제2 검색 커리가 표시되는 제2 영역으로 구분되는 것을 특징으로 하는 제어방법.
실시예 11: 실시예 10에 있어서, 상기 제1 영역에 표시되는 상기 제1 텍스트는 상기 탑승자가 발화한 내용 전체를 포함하고, 상기 제2 텍스트는 적어도 일부가 텍스트, 이미지 또는 그래픽 객체로 상기 제1 영역에 표시되는 것을 특징으로 하는 제어방법.
실시예 12: 실시예 10에 있어서, 상기 제1 영역은, 원형의 그래픽 객체인 것을 특징으로 하는 제어방법.
실시예 13: 실시예 10에 있어서, 상기 제1 검색 쿼리 및 제2 검색 쿼리는 버블 형태의 그래픽 객체로 표현되며, 검색 쿼리를 구성하는 각각의 키워드가 독립된 버블에 포함되도록 표시되며, 상기 각각의 키워드가 동일 또는 유사한 기준에 의해 추출된 경우, 각 버블의 적어도 일부가 연결되어 하나의 그룹으로 표현되는 것을 특징으로 하는 제어방법.
실시예 14: 실시예 13에 있어서, 상기 키워드를 추출하는 기준은, 경로, 위치 정보, 시간 또는 상기 탑승자의 발화 내용, 검색 출처 중 적어도 하나를 포함하는 것을 특징으로 하는 제어방법.
실시예 15: 실시예 2에 있어서, 상기 제2 검색 쿼리를 구성하는 적어도 하나의 키워드는, 상기 에이전트 모듈에 의해 추출되거나, 무선 통신부를 통해 외부 서버로부터 수신된 키워드를 포함하는 것을 특징으로 하는 제어방법.
실시예 16: 디스플레이; 탑승자의 발화(speaking)를 입력받는 음성 입력부; 입력되는 상기 탑승자의 발화에 대하여 대화 형식(dialogue type)의 응답(response)으로 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module): 및 상기 다이얼로그는, 상기 탑승자의 발화를 통한 검색 요청 및 상기 에이전트 모듈이 제공하는 검색 결과로 구성되며, 상기 탑승자의 발화 및 상기 이에전트 모듈이 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그가 업데이트되는 과정을 실시간으로 상기 디스플레이에 표시하는 제어부;를 포함하고, 상기 에이전트 모듈은, 상기 탑승자의 발화로부터 추론한(inferrence) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하고, 상기 업데이트된 키워드에 기초한 검색 결과를 제공하며, 상기 제어부는, 상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 다리하여 표시하는 것을 특징으로 하는 제어장치.
실시예 17: 실시예 16에 있어서, 상기 에이전트 모듈은, 상기 탑승자의 제1 발화에 직접적으로 포함된 적어도 하나의 키워드를 제1 검색 쿼리(search query)로 추출하고, 상기 탐승자의 발화로부터 추론한(inferrence) 적어도 하나의 키워드를 제2 검색 쿼리로 추출하며, 상기 제어부는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 상기 제1 검색 쿼리에 기초하여 검색된 1차 검색 결과를 상기 디스플레이에 표시하는 것을 특징으로 하는 제어장치.
실시예 18: 실시예 17에 있어서, 상기 에이전트 모듈은, 상기 1차 검색 결과가 제공된 후, 상기 탑승자의 제2 발화를 인식하고, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 상기 제2 발화에 포함된 키워드로 정정될 필요가 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 정정하여 상기 제1 검색 쿼리로 전환하는 것을 특징으로 하는 제어장치.
실시예 19: 실시예 18에 있어서, 상기 에이전트 모듈은, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도의 키워드가 재추론(re-inferrence)될 필요성이 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 재추론하여 제3 검색 쿼리로 추출하고, 상기 제어부는, 상기 업데이트된 상기 제1 검색 쿼리에 기초하여 검색된 2차 검색 결과를 상기 디스플레이에 표시하는 것을 특징으로 하는 제어장치.
실시예 20: 실시예 19에 있어서, 상기 제어부는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리가 시각적으로 서로 구분되도록 표시 특성을 달리하여 표시되도록 제어하는 것을 특징으로 하는 제어장치.
실시예 21: 실시예 20에 있어서, 상기 제어부는, 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 색상이 서로 다르게 표시되도록 제어하는 것을 특징으로 하는 제어장치.
실시예 22: 실시예 20에 있어서, 상기 제어부는, 순차적으로 입력되는 상기 제1 발화, 제2 발화에 따라 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 표시 특성을 실시간으로 업데이트하여 표시하는 것을 특징으로 하는 제어장치.
실시예 23: 실시예 17에 있어서, 상기 제어부는, 상기 다이얼로그를 상기 디스플레이에 표시하되, 상기 탑승자와 상기 에이전트 모듈의 대화를 표시하는 대화창(dialogue window) 및 상기 검색 결과를 함께 표시하는 것을 특징으로 하는 제어장치.
실시예 24: 실시예 23에 있어서, 상기 검색 결과는, 상기 검색 결과에 대응하는 적어도 하나의 이미지 또는 적어도 하나의 텍스트가 포함된 리스트를 제공되는 것을 특징으로 하는 제어장치.
실시예 25: 실시예 23에 있어서, 상기 제어부는, 상기 탑승자의 발화를 인식하여 제1 텍스트로 전환하고, 상기 에이전트 모듈을 통해 상기 탑승자의 발화에 대한 응답 또는 상기 검색 결과를 설명하는 제2 텍스트를 생성하고, 상기 제2 텍스트의 적어도 일부를 음성 출력부를 통해 출력하는 것을 특징으로 하며, 상기 대화창은, 상기 제1 텍스트와 제2 텍스트가 선택적으로(selectively) 표시되는 제1 영역과, 상기 제1 영역을 제외한 영역으로서, 상기 제1 검색 쿼리와 제2 검색 커리가 표시되는 제2 영역으로 구분되는 것을 특징으로 하는 제어장치.
실시예 26: 실시예 25에 있어서, 상기 제1 영역에 표시되는 상기 제1 텍스트는 상기 탑승자가 발화한 내용 전체를 포함하고, 상기 제2 텍스트는 적어도 일부가 텍스트, 이미지 또는 그래픽 객체로 상기 제1 영역에 표시되는 것을 특징으로 하는 제어장치.
실시예 27: 실시예 25에 있어서, 상기 제1 영역은, 원형의 그래픽 객체인 것을 특징으로 하는 제어방법.
실시예 28: 실시예 25에 있어서, 상기 제1 검색 쿼리 및 제2 검색 쿼리는 버블 형태의 그래픽 객체로 표현되며, 검색 쿼리를 구성하는 각각의 키워드가 독립된 버블에 포함되도록 표시되며, 상기 각각의 키워드가 동일 또는 유사한 기준에 의해 추출된 경우, 각 버블의 적어도 일부가 연결되어 하나의 그룹으로 표현되는 것을 특징으로 하는 제어장치.
실시예 29: 실시예 28에 있어서, 상기 키워드를 추출하는 기준은, 경로, 위치 정보, 시간 또는 상기 탑승자의 발화 내용, 검색 출처 중 적어도 하나를 포함하는 것을 특징으로 하는 제어장치.
실시예 30: 실시예 17에 있어서, 상기 제2 검색 쿼리를 구성하는 적어도 하나의 키워드는, 상기 에이전트 모듈에 의해 추출되거나, 무선 통신부를 통해 외부 서버로부터 수신된 키워드를 포함하는 것을 특징으로 하는 제어장치.
본 발명에 따른 제어장치의 효과에 설명하면 다음과 같다. 본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 제어장치를 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자와 대화할 수 있는 제어장치를 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자 발화에 응답하여, 탑승자가 원하는 정보를 제공할 수 있는 제어장치를 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자의 발화에 응답하여, 관련된 키워드를 추론하고 이에 기초한 검색결과를 제공할 수 있는 제어장치를 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화에 응답하여, 관련된 키워드를 업데이트하고 이에 기초한 검색결과를 제공할 수 있는 제어장치를 제공할 수 있다.
본 발명에 따른 제어방법의 효과에 설명하면 다음과 같다. 본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 방법을 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자와 대화할 수 있는 제어방법을 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자 발화에 응답하여, 탑승자가 원하는 정보를 제공할 수 있는 제어방법을 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 주행 중 탑승자의 발화에 응답하여, 관련된 키워드를 추론하고 이에 기초한 검색결과를 제공할 수 있는 제어방법을 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화에 응답하여, 관련된 키워드를 업데이트하고 이에 기초한 검색결과를 제공할 수 있는 제어방법을 제공할 수 있다.
상술한 실시 예에 따른 제어장치 또는 제어방법은 운전자의 운전을 보조할 수 있다. 상술한 실시 예에 따른 제어장치 또는 제어방법은 차량이 자율주행 또는 반자율주행할 수 있도록 차량을 보조할 수 있다.
상술한 실시예에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.
또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (20)

  1. 입력되는 탑승자의 발화(speaking)에 대화 형식(dialogue type)으로 응답(response)을 구성하는 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module)을 이용하여 차량을 제어하는 제어방법에 있어서,
    음성 입력부를 통해 상기 탑승자의 발화(speaking)을 입력받는 단계;
    상기 탑승자의 발화를 통한 검색 요청에 따라 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그를 업데이트하는 단계; 및
    상기 다이얼로그의 업데이트 과정을 실시간으로 디스플레이에 표시하는 단계;를 포함하되,
    상기 다이얼로그를 업데이트하는 단계는,
    상기 탑승자의 발화로부터 추론한(inferrence) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하는 단계, 및
    상기 업데이트된 키워드에 기초하여 상기 검색 결과를 제공하는 단계를 포함하며,
    상기 디스플레이에 표시하는 단계는,
    상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 하는 제어방법.
  2. 청구항 1에 있어서,
    상기 다이얼로그를 업데이트 단계는,
    상기 탑승자의 제1 발화에 직접적으로 포함된 적어도 하나의 키워드를 제1 검색 쿼리(search query)로 추출하는 단계;
    상기 탑승자의 발화로부터 추론한(inferrence) 적어도 하나의 키워드를 제2 검색 쿼리로 추출하는 단계; 및
    상기 제1 검색 쿼리, 제2 검색 쿼리 및 상기 제1 검색 쿼리에 기초하여 검색된 1차 검색 결과를 상기 디스플레이에 표시하는 단계;
    를 더 포함하는 것을 특징으로 하는 제어방법.
  3. 청구항 2에 있어서,
    상기 1차 검색 결과가 제공된 후, 상기 탑승자의 제2 발화를 입력받는 단계; 및
    상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 상기 제2 발화에 포함된 키워드로 정정될 필요가 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 정정하여 상기 제1 검색 쿼리로 전환하는 단계;
    를 더 포함하는 것을 특징으로 하는 제어방법.
  4. 청구항 3에 있어서,
    상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 재추론(re-inferrence)될 필요성이 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 재추론하여 제3 검색 쿼리로 전환하고,
    업데이트된 상기 제1 검색 쿼리에 기초하여 검색된 2차 검색 결과를 상기 디스플레이에 표시하는 단계;
    를 더 포함하는 것을 특징으로 하는 제어방법.
  5. 청구항 4에 있어서,
    상기 디스플레이에 표시하는 단계는,
    상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리가 시각적으로 서로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 하는 제어방법.
  6. 청구항 5에 있어서,
    상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 색상이 서로 다르게 표시되는 것을 특징으로 하는 제어방법.
  7. 청구항 5에 있어서,
    상기 디스플레이에 표시하는 단계는,
    순차적으로 입력되는 상기 제1 발화, 제2 발화에 따라 상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리의 표시 특성을 실시간으로 업데이트하여 표시하는 것을 특징으로 하는 제어방법.
  8. 청구항 2에 있어서,
    상기 다이얼로그를 상기 디스플레이에 표시하는 단계;를 더 포함하되,
    상기 탑승자와 상기 에이전트 모듈의 대화를 표시하는 대화창(dialogue window) 및 상기 검색 결과를 함께 표시하는 것을 특징으로 하는 제어방법.
  9. 청구항 8에 있어서,
    상기 검색 결과는,
    상기 검색 결과에 대응하는 적어도 하나의 이미지 또는 적어도 하나의 텍스트가 포함된 리스트를 제공되는 것을 특징으로 하는 제어방법.
  10. 청구항 8에 있어서,
    상기 탑승자의 발화를 인식하여 제1 텍스트로 전환하는 단계; 및
    상기 에이전트 모듈을 통해 상기 탑승자의 발화에 대한 응답 또는 상기 검색 결과를 설명하는 제2 텍스트를 생성하는 단계; 및
    상기 제2 텍스트의 적어도 일부를 음성 출력부를 통해 출력하는 단계;를 더 포함하되,
    상기 대화창은,
    상기 제1 텍스트와 제2 텍스트가 선택적으로(selectively) 표시되는 제1 영역과, 상기 제1 영역을 제외한 영역으로서, 상기 제1 검색 쿼리와 제2 검색 커리가 표시되는 제2 영역으로 구분되는 것을 특징으로 하는 제어방법.
  11. 청구항 10에 있어서,
    상기 제1 영역에 표시되는 상기 제1 텍스트는 상기 탑승자가 발화한 내용 전체를 포함하고, 상기 제2 텍스트는 적어도 일부가 텍스트, 이미지 또는 그래픽 객체로 상기 제1 영역에 표시되는 것을 특징으로 하는 제어방법.
  12. 청구항 10에 있어서,
    상기 제1 영역은, 원형의 그래픽 객체인 것을 특징으로 하는 제어방법.
  13. 청구항 10에 있어서,
    상기 제1 검색 쿼리 및 제2 검색 쿼리는 버블 형태의 그래픽 객체로 표현되며,
    검색 쿼리를 구성하는 각각의 키워드가 독립된 버블에 포함되도록 표시되며,
    상기 각각의 키워드가 동일 또는 유사한 기준에 의해 추출된 경우, 각 버블의 적어도 일부가 연결되어 하나의 그룹으로 표현되는 것을 특징으로 하는 제어방법.
  14. 청구항 13에 있어서,
    상기 키워드를 추출하는 기준은, 경로, 위치 정보, 시간 또는 상기 탑승자의 발화 내용, 검색 출처 중 적어도 하나를 포함하는 것을 특징으로 하는 제어방법.
  15. 청구항 2에 있어서,
    상기 제2 검색 쿼리를 구성하는 적어도 하나의 키워드는,
    상기 에이전트 모듈에 의해 추출되거나, 무선 통신부를 통해 외부 서버로부터 수신된 키워드를 포함하는 것을 특징으로 하는 제어방법.
  16. 디스플레이;
    탑승자의 발화(speaking)를 입력받는 음성 입력부;
    입력되는 상기 탑승자의 발화에 대하여 대화 형식(dialogue type)의 응답(response)으로 다이얼로그(dialogue)를 생성하는 에이전트 모듈(Agent module): 및
    상기 다이얼로그는, 상기 탑승자의 발화를 통한 검색 요청 및 상기 에이전트 모듈이 제공하는 검색 결과로 구성되며, 상기 탑승자의 발화 및 상기 이에전트 모듈이 검색 결과를 제공하는 과정이 복수회 이루어지면서 상기 다이얼로그가 업데이트되는 과정을 실시간으로 상기 디스플레이에 표시하는 제어부;를 포함하고,
    상기 에이전트 모듈은,
    상기 탑승자의 발화로부터 추론한(inferrence) 키워드를 순차적으로 입력되는 상기 탑승자의 발화에 기초하여 업데이트하고, 상기 업데이트된 키워드에 기초한 검색 결과를 제공하며,
    상기 제어부는,
    상기 탑승자의 발화 및 상기 에이전트 모듈을 통해 추론된 키워드를 시각적으로 구분되도록 표시 특성을 달리하여 표시하는 것을 특징으로 하는 제어장치.
  17. 청구항 16에 있어서,
    상기 에이전트 모듈은,
    상기 탑승자의 제1 발화에 직접적으로 포함된 적어도 하나의 키워드를 제1 검색 쿼리(search query)로 추출하고, 상기 탐승자의 발화로부터 추론한(inferrence) 적어도 하나의 키워드를 제2 검색 쿼리로 추출하며,
    상기 제어부는,
    상기 제1 검색 쿼리, 제2 검색 쿼리 및 상기 제1 검색 쿼리에 기초하여 검색된 1차 검색 결과를 상기 디스플레이에 표시하는 것을 특징으로 하는 제어장치.
  18. 청구항 17에 있어서,
    상기 에이전트 모듈은,
    상기 1차 검색 결과가 제공된 후, 상기 탑승자의 제2 발화를 인식하고, 상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도 하나의 키워드가 상기 제2 발화에 포함된 키워드로 정정될 필요가 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 정정하여 상기 제1 검색 쿼리로 전환하는 것을 특징으로 하는 제어장치.
  19. 청구항 18에 있어서,
    상기 에이전트 모듈은,
    상기 제2 발화에 기초하여, 상기 제2 검색 쿼리 중 적어도의 키워드가 재추론(re-inferrence)될 필요성이 존재하는 것으로 판단한 경우, 상기 제2 검색 쿼리 중 적어도 하나의 키워드를 재추론하여 제3 검색 쿼리로 추출하고,
    상기 제어부는,
    상기 업데이트된 상기 제1 검색 쿼리에 기초하여 검색된 2차 검색 결과를 상기 디스플레이에 표시하는 것을 특징으로 하는 제어장치.
  20. 청구항 19에 있어서,
    상기 제어부는,
    상기 제1 검색 쿼리, 제2 검색 쿼리 및 제3 검색 쿼리가 시각적으로 서로 구분되도록 표시 특성을 달리하여 표시되도록 제어하는 것을 특징으로 하는 제어장치.
PCT/KR2018/015149 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법 WO2020111349A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/KR2018/015149 WO2020111349A1 (ko) 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법
KR1020197019220A KR102192146B1 (ko) 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법
US16/487,049 US20210357177A1 (en) 2018-11-30 2018-11-30 Vehicle control device and vehicle control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2018/015149 WO2020111349A1 (ko) 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법

Publications (1)

Publication Number Publication Date
WO2020111349A1 true WO2020111349A1 (ko) 2020-06-04

Family

ID=70853401

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/015149 WO2020111349A1 (ko) 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법

Country Status (3)

Country Link
US (1) US20210357177A1 (ko)
KR (1) KR102192146B1 (ko)
WO (1) WO2020111349A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010190744A (ja) * 2009-02-18 2010-09-02 Equos Research Co Ltd ナビゲーションシステム及びナビゲーション装置
JP2012123492A (ja) * 2010-12-06 2012-06-28 Fujitsu Ten Ltd 情報提供システムおよび情報提供装置
KR20170010645A (ko) * 2015-07-20 2017-02-01 엘지전자 주식회사 자율 주행 차량 및 이를 구비하는 자율 주행 차량 시스템
JP6173477B2 (ja) * 2013-10-22 2017-08-02 三菱電機株式会社 ナビゲーション用サーバ、ナビゲーションシステムおよびナビゲーション方法
KR20180069477A (ko) * 2016-12-15 2018-06-25 현대자동차주식회사 음성 인식을 이용한 세분화된 프로그램 동작을 제어하기 위한 방법 및 차량 단말기

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4466379B2 (ja) * 2005-01-11 2010-05-26 トヨタ自動車株式会社 車載音声認識装置
KR101914548B1 (ko) * 2012-01-05 2018-11-02 엘지전자 주식회사 음성 인식 기능을 구비한 이동 단말기 및 그 검색 결과 제공 방법
KR102370373B1 (ko) * 2014-07-31 2022-03-04 삼성전자주식회사 정보 제공하는 방법 및 이를 위한 전자기기

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010190744A (ja) * 2009-02-18 2010-09-02 Equos Research Co Ltd ナビゲーションシステム及びナビゲーション装置
JP2012123492A (ja) * 2010-12-06 2012-06-28 Fujitsu Ten Ltd 情報提供システムおよび情報提供装置
JP6173477B2 (ja) * 2013-10-22 2017-08-02 三菱電機株式会社 ナビゲーション用サーバ、ナビゲーションシステムおよびナビゲーション方法
KR20170010645A (ko) * 2015-07-20 2017-02-01 엘지전자 주식회사 자율 주행 차량 및 이를 구비하는 자율 주행 차량 시스템
KR20180069477A (ko) * 2016-12-15 2018-06-25 현대자동차주식회사 음성 인식을 이용한 세분화된 프로그램 동작을 제어하기 위한 방법 및 차량 단말기

Also Published As

Publication number Publication date
KR102192146B1 (ko) 2020-12-16
KR20200066582A (ko) 2020-06-10
US20210357177A1 (en) 2021-11-18

Similar Documents

Publication Publication Date Title
WO2018070583A1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
WO2018066741A1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
WO2017022881A1 (ko) 차량 및 그 제어방법
WO2017094952A1 (ko) 차량 외부 알람방법, 이를 실행하는 차량 운전 보조장치 및 이를 포함하는 차량
WO2017150768A1 (ko) 디스플레이 장치 및 이를 포함하는 차량
WO2018030580A1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
WO2017061653A1 (ko) 음주운전 방지 방법 및 이를 제공하는 차량 보조 장치
WO2017034282A1 (en) Driver assistance apparatus and method for controlling the same
WO2017039047A1 (ko) 차량 및 그 제어방법
WO2018012674A1 (en) Driver assistance apparatus and vehicle having the same
WO2017003052A1 (ko) 차량 운전 보조 방법 및 차량
WO2017209313A1 (ko) 차량용 디스플레이 장치 및 차량
WO2017115916A1 (ko) 차량 보조장치 및 이를 포함하는 차량
WO2017030240A1 (ko) 차량 보조 장치 및 차량
WO2018131949A1 (ko) 어라운드뷰 제공장치
WO2017119541A1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
WO2017200162A1 (ko) 차량 운전 보조 장치 및 차량
WO2020159247A1 (ko) 영상 출력 장치
WO2020017716A1 (ko) 차량용 로봇 및 상기 로봇의 제어 방법
WO2017104888A1 (ko) 차량 운전 보조장치 및 이의 차량 운전 보조방법
WO2018088614A1 (ko) 차량용 사용자 인터페이스 장치 및 차량
WO2018110789A1 (en) Vehicle controlling technology
WO2022154369A1 (ko) 차량과 연동된 디스플레이 장치 및 그것의 동작방법
WO2017171124A1 (ko) 외장형 모듈 및 이와 연결되는 차량
WO2020017677A1 (ko) 영상 출력 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18941505

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18941505

Country of ref document: EP

Kind code of ref document: A1