KR20180123354A - 차량용 사용자 인터페이스 장치 및 차량 - Google Patents

차량용 사용자 인터페이스 장치 및 차량 Download PDF

Info

Publication number
KR20180123354A
KR20180123354A KR1020170057451A KR20170057451A KR20180123354A KR 20180123354 A KR20180123354 A KR 20180123354A KR 1020170057451 A KR1020170057451 A KR 1020170057451A KR 20170057451 A KR20170057451 A KR 20170057451A KR 20180123354 A KR20180123354 A KR 20180123354A
Authority
KR
South Korea
Prior art keywords
vehicle
information
processor
motion
unit
Prior art date
Application number
KR1020170057451A
Other languages
English (en)
Inventor
최성환
김일완
이재호
정두경
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020170057451A priority Critical patent/KR20180123354A/ko
Priority to US15/854,932 priority patent/US10997759B2/en
Priority to PCT/KR2018/003443 priority patent/WO2018208006A1/en
Priority to CN201880045649.1A priority patent/CN110869901B/zh
Publication of KR20180123354A publication Critical patent/KR20180123354A/ko
Priority to US17/223,924 priority patent/US11341700B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01P—MEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P15/00—Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration
    • G01P15/02—Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration by making use of inertia forces using solid seismic masses
    • G01P15/08—Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration by making use of inertia forces using solid seismic masses with conversion into electric or magnetic values
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/18—Image warping, e.g. rearranging pixels individually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/20—Linear translation of whole images or parts thereof, e.g. panning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • B60K2350/1004—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0181—Adaptation to the pilot/driver
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0183—Adaptation to parameters characterising the motion of the vehicle
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Mechanical Engineering (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Computer Graphics (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명은 인터페이스부; AR(augmented reality) 그래픽 객체를 스크린에 투사하는 디스플레이부; 상기 인터페이스부를 통해, 차량 전방 영상 정보 및 차량의 모션에 대한 정보를 획득하고, 상기 차량 전방 영상 정보에 기초하여 상기 AR 그래픽 객체를 생성하고, 상기 차량의 모션에 대한 정보에 기초하여, 상기 AR 그래픽 객체를 와핑(warping)하는 프로세서;를 포함하는, 차량용 사용자 인터페이스 장치 에 관한 것이다.

Description

차량용 사용자 인터페이스 장치 및 차량{User interface apparatus for vehicle and Vehicle}
본 발명은 차량용 사용자 인터페이스 장치 및 차량에 관한 것이다.
차량은 탑승하는 사용자가 원하는 방향으로 이동시키는 장치이다. 대표적으로 자동차를 예를 들 수 있다.
한편, 차량을 이용하는 사용자의 편의를 위해, 각 종 센서와 전자 장치 등이 구비되고 있는 추세이다. 특히, 사용자의 운전 편의를 위해 차량 운전자 보조 시스템(ADAS : Advanced Driver Assistance System)에 대한 연구가 활발하게 이루어지고 있다. 나아가, 자율 주행 차량(Autonomous Vehicle)에 대한 개발이 활발하게 이루어 지고 있다.
최근 차량용 사용자 인터페이스 장치는, 디스플레이로 증강 현실(AR: Augmented Reality)로 그래픽 객체를 표시할 수 있는 HUD(Head Up Display)를 포함한다.
종래 기술에 따른 HUD는, 차량에 움직임이 있는 경우, AR(Augmented Reality) 그래픽 객체가 함께 움직여, AR 대상 오브젝트와의 매칭이 안되는 문제가 있다.
본 발명의 실시예는 상기한 문제점을 해결하기 위하여, 차량의 움직임이 있는 경우에도 AR 그래픽 객체가 AR 대상 오브젝트와 매칭이 이루어지는 차량용 사용자 인터페이스 장치를 제공하는데 목적이 있다.
또한, 본 발명의 실시예는, 상기 차량용 사용자 인터페이스 장치를 포함하는 차량을 제공하는데 목적이 있다.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치는, 인터페이스부; AR(augmented reality) 그래픽 객체를 스크린에 투사하는 디스플레이부; 상기 인터페이스부를 통해, 차량 전방 영상 정보 및 차량의 모션에 대한 정보를 획득하고, 상기 차량 전방 영상 정보에 기초하여 상기 AR 그래픽 객체를 생성하고, 상기 차량의 모션에 대한 정보에 기초하여, 상기 AR 그래픽 객체를 와핑(warping)하는 프로세서;를 포함한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.
첫째, 차량 움직임이 있는 경우에도, AR 그래픽 객체가 AR 대상 오브젝트와 정합되어, 사용자가 느끼는 AR 그래픽 객체의 이질감 문제가 해소되는 효과가 있다.
둘째, 보다 정확한 정보를 사용자에게 제공하게되는 효과가 있다.
본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 8a는 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치를 설명하는데 참조되는 블럭도이다.
도 8b는 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치의 플로우 차트이다.
도 9a 내지 도 9b는 본 발명의 실시예에 따른 디스플레이부의 구성을 설명하는데 참조되는 도면이다.
도 10은 본 발명의 실시예에 따라 영상 출력부를 설명하는데 참조되는 도면이다.
도 11은 본 발명의 실시예에 따라 가변 초점 렌즈를 설명하는데 참조되는 도면이다.
도 12는 본 발명의 실시예에 따라, 운전석에서 차량 전방을 바라볼때 차량용 사용자 인터페이스 장치를 설명하는데 참조되는 도면이다.
도 13a 내지 도 13c는 본 발명의 실시예에 따라 차량이 범프를 지날때 차량용 사용자 인터페이스 동작을 설명하는데 참조되는 도면이다.
도 14a 내지 도 14c는 본 발명의 실시예에 따라 차량이 커브 구간에 진입할 때 차량용 사용자 인터페이스 동작을 설명하는데 참조되는 도면이다.
도 15a 내지 도 15c는 본 발명의 실시예에 따라 AR 그래픽 객체를 와핑하는 동작을 설명하는데 참조되는 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 1 내지 도 7을 참조하면, 차량(100)은 동력원에 의해 회전하는 바퀴, 차량(100)의 진행 방향을 조절하기 위한 조향 입력 장치(510)를 포함할 수 있다.
차량(100)은 자율 주행 차량일 수 있다.
차량(100)은, 사용자 입력에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 사용자 인터페이스 장치(200)를 통해, 수신되는 사용자 입력에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 주행 상황 정보에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다.
주행 상황 정보는, 차량 외부의 오브젝트 정보, 내비게이션 정보 및 차량 상태 정보 중 적어도 어느 하나를 포함할 수 있다.
예를 들면, 차량(100)은, 오브젝트 검출 장치(300)에서 생성되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 통신 장치(400)를 통해 수신되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 외부 디바이스에서 제공되는 정보, 데이터, 신호에 기초하여 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)이 자율 주행 모드로 운행되는 경우, 자율 주행 차량(100)은, 운행 시스템(700)에 기초하여 운행될 수 있다.
예를 들면, 자율 주행 차량(100)은, 주행 시스템(710), 출차 시스템(740), 주차 시스템(750)에서 생성되는 정보, 데이터 또는 신호에 기초하여 운행될 수 있다.
차량(100)이 메뉴얼 모드로 운행되는 경우, 자율 주행 차량(100)은, 운전 조작 장치(500)를 통해 운전을 위한 사용자 입력을 수신할 수 있다. 운전 조작 장치(500)를 통해 수신되는 사용자 입력에 기초하여, 차량(100)은 운행될 수 있다.
전장(overall length)은 차량(100)의 앞부분에서 뒷부분까지의 길이, 전폭(width)은 차량(100)의 너비, 전고(height)는 바퀴 하부에서 루프까지의 길이를 의미한다. 이하의 설명에서, 전장 방향(L)은 차량(100)의 전장 측정의 기준이 되는 방향, 전폭 방향(W)은 차량(100)의 전폭 측정의 기준이 되는 방향, 전고 방향(H)은 차량(100)의 전고 측정의 기준이 되는 방향을 의미할 수 있다.
도 7에 예시된 바와 같이, 차량(100)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 운행 시스템(700), 내비게이션 시스템(770), 센싱부(120), 인터페이스부(130), 메모리(140), 제어부(170) 및 전원 공급부(190)를 포함할 수 있다.
실시예에 따라, 차량(100)은, 본 명세서에서 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
사용자 인터페이스 장치(200)는, 차량(100)과 사용자와의 소통을 위한 장치이다. 사용자 인터페이스 장치(200)는, 사용자 입력을 수신하고, 사용자에게 차량(100)에서 생성된 정보를 제공할 수 있다. 차량(100)은, 사용자 인터페이스 장치(200)를 통해, UI(User Interfaces) 또는 UX(User Experience)를 구현할 수 있다.
사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 출력부(250) 및 프로세서(270)를 포함할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
입력부(210)는, 사용자로부터 정보를 입력받기 위한 것으로, 입력부(210)에서 수집한 데이터는, 프로세서(270)에 의해 분석되어, 사용자의 제어 명령으로 처리될 수 있다.
입력부(210)는, 차량 내부에 배치될 수 있다. 예를 들면, 입력부(210)는, 스티어링 휠(steering wheel)의 일 영역, 인스투루먼트 패널(instrument panel)의 일 영역, 시트(seat)의 일 영역, 각 필러(pillar)의 일 영역, 도어(door)의 일 영역, 센타 콘솔(center console)의 일 영역, 헤드 라이닝(head lining)의 일 영역, 썬바이저(sun visor)의 일 영역, 윈드 쉴드(windshield)의 일 영역 또는 윈도우(window)의 일 영역 등에 배치될 수 있다.
입력부(210)는, 음성 입력부(211), 제스쳐 입력부(212), 터치 입력부(213) 및 기계식 입력부(214)를 포함할 수 있다.
음성 입력부(211)는, 사용자의 음성 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
음성 입력부(211)는, 하나 이상의 마이크로 폰을 포함할 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 감지하기 위한 적외선 센서 및 이미지 센서 중 적어도 어느 하나를 포함할 수 있다.
실시예에 따라, 제스쳐 입력부(212)는, 사용자의 3차원 제스쳐 입력을 감지할 수 있다. 이를 위해, 제스쳐 입력부(212)는, 복수의 적외선 광을 출력하는 광출력부 또는 복수의 이미지 센서를 포함할 수 있다.
제스쳐 입력부(212)는, TOF(Time of Flight) 방식, 구조광(Structured light) 방식 또는 디스패러티(Disparity) 방식을 통해 사용자의 3차원 제스쳐 입력을 감지할 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 감지하기 위한 터치 센서를 포함할 수 있다.
실시예에 따라, 터치 입력부(213)는 디스플레이부(251)와 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한, 터치 스크린은, 차량(100)과 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 함께 제공할 수 있다.
기계식 입력부(214)는, 버튼, 돔 스위치(dome switch), 조그 휠 및 조그 스위치 중 적어도 어느 하나를 포함할 수 있다. 기계식 입력부(214)에 의해 생성된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
기계식 입력부(214)는, 스티어링 휠, 센테 페시아, 센타 콘솔, 칵픽 모듈, 도어 등에 배치될 수 있다.
내부 카메라(220)는, 차량 내부 영상을 획득할 수 있다. 프로세서(270)는, 차량 내부 영상을 기초로, 사용자의 상태를 감지할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 시선 정보를 획득할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 제스쳐를 감지할 수 있다.
생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있다. 생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있는 센서를 포함하고, 센서를 이용하여, 사용자의 지문 정보, 심박동 정보 등을 획득할 수 있다. 생체 정보는 사용자 인증을 위해 이용될 수 있다.
출력부(250)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것이다.
출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253) 중 적어도 어느 하나를 포함할 수 있다.
디스플레이부(251)는, 다양한 정보에 대응되는 그래픽 객체를 표시할 수 있다.
디스플레이부(251)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(251)는 터치 입력부(213)와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다.
디스플레이부(251)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(251)가 HUD로 구현되는 경우, 디스플레이부(251)는 투사 모듈을 구비하여 윈드 쉴드 또는 윈도우에 투사되는 이미지를 통해 정보를 출력할 수 있다.
디스플레이부(251)는, 투명 디스플레이를 포함할 수 있다. 투명 디스플레이는 윈드 쉴드 또는 윈도우에 부착될 수 있다.
투명 디스플레이는 소정의 투명도를 가지면서, 소정의 화면을 표시할 수 있다. 투명 디스플레이는, 투명도를 가지기 위해, 투명 디스플레이는 투명 TFEL(Thin Film Elecroluminescent), 투명 OLED(Organic Light-Emitting Diode), 투명 LCD(Liquid Crystal Display), 투과형 투명디스플레이, 투명 LED(Light Emitting Diode) 디스플레이 중 적어도 하나를 포함할 수 있다. 투명 디스플레이의 투명도는 조절될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 복수의 디스플레이부(251a 내지 251g)를 포함할 수 있다.
디스플레이부(251)는, 스티어링 휠의 일 영역, 인스투루먼트 패널의 일 영역(251a, 251b, 251e), 시트의 일 영역(251d), 각 필러의 일 영역(251f), 도어의 일 영역(251g), 센타 콘솔의 일 영역, 헤드 라이닝의 일 영역, 썬바이저의 일 영역에 배치되거나, 윈드 쉴드의 일영역(251c), 윈도우의 일영역(251h)에 구현될 수 있다.
음향 출력부(252)는, 프로세서(270) 또는 제어부(170)로부터 제공되는 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(252)는, 하나 이상의 스피커를 포함할 수 있다.
햅틱 출력부(253)는, 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(253)는, 스티어링 휠, 안전 벨트, 시트(110FL, 110FR, 110RL, 110RR)를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
프로세서(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 복수의 프로세서(270)를 포함하거나, 프로세서(270)를 포함하지 않을 수도 있다.
사용자 인터페이스 장치(200)에 프로세서(270)가 포함되지 않는 경우, 사용자 인터페이스 장치(200)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 차량용 디스플레이 장치로 명명될 수 있다.
사용자 인터페이스 장치(200)는, 제어부(170)의 제어에 따라 동작될 수 있다.
오브젝트 검출 장치(300)는, 차량(100) 외부에 위치하는 오브젝트를 검출하기 위한 장치이다. 오브젝트 검출 장치(300)는, 센싱 데이터에 기초하여, 오브젝트 정보를 생성할 수 있다.
오브젝트 정보는, 오브젝트의 존재 유무에 대한 정보, 오브젝트의 위치 정보, 차량(100)과 오브젝트와의 거리 정보 및 차량(100)과 오브젝트와의 상대 속도 정보를 포함할 수 있다.
오브젝트는, 차량(100)의 운행과 관련된 다양한 물체들일 수 있다.
도 5 내지 도 6을 참조하면, 오브젝트(O)는, 차로(OB10), 타 차량(OB11), 보행자(OB12), 이륜차(OB13), 교통 신호(OB14, OB15), 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 포함할 수 있다.
차로(Lane)(OB10)는, 주행 차로, 주행 차로의 옆 차로, 대향되는 차량이 주행하는 차로일 수 있다. 차로(Lane)(OB10)는, 차로(Lane)를 형성하는 좌우측 선(Line)을 포함하는 개념일 수 있다. 차로는, 교차로를 포함하는 개념일 수 있다.
타 차량(OB11)은, 차량(100)의 주변에서 주행 중인 차량일 수 있다. 타 차량은, 차량(100)으로부터 소정 거리 이내에 위치하는 차량일 수 있다. 예를 들면, 타 차량(OB11)은, 차량(100)보다 선행 또는 후행하는 차량일 수 있다.
보행자(OB12)는, 차량(100)의 주변에 위치한 사람일 수 있다. 보행자(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 사람일 수 있다. 예를 들면, 보행자(OB12)는, 인도 또는 차도상에 위치하는 사람일 수 있다.
이륜차(OB13)는, 차량(100)의 주변에 위치하고, 2개의 바퀴를 이용해 움직이는 탈것을 의미할 수 있다. 이륜차(OB13)는, 차량(100)으로부터 소정 거리 이내에 위치하는 2개의 바퀴를 가지는 탈 것일 수 있다. 예를 들면, 이륜차(OB13)는, 인도 또는 차도상에 위치하는 오토바이 또는 자전거일 수 있다.
교통 신호는, 교통 신호등(OB15), 교통 표지판(OB14), 도로면에 그려진 문양 또는 텍스트를 포함할 수 있다.
빛은, 타 차량에 구비된 램프에서 생성된 빛일 수 있다. 빛은, 가로등에서 생성된 빛을 수 있다. 빛은 태양광일 수 있다.
도로는, 도로면, 커브, 오르막, 내리막 등의 경사 등을 포함할 수 있다.
구조물은, 도로 주변에 위치하고, 지면에 고정된 물체일 수 있다. 예를 들면, 구조물은, 가로등, 가로수, 건물, 전봇대, 신호등, 다리를 포함할 수 있다.
지형물은, 산, 언덕, 등을 포함할 수 있다.
한편, 오브젝트는, 이동 오브젝트와 정지 오브젝트로 분류될 수 있다. 예를 들면, 이동 오브젝트는, 이동 중인 타 차량, 이동 중인 보행자를 포함하는 개념일 수 있다. 예를 들면, 정지 오브젝트는, 교통 신호, 도로, 구조물, 정지한 타 차량, 정지한 보행자를 포함하는 개념일 수 있다.
오브젝트 검출 장치(300)는, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340), 적외선 센서(350) 및 프로세서(370)를 포함할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
카메라(310)는, 차량 외부 영상을 획득하기 위해, 차량의 외부의 적절한 곳에 위치할 수 있다. 카메라(310)는, 모노 카메라, 스테레오 카메라(310a), AVM(Around View Monitoring) 카메라(310b) 또는 360도 카메라일 수 있다.
카메라(310)는, 다양한 영상 처리 알고리즘을 이용하여, 오브젝트의 위치 정보, 오브젝트와의 거리 정보 또는 오브젝트와의 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 획득된 영상에서, 시간에 따른 오브젝트 크기의 변화를 기초로, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 핀홀(pin hole) 모델, 노면 프로파일링 등을 통해, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 스테레오 카메라(310a)에서 획득된 스테레오 영상에서 디스패러티(disparity) 정보를 기초로 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 차량 전방의 영상을 획득하기 위해, 차량의 실내에서, 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 후방의 영상을 획득하기 위해, 차량의 실내에서, 리어 글라스에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 측방의 영상을 획득하기 위해, 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다.
카메라(310)는, 획득된 영상을 프로세서(370)에 제공할 수 있다.
레이다(320)는, 전자파 송신부, 수신부를 포함할 수 있다. 레이더(320)는 전파 발사 원리상 펄스 레이더(Pulse Radar) 방식 또는 연속파 레이더(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이더(320)는 연속파 레이더 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다.
레이더(320)는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
레이더(320)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
라이다(330)는, 레이저 송신부, 수신부를 포함할 수 있다. 라이다(330)는, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다.
라이다(330)는, 구동식 또는 비구동식으로 구현될 수 있다.
구동식으로 구현되는 경우, 라이다(330)는, 모터에 의해 회전되며, 차량(100) 주변의 오브젝트를 검출할 수 있다.
비구동식으로 구현되는 경우, 라이다(330)는, 광 스티어링에 의해, 차량(100)을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 차량(100)은 복수의 비구동식 라이다(330)를 포함할 수 있다.
라이다(330)는, 레이저 광 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
라이다(330)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
초음파 센서(340)는, 초음파 송신부, 수신부를 포함할 수 있다. 초음파 센서(340)은, 초음파를 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
초음파 센서(340)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
적외선 센서(350)는, 적외선 송신부, 수신부를 포함할 수 있다. 적외선 센서(340)는, 적외선 광을 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
적외선 센서(350)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
프로세서(370)는, 오브젝트 검출 장치(300)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(370)는, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350)에 의해 센싱된 데이터와 기 저장된 데이터를 비교하여, 오브젝트를 검출하거나 분류할 수 있다.
프로세서(370)는, 획득된 영상에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 영상 처리 알고리즘을 통해, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출등의 동작을 수행할 수 있다.
예를 들면, 프로세서(370)는, 획득된 영상에서, 시간에 따른 오브젝트 크기의 변화를 기초로, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 프로세서(370)는, 핀홀(pin hole) 모델, 노면 프로파일링 등을 통해, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 프로세서(370)는, 스테레오 카메라(310a)에서 획득된 스테레오 영상에서 디스패러티(disparity) 정보를 기초로 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
프로세서(370)는, 송신된 전자파가 오브젝트에 반사되어 되돌아오는 반사 전자파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 전자파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 레이저가 오브젝트에 반사되어 되돌아오는 반사 레이저 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 레이저 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 초음파가 오브젝트에 반사되어 되돌아오는 반사 초음파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 초음파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 적외선 광이 오브젝트에 반사되어 되돌아오는 반사 적외선 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 적외선 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 복수의 프로세서(370)를 포함하거나, 프로세서(370)를 포함하지 않을 수도 있다. 예를 들면, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350) 각각은 개별적으로 프로세서를 포함할 수 있다.
오브젝트 검출 장치(300)에 프로세서(370)가 포함되지 않는 경우, 오브젝트 검출 장치(300)는, 차량(100)내 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
오브젝트 검출 장치(300)는, 제어부(170)의 제어에 따라 동작될 수 있다.
통신 장치(400)는, 외부 디바이스와 통신을 수행하기 위한 장치이다. 여기서, 외부 디바이스는, 타 차량, 이동 단말기 또는 서버일 수 있다.
통신 장치(400)는, 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다.
통신 장치(400)는, 근거리 통신부(410), 위치 정보부(420), V2X 통신부(430), 광통신부(440), 방송 송수신부(450), ITS(Intelligent Transport Systems) 통신부(460) 및 프로세서(470)를 포함할 수 있다.
실시예에 따라, 통신 장치(400)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
근거리 통신부(410)는, 근거리 통신(Short range communication)을 위한 유닛이다. 근거리 통신부(410)는, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
근거리 통신부(410)는, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량(100)과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다.
위치 정보부(420)는, 차량(100)의 위치 정보를 획득하기 위한 유닛이다. 예를 들면, 위치 정보부(420)는, GPS(Global Positioning System) 모듈 또는 DGPS(Differential Global Positioning System) 모듈을 포함할 수 있다.
V2X 통신부(430)는, 서버(V2I : Vehicle to Infra), 타 차량(V2V : Vehicle to Vehicle) 또는 보행자(V2P : Vehicle to Pedestrian)와의 무선 통신 수행을 위한 유닛이다. V2X 통신부(430)는, 인프라와의 통신(V2I), 차량간 통신(V2V), 보행자와의 통신(V2P) 프로토콜이 구현 가능한 RF 회로를 포함할 수 있다.
광통신부(440)는, 광을 매개로 외부 디바이스와 통신을 수행하기 위한 유닛이다. 광통신부(440)는, 전기 신호를 광 신호로 전환하여 외부에 발신하는 광발신부 및 수신된 광 신호를 전기 신호로 전환하는 광수신부를 포함할 수 있다.
실시예에 따라, 광발신부는, 차량(100)에 포함된 램프와 일체화되게 형성될 수 있다.
방송 송수신부(450)는, 방송 채널을 통해, 외부의 방송 관리 서버로부터 방송 신호를 수신하거나, 방송 관리 서버에 방송 신호를 송출하기 위한 유닛이다. 방송 채널은, 위성 채널, 지상파 채널을 포함할 수 있다. 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 수 있다.
ITS 통신부(460)는, 교통 시스템과 정보, 데이터 또는 신호를 교환할 수 있다. ITS 통신부(460)는, 교통 시스템에 획득한 정보, 데이터를 제공할 수 있다. ITS 통신부(460)는, 교통 시스템으로부터, 정보, 데이터 또는 신호를 제공받을 수 있다. 예를 들면, ITS 통신부(460)는, 교통 시스템으로부터 도로 교통 정보를 수신하여, 제어부(170)에 제공할 수 있다. 예를 들면, ITS 통신부(460)는, 교통 시스템으로부터 제어 신호를 수신하여, 제어부(170) 또는 차량(100) 내부에 구비된 프로세서에 제공할 수 있다.
프로세서(470)는, 통신 장치(400)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 통신 장치(400)는, 복수의 프로세서(470)를 포함하거나, 프로세서(470)를 포함하지 않을 수도 있다.
통신 장치(400)에 프로세서(470)가 포함되지 않는 경우, 통신 장치(400)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 통신 장치(400)는, 사용자 인터페이스 장치(200)와 함께 차량용 디스플레이 장치를 구현할 수 있다. 이경우, 차량용 디스플레이 장치는, 텔레 매틱스(telematics) 장치 또는 AVN(Audio Video Navigation) 장치로 명명될 수 있다.
통신 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운전 조작 장치(500)는, 운전을 위한 사용자 입력을 수신하는 장치이다.
메뉴얼 모드인 경우, 차량(100)은, 운전 조작 장치(500)에 의해 제공되는 신호에 기초하여 운행될 수 있다.
운전 조작 장치(500)는, 조향 입력 장치(510), 가속 입력 장치(530) 및 브레이크 입력 장치(570)를 포함할 수 있다.
조향 입력 장치(510)는, 사용자로부터 차량(100)의 진행 방향 입력을 수신할 수 있다. 조향 입력 장치(510)는, 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
가속 입력 장치(530)는, 사용자로부터 차량(100)의 가속을 위한 입력을 수신할 수 있다. 브레이크 입력 장치(570)는, 사용자로부터 차량(100)의 감속을 위한 입력을 수신할 수 있다. 가속 입력 장치(530) 및 브레이크 입력 장치(570)는, 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 장치 또는 브레이크 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
운전 조작 장치(500)는, 제어부(170)의 제어에 따라 동작될 수 있다.
차량 구동 장치(600)는, 차량(100)내 각종 장치의 구동을 전기적으로 제어하는 장치이다.
차량 구동 장치(600)는, 파워 트레인 구동부(610), 샤시 구동부(620), 도어/윈도우 구동부(630), 안전 장치 구동부(640), 램프 구동부(650) 및 공조 구동부(660)를 포함할 수 있다.
실시예에 따라, 차량 구동 장치(600)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 차량 구동 장치(600)는 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
파워 트레인 구동부(610)는, 파워 트레인 장치의 동작을 제어할 수 있다.
파워 트레인 구동부(610)는, 동력원 구동부(611) 및 변속기 구동부(612)를 포함할 수 있다.
동력원 구동부(611)는, 차량(100)의 동력원에 대한 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진이 동력원인 경우, 동력원 구동부(611)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(611)는, 제어부(170)의 제어에 따라, 엔진 출력 토크를 조정할 수 있다.
예를 들면, 전기 에너지 기반의 모터가 동력원인 경우, 동력원 구동부(611)는, 모터에 대한 제어를 수행할 수 있다. 동력원 구동부(611)는, 제어부(170)의 제어에 따라, 모터의 회전 속도, 토크 등을 조정할 수 있다.
변속기 구동부(612)는, 변속기에 대한 제어를 수행할 수 있다.
변속기 구동부(612)는, 변속기의 상태를 조정할 수 있다. 변속기 구동부(612)는, 변속기의 상태를, 전진(D), 후진(R), 중립(N) 또는 주차(P)로 조정할 수 있다.
한편, 엔진이 동력원인 경우, 변속기 구동부(612)는, 전진(D) 상태에서, 기어의 물림 상태를 조정할 수 있다.
샤시 구동부(620)는, 샤시 장치의 동작을 제어할 수 있다.
샤시 구동부(620)는, 조향 구동부(621), 브레이크 구동부(622) 및 서스펜션 구동부(623)를 포함할 수 있다.
조향 구동부(621)는, 차량(100) 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 조향 구동부(621)는, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(622)는, 차량(100) 내의 브레이크 장치(brake apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량(100)의 속도를 줄일 수 있다.
한편, 브레이크 구동부(622)는, 복수의 브레이크 각각을 개별적으로 제어할 수 있다. 브레이크 구동부(622)는, 복수의 휠에 걸리는 제동력을 서로 다르게 제어할 수 있다.
서스펜션 구동부(623)는, 차량(100) 내의 서스펜션 장치(suspension apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 서스펜션 구동부(623)는 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량(100)의 진동이 저감되도록 제어할 수 있다.
한편, 서스펜션 구동부(623)는, 복수의 서스펜션 각각을 개별적으로 제어할 수 있다.
도어/윈도우 구동부(630)는, 차량(100) 내의 도어 장치(door apparatus) 또는 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다.
도어/윈도우 구동부(630)는, 도어 구동부(631) 및 윈도우 구동부(632)를 포함할 수 있다.
도어 구동부(631)는, 도어 장치에 대한 제어를 수행할 수 있다. 도어 구동부(631)는, 차량(100)에 포함되는 복수의 도어의 개방, 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 트렁크(trunk) 또는 테일 게이트(tail gate)의 개방 또는 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 썬루프(sunroof)의 개방 또는 폐쇄를 제어할 수 있다.
윈도우 구동부(632)는, 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 차량(100)에 포함되는 복수의 윈도우의 개방 또는 폐쇄를 제어할 수 있다.
안전 장치 구동부(640)는, 차량(100) 내의 각종 안전 장치(safety apparatus)에 대한 전자식 제어를 수행할 수 있다.
안전 장치 구동부(640)는, 에어백 구동부(641), 시트벨트 구동부(642) 및 보행자 보호 장치 구동부(643)를 포함할 수 있다.
에어백 구동부(641)는, 차량(100) 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 에어백 구동부(641)는, 위험 감지시, 에어백이 전개되도록 제어할 수 있다.
시트벨트 구동부(642)는, 차량(100) 내의 시트벨트 장치(seatbelt appartus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 시트벨트 구동부(642)는, 위험 감지시, 시트 밸트를 이용해 탑승객이 시트(110FL, 110FR, 110RL, 110RR)에 고정되도록 제어할 수 있다.
보행자 보호 장치 구동부(643)는, 후드 리프트 및 보행자 에어백에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 보행자 보호 장치 구동부(643)는, 보행자와의 충돌 감지시, 후드 리프트 업 및 보행자 에어백 전개되도록 제어할 수 있다.
램프 구동부(650)는, 차량(100) 내의 각종 램프 장치(lamp apparatus)에 대한 전자식 제어를 수행할 수 있다.
공조 구동부(660)는, 차량(100) 내의 공조 장치(air cinditioner)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 공조 구동부(660)는, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
차량 구동 장치(600)는, 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
차량 구동 장치(600)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운행 시스템(700)은, 차량(100)의 각종 운행을 제어하는 시스템이다. 운행 시스템(700)은, 자율 주행 모드에서 동작될 수 있다.
운행 시스템(700)은, 주행 시스템(710), 출차 시스템(740) 및 주차 시스템(750) 을 포함할 수 있다.
실시예에 따라, 운행 시스템(700)은, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 운행 시스템(700)은, 프로세서를 포함할 수 있다. 운행 시스템(700)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
한편, 실시예에 따라, 운행 시스템(700)이 소프트웨어적으로 구현되는 경우, 제어부(170)의 하위 개념일 수도 있다.
한편, 실시예에 따라, 운행 시스템(700)은, 사용자 인터페이스 장치(270), 오브젝트 검출 장치(300) 및 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 내비게이션 시스템(770), 센싱부(120) 및 제어부(170) 중 적어도 어느 하나를 포함하는 개념일 수 있다.
주행 시스템(710)은, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 사용자 인터페이스 장치(270), 오브젝트 검출 장치(300) 및 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 내비게이션 시스템(770), 센싱부(120) 및 제어부(170) 중 적어도 어느 하나를 포함하여, 차량(100)의 주행을 수행하는 시스템 개념일 수 있다.
이러한, 주행 시스템(710)은, 차량 주행 제어 장치로 명명될 수 있다.
출차 시스템(740)은, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 사용자 인터페이스 장치(270), 오브젝트 검출 장치(300) 및 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 내비게이션 시스템(770), 센싱부(120) 및 제어부(170) 중 적어도 어느 하나를 포함하여, 차량(100)의 출차를 수행하는 시스템 개념일 수 있다.
이러한, 출차 시스템(740)은, 차량 출차 제어 장치로 명명될 수 있다.
주차 시스템(750)은, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 사용자 인터페이스 장치(270), 오브젝트 검출 장치(300) 및 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 내비게이션 시스템(770), 센싱부(120) 및 제어부(170) 중 적어도 어느 하나를 포함하여, 차량(100)의 주차를 수행하는 시스템 개념일 수 있다.
이러한, 주차 시스템(750)은, 차량 주차 제어 장치로 명명될 수 있다.
내비게이션 시스템(770)은, 내비게이션 정보를 제공할 수 있다. 내비게이션 정보는, 맵(map) 정보, 설정된 목적지 정보, 상기 목적지 설정 따른 경로 정보, 경로 상의 다양한 오브젝트에 대한 정보, 차선 정보 및 차량의 현재 위치 정보 중 적어도 어느 하나를 포함할 수 있다.
내비게이션 시스템(770)은, 메모리, 프로세서를 포함할 수 있다. 메모리는 내비게이션 정보를 저장할 수 있다. 프로세서는 내비게이션 시스템(770)의 동작을 제어할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 통신 장치(400)를 통해, 외부 디바이스로부터 정보를 수신하여, 기 저장된 정보를 업데이트 할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 사용자 인터페이스 장치(200)의 하위 구성 요소로 분류될 수도 있다.
센싱부(120)는, 차량의 상태를 센싱할 수 있다. 센싱부(120)는, IMU(inertial navigation unit) 센서, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 조도 센서, 가속 페달 포지션 센서, 브레이크 페달 포지션 센서, 등을 포함할 수 있다.
한편, IMU(inertial navigation unit) 센서는, 가속도 센서, 자이로 센서, 자기 센서 중 하나 이상을 포함할 수 있다.
센싱부(120)는, 차량 자세 정보, 차량 모션 정보, 차량 요(yaw) 정보, 차량 롤(roll) 정보, 차량 피치(pitch) 정보, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도, 차량 외부 조도, 가속 페달에 가해지는 압력, 브레이크 페달에 가해지는 압력 등에 대한 센싱 신호를 획득할 수 있다.
센싱부(120)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
센싱부(120)는, 센싱 데이터를 기초로, 차량 상태 정보를 생성할 수 있다. 차량 상태 정보는, 차량 내부에 구비된 각종 센서에서 감지된 데이터를 기초로 생성된 정보일 수 있다.
예를 들면, 차량 상태 정보는, 차량의 자세 정보, 차량의 속도 정보, 차량의 기울기 정보, 차량의 중량 정보, 차량의 방향 정보, 차량의 배터리 정보, 차량의 연료 정보, 차량의 타이어 공기압 정보, 차량의 스티어링 정보, 차량 실내 온도 정보, 차량 실내 습도 정보, 페달 포지션 정보 및 차량 엔진 온도 정보 등을 포함할 수 있다.
인터페이스부(130)는, 차량(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(130)는 이동 단말기와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기와 연결할 수 있다. 이경우, 인터페이스부(130)는 이동 단말기와 데이터를 교환할 수 있다.
한편, 인터페이스부(130)는 연결된 이동 단말기에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기가 인터페이스부(130)에 전기적으로 연결되는 경우, 제어부(170)의 제어에 따라, 인터페이스부(130)는 전원 공급부(190)에서 공급되는 전기 에너지를 이동 단말기에 제공할 수 있다.
메모리(140)는, 제어부(170)와 전기적으로 연결된다. 메모리(140)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(140)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(140)는 제어부(170)의 처리 또는 제어를 위한 프로그램 등, 차량(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(140)는, 제어부(170)와 일체형으로 형성되거나, 제어부(170)의 하위 구성 요소로 구현될 수 있다.
제어부(170)는, 차량(100) 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(170)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
전원 공급부(190)는, 제어부(170)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(190)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
차량(100)에 포함되는, 하나 이상의 프로세서 및 제어부(170)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
도 8a는 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치를 설명하는데 참조되는 블럭도이다.
도 8a를 참조하면, 차량용 사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 메모리(240), 인터페이스부(245), 출력부(250), 프로세서(270) 및 전원 공급부(290)를 포함할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
도 8a의 차량용 사용자 인터페이스 장치(200)는, 도 7의 차량용 사용자 인터페이스 장치(200)에서 설명된 각 구성 요소를 포함한다. 이하에서, 중복되는 설명은 생략하고, 도 7에서 설명되지 않은 부분을 중심으로 설명한다.
입력부(210) 및 생체 감지부(230)는, 도 7에서 설명된 내용이 적용될 수 있다.
내부 카메라(220)는, 차량 내부 영상을 획득할 수 있다.
내부 카메라(220)에서 획득된 차량 내부 영상은, 프로세서(270)에 전달될 수 있다.
메모리(240)는, 프로세서(270)와 전기적으로 연결된다. 메모리(240)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(240)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(240)는 프로세서(270)의 처리 또는 제어를 위한 프로그램 등, 사용자 인터페이스 장치(200) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(240)는, 프로세서(270)와 일체형으로 형성되거나, 프로세서(270)의 하위 구성 요소로 구현될 수 있다.
인터페이스부(245)는, 차량(100)에 포함된 다른 장치와의 정보, 신호 또는 데이터 교환을 수행할 수 있다. 인터페이스부(245)는, 수신된 정보, 신호 또는 데이터를 프로세서(270)에 전송할 수 있다. 인터페이스부(245)는, 프로세서(270)에서 생성되거나 처리된 정보, 신호 또는 데이터를 차량(100)에 포함된 다른 장치에 전송할 수 있다. 인터페이스부(245)는, 차량(100)에 포함된 다른 장치로부터 정보, 신호 또는 데이터를 수신할 수 있다.
인터페이스부(245)는, 오브젝트 검출 장치(300)로부터, 차량 전방 영상 정보를 수신할 수 있다.
인터페이스부(245)는, 주행 상황 정보를 수신할 수 있다.
인터페이스부(245)는, 오브젝트 검출 장치(300)로부터 차량 외부의 오브젝트에 대한 정보를 수신할 수 있다.
예를 들면, 인터페이스부(245)는, 차량 전방에 위치하는 오브젝트에 대한 정보를 수신할 수 있다.
인터페이스부(245)는, 내비게이션 시스템(770)으로부터 내비게이션 정보를 수신할 수 있다.
인터페이스부(245)는, 센싱부(120)로부터 차량 상태 정보를 수신할 수 있다.
예를 들면, 인터페이스부(245)는, 센싱부(120)로부터 차량의 모션에 대한 정보를 수신할 수 있다.
인터페이스부(245)가 수신한 정보, 신호 또는 데이터는, 프로세서(270)에 제공될 수 있다.
출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253)를 포함할 수 있다.
출력부(250)는, 도 7에서 설명된 내용이 적용될 수 있다. 이하에서, 디스플레이부(251)를 중심으로 설명한다.
디스플레이부(251)는, 프로세서(270)의 제어에 따라 동작될 수 있다.
디스플레이부(251)는, 그래픽 객체를 스크린에 투사할 수 있다.
예를 들면, 디스플레이부(251)는, AR(augmented reality) 그래픽 객체를 스크린에 투사할 수 있다.
스크린은, 투명한 재질로 형성될 수 있다.
스크린은, 윈드 쉴드의 일 영역 또는 전체 영역일 수 있다.
스크린은, 차량 내부에 구비된 컴바이너(combiner)일 수 있다.
프로세서(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량 전방 영상 정보를 획득할 수 있다.
차량 전방 영상 정보는, 차량 전방 영상 데이터, 차량 전방 영상에 기초하여 획득한 오브젝트 정보 및 차량 전방 영상에 기초하여 획득한 차량의 모션 정보를 포함할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량에 설치된 카메라(도 7의 310)로부터, 차량 전방 영상 정보를 수신할 수 있다.
여기서, 차량에 설치된 카메라(310)가 스테레오 카메라인 경우, 프로세서(270)는, 디스패러티 정보에 기초한 3차원 정보를 수신할 수 있다.
프로세서(270)는, 차량 영상 정보에 기초하여 생성된, 제1 좌표계 기준의 차량의 제1 모션에 대한 정보를 획득할 수 있다.
예를 들면, 제1 좌표계는, 월드 좌표계일 수 있다.
한편, 제1 모션에 대한 정보는, 오브젝트 검출 장치(300)에 의해 생성되거나, 차량용 사용자 인터페이스 장치(200)의 프로세서(270)에 의해 생성될 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량의 모션에 대한 정보를 획득할 수 있다.
차량의 모션에 대한 정보는, 차량의 움직임 발생 정보, 차량의 움직임 변위 정보, 차량의 움직임 방향 정보, 차량 움직임 속도 정보, 차량 자세 정보를 포함할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량에 설치된 IMU(inertial navigation unit) 센서로부터, 센싱 정보를 수신할 수 있다. 여기서, 센싱 정보는, 관성 센싱 정보 및 자이로 센싱 정보를 포함할 수 있다.
프로세서(270)는, 센싱 정보에 기초하여, 제2 좌표계 기준의 차량(100)의 제2 모션에 대한 정보를 획득할 수 있다.
예를 들면, 제2 좌표계는, IMU 센서의 로컬 좌표계일 수 있다.
한편, 제2 모션에 대한 정보는, 센싱부(120)에서 생성되거나, 차량용 사용자 인터페이스 장치(200)의 프로세서(270)에 의해 생성될 수 있다.
프로세서(270)는, 차량 전방 영상 정보에 기초하여 AR 그래픽 객체를 생성할 수 있다.
프로세서(270)는, 생성된 AR 그래픽 객체를 스크린에 투사할 수 있다.
예를 들면, 프로세서(270)는, 사용자의 눈과 오브젝트를 연결한 가상의 선상에 위치한 스크린에 AR 그래픽 객체를 투사할 수 있다. 이경우, 사용자는, 오브젝트를 눈으로 보면서 동시에 오브젝트에 대응되는 AR 그래픽 객체를 볼 수 있다. 여기서, AR 그래픽 객체는, 사용자 위치에서 볼때, 오브젝트와 겹쳐지게 표시되거나, 오브젝트 주변에 표시된다.
프로세서(270)는, 차량의 모션 정보에 기초하여, AR 그래픽 객체를 와핑(warping)할 수 있다. 이러한 AR 그래픽 객체의 와핑을 시차 보상으로 명명할 수 있다. 프로세서(270)는, 차량의 모션 정보에 기초하여, AR 그래픽 객체에 대한 시차 보상을 수행할 수 있다.
프로세서(270)는, 차량의 모션 정보에 기초하여, 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 차량의 모션 정보에 기초하여, 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 영상부(도 9a, 9b의 910) 또는 플랫 미러(도 9a, 도 9b의 920)를 제어할 수 있다.
프로세서(270)는, 제2 좌표계 기준의 차량(100)의 제2 모션에 대한 정보를 제1 좌표계 기준으로 변환할 수 있다.
프로세서(270)는, 변환된 제2 모션에 대한 정보를 기초로, 제1 모션에 대한 정보를 보정할 수 있다.
IMU 센서로부터의 제2 모션 정보는, 카메라(310)로부터의 제1 모션 정보보다 빠르게 획득될 수 있다.
카메라(310)는, 오브젝트 검출 및 오브젝트 검출에 따른 애플리케이션 구현 동작이 이루어지는 중에, 제1 모션 정보를 생성하기 때문에, IMU 센서로부터의 제2 모션 정보보다 느리게 프로세서(270)에 전달된다.
차량(100)이 이동 중에, 제1 모션 정보에 기초하여, AR 그래픽 객체를 이동한다면, AR 그래픽 객체의 이동에 지연이 발생한다. 이경우, 사용자는, AR 그래픽 객체에 이질감을 느끼게 된다.
제2 모션 정보에 기초하여, 제1 모션 정보를 보정하고, 보정된 제1 모션 정보에 기초하여 AR 그래픽 객체를 이동하는 경우, AR 그래픽 객체의 이동에 발생되는 지연이 거의 없게 된다. 이경우, 사용자는, AR 그래픽 객체에 이질감을 느끼지 않게 된다.
한편, 제1 모션에 대한 정보와 제2 모션에 대한 정보는, 기준이 되는 좌표계가 서로 다르다.
프로세서(270)는, 제1 모션에 대한 정보와 제2 모션에 대한 정보의 기준이 되는 좌표계를 일치시킬 수 있다.
구체적으로, 프로세서(270)는, 제2 모션에 대한 정보에 기준이 되는 제2 좌표계를 제1 모션에 대한 정보에 기준이 되는 제1 좌표계로 변환시킬 수 있다.
예를 들면, 프로세서(270)는, 로컬 좌표계 기준의 제2 모션에 대한 정보를 제1 모션에 대한 정보의 기준이 되는 월드 좌표계로 변환시킬 수 있다.
프로세서(270)는, 제1 모션에 대한 정보와 제2 모션에 대한 정보의 스케일을 일치시킬 수 있다.
프로세서(270)는, 제2 모션에 대한 정보에 따라 판단된 차량(100)의 움직임 변화량을, 제1 모션에 대한 정보에 반영할 수 있다.
실시예에 따라, 프로세서(270)는, 제2 모션에 대한 정보에 따라 판단된 차량(100)의 움직임 변화량이 기준값 이상인 경우, 움직임 변화량을 제1 모션에 대한 정보에 반영할 수 있다.
프로세서(270)는, 보정된 제1 모션에 대한 정보에 기초하여, 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 제어할 수 있다.
예를 들면, 프로세서(270)는, 보정된 제1 모션에 대한 정보에 따라 판단된 차량의 움직임 반대 방향으로 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 보정된 제1 모션에 대한 정보에 따라 판단된 차량의 움직임 변위에 비례하여 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 보정된 제1 모션에 대한 정보에 따라 판단된 차량의 움직임의 속도에 비례하여 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 보정된 제1 모션에 대한 정보에 따라 판단된 차량의 움직임 속도보다 느린 속도로 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다. 이경우, AR 그래픽 객체의 이동에 사용자의 눈이 적응할 시간을 부여함으로써, 사용자가 느끼는 이질감을 해소할 수 있다.
한편, 실시예에 따라, 프로세서(270)는, 제1 모션에 대한 보정 없이, 제2 모션에 대한 정보에 기초하여, 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 제어할 수 있다.
예를 들면, 프로세서(270)는, 제2 모션에 대한 정보에 따라 판단된 차량의 움직임 반대 방향으로 AR 그래픽 객체의 위치가 변경되도록 제어할 수 있다.
예를 들면, 프로세서(270)는, 제2 모션에 대한 정보에 따라 판단된 차량의 움직임 변위에 비례하여 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 제2 모션에 대한 정보에 따라 판단된 차량의 움직임의 속도에 비례하여 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 제2 모션에 대한 정보에 따라 판단된 차량의 움직임 속도보다 느린 속도로 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량의 모션에 대한 정보에 기초하여, 차량의 움직임에 변화가 발생되는 것으로 판단되는 경우, AR 그래픽 객체에 그래픽 효과를 부여할 수 있다.
여기서, 차량의 모션에 대한 정보는, 보정된 제1 모션에 대한 정보 또는 제2 모션에 대한 정보일 수 있다.
예를 들면, 그래픽 효과는, 페이드 아웃 효과(fade-out effect) 또는 블러 효과(blur effect)일 수 있다.
AR 그래픽 객체에 그래픽 효과를 부여함으로써, 보다 부드럽게 AR 그래픽 객체가 이동하게 되어, 사용자 AR 그래픽 객체를 보는데 편한함을 느끼게한다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량의 휠이 범프(bump)(예를 들면, 과속 방지턱) 또는 홀(hole)(예를 들면, 포트홀)을 지나면서 생성되는 차량의 피치(pitch) 변화 정보를 획득할 수 있다.
예를 들면, 프로세서(270)는, 차량의 범프 또는 홀을 지나는 상황 정보를 오브젝트 검출 장치(300)로부터 획득할 수 있다.
예를 들면, 프로세서(270)는, 차량의 모션에 대한 정보로, 피치 변화 정보를 IMU 센서로부터 획득할 수 있다.
프로세서(270)는, 피치 변화 정보에 기초하여, AR 그래픽 객체가 와핑되도록, 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 스티어링 휠의 회전에 따라 생성되는 차량의 요(yaw) 변화 정보를 획득할 수 있다.
예를 들면, 프로세서(270)는, 스티어링 휠 회전 정보를 센싱부(120)로부터 획득할 수 있다.
예를 들면, 프로세서(270)는, 차량의 모션에 대한 정보로, 요 변화 정보를 IMU 센서로부터 획득할 수 있다.
프로세서(270)는, 요 변화 정보에 기초하여, AR 그래픽 객체가 와핑되도록, 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 내부 카메라(220)에서 획득한 차량 내부 영상에 기초하여, 사용자의 눈을 검출할 수 있다.
프로세서(270)는, 차량의 모션에 따른 사용자의 눈의 위치 변화를 트래킹 할 수 있다.
프로세서(270)는, 트래킹된 눈의 위치 변화에 더 기초하여, AR 그래픽 객체가 와핑되도록 디스플레이부(251)를 제어할 수 있다.
차량의 움직임이 발생하는 경우, 차량에 탑승한 사용자의 눈의 위치에도 변화가 발생된다. 차량의 움직임 변화와 함께, 사용자의 눈의 위치 변화를 함께 고려하여, 보다 정교하게 AR 그래픽 객체를 와핑할 수 있다.
프로세서(270)는, 차량 전방 영상에 기초하여, 차량 전방에 위치하는 오브젝트에 대한 정보를 획득할 수 있다.
예를 들면, 프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300)로부터, 차량 전방에 위치하는 오브젝트에 대한 정보를 획득할 수 있다.
여기서, 오브젝트는, 정지 오브젝트 또는 이동 오브젝트일 수 있다.
예를 들면, 오브젝트는, 범프, 홀, 커브 구간 또는 경사 구간일 수 있다.
예를 들면, 오브젝트는, 노면 상에 놓여진 장애물일 수 있다.
프로세서(270)는, 차량(100)이 오브젝트와 만나는 시점 정보를 획득할 수 있다.
예를 들면, 프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300)로부터, 차량(100)이 오브젝트와 만나는 시점 정보를 획득할 수 있다.
예를 들면, 프로세서(270)는, 오브젝트에 대한 정보에 기초하여, 차량(100)이 오브젝트와 만나는 시점을 판단하여, 시점 정보를 생성할 수 있다.
프로세서(270)는, 시점 정보에 더 기초하여, 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
가령, 오브젝트가 범프인 경우, 프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300)로부터, 범프의 높이 정보를 획득할 수 있다.
프로세서(270)는, 차량(100)이 범프를 지나는 시점 이전에, 범프의 높이 정보에 기초하여, 차량(100)의 제1 모션에 대한 정보를 획득할 수 있다. 여기서, 제1 모션에 대한 정보는 예측 정보이고, 제1 모션은, 제1 예측 모션으로 명명될 수 있다. 이후에, 프로세서(270)는, 제1 예측 모션에 대한 정보에 기초하여, AR 그래픽 객체를 와핑할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량이 범프를 지날때, 차량(100)에 설치된 IMU 센서로부터 센싱 정보를 수신할 수 있다.
프로세서(270)는, 센싱 정보에 기초하여, 차량(100)의 제2 모션에 대한 정보를 획득할 수 있다.
프로세서(270)는, 제2 모션에 대한 정보를 기초로, 제1 예측 모션에 대한 정보를 보정할 수 있다.
가령, 오브젝트가 커브 구간인 경우, 프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300) 또는 내비게이션 시스템(770)으로부터 커브 구간의 곡률 정보를 획득할 수 있다.
프로세서(270)는, 차량(100)이 커브 구간에 진입하는 시점 이전에, 곡률 정보에 기초하여, 차량(100)의 제1 모션에 대한 정보를 획득할 수 있다. 여기서, 제1 모션에 대한 정보는 예측 정보이고, 제1 모션은, 제1 예측 모션으로 명명될 수 있다. 이후에, 프로세서(270)는, 제1 예측 모션에 대한 정보에 기초하여, AR 그래픽 객체를 와핑할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량이 커브 구간에 진입할 때, 차량(100)에 설치된 IMU 센서로부터 센싱 정보를 수신할 수 있다.
프로세서(270)는, 센싱 정보에 기초하여, 차량(100)의 제2 모션에 대한 정보를 획득할 수 있다.
프로세서(270)는, 제2 모션에 대한 정보를 기초로, 제1 예측 모션에 대한 정보를 보정할 수 있다.
전원 공급부(290)는, 프로세서(270)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(290)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
도 8b는 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치의 플로우 차트이다.
도 8b를 참조하면, 프로세서(270)는, 차량 전방 영상 정보를 수신할 수 있다(S810).
프로세서(270)는, 차량 영상 정보에 기초하여, AR 그래픽 객체를 생성할 수 있다(S820).
프로세서(270)는, 생성된 AR 그래픽 객체를 스크린에 투사할 수 있다(S830).
프로세서(270)는, 차량의 제1 모션에 대한 정보를 획득할 수 있다(S840).
여기서, 차량의 제1 모션에 대한 정보는, 차량 전방 영상 정보에 기초하여 생성된, 제1 좌표계 기준의 모션 정보일 수 있다.
프로세서(270)는, 제2 모션에 대한 정보를 획득할 수 있다(S845).
여기서, 차량의 제2 모션에 대한 정보는, IMU 센싱 정보에 기초하여 생성된, 제2 좌표계 기준의 모션 정보일 수 있다.
프로세서(270)는, 제2 모션에 대한 정보에 기초하여, 제1 모션에 대한 정보를 보정할 수 있다(S850).
예를 들면, 프로세서(270)는, 제2 모션에 대한 정보의 기준이되는 제1 좌표계를 제1 모션에 대한 정보의 기준이되는 제2 좌표계로 변환할 수 있다.
예를 들면, 프로세서(270)는, 제2 모션에 대한 정보의 스케일을 제1 모션에 대한 정보의 스케일로 변환할 수 있다.
프로세서(270)는, 보정된 제1 모션에 대한 정보에 기초하여, AR 그래픽 객체를 와핑할 수 있다(S860).
예를 들면, 프로세서(270)는, 보정된 제1 모션에 대한 정보에 기초하여, 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
실시예에 따라, 프로세서(270)는, 제2 모션에 대한 정보에 기초하여, AR 그래픽 객체를 와핑할 수도 있다.
프로세서(270)는, 와핑된 그래픽 객체를 스크린에 투사할 수 있다(S870).
도 9a 내지 도 9b는 본 발명의 실시예에 따른 디스플레이부의 구성을 설명하는데 참조되는 도면이다.
도면을 참조하면, 디스플레이부(251)는, 영상부(910), 플랫 미러(flat mirror)(920), 콘케이브 미러(concave mirror)(930)를 포함할 수 있다.
영상부(910)는, 프로세서(270)의 제어 신호에 기초하여 영상을 생성하여 출력할 수 있다. 영상부(910)는, 생성된 영상을 투사할(project) 수 있다. 영상부(910)에서 생성된 영상은, 플랫 미러(920)에 투사될 수 있다.
영상부(910)는, AR 그래픽 객체를 생성하여 출력할 수 있다.
영상부(910)는, 하나 이상의 영상 출력부를 포함할 수 있다. 영상부(910)는, 멀티 디스플레이 레이어의 개수에 대응되게 복수의 영상 출력부(911, 912, 913)를 포함할 수 있다.
예를 들면, 영상부(910)는, 제1 영상 출력부(911), 제2 영상 출력부(912) 및 제3 영상 출력부(913)를 포함할 수 있다.
도면에는, 영상부(910)가 3개의 영상 출력부를 포함하는 것으로 예시하나, 영상부(910)는, 1개 또는 2개의 영상 출력부를 포함할 수 있다. 또는, 영상부(910)는 4개 이상의 영상 출력부를 포함할 수도 있다.
플랫 미러(920)는, 영상부(910)에서 생성되어 투사된 영상을 콘케이브 미러(930)로 반사시킬 수 있다.
플랫 미러(920)는, 영상부(910)에서 생성되어 투사된 AR 그래픽 객체를 콘케이브 미러(930)로 반사시킬 수 있다.
플랫 미러(920)는, 하나 이상의 미러(921, 922, 923)를 포함할 수 있다. 플랫 미러(920)는, 멀티 디스플레이 레이어의 개수에 대응되게 복수의 미러(921, 922, 923)를 포함할 수 있다.
예를 들면, 플랫 미러(920)는, 제1 미러(921), 제2 미러(922) 및 제3 미러(923)를 포함할 수 있다.
도면에는, 플랫 미러(920)가 3개의 미러를 포함하는 것으로 예시하나, 플랫 미러(920)는, 1개 또는 2개의 미러를 포함할 수 있다. 또는, 플랫 미러(920)는, 4개 이상의 미러를 포함할 수 있다.
도 9b에 예시된 바와 같이, 플랫 미러(920)는, 반사각이 조정되도록 움직일 수 있다.
예를 들면, 디스플레이부(251)는, 플랫 미러 구동부를 더 포함할 수 있다. 플랫 미러 구동부는, 모터, 액추에이터 또는 솔레노이드를 포함할 수 있다.
플랫 미러 구동부는, 프로세서(270)의 제어 신호에 기초하여, 플랫 미러(920)의 자세를 조정할 수 있다.
플랫 미러(920)의 자세 조정에 기초하여, 허상 거리는 가변될 수 있다. 구체적으로, 플랫 미러(920)의 자세가 조정됨에 따라, 윈드 쉴드(902)에 투영되는 허상의 위치가 변경될 수 있다. 윈드 쉴드(902)에 투영되는 허상의 위치가 변경됨에 따라, 디스플레이 레이어의 허상 거리(950)가 변경될 수 있다.
프로세서(270)는, 플랫 미러(920) 자세 조정을 통해 AR 그래픽 객체가 와핑되도록 플랫 미러 구동부를 제어할 수 있다.
예를 들면, 프로세서(270)는, 플랫 미러(920) 자세 조정을 통해 AR 그래픽 객체가 스크린 상에서 이동되도록 플랫 미러 구동부를 제어할 수 있다.
도면에서는, 제2 미러(922)의 자세가 조정되는 것을 예시하나, 제1 미러(921) 및 제3 미러(923)의 자세도 조정될 수 있다.
콘케이브 미러(930)는, 플랫 미러(920)에 의해 반사되는 영상을 스크린(902)로 재반사할 수 있다.
콘케이브 미러(930)는, 플랫 미러(920)에 의해 반사되는 AR 그래픽 객체를, 스크린(902)(예를 들면, 윈드 쉴드)로 재반사할 수 있다.
재반사된 영상은 윈드 쉴드(902)에 투영될 수 있다. 윈드 쉴드(902)에 투영된 영상은 허상이다. 실시예에 따라, 재반사된 영상은 컴바이너에 투영될 수 있다.
사용자(901)는, 윈드 쉴드(902)에 투영된 영상(허상)을, 윈드 쉴드(902)보다 전방에 위치하는 것으로 인식할 수 있다.
허상은, 윈드 쉴드(902)보다 전방에 위치하는 가상 평면의 일 영역에 맺힐 수 있다. 디스플레이 레이어(940)는, 허상이 맺히는 가상 평면의 일 영역으로 정의될 수 있다. 이때, 허상 거리(950)는, 사용자의 눈(901)에서 디스플레이 레이어(940)까지의 거리로 정의될 수 있다.
허상 거리(950)는, 플랫 미러(920)의 자세 조정에 기초하여 가변될 수 있다. 예를 들면, 플랫 미러(920)의 제1 자세에 기초하여 허상 거리(950)가 제1 값을 가지는 상태에서, 프로세서(270)는, 플랫 미러 구동부를 제어하여, 플랫 미러(920)의 자세를 제2 자세로 조정할 수 있다. 이경우, 허상 거리(920)는, 제2 값을 가지게 될 수 있다.
디스플레이 레이어(940)는, 단일 레이어일 수 있다.
또는, 디스플레이 레이어(940)는, 멀티 디스플레이 레이어(940)일 수 있다.
멀티 디스플레이 레이어(940)는, 제1 디스플레이 레이어(941), 제2 디스플레이 레이어(942) 및 제3 디스플레이 레이어(943)를 포함할 수 있다.
제1 영상 출력부(911)에서 생성된 영상은, 제1 미러(911)에 의해 반사되고, 콘케이브 미러(930)에 의해 재반사되어, 윈드 쉴드(902)에 투영될 수 있다. 윈드 쉴드(902)에 투영된 영상은, 제1 디스플레이 레이어(941)에 맺히는 허상으로 구현될 수 있다. 이경우, 제1 디스플레이 레이어(941)는, 제1 허상 거리(951)를 가질 수 있다.
제2 영상 출력부(912)에서 생성된 영상은, 제2 미러(912)에 의해 반사되고, 콘케이브 미러(930)에 의해 재반사되어, 윈드 쉴드(902)에 투영될 수 있다. 윈드 쉴드(902)에 투영된 영상은, 제2 디스플레이 레이어(942)에 맺히는 허상으로 구현될 수 있다. 이경우, 제2 디스플레이 레이어(942)는, 제2 허상 거리(952)를 가질 수 있다.
제3 영상 출력부(913)에서 생성된 영상은, 제3 미러(913)에 의해 반사되고, 콘케이브 미러(930)에 의해 재반사되어, 윈드 쉴드(902)에 투영될 수 있다. 윈드 쉴드(902)에 투영된 영상은, 제3 디스플레이 레이어(943)에 맺히는 허상으로 구현될 수 있다. 이경우, 제3 디스플레이 레이어(943)는, 제3 허상 거리(953)를 가질 수 있다.
도 10은 본 발명의 실시예에 따라 영상 출력부를 설명하는데 참조되는 도면이다.
도 10을 참조하여, 제1 영상 출력부(911)를 중심으로 설명한다. 제2 영상 출력부(912) 및 제3 영상 출력부(913)는, 도 10을 참조하여 설명하는 제1 영상 출력부(911)와 동일한 구성을 가지는 것으로 이해될 수 있다.
제1 영상 출력부(911)는, 백라이트 유닛(1010), 콜리메이션 렌즈(910), 일루미네이션 렌즈(1040, 1050), FEL(Fly Eye Lens)(1030), 영상 형성 패널(1060) 및 가변 초점 렌즈(1070)를 포함할 수 있다.
백라이트 유닛(1010)은, 하나 이상의 광원을 포함할 수 있다. 예를 들면, 백라이트 유닛(1010)은, 하나 이상의 LED를 포함할 수 있다.
백라이트 유닛(1010)은, 백색광을 출력할 수 있다.
콜리메이션 렌즈(1020)는, 백라이트 유닛(1010)과 FEL(1030) 사이에 배치될 수 있다.
콜리메이션 렌즈(1020)는, 백라이트 유닛(1010)에서 출력되는 광을 평행하게 할 수 있다. 콜리메이션 렌즈(1020)를 거친 광은 불규칙한 분포를 가질 수 있다.
일루미네이션 렌즈(1040, 1050)는, FEL(1030)을 투과한 광을 영상 형성 패널(1050)로 포커싱할 수 있다.
일루미네이션 렌즈(1040, 1050)는, 제1 일루미네이션 렌즈(1040) 및 제2 이룰미네이션 렌즈(1050)를 포함할 수 있다.
제1 일루미네이션 렌즈(1040)는, FEL(1030)를 거쳐 분산되는 광을 제2 일루미네이션 렌즈(1050)로 포커싱할 수 있다.
제2 일루미네이션 렌즈(1050)는, 제1 일루미네이션 렌즈(1040)를 거치고 서로 다른 입사각을 가지는 광을 영상 형성 패널(1060)로 포커싱할 수 있다.
FEL(Fly Eye Lens)(1030)은, 불규직한 분포를 가지는 광을 규칙적인 분포를 가지는 광으로 전환할 수 있다.
FEL(1030)은, 복수의 셀을 포함할 수 있다. FEL(1030)은, 백라이트에서 복수의 셀 중 적어도 어느 일부로 제공되는 광을 각각 일정한 크기로 확대하여, 균일한 광이 영상 형성 패널(1060)에 제공되도록 할 수 있다.
FEL(1030)은, 콜리메이션 렌즈(1020)와 영상 형성 패널(1060) 사이에 배치될 수 있다.
영상 형성 패널(1060)은, 백라이트 유닛에서 제공되는 광에 기초하여, 이미지를 형성할 수 있다. 예를 들면, 영상 형성 패널(1060)은, LCD(liquid crystal display) 패널을 포함할 수 있다.
가변 초점 렌즈(1070)는, 프로세서(270)의 제어 신호에 따라, 초점 거리를 가변시킬 수 있다.
가변 초점 렌즈(1070)는, 액정(liquid crystal)을 포함할 수 있다. 가변 초점 렌즈(1070)는, 액정의 배열 상태에 따라, 생성된 영상에 기초한 허상이 맺히는 지점을 변경할 수 있다.
프로세서(270)는, 디스플레이 레이어(940)의 허상 거리(950)가 가변되도록 가변 초점 렌즈(1070)를 제어할 수 있다.
도 11은 본 발명의 실시예에 따라 가변 초점 렌즈를 설명하는데 참조되는 도면이다.
가변 초점 렌즈(1070)는, 제1 기판(1210), 제2 기판(1220), 액정층(1230)을 포함할 수 있다.
제1 기판(1210)은, 제1 베이스 기판(1211), 복수의 제1 전극(1212), 절연막(1213)을 포함할 수 있다.
복수의 제1 전극(1212)은, 제1 베이스 기판(1211)상에 형성될 수 있다. 복수의 제1 전극(1212)은 서로 소정 간격을 두고 이격되어 있다. 프로세서(270)의 제어에 따라, 복수의 제1 전극(1212)에는 전압이 인가될 수 있다. 예를 들면, 프로세서(270)의 제어에 따라, 복수의 제1 전극(1212) 각각에는 서로 다른 레벨의 전압이 인가될 수 있다.
한편, 복수의 제1 전극(1212)은 투명 전극일 수 있다. 예를 들면, 복수의 제1 전극(1212)은, ITO(Indium Tin Oxide) 투명 전극일 수 있다. 제1 전극(1212)이 투명 전극으로 형성됨으로 인해, 전극이 시야를 가지리 않을 수 있다.
절연막(1213)은 복수의 제1 전극(1212)을 덮도록 제1 베이스 기판(1211) 상에 형성될 수 있다.
제2 기판(1220)은, 제1 기판(1210)과 마주보게 배치될 수 있다. 제2 기판(1220)은, 제2 베이스 기판(1221) 및 제2 전극(1222)을 포함할 수 있다.
제2 전극(1222)은, 제2 베이스 기판(1221) 상에 형성될 수 있다. 제2 전극(1222)은 복수의 제1 전극(1212)와 마주보게 배치될 수 있다. 프로세서(270)의 제어에 따라, 제2 전극(1222)에 전압이 인가될 수 있다. 프로세서(270)의 제어에 따라, 제2 전극(1222)에 일정한 레벨의 전압이 인가될 수 있다.
한편, 제2 전극(1222)은 투명 전극일 수 있다. 예를 들면, 제2 전극(1222)은, ITO(Indium Tin Oxide) 투명 전극일 수 있다. 제2 전극(1222)이 투명 전극으로 형성됨으로 인해, 전극이 시야를 가지리 않을 수 있다.
액정층(1230)은, 제1 기판(1210) 및 제2 기판(1220) 사이에 배치될 수 있다. 액정층은 복수의 액정 분자(1231)을 포함할 수 있다. 복수의 액정 분자(1231)는 제공되는 전압의 크기에 대응하여 수평 방향에서 수직 방향으로 소정의 각도를 갖도록 구동될 수 있다. 프로세서(270)의 제어에 따라, 복수의 액정 분자(1231)가 소정의 각도를 가짐으로 인해, 가변 초점 렌즈(1070)의 초점이 변경될 수 있다.
가변 초점 렌즈(1070)는 제1 투명 플레이트 및 제2 투명 플레이트를 더 포함할 수 있다. 제1 투명 플레이트는, 제1 기판(1210) 외측에 배치될 수 있다. 제2 투명 플레이트는, 제2 기판(1220) 외측에 배치될 수 있다. 투명 플레이트는 글래스로 명명될 수 있다.
도 12는 본 발명의 실시예에 따라, 운전석에서 차량 전방을 바라볼때 차량용 사용자 인터페이스 장치를 설명하는데 참조되는 도면이다.
도 12를 참조하면, 디스플레이부(251)는, 멀티 디스플레이 레이어(941, 942, 943)를 구현할 수 있다.
디스플레이부(251)는, 제1 디스플레이 레이어(941), 제2 디스플레이 레이어(942) 및 제3 디스플레이 레이어(943)를 구현할 수 있다.
제1 디스플레이 레이어(941)는, 제1 허상 거리를 가질 수 있다.
제2 디스플레이 레이어(942)는, 제2 허상 거리를 가질 수 있다. 제2 허상 거리는, 제3 허상 거리보다 더 길 수 있다.
제3 디스플레이 레이어(943)는, 제3 허상 거리를 가질 수 있다. 제3 허상 거리는 제2 허상 거리보다 더 길 수 있다.
프로세서(270)는, 주행 상황 정보에 기초하여, 멀티 디스플레이 레이어(941, 942, 943) 각각의 허상 거리를 개별적으로 조절할 수 있다.
프로세서(270)는, 멀티 디스플레이 레이어(941, 942, 943)에 AR 그래픽 객체를 표시할 수 있다.
AR 그래픽 객체는, 주행 상황 정보에 기초할 수 있다. 또는, AR 그래픽 객체는, 메모리(240)에 저장된 데이터에 기초할 수 있다. 또는, AR 그래픽 객체는, 통신 장치(400) 및 인터페이스부(245)를 통해, 외부 디바이스로부터 수신된 데이터에 기초할 수 있다.
프로세서(270)는, 멀티 디스플레이 레이어(941, 942, 943) 각각에 서로 다른 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 제1 디스플레이 레이어(941)에 제1 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 제2 디스플레이 레이어(942)에 제2 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 제3 디스플레이 레이어(943)에 제3 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 제1 AR 그래픽 객체 내지 제3 AR 그래픽 객체 중 적어도 두개 이상이 중첩되어 표시되도록 디스플레이부(251)를 제어할 수 있다.
한편, 멀티 디스플레이 레이어(941, 942, 943) 각각은, 허상 거리 가변 범위를 가질 수 있다.
예를 들면, 제1 디스플레이 레이어(941)는, 제1 거리값 내지 제2 거리값 사이의 허상 거리를 가질 수 있다.
예를 들면, 제2 디스플레이 레이어(942)는, 제2 거리값 내지 제3 거리값 사이의 허상 거리를 가질 수 있다.
예를 들면, 제3 디스플레이 레이어(943)는, 제3 거리값 내지 제4 거리값 사이의 허상 거리를 가질 수 있다.
프로세서(270)는, 멀티 디스플레이 레이어(941, 942, 943) 각각에 시간 차이를 두고 동일 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 제1 시간 범위 동안, 제3 디스플레이 레이어(941)에, 제1 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다. 이경우, 프로세서(270)는, 제1 AR 그래픽 객체가 표시되는, 제3 디스플레이 레이어(943)의 허상 거리가 변경되도록 제어할 수 있다.
프로세서(270)는, 제2 시간 범위 동안, 제2 디스플레이 레이어(941)에, 제1 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다. 여기서, 제2 시간 범위는, 제1 시간 범위에 이어지는 시간 범위일 수 있다. 이경우, 프로세서(270)는, 제1 AR 그래픽 객체가 표시되는, 제2 디스플레이 레이어(942)의 허상 거리가 변경되도록 제어할 수 있다.
프로세서(270)는, 제3 시간 범위 동안, 제1 디스플레이 레이어(941)에, 제1 AR 그래픽 객체가 표시되도록 디스플레이부(251)를 제어할 수 있다. 여기서, 제3 시간 범위는, 제2 시간 범위에 이어지는 시간 범위일 수 있다. 이경우, 프로세서(270)는, 제1 AR 그래픽 객체가 표시되는, 제1 디스플레이 레이어(941)의 허상 거리가 변경되도록 제어할 수 있다.
이와 같은 제어를 통해, 제1 시간 범위 내지 제3 시간 범위에서, 제1 AR 그래픽 객체는, 제1 거리값 내지 제4 거리값 사이에서, 사용자에게 점점 가까워지도록 표시되는 효과를 도출할 수 있다. 그에 따라, 사용자는 입체감과 공간감을 현실적으로 느낄 수 있는 효과가 도출될 수 있다.
도 13a 내지 도 14c는, 본 발명의 실시예에 따라 다양한 상황에서 차량용 사용자 인터페이스 동작을 설명하는데 참조되는 예시도이다.
도면을 참조하면, 프로세서(270)는, 카메라(310)로부터, 차량 전방 영상 정보를 수신할 수 있다.
프로세서(270)는, 오브젝트 검출 장치(300)로부터, 제1 오브젝트(1310)에 대한 정보를 획득할 수 있다.
제1 오브젝트(1310)에 대한 정보는, 제1 오브젝트의 존재 여부 정보, 제1 오브젝트의 위치 정보, 차량(100)과 제1 오브젝트와의 거리 정보, 차량(100)과 제1 오브젝트와의 상대 속도 정보를 포함할 수 있다.
프로세서(270)는, 차량 전방 영상에 기초하여, 제1 오브젝트(1310)에 대응되는 AR 그래픽 객체(1330)를 생성할 수 있다.
프로세서(270)는, 사용자 측에서 볼때, AR 그래픽 객체(1330)가 오브젝트(1310)와 겹쳐지거나 오브젝트(1310) 주변에 표시되도록, AR 그래픽 객체(1330)를 윈드 쉴드에 투사할 수 있다.
한편, 제1 오브젝트(1310)는, 도 5 내지 도 6을 참조하여 설명한 오브젝트(O)일 수 있다.
제1 오브젝트(1310)는, 정지 오브젝트 또는 이동 오브젝트일 수 있다.
예를 들면, 제1 오브젝트는, 이동 중인 타 차량(1310) 또는 이동 중인 보행자일 수 있다.
예를 들면, 제1 오브젝트는, 교통 신호, 도로, 구조물, 정지한 타 차량, 정지한 보행자일 수 있다.
프로세서(270)는, 오브젝트 검출 장치(300)로부터, 제2 오브젝트(1320, 1420, 1520, 1620)에 대한 정보를 획득할 수 있다.
제2 오브젝트(1320)는, 차량의 움직임을 유도하는 오브젝트일 수 있다.
예를 들면, 제2 오브젝트(1320)는, 범프, 홀, 커브, 경사, 노면에 놓인 장애물일 수 있다.
도 13a 내지 도 13c는 본 발명의 실시예에 따라 차량이 범프를 지날때 차량용 사용자 인터페이스 동작을 설명하는데 참조되는 도면이다.
차량(100)은, 범프(1320)를 지나칠 수 있다.
여기서, 범프(1320)는, 과속 방지턱을 포함할 수 있다.
도 13a에 예시된 바와 같이, 프로세서(270)는, 제2 오브젝트에 대한 정보로, 범프(1320)에 대한 정보를 오브젝트 검출 장치(300)로부터 수신할 수 있다.
범프(1320)에 대한 정보는, 범프의 위치 정보, 범프의 높이 정보, 범프의 길이 정보, 범프의 너비 정보, 차량(100)과 범프와의 거리 정보, 차량(100)과 범프가 만나는 시점 정보를 포함할 수 있다.
도 13b에 예시된 바와 같이, 차량(100)의 프런트 휠이 범프(1320)를 밟는 순간, 차량(100)의 전단은 위쪽으로 들리게된다.
이경우, 제1 오브젝트(1310)는, 사용자의 시야를 기준으로 아래 방향으로 상대적으로 움직인다.
이때, 스크린에 투영되는 AR 그래픽 객체(1330)의 위치가 조정되지 않으면, AR 그래픽 객체(1330)와 제1 오브젝트(1310)는 매칭되지 않게 된다.
도 13c에 예시된 바와 같이, 프로세서(270)는, AR 그래픽 객체(1330)를 와핑하여, AR 그래픽 객체(1330)를 제1 오브젝트(1310)에 매칭시킨다.
프로세서(270)는, 차량의 모션에 대한 정보를 획득할 수 있다.
차량의 모션에 대한 정보는, 차량의 움직임 발생 정보, 차량의 움직임 변위 정보, 차량의 움직임 방향 정보, 차량 움직임 속도 정보, 차량 자세 정보를 포함할 수 있다.
프로세서(270)는, 차량 전방 영상 정보에 기초하여 생성된, 월드 좌표계 기준의 차량의 제1 모션에 대한 정보를 획득할 수 있다.
프로세서(270)는, IMU 센서의 센싱 정보에 기초하여 생성된, 로컬 좌표계 기준의 차량의 제2 모션에 대한 정보를 획득할 수 있다.
프로세서(270)는, 제2 모션에 대한 정보에 기초하여, 제1 모션에 대한 정보를 보정할 수 있다.
프로세서(270)는, 보정된 제1 모션에 대한 정보에 기초하여, AR 그래픽 객체를 와핑할 수 있다.
실시예에 따라, 프로세서(270)는, 제2 모션에 대한 정보에 기초하여, AR 그래픽 객체를 와핑할 수 있다.
제1 모션에 대한 정보는 제2 모션에 대한 정보에 비해 느리게 획득된다.
보정되지 않은 채로, 제1 모션에 대한 정보에만 기초하여, AR 그래픽 객체가 와핑되는 경우, 지연이 발생되어, 사용자는, 차량(100)이 제2 오브젝트(1320, 1420, 1520, 1620)를 지나친 이후에, 이동된 AR 그래픽 객체를 보게되는 문제가 있다.
보정된 제1 모션에 대한 정보나 제2 모션에 대한 정보에 기초하여, AR 그래픽 객체가 와핑되는 경우, 지연이 거의 발생되지 않아, 사용자는, 차량(100)의 제2 오브젝트(1320, 1420, 1520, 1620)를 지나는 순간에도 제1 오브젝트(1310)와 매칭된 AR 그래픽 객체(1330)를 볼수 있게된다.
도 14a 내지 도 14c는 본 발명의 실시예에 따라 차량이 커브 구간에 진입할 때 차량용 사용자 인터페이스 동작을 설명하는데 참조되는 도면이다.
차량(100)은, 커브 구간(1420)에 진입할 수 있다.
도 14a에 예시된 바와 같이, 프로세서(270)는, 제2 오브젝트에 대한 정보로, 커브 구간(1420)에 대한 정보를 오브젝트 검출 장치(300) 또는 내비게이션 시스템(770)으로부터 수신할 수 있다.
커브 구간(1420)에 대한 정보는, 커브 구간의 곡률 정보, 차량(100)과 커브 구간 사이의 거리 정보, 차량(100)이 커브 구간에 진입하는 시점 정보를 포함할 수 있다.
도 14b에 예시된 바와 같이, 조향이 순간적으로 이루어지는 경우, 차량(100)은 조향 방향으로 향하게 된다.
예를 들면, 도면에 예시된 바와 같이, 직진 주행 방향의 오른쪽으로 조향이 이루어지는 경우, 차량(100)은, 오른쪽 방향을 향하게 된다.
예를 들면, 직진 주행 방향의 왼쪽으로 조향이 이루어지는 경우, 차량(100)은, 왼쪽 방향을 향하게 된다.
이경우, 제1 오브젝트(1310)는, 사용자의 시야를 기준으로, 조향 방향의 반대 방향으로 상대적으로 움직인다.
이때, 스크린에 투영되는 AR 그래픽 객체(1330)의 위치가 조정되지 않으면, AR 그래픽 객체(1330)와 제1 오브젝트(1310)는, 매칭되지 않게 된다.
예를 들면, 커브의 곡률이 기준값 이상인 경우, AR 그래픽 객체(1330)와 제1 오브젝트(1310)는 매칭되지 않게 된다.
예를 들면, 단위 시간당 조향의 정도가 기준값 이상인 경우, AR 그래픽 객체(1330)와 제1 오브젝트(1310)는 매칭되지 않게 된다.
도 14c에 예시된 바와 같이, 프로세서(270)는, AR 그래픽 객체(1330)를 와핑하여, AR 그래픽 객체(1330)를 제1 오브젝트(1310)에 매칭시킨다.
AR 그래픽 객체(1330)를 와핑하는 동작은, 도 13c를 참조하여 설명한 바와 같다.
도 15a 내지 도 15c는 본 발명의 실시예에 따라 AR 그래픽 객체를 와핑하는 동작을 설명하는데 참조되는 도면이다.
도면을 참조하면, 프로세서(270)는, 차량 전방 영상 정보에 기초하여, 제1 오브젝트(1310)에 대응하는 AR 그래픽 객체(1330)를 생성할 수 있다.
프로세서(270)는, 사용자의 시점에서, AR 그래픽 객체(1330)가, 제1 오브젝트(1310)와 겹쳐지게 스크린에 투사할 수 있다.
이경우, 프로세서(270)는, 내부 카메라(220)에서 획득된 차량 내부 영상에서 검출된 사용자의 눈 위치 정보에 기초하여, 스크린에서 AR 그래픽 객체(1330)가 투사되는 영역을 결정할 수 있다.
도 15a에 예시된 바와 같이, 차량(100)이 범프를 지나는 등의 상황으로 인해, 차량(100)의 움직임일 발생할 수 있다. 이경우, 도 15b 또는 도 15c에 예시된 바와 같이, 프로세서(270)는, 차량의 모션 정보에 기초하여, AR 그래픽 객체를 와핑할 수 있다.
차량의 모션 정보는, 차량 전방 영상 정보에 의해 생성되거나, IMU 센서의 센싱 정보에 의해 생성될 수 있다.
프로세서(270)는, 차량의 모션 정보에 기초하여, 스크린 상에 투영되는 AR 그래픽 객체(1330)의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량의 모션 정보에 따라 판단된 차량의 움직임 반대 방향으로, AR 그래픽 객체(1330)의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량의 모션 정보에 따라 판단된 차량의 움직임 변위에 비례하여 AR 그래픽 객체(1330)의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량의 모션 정보에 따라 판단된 차량의 움직임 속도에 비례하여 AR 그래픽 객체(1330)의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 차량(100)의 프런트 휠이 범프(1320)를 밟아, 차량(100)의 전단이 지면을 기준으로 위쪽으로 이동되는 경우, 피치 변화가 발생한다. 이경우, 프로세서(270)는, 차량의 모션 정보로, 이러한 피치 변화 정보를 획득할 수 있다.
프로세서(270)는, 차량의 피치 변화 방향의 반대 방향으로, AR 그래픽 객체(1330)의 위치가 변경되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량의 피치 변화의 변위에 비례하는 변위만큼, AR 그래픽 객체(1330)의 위치가 이동되도록, 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량의 피치 변화의 속도에 비례하는 속도로, AR 그래픽 객체(1330)의 위치가 이동되도록, 디스플레이부(251)를 제어할 수 있다.
도 15b 또는 도 15c에 예시된 바와 같이, 프로세서(270)는, AR 그래픽 객체(1330)가, 스크린 상에서, 지면을 기준으로 아래쪽으로, 차량의 피치 변화의 변위에 비례하는 변위만큼, 차량의 피치 변화의 속도에 비례하는 속도로, 이동되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, AR 그래픽 객체(1330)가 와핑될 때, AR 그래픽 객체(1330)에 그래픽 효과를 부여할 수 있다.
예를 들면, 도 15b에 예시된 바와 같이, 프로세서(270)는, AR 그래픽 객체(1330)가 와핑될 때, AR 그래픽 객체(1330)에 페이드 아웃 효과(fade-out effect)를 부여할 수 있다.
프로세서(270)는, AR 그래픽 객체(1330)가 이동되면서, AR 그래픽 객체(1330)가 표시되었던 영역의 이전 AR 그래픽 객체(1330)가 점점 희미하게 표시되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 도 15c에 예시된 바와 같이, 프로세서(270)는, AR 그래픽 객체(1330)가 와핑될 때, AR 그래픽 객체(1330)에 블러 효과(blur effect)를 부여할 수 있다.
프로세서(270)는, AR 그래픽 객체(1330)가 이동되면서, AR 그래픽 객체(1330)가 표시되었던 영역에 AR 그래픽 객체(1330)의 잔상이 흐릿하게 표시되도록 디스플레이부(251)를 제어할 수 있다. 프로세서(270)는, 흐릿한 잔상이 점점 투명해지면서 소정 시간이 지나면 없어지도록 디스플레이부(251)를 제어할 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 프로세서 또는 제어부를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
100 : 차량
200 : 차량용 사용자 인터페이스 장치

Claims (20)

  1. 인터페이스부;
    AR(augmented reality) 그래픽 객체를 스크린에 투사하는 디스플레이부;
    상기 인터페이스부를 통해, 차량 전방 영상 정보 및 차량의 모션에 대한 정보를 획득하고,
    상기 차량 전방 영상 정보에 기초하여 상기 AR 그래픽 객체를 생성하고,
    상기 차량의 모션에 대한 정보에 기초하여, 상기 AR 그래픽 객체를 와핑(warping)하는 프로세서;를 포함하는, 차량용 사용자 인터페이스 장치.
  2. 제 1항에 있어서,
    상기 프로세서는,
    상기 인터페이스부를 통해, 차량에 설치된 카메라로부터, 상기 차량 전방 영상 정보를 수신하고,
    상기 차량 영상 정보에 기초하여, 제1 좌표계 기준의 차량의 제1 모션에 대한 정보를 획득하는, 차량용 사용자 인터페이스 장치.
  3. 제 2항에 있어서,
    상기 프로세서는,
    상기 인터페이스부를 통해, 차량에 설치된 IMU(inertial navigation unit) 센서로부터, 센싱 정보를 수신하고,
    상기 센싱 정보에 기초하여, 제2 좌표계 기준의 차량의 제2 모션에 대한 정보를 획득하는, 차량용 사용자 인터페이스 장치.
  4. 제 3항에 있어서,
    상기 프로세서는,
    상기 제2 모션에 대한 정보를, 상기 제1 좌표계 기준으로 변환하고,
    상기 변환된 제2 모션에 대한 정보를 기초로, 상기 제1 모션에 대한 정보를 보정하는, 차량용 사용자 인터페이스 장치.
  5. 제 4항에 있어서,
    상기 프로세서는,
    상기 제2 모션에 대한 정보에 따라 판단된 차량의 움직임 변화량을, 상기 제1 모션에 대한 정보에 반영하는, 차량용 사용자 인터페이스 장치.
  6. 제 4항에 있어서,
    상기 프로세서는,
    상기 보정된 제1 모션에 대한 정보에 기초하여, 상기 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 제어하는, 차량용 사용자 인터페이스 장치.
  7. 제 6항에 있어서,
    상기 프로세서는,
    상기 보정된 제1 모션에 대한 정보에 따라 판단된 차량의 움직임의 반대 방향으로 상기 AR 그래픽 객체의 위치가 변경되도록 제어하는, 차량용 사용자 인터페이스 장치.
  8. 제 6항에 있어서,
    상기 프로세서는,
    상기 보정된 제1 모션에 대한 정보에 따라 판단된 차량의 움직임 변위에 비례하여 상기 AR 그래픽 객체의 위치가 변경되도록 제어하는, 차량용 사용자 인터페이스 장치.
  9. 제 1항에 있어서,
    상기 프로세서는,
    상기 모션에 대한 정보에 기초하여, 차량의 움직임에 변화가 발생되는 것으로 판단되는 경우, 상기 AR 그래픽 객체에 그래픽 효과를 부여하는, 차량용 사용자 인터페이스 장치.
  10. 제 9항에 있어서,
    상기 그래픽 효과는,
    페이드 아웃 효과(fade-out effect) 또는 블러 효과(blur effect)인, 차량용 사용자 인터페이스 장치.
  11. 제 1항에 있어서,
    상기 프로세서는,
    상기 인터페이스부를 통해, 차량의 휠이 범프(bump) 또는 홀(hole)을 지나면서 생성되는 차량의 피치 변화 정보를 획득하고,
    상기 피치 변화 정보에 기초하여, 상기 디스플레이부를 제어하는, 차량용 사용자 인터페이스 장치.
  12. 제 1항에 있어서,
    상기 프로세서는,
    상기 인터페이스부를 통해, 스티어링 휠의 회전에 따라 생성되는 차량의 요 변화 정보를 획득하고,
    상기 요 변화 정보에 기초하여, 상기 디스플레이부를 제어하는, 차량용 사용자 인터페이스 장치.
  13. 제 1항에 있어서,
    차량 내부 영상을 획득하는 내부 카메라;를 더 포함하고,
    상기 프로세서는,
    상기 차량 내부 영상에 기초하여, 사용자의 눈을 검출하고,
    상기 차량의 모션에 따른 상기 사용자의 눈의 위치 변화를 트래킹하고,
    상기 트래킹된 눈의 위치 변화에 더 기초하여, 상기 디스플레이부를 제어하는, 차량용 사용자 인터페이스 장치.
  14. 제 1항에 있어서,
    상기 프로세서는,
    상기 차량 전방 영상에 기초하여, 차량 전방에 위치하는 오브젝트에 대한 정보를 획득하고,
    차량이 상기 오브젝트와 만나는 시점 정보를 획득하고,
    상기 시점 정보에 더 기초하여, 상기 스크린 상에 투영되는 AR 그래픽 객체의 위치가 변경되도록 상기 디스플레이부를 제어하는, 차량용 사용자 인터페이스 장치.
  15. 제 14항에 있어서,
    상기 오브젝트는, 범프이고,
    상기 프로세서는,
    상기 범프의 높이 정보를 획득하고,
    차량이 상기 범프를 지나는 시점 이전에, 상기 높이 정보에 기초하여, 차량의 제1 예측 모션에 대한 정보를 획득하는, 차량용 사용자 인터페이스 장치.
  16. 제 15항에 있어서,
    상기 프로세서는,
    상기 인터페이스부를 통해, 차량이 상기 범프를 지날때, 차량에 설치된 IMU(inertial navigation unit) 센서로부터, 센싱 정보를 수신하고,
    상기 센싱 정보에 기초하여, 차량의 제2 모션에 대한 정보를 획득하고,
    상기 제2 모션에 대한 정보를 기초로, 상기 제1 예측 모션에 대한 정보를 보정하는, 차량용 사용자 인터페이스 장치.
  17. 제 16항에 있어서,
    상기 오브젝트는, 커브 구간이고,
    상기 프로세서는,
    상기 커브 구간의 곡률 정보를 획득하고,
    차량이 상기 커브 구간에 진입하는 시점 이전에, 상기 곡률 정보에 기초하여, 차량의 제1 예측 모션에 대한 정보를 획득하는, 차량용 사용자 인터페이스 장치.
  18. 제 1항에 있어서,
    상기 디스플레이부는,
    AR 그래픽 객체를 생성하는 영상부;
    상기 AR 그래픽 객체를 반사시키는 플랫 미러; 및
    상기 플랫 미러에 의해 반사되는 AR 그래픽 객체를 상기 스크린에 재반사하는 콘케이브 미러;를 포함하는, 차량용 사용자 인터페이스 장치.
  19. 제 18항에 있어서,
    상기 디스플레이부는,
    상기 플랫 미러의 자세를 조정하는 플랫 미러 구동부를 더 포함하고,
    상기 프로세서는,
    상기 플랫 미러의 자세 조정을 통해 상기 AR 그래픽 객체가 와핑되도록 상기 플랫 미러 구동부를 제어하는, 차량용 사용자 인터페이스 장치.
  20. 제 1항 내지 제 19항 중 어느 하나의 항에 기재된 차량용 사용자 인터페이스 장치를 포함하는 차량.

KR1020170057451A 2017-05-08 2017-05-08 차량용 사용자 인터페이스 장치 및 차량 KR20180123354A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020170057451A KR20180123354A (ko) 2017-05-08 2017-05-08 차량용 사용자 인터페이스 장치 및 차량
US15/854,932 US10997759B2 (en) 2017-05-08 2017-12-27 User interface apparatus for vehicle and vehicle
PCT/KR2018/003443 WO2018208006A1 (en) 2017-05-08 2018-03-23 User interface apparatus for vehicle and vehicle
CN201880045649.1A CN110869901B (zh) 2017-05-08 2018-03-23 车辆用的用户界面装置和车辆
US17/223,924 US11341700B2 (en) 2017-05-08 2021-04-06 User interface apparatus for vehicle and vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170057451A KR20180123354A (ko) 2017-05-08 2017-05-08 차량용 사용자 인터페이스 장치 및 차량

Publications (1)

Publication Number Publication Date
KR20180123354A true KR20180123354A (ko) 2018-11-16

Family

ID=64014195

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170057451A KR20180123354A (ko) 2017-05-08 2017-05-08 차량용 사용자 인터페이스 장치 및 차량

Country Status (4)

Country Link
US (2) US10997759B2 (ko)
KR (1) KR20180123354A (ko)
CN (1) CN110869901B (ko)
WO (1) WO2018208006A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11436698B2 (en) 2020-01-28 2022-09-06 Samsung Electronics Co., Ltd. Method of playing back image on display device and display device

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180123354A (ko) * 2017-05-08 2018-11-16 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량
DE102018203121B4 (de) * 2018-03-02 2023-06-22 Volkswagen Aktiengesellschaft Verfahren zur Berechnung einer AR-Einblendung von Zusatzinformationen für eine Anzeige auf einer Anzeigeeinheit, Vorrichtung zur Durchführung des Verfahrens sowie Kraftfahrzeug und Computerprogramm
US20190049950A1 (en) * 2018-09-17 2019-02-14 Intel Corporation Driving environment based mixed reality for computer assisted or autonomous driving vehicles
EP3666594B1 (en) * 2018-12-12 2022-08-10 Ningbo Geely Automobile Research & Development Co. Ltd. System and method for warning a driver of a vehicle of an object in a proximity of the vehicle
CN109668575A (zh) * 2019-01-29 2019-04-23 苏州车萝卜汽车电子科技有限公司 用于增强现实抬头显示装置的导航信息处理方法及装置、设备、系统
US20220103789A1 (en) * 2019-01-31 2022-03-31 Lg Electronics Inc. Method for sharing images between vehicles
US11615599B2 (en) 2019-03-15 2023-03-28 Harman International Industries, Incorporated Apparatus of shaking compensation and method of shaking compensation
UA120581C2 (uk) * 2019-03-15 2019-12-26 Апостера Гмбх Пристрій компенсації трясіння для систем доповненої реальності в автомобілі (варіанти) і спосіб компенсації трясіння (варіанти)
US20210054690A1 (en) * 2019-08-23 2021-02-25 Victor Ramirez Systems and methods for tintable car windows having display capabilities
US11783444B1 (en) * 2019-11-14 2023-10-10 Apple Inc. Warping an input image based on depth and offset information
CN111323042B (zh) * 2020-02-20 2023-10-10 华为技术有限公司 目标物体的预警方法、装置和电子设备
CN111541888A (zh) * 2020-05-07 2020-08-14 青岛跃迁科技有限公司 一种基于显示面的ar实现方法
CN112118436A (zh) * 2020-09-18 2020-12-22 联想(北京)有限公司 一种基于增强现实装置的图像呈现方法、装置及系统
DE102020212520B3 (de) 2020-10-05 2021-10-21 Volkswagen Aktiengesellschaft Horizontale Positionsfestlegung für das Einblenden virtueller Objekte bei einer Head-Up-Displayeinrichtung
US11971548B1 (en) 2023-03-23 2024-04-30 Microchip Technology Incorporated Markers for objects seen through a windscreen

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009250827A (ja) 2008-04-08 2009-10-29 Panasonic Corp ナビゲーション装置、方法及びプログラム
DE102010042063B4 (de) * 2010-10-06 2021-10-28 Robert Bosch Gmbh Verfahren und Vorrichtung zum Bestimmen von aufbereiteten Bilddaten über ein Umfeld eines Fahrzeugs
JP5674032B2 (ja) 2011-03-25 2015-02-18 日本精機株式会社 ヘッドアップディスプレイ装置
JP2015504616A (ja) * 2011-09-26 2015-02-12 マイクロソフト コーポレーション 透過近眼式ディスプレイのセンサ入力に基づく映像表示修正
US9620017B2 (en) * 2011-12-14 2017-04-11 Robert Bosch Gmbh Vehicle merge assistance system and method
JP2017526078A (ja) * 2014-05-09 2017-09-07 グーグル インコーポレイテッド 実在および仮想のオブジェクトと対話するための生体力学ベースの眼球信号のためのシステムおよび方法
KR101659027B1 (ko) * 2014-05-15 2016-09-23 엘지전자 주식회사 이동 단말기 및 차량 제어 장치
JP2015226304A (ja) 2014-05-30 2015-12-14 日本精機株式会社 車両用投影装置及びヘッドアップディスプレイシステム
JP2017151491A (ja) 2014-07-07 2017-08-31 株式会社リコー 画像表示装置、画像処理システム、画像処理方法及び画像処理プログラム
GB2532954A (en) * 2014-12-02 2016-06-08 Ibm Display control system for an augmented reality display system
KR102366402B1 (ko) 2015-05-21 2022-02-22 엘지전자 주식회사 운전자 보조 장치 및 그 제어방법
JP2017013590A (ja) * 2015-06-30 2017-01-19 日本精機株式会社 ヘッドアップディスプレイ装置
KR20180123354A (ko) * 2017-05-08 2018-11-16 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11436698B2 (en) 2020-01-28 2022-09-06 Samsung Electronics Co., Ltd. Method of playing back image on display device and display device

Also Published As

Publication number Publication date
WO2018208006A1 (en) 2018-11-15
CN110869901A (zh) 2020-03-06
CN110869901B (zh) 2024-01-09
US10997759B2 (en) 2021-05-04
US11341700B2 (en) 2022-05-24
US20180322673A1 (en) 2018-11-08
US20210225055A1 (en) 2021-07-22

Similar Documents

Publication Publication Date Title
US10611293B2 (en) Lamp for vehicle
KR101899981B1 (ko) 차량용 헤드 업 디스플레이
US11341700B2 (en) User interface apparatus for vehicle and vehicle
KR101954199B1 (ko) 차량용 어라운드 뷰 모니터링 장치, 운행 제어 장치 및 차량
KR101976425B1 (ko) 차량 운전 보조 장치
KR102102761B1 (ko) 차량용 사용자 인터페이스 장치 및 차량
KR102001917B1 (ko) 차량용 주차 시스템 및 차량
KR20180026241A (ko) 차량용 사용자 인터페이스 장치 및 차량
KR20180117478A (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
KR20180130314A (ko) 차량용 사용자 인터페이스 장치 및 차량
KR20180036267A (ko) 자율 주행 차량의 제어방법과 서버
KR20180131628A (ko) 차량용 헤드 업 디스플레이 장치
KR20170101112A (ko) 차량용 헤드 업 디스플레이 장치
KR20190088133A (ko) 입출력 장치 및 그것을 포함하는 차량
KR20200095313A (ko) 영상 출력 장치
KR102005443B1 (ko) 사용자 인터페이스 장치
KR101934294B1 (ko) 디스플레이 장치 및 그것을 포함하는 차량
KR101979277B1 (ko) 차량용 사용자 인터페이스 장치 및 차량
KR20190016375A (ko) 차량용 사이드 미러 및 차량
KR20190038088A (ko) 차량에 구비된 차량 제어 장치
KR101859042B1 (ko) 차량용 사용자 인터페이스 장치 및 차량
KR101959307B1 (ko) 차량용 주차 시스템
KR101916726B1 (ko) 차량에 구비된 차량 제어 장치 및 그의 제어방법
KR20200064188A (ko) 디스플레이 장치 및 그것을 포함하는 차량
KR101858701B1 (ko) 차량용 헤드 업 디스플레이 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E601 Decision to refuse application
E801 Decision on dismissal of amendment