KR20230042285A - 경로 안내 장치 및 그것의 경로 안내 방법 - Google Patents

경로 안내 장치 및 그것의 경로 안내 방법 Download PDF

Info

Publication number
KR20230042285A
KR20230042285A KR1020237003172A KR20237003172A KR20230042285A KR 20230042285 A KR20230042285 A KR 20230042285A KR 1020237003172 A KR1020237003172 A KR 1020237003172A KR 20237003172 A KR20237003172 A KR 20237003172A KR 20230042285 A KR20230042285 A KR 20230042285A
Authority
KR
South Korea
Prior art keywords
image
vehicle
driving
processor
output
Prior art date
Application number
KR1020237003172A
Other languages
English (en)
Inventor
이기형
정준영
지애띠
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20230042285A publication Critical patent/KR20230042285A/ko

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/365Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3647Guidance involving output of stored or live camera images or video streams
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3658Lane guidance
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3602Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3635Guidance using 3D or perspective road maps
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Manufacturing & Machinery (AREA)
  • Optics & Photonics (AREA)
  • Traffic Control Systems (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)

Abstract

본 발명은 차량에 탑재되어 증강현실을 구현하는 경로 안내 장치 및 그것의 경로 안내 방법을 제공한다. 본 발명의 일 실시 예에 따른 경로 안내 장치는, 카메라를 통해 촬영된 제1 영상을 수신하는 통신부 및 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 프로세서를 포함한다.

Description

경로 안내 장치 및 그것의 경로 안내 방법
본 발명은 차량에 탑재되어 증강현실을 구현하는 경로 안내 장치 및 그것의 경로 안내 방법에 관한 것이다.
차량은 운동 에너지를 이용하여 사람이나 짐을 이동시킬 수 있는 교통 수단을 의미한다. 차량의 대표적인 예로, 자동차 및 오토바이를 들 수 있다.
차량을 이용하는 사용자의 안전 및 편의를 위해, 차량에는 각종 센서와 장치가 구비되고 있으며, 차량의 기능이 다양화되고 있다.
차량의 기능은 운전자의 편의를 도모하기 위한 편의 기능, 그리고 운전자 및/또는 보행자의 안전을 도모하기 위한 안전 기능으로 나뉠 수 있다.
먼저, 편의 기능은 차량에 인포테인먼트(information + entertainment) 기능을 부여하고, 부분적인 자율 주행 기능을 지원하거나, 야간 시야나 사각 지대와 같은 운전자의 시야 확보를 돕는 등의 운전자 편의와 관련된 개발 동기를 가진다. 예를 들어, 적응 순향 제어(active cruise control, ACC), 스마트주자시스템(smart parking assist system, SPAS), 나이트비전(night vision, NV), 헤드 업 디스플레이(head up display, HUD), 어라운드 뷰 모니터(around view monitor, AVM), 적응형 상향등 제어(adaptive headlight system, AHS) 기능 등이 있다.
안전 기능은 운전자의 안전 및/또는 보행자의 안전을 확보하는 기술로, 차선 이탈 경고 시스템(lane departure warning system, LDWS), 차선 유지 보조 시스템(lane keeping assist system, LKAS), 자동 긴급 제동(autonomous emergency braking, AEB) 기능 등이 있다.
상술한 편의 기능과 안전 기능이 보다 더 향상될 수 있도록, 차량에 특화된 통신 기술이 개발되고 있다. 예를 들어, 차량과 인프라간의 통신을 가능케 하는 V2I(Vehicle to Infrastructure), 차량과 차량간의 통신을 가능케 하는 V2V(Vehicle to Vehicle) 그리고, 차량과 사물간의 통신을 가능케 하는 V2X(Vehicle to Everything) 등이 있다.
차량에는 탑승객에게 다양한 정보를 시각적으로 제공하기 위한 경로 안내 장치가 구비된다. 상기 경로 안내 장치는 차량의 윈드실드(windshield)나 별도로 구비된 투명 스크린으로 정보를 출력하는 헤드 업 디스플레이(HUD) 및/또는 패널을 통해 정보를 출력하는 각종 디스플레이를 포함한다.
상기 경로 안내 장치는 목적지까지의 경로 안내 정보와 관심지점(Point of Interest, POI)에 관한 정보를 제공하며, 다양한 정보를 효과적으로 제공하는 방향으로 발전하고 있다. 특히, 운전에 집중해야 하는 운전자에게 운전에 방해가 되지 않는 범위 내에서 필요한 정보를 직접적이면서도 효과적으로 제공하는 경로 안내 장치에 대한 연구가 계속되고 있다.
본 발명은 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다.
본 발명의 일 목적은 최적화된 방법으로 차량이 주행해야 할 경로를 증강 현실로 제공하는 것이 가능한 경로 안내 장치 및 그것의 경로 안내 방법을 제공하는 것이다.
본 발명의 다른 일 목적은 탑승객에게 각종 정보를 증강 현실로 제공하는 것이 가능한 경로 안내 장치 및 그것의 경로 안내 방법을 제공하는 것이다.
본 발명의 또 다른 일 목적은 차량이 주행중인 상황에 따라 최적화된 증강 현실로 차량의 주행 경로를 안내하는 것이 가능한 경로 안내 장치를 제공하는 것이다.
본 발명은 차량이 주행해야 하는 경로를 제공하는 경로 안내 장치 및 그것의 경로 안내 방법을 제공한다.
본 발명의 일 실시 예에 따른 경로 안내 장치는, 카메라를 통해 촬영된 제1 영상을 수신하는 통신부 및 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 프로세서를 포함한다.
실시 예에 있어서, 상기 프로세서는, 상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고, 상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고, 상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 제2 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고, 상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 한다.
실시 예에 있어서, 상기 제1 그래픽 객체는, 상기 차량이 주행중인 차로를 벗어나는지와 무관하게 출력이 유지되는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 제1 영상에 포함된 도로 영역이 소정 크기 이상이 되도록 캘리브레이션을 수행하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량의 주행에 의해, 상기 제2 영상에 포함된 차로와 상기 차로에 오버랩된 그래픽 객체가 틀어지도록 상기 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상을 기준으로 상기 차로에 매칭되도록 상기 그래픽 객체를 변경하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 제2 영상에 포함된 차로에 오버랩되며 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 상기 제2 영상에 출력하고, 상기 카펫 이미지는 상기 제2 영상에서 차량이 주행중인 차로에 오버랩되며, 상기 프로세서는, 상기 제2 영상에서 차량이 주행중인 차로에 인접한 차로에 주행 방향을 가이드하는 벽 이미지를 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량이 방향 전환을 수행해야 하는 교차로로 진입하기 소정 거리 이전에는 상기 차량이 주행중인 차로에 상기 카펫 이미지를 출력하고, 상기 차량이 상기 교차로를 기준으로 상기 소정 거리 이내에 진입하면, 상기 카펫 이미지를 상기 벽 이미지로 변경하고, 상기 벽 이미지를 상기 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 차량이 상기 교차로에서 방향 전환을 수행하면, 상기 벽 이미지를 상기 카펫 이미지로 변경하고, 상기 차량이 주행중인 차로에 카펫 이미지를 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량과 상기 교차로 사이의 거리가 가까워질수록 상기 벽 이미지의 출력 크기를 확대하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량의 전방이 바라보는 방위를 알려주는 나침반 객체를 포함하는 나침반 이미지를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 나침반 이미지는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 상기 나침반 객체의 테두리를 따라 고정카펫 이미지의 표시위치를 가변하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량이 방향 전환을 수행해야 하는 교차로와 상기 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지 중 어느 하나를 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 프로세서는, 차량이 주행하는 도로의 기울기를 결정하고, 상기 결정된 도로의 기울기에 근거하여, 상기 제1 영상에 오버랩하여 출력하는 상기 제1 그래픽 객체의 기울기를 결정하는 것을 특징으로 한다.
본 발명의 다른 실시 예에 따른 경로 안내 장치의 경로 안내 방법은, 카메라를 통해 촬영된 제1 영상을 수신하는 단계 및 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 단계를 포함한다.
실시 예에 있어서, 상기 출력하는 단계는, 상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고, 상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 한다.
실시 예에 있어서, 상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고, 상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 출력하는 단계는, 상기 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고, 상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 한다.
본 발명에 따른 경로 안내 장치 및 그것의 경로 안내 방법의 효과에 대해 설명하면 다음과 같다.
본 발명에 따르면, 탑승객은 카펫 이미지를 통해 상기 차량이 자율 주행으로 주행할 또는 운전자가 운전해야 하는 경로 정보를 차선 단위로 제공받을 수 있다.
또한, 본 발명에 따르면, 탑승객은 다양한 종류의 카펫 이미지를 통해 차량이 주행해야 할 경로를 최적화된 방법으로 파악할 수 있게 된다.
또한, 본 발명에 따르면, 본 발명은 나침반 이미지를 통해 차량의 주행 경로를 가이드할 수 있는 새로운 경로 안내 인터페이스를 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 8은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이다.
도 9는 본 발명의 경로 안내 장치를 설명하기 위한 블록도이다.
도 10a, 도 10b, 도 10c, 도 10d, 도 10e, 도 10f, 도 11a, 도 11b, 도 11c, 도 11d, 도 11e, 도 11f 및 도 11g는 본 발명의 일 실시 예에 따른 증강 현실을 적용한 경로 안내 방법을 설명하기 위한 개념도이다.
도 12, 도 13a 및 도 13b는 본 발명의 일 실시 예에 따른 차량의 주행 상태에 따라 증강 현실로 출력되는 이미지의 종류를 결정하는 방법을 설명하기 위한 흐름도이다.
도 14, 도 15, 도 16, 도 17, 도 18, 도 19, 도 20, 도 21, 도 22 및 도 23은 본 발명의 일 실시 예에 따른 증강 현실로 출력되는 나침반 이미지를 설명하기 위한 개념도이다.
도 24a, 도 24b, 도 25, 도 26, 도 27a 및 도 27b은, 본 발명의 다른 실시 예에 따른 경로 안내 방법을 설명하기 위한 개념도이다.
도 28은 본 발명의 일 실시 예에 따른 턴-바이-턴 정보의 출력 방법을 설명하기 위한 개념도이다.
도 29a, 도 29b, 도 29c 및 도 29d는 본 발명의 일 실시 예에 따른 나침반 이미지의 다양한 출력 방법을 설명하기 위한 개념도이다.
도 30, 도 31 및 도 32는 본 발명의 증강 현실이 적용된 경로 안내 방법을 설명하기 위한 개념도이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 1 내지 도 7을 참조하면, 차량(100)은 동력원에 의해 회전하는 바퀴, 차량(100)의 진행 방향을 조절하기 위한 조향 입력 장치(510)를 포함할 수 있다.
차량(100)은 자율 주행 차량일 수 있다.
차량(100)은, 사용자 입력에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 사용자 인터페이스 장치(200)를 통해, 수신되는 사용자 입력에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 주행 상황 정보에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다. 주행 상황 정보는, 오브젝트 검출 장치(300)에서 제공된 오브젝트 정보에 기초하여 생성될 수 있다.
예를 들면, 차량(100)은, 오브젝트 검출 장치(300)에서 생성되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 통신 장치(400)를 통해 수신되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 외부 디바이스에서 제공되는 정보, 데이터, 신호에 기초하여 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)이 자율 주행 모드로 운행되는 경우, 자율 주행 차량(100)은, 운행 시스템(700)에 기초하여 운행될 수 있다.
예를 들면, 자율 주행 차량(100)은, 주행 시스템(710), 출차 시스템(740), 주차 시스템(750)에서 생성되는 정보, 데이터 또는 신호에 기초하여 운행될 수 있다.
차량(100)이 메뉴얼 모드로 운행되는 경우, 자율 주행 차량(100)은, 운전 조작 장치(500)를 통해 운전을 위한 사용자 입력을 수신할 수 있다. 운전 조작 장치(500)를 통해 수신되는 사용자 입력에 기초하여, 차량(100)은 운행될 수 있다.
전장(overall length)은 차량(100)의 앞부분에서 뒷부분까지의 길이, 전폭(width)은 차량(100)의 너비, 전고(height)는 바퀴 하부에서 루프까지의 길이를 의미한다. 이하의 설명에서, 전장 방향(L)은 차량(100)의 전장 측정의 기준이 되는 방향, 전폭 방향(W)은 차량(100)의 전폭 측정의 기준이 되는 방향, 전고 방향(H)은 차량(100)의 전고 측정의 기준이 되는 방향을 의미할 수 있다.
도 7에 예시된 바와 같이, 차량(100)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 운행 시스템(700), 내비게이션 시스템(770), 센싱부(120), 차량 인터페이스부(130), 메모리(140), 제어부(170) 및 전원 공급부(190)를 포함할 수 있다.
실시예에 따라, 차량(100)은, 본 명세서에서 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
사용자 인터페이스 장치(200)는, 차량(100)과 사용자와의 소통을 위한 장치이다. 사용자 인터페이스 장치(200)는, 사용자 입력을 수신하고, 사용자에게 차량(100)에서 생성된 정보를 제공할 수 있다. 차량(100)은, 사용자 인터페이스 장치(200)를 통해, UI(User Interfaces) 또는 UX(User Experience)를 구현할 수 있다.
사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 출력부(250) 및 프로세서(270)를 포함할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
입력부(200)는, 사용자로부터 정보를 입력받기 위한 것으로, 입력부(120)에서 수집한 데이터는, 프로세서(270)에 의해 분석되어, 사용자의 제어 명령으로 처리될 수 있다.
입력부(200)는, 차량 내부에 배치될 수 있다. 예를 들면, 입력부(200)는, 스티어링 휠(steering wheel)의 일 영역, 인스투루먼트 패널(instrument panel)의 일 영역, 시트(seat)의 일 영역, 각 필러(pillar)의 일 영역, 도어(door)의 일 영역, 센타 콘솔(center console)의 일 영역, 헤드 라이닝(head lining)의 일 영역, 썬바이저(sun visor)의 일 영역, 윈드 쉴드(windshield)의 일 영역 또는 윈도우(window)의 일 영역 등에 배치될 수 있다.
입력부(200)는, 음성 입력부(211), 제스쳐 입력부(212), 터치 입력부(213) 및 기계식 입력부(214)를 포함할 수 있다.
음성 입력부(211)는, 사용자의 음성 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
음성 입력부(211)는, 하나 이상의 마이크로 폰을 포함할 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 감지하기 위한 적외선 센서 및 이미지 센서 중 적어도 어느 하나를 포함할 수 있다.
실시예에 따라, 제스쳐 입력부(212)는, 사용자의 3차원 제스쳐 입력을 감지할 수 있다. 이를 위해, 제스쳐 입력부(212)는, 복수의 적외선 광을 출력하는 광출력부 또는 복수의 이미지 센서를 포함할 수 있다.
제스쳐 입력부(212)는, TOF(Time of Flight) 방식, 구조광(Structured light) 방식 또는 디스패러티(Disparity) 방식을 통해 사용자의 3차원 제스쳐 입력을 감지할 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 감지하기 위한 터치 센서를 포함할 수 있다.
실시예에 따라, 터치 입력부(213)는 디스플레이부(251)와 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한, 터치 스크린은, 차량(100)과 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 함께 제공할 수 있다.
기계식 입력부(214)는, 버튼, 돔 스위치(dome switch), 조그 휠 및 조그 스위치 중 적어도 어느 하나를 포함할 수 있다. 기계식 입력부(214)에 의해 생성된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
기계식 입력부(214)는, 스티어링 휠, 센테 페시아, 센타 콘솔, 칵픽 모듈, 도어 등에 배치될 수 있다.
내부 카메라(220)는, 차량 내부 영상을 획득할 수 있다. 프로세서(270)는, 차량 내부 영상을 기초로, 사용자의 상태를 감지할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 시선 정보를 획득할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 제스쳐를 감지할 수 있다.
생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있다. 생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있는 센서를 포함하고, 센서를 이용하여, 사용자의 지문 정보, 심박동 정보 등을 획득할 수 있다. 생체 정보는 사용자 인증을 위해 이용될 수 있다.
출력부(250)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것이다.
출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253) 중 적어도 어느 하나를 포함할 수 있다.
디스플레이부(251)는, 다양한 정보에 대응되는 그래픽 객체를 표시할 수 있다.
디스플레이부(251)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(251)는 터치 입력부(213)와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다.
디스플레이부(251)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(251)가 HUD로 구현되는 경우, 디스플레이부(251)는 투사 모듈을 구비하여 윈드 쉴드 또는 윈도우에 투사되는 이미지를 통해 정보를 출력할 수 있다.
디스플레이부(251)는, 투명 디스플레이를 포함할 수 있다. 투명 디스플레이는 윈드 쉴드 또는 윈도우에 부착될 수 있다.
투명 디스플레이는 소정의 투명도를 가지면서, 소정의 화면을 표시할 수 있다. 투명 디스플레이는, 투명도를 가지기 위해, 투명 디스플레이는 투명 TFEL(Thin Film Elecroluminescent), 투명 OLED(Organic Light-Emitting Diode), 투명 LCD(Liquid Crystal Display), 투과형 투명디스플레이, 투명 LED(Light Emitting Diode) 디스플레이 중 적어도 하나를 포함할 수 있다. 투명 디스플레이의 투명도는 조절될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 복수의 디스플레이부(251a 내지 251g)를 포함할 수 있다.
디스플레이부(251)는, 스티어링 휠의 일 영역, 인스투루먼트 패널의 일 영역(521a, 251b, 251e), 시트의 일 영역(251d), 각 필러의 일 영역(251f), 도어의 일 영역(251g), 센타 콘솔의 일 영역, 헤드 라이닝의 일 영역, 썬바이저의 일 영역에 배치되거나, 윈드 쉴드의 일영역(251c), 윈도우의 일영역(251h)에 구현될 수 있다.
음향 출력부(252)는, 프로세서(270) 또는 제어부(170)로부터 제공되는 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(252)는, 하나 이상의 스피커를 포함할 수 있다.
햅틱 출력부(253)는, 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(253)는, 스티어링 휠, 안전 벨트, 시트(110FL, 110FR, 110RL, 110RR)를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
프로세서(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 복수의 프로세서(270)를 포함하거나, 프로세서(270)를 포함하지 않을 수도 있다.
사용자 인터페이스 장치(200)에 프로세서(270)가 포함되지 않는 경우, 사용자 인터페이스 장치(200)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 차량용 디스플레이 장치로 명명될 수 있다.
사용자 인터페이스 장치(200)는, 제어부(170)의 제어에 따라 동작될 수 있다.
오브젝트 검출 장치(300)는, 차량(100) 외부에 위치하는 오브젝트를 검출하기 위한 장치이다.
오브젝트는, 차량(100)의 운행과 관련된 다양한 물체들일 수 있다.
도 5 내지 도 6을 참조하면, 오브젝트(O)는, 차선(OB10), 타 차량(OB11), 보행자(OB12), 이륜차(OB13), 교통 신호(OB14, OB15), 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 포함할 수 있다.
차선(Lane)(OB10)은, 주행 차선, 주행 차선의 옆 차선, 대향되는 차량이 주행하는 차선일 수 있다. 차선(Lane)(OB10)은, 차선(Lane)을 형성하는 좌우측 선(Line)을 포함하는 개념일 수 있다.
타 차량(OB11)은, 차량(100)의 주변에서 주행 중인 차량일 수 있다. 타 차량은, 차량(100)으로부터 소정 거리 이내에 위치하는 차량일 수 있다. 예를 들면, 타 차량(OB11)은, 차량(100)보다 선행 또는 후행하는 차량일 수 있다.
보행자(OB12)는, 차량(100)의 주변에 위치한 사람일 수 있다. 보행자(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 사람일 수 있다. 예를 들면, 보행자(OB12)는, 인도 또는 차도상에 위치하는 사람일 수 있다.
이륜차(OB12)는, 차량(100)의 주변에 위치하고, 2개의 바퀴를 이용해 움직이는 탈것을 의미할 수 있다. 이륜차(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 2개의 바퀴를 가지는 탈 것일 수 있다. 예를 들면, 이륜차(OB13)는, 인도 또는 차도상에 위치하는 오토바이 또는 자전거일 수 있다.
교통 신호는, 교통 신호등(OB15), 교통 표지판(OB14), 도로면에 그려진 문양 또는 텍스트를 포함할 수 있다.
빛은, 타 차량에 구비된 램프에서 생성된 빛일 수 있다. 빛은, 가로등에서 생성된 빛을 수 있다. 빛은 태양광일 수 있다.
도로는, 도로면, 커브, 오르막, 내리막 등의 경사 등을 포함할 수 있다.
구조물은, 도로 주변에 위치하고, 지면에 고정된 물체일 수 있다. 예를 들면, 구조물은, 가로등, 가로수, 건물, 전봇대, 신호등, 다리를 포함할 수 있다.
지형물은, 산, 언덕, 등을 포함할 수 있다.
한편, 오브젝트는, 이동 오브젝트와 고정 오브젝트로 분류될 수 있다. 예를 들면, 이동 오브젝트는, 타 차량, 보행자를 포함하는 개념일 수 있다. 예를 들면, 고정 오브젝트는, 교통 신호, 도로, 구조물을 포함하는 개념일 수 있다.
오브젝트 검출 장치(300)는, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340), 적외선 센서(350) 및 프로세서(370)를 포함할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
카메라(310)는, 차량 외부 영상을 획득하기 위해, 차량의 외부의 적절한 곳에 위치할 수 있다. 카메라(310)는, 모노 카메라, 스테레오 카메라(310a), AVM(Around View Monitoring) 카메라(310b) 또는 360도 카메라일 수 있다.
예를 들면, 카메라(310)는, 차량 전방의 영상을 획득하기 위해, 차량의 실내에서, 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 후방의 영상을 획득하기 위해, 차량의 실내에서, 리어 글라스에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 측방의 영상을 획득하기 위해, 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다.
카메라(310)는, 획득된 영상을 프로세서(370)에 제공할 수 있다.
레이다(320)는, 전자파 송신부, 수신부를 포함할 수 있다. 레이더(320)는 전파 발사 원리상 펄스 레이더(Pulse Radar) 방식 또는 연속파 레이더(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이더(320)는 연속파 레이더 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다.
레이더(320)는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
레이더(320)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
라이다(330)는, 레이저 송신부, 수신부를 포함할 수 있다. 라이다(330)는, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다.
라이다(330)는, 구동식 또는 비구동식으로 구현될 수 있다.
구동식으로 구현되는 경우, 라이다(330)는, 모터에 의해 회전되며, 차량(100) 주변의 오브젝트를 검출할 수 있다.
비구동식으로 구현되는 경우, 라이다(330)는, 광 스티어링에 의해, 차량(100)을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 차량(100)은 복수의 비구동식 라이다(330)를 포함할 수 있다.
라이다(330)는, 레이저 광 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
라이다(330)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
초음파 센서(340)는, 초음파 송신부, 수신부를 포함할 수 있다. 초음파 센서(340)은, 초음파를 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
초음파 센서(340)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
적외선 센서(350)는, 적외선 송신부, 수신부를 포함할 수 있다. 적외선 센서(340)는, 적외선 광을 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
적외선 센서(350)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
프로세서(370)는, 오브젝트 검출 장치(300)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(370)는, 획득된 영상에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 영상 처리 알고리즘을 통해, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 전자파가 오브젝트에 반사되어 되돌아오는 반사 전자파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 전자파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 레이저가 오브젝트에 반사되어 되돌아오는 반사 레이저 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 레이저 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 초음파가 오브젝트에 반사되어 되돌아오는 반사 초음파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 초음파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 적외선 광이 오브젝트에 반사되어 되돌아오는 반사 적외선 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 적외선 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 복수의 프로세서(370)를 포함하거나, 프로세서(370)를 포함하지 않을 수도 있다. 예를 들면, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350) 각각은 개별적으로 프로세서를 포함할 수 있다.
오브젝트 검출 장치(300)에 프로세서(370)가 포함되지 않는 경우, 오브젝트 검출 장치(300)는, 차량(100)내 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
오브젝트 검출 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
통신 장치(400)는, 외부 디바이스와 통신을 수행하기 위한 장치이다. 여기서, 외부 디바이스는, 타 차량, 이동 단말기 또는 서버일 수 있다.
통신 장치(400)는, 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다.
통신 장치(400)는, 근거리 통신부(410), 위치 정보부(420), V2X 통신부(430), 광통신부(440), 방송 송수신부(450) 및 프로세서(470)를 포함할 수 있다.
실시예에 따라, 통신 장치(400)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
근거리 통신부(410)는, 근거리 통신(Short range communication)을 위한 유닛이다. 근거리 통신부(410)는, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
근거리 통신부(410)는, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량(100)과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다.
위치 정보부(420)는, 차량(100)의 위치 정보를 획득하기 위한 유닛이다. 예를 들면, 위치 정보부(420)는, GPS(Global Positioning System) 모듈 또는 DGPS(Differential Global Positioning System) 모듈을 포함할 수 있다.
V2X 통신부(430)는, 서버(V2I : Vehicle to Infra), 타 차량(V2V : Vehicle to Vehicle) 또는 보행자(V2P : Vehicle to Pedestrian)와의 무선 통신 수행을 위한 유닛이다. V2X 통신부(430)는, 인프라와의 통신(V2I), 차량간 통신(V2V), 보행자와의 통신(V2P) 프로토콜이 구현 가능한 RF 회로를 포함할 수 있다.
광통신부(440)는, 광을 매개로 외부 디바이스와 통신을 수행하기 위한 유닛이다. 광통신부(440)는, 전기 신호를 광 신호로 전환하여 외부에 발신하는 광발신부 및 수신된 광 신호를 전기 신호로 전환하는 광수신부를 포함할 수 있다.
실시예에 따라, 광발신부는, 차량(100)에 포함된 램프와 일체화되게 형성될 수 있다.
방송 송수신부(450)는, 방송 채널을 통해, 외부의 방송 관리 서버로부터 방송 신호를 수신하거나, 방송 관리 서버에 방송 신호를 송출하기 위한 유닛이다. 방송 채널은, 위성 채널, 지상파 채널을 포함할 수 있다. 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 수 있다.
프로세서(470)는, 통신 장치(400)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 통신 장치(400)는, 복수의 프로세서(470)를 포함하거나, 프로세서(470)를 포함하지 않을 수도 있다.
통신 장치(400)에 프로세서(470)가 포함되지 않는 경우, 통신 장치(400)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 통신 장치(400)는, 사용자 인터페이스 장치(200)와 함께 차량용 디스플레이 장치를 구현할 수 있다. 이경우, 차량용 디스플레이 장치는, 텔레 매틱스(telematics) 장치 또는 AVN(Audio Video Navigation) 장치로 명명될 수 있다.
통신 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운전 조작 장치(500)는, 운전을 위한 사용자 입력을 수신하는 장치이다.
메뉴얼 모드인 경우, 차량(100)은, 운전 조작 장치(500)에 의해 제공되는 신호에 기초하여 운행될 수 있다.
운전 조작 장치(500)는, 조향 입력 장치(510), 가속 입력 장치(530) 및 브레이크 입력 장치(570)를 포함할 수 있다.
조향 입력 장치(510)는, 사용자로부터 차량(100)의 진행 방향 입력을 수신할 수 있다. 조향 입력 장치(510)는, 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
가속 입력 장치(530)는, 사용자로부터 차량(100)의 가속을 위한 입력을 수신할 수 있다. 브레이크 입력 장치(570)는, 사용자로부터 차량(100)의 감속을 위한 입력을 수신할 수 있다. 가속 입력 장치(530) 및 브레이크 입력 장치(570)는, 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 장치 또는 브레이크 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
운전 조작 장치(500)는, 제어부(170)의 제어에 따라 동작될 수 있다.
차량 구동 장치(600)는, 차량(100)내 각종 장치의 구동을 전기적으로 제어하는 장치이다.
차량 구동 장치(600)는, 파워 트레인 구동부(610), 샤시 구동부(620), 도어/윈도우 구동부(630), 안전 장치 구동부(640), 램프 구동부(650) 및 공조 구동부(660)를 포함할 수 있다.
실시예에 따라, 차량 구동 장치(600)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 차량 구동 장치(600)는 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
파워 트레인 구동부(610)는, 파워 트레인 장치의 동작을 제어할 수 있다.
파워 트레인 구동부(610)는, 동력원 구동부(611) 및 변속기 구동부(612)를 포함할 수 있다.
동력원 구동부(611)는, 차량(100)의 동력원에 대한 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진이 동력원인 경우, 동력원 구동부(610)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(611)는, 제어부(170)의 제어에 따라, 엔진 출력 토크를 조정할 수 있다.
예를 들면, 전기 에너지 기반의 모터가 동력원인 경우, 동력원 구동부(610)는, 모터에 대한 제어를 수행할 수 있다. 동력원 구동부(610)는, 제어부(170)의 제어에 따라, 모터의 회전 속도, 토크 등을 조정할 수 있다.
변속기 구동부(612)는, 변속기에 대한 제어를 수행할 수 있다.
변속기 구동부(612)는, 변속기의 상태를 조정할 수 있다. 변속기 구동부(612)는, 변속기의 상태를, 전진(D), 후진(R), 중립(N) 또는 주차(P)로 조정할 수 있다.
한편, 엔진이 동력원인 경우, 변속기 구동부(612)는, 전진(D) 상태에서, 기어의 물림 상태를 조정할 수 있다.
샤시 구동부(620)는, 샤시 장치의 동작을 제어할 수 있다.
샤시 구동부(620)는, 조향 구동부(621), 브레이크 구동부(622) 및 서스펜션 구동부(623)를 포함할 수 있다.
조향 구동부(621)는, 차량(100) 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 조향 구동부(621)는, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(622)는, 차량(100) 내의 브레이크 장치(brake apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량(100)의 속도를 줄일 수 있다.
한편, 브레이크 구동부(622)는, 복수의 브레이크 각각을 개별적으로 제어할 수 있다. 브레이크 구동부(622)는, 복수의 휠에 걸리는 제동력을 서로 다르게 제어할 수 있다.
서스펜션 구동부(623)는, 차량(100) 내의 서스펜션 장치(suspension apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 서스펜션 구동부(623)는 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량(100)의 진동이 저감되도록 제어할 수 있다.
한편, 서스펜션 구동부(623)는, 복수의 서스펜션 각각을 개별적으로 제어할 수 있다.
도어/윈도우 구동부(630)는, 차량(100) 내의 도어 장치(door apparatus) 또는 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다.
도어/윈도우 구동부(630)는, 도어 구동부(631) 및 윈도우 구동부(632)를 포함할 수 있다.
도어 구동부(631)는, 도어 장치에 대한 제어를 수행할 수 있다. 도어 구동부(631)는, 차량(100)에 포함되는 복수의 도어의 개방, 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 트렁크(trunk) 또는 테일 게이트(tail gate)의 개방 또는 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 썬루프(sunroof)의 개방 또는 폐쇄를 제어할 수 있다.
윈도우 구동부(632)는, 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 차량(100)에 포함되는 복수의 윈도우의 개방 또는 폐쇄를 제어할 수 있다.
안전 장치 구동부(640)는, 차량(100) 내의 각종 안전 장치(safety apparatus)에 대한 전자식 제어를 수행할 수 있다.
안전 장치 구동부(640)는, 에어백 구동부(641), 시트벨트 구동부(642) 및 보행자 보호 장치 구동부(643)를 포함할 수 있다.
에어백 구동부(641)는, 차량(100) 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 에어백 구동부(641)는, 위험 감지시, 에어백이 전개되도록 제어할 수 있다.
시트벨트 구동부(642)는, 차량(100) 내의 시트벨트 장치(seatbelt appartus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 시트벨트 구동부(642)는, 위험 감지시, 시트 밸트를 이용해 탑승객이 시트(110FL, 110FR, 110RL, 110RR)에 고정되도록 제어할 수 있다.
보행자 보호 장치 구동부(643)는, 후드 리프트 및 보행자 에어백에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 보행자 보호 장치 구동부(643)는, 보행자와의 충돌 감지시, 후드 리프트 업 및 보행자 에어백 전개되도록 제어할 수 있다.
램프 구동부(650)는, 차량(100) 내의 각종 램프 장치(lamp apparatus)에 대한 전자식 제어를 수행할 수 있다.
공조 구동부(660)는, 차량(100) 내의 공조 장치(air cinditioner)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 공조 구동부(660)는, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
차량 구동 장치(600)는, 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
차량 구동 장치(600)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운행 시스템(700)은, 차량(100)의 각종 운행을 제어하는 시스템이다. 운행 시스템(700)은, 자율 주행 모드에서 동작될 수 있다.
운행 시스템(700)은, 주행 시스템(710), 출차 시스템(740) 및 주차 시스템(750) 을 포함할 수 있다.
실시예에 따라, 운행 시스템(700)은, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 운행 시스템(700)은, 프로세서를 포함할 수 있다. 운행 시스템(700)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
한편, 실시예에 따라, 운행 시스템(700)이 소프트웨어적으로 구현되는 경우, 제어부(170)의 하위 개념일 수도 있다.
한편, 실시예에 따라, 운행 시스템(700)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 차량 구동 장치(600) 및 제어부(170) 중 적어도 어느 하나를 포함하는 개념일 수 있다.
주행 시스템(710)은, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
출차 시스템(740)은, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
주차 시스템(750)은, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
내비게이션 시스템(770)은, 내비게이션 정보를 제공할 수 있다. 내비게이션 정보는, 맵(map) 정보, 설정된 목적지 정보, 상기 목적지 설정 따른 경로 정보, 경로 상의 다양한 오브젝트에 대한 정보, 차선 정보 및 차량의 현재 위치 정보 중 적어도 어느 하나를 포함할 수 있다.
내비게이션 시스템(770)은, 메모리, 프로세서를 포함할 수 있다. 메모리는 내비게이션 정보를 저장할 수 있다. 프로세서는 내비게이션 시스템(770)의 동작을 제어할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 통신 장치(400)를 통해, 외부 디바이스로부터 정보를 수신하여, 기 저장된 정보를 업데이트 할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 사용자 인터페이스 장치(200)의 하위 구성 요소로 분류될 수도 있다.
센싱부(120)는, 차량의 상태를 센싱할 수 있다. 센싱부(120)는, 자세 센서(예를 들면, 요 센서(yaw sensor), 롤 센서(roll sensor), 피치 센서(pitch sensor)), 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 조도 센서, 가속 페달 포지션 센서, 브레이크 페달 포지션 센서, 등을 포함할 수 있다.
센싱부(120)는, 차량 자세 정보, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도, 차량 외부 조도, 가속 페달에 가해지는 압력, 브레이크 페달에 가해지는 압력 등에 대한 센싱 신호를 획득할 수 있다.
센싱부(120)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
차량 인터페이스부(130)는, 차량(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 차량 인터페이스부(130)는 이동 단말기와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기와 연결할 수 있다. 이경우, 차량 인터페이스부(130)는 이동 단말기와 데이터를 교환할 수 있다.
한편, 차량 인터페이스부(130)는 연결된 이동 단말기에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기가 차량 인터페이스부(130)에 전기적으로 연결되는 경우, 제어부(170)의 제어에 따라, 차량 인터페이스부(130)는 전원 공급부(190)에서 공급되는 전기 에너지를 이동 단말기에 제공할 수 있다.
메모리(140)는, 제어부(170)와 전기적으로 연결된다. 메모리(140)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(140)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(140)는 제어부(170)의 처리 또는 제어를 위한 프로그램 등, 차량(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(140)는, 제어부(170)와 일체형으로 형성되거나, 제어부(170)의 하위 구성 요소로 구현될 수 있다.
제어부(170)는, 차량(100) 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(170)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
전원 공급부(190)는, 제어부(170)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(190)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
차량(100)에 포함되는, 하나 이상의 프로세서 및 제어부(170)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
한편, 본 발명과 관련된 차량(100)은 경로 안내 장치(790)를 포함할 수 있다.
경로 안내 장치(790)는, 도 7에서 설명한 구성요소들 중 적어도 하나를 제어하는 것이 가능하다. 이러한 관점에서 봤을 때, 상기 경로 안내 장치(790)는 제어부(170)일 수 있다.
이에 한정되지 않고, 경로 안내 장치(790)는, 제어부(170)와 독립된 별도의 구성일 수 있다. 즉, 경로 안내 장치(790)는, 차량(100)과는 독립된 장치 또는 모듈로 구현될 수 있으며, 이 경우, 경로 안내 장치(790)는, 차량(100)의 일 부분을 통해 차량(100)의 일 구성요소와 통신/상호작용을 할 수 있다.
경로 안내 장치(790)가 제어부(170)와는 별개로 독립된 구성요소로 구현되는 경우, 상기 경로 안내 장치(790)는 차량(100)의 일부분에 구비/연결/장착될 수 있다.
이하에서는, 설명의 편의를 위해 경로 안내 장치(790)를 제어부(170)와 독립된 별도의 구성인 것으로 설명하기로 한다.
또한, 본 명세서에서 경로 안내 장치(790)에 대하여 설명하는 기능(동작) 및 제어방법은, 차량의 제어부(170)에 의해 수행될 수 있다. 즉, 경로 안내 장치(790)와 관련하여 설명한 모든 내용은, 제어부(170)에도 동일/유사하게 유추적용될 수 있다.
또한, 본 명세서에서 설명하는 경로 안내 장치(790)는, 도 7에서 설명한 구성요소 및 차량에 구비되는 다양한 구성요소들 중 일부분이 포함될 수 있다. 본 명세서에서는, 설명의 편의를 위해, 도 7에서 설명한 구성요소 및 차량에 구비되는 다양한 구성요소들을 별도의 명칭과 도면부호를 부여하여 설명하기로 한다.
한편, 본 발명의 경로 안내 장치(790)는, 도 8에 도시된 이동 단말기(800)이거나, 이동 단말기(800)로 구현될 수 있다. 상기 이동 단말기(800)는, 차량(100)과 통신 가능하며, 차량(100)과는 독립된 구성요소일 수 있다.
이하에서는, 경로 안내 장치(790)의 일 실시 예인 이동 단말기(800)에 대하여 구체적으로 설명하기로 한다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다.
그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 8은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이다.
상기 이동 단말기(800)는 무선 통신부(810), 입력부(820), 센싱부(840), 출력부(850), 인터페이스부(860), 메모리(870), 제어부(880) 및 전원 공급부(890) 등을 포함할 수 있다. 도 8에 도시된 구성요소들은 이동 단말기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 이동 단말기는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
보다 구체적으로, 상기 구성요소들 중 무선 통신부(810)는, 이동 단말기(800)와 무선 통신 시스템 사이, 이동 단말기(800)와 다른 이동 단말기(800) 사이, 또는 이동 단말기(800)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 무선 통신부(810)는, 이동 단말기(800)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(810)는, 방송 수신 모듈(811), 이동통신 모듈(812), 무선 인터넷 모듈(813), 근거리 통신 모듈(814), 위치정보 모듈(815) 중 적어도 하나를 포함할 수 있다.
입력부(820)는, 영상 신호 입력을 위한 카메라(821) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 822), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(823, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(820)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
센싱부(840)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(840)는 근접센서(841, proximity sensor), 조도 센서(842, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(821 참조)), 마이크로폰(microphone, 822 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 이동 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(850)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(851), 음향 출력부(852), 햅팁 모듈(853), 광 출력부(854) 중 적어도 하나를 포함할 수 있다. 디스플레이부(851)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 이동 단말기(800)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(823)로써 기능함과 동시에, 이동 단말기(800)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(860)는 이동 단말기(800)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(860)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. 이동 단말기(800)에서는, 상기 인터페이스부(860)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(870)는 이동 단말기(800)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(870)는 이동 단말기(800)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 이동 단말기(800)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 이동 단말기(800)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 이동 단말기(800)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(870)에 저장되고, 이동 단말기(800) 상에 설치되어, 제어부(880)에 의하여 상기 이동 단말기의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(880)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 이동 단말기(800)의 전반적인 동작을 제어한다. 제어부(880)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(870)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(880)는 메모리(870)에 저장된 응용 프로그램을 구동하기 위하여, 도 8과 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(880)는 상기 응용 프로그램의 구동을 위하여, 이동 단말기(800)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(890)는 제어부(880)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 이동 단말기(800)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(890)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체가능한 형태의 배터리가 될 수 있다.
상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 이동 단말기의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 이동 단말기의 동작, 제어, 또는 제어방법은 상기 메모리(870)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 이동 단말기 상에서 구현될 수 있다.
이하에서는, 위에서 살펴본 이동 단말기(800)를 통하여 구현되는 다양한 실시 예들을 살펴보기에 앞서, 위에서 열거된 구성요소들에 대하여 도 8을 참조하여 보다 구체적으로 살펴본다.
먼저, 무선 통신부(810)에 대하여 살펴보면, 무선 통신부(810)의 방송 수신 모듈(811)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(800)에 제공될 수 있다.
이동통신 모듈(812)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(813)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(800)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(813)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(813)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다.
WiBro, HSDPA, HSUPA, GSM, CDMA, WCDMA, LTE, LTE-A 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(813)은 상기 이동통신 모듈(812)의 일종으로 이해될 수도 있다.
근거리 통신 모듈(814)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다. 이러한, 근거리 통신 모듈(814)은, 근거리 무선 통신망(Wireless Area Networks)을 통해 이동 단말기(800)와 무선 통신 시스템 사이, 이동 단말기(800)와 다른 이동 단말기(800) 사이, 또는 이동 단말기(800)와 다른 이동 단말기(800, 또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 지원할 수 있다. 상기 근거리 무선 통신망은 근거리 무선 개인 통신망(Wireless Personal Area Networks)일 수 있다.
여기에서, 다른 이동 단말기(800)는 본 발명에 따른 이동 단말기(800)와 데이터를 상호 교환하는 것이 가능한(또는 연동 가능한) 웨어러블 디바이스(wearable device, 예를 들어, 스마트워치(smartwatch), 스마트 글래스(smart glass), HMD(head mounted display))가 될 수 있다. 근거리 통신 모듈(814)은, 이동 단말기(800) 주변에, 상기 이동 단말기(800)와 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(880)는 상기 감지된 웨어러블 디바이스가 본 발명에 따른 이동 단말기(800)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(800)에서 처리되는 데이터의 적어도 일부를, 상기 근거리 통신 모듈(814)을 통해 웨어러블 디바이스로 전송할 수 있다. 따라서, 웨어러블 디바이스의 사용자는, 이동 단말기(800)에서 처리되는 데이터를, 웨어러블 디바이스를 통해 이용할 수 있다. 예를 들어, 이에 따르면 사용자는, 이동 단말기(800)에 전화가 수신된 경우, 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(800)에 메시지가 수신된 경우, 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.
위치정보 모듈(815)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, 이동 단말기는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 이동 단말기의 위치를 획득할 수 있다. 다른 예로서, 이동 단말기는 Wi-Fi모듈을 활용하면, Wi-Fi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)의 정보에 기반하여, 이동 단말기의 위치를 획득할 수 있다. 필요에 따라서, 위치정보모듈(815)은 치환 또는 부가적으로 이동 단말기의 위치에 관한 데이터를 얻기 위해 무선 통신부(810)의 다른 모듈 중 어느 기능을 수행할 수 있다. 위치정보모듈(815)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위해 이용되는 모듈로, 이동 단말기의 위치를 직접적으로 계산하거나 획득하는 모듈로 한정되지는 않는다.
다음으로, 입력부(820)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, 이동 단말기(800) 는 하나 또는 복수의 카메라(821)를 구비할 수 있다. 카메라(821)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(851)에 표시되거나 메모리(870)에 저장될 수 있다. 한편, 이동 단말기(800)에 구비되는 복수의 카메라(821)는 매트릭스 구조를 이루도록 배치될 수 있으며, 이와 같이 매트릭스 구조를 이루는 카메라(821)를 통하여, 이동 단말기(800)에는 다양한 각도 또는 초점을 갖는 복수의 영상정보가 입력될 수 있다. 또한, 복수의 카메라(821)는 입체영상을 구현하기 위한 좌 영상 및 우 영상을 획득하도록, 스트레오 구조로 배치될 수 있다.
마이크로폰(822)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 이동 단말기(800)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(822)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(823)는 사용자로부터 정보를 입력받기 위한 것으로서, 사용자 입력부(823)를 통해 정보가 입력되면, 제어부(880)는 입력된 정보에 대응되도록 이동 단말기(800)의 동작을 제어할 수 있다. 이러한, 사용자 입력부(823)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 이동 단말기(800)의 전?후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다. 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다.
한편, 센싱부(840)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하고, 이에 대응하는 센싱 신호를 발생시킨다. 제어부(880)는 이러한 센싱 신호에 기초하여, 이동 단말기(800)의 구동 또는 동작을 제어하거나, 이동 단말기(800)에 설치된 응용 프로그램과 관련된 데이터 처리, 기능 또는 동작을 수행 할 수 있다. 센싱부(840)에 포함될 수 있는 다양한 센서 중 대표적인 센서들의 대하여, 보다 구체적으로 살펴본다.
먼저, 근접 센서(841)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선 등을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 이러한 근접 센서(841)는 위에서 살펴본 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(841)가 배치될 수 있다.
근접 센서(841)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 터치 스크린이 정전식인 경우에, 근접 센서(841)는 전도성을 갖는 물체의 근접에 따른 전계의 변화로 상기 물체의 근접을 검출하도록 구성될 수 있다. 이 경우 터치 스크린(또는 터치 센서) 자체가 근접 센서로 분류될 수 있다.
한편, 설명의 편의를 위해, 터치 스크린 상에 물체가 접촉되지 않으면서 근접되어 상기 물체가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 명명하고, 상기 터치 스크린 상에 물체가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 명명한다. 상기 터치 스크린 상에서 물체가 근접 터치 되는 위치라 함은, 상기 물체가 근접 터치될 때 상기 물체가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다. 상기 근접 센서(841)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지할 수 있다. 한편, 제어부(880)는 위와 같이, 근접 센서(841)를 통해 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 데이터(또는 정보)를 처리하며, 나아가, 처리된 데이터에 대응하는 시각적인 정보를 터치 스크린상에 출력시킬 수 있다. 나아가, 제어부(880)는, 터치 스크린 상의 동일한 지점에 대한 터치가, 근접 터치인지 또는 접촉 터치인지에 따라, 서로 다른 동작 또는 데이터(또는 정보)가 처리되도록 이동 단말기(800)를 제어할 수 있다.
터치 센서는 저항막 방식, 정전용량 방식, 적외선 방식, 초음파 방식, 자기장 방식 등 여러 가지 터치방식 중 적어도 하나를 이용하여 터치 스크린(또는 디스플레이부(851))에 가해지는 터치(또는 터치입력)을 감지한다.
일 예로서, 터치 센서는, 터치 스크린의 특정 부위에 가해진 압력 또는 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 스크린 상에 터치를 가하는 터치 대상체가 터치 센서 상에 터치 되는 위치, 면적, 터치 시의 압력, 터치 시의 정전 용량 등을 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다.
이와 같이, 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(880)로 전송한다. 이로써, 제어부(880)는 디스플레이부(851)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다. 여기에서, 터치 제어기는, 제어부(880)와 별도의 구성요소일 수 있고, 제어부(880) 자체일 수 있다.
한편, 제어부(880)는, 터치 스크린(또는 터치 스크린 이외에 구비된 터치키)을 터치하는, 터치 대상체의 종류에 따라 서로 다른 제어를 수행하거나, 동일한 제어를 수행할 수 있다. 터치 대상체의 종류에 따라 서로 다른 제어를 수행할지 또는 동일한 제어를 수행할 지는, 현재 이동 단말기(800)의 동작상태 또는 실행 중인 응용 프로그램에 따라 결정될 수 있다.
한편, 위에서 살펴본 터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다.
초음파 센서는 초음파를 이용하여, 감지대상의 위치정보를 인식할 수 있다. 한편 제어부(880)는 광 센서와 복수의 초음파 센서로부터 감지되는 정보를 통해, 파동 발생원의 위치를 산출하는 것이 가능하다. 파동 발생원의 위치는, 광이 초음파보다 매우 빠른 성질, 즉, 광이 광 센서에 도달하는 시간이 초음파가 초음파 센서에 도달하는 시간보다 매우 빠름을 이용하여, 산출될 수 있다. 보다 구체적으로 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치가 산출될 수 있다.
한편, 입력부(820)의 구성으로 살펴본, 카메라(821)는 카메라 센서(예를 들어, CCD, CMOS 등), 포토 센서(또는 이미지 센서) 및 레이저 센서 중 적어도 하나를 포함한다.
카메라(821)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다.
디스플레이부(851)는 이동 단말기(800)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(851)는 이동 단말기(800)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
또한, 상기 디스플레이부(851)는 입체영상을 표시하는 입체 디스플레이부로서 구성될 수 있다.
상기 입체 디스플레이부에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다.
일반적으로 3차원 입체 영상은 좌 영상(좌안용 영상)과 우 영상(우안용 영상)으로 구성된다. 좌 영상과 우 영상이 3차원 입체 영상으로 합쳐지는 방식에 따라, 좌 영상과 우 영상을 한 프레임 내 상하로 배치하는 탑-다운(top-down) 방식, 좌 영상과 우 영상을 한 프레임 내 좌우로 배치하는 L-to-R(left-to-right, side by side) 방식, 좌 영상과 우 영상의 조각들을 타일 형태로 배치하는 체커 보드(checker board) 방식, 좌 영상과 우 영상을 열 단위 또는 행 단위로 번갈아 배치하는 인터레이스드(interlaced) 방식, 그리고 좌 영상과 우 영상을 시간 별로 번갈아 표시하는 시분할(time sequential, frame by frame) 방식 등으로 나뉜다.
또한, 3차원 썸네일 영상은 원본 영상 프레임의 좌 영상 및 우 영상으로부터 각각 좌 영상 썸네일 및 우 영상 썸네일을 생성하고, 이들이 합쳐짐에 따라 하나의 영상으로 생성될 수 있다. 일반적으로 썸네일(thumbnail)은 축소된 화상 또는 축소된 정지영상을 의미한다. 이렇게 생성된 좌 영상 썸네일과 우 영상 썸네일은 좌 영상과 우 영상의 시차에 대응하는 깊이감(depth)만큼 화면 상에서 좌우 거리차를 두고 표시됨으로써 입체적인 공간감을 나타낼 수 있다.
3차원 입체영상의 구현에 필요한 좌 영상과 우 영상은 입체 처리부에 의하여 입체 디스플레이부에 표시될 수 있다. 입체 처리부는 3D 영상(기준시점의 영상과 확장시점의 영상)을 입력 받아 이로부터 좌 영상과 우 영상을 설정하거나, 2D 영상을 입력 받아 이를 좌 영상과 우 영상으로 전환하도록 이루어진다.
음향 출력부(852)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(810)로부터 수신되거나 메모리(870)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력부(852)는 이동 단말기(800)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력부(852)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
햅틱 모듈(haptic module)(853)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(853)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅틱 모듈(853)에서 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(853)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(853)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(electrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(853)은 직접적인 접촉을 통해 촉각 효과를 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(853)은 이동 단말기(800)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
광출력부(854)는 이동 단말기(800)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(800)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.
광출력부(854)가 출력하는 신호는 이동 단말기가 전면이나 후면으로 단색이나 복수색의 빛을 발광함에 따라 구현된다. 상기 신호 출력은 이동 단말기가 사용자의 이벤트 확인을 감지함에 의하여 종료될 수 있다.
인터페이스부(860)는 이동 단말기(800)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(860)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(800) 내부의 각 구성요소에 전달하거나, 이동 단말기(800) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트(port), 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(860)에 포함될 수 있다.
한편, 식별 모듈은 이동 단말기(800)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(860)를 통하여 단말기(800)와 연결될 수 있다.
또한, 상기 인터페이스부(860)는 이동 단말기(800)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(800)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(800)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(800)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.
메모리(870)는 제어부(880)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(870)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(870)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(800)는 인터넷(internet)상에서 상기 메모리(870)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
한편, 앞서 살펴본 것과 같이, 제어부(880)는 응용 프로그램과 관련된 동작과, 통상적으로 이동 단말기(800)의 전반적인 동작을 제어한다. 예를 들어, 제어부(880)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다.
또한, 제어부(880)는 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행하거나, 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. 나아가 제어부(880)는 이하에서 설명되는 다양한 실시 예들을 본 발명에 따른 이동 단말기(800) 상에서 구현하기 위하여, 위에서 살펴본 구성요소들을 중 어느 하나 또는 복수를 조합하여 제어할 수 있다.
전원 공급부(890)는 제어부(880)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(890)는 배터리를 포함하며, 배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다.
또한, 전원공급부(890)는 연결포트를 구비할 수 있으며, 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(860)의 일 예로서 구성될 수 있다.
다른 예로서, 전원공급부(890)는 상기 연결포트를 이용하지 않고 무선방식으로 배터리를 충전하도록 이루어질 수 있다. 이 경우에, 전원공급부(890)는 외부의 무선 전력 전송장치로부터 자기 유도 현상에 기초한 유도 결합(Inductive Coupling) 방식이나 전자기적 공진 현상에 기초한 공진 결합(Magnetic Resonance Coupling) 방식 중 하나 이상을 이용하여 전력을 전달받을 수 있다.
한편, 이하에서 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
이하에서는, 본 발명의 일 실시 예에 따른 증강 현실을 통해 차량이 주행해야 할 경로를 최적화된 방법으로 가이드하는 경로 안내 장치 및 그것의 경로 안내 방법에 대하여 살펴보기로 한다.
도 9는 본 발명의 경로 안내 장치를 설명하기 위한 블록도이다.
도 9를 참조하면, 본 발명의 일 실시 예에 따른 경로 안내 장치(790)는, 통신부(910), 이를 제어하는 것이 가능한 프로세서(920) 및 프로세서(920)에서 처리된 정보를 출력하는 디스플레이부(930)를 포함할 수 있다.
상기 통신부(910)는, 경로 안내 장치(790)가 외부 장치 또는 외부 구성요소와 통신을 수행하도록 형성될 수 있으며, 유선/무선 통신을 수행할 수 있다.
상기 통신부(910)는, 앞서 설명한 차량(100)의 통신 장치(400) 또는 이동 단말기(800)의 무선 통신부(810) 또는 이동 단말기(800)의 인터페이스부(860) 중 어느 하나이거나, 이들의 내용을 동일/유사하게 유추적용할 수 있다.
일 예로, 경로 안내 장치(790)가 차량(100)의 제어부(170)로 구현되는 경우, 상기 통신부(910)는 차량의 통신 장치(400)일 수 있다.
다른 예로, 경로 안내 장치(790)가 이동 단말기(100)로 구현되는 경우, 통신부(910)는, 이동 단말기(800)의 무선 통신부(810) 또는 이동 단말기(800)의 인터페이스부(860)일 수 있다.
또 다른 예로, 경로 안내 장치(790)가 차량(100) 및/또는 이동 단말기(800)와 통신을 수행하는 것이 가능하도록 구현된 별도의 독립된 장치인 경우, 앞서 설명한 통신 장치(400), 무선 통신부(810) 및/또는 인터페이스부(860)의 내용을 동일/유사하게 유추적용할 수 있다.
프로세서(920)는, 상기 통신부(910)를 제어하도록 형성될 수 있으며, 경로 안내 장치(790)에서 수행되는 동작 및 기능을 제어할 수 있다.
상기 프로세서(920)는, 앞서 설명한 차량(100)의 제어부(170) 또는 이동 단말기(800)의 제어부(880)일 수 있으며, 이들의 내용을 동일/유사하게 유추적용할 수 있다.
일 예로, 경로 안내 장치(790)가 차량(100)의 제어부(170)로 구현되는 경우, 상기 프로세서(920)는 차량(100)의 제어부(170)일 수 있다.
다른 예로, 경로 안내 장치(790)가 이동 단말기(100)로 구현되는 경우, 상기 프로세서(920)는, 이동 단말기(800)의 제어부(880)일 수 있다.
또 다른 예로, 경로 안내 장치(790)가 차량(100) 및/또는 이동 단말기(800)와 통신을 수행하는 것이 가능하도록 구현된 별도의 독립된 장치인 경우, 상기 프로세서(920)는, 차량 및/또는 이동 단말기와 통신을 수행하며, 차량 및/또는 이동 단말기 중 적어도 하나를 제어할 수 있다.
통신부(910)는, 카메라를 통해 촬영된 제1 영상을 수신할 수 있다.
상기 카메라는, 경로 안내 장치(790)에 구비된 카메라일 수도 있고, 차량에 구비된 카메라(310)이거나, 이동 단말기에 구비된 카메라(821)일 수 있다.
프로세서(920)는, 카메라를 통해 처리된 영상(예를 들어, 실시간 영상, 프리뷰(preview) 영상, 또는 라이브(Live) 영상)을 통신부(910)를 통해 수신할 수 있다.
일 예로, 경로 안내 장치(790)가 이동 단말기(800)로 구현된 경우, 프로세서(920)는, 카메라(821)를 통해 촬영된 제1 영상을 통신부(810)(또는 인터페이스부(860))를 통해 수신할 수 있다.
프로세서(920)는, 수신된 제1 영상에 대하여 증강 현실을 구현하기 위한 캘리브레이션(Calibration)을 수행할 수 있다.
본 명세서에서는, 캘리브레이션이 수행되기 전 영상을 제1 영상으로 명명하고, 캘리브레이션이 수행된 영상을 제2 영상으로 명명하기로 한다.
프로세서(920)는, 상기 제1 영상에 대하여 캘리브레이션을 수행할 수 있다.
또한, 프로세서(920)는, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력할 수 있다.
카메라를 통해 촬영된 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력한다는 것은, 증강 현실(Augmented Reality)를 구현한다 또는 증강 현실로 경로 안내를 수행한다는 것을 의미할 수 있다.
상기 디스플레이부(930)는, 프로세서(920)에서 처리된 정보를 출력하도록 형성될 수 있으며, 차량(100)에 구비된 디스플레이부(251) 및/또는 이동 단말기(800)의 디스플레이부(851)일 수 있다.
일 예로, 프로세서(920)는, 카메라를 통해 수신된 영상과, 상기 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 디스플레이부(930)에 출력할 수 있다.
본 명세서에서 설명하는 경로 안내 장치(790)의 동작 및 제어방법은, 상기 차량(100)의 제어부(170)에 의해 수행될 수도 있다. 즉, 경로 안내 장치(790)의 프로세서(920)에 의하여 수행되는 동작 및/또는 제어방법은, 차량(100)의 제어부(170) 또는 이동 단말기(800)의 제어부(880)에 의하여 수행될 수 있다.
통신부(910)는, 도 7 및 도 8에서 설명한 다양한 구성요소들과 통신을 수행하도록 이루어진다. 일 예로, 통신부(910)는 CAN(controller are network)을 통해 제공되는 각종 정보를 수신할 수 있다. 다른 일 예로, 통신부(910)는, 차량, 이동 단말기와 서버, 다른 차량과 같이 통신 가능한 모든 기기와 통신을 수행할 수 있다. 이는, V2X(Vehicle to everything) 통신으로 명명될 수 있다. V2X 통신은 운전 중 도로 인프라 및 다른 차량과 통신하면서 교통상황 등의 정보를 교환하거나 공유하는 기술로 정의될 수 있다.
통신부(910)는 상기 차량(100)에 구비된 하나 또는 그 이상의 디바이스들과 통신을 수행하도록 이루어진다. 상기 통신부(810)는 6GHz 이상의 주파수 대역에서 5G 통신을 구현하기 위해, 빔 포머(Beam former) 및 상기 빔 포머를 제어하는 RFIC(Radio Frequency IC)를 구비할 수 있다. 다만, 상기 통신부(810)가 6GHz 이하의 주파수 대역에서 5G 통신을 구현하는 경우, 상기 빔 포머 및 RFIC는 필수적인 것은 아니다.
나아가, 통신부(910)는 차량(100)에 구비된 대부분의 장치들로부터 차량의 주행과 관련된 정보를 수신할 수 있다. 상기 차량(100)에서 경로 안내 장치(790)로 전송되는 정보를 ‘차량 주행 정보’로 호칭한다.
차량 주행 정보는 차량 정보 및 차량의 주변 정보를 포함한다. 차량(100)의 프레임을 기준으로 차량 내부와 관련된 정보를 차량 정보, 차량 외부와 관련된 정보를 주변 정보로 정의할 수 있다.
차량 정보는 차량 자체에 관한 정보를 의미한다. 예를 들어, 차량 정보는 차량의 주행속도, 주행방향, 가속도, 각속도, 위치(GPS), 무게, 차량의 탑승인원, 차량의 제동력, 차량의 최대 제동력, 각 바퀴의 공기압, 차량에 가해지는 원심력, 차량의 주행모드(자율주행모드인지 수동주행인지 여부), 차량의 주차모드(자율주차모드, 자동주차모드, 수동주차모드), 차량 내에 사용자가 탑승해있는지 여부 및 상기 사용자와 관련된 정보 등을 포함할 수 있다.
주변 정보는 차량을 중심으로 소정 범위 내에 위치하는 다른 물체에 관한 정보 및 차량 외부와 관련된 정보를 의미한다. 예를 들어, 차량이 주행중인 노면의 상태(마찰력), 날씨, 전방(또는 후방) 차량과의 거리, 전방(또는 후방) 차량의 상대속도, 주행중인 차선이 커브인 경우 커브의 굴곡률, 차량 주변밝기, 차량을 기준으로 기준영역(일정영역) 내에 존재하는 객체와 관련된 정보, 상기 일정영역으로 객체가 진입/이탈하는지 여부, 차량 주변에 사용자가 존재하는지 여부 및 상기 사용자와 관련된 정보(예를 들어, 상기 사용자가 인증된 사용자인지 여부) 등일 수 있다.
또한, 상기 주변 정보는, 주변밝기, 온도, 태양위치, 주변에 위치하는 객체 정보(사람, 타차량, 표지판 등), 주행중인 노면의 종류, 지형지물, 차선(Line) 정보, 주행 차로(Lane) 정보, 자율주행/자율주차/자동주차/수동주차 모드에 필요한 정보를 포함할 수 있다.
또한, 주변 정보는, 차량 주변에 존재하는 객체(오브젝트)와 차량(100)까지의 거리, 충돌 가능성, 상기 객체의 종류, 차량이 주차 가능한 주차공간, 주차공간을 식별하기 위한 객체(예를 들어, 주차선, 노끈, 타차량, 벽 등) 등을 더 포함할 수 있다.
상기 차량 주행 정보는 이상에서 설명한 예에 한정되지 않으며, 상기 차량(100)에 구비된 구성요소로부터 생성된 모든 정보를 포함할 수 있다.
디스플레이부(930)는 프로세서(920)의 제어에 따라 다양한 시각정보를 출력한다. 디스플레이부(930)는 차량의 윈드실드나 별도로 구비된 스크린에 시각정보를 출력하거나, 패널을 통해 시각정보를 출력할 수 있다. 상기 디스플레이부(930)는 도 7을 통해 설명한 디스플레이부(251)에 해당할 수도 있다.
예를 들어, 디스플레이부(930)가 출력한 시각정보는 상기 윈드실드나 상기 스크린에서 반사되어 상기 시각정보가 상기 윈드실드나 상기 스크린에 표시되고 있는 것과 같은 효과가 발생한다. 탑승객은 상기 차량(100) 밖에 위치한 현실 세계와 상기 윈드실드나 상기 스크린에 표시되는 가상 객체를 동시에 확인하게 되며, 상기 디스플레이부(930)에 의하여 증강현실이 구현된다.
다른 예로, 디스플레이부(930)에서는, 프로세서(920)의 제어에 의해, 카메라를 통해 실시간으로 수신되는 영상에 다양한 시각정보가 오버랩되어 증강현실이 구현될 수 있다.
프로세서(920)는 상기 통신부(910)를 이용하여 상기 차량(100)에 구비된 하나 또는 그 이상의 디바이스들을 제어하도록 이루어질 수 있다.
구체적으로, 상기 프로세서(920)는 상기 통신부(910)를 통해 수신되는 차량 주행 정보에 근거하여, 기 설정되어 있는 복수의 조건들 중에서 적어도 하나의 조건이 만족되는지를 판단할 수 있다.
만족되는 조건에 따라, 프로세서(920)는 상기 하나 또는 그 이상의 디스플레이들을 서로 다른 방식으로 제어할 수 있다.
기 설정된 조건과 관련하여, 상기 프로세서(90)는 차량(100)에 구비된 전장품 및/또는 애플리케이션에서 이벤트가 발생한 것을 감지하고, 감지된 이벤트가 기 설정된 조건을 만족하는지를 판단할 수 있다. 이때, 상기 프로세서(920)는 통신부(910)를 통해 수신된 정보로부터 이벤트가 발생한 것을 감지할 수도 있다.
상기 애플리케이션은 위젯(widget)이나 홈 런처 등을 포함한 개념으로서, 차량(100)에서 구동 가능한 모든 형태의 프로그램을 의미한다. 따라서, 상기 애플리케이션은 웹 브라우저, 동영상 재생, 메세지 송수신, 일정 관리, 애플리케이션의 업데이트의 기능을 수행하는 프로그램이 될 수 있다.
나아가, 상기 애플리케이션은 전방 추돌 방지(Forward Collision Warning, FCW), 사각 지대 감지(Blind Spot Detection, BSD), 차선 이탈 경고(Lane Departure Warning, LDW), 보행자 감지(Pedestrian Detection, PD), 커브 속도 경고(Curve Speed Warning, CSW) 및 턴 바이 턴 길안내(turn by turn navigation, TBT) 중 적어도 하나를 포함할 수 있다.
예를 들어, 이벤트 발생은, 부재중 전화가 있는 경우, 업데이트 대상인 애플리케이션이 있는 경우, 메세지가 도착한 경우, 시동 온(start on), 시동 오프(start off), 자율 주행 온/오프, 디스플레이 활성화 키 눌림(LCD awake key), 알람(alarm), 호 연결(Incoming call), 부재중 알림(missed notification) 등이 될 수 있다.
다른 예로서, 이벤트 발생은 ADAS(advanced driver assistance system)에서 설정한 경고 발생, ADAS에서 설정한 기능이 수행되는 경우일 수 있다. 예를 들어, 전방 충돌 경고(forward collision warning)가 발생하는 경우, 후측방 경고(blind spot detection)가 발생하는 경우, 차선 이탈 경보(lane departure warning)가 발생하는 경우, 주행 조향 보조 경보(lane keeping assist warning)가 발생하는 경우, 긴급 제동 기능(autonomous emergency braking)이 수행되는 경우에 이벤트가 발생한 것으로 볼 수 있다.
또 다른 예로서, 전진 기어에서 후진 기어로 변경되는 경우, 소정 값보다 큰 가속이 발생되는 경우, 소정 값보다 큰 감속이 발생되는 경우, 동력장치가 내연기관에서 모터로 변경되는 경우, 또는 모터에서 내연기관으로 변경되는 경우에도 이벤트가 발생한 것으로 볼 수 있다.
이 밖에도, 차량(100)에 구비된 다양한 ECU가 특정 기능을 수행하는 경우에도 이벤트가 발생한 것으로 볼 수 있다.
발생한 이벤트가 기 설정된 조건에 만족되는 경우, 프로세서(920)는 만족되는 조건에 대응하는 정보가 상기 하나 또는 그 이상의 디스플레이들에 표시되도록 상기 통신부(910)를 제어한다.
프로세서(920)는 카메라를 통해 상기 차량(100)의 전방을 촬영한 전방 영상을 수신한다. 상기 전방 영상은 상기 통신부(910)를 통해 수신될 수 있으며, 하나 또는 그 이상의 영상들로 이루어질 수 있다.
다음으로, 상기 프로세서(920)는 상기 차량(100)의 주행이 예정된 하나 또는 그 이상의 차선들을 상기 전방 영상으로부터 탐색한다.
설명의 편의를 위하여, 상기 차량(100)의 주행이 예정된 하나 또는 그 이상의 차선들을 '주행 예정 차선'이라고 호칭한다.
상기 주행 예정 차선은 현재 시점을 기준으로 양의 실수인 t 시점까지 상기 차량(100)의 주행이 예정된 차선을 의미한다. 상기 t는 상기 차량(100)의 속도, 상기 차량(100)이 주행 중인 도로의 특성, 상기 차량(100)이 주행 중인 도로에 설정된 제한 속도에 따라 달라질 수 있다.
상기 차량(100)이 자율 주행인 경우, 상기 주행 예정 차선은 자율 주행으로 주행이 예정된 차선을 의미한다. 상기 차량(100)이 수동 주행인 경우 상기 주행 예정 차선은 운전자에게 추천되는 차선을 의미한다.
상기 주행 예정 차선을 탐색하기 위하여, 상기 프로세서(920)는 경로 제공 장치 및/또는 서버로부터 고정밀 지도를 수신하고, 상기 주행 예정 차선을 특정할 수 있는 차량 주행 정보를 수신할 수 있다.
보다 구체적으로, 상기 프로세서(920)는 상기 차량(100)의 전방에 위치한 도로를 차선 단위로 가이드 하는 전방 경로 정보를 수신할 수 있다.
상기 전방 경로 정보는 목적지까지의 주행 경로를 도로에 표시된 차선별로 제공하도록 이루어지며, ADASIS의 표준을 따르는 경로 정보일 수 있다.
상기 전방 경로 정보는 차선 단위로 차량이 주행해야 하는 또는 주행 가능한 경로를 세분화하여 제공할 수 있다. 상기 전방 경로 정보는, 목적지까지의 주행 경로를 차선 단위로 가이드 하는 정보일 수 있다. 상기 전방 경로 정보가 상기 차량(100)에 탑재된 디스플레이에 표시되는 경우, 지도 상에 주행 가능한 차선을 가이드 하는 가이드 라인이 표시될 수 있다. 나아가, 지도에 포함된 복수의 차선들 중 상기 차량(100)이 위치하는 적어도 하나의 차선 위에 상기 차량(100)의 위치를 나타내는 그래픽 객체가 포함될 수 있다.
예를 들어, 상기 차량(100)의 전방에 위치한 도로가 8차선이고, 상기 주행 예정 차선은 2차선일 수 있다. 이 경우, 상기 프로세서(920)는 상기 전방 영상에서 상기 2차선을 탐색할 수 있다.
다른 예를 들어, 상기 차량(100)의 전방에 위치한 도로가 8차선이고, 현재 지점에서 전방 50m까지 2차선으로의 주행이 예정되어 있고, 전방 50m에서 3차선으로의 차선 변경이 예정되어 있을 수 있다. 이 경우, 상기 프로세서(920)는 상기 전방 영상에서 전방 50m까지의 2차선과 전방 50m 이후의 3차선을 탐색할 수 있다.
여기서, 차선을 탐색한다는 것은, 상기 전방 영상의 전체 영역 중에서 상기 주행 예정 차선이 포함된 일부 영역을 탐색하는 것을 의미한다. 이는, 상기 주행 예정 차선을 가이드 하는 카펫 이미지를 상기 탐색된 일부 영역에 중첩되도록 표시함으로써, 상기 차량(100)의 탑승객이 상기 주행 예정 차선을 직관적으로 인식할 수 있도록 하기 위함이다.
다음으로, 상기 프로세서(920)는 상기 탐색된 하나 또는 그 이상의 차선들을 차선 단위로 가이드 하는 카펫 이미지를 디스플레이부(930)를 통해 출력한다.
상기 프로세서(920)는 상기 디스플레이부(930)가 차량의 윈드쉴드 또는 윈도우인 경우, 탑승객의 눈 위치 및/또는 시선에 근거하여 시각정보를 출력할 영상 표시 영역을 설정할 수 있다.
나아가, 상기 프로세서(920)는 탑승객의 눈 위치 및/또는 시선에 근거하여 상기 메인 카펫 이미지의 위치, 크기 및 형태 중 적어도 하나를 결정한다. 상기 메인 카펫 이미지가 상기 윈드실드 또는 상기 스크린에 출력되는 위치, 크기 및 형태 중 적어도 하나는 탑승객의 눈 위치 및/또는 시선에 따라 달라질 수 있다. 이는, 현실 세계(real world)와 가상 이미지(virtual image)가 정확히 일치하는 증강현실(augmented reality)을 제공하기 위한 것이다.
상기 메인 카펫 이미지는 상기 주행 예정 차선을 가이드 하는 것으로 상기 주행 예정 차선과 오버랩 되며 소정 색을 가지는 투명 이미지일 수 있다.
상기 소정 색은 기준 조건에 따라 달라질 수 있다. 예를 들어, 일반적인 도로인 경우, 제1색이지만, 도로에 눈이 쌓인 경우 상기 제1색과 다른 제2색일 수 있다.
탑승객은 상기 메인 카펫 이미지를 통해 상기 차량이 자율 주행으로 주행할 또는 운전자가 운전해야 하는 주행 예정 차선에 대한 경로 정보를 차선 단위로 제공받을 수 있다.
한편, 상기 프로세서(920)는 상기 메인 카펫 이미지뿐만 아니라 탑승객이 선택할 수 있는 하나 또는 그 이상의 서브 카펫 이미지를 상기 메인 카펫 이미지와 함께 탑승객에게 제공할 수 있다.
한편, 상기 프로세서(920)는 상기 차량의 주행이 예정된 경로상에 존재하는 다른 차량에서 촬영된 영상을 수신하도록 상기 통신부를 제어한다. 구체적으로, 다른 차량으로부터 촬영된 영상은 인코딩(enconding)된 후, 상기 차량으로 전송될 수 있다. 이에 따라, 상기 통신부를 통해 수신된 상기 다른 차량에서 촬영된 영상은 별도의 디코딩(decoding)과정을 거쳐야 한다. 디코딩(decoding)을 위한 디코더(decoder)는 경로 안내 장치(800) 또는 차량(100)에 내장되어 있을 수 있다.
이하에서는, 본 발명의 경로 안내 장치(790)가 증강 현실을 통해 차량이 주행해야 하는 경로를 가이드(안내)하는 방법에 대하여 첨부된 도면을 참조하여 보다 구체적으로 살펴보기로 한다.
도 10a, 도 10b, 도 10c, 도 10d, 도 10e, 도 10f, 도 11a, 도 11b, 도 11c, 도 11d, 도 11e, 도 11f 및 도 11g는 본 발명의 일 실시 예에 따른 증강 현실을 적용한 경로 안내 방법을 설명하기 위한 개념도이다.
본 명세서에서, 프로세서(920)가 어느 정보를 출력한다는 것은, 어느 정보를 디스플레이부(930)에 출력한다 또는 어느 정보가 출력되도록 디스플레이부(930)를 제어한다는 것을 의미할 수 있다.
프로세서(920)는, 도 10에 도시된 것과 같이, 길 안내를 위한 애플리케이션(예를 들어, 내비게이션 앱)(1000)이 실행된 후 기 설정된 조건이 만족되는 것에 근거하여, 증강현실(AR) 모드에 진입할 수 있다.
상기 AR 모드에 진입하기 위한 기 설정된 조건은, 사용자 요청이 입력되는 경우, 통신 상태가 원활한 경우, 차량이 고속도로에 진입한 경우, 교차로에 진입/진출하기 소정 거리 이내 등 다양한 조건을 포함할 수 있으며, 사용자에 의해 추가/변경/설정될 수 있다.
AR 모드에 진입하게 되면, 프로세서(920)는, 카메라를 통해 촬영된 제1 영상을 수신할 수 있다. 상기 제1 영상은, 실시간으로 촬영되는 영상일 수 있다.
우선, 프로세서(920)는, 카메라를 통해 촬영된 제1 영상을 수신하고, 상기 제1 영상에 대하여 캘리브레이션을 수행할 수 있다. 상기 캘리브레이션은, 증강 현실을 구현하기 적합하도록 영상을 보정 또는 교정하는 것을 의미할 수 있다.
프로세서(920)는, 상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력할 수 있다.
본 명세서에서는, 상기 제1 영상에 캘리브레이션이 수행된 영상을 제2 영상으로 명명하기로 한다.
상기 제1 영상이 실시간으로 수신됨에 따라, 캘리브레이션도 지속적으로 실시간으로 수행될 수 있으며, 이에 따라, 제2 영상도 실시간으로 촬영되는 영상일 수 있다.
프로세서(920)는, 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 제1 영상(1010)에 출력할 수 있다.
프로세서(920)는, 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 제2 영상(1020)에 오버랩하여 출력할 수 있다.
상기 주행과 관련된 제1 그래픽 객체 또는 제2 그래픽 객체는, 일 예로, 내비게이션 애플리케이션(또는 내비게이션 시스템(770))에 의해 생성된 정보이거나, 내비게이션 애플리케이션(또는 내비게이션 시스템(770))과의 통신을 통해 수신된 목적지까지의 경로 정보에 기반하여 프로세서(920)에 의해 생성될 수 있다.
상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보(931)를 포함하고, 상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(932)를 포함할 수 있다.
누구나 또는 차마가 통행할 수 있도록 공개된 장소로 안전하고 원활한 소통을 할 수 있는 장소를 도로라 한다.
이러한 도로에서 차마가 한줄로 주행하도록 차선(line)(1031)으로 구분한 차도의 부분을 차로(lane)(1032)라 한다.
차선은 차로와 차로의 경계지점을 안전표지로 표시한 선을 의미할 수 있다.
도 10a에 도시된 것과 같이, 프로세서(920)는, 캘리브레이션이 수행되기 전 제1 영상(1010)에는, 소정 거리 앞에서 진입해야 하는 도로(또는 방향)을 알려주는 턴-바이-턴 정보(제1 그래픽 객체)(931)만을 제1 영상(1010)에 오버랩하여 출력할 수 있다.
이후, 캘리브레이션이 수행되면, 프로세서(920)는, 캘리브레이션이 수행된 제2 영상(1020)에, 상기 제1 그래픽 객체(931)와 더불어, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(제2 그래픽 객체)(932)를 차로(1032)에 오버랩하여 출력할 수 있다.
상기 카펫 이미지가 오버랩되는 차로(1032)는, 현재 차량이 주행중인 차로일 수 있다.
도 10a에 도시된 것과 같이, 프로세서(920)는, 제2 영상(1020)에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 제2 그래픽 객체(932)를 오버랩하여 출력하고, 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 제2 그래픽 객체를 미출력시킬 수 있다(Off Route).
또한, 상기 제1 그래픽 객체(931)는, 도 10a에 도시된 것과 같이, 차량이 주행중인 차로를 벗어나는지와 무관하게 출력이 유지될 수 있다.
한편, 프로세서(920)는, 제1 영상에 포함된 도로 영역(1022)이 소정 크기 이상이 되도록 캘리브레이션을 수행할 수 있다. 일 예로, 프로세서(920)는, 영상에서 차지하는 도로의 영역이 절반 이상이 되도록, 영상에 대한 캘리브레이션을 수행할 수 있다.
도 10b를 참조하면, 캘리브레이션이 수행된 제2 영상(1020)이 출력중인 상태에서 다른 애플리케이션(1000)의 실행화면이 수행된 후 다시 AR 모드에 진입하면, 프로세서(920)는, 제1 영상을 다시 출력한 후 캘리브레이션을 수행하여 제2 영상을 디스플레이부(930)에 출력할 수 있다.
도 10c를 참조하면, 프로세서(920)는, 경로 안내 장치(790)가 가로 모드로 놓여진 상태인 경우에도, 동일하게 제1 영상을 출력하고, 상기 제1 영상에 대하여 캘리브레이션을 수행한 후, 캘리브레이션이 수행된 제2 영상에 제1 및 제2 그래픽 객체를 오버랩하여 출력할 수 있다.
한편, 프로세서(920)는, 차량의 주행에 의해, 상기 제2 영상에 포함된 차로와 상기 차로에 오버랩된 그래픽 객체(932a)가 틀어지도록 상기 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상을 기준으로 상기 차로에 매칭되도록 상기 그래픽 객체를 변경할 수 있다(932a를 932b로 변경).
예를 들어, 도 10d에 도시된 것과 같이, 차량이 경사의 기울기가 달라지는 지점 부근을 주행하는 경우, 지면을 기준으로 카메라가 촬영하는 제2 영상의 시야각이 달라지게 되고(즉, 지면을 기준으로 카메라가 촬영하는 방향(각도)가 달라지게 된다).
이에 따라, 카메라를 통해 촬영되는 영상에서 도로가 차지하는 영역의 크기가 달라지게 되고, 차로와 차로에 오버랩되어 출력중인 그래픽 객체가 틀어질 수 있다.
프로세서(920)는, 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상(1020b)을 기준으로 차로에 매칭되도록 그래픽 객체(932b)(카펫 이미지)를 변경할 수 있다.
또한, 도 10e에 도시된 것과 같이, 사용자의 조작에 의해 카메라의 시야각(즉, 제2 영상의 시야각)이 변경된 경우에도, 도 10d에서 설명한 것과 마찬가지로, 차로와 차로에 오버랩된 그래픽 객체가 틀어지게 된다.
이 경우에도, 프로세서(920)는, 시야각이 변경된 제2 영상(1020b)을 기준으로 차로에 매칭되도록 그래픽 객체(932b)(카펫 이미지)를 변경할 수 있다.
또한, 프로세서(920)는, AR 모드에 진입한 상태에서, AR 모드를 오프(off)시키는 조건이 만족되면, 도 10f에 도시된 것과 같이, AR 모드를 종료할 수 있다.
상기 AR 모드를 오프시키는 조건은, GPS 데이터가 소정 시간동안 전송이 없거나(예를 들어, 2초 이상 전송이 없는 경우) 일정 시간 이상의 지연이 소정 시간 이내에 특정 횟수 이상 발생되는 경우(10초안에 1.5초 이상 전송 지연이 3회 발생하는 경우), 자이로 데이터의 전송이 없는 경우, 액셀레미터의 데이터 전송이 없는 경우, SD MAP의 전송이 소정 시간 발생되지 않는 경우, 카메라의 화질이 특정 Hz 이하로 떨어지는 경우 등을 포함할 수 있다.
이 경우, 프로세서(920)는, 도 10f에 도시된 것과 같이, AR 모드를 종료하고, 내비게이션 애플리케이션의 실행화면(1000)을 출력할 수 있다.
한편, 프로세서(920)는, 제2 영상에 포함된 차로에 오버랩되며 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 제2 영상에 출력할 수 있다.
상기 카펫 이미지는, 상기 제2 영상에서 차량이 주행중인 차로에 오버랩될 수 있다.
프로세서(920)는, 제2 영상에서 차량이 주행중인 차로에 인접한 차로에 주행 방향을 가이드하는 벽 이미지를 출력할 수 있다.
도 11a를 참조하면, 프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로(즉, 교차로에서 직진이 아닌 우회전, 좌회전 또는 유턴 등 방향 전환을 수행해야 하는 지점)로 진입하기 소정 거리(예를 들어, 100m) 전에는, 차량이 주행중인 차로에 카펫 이미지(932)를 출력할 수 있다. 이 때, 턴-바이-턴 정보(931)는 캘리브레이션이 수행된 제2 영상(1020)에 계속 출력될 수 있다.
프로세서(920)는, 차량이 주행중인 차로에 카펫 이미지(932)가 오버랩된 상태에서, 차량이 상기 교차로를 기준으로 소정 거리 이내에 진입하면, 차량의 주행 방향을 가이드하는 벽 이미지(933)를 더 출력할 수 있다.
프로세서(920)는, 차량이 상기 교차로를 기준으로 소정 거리(예를 들어, 50m) 이내에 진입하면, 카펫 이미지(932)를 벽 이미지(933)로 변경할 수 있다.
프로세서(920)는, 상기 벽 이미지(933)를 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력할 수 있다.
다른 말로, 프로세서(920)는, 카펫 이미지(932)와 벽 이미지(933)가 함께 출력중인 상태에서, 차량이 상기 교차로를 기준으로 소정 거리(50m) 이내에 진입하면, 카펫 이미지(932)의 출력을 중단하고, 벽 이미지(933)만을 출력할 수 있다.
프로세서(920)는, 상기 벽 이미지(933)를 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력할 수 있다.
상기 카펫 이미지(932)는 차량이 주행중인 차로에 오버랩되도록 출력되고, 상기 벽 이미지(또는 wall arrow)(933)를 차량이 주행중인 차로에 인접한 차로에 표시될 수 있다.
일 예로, 상기 벽 이미지(933)가 제1 방향(오른쪽)을 가리키는 벽 이미지인 경우, 상기 벽 이미지(933)는, 도 11a의 두 번째 및 세 번째 도면과 같이, 차량이 주행중인 차로에 인접한 좌우 차로들 중 상기 제1 방향과 반대되는 제2 방향(왼쪽)에 위치한 차로에 오버랩되어 출력될 수 있다.
프로세서(930)는, 도 11a의 세번째 도면과 같이, 차량이 상기 교차로로부터 소정 거리(예를 들어, 50m) 이내에 진입하면, 상기 벽 이미지(933)만을 차량이 주행중인 도로에 인접한 도로에 출력하고, 카펫 이미지(932)는 미출력할 수 있다.
프로세서(920)는, 차량이 상기 교차로에서 방향 전환을 수행하면(예를 들어, 교차로에서 우회전을 수행하면), 소정 거리(예를 들어, 방향 전환을 수행한 지점으로부터 30m)까지는 상기 카펫 이미지(932)를 미출력하고, 벽 이미지(933)를 출력하는 상태를 유지할 수 있다.
이후, 프로세서(920)는, 차량이 상기 교차로에서 방향 전환을 수행하면, 도 11a의 네 번째 및 다섯 번째 도면과 같이, 벽 이미지(933)를 카펫 이미지(932)로 변경하고, 상기 차량이 주행중인 차로에 카펫 이미지(932)를 오버랩하여 출력할 수 있다.
도 11b에 도시된 것과 같이, 프로세서(920)는, 방향 전환을 수행해야 하는 교차로로부터 소정 거리(예를 들어, 100m) 전부터 벽 이미지(933)를 출력하도록 설정된 경우, 두 번째 도면에 도시된 것과 같이, 상기 소정 거리(예를 들어, 100m)가 영상에서 식별되는 위치(예를 들어, 200m 전)부터 상기 벽 이미지(933)를 차량이 주행중인 차로에 인접한 차로에 출력할 수 있다. 이 때, 상기 벽 이미지(933)는, 도 11b의 두 번째 도면에 도시된 것과 같이, 상기 소정 거리(100m)부터 오버랩되도록 출력될 수 있다.
도 11c를 참조하면, 카펫 이미지(932)와 벽 이미지(933)의 전환 과정을 보다 구체적으로 살펴보기로 한다.
프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로로부터 소정 거리 이상인 경우에는, 턴-바이-턴 정보(931) 및 카펫 이미지(932)를 차량이 주행중인 차로에 오버랩하여 출력할 수 있다.
차량이 상기 교차로로부터 소정 거리(예를 들어, 100m)이내에 진입하는 경우, 프로세서(920)는, 차량이 주행중인 차로에 인접한 차로에 차량의 주행 방향을 가이드하는 벽 이미지(933)를 추가로 출력하거나, 카펫 이미지(932)를 벽 이미지(932)로 변경할 수 있다.
도 11c에 도시된 것과 같이, 프로세서(920)는, 차량이 교차로로부터 소정 거리 이내에 진입하면, 차량이 주행중인 차로에 오버랩된 카펫 이미지(932)를 벽 이미지(933)가 출력될 위치에 출력되도록 변환하고, 변환된 카펫 이미지(932-1) 상기 벽 이미지가 출력될 위치에 출력할 수 있다.
이후, 프로세서(920)는, 상기 변환된 카펫 이미지(932-1)를 벽 이미지(933)로 변경할 수 있다.
차량이 교차로에서 방향 전환이 이루어진 후, 프로세서(920)는, 벽 이미지(933)를 카펫 이미지(932)가 출력될 위치에 출력되도록 변환하고, 변환된 벽 이미지(933-1)를 카펫 이미지가 출력될 위치(차량이 주행중인 차로)에 출력할 수 있다.
이후, 프로세서(920)는, 상기 변환된 벽 이미지(933-1)를 카펫 이미지(932)로 변경할 수 있다.
프로세서(920)는, 도 11d 및 도 11e에 도시된 것과 같이, 차량과 교차로 사이의 거리가 가까워질수록 벽 이미지(933)의 출력 크기를 확대할 수 있다.
이후, 프로세서(920)는, 차량의 방향 전환이 완료되면, 방향 전환을 가이드하는 벽 이미지(933)를 미출력할 수 있다.
도 11f에 도시된 것과 같이, 프로세서(920)는, 차량이 GPS 신호를 수신할 수 없거나 GPS 신호의 세기가 기준세기 이하인 터널에 진입하는 경우, 카펫 이미지의 출력을 중단하고, POI(Point of Interest)에 대한 위치를 가이드하는 그래픽 객체(1100)를 영상(예를 들어, 제2 영상)에 오버랩하여 출력할 수 있따.
또한, 도 11f에 도시된 것과 같이, 차량이 주행중인 차로에 카펫 이미지(932)가 출력중인 상태에서, 차량이 주행 예정 경로를 벗어나는 경우(Off-route), 위에 도시된 것과 같이, 턴-바이-턴 정보(931), 벽 이미지(933) 및 POI 위치 가이드 그래픽 객체(1100) 중 적어도 하나를 영상에 오버랩하여 출력할 수 있다.
이 때, 카펫 이미지의 출력은 중단될 수 있으며, 턴-바이-턴 정보(931)도 미출력될 수 있다.
도 12, 도 13a 및 도 13b는 본 발명의 일 실시 예에 따른 차량의 주행 상태에 따라 증강 현실로 출력되는 이미지의 종류를 결정하는 방법을 설명하기 위한 흐름도이다.
도 12를 참조하면, 프로세서(920)는, 고도 정보가 경로 내(On route)에 존재하는지 여부를 판단할 수 있다(S1202). 상기 고도 정보는, 통신부(910)를 통해 위성 또는 외부 서버로부터 수신할 수 있다.
프로세서(920)는, 고도 정보가 경로 내에 존재하는 경우, 카펫 이미지(932)를 출력할 수 있다. 만약 고도 정보가 경로 내에 존재하지 않는다고 판단되는 경우, 새로운 사용자 인터페이스(UX)를 영상에 오버랩하여 증강 현실로 구현할 수 있다.
도 13a를 참조하면, 본 발명의 프로세서(920)는, AR 어댑터(Adapter)(922) 및 AR 엔진(Engine)(924)을 포함할 수 있다.
상기 AR 어댑터(922)는, 내비게이션 애플리케이션 또는 내비게이션 시스템(770)으로부터 수신되는 경로 안내에 필요한 다양한 정보들을 증강 현실로 구현하는데 필요한 정보(또는 데이터)로 변환하는 역할을 수행할 수 있다.
AR 엔진 (924)은, AR 어댑터(922)에서 변환된 정보를 이용하여, 카메라를 통해 촬영된 영상에서 경로 안내를 증강 현실로 구현할 수 있다.
도 13a를 참조하면, 내비게이션 애플리케이션(또는 시스템)(770)은, 현재 도로의 종류(또는 등급)(class), 현재 차량의 위치(GPS 정보), 현재 도로의 커브 데이터를 AR 어댑터로 전송할 수 있다(S1302, S1304, S1306, S1308).
AR 어댑터(922)는, 현재 도로가 커브인지 판단하고(S1310), 커브가 아닌 경우, 지난 소정 거리(10m)의 고도 변화를 판단할 수 있다(S1312).
지난 소정 거리의 고도 변화가 특정 거리(3m) 이상이 아니고(S1314), 현재 도로가 로컬이 아니며(S1316), 다음 분기점이 없으며(S1318), 지난 소정 시간(5초)동안 차로(또는 차선)이 없는 경우(S1320), AR 어댑터(922)는, 소정 시간(10초)동안 카펫 이미지를 AR 엔진에 요청할 수 있다(S1322).
요청을 받은 AR 엔진(924)은, 카펫 이미지를 영상에 오버랩하여 출력할 수 있다(S1324).
한편, 상기 S1310, S1314, S1316, S1318, S1320 단계에서 Yes에 해당하는 경우, AR 어댑터(922)는 고정 카펫 이미지 또는 나침반 이미지의 출력을 AR 엔진(924)에 요청할 수 있다(S1326).
요청을 받은 AR 엔진(924)은, 고정 카펫 이미지 또는 나침반 이미지를 영상에 오버랩하여 출력할 수 있다(S1328).
나침반 이미지, 카펫 이미지 또는 고정 카펫 이미지를 출력하는 또 다른 실시 예는, 도 13b에 도시된 흐름도와 같을 수 있다.
내비게이션 애플리케이션(또는 시스템)(770)은 AR 어댑터(922)로 현재 위치(current GPS) 정보를 전송할 수 있다.
AR 어댑터(922)는, 가이드 포인트(예를 들어, 방향 전환을 수행해야 하는 교차로)가 도로에 있고(S1332), 다음 가이드 포인트까지 소정 거리(300m) 이내인 경우(S1334), 가이드 포인트가 없는 다음 도로로 나침반 이미지를 AR 엔진(924)으로 요청할 수 있다.
AR 엔진(924)은, 요청에 응답하여, 나침반 이미지를 영상에 오버랩하여 증강 현실로 출력할 수 있다(S1338).
AR 어댑터(922)는, 가이드 포인트가 없으며(S1332, S1340), 지난 소정 거리(10m)동안 고도 변화를 계산하고(S1342), 고도 변화가 특정 거리(3m)보다 큰 경우, 고정 카펫 이미지를 소정 시간동안 출력할 것을 AR 엔진(924)에 요청할 수 있다(S1348).
AR 엔진(924)은, 요청에 응답하여, 고정 카펫 이미지를 영상에 오버랩하여 출력할 수 있다(S1350).
고정 카펫 이미지는, 영상에서 식별되는 차로의 모양에 따라 형태이 가변되는 카펫 이미지가 아닌, 형태가 고정된 카펫 이미지를 의미할 수 있다.
한편, AR 어댑터(922)는, 도로에 가이드 포인트가 존재하지만, 다음 가이드 포인트까지 소정 거리 이내가 아닌 경우(S1332, 1334), 지난 소정 거리(10m)동안 고도 변화를 계산할 수 있다(S1352).
AR 어댑터(922)는, 고도 변화가 특정 거리(3m) 이내인 경우, (S1346, S1354), 소정 시간(10초)동안 카펫 이미지의 출력을 AR 엔진(924)으로 요청할 수 있다.
AR 엔진(924)은, 요청에 근거하여, 카펫 이미지(932)를 차량이 주행중인 차로에 매칭되도록 오버랩하여 출력할 수 있다(S1358).
만약, 도로에 가이드 포인트가 없으며, 가이드 포인트가 없는 도로도 아닌 경우(예를 들어, 가이드 포인트의 존재 여부를 판단할 수 없는 경우)(S1332, 1340), AR 어댑터(922)는 차량이 경로(또는 도로)를 벗어난 것으로 판단할 수 있다(S1360).
AR 어댑터(922) 및 AR 엔진(924)이 수행하는 동작/기능/제어방법은, 프로세서(920)가 수행하는 것으로 이해될 수 있다.
도 14, 도 15, 도 16, 도 17, 도 18, 도 19, 도 20, 도 21, 도 22 및 도 23은 본 발명의 일 실시 예에 따른 증강 현실로 출력되는 나침반 이미지를 설명하기 위한 개념도이다.
도 12 내지 도 13b의 흐름도에서 살펴본 바와 같이, 프로세서(920)는, 카메라를 통해 획득된 영상에 대하여 캘리브레이션을 수행한 뒤, 주행 예정 경로를 가이드하는 카펫 이미지(932)를 차량이 주행중인 차로에 대응되도록 오버랩하여 증강 현실을 구현할 수 있다.
한편, 프로세서(920)는, 도 14의 오른쪽 그림에 도시된 것과 같이, 차량의 전방이 바라보는 방위를 알려주는 나침반 객체(1410)를 포함하는 나침반 이미지(1400)를 캘리브레이션이 수행된 제2 영상(1020)에 출력할 수 있다.
상기 나침반 이미지(1400)는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지(1420)를 포함할 수 있다.
또한, 상기 나침반 이미지(1400)는, 차량의 전방(즉, 카메라가 촬영하는 방향에 대응)이 어느 방위를 가리키는지 나타내는 나침반 객체(1410)와 상기 나침반 객체(1410)의 테두리를 따라 표시위치가 변경되는 고정카펫 이미지(1420)를 포함할 수 있다.
프로세서(920)는, 나침반 객체(1410)의 테두리를 따라 고정카펫 이미지(1420)의 표시위치를 가변할 수 있다.
상기 고정카펫 이미지(1420)는, 형태가 차로의 형태에 따라 가변되지 않고 특정 모양(예를 들어, 삼각형 모양)으로 고정될 수 있으며, 차량의 현재 위치에서 차량이 주행해야 하는 방향을 나침반 객체(1410)를 따라 이동하면서 가이드할 수 있다.
도 15를 참조하면, 프로세서(920)의 AR 어댑터(922)는, 내비게이션 애플리케이션(또는 내비게이션 시스템)(770)으로부터 지도 정보(SD MAP) 및 차량이 주행중인 방향에 대한 정보(GPS heading)을 수신할 수 있다.
AR 어댑터(922)는, 수신된 정보에 근거하여, 나침반 이미지로 적용 가능한 데이터로 변환한 후 AR 엔진(924)으로 전송할 수 있다.
AR 엔진(924)은, 변환된 데이터에 근거하여 증강 현실로 출력할 나침반 이미지(1400)를 생성하고, 영상에 오버랩하여 증강 현실로 출력할 수 있다.
도 16을 참조하면, 나침반 이미지(1400)는, 나침반 객체(1410), 현제 차량이 북향(N)을 기준으로 어느 방향으로 주행중인지를 나타내는 방위정보(1430) 및 차량이 다음 가이드 포인트(예를 들어, 방향 전환을 수행해야 하는 교차로)로 주행하기 위해 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지(1430)를 포함할 수 있다.
상기 고정카펫 이미지(1430)가 출력되는 위치는, 차량의 전방을 기준으로 다음 가이드 포인트가 위치한 각도에 근거하여 결정 및 가변될 수 있다.
도 17을 참조하면, 프로세서(920)는, 나침반 이미지(1400)를 다양한 방식으로 출력할 수 있다.
앞서 설명한 것과 같이, 고정카펫 이미지(1420)는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드할 수 있으며(즉, 차량이 현재 위치에서 다음 가이드 포인트의 위치를 가이드함), 나침반 객체(1410)의 테두리를 따라 표시위치가 가변될 수 있다.
한편, 도 18에 도시된 것과 같이, 프로세서(920)는, 다양한 방식으로 고정카펫 이미지(1832)를 출력할 수 있다.
예를 들어, 앞서 설명한 카펫 이미지(932)는, 다이나믹 카펫 이미지를 의미하며, 영상에서 차량이 주행하는 차로(Lane)에 대응되도록 생성/가변되고, 차량이 주행중인 차로에 오버랩되어 증강현실로 출력될 수 있다.
반면, 고정카펫(Static Carpet) 이미지(1832)는, 차량의 이동 방향(또는 관성)을 이용하여 구부려져서 표시될 수 있다.
이러한 고정카펫 이미지는, 1차선 곡선 도로에 유용하고, 차선 인식 결과를 사용하지 않으며, 화면에 고정되고, 차로 이동 중에 이동되지 않고 단지 구부러지기만 하도록 형성될 수 있다.
프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로와 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(932) 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지(1400) 중 어느 하나(또는 적어도 하나)를 출력할 수 있다.
또한, 프로세서(920)는, 차량이 주행중인 도로의 종류에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지(932) 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지(1400) 중 어느 하나(또는 적어도 하나)를 출력할 수 있다.
도 19를 참조하면, 프로세서(920)는, 고속도로/간선도로/콜렉터 등을 직선 주행이 주를 이루는 기 설정된 종류의 도로를 주행중인 경우, 카펫 이미지(932)를 차량이 주행중인 차로에 오버랩되도록 카메라를 통해 촬영된 영상에 오버랩하여 출력할 수 있다.
반면, 차량이 주행중인 도로가 로컬(예를 들어, 시내, 도심, 시골길 등) 도로인 경우, 프로세서(920)는, 카펫 이미지(932)가 아닌 나침반 이미지(1400)를 출력할 수 있다.
다시 차량이 상기 기 설정된 종류의 도로에 진입하면, 차량이 주행중인 차로에 오버랩되도록 카펫 이미지(932)를 출력할 수 있다.
도 20을 참조하면, 프로세서(920)는, 차량의 위치가 로컬 도로가 아닌 경우에는(즉, 기 설정된 종류의 도로인 경우), 카펫 이미지를 영상에 오버랩하여 증강현실을 구현하고(S2000, S2010), 차량의 위치가 로컬 도로인 경우, 나침반 이미지를 영상에 오버랩하여 증강현실을 구현할 수 있다(S2000, S2020).
도 21을 참조하면, 프로세서(920)는, 차량이 경사가 존재하는 도로에 진입하는 것에 근거하여, 카펫 이미지(932)를 나침반 이미지(1400)로 변경할 수도 있다.
예를 들어, 프로세서(920)는, 지난 소정 시간(5초) 동안 GPS 고도 변화가 특정 거리(10m) 이내인 경우, 카펫 이미지(932)를 영상에 포함된 차량이 주행중인 차로에 오버랩하여 출력할 수 있다.
다른 예로, 프로세서(920)는, 지난 소정 시간(5초) 동안 GPS 고도 변화가 특정 거리(10m) 이상인 경우, 나침반 이미지(1400)를 카메라를 통해 촬영된 영상에 오버랩하여 출력할 수 있다.
도 22에 도시된 것과 같이, 프로세서(920)는, 차량이 방향 전환을 수행해야 하는 교차로와 상기 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지 중 어느 하나를 영상에 오버랩하여 출력할 수도 있다.
예를 들어, 도 22에 도시된 것과 같이, 프로세서(920)는, 차량과 방향 전환을 수행해야 하는 교차로(예를 들어, 가이드 포인트)와의 거리가 소정거리 이상인 경우, 카펫 이미지를 출력하고, 차량과 교차로 사이의 거리가 소정거리 이내(예를 들어, 200m)인 경우, 카펫 이미지(932)를 미출력하고 나침반 이미지(1400)를 영상에 오버랩하여 출력할 수 있다.
이후, 프로세서(920)는, 차량이 교차로를 지나친 후 소정 거리(예를 들어, 30m)까지는 나침반 이미지(1400)의 출력을 유지하다가, 상기 소정 거리(30m)를 벗어나면 나침반 이미지(1400)의 출력을 중단하고, 카펫 이미지(932)를 영상에 오버랩하여 출력할 수 있다.
도 23에 도시된 것과 같이, 프로세서(920)는, 복수의 교차로가 존재하고, 복수의 교차로 사이의 거리가 소정 거리 이내인 경우, 예를 들어, (300m 이내), 복수의 교차로 중 첫번째 교차로에 진입하기 소정거리 이내에 차량이 진입하면 카펫 이미지(932)를 나침반 이미지(1400)로 변경할 수 있다.
이후, 프로세서(920)는, 차량이 복수의 교차로 중 마지막 교차로를 통과할 때까지 나침반 이미지(1400)의 출력을 유지할 수 있다.
이후, 프로세서(920)는, 마지막 교차로를 통과한 후 소정 거리(예를 들어, 30m)까지 차량이 주행할 때까지 나침반 이미지(1400)를 유지하다가, 상기 소정 거리를 지나치면, 나침반 이미지(1400)의 출력을 중단하고, 카펫 이미지(932)를 영상에 포함된 차량이 주행중인 차로에 오버랩되도록 증강현실을 구현할 수 있다.
도 24a, 도 24b, 도 25, 도 26, 도 27a 및 도 27b은, 본 발명의 다른 실시 예에 따른 경로 안내 방법을 설명하기 위한 개념도이다.
도 24a 및 도 24b를 참조하면, 본 발명은 방향 전환을 수행해야 하는 교차로(또는 가이드 포인트(Guide point))와 차량 사이의 거리에 따라 카메라를 통해 촬영되는 영상에 증강 현실로 출력되는 그래픽 객체를 다양하게 설정할 수 있다.
도 24a를 참조하면, 프로세서(920)는 차량이 가이드 포인트를 기준으로 소정거리 이내에 진입하면, 카펫 이미지, 벽 이미지 및/또는 고정카펫 이미지 등을 출력할 수 있다.
프로세서(920)는, 차량이 가이드 포인트로부터 특정 거리 이내에 진입하면, 카펫 이미지, 벽 이미지 및 고정카펫 이미지 중 적어도 하나의 출력을 중단할 수 있다.
프로세서(920)는, 차량이 가이드 포인트를 지나친 경우, 다른 종류의 카펫 이미지를 출력하거나, 상기 특정 거리 이내에서 출력중인 객체를 소정 거리만큼 출력을 유지할 수 있다.
도 24b에 도시된 것과 같이, 프로세서(920)는, 가이드 포인트(방향 전환을 필요로 하는 교차로 또는 교차로의 일 지점)이 소정거리 이내에 존재하는 경우와, 가이드 포인트가 소정거리 이외에 존재하는 경우(Road without guide point)로 구분되어 증강 현실로 구현되는 그래픽 객체의 종류를 결정할 수 있다.
도 25를 참조하면, 프로세서(920)는, 퓨전 카펫 이미지(251), 이고 차로 카펫 이미지(2502), 고정 카펫 이미지(2503), 나침반 이미지(1400) 등을 카메라를 통해 촬영된 영상에 오버랩하여 증강현실로 출력할 수 있다.
퓨전 카펫 이미지(2501)은, 지도(SD map) 기반 차량이 주행중인 차로에 매핑되어 출력되는 카펫 이미지(예를 들어, 932)이고, 이고 차로 카펫 이미지(2502)는, 카메라로 촬영된 영상에서 식별된 차로 내에서만 출력되는 카펫 이미지일 수 있다.
고정 카펫 이미지(2503)는, 지도 또는 영상에 기반하여 생성/가변되는 카펫 이미지가 아닌, 차량의 주행 방향(또는 운동 방향)에 근거하여 출력되는 카펫 이미지일 수 있다. 고정 카펫 이미지(2503)는, 일 예로, 차량이 좌측으로 주행중인 경우 좌측으로 휘어진 카펫 이미지가 출력될 수 있다.
나침반 이미지(1400)는, 앞서 설명한 것과 같이, 내비게이션 애플리케이션 또는 시스템(770)으로부터 수신된 GPS 방향(즉, 내 차량이 바라보고 있는 방와) 및 SD MAP 방향(즉, 현재 차량이 바라보고 있는 방향에서 다음 가이드 포인트가 위치한 각도)에 근거하여 생성/가변될 수 있다.
프로세서(920)는, 상기 GPS 방향과 SD MAP 방향이 서로 일치하면, 퓨전 카펫 이미지를 출력하고, 일치하지 않으면 이고 차로 카펫 이미지(2502)를 출력할 수 있다.
도 26을 참조하면, 앞서 설명한 다양한 증강현실 그래픽 객체를 출력하는 일 실시 예를 설명하기 위한 흐름도가 도시되어 있다.
프로세서(920)는, 터널이거나 경로(또는 도로)를 이탈한 경우, 카펫 이미지를 숨기고, 턴-바이-턴 정보를 출력할 수 있다(S2602, S2612).
프로세서(920)는, 터널 또는 경로 이탈이 아니며, 가이드 포인트가 미존재하고, 가이드 포인트가 없는 도로를 주행중이면, 영상에 오버랩되어 출력중인 그래픽 객체의 종류를 판단한다(S2602, S2604, S2606).
프로세서(920)는, 이고 차로 카펫 이미지를 출력중인 경우, 가이드 포인트를 포함하는 다음 도로까지 이고 차로 카펫 이미지를 출력할 수 있다(S2608, S2610).
프로세서(920)는, 고정카펫 이미지가 출력중인 경우, 차선 경계 메시지를 보내지 않으며, 가이드 포인트를 포함하는 다음 도로까지 이고 차로 카펫 이미지를 출력할 수 있다(S2632, S2634).
프로세서(920)는, 나침반 이미지가 출력중인 경우, 차선 경계 메시지를 보내지 않고, 카펫 이미지를 숨길 수 있으며, 가이드 포인트를 포함하는 다음 도로까지 이고 차로 카펫 이미지를 출력할 수 있다(S2636, S2638, S2640).
프로세서(920)는, 퓨전 카펫 이미지 또는 오토 카펫 이미지가 출력중인 경우, 주행중인 도로가 경사 또는 로컬 여부를 판단할 수 있다(S2642, S2644, S2646).
프로세서(920)는, 주행중인 도로가 경사 또는 로컬인 경우, S2632단계로 진입할 수 있다.
프로세서(920)는 주행중인 도로가 경사 또는 로컬이 아닌 경우, 출력중인 이미지가 퓨전 카펫 이미지이면 가이드 포인트를 포함하는 다음 도로까지 퓨전 카펫 이미지를 출력하고, 출력중인 이미지가 오토 카펫 이미지이면 가이드 포인트를 포함하는 다음 도로까지 오토 카펫 이미지를 출력할 수 있다(S2648, 2650).
프로세서(920)는, 가이드 포인트를 포함하는 도로를 주행중이며, 터널 또는 경로 이탈이 아닌 경우, 앞서 설명한 것과 같이, 퓨전 카펫 이미지(932)를 출력하고, 벽 이미지(933)를 출력하며, 가이드 포인트로부터 특정 거리 이내인 경우, 퓨전 카펫 이미지를 미출력하고, 가이드 포인트를 통과한 이후에는 이고 차로 카펫 이미지를 출력할 수 있다(S2604, S2614, S2616, S2618, S2620, S2622).
프로세서(920)는, 가이드 포인트를 포함하는 도로를 주행중이지만 터널 또는 경로를 이탈한 경우, 차로 경계 메시지를 전송하지 않으며, 카펫 이미지를 숨기고, 나침반 이미지를 영상에 오버랩하여 출력할 수 있다(S2604, S2614, S2624, S2626, S2628).
DS_EGO, DS_ROUTE, DS_MERGED는 AR 엔진에서 사용하는 용어이고 각각 Ego Lane, Fusion, Auto를 의미함.
이 밖에도, 도면에 도시된 흐름도의 내용에 따라, 프로세서(920)는 다양한 그래픽 객체를 영상에 증강현실로 출력할 수 있다.
도 27a 및 도 27b는 도 26에서 설명한 내용을 바탕으로 각 상황별로 출력되는 그래픽 객체를 나타낸 실시 예가 도시되어 있다.
도 27a 및 도 27b의 각 상황별로 프로세서(920)는, 각 상황에 부합되도록 경로 안내를 수행하는 그래픽 객체를 카메라를 통해 촬영된 영상에 증강 현실로 구현할 수 있다.
도 28은 본 발명의 일 실시 예에 따른 턴-바이-턴 정보의 출력 방법을 설명하기 위한 개념도이다.
프로세서(920)는, 차량이 주행하는 도로의 기울기를 결정하고, 결정된 도로의 기울기에 근거하여, 제1 영상(및 제 2 영상)에 오버랩하여 출력하는 제1 그래픽 객체(931)의 기울기를 결정할 수 있다.
도 28을 참조하면, 프로세서(920)는, 통신부를 통해 차량으로부터 현재 차량이 주행하고 있는 도로의 기울기 정보를 수신하거나, 카메라를 통해 현재 주행중인 도로의 기울기 정보를 수신할 수 있다.
이후, 도 28에 도시된 것과 같이, 프로세서(920)는, 기울기 정보에 대응되도록 턴-바이-턴 정보에 해당하는 제1 그래픽 객체(931)의 기울기를 기울이고, 기울기가 기울어진 제1 그래픽 객체를 영상에 오버랩하여 증강 현실로 출력할 수 있다.
이러한 구성을 통해, 본 발명은, 기울어진 도로에 대응되도록 증강현실 그래픽 객체를 기울여 오버랩함으로써, 증강현실의 퀄리티를 향상시킬 수 있다.
도 29a, 도 29b, 도 29c 및 도 29d는 본 발명의 일 실시 예에 따른 나침반 이미지의 다양한 출력 방법을 설명하기 위한 개념도이다.
도 29a를 참조하면, 나침반 이미지(1400)는, 차량의 전방이 바라보는 방위를 알려주는 나침반 객체(1410)를 포함하는 나침반 이미지(1400)를 캘리브레이션이 수행된 제2 영상(1020)에 출력할 수 있다.
상기 나침반 이미지(1400)는, 차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지(1420)를 포함할 수 있다.
또한, 상기 나침반 이미지(1400)는, 차량의 전방(즉, 카메라가 촬영하는 방향에 대응)이 어느 방위를 가리키는지 나타내는 나침반 객체(1410)와 상기 나침반 객체(1410)의 테두리를 따라 표시위치가 변경되는 고정카펫 이미지(1420)를 포함할 수 있다.
프로세서(920)는, 나침반 객체(1410)의 테두리를 따라 고정카펫 이미지(1420)의 표시위치를 가변할 수 있다.
상기 고정카펫 이미지(1420)는, 형태가 차로의 형태에 따라 가변되지 않고 특정 모양(예를 들어, 삼각형 모양)으로 고정될 수 있으며, 차량의 현재 위치에서 차량이 주행해야 하는 방향을 나침반 객체(1410)를 따라 이동하면서 가이드할 수 있다.
도 29b에 도시된 것과 같이, 프로세서(920)는, 카메라를 통해 촬영된 영상에 나침반 이미지(1400)를 오버랩하여 출력할 수 있다.
프로세서(920)는, 상기 나침반 이미지를 다양항 방식으로 출력할 수 있다.
예를 들어, 도 29c 및 도 29d에 도시된 것과 같이, 프로세서(920)는, 현재 차량이 바라보고 있는 방향(방위)와, 차량의 전방을 기준으로 다음 가이드 포인트가 위치한 방향(각도) 사이의 각도(θ)가 90도를 넘어가는 경우, 나침반 이미지의 크기를 줄이거나(Option 1), 차량의 전방을 기준으로 다음 가이드 포인트가 위치한 방향(각도)을 가이드하는 고정카펫 이미지(1430)를 차량의 전방을 기준으로 90도 위치에 출력을 유지시킬 수 있다(option 2).
도 30, 도 31 및 도 32는 본 발명의 증강 현실이 적용된 경로 안내 방법을 설명하기 위한 개념도이다.
도 30을 참조하면, 프로세서(920)는, 자이로스코프 방향(예를 들어, 차량의 스티어링 휠에 의해 차량이 주행하는 방향)과 센터 라인이 일치하지 않는 경우(예를 들어, 자이로스코프 방향이 휘어져 있는 경우), 짧은 고정 카펫 이미지(3000)를 출력하고, 일치하는 경우에는(예를 들어, 자이로스코프 방향이 직선인 경우), 긴 고정 카펫 이미지(3020)를 출력할 수 있다.
도 31을 참조하면, 프로세서(920)는, 상황에 따라 다양한 종류의 벽 이미지를 출력할 수 있다.
본 발명의 경로 안내 장치는, 벽 이미지(벽 화살표)의 낮은 가시성과 모호한 방향성을 개선하기 위해, 도 31에 도시된 것과 같이, type 1 내지 3과 같이, 경로의 방향을 나타내기 위해 주행중인 차로에 인접한 차로에 출력하거나(type1), 차선과 방향을 유지하기 위해 출력하거나(type2), 교차로를 건너는 것을 나타내도록 출력될 수 있다(type3).
본 발명의 경로 안내 장치는, 카메라를 통해 촬영된 영상에 카펫 이미지 및 벽 이미지를 증강현실로 출력하여, 사용자에게 최적화된 경로 안내를 수행할 수 있다.
본 발명에 따른 경로 안내 장치 및 그것의 경로 안내 방법의 효과에 대해 설명하면 다음과 같다.
본 발명에 따르면, 탑승객은 카펫 이미지를 통해 상기 차량이 자율 주행으로 주행할 또는 운전자가 운전해야 하는 경로 정보를 차선 단위로 제공받을 수 있다.
또한, 본 발명에 따르면, 탑승객은 다양한 종류의 카펫 이미지를 통해 차량이 주행해야 할 경로를 최적화된 방법으로 파악할 수 있게 된다.
또한, 본 발명에 따르면, 본 발명은 나침반 이미지를 통해 차량의 주행 경로를 가이드할 수 있는 새로운 경로 안내 인터페이스를 제공할 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드(또는, 애플리케이션이나 소프트웨어)로서 구현하는 것이 가능하다. 상술한 자율 주행 차량의 제어 방법은 메모리 등에 저장된 코드에 의하여 실현될 수 있다.
컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 프로세서 또는 제어부를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (20)

  1. 카메라를 통해 촬영된 제1 영상을 수신하는 통신부; 및
    상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 프로세서를 포함하는 경로 안내 장치.
  2. 제 1 항에 있어서,
    상기 프로세서는,
    상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고,
    상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  3. 제 2 항에 있어서,
    상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고,
    상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 하는 경로 안내 장치.
  4. 제 3 항에 있어서,
    상기 프로세서는,
    상기 제2 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고,
    상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 하는 경로 안내 장치.
  5. 제 4 항에 있어서,
    상기 제1 그래픽 객체는, 상기 차량이 주행중인 차로를 벗어나는지와 무관하게 출력이 유지되는 것을 특징으로 하는 경로 안내 장치.
  6. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제1 영상에 포함된 도로 영역이 소정 크기 이상이 되도록 캘리브레이션을 수행하는 것을 특징으로 하는 경로 안내 장치.
  7. 제 1 항에 있어서,
    상기 프로세서는,
    차량의 주행에 의해, 상기 제2 영상에 포함된 차로와 상기 차로에 오버랩된 그래픽 객체가 틀어지도록 상기 제2 영상의 시야각이 변경되면, 시야각이 변경된 제2 영상을 기준으로 상기 차로에 매칭되도록 상기 그래픽 객체를 변경하는 것을 특징으로 하는 경로 안내 장치.
  8. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제2 영상에 포함된 차로에 오버랩되며 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 상기 제2 영상에 출력하고,
    상기 카펫 이미지는 상기 제2 영상에서 차량이 주행중인 차로에 오버랩되며,
    상기 프로세서는,
    상기 제2 영상에서 차량이 주행중인 차로에 인접한 차로에 주행 방향을 가이드하는 벽 이미지를 출력하는 것을 특징으로 하는 경로 안내 장치.
  9. 제 8 항에 있어서,
    상기 프로세서는,
    차량이 방향 전환을 수행해야 하는 교차로로 진입하기 소정 거리 이전에는 상기 차량이 주행중인 차로에 상기 카펫 이미지를 출력하고,
    상기 차량이 상기 교차로를 기준으로 상기 소정 거리 이내에 진입하면, 상기 카펫 이미지를 상기 벽 이미지로 변경하고,
    상기 벽 이미지를 상기 차량이 주행중인 차로에 인접한 차로에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  10. 제 9 항에 있어서,
    상기 프로세서는,
    상기 차량이 상기 교차로에서 방향 전환을 수행하면, 상기 벽 이미지를 상기 카펫 이미지로 변경하고,
    상기 차량이 주행중인 차로에 카펫 이미지를 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  11. 제 8 항에 있어서,
    상기 프로세서는, 차량과 상기 교차로 사이의 거리가 가까워질수록 상기 벽 이미지의 출력 크기를 확대하는 것을 특징으로 하는 경로 안내 장치.
  12. 제 1 항에 있어서,
    상기 프로세서는,
    차량의 전방이 바라보는 방위를 알려주는 나침반 객체를 포함하는 나침반 이미지를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 장치.
  13. 제 12 항에 있어서,
    상기 나침반 이미지는,
    차량이 현재 위치에서 주행해야 하는 방향을 가이드하는 고정카펫 이미지를 포함하는 것을 특징으로 하는 경로 안내 장치.
  14. 제 13 항에 있어서,
    상기 프로세서는,
    상기 나침반 객체의 테두리를 따라 고정카펫 이미지의 표시위치를 가변하는 것을 특징으로 하는 경로 안내 장치.
  15. 제 1 항에 있어서,
    상기 프로세서는,
    차량이 방향 전환을 수행해야 하는 교차로와 상기 차량 사이의 거리에 근거하여, 차량의 주행 예정 경로를 가이드하는 카펫 이미지 또는 차량의 전방이 바라보는 방위를 알려주는 나침반 이미지 중 어느 하나를 출력하는 것을 특징으로 하는 경로 안내 장치.
  16. 제 2 항에 있어서,
    상기 프로세서는,
    차량이 주행하는 도로의 기울기를 결정하고,
    상기 결정된 도로의 기울기에 근거하여, 상기 제1 영상에 오버랩하여 출력하는 상기 제1 그래픽 객체의 기울기를 결정하는 것을 특징으로 하는 경로 안내 장치.
  17. 카메라를 통해 촬영된 제1 영상을 수신하는 단계; 및
    상기 제1 영상에 대하여 캘리브레이션을 수행하고, 캘리브레이션이 수행된 제2 영상에 차량의 주행을 가이드하는 그래픽 객체를 오버랩하여 출력하는 단계를 포함하는 경로 안내 방법.
  18. 제 1 항에 있어서,
    상기 출력하는 단계는,
    상기 캘리브레이션이 수행되기 전에는 주행과 관련된 제1 그래픽 객체를 상기 제1 영상에 출력하고,
    상기 캘리브레이션이 수행된 후에는 상기 제1 그래픽 객체 및 주행과 관련된 제2 그래픽 객체를 상기 제2 영상에 오버랩하여 출력하는 것을 특징으로 하는 경로 안내 방법.
  19. 제 18 항에 있어서,
    상기 제1 그래픽 객체는, 소정 거리 앞에서 진입해야 하는 도로를 알려주는 턴-바이-턴(turn-by-turn) 정보를 포함하고,
    상기 제2 그래픽 객체는, 상기 제2 영상에 포함된 차로에 오버랩되며, 차량의 주행 예정 경로를 가이드하는 카펫 이미지를 포함하는 것을 특징으로 하는 경로 안내 방법.
  20. 제 19 항에 있어서,
    상기 출력하는 단계는,
    상기 영상에 포함된 복수의 차로 중 차량이 주행중인 차로 상에 상기 제2 그래픽 객체를 오버랩하여 출력하고,
    상기 차량이 주행중인 차로를 벗어나는 것으로 결정되면, 상기 제2 그래픽 객체를 미출력시키는 것을 특징으로 하는 경로 안내 방법.
KR1020237003172A 2020-07-30 2021-07-29 경로 안내 장치 및 그것의 경로 안내 방법 KR20230042285A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063058510P 2020-07-30 2020-07-30
US63/058,510 2020-07-30
PCT/KR2021/009938 WO2022025689A1 (ko) 2020-07-30 2021-07-29 경로 안내 장치 및 그것의 경로 안내 방법

Publications (1)

Publication Number Publication Date
KR20230042285A true KR20230042285A (ko) 2023-03-28

Family

ID=80035902

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020237003172A KR20230042285A (ko) 2020-07-30 2021-07-29 경로 안내 장치 및 그것의 경로 안내 방법

Country Status (4)

Country Link
US (1) US20230304822A1 (ko)
EP (1) EP4191204A1 (ko)
KR (1) KR20230042285A (ko)
WO (1) WO2022025689A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022184350A (ja) * 2021-06-01 2022-12-13 マツダ株式会社 ヘッドアップディスプレイ装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1751499B1 (en) * 2004-06-03 2012-04-04 Making Virtual Solid, L.L.C. En-route navigation display method and apparatus using head-up display
JP5155915B2 (ja) * 2009-03-23 2013-03-06 株式会社東芝 車載用表示システム、表示方法及び車両
KR101766747B1 (ko) * 2015-08-27 2017-08-10 경북대학교 산학협력단 실내 대피경로 화면표시 방법
KR101916993B1 (ko) * 2015-12-24 2018-11-08 엘지전자 주식회사 차량용 디스플레이 장치 및 그 제어방법
KR20170099188A (ko) * 2016-02-23 2017-08-31 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량

Also Published As

Publication number Publication date
WO2022025689A1 (ko) 2022-02-03
EP4191204A1 (en) 2023-06-07
US20230304822A1 (en) 2023-09-28

Similar Documents

Publication Publication Date Title
CN109910749B (zh) 设于车辆的车辆控制装置及车辆的控制方法
CN107867296B (zh) 安装在车辆上的车辆控制装置和控制该车辆的方法
KR102130800B1 (ko) 차량 제어 장치 및 그것을 포함하는 차량
CN109774474B (zh) 显示设备和具有显示设备的车辆
KR101969805B1 (ko) 차량 제어 장치 및 그것을 포함하는 차량
JP6555599B2 (ja) 表示システム、表示方法、およびプログラム
KR102018554B1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
KR102135376B1 (ko) 입출력 장치 및 그것을 포함하는 차량
KR101916728B1 (ko) 차량에 구비된 차량 제어 장치 및 그의 제어방법
CN109703363B (zh) 显示装置及包括其的车辆
KR101977092B1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
KR102035135B1 (ko) 차량 사고 정보 제공 시스템
KR20180051977A (ko) 차량용 사용자 인터페이스 장치 및 차량
US20200027273A1 (en) Image output device
KR20200095314A (ko) 차량 간 영상 공유 방법
KR102023996B1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
KR20160114486A (ko) 이동단말기 및 이동 단말기의 제어방법
KR101841501B1 (ko) 카 쉐어링을 위한 이동 단말기 및 카 쉐어링 시스템의 동작 방법
KR102005443B1 (ko) 사용자 인터페이스 장치
KR102212777B1 (ko) 영상 출력 장치
KR20220125148A (ko) 영상 출력 장치 및 그것의 제어 방법
KR101859043B1 (ko) 이동단말기, 차량과 이동 단말기의 연동 시스템
EP4191204A1 (en) Route guidance device and route guidance method thereof
KR102043954B1 (ko) 차량에 구비된 차량용 로봇 및 차량용 로봇의 제어방법
KR101807788B1 (ko) 차량용 디스플레이 장치 및 그 제어방법