KR102406489B1 - 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 - Google Patents
전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 Download PDFInfo
- Publication number
- KR102406489B1 KR102406489B1 KR1020150035743A KR20150035743A KR102406489B1 KR 102406489 B1 KR102406489 B1 KR 102406489B1 KR 1020150035743 A KR1020150035743 A KR 1020150035743A KR 20150035743 A KR20150035743 A KR 20150035743A KR 102406489 B1 KR102406489 B1 KR 102406489B1
- Authority
- KR
- South Korea
- Prior art keywords
- vehicle
- camera
- terrain height
- information object
- location
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3626—Details of the output of route guidance instructions
- G01C21/3635—Guidance using 3D or perspective road maps
- G01C21/3638—Guidance using 3D or perspective road maps including 3D objects and buildings
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3602—Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3626—Details of the output of route guidance instructions
- G01C21/3647—Guidance involving output of stored or live camera images or video streams
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3667—Display of a road map
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Optics & Photonics (AREA)
- Navigation (AREA)
Abstract
전자 장치의 제어 방법이 개시된다. 본 제어 방법은, 운행 중인 차량의 위치를 결정하는 단계, 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계, 차량의 위치에서 지형 높이와 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계 및 차량의 안내 정보를 포함한 정보 객체를 생성하고, 생성된 정보 객체를 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계를 포함한다.
Description
본 발명은 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체에 관한 것으로, 보다 상세하게는 증강 현실 상에서 사용자에게 운전 관련 안내를 수행하는 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
전자 기술의 발달에 힘입어 다양한 종류의 전자 장치가 개발 및 보급되고 있다. 특히, 최근에는 실시간으로 촬영되는 촬영 영상에 컴퓨터 그래픽스(Computer Graphics: CG), 문자 등의 부가 정보를 합성하여 표시하는 증강 현실(Augmented Reality: AR)의 형태로 지리 정보를 제공하는 기술이 소개된 바 있다.
이러한 증강현실 기술에 따르면, 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 가상 객체(예를 들면, 관심 지점(Point Of Interest : POI)을 나타내는 그래픽 요소, 목적지까지의 경로를 나타내는 그래픽 요소 등)를 시각적으로 중첩하여 제공할 수 있으므로 사용자에게 보다 직관적인 방법으로 지리 정보를 제공할 수 있게 된다.
이에 따라, 종래의 내비게이션 단말은 증강 현실 기술을 적용하여 주행 중인 차량의 전방을 촬영한 영상에 지도 데이터와 관련된 표현 정보를 합성하여 경로 안내를 수행할 수 있었다.
다만, 종래의 증강 현실 기술에 따르면, 실제 지형 상의 고저차가 발생되는 부분들을 소화하여 정보를 표출하는 것이 어려웠다.
일 예로, 종래의 증강 현실 기술은 지형의 높이를 고려하기보다는 차량이 수평선상에 놓여져 있다고 가정한 상태로 객체를 표출하거나, 또는 별도의 이미지를 통해서만 고저차 정보를 제공해 왔다.
다만, 증강 현실 기술은 카메라로부터 실시간으로 들어오는 촬영 영상과 가상의 객체를 교차시켜 화면 내에서 마치 실제와 유사한 형태로 객체를 표현하거나 정보를 제공하는 기술인 바, 가상 객체의 위치나 정보가 다른 경우 증강 현실로서의 가치는 현저하게 떨어진다.
본 발명의 상술한 필요성에 따라 안출된 것으로, 본 발명의 목적은 차량의 위치에서 지형 높이와 차량의 위치로부터 소정 거리 내에 위치한 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하고, 안내 객체를 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체를 제공함에 있다.
또한, 본 발명의 다른 목적은 상기 지형 높이 차이 뿐만 아니라 차량에 설치된 카메라의 상하 회전 각도를 반영하여 안내 객체를 증강 현실을 통해 표시하는 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체를 제공함에 있다.
상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치의 제어 방법은, 운행 중인 차량의 위치를 결정하는 단계, 상기 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계, 상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계 및 상기 차량의 안내 정보를 포함한 정보 객체를 생성하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계를 포함한다.
그리고, 상기 표시하는 단계는, 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 상기 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정하는 단계를 포함할 수 있다.
또한, 상기 차량의 위치에서 상기 차량에 설치된 카메라의 상하 회전 각도를 산출하는 단계를 더 포함하고, 상기 표시하는 단계는, 상기 결정된 정보 객체의 매핑 위치를 상기 산출된 상하 회전 각도를 이용하여 보정하는 단계를 더 포함할 수 있다.
그리고, 상기 표시하는 단계는, 카메라에 대한 캘리브레이션(Calibration)을 수행하여 카메라 파라미터를 산출하는 단계, 상기 카메라 파라미터를 기초로 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간을 생성하는 단계 및 상기 보정에 따른 정보 객체의 매핑 위치를 기초로 상기 가상 3D 공간에 상기 생성된 객체를 매핑하는 단계를 포함할 수 있다.
또한, 상기 표시하는 단계는, 상기 매핑된 가상 3D 공간을 상기 카메라 파라미터를 기초로 2D 이미지로 변환하여 증강 현실 화면을 생성하는 단계 및 상기 생성된 증강 현실 화면을 표시하는 단계를 포함할 수 있다.
그리고, 상기 높이를 결정하는 단계는, 상기 전자 장치가 목적지까지 경로 안내를 수행하는 경우, 상기 목적지까지의 전체 경로 중 차량의 위치로부터 소정 거리 내에 위치한 경로의 지형 높이를 결정할 수 있다.
또한, 상기 정보 객체는, 목적지까지의 경로 안내를 위한 경로 안내 객체를 포함하고, 상기 표시하는 단계는, 상기 증강 현실 화면의 도로 영역에 상기 경로 안내 객체를 위치시켜 표시할 수 있다.
한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치는, 화면을 표시하는 디스플레이부, 운행 중인 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하고, 상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 지형 높이 처리부 및 상기 차량의 안내 정보를 포함한 정보 객체를 생성하도록 객체 생성부를 제어하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하도록 상기 디스플레이부를 제어하는 제어부를 포함한다.
그리고, 상기 제어부는, 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 상기 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정할 수 있다.
또한, 상기 차량의 위치에서 상기 차량에 설치된 카메라의 상하 회전 각도를 산출하는 카메라 상하 회전 각도 산출부를 더 포함하고, 상기 제어부는, 상기 결정된 정보 객체의 매핑 위치를 상기 산출된 상하 회전 각도를 이용하여 보정할 수 있다.
그리고, 카메라에 대한 캘리브레이션(Calibration)을 수행하여 카메라 파라미터를 산출하는 캘리브레이션부, 상기 카메라 파라미터를 기초로 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간을 생성하는 3D 공간 생성부 및 상기 보정에 따른 정보 객체의 매핑 위치를 기초로 상기 가상 3D 공간에 상기 생성된 객체를 매핑하는 매핑부를 포함할 수 있다.
또한, 상기 제어부는, 상기 매핑된 가상 3D 공간을 상기 카메라 파라미터를 기초로 2D 이미지로 변환하여 증강 현실 화면을 생성하고, 상기 생성된 증강 현실 화면을 표시하도록 상기 디스플레이부를 제어할 수 있다.
그리고, 상기 지형 높이 처리부는, 상기 전자 장치가 목적지까지 경로 안내를 수행하는 경우, 상기 목적지까지의 전체 경로 중 차량의 위치로부터 소정 거리 내에 위치한 경로의 지형 높이를 결정할 수 있다.
또한, 상기 정보 객체는, 목적지까지의 경로 안내를 위한 경로 안내 객체를 포함하고, 상기 디스플레이부는, 상기 증강 현실 화면의 도로 영역에 상기 경로 안내 객체를 위치시켜 표시할 수 있다.
한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 기록 매체에 저장된 컴퓨터 프로그램은 전자 장치와 결합되어, 운행 중인 차량의 위치를 결정하는 단계, 상기 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계, 상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계 및 상기 차량의 차량의 안내 정보를 포함한 정보 객체를 생성하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계를 실행시킬 수 있다.
한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치의 제어 방법을 실행하기 위한 컴퓨터 프로그램이 저장된 컴퓨터 판독 가능한 기록 매체에 있어서, 상기 제어 방법은, 운행 중인 차량의 위치를 결정하는 단계, 상기 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계, 상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계 및 상기 차량의 안내 정보를 포함한 정보 객체를 생성하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계를 포함한다.
상술한 본 발명의 다양한 실시 예에 따르면, 차량이 주행할 실제 지형의 고저차에 대응되도록 가상 3D 공간의 가상의 높이를 결정함으로써, 가상의 안내 객체를 최적의 위치에 표출할 수 있고, 연산 과정 또한 매우 간단하여 임베디드 환경에서 실시간 처리가 가능한 장점이 있다.
또한, 상술한 본 발명의 다양한 실시 예에 따르면, 가상의 안내 객체를 증강 현실 기법으로 다이나믹하게 표출함으로써, 운전자에게 효과적인 안내와 흥미를 유발시킴과 동시에 차량에 대한 운전자의 안전 운전 및 편의성을 도모할 수 있다.
도 1은 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다.
도 2는 PITCH, ROLL, YAW를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시 예에 따른 증강 현실 제공부를 구체적으로 나타내는 블록도 이다.
도 4는 본 발명의 일 실시 예에 따른 2D 촬영 이미지와 가상 3D 공간 사이의 변환 관계를 나타내는 도면이다.
도 5는 본 발명의 일 실시 예에 따른 차량이 주행 중 위치하게되는 도로를 나타내는 도면이다.
도 6은 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시 예에 따른 지형 높이 차이를 반영하여 증강 현실 화면을 표시하는 방법을 나타내는 흐름도 이다.
도 8은 본 발명의 일 실시 예에 따른 지형 높이 차이 및 카메라 상하 회전 각도를 반영하여 증강 현실 화면을 표시하는 방법을 나타내는 흐름도 이다.
도 9는 본 발명의 일 실시 예에 따른 상향 경사 도로에 진입하는 경우 증강 현실 화면을 나타내는 도면이다.
도 10 내지 11은 본 발명의 일 실시 예에 따른 하향 경사 도로에서 증강 현실 화면을 나타내는 도면이다.
도 12는 본 발명의 일 실시 예에 따른 내비게이션 장치가 촬영부를 구비하지 않는 경우 구현 형태를 나타내는 도면이다.
도 13은 본 발명의 일 실시 예에 따른 내비게이션 장치가 촬영부를 구비하는 경우 구현 형태를 나타내는 도면이다.
도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display)를 이용한 구현 형태를 나타내는 도면이다.
도 2는 PITCH, ROLL, YAW를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시 예에 따른 증강 현실 제공부를 구체적으로 나타내는 블록도 이다.
도 4는 본 발명의 일 실시 예에 따른 2D 촬영 이미지와 가상 3D 공간 사이의 변환 관계를 나타내는 도면이다.
도 5는 본 발명의 일 실시 예에 따른 차량이 주행 중 위치하게되는 도로를 나타내는 도면이다.
도 6은 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시 예에 따른 지형 높이 차이를 반영하여 증강 현실 화면을 표시하는 방법을 나타내는 흐름도 이다.
도 8은 본 발명의 일 실시 예에 따른 지형 높이 차이 및 카메라 상하 회전 각도를 반영하여 증강 현실 화면을 표시하는 방법을 나타내는 흐름도 이다.
도 9는 본 발명의 일 실시 예에 따른 상향 경사 도로에 진입하는 경우 증강 현실 화면을 나타내는 도면이다.
도 10 내지 11은 본 발명의 일 실시 예에 따른 하향 경사 도로에서 증강 현실 화면을 나타내는 도면이다.
도 12는 본 발명의 일 실시 예에 따른 내비게이션 장치가 촬영부를 구비하지 않는 경우 구현 형태를 나타내는 도면이다.
도 13은 본 발명의 일 실시 예에 따른 내비게이션 장치가 촬영부를 구비하는 경우 구현 형태를 나타내는 도면이다.
도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display)를 이용한 구현 형태를 나타내는 도면이다.
이하의 내용은 단지 본 발명의 원리를 예시한다. 그러므로 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 장치를 발명할 수 있는 것이다. 또한, 본 명세서에 열거된 모든 조건부 용어 및 실시 예들은 원칙적으로, 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백히 의도되고, 이와 같이 특별히 열거된 실시 예들 및 상태들에 제한적이지 않는 것으로 이해되어야 한다.
또한, 본 발명의 원리, 관점 및 실시 예들 뿐만 아니라 특정 실시 예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물들은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다.
따라서, 예를 들어, 본 명세서의 블럭도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도, 상태 변환도, 의사 코드 등은 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.
프로세서 또는 이와 유사한 개념으로 표시된 기능 블럭을 포함하는 도면에 도시된 다양한 소자의 기능은 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 능력을 가진 하드웨어의 사용으로 제공될 수 있다. 프로세서에 의해 제공될 때, 상기 기능은 단일 전용 프로세서, 단일 공유 프로세서 또는 복수의 개별적 프로세서에 의해 제공될 수 있고, 이들 중 일부는 공유될 수 있다.
또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.
본 명세서의 청구범위에서, 상세한 설명에 기재된 기능을 수행하기 위한 수단으로 표현된 구성요소는 예를 들어 상기 기능을 수행하는 회로 소자의 조합 또는 펌웨어/마이크로 코드 등을 포함하는 모든 형식의 소프트웨어를 포함하는 기능을 수행하는 모든 방법을 포함하는 것으로 의도되었으며, 상기 기능을 수행하도록 상기 소프트웨어를 실행하기 위한 적절한 회로와 결합된다. 이러한 청구범위에 의해 정의되는 본 발명은 다양하게 열거된 수단에 의해 제공되는 기능들이 결합되고 청구항이 요구하는 방식과 결합되기 때문에 상기 기능을 제공할 수 있는 어떠한 수단도 본 명세서로부터 파악되는 것과 균등한 것으로 이해되어야 한다.
상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다.
이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시 예를 상세히 설명하기로 한다.
도 1은 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다. 도 1을 참조하면, 전자 장치(100)는 저장부(110), 입력부(120), 출력부(130), 지형 높이 처리부(140), 카메라 회전 각도 산출부(150), 증강 현실 제공부(160), 제어부(170), 통신부(180), 센싱부(190), 전원부(195)의 전부 또는 일부를 포함한다.
여기서, 전자 장치(100)는 운행 상태에 있는 차량의 운전자에게 운전 관련 안내를 제공할 수 있는 스마트 폰, 태블릿 컴퓨터, 노트북 컴퓨터, PDA(personal digital assistant), PMP(portable multimedia player), 스마트 글래스, 프로젝트 글래스, 내비게이션(navigation), 블랙 박스(Black-box) 등과 같은 다양한 장치로 구현될 수 있고, 차량에 구비될 수 있다.
여기서, 차량의 운행 상태는, 차량의 정차 상태, 차량의 주행 상태, 차량의 주차 상태 등과 같이 차량이 운전자에 의하여 운전되고 있는 다양한 상태를 포함할 수 있다.
운전 관련 안내는 경로 안내, 차선 이탈 안내, 전방 차량 출발 안내, 신호등 변경 안내, 전방 차량 추돌 방지 안내, 차로 변경 안내, 차로 안내 등과 같이 차량 운전자의 운전을 보조하기 위한 다양한 안내를 포함할 수 있다.
여기서, 경로 안내는, 운행 중인 차량의 전방을 촬영한 영상에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 경로 안내를 수행하는 증강 현실 경로 안내, 및 2D(2-Dimensional) 또는 3D(3-Dimensional)의 지도 데이터에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 경로 안내를 수행하는 2D(2-Dimensional) 또는 3D(3-Dimensional) 경로 안내를 포함할 수 있다. 여기서, 경로 안내는, 사용자가 차량에 탑승하여 운전하는 경우 뿐만 아니라, 사용자가 걷거나 뛰어서 이동하는 경우의 경로 안내도 포함하는 개념으로 해석될 수 있다.
또한, 차선 이탈 안내는, 주행 중인 차량이 차선을 이탈하였는지 여부를 안내하는 것일 수 있다.
또한, 전방 차량 출발 안내는, 정차 중인 차량의 전방에 위치한 차량의 출발 여부를 안내하는 것일 수 있다.
또한, 신호등 변경 안내는, 정차 중인 차량의 전방에 위치한 신호등의 변경 여부를 안내하는 것일 수 있다. 일 예로, 정지 신호를 나타내는 빨간등이 켜진 상태에서 출발 신호를 나타내는 파란등으로 변경되면, 이를 안내하는 것 일 수 있다.
또한, 전방 차량 추돌 방지 안내는 정차 또는 주행 중인 차량의 전방에 위치한 차량과의 거리가 일정 거리 이내가 되면 전방 차량과 추돌을 방지하기 위해 이를 안내하는 것일 수 있다.
또한, 차로 변경 안내는 목적지까지의 경로 안내를 위하여 차량이 위치한 차로에서 다른 차로로 변경을 안내하는 것일 수 있다.
또한, 차로 안내는 차량이 현재 위치한 차로를 안내하는 것일 수 있다.
이러한, 다양한 안내의 제공을 가능하게 하는 차량의 전방 영상과 같은 운전 관련 영상은 차량에 거치된 카메라에서 촬영될 수 있다. 여기서 카메라는 차량에 거치된 전자 장치(100)와 일체로 형성되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 스마트 폰, 내비게이션, 또는 블랙 박스와 일체로 형성될 수 있고, 전자 장치(100)는 일체로 형성된 카메라에서 촬영된 영상을 입력받을 수 있다.
다른 예로, 카메라는 전자 장치(100)와 별개로 차량에 거치되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 차량의 전방을 향하여 거치된 별도의 블랙 박스일 수 있고, 전자 장치(100)는 별도로 거치된 블랙박스와 유/무선 통신을 통하여 촬영 영상을 입력받거나, 블랙 박스의 촬영 영상을 저장하는 저장 매체가 전자 장치(100)에 삽입되면, 전자 장치(100)는 촬영 영상을 입력받을 수 있다.
이하에서는, 상술한 내용을 기초로 본 발명의 일 실시 예에 따른 전자 장치(100)에 대해서 보다 구체적으로 설명하기로 한다.
저장부(110)는 전자 장치(100)의 동작에 필요한 다양한 데이터 및 어플리케이션을 저장하는 기능을 한다. 특히, 저장부(110)는 전자 장치(100)의 동작에 필요한 데이터, 예를 들어, OS, 경로 탐색 어플리케이션, 지도 데이터 등을 저장할 수 있다.
여기서, 지도 데이터는 상술한 바와 같이 전자 장치(100)내의 저장부(110)에 저장되어 획득될 수도 있으나 이에 한정되는 것은 아니고, 전자 장치(100)와 별도의 외부 지도 데이터베이스(DB)에서 획득되거나, 또는 다른 전자 장치로부터 지도 데이터를 획득될 수 있다. 이러한, 지도 데이터는 현재 위치 및 주변 지역의 지도를 나타내기 위한 데이터로, 다수 영역 내 도로를 나타내기 위한 복수 개의 링크 및 상기 복수 개의 링크 각각에 대한 속성 정보, 안내 지점의 정보 등을 포함할 수 있다. 링크에 대한 속성 정보는, 상기 링크가 양방향 링크인지 또는 단방향 링크인지 여부를 나타내는 정보, 상기 링크의 차선 수 정보, 상기 링크에 대응되는 도로의 종별 정보(ex. 고속도로, 도시고속화도로, 국도, 지방도, 일반도 등) 등을 포함할 수 있다. 안내 지점의 정보는, 안내 지점의 위치 정보, 안내 지점의 안내 코드 정보(ex. 제한 속도 안내, 과속 방지턱 안내 등을 안내하는 정보) 등을 포함할 수 있다.
여기서, 안내 지점은 과속 단속 지점, 과속 방지턱 지점, 철길 건널목 지점, 합류 도로 지점, 분기 지점 등을 포함할 수 있다. 또한, 안내 지점이 안내 시작 지점 및 안내 종료 지점을 포함하는 안내 구간으로 구현되는 경우, 구간 단속 구간 시작 및 종료 지점, 어린이 보호 구역 시작 및 종료 지점, 노인 보호 구역 시작 및 종료 지점, 공사 구간 시작 및 종료 지점, 안개 주의 구역 시작 및 종료 지점, 사고 다발 지역 시작 및 종료 지점, 낙석 주의 구간 시작 및 종료 지점, 급커브 구간 시작 및 종료 지점, 미끄럼 주의 구간 시작 및 종료 지점, 야생 동물 주의 구간 시작 및 종료 지점, 높이 제한 구간 시작 및 종료 지점 등을 포함할 수 있다.
또한, 저장부(110)는 실세계 지형 정보 중 건물, 수목, 인공 구조물 등을 제외한 지형(bare earth) 부분을 표현하는 수치 모형인 수치 표고 모형(DEM: Digital Elevation Model) 데이터를 저장할 수 있다.
또한, 저장부(110)는 실세계의 모든 정보, 즉 지형, 수목, 건물, 인공 구조물 등을 표현한 모형인 수치 표면 모형(DSM: Digital Surface Model) 데이터를 저장할 수 있다.
또한, 저장부(110)는 전자 장치(100)의 동작에 의하여 생성된 데이터, 예를 들어, 탐색된 경로 데이터, 수신한 영상 등을 저장할 수 있다.
여기서 저장부(110)는 RAM(Random Access Memory), 플레시메모리, ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electronically Erasable and Programmable ROM), 레지스터, 하드디스크, 리무버블 디스크, 메모리 카드, USIM(Universal Subscriber Identity Module)등과 같은 내장된 형태의 저장소자는 물론, USB 메모리 등과 같은 착탈가능한 형태의 저장소자로 구현될 수도 있다.
입력부(120)는 전자 장치(100)의 외부로부터의 물리적 입력을 특정한 전기 신호로 변환하는 기능을 한다. 여기서, 입력부(120)는 사용자 입력부(121)와 마이크부(123)의 전부 또는 일부를 포함할 수 있다.
사용자 입력부(121)는 터치, 푸쉬동작 등과 같은 사용자 입력을 수신할 수 있다. 여기서 사용자 입력부(120)는 다양한 버튼의 형태, 터치 입력을 수신하는 터치 센서, 접근하는 모션을 수신하는 근접 센서 중 적어도 하나를 이용하여 구현될 수 있다.
마이크부(123)는 사용자의 음성 및 차량의 내외부에서 발생한 음향을 수신할 수 있다.
출력부(130)는 전자 장치(100)의 데이터를 출력하는 장치이다. 여기서, 출력부(130)는 디스플레이부(131)와 오디오 출력부(133)의 전부 또는 일부를 포함할 수 있다.
디스플레이부(131)는 전자 장치(100)이 시각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 디스플레이부(131)는 전자 장치(100)의 하우징 전면(前面)에 마련된 디스플레이부로 구현될 수 있다. 또한, 디스플레이부(131)는 전자 장치(100)와 일체로 형성되어 시각적 인식 데이터를 출력할 수 있고, HUD(Head Up Display)와 같이 전자 장치(100)와 별개로 설치되어 시각적 인식 데이터를 출력할 수도 있다.
오디오 출력부(133)는 전자 장치(100)가 청각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 오디오 출력부(133)는 전자 장치(100)의 사용자에게 알려야 할 데이터를 소리로 표현하는 스피커로 구현될 수 있다.
통신부(180)는 전자 장치(100)가 다른 디바이스와 통신하기 위하여 마련될 수 있다. 통신부(180)는, 위치 데이터부(181)과, 무선 인터넷부(183)과, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189)의 전부 또는 일부를 포함할 수 있다.
위치 데이터부(181)는 GNSS(Global Navigation Satellite System)를 통하여 위치 데이터를 획득하는 장치이다. GNSS는 인공위성으로부터 수신한 전파신호를 이용하여 수신 단말기의 위치를 산출할 수 있는 항법 시스템을 의미한다. GNSS의 구체적인 예로는, 그 운영 주체에 따라서 GPS(Global Positioning System), Galileo, GLONASS(Global Orbiting Navigational Satellite System), COMPASS, IRNSS(Indian Regional Navigational Satellite System), QZSS(Quasi-Zenith Satellite System) 등 일 수 있다. 본 발명의 일 실시예에 따른 전자 장치(100)의 위치 데이터부(181)는, 전자 장치(100)가 사용되는 지역에서 서비스하는 GNSS 신호를 수신하여 위치 데이터를 획득할 수 있다.
무선 인터넷부(183)는 무선 인터넷에 접속하여 데이터를 획득하거나 송신하는 장치이다. 무선 인터넷부(183)를 통하여 접속할 수 있는 무선 인터넷은, WLAN(Wireless LAN), Wibro(Wireless broadband), Wimax(World interoperability for microwave access), HSDPA(High Speed Downlink Packet Access) 등 일 수 있다.
방송 송수신부(185)는 각종 방송 시스템을 통하여 방송 신호를 송수신하는 장치이다. 방송 송수신부(185)를 통하여 송수신할 수 있는 방송 시스템은, DMBT(Digital Multimedia Broadcasting Terrestrial), DMBS(Digital Multimedia Broadcasting Satellite), MediaFLO(Media Forward Link Only), DVBH(Digital Video Broadcast Handheld), ISDBT(Integrated Services Digital Broadcast Terrestrial) 등일 수 있다. 방송 송수신부(185)를 통하여 송수신되는 방송 신호에는 교통 데이터, 생활 데이터 등을 포함할 수 있다.
이동 통신부(186)는 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 이동 통신 규격에 따라 이동 통신 망에 접속하여 통신할 수 있다.
근거리 통신부(187)는 근거리 통신을 위한 장치이다. 근거리 통신부(187)는, 전술한 바와 같이, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, Infrared Data Association), UWB(Ultra WidBand), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity) 등을 통하여 통신할 수 있다.
유선 통신부(189)는 전자 장치(100)를 다른 디바이스와 유선으로 연결할 수 있는 인터페이스 장치이다. 유선 통신부(189)는, USB Port를 통하여 통신할 수 있는 USB 모듈일 수 있다.
이러한, 통신부(180)는 위치 데이터부(181)와, 무선 인터넷부(183)와, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 다른 디바이스와 통신할 수 있다.
일 예로, 전자 장치(100)가 카메라 기능을 포함하지 않는 경우, 블랙 박스 등과 같은 차량용 카메라에서 촬영된 영상을 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 수신할 수 있다.
다른 예로, 복수의 디바이스와 통신하는 경우에, 어느 하나는 근거리 통신부(187)로 통신하고, 다른 하나는 유선 통신부(189)를 통하여 통신하는 경우도 가능하다.
센싱부(190)는 전자 장치(100)의 현재 상태를 감지할 수 있는 장치이다. 센싱부(190)는 모션 센싱부(191)와, 광 센싱부(193)의 전부 또는 일부를 포함할 수 있다.
모션 센싱부(191)는 전자 장치(100)의 3차원 공간 상에서의 운동을 감지할 수 있다. 모션 센싱부(191)은, 3축 지자기 센서 및 3축 가속도 센서를 포함할 수 있다. 모션 센싱부(191)을 통하여 획득한 운동 데이터를 위치 데이터부(181)를 통하여 획득한 위치 데이터와 결합하여, 전자 장치(100)를 부착한 차량의 보다 정확한 궤적을 산출할 수 있다.
광 센싱부(193)는 전자 장치(100)의 주변 조도(illuminance)를 측정하는 장치이다. 광 센싱부(193)를 통하여 획득한 조도데이터를 이용하여, 디스플레이부(195)의 밝기를 주변 밝기에 대응되도록 변화시킬 수 있다.
전원부(195)는 전자 장치(100)의 동작 또는 전자 장치(100)와 연결된 다른 디바이스의 동작을 위하여 필요한 전원을 공급하는 장치이다. 전원부(195)는, 전자 장치(100)에 내장된 배터리 또는 차량 등의 외부전원에서 전원을 공급받는 장치일 수 있다. 또한, 전원부(195)는, 전원을 공급받는 형태에 따라서 유선으로 공급받는 장치로 구현되거나, 무선으로 공급받는 장치로 구현될 수도 있다.
지형 높이 처리부(140)는 지형 높이를 결정할 수 있다. 구체적으로, 지형 높이 처리부(140)는 실세계 지형 정보 중 건물, 수목, 인공 구조물 등을 제외한 지형(bare earth) 부분을 표현하는 수치 모형인 DEM 데이터 또는 실세계의 모든 정보, 즉 지형, 수목, 건물, 인공 구조물 등을 표현한 모형인 DSM 데이터를 이용하여 차량의 위치에서 지형 높이와 차량의 위치로부터 소정 거리 내에 위치한 영역에서 지형 높이를 결정할 수 있다. 여기서, DEM 데이터 또는 DSM 데이터는 전자 장치(100)내의 저장부(110)로부터 획득되거나, 전자 장치(100)와 별도의 외부 데이터베이스(DB)에서 획득되거나, 다른 전자 장치(100)로부터 획득될 수 있다.
이 경우, 지형 높이 처리부(140)는 위치 데이터부(181)에서 획득된 차량의 위치에서의 지형 높이 및 차량 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정할 수 있다. 여기서, 차량 위치로부터 소정 거리 내에 위치한 영역은 전자 장치(100)의 데이터 처리 속도의 향상을 위하여 최적의 거리로 설정될 수 있다. 일 예로, 전자 장치(100)가 사용자의 경로 안내 요청에 따라 목적지까지 경로 안내를 수행하는 경우, 목적지까지의 전체 경로 중 차량의 위치로부터 소정 거리 전방에 위치한 경로(예를 들어, 차량이 추후에 주행할 도로)의 지형 높이를 결정할 수 있다.
그리고, 지형 높이 처리부(140)는 차량의 위치에서 지형 높이와 차량 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 비교하여 지형 높이 차이를 산출할 수 있다. 구체적으로, 지형 높이 처리부(140)는 아래의 수학식 1을 이용하여 차량의 위치에서 지형 높이와 차량 위치로부터 소정 거리 내에 위치한 영역의 지형 높이의 상대적인 차이를 산출할 수 있다.
여기서, H는 지형 높이 차이, P0는 차량의 현재 위치에서의 지형 높이, P1는 차량의 현재 위치로부터 소정 거리 떨어진 지점에서의 지형 높이일 수 있다.
한편, 카메라 회전 각도 산출부(150) 차량의 위치에서 차량에 설치된 카메라의 회전 각도를 산출할 수 있다. 이에 대해서는 도 2를 참조하여 구체적으로 설명하기로 한다.
도 2를 참조하면, 차량이 x축을 중심으로 회전 운동하는 것을 roll, 차량이 y축을 중심으로 회전 운동하는 것을 pitch, 차량이 z축을 중심으로 회전 운동하는 것을 yaw로 정의할 수 있다.
이를 참조하면, 본 발명의 일 실시 예에 따른 카메라 회전 각도 산출부(150)는 차량의 위치에서 차량에 설치된 카메라의 roll 방향 회전 각도, pitch 방향 회전 각도, yaw 방향 회전 각도를 산출할 수 있다.
특히, 카메라 회전 각도 산출부(150)는 pitch 방향 회전 각도(이하에서는, 상하 방향 회전 각도)를 산출할 수 있다. 여기서, 상하 방향 회전 각도는 카메라의 광학축이 수평선과 이루는 각도일 수 있다.
이 경우, 카메라 회전 각도 산출부(150)는, 일 예로, 센싱부(190)의 기울기 센서에서 감지된 신호를 기초로 카메라의 상하 방향 회전 각도를 산출할 수 있다. 또는, 다른 예로, 카메라 회전 각도 산출부(150)는 차량의 현재 위치에서 높이와 현재 위치로부터 소정 거리 전방의 지점들의 높이를 연장하는 연장선과 수평선이 이루는 각도를 기초로 카메라의 상하 방향 회전 각도를 산출할 수 있다.
한편, 본 발명의 일 실시 예에 따른 전자 장치(100)는 증강 현실 뷰 모드를 제공하는 증강 현실 제공부(160)를 포함할 수 있다. 여기서, 증강 현실이란, 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 부가 정보(예를 들면, 관심 지점(Point Of Interest: POI)을 나타내는 그래픽 요소, 목적지까지의 경로를 나타내는 그래픽 요소, 사용자 부가 정보와 같은 운행에 필요한 정보, 건물 등)를 시각적으로 중첩하여 제공하는 방법일 수 있다. 본 발명의 일 실시 예에서는 증강 현실 뷰 모드에서 실제 영상에 중첩되어 표시되는 차량의 운행에 필요한 정보, 차량 상태 정보, 운전자 필요 정보 등의 부가 정보, 건물을 표시하는 정보, POI 등을 정보 객체라고 칭하기로 하며, 그 외에도 운전자에게 필요한 정보를 제공하기 위해 증강 현실 뷰 모드에서 표출되는 객체를 정보 객체라고 칭하기로 한다. 이에 대해서는 도 3을 참조하여 구체적으로 설명하기로 한다.
도 3은 본 발명의 일 실시 예에 따른 증강 현실 제공부(160)를 구체적으로 나타내는 블록도 이다. 도 3을 참조하면, 증강 현실 제공부(160)는 캘리브레이션부(161), 3D 공간 생성부(162), 객체 생성부(163), 매핑부(164)의 전부 또는 일부를 포함할 수 있다.
캘리브레이션부(161)는 카메라에서 촬영된 촬영 영상으로부터 카메라에 해당되는 카메라 파라미터를 추정하기 위한 캘리브레이션(Calibration)을 수행할 수 있다. 여기서, 카메라 파라미터는 실사 공간이 사진에 맺히는 관계를 나타내는 정보인 카메라 행렬을 구성하는 파라미터로, 카메라 외부 파라미터(extrinsic parameters), 카메라 내부 파라미터(intrinsic parameters)를 포함할 수 있다. 이에 대해서는 도 4(a)를 참조하여 구체적으로 설명하기로 한다.
도 4(a)를 참조하면, 카메라 파라미터는 카메라 외부 파라미터(extrinsic parameters)(601), 카메라 내부 파라미터(intrinsic parameters)(602)를 포함할 수 있다. 여기서, 카메라 내부 파라미터(602)의 fx, fy는 초점거리(focal length), cx, cy는 주점(principal point), skew_c = tanα는 비대칭계수(skew coefficient)일 수 있다. 또한, 카메라 외부 파라미터(601)는 월드 좌표계(world coordinate system)(605) 상의 3D 점의 좌표 (X,Y,Z)를 카메라 좌표계(Camera Coordinate System)(604)상의 3D 점의 좌표 (Xc, Yc, Zc)로 변환시키기 위한 회전/이동변환 행렬일 수 있다. 이러한, 카메라 외부 파라미터는 카메라 고유의 파라미터가 아니기 때문에 카메라를 어떤 위치에 어떤 방향으로 설치했는지에 따라 달라지고 또한 월드 좌표계를 어떻게 정의했느냐에 따라서 달라질 수 있다.
3D 공간 생성부(162)는 카메라에서 촬영된 촬영 영상을 기초로 가상 3D 공간을 생성할 수 있다. 구체적으로, 3D 공간 생성부(162)는 캘리브레이션부(161)가 추정한 카메라 파라미터를 2D의 촬영 영상에 적용하여 가상 3D 공간을 생성할 수 있다. 이에 대해서는 도 4(b)를 참조하여 구체적으로 설명하기로 한다.
도 4(b)를 참조하면, 카메라 촬영 영상은 월드 좌표계(605)의 3차원 공간상의 점들을 영상 좌표계(603)의 2차원 이미지 평면에 투사(perspective projection)함으로써 얻어진다. 따라서, 전자 장치(100)의 3D 공간 생성부(162)는 카메라 파라미터를 기초로 상술한 동작의 역과정을 수행하여 카메라의 촬영 영상에 대한 월드 좌표계(605)의 가상 3D(3-Dimensional) 공간을 생성할 수 있다.
객체 생성부(163)는 증강 현실 상에서 안내를 위한 정보 객체, 예를 들어, 목적지까지의 경로를 안내하는 경로 안내 객체, 차로 변경 안내 객체, 차선 이탈 안내 객체, 사용자 필요 정보 객체 등을 생성할 수 있다. 여기서, 객체는 3차원 객체, 이미지 또는 아트라인 등으로 구현될 수 있다.
매핑부(164)는 3D 공간 생성부(162)에서 생성된 가상 3D 공간에 객체 생성부(163)에서 생성된 객체를 매핑할 수 있다. 구체적으로, 매핑부(164)는 객체 생성부(163)에서 생성된 객체의 가상 3D 공간에서의 매핑 위치를 결정하고, 결정된 위치에 객체의 매핑을 수행할 수 있다. 이 경우, 매핑부(164)는 지형 높이 처리부(140) 및/또는 카메라 회전 각도 산출부(150)에서 산출된 카메라 상하 회전 각도를 반영하여 매핑 위치를 결정할 수 있다.
한편, 제어부(170)는 전자 장치(100)의 전반적인 동작을 제어한다. 구체적으로 제어부(170)는 저장부(110), 입력부(120), 출력부(130), 지형 높이 처리부(140), 카메라 회전 각도 산출부(150), 증강 현실 제공부(160), 통신부(180), 센싱부(190), 전원부(195)의 전부 또는 일부를 제어할 수 있다.
특히, 제어부(170)는 차량의 안내를 위한 정보 객체를 지형 높이 처리부(140)에서 산출된 지형 높이 차이 및/또는 카메라 회전 각도 산출부(150)에서 산출된 카메라 상하 회전 각도를 반영하여 증강 현실을 통해 표시하도록 디스플레이부(131)를 제어할 수 있다. 이에 대해서는 도 5를 참조하여 구체적으로 설명하기로 한다.
도 5는 본 발명의 일 실시 예에 따른 차량이 주행 중 위치하게 되는 도로를 나타내는 도면이다. 도 5에서는 본 발명의 실시 예에 대한 설명의 편의를 위해 차량이 오르막 도로인 상향 경사 도로, 무경사 도로인 수평 도로, 내리막 도로인 하향 경사 도로 상에서 각각 주행할 경우를 가정하여 설명하기로 한다. 도 5를 참조하면, 전방으로 주행 중인 차량은 처음에 수평 도로 A에 위치할 수 있고, 수평 도로 A를 통과한 후 상향 경사 도로 B에 위치할 수 있고, 상향 경사 도로 B를 통과한 후 수평 도로 C에 위치할 수 있다. 그리고, 수평 도로 C를 통과한 차량은 이 후 하향 경사 도로 D에 위치할 수 있고, 하향 경사 도로 D를 통과한 후에는 수평 도로 E에 위치할 수 있다.
만약, 차량이 A와 같은 수평 도로에 위치한 상태에서 전방 영역 B에 대한 정보 객체를 표시하는 경우, 지형 높이 처리부(140)는 A 위치의 지형 높이(h1)와 전방 영역(예를 들어, B, C)의 지형 높이(h2, h3)를 결정하고, 양 위치의 지형 높이를 비교하여 현재 위치 지형과 전방 영역 지형간의 지형 높이 차이를 산출할 수 있다.
그리고, 3D 공간 생성부(162)는 캘리브레이션부(161)에서 산출된 카메라 파라미터를 기초로 전방 영역 촬영 영상에 대한 가상 3D 공간을 생성할 수 있다.
그리고, 제어부(170)는 생성된 가상 3D 공간에서 정보 객체의 매핑 위치를 지형 높이 차이를 이용하여 결정할 수 있다. 보다 구체적으로, 차량이 수평 도로 A상에 위치한 상태에서 전방 영역 B에 대한 정보 객체를 표시하는 경우, 전방 영역 B 위치에 대응되는 가상 3D 공간에서 정보 객체의 매핑 위치는 B 위치의 지형 높이와 A 위치의 지형 높이 차이인 h2 - h1를 반영하여 지형 높이 차이가 0인 경우의 매핑 위치보다 높게 결정될 수 있다.
한편, 차량이 A와 같은 수평 도로에 위치하는 경우, 카메라의 광학축(f1)과 수평선이 이루는 각도는 0인 바, 제어부(170)는 카메라의 상하 방향 회전 각도를 고려한 매핑 위치의 보정을 수행하지 않을 수 있다.
다만, 차량이 B와 같은 상향 경사 도로에 위치하는 경우, 카메라의 광학축(f2)은 수평선을 기준으로 상향 각도를 형성하게 되어, B와 동일 높이의 수평 도로에 위치하는 경우보다 카메라의 시점이 높게 형성된다. 또는 차량이 D와 같은 하향 경사 도로에 위치하는 경우, 카메라의 광학축(f4)은 수평선을 기준으로 하향 각도를 형성하게 되어, D와 동일 높이의 수평 도로에 위치하는 경우보다 카메라의 시점이 낮게 형성된다. 이 경우, 상술한 지형 높이 차이만을 반영하여 정보 객체를 표출하면 증강현실 화면 내의 적절한 위치에 정보 객체를 표출할 수 없게 된다. 예를 들어, 목적지까지의 경로 안내를 수행하는 경로 안내 객체가 증강 현실 화면 내의 도로 영역에 표출되는 것이 바람직하나, 경로 안내 객체가 도로 영역의 위인 하늘에 표출되는 등의 문제가 발생할 수 있다.
따라서, 차량이 B와 같은 상향 경사 도로나 D와 같은 하향 경사 도로에 위치하는 경우, 제어부(170)는 결정된 정보 객체의 매핑 위치를 카메라 회전 각도를 반영하여 보정할 수 있다. 보다 구체적으로, 차량이 B와 같은 상향 경사 도로나 D와 같은 하향 경사 도로에 위치하는 경우, 제어부(170) 지형 높이 처리부(140)에서 산출된 지형 높이 차이를 이용하여 정보 객체의 매핑 위치를 결정하는 제1 처리 단계를 수행하고, 제1 처리 단계에서 결정된 매핑 위치를 카메라 회전 각도 산출부(150)에서 산출된 카메라 상하 회전 각도를 반영하여 보정하는 제2 처리 단계를 수행하여 정보 객체의 최종 매핑 위치를 결정할 수 있다. 이하에서는 차량이 B와 같은 상향 경사 도로나 D와 같은 하향 경사 도로에 위치하는 경우, 본 발명의 일 실시 예에 따른 전자 장치(100)의 동작에 대해서 보다 구체적으로 설명하기로 한다. 만약, 차량이 도로 B와 같은 상향 경사 도로에 위치한 상태에서 전방 영역 C에 대한 정보 객체를 표시하는 경우, 지형 높이 처리부(140)는 B 위치의 지형 높이(h2)의 전방 영역(예를 들어, C)의 지형 높이(h3)를 결정하고, 양 위치의 지형 높이를 비교하여 지형 높이 차이를 산출할 수 있다.
그리고, 3D 공간 생성부(162)는 캘리브레이션부(161)에서 산출된 카메라 파라미터를 기초로 전방 영역 촬영 영상에 대한 가상 3D 공간을 생성할 수 있다. 그리고, 제어부(170)는 생성된 가상 3D 공간에서 정보 객체의 매핑 위치를 지형 높이 차이를 이용하여 결정하는 제1 처리 단계를 수행할 수 있다. 이러한 제1 처리 단계에 따라, 전방 영역 C 위치에 대응되는 가상 3D 공간에서 정보 객체의 매핑 위치는 C 위치의 지형 높이와 B 위치의 지형 높이 차이인 h3 - h2를 반영하여 지형 높이 차이가 0인 경우의 매핑 위치보다 높게 결정될 수 있다.
다만, 차량이 B와 같은 상향 경사 도로에 위치하는 경우, 카메라의 광학축(f2)은 수평선을 기준으로 상향 각도를 형성하게 되어, B와 동일 높이의 수평 도로에 위치하는 경우보다 카메라의 시점이 높게 형성된다. 이 경우, 제1 처리 단계에서 결정된 매핑 위치만을 이용하여 정보 객체를 표출하는 경우, 증강현실 화면 내의 적절한 위치에 정보 객체를 표출할 수 없게 된다.
따라서, 제어부(170)는 제1 처리 단계에 따라 결정된 매핑 위치를 카메라의 상향 회전 각도를 고려하여 보정하는 제2 처리 단계를 수행할 수 있다. 이러한 제2 처리 단계에 따라, 제1 처리 단계에 따라 결정된 매핑 위치는(예를 들어, 전방 영역 C 위치에 대응되는 가상 3D 공간에서 결정된 매핑 위치)는 카메라의 상향 회전 각도를 반영하여 상향 회전 각도가 0 인 경우의 매핑 위치보다 낮게 보정될 수 있다.
만약, 차량이 C와 같은 수평 도로에 위치한 상태에서 하향 경사 도로인 도로 D에 대한 정보 객체를 표시하는 경우, 지형 높이 처리부(140)는 C 위치의 지형 높이(h3)와 전방 영역(예를 들어, D)의 지형 높이(h4)를 결정하고, 양 위치의 지형 높이를 비교하여 지형 높이 차이를 산출할 수 있다.
그리고, 3D 공간 생성부(162)는 캘리브레이션부(161)에서 산출된 카메라 파라미터를 기초로 전방 영역 촬영 영상에 대한 가상 3D 공간을 생성할 수 있다.
그리고, 제어부(170)는 생성된 가상 3D 공간에서 정보 객체의 매핑 위치를 지형 높이 차이를 이용하여 결정할 수 있다. 보다 구체적으로, 차량이 수평 도로 C상에 위치한 상태에서 전방 영역 D에 대한 정보 객체를 표시하는 경우, 전방 영역 D 위치에 대응되는 가상 3D 공간에서 정보 객체의 매핑 위치는 D 위치의 지형 높이와 C 위치의 지형 높이 차이인 h4 - h3를 반영하여 지형 높이 차이가 0인 경우의 매핑 위치보다 낮게 결정될 수 있다.
한편, 차량이 D와 같은 하향 경사 도로에 위치한 상태에서 전방 영역 E에 대한 정보 객체를 표시하는 경우, 지형 높이 처리부(140)는 D 위치의 지형 높이(h4)의 전방 영역(예를 들어, E 위치)의 지형 높이(h5)를 결정하고, 양 위치의 지형 높이를 비교하여 지형 높이 차이를 산출할 수 있다.
그리고, 3D 공간 생성부(162)는 캘리브레이션부(161)에서 산출된 카메라 파라미터를 기초로 전방 영역 촬영 영상에 대한 가상 3D 공간을 생성할 수 있다. 그리고, 제어부(170)는 생성된 가상 3D 공간에서 정보 객체의 매핑 위치를 지형 높이 차이를 이용하여 결정하는 제1 처리 단계를 수행할 수 있다. 이러한 제1 처리 단계에 따라, 전방 영역 E 위치에 대응되는 가상 3D 공간에서 정보 객체의 매핑 위치는 E 위치의 지형 높이와 D 위치의 지형 높이 차이인 h5 - h4를 반영하여 지형 높이 차이가 0인 경우의 매핑 위치보다 낮게 결정될 수 있다.
다만, 차량이 D와 같은 하향 경사 도로에 위치하는 경우, 카메라의 광학축(f4)은 수평선을 기준으로 하향 각도를 형성하게 되어, D와 동일 높이의 수평 도로에 위치하는 경우보다 카메라의 시점이 낮게 형성된다. 이 경우, 제1 처리 단계에서 결정된 매핑 위치만을 이용하여 정보 객체를 표출하는 경우, 증강현실 화면 내의 적절한 위치에 정보 객체를 표출할 수 없게 된다.
따라서, 제어부(170)는 제1 처리 단계에 따라 결정된 매핑 위치를 카메라의 하향 회전 각도를 고려하여 보정하는 제2 처리 단계를 수행할 수 있다. 이러한 제2 처리 단계에 따라, 제1 처리 단계에 따라 결정된 매핑 위치는(예를 들어, 전방 영역 E 위치에 대응되는 가상 3D 공간에서 결정된 매핑 위치)는 카메라의 하향 회전 각도를 반영하여 하향 회전 각도가 0 인 경우의 매핑 위치보다 높게 보정될 수 있다.
한편, 상술한 동작에 따라 매핑 위치가 결정되면, 제어부(170)는 정보 객체가 매핑된 가상 3D 공간을 카메라 파라미터를 기초로 2D 이미지로 변환하여 증강 현실 화면을 생성할 수 있다. 그리고, 제어부(170)는 생성된 증강 현실 화면을 표시하도록 디스플레이부(131)를 제어할 수 있다.
여기서, 증강 현실에 표시된 정보 객체는 목적지까지의 경로 안내를 위한 경로 안내 객체를 포함할 수 있다. 이러한 경로 안내 객체는 상술한 제어부(170)의 위치 결정 알고리즘에 따라 증강 현실 화면의 도로 영역에 표시될 수 있다. 즉, 안내 객체가 증강 현실 화면의 도로 위에 위치하는 것처럼 표출될 수 있다.
또한, 증강 현실에 표시된 정보 객체는 POI(Point Of Interest) 주기, 턴 구간을 알리는 턴 안내 객체 등을 포함할 수 있다.
이러한, 본 발명에 따르면, 차량이 주행할 실제 지형의 고저차에 대응되도록 가상 3D 공간의 가상의 높이를 결정함으로써, 가상의 정보 객체를 현실 세계와 동일한 위치에 표출할 수 있고, 연산 과정 또한 매우 간단하여 임베디드 환경에서 실시간 처리가 가능한 장점이 있다.
또한, 상술한 본 발명에 따르면, 가상의 정보 객체를 증강 현실 기법으로 다이나믹하게 표출함으로써, 운전자에게 효과적인 안내와 흥미를 유발시킴과 동시에 차량에 대한 운전자의 안전 운전 및 편의성을 도모할 수 있다.
도 6은 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다. 도 6을 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(100)는 내비게이션, 블랙 박스, 스마트 폰 또는 기타 차량용 증강 현실 인터페이스 제공 장치 등과 같은 차량에 구비되는 각종 장치로 구현될 수 있으며 다양한 통신망 및 다른 전자 디바이스(61 내지 64)와 접속할 수 있다.
또한, 전자 장치(100)는 인공위성(20)으로부터 수신한 전파신호에 따라 GPS모듈을 연동하여 현재의 위치 및 현재 시간대를 산출할 수 있다.
각각의 인공위성(20)은 주파수 대역이 상이한 L밴드 주파수를 송신할 수 있다. 전자 장치(100)는, 각각의 인공위성(20)에서 송신된 L밴드 주파수가 전자 장치(100)에 도달하는데 까지 소요된 시간에 기초하여 현재 위치를 산출할 수 있다.
한편, 전자 장치(100)는, 통신부(180)을 통하여 제어국(40, ACR), 기지국(50, RAS) 등을 통하여 네트워크(30)에 무선으로 접속할 수 있다. 네트워크(30)에 전자 장치(100)가 접속하면, 네트워크(30)에 접속한 다른 전자 디바이스(61, 62)와도 간접적으로 접속하여 데이터를 교환할 수 있다.
한편, 전자 장치(100)는, 통신 기능을 가진 다른 디바이스(63)를 통하여 간접적으로 네트워크(30)에 접속할 수도 있다. 예를 들어, 네트워크(30)에 접속할 수 있는 모듈이 전자 장치(100)에 구비되지 않은 경우에, 근거리 통신 모듈 등을 통하여 통신 기능을 가진 다른 디바이스(63)와 통신할 수 있다.
도 7은 본 발명의 일 실시 예에 따른 지형 높이 차이를 반영하여 증강 현실 화면을 표시하는 방법을 나타내는 흐름도 이다. 도 7을 참조하면, 전자 장치(100)는 운행 중인 차량의 위치를 결정할 수 있다(S101). 구체적으로, 전자 장치(100)의 위치 데이터부(181)는 GNSS(Global Navigation Satellite System)를 통하여 위치 데이터를 획득할 수 있다.
그리고, 전자 장치(100)는 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정할 수 있다(S102). 구체적으로 전자 장치(100)의 지형 높이 처리부(140)는 DEM 데이터 또는 DSM 데이터를 이용하여 차량의 위치에서 지형 높이와 차량의 위치로부터 소정 거리 내에 위치한 영역에서 지형 높이를 결정할 수 있다.
그리고, 전자 장치(100)는 차량의 위치에서 지형 높이와 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출할 수 있다(S103). 구체적으로, 전자 장치(100)의 지형 높이 처리부(140)는 위치 데이터부(181)에서 획득된 차량의 위치에서의 지형 높이 및 차량 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정할 수 있다.
그리고, 전자 장치(100)는 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 정보 객체의 매핑 위치를 지형 높이 차이를 이용하여 결정할 수 있다(S104). 일 예로, 전방 영역 B 위치에 대응되는 가상 3D 공간에서 정보 객체의 매핑 위치는 B 위치의 지형 높이와 A 위치의 지형 높이 차이를 반영하여 결정할 수 있다.
그리고, 전자 장치(100)는 정보 객체를 가상 3D 공간의 결정된 매핑 위치에 매핑시켜 증강 현실을 통해 표시할 수 있다(S105). 구체적으로, 제어부(170)는 정보 객체가 매핑된 가상 3D 공간을 카메라 파라미터를 기초로 2D 이미지로 변환하여 증강 현실 화면을 생성하고, 생성된 증강 현실 화면을 표시하도록 디스플레이부(131)를 제어할 수 있다.
도 8은 본 발명의 일 실시 예에 따른 지형 높이 차이 및 카메라 상하 회전 각도를 반영하여 증강 현실 화면을 표시하는 방법을 나타내는 흐름도 이다. 도 8을 참조하면, 전자 장치(100)는 운행 중인 차량의 위치를 결정할 수 있다(S201).
그리고, 전자 장치(100)는 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정할 수 있다(S202).
그리고, 전자 장치(100)는 차량의 위치에서 지형 높이와 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출할 수 있다(S203).
그리고, 전자 장치(100)는 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정할 수 있다(S204).
그리고, 전자 장치(100)는 차량의 위치에서 차량에 설치된 카메라의 상하 회전 각도를 산출할 수 있다(S205).
그리고, 전자 장치(100)는 결정된 정보 객체의 매핑 위치를 산출된 상하 회전 각도를 이용하여 보정할 수 있다(S206). 구체적으로, 차량의 현재 위치에서 카메라가 상향 각도를 형성하는 경우, 차량의 전방 영역에 대응되는 가상 3D 공간에서 지형 높이 차이를 반영하여 결정된 매핑 위치를 차량의 현재 위치에서 상향 회전 각도가 0 인 경우의 매핑 위치보다 낮게 보정할 수 있다. 또한, 차량의 현재 위치에서 카메라가 하향 각도를 형성하는 경우, 차량의 전방 영역에 대응되는 가상 3D 공간에서 지형 높이 차이를 반영하여 결정된 매핑 위치를 차량의 현재 위치에서 상향 회전 각도가 0 인 경우의 매핑 위치보다 높게 보정할 수 있다.
그리고, 전자 장치(100)는 정보 객체를 가상 3D 공간의 보정된 매핑 위치에 매핑시켜 증강 현실을 통해 표시할 수 있다(S207).
도 9는 본 발명의 일 실시 예에 따른 상향 경사 도로에서 증강 현실 화면을 나타내는 도면이다. 도 9를 참조하면, 도 9(a)는 본 발명의 일 실시 예에 따른 알고리즘을 적용하지 않은 case이고, 도 9(b)는 본 발명의 일 실시 예에 따른 알고리즘을 적용한 case 이다.
도 9(a)를 참조하면, 본 발명의 일 실시 예에 따른 알고리즘을 적용하지 않은 경우에는, 실제 지형 상의 고저차가 발생되는 상향 경사 도로 부분(도 9(a)의 차량의 현재 위치에서 멀리 떨어진 경로 안내 객체의 끝부분)에서 경로 안내 객체(901)가 정확한 위치에 표출되지 않음을 알 수 있다.
다만, 도 9(b)를 참조하면, 본 발명의 일 실시 예에 따른 표출 방법을 적용한 경우에는, 실제 지형 상의 고저차가 발생되는 상향 경사 도로 부분(도 9(b)의 차량의 현재 위치에서 멀리 떨어진 경로 안내 객체의 끝부분)에서 경로선에 대응되는 경로 안내 객체(902)가 정확한 위치에 표출됨을 알 수 있다.
도 10 내지 11은 본 발명의 일 실시 예에 따른 하향 경사 도로에서 증강 현실 화면을 나타내는 도면이다. 도 10 내지 11을 참조하면, 도 10(a), 11(a)는 본 발명의 일 실시 예에 따른 알고리즘을 적용하지 않은 case이고, 도 10(b), 11(b)는 본 발명의 일 실시 예에 따른 알고리즘을 적용한 case 이다.
도 10(a), 11(a)를 참조하면, 본 발명의 일 실시 예에 따른 알고리즘을 적용하지 않은 경우에는, 실제 지형 상의 고저차가 발생되는 하향 경사 도로(차량의 현재 위치에서 멀리 떨어진 경로 안내 객체의 끝부분)에서 경로선에 대응되는 경로 안내 객체(1001,1101)가 정확한 위치에 표출되지 않음을 알 수 있다.
다만, 도 10(b), 11(b)를 참조하면, 본 발명의 일 실시 예에 따른 표출 방법을 적용한 경우에는, 실제 지형 상의 고저차가 발생되는 하향 경사 도로(차량의 현재 위치에서 멀리 떨어진 경로 안내 객체의 끝부분)에서 경로선에 대응되는 경로 안내 객체(1002,1102)가 정확한 위치에 표출됨을 알 수 있다.
도 12는 본 발명의 일 실시 예에 따른 내비게이션 장치가 촬영부를 구비하지 않는 경우 구현 형태를 나타내는 도면이다. 도 12를 참조하면, 차량용 내비게이션 장치(100)와 별도로 마련된 차량용 블랙박스(200)가 유선/무선 통신 방식을 이용하여 본 발명의 일 실시 예에 따른 시스템을 구성할 수 있다.
차량용 내비게이션(100)은 내비게이션 하우징(191)의 전면에 마련된 디스플레이부(131)와, 내비게이션 조작키(121)와, 내비게이션 마이크(123)를 포함할 수 있다.
차량용 블랙박스(200)는 블랙박스 카메라(222)와, 블랙박스 마이크(224)와, 부착부(281)를 포함할 수 있다.
도 13은 본 발명의 일 실시 예에 따른 내비게이션 장치가 촬영부를 구비하는 경우 구현 형태를 나타내는 도면이다. 도 13을 참조하면, 내비게이션 장치(100)가 촬영부(150)를 포함하는 경우, 사용자는 내비게이션 장치(100)의 촬영부(150)가 차량의 전방을 촬영하고, 내비게이션 장치(100)의 디스플레이 부분이 사용자 인식가능하도록 내비게이션 장치(100)를 거치시킬 수 있다. 이에 따라, 본 발명의 일 실시 예에 따른 시스템을 구현할 수 있다.
도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display)를 이용한 구현 형태를 나타내는 도면이다. 도 14를 참조하면, HUD는 다른 디바이스들과의 유/무선 통신을 통하여 증강 현실 안내 화면을 헤드업 디스플레이 상에서 표시할 수 있다.
일 예로, 증강 현실은 차량 앞유리를 이용한 HUD 또는 별도의 영상 출력 장치를 이용한 영상 오버레이 등을 통해 제공될 수 있으며, 증강 현실 제공부(160)는 이와 같이 현실 영상 또는 유리에 오버레이되는 인터페이스 이미지 등을 생성할 수 있다. 이를 통해 증강 현실 네비게이션 또는 차량 인포테인먼트 시스템 등이 구현될 수 있다.
한편, 상술한 본 발명의 다양한 실시 예들에 따른 제어 방법은 프로그램으로 구현되어 서버 또는 기기들에 제공될 수 있다. 이에 따라, 각 장치들은 프로그램이 저장된 서버 또는 기기에 접속하여, 상기 프로그램을 다운로드할 수 있다.
또한, 상술한 본 발명의 다양한 실시 예들에 따른 제어 방법은 프로그램으로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장되어 제공될 수 있다. 비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100 : 전자 장치 110 : 저장부
120 : 입력부 130 : 출력부
140 : 지형 높이 처리부 150 : 카메라 회전 각도 산출부
160 : 증강 현실 제공부 170 : 제어부
180 : 통신부 190 : 센싱부
195 : 전원부
120 : 입력부 130 : 출력부
140 : 지형 높이 처리부 150 : 카메라 회전 각도 산출부
160 : 증강 현실 제공부 170 : 제어부
180 : 통신부 190 : 센싱부
195 : 전원부
Claims (16)
- 전자 장치의 제어 방법에 있어서,
운행 중인 차량의 위치를 결정하는 단계;
상기 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계;
상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계; 및
상기 차량의 안내 정보를 포함한 정보 객체를 생성하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계;를 포함하고,
상기 표시하는 단계는,
카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 상기 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정하는 단계;를 포함하고,
상기 차량이 주행 중인 도로의 경사에 따른 상기 차량에 설치된 카메라의 수평선 기준 상하 회전 각도를 산출하는 단계를 더 포함하고,
상기 표시하는 단계는,
상기 결정된 정보 객체의 매핑 위치를 상기 산출된 카메라의 수평선 기준 상하 회전 각도를 이용하여 보정하는 단계를 더 포함하는 것을 특징으로 하는 제어 방법. - 삭제
- 삭제
- 제1항에 있어서,
상기 표시하는 단계는,
카메라에 대한 캘리브레이션(Calibration)을 수행하여 카메라 파라미터를 산출하는 단계;
상기 카메라 파라미터를 기초로 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간을 생성하는 단계; 및
상기 보정에 따른 정보 객체의 매핑 위치를 기초로 상기 가상 3D 공간에 상기 생성된 정보 객체를 매핑하는 단계;를 포함하는 것을 특징으로 하는 제어 방법. - 제4항에 있어서,
상기 표시하는 단계는,
상기 매핑된 가상 3D 공간을 상기 카메라 파라미터를 기초로 2D 이미지로 변환하여 증강 현실 화면을 생성하는 단계; 및
상기 생성된 증강 현실 화면을 표시하는 단계;를 포함하는 것을 특징으로 하는 제어 방법. - 제1항에 있어서,
상기 높이를 결정하는 단계는,
상기 전자 장치가 목적지까지 경로 안내를 수행하는 경우, 상기 목적지까지의 전체 경로 중 차량의 위치로부터 소정 거리 내에 위치한 경로의 지형 높이를 결정하는 것을 특징으로 하는 제어 방법. - 제1항에 있어서,
상기 정보 객체는,
목적지까지의 경로 안내를 위한 경로 안내 객체를 포함하고,
상기 표시하는 단계는,
상기 증강 현실 화면의 도로 영역에 상기 경로 안내 객체를 위치시켜 표시하는 것을 특징으로 하는 제어 방법. - 전자 장치에 있어서,
화면을 표시하는 디스플레이부;
운행 중인 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하고, 상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 지형 높이 처리부; 및
상기 차량의 정보를 포함한 정보 객체를 생성하도록 객체 생성부를 제어하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하도록 상기 디스플레이부를 제어하는 제어부;를 포함하고,
상기 제어부는,
카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 상기 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정하고,
상기 차량이 주행 중인 도로의 경사에 따른 상기 차량에 설치된 카메라의 수평선 기준 상하 회전 각도를 산출하는 카메라 상하 각도 산출부;를 더 포함하고,
상기 제어부는,
상기 결정된 정보 객체의 매핑 위치를 상기 산출된 카메라의 수평선 기준 상하 회전 각도를 이용하여 보정하는 것을 특징으로 하는 전자 장치. - 삭제
- 삭제
- 제8항에 있어서,
카메라에 대한 캘리브레이션(Calibration)을 수행하여 카메라 파라미터를 산출하는 캘리브레이션부;
상기 카메라 파라미터를 기초로 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간을 생성하는 3D 공간 생성부; 및
상기 보정에 따른 정보 객체의 매핑 위치를 기초로 상기 가상 3D 공간에 상기 생성된 객체를 매핑하는 매핑부;를 포함하는 것을 특징으로 하는 전자 장치. - 제11항에 있어서,
상기 제어부는,
상기 매핑된 가상 3D 공간을 상기 카메라 파라미터를 기초로 2D 이미지로 변환하여 증강 현실 화면을 생성하고, 상기 생성된 증강 현실 화면을 표시하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 전자 장치. - 제8항에 있어서,
상기 지형 높이 처리부는,
상기 전자 장치가 목적지까지 경로 안내를 수행하는 경우, 상기 목적지까지의 전체 경로 중 차량의 위치로부터 소정 거리 내에 위치한 경로의 지형 높이를 결정하는 것을 특징으로 하는 전자 장치. - 제8항에 있어서,
상기 정보 객체는,
목적지까지의 경로 안내를 위한 경로 정보 객체를 포함하고,
상기 디스플레이부는,
상기 증강 현실 화면의 도로 영역에 상기 경로 안내 객체를 위치시켜 표시하는 것을 특징으로 하는 전자 장치. - 전자 장치와 결합되어,
운행 중인 차량의 위치를 결정하는 단계;
상기 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계;
상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계;
상기 차량의 안내 정보를 포함한 정보 객체를 생성하고, 카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 상기 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계; 및
상기 차량이 주행 중인 도로의 경사에 따른 상기 차량에 설치된 카메라의 수평선 기준 상하 회전 각도를 산출하는 단계를 실행시키고,
상기 표시하는 단계는,
상기 결정된 정보 객체의 매핑 위치를 상기 산출된 카메라의 수평선 기준 상하 회전 각도를 이용하여 보정하는 단계를 포함하는 기록 매체에 저장된 컴퓨터 프로그램. - 전자 장치의 제어 방법을 실행하기 위한 컴퓨터 프로그램이 저장된 컴퓨터 판독 가능한 기록 매체에 있어서,
상기 제어 방법은,
운행 중인 차량의 위치를 결정하는 단계;
상기 결정된 차량의 위치로부터 소정 거리 내에 위치한 영역의 지형 높이를 결정하는 단계;
상기 차량의 위치에서 지형 높이와 상기 영역에서 지형 높이를 비교하여 지형 높이 차이를 산출하는 단계; 및
상기 차량의 안내 정보를 포함한 정보 객체를 생성하고, 상기 생성된 정보 객체를 상기 지형 높이 차이를 반영하여 증강 현실을 통해 표시하는 단계;를 포함하고,
상기 표시하는 단계는,
카메라의 촬영 영상에 대한 가상 3D(3-Dimensional) 공간에서 상기 정보 객체의 매핑 위치를 상기 지형 높이 차이를 이용하여 결정하는 단계;를 포함하고,
상기 차량이 주행 중인 도로의 경사에 따른 상기 차량에 설치된 카메라의 수평선 기준 상하 회전 각도를 산출하는 단계를 더 포함하고,
상기 표시하는 단계는,
상기 결정된 정보 객체의 매핑 위치를 상기 산출된 카메라의 수평선 기준 상하 회전 각도를 이용하여 보정하는 단계를 더 포함하는 것을 특징으로 하는 컴퓨터 판독 가능한 기록 매체.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/955,793 US9677899B2 (en) | 2014-12-01 | 2015-12-01 | Electronic apparatus, control method thereof, computer program, and computer-readable recording medium |
CN201510868519.6A CN105651298B (zh) | 2014-12-01 | 2015-12-01 | 电子装置、电子装置的控制方法 |
US15/588,221 US9976866B2 (en) | 2014-12-01 | 2017-05-05 | Electronic apparatus, control method thereof, computer program, and computer-readable recording medium |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140170047 | 2014-12-01 | ||
KR20140170047 | 2014-12-01 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20160065721A KR20160065721A (ko) | 2016-06-09 |
KR102406489B1 true KR102406489B1 (ko) | 2022-06-10 |
Family
ID=56138964
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020150035743A KR102406489B1 (ko) | 2014-12-01 | 2015-03-16 | 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 |
Country Status (2)
Country | Link |
---|---|
KR (1) | KR102406489B1 (ko) |
CN (1) | CN105651298B (ko) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200042166A (ko) * | 2018-10-15 | 2020-04-23 | 삼성전자주식회사 | 컨텐츠를 시각화하는 장치 및 방법 |
CN111323042B (zh) * | 2020-02-20 | 2023-10-10 | 华为技术有限公司 | 目标物体的预警方法、装置和电子设备 |
CN112325893A (zh) * | 2020-10-27 | 2021-02-05 | 李亚军 | 电子地图系统、电子地图生成方法、导航方法及导航设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003302235A (ja) | 2002-04-10 | 2003-10-24 | Matsushita Electric Ind Co Ltd | ナビゲーション表示装置 |
JP2005195475A (ja) | 2004-01-07 | 2005-07-21 | Fujitsu Ten Ltd | ナビゲーション装置 |
US20110181711A1 (en) | 2008-04-01 | 2011-07-28 | Luke Reid | Sequential image generation |
KR101271235B1 (ko) * | 2011-12-12 | 2013-06-10 | 자동차부품연구원 | 주행정보 제공장치 및 제공방법 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3266236B2 (ja) * | 1995-09-11 | 2002-03-18 | 松下電器産業株式会社 | 車載用ナビゲーション装置 |
JP3375258B2 (ja) * | 1996-11-07 | 2003-02-10 | 株式会社日立製作所 | 地図表示方法及び装置並びにその装置を備えたナビゲーション装置 |
KR100929331B1 (ko) * | 2008-04-30 | 2009-12-03 | 팅크웨어(주) | 3차원 방향 표시 생성 방법 및 장치 |
KR100888156B1 (ko) * | 2008-05-15 | 2009-03-10 | 팅크웨어(주) | 안내 심볼 출력 시스템 및 방법 |
KR20100011041A (ko) * | 2008-07-24 | 2010-02-03 | 주식회사 현대오토넷 | 3d 자이로 센서 및 수치 표고값을 이용한 맵 매칭 기능을가지는 내비게이션 장치 |
US8503762B2 (en) * | 2009-08-26 | 2013-08-06 | Jacob Ben Tzvi | Projecting location based elements over a heads up display |
CN102980570A (zh) * | 2011-09-06 | 2013-03-20 | 上海博路信息技术有限公司 | 一种实景增强现实导航系统 |
KR101614338B1 (ko) * | 2012-03-26 | 2016-04-21 | 미쓰비시덴키 가부시키가이샤 | 카메라 캘리브레이션 방법, 카메라 캘리브레이션 프로그램을 기록한 컴퓨터 판독가능한 기록매체 및 카메라 캘리브레이션 장치 |
-
2015
- 2015-03-16 KR KR1020150035743A patent/KR102406489B1/ko active IP Right Grant
- 2015-12-01 CN CN201510868519.6A patent/CN105651298B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003302235A (ja) | 2002-04-10 | 2003-10-24 | Matsushita Electric Ind Co Ltd | ナビゲーション表示装置 |
JP2005195475A (ja) | 2004-01-07 | 2005-07-21 | Fujitsu Ten Ltd | ナビゲーション装置 |
US20110181711A1 (en) | 2008-04-01 | 2011-07-28 | Luke Reid | Sequential image generation |
KR101271235B1 (ko) * | 2011-12-12 | 2013-06-10 | 자동차부품연구원 | 주행정보 제공장치 및 제공방법 |
Also Published As
Publication number | Publication date |
---|---|
KR20160065721A (ko) | 2016-06-09 |
CN105651298A (zh) | 2016-06-08 |
CN105651298B (zh) | 2019-02-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9976866B2 (en) | Electronic apparatus, control method thereof, computer program, and computer-readable recording medium | |
KR102456248B1 (ko) | 커브 안내 방법, 커브 안내 장치, 전자 장치 및 컴퓨터 판독 가능한 기록 매체에 저장된 프로그램 | |
KR102348127B1 (ko) | 전자 장치 및 그의 제어 방법 | |
US10145703B2 (en) | Electronic apparatus, control method thereof, computer program, and computer-readable recording medium | |
US20230048230A1 (en) | Method for displaying lane information and apparatus for executing the method | |
KR102406491B1 (ko) | 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 | |
CN108362295A (zh) | 车辆路径引导设备和方法 | |
KR102123844B1 (ko) | 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 | |
KR102383425B1 (ko) | 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 | |
KR102480000B1 (ko) | 전자 장치, 전자 장치의 경로 안내 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 | |
KR102682772B1 (ko) | 커브 안내 방법, 커브 안내 장치, 전자 장치 및 컴퓨터 판독 가능한 기록 매체에 저장된 프로그램 | |
US20240345261A1 (en) | Method and apparatus for determining location by correcting global navigation satellite system based location and electronic device thereof | |
KR102406489B1 (ko) | 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 | |
KR102406490B1 (ko) | 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체 | |
KR20200070101A (ko) | 차선 표시 방법 및 이를 수행하는 전자 기기 | |
JP2019117214A (ja) | 地物データ構造 | |
KR102299081B1 (ko) | 전자 장치 및 그의 제어 방법 | |
KR102299501B1 (ko) | 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 | |
KR102506263B1 (ko) | 항공 영상 처리 장치, 항공 영상 처리 방법, 항공 영상 처리를 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체, 항공 지도를 이용하여 경로 안내를 수행하는 내비게이션 장치 및 서버 | |
JP2019117052A (ja) | 表示制御装置 | |
JP2019117432A (ja) | 表示制御装置 | |
KR102371620B1 (ko) | 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 | |
KR102719930B1 (ko) | 차량 주변의 객체를 나타내는 영상을 생성하는 방법 및 장치. | |
KR20180086794A (ko) | 차량 주변의 객체를 나타내는 영상을 생성하는 방법 및 장치. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
AMND | Amendment | ||
E601 | Decision to refuse application | ||
AMND | Amendment | ||
X701 | Decision to grant (after re-examination) |