KR20210131129A - 이동 수단용 ui 생성 장치 및 ui 생성 방법 - Google Patents

이동 수단용 ui 생성 장치 및 ui 생성 방법 Download PDF

Info

Publication number
KR20210131129A
KR20210131129A KR1020200049540A KR20200049540A KR20210131129A KR 20210131129 A KR20210131129 A KR 20210131129A KR 1020200049540 A KR1020200049540 A KR 1020200049540A KR 20200049540 A KR20200049540 A KR 20200049540A KR 20210131129 A KR20210131129 A KR 20210131129A
Authority
KR
South Korea
Prior art keywords
moving means
virtual object
generating
image
speed
Prior art date
Application number
KR1020200049540A
Other languages
English (en)
Inventor
성태현
정범희
추교웅
Original Assignee
현대자동차주식회사
기아 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사, 기아 주식회사 filed Critical 현대자동차주식회사
Priority to KR1020200049540A priority Critical patent/KR20210131129A/ko
Priority to US17/010,357 priority patent/US11376963B2/en
Publication of KR20210131129A publication Critical patent/KR20210131129A/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • B60K35/10
    • B60K35/22
    • B60K35/28
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • B60K2360/166
    • B60K2360/167
    • B60K2360/177
    • B60K2360/178
    • B60K2360/179
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2370/00Details of arrangements or adaptations of instruments specially adapted for vehicles, not covered by groups B60K35/00, B60K37/00
    • B60K2370/10Input devices or features thereof
    • B60K2370/11Graphical user interfaces or menu aspects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2370/00Details of arrangements or adaptations of instruments specially adapted for vehicles, not covered by groups B60K35/00, B60K37/00
    • B60K2370/15Output devices or features thereof
    • B60K2370/152Displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2370/00Details of arrangements or adaptations of instruments specially adapted for vehicles, not covered by groups B60K35/00, B60K37/00
    • B60K2370/16Type of information
    • B60K2370/177Augmented reality
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2370/00Details of arrangements or adaptations of instruments specially adapted for vehicles, not covered by groups B60K35/00, B60K37/00
    • B60K2370/18Information management
    • B60K2370/193Information management for improving awareness
    • B60K35/23

Abstract

본 발명은 UI 생성 장치 및 UI 생성 방법에 관한 것으로, UI 생성 장치는 이동 수단의 전방 또는 주변을 촬상하고, 상기 촬상된 영상으로부터 현실 객체를 인식하는 객체 인식부와, 상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 상기 촬상된 영상에 합성한 증강 현실 영상을 생성하는 영상 생성부와; 상기 증강 현실 영상을 표시하는 디스플레이부를 포함하고, 상기 영상 생성부는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성할 수 있다.

Description

이동 수단용 UI 생성 장치 및 UI 생성 방법{USER INTERFACE GENERATING APPARATUS FOR VEHICLE GUIDE AND UI GENERATING METHOD USING THE SAME}
본 발명은 UI 생성 장치 및 UI 생성 방법에 관한 것으로, 보다 상세하게는 증강 현실을 이용한 이동 수단용 UI 생성 장치 및 UI 생성 방법에 관한 것이다.
증강 현실은 별도로 구성한 가상의 객체를 현실 세계 위에 표시하여 이용자의 편리성을 도모하는 기능이다. 예를 들어, 현재 차량 제어 또는 차량 사용자를 위한 UI 또는 UX로 사용되는 증강 현실은 현실 세계에 카펫을 표시하는 기술, 증강 현실로 현실 세계에 차량 이탈 경고를 표시하는 기술, 증강 현실로 차량 및 주변 정보를 표시하는 기술, 증강 현실로 현실 세계에 인식된 정보를 바탕으로 가상의 객체를 생성하는 기술 등이 있다.
하지만, 현재 활용되는 현실 세계에 가상의 객체를 투영하는 증강 현실은 표시 위치 상의 차이, 객체 특성의 차이로 이질감이 발생하는 경우가 많다. 또한 가상 객체가 현실 객체의 특성과 관련되어 있는 경우 현실 객체의 특성을 탈피하는 것에 어려움이 많다. 이러한 예로서는 다음과 같은 경우들이 있다. 주변 영상을 표시할 때 영상의 변화가 크지 않으면 정상적으로 가상 객체가 표시되는지 여부에 대하여 확인이 어렵고(예: 주변에 차량이 없는 직선 구간), 주변 영상을 표시할 때 원근감 등의 이유로 인하여 탑승한 이동 수단의 속도감을 느끼기 어려운 점이 있다. 또한, 고속인 경우 너무 많은 객체가 짧은 시간에 표시되어 속도감을 인지하기 어렵거나 반대로 저속인 경우 너무 적은 객체가 동일 시간에 표시되어 속도감을 느끼기에 정보 자체가 부족한 경우가 있다.
또한, 증강 현실은 현실 세계의 위에 가상의 객체를 표시하는 것이라서 가상의 객체가 현실 세계의 객체를 침범하는 경우가 많다. 이때 원근감 혹은 겹침 현상에 의하여 이질감을 느끼는 경우가 많다. 또한, 여러 가지의 객체가 표시될 때, 각 객체 간의 표시 위치가 연동되지 않은 경우 불필요한 겹침 현상이 발생하거나 사용자가 인지하기 어려운 형태로 겹침 현상이 발생하면 시인성이 떨어지는 문제도 발생할 수 있다. 또한, 현실 세계의 객체를 강조하여 표시하는 경우, 해당 객체의 특성에 제한되어 단순하게 색상 하이라이트 정도만을 제공하는 경우 사용자 UI로 부적합한 측면도 있다. 또한, 객체의 인식이 모든 상황에서 이루어지는 것은 아니기 때문에 현실 세계의 객체의 위치와 연동되는 객체가 인식률에 따라 급격하게 표시 변화를 일으키는 경우가 많다.
따라서, 증강 현실을 표시할 때 사용자의 인지성이 떨어지거나 이질감이 느껴지는 부분을 보정할 수 있는 기술이 필요하다.
본 발명의 실시예는 증강 현실을 표시할 때 사용자의 인지성이 떨어지거나 이질감이 느껴지는 부분을 보정할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공하고자 한다.
본 발명의 일 실시예는 증강현실 표시 시 현재 상태 및 속도감 표시에 대한 이질감을 최소화할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공하고자 한다.
또한, 본 발명의 일 실시예는 현실 세계의 객체와 증강 현실 객체 간 표시 상의 이질감을 최소화할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공하고자 한다.
또한, 본 발명의 일 실시예는 증강 현실 표시 시 현실 세계 객체에 대한 강조 효과를 극대화하고, 현실 세계 객체 인식률에 대한 의존도를 최소화할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공하고자 한다.
또한, 본 발명의 일 실시예는 가상의 객체를 통하여 현실 세계의 객체의 특성을 넘어서는 부가적인 정보를 제공할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공하고자 한다.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재들로부터 당업자에게 명확하게 이해될 수 있을 것이다.
본 발명의 실시예에 따른 UI 생성 장치는 이동 수단의 전방 또는 주변을 촬상하고, 상기 촬상된 영상으로부터 현실 객체를 인식하는 객체 인식부와; 상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 상기 촬상된 영상에 합성한 증강 현실 영상을 생성하는 영상 생성부와; 상기 증강 현실 영상을 표시하는 디스플레이부를 포함하고, 상기 영상 생성부는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성할 수 있다.
상기 영상 생성부는, 상기 이동 수단의 속도를 기반으로 꺾임 정도가 변경되는 속도 화살표를 상기 가상 객체로 생성하고, 이 때, 상기 속도 화살표는 속도가 증가할수록 상기 꺾임 정도가 커질 수 있다.
상기 영상 생성부는, 기설정된 최고각 및 최저각의 범위 내에서 상기 꺾임 정도를 변경할 수 있다.
상기 영상 생성부는, 상기 속도 변화량의 크기에 기초하여 상기 꺾임 정도의 변화량을 조절하며 상기 속도 변화량이 작을수록 상기 꺾임 정도의 변화량을 증가시킬 수 있다.
상기 영상 생성부는, 상기 이동 수단의 진행 방향에 대한 카펫 정보를 가상 객체로 생성하고, 상기 보조 시스템으로부터 획득한 주변 이동 수단 위치의 정보에 기초하여 상기 주변 이동 수단과 중첩되지 않는 상기 카펫 정보를 생성할 수 있다.
상기 영상 생성부는, 상기 이동 수단의 회전 운행을 가이드 하기 위한 턴바이턴 정보를 가상 객체로 생성하고, 상기 이동 수단의 상기 카펫 정보와 상기 턴바이턴 정보의 표시 위치를 변경할 수 있다.
상기 영상 생성부는, 진입 불가능한 도로의 차선 또는 진입 표시 없이 다른 차선으로 진입하는 경우 해당 진입 방향의 차선을 진입 불가한 벽 형태의 가상 객체로 생성할 수 있다.
상기 영상 생성부는, 상기 벽 형태의 가상 객체에 애니메이션 효과를 부가할 수 있다.
상기 영상 생성부는, 상기 도로의 상기 진입 불가능한 정도에 따라 상기 벽 형태의 가상 객체의 크기 또는 색상을 변경할 수 있다.
상기 영상 생성부는, 상기 이동 수단의 조향각 정보에 기초하여 상기 차선을 보정할 수 있는 카펫 정보를 상기 보강 가상 객체로 생성할 수 있다.
상기 객체 인식부는, 상기 이동 수단의 속도가 기설정된 임계값 이하이면, 상기 이동 수단의 전방 차선 정보를 변경하지 않을 수 있다.
상기 영상 생성부는, 상기 이동 수단의 중심이 이동 수단 진행 경로의 중심으로부터 소정 범위를 벗어나는 경우, 벽 형태의 가상 객체를 생성하고, 상기 벽 형태의 가상 객체를 상기 이동 수단 방향으로 이동시킬 수 있다.
본 발명의 다른 실시예에 따른 UI 생성 방법은 이동 수단의 전방을 촬상할 수 있는 단계와; 상기 이동 수단 주변의 현실 객체에 대한 정보를 획득하는 단계와; 촬상된 영상으로부터 현실 객체를 인식하고, 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 상기 촬상된 영상에 합성한 증강 현실 영상을 생성하는 영상 생성 단계와; 상기 증강 현실 영상을 표시하는 단계를 포함하고, 상기 영상 생성 단계는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성할 수 있다.
본 발명의 또 다른 실시예에 따른 UI 생성 장치는 이동 수단의 전방 또는 주변으로부터 현실 객체를 인식하는 객체 인식부와; 상기 인식된 현실 객체에 기반하여 상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 포함하는 증강 현실 영상을 생성하는 영상 생성부와; 상기 증강 현실 영상을 표시하는 디스플레이부를 포함하고, 상기 영상 생성부는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성하고,상기 디스플레이부는 투명한 디스플레이 영역을 포함할 수 있다.
본 발명의 다른 실시예에 따른 UI 생성 방법은 이동 수단의 전방 또는 주변으로부터 현실 객체를 인식하는 단계와; 상기 인식된 현실 객체에 기반하여 상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 포함하는 증강 현실 영상을 생성하는 영상 생성 단계와; 상기 증강 현실 영상을 투명한 디스플레이 영역을 포함하는 디스플레이부에 표시하는 단계를 포함하고, 상기 영상 생성 단계는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성할 수 있다.
본 기술은 증강 현실을 표시할 때 사용자의 인지성이 떨어지거나 이질감이 느껴지는 부분을 보정할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공한다.
본 발명의 일 실시예는 증강현실 표시 시 현재 상태 및 속도감 표시에 대한 이질감을 최소화할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공한다.
또한, 본 발명의 일 실시예는 현실 세계의 객체와 증강 현실 객체 간 표시 상의 이질감을 최소화할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공한다.
또한, 본 발명의 일 실시예는 증강 현실 표시 시 현실 세계 객체에 대한 강조 효과를 극대화하고, 현실 세계 객체 인식률에 대한 의존도를 최소화할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공한다.
또한, 본 발명의 일 실시예는 가상의 객체를 통하여 현실 세계의 객체의 특성을 넘어서는 부가적인 정보를 제공할 수 있는 UI 생성 장치 및 UI 생성 방법을 제공한다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 본 발명의 일 실시예에 따른 UI 생성 장치의 제어 블록도이다.
도 2는 본 발명의 일 실시예에 따른 이동 수단 속도를 알려주는 속도 화살표를 설명하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 속도 화살표의 꺾임 정도를 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 속도 화살표의 꺾임 정도의 변화량을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 카펫 정보를 설명하는 도면이다.
도 6은 본 발명의 종래에 따른 카펫 정보와 턴바이턴 정보를 설명하는 도면이다.
도 7은 본 발명의 일 실시예에 따른 카펫 정보와 턴바이턴 정보를 설명하는 도면이다.
도 8은 본 발명의 일 실시예에 따른 도로 차선에 관련된 가상 객체를 설명하는 도면이다.
도 9는 본 발명의 일 실시예에 따른 벽 형태의 가상 형태를 설명하는 도면이다.
도 10은 본 발명의 일 실시예에 따른 보강 가상 객체를 설명하는 도면이다.
도 11은 본 발명의 일 실시예에 따른 이동 수단용 UI 생성 방법을 설명하기 위한 제어 흐름도이다.
이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 실시예에 대한 이해를 방해한다고 판단되는 경우에는 그 상세한 설명은 생략한다.
본 발명의 실시예의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 또한, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가진 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 도 1 내지 도 10을 참조하여, 본 발명의 실시예들을 구체적으로 설명하기로 한다.
도 1은 본 발명의 일 실시예에 따른 UI(user interface) 생성 장치의 제어 블록도이다.
UI 생성 장치는 이동 수단에 설치되어 있는 여러 모듈을 구성으로 하는 장치일 수도 있고, 이동 수단에서 제공되는 여러 정보에 기초하여 이동 수단용 UI를 생성하여 이동 수단으로 제공하는 외부의 서버로 구현될 수 있다. UI 생성 장치는 이동 수단에 길을 안내하거가 운행에 관련된 부가 정보를 사용자에게 제공하는 사용자 인터페이스로서 후술될 디스플레이부(130)뿐만 아니라 음성 출력부를 더 포함할 수 있다. 이러한 UI 생성 장치는 이동 수단 내 구비될 수 있는 기존의 시스템, 예를 들면 네비게이션, 헤드업 디스플레이(head up display, HUD) 또는 운전자 보조 시스템을 통하여 구현될 수도 있다.
또한, UI 생성 장치는 사용자의 입력 및 선택을 수신할 수 있는 다양한 사용자 입력부를 포함할 수 있다. 사용자 입력부는 디스플레이부(130)의 일부로 구성되는 터치 패드로 구성되거나 입력 버튼 또는 사용자 음성을 수신할 수 있는 마이크 등으로 구현될 수 있다.
본 발명에 따른 UI 생성 장치는 가상의 객체를 현실 세계 위에 표시하여 이용자의 편리성을 도모하는 증강 현실에 기초한 영상을 생성하여 사용자에게 제공한다. 기존의 증강 현실의 경우, 사용자의 인지성이 떨어지거나 이질감이 느껴지는 부분이 존재하였다. 본 발명에 따른 UI 생성 장치는 이러한 증강 현실의 인지성을 향상시키고 이질감을 감소시키면서, 사용자 인식률을 증가시키고 기존의 증강 현실이 구현하지 못했던 보강 가상 객체를 생성할 수 있다.
이를 위하여, 본 실시예에 따른 UI 생성 장치는 도 1과 같이, 객체 인식부(110), 영상 생성부(120) 및 디스플레이부(130)를 포함할 수 있다.
객체 인식부(110)는 이동 수단 및 이동 수단 주변의 객체에 대한 정보를 수신하는 정보 수신부에 해당하고, 영상 생성부(120)는 사용자에게 제공될 증강 현실 영상을 생성하며, 디스플레이부(130)는 생성된 영상을 표시하여 사용자에게 제공한다. 일 예예 따라 이동 수단은 차량 또는 무인 비행체를 포함할 수 있으며, 본 문서에서는 차량을 예를 들어 설명할 수 있다.
객체 인식부(110)는 이동 수단 내 설치되어 이동 수단의 전방 또는 주변을 촬상하는 카메라 또는 보조 시스템을 포함할 수 있고, 차량 내 다양한 정보를 센싱하는 센서부 등을 포함할 수 있다.
카메라는 이동 수단의 전방을 촬상할 수 있으며, 이동 수단 전방의 다른 이동 수단, 이동 수단이 차량일 경우 차선, 도로의 상태 및 도로 상의 현실 객체를 촬상할 수 있다. 카메라는 전방 촬영을 위한 전방 카메라일 수도 있고, 이동 수단의 후방 영상을 획득하기 위한 후방 카메라를 더 포함할 수도 있다. 이동 수단에 헤드업디스플레이가 구현된다면, 전방을 촬상하는 카메라는 생략될 수 있다.
센서부는 이동 수단의 운행 정보를 센싱하는 구성으로, 예를 들어, 차량인 경우, 스티어링 휠, 자이로 센서, 속도 센서, 조향각 센서 등을 포함할 수 있다. 센서부는 증강 현실을 위한 가상 객체를 생성할 때 필요한 이동 수단에 관련된 정보 또는 이동 수단 주변의 현실 객체에 대한 정보를 영상 생성부(120)에 제공할 수 있다. 이러한 센서부는 본 문서에 따른 UI 생성 예에 따라 생략될 수 있다.
보조 시스템 역시 이동 수단 주변의 현실 객체에 대한 정보를 제공할 수 있으며, 본 실시예에서는 보조 시스템에는 크로즈 컨트롤러가 포함될 수 있다. 크루즈 컨트롤러는 정속 주행 또는 자동 속도 조절을 위한 컨트롤러로써, 본 발명의 일 예에 따르면 크루즈 컨트롤러는 전방 이동 수단의 위치 정보를 영상 생성부(120)에 제공할 수 있다.
한편, 객체 인식부(110)는 촬상된 영상으로부터 현실 객체를 인식할 수 있다. 예를 들어, 객체 인식부(110)는 촬영된 영상을 기반으로 현실 객체를 인식하고 그 정보를 출력할 수 있는 알고리즘으로 구현될 수 있고, 촬상된 영상으로부터 영상 및 객체 정보를 구분하여 출력할 수도 있다.
영상 생성부(120)는 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 가상 객체를 상기 촬상된 영상에 합성한 증강 현실 영상을 생성한다. 다른 예에 따라 영상 생성부(120)는 촬상된 영상과의 합성 없이 가상 객체를 포함하는 증강 현실 영상을 생성할 수도 있다. 한편 또 다른 예에 따라 영상 생성부(120)가 촬상된 영상으로부터 현실 객체를 인식할 수도 있다.
일 예에 따라, 현실 객체는 운행 중인 차량의 주변 차량, 도로, 도로 표시판, 도로, 차선 등을 포함할 수 있다.
영상 생성부(120)는 가상의 객체들의 위치 및 형태가 현실 세계에 적절하도록 표시하는 영상 합성 시스템을 포함할 수 있다. 또는 영상 생성부(120)는 현실 세계의 객체를 인식하는 객체 인식 시스템을 더 포함할 수도 있다. 객체 인식 시스템과 영상 합성 시스템은 서로 독립된 구성일 수도 있고, 하나의 모듈로 머지된 구성일 수도 있다.
한편, 객체 인식부(110) 또는 영상 생성부(120)에 의하여 객체가 인식될 때, 이동 수단의 속도가 기설정된 임계값 이하이면, 이동 수단의 전방 차선 정보는 변경되지 않을 수 있다. 예를 들어, 이동 수단이 저속으로 운행되거나 정지되어 있는 경우에 전방 상황이 바뀌지 않음에도 불구하고 후술할 카펫 정보가 지속적으로 흔들릴 수 있다. 정차한 이동 수단의 전방에 횡단 보도와 같은 다수의 직선이 있는 경우, 이에 대한 인식 확률이 변하면서 차선 인식 불량이 발생할 수 있다. 따라서, 이런 경우, 즉, 차속이 일정 속도 이하인 경우(예:3kph), 차선 정보를 갱신하지 않음으로써 전방 상황이 바뀌지 않았다고 판단하고, 후속적으로 가상 객체를 변경하지 않을 수 있다.
본 발명에 따른 영상 생성부(120)은 이동 수단의 운행 가이드를 위하여 다양한 가상 객체 또는 보강 가상 객체를 생성할 수 있다. 영상 생성부(120)는 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성할 수 있고, 현실 객체의 특성에 기초하여 현실 객체를 보정할 수 있는 보강 가상 객체를 생성할 수 있다. 예를 들어, 이동 수단의 속도를 표시하는 속도 화살표, 이동 수단의 운행 차선에 대한 카펫 정보, 턴바이턴 정보 및 차선을 보강하기 위한 보장 가상 객체들이 생성될 수 있다. 이러한 가상 객체들은 이하 도면을 참조하여 설명된다.
디스플레이부(130)는 영상 생성부(120)에서 생성 및 합성된 증강 현실 영상을 표시한다. 상술된 바와 같이, 사용자 입력을 위한 터치 스크린 또는 터치 패드가 디스플레이부(130)에 결합되어 구현될 수 있다. 이러한 디스플레이부(130)는 네비게이션 또는 HUD로 구현될 수 있으며, 구체적인 예로 투명한 디스플레이 영역을 포함하는 AR HUD나 투명 디스플레이로 구현될 수 있다.
또는 일 예에 따라 디스플레이부(130)는 증강 현실을 구현하는 이동 수단에 장착되지 않은 외부의 장치 예를 들어 안경과 같은 수단으로 구현될 수 있다. 이 경우, 외부 디스플레이부는 이동 수단 내 영상 생성부(120)와 무선으로 통신할 수 있는 통신부를 더 포함할 수 있다.
일 예에 따르면, 영상 생성부(120)는 속도 연동 컴포넌트에 대한 가상 객체를 생성하여 사용자에게 제공할 수 있다. 이러한 속도 연동 컴포넌트는 이동 수단의 속도에 따라, 속도에 기초하여 변형되는 GUI일 수 있으며, 예를 들어, 속도에 따라 더 강한 방향을 표시할 수 있는 화살표로 구현될 수 있다.
도 2는 본 발명의 일 실시예에 따른 이동 수단 속도를 알려주는 속도 화살표를 설명하는 도면이다.
영상 생성부(120)는 도 2와 같이, 이동 수단의 속도를 반영하는 속도 화살표(A-1, A-2, A-3)를 생성할 수 있고, 이러한 속도 화살표는 이동 수단의 속도를 기반으로 꺾임 정도가 변경될 수 있다. 속도 화살표는 속도가 증가할수록 꺾임 정도가 커질 수 있다.
이동 수단이 정차한 경우 속도 화살표(A-1)는 거의 꺾임이 거의 없는 직선에 가까운 화살표일 수 있고, 이동 수단이 고속으로 운행되는 경우의 속도 화살표(A-3)는 저속일 때의 속도 화살표(A-2)보다 꺾임 정도가 클 수 있다.
속도를 반영한 속도 화살표를 가상 객체로 생성할 경우 사용자는 속도감에 대한 정보를 직관적으로 얻을 수 있다. 기존에 항상 동일한 형태의 GUI가 표시되어 속도감에 대한 인식이 떨어졌던 점을 보완할 수 있다.
또한, 일 예에 따르면, 영상 생성부(120)는 속도 화살표를 생성 및 표시할 때, 속도의 하한선 및 상한선을 두어 꺾임의 정도를 일정 수준으로 제한함으로써 속도 화살표가 이질적이고 부자연스럽게 표시되는 것을 방지할 수 있다. 즉, 영상 생성부(120)는 기설정된 최고각 및 최저각의 범위 내에서 속도 화살표의 꺾임 정도를 변경할 수 있다.
도 3은 본 발명의 일 실시예에 따른 속도 화살표의 꺾임 정도를 설명하기 위한 도면이다.
도 3에 도시된 바와 같이, 일 예에 따른 속도 화살표(B-1)는 꺾임의 상한선이 없어 이동 수단의 속도가 높은 경우 화살표의 꺾임 과다할 수 있다. 이 경우, 이동 수단의 속도에 단순히 비례하여 꺾임 정도가 설정되기 때문에 이동 수단의 속도가 아주 높은 경우, 속도 화살표(B-1)가 지나치게 뾰족하여 화살표 형태를 벗어날 수도 있고, 디스플레이부(130)에 표시되는 속도 화살표(B-1)가 부자연스러울 수 있다.
따라서, 일 예에 따른 속도 화살표(B-2)는 꺾임 정도가 최고각 및 최저각의 기설정된 범위 내에서 변경될 수 있다. 이렇게 일정한 제한 범위에서 속도 화살표(B-2)가 변경되는 경우, 지나치게 속도 화살표가 뾰족해지는 것을 방지할 수 있다. 따라서, 디스플레이부(130)에 속도 화살표(B-3)가 표시되었을 때, 사용자는 이동 수단의 속도가 높아도 어색함 없이 속도 화살표(B-3)를 시인할 수 있다.
또한, 일 예에 따른 영상 생성부(120)는 속도 화살표 생성 시 속도에 따라 일정한 꺾임 비율을 반영하거나 혹은 일정하지 않은 꺾임 비율을 표시하여 사용자가 속도 변화를 체감하기 쉽도록 할 수 있다.
즉, 영상 생성부(120)는 속도 변화량의 크기에 기초하여 속도 화살표의 꺾임 정도의 변화량을 조절할 수 있고, 일 예에 따라 속도 변화량이 작을수록 꺾임 정도의 변화량을 증가시킬 수 있다.
도 4는 본 발명의 일 실시예에 따른 속도 화살표의 꺾임 정도의 변화량을 설명하기 위한 도면이다. 도 4은 이동 수단의 속도(x)에 따른 속도 화살표의 꺾임 내각(y)을 나타낸 그래프로써, 속도 화살표의 내각은 첫 번째 예(일 예-1)와 같이 이동 수단 속도에 비례할 수도 있고, 두 번째 예(일 예-2)와 같이 정비례가 아닌 곡선 형태, 예를 들어 지수 함수를 나타낼 수도 있다.
첫 번째 예(일 예-1)의 그래프를 수학식으로 나타내면 아래와 같고, 이 경우, 이동 수단이 저속인 경우 꺾임의 변화 정도가 적어 사용자가 속도 변화에 대한 체감이 어려울 수 있다.
[수학식 1]
y= 180 - x
한편, 두 번째 예(일 예-2)와 같이 저속인 경우 꺾임의 변화 정도를 크게 하면, 이동 수단이 저속으로 운행하는 경우에도 사용자는 직관적으로 속도 변화량을 체감할 수 있다. 두 번째 예(일 예-2)의 그래프를 수식으로 나타내면 수학식 2와 같이 표현될 수 있고, 이동 수단의 속도에 대하여 속도 화살표의 내각은 지수 함수로 표현될 수 있다.
[수학식 2]
y=180 - 100logx
도 2 내지 도 4에 나타난 속도 화살표를 통하여 사용자는 속도 연동에 따라 변형되는 GUI를 제공받을 수 있고, 속도감에 대한 정보를 직관적으로 얻을 수 있다. 특히 이동 수단이 고속으로 운행되는 경우 너무 잦은 속도 정보 표시를 대체할 수 있다.
한편, 일 예에 따르면, 영상 생성부(120)는 실제 현실 객체와 생성된 가상 객체가 서로 겹치지는 것을 해결하여 GUI의 시인성을 향상시킬 수 있다.
도 5는 본 발명의 일 실시예에 따른 카펫 정보를 설명하는 도면이다.
증강 현실에 따른 영상이 생성될 때, 이동 수단의 운행 가이드를 위한 GUI 정보로 이동 수단의 진행 방향에 대한 카펫 정보가 생성될 수 있다. 본 실시예에 따른 영상 생성부(120) 역시 이동 수단의 전방의 도로, 즉 운행 차로에 속도 및 운행에 관련된 정보를 포함하는 카펫 정보를 생성할 수 있다.
도 5와 같이, 종래의 경우 가상 객체에 해당하는 카펫 정보(C-1)가 현실 객체인 주변 이동 수단과 겹쳐서서 표시된다. 즉, 종래의 증강 현실은 현실 세계의 객체와 가상 객체간의 관계를 고려하지 않아 겹침 현상이 발생할 수 있다.
영상 생성부(120)는 카펫 정보가 다른 객체, 예를 들어 전방의 주변 이동 수단과 겹치는 경우 카펫 정보의 표시 크기를 조정할 수 있다. 이 때, 영상 생성부(120)는 보조 시스템(130)으로부터 획득한 주변 이동 수단 위치의 정보에 기초하여 주변 이동 수단과 중첩되지 않는 카펫 정보(C-2)를 생성할 수 있다. 보조 시스템(130) 중 이동 수단의 속도를 조절하거나 정속 주행을 위한 크루즈 컨트롤러로부터 주변 이동 수단의 위치 정보를 획득할 수 있고, 이를 이용하여 카펫 정보의 크기 및 표시 위치가 조정될 수 있다.
정리하면, 기존에는 현실 객체와 가상 객체 간에 겹침 표시가 많아 이질감이 존재하였지만, 본 실시예에 따를 경우, 현실 객체와 가상 객체 간의 위치를 고려하여 겹침을 방지함으로써 가상 객체 표시에 대한 이질감을 최소화할 수 있다. 또한, 이러한 개선된 가상 객체를 생성하기 위하여 추가적인 정보를 수신하지 않고, 기존의 보조 시스템, 예를 들어 스마트 크루즈 컨트롤러에서 제공하는 전방 이동 수단의 위치를 반영하여 가상 객체의 표시 위치 및 크기를 조정할 수 있다.
또한, 일 예에 따르면, 영상 생성부(120)는 서로 관계 없거나 표시가 겹치는 표시 정보들 간의 표시 위치를 서로 연동하여 표시할 수 있다.
도 6은 본 발명의 종래에 따른 카펫 정보와 턴바이턴 정보를 설명하는 도면이다.
종래-1 및 종래-2와 같이, 카펫 정보(D-1)와 이동 수단의 회전 운행을 가이드 하기 위한 턴바이턴 정보(turnbyturn, TBT 정보, T-1)는 서로 겹쳐서 표시되고, 이동 수단이 이동한 경우(종래-1에서 종래-2로)에도 표시 위치가 서로 연동되지 않아 불규칙한 겹침 현상 발생할 수 있다(D-2, T-2). 사용자는 불규칙하게 겹쳐진 부분으로 인하여 이동 수단 운행 정보를 직관적으로 시인할 수 없다.
반면, 본 실시예에 따른 영상 생성부(120)는 2개 이상의 표시 정보(카펫 정보와 턴바이턴 정보)의 위치를 서로 연결하여 한 개의 객체가 이동하면 다른 객체가 그와 같은 방향으로 움직이거나 사전에 정의된 수식 관계에 따라 이동하도록 할 수 있다. 즉, 영상 생성부(120)는 이동 수단의 회전 운행을 가이드 하기 위하여 생성한 턴바이턴 정보와 카펫 정보를 이동 수단의 주행 도로에 연동하여 표시하고, 이동 수단의 주행 차선에 따라 위치를 변경할 수 있다.
도 7은 본 발명의 일 실시예에 따른 카펫 정보와 턴바이턴 정보를 설명하는 도면이다.
도 7에 도시된 바와 같이, 카펫 정보와 턴바이턴 정보는 겹치는 부분 없이 이동 수단의 운행 차로에 맞추어 표시되고, 일 예-1에서와 같이 특정 차선으로 운행하던 이동 수단이 일 예-2와 같이 차선을 변경하면 카펫 정보 및 턴바이턴 정보가 이에 연동하여 표시된다. 즉, 영상 생성부(120)는 카펫 정보와 턴바이턴 정보의 표시 위치를 연동하여 시인성 확보할 수 있다.
정리하면, 기존에는 표시 정보들의 위치가 일부가 정해져 있거나 서로 간의 연동 위치가 정의되지 않아서 때때로 겹치거나 시인성이 좋지 않게 표시될 수 있었지만, 본 실시예에 따르면, 사전에 정의된 객체들 간의 위치를 연동하여 비례적으로 이동하거나 사전에 정의된 수식에 따라 이동하도록 하여 시인성을 개선하였다.
또한, 일 예에 따른 영상 생성부(120)는 현실 객체에 대하여 다른 형태의 객체로 확장하여 표시하거나 현실 객체를 강조하는데 그치지 않고 다른 형태의 객체로 변형 또는 확장하여 표시할 수 있다.
도 8은 본 발명의 일 실시예에 따른 도로 차선에 관련된 가상 객체를 설명하는 도면이다.
도 8의 일 예-1은 기존의 차선을 보다 두껍게 붉은 면으로 표시한 가상 객체(E-1)를 도시하고 있으며, 이를 통해 이동 수단이 해당 부분으로 이동하거나 진입할 수 없다는 것을 사용자에게 강조할 수 있다.
또는, 영상 생성부(120)는 일 예-2와 같이 진입 불가능한 도로의 차선을 진입 불가한 벽 형태의 가상 객체(E-2)로 생성할 수 있다. 즉, 라인의 정보를 벽의 형태로 표시하여 진입 불가하다는 의미를 강조하여 표시할 수 있다. 또는, 영상 생성부(120)는 외부에 진입한다는 표시 없이 다른 차선으로 진입하는 경우 해당 진입 방향의 차선을 진입 불가한 벽 형태의 가상 객체(E-2)로 생성할 수 있다.
즉, 영상 생성부(120)는 차량이 진입 불가능한 도로로 진입하거나 또는 진입 가능하지만 의도치 않은 차선 변경인 경우 수행되는 차선 이탈 경고(Lane Departure Warning)와 같은 상황이 발생되면 차선에 대하여 벽 형태의 가상 객체를 생성할 수 있다.
추가적으로 영상 생성부(120)는 벽 형태의 가상 객체(E-1, E-2)에 애니메이션 효과를 부가할 수도 있고, 도로의 진입 불가능한 정도에 따라 벽 형태의 가상 객체(E-1, E-2)의 크기 또는 색상, 벽의 밝기 또는 채도 등을 변경할 수도 있다. 즉, 벽의 형태로 표시된 가상 객체에 애니메이션 효과 적용으로 2D 그래픽에서의 벽 이미지의 인식 한계를 개선할 수 있고, 일 예에 따라 벽의 표시 시 세로선 적용으로 2D 그래픽에서의 수직적인 표시 한계를 개선할 수 있다. 애니메이션 효과로는 벽 형태의 가상 객체가 점멸되거나 일정한 떨림을 주어 강조될 수 있다. 또한, 상술한 바와 같이, 경고의 심각성에 따라 크기 또는 색상을 다르게 하여 사용자가 직관적으로 심각도를 인지할 수 있도록 할 수 있다.
정리하면, 종래의 가상 객체는 어떤 객체에 대하여 단순히 해당 객체를 하이라이트 하는 것, 예를 들어, 차선이탈 경고 시 차선과 동일한 선에 대한 색상을 변경하는 정도였지만, 본 실시예에 따르면, 기존 현실 객체의 형태(예컨대, 라인)를 다른 형태의 객체(예컨대, 벽 형태 가상 객체)로 변경하여 정보의 의미를 적극적으로 표시하고, 추가적으로 애니메이션 또는 세로선 효과를 통하여 가상의 객체를 2차원 화면에서 3차원 정보를 인지하기 쉬운 형태로 표시할 수 있다. 이를 통해 현실 객체를 다른 형태의 객체로 확장하고 시각적인 효과를 줘서 현실 객체에 대한 인지성 개선과 가상 객체의 의미 부여를 극대화 할 수 있다.
한편, 본 발명의 일 실시예에 따른 영상 생성부(120)는 현실 객체와 연동되는 가상 객체 표시를 할 때 현실 객체를 인식할 수 없는 상황이거나 인식이 잘되지 않는 경우를 보완하는 보강 가상 객체를 생성할 수 있다. 영상 생성부(120)는 현실 객체를 인식하여 가상 객체를 표시하는데, 만약 현실 객체가 인식이 되지 않거나 품질이 떨어지는 경우, 현실 객체를 인식할 수 있는 장치가 없는 경우, 이동 수단 센서, 예컨대 조향각 센서를 통하여 획득한 조향 정보에 기초하여 곡선 형태로 표시된 카펫 정보를 생성할 수 있다.
도 9는 본 발명의 일 실시예에 따른 벽 형태의 가상 형태를 설명하는 도면이다.
도시된 바와 같이, 이동 수단이 정해진 차선을 벗어나는 경우, 이를 경고하기 위하여 도 8 같은 벽 형태의 가상 객체가 생성될 수 있다.
도 9의 (a) 및 (b)는 차선 이탈과 같은 상황에서 이를 경고하고자 벽 형태의 가상 객체가 생성되는 것을 도시하고 있다.
만약, 이동 수단이 전방 차선 및 차량을 인식하고 휠을 제어하여 이동 수단이 차로 내 중앙을 유지할 수 있도록 보조하는 시스템(lane following assist, LFA)을 포함하는 경우, 이동 수단은 자동으로 조향될 수 있고, 이 경우 영상 생성부(120)는 도 9의 (c)와 같이 벽 형태의 가상 객체를 이동 수단 방향으로 이동시킬 수 있다.
즉, 영상 생성부(120)는 이동 수단의 중심이 이동 수단 진행 경로의 중심으로부터 소정 범위를 벗어나는 경우, 벽 형태의 가상 객체가 이동 수단, 즉 차량을 밀어주는 형태의 GUI를 생성할 수 있다. 이를 통하여 사용자는 이동 수단의 자동 조향을 직접적으로 체감할 수 있고, 벽이 차량을 밀어주는 느낌을 통하여 차로 유지에 대한 경각심을 가질 수 있다.
이 때, (c)의 가상 벽의 색상은 (b)와 다를 수 있다. 예를 들어, 차선 이탈을 경고하는 (b)의 가상 벽은 경고의 의미를 포함하기 위하여 붉은 색일 수 있고, (c)의 가상 벽은 경고 해제를 알릴 수 있는 초록색일 수 있다.
차량이 진로를 회복하여 차로의 중심으로 이동하면, 영상 생성부(120)는 도 9의 (d)와 같이, 생성되었던 가상 객체를 다시 사라지게 할 수 있으며, 이는 가상의 벽이 생성되는 애니메이션과 반대로 구현될 수 있다.
도 10은 본 발명의 일 실시예에 따른 보강 가상 객체를 설명하는 도면이다.
도시된 바와 같이, 종래에 따르면, 카펫 정보(F-1)가 도로 중간의 중앙 잔디로 연결되어 이동 수단의 진행 방향을 적절하게 가이드 할 수 없을 경우가 발생한다. 이는 진행 방향 표시를 할때 지도 정보를 이용하여 경우가 있으나 정밀 지도 또는 정밀 측위를 사용하지 않는 한 지도 정확도의 한계에 따라 카펫 정보(F-1)가 자연스럽게 표시되지 않기 때문이다. 또는 차선 인식을 이용하는 경우에는 차선 인식 장치가 없을 때는 유사한 가상 객체를 생성할 수 없고, 차선 인식이 도로 환경에 따라 간헐적으로 되지 않는 경우 카펫 정보(F-1)가 부자연스럽게 표시되거나 아예 표시되지 않을 수 있다.
이러한 문제점을 해결하고자, 영상 생성부(120)는 객체 인식부(110), 보다 구체적으로 이동 수단의 여러 상태를 감지할 수 있는 센서부로부터 획득한 조향각 정보에 기초하여 차선을 보정할 수 있는 카펫 정보(F-2)를 보강 가상 객체로 생성할 수 있다. 또한, 일 예로, 이동 수단이 운행 중인 도로의 차선 인식율이 소정 임계 정도에 미달하는 경우, 카펫 정보(F-2)를 보강 가상 객체로 생성할 수 있다.
도 10의 일 예에 따른 카펫 정보(F-2)는 실질적인 이동 수단 진행 방향을 표시할 수 있는 가이드 정보로써 차선의 진행 방향을 부드럽게 표시하고 있다. 이를 통해, 차선 폭이 넓어서 인식이 불가능한 구간이지만 객체 인식부(110) 내 센서부를 이용하여 곡선 형태의 진행 방향을 표시할 수 있고, 카펫 정보를 생성할 현실 객체 또는 정보 획득 장치가 없거나 현실 객체의 인식이 제한된 경우에도 조향각 데이터를 이용하여 이동 수단 주행 방향을 표시할 수 있다.
도 11은 본 발명의 일 실시예에 따른 이동 수단용 UI 생성 방법을 설명하기 위한 제어 흐름도이다.
우선 UI 생성 장치는 이동 수단의 전방을 촬상하고, 이동 수단의 운행 정보를 센싱하고, 이동 수단 주변의 현실 객체에 대한 정보를 획득할 수 있다(S1110). 이러한 이동 수단에 관련된 정보는 증강 현실 영상을 생성하여 촬상된 영상에 합성하기 위한 기초 데이터가 된다.
UI 생성 장치의 영상 생성부(120)는 촬상된 영상으로부터 현실 객체를 인식하고, 이동 수단의 운행 가이드를 위한 속도 화살표 또는 카펫 정보를 생성하여 이를 디스플레이부(130)에 표시할 수 있다(S1120).
구체적으로, 영상 생성부(120)는 이동 수단의 속도를 기반으로 꺾임 정도가 변경되는 속도 화살표를 가상 객체로 생성할 수 있고, 속도 화살표는 속도가 증가할수록 꺾임 정도가 커질수 있다.
또한, 영상 생성부(120)는 기설정된 최고각 및 최저각의 범위 내에서 속도 화살표의 꺾임 정도를 변경하거나 속도 변화량의 크기에 기초하여 꺾임 정도의 변화량을 조절할 수 있다. 이 때 속도 변화량이 작을수록 꺾임 정도의 변화량이 증가될 수 있다.
또한, 영상 생성부(120)는 주변 이동 수단과 중첩되지 않도록 카펫 정보 생성 또는 보정할 수 있고, 이동 수단 이동에 연동하여 카펫 정보 및 턴바이턴 정보 생성하여 생성된 가상 객체를 표시할 수 있다(S1130).
영상 생성부(120)는 보조 시스템(130)으로부터 획득한 주변 이동 수단 위치의 정보에 기초하여 주변 이동 수단과 중첩되지 않도록 카펫 정보를 생성할 수 있다.
또한, 영상 생성부(120)는 이동 수단의 회전 운행을 가이드 하기 위한 턴바이턴 정보를 생성할 때 이동 수단의 주행 도로에 연동하여 턴바이턴 정보의 표시 위치를 변경할 수 있다. 또한, 턴바이턴 정보와 카펫 정보가 불규칙적으로 중첩되지 않도록 카펫 정보 역시 주행 도로의 변동에 따라 그 위치를 변경하여 표시되도록 할 수 있다.
영상 생성부(120)는 가상의 벽 형태 객체를 생성하거나 차선이 명확하지 않은 경우 차선 보강 가상 객체를 생성하여 표시할 수 있다(S1140).
사용자의 시인성을 극대화하고 진입 불가한 도로의 경고 효과를 높이기 위하여 영상 생성부(120)는 진입 불가능한 도로의 차선 또는 진입 표시 없이 다른 차선으로 진입하는 경우 해당 진입 방향의 차선을 진입 불가한 벽 형태의 가상 객체로 생성할 수 있으며, 벽 형태의 가상 객체에 애니메이션 효과를 부가하거나 진입 불가능한 정도에 따라 벽 형태의 가상 객체의 크기 또는 색상을 변경할 수도 있다.
또한, 영상 생성부(120)는 이동 수단의 조향각 정보에 기초하여 차선을 보정할 수 있는 카펫 정보를 보강 가상 객체로 생성하여 표시할 수 있다.
도 11의 S1120 내지 S1140 단계는 각각 독립적으로 또는 순차적으로 수행될 수 있고, 생성되는 가상 객체의 환경 및 생성 조건에 따라 적절하게 그 순서가 변경될 수 있다.
상술된 바와 같이, 본 발명에 따르면, 속도 연동에 따라 변형되는 GUI를 통하여 속도감에 대한 정보를 직관적으로 얻을 수 있고, 객체간에 겹쳐지는 부분을 고려하여 다른 정보에 대한 겹침을 방지함으로서 가상 객체 표시에 대한 이질감이 개선되며, 서로 관계 없거나 표시가 겹치는 표시 정보들 간의 표시 위치를 서로 연동하여 표시하고, 현실 세계의 객체에 대하여 다른 형태의 객체로 확장하고 시각적인 효과를 줘서 현실 객체에 대한 인지성 개선과 가상 객체의 의미 부여를 극대화할 수 있으며, 현실 세계의 객체를 인식하는데 제한적인 상황에서도 다른 정보를 이용하여 표시에 어색함 없는 사용자 GUI를 제공할 수 있는 UI 생성 장치 및 방법이 제공될 수 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다.
따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (24)

  1. UI 생성 장치에 있어서,
    이동 수단의 전방 또는 주변을 촬상하고, 상기 촬상된 영상으로부터 현실 객체를 인식하는 객체 인식부와;
    상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 상기 촬상된 영상에 합성한 증강 현실 영상을 생성하는 영상 생성부와;
    상기 증강 현실 영상을 표시하는 디스플레이부를 포함하고,
    상기 영상 생성부는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성하는 것을 특징으로 하는 UI 생성 장치.
  2. 제1항에 있어서,
    상기 영상 생성부는,
    상기 이동 수단의 속도를 기반으로 꺾임 정도가 변경되는 속도 화살표를 상기 가상 객체로 생성하고,
    상기 속도 화살표는 속도가 증가할수록 상기 꺾임 정도가 커지는 것을 특징으로 하는 UI 생성 장치.
  3. 제2항에 있어서,
    상기 영상 생성부는,
    기설정된 최고각 및 최저각의 범위 내에서 상기 꺾임 정도를 변경하는 것을 특징으로 하는 UI 생성 장치.
  4. 제2항에 있어서,
    상기 영상 생성부는,
    상기 속도 변화량의 크기에 기초하여 상기 꺾임 정도의 변화량을 조절하며,
    상기 속도 변화량이 작을수록 상기 꺾임 정도의 변화량을 증가시키는 것을 특징으로 하는 UI 생성 장치.
  5. 제1항에 있어서,
    상기 영상 생성부는,
    상기 이동 수단의 진행 방향에 대한 카펫 정보를 가상 객체로 생성하고,
    상기 보조 시스템으로부터 획득한 주변 이동 수단 위치의 정보에 기초하여 상기 주변 이동 수단과 중첩되지 않는 상기 카펫 정보를 생성하는 것을 특징으로 하는 UI 생성 장치.
  6. 제5항에 있어서,
    상기 영상 생성부는,
    상기 이동 수단의 회전 운행을 가이드 하기 위한 턴바이턴 정보를 가상 객체로 생성하고,
    상기 이동 수단의 상기 카펫 정보와 상기 턴바이턴 정보의 표시 위치를 변경하는 것을 특징으로 하는 UI 생성 장치.
  7. 제1항에 있어서,
    상기 영상 생성부는,
    진입 불가능한 도로의 차선 또는 진입 표시 없이 다른 차선으로 진입하는 경우 해당 진입 방향의 차선을 진입 불가한 벽 형태의 가상 객체로 생성하는 것을 특징으로 하는 UI 생성 장치.
  8. 제7항에 있어서,
    상기 영상 생성부는,
    상기 벽 형태의 가상 객체에 애니메이션 효과를 부가하고,
    상기 도로의 상기 진입 불가능한 정도에 따라 상기 벽 형태의 가상 객체의 크기 또는 색상을 변경하는 것을 특징으로 하는 UI 생성 장치.
  9. 제1항에 있어서,
    상기 영상 생성부는,
    상기 이동 수단의 중심이 이동 수단 진행 경로의 중심으로부터 소정 범위를 벗어나는 경우, 벽 형태의 가상 객체를 생성하고, 상기 벽 형태의 가상 객체를 상기 이동 수단 방향으로 이동시키는 것을 특징으로 하는 UI 생성 장치.
  10. 제1항에 있어서,
    상기 객체 인식부는,
    상기 이동 수단의 속도가 기설정된 임계값 이하이면, 상기 이동 수단의 전방 차선 정보를 변경하지 않는 것을 특징으로 하는 UI 생성 장치.
  11. 제1항에 있어서,
    상기 영상 생성부는,
    상기 이동 수단의 조향각 정보에 기초하여 상기 차선을 보정할 수 있는 카펫 정보를 상기 보강 가상 객체로 생성하는 것을 특징으로 하는 UI 생성 장치.
  12. UI 생성 방법에 있어서,
    이동 수단의 전방 또는 주변을 촬상하는 단계와;
    상기 촬상된 영상으로부터 현실 객체를 인식하는 단계와;
    상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 상기 촬상된 영상에 합성한 증강 현실 영상을 생성하는 영상 생성 단계와;
    상기 증강 현실 영상을 표시하는 단계를 포함하고,
    상기 영상 생성 단계는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 상기 현실 객체를 보정할 수 있는 보강 가상 객체를 생성하는 것을 특징으로 하는 UI 생성 방법.
  13. 제12항에 있어서,
    상기 영상 생성 단계는,
    상기 이동 수단의 속도를 기반으로 꺾임 정도가 변경되는 속도 화살표를 상기 가상 객체로 생성하고,
    상기 속도 화살표는 속도가 증가할수록 상기 꺾임 정도가 커지는 것을 특징으로 하는 UI 생성 방법.
  14. 제13항에 있어서,
    상기 영상 생성 단계는,
    기설정된 최고각 및 최저각의 범위 내에서 상기 꺾임 정도를 변경하는 것을 특징으로 하는 UI 생성 방법.
  15. 제13항에 있어서,
    상기 영상 생성 단계는,
    상기 속도 변화량의 크기에 기초하여 상기 꺾임 정도의 변화량을 조절하며,
    상기 속도 변화량이 작을수록 상기 꺾임 정도의 변화량을 증가시키는 것을 특징으로 하는 UI 생성 방법.
  16. 제12항에 있어서,
    상기 영상 생성 단계는,
    상기 이동 수단의 진행 방향에 대한 카펫 정보를 가상 객체로 생성하고,
    상기 보조 시스템으로부터 획득한 주변 이동 수단 위치의 정보에 기초하여 상기 주변 이동 수단과 중첩되지 않는 상기 카펫 정보를 생성하는 것을 특징으로 하는 UI 생성 방법.
  17. 제16항에 있어서,
    상기 영상 생성 단계는,
    상기 이동 수단의 회전 운행을 가이드 하기 위한 턴바이턴 정보를 가상 객체로 생성하고,
    상기 이동 수단의 상기 카펫 정보와 상기 턴바이턴 정보의 표시 위치를 변경하는 것을 특징으로 하는 UI 생성 방법.
  18. 제12항에 있어서,
    상기 영상 생성 단계는,
    진입 불가능한 도로의 차선 또는 진입 표시 없이 다른 차선으로 진입하는 경우 해당 진입 방향의 차선을 진입 불가한 벽 형태의 가상 객체로 생성하는 것을 특징으로 하는 UI 생성 방법.
  19. 제17항에 있어서,
    상기 영상 생성 단계는,
    상기 벽 형태의 가상 객체에 애니메이션 효과를 부가하고,
    상기 도로의 상기 진입 불가능한 정도에 따라 상기 벽 형태의 가상 객체의 크기 또는 색상을 변경하는 것을 특징으로 하는 UI 생성 방법.
  20. 제12항에 있어서,
    상기 영상 생성 단계는,
    상기 이동 수단의 중심이 이동 수단 진행 경로의 중심으로부터 소정 범위를 벗어나는 경우, 벽 형태의 가상 객체를 생성하고, 상기 벽 형태의 가상 객체를 상기 이동 수단 방향으로 이동시키는 것을 것을 특징으로 하는 UI 생성 방법.
  21. 제12항에 있어서,
    상기 현실 객체를 인식하는 단계는,
    상기 이동 수단의 속도가 기설정된 임계값 이하이면, 상기 이동 수단의 전방 차선 정보를 변경하지 않는 것을 특징으로 하는 UI 생성 방법.
  22. 제12항에 있어서,
    상기 영상 생성 단계는,
    상기 이동 수단의 조향각 정보에 기초하여 상기 차선을 보정할 수 있는 카펫 정보를 상기 보강 가상 객체로 생성하는 것을 특징으로 하는 UI 생성 방법.
  23. UI 생성 장치에 있어서,
    이동 수단의 전방 또는 주변으로부터 현실 객체를 인식하는 객체 인식부와;
    상기 인식된 현실 객체에 기반하여 상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 포함하는 증강 현실 영상을 생성하는 영상 생성부와;
    상기 증강 현실 영상을 표시하는 디스플레이부를 포함하고,
    상기 영상 생성부는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 보강 가상 객체를 생성하고,
    상기 디스플레이부는 투명한 디스플레이 영역을 포함하는 것을 특징으로 하는 UI 생성 장치.
  24. UI 생성 방법에 있어서,
    이동 수단의 전방 또는 주변으로부터 현실 객체를 인식하는 단계와;
    상기 인식된 현실 객체에 기반하여 상기 이동 수단의 운행 가이드를 위한 가상 객체를 생성하고, 상기 가상 객체를 포함하는 증강 현실 영상을 생성하는 영상 생성 단계와;
    상기 증강 현실 영상을 투명한 디스플레이 영역을 포함하는 디스플레이부에 표시하는 단계를 포함하고,
    상기 영상 생성 단계는 상기 이동 수단의 속도에 연동하여 변경되는 가상 객체를 생성하고, 상기 현실 객체의 특성에 기초하여 보강 가상 객체를 생성하는 것을 특징으로 하는 UI 생성 방법.
KR1020200049540A 2020-04-23 2020-04-23 이동 수단용 ui 생성 장치 및 ui 생성 방법 KR20210131129A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200049540A KR20210131129A (ko) 2020-04-23 2020-04-23 이동 수단용 ui 생성 장치 및 ui 생성 방법
US17/010,357 US11376963B2 (en) 2020-04-23 2020-09-02 User interface generating apparatus and method for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200049540A KR20210131129A (ko) 2020-04-23 2020-04-23 이동 수단용 ui 생성 장치 및 ui 생성 방법

Publications (1)

Publication Number Publication Date
KR20210131129A true KR20210131129A (ko) 2021-11-02

Family

ID=78221706

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200049540A KR20210131129A (ko) 2020-04-23 2020-04-23 이동 수단용 ui 생성 장치 및 ui 생성 방법

Country Status (2)

Country Link
US (1) US11376963B2 (ko)
KR (1) KR20210131129A (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11697346B1 (en) * 2022-03-29 2023-07-11 GM Global Technology Operations LLC Lane position in augmented reality head-up display system
WO2024080419A1 (ko) * 2022-10-14 2024-04-18 엘지전자 주식회사 신호 처리 장치, 및 이를 구비하는 차량용 디스플레이 장치

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2255411B (en) * 1991-05-02 1994-08-10 Delco Electronics Corp Vehicle speedometer
US8521411B2 (en) * 2004-06-03 2013-08-27 Making Virtual Solid, L.L.C. En-route navigation display method and apparatus using head-up display
JP4599932B2 (ja) * 2004-08-06 2010-12-15 アイシン・エィ・ダブリュ株式会社 ナビゲーションシステム
DE602006005079D1 (de) * 2006-08-24 2009-03-19 Harman Becker Automotive Sys Verfahren zum Abbilden der Umgebung eines Fahrzeugs und System dafür
US8704653B2 (en) * 2009-04-02 2014-04-22 GM Global Technology Operations LLC Enhanced road vision on full windshield head-up display
US8384531B2 (en) * 2009-04-02 2013-02-26 GM Global Technology Operations LLC Recommended following distance on full-windshield head-up display
US8317329B2 (en) * 2009-04-02 2012-11-27 GM Global Technology Operations LLC Infotainment display on full-windshield head-up display
DE102010001873A1 (de) * 2010-02-12 2011-08-18 ZF Friedrichshafen AG, 88046 Verfahren zur Bestimmung und Schaltung des optimalen Ganges vor der Einfahrt in eine Kurve bei einem Kraftfahrzeug umfassend ein Automatgetriebe
US8098171B1 (en) * 2010-12-28 2012-01-17 GM Global Technology Operations LLC Traffic visibility in poor viewing conditions on full windshield head-up display
KR20120127830A (ko) * 2011-05-16 2012-11-26 삼성전자주식회사 차량용 단말을 위한 사용자 인터페이스 방법 및 장치
WO2013169601A2 (en) * 2012-05-07 2013-11-14 Honda Motor Co., Ltd. Method to generate virtual display surfaces from video imagery of road based scenery
KR20140070861A (ko) * 2012-11-28 2014-06-11 한국전자통신연구원 멀티 모달 hmi 제어 장치 및 방법
US9064420B2 (en) * 2013-03-14 2015-06-23 Honda Motor Co., Ltd. Augmented reality heads up display (HUD) for yield to pedestrian safety cues
KR101510050B1 (ko) * 2014-04-15 2015-04-07 현대자동차주식회사 차량 주행 제어 장치 및 방법
KR101646340B1 (ko) * 2014-08-27 2016-08-05 현대자동차주식회사 차량정보 표시장치 및 그 표시방법
US9677899B2 (en) * 2014-12-01 2017-06-13 Thinkware Corporation Electronic apparatus, control method thereof, computer program, and computer-readable recording medium
US9690104B2 (en) * 2014-12-08 2017-06-27 Hyundai Motor Company Augmented reality HUD display method and device for vehicle
KR101916993B1 (ko) * 2015-12-24 2018-11-08 엘지전자 주식회사 차량용 디스플레이 장치 및 그 제어방법
KR102581359B1 (ko) * 2016-09-02 2023-09-20 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량
WO2018147066A1 (ja) * 2017-02-08 2018-08-16 株式会社デンソー 車両用表示制御装置
DE102017202225A1 (de) * 2017-02-13 2018-08-16 Volkswagen Aktiengesellschaft Verfahren, vorrichtung und computerlesbares speichermedium mit instruktionen zur steuerung einer anzeige einer augmented-reality-head-up-display-vorrichtung
FR3064372A1 (fr) * 2017-03-21 2018-09-28 Visteon Global Technologies, Inc. Dispositif d'assistance a la conduite en realite augmentee d'un vehicule, dispositif d'affichage tete haute associe, vehicule associe et procede associe
KR102397089B1 (ko) * 2017-07-28 2022-05-12 삼성전자주식회사 이미지 처리 방법 및 이미지 처리 장치
DE102017216100A1 (de) * 2017-09-12 2019-03-14 Volkswagen Aktiengesellschaft Verfahren, Vorrichtung und computerlesbares Speichermedium mit Instruktionen zur Steuerung einer Anzeige einer Augmented-Reality-Display-Vorrichtung für ein Kraftfahrzeug
JP2019082601A (ja) * 2017-10-31 2019-05-30 パナソニックIpマネジメント株式会社 表示システム、及び移動体
JP6890306B2 (ja) * 2018-03-20 2021-06-18 パナソニックIpマネジメント株式会社 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム
EP3782840B1 (en) * 2019-08-20 2023-08-02 Volvo Car Corporation Aid for a driver with impaired field of view

Also Published As

Publication number Publication date
US20210331588A1 (en) 2021-10-28
US11376963B2 (en) 2022-07-05

Similar Documents

Publication Publication Date Title
WO2021197189A1 (zh) 基于增强现实的信息显示方法、系统、装置及投影设备
KR101921969B1 (ko) 차량용 증강현실 헤드업 디스플레이 장치 및 방법
JP6528139B2 (ja) 表示制御装置及び表示制御プログラム
WO2018193708A1 (ja) ヘッドアップディスプレイ装置およびその表示制御方法
US20090262145A1 (en) Information display device
JP6695049B2 (ja) 表示装置及び表示制御方法
WO2019097755A1 (ja) 表示装置及びコンピュータプログラム
US11525694B2 (en) Superimposed-image display device and computer program
JP6883759B2 (ja) 表示システム、表示システムの制御方法、プログラム、及び移動体
JP2017188744A (ja) 車両用周辺監視装置
JP2019049505A (ja) 車両用表示装置および表示制御方法
JP5654284B2 (ja) 車両用ディスプレイ装置
US9836814B2 (en) Display control apparatus and method for stepwise deforming of presentation image radially by increasing display ratio
KR20180022374A (ko) 운전석과 보조석의 차선표시 hud와 그 방법
JP2018118622A (ja) ヘッドアップディスプレイ装置および表示制御方法
KR20210131129A (ko) 이동 수단용 ui 생성 장치 및 ui 생성 방법
US20210078503A1 (en) Display control device and non-transitory tangible computer-readable medium therefor
WO2021197190A1 (zh) 基于增强现实的信息显示方法、系统、装置及投影设备
EP3694740A1 (en) Display device, program, image processing method, display system, and moving body
CN114489332A (zh) Ar-hud输出信息的显示方法及系统
JP6804805B2 (ja) ヘッドアップディスプレイ装置
JP2008145364A (ja) 経路案内装置
JP2016074410A (ja) ヘッドアップディスプレイ装置、ヘッドアップディスプレイ表示方法
JP6186905B2 (ja) 車載表示装置およびプログラム
JP2018020779A (ja) 車両情報投影システム

Legal Events

Date Code Title Description
A201 Request for examination