KR102371620B1 - 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 - Google Patents

Abstract

전자 장치의 제어 방법이 개시된다. 본 제어 방법은, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 단계 및 생성된 신호 종류 정보를 이용하여 차량의 운전 관련 안내를 수행하는 단계를 포함하고, 신호 종류 정보를 생성하는 단계는, 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정하는 단계, 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성하는 단계 및 생성된 관심 영역 영상 데이터로부터 신호등의 신호 영역 부분의 영상 데이터를 검출하는 단계를 포함한다.

Description

전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체{ELECTRONIC APPARATUS, CONTROL METHOD OF ELECTRONIC APPARATUS AND COMPUTER READABLE RECORDING MEDIUM}

본 발명은 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체에 관한 것으로, 보다 상세하게는 신호등의 신호 종류 인식 및 이를 기초로 차량의 운전과 관련된 안내를 수행할 수 있는 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.

차량의 주행 시 가장 중요한 것은 안전 주행 및 교통 사고의 예방이며, 이를 위해 차량의 자세 제어, 차량 구성장치들의 기능 제어 등을 수행하는 다양한 보조장치 및 안전 벨트, 에어백 등의 안전장치가 차량에 장착되어 있다.

뿐만 아니라, 최근에는 블랙박스 등과 같이 차량에 위치하여 차량의 주행 영상 및 각종 센서들로부터 전송되는 데이터를 저장함으로써, 차량의 사고 발생시 차량의 사고 원인을 규명하는 장치들도 차량에 구비되는 추세이다. 스마트폰, 태블릿과 같은 휴대용 단말기들도 블랙박스 또는 네비게이션 어플리케이션 등이 탑재 가능하여 이와 같은 차량용 장치로 활용되고 있는 실정이다.

그러나, 현재 이와 같은 차량용 장치들에서의 주행 영상 활용도는 낮은 실정이다. 보다 구체적으로 현재 차량에 장착된 카메라와 같은 비젼 센서를 통해 차량의 주행 영상을 획득하더라도 차량의 전자 장치는 이를 단순히 표시, 전송하거나, 차선 이탈 여부 등과 같은 간단한 주변 알림 정보만을 생성하는데 그치고 있다.

또한, 현재 새로이 대두되는 차량의 전자 장치로서 HUD(Head Up Display)나, 증강 현실 인터페이스도 제안되고 있으나 여기에서도 차량의 주행 영상의 활용도는 단순 디스플레이 또는 간단한 알림 정보 생성에 그치고 있다.

본 발명의 상술한 문제점을 해결하기 위해 안출된 것으로, 본 발명의 목적은 차량의 운전 관련 영상 데이터를 이용하여 신호등의 신호 종류 정보를 생성하고, 이를 기초로 차량의 운전과 관련된 안내를 수행하는 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체를 제공함에 있다.

상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치의 제어 방법은, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 단계 및 상기 생성된 신호 종류 정보를 이용하여 상기 차량의 운전 관련 안내를 수행하는 단계를 포함한다.

그리고, 상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 단계를 더 포함하고, 상기 신호 종류 정보를 생성하는 단계는, 상기 차량이 정차 상태로 판단되면, 수행될 수 있다.

또한, 상기 정차 상태 여부를 판단하는 단계는, 상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하는 단계 및 상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단하는 단계를 포함할 수 있다.

그리고, 상기 신호 종류 정보를 생성하는 단계는, 상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하는 단계 및 상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성하는 단계를 포함할 수 있다.

또한, 상기 신호 종류 정보를 생성하는 단계는, 상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하는 단계, 상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하는 단계 및 상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성하는 단계를 포함할 수 있다.

그리고, 상기 신호 종류 정보는, 상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보일 수 있다.

또한, 상기 차량의 운전 관련 안내를 수행하는 단계는, 상기 신호 종류 정보를 이용하여 신호 안내를 출력하는 단계를 포함할 수 있다.

그리고, 상기 차량의 운전 관련 안내를 수행하는 단계는, 상기 차량의 길 안내를 위한 경로 정보와 상기 신호 종류 정보를 이용하여 신호 변경 안내를 출력하는 단계를 포함할 수 있다.

또한, 상기 출력하는 단계는, 상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 수행될 수 있다.

그리고, 상기 출력하는 단계는, 상기 운전 관련 안내를 수행하기 위한 인디케이터를 생성하는 단계 및 상기 생성된 인디케이터를 증강 현실을 통해 출력하는 단계를 포함할 수 있다.

한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치는, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 신호 종류 정보 생성부 및 상기 생성된 신호 종류 정보를 이용하여 상기 차량의 운전 관련 안내를 수행하는 제어부를 포함한다.

그리고, 상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 운전 상태 판단부를 더 포함하고, 상기 제어부는, 상기 차량이 정차 상태로 판단되면, 신호 신호 종류 정보를 생성하도록 상기 신호 종류 정보 생성부를 제어할 수 있다.

또한, 상기 운전 상태 판단부는, 상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하고, 상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단할 수 있다.

그리고, 상기 신호 종류 정보 생성부는, 상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하고, 상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성할 수 있다.

또한, 상기 신호 종류 정보 생성부는, 상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하고, 상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하며, 상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성할 수 있다.

그리고, 상기 신호 종류 정보는, 상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보일 수 있다.

또한, 상기 제어부는, 상기 신호 종류 정보를 이용하여 신호 안내를 출력하도록 출력부를 제어할 수 있다.

그리고, 상기 제어부는, 상기 차량의 길 안내를 위한 경로 정보와 상기 신호 종류 정보를 이용하여 신호 변경 안내를 출력하도록 출력부를 제어할 수 있다.

또한, 상기 제어부는, 상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 상기 신호 변경 안내가 출력되도록 출력부를 제어할 수 있다.

그리고, 상기 제어부는, 상기 운전 관련 안내를 수행하기 위한 인디케이터를 생성하고, 상기 생성된 인디케이터를 증강 현실을 통해 출력하도록 출력부를 제어할 수 있다.

한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 기록 매체는, 상술한 제어 방법을 컴퓨터에서 실행시키기 위한 프로그램 코드가 기록될 수 있다.

상술한 본 발명의 다양한 실시 예에 따르면, 차량이 정차 또는 주행 중인 도로에 위치한 신호등의 신호 종류 정보를 생성하고, 이를 기초로 차량의 운전에 관련된 안내를 수행할 수 있다.

또한, 본 발명의 다양한 실시 예에 따르면, 신호 종류 정보를 이용하여 차량의 운전자에게 신호를 안내함으로써, 운전자 보조 역할을 수행하게 할 수 있다.

또한, 본 발명의 다양한 실시 예에 따르면, 내비게이션 경로와 신호 종류 정보를 이용하여 정확한 신호 변경 알림을 수행함으로써, 사용자 편의성을 도모할 수 있다.

또한, 본 발명의 다양한 실시 예에 따르면, 증강 현실 상에서 길 안내, 신호 안내, 신호 변경 안내 등과 같은 차량 운전 관련 안내를 수행함으로써, 운전자에게 보다 직관적인 방법으로 안내를 제공할 수 있다.

도 1은 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다.
도 2는 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시 예에 따른 전자 장치의 제어 방법을 나타내는 흐름도 이다.
도 4는 본 발명의 일 실시 예에 따른 차량의 정차 상태 판단 방법을 구체적으로 나타내는 흐름도 이다.
도 5는 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 그레이 영상 데이터를 생성하는 과정을 나타내는 도면이다.
도 6은 본 발명의 일 실시 예에 따른 전자 장치의 신호 종류 정보 생성 방법을 구체적으로 나타내는 흐름도 이다.
도 7은 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 관심 영역 영상 데이터를 생성하는 과정을 나타내는 도면이다.
도 8은 본 발명의 일 실시 예에 따른 정지 신호에 대응되는 관심 영역 영상 데이터 및 정지 신호 판단 방법을 나타내는 도면이다.
도 9는 본 발명의 일 실시 예에 따른 직진 신호에 대응되는 관심 영역 영상 데이터 및 직진 신호 판단 방법을 나타내는 도면이다.
도 10은 본 발명의 일 실시 예에 따른 전자 장치의 신호 변경 안내 방법을 나타내는 흐름도 이다.
도 11은 본 발명의 일 실시 예에 따른 신호 변경 안내 화면을 나타내는 도면이다.
도 12는 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 분리형이 경우 구현 형태를 나타내는 도면이다.
도 13은 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 일체형인 경우 구현 형태를 나타내는 도면이다.
도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display) 및 전자 장치를 이용한 구현 형태를 나타내는 도면이다.

이하의 내용은 단지 본 발명의 원리를 예시한다. 그러므로 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 장치를 발명할 수 있는 것이다. 또한, 본 명세서에 열거된 모든 조건부 용어 및 실시 예들은 원칙적으로, 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백히 의도되고, 이와 같이 특별히 열거된 실시 예들 및 상태들에 제한적이지 않는 것으로 이해되어야 한다.

또한, 본 발명의 원리, 관점 및 실시 예들 뿐만 아니라 특정 실시 예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물들은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다.

따라서, 예를 들어, 본 명세서의 블럭도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도, 상태 변환도, 의사 코드 등은 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.

프로세서 또는 이와 유사한 개념으로 표시된 기능 블럭을 포함하는 도면에 도시된 다양한 소자의 기능은 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 능력을 가진 하드웨어의 사용으로 제공될 수 있다. 프로세서에 의해 제공될 때, 상기 기능은 단일 전용 프로세서, 단일 공유 프로세서 또는 복수의 개별적 프로세서에 의해 제공될 수 있고, 이들 중 일부는 공유될 수 있다.

또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.

본 명세서의 청구범위에서, 상세한 설명에 기재된 기능을 수행하기 위한 수단으로 표현된 구성요소는 예를 들어 상기 기능을 수행하는 회로 소자의 조합 또는 펌웨어/마이크로 코드 등을 포함하는 모든 형식의 소프트웨어를 포함하는 기능을 수행하는 모든 방법을 포함하는 것으로 의도되었으며, 상기 기능을 수행하도록 상기 소프트웨어를 실행하기 위한 적절한 회로와 결합된다. 이러한 청구범위에 의해 정의되는 본 발명은 다양하게 열거된 수단에 의해 제공되는 기능들이 결합되고 청구항이 요구하는 방식과 결합되기 때문에 상기 기능을 제공할 수 있는 어떠한 수단도 본 명세서로부터 파악되는 것과 균등한 것으로 이해되어야 한다.

상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다.

이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시 예를 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다. 도 1을 참조하면, 전자 장치(100)는 저장부(110), 입력부(120), 출력부(130), 차선 정보 생성부(140), 차로 위치 정보 생성부(150), 증강 현실 제공부(160), 제어부(170), 통신부(180), 센싱부(190)의 전부 또는 일부를 포함한다.

여기서, 전자 장치(100)는 차량 운전자에게 운전 관련 안내를 제공할 수 있는 스마트 폰, 태블릿 컴퓨터, 노트북 컴퓨터, PDA(personal digital assistant), PMP(portable multimedia player), 스마트 글래스, 프로젝트 글래스, 내비게이션(navigation), 블랙 박스(Black-box) 등과 같은 다양한 장치로 구현될 수 있다.

여기서, 차량의 운전 상태는, 차량의 정차 상태, 차량의 주행 상태, 차량의 주차 상태 등과 같이 차량이 운전자에 의하여 운전되고 있는 다양한 상태를 포함할 수 있다.

운전 관련 안내는 길 안내, 차선 이탈 안내, 전방 차량 출발 안내, 신호 안내, 신호 변경 안내, 전방 차량 추돌 방지 안내, 차로 변경 안내, 차로 안내 등과 같이 차량 운전자의 운전을 보조하기 위한 다양한 안내를 포함할 수 있다.

여기서, 길 안내는, 운전 중인 차량의 전방을 촬영한 영상에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 길 안내를 수행하는 증강 현실 길 안내, 및 2D(2-Dimensional) 또는 3D(3-Dimensional)의 지도 데이터에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 길 안내를 수행하는 2D(2-Dimensional) 또는 3D(3-Dimensional) 길 안내를 포함할 수 있다. 여기서, 길 안내는, 사용자가 차량에 탑승하여 운전하는 경우 뿐만 아니라, 사용자가 걷거나 뛰어서 이동하는 경우의 길 안내도 포함하는 개념으로 해석될 수 있다.

또한, 차선 이탈 안내는, 주행 중인 차량이 차선을 이탈하였는지 여부를 안내하는 것일 수 있다.

또한, 전방 차량 출발 안내는, 정차 중인 차량의 전방에 위치한 차량의 출발 여부를 안내하는 것일 수 있다.

또한, 신호 안내는, 운전 중인 차량의 전방에 위치한 신호등의 신호 상태, 예를 들어, 정지 신호, 직진 신호, 좌회전 신호, 우회전 신호 등을 안내하는 것일 수 있다. 여기서, 각각의 신호에 대응되는 색상 및 형태는 국가 별로 상이할 수 있다. 한국의 경우, 정지 신호는 적색원, 직진 신호는 청색원, 좌회전 신호는 청색 좌측 화살표, 우회전 신호는 청색 우측 화살표일 수 있다.

또한, 신호 변경 안내는, 운전 중인 차량의 전방에 위치한 신호등의 신호 상태가 변경되었음을 안내하는 것일 수 있다. 일 예로, 정지 신호에서 직진 신호로 변경되면, 이를 안내하는 것 일 수 있다.

또한, 전방 차량 추돌 방지 안내는 정차 또는 주행 중인 차량의 전방에 위치한 차량과의 거리가 일정 거리 이내가 되면 전방 차량과 추돌을 방지하기 위해 이를 안내하는 것일 수 있다.

또한, 차로 변경 안내는 목적지까지의 경로 안내를 위하여 차량이 위치한 차로에서 다른 차로로 변경을 안내하는 것일 수 있다.

또한, 차로 안내는 차량이 현재 위치한 차로를 안내하는 것일 수 있다.

이러한, 다양한 안내의 제공을 가능하게 하는 운전 관련 영상은 차량의 전방을 향하여 거치된 카메라에서 실시간 촬영될 수 있다. 여기서 카메라는 차량에 거치된 전자 장치(100)와 일체로 형성되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 스마트 폰, 내비게이션, 또는 블랙 박스와 일체로 형성될 수 있고, 전자 장치(100)는 일체로 형성된 카메라에서 촬영된 영상을 입력받을 수 있다.

다른 예로, 카메라는 전자 장치(100)와 별개로 차량에 거치되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 차량의 전방을 향하여 거치된 별도의 블랙 박스일 수 있고, 전자 장치(100)는 별도로 거치된 블랙박스와 유/무선 통신을 통하여 촬영 영상을 입력받거나, 블랙 박스의 촬영 영상을 저장하는 저장 매체가 전자 장치(100)에 삽입되면, 전자 장치(100)는 촬영 영상을 입력받을 수 있다.

이하에서는, 상술한 내용을 기초로 본 발명의 일 실시 예에 따른 전자 장치(100)에 대해서 보다 구체적으로 설명하기로 한다.

저장부(110)는 전자 장치(100)의 동작에 필요한 다양한 데이터 및 어플리케이션을 저장하는 기능을 한다. 특히, 저장부(110)는 전자 장치(100)의 동작에 필요한 데이터, 예를 들어, OS, 경로 탐색 어플리케이션, 지도 데이터 등을 저장할 수 있다. 또한, 저장부(110)는 전자 장치(100)의 동작에 의하여 생성된 데이터, 예를 들어, 탐색된 경로 데이터, 수신한 영상 등을 저장할 수 있다. 또한, 저장부(110)는 신호등에 포함된 복수의 신호들의 위치 관계 정보를 저장할 수 있다.

여기서 저장부(110)는 RAM(Random Access Memory), 플레시메모리, ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electronically Erasable and Programmable ROM), 레지스터, 하드디스크, 리무버블 디스크, 메모리 카드, USIM(Universal Subscriber Identity Module)등과 같은 내장된 형태의 저장소자는 물론, USB 메모리 등과 같은 착탈가능한 형태의 저장소자로 구현될 수도 있다.

입력부(120)는 전자 장치(100)의 외부로부터의 물리적 입력을 특정한 전기 신호로 변환하는 기능을 한다. 여기서, 입력부(120)는 사용자 입력부(121)와 마이크부(123)의 전부 또는 일부를 포함할 수 있다.

사용자 입력부(121)는 터치, 푸쉬동작 등과 같은 사용자 입력을 수신할 수 있다. 여기서 사용자 입력부(120)는 다양한 버튼의 형태, 터치 입력을 수신하는 터치 센서, 접근하는 모션을 수신하는 근접 센서 중 적어도 하나를 이용하여 구현될 수 있다.

마이크부(123)는 사용자의 음성 및 차량의 내외부에서 발생한 음향을 수신할 수 있다.

출력부(130)는 전자 장치(100)의 데이터를 출력하는 장치이다. 여기서, 출력부(130)는 디스플레이부(131)와 오디오 출력부(133)의 전부 또는 일부를 포함할 수 있다.

디스플레이부(131)는 전자 장치(100)이 시각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 디스플레이부(131)는 전자 장치(100)의 하우징 전면(前面)에 마련된 디스플레이부로 구현될 수 있다. 여기서 디스플레이부(131)는 전자 장치(100)와 일체로 형성되어 시각적 인식 데이터를 출력할 수 있고, HUD(Head Up Display)와 같이 전자 장치(100)와 별개로 설치되어 시각적 인식 데이터를 출력할 수도 있다.

오디오 출력부(133)는 전자 장치(100)가 청각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 오디오 출력부(133)는 전자 장치(100)의 사용자에게 알려야 할 데이터를 소리를 표현하는 스피커로 구현될 수 있다.

통신부(180)는 전자 장치(100)가 다른 디바이스와 통신하기 위하여 마련될 수 있다. 통신부(180)는, 위치 데이터부(181)과, 무선 인터넷부(183)과, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189)의 전부 또는 일부를 포함할 수 있다.

위치 데이터부(181)는 GNSS(Global Navigation Satellite System)를 통하여 위치 데이터를 획득하는 장치이다. GNSS는 인공위성으로부터 수신한 전파신호를 이용하여 수신 단말기의 위치를 산출할 수 있는 항법 시스템을 의미한다. GNSS의 구체적인 예로는, 그 운영 주체에 따라서 GPS(Global Positioning System), Galileo, GLONASS(Global Orbiting Navigational Satellite System), COMPASS, IRNSS(Indian Regional Navigational Satellite System), QZSS(Quasi-Zenith Satellite System) 등 일 수 있다. 본 발명의 일 실시예에 따른 전자 장치(100)의위치 데이터부(181)는, 전자 장치(100)가 사용되는 지역에서 서비스하는 GNSS 신호를 수신하여 위치 데이터를 획득할 수 있다.

무선 인터넷부(183)는 무선 인터넷에 접속하여 데이터를 획득하거나 송신하는 장치이다. 무선 인터넷부(183)를 통하여 접속할 수 있는 무선 인터넷은, WLAN(Wireless LAN), Wibro(Wireless broadband), Wimax(World interoperability for microwave acess), HSDPA(High Speed Downlink Packet Acess) 등 일 수 있다.

방송 송수신부(185)는 각종 방송 시스템을 통하여 방송 신호를 송수신하는 장치이다. 방송 송수신부(185)를 통하여 송수신할 수 있는 방송 시스템은, DMBT(Digital Multimedia Broadcasting Terrestrial), DMBS(Digital Multimedia Broadcasting Satellite), MediaFLO(Media Foeward Link Only), DVBH(Digital Video Broadcast Handheld), ISDBT(Integrated Services Digital Broadcast Tereestrial) 등일 수 있다. 방송 송수신부(185)를 통하여 송수신되는 방송 신호에는 교통 데이터, 생활 데이터 등을 포함할 수 있다.

이동 통신부(186)는 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evoloution) 등과 같은 다양한 이동 통신 규격에 따라 이동 통신 망에 접속하여 통신할 수 있다.

근거리 통신부(187)는 근거리 통신을 위한 장치이다. 근거리 통신부(187)는, 전술한 바와 같이, 블루투스(Bluetooth), RFID(Radio Frequency Idntification), 적외선 통신(IrDA, Infraed Data Association), UWB(Ultra WidBand), ZigBee, NFC(Near Field Communication), Wi-Fi 등을 통하여 통신할 수 있다.

유선 통신부(189)는 전자 장치(100)를 다른 디바이스와 유선으로 연결할 수 있는 인터페이스 장치이다. 유선 통신부(119)는, USB Port를 통하여 통신할 수 있는 USB 모듈일 수 있다.

이러한, 통신부(180)는 위치 데이터부(181)와, 무선 인터넷부(183)와, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 다른 디바이스와 통신할 수 있다.

일 예로, 전자 장치(100)가 카메라 기능을 포함하지 않는 경우, 블랙 박스 등과 같은 차량용 카메라에서 촬영된 영상을 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 수신할 수 있다.

다른 예로, 복수의 디바이스와 통신하는 경우에, 어느 하나는 근거리 통신부(187)로 통신하고, 다른 하나는 유선 통신부(119)를 통하여 통신하는 경우도 가능하다.

센싱부(190)는 전자 장치(100)의 현재 상태를 감지할 수 있는 장치이다. 센싱부(190)는 모션 센싱부(191)와, 광 센싱부(193)의 전부 또는 일부를 포함할 수 있다.

모션 센싱부(191)는 전자 장치(100)의 3차원 공간 상에서의 운동을 감지할 수 있다. 모션 센싱부(191)은, 3축 지자기 센서 및 3축 가속도 센서를 포함할 수 있다. 모션 센싱부(191)을 통하여 획득한 운동 데이터를 위치 데이터부(191)를 통하여 획득한 위치 데이터와 결합하여, 전자 장치(100)를 부착한 차량의 보다 정확한 궤적을 산출할 수 있다.

광 센싱부(193)는 전자 장치(100)의 주변 조도(illuminance)를 측정하는 장치이다. 광 센싱부(193)를 통하여 획득한 조도데이터를 이용하여, 디스플레이부(195)의 밝기를 주변 밝기에 대응되도록 변화시킬 수 있다.

전원부(195)는 전자 장치(100)의 동작 또는 전자 장치(100)와 연결된 다른 디바이스의 동작을 위하여 필요한 전원을 공급하는 장치이다. 전원부(195)는, 전자 장치(100)에 내장된 배터리 또는 차량 등의 외부전원에서 전원을 공급받는 장치일 수 있다. 또한, 전원부(195)는, 전원을 공급받는 형태에 따라서 유선 통신 모듈(119)로 구현되거나, 무선으로 공급받는 장치로 구현될 수도 있다.

한편, 제어부(170)는 전자 장치(100)의 전반적인 동작을 제어한다. 구체적으로 제어부(170)는 저장부(110), 입력부(120), 출력부(130), 신호 종류 정보 생성부(140), 운전 상태 판단부(150), 증강 현실 제공부(160), 통신부(180), 센싱부(190)의 전부 또는 일부를 제어할 수 있다.

신호 종류 정보 생성부(140)는 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성할 수 있다.

구체적으로, 신호 종류 정보 생성부(140)는 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정하고, 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성할 수 있다. 또한, 신호 종류 정보 생성부(140)는 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 신호등의 신호 영역 부분의 영상 데이터를 검출할 수 있다. 또한, 신호 종류 정보 생성부(140)는 제2 영역의 면적 화소값과 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하고, 비교 결과에 따라 신호등의 신호 종류 정보를 생성할 수 있다.

여기서, 신호 종류 정보는, 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보로, 정지 신호 정보, 직진 신호 정보, 좌회전 신호, 우회전 신호 등을 포함할 수 있다.

한편, 상술한 신호 종류 정보 생성부(140)의 신호 종류 정보 생성 동작은, 운전 상태 판단부(150)가 차량이 정차 상태라고 판단하는 경우 수행될 수 있다.

구체적으로, 운전 상태 판단부(150)는 운전 관련 영상 데이터를 이용하여 차량의 정차 상태 여부를 판단할 수 있다. 보다 구체적으로, 운전 상태 판단부(150)는 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하고, 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 시간 순서로 순차적으로 비교하여 차량의 정차 상태 여부를 판단할 수 있다.

만약, 운전 상태 판단부(150)의 판단 결과, 차량이 정차 상태로 판단되면, 제어부(170)는 상기 신호 종류 정보 생성부(140)가 동작하여 신호 종류 정보를 생성하도록 제어할 수 있다.

한편, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보를 이용하여 차량의 운전 관련 안내를 수행할 수 있다.

일 예로, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보를 이용하여 신호 안내를 출력하도록 출력부(140)를 제어할 수 있다. 구체적으로, 제어부(170)는 신호등의 신호 상태가 어떠한지, 예를 들어, 정지 신호 인지, 직진 신호 인지, 우회전 신호 인지, 좌회전 신호 인지 등은 이미지 또는 음성으로 출력하도록 출력부(140)를 제어할 수 있다.

다른 예로, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보 및 길 안내를 위한 경로 정보를 이용하여 신호 변경 안내를 출력하도록 출력부(140)를 제어할 수 있다. 구체적으로, 제어부(170)는 전자 장치(100)가 차량의 목적지까지 길 안내를 수행하는 경우, 목적지까지의 길 안내를 위한 경로 정보와 신호 종류 정보를 이용하여 신호 변경 안내를 출력하도록 출력부(140)를 제어할 수 있다. 즉, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 좌회전 신호로 변경되면, 제어부(170)는 신호 변경 안내를 출력하지 않도록 출력부(140)를 제어할 수 있다. 또한, 즉, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 직진 신호로 변경되면, 제어부(170)는 신호 변경 안내를 출력하도록 출력부(140)를 제어할 수 있다. 이 경우, 제어부(170)는 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 신호 변경 안내를 출력하도록 출력부(140)를 제어할 수 있다.

한편, 제어부(170)는 전자 기기(100)가 증강 현실을 기반으로 운전 관련 안내를 수행할 수 있다. 여기서, 증강 현실이란, 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 부가 정보(예를 들면, 관심 지점(Point Of Interest: POI)을 나타내는 그래픽 요소, 목적지까지의 경로를 나타내는 그래픽 요소 등)를 시각적으로 중첩하여 제공하는 방법일 수 있다. 이 경우, 제어부(170)는 증강 현실 제공부(190)와 연동하여 운전 관련 안내를 수행하기 위한 인디케이터를 생성하고, 생성된 인디케이터를 출력부(140)를 통해 출력할 수 있다. 일 예로, 증강 현실은 차량 앞유리를 이용한 HUD 또는 별도의 영상 출력 장치를 이용한 영상 오버레이 등을 통해 제공될 수 있으며, 증강 현실 제공부(160)는 이와 같이 현실 영상 또는 유리에 오버레이되는 인터페이스 이미지 등을 생성할 수 있다. 이를 통해 증강 현실 네비게이션 또는 차량 인포테인먼트 시스템 등이 구현될 수 있다.

도 2는 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다. 도 2를 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(100)는 내비게이션, 블랙 박스, 스마트 폰 또는 기타 차량용 증강 현실 인터페이스 제공 장치 등과 같은 차량에 구비되는 각종 장치로 구현될 수 있으며, 다양한 통신망 및 다른 전자 디바이스(61 내지 64)와 접속할 수 있다.

또한, 전자 장치(100)는 인공위성(20)으로부터 수신한 전파신호에 따라 GPS모듈을 연동하여 현재의 위치 및 현재 시간대를 산출할 수 있다.

각각의 인공위성(20)은 주파수 대역이 상이한 L밴드 주파수를 송신할 수 있다. 전자 장치(100)는, 각각의 인공위성(20)에서 송신된 L밴드 주파수가 전자 장치(100)에 도달하는데 까지 소요된 시간에 기초하여 현재 위치를 산출할 수 있다.

한편, 전자 장치(100)는, 통신부(180)을 통하여 제어국(40, ACR), 기지국(50, RAS) 등을 통하여 네트워크(30)에 무선으로 접속할 수 있다. 네트워크(30)에 전자 장치(100)가 접속하면, 네트워크(30)에 접속한 다른 전자 디바이스(61, 62)와도 간접적으로 접속하여 데이터를 교환할 수 있다.

한편, 전자 장치(100)는, 통신 기능을 가진 다른 디바이스(63)를 통하여 간접적으로 네트워크(30)에 접속할 수도 있다. 예를 들어, 네트워크(30)에 접속할 수 있는 모듈이 전자 장치(100)에 구비되지 않은 경우에, 근거리 통신 모듈 등을 통하여 통신 기능을 가진 다른 디바이스(63)와 통신할 수 있다.

도 3은 본 발명의 일 실시 예에 따른 전자 장치의 신호 종류 정보 생성 방법을 나타내는 흐름도 이다. 도 3을 참조하면, 먼저 전자 장치(100)는 운전 관련 영상 데이터를 이용하여 차량의 정차 상태 여부를 판단할 수 있다(S101).

그리고, 전자 장치(100)는 차량이 정차 상태로 판단되면, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성할 수 있다(S102).

그리고, 생성된 신호 종류 정보를 이용하여 차량의 운전 관련 안내를 수행할 수 있다(S103).

도 4는 본 발명의 일 실시 예에 따른 차량의 정차 상태 판단 방법을 구체적으로 나타내는 흐름도 이다. 도 4를 참조하면, 먼저 전자 장치(100)는 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성할 수 있다(S201). 여기서, 차량의 운전 관련 영상은 차량의 정차, 주행 등에 대한 영상을 포함할 수 있다. 그리고, 차량의 운전 관련 영상은 전자 장치(100)에 포함된 카메라 모듈에서 촬영한 영상이거나 또는 다른 장치에서 촬영한 영상을 전자 장치(100)가 수신한 영상일 수 있다. 그리고, 차량의 운전 관련 영상은 RGB(Red Green Blue)(칼라) 영상일 수 있다. 이에 대해서는 도 5를 참조하여 구체적으로 설명하기로 한다.

도 5는 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 그레이 영상 데이터를 생성하는 과정을 나타내는 도면이다. 도 5를 참조하면, 운전 상태 판단부(150)는 도 5(a)와 같은 칼라 영상인 운전 관련 영상 데이터를 수신하고, 그레이 변환을 수행하여 도 5(b)와 같은 그레이 영상 데이터를 생성할 수 있다.

그리고, 전자 장치(100)는 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교할 수 있다(S202). 구체적으로, 운전 상태 판단부(150)는 그레이 영상 데이터에 포함된 복수의 프레임 각각을 시간 순서로 순차적으로 비교할 수 있다.

그리고, 전자 장치(100)는 비교 결과에 따라 차량의 정차 상태 여부를 판단할 수 있다(S203). 일 예로, 운전 상태 판단부(150)는 현재 프레임과 이전 프레임의 차이를 산출하고, 산출된 값을 기 설정된 값과 비교하여 차량의 정차 상태 여부를 판단할 수 있다.

이러한, 도 4와 같은 차량 정차 상태 판단 방법에 따르면, 그레이 영상 데이터로 정차 상태 여부를 판단하는 바, 이미지 처리 속도를 향상시킬 수 있고, 이에 따라, 주행, 정차가 시시 각각 변화하는 운전 상태에서 정차 상태 여부를 신속하게 판단할 수 있다.

한편, 상술한 도 4와 같은 차량 정차 상태 판단 방법은 본 발명의 일 예시일 뿐, 이에 한정되는 것은 아니다. 따라서, 모션 센싱부(191)의 센싱 정보를 기초로 차량의 정차 상태 여부를 판단하는 등과 같이 다양한 차량 정차 상태 판단 방법이 이용될 수 있다.

도 6은 본 발명의 일 실시 예에 따른 전자 장치의 신호 종류 정보 생성 방법을 구체적으로 나타내는 흐름도 이다. 도 6을 참조하면, 먼저 전자 장치(100)는 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정할 수 있다(S301).

이 경우, 신호 종류 정보 생성부(140)는, 일 예로, 소실점(Vanishing point)을 이용하여 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정할 수 있다. 즉, 신호 종류 정보 생성부(140)는 차량의 운전 중에 카메라에서 촬영된 촬영 영상으로부터 차선을 추출하고, 추출된 차선을 연장하여 서로 교차하게 되는 점을 소실점(Vanishing point)으로 결정할 수 있다. 또한, 신호등은 소실점의 상부 영역에 위치하는 바, 신호 종류 정보 생성부(140)는 결정된 소실점의 상부 영역을 관심 영역으로 결정할 수 있다.

한편, 다른 예로, 신호 종류 정보 생성부(140)는 운전 관련 영상 데이터에서 미리 설정된 소정 영역을 관심 영역으로 결정할 수 있다.

그리고, 전자 장치(100)는 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성할 수 있다(S302). 이 경우, 신호 종류 정보 생성부(140)는, 일 예로, 결정된 관심 영역의 영상 데이터를 하기의 하기의 수학식 1에 적용하여 관심 영역 영상 데이터를 생성할 수 있다.

여기서, R,G,B는 결정된 관심 영역의 영상 데이터의 R,G,B 값이고, K는 변환의 기준이 되는 기 설정된 화소값이고, x,y,z는 특정 계수일 수 있다. 일 예로, K는 평균 화소값인 128일 수 있다.

이에 따라, 신호 종류 정보 생성부(140)는 신호등의 신호 영역 부분이 명확하게 구별되는 관심 영역 영상 데이터를 생성할 수 있다.

한편, 신호등에 포함된 복수의 신호 각각에 대응되는 색상 및/또는 형태는 국가 별로 상이할 수 있다. 한국의 경우, 정지 신호는 적색원, 직진 신호는 청색원, 좌회전 신호는 청색 좌측 화살표, 우회전 신호는 청색 우측 화살표일 수 있다.

따라서, 상술한 기 설정된 화소값 및 x,y,z는 알고리즘에 따라 서로 다른 값을 가질 수 있다.

이러한, S301, S302 단계에 대해서는 도 7을 참조하여 구체적으로 설명하기로 한다.

도 7은 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 관심 영역 영상 데이터를 생성하는 과정을 나타내는 도면이다. 도 7을 참조하면, 신호 종류 정보 생성부(140)는 도 7(a)와 같은 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정할 수 있다.

그리고, 신호 종류 정보 생성부(140)는 결정된 관심 영역의 영상 데이터를 변환하여 도 7(b)와 같은 관심 영역 영상 데이터(702)를 생성할 수 있다. 이 경우, 신호 종류 정보 생성부(140)는 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터(702)를 생성할 수 있다.

이에 따라, 신호 종류 정보 생성부(140)는 신호등의 신호 영역 부분(703)이 명확하게 구별되는 관심 영역 영상 데이터를 생성할 수 있다.

한편, 전자 장치(100)는 관심 영역 영상 데이터에 제1 영역, 제2 영역을 적용하여 신호등의 신호 영역 부분의 영상 데이터를 검출할 수 있다(S303). 구체적으로 신호 종류 정보 생성부(140)는 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 신호등의 신호 영역 부분의 영상 데이터를 검출할 수 있다. 여기서, 제1, 제2 영역은, 신호등 신호의 형태에 대응되는 형태일 수 있다. 일 예로, 신호등의 신호가 원형, 타원형, 사각형인 경우, 제1 및 제2 영역은 원형, 타원형, 사각형일 수 있다.

한편, 전자 장치(100)는 제2 영역의 면적 화소값과 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교할 수 있다(S304). 여기서, 기 설정된 면적 화소값은 신호등에 포함된 복수의 신호 각각에 대응되는 색상 및/또는 형태 등을 반영하여 변경될 수 있다.

그리고, 전자 장치(100)는 비교 결과에 따라 신호등의 신호등의 신호 종류 정보를 생성할 수 있다(S305).

이러한, S303, S304, S305 단계에 대해서는 도 8 내지 9를 참조하여 구체적으로 설명하기로 한다.

도 8은 본 발명의 일 실시 예에 따른 정지 신호에 대응되는 관심 영역 영상 데이터 및 정지 신호 판단 방법을 나타내는 도면이다. 신호등이 적색의 정지 신호를 표시하는 경우, 신호 종류 정보 생성부(140)가 신호등을 포함하는 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하면, 도 8(a)와 같은 관심 영역 영상 데이터(801)를 생성할 수 있다. 여기서, 신호등의 적색 정지 신호는, 관심 영역 영상 데이터(801) 상에서 802와 같이 생성될 수 있다.

이 경우, 신호 종류 정보 생성부(140)는 제1 영역(804), 제2 영역(803)을 관심 영역 영상 데이터(801)에 적용하여 신호등의 신호 영역 부분(802)의 영상 데이터를 검출할 수 있다.

그리고, 신호 종류 정보 생성부(140)는 제2 영역(803)의 면적 화소값과 제1 영역(804)의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하여 신호등의 신호등의 신호 종류 정보를 생성할 수 있다. 일 예로, 신호 종류 정보 생성부(140)는제2 영역(803)의 면적 화소값과 제1 영역(804)의 면적 화소값의 차이가 기 설정된 면적 화소값 보다 작은 경우(즉, 도 8(b)와 같은 경우, 제1 영역(804)의 면적 화소값이 큼), 신호 종류 정보를 정지 신호로 판단할 수 있다.

도 9는 본 발명의 일 실시 예에 따른 직진 신호에 대응되는 관심 영역 영상 데이터 및 직진 신호 판단 방법을 나타내는 도면이다. 신호등이 청색의 직진 신호를 표시하는 경우, 신호 종류 정보 생성부(140)가 신호등을 포함하는 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하면, 도 9(a)와 같은 관심 영역 영상 데이터(901)를 생성할 수 있다. 여기서, 신호등의 청색 직진 신호는, 관심 영역 영상 데이터(901) 상에서 902와 같이 생성될 수 있다.

이 경우, 신호 종류 정보 생성부(140)는 제1 영역(904), 제2 영역(903)을 관심 영역 영상 데이터(901)에 적용하여 신호등의 신호 영역 부분(902)의 영상 데이터를 검출할 수 있다.

그리고, 신호 종류 정보 생성부(140)는 제2 영역(903)의 면적 화소값과 제1 영역(904)의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하여 신호등의 신호등의 신호 종류 정보를 생성할 수 있다. 일 예로, 신호 종류 정보 생성부(140)는제2 영역(903)의 면적 화소값과 제1 영역(904)의 면적 화소값의 차이가 기 설정된 면적 화소값 보다 큰 경우(즉, 도 9(b)와 같은 경우, 제1 영역(904)의 면적 화소값이 작음), 신호 종류 정보를 직진 신호로 판단할 수 있다.

한편, 도 8 내지 9에서는 생략하였으나, 좌회전, 우회전과 같은 회전 신호의 판단도 상술한 방법과 유사하게 수행될 수 있다. 즉, 신호 종류 정보 생성부(140)는 상술한 방법 및/또는 신호등의 신호 영역 부분의 영상 데이터의 형상(예를 들어, 화살표 형상)을 이용하여 신호 종류 정보를 판단할 수 있다.

이러한, 도 6과 같은 신호 종류 정보 생성 방법에 따르면, 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 평준화한 상태로 신호 종류 정보를 판단하는 바, 이미지 처리 속도를 향상시킬 수 있고, 이에 따라, 주행, 정차가 시시 각각 변화하는 운전 상태에서 신호 종류 정보를 신속하게 판단할 수 있다.

한편, 상술한 도 6과 같은 신호 종류 정보 생성 방법은 본 발명의 일 예시일 뿐, 이에 한정되는 것은 아니다. 따라서, 컬러 영상인 운전 관련 영상 데이터로부터 정지 신호에 대응되는 적신호를 검출하거나, 또는 직진 신호에 대응되는 청색 신호를 검출하여 신호 종류 정보를 판단하는 등과 같이 다양한 신호 종류 정보 생성 방법이 이용될 수 있다.

한편, 본 발명의 일 실시 예에 따르면, 신호 종류 정보가 정지 신호라고 판단되면, 신호 종류 정보 생성부(140)는 관심 영역 영상 데이터에서 출발 신호, 좌회전/우회전 같은 회전 신호가 표시될 영역에 제1 영역 및 제2 영역을 미리 위치시킬 수 있다. 이 경우, 신호 종류 정보 생성부(140)는 저장부(110)에 저장된 복수의 신호들의 위치 관계 정보를 이용하여 제1 영역 및 제2 영역을 상기 위치에 미리 위치시킬 수 있다. 이 경우, 이미지 처리 속도를 향상시킴으로써, 정지 신호에서 직진 신호 또는 좌회전/우회전 같은 회전 신호로의 변경을 더욱 신속하게 판단할 수 있다.

도 10은 본 발명의 일 실시 예에 따른 전자 장치의 신호 변경 안내 방법을 나타내는 흐름도 이다. 도 10을 참조하면, 전자 장치(100)는 길 안내를 위한 경로 정보를 획득할 수 있다(S401). 구체적으로 전자 장치(100)가 차량의 목적지까지 길 안내를 수행하는 경우, 제어부(170)는 차량의 현재 위치에서 길 안내를 위한 경로 정보를 획득할 수 있다.

그리고, 전자 장치(100)는 신호 변경 여부를 판단할 수 있다(S402). 구체적으로, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보를 기초로 신호 변경 여부를 판단할 수 있다.

그리고, 신호가 변경된 경우, 전자 장치(100)는 변경된 신호에 따라 차량이 주행 해야하는지 여부를 판단할 수 있다(S403). 일 예로, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 좌회전 신호로 변경되면, 제어부(170)는 차량이 주행을 하지 않아야 한다고 판단할 수 있다. 다른 예로, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 직진 신호로 변경되면, 제어부(170)는 차량이 주행해야 한다고 판단할 수 있다.

그리고, 차량이 주행해야하는 경우, 전자 장치(100)는 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는지 판단할 수 있다(S404).

그리고, 기 설정된 시간 동안 차량이 정차 상태를 유지하면, 전자 장치(100)는 신호 변경 안내를 출력할 수 있다(S405).

도 11은 본 발명의 일 실시 예에 따른 신호 변경 안내 화면을 나타내는 도면이다. 도 11을 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(100)는 증강 현실 상에서의 신호 변경 안내 화면을 표시할 수 있다.

일 예로, 신호등의 신호 상태가 도 11(a)와 같은 정지 신호에서 도 11(b)와 같은 직진 신호로 변경되면, 증강 현실 제공부(160)는 증강 현실 상에서 안내를 위하여 증강 현실에 오버레이되는 인디케이터를 생성하고, 생성된 신호 변경 안내 인디케이터(1101)를 도 11(b)와 같이 증강 현실 상에서 출력할 수 있다.

도 12는 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 분리형이 경우 구현 형태를 나타내는 도면이다. 도 12를 참조하면, 차량용 내비게이션(100)과 별도로 마련된 차량용 블랙박스(200)가 유선/무선 통신 방식을 이용하여 본 발명의 일 실시 예에 따른 시스템을 구성할 수 있다.

차량용 내비게이션(100)은 내비게이션 하우징(191)의 전면에 마련된 디스플레이부(145)와, 내비게이션 조작키(193)와, 내비게이션 마이크(195)를 포함할 수 있다.

차량용 블랙박스(200)는 주행 중 및 정차 중에 차량의 데이터를 획득할 수 있다. 즉, 차량의 주행 중의 영상을 촬영할 수 있음은 물론, 차량이 정차하여 있는 경우에도 영상을 촬영할 수 있다. 차량용 블랙박스(200)를 통하여 획득된 영상의 화질은, 일정하거나 변화될 수 있다. 예를 들어, 사고의 발생을 전후하여서는 영상의 화질을 높게 하고, 통상적인 경우에는 영상의 화질을 낮게 함으로써 요구되는 저장공간을 최소화하면서도 핵심적인 영상을 저장할 수 있다.

차량용 블랙박스(200)는 블랙박스 카메라(222)와, 블랙박스 마이크(224)와, 부착부(281)를 포함할 수 있다.

한편, 도 12에서는 차량용 내비게이션(100)과 별도로 마련된 차량용 블랙박스(200)가 유/무선 통신 방식을 통하여 연결된 것으로 도시하였으나, 차량용 내비게이션(100)과 차량용 블랙박스(200)는 유/무선 통신 방식을 통하여 연결되지 않을 수도 있다. 이 경우, 블랙 박스(200)의 촬영 영상을 저장하는 저장 매체가 전자 장치(100)에 삽입되면, 전자 장치(100)는 촬영 영상을 입력받을 수 있다. 한편, 차량용 블랙박스(200)가 차량용 내비게이션(100)의 기능을 구비하거나, 차량용 내비게이션(100)이 카메라를 구비하여 일체화되는 경우도 가능하다. 이에 대해서는 도 13을 참조하여 구체적으로 설명하기로 한다.

도 13은 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 일체형인 경우 구현 형태를 나타내는 도면이다. 도 13을 참조하면, 전자 장치가 카메라 기능을 내포하는 경우, 사용자는 전자 장치의 카메라 부분이 차량의 전방을 촬영하고, 전자 장치의 디스플레이 부분이 사용자 인식가능하도록 전자 장치를 거치시킬 수 있다. 이에 따라, 본 발명의 일 실시 예에 따른 시스템을 구현할 수 있다.

도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display) 및 전자 장치를 이용한 구현 형태를 나타내는 도면이다. 도 14를 참조하면, 전자 장치는 헤드업 디스플레이와 유/무선 통신을 통하여 증강 현실 안내 화면을 헤드업 디스플레이 상에서 표시할 수 있다.

한편, 상술한 본 발명의 다양한 실시 예들에 따른 전자 장치의 제어 방법은 프로그램 코드로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장된 상태로 각 서버 또는 기기들에 제공될 수 있다.

비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.

또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.

100 : 전자 장치 110 : 저장부
120 : 입력부 130 : 출력부
140 : 신호 종류 정보 생성부 150 : 운전 상태 판단부
160 : 증강 현실 제공부 170 : 제어부
180 : 통신부 190 : 센싱부
195 : 전원부

Claims (9)

1. 전자 장치의 제어 방법에 있어서,
   차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 단계; 및
   상기 생성된 신호 종류 정보를 이용하여 상기 차량의 운전 관련 안내를 수행하는 단계;를 포함하고,
   상기 신호 종류 정보를 생성하는 단계는,
   상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하는 단계;
   상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성하는 단계; 및
   상기 생성된 관심 영역 영상 데이터로부터 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하는 단계;를 포함하되,
   상기 신호등의 신호 영역 부분의 영상 데이터는 상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 검출되고,
   상기 제1 영역의 면적 화소값 및 상기 제2 영역의 면적 화소값과, 상기 영상 데이터의 형상을 기반으로 정지 신호 정보, 직진 신호 정보, 좌회전 신호 및 우회전 신호를 포함하는 상기 신호 종류 정보를 생성하는 것을 특징으로 하는 제어 방법.
2. 제1항에 있어서,
   상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 단계;를 더 포함하고,
   상기 신호 종류 정보를 생성하는 단계는,
   상기 차량이 정차 상태로 판단되면, 수행되는 것을 특징으로 하는 제어 방법.
3. 제2항에 있어서,
   상기 정차 상태 여부를 판단하는 단계는,
   상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하는 단계; 및
   상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
4. 제1항에 있어서,
   상기 신호 종류 정보를 생성하는 단계는,
   상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하는 단계; 및
   상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성하는 단계;를 더 포함하는 것을 특징으로 하는 제어 방법.
5. 제1항에 있어서,
   상기 신호 종류 정보는,
   상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보인 것을 특징으로 하는 제어 방법.
6. 제5항에 있어서,
   상기 차량의 운전 관련 안내를 수행하는 단계는,
   상기 신호 종류 정보를 이용하여 신호 안내를 출력하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
7. 제5항에 있어서,
   상기 차량의 운전 관련 안내를 수행하는 단계는,
   상기 차량의 길 안내를 위한 경로 정보와 상기 신호 종류 정보를 이용하여 신호 변경 안내를 출력하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
8. 제6항 내지 제7항 중 어느 한 항에 있어서,
   상기 출력하는 단계는,
   상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 수행되는 것을 특징으로 하는 제어 방법.
9. 제6항 내지 제7항 중 어느 한 항에 있어서,
   상기 출력하는 단계는,
   상기 운전 관련 안내를 수행하기 위한 인디케이터를 생성하는 단계; 및
   상기 생성된 인디케이터를 증강 현실을 통해 출력하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.

Images