KR102233391B1 - 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 - Google Patents

전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
KR102233391B1
KR102233391B1 KR1020140073041A KR20140073041A KR102233391B1 KR 102233391 B1 KR102233391 B1 KR 102233391B1 KR 1020140073041 A KR1020140073041 A KR 1020140073041A KR 20140073041 A KR20140073041 A KR 20140073041A KR 102233391 B1 KR102233391 B1 KR 102233391B1
Authority
KR
South Korea
Prior art keywords
signal
vehicle
image data
type information
area
Prior art date
Application number
KR1020140073041A
Other languages
English (en)
Other versions
KR20150144201A (ko
Inventor
이한우
Original Assignee
팅크웨어(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 팅크웨어(주) filed Critical 팅크웨어(주)
Priority to KR1020140073041A priority Critical patent/KR102233391B1/ko
Priority to US14/739,572 priority patent/US10269124B2/en
Priority to CN201510333358.0A priority patent/CN105185137B/zh
Priority to CN201810214077.7A priority patent/CN108470162B/zh
Publication of KR20150144201A publication Critical patent/KR20150144201A/ko
Priority to US15/604,215 priority patent/US10282848B2/en
Priority to KR1020210037364A priority patent/KR102371620B1/ko
Application granted granted Critical
Publication of KR102233391B1 publication Critical patent/KR102233391B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)

Abstract

전자 장치의 제어 방법이 개시된다. 본 제어 방법은, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 단계 및 생성된 신호 종류 정보를 이용하여 차량의 운전 관련 안내를 수행하는 단계를 포함한다.

Description

전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체{ELECTRONIC APPARATUS, CONTROL METHOD OF ELECTRONIC APPARATUS AND COMPUTER READABLE RECORDING MEDIUM}
본 발명은 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체에 관한 것으로, 보다 상세하게는 신호등의 신호 종류 인식 및 이를 기초로 차량의 운전과 관련된 안내를 수행할 수 있는 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
차량의 주행 시 가장 중요한 것은 안전 주행 및 교통 사고의 예방이며, 이를 위해 차량의 자세 제어, 차량 구성장치들의 기능 제어 등을 수행하는 다양한 보조장치 및 안전 벨트, 에어백 등의 안전장치가 차량에 장착되어 있다.
뿐만 아니라, 최근에는 블랙박스 등과 같이 차량에 위치하여 차량의 주행 영상 및 각종 센서들로부터 전송되는 데이터를 저장함으로써, 차량의 사고 발생시 차량의 사고 원인을 규명하는 장치들도 차량에 구비되는 추세이다. 스마트폰, 태블릿과 같은 휴대용 단말기들도 블랙박스 또는 네비게이션 어플리케이션 등이 탑재 가능하여 이와 같은 차량용 장치로 활용되고 있는 실정이다.
그러나, 현재 이와 같은 차량용 장치들에서의 주행 영상 활용도는 낮은 실정이다. 보다 구체적으로 현재 차량에 장착된 카메라와 같은 비젼 센서를 통해 차량의 주행 영상을 획득하더라도 차량의 전자 장치는 이를 단순히 표시, 전송하거나, 차선 이탈 여부 등과 같은 간단한 주변 알림 정보만을 생성하는데 그치고 있다.
또한, 현재 새로이 대두되는 차량의 전자 장치로서 HUD(Head Up Display)나, 증강 현실 인터페이스도 제안되고 있으나 여기에서도 차량의 주행 영상의 활용도는 단순 디스플레이 또는 간단한 알림 정보 생성에 그치고 있다.
본 발명의 상술한 문제점을 해결하기 위해 안출된 것으로, 본 발명의 목적은 차량의 운전 관련 영상 데이터를 이용하여 신호등의 신호 종류 정보를 생성하고, 이를 기초로 차량의 운전과 관련된 안내를 수행하는 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체를 제공함에 있다.
상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치의 제어 방법은, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 단계 및 상기 생성된 신호 종류 정보를 이용하여 상기 차량의 운전 관련 안내를 수행하는 단계를 포함한다.
그리고, 상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 단계를 더 포함하고, 상기 신호 종류 정보를 생성하는 단계는, 상기 차량이 정차 상태로 판단되면, 수행될 수 있다.
또한, 상기 정차 상태 여부를 판단하는 단계는, 상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하는 단계 및 상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단하는 단계를 포함할 수 있다.
그리고, 상기 신호 종류 정보를 생성하는 단계는, 상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하는 단계 및 상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성하는 단계를 포함할 수 있다.
또한, 상기 신호 종류 정보를 생성하는 단계는, 상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하는 단계, 상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하는 단계 및 상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성하는 단계를 포함할 수 있다.
그리고, 상기 신호 종류 정보는, 상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보일 수 있다.
또한, 상기 차량의 운전 관련 안내를 수행하는 단계는, 상기 신호 종류 정보를 이용하여 신호 안내를 출력하는 단계를 포함할 수 있다.
그리고, 상기 차량의 운전 관련 안내를 수행하는 단계는, 상기 차량의 길 안내를 위한 경로 정보와 상기 신호 종류 정보를 이용하여 신호 변경 안내를 출력하는 단계를 포함할 수 있다.
또한, 상기 출력하는 단계는, 상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 수행될 수 있다.
그리고, 상기 출력하는 단계는, 상기 운전 관련 안내를 수행하기 위한 인디케이터를 생성하는 단계 및 상기 생성된 인디케이터를 증강 현실을 통해 출력하는 단계를 포함할 수 있다.
한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자 장치는, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 신호 종류 정보 생성부 및 상기 생성된 신호 종류 정보를 이용하여 상기 차량의 운전 관련 안내를 수행하는 제어부를 포함한다.
그리고, 상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 운전 상태 판단부를 더 포함하고, 상기 제어부는, 상기 차량이 정차 상태로 판단되면, 신호 신호 종류 정보를 생성하도록 상기 신호 종류 정보 생성부를 제어할 수 있다.
또한, 상기 운전 상태 판단부는, 상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하고, 상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단할 수 있다.
그리고, 상기 신호 종류 정보 생성부는, 상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하고, 상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성할 수 있다.
또한, 상기 신호 종류 정보 생성부는, 상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하고, 상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하며, 상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성할 수 있다.
그리고, 상기 신호 종류 정보는, 상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보일 수 있다.
또한, 상기 제어부는, 상기 신호 종류 정보를 이용하여 신호 안내를 출력하도록 출력부를 제어할 수 있다.
그리고, 상기 제어부는, 상기 차량의 길 안내를 위한 경로 정보와 상기 신호 종류 정보를 이용하여 신호 변경 안내를 출력하도록 출력부를 제어할 수 있다.
또한, 상기 제어부는, 상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 상기 신호 변경 안내가 출력되도록 출력부를 제어할 수 있다.
그리고, 상기 제어부는, 상기 운전 관련 안내를 수행하기 위한 인디케이터를 생성하고, 상기 생성된 인디케이터를 증강 현실을 통해 출력하도록 출력부를 제어할 수 있다.
한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 기록 매체는, 상술한 제어 방법을 컴퓨터에서 실행시키기 위한 프로그램 코드가 기록될 수 있다.
상술한 본 발명의 다양한 실시 예에 따르면, 차량이 정차 또는 주행 중인 도로에 위치한 신호등의 신호 종류 정보를 생성하고, 이를 기초로 차량의 운전에 관련된 안내를 수행할 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 신호 종류 정보를 이용하여 차량의 운전자에게 신호를 안내함으로써, 운전자 보조 역할을 수행하게 할 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 내비게이션 경로와 신호 종류 정보를 이용하여 정확한 신호 변경 알림을 수행함으로써, 사용자 편의성을 도모할 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 증강 현실 상에서 길 안내, 신호 안내, 신호 변경 안내 등과 같은 차량 운전 관련 안내를 수행함으로써, 운전자에게 보다 직관적인 방법으로 안내를 제공할 수 있다.
도 1은 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다.
도 2는 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시 예에 따른 전자 장치의 제어 방법을 나타내는 흐름도 이다.
도 4는 본 발명의 일 실시 예에 따른 차량의 정차 상태 판단 방법을 구체적으로 나타내는 흐름도 이다.
도 5는 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 그레이 영상 데이터를 생성하는 과정을 나타내는 도면이다.
도 6은 본 발명의 일 실시 예에 따른 전자 장치의 신호 종류 정보 생성 방법을 구체적으로 나타내는 흐름도 이다.
도 7은 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 관심 영역 영상 데이터를 생성하는 과정을 나타내는 도면이다.
도 8은 본 발명의 일 실시 예에 따른 정지 신호에 대응되는 관심 영역 영상 데이터 및 정지 신호 판단 방법을 나타내는 도면이다.
도 9는 본 발명의 일 실시 예에 따른 직진 신호에 대응되는 관심 영역 영상 데이터 및 직진 신호 판단 방법을 나타내는 도면이다.
도 10은 본 발명의 일 실시 예에 따른 전자 장치의 신호 변경 안내 방법을 나타내는 흐름도 이다.
도 11은 본 발명의 일 실시 예에 따른 신호 변경 안내 화면을 나타내는 도면이다.
도 12는 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 분리형이 경우 구현 형태를 나타내는 도면이다.
도 13은 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 일체형인 경우 구현 형태를 나타내는 도면이다.
도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display) 및 전자 장치를 이용한 구현 형태를 나타내는 도면이다.
이하의 내용은 단지 본 발명의 원리를 예시한다. 그러므로 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 장치를 발명할 수 있는 것이다. 또한, 본 명세서에 열거된 모든 조건부 용어 및 실시 예들은 원칙적으로, 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백히 의도되고, 이와 같이 특별히 열거된 실시 예들 및 상태들에 제한적이지 않는 것으로 이해되어야 한다.
또한, 본 발명의 원리, 관점 및 실시 예들 뿐만 아니라 특정 실시 예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물들은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다.
따라서, 예를 들어, 본 명세서의 블럭도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도, 상태 변환도, 의사 코드 등은 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.
프로세서 또는 이와 유사한 개념으로 표시된 기능 블럭을 포함하는 도면에 도시된 다양한 소자의 기능은 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 능력을 가진 하드웨어의 사용으로 제공될 수 있다. 프로세서에 의해 제공될 때, 상기 기능은 단일 전용 프로세서, 단일 공유 프로세서 또는 복수의 개별적 프로세서에 의해 제공될 수 있고, 이들 중 일부는 공유될 수 있다.
또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.
본 명세서의 청구범위에서, 상세한 설명에 기재된 기능을 수행하기 위한 수단으로 표현된 구성요소는 예를 들어 상기 기능을 수행하는 회로 소자의 조합 또는 펌웨어/마이크로 코드 등을 포함하는 모든 형식의 소프트웨어를 포함하는 기능을 수행하는 모든 방법을 포함하는 것으로 의도되었으며, 상기 기능을 수행하도록 상기 소프트웨어를 실행하기 위한 적절한 회로와 결합된다. 이러한 청구범위에 의해 정의되는 본 발명은 다양하게 열거된 수단에 의해 제공되는 기능들이 결합되고 청구항이 요구하는 방식과 결합되기 때문에 상기 기능을 제공할 수 있는 어떠한 수단도 본 명세서로부터 파악되는 것과 균등한 것으로 이해되어야 한다.
상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다.
이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시 예를 상세히 설명하기로 한다.
도 1은 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다. 도 1을 참조하면, 전자 장치(100)는 저장부(110), 입력부(120), 출력부(130), 차선 정보 생성부(140), 차로 위치 정보 생성부(150), 증강 현실 제공부(160), 제어부(170), 통신부(180), 센싱부(190)의 전부 또는 일부를 포함한다.
여기서, 전자 장치(100)는 차량 운전자에게 운전 관련 안내를 제공할 수 있는 스마트 폰, 태블릿 컴퓨터, 노트북 컴퓨터, PDA(personal digital assistant), PMP(portable multimedia player), 스마트 글래스, 프로젝트 글래스, 내비게이션(navigation), 블랙 박스(Black-box) 등과 같은 다양한 장치로 구현될 수 있다.
여기서, 차량의 운전 상태는, 차량의 정차 상태, 차량의 주행 상태, 차량의 주차 상태 등과 같이 차량이 운전자에 의하여 운전되고 있는 다양한 상태를 포함할 수 있다.
운전 관련 안내는 길 안내, 차선 이탈 안내, 전방 차량 출발 안내, 신호 안내, 신호 변경 안내, 전방 차량 추돌 방지 안내, 차로 변경 안내, 차로 안내 등과 같이 차량 운전자의 운전을 보조하기 위한 다양한 안내를 포함할 수 있다.
여기서, 길 안내는, 운전 중인 차량의 전방을 촬영한 영상에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 길 안내를 수행하는 증강 현실 길 안내, 및 2D(2-Dimensional) 또는 3D(3-Dimensional)의 지도 데이터에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 길 안내를 수행하는 2D(2-Dimensional) 또는 3D(3-Dimensional) 길 안내를 포함할 수 있다. 여기서, 길 안내는, 사용자가 차량에 탑승하여 운전하는 경우 뿐만 아니라, 사용자가 걷거나 뛰어서 이동하는 경우의 길 안내도 포함하는 개념으로 해석될 수 있다.
또한, 차선 이탈 안내는, 주행 중인 차량이 차선을 이탈하였는지 여부를 안내하는 것일 수 있다.
또한, 전방 차량 출발 안내는, 정차 중인 차량의 전방에 위치한 차량의 출발 여부를 안내하는 것일 수 있다.
또한, 신호 안내는, 운전 중인 차량의 전방에 위치한 신호등의 신호 상태, 예를 들어, 정지 신호, 직진 신호, 좌회전 신호, 우회전 신호 등을 안내하는 것일 수 있다. 여기서, 각각의 신호에 대응되는 색상 및 형태는 국가 별로 상이할 수 있다. 한국의 경우, 정지 신호는 적색원, 직진 신호는 청색원, 좌회전 신호는 청색 좌측 화살표, 우회전 신호는 청색 우측 화살표일 수 있다.
또한, 신호 변경 안내는, 운전 중인 차량의 전방에 위치한 신호등의 신호 상태가 변경되었음을 안내하는 것일 수 있다. 일 예로, 정지 신호에서 직진 신호로 변경되면, 이를 안내하는 것 일 수 있다.
또한, 전방 차량 추돌 방지 안내는 정차 또는 주행 중인 차량의 전방에 위치한 차량과의 거리가 일정 거리 이내가 되면 전방 차량과 추돌을 방지하기 위해 이를 안내하는 것일 수 있다.
또한, 차로 변경 안내는 목적지까지의 경로 안내를 위하여 차량이 위치한 차로에서 다른 차로로 변경을 안내하는 것일 수 있다.
또한, 차로 안내는 차량이 현재 위치한 차로를 안내하는 것일 수 있다.
이러한, 다양한 안내의 제공을 가능하게 하는 운전 관련 영상은 차량의 전방을 향하여 거치된 카메라에서 실시간 촬영될 수 있다. 여기서 카메라는 차량에 거치된 전자 장치(100)와 일체로 형성되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 스마트 폰, 내비게이션, 또는 블랙 박스와 일체로 형성될 수 있고, 전자 장치(100)는 일체로 형성된 카메라에서 촬영된 영상을 입력 받을 수 있다.
다른 예로, 카메라는 전자 장치(100)와 별개로 차량에 거치되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 차량의 전방을 향하여 거치된 별도의 블랙 박스일 수 있고, 전자 장치(100)는 별도로 거치된 블랙박스와 유/무선 통신을 통하여 촬영 영상을 입력받거나, 블랙 박스의 촬영 영상을 저장하는 저장 매체가 전자 장치(100)에 삽입되면, 전자 장치(100)는 촬영 영상을 입력 받을 수 있다.
이하에서는, 상술한 내용을 기초로 본 발명의 일 실시 예에 따른 전자 장치(100)에 대해서 보다 구체적으로 설명하기로 한다.
저장부(110)는 전자 장치(100)의 동작에 필요한 다양한 데이터 및 어플리케이션을 저장하는 기능을 한다. 특히, 저장부(110)는 전자 장치(100)의 동작에 필요한 데이터, 예를 들어, OS, 경로 탐색 어플리케이션, 지도 데이터 등을 저장할 수 있다. 또한, 저장부(110)는 전자 장치(100)의 동작에 의하여 생성된 데이터, 예를 들어, 탐색된 경로 데이터, 수신한 영상 등을 저장할 수 있다. 또한, 저장부(110)는 신호등에 포함된 복수의 신호들의 위치 관계 정보를 저장할 수 있다.
여기서 저장부(110)는 RAM(Random Access Memory), 플레시메모리, ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electronically Erasable and Programmable ROM), 레지스터, 하드디스크, 리무버블 디스크, 메모리 카드, USIM(Universal Subscriber Identity Module)등과 같은 내장된 형태의 저장소자는 물론, USB 메모리 등과 같은 착탈가능한 형태의 저장소자로 구현될 수도 있다.
입력부(120)는 전자 장치(100)의 외부로부터의 물리적 입력을 특정한 전기 신호로 변환하는 기능을 한다. 여기서, 입력부(120)는 사용자 입력부(121)와 마이크부(123)의 전부 또는 일부를 포함할 수 있다.
사용자 입력부(121)는 터치, 푸쉬동작 등과 같은 사용자 입력을 수신할 수 있다. 여기서 사용자 입력부(120)는 다양한 버튼의 형태, 터치 입력을 수신하는 터치 센서, 접근하는 모션을 수신하는 근접 센서 중 적어도 하나를 이용하여 구현될 수 있다.
마이크부(123)는 사용자의 음성 및 차량의 내외부에서 발생한 음향을 수신할 수 있다.
출력부(130)는 전자 장치(100)의 데이터를 출력하는 장치이다. 여기서, 출력부(130)는 디스플레이부(131)와 오디오 출력부(133)의 전부 또는 일부를 포함할 수 있다.
디스플레이부(131)는 전자 장치(100)이 시각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 디스플레이부(131)는 전자 장치(100)의 하우징 전면(前面)에 마련된 디스플레이부로 구현될 수 있다. 여기서 디스플레이부(131)는 전자 장치(100)와 일체로 형성되어 시각적 인식 데이터를 출력할 수 있고, HUD(Head Up Display)와 같이 전자 장치(100)와 별개로 설치되어 시각적 인식 데이터를 출력할 수도 있다.
오디오 출력부(133)는 전자 장치(100)가 청각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 오디오 출력부(133)는 전자 장치(100)의 사용자에게 알려야 할 데이터를 소리를 표현하는 스피커로 구현될 수 있다.
통신부(180)는 전자 장치(100)가 다른 디바이스와 통신하기 위하여 마련될 수 있다. 통신부(180)는, 위치 데이터부(181)과, 무선 인터넷부(183)과, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189)의 전부 또는 일부를 포함할 수 있다.
위치 데이터부(181)는 GNSS(Global Navigation Satellite System)를 통하여 위치 데이터를 획득하는 장치이다. GNSS는 인공위성으로부터 수신한 전파신호를 이용하여 수신 단말기의 위치를 산출할 수 있는 항법 시스템을 의미한다. GNSS의 구체적인 예로는, 그 운영 주체에 따라서 GPS(Global Positioning System), Galileo, GLONASS(Global Orbiting Navigational Satellite System), COMPASS, IRNSS(Indian Regional Navigational Satellite System), QZSS(Quasi-Zenith Satellite System) 등 일 수 있다. 본 발명의 일 실시예에 따른 전자 장치(100)의 위치 데이터부(181)는, 전자 장치(100)가 사용되는 지역에서 서비스하는 GNSS 신호를 수신하여 위치 데이터를 획득할 수 있다.
무선 인터넷부(183)는 무선 인터넷에 접속하여 데이터를 획득하거나 송신하는 장치이다. 무선 인터넷부(183)를 통하여 접속할 수 있는 무선 인터넷은, WLAN(Wireless LAN), Wibro(Wireless broadband), Wimax(World interoperability for microwave access), HSDPA(High Speed Downlink Packet Access) 등 일 수 있다.
방송 송수신부(185)는 각종 방송 시스템을 통하여 방송 신호를 송수신하는 장치이다. 방송 송수신부(185)를 통하여 송수신할 수 있는 방송 시스템은, DMBT(Digital Multimedia Broadcasting Terrestrial), DMBS(Digital Multimedia Broadcasting Satellite), MediaFLO(Media Forward Link Only), DVBH(Digital Video Broadcast Handheld), ISDBT(Integrated Services Digital Broadcast Terrestrial) 등일 수 있다. 방송 송수신부(185)를 통하여 송수신되는 방송 신호에는 교통 데이터, 생활 데이터 등을 포함할 수 있다.
이동 통신부(186)는 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 이동 통신 규격에 따라 이동 통신 망에 접속하여 통신할 수 있다.
근거리 통신부(187)는 근거리 통신을 위한 장치이다. 근거리 통신부(187)는, 전술한 바와 같이, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, Infrared Data Association), UWB(Ultra WidBand), ZigBee, NFC(Near Field Communication), Wi-Fi 등을 통하여 통신할 수 있다.
유선 통신부(189)는 전자 장치(100)를 다른 디바이스와 유선으로 연결할 수 있는 인터페이스 장치이다. 유선 통신부(119)는, USB Port를 통하여 통신할 수 있는 USB 모듈일 수 있다.
이러한, 통신부(180)는 위치 데이터부(181)와, 무선 인터넷부(183)와, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 다른 디바이스와 통신할 수 있다.
일 예로, 전자 장치(100)가 카메라 기능을 포함하지 않는 경우, 블랙 박스 등과 같은 차량용 카메라에서 촬영된 영상을 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 수신할 수 있다.
다른 예로, 복수의 디바이스와 통신하는 경우에, 어느 하나는 근거리 통신부(187)로 통신하고, 다른 하나는 유선 통신부(119)를 통하여 통신하는 경우도 가능하다.
센싱부(190)는 전자 장치(100)의 현재 상태를 감지할 수 있는 장치이다. 센싱부(190)는 모션 센싱부(191)와, 광 센싱부(193)의 전부 또는 일부를 포함할 수 있다.
모션 센싱부(191)는 전자 장치(100)의 3차원 공간 상에서의 운동을 감지할 수 있다. 모션 센싱부(191)은, 3축 지자기 센서 및 3축 가속도 센서를 포함할 수 있다. 모션 센싱부(191)을 통하여 획득한 운동 데이터를 위치 데이터부(191)를 통하여 획득한 위치 데이터와 결합하여, 전자 장치(100)를 부착한 차량의 보다 정확한 궤적을 산출할 수 있다.
광 센싱부(193)는 전자 장치(100)의 주변 조도(illuminance)를 측정하는 장치이다. 광 센싱부(193)를 통하여 획득한 조도데이터를 이용하여, 디스플레이부(195)의 밝기를 주변 밝기에 대응되도록 변화시킬 수 있다.
전원부(195)는 전자 장치(100)의 동작 또는 전자 장치(100)와 연결된 다른 디바이스의 동작을 위하여 필요한 전원을 공급하는 장치이다. 전원부(195)는, 전자 장치(100)에 내장된 배터리 또는 차량 등의 외부전원에서 전원을 공급받는 장치일 수 있다. 또한, 전원부(195)는, 전원을 공급받는 형태에 따라서 유선 통신 모듈(119)로 구현되거나, 무선으로 공급받는 장치로 구현될 수도 있다.
한편, 제어부(170)는 전자 장치(100)의 전반적인 동작을 제어한다. 구체적으로 제어부(170)는 저장부(110), 입력부(120), 출력부(130), 신호 종류 정보 생성부(140), 운전 상태 판단부(150), 증강 현실 제공부(160), 통신부(180), 센싱부(190)의 전부 또는 일부를 제어할 수 있다.
신호 종류 정보 생성부(140)는 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성할 수 있다.
구체적으로, 신호 종류 정보 생성부(140)는 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정하고, 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성할 수 있다. 또한, 신호 종류 정보 생성부(140)는 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 신호등의 신호 영역 부분의 영상 데이터를 검출할 수 있다. 또한, 신호 종류 정보 생성부(140)는 제2 영역의 면적 화소값과 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하고, 비교 결과에 따라 신호등의 신호 종류 정보를 생성할 수 있다.
여기서, 신호 종류 정보는, 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보로, 정지 신호 정보, 직진 신호 정보, 좌회전 신호, 우회전 신호 등을 포함할 수 있다.
한편, 상술한 신호 종류 정보 생성부(140)의 신호 종류 정보 생성 동작은, 운전 상태 판단부(150)가 차량이 정차 상태라고 판단하는 경우 수행될 수 있다.
구체적으로, 운전 상태 판단부(150)는 운전 관련 영상 데이터를 이용하여 차량의 정차 상태 여부를 판단할 수 있다. 보다 구체적으로, 운전 상태 판단부(150)는 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하고, 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 시간 순서로 순차적으로 비교하여 차량의 정차 상태 여부를 판단할 수 있다.
만약, 운전 상태 판단부(150)의 판단 결과, 차량이 정차 상태로 판단되면, 제어부(170)는 상기 신호 종류 정보 생성부(140)가 동작하여 신호 종류 정보를 생성하도록 제어할 수 있다.
한편, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보를 이용하여 차량의 운전 관련 안내를 수행할 수 있다.
일 예로, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보를 이용하여 신호 안내를 출력하도록 출력부(130)를 제어할 수 있다. 구체적으로, 제어부(170)는 신호등의 신호 상태가 어떠한지, 예를 들어, 정지 신호 인지, 직진 신호 인지, 우회전 신호 인지, 좌회전 신호 인지 등은 이미지 또는 음성으로 출력하도록 출력부(130)를 제어할 수 있다.
다른 예로, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보 및 길 안내를 위한 경로 정보를 이용하여 신호 변경 안내를 출력하도록 출력부(130)를 제어할 수 있다. 구체적으로, 제어부(170)는 전자 장치(100)가 차량의 목적지까지 길 안내를 수행하는 경우, 목적지까지의 길 안내를 위한 경로 정보와 신호 종류 정보를 이용하여 신호 변경 안내를 출력하도록 출력부(130)를 제어할 수 있다. 즉, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 좌회전 신호로 변경되면, 제어부(170)는 신호 변경 안내를 출력하지 않도록 출력부(130)를 제어할 수 있다. 또한, 즉, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 직진 신호로 변경되면, 제어부(170)는 신호 변경 안내를 출력하도록 출력부(130)를 제어할 수 있다. 이 경우, 제어부(170)는 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 신호 변경 안내를 출력하도록 출력부(130)를 제어할 수 있다.
한편, 제어부(170)는 전자 기기(100)가 증강 현실을 기반으로 운전 관련 안내를 수행할 수 있다. 여기서, 증강 현실이란, 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 부가 정보(예를 들면, 관심 지점(Point Of Interest: POI)을 나타내는 그래픽 요소, 목적지까지의 경로를 나타내는 그래픽 요소 등)를 시각적으로 중첩하여 제공하는 방법일 수 있다. 이 경우, 제어부(170)는 증강 현실 제공부(190)와 연동하여 운전 관련 안내를 수행하기 위한 인디케이터를 생성하고, 생성된 인디케이터를 출력부(130)를 통해 출력할 수 있다. 일 예로, 증강 현실은 차량 앞유리를 이용한 HUD 또는 별도의 영상 출력 장치를 이용한 영상 오버레이 등을 통해 제공될 수 있으며, 증강 현실 제공부(160)는 이와 같이 현실 영상 또는 유리에 오버레이되는 인터페이스 이미지 등을 생성할 수 있다. 이를 통해 증강 현실 네비게이션 또는 차량 인포테인먼트 시스템 등이 구현될 수 있다.
도 2는 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다. 도 2를 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(100)는 내비게이션, 블랙 박스, 스마트 폰 또는 기타 차량용 증강 현실 인터페이스 제공 장치 등과 같은 차량에 구비되는 각종 장치로 구현될 수 있으며, 다양한 통신망 및 다른 전자 디바이스(61 내지 64)와 접속할 수 있다.
또한, 전자 장치(100)는 인공위성(20)으로부터 수신한 전파신호에 따라 GPS모듈을 연동하여 현재의 위치 및 현재 시간대를 산출할 수 있다.
각각의 인공위성(20)은 주파수 대역이 상이한 L밴드 주파수를 송신할 수 있다. 전자 장치(100)는, 각각의 인공위성(20)에서 송신된 L밴드 주파수가 전자 장치(100)에 도달하는데 까지 소요된 시간에 기초하여 현재 위치를 산출할 수 있다.
한편, 전자 장치(100)는, 통신부(180)을 통하여 제어국(40, ACR), 기지국(50, RAS) 등을 통하여 네트워크(30)에 무선으로 접속할 수 있다. 네트워크(30)에 전자 장치(100)가 접속하면, 네트워크(30)에 접속한 다른 전자 디바이스(61, 62)와도 간접적으로 접속하여 데이터를 교환할 수 있다.
한편, 전자 장치(100)는, 통신 기능을 가진 다른 디바이스(63)를 통하여 간접적으로 네트워크(30)에 접속할 수도 있다. 예를 들어, 네트워크(30)에 접속할 수 있는 모듈이 전자 장치(100)에 구비되지 않은 경우에, 근거리 통신 모듈 등을 통하여 통신 기능을 가진 다른 디바이스(63)와 통신할 수 있다.
도 3은 본 발명의 일 실시 예에 따른 전자 장치의 신호 종류 정보 생성 방법을 나타내는 흐름도 이다. 도 3을 참조하면, 먼저 전자 장치(100)는 운전 관련 영상 데이터를 이용하여 차량의 정차 상태 여부를 판단할 수 있다(S101).
그리고, 전자 장치(100)는 차량이 정차 상태로 판단되면, 차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성할 수 있다(S102).
그리고, 생성된 신호 종류 정보를 이용하여 차량의 운전 관련 안내를 수행할 수 있다(S103).
도 4는 본 발명의 일 실시 예에 따른 차량의 정차 상태 판단 방법을 구체적으로 나타내는 흐름도 이다. 도 4를 참조하면, 먼저 전자 장치(100)는 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성할 수 있다(S201). 여기서, 차량의 운전 관련 영상은 차량의 정차, 주행 등에 대한 영상을 포함할 수 있다. 그리고, 차량의 운전 관련 영상은 전자 장치(100)에 포함된 카메라 모듈에서 촬영한 영상이거나 또는 다른 장치에서 촬영한 영상을 전자 장치(100)가 수신한 영상일 수 있다. 그리고, 차량의 운전 관련 영상은 RGB(Red Green Blue)(칼라) 영상일 수 있다. 이에 대해서는 도 5를 참조하여 구체적으로 설명하기로 한다.
도 5는 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 그레이 영상 데이터를 생성하는 과정을 나타내는 도면이다. 도 5를 참조하면, 운전 상태 판단부(150)는 도 5(a)와 같은 칼라 영상인 운전 관련 영상 데이터를 수신하고, 그레이 변환을 수행하여 도 5(b)와 같은 그레이 영상 데이터를 생성할 수 있다.
그리고, 전자 장치(100)는 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교할 수 있다(S202). 구체적으로, 운전 상태 판단부(150)는 그레이 영상 데이터에 포함된 복수의 프레임 각각을 시간 순서로 순차적으로 비교할 수 있다.
그리고, 전자 장치(100)는 비교 결과에 따라 차량의 정차 상태 여부를 판단할 수 있다(S203). 일 예로, 운전 상태 판단부(150)는 현재 프레임과 이전 프레임의 차이를 산출하고, 산출된 값을 기 설정된 값과 비교하여 차량의 정차 상태 여부를 판단할 수 있다.
이러한, 도 4와 같은 차량 정차 상태 판단 방법에 따르면, 그레이 영상 데이터로 정차 상태 여부를 판단하는 바, 이미지 처리 속도를 향상시킬 수 있고, 이에 따라, 주행, 정차가 시시 각각 변화하는 운전 상태에서 정차 상태 여부를 신속하게 판단할 수 있다.
한편, 상술한 도 4와 같은 차량 정차 상태 판단 방법은 본 발명의 일 예시일 뿐, 이에 한정되는 것은 아니다. 따라서, 모션 센싱부(191)의 센싱 정보를 기초로 차량의 정차 상태 여부를 판단하는 등과 같이 다양한 차량 정차 상태 판단 방법이 이용될 수 있다.
도 6은 본 발명의 일 실시 예에 따른 전자 장치의 신호 종류 정보 생성 방법을 구체적으로 나타내는 흐름도 이다. 도 6을 참조하면, 먼저 전자 장치(100)는 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정할 수 있다(S301).
이 경우, 신호 종류 정보 생성부(140)는, 일 예로, 소실점(Vanishing point)을 이용하여 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정할 수 있다. 즉, 신호 종류 정보 생성부(140)는 차량의 운전 중에 카메라에서 촬영된 촬영 영상으로부터 차선을 추출하고, 추출된 차선을 연장하여 서로 교차하게 되는 점을 소실점(Vanishing point)으로 결정할 수 있다. 또한, 신호등은 소실점의 상부 영역에 위치하는 바, 신호 종류 정보 생성부(140)는 결정된 소실점의 상부 영역을 관심 영역으로 결정할 수 있다.
한편, 다른 예로, 신호 종류 정보 생성부(140)는 운전 관련 영상 데이터에서 미리 설정된 소정 영역을 관심 영역으로 결정할 수 있다.
그리고, 전자 장치(100)는 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성할 수 있다(S302). 이 경우, 신호 종류 정보 생성부(140)는, 일 예로, 결정된 관심 영역의 영상 데이터를 하기의 하기의 수학식 1에 적용하여 관심 영역 영상 데이터를 생성할 수 있다.
Figure 112014056053198-pat00001
여기서, R,G,B는 결정된 관심 영역의 영상 데이터의 R,G,B 값이고, K는 변환의 기준이 되는 기 설정된 화소값이고, x,y,z는 특정 계수일 수 있다. 일 예로, K는 평균 화소값인 128일 수 있다.
이에 따라, 신호 종류 정보 생성부(140)는 신호등의 신호 영역 부분이 명확하게 구별되는 관심 영역 영상 데이터를 생성할 수 있다.
한편, 신호등에 포함된 복수의 신호 각각에 대응되는 색상 및/또는 형태는 국가 별로 상이할 수 있다. 한국의 경우, 정지 신호는 적색원, 직진 신호는 청색원, 좌회전 신호는 청색 좌측 화살표, 우회전 신호는 청색 우측 화살표일 수 있다.
따라서, 상술한 기 설정된 화소값 및 x,y,z는 알고리즘에 따라 서로 다른 값을 가질 수 있다.
이러한, S301, S302 단계에 대해서는 도 7을 참조하여 구체적으로 설명하기로 한다.
도 7은 본 발명의 일 실시 예에 따른 운전 관련 영상 데이터로부터 관심 영역 영상 데이터를 생성하는 과정을 나타내는 도면이다. 도 7을 참조하면, 신호 종류 정보 생성부(140)는 도 7(a)와 같은 운전 관련 영상 데이터에서 신호등을 포함하는 관심 영역을 결정할 수 있다.
그리고, 신호 종류 정보 생성부(140)는 결정된 관심 영역의 영상 데이터를 변환하여 도 7(b)와 같은 관심 영역 영상 데이터(702)를 생성할 수 있다. 이 경우, 신호 종류 정보 생성부(140)는 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터(702)를 생성할 수 있다.
이에 따라, 신호 종류 정보 생성부(140)는 신호등의 신호 영역 부분(703)이 명확하게 구별되는 관심 영역 영상 데이터를 생성할 수 있다.
한편, 전자 장치(100)는 관심 영역 영상 데이터에 제1 영역, 제2 영역을 적용하여 신호등의 신호 영역 부분의 영상 데이터를 검출할 수 있다(S303). 구체적으로 신호 종류 정보 생성부(140)는 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 신호등의 신호 영역 부분의 영상 데이터를 검출할 수 있다. 여기서, 제1, 제2 영역은, 신호등 신호의 형태에 대응되는 형태일 수 있다. 일 예로, 신호등의 신호가 원형, 타원형, 사각형인 경우, 제1 및 제2 영역은 원형, 타원형, 사각형일 수 있다.
한편, 전자 장치(100)는 제2 영역의 면적 화소값과 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교할 수 있다(S304). 여기서, 기 설정된 면적 화소값은 신호등에 포함된 복수의 신호 각각에 대응되는 색상 및/또는 형태 등을 반영하여 변경될 수 있다.
그리고, 전자 장치(100)는 비교 결과에 따라 신호등의 신호등의 신호 종류 정보를 생성할 수 있다(S305).
이러한, S303, S304, S305 단계에 대해서는 도 8 내지 9를 참조하여 구체적으로 설명하기로 한다.
도 8은 본 발명의 일 실시 예에 따른 정지 신호에 대응되는 관심 영역 영상 데이터 및 정지 신호 판단 방법을 나타내는 도면이다. 신호등이 적색의 정지 신호를 표시하는 경우, 신호 종류 정보 생성부(140)가 신호등을 포함하는 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하면, 도 8(a)와 같은 관심 영역 영상 데이터(801)를 생성할 수 있다. 여기서, 신호등의 적색 정지 신호는, 관심 영역 영상 데이터(801) 상에서 802와 같이 생성될 수 있다.
이 경우, 신호 종류 정보 생성부(140)는 제1 영역(804), 제2 영역(803)을 관심 영역 영상 데이터(801)에 적용하여 신호등의 신호 영역 부분(802)의 영상 데이터를 검출할 수 있다.
그리고, 신호 종류 정보 생성부(140)는 제2 영역(803)의 면적 화소값과 제1 영역(804)의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하여 신호등의 신호등의 신호 종류 정보를 생성할 수 있다. 일 예로, 신호 종류 정보 생성부(140)는 제2 영역(803)의 면적 화소값과 제1 영역(804)의 면적 화소값의 차이가 기 설정된 면적 화소값 보다 작은 경우(즉, 도 8(b)와 같은 경우, 제1 영역(804)의 면적 화소값이 큼), 신호 종류 정보를 정지 신호로 판단할 수 있다.
도 9는 본 발명의 일 실시 예에 따른 직진 신호에 대응되는 관심 영역 영상 데이터 및 직진 신호 판단 방법을 나타내는 도면이다. 신호등이 청색의 직진 신호를 표시하는 경우, 신호 종류 정보 생성부(140)가 신호등을 포함하는 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하면, 도 9(a)와 같은 관심 영역 영상 데이터(901)를 생성할 수 있다. 여기서, 신호등의 청색 직진 신호는, 관심 영역 영상 데이터(901) 상에서 902와 같이 생성될 수 있다.
이 경우, 신호 종류 정보 생성부(140)는 제1 영역(904), 제2 영역(903)을 관심 영역 영상 데이터(901)에 적용하여 신호등의 신호 영역 부분(902)의 영상 데이터를 검출할 수 있다.
그리고, 신호 종류 정보 생성부(140)는 제2 영역(903)의 면적 화소값과 제1 영역(904)의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하여 신호등의 신호등의 신호 종류 정보를 생성할 수 있다. 일 예로, 신호 종류 정보 생성부(140)는 제2 영역(903)의 면적 화소값과 제1 영역(904)의 면적 화소값의 차이가 기 설정된 면적 화소값 보다 큰 경우(즉, 도 9(b)와 같은 경우, 제1 영역(904)의 면적 화소값이 작음), 신호 종류 정보를 직진 신호로 판단할 수 있다.
한편, 도 8 내지 9에서는 생략하였으나, 좌회전, 우회전과 같은 회전 신호의 판단도 상술한 방법과 유사하게 수행될 수 있다. 즉, 신호 종류 정보 생성부(140)는 상술한 방법 및/또는 신호등의 신호 영역 부분의 영상 데이터의 형상(예를 들어, 화살표 형상)을 이용하여 신호 종류 정보를 판단할 수 있다.
이러한, 도 6과 같은 신호 종류 정보 생성 방법에 따르면, 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 평준화한 상태로 신호 종류 정보를 판단하는 바, 이미지 처리 속도를 향상시킬 수 있고, 이에 따라, 주행, 정차가 시시 각각 변화하는 운전 상태에서 신호 종류 정보를 신속하게 판단할 수 있다.
한편, 상술한 도 6과 같은 신호 종류 정보 생성 방법은 본 발명의 일 예시일 뿐, 이에 한정되는 것은 아니다. 따라서, 컬러 영상인 운전 관련 영상 데이터로부터 정지 신호에 대응되는 적신호를 검출하거나, 또는 직진 신호에 대응되는 청색 신호를 검출하여 신호 종류 정보를 판단하는 등과 같이 다양한 신호 종류 정보 생성 방법이 이용될 수 있다.
한편, 본 발명의 일 실시 예에 따르면, 신호 종류 정보가 정지 신호라고 판단되면, 신호 종류 정보 생성부(140)는 관심 영역 영상 데이터에서 출발 신호, 좌회전/우회전 같은 회전 신호가 표시될 영역에 제1 영역 및 제2 영역을 미리 위치시킬 수 있다. 이 경우, 신호 종류 정보 생성부(140)는 저장부(110)에 저장된 복수의 신호들의 위치 관계 정보를 이용하여 제1 영역 및 제2 영역을 상기 위치에 미리 위치시킬 수 있다. 이 경우, 이미지 처리 속도를 향상시킴으로써, 정지 신호에서 직진 신호 또는 좌회전/우회전 같은 회전 신호로의 변경을 더욱 신속하게 판단할 수 있다.
도 10은 본 발명의 일 실시 예에 따른 전자 장치의 신호 변경 안내 방법을 나타내는 흐름도 이다. 도 10을 참조하면, 전자 장치(100)는 길 안내를 위한 경로 정보를 획득할 수 있다(S401). 구체적으로 전자 장치(100)가 차량의 목적지까지 길 안내를 수행하는 경우, 제어부(170)는 차량의 현재 위치에서 길 안내를 위한 경로 정보를 획득할 수 있다.
그리고, 전자 장치(100)는 신호 변경 여부를 판단할 수 있다(S402). 구체적으로, 제어부(170)는 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보를 기초로 신호 변경 여부를 판단할 수 있다.
그리고, 신호가 변경된 경우, 전자 장치(100)는 변경된 신호에 따라 차량이 주행 해야 하는지 여부를 판단할 수 있다(S403). 일 예로, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 좌회전 신호로 변경되면, 제어부(170)는 차량이 주행을 하지 않아야 한다고 판단할 수 있다. 다른 예로, 교차로에 정차한 차량의 경로 정보가 직진 방향인 상태에서, 신호 종류 정보 생성부(140)에서 생성된 신호 종류 정보가 정지 신호에서 직진 신호로 변경되면, 제어부(170)는 차량이 주행해야 한다고 판단할 수 있다.
그리고, 차량이 주행해야 하는 경우, 전자 장치(100)는 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는지 판단할 수 있다(S404).
그리고, 기 설정된 시간 동안 차량이 정차 상태를 유지하면, 전자 장치(100)는 신호 변경 안내를 출력할 수 있다(S405).
도 11은 본 발명의 일 실시 예에 따른 신호 변경 안내 화면을 나타내는 도면이다. 도 11을 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(100)는 증강 현실 상에서의 신호 변경 안내 화면을 표시할 수 있다.
일 예로, 신호등의 신호 상태가 도 11(a)와 같은 정지 신호에서 도 11(b)와 같은 직진 신호로 변경되면, 증강 현실 제공부(160)는 증강 현실 상에서 안내를 위하여 증강 현실에 오버레이되는 인디케이터를 생성하고, 생성된 신호 변경 안내 인디케이터(1101)를 도 11(b)와 같이 증강 현실 상에서 출력할 수 있다.
도 12는 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 분리형이 경우 구현 형태를 나타내는 도면이다. 도 12를 참조하면, 차량용 내비게이션(100)과 별도로 마련된 차량용 블랙박스(200)가 유선/무선 통신 방식을 이용하여 본 발명의 일 실시 예에 따른 시스템을 구성할 수 있다.
차량용 내비게이션(100)은 내비게이션 하우징(191)의 전면에 마련된 디스플레이부(145)와, 내비게이션 조작키(193)와, 내비게이션 마이크(195)를 포함할 수 있다.
차량용 블랙박스(200)는 주행 중 및 정차 중에 차량의 데이터를 획득할 수 있다. 즉, 차량의 주행 중의 영상을 촬영할 수 있음은 물론, 차량이 정차하여 있는 경우에도 영상을 촬영할 수 있다. 차량용 블랙박스(200)를 통하여 획득된 영상의 화질은, 일정하거나 변화될 수 있다. 예를 들어, 사고의 발생을 전후하여서는 영상의 화질을 높게 하고, 통상적인 경우에는 영상의 화질을 낮게 함으로써 요구되는 저장공간을 최소화하면서도 핵심적인 영상을 저장할 수 있다.
차량용 블랙박스(200)는 블랙박스 카메라(222)와, 블랙박스 마이크(224)와 부착부(281)를 포함할 수 있다.
한편, 도 12에서는 차량용 내비게이션(100)과 별도로 마련된 차량용 블랙박스(200)가 유/무선 통신 방식을 통하여 연결된 것으로 도시하였으나, 차량용 내비게이션(100)과 차량용 블랙박스(200)는 유/무선 통신 방식을 통하여 연결되지 않을 수도 있다. 이 경우, 블랙 박스(200)의 촬영 영상을 저장하는 저장 매체가 전자 장치(100)에 삽입되면, 전자 장치(100)는 촬영 영상을 입력받을 수 있다. 한편, 차량용 블랙박스(200)가 차량용 내비게이션(100)의 기능을 구비하거나, 차량용 내비게이션(100)이 카메라를 구비하여 일체화되는 경우도 가능하다. 이에 대해서는 도 13을 참조하여 구체적으로 설명하기로 한다.
도 13은 본 발명의 일 실시 예에 따른 카메라와 전자 장치가 일체형인 경우 구현 형태를 나타내는 도면이다. 도 13을 참조하면, 전자 장치가 카메라 기능을 내포하는 경우, 사용자는 전자 장치의 카메라 부분이 차량의 전방을 촬영하고, 전자 장치의 디스플레이 부분이 사용자 인식 가능하도록 전자 장치를 거치시킬 수 있다. 이에 따라, 본 발명의 일 실시 예에 따른 시스템을 구현할 수 있다.
도 14는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display) 및 전자 장치를 이용한 구현 형태를 나타내는 도면이다. 도 14를 참조하면, 전자 장치는 헤드업 디스플레이와 유/무선 통신을 통하여 증강 현실 안내 화면을 헤드업 디스플레이 상에서 표시할 수 있다.
한편, 상술한 본 발명의 다양한 실시 예들에 따른 전자 장치의 제어 방법은 프로그램 코드로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장된 상태로 각 서버 또는 기기들에 제공될 수 있다.
비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100 : 전자 장치 110 : 저장부
120 : 입력부 130 : 출력부
140 : 신호 종류 정보 생성부 150 : 운전 상태 판단부
160 : 증강 현실 제공부 170 : 제어부
180 : 통신부 190 : 센싱부
195 : 전원부

Claims (21)

  1. 전자 장치의 제어 방법에 있어서,
    목적지까지의 길 안내를 위한 경로 정보를 획득하는 단계;
    차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 단계;
    상기 신호 종류 정보를 기초로 신호의 변경 여부를 판단하는 단계;
    상기 신호가 변경된 경우, 상기 경로 정보와 상기 신호 종류 정보를 이용하여 상기 차량이 주행해야 하는지 여부를 판단하는 단계; 및
    상기 차량이 주행해야 하는 경우, 신호 변경 안내를 출력하는 단계;를 포함하고,
    상기 차량이 주행해야 하는지 여부를 판단하는 단계는, 상기 경로 정보의 방향과 상기 신호 종류 정보의 방향이 일치하는지 여부에 따라 상기 차량이 주행해야 하는지 여부를 판단하는 것을 특징으로 하는 제어 방법.
  2. 제1항에 있어서,
    상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 단계;를 더 포함하고,
    상기 신호 종류 정보를 생성하는 단계는,
    상기 차량이 정차 상태로 판단되면, 수행되는 것을 특징으로 하는 제어 방법.
  3. 제2항에 있어서,
    상기 정차 상태 여부를 판단하는 단계는,
    상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하는 단계; 및
    상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
  4. 제2항에 있어서,
    상기 신호 종류 정보를 생성하는 단계는,
    상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하는 단계; 및
    상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
  5. 제4항에 있어서,
    상기 신호 종류 정보를 생성하는 단계는,
    상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하는 단계;
    상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하는 단계; 및
    상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
  6. 제2항에 있어서,
    상기 신호 종류 정보는,
    상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보인 것을 특징으로 하는 제어 방법.
  7. 제6항에 있어서,
    상기 신호 종류 정보를 이용하여 신호 안내를 출력하는 단계;를 더 포함하는 것을 특징으로 하는 제어 방법.
  8. 삭제
  9. 제1항에 있어서,
    상기 신호 변경 안내를 출력하는 단계는,
    상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 수행되는 것을 특징으로 하는 제어 방법.
  10. 제7항 또는 제9항 중 어느 한 항에 있어서,
    상기 출력하는 단계는,
    운전 관련 안내를 수행하기 위한 인디케이터를 생성하는 단계; 및
    상기 생성된 인디케이터를 증강 현실을 통해 출력하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
  11. 전자 장치에 있어서,
    출력부;
    차량의 운전 관련 영상 데이터에서 신호등의 신호 영역 부분의 영상 데이터를 이용하여 신호 종류 정보를 생성하는 신호 종류 정보 생성부; 및
    목적지까지의 길 안내를 위한 경로 정보를 획득하고, 상기 신호 종류 정보를 기초로 신호의 변경 여부를 판단하며, 상기 신호가 변경된 경우, 상기 경로 정보와 상기 신호 종류 정보를 이용하여 상기 차량이 주행해야 하는지 여부를 판단하고, 상기 차량이 주행해야 하는 경우, 신호 변경 안내를 출력하도록 상기 출력부를 제어하는 제어부;를 포함하고,
    상기 제어부는,
    상기 경로 정보의 방향과 상기 신호 종류 정보의 방향이 일치하는지 여부에 따라 상기 차량이 주행해야 하는지 여부를 판단하는 것을 특징으로 하는 전자 장치.
  12. 제11항에 있어서,
    상기 운전 관련 영상 데이터를 이용하여 상기 차량의 정차 상태 여부를 판단하는 운전 상태 판단부;를 더 포함하고,
    상기 제어부는,
    상기 차량이 정차 상태로 판단되면, 신호 신호 종류 정보를 생성하도록 상기 신호 종류 정보 생성부를 제어하는 것을 특징으로 하는 전자 장치.
  13. 제12항에 있어서,
    상기 운전 상태 판단부는,
    상기 운전 관련 영상 데이터에 대한 그레이 영상 데이터를 생성하고, 상기 생성된 그레이 영상 데이터에 포함된 복수의 프레임 각각을 비교하여 상기 차량의 정차 상태 여부를 판단하는 것을 특징으로 하는 전자 장치.
  14. 제12항에 있어서,
    상기 신호 종류 정보 생성부는,
    상기 운전 관련 영상 데이터에서 상기 신호등을 포함하는 관심 영역을 결정하고,
    상기 결정된 관심 영역의 영상 데이터를 기 설정된 화소값을 기준으로 변환하여 관심 영역 영상 데이터를 생성하는 것을 특징으로 하는 전자 장치.
  15. 제14항에 있어서,
    상기 신호 종류 정보 생성부는,
    상기 관심 영역 영상 데이터에 제1 면적을 구비한 제1 영역, 상기 제1 영역을 포함하고 제2 면적을 구비한 제2 영역을 적용하여 상기 신호등의 신호 영역 부분의 영상 데이터를 검출하고, 상기 제2 영역의 면적 화소값과 상기 제1 영역의 면적 화소값의 차이를 기 설정된 면적 화소값과 비교하며, 상기 비교 결과에 따라 상기 신호등의 신호 종류 정보를 생성하는 것을 특징으로 하는 전자 장치.
  16. 제12항에 있어서,
    상기 신호 종류 정보는,
    상기 신호등에서 표시 가능한 복수의 신호 각각을 식별시키기 위한 정보인 것을 특징으로 하는 전자 장치.
  17. 제16항에 있어서,
    상기 제어부는,
    상기 신호 종류 정보를 이용하여 신호 안내를 출력하도록 출력부를 제어하는 것을 특징으로 하는 전자 장치.
  18. 삭제
  19. 제11항에 있어서,
    상기 제어부는,
    상기 신호등의 신호 변경 시점으로부터 기 설정된 시간 동안 차량이 정차 상태를 유지하는 경우 상기 신호 변경 안내가 출력되도록 출력부를 제어하는 것을 특징으로 하는 전자 장치.
  20. 제17항 또는 제19항 중 어느 한 항에 있어서,
    상기 제어부는,
    운전 관련 안내를 수행하기 위한 인디케이터를 생성하고, 상기 생성된 인디케이터를 증강 현실을 통해 출력하도록 출력부를 제어하는 것을 특징으로 하는 전자 장치.
  21. 제1항 내지 제7항 및 제9항 중 어느 한 항에 기재된 방법을 컴퓨터에서 실행시키기 위한 프로그램 코드가 기록된 기록 매체.
KR1020140073041A 2014-06-16 2014-06-16 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체 KR102233391B1 (ko)

Priority Applications (6)

Application Number Priority Date Filing Date Title
KR1020140073041A KR102233391B1 (ko) 2014-06-16 2014-06-16 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
US14/739,572 US10269124B2 (en) 2014-06-16 2015-06-15 Automatic detection and analysis of traffic signal type information using image data captured on a vehicle
CN201510333358.0A CN105185137B (zh) 2014-06-16 2015-06-16 电子装置、电子装置的控制方法及计算机可读记录介质
CN201810214077.7A CN108470162B (zh) 2014-06-16 2015-06-16 电子装置及其控制方法
US15/604,215 US10282848B2 (en) 2014-06-16 2017-05-24 Automatic detection and analysis of traffic signal type information using image data captured on a vehicle
KR1020210037364A KR102371620B1 (ko) 2014-06-16 2021-03-23 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140073041A KR102233391B1 (ko) 2014-06-16 2014-06-16 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020210037364A Division KR102371620B1 (ko) 2014-06-16 2021-03-23 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체

Publications (2)

Publication Number Publication Date
KR20150144201A KR20150144201A (ko) 2015-12-24
KR102233391B1 true KR102233391B1 (ko) 2021-03-29

Family

ID=54836420

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140073041A KR102233391B1 (ko) 2014-06-16 2014-06-16 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체

Country Status (3)

Country Link
US (2) US10269124B2 (ko)
KR (1) KR102233391B1 (ko)
CN (2) CN108470162B (ko)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102233391B1 (ko) * 2014-06-16 2021-03-29 팅크웨어(주) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
US10652466B2 (en) * 2015-02-16 2020-05-12 Applications Solutions (Electronic and Vision) Ltd Method and device for stabilization of a surround view image
JP6171046B1 (ja) * 2016-04-26 2017-07-26 京セラ株式会社 電子機器、制御方法、及び制御プログラム
US10410074B2 (en) * 2016-10-25 2019-09-10 Ford Global Technologies, Llc Systems and methods for locating target vehicles
CN106600569B (zh) * 2016-11-28 2020-04-10 浙江宇视科技有限公司 信号灯颜色效果增强处理方法及装置
CN109472989A (zh) * 2018-12-05 2019-03-15 斑马网络技术有限公司 交通信号灯的提示方法、装置、设备及可读存储介质
CN110349415B (zh) * 2019-06-26 2021-08-20 江西理工大学 一种基于多尺度变换的行车速度测量方法
CN110309033B (zh) * 2019-07-15 2022-12-09 中国工商银行股份有限公司 故障监控方法、装置和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100027009A1 (en) * 2008-07-31 2010-02-04 General Electric Company Method and system for detecting signal color from a moving video platform
JP2013206329A (ja) * 2012-03-29 2013-10-07 Fuji Heavy Ind Ltd 車両の運転支援装置
US20140046581A1 (en) * 2011-04-21 2014-02-13 Mitsubishi Electric Corporation Drive assistance device

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5931888A (en) * 1994-09-22 1999-08-03 Aisin Aw Co., Ltd. Navigation system for vehicles with alternative route searching capabilities
JPH1164172A (ja) * 1997-08-22 1999-03-05 Nippon Denshi Kagaku Kk ドライバーズ・エイド
JPH1186182A (ja) * 1997-09-01 1999-03-30 Honda Motor Co Ltd 自動運転制御システム
JPH11144185A (ja) * 1997-09-03 1999-05-28 Honda Motor Co Ltd 自動運転制御誘導システム
EP1220182A3 (en) * 2000-12-25 2005-08-17 Matsushita Electric Industrial Co., Ltd. Image detection apparatus, program, and recording medium
US7489802B2 (en) * 2002-09-10 2009-02-10 Zeev Smilansky Miniature autonomous agents for scene interpretation
JP4253271B2 (ja) * 2003-08-11 2009-04-08 株式会社日立製作所 画像処理システム及び車両制御システム
TWI236901B (en) * 2004-06-11 2005-08-01 Oriental Inst Technology An apparatus and method for identifying surrounding environment by means of image processing and for outputting the resutls
US7466841B2 (en) * 2004-08-16 2008-12-16 Siemens Corporate Research, Inc. Method for traffic sign detection
JP4677226B2 (ja) * 2004-12-17 2011-04-27 キヤノン株式会社 画像処理装置及び方法
US6985073B1 (en) * 2004-12-20 2006-01-10 Duc Doan Apparatus for monitoring traffic signals and alerting drivers
JP4557288B2 (ja) * 2005-01-28 2010-10-06 アイシン・エィ・ダブリュ株式会社 画像認識装置及び画像認識方法、並びにそれを用いた位置特定装置、車両制御装置及びナビゲーション装置
US7804980B2 (en) * 2005-08-24 2010-09-28 Denso Corporation Environment recognition device
JP4631750B2 (ja) * 2006-03-06 2011-02-16 トヨタ自動車株式会社 画像処理システム
JP4825722B2 (ja) * 2007-04-27 2011-11-30 アイシン・エィ・ダブリュ株式会社 経路案内システム、ナビゲーション装置及び経路案内方法
EP3594853A3 (en) * 2007-05-03 2020-04-08 Sony Deutschland GmbH Method for detecting moving objects in a blind spot region of a vehicle and blind spot detection device
US8031062B2 (en) * 2008-01-04 2011-10-04 Smith Alexander E Method and apparatus to improve vehicle situational awareness at intersections
JP5057166B2 (ja) * 2008-10-30 2012-10-24 アイシン・エィ・ダブリュ株式会社 安全運転評価システム及び安全運転評価プログラム
KR20100055254A (ko) * 2008-11-17 2010-05-26 엘지전자 주식회사 이동 단말기의 ｐｏｉ 정보 제공 방법 및 그 장치
US9522817B2 (en) * 2008-12-04 2016-12-20 Crown Equipment Corporation Sensor configuration for a materials handling vehicle
KR101768101B1 (ko) * 2009-10-30 2017-08-30 엘지전자 주식회사 정보 표시 장치 및 그 방법
JP5462609B2 (ja) * 2009-12-09 2014-04-02 富士重工業株式会社 停止線認識装置
JP2011135253A (ja) * 2009-12-24 2011-07-07 Fujitsu Ten Ltd 画像処理装置、画像処理システム、および、画像処理方法
US8559673B2 (en) * 2010-01-22 2013-10-15 Google Inc. Traffic signal mapping and detection
CN101783964A (zh) * 2010-03-18 2010-07-21 上海乐毅信息科技有限公司 基于图像识别技术的色盲或色弱者辅助驾驶系统
WO2012114382A1 (ja) * 2011-02-24 2012-08-30 三菱電機株式会社 ナビゲーション装置、推奨速度演算装置及び推奨速度提示装置
CN102176287B (zh) * 2011-02-28 2013-11-20 无锡中星微电子有限公司 一种交通信号灯识别系统和方法
CN102117546B (zh) * 2011-03-10 2013-05-01 上海交通大学 车载交通信号灯辅助装置
CN102679993A (zh) * 2011-03-18 2012-09-19 阿尔派株式会社 导航装置及其行驶中引导方法
KR20120007781U (ko) * 2011-05-04 2012-11-14 권정기 증강현실과 헤드-업 디스플레이를 이용한 경로 안내 방법
JP2013029451A (ja) * 2011-07-29 2013-02-07 Ricoh Co Ltd 付着物検出装置及び付着物検出方法
JP5803402B2 (ja) * 2011-08-08 2015-11-04 株式会社ソシオネクスト 画像処理装置、撮像装置、撮像システム、及びデータ処理方法
JP5573803B2 (ja) * 2011-09-21 2014-08-20 株式会社デンソー ライト検出装置、ライト検出プログラム、およびライト制御装置
CN103020623B (zh) * 2011-09-23 2016-04-06 株式会社理光 交通标志检测方法和交通标志检测设备
CN102556043A (zh) 2011-12-12 2012-07-11 浙江吉利汽车研究院有限公司 一种基于交通灯识别的汽车控制系统及其控制方法
US9137451B2 (en) * 2012-03-09 2015-09-15 Htc Corporation Electronic apparatus and adjustment method thereof
KR101331096B1 (ko) * 2012-03-21 2013-11-19 주식회사 코아로직 차량용 영상 기록 장치 및 방법
US9135754B2 (en) * 2012-05-07 2015-09-15 Honda Motor Co., Ltd. Method to generate virtual display surfaces from video imagery of road based scenery
CN103345766B (zh) * 2013-06-21 2016-03-30 东软集团股份有限公司 一种信号灯识别方法及装置
CN103395391B (zh) * 2013-07-03 2015-08-05 北京航空航天大学 一种车辆换道警示装置及换道状态识别方法
JP5852637B2 (ja) * 2013-12-27 2016-02-03 富士重工業株式会社 矢印信号認識装置
US9767371B2 (en) * 2014-03-27 2017-09-19 Georgia Tech Research Corporation Systems and methods for identifying traffic control devices and testing the retroreflectivity of the same
US20150316387A1 (en) * 2014-04-30 2015-11-05 Toyota Motor Engineering & Manufacturing North America, Inc. Detailed map format for autonomous driving
KR102233391B1 (ko) * 2014-06-16 2021-03-29 팅크웨어(주) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
US9586585B2 (en) * 2014-11-20 2017-03-07 Toyota Motor Engineering & Manufacturing North America, Inc. Autonomous vehicle detection of and response to traffic officer presence
BR112018000133B1 (pt) * 2015-07-08 2023-01-17 Nissan Motor Co., Ltd. Dispositivo de detecção de lâmpada e método de detecção de lâmpada
US20170068863A1 (en) * 2015-09-04 2017-03-09 Qualcomm Incorporated Occupancy detection using computer vision

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100027009A1 (en) * 2008-07-31 2010-02-04 General Electric Company Method and system for detecting signal color from a moving video platform
US20140046581A1 (en) * 2011-04-21 2014-02-13 Mitsubishi Electric Corporation Drive assistance device
JP2013206329A (ja) * 2012-03-29 2013-10-07 Fuji Heavy Ind Ltd 車両の運転支援装置

Also Published As

Publication number Publication date
US10269124B2 (en) 2019-04-23
CN108470162B (zh) 2022-04-08
US20150363652A1 (en) 2015-12-17
US20170256064A1 (en) 2017-09-07
CN105185137B (zh) 2018-04-13
US10282848B2 (en) 2019-05-07
CN105185137A (zh) 2015-12-23
CN108470162A (zh) 2018-08-31
KR20150144201A (ko) 2015-12-24

Similar Documents

Publication Publication Date Title
KR102233391B1 (ko) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
US9983018B2 (en) Electronic apparatus and control method thereof
CN108680173B (zh) 电子装置、电子装置的控制方法及计算机可读记录介质
KR102255432B1 (ko) 전자 장치 및 그의 제어 방법
US20230048230A1 (en) Method for displaying lane information and apparatus for executing the method
US11030816B2 (en) Electronic apparatus, control method thereof, computer program, and computer-readable recording medium
CN110091798B (zh) 电子装置、电子装置的控制方法以及计算机可读存储介质
KR20160065724A (ko) 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체
KR102406490B1 (ko) 전자 장치, 전자 장치의 제어 방법, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체
KR102299500B1 (ko) 전자 장치 및 그의 제어 방법
KR102276082B1 (ko) 내비게이션 장치, 블랙 박스 및 그들의 제어 방법
KR102158167B1 (ko) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
KR102371620B1 (ko) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
KR102299501B1 (ko) 전자 장치, 전자 장치의 제어 방법 및 컴퓨터 판독 가능한 기록 매체
KR102299499B1 (ko) 전자 장치 및 그의 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant