KR101781689B1 - 가상 영상 생성장치, 헤드 마운티드 디스플레이 및 차량 - Google Patents

Abstract

실시예에 따른 가상 영상 생성장치는 차량 주변 영상을 촬영하는 카메라; 상기 차량 주변 영상에 포함되는 오브젝트와의 거리를 측정하는 깊이 센서; 상기 측정된 거리에 따라서 상기 차량 주변 영상을 가상 뷰 포인트 영상으로 생성하는 영상 처리부; 및 상기 가상 뷰 포인트 영상에 관한 데이터를 송수신하는 통신부;를 포함한다.

Description

가상 영상 생성장치, 헤드 마운티드 디스플레이 및 차량 {VITUAL IMAGE GENERATING APPARATUS, HEAD MOUNTED DISPLAY AND VEHICLE}

본 발명은 가상 영상 생성장치, 가상 영상을 출력하는 헤드 마운티드 디스플레이 및 이를 포함하는 차량에 관한 것이다.

차량은 탑승하는 사용자가 원하는 방향으로 이동시키는 장치이다. 대표적으로 자동차를 예를 들 수 있다.

차량을 이용하는 사용자의 편의를 위해, 최근 각 종 센서와 전자 장치 등이 구비되고 있는 추세이다. 특히, 사용자의 운전 편의를 위한 다양한 장치 등이 개발되고 있다.

한편, 최근 스마트 기기에 대한 연구와 소비자의 관심이 크게 증가하고 있다.

스마트 기기 중에서 단말기는 기능이 다양화되어, 현재는 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임의 플레이, 방송의 수신 등 복합적인 기능을 갖춘 멀티미디어 디바이스로 사용되고 있다.

이러한 단말기의 기능을 증대시키기 위하여, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분의 개량하는 것이 고려될 수 있다.

그리고 스마트 기기 중에서 태블릿 PC 는 대화면의 터치 스크린을 이용하여 다양한 멀티미디어를 즐길 수 있도록 개발되고 있다.

또한, 최근에는 안경의 구조로 이루어져 얼굴에 착용 가능한 디바이스로 구글 글래스가 발표된 바 있으며, 다양한 형태로 스마트 기기들이 발전해 나가고 있다.

실시예는 차량에 스마트 기기를 접목시켜 새로운 사용자 환경을 제공할 수 있는 가상 영상 생성장치, 가상 영상을 출력하는 헤드 마운티드 디스플레이 및 이를 포함하는 차량을 제공하고자 한다.

실시예에 따른 가상 영상 생성장치는 차량 주변 영상을 촬영하는 카메라; 상기 차량 주변 영상에 포함되는 오브젝트와의 거리를 측정하는 깊이 센서; 상기 측정된 거리에 따라서 상기 차량 주변 영상을 가상 뷰 포인트 영상으로 생성하는 영상 처리부; 및 상기 가상 뷰 포인트 영상에 관한 데이터를 송수신하는 통신부;를 포함한다.

실시예에 따른 헤드 마운티드 디스플레이는 차량 주변 가상 뷰 포인트 영상에 관한 데이터를 송수신하는 무선 통신부; 상기 가상 뷰 포인트 영상으로 좌안 영상 및 우안 영상을 생성하는 프로세서; 및 상기 좌안 영상 및 상기 우안 영상을 각각 표시하는 디스플레이부;를 포함한다.

실시예는 전술한 가상 영상 생성장치를 포함하는 차량을 제공한다.

실시예에 따르면 가상 뷰 포인트 영상을 사용자에게 제공할 수 있으며, 가상 뷰 포인트 영상을 차량 외부의 다양한 위치에서 바라본 가상 뷰 포인트로 제공할 수 있다.

이러한 가상 뷰 포인트 영상은 360도 영상을 포함할 수 있어서, 사용자에게 차량 밖에서 바라보는 넓은 시야를 제공해주어, 차량 내부에 위치한 사용자는 전혀 새로운 운전 환경을 경험할 수 있다.

또한, 이러한 가상 뷰 포인트 영상은 3D 영상을 포함할 수 있으며, 이러한 3D 영상은 사용자에게 차량 외부에 위치한 오브젝트와의 거리감을 부여하여, 차량 외부 상황을 사용자가 정확하게 인지할 수 있다.

도 1은 본 발명의 실시예에 따른 차량 주변 가상 뷰 포인트 영상을 출력하기 위한 가상 뷰 포인트 영상 출력 시스템의 블록도를 나타낸다.
도 2는 본 발명의 실시예에 따른 가상 뷰 포인트 영상 생성장치의 블록도를 나타낸다.
도 3은 본 발명의 실시예에 따른 카메라의 작동 방식을 설명하기 위한 도면이다.
도 4는 본 발명의 다른 실시예에 따른 카메라의 작동 방식을 설명하기 위한 도면이다.
도 5는 본 발명의 또 다른 실시예에 따른 카메라의 작동 방식을 설명하기 위한 도면이다.
도 6은 깊이 센서에서 측정된 거리로 작성된 3D 맵을 나타낸다.
도 7은 본 발명의 실시예에 따른 영상 및 측정 거리로부터 3D 영상을 생성하는 과정을 나타낸다.
도 8은 본 발명의 실시예에 따른 카메라를 나타낸다.
도 9는 본 발명의 다른 실시예에 따른 카메라를 나타낸다.
도 10은 본 발명의 실시예에 따른 카메라 촬영 영상을 나타내기 위한 개념도이다.
도 11은 본 발명의 실시예에 따른 디스플레이부에서 표시되는 가상 뷰 포인트 영상을 나타내기 위한 개념도이다.
도 12는 본 발명의 실시예에 따른 타차량의 영상을 표시하는 과정을 설명하기 위한 도면이다.
도 13은 본 발명의 실시예에 따른 헤드 마운티드 디스플레이의 외관을 나타낸다.
도 14는 본 발명의 실시예에 따른 헤드 마운티드 디스플레이의 블록도를 나타낸다.
도 15는 본 발명의 실시예에 따른 헤드 마운티드 디스플레이의 3D 영상 출력을 설명하기 위한 도면이다.
도 16은 본 발명의 실시예에 따른 가상 뷰 포인트 영상 표시방법을 나타내는 흐름도이다.
도 17은 본 발명의 실시예에 따른 타차량의 가상 뷰 포인트 영상을 표시하는 방법을 나타내는 흐름도이다.
도 18은 차량의 내부 블록도의 일 예이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되지는 않는다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.

본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.

본 명세서에서 설명되는 차량은 운전 주행 보조기능(ADAS, advanced driver assistance systems)을 제공할 수 있는 차량이다. 예를 들어, 차량은 사각지대감시기능(BSD, blind spot detection), 차선 이탈 방지 기능(LKAS, Lane Keeping Assist System), 차선 이탈 경고 기능(LDWS, Lane Departure Warning System) 및 자동 긴급제동(AEB, Autonomous Emergency Braking) 등을 제공할 수 있다.

본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.

이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.

이하의 설명에서 별도로 언급되지 않는 한 LHD(Left Hand Drive) 차량을 중심으로 설명한다.

도 1은 본 발명의 실시예에 따른 차량 주변 가상 뷰 포인트 영상을 출력하기 위한 가상 뷰 포인트 영상 출력 시스템의 블록도를 나타낸다.

도 1을 참조하면, 차량 주변 상황을 가상 뷰 포인트 영상으로 출력하기 위한 가상 뷰 포인트 영상 출력 시스템은 가상 영상 생성장치(100)를 포함하는 차량(700), 서버(500) 및 헤드 마운티드 디스플레이(600)(Head Mounted Display)를 포함할 수 있다. 여기서, 가상 뷰 포인트 영상을 차량(700)에서 촬영된 영상을 이미지 처리하여 생성된 자유 시점(Free View point)으로 표시 가능한 영상을 의미하는 것으로서, 실사 영상 및 허상 영상을 모두 포함하는 개념으로 이해할 수 있다.

이러한 가상 뷰 포인트 영상은 차량(700) 내에 구비된 가상 영상 생성장치(100)에서 생성되는 것으로 설명하나, 이에 한정하지는 않는다. 예를 들어, 차량(700)에서는 가상 뷰 포인트 영상 생성을 위한 정보를 수집하고, 이를 서버(500)나 헤드 마운티드 디스플레이(600)에 전송하여, 서버(500) 또는/및 헤드 마운티드 디스플레이(600)에서 가상 뷰 포인트 영상을 생성하는 실시예도 가능할 것이다.

실시예에서는, 차량(700)에는 가상 영상 생성장치(100)가 구비되고, 가상 영상 생성장치(100)는 가상 뷰 포인트 영상 생성에 필요한 데이터를 직접 수집하고, 이를 토대로 가상 뷰 포인트 영상을 생성한 후, 데이터 송수신을 통해 헤드 마운티드 디스플레이(600)에서 가상 뷰 포인트 영상을 출력한다.

먼저, 차량(700)은, 동력원에 의해 회전하는 바퀴(13FL, 13FR, 도 9 참조), 차량(700)의 주행을 제어하기 위한 운전 조작 수단(721A, 721B, 721C, 721D, 도 9 참조) 및 가상 영상 생성장치(100)를 포함할 수 있다.

여기서, 가상 영상 생성장치(100)는 별도의 장치로서, 차량(700)과 데이터 통신을 통해 필요 정보를 주고 받으며 운전을 보조하는 기능을 실행할 수 있고, 차량(700)의 유닛 중 일부의 집합을 가상 영상 생성장치(100)로 정의할 수도 있다.

그리고 별도의 장치일 때, 가상 영상 생성장치(100)의 각 유닛들 중 일부는 가상 영상 생성장치(100)에 포함되지 않고, 차량(700) 또는 차량(700)에 탑재된 다른 장치의 유닛일 수 있다. 이러한 유닛들은 가상 영상 생성장치(100)의 인터페이스부를 통해 데이터 송수신함으로써, 가상 영상 생성장치(100)에 포함되는 것으로 이해할 수 있다.

실시예에 따른 가상 영상 생성장치(100)는 도 2에 도시한 각 유닛들을 직접 포함하는 것으로 설명하나, 차량(700)에 직접 설치된 각 유닛들을 인터페이스부를 통해 이용하는 것도 가능하고, 차량(700)에 직접 설치된 각 유닛들의 조합으로도 구현될 수도 있다.

이하 설명에서는 가상 영상 생성장치(100)가 가상 차선을 생성하고 출력하는데 필요한 유닛들을 직접 포함하고 있는 것으로 설명한다.

가상 영상 생성장치(100)는 가상 뷰 포인트 영상을 생성하고 출력할 수 있다.

여기서, 가상 뷰 포인트 영상은 자유 시점(Free View point)으로 표시 가능한 영상으로서, 가상 영상 생성장치(100)는 차량(700)에서 외부를 촬영하여 획득한 영상을 이미지 처리하여 차량(700) 외부의 다양한 위치에서 바라본 가상 뷰 포인트 영상으로 편집할 수 있다.

이러한 가상 뷰 포인트 영상은 360도 영상을 포함할 수 있다. 예를 들어, 360도 영상은 차량(700)의 사방 및 상측 방향에서 촬영된 영상으로부터 생성된 가상 뷰 포인트 영상으로서, 이러한 360도 영상은 사용자가 차량(700) 밖에서 바라보는 넓은 시야를 제공해주어, 차량(700) 내부에 위치한 사용자는 전혀 새로운 운전 환경을 경험할 수 있다.

또한, 이러한 가상 뷰 포인트 영상은 3D 영상을 포함할 수 있다. 예를 들어, 3D 영상은 카메라에서 촬영된 2D 영상을 깊이 센서로부터 얻어진 거리를 활용해 영상 처리하여 생성될 수 있으며, 이러한 3D 영상은 사용자에게 차량(700) 외부에 위치한 오브젝트와의 거리감을 부여하여, 차량(700) 외부 상황을 사용자가 정확하게 인지할 수 있다.

이러한 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)에 전송되어 표시될 수 있다.

헤드 마운티드 디스플레이(600)는 사용자의 머리에 장착되어 사용자의 시야 전체에 이미지를 표시할 수 있어, 사용자에게 가상 현실을 제공할 수 있다. 특히, 360도 영상이 헤드 마운티드 디스플레이(600)에 표시될 때, 그 효과는 배가 될 수 있다.

즉, 가상 영상 생성장치(100)에서 생성된 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)를 통해 제공됨으로써, 사용자는 새로운 사용자 환경을 경험할 수 있다.

실시예에서 가상 뷰 포인트 영상을 표시하는 장치로 헤드 마운티드 디스플레이(600)를 제안하나, 이에 한정되지는 않고, 스마트 폰이나 티브이 등 다양한 단말기에 가상 뷰 포인트 영상이 제공되고 표시될 수도 있다.

한편, 가상 뷰 포인트 영상은 서버(500)로 전송되어 저장될 수 있다.

서버(500)에 저장된 가상 뷰 포인트 영상은 이후 사용자에게 제공될 수 있으며, 사고시 보험사나 공공기관에 제공되어, 사고시 차량(700) 외부 상황을 정확하게 판단할 수 있다.

이하, 도 2 내지 도 12를 참조하여 가상 영상 생성장치(100)에 대해 좀더 자세히 설명한다.

먼저, 도 2를 보면, 이러한 가상 영상 생성장치(100)는 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 모니터링부(150), 카메라(160), 프로세서(170), 디스플레이부(180), 오디오 출력부(185) 및 전원 공급부(190)를 포함할 수 있다.

먼저, 가상 영상 생성장치(100)는 사용자의 입력을 감지하는 입력부(110)를 포함할 수 있다. 사용자는 입력부(110)를 통해 운전 보조장치 기능을 온/오프하거나, 가상 영상 생성장치(100)의 전원을 온/오프시키는 실행 입력을 할 수 있다.

예를 들어, 사용자는 입력부(110)를 통해 가상 뷰 포인트 영상의 시야를 제어하는 입력이 가능하다. 자세히, 사용자는 평면 디스플레이에 가상 뷰 포인트 영상이 표시되는 경우, 사용자의 드래그 입력을 전달 받아 가상 뷰 포인트 영상의 시야를 변경할 수 있다. 좀더 자세히, 사용자는 좌측 드래그 입력을 통해 가상 뷰 포인트 영상의 시야를 좌측으로 이동시킬 수 있으며, 우측 드래그 입력을 통해 가상 뷰 포인트 영상의 시야를 우측으로 이동시킬 수 있다.

이러한 입력부(110)는 사용자 제스쳐를 감지하는 제스쳐 입력부, 터치를 감지하는 터치 입력부 및 음성 입력을 감지하는 마이크로 폰 중 적어도 하나 이상을 포함하여, 사용자 입력을 감지할 수 있다.

다음으로, 가상 영상 생성장치(100)는 타차량(510), 헤드 마운티드 디스플레이(600) 및 서버(500) 등과 통신하는 통신부(120)를 포함할 수 있다. 가상 영상 생성장치(100)는 통신부(120)를 통해 생성한 가상 뷰 포인트 영상 관련 데이터를 송신할 수 있고, 타차량(510)의 영상 관련 데이터를 수신할 수도 있다.

자세히, 통신부(120)는 헤드 마운티드 디스플레이(600), 차량(700) 주변에 인접한 타차량(510) 또는/및 서버(500)와 무선(wireless) 방식으로 데이터를 교환할 수 있다. 특히, 통신부(120)는 운전자의 헤드 마운티드 디스플레이(600)와 무선으로 데이터를 교환할 수 있다.

무선 데이터 통신 방식으로는 블루투스(Bluetooth) WiFi, Direct WiFi, APiX 또는 NFC 등 다양한 데이터 통신 방식이 가능하다.

이러한 통신부(120)는 헤드 마운티드 디스플레이(600) 또는 서버(500)에 가상 뷰 포인트 영상을 송신하고 저장할 수 있다.

반대로, 통신부(120)는 헤드 마운티드 디스플레이(600) 또는 서버(500)로부터 위치 정보 날씨 정보 도로의 교통 상황 정보 예를 들면 TPEG(Transport Protocol Expert Group) 정보를 수신할 수 있다.

또한, 사용자가 차량(700)에 탑승한 경우, 사용자의 헤드 마운티드 디스플레이(600)와 가상 영상 생성장치(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 서로 페어링(pairing)을 수행할 수도 있다.

통신부(120)는 페어링을 통해 가상 뷰 포인트 영상을 헤드 마운티드 디스플레이(600)로 전송하여, 사용자에게 가상 현실을 제공할 수 도 있다.

한편, 통신부(120)를 통해 타차량(510)으로부터 주변 영상을 수신할 수 있다. 자세히, 타차량(510)은 주변을 촬영하고 이를 통신부(120)를 통해 차량(700)으로 전송할 수 있다.

입력부(110)는 타차량(510)을 선택 입력을 감지할 수 있고, 통신부(120)는 선택된 타차량(510)으로부터 주변 영상을 전송 받을 수 있다.

자세히, 도 12를 보면, 차량(700) 주변에 타차량(510_1,2,3,4,5,6)이 위치하면, 사용자는 타차량(510_1,2,3,4,5,6) 중 적어도 하나를 선택하여, 선택된 차량(700)에서 촬영된 영상을 수신할 수 있다.

예를 들어, 사용자는 차량(700) 정체시 전방 측으로 타차량(510_1,2,3,4,5,6)을 변경하면서 타차량(510_1,2,3,4,5,6)의 영상을 확인하여, 사고 지점에 타차량(510_3) 영상을 확인할 수 있고, 이에 대비한 운전을 수행할 수 있다.

사용자는 예기치 못한 차량(700) 정체시에 타차량(510_3)으로부터 정체 원인에 대한 영상을 전송 받아 이를 확인하고, 이에 맞추어 운전할 수 있다.

다음으로, 가상 영상 생성장치(100)는 차량(700) 관련 데이터를 수신하거나 프로세서(170)에서 처리 또는 생성된 신호를 외부로 전송하는 인터페이스부(130)를 포함할 수 있다.

자세히, 가상 영상 생성장치(100)는 인터페이스부(130)를 통해 내비게이션 정보 또는/및 센서 정보를 수신할 수 있다. 그리고 수신된 정보는 가상 뷰 포인트 영상 생성시 활용될 수 있다.

이를 위해, 인터페이스부(130)는 유선 통신 또는 무선 통신 방식에 의해 차량(700) 내부의 제어부(770), AVN(Audio Video Navigation) 장치(400) 및 센서부(760) 등과 데이터 통신을 수행할 수 있다.

인터페이스부(130)는 제어부(770) AVN 장치(400) 또는/및 별도의 내비게이션 장치와의 데이터 통신에 의해 내비게이션 정보를 수신할 수 있다.

또한, 인터페이스부(130)는 제어부(770) 또는 센서부(760)로부터 센서 정보를 수신할 수 있다.

여기서, 센서 정보는 차량(700)의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진/후진 정보, 연료 정보, 전후방 차량(700)과의 거리 정보, 차량(700)과 차선과의 거리 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.

또한, 센서 정보는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량(700) 전진/후진 센서, 휠 센서(wheel sensor), 차량(700) 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량(700) 내부 온도 센서, 차량(700) 내부 습도 센서 등으로부터 획득될 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.

인터페이스부(130)는 차량(700)의 사용자 입력부(110)를 통해 수신되는 사용자 입력을 수신할 수 있다. 인터페이스부(130)는 사용자 입력을 차량(700)의 입력부(720)로부터 수신하거나 제어부(770)를 거쳐 수신할 수 있다. 즉, 입력부(110)가 차량(700) 자체 내에 구성으로 배치된 경우, 인터페이스부(130)를 통해 사용자 입력을 전달받을 수 있다.

인터페이스부(130)는 서버(500)로부터 획득된 교통 정보를 수신할 수도 있다. 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버(500)일 수 있다. 예를 들면, 차량(700)의 통신부(120)를 통해 서버(500)로부터 교통 정보가 수신되는 경우 인터페이스부(130)는 교통 정보를 제어부(770)로부터 수신할 수도 있다.

다음, 메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 가상 영상 생성장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.

또한, 메모리(140)는 오브젝트 확인을 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에서, 소정 오브젝트가 검출되는 경우, 소정 알고리즘에 의해, 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.

예를 들어, 메모리(140)는 오브젝트 확인을 위한 데이터로 교통 정보에 대한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에서, 차선, 교통 표지판과 같은 소정의 교통 정보가 검출되는 경우, 소정 알고리즘에 의해, 교통 정보가 또한, 메모리(140)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다.

다음으로, 가상 영상 생성장치(100)는 차량(700) 내부 영상을 촬영하는 모니터링부(150)를 포함할 수 있다.

자세히, 모니터링부(150)는 사용자의 생체 인식 정보를 감지하여 획득할 수 있다. 그리고 획득된 생체 인식 정보는 운전 보조기능 작동이력에 포함될 수 있다. 예를 들어, 자동 긴급제동 기능이 작동했을 때, 사용자의 운전 조작수단 제어 상태나 사용자의 흥분 상태 등이 저장되어, 이후 운전 보조기능 작동이력 정보가치를 보완할 수 있다.

이러한 생체 인식 정보는 사용자를 촬영한 영상 정보, 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 즉, 모니터링부(150)는 사용자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다.

또한, 모니터링부(150)는 사용자의 생체 인식을 위한 이미지를 획득할 수 있다. 즉, 모니터링부(150)는 차량(700) 내부에 배치된 영상 획득 모듈일 수 있다.

다음으로, 가상 영상 생성장치(100)는 차량 주변 영상을 촬영하는 카메라(160)를 포함할 수 있다.

이러한 카메라(160) 내에는 차량(700) 주변 오브젝트와 카메라(160) 간 거리를 측정하는 깊이 센서(165)가 포함될 수 있다.

자세히, 카메라(160)는 차량 주변 영상을 촬영하고, 깊이 센서(165)는 차량(700) 주변 오브젝트와의 거리를 측정하고, 영상 처리부(171)는 주변 영상과 거리 정보를 통해 가상 뷰 포인트 영상을 생성할 수 있다.

실시예에서, 별도의 깊이 센서(165) 없이 카메라(160)는 광을 조사하지 않고 영상 정보만을 이용하여 물체까지의 거리를 계산하는 방식으로 스테레오 카메라(160)(stereo camera) 방식을 사용할 수 있다.

자세히, 도 3을 보면, 카메라(160)는 동일한 방향을 바라보는 2대의 카메라(161L, 160R)를 포함하면, 오브젝트는 좌측 카메라(161L)에서 촬영된 영상과 우측 카메라(161R)에서 촬영된 영상 내에 서로 다른 픽셀(pixel) 좌표에 위치하게 된다. 이 픽셀 좌표의 차이와 오브젝트와의 거리 사이의 상관관계를 이용하여 오브젝트와 카메라(160) 간의 거리를 측정할 수 있다.

이러한 스테레오 카메라(161L, 161R)는 광 조사 없이 영상 정보 만으로 오브젝트와의 거리를 측정하여, 구조가 단순하고 영상과 거리 간의 매칭률이 높아 정밀도가 높은 가상 뷰 포인트 영상을 구현할 수 있는 장점이 있다.

또한, 도 4를 보면, 깊이 센서(162a, 162b)는 광을 출력하는 출력부(162a)와, 오브젝트에 반사된 반사광을 수신하는 디텍터(162b)를 포함할 수 있다. 깊이 센서(162a, 162b)는 오브젝트에 변조광을 조사하고 반사되어 돌아온 광을 감지하여 위상의 변화로부터 거리를 계산하는 TOF 방식(time-of-flight)으로부터 카메라(160)와 물체간 거리를 측정할 수 있다.

또한, 도 5를 보면, 깊이 센서(163a, 163b)로부터 일정 거리에 있는 레이저(laser) 등에 의해 조사되고 반사된 광의 위치를 감지하여 삼각측량을 이용하여 거리를 계산하는 삼각(triangulation) 방식으로 오브젝트와의 거리를 측정할 수 있다. 자세히, 특정 모양의 패턴을 가진 빛을 비추고, 오브젝트에서 투영되는 형태를 다른 카메라(160)에서 분석하여 거리를 측정할 수 있다.

이와 같이 오브젝트와 카메라(160) 간의 거리를 측정하고, 영상 처리부(171)는 측정된 거리로 도 6과 같이 3D 맵을 생성할 수 있다. 영상 처리부(171)는 3D 맵과 촬영 영상을 매칭하여 가상 뷰 포인트 영상을 생성할 수 있다.

자세히, 도 7을 보면, 영상 처리부(171)는 촬영 영상과 3D 맵의 픽셀 포인트(pixel point)를 깊이 정보를 이용하여, 3차원 상의 좌표로 맵핑함으로써 가상의 2D 시점을 생성할 수 있다.

그리고 촬영 영상의 3차원 상의 좌표를 가상의 시점으로 프로젝션(projection) 하여 3D 영상을 생성할 수 있다. 즉, 가상 뷰 포인트 영상은 3D 영상일 수 있다. 이때, 프로젝션(Projection)이 안되는 빈 영역(hole)은 주위 픽셀들로 채워 전체적인 3D 영상을 구현할 수 있다.

이러한 카메라(160)는 복수의 카메라(160)를 더 포함할 수 있다.

자세히, 도 8을 보면, 카메라(160)는 주변 360도를 모두 촬영할 수 있는 360도 카메라(160)일 수 있다. 이러한 카메라(160)는 원형 바디부에 각기 다른 방향을 촬영하는 복수의 카메라(160)가 배치되고, 원형 바디부를 지지하는 지지대로 구현될 수 잇다.

이러한 360도 카메라(160)는 차량(700)의 지붕 상측에 배치되어 차량(700)의 전후좌우 및 상측을 촬영하여 360도 영상을 획득할 수 있다.

이러한 360도 영상은 사용자가 차량(700) 외부에서 밖을 바라보는 듯한 사용자 경험을 제공할 수 있다.

또한, 도 9를 보면, 복수의 카메라(160a, 160b, 160c, 160d)는, 각각 차량(700)의 좌측, 후방, 우측 및 전방 중 적어도 하나 이상에 배치될 수 있다. 즉, 각기 다른 방향을 촬영하도록 복수의 카메라(160a, 160b, 160c, 160d)가 배치될 수 있다.

좌측 카메라(160b)는, 좌측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는, 좌측 카메라(160b)는, 좌측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 좌측 카메라(160b)는 좌측 프런트 도어, 좌측 리어 도어 또는 좌측 휀더(fender) 외측 일 영역에 배치될 수 있다.

우측 카메라(160c)는, 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는 우측 카메라(160c)는, 우측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 우측 카메라(160c)는 우측 프런트 도어, 우측 리어 도어 또는 우측 펜터(fendere) 외측 일 영역에 배치될 수 있다.

또한, 후방 카메라(160d)는, 후방 번호판 또는 트렁크 스위치 부근에 배치될 수 있다. 전방 카메라(160a)는, 앰블럼 부근 또는 라디에이터 그릴 부근에 배치될 수 있다.

영상 처리부(171)는 이와 같이 사방에서 촬영된 영상을 가상 뷰 포인트 영상을 생성할 수 있다. 가상 뷰 포인트 영상 생성시, 각 영상 사이에서 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있다.

즉, 도 10을 보면, 실시예에 따른 카메라(160)는 차량(700)의 전방 영상(210), 후방 영상(240), 좌측 영상(220), 우측 영상(230) 및 상측 영상(250) 중 적어도 하나 이상을 획득할 수 있다.

영상 처리부(171)는 이와 같이 획득된 복수의 방향의 영상(210, 220, 230, 240, 250)을 이미지 처리하여 3차원 가상 뷰 포인트 영상을 생성할 수 있다.

이러한 3차원 가상 뷰 포인트 영상 내에서 사용자는 다양한 시점으로 영상을 제어할 수 있도록, 영상 처리부(171)는 3차원 가상 뷰 포인트 영상을 편집할 수 잇다.

이러한 카메라(160)는 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(160)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 영상 처리부(171)에 전달할 수 있다.

다음, 가상 영상 생성장치(100)는 가상 뷰 포인트 영상을 표시하는 디스플레이부(180)를 포함할 수 있다. 그리고 이러한 디스플레이부(180)는 복수의 디스플레이를 포함할 수 있다.

자세히, 디스플레이부(180)는 평면으로 가상 뷰 포인트 영상을 표시할 수 있다.

가상 뷰 포인트 영상은 다양한 시점과 다양한 시야에서 차량(700) 외부 상황을 이미지로 제공할 수 있으므로, 사용자는 디스플레이부(180)에서 입력부(110)로 뷰 포인트를 제어하여 다양한 시야의 차량 주변 영상을 인식할 수 있다.

예를 들어, 도 11을 보면, 전후좌우에서 촬영된 영상은 파노라마 영상(210i 220i, 230i, 240i)으로 제공되어, 사용자는 좌측 드래그 또는 우측 드래그로 원하는 뷰 포인트로 가상 뷰 포인트 영상을 볼 수 있다. 그리고 사용자는 상측 드래그를 통해 차량(700)의 상측에서 촬영한 영상(250i)을 볼 수 있다.

이러한 제 1 디스플레이부는 차량(700)의 윈드실드(W)(windshield)에 이미지를 투사하여 표시하는 제 1 디스플레이부를 포함할 수 있다. 즉, 제 1 디스플레이부는 HUD(Head Up Display)로, 윈드실드(W)에 이미지를 투사하는 투사 모듈을 포함할 수 있다. 그리고 투사 모듈이 투사하는 투사 이미지는 일정 투명도를 가져, 사용자는 투사 이미지 뒤 모습과 투사 이미지를 동시에 볼 수도 있다.

이러한 제 1 디스플레이부에서 표시되는 투사 이미지는 윈드실드(W)에 투영되는 투영 이미지와 겹쳐셔 증강현실(Augmented Reality, AR)을 이룰 수 있다.

한편, 디스플레이부(180)는 차량(700) 내부에 별도로 설치되어 이미지를 디스플레이하는 제 2 디스플레이부를 포함할 수 있다.

자세히, 제 2 디스플레이부는 차량(700) 내비게이션 장치의 디스플레이나 차량(700) 내부 전면의 클러스터(cluster)일 수 있다.

또한, 제 2 디스플레이부는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

이러한 제 2 디스플레이부는 터치 입력부와 결합되어 터치 스크린을 이룰 수 있다.

또한, 가상 영상 생성장치(100)는 오디오 출력부(185) 및 전원 공급부(190)를 더 포함할 수 있다.

마지막으로, 가상 영상 생성장치(100)는 가상 영상 생성장치(100) 내의 각 유닛의 전반적인 동작을 제어하는 프로세서(170)를 포함할 수 있다.

그리고 프로세서(170)에는 가상 뷰 포인트 영상을 생성하고 편집하는 영상 처리부(171)를 포함할 수 있다.

영상 처리부(171)는 깊이 센서(165)와 카메라(160)로부터 얻은 정보로 가상 뷰 포인트 영상을 생성할 수 있다.

자세히, 영상 처리부(171)는 깊이 센서(165)에서 측정된 거리로 3D 맵을 생성할 수 있다. 영상 처리부(171)는 3D 맵과 촬영 영상을 매칭하여 가상 뷰 포인트 영상을 생성할 수 있다.

다음으로, 영상 처리부(171)는 촬영 영상과 3D 맵의 픽셀 포인트(pixel point)를 깊이 정보를 이용하여, 3차원 상의 좌표로 맵핑함으로써 가상의 2D 시점을 생성할 수 있다.

그리고 촬영 영상의 3차원 상의 좌표를 가상의 시점으로 프로젝션(projection) 하여 3D 영상을 생성할 수 있다. 즉, 가상 뷰 포인트 영상은 3D 영상일 수 있다. 이때, 프로젝션(Projection)이 안되는 빈 영역(hole)은 주위 픽셀들로 채워 전체적인 3D 영상을 구현할 수 있다.

또한, 영상 처리부(171)는 차량(700)의 적어도 2방향 이상에서 촬영된 영상을 매칭하여 가상 뷰 포인트 영상을 생성할 수 있다. 그리고 가상 뷰 포인트 영상 생성시, 각 영상 사이에서 경계 부분이 발생한다. 영상 처리부(171)는 이러한 경계 부분를 이미지 블렌딩(blending) 처리하여 자연스럽게 표시할 수 있다.

영상 처리부(171)는 입력부(110)를 통해 가상 뷰 포인트 영상의 시야를 제어하는 입력을 수신하여 제어된 입력에 대응되도록 가상 뷰 포인트 영상을 편집하여 제공할 수 있다. 자세히, 사용자는 평면 디스플레이에 가상 뷰 포인트 영상이 표시되는 경우, 사용자의 드래그 입력을 전달 받아 가상 뷰 포인트 영상의 시야를 변경할 수 있다. 영상 처리부(171)는 사용자가 좌측 드래그 입력을 하면 가상 뷰 포인트 영상의 시야를 좌측으로 이동시킬 수 있으며, 우측 드래그 입력을 하면 가상 뷰 포인트 영상의 시야를 우측으로 이동시킬 수 있다.

또한, 영상 처리부(171)는 타차량(510)으로부터 수신된 영상으로부터 가상 뷰 포인트 영상을 생성할 수 있다.

자세히, 통신부(120)를 통해 타차량(510)으로부터 주변 영상을 수신할 수 있다. 자세히, 타차량(510)은 주변을 촬영하고 이를 통신부(120)를 통해 차량(700)으로 전송할 수 있다.

입력부(110)는 타차량(510)을 선택 입력을 감지할 수 있고, 통신부(120)는 선택된 타차량(510)으로부터 주변 영상을 전송 받을 수 있다.

영상 처리부(171)는 선택된 타차량(510)에서 전송받은 영상으로부터 가상 뷰 포인트 영상을 생성하고 통신부(120)를 통해 헤드 마운티드 디스플레이(600)로 전송할 수 있다.

이와 같이 생성된 가상 뷰 포인트 영상은 자유 시점(Free View point)으로 표시 가능한 영상으로서, 가상 영상 생성장치(100)는 차량(700)에서 외부를 촬영하여 획득한 영상을 이미지 처리하여 차량(700) 외부의 다양한 시점에서 바라본 영상으로 편집할 수 있다.

이러한 가상 뷰 포인트 영상은 360도 영상을 포함할 수 있다. 예를 들어, 360도 영상은 차량(700)의 사방 및 상측 방향에서 촬영된 영상으로부터 생성된 가상 뷰 포인트 영상으로서, 이러한 360도 영상은 사용자가 차량(700) 밖에서 바라보는 넓은 시야를 제공해주어, 차량(700) 내부에 위치한 사용자는 전혀 새로운 운전 환경을 경험할 수 있다.

또한, 이러한 가상 뷰 포인트 영상은 3D 영상을 포함할 수 있다. 예를 들어, 3D 영상은 카메라(160)에서 촬영된 2D 영상을 깊이 센서(165)로부터 얻어진 거리를 활용해 영상 처리하여 생성될 수 있으며, 이러한 3D 영상은 사용자에게 차량(700) 외부에 위치한 오브젝트와의 거리감을 부여하여, 차량(700) 외부 상황을 사용자가 정확하게 인지할 수 있다.

이와 같은 프로세서(170)는 ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(170)(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(170)(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.

그리고 이러한 프로세서(170)는 제어부의 제어를 받거나, 제어부를 통해 차량(700)을 여러 기능을 제어할 수 있다.

이러한 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)에 전송되어 표시될 수 있다.

헤드 마운티드 디스플레이(600)는 사용자의 머리에 장착되어 사용자의 시야 전체에 이미지를 표시할 수 있어, 사용자에게 가상 현실을 제공할 수 있다. 특히, 360도 영상이 헤드 마운티드 디스플레이(600)에 표시될 때, 그 효과는 더욱 증진될 수 있다.

또한, 헤드 마운티드 디스플레이(600)는 좌안과 우안에 각각 다른 영상을 표시할 수 있으므로, 사용자에게 3D 영상을 현실세계와 동등한 모습으로 제공할 수 있다.

도 13을 보면, 실시예에 따른 헤드 마운트 디스플레이 장치는, 사용자의 얼굴(머리)에 착용가능한 안경의 형태로 이루어지고, 메인 바디를 형성하는 글래스 프레임과, 글래스 프레임 양측 단부를 형성하고 사용자의 귀에 접촉하게 되는 지지부와, 사용자의 전면 영상을 촬영할 수 있도록 글래스 프레임 전면에 배치되는 카메라(160)와, 가상 영상이 디스플레이 되는 표시부(650a, 650b)를 포함할 수 있다.

헤드 마운트 디스플레이 장치가 안경으로서 보다 견고한 지지를 위하여 사용자의 얼굴에서 코 영역을 지지하기 위한 제 2 지지부를 더 포함할 수 있으며, 도시되지는 않았지만, 사용자의 양쪽 눈 앞에 위치하는 안경알이 글래스 프레임에 더 결합될 수 있다.

사용자는 이러한 구조의 헤드 마운트 디스플레이 장치를 착용하면, 조작에 따라 카메라를 이용하여 눈 앞의 상황을 녹화할 수 있으며, 제어부의 제어에 따라 표시부에 이미지, 텍스트 등의 멀티미디어를 감상할 수 있다. 특히, 앞서 설명한 바와 같이, 헤드 마운트 디스플레이 장치에는 주변의 음성 데이터를 수신할 수 있는 마이크가 구비되고, 헤드 마운트 디스플레이 장치의 움직임을 감지할 수 있는 동작 센서 등이 더 마련된다.

도 14를 보면, 이러한 헤드 마운티드 디스플레이(600)는 무선 통신부(610), A/V(Audio/Video) 입력부(620), 센싱부(640), 표시부(650), 저장부(660), 제어부(680) 및 전원 공급부(690) 등을 포함할 수 있다. 도 14의 디스플레이 장치는 필수 구성요소들로만 도시된 것이 아니기 때문에, 다른 구성요소를 더 포함하거나 도시된 구성요소들 중 일부가 포함되지 않는 장치로도 구현될 수 있다.

먼저, 무선 통신부(610)는 헤드 마운티드 디스플레이(600)와 무선 통신 시스템 사이, 또는 차량(700) 사이의 무선 통신을 가능하게 하는 역할을 수행하며, 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(610)는 근거리 통신 모듈(611) 및 위치정보 모듈(612) 등을 포함할 수 있다.

이러한 무선 통신부(610)는 가상 영상 생성장치(100) 또는/및 서버(500)로부터 가상 뷰 포인트 영상을 전송 받을 수 있다.

근거리 통신 모듈(611)은 근거리 통신을 위한 모듈을 나타내는 것으로서, 예를 들면, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA:Infrared Data Association), UWB(Ultra Wideband), ZigBee 등과 같은 근거리 통신이 가능해지도록 하는 역할을 수행한다.

특히, 근거리 통신 모듈(611)은 외부로부터 전달되는 신호, 예를 들면, 블루투스 신호, RF 신호, 적외선 신호, UWB 신호, Zigbee 신호를 수신하는 역할도 함께 수행할 수 있다. 따라서, 헤드 마운티드 디스플레이(600)가 근거리 통신 모듈(114)을 통하여 외부의 다른 이동 단말기와 통신이 가능한 경우에, 이동 단말기로부터 전달되는 제어 신호를 수신하여, 그에 따라 헤드 마운티드 디스플레이(600)가 동작될 수 있다.

위치정보 모듈(612)은 헤드 마운티드 디스플레이(600)의 위치를 획득하기 위한 역할을 수행하며, 예를 들면, GPS(Global Position System) 모듈로 이루어질 수 있다. 또한, 이러한 위치정보 모듈(612)은 표시부(650)에 표시될 수 있으며, 마이크(622)에 의하여 녹음 또는 음성인식이 수행된 위치의 정보를 확인할 수 있다.

이외에, 무선 통신부(610)는 무선 인터넷 모듈을 더 포함할 수 있으며, 이 경우, 무선 인터넷 모듈은 무선 인터넷 접속을 위한 모듈을 나타내는 것으로서, 헤드 마운티드 디스플레이(600)에 내장되어 구성되거나 외장 연결가능하도록 구성될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless Lan)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

헤드 마운티드 디스플레이(600)에 구성되는 A/V 입력부(620)에 대해서 설명하여 본다.

A/V 입력부(620)는 오디오 신호 및/또는 비디오 신호를 입력받는 역할을 수행하며, 예를 들면, 카메라(660)와 마이크(622)가 포함될 수 있다. 카메라(660)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의하여 획득되는 정지영상 또는 동영상의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 표시부(650)에 표시될 수 있다.

카메라(660)에서 처리되는 화상 프레임은 저장부에 저장되거나 무선 통신부(610)를 통하여 무선으로 전달될 수 있다.

마이크(622)는 녹음 모드 또는 음성인식 모드 등에서 마이크로폰에 의하여 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리하는 역할을 수행하며, 음성 데이터는 음성인식 모드인 경우에 제어부(680) 내의 음성인식 모듈(181)을 통하여 텍스트로 변환되고, 변환된 텍스트는 표시부(650)에 표시될 수 있다.

마이크(622)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 노이즈를 제거하기 위한 다양한 노이즈 제거 알고리즘이 적용될 수 있다. 그리고, 마이크(622)는 필요에 따라 헤드 마운티드 디스플레이(600)에 복수 개 마련될 수도 있다.

헤드 마운티드 디스플레이(600)의 센싱부(640)는 헤드 마운티드 디스플레이(600)의 다양한 작동 상태, 동작, 움직임 등을 확인하기 위한 역할을 수행하며, 센싱부(640)에 의하여 센싱되는 정보에 따라 헤드 마운티드 디스플레이(600)의 동작이 제어될 수 있다. 예를 들어, 센싱부(640)는 헤드 마운티드 디스플레이(600)의 위치, 방위, 가속/감속 등과 같은 장치의 상태를 감지하여 동작을 제어하기 위한 센싱 신호를 발생시킬 수 있다.

센싱부(640)는 근접 센서, 동작 센서, 가속도 센서 등을 포함할 수 있으며, 동작 센서는 헤드 마운티드 디스플레이(600)의 움직임, 향하는 방향, 이동 방향, 속도 등을 센싱하는 것이 가능하고, 예를 들면, 지자기 센서, 가속도 센서, 자이로 센서, 고도계 등이 포함될 수 있다.

지자기 센서는 지구에서 발생하는 자기장의 흐름을 파악하여 나침반처럼 방위를 탐지할 수 있는 센서이다. 가속도 센서는 속도의 변화라고 하는 물리량을 특정하는 센서 운동체의 동작 진동변화(가속도)를 검출할 수 있는 센서이다. 자이로 센서는 회전각가속도 센서로서 회전하는 각의 수직방향으로 코리올리스 힘이 발생하게 되면 이 수직힘을 가속도 센서와 마찬가지의 원리로 감지하는 센서이다. 고도계는 고도에 따라 변하는 기압차(압력)을 측정하는 센서이다.

특히, 센싱부(640)의 동작 센서를 통하여, 사용자가 헤드 마운티드 디스플레이(600)를 머리(얼굴)에 착용한 다음, 고개를 숙이는지 여부, 정면을 바라보는지 여부 등을 센싱할 수 있기 때문에, 제어부(680)는 사용자의 머리(얼굴) 제스쳐를 감지하여, 마이크(622)를 통하여 수신되는 음성 데이터의 음성인식을 선택적으로 수행할 수 있다.

또한, 촬영되는 영상에 포함된 사람의 입 모양으로부터 음성을 인식하는 경우에는, 사용자와 먼 거리에 위치한 사람이 말하는 음성을 카메라(660)로 촬영 후 음성인식을 할 수 있고, 그 음성인식의 결과를 표시부(650)에 표시함으로써, 헤드 마운티드 디스플레이(600)의 사용자는 희망하는 사람의 음성을 텍스트로 확인할 수 있다.

헤드 마운티드 디스플레이(600)의 표시부(650)는 헤드 마운티드 디스플레이(600)에서 처리되는 정보를 표시하는 역할을 수행하며, 예를 들어, 헤드 마운티드 디스플레이(600)가 카메라(660) 촬영모드인 경우에 촬영과 관련되는 UI 또는 GUI를 표시하고, 음성인식 모드인 경우에는 인식된 음성인식의 결과를 표시하거나 그와 관련되는 UI, GUI를 표시한다.

특히, 표시부(650)는 무선 통신부(610)로 수신한 차량(700) 주변의 가상 뷰 포인트 영상을 표시할 수 있다.

표시부(650)는 사용자의 전체 시야에 가상 뷰 포인트 영상을 제공하여, 사용자에게 차량) 외부에서 차량 주변을 바라보는 사용자 환경을 제공할 수 있다.

그리고 이러한 표시부(650)는 도 15와 같이 좌안과 우안에 각각 다른 영상(650ai, 650bi)을 표시할 수 있다.

자세히, 무선 통신부(610)가 가상 뷰 포인트 영상으로 3D 영상을 수신하면, 프로세서(170)는 가상 시점 영상의 깊이 정보를 이용하여, 좌안 영상은 왼쪽으로 시프트(shift)하고 우안 영상은 오른쪽으로 시프트 시키며 영상을 생성할 수 있다. 이때, 깊이의 크기가 큰 위치는 작게 시프트 하고, 깊이의 크기가 작은 위치는 큰 위치보다 많이 시프트시켜 깊이에 거리감을 사용자가 느낄 수 있도록 좌안/우안 영상(650ai, 650bi)을 생성할 수 있다.

이와 같이 생성된 좌안 영상(650ai) 및 우안 영상(650bi)은 각각 표시부(650)에 표시되어 사용자에게 제공됨으로써, 사용자는 3D 가상 뷰 포인트 영상을 볼 수 있다.

이러한 표시부(650)는 액정 디스플레이(LCD), 박막 트랜지스터 액정 디스플레이(TFT LCD), 유기 발광 다이오드(OLED), 플렉서블 디스플레이, 3차원 디스플레이 등으로 이루어질 수 있다. 이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이것은 투명 디스플레이라 할 수 있으며, 이러한 투명 디스플레이의 예로는 TOLED(Transparent OLED)가 될 수 있다.

헤드 마운티드 디스플레이(600)의 저장부는 제어부(680)의 처리 및 제어를 위한 프로그램이 저장되거나, 입/출력되는 데이터들(예를 들어, 오디오, 영상 등)의 임시 저장을 위한 역할을 수행할 수 있다. 저장부에는 데이터들 각각에 대한 사용 빈도도 함께 저장될 수 있다.

이러한 저장부에는 무선 통신부(610)로부터 수신된 가상 뷰 포인트 영상이 저장될 수 있다.

저장부는 플래시 저장부 타입, 하드디스크 타입, 멀티미디어 카드 마이크로 타입, 카드 타입의 저장부(SD 등), 램(RAM), SRAM(Static RAM), 롬(ROM), EEPROM(Electrically Erasable Programmable ROM), PROM(Programmable ROM), 자기 저장부, 자기 디스크, 광 디스크 중 어느 하나의 타입으로 이루어진 저장매체가 될 수 있다. 그리고, 헤드 마운티드 디스플레이(600)는 인터넷상에서 저장부(660)의 저장 기능을 수행하는 웹 스토리지와 관련하여 동작할 수도 있다.

또한, 헤드 마운티드 디스플레이(600)에는 다양한 외부 기기와의 연결 통로 역할을 하는 인터페이스부가 더 마련될 수 있다. 인터페이스부는 외부 기기/장치로부터 데이터 또는 전원을 공급받아 내부의 각 구성요소에 전달할 수 있으며, 반대로 헤드 마운티드 디스플레이(600) 내부의 데이터를 외부 기기로 전달될 수 있도록 하는 역할을 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 저장부 카드 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O 포트, 이어폰 포트 등이 인터페이스부에 포함될 수 있다.

식별 모듈은 헤드 마운티드 디스플레이(600)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identify Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(식별 장치)는, 스마트 카드 형식으로 제작될 수 있으며, 이러한 식별 장치를 통하여 헤드 마운티드 디스플레이(600)와 연결될 수 있다.

인터페이스부는 헤드 마운티드 디스플레이(600)가 외부 크래들과 연결될 때 크래들로부터 전원이 헤드 마운티드 디스플레이(600)로 공급되는 통로가 되는 역할을 하며, 사용자에 의하여 크래들에서 입력되는 각종 명령 신호가 헤드 마운티드 디스플레이(600)로 전달되도록 하는 역할을 수행한다. 크래들로부터 입력되는 각종 명령 신호 또는 전원은 헤드 마운티드 디스플레이(600)가 크래들에 유효하게 장착되었음을 인지하기 위한 신호로 동작될 수 있다.

헤드 마운티드 디스플레이(600)의 제어부(680)는 헤드 마운티드 디스플레이(600)의 전체적인 동작 각각을 제어하며, 예를 들어, 영상 촬영, 촬영되는 영상 또는 수신되는 음성에 대한 음성인식 등에 관련된 제어 및 처리를 수행한다.

한편, 헤드 마운티드 디스플레이(600)의 전원 공급부(190)는 제어부(680)의 제어에 따라 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에서 설명되는 다양한 실시예는, 예를 들어, 소프트웨어, 하드웨어 또는 이들이 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서(170), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(170)(micro-processors), 기타 기능 수행을 위한 전기적인 유닛 중 어느 하나로 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(680) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 소프트웨어 코드는 저장부에 저장되고, 제어부(680)에 의하여 실행/동작될 수 있다.

이하, 도 16을 참조하여 실시예에 따라 가상 뷰 포인트 영상이 헤드 마운티드 디스플레이(600)에 표시되는 과정을 설명한다.

먼저, 차량 주변 영상 및 차량 주변 영상에 매칭되는 깊이 정보가 획득된다. (S101)

자세히, 차량(700)에는 깊이 센서(165)를 포함하는 카메라(160)가 배치되고, 카메라(160)는 차량(700) 주변을 촬영하여 차량 주변 영상 및 차량 주변 영상에 매칭되는 깊이 정보를 획득할 수 있다.

다음으로, 차량 주변 영상과 깊이 정보를 활용하여 가상 뷰 포인트 영상을 생성할 수 있다. (S103)

자세히, 촬영 영상과 3D 맵의 픽셀 포인트(pixel point)를 깊이 정보를 이용하여, 영상의 각 픽셀을 3차원 상의 좌표로 맵핑함으로써 가상의 2D 시점을 생성할 수 있다.

그리고 촬영 영상의 3차원 상의 좌표를 가상의 시점으로 프로젝션(projection) 하여 3D 영상을 생성할 수 있다. 즉, 가상 뷰 포인트 영상은 3D 영상일 수 있다. 이때, 프로젝션이 안되는 빈 영역(hole)은 주위 픽셀들로 채워 전체적인 3D 영상을 구현할 수 있다.

다음으로, 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)에 전송될 수 있다. (S105)

다른 실시예에서는 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)에서 직접 생성될 수도 있다.

이후, 가상 뷰 포인트 영상은 좌안 영상과 우안 영상으로 편집되고, 헤드 마운티드 디스플레이(600)의 좌안 표시부(650a)와 우안 표시부(650b)에 각각 디스플레이될 수 있다. (S107)

자세히, 깊이 정보에 따라 좌안 영상은 가상 뷰 포인트 영상을 왼쪽으로 시프트(shift)하고, 우안 영상은 가상 뷰 포인트 영상을 오른쪽으로 시프트 시키며 영상을 생성할 수 있다. 이때, 깊이의 크기가 큰 위치는 작게 시프트 하고, 깊이의 크기가 작은 위치는 큰 위치보다 많이 시프트시켜 깊이에 거리감을 사용자가 느낄 수 도록 좌안/우안 영상을 생성할 수 있다.

그리고 생성된 좌안 영상과 우안 영상은 각각 좌안 표시부(650a)와 우안 표시부(650b)에 디스플레이될 수 있다.

이후, 사용자는 사용자 입력부(620)를 통해 뷰 포인트를 변경하고, 뷰 포인트 변경에 따라 가상 뷰 포인트 영상은 재 편집되어 표시부(650)에 표시될 수 있다. (S109)

이하, 도 17을 참조하여 실시예에 따라 가상 뷰 포인트 영상이 헤드 마운티드 디스플레이(600)에 표시되는 과정을 설명한다.

먼저, 타차량(510)으로부터 타차량(510)에서 촬영된 영상 및 깊이 정보를 수신할 수 있다. (S301)

이때, 타차량(510)은 사용자에 의해 선택된 차량(700)일 수 있다.

수신된 타차량(510) 촬영 영상 및 깊이 정보를 이미지 처리하여 가상 뷰 포인트 영상을 생성할 수 있다. (S303)

그리고 생성된 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)에 전송될 수 있다. (S305)

다른 실시예에서는 가상 뷰 포인트 영상은 헤드 마운티드 디스플레이(600)에서 직접 생성될 수도 있다.

이후, 가상 뷰 포인트 영상은 좌안 영상과 우안 영상으로 편집되고, 헤드 마운티드 디스플레이(600)부의 좌안 표시부(650a)와 우안 표시부(650b)에 각각 디스플레이될 수 있다. (S307)

자세히, 깊이 정보에 따라 좌안 영상은 가상 뷰 포인트 영상을 왼쪽으로 시프트(shift)하고, 우안 영상은 가상 뷰 포인트 영상을 오른쪽으로 시프트 시키며 영상을 생성할 수 있다. 이때, 깊이의 크기가 큰 위치는 작게 시프트 하고, 깊이의 크기가 작은 위치는 큰 위치보다 많이 시프트시켜 깊이에 거리감을 사용자가 느낄 수 도록 좌안/우안 영상을 생성할 수 있다.

그리고 생성된 좌안 영상과 우안 영상은 각각 좌안 표시부(650a)와 우안 표시부(650b)에 디스플레이될 수 있다.

이후, 사용자는 사용자 입력부(620)를 통해 타차량(510)을 선택할 수 있다. (S309)

다음, 사용자에게 선택된 타차량(510)으로부터 영상 및 깊이 정보를 수신하여, 선택된 타차량(510)의 영상을 디스플레이할 수 있다. (S311)

이하, 도 18을 참조하여, 가상 영상 생성장치를 포함하는 차량(700)에 대해 설명한다.

도 18은 도 1의 차량의 내부 블록도의 일예이다.

이러한 차량 운전 보조장치는 차량 내에 포함될 수 있다.

차량은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), 인터페이스부(780), 제어부(770), 전원부(790), 차량 운전 보조장치 및 AVN 장치(400)를 포함할 수 있다.

통신부(710)는, 차량과 헤드 마운티드 디스플레이(600) 사이, 차량과 외부 서버(510) 사이 또는 차량과 타차량(520)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량을 하나 이상의 망(network)에 연결하는 하나 이상의 모듈을 포함할 수 있다.

통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.

방송 수신 모듈(711)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.

무선 인터넷 모듈(712)은, 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.

무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(510)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(510)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))정보를 수신할 수 있다.

근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.

이러한, 근거리 통신 모듈(713)은, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 헤드 마운티드 디스플레이(600)와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 헤드 마운티드 디스플레이(600)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))를 수신할 수 있다. 가령, 사용자가 차량에 탑승한 경우, 사용자의 헤드 마운티드 디스플레이(600)와 차량은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.

위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들면, 차량은 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 차량의 위치를 획득할 수 있다.

광통신 모듈(715)은, 광발신부 및 광수신부를 포함할 수 있다.

광수신부는, 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.

광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)인 것이 바람직하다. 광발신부는, 전기 신호를 광 신호로 전환하여, 외부에 발신한다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다. 실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들면, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다. 예를 들면, 광통신 모듈(715)은 광 통신을 통해 타차량(520)과 데이터를 교환할 수 있다.

입력부(720)는, 운전 조작 수단(721), 카메라(195), 마이크로 폰(723) 및 사용자 입력부(724)를 포함할 수 있다.

운전 조작 수단(721)은, 차량 운전을 위한 사용자 입력을 수신한다. (이하 설명 도 2참조) 운전 조작 수단(721)은 조향 입력 수단(721A), 쉬프트 입력 수단(721D), 가속 입력 수단(721C), 브레이크 입력 수단(721B)을 포함할 수 있다.

조향 입력 수단(721A)은, 사용자로부터 차량의 진행 방향 입력을 수신한다. 조향 입력 수단(721A)은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 수단(721A)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.

쉬프트 입력 수단(721D)은, 사용자로부터 차량의 주차(P), 전진(D), 중립(N), 후진(R)의 입력을 수신한다. 쉬프트 입력 수단(721D)은 레버 형태로 형성되는 것이 바람직하다. 실시예에 따라, 쉬프트 입력 수단(721D)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.

가속 입력 수단(721C)은, 사용자로부터 차량의 가속을 위한 입력을 수신한다. 브레이크 입력 수단(721B)은, 사용자로부터 차량의 감속을 위한 입력을 수신한다. 가속 입력 수단(721C) 및 브레이크 입력 수단(721B)은 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 수단(721C) 또는 브레이크 입력 수단(721B)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.

카메라(722)는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(722)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 제어부(770)에 전달할 수 있다. 한편, 차량은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라(722) 및 차량 내부 영상을 촬영하는 모니터링부(150)를 포함할 수 있다.

모니터링부(150)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(150)는 탑승자의 생체 인식을 위한 이미지를 획득할 수 있다.

한편, 도 18에서는 모니터링부(150)와 카메라(722)가 입력부(720)에 포함되는 것으로 도시하였으나, 카메라(722)는 전술한 바와 같이, 차량 운전 보조장치에 포함된 구성으로 설명될 수도 있다.

마이크로 폰(723)은, 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적인 데이터로 전환할 수 있다. 전환된 전기적인 데이터는 제어부(770)에 전달될 수 있다.

한편, 실시예에 따라, 카메라(722) 또는 마이크로폰(723)는 입력부(720)에 포함되는 구성요소가 아닌, 센싱부(760)에 포함되는 구성요소일 수도 있다.

사용자 입력부(724)는 사용자로부터 정보를 입력받기 위한 것이다. 사용자 입력부(724)를 통해, 정보가 입력되면, 제어부(770)는 입력된 정보에 대응되도록 차량의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724)는 스티어링 휠의 일 영역에 배치될 수 있다. 이경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.

센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱한다. 이를 위해, 센싱부(760)는, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.

이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.

한편, 센싱부(760)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.

센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다. 여기서, 모니터링부(150) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 모니터링부(150)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.

출력부(740)는, 제어부(770)에서 처리된 정보를 출력하기 위한 것으로, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.

디스플레이부(741)는 제어부(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량 운전자에게 운전 가이드를 위한 차량 운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.

디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량와 사용자 사이의 출력 인터페이스를 제공할 수 있다. 이경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.

한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이경우, 운전자는, 시선을 차량 전방에 유지한채로 클러스터에 표시되는 정보를 확인할 수 있다.

한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드에 투사되는 이미지를 통해 정보를 출력할 수 있다.

음향 출력부(742)는 제어부(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는, 사용자 입력부(724) 동작에 대응하는, 사운드를 출력하는 것도 가능하다.

햅틱 출력부(743)는 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(743)는, 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.

차량 구동부(750)는, 차량 각종 장치의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 조향 구동부(752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.

동력원 구동부(751)는, 차량 내의 동력원에 대한 전자식 제어를 수행할 수 있다.

예를 들면, 화석 연료 기반의 엔진(미도시)이 동력원인 경우, 동력원 구동부(751)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, 제어부(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.

다른 예로, 전기 기반의 모터(미도시)가 동력원인 경우, 동력원 구동부(751)는, 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.

조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.

브레이크 구동부(753)는, 차량 내의 브레이크 장치(brake apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.

램프 구동부(754)는, 차량 내, 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.

공조 구동부(755)는, 차량 내의 공조 장치(air cinditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.

윈도우 구동부(756)는, 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량의 측면의 좌,우 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.

에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 위험시, 에어백이 터지도록 제어할 수 있다.

썬루프 구동부(758)는, 차량 내의 썬루프 장치(sunroof apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.

서스펜션 구동부(759)는, 차량 내의 서스펜션 장치(suspension apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.

메모리(730)는, 제어부(770)와 전기적으로 연결된다. 메모리(770)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(790)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(730)는 제어부(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.

인터페이스부(780)는, 차량에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 헤드 마운티드 디스플레이(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 헤드 마운티드 디스플레이(600)와 연결할 수 있다. 이경우, 인터페이스부(780)는 헤드 마운티드 디스플레이(600)와 데이터를 교환할 수 있다.

한편, 인터페이스부(780)는 연결된 헤드 마운티드 디스플레이(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 헤드 마운티드 디스플레이(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, 제어부(770)의 제어에 따라, 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 헤드 마운티드 디스플레이(600)에 제공한다.

제어부(770)는, 차량 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(770)는 ECU(Electronic Contol Unit)로 명명될 수 있다.

이러한 제어부(770)은 차량 운전 보조장치의 실행 신호 전달에 따라서, 전달된 신호에 대응되는 기능을 실행할 수 있다.

제어부(770)는, 하드웨어적으로, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.

제어부(770)는 전술한 프로세서(170)의 역할을 위임할 수 있다. 즉, 차량 운전 보조장치의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시예에서는 차량 운전 보조장치는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다.

또는, 제어부(770)는 프로세서(170)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.

전원부(790)는, 제어부(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원부(770)는, 차량 내부의 배터리(미도시) 등으로부터 전원을 공급받을 수 있다.

AVN(Audio Video Navigation) 장치(400)는 제어부(770)와 데이터를 교환할 수 있다. 제어부(770)는 AVN 장치(400) 또는 별도의 내비게이션 장치(미도시)로부터 내비게이션 정보를 수신할 수 있다. 여기서, 여기서, 내비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한, 맵(map) 정보 또는 차량 위치 정보를 포함할 수 있다.

상술한 실시예에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (17)

1. 차량 주변 영상을 촬영하는 카메라;
   상기 차량 주변 영상에 포함되는 오브젝트와의 거리를 측정하는 깊이 센서;
   상기 측정된 거리에 따라서 상기 차량 주변 영상을 가상 뷰 포인트 영상으로 생성하는 영상 처리부; 및
   상기 가상 뷰 포인트 영상에 관한 데이터를 송수신하는 통신부;를 포함하고,
   상기 카메라는,
   적어도 상기 차량의 전방 및 좌우 측방을 촬영하여 상기 차량 주변 영상을 획득하고,
   상기 영상 처리부는,
   상기 깊이 센서에서 측정된 상기 오브젝트와의 거리로 3D 맵을 생성하고, 상기 3D 맵과 상기 차량 주변 영상을 매칭하여 3D 가상 뷰 포인트 영상을 생성하고,
   상기 통신부는,
   상기 3D 가상 뷰 포인트 영상을 헤드 마운티드 디스플레이로 전송하여, 상기 헤드 마운티드 디스플레이에서 상기 3D 가상 뷰 포인트 영상이 재생되도록 제어하는
   가상 영상 생성장치.
2. 삭제
3. 제 1 항에 있어서,
   상기 깊이 센서는 TOF 방식(time-of-flight), 삼각(triangulation) 방식 및 스테레오 카메라(stereo camera) 중 적어도 하나의 방식으로 거리를 측정하는
   가상 영상 생성장치.
4. 제 1 항에 있어서,
   상기 카메라는 상기 차량의 지붕에 배치된 360도 카메라인
   가상 영상 생성장치.
5. 제 1 항에 있어서,
   상기 카메라는 상기 차량의 사방을 각각 촬영하는 복수의 카메라인
   가상 영상 생성장치.
6. 삭제
7. 제 1 항에 있어서,
   사용자의 입력을 감지하고, 상기 가상 뷰 포인트 영상을 표시하는 터치 스크린을 더 포함하고,
   상기 영상 처리부는 상기 사용자의 입력에 따라 상기 가상 뷰 포인트를 제어하는
   가상 영상 생성장치.
8. 제 1 항에 있어서,
   상기 통신부는 상기 차량 주변에 위치한 타차량으로부터 영상을 수신하는
   가상 영상 생성장치.
9. 제 8 항에 있어서,
   상기 통신부는 상기 타차량으로부터 거리 정보를 더 수신하고,
   상기 영상 처리부는 상기 타 차량의 영상을 상기 거리 정보에 따라 3D 영상으로 생성하는
   가상 영상 생성장치.
10. 제 8 항에 있어서,
    사용자의 입력을 감지하는 입력부를 더 포함하고,
    상기 사용자 입력에 따라 상기 영상을 수신할 타차량을 선택하는
    가상 영상 생성장치.
11. 차량 주변 영상을 포함하는 3D 가상 뷰 포인트 영상에 관한 데이터를 송수신하는 무선 통신부;
    상기 가상 뷰 포인트 영상으로 좌안 영상 및 우안 영상을 생성하는 프로세서;
    상기 좌안 영상 및 상기 우안 영상을 각각 표시하는 디스플레이부; 및
    사용자의 입력을 감지하는 사용자 입력부를 포함하고,
    상기 프로세서는,
    상기 사용자의 입력에 따라 선택된 차량으로부터 상기 차량 주변 영상을 포함하는 3D 가상 뷰 포인트 영상을 수신하면, 상기 수신한 3D 가상 뷰 포인트 영상을 상기 좌안 영상과 상기 우안 영상으로 편집하여, 상기 디스플레이부가 상기 좌안 영상과 우안 영상을 각각 표시하도록 제어하는
    헤드 마운티드 디스플레이.
12. 삭제
13. 삭제
14. 삭제
15. 제 11 항에 있어서,
    상기 프로세서는 상기 사용자 입력에 따라 상기 가상 뷰 포인트를 제어하는
    헤드 마운티드 디스플레이.
16. 차량의 주행을 제어하는 운전 조작 수단; 및
    제 1항에 기재된 가상 영상 생성장치를 포함하고,
    상기 가상 영상 생성장치는,
    상기 차량 밖에서 바라본 3D 가상 뷰 포인트 영상을 헤드 마운티드 디스플레이에 전송하여 상기 헤드 마운티드 디스플레이가 상기 3D 가상 뷰 포인트 영상을 표시하도록 제어하는 차량.
17. 제 1 항에 있어서,
    상기 차량의 제어부와 데이터를 송수신하는 인터페이스부 및 프로세서를 더 포함하고,
    상기 프로세서는,
    상기 인터페이스부를 통해 상기 제어부에 실행 신호를 송신하여, 상기 차량의 기능을 제어하는
    가상 영상 생성장치.

Images