KR101709129B1 - 멀티모달 차량 제어 장치 및 그 방법 - Google Patents

멀티모달 차량 제어 장치 및 그 방법 Download PDF

Info

Publication number
KR101709129B1
KR101709129B1 KR1020150141276A KR20150141276A KR101709129B1 KR 101709129 B1 KR101709129 B1 KR 101709129B1 KR 1020150141276 A KR1020150141276 A KR 1020150141276A KR 20150141276 A KR20150141276 A KR 20150141276A KR 101709129 B1 KR101709129 B1 KR 101709129B1
Authority
KR
South Korea
Prior art keywords
user
vehicle
gaze
interface
control
Prior art date
Application number
KR1020150141276A
Other languages
English (en)
Inventor
양지현
김성래
Original Assignee
국민대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 국민대학교산학협력단 filed Critical 국민대학교산학협력단
Priority to KR1020150141276A priority Critical patent/KR101709129B1/ko
Application granted granted Critical
Publication of KR101709129B1 publication Critical patent/KR101709129B1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K37/02—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • B60K2350/1052—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

멀티모달 차량 제어 장치 및 그 방법은 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이하는 헤드업 디스플레이부, 사용자 시선을 분석하여 상기 차량 인터페이스에서 상기 복수의 차량 컨트롤들 간의 선택 표시자를 이동시키는 사용자 시선 처리부 및 웨어러블 모듈로부터 수신된 사용자 제스처를 분석하여 상기 차량 인터페이스를 제공하거나 또는 상기 차량 인터페이스를 통해 상기 사용자 시선과 연관된 특정 차량 컨트롤과 연관된 제어 환경을 제공하는 사용자 제스처 처리부를 포함한다. 따라서, 운전자의 시각적 주의를 최소한으로 분산시키고 운전자의 안전을 보호할 수 있는 효과가 있다.

Description

멀티모달 차량 제어 장치 및 그 방법{APPARATUS AND METHOD FOR MULTI-MODAL VEHICLE CONTROL}
본 발명은 멀티모달 차량 제어 장치에 관한 것으로, 보다 상세하게는, 사용자의 시선과 제스처를 이용하여 차량 인포테인먼트 시스템을 조작할 수 있는 멀티모달 차량 제어 장치 및 그 방법에 관한 것이다.
인포테인먼트(Infortainment)란 정보를 뜻하는 인포메이션(Information) 과 오락을 뜻하는 엔터테인먼트(Entertainment)의 합성어이다. 최근 자동차의 전자화가 가속화되어 감에 따라 예전의 차량 디스플레이 장치는 단순히 인포메이션에 충실하여 연료량과 주행 가능 거리 등 간단한 정보만을 제공하는 것에 그쳤던 반면, 최근의 차량 디스플레이 장치는 엔터테인먼트 기능까지 더해져 음악 재생, 비디오 재생, 웹 서핑까지 가능하기에 이르렀다. 그에 따라, 많은 비용이 차량용 인포테인먼트 장비 개발에 투자되고 있는 실정이다.
헤드업 디스플레이(Head Up Display; HUD)도 차량용 인포테인먼트 장비 중 하나에 속한다고 할 수 있다. 헤드업 디스플레이는 차량이나 항공기 주행 중 운전자의 정면, 즉 운전자의 주시야 선을 벗어나지 않는 범위 내에서 차량의 주행 정보나 내비게이션 정보 등과 같은 차량의 운행 정보를 제공하는 장치이다.
종래의 헤드업 디스플레이는 계기판 정보나 내비게이션 정보를 디스플레이 함으로써 운전자의 편의성을 향상시켰지만, 단순히 내비게이션 정보를 표시하기만 하였을 뿐 차량 내 인포테인먼트 시스템을 조작할 수 있는 것은 아니었다. 인포테인먼트 시스템은 현재까지 대부분 차량 센터페시아에 위치한 디스플레이나 버튼으로 조작되고 있는 실정이다. 따라서 운전자가 차량 운전 중 헤드업 디스플레이에 표시되는 내용을 변경하거나 인포테인먼트 시스템을 조작하려는 경우 전방을 주시하지 못하는 문제점이 있었다.
한국등록특허 제10-1091288호는 운전자의 시선을 인식하여 시선이 머무는 지점의 시선좌표를 찾아내는 시선인식유니트와 상기 시선인식유니트로부터 전달받은 상기 시선좌표를 자동차의 인테리어좌표로 환산하고 상기 인테리어좌표에 해당하는 지점에 필요한 정보를 영상으로 표시하는 정보표시유니트를 구비하며, 상기 정보표시유니트는, 자동차의 내측에 설치되며 상기 인테리어좌표에 해당하는 지점에 중요정보와 부가정보를 영상으로 디스플레이하는 디스플레이수단과; 상기 디스플레이수단의 방향 및 위치를 조절하는 구동수단과 상기 구동수단을 제어하고, 상기 인테리어좌표에 해당하는 지점에 필요한 정보를 선택하여 상기 디스플레이수단에 제공하는 제어부를 포함하는 자동차용 디스플레이 장치 및 방법을 개시한다.
한국등록특허 제10-1091288호
본 발명의 일 실시예는 사용자의 시선과 제스처를 이용하여 차량 인포테인먼트 시스템을 조작할 수 있는 멀티모달 차량 제어 장치 및 그 방법을 제공하고자 한다.
본 발명의 일 실시예는 헤드업 디스플레이를 이용한 인터페이스로 사용자의 운전 중 시각적 주의 분산을 최소화할 수 있는 멀티모달 차량 제어 장치 및 그 방법을 제공하고자 한다.
본 발명의 일 실시예는 사용자가 차량 인포테인먼트 시스템 조작을 위해 직접 센터페시아에 위치한 디스플레이나 버튼을 손으로 터치할 필요가 없도록 하여 사용자의 안전을 보호하는 멀티모달 차량 제어 장치 및 그 방법을 제공하고자 한다.
실시예들 중에서, 멀티모달 차량 제어 장치는 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이하는 헤드업 디스플레이부, 사용자 시선을 분석하여 상기 차량 인터페이스에서 상기 복수의 차량 컨트롤들 간의 선택 표시자를 이동시키는 사용자 시선 처리부 및 웨어러블 모듈로부터 수신된 사용자 제스처를 분석하여 상기 차량 인터페이스를 제공하거나 또는 상기 차량 인터페이스를 통해 상기 사용자 시선과 연관된 특정 차량 컨트롤과 연관된 제어 환경을 제공하는 사용자 제스처 처리부를 포함한다.
상기 상기 사용자 시선 처리부는 카메라를 통해 제공되는 사용자의 양안 영상을 통해 상기 사용자 시선을 검출하고, 상기 검출된 사용자 시선이 상기 차량 인터페이스의 디스플레이 영역에 포함되는지 여부를 확인할 수 있다.
상기 사용자 시선 처리부는 상기 검출된 사용자 시선이 상기 디스플레이 영역에 포함된 경우에는 상기 선택 표시자를 상기 복수의 차량 컨트롤들 중 기 설정된 차량 컨트롤에 설정할 수 있다.
상기 사용자 시선 처리부는 상기 선택 표시자가 상기 기 설정된 차량 컨트롤에 설정되면 특정 해상도로 상기 사용자 시선의 움직임의 추적을 시작하여 상기 선택 표시자를 이동시킬 수 있다.
상기 사용자 시선 처리부는 상기 특정 해상도를 차량 속도에 비례하도록 제어하여 상기 차량 인터페이스의 응답 속도를 조절할 수 있다.
상기 사용자 시선 처리부는 상기 사용자의 양안 영상에 상기 사용자의 특정 손 제스처가 함께 검출되면 상기 사용자 시선 및 상기 사용자 제스처의 분석 전에 상기 사용자에 의하여 기 설정된 차량 제어를 수행할 수 있다.
상기 사용자 제스처 처러부는 차량 인터페이스 제공 모드에서 상기 분석된 사용자 움직임에 따른 차량 인터페이스를 제1 레이어에 제공할 수 있다.
상기 사용자 제스처 처리부는 차량 컨트롤 제공 모드에서 상기 특정 차량 컨트롤이 선택되면 상기 차량 인터페이스에서 상기 특정 차량 컨트롤을 통해 파생될 수 있는 문맥 감지형 제어 환경을 제2 레이어(상기 제1 레이어의 상부 레이어에 해당함)에 제공할 수 있다.
상기 사용자 제스처 처리부는 상기 차량 인터페이스 제공 모드 또는 차량 컨트롤 제공 모드에서 차량 상태가 기 설정된 긴급 상태로 변경되면 상기 차량 인터페이스에서 해당 차량 인터페이스를 최상부 레이어에 제공할 수 있다.
실시예들 중에서, 멀티모달 차량 제어 방법은 (a) 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이하는 단계, (b) 사용자 시선을 분석하여 상기 차량 인터페이스에서 상기 복수의 차량 컨트롤들 간의 선택 표시자를 이동시키는 단계, (c) 웨어러블 모듈로부터 수신된 사용자 제스처를 분석하여 상기 차량 인터페이스를 제공하거나 또는 상기 차량 인터페이스를 통해 상기 사용자 시선과 연관된 특정 차량 컨트롤과 연관된 제어 환경을 제공하는 단계를 포함한다.
상기 (b) 단계는 상기 검출된 사용자 시선이 상기 디스플레이 영역에 포함된 경우에는 상기 선택 표시자를 상기 복수의 차량 컨트롤들 중 기 설정된 차량 컨트롤에 설정하는 단계를 포함할 수 있다.
상기 (b) 단계는 상기 사용자의 양안 영상에 상기 사용자의 특정 손 제스처가 함께 검출되면 상기 사용자 시선 및 상기 사용자 제스처의 분석 전에 상기 사용자에 의하여 기 설정된 차량 제어를 수행하는 단계를 포함할 수 있다.
상기 (c) 단계는 차량 인터페이스 제공 모드에서 상기 분석된 사용자 움직임에 따른 차량 인터페이스를 제1 레이어에 제공하는 단계를 포함할 수 있다.
상기 (c) 단계는 차량 컨트롤 제공 모드에서 상기 특정 차량 컨트롤이 선택되면 상기 차량 인터페이스에서 상기 특정 차량 컨트롤을 통해 파생될 수 있는 문맥 감지형 제어 환경을 제2 레이어(상기 제1 레이어의 상부 레이어에 해당함)에 제공하는 단계를 포함할 수 있다.
상기 (c) 단계는 상기 차량 인터페이스 제공 모드 또는 차량 컨트롤 제공 모드에서 차량 상태가 기 설정된 긴급 상태로 변경되면 상기 차량 인터페이스에서 해당 차량 인터페이스를 최상부 레이어에 제공하는 단계를 포함할 수 있다.
개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치 및 그 방법은 사용자의 시선과 제스처를 이용하여 차량 인포테인먼트 시스템을 조작할 수 있다.
본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치 및 그 방법은 헤드업 디스플레이를 이용한 인터페이스로 사용자의 운전 중 시각적 주의 분산을 최소화할 수 있다.
본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치 및 그 방법은 사용자가 차량 인포테인먼트 시스템 조작을 위해 직접 센터페시아에 위치한 디스플레이나 버튼을 손으로 터치할 필요가 없도록 하여 사용자의 안전을 보호할 수 있다.
도 1은 본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치의 구성을 설명하는 블록도이다.
도 2는 도 1에 있는 사용자 시선 처리부가 사용자의 시선을 카메라를 통해 검출하고 사용자의 시선이 디스플레이 영역에 포함되는지 여부를 확인하는 것을 설명하는 도면이다.
도 3은 도 1에 있는 사용자 시선 처리부가 사용자의 시선에 따라 선택 표시자를 설정하고 제어하는 것을 설명하는 도면이다.
도 4는 도 1에 있는 사용자 시선 처리부와 서용자 제스처 처리부가 사용자의 시선과 손 제스처를 검출하고 차량 제어를 수행하는 것을 설명하는 도면이다.
도 5는 도 1에 있는 사용자 제스처 처리부가 사용자의 제스처에 따라 다른 인터페이스를 제공하고, 특정 차량 컨트롤 선택에 따라 파생되는 제어 환경을 제공하는 것을 설명하는 도면이다.
도 6은 도 1에 있는 사용자 제스처 처리부가 긴급 상태에서 차량 인터페이스를 제공하는 것을 설명하는 도면이다.
도 7은 본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치의 동작을 설명하는 흐름도이다.
본 발명에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 본 발명의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 본 발명의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다. 또한, 본 발명에서 제시된 목적 또는 효과는 특정 실시예가 이를 전부 포함하여야 한다거나 그러한 효과만을 포함하여야 한다는 의미는 아니므로, 본 발명의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.
"제1", "제2" 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위한 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결될 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다고 언급된 때에는 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 한편, 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 "~사이에"와 "바로 ~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다"또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
각 단계들에 있어 식별부호(예를 들어, a, b, c 등)는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.
여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 본 발명이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.
도 1은 본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치의 구성을 설명하는 블록도이다.
도 1을 참조하면, 본 발명의 멀티모달 차량 제어 장치(10)는 헤드업 디스플레이부(100), 사용자 시선 처리부(200), 사용자 제스처 처리부(300)를 포함한다. 일 실시예에서, 헤드업 디스플레이부(100)는 헤드업 디스플레이 좌표 매칭부를 포함할 수 있다. 헤드업 디스플레이 좌표 매칭부는 멀티모달 차량 제어 장치(10)에 별도로 포함될 수도 있다.
헤드업 디스플레이부(100)는 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이 할 수 있다. 여기에서 헤드업 디스플레이는 차량의 앞 유리(윈도우)에 표시되어 차량 주행 정보나 기타 정보를 제공하는 시스템으로서 운전자 정면에 위치할 수 있다. 헤드업 디스플레이부(100)는 사용자가 운전 시 전방 시야를 확보할 수 있도록 디스플레이 영역을 투명한 화면으로 설정할 수 있다.
차량 컨트롤은 차량의 인포테인먼트 시스템을 조작하기 위한 개별적인 객체일 수 있다. 예를 들면 DMB, 내비게이션, 비디오, 오디오 등의 차량 기능을 조작하기 위한 화면 상의 아이콘에 해당할 수 있다. 또한, 차량 기능 조작을 위한 차량 컨트롤 이외에도 차량의 주행 정보를 표시하기 위한 차량 컨트롤도 존재할 수 있다. 차량 인터페이스는 복수의 차량 컨트롤들이 표시되는 디스플레이의 전체 화면을 의미할 수 있다. 차량 컨트롤이 선택될 경우, 선택된 차량 컨트롤에 의해 파생되는 차량 인터페이스가 나타날 수 있고, 파생된 차량 인터페이스는 또 다른 복수의 차량 컨트롤을 포함할 수 있다.
일 실시예에서, 헤드업 디스플레이부(100)는 사용자 시선 처리부(200)와 사용자 제스처 처리부(300)가 제공하는 좌표 정보에 따라 움직이는 선택 표시자(230)를 디스플레이 영역에 표시할 수 있다. 또한, 헤드업 디스플레이부(100)는 차량 인터페이스 또는 차량 컨트롤을 레이어 형태로 중첩되게 표시할 수 있고, 팝업 메뉴 형태로 표시할 수도 있다. 레이어 형태는 복수의 레이어가 상부하부로 층을 이루어 표시되는 것을 의미할 수 있고, 팝업 메뉴 형태는 별도의 창이 생성되어 다른 창의 상부에 표시되는 것을 의미할 수 있다. 예를 들면, 팝업 메뉴는 어떤 객체를 선택하였을 때 그 객체를 조작할 수 있는 대화상자를 나타낼 수 있다. 대화상자는 객체 조작을 위한 다수의 옵션을 포함할 수 있다.
헤드업 디스플레이 좌표 매칭부는 사용자 시선 처리부(200)와 사용자 제스처 처리부(300)가 제공한 선택 표시자(230)의 좌표 정보를 헤드업 디스플레이 영역에 매칭시킬 수 있다.
사용자 시선 처리부(200)와 사용자 제스처 처리부(300)의 동작은 이하 도 2 내지 도 7에서 설명된다.
도 2는 도 1에 있는 사용자 시선 처리부(200)가 사용자의 시선(210)을 카메라(220)를 통해 검출하고 사용자의 시선(210)이 디스플레이 영역에 포함되는지 여부를 확인하는 것을 설명하는 도면이다.
도 2를 참조하면, 사용자 시선 처리부(200)는 사용자의 시선(210)을 검출하고 분석하여 사용자의 시선(210)이 헤드업 디스플레이에 표시되는 차량 인터페이스의 디스플레이 영역에 포함되는지 여부를 확인할 수 있다.
사용자 시선 처리부(200)는 차량의 천장 또는 사용자의 전방에 설치될 수 있는 카메라(220)에 의해서 촬영된 사용자의 양안 영상을 처리하여 사용자의 시선(210)을 검출할 수 있다. 검출된 사용자 시선(210)은 좌표 데이터 형식으로 변환될 수 있고, 변환된 좌표 데이터는 헤드업 디스플레이부(100)에 제공될 수 있다. 카메라(220)에 의해서 운전자의 시선 자료를 추출하는 것은 이미 공개된 기술이므로 여기에서는 간단하게만 설명한다. 사용자 시선 처리부(200)는 카메라(220)를 통해 촬영된 영상으로부터, 사용자의 머리의 움직임과 눈동자의 움직임을 추적할 수 있다. 사용자 눈동자의 좌우회전이나 상하방향의 각도를 추적하여 사용자의 시선(210)이 머무는 지점을 추출할 수 있다. 사용자의 시선(210)이 머무는 지점은 좌표 데이터로 저장될 수 있고, 좌표는 헤드업 디스플레이 좌표 매칭부에 제공될 수 있다.
일 실시예에서, 차량 인터페이스는 인터페이스마다 다른 디스플레이 영역을 가질 수 있으며, 사용자 시선 처리부(200)는 디스플레이 영역의 크기를 자동으로 산출할 수 있다. 예를 들면, 내비게이션 제어를 위한 인터페이스와 오디오 제어를 위한 인터페이스는 각각 다른 디스플레이 영역을 가질 수 있고, 디스플레이 영역의 크기도 다를 수 있다. 여기에서 각각의 디스플레이 영역의 크기는 미리 설정되어 고정된 것일 수 있다. 사용자 시선 처리부(200)는 기 설정된 차량 인터페이스의 디스플레이 영역 크기 정보를 제공받을 수 있고, 사용자 시선(210)이 기 설정된 차량 인터페이스 디스플레이 영역 크기 내에 머무르는지 여부를 확인할 수 있다. 차량 인터페이스 디스플레이 영역의 크기가 가변적인 경우에는 사용자 시선 처리부(200)가 카메라(220)에 의해 촬영된 양안 영상에서 차량 인터페이스 디스플레이 영역의 윤곽을 추출하여 그 크기를 산출할 수 있다.
도 3은 도 1에 있는 사용자 시선 처리부(200)가 사용자의 시선(210)에 따라 선택 표시자(230)를 설정하고 제어하는 것을 설명하는 도면이다.
도 3을 참조하면, 사용자 시선 처리부(200)는 카메라(220)를 통해 검출된 사용자 시선(210)이 차량 인터페이스의 디스플레이 영역 안에 머무르는 경우 선택 표시자(230)를 설정할 수 있다. 선택 표시자(230)는 컴퓨터 모니터 화면에 표시되는 마우스 포인터 형태와 같은 형태일 수 있으며 다양한 형태를 가질 수 있다. 사용자 시선 처리부(200)는 선택 표시자(230)를 차량 컨트롤에 설정하여 사용자 제스처 처리부(300)가 사용자 제스처에 따라 차량 컨트롤을 선택하게 할 수 있다. 또한, 사용자 시선 처리부(200)는 사용자 시선(210)이 차량 인터페이스의 디스플레이 영역 밖에 있는 경우에는 선택 표지자(230)가 나타나지 않도록 할 수 있다.
사용자 시선 처리부(200)는 선택 표시자(230)가 차량 컨트롤에 설정되면 특정 해상도로 사용자 시선(210)의 움직임을 추적하여 선택 표시자(230)를 이동시킬 수 있다. 여기에서 특정 해상도는 사용자 시선(210)의 움직임 정도에 따른 선택 표시자(230)의 움직임 정도에 관한 기준을 의미할 수 있다. 선택 표시자(230)의 움직임의 빠르기는 특정 해상도를 조절하여 변경할 수 있다. 컴퓨터 모니터 화면 상에서 움직이는 마우스 포인터의 빠르기 조절과 비슷한 개념이다. 예를 들면, 사용자 시선 처리부(200)는 사용자 시선(210)의 움직임이 작더라도 선택 표시자(230)의 이동범위를 크게 조절할 수 있다.
일 실시예에서, 사용자 시선 처리부(200)는 특정 해상도를 차량 속도에 비례하도록 제어하여 차량 인터페이스의 응답 속도를 조절할 수 있다. 차량의 속도가 빠른 경우, 사용자의 운전 집중도가 높아지고 사용자는 전방을 더욱 주시하게 된다. 이 때, 사용자 시선 처리부(200)는 사용자 시선(210)이 차량 인터페이스의 디스플레이 영역에 잠시만 머무르더라도 선택 표시자(230)가 차량 인터페이스 상에 나타나게 할 수 있고 차량 인터페이스에 포함된 차량 컨트롤을 선택하게 할 수 있다. 이는 사용자의 시각적 주의를 분산시키지 않게 하여 사용자의 안전을 도모하기 위한 것이다.
도 4는 도 1에 있는 사용자 시선 처리부(200)와 서용자 제스처 처리부(300)가 사용자의 시선(210)과 손 제스처(310)를 검출하고 차량 제어를 수행하는 것을 설명하는 도면이다.
도 4를 참조하면, 카메라(220)는 사용자의 시선(210)과 함께 사용자 제스처(310)도 촬영할 수 있다. 사용자 시선 처리부(200)는 카메라(220)를 통해 촬영된 영상으로부터 사용자 시선(210)과 사용자 제스처(310)를 검출할 수 있다. 또한, 사용자 제스처(310)는 웨어러블 모듈(Wearable Module)(320)로부터 검출될 수도 있다. 예를 들면, 사용자가 삼성 갤럭시 기어, 애플 아이워치(I-Watch) 또는 스마트 반지 같은 웨어러블 디바이스를 착용하는 경우, 손의 움직임에 관한 정보가 웨어러블 디바이스로부터 검출될 수 있다. 웨어러블 모듈(320)로부터 검출된 사용자 제스처(310)는 사용자 제스처 처리부(300)에 의해 분석될 수 있다.
사용자 시선(210)이 차량 인터페이스의 디스플레이 영역 안에 있고 사용자의 특정 손 제스처가 차량 인터페이스의 디스플레이 영역 안밖에서 함께 검출되는 경우, 사용자 시선 처리부(200)는 사용자 시선(210) 및 사용자 제스처(310)의 분석 이전에 사용자에 의해 미리 설정된 차량 제어를 수행할 수 있다. 예를 들면, 헤드업 디스플레이부(100)에 내비게이션 제어 인터페이스가 디스플레이 되고 있을 경우, 사용자 시선(210)이 내비게이션 제어 인터페이스의 디스플레이 영역 안에 있고 사용자가 손으로 오케이(OK) 제스처를 취하면, 사용자가 기 설정한 내비게이션 경로 안내가 자동으로 시작될 수 있다. 즉, 사용자의 시선(210)과 사용자 제스처(310)가 조합되어 단축키와 같은 역할을 할 수 있다.
도 5는 도 1에 있는 사용자 제스처 처리부(300)가 사용자의 제스처(310)에 따라 다른 인터페이스를 제공하고, 특정 차량 컨트롤 선택에 따라 파생되는 제어 환경을 제공하는 것을 설명하는 도면이다.
도 5a에서 사용자 제스처 처리부(300)는 카메라(220) 또는 웨어러블 모듈(320)로부터 제공받은 사용자의 제스처(310)를 분석하고, 차량 인터페이스 제공 모드에서 분석된 사용자의 제스처(310)에 따른 차량 인터페이스를 헤드업 디스플레이부(100)의 제1 레이어(110)에 제공할 수 있다. 예를 들면, 차량의 AVN(Audio Video Navigation) 시스템이 초기 구동될 때, AVN 시스템은 어떤 인터페이스를 제공할지 문의할 수 있다. 이 때, 사용자 제스처 처리부(300)는 사용자가 손을 위쪽 방향으로 움직이면 차량 주행 정보에 관한 인터페이스를 제공하고, 사용자가 손을 왼쪽 방향으로 움직이면 음악 제어 인터페이스를 제공하며, 사용자가 손을 오른쪽 방향으로 움직이면 내비게이션 제어 인터페이스를 제공할 수 있다.
일 실시예에서, 사용자 제스처 처리부(300)는 사용자가 손을 횡 방향으로 움직이면 복수의 차량 인터페이스가 횡 방향으로 연속적으로 이동하고, 현재 디스플레이 되는 차량 인터페이스의 다음 차량 인터페이스가 디스플레이 되게 할 수 있다. 또한, 사용자 제스처 처리부(300)는 사용자가 손을 종 방향으로 움직이는 경우에는 복수의 차량 제어 인터페이스가 종 방향으로 연속적으로 이동하고, 현재 디스플레이 되는 차량 인터페이스의 다음 차량 인터페이스가 디스플레이 되게 할 수 있다. 다른 실시예에서, 사용자 제스처 처리부(300)는 사용자가 주먹을 쥐는 제스처를 취하면 제1 레이어에 디스플레이 되고 있는 차량 인터페이스를 종료시킬 수 있다.
도 5b에서 사용자 제스처 처리부(300)는 제공된 차량 인터페이스를 통해 사용자 시선(210) 또는 사용자 제스처(310)와 연관된 특정 차량 컨트롤의 제어 환경을 제공할 수 있다. 사용자 제스처 처리부(300)는 차량 컨트롤 제공 모드에서 특정 차량 컨트롤이 선택되면, 특정 차량 컨트롤로부터 파생될 수 있는 문맥 감지형 제어 환경을 헤드업 디스플레이부(100)의 제2 레이어(120)에 제공할 수 있다. 특정 차량 컨트롤은 사용자의 제스처(310)에 의해 선택될 수 있다. 예를 들어, 선택 표시자(230)이 특정 차량 컨트롤 위에 위치하는 경우, 사용자가 눈을 깜빡이거나 마우스를 클릭하듯이 손가락으로 톡톡 두드리는 제스처를 취하면 해당 차량 컨트롤이 선택될 수 있다. 여기에서 문맥 감지형 제어 환경 제공은 특정 차량 컨트롤의 선택에 따라 차량을 제어할 수 있는 다른 컨트롤 또는 메뉴가 제공되는 것을 의미할 수 있다. 예를 들어, AVN 시스템의 기본 인터페이스에서 환경설정 컨트롤을 선택할 경우 환경설정에 관한 메뉴와 제어 컨트롤이 제2 레이어(120)에 표시될 수 있다.
도 5c에서 사용자 제스처 처리부(300)는 차량 인터페이스 제공 모드 또는 차량 컨트롤 제공 모드에서 차량 상태가 긴급 상태로 변경되면 차량 긴급 상태 인터페이스를 헤드업 디스플레이부(100)의 최상부 레이어(130)에 제공할 수 있다. 즉, 사용자 제스처 처리부(300)는 사용자 시선(210)과 사용자 제스처(310)에 따른 차량 제어 환경을 제공하는 것에 우선하여 긴급 상태 해소를 위한 제어 환경을 먼저 제공할 수 있다. 예를 들면, 사용자 제스처 처리부(300)는 차량의 연료가 부족할 때 연료 부족 경고 메시지를 알리는 인터페이스를 최상부 레이어(130)에 제공할 수 있다. 또한 사용자 제스처 처리부(300)는 차량 이상이 발생하는 경우 경고 메시지를 알리는 인터페이스 또는 차량 이상을 해결하기 위한 인터페이스를 최상부 레이어(130)에 제공할 수 있다.
일 실시예에서, 사용자 제스처 처리부(300)는 사용자가 운전 중 긴급 상황이 발생하는 경우 사용자 시선(210)과 사용자 제스처(310)의 해석을 일반 상황과 다르게 해석할 수 있다. 예를 들면, 일반 상황에서는 사용자가 주먹을 쥐는 제스처를 취했을 때 디스플레이 되고 있는 차량 인터페이스가 종료되지만, 차량 충돌이 예상되는 긴급 상황에서는 사용자가 주먹을 취하는 제스처를 취했을 때 차량의 경적이 울리게 할 수 있다.
도 6은 본 발명의 일 실시예에 따른 멀티모달 차량 제어 장치(10)의 동작을 설명하는 흐름도이다.
도 6을 참조하면, 멀티모달 차량 제어 장치(10)의 헤드업 디스플레이부(100)는 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이 할 수 있다(S610). 사용자 시선 처리부(200)는 카메라(220)을 통해 사용자 시선(210)을 검출하고 사용자 시선(210)이 차량 인터페이스의 디스플레이 영역에 포함되는지 여부를 확인할 수 있다(S620). 사용자 제스처(310)는 카메라(220) 또는 웨어러블 모듈(320)로부터 검출될 수 있다.
사용자 시선 처리부(200)는 사용자 시선(210)과 사용자 제스처(310)가 동시 검출 여부를 확인할 수 있다(S630). 사용자 시선 처리부(200)는 사용자 시선(210)과 사용자 제스처(310)이 동시 검출되는 경우 기 설정된 차량 제어를 수행하고(S640), 사용자 시선(210)만 차량 인터페이스의 디스플레이 영역에서 검출되는 경우 차량 컨트롤에 선택 표시자(230)를 설정할 수 있다(S650). 사용자 시선 처리부(200)는 사용자 시선(210)의 움직임에 따라 선택 표시자(230)을 이동시킬 수 있다(S660).
사용자 제스처 처리부(300)는 사용자 시선(210)과 사용자 제스처(310)에 따라 차량 컨트롤을 선택할 수 있고(S670), 선택된 차량 컨트롤을 통해 파생되는 제어 환경을 헤드업 디스플레이부(100)에 출력할 수 있다(S680).
상기에서는 본 출원의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 출원을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
10: 멀티모달 차량 제어 장치
100: 헤드업 디스플레이부
110: 제1 레이어
120: 제2 레이어
130: 최상부 레이어
200: 사용자 시선 처리부
210: 사용자 시선
220: 카메라
230: 선택 표시자
300: 사용자 제스처 처리부
310: 사용자 제스처
320: 웨어러블 모듈

Claims (15)

  1. 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이하는 헤드업 디스플레이부;
    사용자 시선을 분석하여 상기 차량 인터페이스에서 상기 복수의 차량 컨트롤들 간의 선택 표시자를 이동시키는 사용자 시선 처리부; 및
    웨어러블 모듈로부터 수신된 사용자 제스처를 분석하여 상기 차량 인터페이스를 제공하거나 또는 상기 차량 인터페이스를 통해 상기 사용자 시선과 연관된 특정 차량 컨트롤과 연관된 제어 환경을 제공하는 사용자 제스처 처리부를 포함하고,
    상기 사용자 시선 처리부는
    (1) 카메라를 통해 제공되는 사용자의 양안 영상을 통해 상기 사용자 시선을 검출하고, (2) 상기 검출된 사용자 시선이 상기 차량 인터페이스의 디스플레이 영역에 포함되는지 여부를 확인하며, 상기 검출된 사용자 시선이 상기 디스플레이 영역에 포함된 경우에는 상기 선택 표시자를 상기 복수의 차량 컨트롤들 중 기 설정된 차량 컨트롤에 설정하고, (3) 상기 선택 표시자가 상기 기 설정된 차량 컨트롤에 설정되면 특정 해상도로 상기 사용자 시선의 움직임의 추적을 시작하여 상기 선택 표시자를 이동시키며, (4) 상기 특정 해상도를 차량 속도에 비례하도록 제어하여 상기 차량 인터페이스의 응답 속도를 조절하는 멀티모달 차량 제어 장치.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 제1항에 있어서, 상기 사용자 시선 처리부는
    상기 사용자의 양안 영상에 상기 사용자의 특정 손 제스처가 함께 검출되면 상기 사용자 시선 및 상기 사용자 제스처의 분석 전에 상기 사용자에 의하여 기 설정된 차량 제어를 수행하는 것을 특징으로 하는 멀티모달 차량 제어 장치.
  7. 제1항에 있어서, 상기 사용자 제스처 처리부는
    차량 인터페이스 제공 모드에서 상기 분석된 사용자 움직임에 따른 차량 인터페이스를 제1 레이어에 제공하는 것을 특징으로 하는 멀티모달 차량 제어 장치.
  8. 제7항에 있어서, 상기 사용자 제스처 처리부는
    차량 컨트롤 제공 모드에서 상기 특정 차량 컨트롤이 선택되면 상기 차량 인터페이스에서 상기 특정 차량 컨트롤을 통해 파생될 수 있는 문맥 감지형 제어 환경을 제2 레이어(상기 제1 레이어의 상부 레이어에 해당함)에 제공하는 것을 특징으로 하는 멀티모달 차량 제어 장치.
  9. 제8항에 있어서, 상기 사용자 제스처 처리부는
    상기 차량 인터페이스 제공 모드 또는 차량 컨트롤 제공 모드에서 차량 상태가 기 설정된 긴급 상태로 변경되면 상기 차량 인터페이스에서 해당 차량 인터페이스를 최상부 레이어에 제공하는 것을 특징으로 하는 멀티모달 차량 제어 장치.
  10. (a) 차량의 윈도우에 복수의 차량 컨트롤들을 포함하는 차량 인터페이스를 디스플레이하는 단계;
    (b) 사용자 시선을 분석하여 상기 차량 인터페이스에서 상기 복수의 차량 컨트롤들 간의 선택 표시자를 이동시키는 단계; 및
    (c) 웨어러블 모듈로부터 수신된 사용자 제스처를 분석하여 상기 차량 인터페이스를 제공하거나 또는 상기 차량 인터페이스를 통해 상기 사용자 시선과 연관된 특정 차량 컨트롤과 연관된 제어 환경을 제공하는 단계를 포함하고,
    상기 (b) 단계는
    (b1) 카메라를 통해 제공되는 사용자의 양안 영상을 통해 상기 사용자 시선을 검출하는 단계, (b2) 상기 검출된 사용자 시선이 상기 차량 인터페이스의 디스플레이 영역에 포함되는지 여부를 확인하며, 상기 검출된 사용자 시선이 상기 디스플레이 영역에 포함된 경우에는 상기 선택 표시자를 상기 복수의 차량 컨트롤들 중 기 설정된 차량 컨트롤에 설정하는 단계, (b3) 상기 선택 표시자가 상기 기 설정된 차량 컨트롤에 설정되면 특정 해상도로 상기 사용자 시선의 움직임의 추적을 시작하여 상기 선택 표시자를 이동시키는 단계 및 (b4) 상기 특정 해상도를 차량 속도에 비례하도록 제어하여 상기 차량 인터페이스의 응답 속도를 조절하는 단계를 포함하는 멀티모달 차량 제어 방법.
  11. 삭제
  12. 제10항에 있어서, 상기 (b) 단계는
    상기 사용자의 양안 영상에 상기 사용자의 특정 손 제스처가 함께 검출되면 상기 사용자 시선 및 상기 사용자 제스처의 분석 전에 상기 사용자에 의하여 기 설정된 차량 제어를 수행하는 단계를 포함하는 것을 특징으로 하는 멀티모달 차량 제어 방법.
  13. 제10항에 있어서, 상기 (c) 단계는
    차량 인터페이스 제공 모드에서 상기 분석된 사용자 움직임에 따른 차량 인터페이스를 제1 레이어에 제공하는 단계를 포함하는 것을 특징으로 하는 멀티모달 차량 제어 방법.
  14. 제13항에 있어서, 상기 (c) 단계는
    차량 컨트롤 제공 모드에서 상기 특정 차량 컨트롤이 선택되면 상기 차량 인터페이스에서 상기 특정 차량 컨트롤을 통해 파생될 수 있는 문맥 감지형 제어 환경을 제2 레이어(상기 제1 레이어의 상부 레이어에 해당함)에 제공하는 단계를 포함하는 것을 특징으로 하는 멀티모달 차량 제어 방법.
  15. 제14항에 있어서, 상기 (c) 단계는
    상기 차량 인터페이스 제공 모드 또는 차량 컨트롤 제공 모드에서 차량 상태가 기 설정된 긴급 상태로 변경되면 상기 차량 인터페이스에서 해당 차량 인터페이스를 최상부 레이어에 제공하는 단계를 포함하는 것을 특징으로 하는 멀티모달 차량 제어 방법.
KR1020150141276A 2015-10-08 2015-10-08 멀티모달 차량 제어 장치 및 그 방법 KR101709129B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150141276A KR101709129B1 (ko) 2015-10-08 2015-10-08 멀티모달 차량 제어 장치 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150141276A KR101709129B1 (ko) 2015-10-08 2015-10-08 멀티모달 차량 제어 장치 및 그 방법

Publications (1)

Publication Number Publication Date
KR101709129B1 true KR101709129B1 (ko) 2017-02-22

Family

ID=58314572

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150141276A KR101709129B1 (ko) 2015-10-08 2015-10-08 멀티모달 차량 제어 장치 및 그 방법

Country Status (1)

Country Link
KR (1) KR101709129B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110857067A (zh) * 2018-08-24 2020-03-03 上海汽车集团股份有限公司 一种人车交互装置和人车交互方法
WO2020111350A1 (ko) * 2018-11-30 2020-06-04 엘지전자 주식회사 차량 제어장치 및 차량 제어방법
CN112215198A (zh) * 2020-10-28 2021-01-12 郑小云 一种基于大数据的自适应人机交互系统与方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005289183A (ja) * 2004-03-31 2005-10-20 Denso Corp 車両用表示装置
JP2009002111A (ja) * 2007-06-25 2009-01-08 Tokai Rika Co Ltd 人体装着型電子キーの人体動作検出式電子キーシステム
KR101091288B1 (ko) 2009-12-02 2011-12-07 현대자동차주식회사 자동차용 디스플레이 장치 및 방법
JP2013143012A (ja) * 2012-01-11 2013-07-22 Tokai Rika Co Ltd 視線入力装置
JP2013178783A (ja) * 2013-03-07 2013-09-09 Fujitsu Ten Ltd ディスプレイ装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005289183A (ja) * 2004-03-31 2005-10-20 Denso Corp 車両用表示装置
JP2009002111A (ja) * 2007-06-25 2009-01-08 Tokai Rika Co Ltd 人体装着型電子キーの人体動作検出式電子キーシステム
KR101091288B1 (ko) 2009-12-02 2011-12-07 현대자동차주식회사 자동차용 디스플레이 장치 및 방법
JP2013143012A (ja) * 2012-01-11 2013-07-22 Tokai Rika Co Ltd 視線入力装置
JP2013178783A (ja) * 2013-03-07 2013-09-09 Fujitsu Ten Ltd ディスプレイ装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110857067A (zh) * 2018-08-24 2020-03-03 上海汽车集团股份有限公司 一种人车交互装置和人车交互方法
CN110857067B (zh) * 2018-08-24 2023-04-07 上海汽车集团股份有限公司 一种人车交互装置和人车交互方法
WO2020111350A1 (ko) * 2018-11-30 2020-06-04 엘지전자 주식회사 차량 제어장치 및 차량 제어방법
US11314346B2 (en) 2018-11-30 2022-04-26 Lg Electronics Inc. Vehicle control device and vehicle control method
CN112215198A (zh) * 2020-10-28 2021-01-12 郑小云 一种基于大数据的自适应人机交互系统与方法

Similar Documents

Publication Publication Date Title
US9411424B2 (en) Input device for operating graphical user interface
JP4351599B2 (ja) 入力装置
KR101367593B1 (ko) 쌍방향 조작 장치 및 쌍방향 조작 장치의 작동 방법
US20160132126A1 (en) System for information transmission in a motor vehicle
US20110169750A1 (en) Multi-touchpad multi-touch user interface
EP3018568A1 (en) Information processing device
US20150367859A1 (en) Input device for a motor vehicle
US10346118B2 (en) On-vehicle operation device
US10261653B2 (en) Method and device for making available a user interface, in particular in a vehicle
US20180157324A1 (en) Method and Device for Interacting with a Graphical User Interface
KR101806172B1 (ko) 차량 단말기 조작 시스템 및 그 방법
KR101709129B1 (ko) 멀티모달 차량 제어 장치 및 그 방법
JP2006264615A (ja) 車両用表示装置
WO2018116565A1 (ja) 車両用情報表示装置及び車両用情報表示プログラム
WO2015083267A1 (ja) 表示制御装置及び表示制御方法
CN114506213A (zh) 用于车辆的显示系统及显示装置
JP2017197015A (ja) 車載用情報処理システム
WO2017188098A1 (ja) 車載用情報処理システム
JP6390380B2 (ja) 表示操作装置
KR20150056322A (ko) 헤드업 디스플레이의 메뉴 제어 장치 및 방법
JP6371589B2 (ja) 車載システム、視線入力受付方法及びコンピュータプログラム
JP5027084B2 (ja) 入力装置及び入力方法
CN109804342A (zh) 用于调整图形用户接口的显示和操作的方法
JP2014191818A (ja) 操作支援システム、操作支援方法及びコンピュータプログラム
KR101886011B1 (ko) 작동 방법 및 작동 장치

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20200102

Year of fee payment: 4