KR20200083901A - Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving - Google Patents

Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving Download PDF

Info

Publication number
KR20200083901A
KR20200083901A KR1020190144161A KR20190144161A KR20200083901A KR 20200083901 A KR20200083901 A KR 20200083901A KR 1020190144161 A KR1020190144161 A KR 1020190144161A KR 20190144161 A KR20190144161 A KR 20190144161A KR 20200083901 A KR20200083901 A KR 20200083901A
Authority
KR
South Korea
Prior art keywords
vehicle
information
driver
control
control right
Prior art date
Application number
KR1020190144161A
Other languages
Korean (ko)
Inventor
이예쁜
이영석
정창현
Original Assignee
한국자동차연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국자동차연구원 filed Critical 한국자동차연구원
Priority to KR1020190144161A priority Critical patent/KR20200083901A/en
Publication of KR20200083901A publication Critical patent/KR20200083901A/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60K35/10
    • B60K35/28
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K37/00Dashboards
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0217Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for loud-speakers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0011Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0051Handover processes from occupants to vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0053Handover processes from vehicle to occupant
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0055Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot with safety arrangements
    • G05D1/0061Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot with safety arrangements for transition from automatic pilot to manual pilot and vice versa
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001Details of the control system
    • B60W2050/0002Automatic control, details of type of controller or control system architecture
    • B60W2050/0004In digital systems, e.g. discrete-time systems involving sampling
    • B60W2050/0005Processor details or data handling, e.g. memory registers or chip architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/007Switching between manual and automatic parameter input, and vice versa
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2510/00Input parameters relating to a particular sub-units
    • B60W2510/20Steering systems
    • B60W2510/202Steering torque
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/10Longitudinal speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/10Accelerator pedal position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/12Brake pedal position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • B60W2554/802Longitudinal distance
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • B60W2554/804Relative longitudinal speed

Abstract

According to an embodiment of the present disclosure, provided is a device for evaluating a human machine interface (HMI), which comprises: a memory; a variable instrument panel; a sensor circuit installed inside/outside a vehicle which can autonomously travel; a communication unit which can communicate with a vehicle network; and a processor. The processor generates vehicle state information and surrounding environment information through at least one component of the communication unit and the sensor circuit, checks whether the switching of a control right for vehicle traveling is necessary based on the vehicle state information and the surrounding environment information, guides the switching of the control right through the variable instrument panel when the switching of the control right is necessary, and generates information related to a response of a driver for the switching of the control right on the basis of information collected through the at least one component to store the same in the memory. According to the present invention, it is possible to evaluate interaction between a driver and a vehicle in a vehicle environment.

Description

자율주행차의 제어권 전환 HMI 평가 장치, 방법 및 저장 매체{Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving}Switching control of autonomous vehicles HMI evaluation device, method and storage medium for evaluating human machine interface of take-over request for autonomous driving

본 문서에서 개시되는 다양한 실시 예들은, 자율 주행 차량 평가 기술과 관련된다.Various embodiments disclosed in this document relate to an autonomous vehicle evaluation technology.

자율 주행은 운전자의 안정감과 편의성을 제공하는 동시에 운전자의 활동을 제한하지 않아야 한다. 하지만, 자율 주행은 언제 누가 무엇을 책임져야 하는지가 분명하게 규정되어야 하며, 그렇지 않은 경우(부분 자율 주행의 경우) 운전자 또는 주행 시스템의 잘못된 이해로 인해 비극적인 결과를 야기할 수 있다. 이에, 완전 자율 주행이 아닌 이상(부분 자율 주행인 경우), 운전자는 특정 시점에는 운전을 해야 하므로, 이러한 상황을 명확히 인식해야 한다. Autonomous driving should not only limit the driver's activity while providing stability and convenience for the driver. However, autonomous driving must be clearly defined when and who is responsible for what, if not (in the case of partial autonomous driving), a misunderstanding of the driver or the driving system can have tragic consequences. Therefore, unless the vehicle is fully autonomous (partially autonomous), the driver must drive at a specific point in time, so this situation must be clearly recognized.

이를 위하여, 자율 주행 시스템의 레벨 3이 적용된 차량은 제어권 전환에 앞서 운전자에게 제어권 전환을 안내 또는 요청할 필요가 있다. 예를 들어, 자율 주행 차량 시스템은 차량과 운전자 간의 인터페이스를 제공함에 따라 운전을 수행하지 않던 운전자가 다시 운전하기 위한 준비 상태를 갖추게 할 수 있다.To this end, a vehicle to which level 3 of the autonomous driving system is applied needs to guide or request control switching to the driver before switching control. For example, the autonomous vehicle system may provide an interface between the vehicle and the driver, so that a driver who has not performed driving can be prepared for driving again.

상기 부분 자율 주행의 제어권 전환 과정에서 운전자의 미수용은 큰 차량 사고를 유발할 수 있는 만큼, 상기 인터페이스는 운전자의 시인성 및 수용성을 높일 수 있도록 마련되어야 한다. 따라서, 상기 인터페이스는 주행 시뮬레이터 및 실제 주행 환경(차량 환경)에서도 시험 또는 평가될 필요가 있다. 하지만, 아직까지 실제 주행 환경(차량환경)에서 인터페이스 평가 장치(이하, HMI 평가 장치로 언급될 수 있음)가 구현된 바 없다. In the process of switching the control right of the partial autonomous driving, the driver's non-acceptance can cause a large vehicle accident, and the interface should be provided to increase the visibility and acceptability of the driver. Therefore, the interface needs to be tested or evaluated even in the driving simulator and the actual driving environment (vehicle environment). However, an interface evaluation device (hereinafter, referred to as an HMI evaluation device) has not been implemented in an actual driving environment (vehicle environment).

본 문서에 개시되는 다양한 실시 예들은 차량 환경에서 운전자와 차량 간의 상호작용을 평가할 수 있는 HMI 평가 장치, 방법 및 저장 매체를 제공할 수 있다.Various embodiments disclosed in this document may provide an HMI evaluation device, method, and storage medium capable of evaluating driver-vehicle interaction in a vehicle environment.

본 문서에 개시되는 일 실시 예에 HMI(human machine interface) 평가 장치는, 메모리; 가변 계기판; 자율 주행 가능한 차량 내/외부에 설치된 센서 회로; 차량 네트워크와 통신할 수 있는 통신부; 및 프로세서를 포함하고, 상기 프로세서는, 상기 통신부 및 상기 센서 회로 중 적어도 하나의 구성요소를 통해 차량 상태 정보 및 주변 환경 정보를 생성하고, 상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인하고, 상기 제어권 전환이 필요하면, 상기 가변 계기판을 통해 제어권 전환을 안내하고, 상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 생성 및 상기 메모리에 저장할 수 있다. In one embodiment disclosed in this document, a human machine interface (HMI) evaluation device includes: a memory; Variable instrument panel; A sensor circuit installed inside/outside a vehicle capable of autonomous driving; A communication unit capable of communicating with the vehicle network; And a processor, wherein the processor generates vehicle state information and surrounding environment information through at least one component of the communication unit and the sensor circuit, and is configured to drive the vehicle based on the vehicle state information and the surrounding environment information. Check whether a control right change is required, and when the control right change is required, guide the control right change through the variable instrument panel, and the driver's reaction to the control right change based on information collected through the at least one component Information can be generated and stored in the memory.

또한, 본 문서에 개시되는 일 실시 예에 따른 HMI 평가 방법은, 차량 네트워크 및 차량 내/외부에 구비된 센서 회로 중 적어도 하나의 구성요소에 기반하여 차량 상태 정보 및 주변 환경 정보를 생성하는 동작; 상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인하는 동작; 상기 제어권 전환이 필요하면, 가변 계기판을 통해 제어권 전환을 안내하는 동작; 및 상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 생성하는 동작을 포함할 수 있다.In addition, the HMI evaluation method according to an embodiment disclosed in the present disclosure includes: generating vehicle state information and surrounding environment information based on at least one component of a vehicle network and a sensor circuit provided inside/outside the vehicle; An operation of determining whether a control right for a vehicle driving needs to be switched based on the vehicle status information and the surrounding environment information; If it is necessary to switch the control right, an operation of guiding the control right change through a variable instrument panel; And generating information related to a driver's reaction to the control right change based on information collected through the at least one component.

또한, 본 문서에 개시되는 일 실시 예에 따른 명령어들을 저장하는 컴퓨터 판독 가능 저장 매체는, 상기 명령어들이 실행되었을 때 HMI 평가 장치의 프로세서로 하여금: 차량 네트워크 및 차량 내/외부에 구비된 센서 회로 중 적어도 하나의 구성요소를 통해 차량 상태 정보 및 주변 환경 정보를 생성하고, 상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인하고, 상기 제어권 전환이 필요하면, 가변 계기판을 통해 제어권 전환을 안내하고, 상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 저장하도록 할 수 있다.In addition, a computer-readable storage medium storing instructions according to an embodiment disclosed in the present document causes a processor of the HMI evaluation device when the instructions are executed: among a vehicle network and a sensor circuit provided inside/outside the vehicle Vehicle state information and surrounding environment information are generated through at least one component, and it is determined whether control right switching for vehicle driving is necessary based on the vehicle state information and the surrounding environment information. The control panel may be guided through the control panel, and information related to the driver's reaction to the control panel may be stored based on information collected through the at least one component.

본 문서에 개시되는 다양한 실시 예들에 따르면, 차량 환경에서 운전자와 차량 간의 상호작용을 평가할 수 있다. 이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.According to various embodiments disclosed in the present document, an interaction between a driver and a vehicle in a vehicle environment may be evaluated. In addition, various effects that can be directly or indirectly identified through this document may be provided.

도 1은 일 실시예에 따른 전자 장치의 구현 환경을 나타낸다.
도 2는 일 실시예에 따른 HMI 평가 방법의 흐름도를 나타낸다.
도 3은 일 실시예에 따른 가변 계기판을 통한 안내 예시도를 나타낸다.
도 4는 일 실시예에 따른 출력 장치의 예시도를 나타낸다.
도 5는 일 실시예에 따른 시나리오 설정 관련 UI 화면을 나타낸다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
1 illustrates an implementation environment of an electronic device according to an embodiment.
2 is a flowchart of an HMI evaluation method according to an embodiment.
Figure 3 shows an exemplary guide through a variable instrument panel according to an embodiment.
4 shows an exemplary view of an output device according to an embodiment.
5 illustrates a UI screen related to scenario setting according to an embodiment.
In connection with the description of the drawings, the same or similar reference numerals may be used for the same or similar components.

도 1은 일 실시예에 따른 전자 장치의 구현 환경을 나타낸다.1 illustrates an implementation environment of an electronic device according to an embodiment.

도 1을 참조하면, 일 실시예에 따른 HMI(human machine interface) 평가 장치(100)는 센서 회로(110), 통신부(120), 가변 계기판(130), 입력 장치(140), 출력 장치(150), 메모리(160) 및 프로세서(170)를 포함할 수 있다. 일 실시 예에서, HMI 평가 장치(100)는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함할 수 있다. 일 실시 예에서, HMI 평가 장치(100)의 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다. 예를 들어, 가변 계기판(130) 및 출력 장치(150)는 통신부(120) 또는 다른 통신부를 통해 연결될 수 있다. Referring to FIG. 1, a human machine interface (HMI) evaluation device 100 according to an embodiment includes a sensor circuit 110, a communication unit 120, a variable instrument panel 130, an input device 140, and an output device 150 ), a memory 160 and a processor 170. In an embodiment, the HMI evaluation device 100 may omit some components or further include additional components. In one embodiment, some of the components of the HMI evaluation device 100 are combined to be configured as one entity, and the functions of the corresponding components before combining may be performed in the same way. For example, the variable instrument panel 130 and the output device 150 may be connected through the communication unit 120 or another communication unit.

일 실시예에 따르면, 센서 회로(110)는 자율 주행 차량(이하, "차량"으로 언급될 수 있음)의 내/외부에 설치될 수 있다. 센서 회로(110)는 차량의 GPS 좌표를 확인 가능한 GPS 센서, 차량 외부를 촬영 가능한 카메라 및 차량 주변 물체를 감지 가능한 레이더(Radar)와 라이다(LIDAR) 중 적어도 하나의 센서를 포함할 수 있다. 다양한 실시예에 따르면, 센서 회로(110)는 운전자의 시선과 거동을 촬영 가능한 다른 카메라 또는 적외선 카메라, 운전자의 생체 신호를 감지 가능한 생체 센서를 포함할 수 있다. 상기 생체 센서는 운전자의 뇌파, 운전자의 맥파, 심전도, 피부 전도도(GSR) 및 호흡량 중 적어도 하나의 생체 신호를 감지 가능한 센서를 더 포함할 수 있다.According to an embodiment, the sensor circuit 110 may be installed inside/outside of an autonomous vehicle (hereinafter, referred to as a "vehicle"). The sensor circuit 110 may include a GPS sensor capable of checking the GPS coordinates of the vehicle, a camera capable of photographing the exterior of the vehicle, and at least one of a radar and a LIDAR capable of detecting objects around the vehicle. According to various embodiments, the sensor circuit 110 may include another camera or infrared camera capable of photographing the driver's gaze and behavior, and a biological sensor capable of sensing a biosignal of the driver. The biosensor may further include a sensor capable of detecting at least one biosignal of the driver's brain wave, driver's pulse wave, electrocardiogram, skin conductivity (GSR), and respiratory volume.

일 실시예에 따르면, 통신부(120)는 차량 네트워크(예: CAN(controller area network))와 통신할 수 있다. 통신부(120)는 프로세서(170)의 커맨드에 따라 차량 상태 정보를 수신할 수 있다. 상기 차량 상태 정보는 예를 들면, 차량 속도 정보, 가속 페달의 조작 상태 정보, 브레이크 페달의 조작 상태 정보, 조향 토크 정보 및 스티어링 휠(steering wheel)에 가해진 압력 정보 중 적어도 하나의 정보를 포함할 수 있다. 통신부(120)는 다른 통신 방식(예: USB, LIN, LAN, FlexRay, MOST, Ethernet,RS-232, HDMI)으로 차량의 다른 장치들과 통신할 수 있다. According to an embodiment, the communication unit 120 may communicate with a vehicle network (eg, a controller area network (CAN)). The communication unit 120 may receive vehicle status information according to a command of the processor 170. The vehicle state information may include, for example, at least one of vehicle speed information, operation state information of an accelerator pedal, operation state information of a brake pedal, steering torque information, and pressure information applied to a steering wheel. have. The communication unit 120 may communicate with other devices of the vehicle by other communication methods (eg, USB, LIN, LAN, FlexRay, MOST, Ethernet, RS-232, HDMI).

일 실시예에 따르면, 가변 계기판(130)은 차량 운전석의 클러스터(Cluster)에 구비되고, 프로세서(170)의 커맨드에 따라 차량의 주행 모드에 대응하는 계기판 정보와 제어권 전환 안내 또는 자율 주행 모드 또는 수동 주행 모드 중 적어도 하나의 이미지를 출력할 수 있다. According to an embodiment, the variable dashboard 130 is provided in a cluster of a vehicle driver's seat, and according to a command of the processor 170, the dashboard information corresponding to the driving mode of the vehicle and control information switching guidance or autonomous driving mode or manual At least one image among driving modes may be output.

일 실시예에 따르면, 입력 장치(140)는 음성 입력을 감지하는 마이크 및 사용자 입력을 감지할 수 있는 버튼 중 적어도 하나를 포함할 수 있다. 상기 입력 장치(140)는 헤드 유닛에 마련된 터치스크린 디스플레이에 포함될 수 있다. According to an embodiment, the input device 140 may include at least one of a microphone for detecting a voice input and a button for detecting a user input. The input device 140 may be included in the touch screen display provided in the head unit.

일 실시예에 따르면, 출력 장치(150)는 진동 회로(155) 및 스피커(151) 중 적어도 하나의 출력 장치를 포함할 수 있다. 진동 회로(155)는 예를 들면, 운전석 시트(예: 운전석의 하부 시트 안) 또는 운전대 중 적어도 하나의 부위에 설치될 수 있다. 상기 진동 회로(155)는 제어권 전환 안내와 관련된 진동을 출력할 수 있다. 상기 스피커(151)는 제어권 전환 안내와 관련된 안내음을 출력할 수 있다. According to an embodiment, the output device 150 may include at least one output device of the vibration circuit 155 and the speaker 151. The vibration circuit 155 may be installed in at least one of a driver's seat (for example, in a lower seat of the driver's seat) or a steering wheel. The vibration circuit 155 may output vibration related to the control right switching guide. The speaker 151 may output a guide sound related to the control right switching guide.

메모리(160)는, 예를 들면, HMI 평가 장치(100)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 예를 들어, 메모리(160)는 HMI 평가와 관련된 명령어들(instructions)을 저장할 수 있다. 상기 명령어들은 예를 들면, 제어권 전환 조건들을 포함하는 주행 시나리오에 따라 차량에서 운전자 또는 운전자에서 차량으로 제어권을 전환하고, 제어권 전환 후의 운전자의 반응에 기반하여 운전자에 의한 제어권 전환의 수락 여부를 판단하도록 하는 명령들을 포함할 수 있다. 상기 명령어들은 다른 예를 들면, 제어권 전환 전/후의 운전자의 반응에 기반하여 HMI를 평가하도록 하는 명령들을 포함할 수 있다. 다른 예를 들어, 메모리(160)는 제어권 전환 안내와 관련된 복수의 이미지들, 복수의 진동량 정보 및 복수의 안내음들 중 적어도 하나의 정보를 저장할 수 있다. 상기 복수의 이미지들은 주행 모드에 따라 달리 표시되는 계기판 이미지들을 포함할 수 있다. 상기 복수의 계기판 이미지들은 계기판 색상, 계기판의 테두리, 제어권 전환 안내 심볼 중 적어도 하나의 정보가 상이한 이미지들을 포함할 수 있다. 상기 복수의 진동량 정보는 진동 회로(155)의 진동 제어(예: 진동 세기, 진동 횟수, 진동 패턴 중 적어도 하나의 제어)를 위한 PWM(pulse width modulation) 신호에 관련된 정보를 포함할 수 있다. 상기 복수의 안내음 정보는 스피커(151)를 통한 안내음 제어(예: 안내음 출력 횟수, 안내음 크기)에 관련된 정보를 포함할 수 있다. 메모리(160)는 휘발성 메모리(예를 들어, RAM 등), 비휘발성 메모리(예를 들어, ROM, 플래시 메모리 등) 또는 이들의 조합일 수 있다.The memory 160 may store, for example, commands or data related to at least one other component of the HMI evaluation device 100. For example, the memory 160 may store instructions related to HMI evaluation. For example, the commands may be used to switch control from a vehicle to a driver or a driver to a vehicle according to a driving scenario including control right switching conditions, and to determine whether to accept control switching by the driver based on the reaction of the driver after switching the control right. Commands. The commands may include, for example, commands to evaluate the HMI based on the driver's reaction before/after switching control. For another example, the memory 160 may store at least one of a plurality of images, a plurality of vibration amount information, and a plurality of guide sounds related to the control right switching guide. The plurality of images may include dashboard images displayed differently according to a driving mode. The plurality of dashboard images may include images having different information on at least one of a dashboard color, a border of the dashboard, and a guide symbol for switching control rights. The plurality of vibration amount information may include information related to a pulse width modulation (PWM) signal for vibration control of the vibration circuit 155 (for example, control of at least one of vibration intensity, vibration frequency, and vibration pattern). The plurality of guide sound information may include information related to guide sound control through the speaker 151 (eg, the number of times the guide sound is output and the size of the guide sound). The memory 160 may be volatile memory (eg, RAM, etc.), non-volatile memory (eg, ROM, flash memory, etc.) or a combination thereof.

프로세서(170)는 메모리(160)에 저장된 명령어들을 이용하여 HMI 평가 장치(100)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 프로세서(170)는 예를 들어, 중앙처리장치(CPU), 그래픽처리장치(GPU), 마이크로프로세서, 애플리케이션 프로세서(application processor), 주문형 반도체(ASIC(application specific integrated circuit), FPGA(field programmable gate arrays)) 중 적어도 하나를 포함할 수 있으며, 복수의 코어를 가질 수 있다. 예를 들어, 프로세서(170)는 가변 계기판(130) 제어를 위한 프로세서, 주행 시나리오 설정을 위한 프로세서, 차량 주행의 제어권 전환에 관련된 프로세서 및 운전자 반응을 확인하는 프로세서를 포함할 수 있다. The processor 170 may execute operations or data processing related to control and/or communication of at least one other component of the HMI evaluation device 100 using instructions stored in the memory 160. The processor 170 includes, for example, a central processing unit (CPU), a graphics processing unit (GPU), a microprocessor, an application processor, an application specific integrated circuit (ASIC), and field programmable gate arrays (FPGAs). )), and may have a plurality of cores. For example, the processor 170 may include a processor for controlling the variable instrument panel 130, a processor for setting a driving scenario, a processor related to switching control of vehicle driving, and a processor for confirming driver reaction.

일 실시예에 따르면, 프로세서(170)는 차량 네트워크를 통해 차량 상태 정보를 생성할 수 있다. 상기 차량 상태 정보는 예를 들면, 차량 속도 정보, 가속 페달의 조작 상태 정보, 브레이크 페달의 조작 상태 정보, 조향 토크 정보 및 스티어링 휠에 가해진 압력 정보 중 적어도 하나의 정보를 포함할 수 있다. 상기 차량 상태 정보 중 적어도 일부 정보는 운전자의 반응 확인에 사용될 수 있다. According to an embodiment, the processor 170 may generate vehicle status information through a vehicle network. The vehicle status information may include, for example, at least one of vehicle speed information, operation status information of the accelerator pedal, operation status information of the brake pedal, steering torque information, and pressure information applied to the steering wheel. At least some of the vehicle status information may be used to check a driver's reaction.

일 실시예에 따르면, 프로세서(170)는 센서 회로(110)을 통해 획득된 정보 또는 이미지 중 적어도 하나에 기반하여 주변 환경 정보를 생성할 수 있다. 예를 들어, 프로세서(170)는 GPS 센서에 기반하여 현 위치 정보(GPS 좌표)를 확인할 수 있다. 프로세서(170)는 레이더와 라이다 중 적어도 하나를 통해 획득된 반사 신호에 기반하여 차량에 기준한 주변 차량의 상대 거리 정보 및 차량에 기준한 주변 차량의 상대 속도 정보를 생성할 수 있다. 프로세서(170)는 카메라를 통해 획득된 주변 차량과 도로 이미지에 기반하여 차량이 주행중인 도로의 곡률 반경 정보와 도로의 차선 정보를 생성할 수 있다. According to an embodiment, the processor 170 may generate surrounding environment information based on at least one of information or images obtained through the sensor circuit 110. For example, the processor 170 may check current location information (GPS coordinates) based on the GPS sensor. The processor 170 may generate the relative distance information of the surrounding vehicle based on the vehicle and the relative speed information of the surrounding vehicle based on the vehicle based on the reflection signal obtained through at least one of the radar and the lidar. The processor 170 may generate curvature radius information of the road on which the vehicle is driving and lane information of the road based on the surrounding vehicle and the road image acquired through the camera.

일 실시예에 따르면, 프로세서(170)는 입력 장치(140)를 통해 사용자(예: 운전자, 실험통제원)의 제어 명령을 획득하고, 획득된 제어 명령을 차량 상태 정보 및 주변 환경 정보와 시간적으로 동기화하여 저장할 수 있다. 상기 제어 명령은 예를 들면, 제어권 전환 요청, 및 주행 시나리오 설정과 관련된 제어 명령을 포함할 수 있다. 이와 관련하여, 프로세서(170)는 가변 계기판(130)을 통해 설정 가능한 복수의 주행 시나리오 중 어느 하나를 설정하는 인터페이스를 제공하고, 인터페이스를 통해 운전자에 의해 설정된 주행 시나리오를 메모리(160)에 저장할 수 있다. 이후, 프로세서(170)는 주행 시나리오가 변경 설정되기 전까지 설정된 주행 시나리오에 기반하여 제어권 전환 관련 제어를 수행할 수 있다. According to an embodiment, the processor 170 acquires a control command of a user (eg, a driver, an experiment control agent) through the input device 140, and the obtained control command is temporally related to vehicle status information and surrounding environment information. Can be saved in sync. The control command may include, for example, a request to switch control rights, and a control command related to setting a driving scenario. In this regard, the processor 170 provides an interface for setting any one of a plurality of driving scenarios that can be set through the variable instrument panel 130 and stores the driving scenarios set by the driver through the interface in the memory 160. have. Thereafter, the processor 170 may perform control related to switching of control rights based on the set driving scenario until the driving scenario is changed and set.

일 실시예에 따르면, 프로세서(170)는 차량의 제어권에 따라 차량을 복수의 주행 모드들로 제어할 수 있다. 예를 들어, 프로세서(170)는 차량 제어권이 차량(예: 차량의 자율 주행 시스템)에 있는 자율 주행 모드, 제어권이 운전자에게 있는 수동 주행 모드 또는 제어권 전환 상태로 구동할 수 있다. 상기 제어권 전환 상태는 차량에서 운전자 또는 운전자에서 차량으로 제어권을 전환하는 상태일 수 있다. 상기 제어권 전환 상태는 예를 들면, 프로세서(170)에 의해 제어권 전환이 결정된 후 실제로 제어권 전환이 완료될 때까지의 시간 구간을 포함할 수 있다. According to an embodiment, the processor 170 may control the vehicle in a plurality of driving modes according to the control right of the vehicle. For example, the processor 170 may drive an autonomous driving mode in which the vehicle control right is in a vehicle (eg, an autonomous driving system of the vehicle), a manual driving mode in which the control right is in the driver, or a control right switching state. The control right switching state may be a state in which control is switched from a vehicle to a driver or a driver to a vehicle. The control right switching state may include, for example, a time period until the control right switching is actually completed after the control right switching is determined by the processor 170.

일 실시예에 따르면, 프로세서(170)는 차량 상태 정보 및 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인할 수 있다. 예를 들어, 프로세서(170)는 차량 상태 정보 및 주변 환경 정보에 기반하여 차량 위치, 차량 속도, 상대 거리, 상대 속도 도로 곡률 및 도로 차선 중 적어도 하나의 차량 상황이 주행 시나리오에 따른 제어권 전환 조건에 부합하는지를 확인할 수 있다. 상기 제어권 전환 조건은 예를 들면, 차량이 지정된 위치(예: 전방 소정 거리에 분기점이 있는 위치)에 있는 상황, 차량 속도가 지정된 속도 이상(또는 미만)인 상황, 전방 차량 간의 상대 거리가 지정된 거리 이상(또는 미만)인 상황, 전방 차량 간의 상대 속도가 지정된 거리 이상(또는 미만)인 상황, 도로 곡률이 지정된 곡률 이상(또는 미만)인 상황, 전방 주행 도로에 사고발생 또는 공사 중 또는 정체 중인 상황, 전방 주행 도로의 차선이 불량하여 주행 차선을 인식하기 힘든 상황 및 자율주행 제어 시스템이 고장 난 상황 중 적어도 하나의 상황에 해당하는 것일 수 있다. 다른 예를 들어, 프로세서(170)는 자율 주행 모드에서 주행 시나리오에 따른 제1 지정된 조건에 부합하면, 차량에서 운전자로 제어권 전환이 필요한 것으로 결정할 수 있다. 또는, 프로세서(170)는 수동 주행 모드에서 제2 지정된 조건에 부합하면, 운전자에서 차량으로 제어권 전환이 필요한 것으로 결정할 수 있다. According to an embodiment, the processor 170 may determine whether a control right change for a vehicle driving is necessary based on vehicle state information and surrounding environment information. For example, the processor 170 may control at least one vehicle condition among a vehicle position, a vehicle speed, a relative distance, a relative speed road curvature, and a road lane based on vehicle status information and surrounding environment information, to a control right switching condition according to a driving scenario. You can check if it matches. The conditions for switching the control right may include, for example, a situation where the vehicle is at a designated position (for example, a position where a branch point is located at a predetermined distance ahead), a situation where the vehicle speed is greater than (or less than) a specified speed, and a distance at which a relative distance between vehicles in front is specified An abnormal (or less) situation, a relative speed between vehicles ahead (or less) a specified distance, a road curvature greater than or less than a specified curvature, an accident on the road ahead, or under construction , It may correspond to at least one of a situation in which it is difficult to recognize a driving lane due to a poor lane of a forward driving road and a situation in which the autonomous driving control system has failed. For another example, when the first specified condition according to the driving scenario is met in the autonomous driving mode, the processor 170 may determine that it is necessary to switch control from the vehicle to the driver. Alternatively, when the second specified condition is met in the manual driving mode, the processor 170 may determine that it is necessary to switch control from the driver to the vehicle.

일 실시예에 따르면, 프로세서(170)는 차량 주행에 대한 제어권 전환이 필요하다고 결정하면, 가변 계기판(130)을 통해 제어권 전환을 안내할 수 있다. 예를 들어, 프로세서(170)는 제어권 전환 안내와 관련된 복수의 이미지들 중 하나의 이미지를 선택하고, 선택된 이미지를 가변 계기판에 출력함에 따라 차량 주행의 제어권 전환을 안내할 수 있다. 다른 예를 들어, 프로세서(170)는 제어권 전환 안내와 관련된 복수의 진동량 정보 중 하나의 진동량 정보를 선택하고, 선택된 진동량 정보에 기반하여 진동 회로(155)를 제어함에 따라 차량 주행의 제어권 전환을 안내할 수 있다. 또 다른 예로, 프로세서(170)는 제어권 전환 안내와 관련된 복수의 안내음 중 하나의 안내음을 선택하고, 선택된 안내음에 기반하여 스피커(151)를 제어함에 따라 차량 주행의 제어권 전환을 안내할 수 있다. 이와 관련하여, 프로세서(170)는 제어권 전환 안내와 관련된 세부 내역을 설정할 수 있는 화면을 제공하고, 제공된 화면을 통해 설정된 세부 내역에 따라 제어권 전환을 안내(또는, 제어권 전환을 요청)할 수 있다. 상기 세부 내역은 제어권 전환과 관련된 이미지 선택(또는, 설정), 진동량 정보의 선택(또는, 설정) 및 안내음 선택(또는 설정) 중 적어도 하나를 포함할 수 있다.According to an embodiment, if it is determined that the control right switching for vehicle driving is necessary, the processor 170 may guide the control right switching through the variable instrument panel 130. For example, the processor 170 may select one of a plurality of images related to the control right switching guide and output the selected image to the variable instrument panel to guide the control right switching of the vehicle driving. For another example, the processor 170 selects one vibration amount information among a plurality of vibration amount information related to the control right switching guide, and controls the vibration circuit 155 based on the selected vibration amount information, thereby controlling the vehicle driving right. Can guide the transition. As another example, the processor 170 may select one guiding sound among a plurality of guiding sounds related to the guiding switching control, and control the speaker 151 based on the selected guiding sound, thereby guiding the switching of the control right of the vehicle driving. have. In this regard, the processor 170 may provide a screen for setting details related to the control right switching guide, and may guide (or request control switch) control switching according to the details set through the provided screen. The details may include at least one of an image selection (or setting) related to switching control, selection of vibration amount information (or setting), and selection of guide sound (or setting).

일 실시예에 따르면, 프로세서(170)는 제어권 전환을 안내한 후 센서 회로(110) 및 통신부(120) 중 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 운전자의 반응을 확인할 수 있다. 프로세서(170)는 확인된 운전자의 반응 관련 정보를 생성할 수 있다. 예를 들어, 프로세서(170)는 가속 페달의 조작, 브레이크의 조작 및 스티어링 휠 조작(조향 토크에 의해 감지 가능함), 스티어링 휠에 가해 진 압력(운전자가 스티어링 휠을 잡는 압력) 중 적어도 하나의 운전자 반응을 확인할 수 있다. 상기 운전자 반응은 예를 들면, 제어권 전환의 수락(또는, 성공) 여부에 대한 반응일 수 있다.According to an embodiment, the processor 170 may check the driver's reaction based on the information collected through at least one component of the sensor circuit 110 and the communication unit 120 after guiding control switching. The processor 170 may generate the reaction-related information of the identified driver. For example, the processor 170 may be operated by at least one driver of the operation of the accelerator pedal, the operation of the brake and the operation of the steering wheel (detectable by the steering torque), and the pressure applied to the steering wheel (the pressure at which the driver holds the steering wheel). The reaction can be confirmed. The driver response may be, for example, a response to whether to accept (or succeed) the control switch.

일 실시예에 따르면, 프로세서(170)는 상기 수집된 정보들에 기반하여 생성된 운전자의 반응 관련 정보를 설정된 주행 시나리오 및 안내 내역 정보와 관련하여 메모리(160)에 저장할 수 있다. 상기 안내 내역 정보는 예를 들면, 제어권 전환 안내와 관련하여 가변 계기판(130)을 통해 출력된 이미지, 진동 회로(155)를 통해 출력된 진동량 정보 및 스피커(151)를 통해 출력된 안내음 정보 중 적어도 하나의 안내 내역 정보를 포함할 수 있다. According to an embodiment, the processor 170 may store the driver's reaction-related information generated based on the collected information in the memory 160 in relation to the set driving scenario and guide history information. The guide history information may include, for example, an image output through the variable instrument panel 130 in connection with a control right switching guide, vibration amount information output through the vibration circuit 155 and guide sound information output through the speaker 151. It may include at least one guide history information.

일 실시예에 따르면, 프로세서(170)는 제어권 전환을 안내한 후 운전자의 반응에 기반하여 제어권 전환에 대한 운전자의 수락을 확인하면, 제어권 전환을 수행할 수 있다. 예를 들어, 프로세서(170)는 자율 주행 모드에서 차량에서 운전자로의 제어권 전환을 안내한 후에 상기 수집된 정보에 기반하여 가속 페달의 눌림, 브레이크의 눌림, 스티어링 휠 조작 및 스티어링 휠에 가해 진 압력(운전자가 스티어링 휠을 잡는 압력) 중 적어도 하나 이상의 운전자 반응을 확인하면, 운전자로의 제어권 전환에 대한 운전자의 수락으로 확인할 수 있다. 다른 예를 들어, 프로세서(170)는 수동 주행 모드에서 운전자에서 차량으로 제어권 전환을 안내한 후에 가속 페달의 눌림 해제, 브레이크의 눌림 해제, 스티어링 휠 조작 해제 및 스티어링 휠에 가해진 압력 해제 중 적어도 하나 이상의 운전자 반응을 확인하면, 차량으로의 제어권 전환에 대한 운전자의 수락으로 확인할 수 있다. According to an embodiment of the present disclosure, the processor 170 may perform the control right switching by guiding the control right switching and confirming the driver's acceptance of the control right switching based on the driver's reaction. For example, the processor 170 guides the control from the vehicle to the driver in autonomous driving mode, and then presses the accelerator pedal, presses the brake, operates the steering wheel, and applies pressure to the steering wheel based on the collected information. If at least one driver response of (the driver's pressure holding the steering wheel) is confirmed, it can be confirmed by the driver's acceptance of the control switch to the driver. For another example, the processor 170 may guide the control from the driver to the vehicle in the manual driving mode, and then release at least one of the release of the accelerator pedal, release of the brake, release of the steering wheel, and release of pressure applied to the steering wheel. If the driver response is confirmed, it can be confirmed by the driver's acceptance of the control control switch to the vehicle.

일 실시예에 따르면, 프로세서(170)는 상술된 방식으로 주행에 대한제어권 전환을 수행하고, 제어권 전환의 안내(또는 요청) 전과 후의 운전자 반응에 기반하여 HMI를 평가할 수 있다. 상기 HMI 평가 척도는 예를 들면, 제어권 전환 요청 후 제어권 전환까지의 소요 시간 및 제어권 전환 후 안정화되는데 소요되는 시간을 포함할 수 있다. 예를 들어, 프로세서(170)는 제어권 전환 요청 후, 운전자를 촬영한 영상에 기반하여 운전자의 시선을 추적하고, 운전자의 시선이 시각 HMI(예: 제어권 전환과 관련된 이미지(안내 이미지))에 머문 시점(a point of time)을 확인할 수 있다. 프로세서(170)는 확인된 시점 및 상술된 운전자 반응에 기반하여 시각 HMI를 평가할 수 있다. 다른 예를 들어, 프로세서(170)는 제어권 전환 요청에 시각 HMI와 더불어 청각 HMI(예: 스피커를 통한 안내음 출력) 및 촉각 HMI(예: 진동 회로를 통한 진동 안내)를 사용할 수 있다. 프로세서(170)는 상술된 운전자 반응에 기반하여 청각 HMI 및 촉각 HMI를 평가할 수 있다. 프로세서(170)는 운전자의 뇌파를 측정하여 제어권 전환 요청에 대한 운전자의 인지 시점과 판단 시점을 측정할 수 있다. 프로세서(170)는 상기 인지 시점 및 판단 시점에 기반하여 시각 HMI, 청각 HMI 및 촉각 HMI를 평가할 수 있다. 프로세서(170)는 맥파, 심전도, 피부전도도 및 호흡량과 같은 생체 신호에 기반하여 수동 운전 중과 자율 주행 중의 운전자의 안정 상태를 측정하고 상기 안정 상태 정보를 메모리(160)에 저장할 수 있다. 프로세서(170)는 상기 안정 상태 정보를 기준 정보로 활용하여 제어권 전환 후 안정화에 소요되는 시간을 측정할 수 있다. 또 다른 예로, 프로세서(170)는 제어권 전환 요청 전 운전과 관련 없는 행동(NDRT: non-driving related task)을 하고 있는 운전자 상반신 영상(이하, NDRT 영상이라고 함)을 메모리(160)에 저장할 수 있다. 프로세서(170)는 NDRT 영상과의 상기 HMI 평가 지표 간의 관련성을 확인할 수 있다.According to an embodiment, the processor 170 may perform control control switching for driving in the manner described above, and evaluate the HMI based on driver reaction before and after guidance (or request) of control control switching. The HMI evaluation scale may include, for example, a time required from a control right change request to a control right change and a time required to stabilize after the control right change. For example, the processor 170 tracks the driver's gaze based on the image captured by the driver after requesting control control, and the driver's gaze stays on the visual HMI (eg, an image (guidance image) related to control control switching). You can check a point of time. The processor 170 may evaluate the visual HMI based on the identified time point and the driver reaction described above. For another example, the processor 170 may use an audible HMI (eg, a guide sound output through a speaker) and a tactile HMI (eg, a vibration guide through a vibration circuit) in addition to the visual HMI to request control switching. The processor 170 may evaluate the auditory HMI and the tactile HMI based on the driver reaction described above. The processor 170 may measure the brainwaves of the driver to measure the driver's recognition time and judgment time for the control switch request. The processor 170 may evaluate the visual HMI, the auditory HMI, and the tactile HMI based on the recognition time point and the judgment time point. The processor 170 may measure a driver's stable state during manual driving and autonomous driving based on bio signals such as pulse wave, electrocardiogram, skin conductivity, and respiratory volume, and store the stable state information in the memory 160. The processor 170 may measure the time required for stabilization after switching control right by using the stable state information as reference information. As another example, the processor 170 may store a driver's upper body image (hereinafter referred to as an NDRT image) in a memory 160 that performs a non-driving related task (NDRT) before requesting control switch. . The processor 170 may check the relationship between the HMI evaluation index with the NDRT image.

상술한 실시 예에 따르면, HMI 평가 장치(100)는 차량 내/외부 정보를 수집하여 설정된 시나리오에 따른 차량 상황에서 제어권 전환을 안내하고, 안내 내역에 대한 운전자의 반응 관련 정보를 생성 및 저장할 수 있다. According to the above-described embodiment, the HMI evaluation device 100 may collect information inside/outside the vehicle to guide control control switching in the vehicle situation according to the set scenario, and generate and store information related to the driver's reaction to the guidance details. .

또한, 상술한 실시 예에 따르면, HMI 평가 장치(100)는 다양한 변수를 갖는 차량 주행 환경에서 주행 시나리오에 따른 일관된 상황의 제어권 전환을 안내하고, 제어권 전환 안내와 관련된 차량과 운전자의 상호 작용을 평가할 수 있는 차량 환경을 제공할 수 있다. In addition, according to the above-described embodiment, the HMI evaluation device 100 guides the control right switching in a consistent situation according to the driving scenario in the vehicle driving environment having various variables, and evaluates the interaction between the vehicle and the driver related to the control right switching guidance. It is possible to provide a vehicle environment.

도 2는 일 실시 예에 따른 HMI 평가 방법의 흐름도를 나타낸다.2 is a flowchart of an HMI evaluation method according to an embodiment.

도 2를 참조하면, 동작 210에서, HMI 평가 장치(100)는 차량 네트워크 및 차량 내/외부에 구비된 센서 회로 중 적어도 하나의 구성요소에 기반하여 차량 상태 정보 및 주변 환경 정보를 생성할 수 있다. 상기 차량 상태 정보는 예를 들면, 차량 속도 정보, 가속 페달의 조작 상태 정보, 브레이크 페달의 조작 상태 정보, 조향 토크 정보 및 스티어링 휠에 가해진 압력 정보 중 적어도 하나의 정보를 포함할 수 있다. 상기 주변 환경 정보는 예를 들면, 현 위치 정보(GPS 좌표), 차량에 기준한 주변 차량의 상대 거리 정보 및 차량에 기준한 주변 차량의 상대 속도 정보, 주행 도로의 곡률 반경 정보 및 주행 도로의 차선 정보 중 적어도 하나를 포함할 수 있다. Referring to FIG. 2, in operation 210, the HMI evaluation device 100 may generate vehicle status information and surrounding environment information based on at least one component of a vehicle network and sensor circuits provided in/outside the vehicle. . The vehicle status information may include, for example, at least one of vehicle speed information, operation status information of the accelerator pedal, operation status information of the brake pedal, steering torque information, and pressure information applied to the steering wheel. The surrounding environment information includes, for example, current location information (GPS coordinates), relative distance information of a surrounding vehicle based on a vehicle and relative speed information of a surrounding vehicle based on a vehicle, curvature radius information of a driving road, and lanes of a driving road It may include at least one of the information.

동작 220에서, HMI 평가 장치(100)는 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인할 수 있다. 예를 들어, HMI 평가 장치(100)는 차량 상태 정보 및 주변 환경 정보에 기반하여 차량 위치, 차량 속도, 상대 거리, 상대 속도, 도로 곡률 및 도로 차선 중 적어도 하나의 차량 상황이 주행 시나리오에 따른 제어권 전환 조건에 부합하는지를 확인할 수 있다.In operation 220, the HMI evaluation device 100 may determine whether it is necessary to switch control rights for driving the vehicle based on the vehicle state information and the surrounding environment information. For example, the HMI evaluation device 100 controls the vehicle situation according to the driving scenario in at least one of the vehicle position, vehicle speed, relative distance, relative speed, road curvature, and road lane based on vehicle status information and surrounding environment information. You can check if the conversion conditions are met.

동작 230에서, HMI 평가 장치(100)는 제어권 전환이 필요하면, 가변 계기판을 통해 제어권 전환을 안내할 수 있다. 예를 들어, HMI 평가 장치(100)는 제어권 전환 안내와 관련된 복수의 이미지들 중 선택된 이미지를 가변 계기판에 출력할 수 있다. 다른 예를 들어, 프로세서(170)는 복수의 진동량 정보 중 선택된 진동량 정보에 기반하여 진동 회로(155)를 제어하거나, 복수의 안내음 중 하나의 안내음들 중 선택된 안내음에 기반하여 스피커(151)를 제어할 수 있다.In operation 230, the HMI evaluation device 100 may guide the control right change through the variable instrument panel when control right change is required. For example, the HMI evaluation device 100 may output a selected image among a plurality of images related to the control right switching guide to the variable dashboard. For another example, the processor 170 controls the vibration circuit 155 based on the selected vibration amount information among the plurality of vibration amount information, or a speaker based on the selected guide sound among one of the plurality of guide sounds (151) can be controlled.

동작 240에서, HMI 평가 장치(100)는 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 생성 및 저장할 수 있다. 예를 들어, HMI 평가 장치(100)는 가속 페달의 조작, 브레이크의 조작, 스티어링 휠 조작 및 스티어링 휠에 가해진 압력 정보 중 적어도 하나의 운전자 반응을 확인하고, 확인된 운전자 반응 관련 정보를 생성 및 저장할 수 있다. 동작 240에서, HMI 평가 장치(100)는 운전자 반응에 기반하여 제어권 전환의 수락(또는, 성공) 여부를 확인할 수 있다. HMI 평가 장치(100)는 제어권 전환의 성공 여부를 포함하는 운전자 반응 관련 정보를 생성 및 저장할 수 있다.In operation 240, the HMI evaluation device 100 may generate and store driver-related information on the control right change based on the information collected through at least one component. For example, the HMI evaluation device 100 checks at least one driver response among the operation of the accelerator pedal, the operation of the brake, the operation of the steering wheel, and the pressure information applied to the steering wheel, and generates and stores the information related to the identified driver response. Can. In operation 240, the HMI evaluation device 100 may determine whether to accept (or succeed) the control switch based on the driver's reaction. The HMI evaluation device 100 may generate and store driver response-related information including success or failure of control switching.

도 3은 일 실시 예에 따른 가변 계기판을 통한 안내 예시도를 나타낸다. 3 is a diagram illustrating a guide through a variable instrument panel according to an embodiment.

도 3을 참조하면, 일 실시 예에 따른 프로세서(170)는 제어권 전환 안내와 관련된 복수의 이미지들(예: 131, 132, 133)을 선택적으로 가변 계기판(130)을 통해 출력할 수 있다. 상기 복수의 이미지들은 계기판 색상, 계기판의 테두리, 제어권 전환 안내 심볼 중 적어도 하나의 정보가 상이한 이미지들일 수 있다. 예를 들어, 프로세서(170)는 자율 주행 모드에서 차량에서 운전자로의 제어권 전환 안내와 관련하여, 운전자의 스티어링 휠 조작을 유도하는 심볼 이미지(133a)을 출력할 수 있다. Referring to FIG. 3, the processor 170 according to an embodiment may selectively output a plurality of images (eg, 131, 132, 133) related to the control right switching guide through the variable instrument panel 130. The plurality of images may be images in which at least one of a color of a dashboard, a border of a dashboard, and a guide symbol for switching control rights are different. For example, in the autonomous driving mode, the processor 170 may output a symbol image 133a that induces the steering wheel operation of the driver in connection with the guidance of the control right change from the vehicle to the driver.

도 4는 일 실시예에 따른 출력 장치의 예시도를 나타낸다.4 shows an exemplary view of an output device according to an embodiment.

도 4를 참조하면, 일 실시예에 따른 진동 회로(155)는 운전석 시트의 하부에 구비된 모터 및 모터를 제어하는 모터 컨트롤러를 포함할 수 있다. 일 실시예에 다른 스피커(151)는 예를 들어, 차량 헤드 유닛에 구비된 스피커일 수 있다. Referring to FIG. 4, the vibration circuit 155 according to an embodiment may include a motor provided under the driver's seat and a motor controller for controlling the motor. The speaker 151 according to an embodiment may be, for example, a speaker provided in a vehicle head unit.

도 5는 일 실시예에 따른 시나리오 설정 관련 UI 화면을 나타낸다.5 illustrates a UI screen related to scenario setting according to an embodiment.

도 5를 참조하면, 일 실시예에 따른 프로세서(170)는 HMI 평가할 주행 시나리오를 설정하기 위한 제1 화면(510) 및 제어권 전환 안내와 관련된 세부 내역 설정을 위한 제2 화면(520)을 제공할 수 있다. 상기 제1 화면(510)은 예를 들면, 제어권 전환 조건들을 설정하는 인터페이스를 포함할 수 있다. 이와 관련하여, 프로세서(170)는 제2 화면(520)을 통해 상기 세부 내역이 설정되면, 설정된 세부 내역에 따라 제어권 전환을 안내할 수 있다. 상기 세부 내역은 제어권 전환과 관련된 이미지 선택(또는, 설정), 진동량 정보의 선택(또는, 설정) 및 안내음 선택(또는 설정) 중 적어도 하나를 포함할 수 있다. Referring to FIG. 5, the processor 170 according to an embodiment provides a first screen 510 for setting a driving scenario to be evaluated for HMI, and a second screen 520 for setting details related to control control switching guidance. Can. The first screen 510 may include, for example, an interface for setting control right switching conditions. In this regard, when the details are set through the second screen 520, the processor 170 may guide the control right switching according to the set details. The details may include at least one of an image selection (or setting) related to switching control, selection of vibration amount information (or setting), and selection of guide sound (or setting).

본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나",“A 또는 B 중 적어도 하나”, "A, B 또는 C", "A, B 및 C 중 적어도 하나” 및 “A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.It should be understood that various embodiments of the document and terms used therein are not intended to limit the technical features described in this document to specific embodiments, and include various modifications, equivalents, or substitutes of the embodiment. In connection with the description of the drawings, similar reference numerals may be used for similar or related components. The singular form of a noun corresponding to an item may include one or more of the items, unless the context clearly indicates otherwise. In this document, "A or B", "at least one of A and B", "at least one of A or B", "A, B or C", "at least one of A, B and C" and "A, Each of the phrases such as “at least one of B or C” may include any of the items listed together in the corresponding phrase of the phrases, or any possible combination thereof. Terms such as “first”, “second”, or “first” or “second” can be used to simply distinguish a component from other components, and to separate components from other aspects (eg, importance or Order). Any (eg first) component is referred to as a “coupled” or “connected” to another (eg second) component, with or without the term “functionally” or “communically” If mentioned, it means that any of the above components can be connected directly to the other components (eg, by wire), wirelessly, or through a third component.

본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.As used herein, the term "module" may include units implemented in hardware, software, or firmware, and may be used interchangeably with terms such as, for example, logic, logic blocks, components, or circuits. The module may be an integrally configured component or a minimum unit of the component or a part thereof performing one or more functions. For example, according to an embodiment, the module may be implemented in the form of an application-specific integrated circuit (ASIC).

본 문서의 다양한 실시예들은 기기(machine)(예: HMI 평가 장치(100))에 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리 또는 외장 메모리)(메모리(160))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램)로서 구현될 수 있다. 예를 들면, 기기(예: HMI 평가 장치(100))의 프로세서(예: 프로세서(170)는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.Various embodiments of the present document are one stored in a storage medium (eg, internal memory or external memory) (memory 160) readable by a machine (eg, HMI evaluation device 100). It may be implemented as software (eg, a program) including the above instructions. For example, a processor (e.g., processor 170) of a device (e.g., HMI evaluation device 100) can invoke and execute at least one of one or more commands stored from a storage medium. It is possible to be operated to perform at least one function according to the at least one instruction called The one or more instructions may include code generated by a compiler or code executable by an interpreter. A storage medium that can be read by can be provided in the form of a non-transitory storage medium, where'non-transitory' is a device that the storage medium is tangible and signals (eg, Electromagnetic wave), and the term does not distinguish between data that is stored semi-permanently and temporarily.

일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.According to one embodiment, a method according to various embodiments disclosed in this document may be provided as being included in a computer program product. Computer program products can be traded between sellers and buyers as products. The computer program product is distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play StoreTM ) or two user devices ( For example, it can be distributed directly (e.g., downloaded or uploaded) between smartphones). In the case of online distribution, at least a portion of the computer program product may be temporarily stored at least temporarily in a storage medium readable by a device such as a memory of a manufacturer's server, an application store's server, or a relay server, or may be temporarily generated.

다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.According to various embodiments, each component (eg, module or program) of the above-described components may include a singular or a plurality of entities. According to various embodiments, one or more components or operations of the above-described corresponding components may be omitted, or one or more other components or operations may be added. Alternatively or additionally, a plurality of components (eg, modules or programs) may be integrated into one component. In this case, the integrated component may perform one or more functions of each component of the plurality of components the same or similar to that performed by the corresponding component among the plurality of components prior to the integration. . According to various embodiments, operations performed by a module, program, or other component may be executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations may be executed in a different order, or omitted Or, one or more other actions can be added.

Claims (20)

HMI(human machine interface) 평가 장치에 있어서,
메모리;
가변 계기판;
자율 주행 가능한 차량 내/외부에 설치된 센서 회로;
차량 네트워크와 통신할 수 있는 통신부; 및
프로세서를 포함하고,
상기 프로세서는,
상기 통신부 및 상기 센서 회로 중 적어도 하나의 구성요소를 통해 차량 상태 정보 및 주변 환경 정보를 생성하고,
상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인하고,
상기 제어권 전환이 필요하면, 상기 가변 계기판을 통해 제어권 전환을 안내하고,
상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 생성 및 상기 메모리에 저장하는, HMI 평가 장치.
In the human machine interface (HMI) evaluation device,
Memory;
Variable instrument panel;
A sensor circuit installed inside/outside a vehicle capable of autonomous driving;
A communication unit capable of communicating with the vehicle network; And
Including a processor,
The processor,
Generating vehicle state information and surrounding environment information through at least one component of the communication unit and the sensor circuit,
Based on the vehicle status information and the surrounding environment information, it is checked whether control control for vehicle driving is necessary,
If it is necessary to switch the control right, the control panel is guided through the variable instrument panel,
The HMI evaluation device generates and stores information related to a driver's reaction to the control right change based on the information collected through the at least one component, and stores the driver-related information in the memory.
청구항 1에 있어서, 상기 프로세서는,
상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 위치, 차량 속도, 상대 거리, 상대 속도, 도로 곡률 및 도로 차선 중 적어도 하나의 차량 상황을 확인하고,
상기 적어도 하나의 차량 상황이 상기 지정된 조건에 부합하는지를 확인하는, HMI 평가 장치.
The method according to claim 1, wherein the processor,
Based on the vehicle status information and the surrounding environment information, check the vehicle status of at least one of the vehicle position, vehicle speed, relative distance, relative speed, road curvature and road lane,
And checking whether the at least one vehicle condition meets the specified condition.
청구항 1에 있어서,
상기 메모리는, 설정된 주행 시나리오를 저장하고,
상기 프로세서는,
상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 상황이 상기 주행 시나리오에 따른 지정된 조건에 부합하는지를 확인하고,
상기 차량 상황이 상기 지정된 조건에 부합하면, 상기 제어권 전환이 필요한 것으로 결정하는, HMI 평가 장치.
The method according to claim 1,
The memory stores a set driving scenario,
The processor,
Based on the vehicle status information and the surrounding environment information, it is checked whether a vehicle condition meets a specified condition according to the driving scenario,
If the vehicle condition satisfies the specified condition, the HMI evaluation device determines that the control right switching is necessary.
청구항 3에 있어서, 상기 프로세서는,
상기 가변 계기판을 통해 복수의 주행 시나리오 중 어느 하나를 선택하는 인터페이스를 제공하고,
상기 인터페이스를 통해 상기 운전자에 의해 설정된 주행 시나리오를 상기 메모리에 저장하는, HMI 평가 장치.
The method according to claim 3, wherein the processor,
Provides an interface for selecting any one of a plurality of driving scenarios through the variable instrument panel,
The HMI evaluation device stores the driving scenario set by the driver through the interface in the memory.
청구항 1에 있어서, 상기 프로세서는,
상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 가속 페달(pedal)의 조작 상태, 브레이크 페달(brake pedal)의 조작 상태, 조향 토크(steering torque) 및 스티어링 휠(steering wheel)에 가해진 압력 중 적어도 하나를 포함하는 상기 운전자의 반응을 확인하는, HMI 평가 장치.
The method according to claim 1, wherein the processor,
Based on the information collected through the at least one component, the operating state of the accelerator pedal, the operating state of the brake pedal, the steering torque, and the pressure applied to the steering wheel HMI evaluation device for confirming the reaction of the driver, including at least one.
청구항 1에 있어서, 상기 프로세서는,
자율 주행 모드에서 제1 지정된 조건에 부합하면, 상기 차량에서 상기 운전자로 제어권 전환이 필요한 것으로 결정하고,
수동 주행 모드에서 제2 지정된 조건에 부합하면, 상기 운전자에서 상기 차량으로 제어권 전환이 필요한 것으로 결정하는, HMI 평가 장치.
The method according to claim 1, wherein the processor,
If the first specified condition is met in the autonomous driving mode, it is determined that the control right needs to be switched from the vehicle to the driver,
If the second specified condition is met in the manual driving mode, the HMI evaluation device determines that it is necessary to switch control from the driver to the vehicle.
청구항 1에 있어서,
상기 메모리는, 상기 제어권 전환의 안내에 관련된 복수의 이미지들을 저장하고, 상기 프로세서는,
상기 제어권 전환이 필요하면, 상기 복수의 이미지들을 선택적으로 상기 가변 계기판에 출력하고,
상기 복수의 이미지들에 대한 상기 운전자의 반응을 확인하는, HMI 평가 장치.
The method according to claim 1,
The memory stores a plurality of images related to the guidance of the control right switching, and the processor,
If it is necessary to switch the control, the plurality of images are selectively output to the variable instrument panel,
HMI evaluation device for confirming the reaction of the driver to the plurality of images.
청구항 1에 있어서,
운전석 시트 또는 운전대 중 적어도 하나의 부위에 설치된 진동 회로를 더 포함하고,
상기 메모리는, 상기 제어권 전환의 안내에 관련된 복수의 진동량 정보들을 저장하고, 상기 프로세서는,
상기 제어권 전환이 필요하면, 상기 복수의 진동량 정보들을 선택적으로 이용하여 상기 진동 회로를 제어하고,
상기 복수의 진동량 정보들에 대한 상기 운전자의 반응을 확인하는, HMI 평가 장치.
The method according to claim 1,
Further comprising a vibration circuit installed on at least one part of the driver's seat or the steering wheel,
The memory stores a plurality of vibration amount information related to the guidance of the control right switching, and the processor,
If it is necessary to switch the control, the vibration circuit is controlled by selectively using the plurality of vibration amount information,
HMI evaluation device for confirming the reaction of the driver to the plurality of vibration amount information.
청구항 1에 있어서,
차량 내 구비된 스피커를 더 포함하고,
상기 메모리는, 상기 제어권 전환의 안내에 관련된 복수의 안내음들을 저장하고, 상기 프로세서는,
상기 제어권 전환이 필요하면, 상기 복수의 안내음들을 선택적으로 상기 스피커를 통해 출력하고,
상기 복수의 안내음들에 대한 상기 운전자의 반응을 확인하는, HMI 평가 장치.
The method according to claim 1,
Further comprising a speaker provided in the vehicle,
The memory stores a plurality of guide sounds related to the guidance of switching the control right, and the processor includes:
If it is necessary to switch the control, the plurality of guide sounds are selectively output through the speaker,
HMI evaluation device for confirming the reaction of the driver to the plurality of guide sounds.
청구항 1에 있어서, 상기 프로세서는,
상기 제어권 전환을 안내한 후, 상기 수집된 정보에 기반하여 상기 제어권 전환에 대한 상기 운전자의 수락을 확인하면, 상기 제어권 전환을 수행하는, HMI 평가 장치.
The method according to claim 1, wherein the processor,
After guiding the control right switching, if the driver's acceptance of the control right switching is confirmed based on the collected information, the control right switching is performed.
자율 주행 가능한 차량에 대한 HMI 평가 방법에 있어서,
차량 네트워크 및 차량 내/외부에 구비된 센서 회로 중 적어도 하나의 구성요소에 기반하여 차량 상태 정보 및 주변 환경 정보를 생성하는 동작;
상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인하는 동작;
상기 제어권 전환이 필요하면, 가변 계기판을 통해 제어권 전환을 안내하는 동작; 및
상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 생성하는 동작을 포함하는, HMI 평가 방법.
In the HMI evaluation method for autonomous vehicles,
Generating vehicle state information and surrounding environment information based on at least one component of a vehicle network and a sensor circuit provided inside/outside the vehicle;
An operation of determining whether a control right for a vehicle driving needs to be switched based on the vehicle status information and the surrounding environment information;
If it is necessary to switch the control right, an operation of guiding the control right change through a variable instrument panel; And
And generating information related to a driver's reaction to the control right change based on the information collected through the at least one component.
청구항 11에 있어서, 상기 제어권 전환이 필요한지를 확인하는 동작은,
상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 위치, 차량 속도, 상대 거리, 상대 속도, 도로 곡률 및 도로 차선 중 적어도 하나의 차량 상황을 확인하는 동작; 및
상기 적어도 하나의 차량 상황이 설정된 주행 시나리오에 따른 지정된 조건에 부합하는지를 확인하는 동작을 포함하는, HMI 평가 방법.
The method of claim 11, wherein the operation of checking whether the control right switching is necessary is
Checking a vehicle condition of at least one of a vehicle position, a vehicle speed, a relative distance, a relative speed, a road curvature, and a road lane based on the vehicle condition information and the surrounding environment information; And
And checking whether the at least one vehicle condition meets a specified condition according to a set driving scenario.
청구항 11에 있어서,
상기 가변 계기판을 통해 복수의 주행 시나리오 중 어느 하나를 선택하는 인터페이스를 제공하는 동작; 및
상기 인터페이스를 통해 상기 운전자에 의해 설정된 주행 시나리오를 저장하는 동작을 더 포함하는, HMI 평가 방법.
The method according to claim 11,
Providing an interface for selecting any one of a plurality of driving scenarios through the variable instrument panel; And
And storing the driving scenario set by the driver through the interface.
청구항 11에 있어서, 상기 운전자의 반응을 확인하는 동작은,
상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 가속 페달의 조작 상태, 브레이크 페달의 조작 상태, 조향 토크 및 스티어링 휠에 가해진 압력 중 적어도 하나를 포함하는 상기 운전자의 반응을 확인하는 동작을 포함하는, HMI 평가 방법.
The method according to claim 11, The operation of confirming the reaction of the driver,
And an operation of confirming the reaction of the driver including at least one of an operation state of an accelerator pedal, an operation state of a brake pedal, a steering torque, and a pressure applied to the steering wheel based on information collected through the at least one component. How to do, HMI evaluation.
청구항 11에 있어서, 상기 제어권 전환이 필요한지를 확인하는 동작은,
자율 주행 모드에서 제1 지정된 조건에 부합하면, 상기 차량에서 상기 운전자로 제어권 전환이 필요한 것으로 결정하는 동작; 및
수동 주행 모드에서 제2 지정된 조건에 부합하면, 상기 운전자에서 상기 차량으로 제어권 전환이 필요한 것으로 결정하는 동작을 포함하는, HMI 평가 방법.
The method of claim 11, wherein the operation of checking whether the control right switching is necessary is
Determining that it is necessary to switch control from the vehicle to the driver when the first specified condition is met in the autonomous driving mode; And
And determining that it is necessary to switch control from the driver to the vehicle when the second specified condition is met in the manual driving mode.
청구항 11에 있어서,
상기 안내하는 동작은, 상기 제어권 전환의 안내와 관련된 복수의 이미지들을 선택적으로 상기 가변 계기판에 출력하는 동작을 포함하고,
상기 운전자의 반응 관련 정보를 생성하는 동작은, 상기 복수의 이미지들 중 출력된 이미지와 관련하여 상기 반응 관련 정보를 생성 및 저장하는 동작을 포함하는, HMI 평가 방법.
The method according to claim 11,
The guiding operation includes an operation of selectively outputting a plurality of images related to the guidance of the control right switching to the variable instrument panel,
The operation of generating reaction-related information of the driver includes generating and storing the reaction-related information in relation to an output image among the plurality of images.
청구항 11에 있어서,
상기 안내하는 동작은, 상기 제어권 전환의 안내에 관련된 복수의 진동량 정보들을 선택적으로 이용하여 운전석 시트 또는 운전대 중 적어도 하나의 부위에 설치된 진동 회로를 제어하는 동작을 포함하고,
상기 운전자의 반응 관련 정보를 생성하는 동작은, 상기 복수의 진동량 정보들 중 출력된 진동량 정보와 관련하여 상기 반응 관련 정보를 생성 및 저장하는 동작을 포함하는, HMI 평가 방법.
The method according to claim 11,
The guiding operation includes an operation of controlling a vibration circuit installed in at least one of a driver's seat or a steering wheel by selectively using a plurality of vibration amount information related to the guidance of switching the control right,
The operation of generating reaction-related information of the driver includes generating and storing the reaction-related information in relation to the vibration amount information output among the plurality of vibration amount information, HMI evaluation method.
청구항 11에 있어서,
상기 안내하는 동작은, 상기 제어권 전환의 안내에 관련된 복수의 안내음들을 선택적으로 스피커를 통해 출력하는 동작을 포함하고,
상기 운전자의 반응 관련 정보를 생성하는 동작은, 상기 복수의 안내음들 중 출력된 안내음과 관련하여 상기 반응 관련 정보를 생성 및 저장하는 동작을 포함하는, HMI 평가 방법.
The method according to claim 11,
The guiding operation includes an operation of selectively outputting a plurality of guiding sounds related to the guiding of the control right switching through a speaker,
The operation of generating reaction-related information of the driver includes generating and storing the reaction-related information in relation to the guide sound output among the plurality of guide sounds, HMI evaluation method.
청구항 11에 있어서,
상기 수집된 정보에 기반하여 상기 제어권 전환에 대한 상기 운전자의 수락을 확인하면, 상기 제어권 전환을 수행하는 동작을 더 포함하는, HMI 평가 방법.
The method according to claim 11,
And confirming the driver's acceptance of the control right switching based on the collected information, further comprising performing the control right switching.
프로세서에 의하여 실행 가능한 명령어들을 저장하는 컴퓨터 판독가능 저장 매체로서,
상기 명령어들은 실행되었을 때 HMI 평가 장치의 프로세서로 하여금:
차량 네트워크 및 차량 내/외부에 구비된 센서 회로 중 적어도 하나의 구성요소를 통해 차량 상태 정보 및 주변 환경 정보를 생성하고,
상기 차량 상태 정보 및 상기 주변 환경 정보에 기반하여 차량 주행에 대한 제어권 전환이 필요한지를 확인하고,
상기 제어권 전환이 필요하면, 가변 계기판을 통해 제어권 전환을 안내하고,
상기 적어도 하나의 구성요소를 통해 수집된 정보에 기반하여 상기 제어권 전환에 대한 운전자의 반응 관련 정보를 저장하도록 하는 컴퓨터 판독 가능 저장 매체.
A computer-readable storage medium storing instructions executable by a processor, comprising:
The above instructions, when executed, cause the processor of the HMI evaluation device to:
Vehicle state information and surrounding environment information are generated through at least one component of a vehicle network and a sensor circuit provided inside/outside the vehicle,
Based on the vehicle status information and the surrounding environment information, it is checked whether control control for vehicle driving is necessary,
If it is necessary to switch the control, the control panel is guided through the variable instrument panel,
A computer-readable storage medium for storing information related to a driver's reaction to the control right change based on information collected through the at least one component.
KR1020190144161A 2019-11-12 2019-11-12 Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving KR20200083901A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190144161A KR20200083901A (en) 2019-11-12 2019-11-12 Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190144161A KR20200083901A (en) 2019-11-12 2019-11-12 Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving

Publications (1)

Publication Number Publication Date
KR20200083901A true KR20200083901A (en) 2020-07-09

Family

ID=71602466

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190144161A KR20200083901A (en) 2019-11-12 2019-11-12 Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving

Country Status (1)

Country Link
KR (1) KR20200083901A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114044000A (en) * 2021-11-05 2022-02-15 东风汽车集团股份有限公司 Safety redundancy system for human-machine interaction of automatic driving vehicle HMI
KR20220060569A (en) * 2020-11-02 2022-05-12 한국자동차연구원 Control apparatus and method of autonomous driving vehicle
KR20220168458A (en) * 2021-06-16 2022-12-23 아주대학교산학협력단 Apparatus and method for transition of control authority in consideration of change in driving environmental factor

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220060569A (en) * 2020-11-02 2022-05-12 한국자동차연구원 Control apparatus and method of autonomous driving vehicle
KR20220168458A (en) * 2021-06-16 2022-12-23 아주대학교산학협력단 Apparatus and method for transition of control authority in consideration of change in driving environmental factor
CN114044000A (en) * 2021-11-05 2022-02-15 东风汽车集团股份有限公司 Safety redundancy system for human-machine interaction of automatic driving vehicle HMI
CN114044000B (en) * 2021-11-05 2023-06-23 东风汽车集团股份有限公司 Safety redundant system for human-machine interaction of automatic driving vehicle HMI

Similar Documents

Publication Publication Date Title
CN108240819B (en) Driving support device and driving support method
JP6353383B2 (en) Driver support system control method
KR20200083901A (en) Method, Device and Storage Medium for Evaluating Human Machine Interface of Take-over Request for Autonomous driving
JP6135618B2 (en) Vehicle control device
KR102277095B1 (en) Operation of a vehicle in accordance with the desire of a vehicle occupant
US11820373B2 (en) Autonomous vehicle simulation system
JP6315923B2 (en) Interactive attention increasing method and apparatus
JP6565408B2 (en) Vehicle control apparatus and vehicle control method
JP6996161B2 (en) Parking assistance device and program
US20170190337A1 (en) Communication system and related method
Wulf et al. Recommendations supporting situation awareness in partially automated driver assistance systems
JP2006350567A (en) Interactive system
JP6389006B2 (en) Method for automated implementation of at least one driving function of a motor vehicle
CN107010077B (en) Method for transmitting information to a driver of a motor vehicle and adaptive driver assistance system
JP2017061191A (en) Support apparatus and support method
JPWO2019003280A1 (en) Driving support method and driving support device for vehicle
JP2015130178A (en) Driver feeling estimation device and method
US20200276978A1 (en) Sleepiness level prediction device and sleepiness level prediction method
Yang et al. Multimodal displays for takeover requests
JP5866498B2 (en) Display control device, projection device, display control program, and recording medium
KR20200094461A (en) A control system and method for controlling vehichle based on biometric information
WO2018163552A1 (en) Drive mode switching control device, method and program
US20200377112A1 (en) Method for controlling an autonomous driving configuration or driving assistance configuration
JP2008117303A (en) Driving support apparatus and evaluation apparatus
EP3435291A1 (en) Emotion determination system, system, and program

Legal Events

Date Code Title Description
G15R Request for early publication
A201 Request for examination