KR20220115687A - Pedestrian communication system for self driving cars - Google Patents

Pedestrian communication system for self driving cars Download PDF

Info

Publication number
KR20220115687A
KR20220115687A KR1020210018159A KR20210018159A KR20220115687A KR 20220115687 A KR20220115687 A KR 20220115687A KR 1020210018159 A KR1020210018159 A KR 1020210018159A KR 20210018159 A KR20210018159 A KR 20210018159A KR 20220115687 A KR20220115687 A KR 20220115687A
Authority
KR
South Korea
Prior art keywords
pedestrian
vehicle
gaze
communication system
camera
Prior art date
Application number
KR1020210018159A
Other languages
Korean (ko)
Other versions
KR102568283B1 (en
Inventor
박성현
안지원
정재욱
정지연
박수조
Original Assignee
한양대학교 에리카산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한양대학교 에리카산학협력단 filed Critical 한양대학교 에리카산학협력단
Priority to KR1020210018159A priority Critical patent/KR102568283B1/en
Publication of KR20220115687A publication Critical patent/KR20220115687A/en
Application granted granted Critical
Publication of KR102568283B1 publication Critical patent/KR102568283B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/26Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic
    • B60Q1/50Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking
    • B60Q1/525Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking automatically indicating risk of collision between vehicles in traffic or with pedestrians, e.g. after risk assessment using the vehicle sensor data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q5/00Arrangement or adaptation of acoustic signal devices
    • B60Q5/005Arrangement or adaptation of acoustic signal devices automatically actuated
    • B60Q5/006Arrangement or adaptation of acoustic signal devices automatically actuated indicating risk of collision between vehicles or with pedestrians
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0055Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/40Indexing codes relating to other road users or special conditions
    • B60Q2300/45Special conditions, e.g. pedestrians, road signs or potential dangers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/402Type
    • B60W2554/4029Pedestrians
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404Characteristics
    • B60W2554/4044Direction of movement, e.g. backwards
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404Characteristics
    • B60W2554/4048Field of view, e.g. obstructed view or direction of gaze
    • G05D2201/0213

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Acoustics & Sound (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)

Abstract

The present invention relates to a pedestrian communication system of an autonomous vehicle, in which an autonomous vehicle recognizes a pedestrian and predicts a behavior of the pedestrian. The pedestrian communication system of an autonomous vehicle according to one aspect of the present invention comprises: a detection unit recognizing a pedestrian; and an output unit displaying that the pedestrian is recognized to be viewed from the outside of the vehicle.

Description

자율주행 차량의 보행자 커뮤니케이션 시스템{PEDESTRIAN COMMUNICATION SYSTEM FOR SELF DRIVING CARS}Pedestrian communication system for autonomous vehicles

본 발명은 보행자 커뮤니케이션 시스템에 대한 것으로서, 보다 상세하게는 자율주행 차량과 보행자 간 이루어지는 자율주행 차량의 보행자 커뮤니케이션 시스템에 대한 것이다. The present invention relates to a pedestrian communication system, and more particularly, to a pedestrian communication system of an autonomous vehicle between an autonomous vehicle and a pedestrian.

자동차는 사용되는 원동기의 종류에 따라, 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등으로 분류될 수 있다.An automobile may be classified into an internal combustion engine automobile, an external combustion engine automobile, a gas turbine automobile, an electric vehicle, or the like, according to a type of a prime mover used.

자율주행 차량은 인간의 운전 없이 자동으로 주행할 수 있는 자동차이다. 무인자동차는 레이더, LIDAR(light detection and ranging), GPS, 카메라로 주위의 환경을 인식하여 목적지를 지정하는 것만으로 자율적으로 주행한다. 이미 실용화되고 있는 무인자동차로는 이스라엘 군에서 운용되는 미리 설정된 경로를 순찰하는 무인 차량과 국외 광산이나 건설 현장 등에서 운용되고 있는 덤프 트럭 등의 무인 운행 시스템 등이 있다.An autonomous vehicle is a vehicle that can drive automatically without human driving. Autonomous vehicles drive autonomously by recognizing their surroundings with radar, light detection and ranging (LIDAR), GPS, and cameras and specifying a destination. Unmanned vehicles that have already been put into practical use include unmanned vehicles that patrol preset routes operated by the Israeli military, and unmanned operation systems such as dump trucks operated in overseas mines and construction sites.

이러한 자율주행 차량의 첫 번째 핵심기술은 무인자동차 시스템과 Actual System이다. 실험실 내의 시뮬레이션뿐만 아니라 실제로 무인자동차 시스템을 구축하는 기술이며 구동장치인 가속기, 감속기 및 조향장치 등을 무인화 운행에 맞도록 구현하고, 무인자동차에 장착된 컴퓨터, 소프트웨어 그리고 하드웨어를 이용하여 제어를 가능하게 한다.The first core technologies of these autonomous vehicles are the driverless vehicle system and the actual system. In addition to simulation in the laboratory, it is a technology that actually builds an unmanned vehicle system. It implements the accelerator, reducer, and steering device, which are driving devices, for unmanned operation, and enables control using the computer, software and hardware installed in the unmanned vehicle. do.

두 번째 핵심기술은 비전, 센서를 이용하여 시각정보를 입력받고 처리하는 것이다. 무인화 운행을 위한 자율 주행의 기본이 되는 것으로, 영상정보를 받아들이고 이 영상 중에서 필요한 정보를 추출해내는 기술이다. 이것은 CCD(charge-coupled device) 카메라뿐만 아니라 초음파 센서 및 레인지 필더 등의 센서를 사용하여 거리와 주행에 필요한 정보를 융합하여 분석 및 처리를 통해 장애물 회피와 돌발상황에 대처할 수 있게 한다.The second core technology is to receive and process visual information using vision and sensors. As the basis of autonomous driving for unmanned driving, it is a technology that accepts image information and extracts necessary information from this image. It uses CCD (charge-coupled device) cameras as well as ultrasonic sensors and range filters to fuse information necessary for distance and driving, so that it can avoid obstacles and cope with unexpected situations through analysis and processing.

세 번째 핵심기술은 통합관제 시스템과 운행감시 고장진단체계 기술이다. 이 기술은 차량의 운행을 감시하고 수시로 바뀌는 상황에 따라 적절한 명령을 내리는 운행감시체계를 구축하고, 개별적 프로세서 및 센서에서 발생되는 여러 상황을 분석하여 시스템의 고장을 진단하여 오퍼레이터에 대한 적절한 정보를 제공하거나 경보를 알리는 기능을 수행할 수 있게 한다.The third core technology is the integrated control system and operation monitoring fault diagnosis system technology. This technology establishes a driving monitoring system that monitors vehicle operation and gives appropriate commands according to changing situations, and provides appropriate information to the operator by analyzing various situations occurring from individual processors and sensors to diagnose system failures. or to perform the function of notifying an alarm.

네 번째 핵심기술은 지능제어 및 지능운행 장치이다. 이 기술은 무인운행기법으로 실제 차량모델을 이용한 수학적인 해석에 근거하여 제어명령을 생성하여 현재 무인자동차에 적용되고 있는 첫 번째 적용기술은 지능형 순향제어(ACC: Adaptive Cruise Control) 시스템이다. 지능형 순향제어는 레이더 가이드 기술에 기반을 두고 운전자가 페달을 조작하지 않아도 스스로 속도를 조절하여 앞차 또는 장애물과의 거리를 유지시켜주는 시스템이다. 운전자가 앞차와의 거리를 입력하면 자동차 전면에 부착된 장거리 레이더가 앞차의 위치를 탐지하여 일정속도를 유지하거나 감속, 가속하며 필요한 경우 완전히 정지하여 시야확보가 어려운 날씨에 유용하다.The fourth core technology is intelligent control and intelligent operation devices. This technology is an unmanned driving technique that generates control commands based on mathematical analysis using real vehicle models. Intelligent Forward Control is a system that maintains the distance from the vehicle in front or obstacles by adjusting the speed by itself without the driver operating the pedals based on radar guide technology. When the driver inputs the distance to the vehicle in front, the long-range radar attached to the front of the vehicle detects the position of the vehicle in front, maintains a constant speed, decelerates, accelerates, and stops completely if necessary, which is useful in weather where visibility is difficult.

다섯 번째 적용기술은 차선이탈방지 시스템이다. 이는 내부에 달린 카메라가 차선을 감지하여 의도하지 않은 이탈 상황을 운전자에게 알려주는 기술로 무인자동차에서는 도보와 중앙선을 구분하여 자동차가 차선을 따라 안전하게 주행할 수 있도록 해준다.The fifth applied technology is the lane departure prevention system. This is a technology that notifies the driver of an unintentional departure situation by detecting a lane with a camera installed inside.

여섯 번째 적용기술은 주차보조 시스템이다. 이는 운전자가 어시스트 버튼을 탐색한 수 후진기어를 넣고 브레이크 페달을 밟으면 자동차가 조향장치 조절하여 후진 일렬주차를 도와주는 시스템이다. 차량 장착형 센서뿐만 아니라 인프라를 기반으로 출발지에서 주차공간까지 차량을 자동으로 유도하여 주차 시 불필요하게 소모되는 시간과 에너지를 절약해주어 소요비용과 환경오염을 최소화 해준다.The sixth application technology is the parking assist system. This is a system that helps the car park in reverse line by adjusting the steering system when the driver presses the brake pedal after searching for the assist button and inserts the reverse gear. Based on infrastructure as well as vehicle-mounted sensors, the vehicle is automatically guided from the departure point to the parking space, saving unnecessary time and energy when parking, thereby minimizing cost and environmental pollution.

일곱 번째 적용기술은 자동주차 시스템이다. 이는 운전자가 주차장 앞에 차를 정지시킨 뒤 엔진을 끄고 내려서 리모콘 잠금 스위치를 2회 연속 누르면 자동차에 설치된 카메라가 차고의 반대편 벽에 미리 붙여놓은 반사경을 탐지해 적정한 접근 경로를 계산하여 스스로 주차를 하는 기술이다.The seventh application technology is the automatic parking system. This is a technology in which the driver stops the car in front of the parking lot, turns off the engine, gets off, and presses the remote control lock switch twice in succession. to be.

여덟 번째 적용 기술은 사각지대 정보 안내 시스템이다. 이는 자동차의 양측면에 장착된 센서가 사이드 미러로 보이지 않는 사각지대에 다른 차량이 있는지를 판단하여 운전자에게 경고를 해주는 것으로 복잡한 도로 상황에서 양측의 장애물 및 차량을 확인하여 차선을 변경하는 용도로 사용된다.The eighth application technology is a blind spot information guidance system. It is used to change lanes by checking obstacles and vehicles on both sides in complex road conditions, as sensors mounted on both sides of the car determine whether there are other vehicles in the blind spot not seen by the side mirrors and warn the driver. .

무인자동차의 가장 큰 장점은 주행속도와 교통 관리 자료가 일치하기 때문에 조절장치를 더욱 고르게 하여 반복정지를 피해 연료 효율에 도움을 준다는 것과 노인, 아동, 장애인 등 운전을 할 수 없는 이들도 이용할 수 있다는 것이다. 이외에도 장시간 운전으로 인한 피로를 해결해주고, 교통사고의 위험을 크게 줄일 수 있는 것과 도로의 교통 흐름이 빨라지고 교통 혼잡을 줄일 수 있다는 장점이 있다.The biggest advantage of driverless cars is that they help fuel efficiency by avoiding repeated stops by making the control device more even because the driving speed and traffic management data match. will be. In addition, it has the advantages of solving fatigue caused by long-term driving, greatly reducing the risk of traffic accidents, speeding up road traffic flow, and reducing traffic congestion.

더욱 나아가, 자율주행 차량은 사람이 없는 경우에 불필요하게 주차 장소를 차지하지 않아 주차와 관련된 수 많은 문제를 해결할 것으로 전망되고 있다. 특히, 사고 발생 시 자율주행 차량이 스마트하게 이동하여 사고 대처를 용이하게 보조하는 역할을 수행할 수도 있을 것이다. Furthermore, autonomous vehicles are expected to solve a number of parking-related problems by not occupying a parking space unnecessarily in the absence of a person. In particular, when an accident occurs, the autonomous vehicle may move smartly and play a role of easily assisting in handling an accident.

그러나, 자율주행 차량을 이용한 부가적 사용자 경험에 대하여는 아직까지 논의가 활발하게 이루어지지 않는 실정이므로 보행자는 자율주행 차량이 통제되지 않는다는 막연한 안전 공포심을 가질 수 있는 문제가 있다. 따라서, 자율주행 차량과 보행자와의 안전을 위한 소통 방법에 대한 구체적인 논의가 필요한 시점이다. However, there is a problem in that pedestrians may have a vague fear of safety that the autonomous vehicle is not controlled because the discussion on the additional user experience using the autonomous vehicle has not been actively conducted yet. Therefore, it is time for a detailed discussion on communication methods for safety between autonomous vehicles and pedestrians.

한국공개특허 제2019-0049221호(2019. 05. 09.)Korean Patent Publication No. 2019-0049221 (2019.05.09.)

본 발명은 상기한 종래기술의 문제점을 해결하기 위한 것으로서, 본 발명의 목적은 자율주행 차량이 보행자를 인식하고 보행자의 행위를 예측하도록 하는 자율주행 차량의 보행자 커뮤니케이션 시스템을 제공한다. SUMMARY OF THE INVENTION The present invention is to solve the problems of the prior art, and an object of the present invention is to provide a pedestrian communication system for an autonomous driving vehicle that allows the autonomous driving vehicle to recognize a pedestrian and predict a pedestrian's behavior.

본 발명의 일 측면에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템은 보행자을 인식하는 감지부 및 상기 보행자를 인식하였음을 차량 외부에서 보이도록 표시하는 출력부를 포함한다. A pedestrian communication system for an autonomous vehicle according to an aspect of the present invention includes a sensing unit for recognizing a pedestrian and an output unit for displaying the recognition of the pedestrian to be visible from the outside of the vehicle.

이때, 상기 감지부는 보행자의 시선을 인식하고, 상기 출력부는 시선 방향 인식에 따른 커서를 출력할 수 있다. In this case, the sensing unit may recognize the gaze of the pedestrian, and the output unit may output a cursor according to the gaze direction recognition.

또한, 상기 출력부는 입력 메뉴를 출력하되, 시선 방향 인식에 따른 커서를 상기 입력 메뉴 상에 출력할 수 있다. In addition, the output unit may output an input menu, but may output a cursor according to gaze direction recognition on the input menu.

또한, 상기 보행자는 적어도 하나로 이루어지고, 상기 감지부가 보행자의 시선을 인식하지 못하는 경우에 상기 출력부는 알람을 출력할 수 있다. In addition, the pedestrian is composed of at least one, and when the sensing unit does not recognize the pedestrian's gaze, the output unit may output an alarm.

또한, 상기 커서의 이동은 보행자의 시선, 보행자의 모션 및 음성 중 적어도 어느 하나에 따라 이루어질 수 있다. In addition, the movement of the cursor may be made according to at least one of the pedestrian's gaze, the pedestrian's motion, and the voice.

본 발명은 자율주행 차량이 보행자의 시선을 인식하고 보행자의 시선에 따라 메뉴 화면을 출력한 후 보행자가 선택하도록 하므로 보행자의 행위를 자율주행 차량이 명확하게 판단하여 이에 대응할 수 있다. According to the present invention, the autonomous driving vehicle recognizes the pedestrian's gaze, outputs a menu screen according to the pedestrian's gaze, and then allows the pedestrian to select it, so the autonomous driving vehicle can clearly determine the pedestrian's behavior and respond to it.

도 1은 본 발명의 일 실시예에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템의 구성도이다.
도 2는 도 1에서의 감지부를 더욱 상세히 도시한 구성도이다.
도 3은 도 1에서의 출력부를 더욱 상세히 도시한 구성도이다.
도 4는 도 1에서의 제어부를 더욱 상세히 도시한 구성도이다.
도 5 내지 도 8은 본 발명의 일 실시예에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템의 작용을 설명하는 도면이다.
1 is a block diagram of a pedestrian communication system of an autonomous vehicle according to an embodiment of the present invention.
FIG. 2 is a configuration diagram illustrating the sensing unit of FIG. 1 in more detail.
FIG. 3 is a configuration diagram illustrating the output unit of FIG. 1 in more detail.
FIG. 4 is a configuration diagram illustrating the control unit in FIG. 1 in more detail.
5 to 8 are views for explaining the operation of the pedestrian communication system of the autonomous vehicle according to an embodiment of the present invention.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. Hereinafter, the embodiments disclosed in the present specification will be described in detail with reference to the accompanying drawings, but the same or similar components are assigned the same reference numbers regardless of reference numerals, and redundant description thereof will be omitted.

이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. The suffixes "module" and "part" for components used in the following description are given or mixed in consideration of only the ease of writing the specification, and do not have distinct meanings or roles by themselves.

또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. In addition, in describing the embodiments disclosed in the present specification, if it is determined that detailed descriptions of related known technologies may obscure the gist of the embodiments disclosed in the present specification, the detailed description thereof will be omitted.

또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.In addition, the accompanying drawings are only for easy understanding of the embodiments disclosed in the present specification, and the technical spirit disclosed herein is not limited by the accompanying drawings, and all changes included in the spirit and scope of the present invention , should be understood to include equivalents or substitutes.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinal numbers such as first, second, etc. may be used to describe various elements, but the elements are not limited by the terms. The above terms are used only for the purpose of distinguishing one component from another.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.When a component is referred to as being “connected” or “connected” to another component, it may be directly connected or connected to the other component, but it is understood that other components may exist in between. it should be On the other hand, when it is said that a certain element is "directly connected" or "directly connected" to another element, it should be understood that the other element does not exist in the middle.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The singular expression includes the plural expression unless the context clearly dictates otherwise.

본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. In the present application, terms such as “comprises” or “have” are intended to designate that a feature, number, step, operation, component, part, or combination thereof described in the specification exists, but one or more other features It is to be understood that this does not preclude the possibility of the presence or addition of numbers, steps, operations, components, parts, or combinations thereof.

이하, 본 발명의 일 실시예에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템(1000)을 설명한다. 도 1은 본 발명의 일 실시예에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템의 구성도이고, 도 2는 도 1에서의 감지부를 더욱 상세히 도시한 구성도이며, 도 3은 도 1에서의 출력부를 더욱 상세히 도시한 구성도이고, 도 4는 도 1에서의 제어부를 더욱 상세히 도시한 구성도이다. Hereinafter, the pedestrian communication system 1000 of the autonomous vehicle according to an embodiment of the present invention will be described. 1 is a configuration diagram of a pedestrian communication system of an autonomous vehicle according to an embodiment of the present invention, FIG. 2 is a configuration diagram illustrating the sensing unit in FIG. 1 in more detail, and FIG. 3 is a diagram showing the output unit in FIG. 1 more It is a configuration diagram showing in detail, and FIG. 4 is a configuration diagram showing the control unit in FIG. 1 in more detail.

도면을 참조하면 우선 본 발명의 일 실시예에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템(1000)은 자율주행 차량(100)과 경로 관리 및 원격 제어를 수행하는 서버(200)를 포함하여 이루어진다. 이때 자율주행 차량(100)은 입력부(110), 감지부(120), 출력부(130), 제어부(140), 통신부(150) 및 구동부(160)로 이루어진다. Referring to the drawings, a pedestrian communication system 1000 of an autonomous vehicle according to an embodiment of the present invention includes an autonomous vehicle 100 and a server 200 that manages routes and performs remote control. In this case, the autonomous vehicle 100 includes an input unit 110 , a sensing unit 120 , an output unit 130 , a control unit 140 , a communication unit 150 , and a driving unit 160 .

입력부(110)는 운전을 위한 사용자 입력을 수신하는 장치이다. 메뉴얼 모드인 경우 자율주행 차량(100)의 입력부는 조향 입력 장치, 가속 입력 장치, 브레이크 입력 장치를 포함할 수 있다. 또한, 입력부(110)는 자율주행 차량의 목적지를 입력하는 역할을 하고 입력된 목적지에 따라 서버(200)로부터 정보를 수신받아 경로를 연속적으로 설정하게 된다. The input unit 110 is a device for receiving a user input for driving. In the manual mode, the input unit of the autonomous vehicle 100 may include a steering input device, an acceleration input device, and a brake input device. In addition, the input unit 110 serves to input the destination of the autonomous vehicle, receives information from the server 200 according to the input destination, and continuously sets a route.

감지부(120)는 레이더(121) 및 라이다(122)를 포함하고, 카메라(123)를 더 포함하여 이루어질 수 있다. 본 실시예에서는 레이더(121), 라이다(122) 및 카메라(123)를 이용하여 주요 오브젝트인 보행자, 보행자의 시선, 보행자의 이동, 보행자의 이동 방향 및 보행자의 제스처를 감지한다. The sensing unit 120 may include a radar 121 and a lidar 122 , and may further include a camera 123 . In this embodiment, a pedestrian, a pedestrian's gaze, a pedestrian's movement, a pedestrian's movement direction, and a pedestrian's gesture are detected using the radar 121, the lidar 122, and the camera 123.

우선, 레이더(121)는 전파를 이용하여 자율주행 차량(100) 외부의 오브젝트에 대한 정보를 생성할 수 있다. 레이더(121)는 전자파 송신부, 전자파 수신부 및 전자파 송신부 및 전자파 수신부와 전기적으로 연결되어, 수신되는 신호를 처리하고, 처리되는 신호에 기초하여 오브젝트에 대한 데이터를 생성하는 적어도 하나의 프로세서를 포함할 수 있다. First, the radar 121 may generate information on an object outside the autonomous vehicle 100 using radio waves. The radar 121 may include at least one processor that is electrically connected to an electromagnetic wave transmitter, an electromagnetic wave receiver, and an electromagnetic wave transmitter and an electromagnetic wave receiver, processes a received signal, and generates data for an object based on the processed signal. have.

레이더(121)는 전파 발사 원리상 펄스 레이더(Pulse Radar) 방식 또는 연속파 레이더(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이더(121)는 연속파 레이더 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다. 레이더(121)는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다. 이때 레이더(121)는 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.The radar 121 may be implemented in a pulse radar method or a continuous wave radar method in view of a radio wave emission principle. The radar 121 may be implemented in a frequency modulated continuous wave (FMCW) method or a frequency shift keyong (FSK) method according to a signal waveform among continuous wave radar methods. The radar 121 detects an object based on a time of flight (TOF) method or a phase-shift method using an electromagnetic wave as a medium, and calculates the position of the detected object, the distance from the detected object, and the relative speed. can be detected. In this case, the radar 121 may be disposed at an appropriate location outside the vehicle in order to detect an object located in the front, rear, or side of the vehicle.

다음으로, 라이다(122)는 레이저 광을 이용하여 자율주행 차량(100) 외부의 보행자를 포함하는 오브젝트에 대한 정보를 생성할 수 있다. 라이다(122)는 광 송신부(미도시), 광 수신부(미도시) 및 광 송신부 및 광 수신부와 전기적으로 연결되어, 수신되는 신호를 처리하고, 처리된 신호에 기초하여 오브젝트에 대한 데이터를 생성하는 적어도 하나의 프로세서를 포함할 수 있다. Next, the lidar 122 may generate information about an object including a pedestrian outside the autonomous vehicle 100 by using the laser light. The lidar 122 is electrically connected to the light transmitter (not shown), the light receiver (not shown), and the light transmitter and the light receiver, processes the received signal, and generates data for the object based on the processed signal. It may include at least one processor.

라이다(122)는 TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다. 라이다(122)는 구동식 또는 비구동식으로 구현될 수 있는데, 구동식으로 구현되는 경우 라이다(122)는 모터에 의해 회전되며 자율주행 차량(100) 주변의 보행자 등의 오브젝트를 검출할 수 있다. 비구동식으로 구현되는 경우, 라이다(122)는 광 스티어링에 의해 차량을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 자율주행 차량(100)은 복수의 비구동식 라이다를 포함할 수 있다. The lidar 122 may be implemented in a time of flight (TOF) method or a phase-shift method. The lidar 122 may be implemented as a driving type or a non-driven type. When the lidar 122 is implemented as a driving type, the lidar 122 is rotated by a motor and can detect objects such as pedestrians around the autonomous vehicle 100 . have. When implemented as a non-driven type, the lidar 122 may detect an object located within a predetermined range with respect to the vehicle by light steering. The autonomous vehicle 100 may include a plurality of non-driven lidar.

라이다(122)는 레이저 광 매개로 TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다. 이때 라이다(122)는 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.The lidar 122 detects an object based on a time of flight (TOF) method or a phase-shift method using a laser light medium, and calculates a position of the detected object, a distance from the detected object, and a relative speed. can be detected. In this case, the lidar 122 may be disposed at an appropriate position outside the vehicle in order to detect an object located in the front, rear or side of the vehicle.

한편, 카메라(123)는 영상을 이용하여 자율주행 차량(100) 외부의 보행자 등의 오브젝트에 대한 정보를 생성할 수 있다. 카메라(123)는 적어도 하나의 렌즈, 적어도 하나의 이미지 센서 및 이미지 센서와 전기적으로 연결되어 수신되는 신호를 처리하고, 처리되는 신호에 기초하여 오브젝트에 대한 데이터를 생성하는 적어도 하나의 프로세서를 포함할 수 있다.Meanwhile, the camera 123 may generate information on an object such as a pedestrian outside the autonomous driving vehicle 100 by using the image. The camera 123 may include at least one lens, at least one image sensor, and at least one processor that is electrically connected to the image sensor to process a received signal, and generate data about the object based on the processed signal. can

카메라(123)는 모노 카메라, 스테레오 카메라, AVM(Around View Monitoring) 카메라 중 적어도 어느 하나일 수 있다. 카메라(123)는 다양한 영상 처리 알고리즘을 이용하여, 오브젝트의 위치 정보, 오브젝트와의 거리 정보 또는 오브젝트와의 상대 속도 정보를 획득할 수 있다.The camera 123 may be at least one of a mono camera, a stereo camera, and an Around View Monitoring (AVM) camera. The camera 123 may obtain position information of an object, distance information from an object, or relative speed information with an object by using various image processing algorithms.

예를 들어, 카메라(123)는 획득된 영상에서 시간에 따른 오브젝트 크기의 변화를 기초로, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다. 또한, 카메라(123)는, 핀홀(pin hole) 모델, 노면 프로파일링 등을 통해, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.For example, the camera 123 may acquire distance information and relative velocity information from an object based on a change in the size of the object over time in the acquired image. Also, the camera 123 may acquire distance information and relative speed information with respect to an object through a pinhole model, road surface profiling, or the like.

또한, 카메라(123)는 스테레오 카메라에서 획득된 스테레오 영상에서 디스패러티(disparity) 정보를 기초로 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다. 카메라(123)는 차량 외부를 촬영하기 위해 차량에서 FOV(field of view) 확보가 가능한 위치에 장착될 수 있다. Also, the camera 123 may acquire distance information and relative velocity information from an object based on disparity information in a stereo image obtained from the stereo camera. The camera 123 may be mounted at a position where a field of view (FOV) can be secured in the vehicle to photograph the outside of the vehicle.

카메라(123)는 차량 전방의 영상을 획득하기 위해 차량의 실내에서 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 나아가 카메라(123)는 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다. 카메라(123)는 차량 후방의 영상을 획득하기 위해 차량의 실내에서 리어 글라스에 근접하게 배치될 수 있다. 이때, 카메라(123)는 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다. 카메라(123)가 차량 측방의 영상을 획득하기 위해서는 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는 카메라(123)는 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다. The camera 123 may be disposed adjacent to the front windshield in the interior of the vehicle to acquire an image of the front of the vehicle. Furthermore, the camera 123 may be disposed around the front bumper or radiator grill. The camera 123 may be disposed adjacent to the rear glass in the interior of the vehicle to acquire an image of the rear of the vehicle. In this case, the camera 123 may be disposed around the rear bumper, the trunk, or the tailgate. In order for the camera 123 to acquire an image of the side of the vehicle, it may be disposed adjacent to at least one of the side windows in the interior of the vehicle. Alternatively, the camera 123 may be disposed around a side mirror, a fender, or a door.

또한, 본 실시예에서 카메라(123)는 보행자의 시선을 인식한다. 이 경우 카메라(123)는 넓은 영역에서 눈의 위치를 찾기 위한 광각(wide view field) 카메라와 찾아진 눈의 위치로 팬(Pan)-틸트(Tilt)-포커싱(Focusing)하여 고화질의 눈 영상을 획득하기 위한 협각(narrow view field) 카메라로 구성될 있다. In addition, in this embodiment, the camera 123 recognizes the gaze of the pedestrian. In this case, the camera 123 produces a high-quality eye image by pan-tilt-focusing with a wide view field camera for finding the position of the eye in a wide area and the position of the found eye. It may consist of a narrow view field camera for acquisition.

또한, 카메라(123)는 보행자의 시선을 추적하기 위해서 스테레오 카메라의 캘리브레이션과 랙티피케이션을 수행하고, 스테레오 카메라와 협각 카메라 간의 캘리브레이션을 수행하며, 사용자 캘리브레이션을 수행할 수 있다. 이때 각 캘리브레이션의 수행이 완료되면, 스테레오 카메라로부터 영상들을 입력 받고 입력된 각 영상들에서 얼굴 영역 및 눈 영역을 검출할 수 있다. In addition, the camera 123 may perform calibration and ractification of the stereo camera in order to track the gaze of the pedestrian, perform calibration between the stereo camera and the narrow-angle camera, and perform user calibration. In this case, when each calibration is completed, images may be received from the stereo camera, and a face region and an eye region may be detected from each of the input images.

이후, 검출해 낸 눈의 2차원 좌표와 캘리브레이션을 통해 획득한 사용자 위치 정보를 기반으로 보행자의 눈 영역에 대한 3차원 위치 정보를 계산하고 이를 기반으로 협각 카메라에 대한 패닝(Panning), 틸팅(Tilting), 오토포커스(Auto-Focus)를 수행하고, 이를 통해 고화질의 눈 영상을 획득한다. 그리고, 획득된 고화질의 눈 영상으로부터 동공 중심을 검출하고, 적외선 조명에 의해 눈에 반사된 각막 반사광을 검출한다. 이와 같은 과정을 통해 검출된 동공 중심에 대한 정보와 각막 반사광에 대한 정보로부터 보행자의 시선 위치와 이동을 계산해 낼 수 있다. 또한, 보행자의 시선이 이동되는 경우에는 마우스 커서와 같이 후술하는 출력부가 출력한 메뉴의 선택이 가능해진다. Then, based on the detected 2D coordinates of the eye and the user's position information obtained through calibration, 3D position information for the pedestrian's eye area is calculated, and based on this, panning and tilting for the narrow angle camera is performed. ), auto-focus is performed, and a high-quality eye image is obtained through this. Then, the pupil center is detected from the obtained high-quality eye image, and the corneal reflection light reflected by the infrared light is detected. Through this process, the gaze position and movement of the pedestrian can be calculated from the information on the pupil center and the corneal reflected light detected through this process. In addition, when the gaze of the pedestrian is moved, it is possible to select a menu output by an output unit to be described later, such as a mouse cursor.

또한, 감지부(120)는 자율주행 차량의 위치 정보를 활용해야 되므로 GPS(124)를 필수적으로 더 포함한다. GPS(124)는 자율주행 차량(100)의 위치 데이터를 생성하는데 일반적인 GPS(Global Positioning System) 및 DGPS(Differential Global Positioning System) 중 적어도 어느 하나를 포함할 수 있다. 이러한 GPS 및 DGPS 중 적어도 어느 하나에서 생성되는 신호에 기초하여 자율주행 차량(10)의 위치 데이터를 생성할 수 있다. In addition, since the sensing unit 120 needs to utilize location information of the autonomous vehicle, it essentially further includes a GPS 124 . The GPS 124 may include at least one of a general global positioning system (GPS) and a differential global positioning system (DGPS) to generate location data of the autonomous vehicle 100 . Position data of the autonomous vehicle 10 may be generated based on a signal generated by at least one of the GPS and DGPS.

이때, GPS(124)는 IMU(Inertial Measurement Unit) 및 감지부(120)의 카메라(123) 중 적어도 어느 하나에 기초하여 위치 데이터를 보정할 수 있다. 또한, GPS(124)는 GNSS(Global Navigation Satellite System)로 명명될 수 있다.In this case, the GPS 124 may correct the location data based on at least one of an Inertial Measurement Unit (IMU) and the camera 123 of the sensing unit 120 . Also, the GPS 124 may be referred to as a Global Navigation Satellite System (GNSS).

한편, 감지부(120)는 탑승자가 조향 작동을 수행하지 않더라도 음성 등으로 보호자 이외에 탑승객도 자율주행에 개입하기 위해 마이크(125)를 더 구비할 수 있다. 나아가 생체정보센서(126)은 탑승객의 심박, 협압, 뇌파 등을 센싱하여 위급상황에 대비하도록 할 뿐만 아니라 부가적으로 차량의 입출입 시 지문, 홍채 정보를 센싱하여 오류 탑승을 막는 기능도 별도로 수행할 수 있다. 이러한 생체정보센서(126)를 활용하여 자율주행 차량(100)은 탑승객이 탑승하거나 하차한 것을 감지할 수 있다. On the other hand, the sensing unit 120 may further include a microphone 125 in order for the passenger to intervene in the autonomous driving in addition to the guardian by voice or the like even if the passenger does not perform the steering operation. Furthermore, the biometric information sensor 126 not only prepares for an emergency by sensing the passenger's heartbeat, pressure, brain waves, etc., but additionally senses fingerprint and iris information when entering and exiting the vehicle to prevent erroneous boarding. can By utilizing the biometric information sensor 126 , the autonomous vehicle 100 may detect that a passenger has boarded or alighted.

한편, 출력부(130)는 평상시에 자율주행 차량(100)의 내부 또는 외부에 배치되어 주행 관련 상황을 표시한다. 나아가 차량의 외부에 형상, 모양 및 색체 중 어느 하나가 디스플레이되도록 하여 차량의 소유자 및 주위의 사람에게 예측 가능성을 제공하도록 할 수 있다. Meanwhile, the output unit 130 is normally disposed inside or outside the autonomous vehicle 100 to display driving-related situations. Furthermore, any one of a shape, a shape, and a color may be displayed on the exterior of the vehicle to provide predictability to the vehicle owner and surrounding people.

더욱 나아가 본 발명의 일 실시예에 따른 출력부(130)는 시선출력모듈(131), 메뉴출력모듈(132) 및 알라밍출력모듈(132)을 포함하여 이루어진다. Furthermore, the output unit 130 according to an embodiment of the present invention comprises a gaze output module 131 , a menu output module 132 and an alarming output module 132 .

시선출력모듈(131)은 우선 보행자를 인식하였다는 것을 표시하거나 알라밍하는 방법으로 출력한다. 이때, 시선출력모듈(131)은 더욱 나아가 감지된 보행자의 시선을 커서의 형태로 출력한다. 또한, 시선출력모듈(131)은 보행자의 시선이 이동되는 경우에 그 커서가 대응하여 이동되어 출력되도록 한다. The gaze output module 131 outputs by displaying or alarming that the pedestrian is recognized first. At this time, the gaze output module 131 further outputs the detected gaze of the pedestrian in the form of a cursor. In addition, when the gaze of the pedestrian is moved, the gaze output module 131 causes the cursor to be moved correspondingly to be output.

한편, 메뉴출력모듈(132)은 보행자의 의중을 묻는 메뉴(예를 들어, 길을 횡단할지 아닐지에 대한 메뉴)를 출력하는데 시선출력모듈(131)은 이러한 메뉴 상에 상기한 커서가 출력되도록 한다. 그런데 이때의 커서는 시선의 이동에 따라 이동이 가능하므로 시선의 이동과 고정만으로 메뉴의 선택이 가능해지게 된다. 또한, 이때 메뉴의 선택은 보행자의 시선 고정 뿐만 아니라 보행자의 모션이나 음성을 감지부가 수집하여 메뉴의 선택이 가능함도 물론이다. On the other hand, the menu output module 132 outputs a menu asking the intention of the pedestrian (for example, a menu for whether to cross the road or not), and the gaze output module 131 outputs the cursor on the menu. . However, at this time, since the cursor can be moved according to the movement of the gaze, a menu selection is made possible only by moving and fixing the gaze. In addition, the selection of the menu at this time not only fixes the gaze of the pedestrian, but also collects the motion or voice of the pedestrian to select the menu.

예를 들어, 차량(100)이 보행자를 감지하여 "길을 건너가시겠습니까?"라는 질의어와 함께 "예" / "아니오"로 구성된 메뉴 화면을 출력한 경우에 사용자의 시선도 함께 메뉴 화면 상에 출력되고 이후 사용자의 시선이 "예"에 고정되어 있거나, 고개를 끄덕이거나, "예"라는 음성을 말하는 경우에는 보행자의 의도가 길의 횡단임을 정확하게 판단하게 된다. For example, when the vehicle 100 detects a pedestrian and outputs a menu screen consisting of "Yes" / "No" with the query word "Do you want to cross the road?", the user's gaze is also displayed on the menu screen. After output, when the user's gaze is fixed on "yes", nods his head, or says "yes", it is accurately determined that the intention of the pedestrian is crossing the road.

그런데, 보행자가 다른 용무로 시선을 인식시키지 않을 수 있으므로 이 경우에는 알라밍출력모듈(133) 시선이 인식되지 않았다는 것을 보행자에게 알라밍하게 되고 이때 바라보는 보행자의 시선이 감지되도록 한다. 이때 보행자가 다수자인 경우에 어느 누구의 시선이 감지되는 경우에는 전체의 의견으로 판단하는 것이 바람직할 수 있다. However, since the pedestrian may not recognize the gaze for other purposes, in this case, the alarming output module 133 alerts the pedestrian that the gaze is not recognized, and the gaze of the pedestrian looking at this is detected. In this case, when there are a plurality of pedestrians, it may be preferable to determine the opinion of the whole when the gaze of any one is detected.

한편, 제어부(140)는 메인 ECU로 구성될 수 있는데 자율주행 차량(100)의 구동부(160)를 제어하게 된다. Meanwhile, the control unit 140 may be configured as a main ECU, and controls the driving unit 160 of the autonomous vehicle 100 .

특히, 제어부(140)는 파워 트레인 구동 제어 장치, 샤시 구동 제어 장치, 도어/윈도우 구동 제어 장치, 안전 장치 구동 제어 장치, 램프 구동 제어 장치 및 공조 구동 제어 장치를 포함할 수 있다. 파워 트레인 구동 제어 장치는 동력원 구동 제어 장치 및 변속기 구동 제어 장치를 포함할 수 있다. 샤시 구동 제어 장치는, 조향 구동 제어 장치, 브레이크 구동 제어 장치 및 서스펜션 구동 제어 장치를 포함할 수 있다. 한편, 안전 장치 구동 제어 장치는 안전 벨트 제어를 위한 안전 벨트 구동 제어 장치를 포함할 수 있다.In particular, the controller 140 may include a power train drive control device, a chassis drive control device, a door/window drive control device, a safety device drive control device, a lamp drive control device, and an air conditioning drive control device. The power train drive control device may include a power source drive control device and a transmission drive control device. The chassis drive control device may include a steering drive control device, a brake drive control device, and a suspension drive control device. Meanwhile, the safety device drive control device may include a safety belt drive control device for seat belt control.

제어부(140)는 적어도 하나의 전자적 제어 장치(예를 들면, 제어 ECU(Electronic Control Unit))를 포함한다. 특히 수신되는 신호에 기초하여, 차량 구동 장치를 제어할 수 있다. 예를 들면, 제어부(140)는 감지부(120)에서 수신되는 신호에 기초하여, 파워 트레인, 조향 장치 및 브레이크 장치를 제어할 수 있다.The controller 140 includes at least one electronic control device (eg, a control ECU (Electronic Control Unit)). In particular, on the basis of the received signal, it is possible to control the vehicle drive unit. For example, the controller 140 may control a power train, a steering device, and a brake device based on a signal received from the sensor 120 .

나아가 제어부(140)는 이외에도 보행자인식모듈(141), 보행자선택확인모듈(142), 및 출력제어모듈(143)를 포함한다. Furthermore, the control unit 140 includes a pedestrian recognition module 141 , a pedestrian selection confirmation module 142 , and an output control module 143 .

보행자판단모듈(141)은 보행자와 보행자의 움직임을 감지하는데 레이더(121) 및 라이더(122)가 감지한 신호를 수신하여 정보를 구분하고 상기 카메라(123)는 영상으로 입력된 컬러 정보를 흑백으로 변환한다. 이때, 라이다(122)는 수신된 정보를 좌표평면으로 변환하고 카메라(123)는 변환된 정보에서 히스토그램(도수분포표)을 정규화 한다. The pedestrian determination module 141 detects the movement of pedestrians and pedestrians, receives signals detected by the radar 121 and the rider 122 to classify information, and the camera 123 converts the color information input as an image into black and white. convert At this time, the lidar 122 converts the received information into a coordinate plane, and the camera 123 normalizes the histogram (frequency distribution table) from the converted information.

또한, 라이다(122)에서 변환된 좌표계와 카메라에서 얻은 히스토그램을 통해 ROI(관심영역)를 설정한다. 그리고 설정 단계에서 얻은 ROI를 HOG 변환을 하여 보행자 인식 정보를 얻으며 라이다(122)는 RF신호로 송신된 정보에서 거리 값을 구한다. 이후 관심 영역과 거리값 측정에 의해 얻은 두 가지의 정보를 조합하고, 상기 조합된 정보에서 SVM분류를 통해 길을 횡단하려는 보행자나 비보행자를 구분하게 된다. In addition, an ROI (region of interest) is set through the coordinate system converted by the lidar 122 and the histogram obtained from the camera. Then, the ROI obtained in the setting step is converted to HOG to obtain pedestrian recognition information, and the lidar 122 obtains a distance value from the information transmitted as an RF signal. Thereafter, two pieces of information obtained by measuring the area of interest and the distance value are combined, and a pedestrian or non-pedestrian who wants to cross the road is distinguished from the combined information through SVM classification.

이러한 구분 단계의 분류를 통해 보행자를 구분하고 보행자일 경우에는 정보를 저장하고, 보행자 구분을 할 수 있을 경우 추가적으로 상기 정규화 단계로 회귀하고, 없을 경우 알고리즘을 종료하게 된다. 따라서, 결과적으로 자율주행 차량(100)은 서행하면서 브레이크를 작동하게 된다. Pedestrians are classified through the classification of the classification step, and information is stored in the case of pedestrians. If pedestrians can be classified, the normalization step is additionally returned. If not, the algorithm is terminated. Accordingly, as a result, the autonomous vehicle 100 operates the brake while driving slowly.

이때, 전술한 사용자의 시선이 인식되고 메뉴 화면이 외부에 출력되는데 보행자선택확인모듈(142)는 메뉴 화면의 어느 영역을 사용자가 선택했는지 최종적으로 판단하게 된다. 이 경우 전술한 바와 같이 사용자가 음성 입력을 수행한 경우에는 바로 선택 사항을 확정한다. 그런데 사용자의 시선 방향이 불명확한 경우에는 출력부가 재차 알라밍하도록 하여 시선을 정확하게 고정할 것을 요청할 수 있다. 나아가, 보행자선택확인모듈(142)은 사용자의 시선이 메뉴 중 어느 하나에 고정되어 있고 여기서 고개를 끄덕이는 등의 감지가 입력되면 시선이 확정된 것으로 판단하여 최종적으로 메뉴가 선택된 것으로 판단할 수 있다. 한편, 출력제어모듈(143)은 최초의 보행자 인식에 따른 출력과 시선 방향을 따라 출력되는 커서 표시 및 일반적인 차량 내부 및 외부에서의 정보 출력을 제어한다. At this time, the user's gaze is recognized and the menu screen is output to the outside, and the pedestrian selection confirmation module 142 finally determines which area of the menu screen the user has selected. In this case, when the user performs a voice input as described above, the selection is immediately confirmed. However, when the user's gaze direction is unclear, the output unit may request to accurately fix the gaze by causing the alarm again. Furthermore, the pedestrian selection confirmation module 142 determines that the user's gaze is fixed to any one of the menus, and when a detection such as a nod of the head is input here, the gaze is confirmed and finally the menu is selected. have. On the other hand, the output control module 143 controls the output according to the first pedestrian recognition, the cursor display output along the line of sight direction, and the general information output inside and outside the vehicle.

한편, 통신부(150)는 자율주행 차량(100) 외부에 위치하는 디바이스와 신호를 교환할 수 있는데 인프라(예를 들면, 서버, 방송국), 타 차량, 단말기 중 적어도 어느 하나와 신호를 교환할 수 있다. 통신부(150)는 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다. 예를 들어, 통신 장치는 C-V2X(Cellular V2X) 기술을 기반으로 외부 디바이스와 신호를 교환할 수 있다. 또한, 통신부(150)는 IEEE 802.11p PHY/MAC 계층 기술과 IEEE 1609 Network/Transport 계층 기술 기반의 DSRC(Dedicated Short Range Communications) 기술 또는 WAVE(Wireless Access in Vehicular Environment) 표준을 기반으로 외부 디바이스와 신호를 교환할 수 있다. Meanwhile, the communication unit 150 may exchange signals with devices located outside the autonomous vehicle 100 , and may exchange signals with at least one of an infrastructure (eg, a server, a broadcasting station), another vehicle, and a terminal. have. The communication unit 150 may include at least one of a transmit antenna, a receive antenna, a radio frequency (RF) circuit capable of implementing various communication protocols, and an RF element to perform communication. For example, the communication apparatus may exchange a signal with an external device based on C-V2X (Cellular V2X) technology. In addition, the communication unit 150 is based on the IEEE 802.11p PHY / MAC layer technology and the IEEE 1609 Network / Transport layer technology based on DSRC (Dedicated Short Range Communications) technology or WAVE (Wireless Access in Vehicular Environment) standard based on the external device and signal can be exchanged for

이하, 본 발명의 작용을 예시하여 설명한다. 도 5 내지 8은 본 발명의 일 실시예에 따른 자율주행 차량의 보행자 커뮤니케이션 시스템의 작용을 예시하는 도면이다. Hereinafter, the operation of the present invention will be exemplified and described. 5 to 8 are diagrams illustrating the operation of a pedestrian communication system of an autonomous vehicle according to an embodiment of the present invention.

우선, 도 5를 참조하면, 보행자를 인식한 자율주행 차량은 보행자를 인식했다는 표식을 텍스트로 출력하는 것을 보여준다. 도 6에서는 보행자의 시선이 전면 디스플레이상에 추적되어 커서(붉은원)으로 표시되는데 커서는 출력된 메뉴 화면 상에 출력된다. 따라서, 사용자는 메뉴인 네/아니오 중 어느 하나에 시선을 고정하여 지나간다는 의사 표시를 확정하거나 추가적으로 모션이나 음성을 더욱 입력하여 의사 표시를 더욱 명확하게 확정할 수 있다. First, referring to FIG. 5 , it is shown that the autonomous driving vehicle that has recognized the pedestrian outputs a mark indicating that the pedestrian has been recognized as text. In FIG. 6 , the gaze of the pedestrian is tracked on the front display and displayed as a cursor (red circle), and the cursor is output on the output menu screen. Accordingly, the user can confirm the intention to pass by fixing his or her gaze on any one of yes/no menus, or further clearly input the motion or voice to confirm the intention more clearly.

도 7은 보행자가 복수자인 경우를 예시하는 도면이다. 여기서 복수의 보행자 중 어느 하나 이상을 감지한 차량은 감지했다는 표식을 먼저 출력하게 되고 보행자 중 어느 한 명의 시선이 감지되는 경우에 그 한 명의 메뉴 선택에 의해 전체 보행자가 길을 횡단하는 것이 가능해진다. 7 is a diagram illustrating a case where a pedestrian is a plurality. Here, the vehicle that has detected one or more of the plurality of pedestrians first outputs a mark indicating that it has been detected, and when the gaze of any one of the pedestrians is detected, it becomes possible for all pedestrians to cross the road by selecting the menu of that one.

이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다.As such, those skilled in the art to which the present invention pertains will understand that the present invention may be embodied in other specific forms without changing the technical spirit or essential characteristics thereof.

또한, 본 명세서와 도면에는 본 발명의 바람직한 실시예에 대하여 개시하였으며, 비록 특정 용어들이 사용되었으나, 이는 단지 본 발명의 기술 내용을 쉽게 설명하고 발명의 이해를 돕기 위한 일반적인 의미에서 사용된 것이지, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시예 외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다.In addition, the present specification and drawings have been disclosed with respect to preferred embodiments of the present invention, and although specific terms are used, these are only used in a general sense to easily explain the technical content of the present invention and help the understanding of the present invention, It is not intended to limit the scope of the invention. It will be apparent to those of ordinary skill in the art to which the present invention pertains that other modifications based on the technical spirit of the present invention can be implemented in addition to the embodiments disclosed herein.

1000: 자율주행 차량의 보행자 커뮤니케이션 시스템
100: 자율주행 차량
110: 입력부
120: 감지부
130: 출력부
140: 제어부
150: 통신부
160: 구동부
200: 서버
1000: pedestrian communication system of autonomous vehicle
100: autonomous vehicle
110: input unit
120: detection unit
130: output unit
140: control unit
150: communication department
160: driving unit
200: server

Claims (5)

보행자을 인식하는 감지부; 및
상기 보행자를 인식하였음을 차량 외부에서 보이도록 표시하는 출력부;
를 포함하는 자율주행 차량의 보행자 커뮤니케이션 시스템.
a sensing unit for recognizing a pedestrian; and
an output unit for displaying that the pedestrian has been recognized to be visible from the outside of the vehicle;
A pedestrian communication system of an autonomous vehicle comprising a.
제1항에 있어서,
상기 감지부는 보행자의 시선을 인식하고,
상기 출력부는 시선 방향 인식에 따른 커서를 출력하는 것을 특징으로 하는 자율주행 차량의 보행자 커뮤니케이션 시스템.
According to claim 1,
The sensing unit recognizes the gaze of the pedestrian,
The output unit outputs a cursor according to gaze direction recognition.
제1항에 있어서,
상기 출력부는 입력 메뉴를 출력하되, 시선 방향 인식에 따른 커서를 상기 입력 메뉴 상에 출력하는 것을 특징으로 하는 자율주행 차량의 보행자 커뮤니케이션 시스템.
According to claim 1,
The output unit outputs an input menu, and outputs a cursor according to gaze direction recognition on the input menu.
제1항에 있어서,
상기 보행자는 적어도 하나로 이루어지고,
상기 감지부가 보행자의 시선을 인식하지 못하는 경우에 상기 출력부는 알람을 출력하는 것을 특징으로 하는 자율주행 차량의 보행자 커뮤니케이션 시스템 시스템.
According to claim 1,
The pedestrian consists of at least one,
The pedestrian communication system system of an autonomous vehicle, characterized in that the output unit outputs an alarm when the sensing unit does not recognize the gaze of the pedestrian.
제3항에 있어서,
상기 커서의 이동은 보행자의 시선, 보행자의 모션 및 음성 중 적어도 어느 하나에 따라 이루어지는 것을 특징으로 하는 자율주행 차량의 보행자 커뮤니케이션 시스템.
4. The method of claim 3,
The pedestrian communication system of the autonomous driving vehicle, characterized in that the movement of the cursor is made according to at least one of the pedestrian's gaze, the pedestrian's motion, and the voice.
KR1020210018159A 2021-02-09 2021-02-09 Pedestrian communication system for self driving cars KR102568283B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210018159A KR102568283B1 (en) 2021-02-09 2021-02-09 Pedestrian communication system for self driving cars

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210018159A KR102568283B1 (en) 2021-02-09 2021-02-09 Pedestrian communication system for self driving cars

Publications (2)

Publication Number Publication Date
KR20220115687A true KR20220115687A (en) 2022-08-18
KR102568283B1 KR102568283B1 (en) 2023-08-21

Family

ID=83112131

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210018159A KR102568283B1 (en) 2021-02-09 2021-02-09 Pedestrian communication system for self driving cars

Country Status (1)

Country Link
KR (1) KR102568283B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005165422A (en) * 2003-11-28 2005-06-23 Denso Corp Collision probability determination device
KR20160091585A (en) * 2015-01-26 2016-08-03 엘지이노텍 주식회사 Apparatus for Indicating Pedestrian Recognition State for Vehicle
KR20170100272A (en) * 2016-02-25 2017-09-04 주식회사 엘비씨소프트 Pedestrian Crossing Behavior and Conflict Risk Analysis Device
JP2017533485A (en) * 2014-08-08 2017-11-09 ノキア テクノロジーズ オーユー Vehicle control
KR20190049221A (en) 2017-11-01 2019-05-09 주식회사 이노베스트 an Autonomous Vehicle of pedestrians facial features

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005165422A (en) * 2003-11-28 2005-06-23 Denso Corp Collision probability determination device
JP2017533485A (en) * 2014-08-08 2017-11-09 ノキア テクノロジーズ オーユー Vehicle control
KR20160091585A (en) * 2015-01-26 2016-08-03 엘지이노텍 주식회사 Apparatus for Indicating Pedestrian Recognition State for Vehicle
KR20170100272A (en) * 2016-02-25 2017-09-04 주식회사 엘비씨소프트 Pedestrian Crossing Behavior and Conflict Risk Analysis Device
KR20190049221A (en) 2017-11-01 2019-05-09 주식회사 이노베스트 an Autonomous Vehicle of pedestrians facial features

Also Published As

Publication number Publication date
KR102568283B1 (en) 2023-08-21

Similar Documents

Publication Publication Date Title
KR20220111749A (en) Tracking system for self driving cars
KR102568283B1 (en) Pedestrian communication system for self driving cars
KR102568270B1 (en) Pedestrian communication system for self driving cars
KR20220115696A (en) Pedestrian advertising system for self driving cars
KR102568288B1 (en) Traffic safety system by communication with self driving cars
KR102658906B1 (en) Emergency control system for self driving cars
KR20220115702A (en) Pedestrian communication system for self driving cars
KR20220115703A (en) Pedestrian alert system for self driving cars
KR20220115695A (en) Accident prediction system for self driving cars
KR20220102670A (en) Pedestrian alert system for self driving cars
KR102568294B1 (en) Emergency route generation system for self driving cars
KR20220115689A (en) Pedestrian safety system for self driving cars
KR20230033750A (en) Warning system for self driving cars
KR20220115690A (en) Pedestrian safety system for self driving cars
KR20220110346A (en) Interaction system between self driving car and others
KR20230114773A (en) Information entry system for self driving cars
KR20230124824A (en) Interactive self driving system
KR20230033158A (en) A patrol system for autonomous vehicles that change routes
KR20230114772A (en) Information output system for self driving cars
KR20230033154A (en) Pedestrian advertising system for self driving cars
KR20230033159A (en) Autonomous vehicle patrol system pointing to patrol targets
KR20230115353A (en) Autonomous Driving Multimedia System
KR20230033162A (en) Collision Prediction System for autonomous vehicles
KR20230114774A (en) CONTENTS linkage system for autonomous vehicles
KR20220112879A (en) Temporory driving control system for self driving cars

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant