KR102514574B1 - Apparatus for detecting passenger in a vehicle and method thereof - Google Patents

Apparatus for detecting passenger in a vehicle and method thereof Download PDF

Info

Publication number
KR102514574B1
KR102514574B1 KR1020200186977A KR20200186977A KR102514574B1 KR 102514574 B1 KR102514574 B1 KR 102514574B1 KR 1020200186977 A KR1020200186977 A KR 1020200186977A KR 20200186977 A KR20200186977 A KR 20200186977A KR 102514574 B1 KR102514574 B1 KR 102514574B1
Authority
KR
South Korea
Prior art keywords
vehicle
pixels
frame
passenger
interest
Prior art date
Application number
KR1020200186977A
Other languages
Korean (ko)
Other versions
KR20220097569A (en
Inventor
김병익
김영춘
안상호
정명환
Original Assignee
아진산업(주)
오토아이티(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 아진산업(주), 오토아이티(주) filed Critical 아진산업(주)
Priority to KR1020200186977A priority Critical patent/KR102514574B1/en
Publication of KR20220097569A publication Critical patent/KR20220097569A/en
Application granted granted Critical
Publication of KR102514574B1 publication Critical patent/KR102514574B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/0153Passenger detection systems using field detection presence sensors
    • B60R21/01538Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01542Passenger detection systems detecting passenger motion
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01566Devices for warning or indicating mode of inhibition

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 영상기반으로 차량 내 미착석 승객 유무를 판단하여 차량의 운행을 제어할 수 있는 차량 내 승객 검출 장치 및 그 방법에 관한 것으로, 상기 차량 내 승객 검출 장치는, 차량의 정면 상단부에 설치되며 상기 차량의 내부 및 후방을 모두 촬영하는 카메라; 및 상기 카메라로부터 상기 차량의 내부 및 후방의 촬영 영상을 프레임 단위로 입력받고, 입력된 프레임을 분석하여 미착석 승객 유무를 판단하되, 상기 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 상기 관심영역 내 객체 후보를 탐지한 후 상기 객체 후보에 대한 가중 화소수를 검출하여 미착석 승객 유무를 판단하는 제어부;를 포함한다.The present invention relates to an apparatus and method for detecting passengers in a vehicle capable of controlling the operation of a vehicle by determining whether or not there are occupants in the vehicle based on an image, wherein the apparatus for detecting passengers in the vehicle is installed on the upper front portion of the vehicle, and a camera that photographs both the inside and the rear of the vehicle; and receiving images of the inside and rear of the vehicle frame by frame from the camera, analyzing the input frames to determine whether there are unoccupied passengers, and setting a Region of Interest (ROI) in the frames; and a control unit that detects an object candidate within the ROI and then detects the number of weighted pixels for the object candidate to determine whether or not there is an unseated passenger.

Description

차량 내 승객 검출 장치 및 그 방법 {APPARATUS FOR DETECTING PASSENGER IN A VEHICLE AND METHOD THEREOF}Passenger detection device and method in a vehicle {APPARATUS FOR DETECTING PASSENGER IN A VEHICLE AND METHOD THEREOF}

본 발명은 차량 내 승객 검출 장치 및 그 방법에 관한 것으로, 특히, 영상기반으로 차량 내 미착석 승객 유무를 판단하여 차량의 운행을 제어할 수 있는 차량 내 승객 검출 장치 및 그 방법에 관한 것이다.The present invention relates to an apparatus and method for detecting a passenger in a vehicle, and more particularly, to an apparatus and method for detecting an occupant in a vehicle capable of controlling vehicle operation by determining whether or not there is an unoccupied passenger in the vehicle based on an image.

자율주행차량(Autonomous Vehicle)이란 운전자 또는 승객의 조작 없이 자동차 스스로 운행이 가능한 자동차를 말하며, 자율주행시스템(Automated Vehicle & Highway Systems)은 자율주행차량이 스스로 운행될 수 있도록 모니터링하고 제어하는 시스템을 말한다.Autonomous Vehicle refers to a vehicle that can operate on its own without driver or passenger operation, and Automated Vehicle & Highway Systems refers to a system that monitors and controls autonomous vehicles so that they can operate on their own. .

최근 자율주행차량이 다수의 인원을 수송하기 위한 대중교통으로 이용되는 차량, 예를 들어, 지하철, 버스, 택시 등에 이용되고 있다. Recently, autonomous vehicles have been used as vehicles used as public transportation for transporting a large number of people, for example, subways, buses, taxis, and the like.

일 예로, 자율주행버스와 같은 경우, 다수의 탑승자가 탑승한 상태로 자율주행 운행을 하는데, 자율주행 경로 및 주행환경 등에 따라서 버스가 흔들리거나 주행 안정도가 낮아지는 경우가 있다. For example, in the case of an autonomous bus, autonomous driving is performed with a number of passengers on board, but the bus may shake or the driving stability may be lowered depending on the autonomous driving route and driving environment.

이때, 버스에 탑승한 승객들이 좌석 이동 또는 하차를 위해 버스 내부에서 움직이는 경우 넘어지거나 버스 내부의 구조물에 부딪히는 안전사고가 발생할 우려가 있다.At this time, when passengers on the bus move inside the bus to move seats or get off the bus, there is a risk of safety accidents in which passengers fall or collide with structures inside the bus.

따라서, 자율주행차량은 다수의 인원을 수송할 경우, 자율주행 중에 탑승한 승객의 안전을 확보할 수 있는 기술 및 연구에 대한 필요성이 요구되고 있다. Therefore, when an autonomous vehicle transports a large number of people, there is a need for technology and research capable of ensuring the safety of passengers on board during autonomous driving.

KR 1020200060630 (공개일자: 2020.06.01)KR 1020200060630 (published date: 2020.06.01)

본 발명은 상기와 같은 문제점들을 개선하기 위하여 안출된 것으로, 일 측면에 따른 본 발명의 목적은, 차량 내 설치된 카메라로부터 촬상된 영상의 프레임에 관심영역을 설정하고, 관심영역 내 객체의 검출 화소수에 거리별 가중치를 적용하여 기립 승객을 탐지함으로써, 영상기반으로 차량 내 미착석 승객을 검출할 수 있는 차량 내 승객 검출 장치 및 그 방법을 제공하는 것이다.The present invention has been made to improve the above problems, and an object of the present invention according to one aspect is to set a region of interest in a frame of an image captured from a camera installed in a vehicle, and detect the number of pixels of an object in the region of interest An object of the present invention is to provide an in-vehicle detection device and method capable of detecting an unseated passenger in a vehicle based on an image by detecting a standing passenger by applying a weighted value for each distance to .

또한, 일 측면에 따른 본 발명의 목적은, 차량의 출발전에 차량 내 미착석 승객의 유무를 판단하여 차량 운행을 제어함으로써 미착석 승객으로 인한 차량 내 안전사고를 방지할 수 있는 차량 내 승객 검출 장치 및 그 방법을 제공하는 것이다.In addition, an object of the present invention according to an aspect is an in-vehicle detection device capable of preventing safety accidents in the vehicle due to unseated passengers by controlling vehicle operation by determining whether there are unseated passengers in the vehicle before departure of the vehicle. and to provide a method thereof.

본 발명이 이루고자 하는 기술적 과제들은 이상에 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 이하의 발명의 상세한 설명으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved by the present invention are not limited to the above-mentioned technical problems, and other technical problems not mentioned are clear to those skilled in the art from the detailed description of the invention below. will be understandable.

본 발명의 일 실시예에 따른 차량 내 승객 검출 장치는, 차량의 정면 상단부에 설치되며 상기 차량의 내부 및 후방을 모두 촬영하는 카메라; 및 상기 카메라로부터 상기 차량의 내부 및 후방의 촬영 영상을 프레임 단위로 입력받고, 입력된 프레임을 분석하여 미착석 승객 유무를 판단하되, 상기 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 상기 관심영역 내 객체 후보를 탐지한 후 상기 객체 후보에 대한 가중 화소수를 검출하여 미착석 승객 유무를 판단하는 제어부;를 포함할 수 있다.An apparatus for detecting a passenger in a vehicle according to an embodiment of the present invention includes a camera installed at an upper front portion of a vehicle and photographing both the inside and the rear of the vehicle; and receiving images of the inside and rear of the vehicle frame by frame from the camera, analyzing the input frames to determine whether there are unoccupied passengers, and setting a Region of Interest (ROI) in the frames; After detecting object candidates within the ROI, a control unit that determines whether or not there are unseated passengers by detecting the number of weighted pixels for the object candidates.

상기 제어부는, 상기 프레임에서 차량 내부의 통로를 설정된 크기로 정규화하여 상기 관심영역을 설정하고, 상기 관심영역 내 객체 후보의 수직라인에서의 검출 화소수에 가중치를 적용하여 가중 화소수를 검출하고, 상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 이상이면, 상기 객체 후보를 미착석 승객으로 판단하며, 상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 미만이면 승객이 아니라고 판단하는 것을 특징으로 한다.The control unit sets the ROI by normalizing a passage inside the vehicle to a set size in the frame, and detects a weighted number of pixels by applying a weight to the number of detection pixels in a vertical line of an object candidate in the ROI; If the number of detected weighted pixels of the object candidate is greater than or equal to a set threshold, the object candidate is determined to be an unseated passenger, and if the number of detected weighted pixels of the object candidate is less than the set threshold, it is determined that the object candidate is not a passenger.

상기 제어부는, 상기 가중 화소수(Dw)를 아래 수학식 1을 통해 검출하는 것을 특징으로 한다.The controller may detect the weighted number of pixels (D w ) through Equation 1 below.

[수학식 1]

Figure 112020143092689-pat00001
[Equation 1]
Figure 112020143092689-pat00001

(여기서, di는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임의 i(1≤i≤H)번째 수직라인에서의 가중치로

Figure 112022117945779-pat00002
으로 구해지는 값이고, 상기 H는 관심영역(ROI)의 수직라인을 구성하는 총 화소 개수를 각각 의미함)(Where, d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame, and r i is in the i (1≤i≤H)-th vertical line of the frame. The number of pixels in the region of interest (ROI), w i is the weight in the i (1≤i≤H)th vertical line of the frame
Figure 112022117945779-pat00002
It is a value obtained by , and H denotes the total number of pixels constituting the vertical line of the region of interest (ROI))

상기 객체 후보의 검출 화소수(di) 및 가중 화소수(Dw)의 관계는, 상기 프레임의 수직라인(i)이 1≤i≤H/2 범위에서 di < widi 이고, 상기 프레임의 수직라인(i)이 H/2<i≤H 범위에서 di > widi 인 것을 특징으로 한다.The relationship between the number of detected pixels (d i ) and the number of weighted pixels (D w ) of the object candidate is that the vertical line (i) of the frame is d i < w i d i in the range of 1≤i≤H/2, It is characterized in that the vertical line (i) of the frame is d i > w i d i in the range H/2<i≤H.

상기 차량 내 승객 검출 장치는, 상기 관심영역 내 미착석 승객이 검출되면, 미착석의 위험을 경보하거나, 착석 유도 및 출발을 안내하는 안내 방송을 출력하는 알람부;를 더 포함하며, 상기 제어부는, 상기 관심영역 내 미착석 승객이 검출되면 상기 알람부의 경보 및 안내 방송을 제어하고, 상기 관심영역 내 미착석 승객이 검출되지 않으면, 상기 차량의 출발을 지시하는 제어신호를 출력하는 것을 특징으로 한다. The device for detecting occupants in the vehicle further includes an alarm unit configured to output an announcement to alert a risk of unseated passengers or guide seating and departure when an unseated passenger is detected in the region of interest, wherein the control unit , When an unseated passenger within the region of interest is detected, an alarm and announcement of the alarm unit are controlled, and when no unseated passenger within the region of interest is detected, a control signal instructing departure of the vehicle is output. .

본 발명의 일 실시예에 따르면, 영상기반으로 카메라로부터의 이격 거리에 따른 가중치를 적용하여 미착석 승객 유무를 판단함으로써 미착석 승객의 검출 성능을 향상시킬 수 있을 뿐만 아니라, 미착석 승객의 검출 성능 및 정확성이 향상됨에 따라 미착석 승객의 미검출로 인한 차량 운행으로 발생하는 안전사고를 방지할 수 있다.According to an embodiment of the present invention, it is possible to improve the detection performance of unseated passengers by determining whether or not there is an unseated passenger by applying a weight according to the separation distance from the camera based on the image. And as the accuracy is improved, it is possible to prevent safety accidents caused by vehicle operation due to non-detection of unseated passengers.

또한, 본 발명의 일 실시예에 따르면, 미착석 승객 감지를 위한 별도의 센서를 구비하지 않고 영상기반으로 미착석 승객을 정확하게 검출함으로써 저비용 설치가 가능하고, 검출된 미착석 승객에게 출발전 경보를 수행함으로써 안전한 차량 운행을 도모할 수 있다.In addition, according to an embodiment of the present invention, low-cost installation is possible by accurately detecting an unseated passenger based on an image without having a separate sensor for detecting an unseated passenger, and an alarm is provided to the detected unseated passenger before departure. By doing so, you can promote safe vehicle operation.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below. .

도 1은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치의 상세 구성을 설명하기 위한 블록 구성도이다.
도 2는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 차량 내부에 카메라가 설치된 예를 설명하기 위한 예시도이다.
도 3은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 탑승객을 검출하기 위한 관심영역과 거리별 화소수 차이를 도시한 도면이다.
도 4는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 카메라로부터의 거리에 따른 가중 화소수를 이용한 객체 검출을 설명하기 위한 도면이다.
도 5 내지 도 7은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 관심영역 내 승객 검출 결과 예를 도시한 도면이다.
도 8은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 방법을 설명하기 위한 흐름도이다.
1 is a block diagram illustrating a detailed configuration of an in-vehicle passenger detecting device according to an embodiment of the present invention.
2 is an exemplary diagram for explaining an example in which a camera is installed inside a vehicle in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
3 is a diagram illustrating a region of interest for detecting a passenger and a difference in the number of pixels for each distance in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
4 is a diagram for explaining object detection using a weighted number of pixels according to a distance from a camera in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
5 to 7 are diagrams illustrating examples of results of detecting a passenger in a region of interest in the apparatus for detecting a passenger in a vehicle according to an embodiment of the present invention.
8 is a flowchart illustrating a method for detecting a passenger in a vehicle according to an embodiment of the present invention.

명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 모듈, 부재, 블록'이라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부, 모듈, 부재, 블록'이 하나의 구성요소로 구현되거나, 하나의 '부, 모듈, 부재, 블록'이 복수의 구성요소들을 포함하는 것도 가능하다.Like reference numbers designate like elements throughout the specification. This specification does not describe all elements of the embodiments, and general content or overlapping content between the embodiments in the technical field to which the present invention belongs is omitted. The term 'unit, module, member, or block' used in the specification may be implemented as software or hardware, and according to embodiments, a plurality of 'units, modules, members, or blocks' may be implemented as one component, It is also possible that one 'part, module, member, block' includes a plurality of components.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.Throughout the specification, when a part is said to be "connected" to another part, this includes not only the case of being directly connected but also the case of being indirectly connected, and indirect connection includes being connected through a wireless communication network. do.

또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.In addition, when a certain component is said to "include", this means that it may further include other components without excluding other components unless otherwise stated.

제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다.Terms such as first and second are used to distinguish one component from another, and the components are not limited by the aforementioned terms.

단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.Expressions in the singular number include plural expressions unless the context clearly dictates otherwise.

각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다.In each step, the identification code is used for convenience of description, and the identification code does not explain the order of each step, and each step may be performed in a different order from the specified order unless a specific order is clearly described in context. there is.

이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시예들에 대해 설명한다.Hereinafter, the working principle and embodiments of the present invention will be described with reference to the accompanying drawings.

도 1은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치의 상세 구성을 설명하기 위한 블록 구성도이다. 1 is a block diagram illustrating a detailed configuration of an in-vehicle passenger detecting device according to an embodiment of the present invention.

도 2는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 차량 내부에 카메라가 설치된 예를 설명하기 위한 예시도이다.2 is an exemplary diagram for explaining an example in which a camera is installed inside a vehicle in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.

본 발명의 일 실시예에 따른 차량은 자율주행차량(Autonomous Vehicle)으로, 버스를 예로 들어 설명하고 있지만, 이에 한정되는 것은 아니며 다른 종류의 차량인 경우에도 적용될 수 있다. A vehicle according to an embodiment of the present invention is an autonomous vehicle, and a bus is described as an example, but is not limited thereto and may be applied to other types of vehicles.

먼저, 도 1을 참조하면, 본 발명의 일 실시예에 따른 차량 내 승객 검출 장치(10)는, 차량의 후방을 촬영하여 영상 정보를 출력하는 카메라(11)와, 카메라(11)로부터 촬영된 영상 정보를 입력받아 미착석 승객 유무를 판단하는 제어부(12)를 적어도 포함하여 구성될 수 있다.First, referring to FIG. 1 , an in-vehicle passenger detecting apparatus 10 according to an embodiment of the present invention includes a camera 11 that photographs the rear of the vehicle and outputs image information, and a camera 11 photographed from the camera 11. It may be configured to include at least a control unit 12 that receives image information and determines whether there are unseated passengers.

본 발명의 일 실시예에 따른 차량 내 승객 검출 장치(10)는, 차량구동시스템(100)과 전기적으로 연결되거나 무선 네트워크를 통해 연결되도록 구현될 수 있다. 이를 통해 본 발명의 차량 내 승객 검출 장치(10)는 승객 검출 유무 정보를 차량구동시스템(100)으로 전송하여 출발과 관련된 운행을 수행할 수 있도록 한다. The in-vehicle passenger detecting device 10 according to an embodiment of the present invention may be electrically connected to the vehicle driving system 100 or connected through a wireless network. Through this, the in-vehicle detecting device 10 according to the present invention transmits passenger detection information to the vehicle drive system 100 so that driving related to departure can be performed.

여기서, 차량은, 차량 운전자의 조작 없이도 스스로 목적지까지 주행하는 자율주행버스일 수 있으며, 버스 내부의 승객은 좌석에 착석한 상태의 승객과 좌석에 착석하지 않고 서있는 미착석 승객을 포함할 수 있다. Here, the vehicle may be an autonomous bus that drives to a destination by itself without manipulation by a driver, and passengers inside the bus may include passengers sitting in seats and unseated passengers standing without sitting in seats.

그리고, 카메라(11)는, 차량의 내부, 즉, 후방을 촬영하여 영상 정보를 획득할 수 있고, 획득된 영상 정보를 프레임 단위로 제어부(12)에 전달할 수 있다.In addition, the camera 11 may acquire image information by photographing the inside of the vehicle, that is, the rear, and may transmit the acquired image information to the control unit 12 in units of frames.

이러한 카메라(11)는, 도 2에 도시된 바와 같이, 차량(1)의 전방 및 후방을 촬영할 수 있도록 차량 내부의 앞쪽 상단부, 즉, 천장에 설치될 수 있으며, 본 발명은 이에 한정되지 않고 카메라(11)의 설치 위치는 차량 내부를 촬영하여 미착석 승객을 검출하기 위해 전방 및 후방의 영상 정보를 획득하기 위해 차량 내에서 화각(FOV; Field Of View) 확보가 가능한 위치면 어디든 설치될 수 있다.As shown in FIG. 2 , the camera 11 may be installed on the front upper part of the vehicle interior, that is, on the ceiling, so as to photograph the front and rear of the vehicle 1, but the present invention is not limited thereto. The installation location of (11) can be installed anywhere in the vehicle where a field of view (FOV) can be secured in order to acquire front and rear image information to detect unoccupied passengers by taking pictures of the inside of the vehicle. .

또한, 카메라(11)는 카메라(11)의 설치 위치에서부터 후방까지 차량의 중앙 통로 또는 복도를 모두 촬영할 수 있는 화각(FOV; Field Of View)을 가지는 카메라로 구현될 수 있으며, 예를 들면, 화각이 130도 이상을 지원하는 광각 카메라, 고화각을 위해 어안 렌즈(Fish-Eye Lens)를 이용한 카메라일 수 있다. In addition, the camera 11 may be implemented as a camera having a field of view (FOV) capable of capturing all of the central aisle or corridor of the vehicle from the installation location of the camera 11 to the rear, for example, It may be a wide-angle camera supporting more than 130 degrees, or a camera using a fish-eye lens for a high angle of view.

그리고, 제어부(12)는, 카메라(11)로부터 촬영된 영상 정보가 프레임 단위로 전달되면, 전달된 프레임에 대해 영상 처리 기법을 적용하여 영상 처리를 수행하고 카메라(11)의 위치 지점으로부터의 거리에 따른 가중치를 이용해 프레임 내 객체의 화소수를 검출함으로써 미착석 승객 유무를 판단할 수 있다.In addition, when the image information photographed by the camera 11 is transmitted in frame units, the controller 12 performs image processing by applying an image processing technique to the transmitted frame, and the distance from the location point of the camera 11 By detecting the number of pixels of an object in a frame using a weight according to , it is possible to determine whether or not there is an unseated passenger.

본 발명의 일 실시예에서 미착석 승객 유무 판단은 출발 직전 미착석 승객의 안전을 증진시킬 수 있도록 차량 구동 시스템(100)에 필수적이다.In one embodiment of the present invention, determining whether or not there is an unseated passenger is essential for the vehicle driving system 100 to improve the safety of unseated passengers immediately before departure.

구체적으로, 제어부(12)는, 입력된 프레임에 대하여 서브샘플링(subsampling)을 수행한다. 서브샘플링은, 양선형 보간법이나 최근접값 이용법, 3차회선보간법 등 다양한 방법을 이용할 수 있으나, 이에 한정되는 것은 아니며 다양한 공지기술을 채택하여 적용할 수 있다. 즉, 샘플링을 통해 입력된 프레임 영상이 칼라 영상인 경우 흑백영상으로 변환되고, 흑백 영상인 경우 그대로 이용할 수 있다. 즉, 흑백 영상을 이용하여 사람 검출을 수행함으로써 조명에 의한 영향을 줄일 수 있을 뿐 아니라 처리시간을 줄일 수 있다.Specifically, the controller 12 performs subsampling on the input frame. Subsampling may use various methods such as bilinear interpolation, nearest nearest value method, and cubic convolutional interpolation, but is not limited thereto, and various known techniques may be adopted and applied. That is, if the frame image input through sampling is a color image, it is converted into a black-and-white image, and if it is a black-and-white image, it can be used as it is. That is, by performing human detection using a black-and-white image, it is possible to reduce the effect of lighting as well as the processing time.

그런 다음, 제어부(12)는, 서브샘플링이 수행된 프레임으로부터 객체 후보 탐지를 수행하되, 서브샘플링이 수행된 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 관심영역(ROI) 내 움직임 화소수에 따른 객체 후보를 탐지한다. Then, the control unit 12 performs object candidate detection from the subsampling frame, sets a Region of Interest (ROI) in the subsampling frame, and moves within the ROI. Detect object candidates according to the number of pixels.

여기서, 객체 탐지(object detection)는, 이미지나 동영상에서 사람, 동물, 차량 등 의미 있는 객체(object)의 종류와 그 위치(bounding box)를 정확하게 찾기 위한 컴퓨터 비전(computer vision) 기술로, 영상에서 관심 대상을 인식하기 위해 일반적으로 검출 대상에 대한 후보 영역을 찾고 그 후보 영역에 대한 객체의 종류와 위치를 학습된 모델을 통해 예측한다. 이러한 객체 탐지를 위한 방식은 일반적으로 기계 학습 기반 접근 또는 딥 러닝(deep learning) 기반 접근의 객체 탐지 기술이 많이 이용되며, 이는 모두 공지된 기술로 본 발명에서는 이에 대한 상세한 설명을 생략한다. Here, object detection is a computer vision technology for accurately finding the type and location (bounding box) of a meaningful object such as a person, animal, or vehicle in an image or video. In order to recognize a target of interest, a candidate region for a detection target is generally found and the type and location of an object in the candidate region is predicted through a learned model. As a method for detecting such an object, a machine learning-based approach or a deep learning-based approach object detection technique is generally used, and these are all well-known techniques, and detailed descriptions thereof are omitted in the present invention.

그리고, 관심영역(ROI)은, 본 발명의 일 실시형태에 있어서, 미착석 승객을 검출하기 위해 차량 내 중앙 통로 또는 복도가 포함된 영역이며, 또는, 미착석 승객을 검출하고자 하는 특정 영역을 지정하여 설정될 수도 있다.In addition, the region of interest (ROI), in one embodiment of the present invention, is an area including a central aisle or corridor in the vehicle to detect unseated passengers, or designates a specific area to detect unseated passengers. may be set by

이러한 관심영역(ROI)은, 카메라(11)로부터 촬영되는 차량 내부 모습에 대해 프레임 내 차량 중앙 통로를 설정된 크기로 정규화하여 설정될 수 있다.The region of interest (ROI) may be set by normalizing the central passage of the vehicle in the frame to a set size with respect to the inside of the vehicle captured by the camera 11 .

또한, 제어부(12)는, 객체 후보에 대한 잡음 제거를 수행하고, 관심영역(ROI) 내 객체 후보에 대한 미착석 승객 유무 판정을 수행한다.In addition, the control unit 12 performs noise cancellation on the object candidate and determines whether or not there is an unseated passenger on the object candidate within the region of interest (ROI).

이때, 제어부(12)는, 정확한 미착석 승객 판정을 위해 카메라(11) 설치 위치로부터 객체까지의 거리를 고려할 수 있다. 예를 들면, 카메라(11)의 설치 위치를 기준으로 동일한 객체라도 근거리 영역의 경우는 많은 화소수를 가지나, 원거리 영역의 경우는 적은 화소수를 가지게 되는데, 특히, 원거리 영역의 경우 화소수가 너무 적을 경우 검출을 하지 못하여 객체 탐지가 이루어지지 않을 수 있다. At this time, the control unit 12 may consider the distance from the installation position of the camera 11 to the object in order to accurately determine an unseated passenger. For example, the same object based on the installation position of the camera 11 has a large number of pixels in the near area, but has a small number of pixels in the far area. In particular, the number of pixels in the far area is too small. In this case, object detection may not be performed because detection is not possible.

이와 같이 카메라(11)를 기준으로 근거리 승객의 경우 많은 화소수에 의해 감지가 양호하나, 원거리 승객의 경우 적은 화소수에 의해 감지가 저하된다. In this way, based on the camera 11, in the case of a short-distance passenger, the detection is good due to the large number of pixels, but in the case of a long-distance passenger, the detection is deteriorated due to the small number of pixels.

따라서 본 발명의 일 실시예에 따르면, 제어부(12)는, 객체까지의 위치에 따른 화소수의 차이를 보정하기 위해, 관심영역 내 객체 후보의 검출 화소수에 가중치를 적용하여 카메라(11)로부터의 거리에 따른 가중 화소수를 구하고, 구한 가중 화소수를 이용하여 미착석 승객의 유무를 판단한다. 이를 통해 원거리 승객의 감지 효율이 향상될 수 있다.Therefore, according to an embodiment of the present invention, the control unit 12 applies a weight to the number of detected pixels of object candidates in the region of interest in order to compensate for the difference in the number of pixels according to the position to the object, and thus detects the distance from the camera 11. The number of weighted pixels according to the distance of is obtained, and the presence or absence of unseated passengers is determined using the obtained number of weighted pixels. Through this, the detection efficiency of distant passengers can be improved.

다시 설명하면, 제어부(12)는, 객체 판단을 위한 가중 화소수를 관심영역(ROI) 내 수직라인(i, 1≤i≤H)에서의 가중치를 검출 화소수에 적용하여 아래 수학식 1과 같이 구할 수 있다.In other words, the controller 12 applies the weighted number of pixels for object determination to the number of detected pixels in the vertical line (i, 1≤i≤H) in the region of interest (ROI) to obtain Equation 1 and can be obtained together.

[수학식 1][Equation 1]

Figure 112020143092689-pat00003
Figure 112020143092689-pat00003

di는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임의 i(1≤i≤H)번째 수직라인에서의 가중치이고, 상기 H는 관심영역(ROI)의 수직라인을 구성하는 총 화소 개수이며, 이는 아래 수학식 2를 이용하여 구할 수 있다.d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame, and r i is the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame ( ROI), w i is the weight in the i (1≤i≤H) th vertical line of the frame, and H is the total number of pixels constituting the vertical line of the region of interest (ROI), which is calculated by the following equation It can be obtained using Equation 2.

[수학식 2][Equation 2]

Figure 112020143092689-pat00004
, 1≤i≤H
Figure 112020143092689-pat00004
, 1≤i≤H

따라서, 제어부(12)는, 객체 후보에 대한 가중 화소수 검출 결과(DRw)와 임계값(Thd)을 비교하되, 아래 수학식 3에 따라 객체 판단을 수행한다. 예를 들면, 제어부(12)는, 수학식 1을 이용하여 구한 가중 화소수(Dw)가 기설정된 임계값(Thd) 이상이면 객체로 판단(Object)하고, 구한 가중 화소수가 기설정된 임계값 미만이면 객체가 아닌 것으로 판단(Non-Object)한다. Accordingly, the control unit 12 compares the detection result of the number of weighted pixels (DR w ) of the object candidate with the threshold value (Thd), but determines the object according to Equation 3 below. For example, if the number of weighted pixels (D w ) obtained using Equation 1 is greater than or equal to a preset threshold value (Thd), the control unit 12 determines that the object is an object, and the number of weighted pixels obtained is the preset threshold value. If it is less than, it is determined that it is not an object (Non-Object).

[수학식 3][Equation 3]

Figure 112020143092689-pat00005
Figure 112020143092689-pat00005

또한, 제어부(12)는, 미착석 승객 유무 정보를 이용하여 차량 구동 시스템(100) 및 알람부(13)의 작동을 제어할 수 있다.In addition, the control unit 12 may control the operation of the vehicle driving system 100 and the alarm unit 13 by using information on the presence of unseated passengers.

예를 들면, 제어부(12)는, 차량의 출발 전 미착석 승객이 있는 것으로 판단되면, 차량 출발을 지연하도록 차량 구동 시스템(100)에 요청하는 동시에, 알람부(13)를 통해 미착석 승객의 착석을 유도하거나 출발을 위해 손잡이 등을 꼭 부여잡도록 안내 방송을 실시할 수 있다. 여기서, 알람부(13)는 음성 안내 정보를 출력할 수 있는 스피커를 포함할 수 있다.For example, if it is determined that there are unseated passengers before the departure of the vehicle, the control unit 12 requests the vehicle drive system 100 to delay the departure of the vehicle, and at the same time sends a request to the alarm unit 13 for unseated passengers. An announcement may be made to induce seating or hold on to the handrail for departure. Here, the alarm unit 13 may include a speaker capable of outputting voice guidance information.

또 다른 예를 들면, 제어부(12)는, 차량의 출발 전 미착석 승객이 없는 것으로 판단되면, 차량 구동 시스템(100)으로 이를 통지하여 차량의 출발 및 주행 운행이 이루어지도록 할 수 있다. For another example, if it is determined that there are no occupants before departure of the vehicle, the control unit 12 may notify the vehicle drive system 100 so that the vehicle departs and travels.

상술한 바와 같이, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치는 관심영역 내 객체 후보의 검출 화소수에 가중치를 적용하여 구한 가중 화소수를 이용해 미착석 승객 유무를 판단함으로써 프레임 내 근거리 승객뿐만 아니라 원거리 승객의 감지 효율을 향상시킬 수 있다. As described above, the device for detecting passengers in a vehicle according to an embodiment of the present invention determines whether or not there are unoccupied passengers using the weighted number of pixels obtained by applying weights to the number of detected pixels of object candidates in the region of interest, thereby detecting short-distance passengers within the frame. In addition, the detection efficiency of distant passengers can be improved.

또한, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치는 차량 출발 전, 미착석 승객 유무를 검출함으로써, 미착석 승객의 착석을 유도하거나 미착석 승객으로 하여금 출발을 인지시킴으로써 출발로 인한 흔들림에 대비할 수 있도록 하여 차량 내 안전 사고를 방지하고 안전한 주행이 가능하도록 한다.In addition, the device for detecting occupants in a vehicle according to an embodiment of the present invention detects the presence or absence of an unseated passenger before the vehicle departs, thereby inducing the unseated passenger to sit or recognizing the departure of the unseated passenger, thereby preventing shaking caused by departure. It enables you to be prepared to prevent safety accidents in the vehicle and enable safe driving.

도 3은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 탑승객을 검출하기 위한 관심영역과 거리별 화소수 차이를 도시한 도면이다.3 is a diagram illustrating a region of interest for detecting a passenger and a difference in the number of pixels for each distance in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.

도 3을 참조하면, 미착석 객석 검출을 위해 프레임(20) 내 차량의 중앙 통로에 매칭된 위치로 관심영역(ROI)(22)을 지정하고, 관심영역(ROI)(22) 내 동일한 객체(21)가 그 위치(P1, P2, P3)에 따라 영상 내 화소수의 차이가 생김을 알 수 있다.Referring to FIG. 3, in order to detect unoccupied seats, a region of interest (ROI) 22 is designated as a location matched to the central aisle of the vehicle in the frame 20, and the same object in the region of interest (ROI) 22 ( 21) can be seen that there is a difference in the number of pixels in the image according to the positions (P1, P2, P3).

도 4는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 카메라로부터의 거리에 따른 가중 화소수를 이용한 객체 검출을 설명하기 위한 도면이다.4 is a diagram for explaining object detection using a weighted number of pixels according to a distance from a camera in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치의 제어부(12)가, 프레임(30)의 관심영역(ROI)(32) 내 탐지된 각 객체 후보(31, 33, 35, 37)의 검출 화소수(di)에 가중치(wi)를 적용하여 가중 화소수(Dw)를 구함으로써 각 객체 후보(31, 33, 35, 37)에 대한 객체 유무를 판단할 수 있다.Referring to FIG. 4 , the control unit 12 of the device for detecting passengers in a vehicle according to an embodiment of the present invention detects each object candidate 31, 33, 35 and 37) by applying a weight (w i ) to the number of detected pixels (d i ) to obtain the number of weighted pixels (D w ), it is possible to determine whether an object exists for each object candidate (31, 33, 35, 37). can

즉, 제어부(12)는, 객체 유무 판단을 위한 가중 화소수(Dw)를 관심영역(ROI)(32) 내 수직라인(i)에서의 가중치(wi)를 적용하여 아래 수학식 1와 같이 구할 수 있다.That is, the control unit 12 applies the weighted number (D w ) of the vertical line (i) in the region of interest (ROI) 32 to the number of weighted pixels (D w ) for determining the presence or absence of an object to obtain Equation 1 below and can be obtained together.

[수학식 1][Equation 1]

Figure 112020143092689-pat00006
Figure 112020143092689-pat00006

di는 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 가중치이며, 이는 아래 수학식 2를 이용하여 구할 수 있다.d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame 30, and r i is the i (1≤i≤H)-th vertical line of the frame 30 The number of pixels in the region of interest (ROI) in a line, and w i is a weight in the i (1≤i≤H) th vertical line of the frame 30, which can be obtained using Equation 2 below.

[수학식 2][Equation 2]

Figure 112020143092689-pat00007
, 1≤i≤H
Figure 112020143092689-pat00007
, 1≤i≤H

여기서, 본 발명의 일 실시예에 따르면, 객체 후보의 검출 화소수(di) 및 가중 화소수(Dw)의 관계는, 프레임의 수직라인(i)이 1≤i≤H/2 범위에서 di < widi 이고, 프레임의 수직라인(i)이 H/2<i≤H 범위에서 di > widi 이다. 이러한 관계로 인해 프레임 내 원거리 객체 검출시, 객체 후보의 가중 화소수(Dw)가 객체 후보의 검출 화소수(di) 보다 큰 화소수가 검출되므로 원거리 승객의 감지 성능을 향상시킬 수 있다. Here, according to an embodiment of the present invention, the relationship between the number of detected pixels (d i ) and the number of weighted pixels (D w ) of the object candidate is such that the vertical line (i) of the frame is in the range of 1≤i≤H/2 d i < w i d i , and the vertical line (i) of the frame satisfies d i > w i d i in the range of H/2<i≤H. Due to this relationship, when detecting a distant object within a frame, the number of pixels in which the number of weighted pixels (D w ) of the object candidate is greater than the number of detection pixels (d i ) of the object candidate is detected, so that the performance of detecting a distant passenger can be improved.

따라서, 제어부(12)는, 객체 후보(31, 33, 35, 37)에 대한 가중 화소수 검출 결과(DRw)와 임계값(Thd)을 비교하되, 아래 수학식 3에 따라 객체 판단을 수행한다. 예를 들면, 제어부(12)는, 수학식 1을 이용하여 구한 가중 화소수(Dw)가 기설정된 임계값(Thd) 이상이면 객체로 판단(Object)하고, 구한 가중 화소수가 기설정된 임계값 미만이면 객체가 아닌 것으로 판단(Non-Object)한다. Therefore, the control unit 12 compares the weighted pixel number detection result (DR w ) and the threshold value (Thd) for the object candidates 31, 33, 35, and 37, but performs object determination according to Equation 3 below do. For example, if the number of weighted pixels (D w ) obtained using Equation 1 is greater than or equal to a preset threshold value (Thd), the control unit 12 determines that the object is an object, and the number of weighted pixels obtained is the preset threshold value. If it is less than, it is determined that it is not an object (Non-Object).

[수학식 3][Equation 3]

Figure 112020143092689-pat00008
Figure 112020143092689-pat00008

한편, (비교예) 프레임의 수직라인에서의 관심영역(ROI) 내 객체 후보의 검출 화소수(di)만을 이용하여 객체 판단을 하는 경우는, 프레임(30)의 관심영역(ROI)(32) 내 객체 후보의 검출 화소수(D)를 비교식 1과 같이 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI)(32) 내 검출 화소수(di)를 이용하여 구하고, 객체 검출 결과(DR)를 비교식 2와 같이 임계값과 비교하여 객체 판단을 수행할 수 있다.On the other hand, (Comparative Example) In the case of object determination using only the number of detection pixels (d i ) of object candidates within the ROI in the vertical line of the frame, the region of interest (ROI) 32 of the frame 30 ), the number of detected pixels (d i ), and object determination may be performed by comparing the object detection result (DR) with a threshold value as shown in Comparative Equation 2.

[비교식 1][Comparative Formula 1]

Figure 112020143092689-pat00009
Figure 112020143092689-pat00009

[비교식 2][Comparative Formula 2]

Figure 112020143092689-pat00010
Figure 112020143092689-pat00010

즉, 비교예와 본 발명을 비교하면, 표 1에 나타낸 바와 같이 비교예의 경우, 객체 후보 중 가장 원거리에 위치한 객체 후보(37)를 비객체로 판단하는 반면, 본 발명은 객체 후보 중 가장 원거리에 위치한 객체 후보(37)를 객체로 판단한다. That is, when comparing the comparative example and the present invention, as shown in Table 1, in the case of the comparative example, the object candidate 37 located the farthest among the object candidates is determined as a non-object, whereas the present invention determines the farthest among the object candidates. The located object candidate 37 is determined as an object.

객체 후보object candidate 임계값(Thd)Threshold (Thd) DRDR DRwDRw 3737
35

35
Non-ObjectNon-Object ObjectObject
3333 ObjectObject ObjectObject 3131 ObjectObject ObjectObject

도 5 내지 도 7은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 프레임의 관심영역 내 승객 검출 결과 예를 도시한 도면이다.5 to 7 are diagrams illustrating examples of results of detecting a passenger in a region of interest of a frame in an apparatus for detecting a passenger in a vehicle according to an embodiment of the present invention.

도 5의 (a)는 카메라가 차량에 탑승한 승객(P2, P3)이 중앙 복도를 지나는 상황을 촬영한 영상 프레임이다. 도 5의 (a)에 도시된 바와 같이, 카메라로부터 입력된 프레임에는 미리 좌석에 착석한 승객(P1)과 통로에 서 있는 승객(P2, P3)이 존재하고, 프레임에 관심영역(ROI)을 설정한다. 5(a) is an image frame in which a camera captures a situation in which passengers P2 and P3 in a vehicle pass through a central aisle. As shown in (a) of FIG. 5, in the frame input from the camera, a passenger P1 seated in a seat and passengers P2 and P3 standing in the aisle exist, and a region of interest (ROI) is set in the frame. Set up.

도 5의 (b)는 도 5의 (a)에 도시된 영상 프레임의 관심영역(ROI) 내 승객 검출 결과의 영상 프레임이다. 도 5의 (b)에 도시된 바와 같이, 관심영역(ROI) 외 영역은 객체 검출에서 제외하고, 관심영역(ROI) 내 기립하고 있는 승객(P2, P3)을 객체로 판단한다. FIG. 5(b) is an image frame of a passenger detection result within a region of interest (ROI) of the image frame shown in FIG. 5(a). As shown in (b) of FIG. 5 , regions other than the region of interest (ROI) are excluded from object detection, and passengers P2 and P3 standing in the region of interest (ROI) are determined as objects.

도 5의 (c)는 카메라가 차량에 탑승한 승객(P1, P2, P3)이 모두 좌석에 앉아 있는 상황을 촬영한 영상 프레임이다. 여기서, 프레임 내 Thd는 임계값을 나타낸다. 도 5의 (c)에 도시된 바와 같이, 카메라로부터 입력된 프레임에는 미리 좌석에 착석한 승객(P1, P2, P3)들만이 존재하고, 프레임에 관심영역(ROI)을 설정한다. FIG. 5(c) is an image frame in which a camera captures a situation in which passengers P1, P2, and P3 are all sitting in their seats. Here, THD in a frame denotes a threshold value. As shown in (c) of FIG. 5 , only passengers P1 , P2 , and P3 previously seated in seats exist in the frame input from the camera, and a region of interest (ROI) is set in the frame.

도 5의 (d)는 도 5의 (c)에 도시된 영상 프레임의 관심영역(ROI) 내 승객 검출 결과의 영상 프레임이다. 도 5의 (d)에 도시된 바와 같이, 관심영역(ROI) 내 유효한 검출 화소수가 존재하지 않음을 알 수 있다.(d) of FIG. 5 is an image frame of a passenger detection result within a region of interest (ROI) of the image frame shown in (c) of FIG. 5 . As shown in (d) of FIG. 5 , it can be seen that there is no effective number of detection pixels in the region of interest (ROI).

그리고, 도 6의 (a) 내지 (c)에 도시된 바와 같이, 프레임의 관심영역(노란선 표시) 내 임계값(Thd)보다 더 작은 화소수를 가지는 움직임 객체 후보(빨간 선 표시)에 대한 가중 화소수를 구함으로써 승객 검출이 가능함을 알 수 있다. And, as shown in (a) to (c) of FIG. 6, for a motion object candidate (marked with a red line) having a smaller number of pixels than the threshold value (Thd) in the region of interest (marked with a yellow line) of the frame. It can be seen that passenger detection is possible by obtaining the number of weighted pixels.

그리고, 도 7의 (a)에 도시된 바와 같이, 프레임의 관심영역(노란선 표시) 내 승객이 중앙 통로를 따라 후방으로 움직이는 움직임 객체 후보(빨간 선 표시)에 대한 가중 화소수를 구함으로써 승객을 검출할 수 있다. And, as shown in (a) of FIG. 7, by calculating the number of weighted pixels for moving object candidates (marked by a red line) in which the passenger moves backward along the central aisle in the region of interest (marked by a yellow line) of the frame, the passenger can be detected.

마찬가지로, 도 7의 (b)에 도시된 바와 같이, 프레임의 관심영역(노란선 표시) 내 승객이 자신의 좌석을 찾아 착석하는 움직임 객체 후보(빨간 선 표시)에 대한 가중 화소수를 구함으로써 아직 좌석에 착석하지 목한 승객을 검출할 수 있다. 이후, 승객이 완전히 착석을 완료하고 나면 객체 검출이 되지 않는다.Similarly, as shown in (b) of FIG. 7, by calculating the number of weighted pixels for motion object candidates (marked with a red line) in which a passenger finds his/her seat and sits in the region of interest (marked with a yellow line) of the frame, A passenger not sitting in a seat can be detected. After that, the object is not detected after the passenger completely sits down.

도 8은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 방법을 설명하기 위한 흐름도이다.8 is a flowchart illustrating a method for detecting a passenger in a vehicle according to an embodiment of the present invention.

도 8을 참조하면, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치는, 먼저, 차량의 정면 상단부(예를 들어, 천장)에 설치된 카메라가 차량 내부, 즉, 전방 및 후방 전체를 한꺼번에 촬영하고, 카메라에 의해 촬상되는 영상은 프레임 단위로 제어부에 입력될 수 있다(S41). 여기서, 카메라는 바람직하게는 고정 카메라일 수 있으나, 이에 한정되는 것은 아니며 촬영 방향을 원하는 위치로 조절할 수 있는 팬틸트줌카메라로 구현될 수도 있다.Referring to FIG. 8 , in the device for detecting passengers in a vehicle according to an embodiment of the present invention, first, a camera installed on the front upper portion (eg, ceiling) of the vehicle captures the entire inside of the vehicle, that is, the entire front and rear sides of the vehicle at once. And, the image captured by the camera may be input to the controller in units of frames (S41). Here, the camera may preferably be a fixed camera, but is not limited thereto, and may be implemented as a pan-tilt-zoom camera capable of adjusting a photographing direction to a desired position.

그럼 다음, 프레임 내에 미착석 승객 검출을 위한 관심영역(ROI)을 설정한다(S42). 본 발명의 일 실시예에서는, 차량으로 버스를 예를 들어 설명하므로, 버스의 중앙 통로를 관심영역(ROI)으로 설정할 수 있다. 여기서, 관심영역(ROI)은 프레임에서 차량 내부의 통로를 설정된 크기로 정규화하여 설정하고 그 모양은 통로의 형태에 맞춰 설정될 수 있다. Next, a region of interest (ROI) for detecting unseated passengers is set in the frame (S42). In one embodiment of the present invention, since a bus is described as a vehicle, a central aisle of the bus may be set as a region of interest (ROI). Here, the region of interest (ROI) is set by normalizing the passage inside the vehicle to a set size in the frame, and its shape may be set according to the shape of the passage.

이어서, 입력된 프레임에 대한 서브샘플링을 수행하고(S43), 관심영역(ROI) 내 움직임 객체 후보를 탐지한다(S44).Subsequently, subsampling is performed on the input frame (S43), and a motion object candidate within the region of interest (ROI) is detected (S44).

그런 다음, 탐지된 움직임 객체 후보에 대한 잡음 제거를 수행하고, 잡음 제거된 움직임 객체 후보에 대해 카메라로부터의 거리에 따른 가중 화소수를 검출한다(S45). Then, noise cancellation is performed on the detected motion object candidate, and the number of weighted pixels according to the distance from the camera is detected for the noise-cancelled motion object candidate (S45).

본 발명의 일 실시예에 있어서, 가중 화소수는 관심영역(ROI) 내 움직임 객체 후보의 화소수를 검출할 때, 동일한 객체라도 카메라를 기준으로 근거리 영역과 원거리 영역에서의 움직임 화소수가 차이가 나는 것을 보완하기 위한 가중치를 적용해 객체의 움직임 화소수를 구함으로써 원거리 영역에서의 승객 감지 효율을 향상시킬 수 있다. In one embodiment of the present invention, the number of weighted pixels is determined when the number of pixels of motion object candidates in the region of interest (ROI) is detected. Passenger detection efficiency in a remote area can be improved by calculating the number of moving pixels of an object by applying a weight to compensate for this.

즉, 카메라 기준 근거리 승객의 경우 많은 화소수를 가지므로 감지가 용이한 반면, 원거리 승객의 경우 적은 화소수를 가지므로 감지가 어렵다. 따라서, 본 발명의 일 실시예에서는, 해당 수직라인에서의 검출 화소수에 가중치를 적용함으로써 원거리 영역에 대한 객체 검출의 정확도를 높일 수 있다. That is, it is easy to detect a short-distance passenger based on the camera because it has a large number of pixels, whereas it is difficult to detect a long-distance passenger because it has a small number of pixels. Accordingly, in one embodiment of the present invention, the accuracy of object detection in a far area can be increased by applying a weight to the number of detected pixels in a corresponding vertical line.

구체적으로, 객체 판단을 위한 가중 화소수(Dw)를 관심영역(ROI) 내 수직라인(i)에서의 가중치(wi)를 적용하여 아래 수학식 1과 같이 구할 수 있다.Specifically, the weighted number of pixels (D w ) for object determination can be obtained as shown in Equation 1 below by applying the weight (w i ) of the vertical line (i) in the region of interest (ROI).

Figure 112020143092689-pat00011
Figure 112020143092689-pat00011

여기서, di는 화상의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 화상의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 화상의 i(1≤i≤H)번째 수직라인에서의 가중치이며, 이는 아래 수학식 2를 이용하여 구할 수 있다.Here, d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the image, and r i is the interest in the i (1≤i≤H)-th vertical line of the image The number of pixels in the region (ROI), and w i is a weight in the i (1≤i≤H)-th vertical line of the image, which can be obtained using Equation 2 below.

Figure 112020143092689-pat00012
Figure 112020143092689-pat00012

따라서, 본 발명에서는, 수학식 3과 같이, 객체 후보에 대한 검출 결과인 가중 화소수(Dw)가 기설정된 임계값(Thd) 이상이면(S46, Y) 객체로 판단(Object)하고(S47), 구한 가중 화소수가 기설정된 임계값 미만이면(S46, N) 객체가 아닌 것으로 판단(Non-Object)한다(S48). Therefore, in the present invention, as shown in Equation 3, if the number of weighted pixels (D w ), which is the detection result for the object candidate, is equal to or greater than the predetermined threshold value (Thd) (S46, Y), it is determined as an object (Object) (S47 ), if the number of weighted pixels obtained is less than a preset threshold value (S46, N), it is determined that the object is not (Non-Object) (S48).

Figure 112020143092689-pat00013
Figure 112020143092689-pat00013

상술한 바와 같이, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 방법에 따르면, 영상 기반으로 미착석 승객 유무를 판단한 후 차량의 출발 신호를 결정하도록 함으로써, 차량 내 미착석 승객으로 인한 안전 사고를 방지할 수 있다. As described above, according to the method for detecting occupants in a vehicle according to an embodiment of the present invention, safety accidents caused by unseated passengers in the vehicle are prevented by determining the departure signal of the vehicle after determining whether or not there is an unseated passenger based on an image. It can be prevented.

또한, 본 발명에 따르면, 촬상된 영상의 프레임으로부터 객체의 움직임 화소수를 탐지하되, 영상을 촬상한 카메라의 위치를 기준으로 거리별 가중치를 적용한 가중 화소수를 구함으로써 근거리 객체뿐만 아니라 원거리 객체의 탐지 정확성 및 효율을 향상시킬 수 있다.In addition, according to the present invention, the number of moving pixels of an object is detected from a frame of a captured image, but the number of weighted pixels obtained by applying a weight for each distance based on the position of a camera that captures the image is obtained, thereby detecting not only the near object but also the distant object. Detection accuracy and efficiency can be improved.

한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.Meanwhile, the disclosed embodiments may be implemented in the form of a recording medium storing instructions executable by a computer. Instructions may be stored in the form of program codes, and when executed by a processor, create program modules to perform operations of the disclosed embodiments. The recording medium may be implemented as a computer-readable recording medium.

컴퓨터가 읽을 수 있는 기록매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다.Computer-readable recording media include all types of recording media in which instructions that can be decoded by a computer are stored. For example, there may be read only memory (ROM), random access memory (RAM), magnetic tape, magnetic disk, flash memory, optical data storage device, and the like.

이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.As above, the disclosed embodiments have been described with reference to the accompanying drawings. Those skilled in the art to which the present invention pertains will understand that the present invention can be implemented in a form different from the disclosed embodiments without changing the technical spirit or essential features of the present invention. The disclosed embodiments are illustrative and should not be construed as limiting.

10. 차량 내 승객 검출 장치 11. 카메라
12. 제어부 13. 알람부
100. 차량구동시스템
10. In-vehicle detection device 11. Camera
12. Control unit 13. Alarm unit
100. Vehicle drive system

Claims (5)

차량의 정면 상단부에 설치되며 상기 차량의 내부 및 후방을 모두 촬영하는 카메라; 및
상기 카메라로부터 상기 차량의 내부 및 후방의 촬영 영상을 프레임 단위로 입력받고, 입력된 프레임을 분석하여 미착석 승객 유무를 판단하되, 상기 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 상기 관심영역 내 객체 후보를 탐지한 후 상기 객체 후보에 대한 가중 화소수를 검출하여 미착석 승객 유무를 판단하는 제어부;를 포함하며,
상기 제어부는,
상기 프레임에서 차량 내부의 통로를 설정된 크기로 정규화하여 상기 관심영역을 설정하고, 상기 관심영역 내 객체 후보의 수직라인에서의 검출 화소수에 가중치를 적용하여 가중 화소수를 검출하고,
상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 이상이면, 상기 객체 후보를 미착석 승객으로 판단하며, 상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 미만이면 승객이 아니라고 판단하는 것을 특징으로 하는 차량 내 승객 검출 장치.
a camera installed on the upper front portion of the vehicle and taking pictures of both the inside and the rear of the vehicle; and
An image captured from the inside and rear of the vehicle is input from the camera frame by frame, the input frame is analyzed to determine whether or not there are unoccupied passengers, and a region of interest (ROI) is set in the frame. After detecting an object candidate in the region of interest, a control unit that determines whether or not there is an unseated passenger by detecting the number of weighted pixels for the object candidate;
The control unit,
In the frame, a passage inside the vehicle is normalized to a set size to set the ROI, and a weighted number of pixels is detected by applying a weight to the number of detection pixels in a vertical line of an object candidate in the ROI;
If the number of detected weighted pixels of the object candidate is greater than or equal to a set threshold, the object candidate is determined to be an unseated passenger, and if the number of detected weighted pixels of the object candidate is less than the set threshold, it is determined that the object candidate is not a passenger. My passenger detection device.
삭제delete 제1항에 있어서,
상기 제어부는, 상기 가중 화소수(Dw)를 아래 수학식 1을 통해 검출하는 것
[수학식 1]
Figure 112022117945779-pat00014

(여기서, di는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임의 i(1≤i≤H)번째 수직라인에서의 가중치로
Figure 112022117945779-pat00015
으로 구해지는 값이고, 상기 H는 관심영역(ROI)의 수직라인을 구성하는 총 화소 개수를 각각 의미함)을 특징으로 하는 차량 내 승객 검출 장치.
According to claim 1,
The control unit detects the weighted pixel number (D w ) through Equation 1 below
[Equation 1]
Figure 112022117945779-pat00014

(Where, d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame, and r i is in the i (1≤i≤H)-th vertical line of the frame. The number of pixels in the region of interest (ROI), w i is the weight in the i (1≤i≤H)th vertical line of the frame
Figure 112022117945779-pat00015
A value obtained by , where H denotes the total number of pixels constituting a vertical line of the region of interest (ROI).
제3항에 있어서,
상기 객체 후보의 검출 화소수(di) 및 가중 화소수(Dw)의 관계는, 상기 프레임의 수직라인(i)이 1≤i≤H/2 범위에서 di < widi 이고, 상기 프레임의 수직라인(i)이 H/2<i≤H 범위에서 di > widi 인 것을 특징으로 하는 차량 내 승객 검출 장치.
According to claim 3,
The relationship between the number of detected pixels (d i ) and the number of weighted pixels (D w ) of the object candidate is that the vertical line (i) of the frame is d i < w i d i in the range of 1≤i≤H/2, In-vehicle detection device, characterized in that the vertical line (i) of the frame is d i > w i d i in the range H / 2 < i ≤ H.
제4항에 있어서,
상기 차량 내 승객 검출 장치는, 상기 관심영역 내 미착석 승객이 검출되면, 미착석의 위험을 경보하거나, 착석 유도 및 출발을 안내하는 안내 방송을 출력하는 알람부;를 더 포함하며,
상기 제어부는, 상기 관심영역 내 미착석 승객이 검출되면 상기 알람부의 경보 및 안내 방송을 제어하고, 상기 관심영역 내 미착석 승객이 검출되지 않으면, 상기 차량의 출발을 지시하는 제어신호를 출력하는 것을 특징으로 하는 차량 내 승객 검출 장치.
According to claim 4,
The device for detecting occupants in the vehicle further includes an alarm unit that, when an unseated passenger within the region of interest is detected, outputs an announcement to alert a risk of unseated seats or guide seating and departure,
The control unit controls an alarm and announcement of the alarm unit when an unseated passenger is detected in the region of interest, and outputs a control signal instructing departure of the vehicle when no unseated passenger is detected in the region of interest. In-vehicle detection device characterized by.
KR1020200186977A 2020-12-30 2020-12-30 Apparatus for detecting passenger in a vehicle and method thereof KR102514574B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200186977A KR102514574B1 (en) 2020-12-30 2020-12-30 Apparatus for detecting passenger in a vehicle and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200186977A KR102514574B1 (en) 2020-12-30 2020-12-30 Apparatus for detecting passenger in a vehicle and method thereof

Publications (2)

Publication Number Publication Date
KR20220097569A KR20220097569A (en) 2022-07-08
KR102514574B1 true KR102514574B1 (en) 2023-03-30

Family

ID=82407609

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200186977A KR102514574B1 (en) 2020-12-30 2020-12-30 Apparatus for detecting passenger in a vehicle and method thereof

Country Status (1)

Country Link
KR (1) KR102514574B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220318837A1 (en) * 2021-04-06 2022-10-06 Toyota Jidosha Kabushiki Kaisha Information processing apparatus and information processing system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102679356B1 (en) * 2022-12-09 2024-06-28 재단법인대구경북과학기술원 Apparatus and method for recognizing passenger using point cloud-based radar

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102494260B1 (en) * 2016-12-06 2023-02-03 주식회사 에이치엘클레무브 Driving Support Apparatus Of Vehicle And Driving Method Thereof
KR102518535B1 (en) * 2016-12-08 2023-04-07 현대자동차주식회사 Apparatus and method for processing image of vehicle
KR102591758B1 (en) * 2018-11-07 2023-10-20 현대모비스 주식회사 Apparatus for detecting passenger inside vehicle and control method thereof
KR102298171B1 (en) 2018-11-22 2021-09-07 한국자동차연구원 Output control apparatus for driving nformation of autonomous vehicle and method thereof
KR20200136522A (en) * 2019-05-27 2020-12-08 현대자동차주식회사 Vehicle and method for controlling thereof

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220318837A1 (en) * 2021-04-06 2022-10-06 Toyota Jidosha Kabushiki Kaisha Information processing apparatus and information processing system

Also Published As

Publication number Publication date
KR20220097569A (en) 2022-07-08

Similar Documents

Publication Publication Date Title
US7277559B2 (en) Mobile apparatus
JP6377796B1 (en) Elevator boarding detection system
KR102514574B1 (en) Apparatus for detecting passenger in a vehicle and method thereof
US9311711B2 (en) Image processing apparatus and image processing method
EP3367361B1 (en) Method, device and system for processing startup of front vehicle
CN108241851B (en) Information processing apparatus, information processing method, and program
JP6242966B1 (en) Elevator control system
JP6139729B1 (en) Image processing device
WO2011048718A1 (en) Sign recognition device and sign recognition method
CN108242182B (en) Information processing apparatus, information processing method, and recording medium
JPWO2019176391A1 (en) Drive recorder, display control method and program
US8077916B2 (en) Image processing system that detects an object by comparison of a difference between luminance of an illuminated and non-illuminated image
US11554774B2 (en) Control apparatus, control method, and program
JPH1062162A (en) Detector for obstacle
KR20150058881A (en) Air circulation control method for vehicle based on image recognition
US11917335B2 (en) Image processing device, movable device, method, and program
JP2023144233A (en) Cab monitor system
US20230334672A1 (en) Information processing device, information processing system, and information processing method
KR101582454B1 (en) Method for cognition of movement object in photographing image and system for prevention of vehicle boarding accident
KR102643149B1 (en) Apparatus for detecting passenger in a vehicle and method thereof
JP6582891B2 (en) Empty vehicle frame identification system, method and program
WO2022168402A1 (en) Information processing device, information processing method, and computer-readable medium
CN112456287B (en) User detection system for elevator
US11827216B2 (en) Optimal sensor reading for low latency object detection
US20230333557A1 (en) Data processing method for object detection and identification and autonomous deriving device therefor

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant