KR102514574B1 - Apparatus for detecting passenger in a vehicle and method thereof - Google Patents
Apparatus for detecting passenger in a vehicle and method thereof Download PDFInfo
- Publication number
- KR102514574B1 KR102514574B1 KR1020200186977A KR20200186977A KR102514574B1 KR 102514574 B1 KR102514574 B1 KR 102514574B1 KR 1020200186977 A KR1020200186977 A KR 1020200186977A KR 20200186977 A KR20200186977 A KR 20200186977A KR 102514574 B1 KR102514574 B1 KR 102514574B1
- Authority
- KR
- South Korea
- Prior art keywords
- vehicle
- pixels
- frame
- passenger
- interest
- Prior art date
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
- B60R21/01512—Passenger detection systems
- B60R21/0153—Passenger detection systems using field detection presence sensors
- B60R21/01538—Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
- B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
- B60R21/01512—Passenger detection systems
- B60R21/01542—Passenger detection systems detecting passenger motion
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
- B60R21/01566—Devices for warning or indicating mode of inhibition
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
본 발명은 영상기반으로 차량 내 미착석 승객 유무를 판단하여 차량의 운행을 제어할 수 있는 차량 내 승객 검출 장치 및 그 방법에 관한 것으로, 상기 차량 내 승객 검출 장치는, 차량의 정면 상단부에 설치되며 상기 차량의 내부 및 후방을 모두 촬영하는 카메라; 및 상기 카메라로부터 상기 차량의 내부 및 후방의 촬영 영상을 프레임 단위로 입력받고, 입력된 프레임을 분석하여 미착석 승객 유무를 판단하되, 상기 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 상기 관심영역 내 객체 후보를 탐지한 후 상기 객체 후보에 대한 가중 화소수를 검출하여 미착석 승객 유무를 판단하는 제어부;를 포함한다.The present invention relates to an apparatus and method for detecting passengers in a vehicle capable of controlling the operation of a vehicle by determining whether or not there are occupants in the vehicle based on an image, wherein the apparatus for detecting passengers in the vehicle is installed on the upper front portion of the vehicle, and a camera that photographs both the inside and the rear of the vehicle; and receiving images of the inside and rear of the vehicle frame by frame from the camera, analyzing the input frames to determine whether there are unoccupied passengers, and setting a Region of Interest (ROI) in the frames; and a control unit that detects an object candidate within the ROI and then detects the number of weighted pixels for the object candidate to determine whether or not there is an unseated passenger.
Description
본 발명은 차량 내 승객 검출 장치 및 그 방법에 관한 것으로, 특히, 영상기반으로 차량 내 미착석 승객 유무를 판단하여 차량의 운행을 제어할 수 있는 차량 내 승객 검출 장치 및 그 방법에 관한 것이다.The present invention relates to an apparatus and method for detecting a passenger in a vehicle, and more particularly, to an apparatus and method for detecting an occupant in a vehicle capable of controlling vehicle operation by determining whether or not there is an unoccupied passenger in the vehicle based on an image.
자율주행차량(Autonomous Vehicle)이란 운전자 또는 승객의 조작 없이 자동차 스스로 운행이 가능한 자동차를 말하며, 자율주행시스템(Automated Vehicle & Highway Systems)은 자율주행차량이 스스로 운행될 수 있도록 모니터링하고 제어하는 시스템을 말한다.Autonomous Vehicle refers to a vehicle that can operate on its own without driver or passenger operation, and Automated Vehicle & Highway Systems refers to a system that monitors and controls autonomous vehicles so that they can operate on their own. .
최근 자율주행차량이 다수의 인원을 수송하기 위한 대중교통으로 이용되는 차량, 예를 들어, 지하철, 버스, 택시 등에 이용되고 있다. Recently, autonomous vehicles have been used as vehicles used as public transportation for transporting a large number of people, for example, subways, buses, taxis, and the like.
일 예로, 자율주행버스와 같은 경우, 다수의 탑승자가 탑승한 상태로 자율주행 운행을 하는데, 자율주행 경로 및 주행환경 등에 따라서 버스가 흔들리거나 주행 안정도가 낮아지는 경우가 있다. For example, in the case of an autonomous bus, autonomous driving is performed with a number of passengers on board, but the bus may shake or the driving stability may be lowered depending on the autonomous driving route and driving environment.
이때, 버스에 탑승한 승객들이 좌석 이동 또는 하차를 위해 버스 내부에서 움직이는 경우 넘어지거나 버스 내부의 구조물에 부딪히는 안전사고가 발생할 우려가 있다.At this time, when passengers on the bus move inside the bus to move seats or get off the bus, there is a risk of safety accidents in which passengers fall or collide with structures inside the bus.
따라서, 자율주행차량은 다수의 인원을 수송할 경우, 자율주행 중에 탑승한 승객의 안전을 확보할 수 있는 기술 및 연구에 대한 필요성이 요구되고 있다. Therefore, when an autonomous vehicle transports a large number of people, there is a need for technology and research capable of ensuring the safety of passengers on board during autonomous driving.
본 발명은 상기와 같은 문제점들을 개선하기 위하여 안출된 것으로, 일 측면에 따른 본 발명의 목적은, 차량 내 설치된 카메라로부터 촬상된 영상의 프레임에 관심영역을 설정하고, 관심영역 내 객체의 검출 화소수에 거리별 가중치를 적용하여 기립 승객을 탐지함으로써, 영상기반으로 차량 내 미착석 승객을 검출할 수 있는 차량 내 승객 검출 장치 및 그 방법을 제공하는 것이다.The present invention has been made to improve the above problems, and an object of the present invention according to one aspect is to set a region of interest in a frame of an image captured from a camera installed in a vehicle, and detect the number of pixels of an object in the region of interest An object of the present invention is to provide an in-vehicle detection device and method capable of detecting an unseated passenger in a vehicle based on an image by detecting a standing passenger by applying a weighted value for each distance to .
또한, 일 측면에 따른 본 발명의 목적은, 차량의 출발전에 차량 내 미착석 승객의 유무를 판단하여 차량 운행을 제어함으로써 미착석 승객으로 인한 차량 내 안전사고를 방지할 수 있는 차량 내 승객 검출 장치 및 그 방법을 제공하는 것이다.In addition, an object of the present invention according to an aspect is an in-vehicle detection device capable of preventing safety accidents in the vehicle due to unseated passengers by controlling vehicle operation by determining whether there are unseated passengers in the vehicle before departure of the vehicle. and to provide a method thereof.
본 발명이 이루고자 하는 기술적 과제들은 이상에 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 이하의 발명의 상세한 설명으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved by the present invention are not limited to the above-mentioned technical problems, and other technical problems not mentioned are clear to those skilled in the art from the detailed description of the invention below. will be understandable.
본 발명의 일 실시예에 따른 차량 내 승객 검출 장치는, 차량의 정면 상단부에 설치되며 상기 차량의 내부 및 후방을 모두 촬영하는 카메라; 및 상기 카메라로부터 상기 차량의 내부 및 후방의 촬영 영상을 프레임 단위로 입력받고, 입력된 프레임을 분석하여 미착석 승객 유무를 판단하되, 상기 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 상기 관심영역 내 객체 후보를 탐지한 후 상기 객체 후보에 대한 가중 화소수를 검출하여 미착석 승객 유무를 판단하는 제어부;를 포함할 수 있다.An apparatus for detecting a passenger in a vehicle according to an embodiment of the present invention includes a camera installed at an upper front portion of a vehicle and photographing both the inside and the rear of the vehicle; and receiving images of the inside and rear of the vehicle frame by frame from the camera, analyzing the input frames to determine whether there are unoccupied passengers, and setting a Region of Interest (ROI) in the frames; After detecting object candidates within the ROI, a control unit that determines whether or not there are unseated passengers by detecting the number of weighted pixels for the object candidates.
상기 제어부는, 상기 프레임에서 차량 내부의 통로를 설정된 크기로 정규화하여 상기 관심영역을 설정하고, 상기 관심영역 내 객체 후보의 수직라인에서의 검출 화소수에 가중치를 적용하여 가중 화소수를 검출하고, 상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 이상이면, 상기 객체 후보를 미착석 승객으로 판단하며, 상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 미만이면 승객이 아니라고 판단하는 것을 특징으로 한다.The control unit sets the ROI by normalizing a passage inside the vehicle to a set size in the frame, and detects a weighted number of pixels by applying a weight to the number of detection pixels in a vertical line of an object candidate in the ROI; If the number of detected weighted pixels of the object candidate is greater than or equal to a set threshold, the object candidate is determined to be an unseated passenger, and if the number of detected weighted pixels of the object candidate is less than the set threshold, it is determined that the object candidate is not a passenger.
상기 제어부는, 상기 가중 화소수(Dw)를 아래 수학식 1을 통해 검출하는 것을 특징으로 한다.The controller may detect the weighted number of pixels (D w ) through
[수학식 1] [Equation 1]
(여기서, di는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임의 i(1≤i≤H)번째 수직라인에서의 가중치로 으로 구해지는 값이고, 상기 H는 관심영역(ROI)의 수직라인을 구성하는 총 화소 개수를 각각 의미함)(Where, d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame, and r i is in the i (1≤i≤H)-th vertical line of the frame. The number of pixels in the region of interest (ROI), w i is the weight in the i (1≤i≤H)th vertical line of the frame It is a value obtained by , and H denotes the total number of pixels constituting the vertical line of the region of interest (ROI))
상기 객체 후보의 검출 화소수(di) 및 가중 화소수(Dw)의 관계는, 상기 프레임의 수직라인(i)이 1≤i≤H/2 범위에서 di < widi 이고, 상기 프레임의 수직라인(i)이 H/2<i≤H 범위에서 di > widi 인 것을 특징으로 한다.The relationship between the number of detected pixels (d i ) and the number of weighted pixels (D w ) of the object candidate is that the vertical line (i) of the frame is d i < w i d i in the range of 1≤i≤H/2, It is characterized in that the vertical line (i) of the frame is d i > w i d i in the range H/2<i≤H.
상기 차량 내 승객 검출 장치는, 상기 관심영역 내 미착석 승객이 검출되면, 미착석의 위험을 경보하거나, 착석 유도 및 출발을 안내하는 안내 방송을 출력하는 알람부;를 더 포함하며, 상기 제어부는, 상기 관심영역 내 미착석 승객이 검출되면 상기 알람부의 경보 및 안내 방송을 제어하고, 상기 관심영역 내 미착석 승객이 검출되지 않으면, 상기 차량의 출발을 지시하는 제어신호를 출력하는 것을 특징으로 한다. The device for detecting occupants in the vehicle further includes an alarm unit configured to output an announcement to alert a risk of unseated passengers or guide seating and departure when an unseated passenger is detected in the region of interest, wherein the control unit , When an unseated passenger within the region of interest is detected, an alarm and announcement of the alarm unit are controlled, and when no unseated passenger within the region of interest is detected, a control signal instructing departure of the vehicle is output. .
본 발명의 일 실시예에 따르면, 영상기반으로 카메라로부터의 이격 거리에 따른 가중치를 적용하여 미착석 승객 유무를 판단함으로써 미착석 승객의 검출 성능을 향상시킬 수 있을 뿐만 아니라, 미착석 승객의 검출 성능 및 정확성이 향상됨에 따라 미착석 승객의 미검출로 인한 차량 운행으로 발생하는 안전사고를 방지할 수 있다.According to an embodiment of the present invention, it is possible to improve the detection performance of unseated passengers by determining whether or not there is an unseated passenger by applying a weight according to the separation distance from the camera based on the image. And as the accuracy is improved, it is possible to prevent safety accidents caused by vehicle operation due to non-detection of unseated passengers.
또한, 본 발명의 일 실시예에 따르면, 미착석 승객 감지를 위한 별도의 센서를 구비하지 않고 영상기반으로 미착석 승객을 정확하게 검출함으로써 저비용 설치가 가능하고, 검출된 미착석 승객에게 출발전 경보를 수행함으로써 안전한 차량 운행을 도모할 수 있다.In addition, according to an embodiment of the present invention, low-cost installation is possible by accurately detecting an unseated passenger based on an image without having a separate sensor for detecting an unseated passenger, and an alarm is provided to the detected unseated passenger before departure. By doing so, you can promote safe vehicle operation.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below. .
도 1은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치의 상세 구성을 설명하기 위한 블록 구성도이다.
도 2는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 차량 내부에 카메라가 설치된 예를 설명하기 위한 예시도이다.
도 3은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 탑승객을 검출하기 위한 관심영역과 거리별 화소수 차이를 도시한 도면이다.
도 4는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 카메라로부터의 거리에 따른 가중 화소수를 이용한 객체 검출을 설명하기 위한 도면이다.
도 5 내지 도 7은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 관심영역 내 승객 검출 결과 예를 도시한 도면이다.
도 8은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 방법을 설명하기 위한 흐름도이다.1 is a block diagram illustrating a detailed configuration of an in-vehicle passenger detecting device according to an embodiment of the present invention.
2 is an exemplary diagram for explaining an example in which a camera is installed inside a vehicle in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
3 is a diagram illustrating a region of interest for detecting a passenger and a difference in the number of pixels for each distance in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
4 is a diagram for explaining object detection using a weighted number of pixels according to a distance from a camera in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
5 to 7 are diagrams illustrating examples of results of detecting a passenger in a region of interest in the apparatus for detecting a passenger in a vehicle according to an embodiment of the present invention.
8 is a flowchart illustrating a method for detecting a passenger in a vehicle according to an embodiment of the present invention.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 모듈, 부재, 블록'이라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부, 모듈, 부재, 블록'이 하나의 구성요소로 구현되거나, 하나의 '부, 모듈, 부재, 블록'이 복수의 구성요소들을 포함하는 것도 가능하다.Like reference numbers designate like elements throughout the specification. This specification does not describe all elements of the embodiments, and general content or overlapping content between the embodiments in the technical field to which the present invention belongs is omitted. The term 'unit, module, member, or block' used in the specification may be implemented as software or hardware, and according to embodiments, a plurality of 'units, modules, members, or blocks' may be implemented as one component, It is also possible that one 'part, module, member, block' includes a plurality of components.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.Throughout the specification, when a part is said to be "connected" to another part, this includes not only the case of being directly connected but also the case of being indirectly connected, and indirect connection includes being connected through a wireless communication network. do.
또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.In addition, when a certain component is said to "include", this means that it may further include other components without excluding other components unless otherwise stated.
제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다.Terms such as first and second are used to distinguish one component from another, and the components are not limited by the aforementioned terms.
단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.Expressions in the singular number include plural expressions unless the context clearly dictates otherwise.
각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다.In each step, the identification code is used for convenience of description, and the identification code does not explain the order of each step, and each step may be performed in a different order from the specified order unless a specific order is clearly described in context. there is.
이하 첨부된 도면들을 참고하여 본 발명의 작용 원리 및 실시예들에 대해 설명한다.Hereinafter, the working principle and embodiments of the present invention will be described with reference to the accompanying drawings.
도 1은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치의 상세 구성을 설명하기 위한 블록 구성도이다. 1 is a block diagram illustrating a detailed configuration of an in-vehicle passenger detecting device according to an embodiment of the present invention.
도 2는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 차량 내부에 카메라가 설치된 예를 설명하기 위한 예시도이다.2 is an exemplary diagram for explaining an example in which a camera is installed inside a vehicle in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 차량은 자율주행차량(Autonomous Vehicle)으로, 버스를 예로 들어 설명하고 있지만, 이에 한정되는 것은 아니며 다른 종류의 차량인 경우에도 적용될 수 있다. A vehicle according to an embodiment of the present invention is an autonomous vehicle, and a bus is described as an example, but is not limited thereto and may be applied to other types of vehicles.
먼저, 도 1을 참조하면, 본 발명의 일 실시예에 따른 차량 내 승객 검출 장치(10)는, 차량의 후방을 촬영하여 영상 정보를 출력하는 카메라(11)와, 카메라(11)로부터 촬영된 영상 정보를 입력받아 미착석 승객 유무를 판단하는 제어부(12)를 적어도 포함하여 구성될 수 있다.First, referring to FIG. 1 , an in-vehicle
본 발명의 일 실시예에 따른 차량 내 승객 검출 장치(10)는, 차량구동시스템(100)과 전기적으로 연결되거나 무선 네트워크를 통해 연결되도록 구현될 수 있다. 이를 통해 본 발명의 차량 내 승객 검출 장치(10)는 승객 검출 유무 정보를 차량구동시스템(100)으로 전송하여 출발과 관련된 운행을 수행할 수 있도록 한다. The in-vehicle
여기서, 차량은, 차량 운전자의 조작 없이도 스스로 목적지까지 주행하는 자율주행버스일 수 있으며, 버스 내부의 승객은 좌석에 착석한 상태의 승객과 좌석에 착석하지 않고 서있는 미착석 승객을 포함할 수 있다. Here, the vehicle may be an autonomous bus that drives to a destination by itself without manipulation by a driver, and passengers inside the bus may include passengers sitting in seats and unseated passengers standing without sitting in seats.
그리고, 카메라(11)는, 차량의 내부, 즉, 후방을 촬영하여 영상 정보를 획득할 수 있고, 획득된 영상 정보를 프레임 단위로 제어부(12)에 전달할 수 있다.In addition, the
이러한 카메라(11)는, 도 2에 도시된 바와 같이, 차량(1)의 전방 및 후방을 촬영할 수 있도록 차량 내부의 앞쪽 상단부, 즉, 천장에 설치될 수 있으며, 본 발명은 이에 한정되지 않고 카메라(11)의 설치 위치는 차량 내부를 촬영하여 미착석 승객을 검출하기 위해 전방 및 후방의 영상 정보를 획득하기 위해 차량 내에서 화각(FOV; Field Of View) 확보가 가능한 위치면 어디든 설치될 수 있다.As shown in FIG. 2 , the
또한, 카메라(11)는 카메라(11)의 설치 위치에서부터 후방까지 차량의 중앙 통로 또는 복도를 모두 촬영할 수 있는 화각(FOV; Field Of View)을 가지는 카메라로 구현될 수 있으며, 예를 들면, 화각이 130도 이상을 지원하는 광각 카메라, 고화각을 위해 어안 렌즈(Fish-Eye Lens)를 이용한 카메라일 수 있다. In addition, the
그리고, 제어부(12)는, 카메라(11)로부터 촬영된 영상 정보가 프레임 단위로 전달되면, 전달된 프레임에 대해 영상 처리 기법을 적용하여 영상 처리를 수행하고 카메라(11)의 위치 지점으로부터의 거리에 따른 가중치를 이용해 프레임 내 객체의 화소수를 검출함으로써 미착석 승객 유무를 판단할 수 있다.In addition, when the image information photographed by the
본 발명의 일 실시예에서 미착석 승객 유무 판단은 출발 직전 미착석 승객의 안전을 증진시킬 수 있도록 차량 구동 시스템(100)에 필수적이다.In one embodiment of the present invention, determining whether or not there is an unseated passenger is essential for the
구체적으로, 제어부(12)는, 입력된 프레임에 대하여 서브샘플링(subsampling)을 수행한다. 서브샘플링은, 양선형 보간법이나 최근접값 이용법, 3차회선보간법 등 다양한 방법을 이용할 수 있으나, 이에 한정되는 것은 아니며 다양한 공지기술을 채택하여 적용할 수 있다. 즉, 샘플링을 통해 입력된 프레임 영상이 칼라 영상인 경우 흑백영상으로 변환되고, 흑백 영상인 경우 그대로 이용할 수 있다. 즉, 흑백 영상을 이용하여 사람 검출을 수행함으로써 조명에 의한 영향을 줄일 수 있을 뿐 아니라 처리시간을 줄일 수 있다.Specifically, the
그런 다음, 제어부(12)는, 서브샘플링이 수행된 프레임으로부터 객체 후보 탐지를 수행하되, 서브샘플링이 수행된 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 관심영역(ROI) 내 움직임 화소수에 따른 객체 후보를 탐지한다. Then, the
여기서, 객체 탐지(object detection)는, 이미지나 동영상에서 사람, 동물, 차량 등 의미 있는 객체(object)의 종류와 그 위치(bounding box)를 정확하게 찾기 위한 컴퓨터 비전(computer vision) 기술로, 영상에서 관심 대상을 인식하기 위해 일반적으로 검출 대상에 대한 후보 영역을 찾고 그 후보 영역에 대한 객체의 종류와 위치를 학습된 모델을 통해 예측한다. 이러한 객체 탐지를 위한 방식은 일반적으로 기계 학습 기반 접근 또는 딥 러닝(deep learning) 기반 접근의 객체 탐지 기술이 많이 이용되며, 이는 모두 공지된 기술로 본 발명에서는 이에 대한 상세한 설명을 생략한다. Here, object detection is a computer vision technology for accurately finding the type and location (bounding box) of a meaningful object such as a person, animal, or vehicle in an image or video. In order to recognize a target of interest, a candidate region for a detection target is generally found and the type and location of an object in the candidate region is predicted through a learned model. As a method for detecting such an object, a machine learning-based approach or a deep learning-based approach object detection technique is generally used, and these are all well-known techniques, and detailed descriptions thereof are omitted in the present invention.
그리고, 관심영역(ROI)은, 본 발명의 일 실시형태에 있어서, 미착석 승객을 검출하기 위해 차량 내 중앙 통로 또는 복도가 포함된 영역이며, 또는, 미착석 승객을 검출하고자 하는 특정 영역을 지정하여 설정될 수도 있다.In addition, the region of interest (ROI), in one embodiment of the present invention, is an area including a central aisle or corridor in the vehicle to detect unseated passengers, or designates a specific area to detect unseated passengers. may be set by
이러한 관심영역(ROI)은, 카메라(11)로부터 촬영되는 차량 내부 모습에 대해 프레임 내 차량 중앙 통로를 설정된 크기로 정규화하여 설정될 수 있다.The region of interest (ROI) may be set by normalizing the central passage of the vehicle in the frame to a set size with respect to the inside of the vehicle captured by the
또한, 제어부(12)는, 객체 후보에 대한 잡음 제거를 수행하고, 관심영역(ROI) 내 객체 후보에 대한 미착석 승객 유무 판정을 수행한다.In addition, the
이때, 제어부(12)는, 정확한 미착석 승객 판정을 위해 카메라(11) 설치 위치로부터 객체까지의 거리를 고려할 수 있다. 예를 들면, 카메라(11)의 설치 위치를 기준으로 동일한 객체라도 근거리 영역의 경우는 많은 화소수를 가지나, 원거리 영역의 경우는 적은 화소수를 가지게 되는데, 특히, 원거리 영역의 경우 화소수가 너무 적을 경우 검출을 하지 못하여 객체 탐지가 이루어지지 않을 수 있다. At this time, the
이와 같이 카메라(11)를 기준으로 근거리 승객의 경우 많은 화소수에 의해 감지가 양호하나, 원거리 승객의 경우 적은 화소수에 의해 감지가 저하된다. In this way, based on the
따라서 본 발명의 일 실시예에 따르면, 제어부(12)는, 객체까지의 위치에 따른 화소수의 차이를 보정하기 위해, 관심영역 내 객체 후보의 검출 화소수에 가중치를 적용하여 카메라(11)로부터의 거리에 따른 가중 화소수를 구하고, 구한 가중 화소수를 이용하여 미착석 승객의 유무를 판단한다. 이를 통해 원거리 승객의 감지 효율이 향상될 수 있다.Therefore, according to an embodiment of the present invention, the
다시 설명하면, 제어부(12)는, 객체 판단을 위한 가중 화소수를 관심영역(ROI) 내 수직라인(i, 1≤i≤H)에서의 가중치를 검출 화소수에 적용하여 아래 수학식 1과 같이 구할 수 있다.In other words, the
[수학식 1][Equation 1]
di는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임의 i(1≤i≤H)번째 수직라인에서의 가중치이고, 상기 H는 관심영역(ROI)의 수직라인을 구성하는 총 화소 개수이며, 이는 아래 수학식 2를 이용하여 구할 수 있다.d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame, and r i is the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame ( ROI), w i is the weight in the i (1≤i≤H) th vertical line of the frame, and H is the total number of pixels constituting the vertical line of the region of interest (ROI), which is calculated by the following equation It can be obtained using
[수학식 2][Equation 2]
, 1≤i≤H , 1≤i≤H
따라서, 제어부(12)는, 객체 후보에 대한 가중 화소수 검출 결과(DRw)와 임계값(Thd)을 비교하되, 아래 수학식 3에 따라 객체 판단을 수행한다. 예를 들면, 제어부(12)는, 수학식 1을 이용하여 구한 가중 화소수(Dw)가 기설정된 임계값(Thd) 이상이면 객체로 판단(Object)하고, 구한 가중 화소수가 기설정된 임계값 미만이면 객체가 아닌 것으로 판단(Non-Object)한다. Accordingly, the
[수학식 3][Equation 3]
또한, 제어부(12)는, 미착석 승객 유무 정보를 이용하여 차량 구동 시스템(100) 및 알람부(13)의 작동을 제어할 수 있다.In addition, the
예를 들면, 제어부(12)는, 차량의 출발 전 미착석 승객이 있는 것으로 판단되면, 차량 출발을 지연하도록 차량 구동 시스템(100)에 요청하는 동시에, 알람부(13)를 통해 미착석 승객의 착석을 유도하거나 출발을 위해 손잡이 등을 꼭 부여잡도록 안내 방송을 실시할 수 있다. 여기서, 알람부(13)는 음성 안내 정보를 출력할 수 있는 스피커를 포함할 수 있다.For example, if it is determined that there are unseated passengers before the departure of the vehicle, the
또 다른 예를 들면, 제어부(12)는, 차량의 출발 전 미착석 승객이 없는 것으로 판단되면, 차량 구동 시스템(100)으로 이를 통지하여 차량의 출발 및 주행 운행이 이루어지도록 할 수 있다. For another example, if it is determined that there are no occupants before departure of the vehicle, the
상술한 바와 같이, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치는 관심영역 내 객체 후보의 검출 화소수에 가중치를 적용하여 구한 가중 화소수를 이용해 미착석 승객 유무를 판단함으로써 프레임 내 근거리 승객뿐만 아니라 원거리 승객의 감지 효율을 향상시킬 수 있다. As described above, the device for detecting passengers in a vehicle according to an embodiment of the present invention determines whether or not there are unoccupied passengers using the weighted number of pixels obtained by applying weights to the number of detected pixels of object candidates in the region of interest, thereby detecting short-distance passengers within the frame. In addition, the detection efficiency of distant passengers can be improved.
또한, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치는 차량 출발 전, 미착석 승객 유무를 검출함으로써, 미착석 승객의 착석을 유도하거나 미착석 승객으로 하여금 출발을 인지시킴으로써 출발로 인한 흔들림에 대비할 수 있도록 하여 차량 내 안전 사고를 방지하고 안전한 주행이 가능하도록 한다.In addition, the device for detecting occupants in a vehicle according to an embodiment of the present invention detects the presence or absence of an unseated passenger before the vehicle departs, thereby inducing the unseated passenger to sit or recognizing the departure of the unseated passenger, thereby preventing shaking caused by departure. It enables you to be prepared to prevent safety accidents in the vehicle and enable safe driving.
도 3은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 탑승객을 검출하기 위한 관심영역과 거리별 화소수 차이를 도시한 도면이다.3 is a diagram illustrating a region of interest for detecting a passenger and a difference in the number of pixels for each distance in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
도 3을 참조하면, 미착석 객석 검출을 위해 프레임(20) 내 차량의 중앙 통로에 매칭된 위치로 관심영역(ROI)(22)을 지정하고, 관심영역(ROI)(22) 내 동일한 객체(21)가 그 위치(P1, P2, P3)에 따라 영상 내 화소수의 차이가 생김을 알 수 있다.Referring to FIG. 3, in order to detect unoccupied seats, a region of interest (ROI) 22 is designated as a location matched to the central aisle of the vehicle in the
도 4는, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 카메라로부터의 거리에 따른 가중 화소수를 이용한 객체 검출을 설명하기 위한 도면이다.4 is a diagram for explaining object detection using a weighted number of pixels according to a distance from a camera in the device for detecting a passenger in a vehicle according to an embodiment of the present invention.
도 4를 참조하면, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치의 제어부(12)가, 프레임(30)의 관심영역(ROI)(32) 내 탐지된 각 객체 후보(31, 33, 35, 37)의 검출 화소수(di)에 가중치(wi)를 적용하여 가중 화소수(Dw)를 구함으로써 각 객체 후보(31, 33, 35, 37)에 대한 객체 유무를 판단할 수 있다.Referring to FIG. 4 , the
즉, 제어부(12)는, 객체 유무 판단을 위한 가중 화소수(Dw)를 관심영역(ROI)(32) 내 수직라인(i)에서의 가중치(wi)를 적용하여 아래 수학식 1와 같이 구할 수 있다.That is, the
[수학식 1][Equation 1]
di는 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 가중치이며, 이는 아래 수학식 2를 이용하여 구할 수 있다.d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the
[수학식 2][Equation 2]
, 1≤i≤H , 1≤i≤H
여기서, 본 발명의 일 실시예에 따르면, 객체 후보의 검출 화소수(di) 및 가중 화소수(Dw)의 관계는, 프레임의 수직라인(i)이 1≤i≤H/2 범위에서 di < widi 이고, 프레임의 수직라인(i)이 H/2<i≤H 범위에서 di > widi 이다. 이러한 관계로 인해 프레임 내 원거리 객체 검출시, 객체 후보의 가중 화소수(Dw)가 객체 후보의 검출 화소수(di) 보다 큰 화소수가 검출되므로 원거리 승객의 감지 성능을 향상시킬 수 있다. Here, according to an embodiment of the present invention, the relationship between the number of detected pixels (d i ) and the number of weighted pixels (D w ) of the object candidate is such that the vertical line (i) of the frame is in the range of 1≤i≤H/2 d i < w i d i , and the vertical line (i) of the frame satisfies d i > w i d i in the range of H/2<i≤H. Due to this relationship, when detecting a distant object within a frame, the number of pixels in which the number of weighted pixels (D w ) of the object candidate is greater than the number of detection pixels (d i ) of the object candidate is detected, so that the performance of detecting a distant passenger can be improved.
따라서, 제어부(12)는, 객체 후보(31, 33, 35, 37)에 대한 가중 화소수 검출 결과(DRw)와 임계값(Thd)을 비교하되, 아래 수학식 3에 따라 객체 판단을 수행한다. 예를 들면, 제어부(12)는, 수학식 1을 이용하여 구한 가중 화소수(Dw)가 기설정된 임계값(Thd) 이상이면 객체로 판단(Object)하고, 구한 가중 화소수가 기설정된 임계값 미만이면 객체가 아닌 것으로 판단(Non-Object)한다. Therefore, the
[수학식 3][Equation 3]
한편, (비교예) 프레임의 수직라인에서의 관심영역(ROI) 내 객체 후보의 검출 화소수(di)만을 이용하여 객체 판단을 하는 경우는, 프레임(30)의 관심영역(ROI)(32) 내 객체 후보의 검출 화소수(D)를 비교식 1과 같이 프레임(30)의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI)(32) 내 검출 화소수(di)를 이용하여 구하고, 객체 검출 결과(DR)를 비교식 2와 같이 임계값과 비교하여 객체 판단을 수행할 수 있다.On the other hand, (Comparative Example) In the case of object determination using only the number of detection pixels (d i ) of object candidates within the ROI in the vertical line of the frame, the region of interest (ROI) 32 of the frame 30 ), the number of detected pixels (d i ), and object determination may be performed by comparing the object detection result (DR) with a threshold value as shown in
[비교식 1][Comparative Formula 1]
[비교식 2][Comparative Formula 2]
즉, 비교예와 본 발명을 비교하면, 표 1에 나타낸 바와 같이 비교예의 경우, 객체 후보 중 가장 원거리에 위치한 객체 후보(37)를 비객체로 판단하는 반면, 본 발명은 객체 후보 중 가장 원거리에 위치한 객체 후보(37)를 객체로 판단한다. That is, when comparing the comparative example and the present invention, as shown in Table 1, in the case of the comparative example, the
35
35
도 5 내지 도 7은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치에 있어서 프레임의 관심영역 내 승객 검출 결과 예를 도시한 도면이다.5 to 7 are diagrams illustrating examples of results of detecting a passenger in a region of interest of a frame in an apparatus for detecting a passenger in a vehicle according to an embodiment of the present invention.
도 5의 (a)는 카메라가 차량에 탑승한 승객(P2, P3)이 중앙 복도를 지나는 상황을 촬영한 영상 프레임이다. 도 5의 (a)에 도시된 바와 같이, 카메라로부터 입력된 프레임에는 미리 좌석에 착석한 승객(P1)과 통로에 서 있는 승객(P2, P3)이 존재하고, 프레임에 관심영역(ROI)을 설정한다. 5(a) is an image frame in which a camera captures a situation in which passengers P2 and P3 in a vehicle pass through a central aisle. As shown in (a) of FIG. 5, in the frame input from the camera, a passenger P1 seated in a seat and passengers P2 and P3 standing in the aisle exist, and a region of interest (ROI) is set in the frame. Set up.
도 5의 (b)는 도 5의 (a)에 도시된 영상 프레임의 관심영역(ROI) 내 승객 검출 결과의 영상 프레임이다. 도 5의 (b)에 도시된 바와 같이, 관심영역(ROI) 외 영역은 객체 검출에서 제외하고, 관심영역(ROI) 내 기립하고 있는 승객(P2, P3)을 객체로 판단한다. FIG. 5(b) is an image frame of a passenger detection result within a region of interest (ROI) of the image frame shown in FIG. 5(a). As shown in (b) of FIG. 5 , regions other than the region of interest (ROI) are excluded from object detection, and passengers P2 and P3 standing in the region of interest (ROI) are determined as objects.
도 5의 (c)는 카메라가 차량에 탑승한 승객(P1, P2, P3)이 모두 좌석에 앉아 있는 상황을 촬영한 영상 프레임이다. 여기서, 프레임 내 Thd는 임계값을 나타낸다. 도 5의 (c)에 도시된 바와 같이, 카메라로부터 입력된 프레임에는 미리 좌석에 착석한 승객(P1, P2, P3)들만이 존재하고, 프레임에 관심영역(ROI)을 설정한다. FIG. 5(c) is an image frame in which a camera captures a situation in which passengers P1, P2, and P3 are all sitting in their seats. Here, THD in a frame denotes a threshold value. As shown in (c) of FIG. 5 , only passengers P1 , P2 , and P3 previously seated in seats exist in the frame input from the camera, and a region of interest (ROI) is set in the frame.
도 5의 (d)는 도 5의 (c)에 도시된 영상 프레임의 관심영역(ROI) 내 승객 검출 결과의 영상 프레임이다. 도 5의 (d)에 도시된 바와 같이, 관심영역(ROI) 내 유효한 검출 화소수가 존재하지 않음을 알 수 있다.(d) of FIG. 5 is an image frame of a passenger detection result within a region of interest (ROI) of the image frame shown in (c) of FIG. 5 . As shown in (d) of FIG. 5 , it can be seen that there is no effective number of detection pixels in the region of interest (ROI).
그리고, 도 6의 (a) 내지 (c)에 도시된 바와 같이, 프레임의 관심영역(노란선 표시) 내 임계값(Thd)보다 더 작은 화소수를 가지는 움직임 객체 후보(빨간 선 표시)에 대한 가중 화소수를 구함으로써 승객 검출이 가능함을 알 수 있다. And, as shown in (a) to (c) of FIG. 6, for a motion object candidate (marked with a red line) having a smaller number of pixels than the threshold value (Thd) in the region of interest (marked with a yellow line) of the frame. It can be seen that passenger detection is possible by obtaining the number of weighted pixels.
그리고, 도 7의 (a)에 도시된 바와 같이, 프레임의 관심영역(노란선 표시) 내 승객이 중앙 통로를 따라 후방으로 움직이는 움직임 객체 후보(빨간 선 표시)에 대한 가중 화소수를 구함으로써 승객을 검출할 수 있다. And, as shown in (a) of FIG. 7, by calculating the number of weighted pixels for moving object candidates (marked by a red line) in which the passenger moves backward along the central aisle in the region of interest (marked by a yellow line) of the frame, the passenger can be detected.
마찬가지로, 도 7의 (b)에 도시된 바와 같이, 프레임의 관심영역(노란선 표시) 내 승객이 자신의 좌석을 찾아 착석하는 움직임 객체 후보(빨간 선 표시)에 대한 가중 화소수를 구함으로써 아직 좌석에 착석하지 목한 승객을 검출할 수 있다. 이후, 승객이 완전히 착석을 완료하고 나면 객체 검출이 되지 않는다.Similarly, as shown in (b) of FIG. 7, by calculating the number of weighted pixels for motion object candidates (marked with a red line) in which a passenger finds his/her seat and sits in the region of interest (marked with a yellow line) of the frame, A passenger not sitting in a seat can be detected. After that, the object is not detected after the passenger completely sits down.
도 8은, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 방법을 설명하기 위한 흐름도이다.8 is a flowchart illustrating a method for detecting a passenger in a vehicle according to an embodiment of the present invention.
도 8을 참조하면, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 장치는, 먼저, 차량의 정면 상단부(예를 들어, 천장)에 설치된 카메라가 차량 내부, 즉, 전방 및 후방 전체를 한꺼번에 촬영하고, 카메라에 의해 촬상되는 영상은 프레임 단위로 제어부에 입력될 수 있다(S41). 여기서, 카메라는 바람직하게는 고정 카메라일 수 있으나, 이에 한정되는 것은 아니며 촬영 방향을 원하는 위치로 조절할 수 있는 팬틸트줌카메라로 구현될 수도 있다.Referring to FIG. 8 , in the device for detecting passengers in a vehicle according to an embodiment of the present invention, first, a camera installed on the front upper portion (eg, ceiling) of the vehicle captures the entire inside of the vehicle, that is, the entire front and rear sides of the vehicle at once. And, the image captured by the camera may be input to the controller in units of frames (S41). Here, the camera may preferably be a fixed camera, but is not limited thereto, and may be implemented as a pan-tilt-zoom camera capable of adjusting a photographing direction to a desired position.
그럼 다음, 프레임 내에 미착석 승객 검출을 위한 관심영역(ROI)을 설정한다(S42). 본 발명의 일 실시예에서는, 차량으로 버스를 예를 들어 설명하므로, 버스의 중앙 통로를 관심영역(ROI)으로 설정할 수 있다. 여기서, 관심영역(ROI)은 프레임에서 차량 내부의 통로를 설정된 크기로 정규화하여 설정하고 그 모양은 통로의 형태에 맞춰 설정될 수 있다. Next, a region of interest (ROI) for detecting unseated passengers is set in the frame (S42). In one embodiment of the present invention, since a bus is described as a vehicle, a central aisle of the bus may be set as a region of interest (ROI). Here, the region of interest (ROI) is set by normalizing the passage inside the vehicle to a set size in the frame, and its shape may be set according to the shape of the passage.
이어서, 입력된 프레임에 대한 서브샘플링을 수행하고(S43), 관심영역(ROI) 내 움직임 객체 후보를 탐지한다(S44).Subsequently, subsampling is performed on the input frame (S43), and a motion object candidate within the region of interest (ROI) is detected (S44).
그런 다음, 탐지된 움직임 객체 후보에 대한 잡음 제거를 수행하고, 잡음 제거된 움직임 객체 후보에 대해 카메라로부터의 거리에 따른 가중 화소수를 검출한다(S45). Then, noise cancellation is performed on the detected motion object candidate, and the number of weighted pixels according to the distance from the camera is detected for the noise-cancelled motion object candidate (S45).
본 발명의 일 실시예에 있어서, 가중 화소수는 관심영역(ROI) 내 움직임 객체 후보의 화소수를 검출할 때, 동일한 객체라도 카메라를 기준으로 근거리 영역과 원거리 영역에서의 움직임 화소수가 차이가 나는 것을 보완하기 위한 가중치를 적용해 객체의 움직임 화소수를 구함으로써 원거리 영역에서의 승객 감지 효율을 향상시킬 수 있다. In one embodiment of the present invention, the number of weighted pixels is determined when the number of pixels of motion object candidates in the region of interest (ROI) is detected. Passenger detection efficiency in a remote area can be improved by calculating the number of moving pixels of an object by applying a weight to compensate for this.
즉, 카메라 기준 근거리 승객의 경우 많은 화소수를 가지므로 감지가 용이한 반면, 원거리 승객의 경우 적은 화소수를 가지므로 감지가 어렵다. 따라서, 본 발명의 일 실시예에서는, 해당 수직라인에서의 검출 화소수에 가중치를 적용함으로써 원거리 영역에 대한 객체 검출의 정확도를 높일 수 있다. That is, it is easy to detect a short-distance passenger based on the camera because it has a large number of pixels, whereas it is difficult to detect a long-distance passenger because it has a small number of pixels. Accordingly, in one embodiment of the present invention, the accuracy of object detection in a far area can be increased by applying a weight to the number of detected pixels in a corresponding vertical line.
구체적으로, 객체 판단을 위한 가중 화소수(Dw)를 관심영역(ROI) 내 수직라인(i)에서의 가중치(wi)를 적용하여 아래 수학식 1과 같이 구할 수 있다.Specifically, the weighted number of pixels (D w ) for object determination can be obtained as shown in
여기서, di는 화상의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 화상의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 화상의 i(1≤i≤H)번째 수직라인에서의 가중치이며, 이는 아래 수학식 2를 이용하여 구할 수 있다.Here, d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the image, and r i is the interest in the i (1≤i≤H)-th vertical line of the image The number of pixels in the region (ROI), and w i is a weight in the i (1≤i≤H)-th vertical line of the image, which can be obtained using
따라서, 본 발명에서는, 수학식 3과 같이, 객체 후보에 대한 검출 결과인 가중 화소수(Dw)가 기설정된 임계값(Thd) 이상이면(S46, Y) 객체로 판단(Object)하고(S47), 구한 가중 화소수가 기설정된 임계값 미만이면(S46, N) 객체가 아닌 것으로 판단(Non-Object)한다(S48). Therefore, in the present invention, as shown in Equation 3, if the number of weighted pixels (D w ), which is the detection result for the object candidate, is equal to or greater than the predetermined threshold value (Thd) (S46, Y), it is determined as an object (Object) (S47 ), if the number of weighted pixels obtained is less than a preset threshold value (S46, N), it is determined that the object is not (Non-Object) (S48).
상술한 바와 같이, 본 발명의 일 실시형태에 따른 차량 내 승객 검출 방법에 따르면, 영상 기반으로 미착석 승객 유무를 판단한 후 차량의 출발 신호를 결정하도록 함으로써, 차량 내 미착석 승객으로 인한 안전 사고를 방지할 수 있다. As described above, according to the method for detecting occupants in a vehicle according to an embodiment of the present invention, safety accidents caused by unseated passengers in the vehicle are prevented by determining the departure signal of the vehicle after determining whether or not there is an unseated passenger based on an image. It can be prevented.
또한, 본 발명에 따르면, 촬상된 영상의 프레임으로부터 객체의 움직임 화소수를 탐지하되, 영상을 촬상한 카메라의 위치를 기준으로 거리별 가중치를 적용한 가중 화소수를 구함으로써 근거리 객체뿐만 아니라 원거리 객체의 탐지 정확성 및 효율을 향상시킬 수 있다.In addition, according to the present invention, the number of moving pixels of an object is detected from a frame of a captured image, but the number of weighted pixels obtained by applying a weight for each distance based on the position of a camera that captures the image is obtained, thereby detecting not only the near object but also the distant object. Detection accuracy and efficiency can be improved.
한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.Meanwhile, the disclosed embodiments may be implemented in the form of a recording medium storing instructions executable by a computer. Instructions may be stored in the form of program codes, and when executed by a processor, create program modules to perform operations of the disclosed embodiments. The recording medium may be implemented as a computer-readable recording medium.
컴퓨터가 읽을 수 있는 기록매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다.Computer-readable recording media include all types of recording media in which instructions that can be decoded by a computer are stored. For example, there may be read only memory (ROM), random access memory (RAM), magnetic tape, magnetic disk, flash memory, optical data storage device, and the like.
이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.As above, the disclosed embodiments have been described with reference to the accompanying drawings. Those skilled in the art to which the present invention pertains will understand that the present invention can be implemented in a form different from the disclosed embodiments without changing the technical spirit or essential features of the present invention. The disclosed embodiments are illustrative and should not be construed as limiting.
10. 차량 내 승객 검출 장치 11. 카메라
12. 제어부 13. 알람부
100. 차량구동시스템10. In-
12.
100. Vehicle drive system
Claims (5)
상기 카메라로부터 상기 차량의 내부 및 후방의 촬영 영상을 프레임 단위로 입력받고, 입력된 프레임을 분석하여 미착석 승객 유무를 판단하되, 상기 프레임에 관심영역(Region of Interest; ROI)을 설정하고, 상기 관심영역 내 객체 후보를 탐지한 후 상기 객체 후보에 대한 가중 화소수를 검출하여 미착석 승객 유무를 판단하는 제어부;를 포함하며,
상기 제어부는,
상기 프레임에서 차량 내부의 통로를 설정된 크기로 정규화하여 상기 관심영역을 설정하고, 상기 관심영역 내 객체 후보의 수직라인에서의 검출 화소수에 가중치를 적용하여 가중 화소수를 검출하고,
상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 이상이면, 상기 객체 후보를 미착석 승객으로 판단하며, 상기 객체 후보의 검출된 가중 화소수가 설정된 임계값 미만이면 승객이 아니라고 판단하는 것을 특징으로 하는 차량 내 승객 검출 장치.a camera installed on the upper front portion of the vehicle and taking pictures of both the inside and the rear of the vehicle; and
An image captured from the inside and rear of the vehicle is input from the camera frame by frame, the input frame is analyzed to determine whether or not there are unoccupied passengers, and a region of interest (ROI) is set in the frame. After detecting an object candidate in the region of interest, a control unit that determines whether or not there is an unseated passenger by detecting the number of weighted pixels for the object candidate;
The control unit,
In the frame, a passage inside the vehicle is normalized to a set size to set the ROI, and a weighted number of pixels is detected by applying a weight to the number of detection pixels in a vertical line of an object candidate in the ROI;
If the number of detected weighted pixels of the object candidate is greater than or equal to a set threshold, the object candidate is determined to be an unseated passenger, and if the number of detected weighted pixels of the object candidate is less than the set threshold, it is determined that the object candidate is not a passenger. My passenger detection device.
상기 제어부는, 상기 가중 화소수(Dw)를 아래 수학식 1을 통해 검출하는 것
[수학식 1]
(여기서, di는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 검출 화소수이고, ri는 프레임의 i(1≤i≤H)번째 수직라인에서의 관심영역(ROI) 내 화소수이고, wi는 프레임의 i(1≤i≤H)번째 수직라인에서의 가중치로 으로 구해지는 값이고, 상기 H는 관심영역(ROI)의 수직라인을 구성하는 총 화소 개수를 각각 의미함)을 특징으로 하는 차량 내 승객 검출 장치. According to claim 1,
The control unit detects the weighted pixel number (D w ) through Equation 1 below
[Equation 1]
(Where, d i is the number of detected pixels in the region of interest (ROI) in the i (1≤i≤H)-th vertical line of the frame, and r i is in the i (1≤i≤H)-th vertical line of the frame. The number of pixels in the region of interest (ROI), w i is the weight in the i (1≤i≤H)th vertical line of the frame A value obtained by , where H denotes the total number of pixels constituting a vertical line of the region of interest (ROI).
상기 객체 후보의 검출 화소수(di) 및 가중 화소수(Dw)의 관계는, 상기 프레임의 수직라인(i)이 1≤i≤H/2 범위에서 di < widi 이고, 상기 프레임의 수직라인(i)이 H/2<i≤H 범위에서 di > widi 인 것을 특징으로 하는 차량 내 승객 검출 장치. According to claim 3,
The relationship between the number of detected pixels (d i ) and the number of weighted pixels (D w ) of the object candidate is that the vertical line (i) of the frame is d i < w i d i in the range of 1≤i≤H/2, In-vehicle detection device, characterized in that the vertical line (i) of the frame is d i > w i d i in the range H / 2 < i ≤ H.
상기 차량 내 승객 검출 장치는, 상기 관심영역 내 미착석 승객이 검출되면, 미착석의 위험을 경보하거나, 착석 유도 및 출발을 안내하는 안내 방송을 출력하는 알람부;를 더 포함하며,
상기 제어부는, 상기 관심영역 내 미착석 승객이 검출되면 상기 알람부의 경보 및 안내 방송을 제어하고, 상기 관심영역 내 미착석 승객이 검출되지 않으면, 상기 차량의 출발을 지시하는 제어신호를 출력하는 것을 특징으로 하는 차량 내 승객 검출 장치. According to claim 4,
The device for detecting occupants in the vehicle further includes an alarm unit that, when an unseated passenger within the region of interest is detected, outputs an announcement to alert a risk of unseated seats or guide seating and departure,
The control unit controls an alarm and announcement of the alarm unit when an unseated passenger is detected in the region of interest, and outputs a control signal instructing departure of the vehicle when no unseated passenger is detected in the region of interest. In-vehicle detection device characterized by.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200186977A KR102514574B1 (en) | 2020-12-30 | 2020-12-30 | Apparatus for detecting passenger in a vehicle and method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200186977A KR102514574B1 (en) | 2020-12-30 | 2020-12-30 | Apparatus for detecting passenger in a vehicle and method thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20220097569A KR20220097569A (en) | 2022-07-08 |
KR102514574B1 true KR102514574B1 (en) | 2023-03-30 |
Family
ID=82407609
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200186977A KR102514574B1 (en) | 2020-12-30 | 2020-12-30 | Apparatus for detecting passenger in a vehicle and method thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102514574B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220318837A1 (en) * | 2021-04-06 | 2022-10-06 | Toyota Jidosha Kabushiki Kaisha | Information processing apparatus and information processing system |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102679356B1 (en) * | 2022-12-09 | 2024-06-28 | 재단법인대구경북과학기술원 | Apparatus and method for recognizing passenger using point cloud-based radar |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102494260B1 (en) * | 2016-12-06 | 2023-02-03 | 주식회사 에이치엘클레무브 | Driving Support Apparatus Of Vehicle And Driving Method Thereof |
KR102518535B1 (en) * | 2016-12-08 | 2023-04-07 | 현대자동차주식회사 | Apparatus and method for processing image of vehicle |
KR102591758B1 (en) * | 2018-11-07 | 2023-10-20 | 현대모비스 주식회사 | Apparatus for detecting passenger inside vehicle and control method thereof |
KR102298171B1 (en) | 2018-11-22 | 2021-09-07 | 한국자동차연구원 | Output control apparatus for driving nformation of autonomous vehicle and method thereof |
KR20200136522A (en) * | 2019-05-27 | 2020-12-08 | 현대자동차주식회사 | Vehicle and method for controlling thereof |
-
2020
- 2020-12-30 KR KR1020200186977A patent/KR102514574B1/en active IP Right Grant
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220318837A1 (en) * | 2021-04-06 | 2022-10-06 | Toyota Jidosha Kabushiki Kaisha | Information processing apparatus and information processing system |
Also Published As
Publication number | Publication date |
---|---|
KR20220097569A (en) | 2022-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7277559B2 (en) | Mobile apparatus | |
JP6377796B1 (en) | Elevator boarding detection system | |
KR102514574B1 (en) | Apparatus for detecting passenger in a vehicle and method thereof | |
US9311711B2 (en) | Image processing apparatus and image processing method | |
EP3367361B1 (en) | Method, device and system for processing startup of front vehicle | |
CN108241851B (en) | Information processing apparatus, information processing method, and program | |
JP6242966B1 (en) | Elevator control system | |
JP6139729B1 (en) | Image processing device | |
WO2011048718A1 (en) | Sign recognition device and sign recognition method | |
CN108242182B (en) | Information processing apparatus, information processing method, and recording medium | |
JPWO2019176391A1 (en) | Drive recorder, display control method and program | |
US8077916B2 (en) | Image processing system that detects an object by comparison of a difference between luminance of an illuminated and non-illuminated image | |
US11554774B2 (en) | Control apparatus, control method, and program | |
JPH1062162A (en) | Detector for obstacle | |
KR20150058881A (en) | Air circulation control method for vehicle based on image recognition | |
US11917335B2 (en) | Image processing device, movable device, method, and program | |
JP2023144233A (en) | Cab monitor system | |
US20230334672A1 (en) | Information processing device, information processing system, and information processing method | |
KR101582454B1 (en) | Method for cognition of movement object in photographing image and system for prevention of vehicle boarding accident | |
KR102643149B1 (en) | Apparatus for detecting passenger in a vehicle and method thereof | |
JP6582891B2 (en) | Empty vehicle frame identification system, method and program | |
WO2022168402A1 (en) | Information processing device, information processing method, and computer-readable medium | |
CN112456287B (en) | User detection system for elevator | |
US11827216B2 (en) | Optimal sensor reading for low latency object detection | |
US20230333557A1 (en) | Data processing method for object detection and identification and autonomous deriving device therefor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |