KR20240011544A - Method and apparatus for determining whether seat belt is worn - Google Patents

Method and apparatus for determining whether seat belt is worn Download PDF

Info

Publication number
KR20240011544A
KR20240011544A KR1020220089106A KR20220089106A KR20240011544A KR 20240011544 A KR20240011544 A KR 20240011544A KR 1020220089106 A KR1020220089106 A KR 1020220089106A KR 20220089106 A KR20220089106 A KR 20220089106A KR 20240011544 A KR20240011544 A KR 20240011544A
Authority
KR
South Korea
Prior art keywords
seat belt
bounding box
worn
determining whether
determining
Prior art date
Application number
KR1020220089106A
Other languages
Korean (ko)
Inventor
조웅래
Original Assignee
현대모비스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대모비스 주식회사 filed Critical 현대모비스 주식회사
Priority to KR1020220089106A priority Critical patent/KR20240011544A/en
Priority to US18/353,420 priority patent/US20240029452A1/en
Priority to EP23185771.5A priority patent/EP4310799A1/en
Publication of KR20240011544A publication Critical patent/KR20240011544A/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R22/00Safety belts or body harnesses in vehicles
    • B60R22/48Control systems, alarms, or interlock systems, for the correct application of the belt or harness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/29Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area inside the vehicle, e.g. for viewing passengers or cargo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R22/00Safety belts or body harnesses in vehicles
    • B60R22/48Control systems, alarms, or interlock systems, for the correct application of the belt or harness
    • B60R2022/4808Sensing means arrangements therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

착좌자를 포함하는 이미지를 획득하는 단계; 상기 착좌자의 상반신 영역에 대응되는 제1 바운딩 박스를 결정하는 단계; 시트 벨트를 검출하고, 검출된 시트 벨트를 포함하는 제2 바운딩 박스를 결정하는 단계; 및 상기 제1 바운딩 박스 및 상기 제2 바운딩 박스의 중첩도에 기반하여 상기 착좌자의 시트 벨트 착용 여부를 판단하는 단계;를 포함하는 시트 벨트 착용 여부 판단 방법 및 장치가 소개된다.acquiring an image including a seated person; determining a first bounding box corresponding to the upper body area of the seated person; detecting a seat belt and determining a second bounding box containing the detected seat belt; and determining whether the seated person is wearing a seat belt based on a degree of overlap between the first bounding box and the second bounding box. A method and device for determining whether a seat belt is worn is introduced.

Description

시트 벨트 착용 여부 판단 방법 및 장치{METHOD AND APPARATUS FOR DETERMINING WHETHER SEAT BELT IS WORN}Method and device for determining whether a seat belt is worn {METHOD AND APPARATUS FOR DETERMINING WHETHER SEAT BELT IS WORN}

본 발명은 영상 정보의 분석에 기반하여 착좌자의 시트 벨트 착용 여부를 판단할 수 있도록 하는 시트 벨트 착용 여부 판단 방법 및 장치에 관한 것이다.The present invention relates to a method and device for determining whether a seated person is wearing a seat belt based on analysis of image information.

오늘날의 대부분의 차량에 있어서는, 차량 충돌 사고 시에 탑승자의 안전을 보장하기 위한 시트 벨트가 탑재된다. 안전 벨트라고도 통칭되는 이러한 시트 벨트는 차량 충돌 시에 발생하는 충격으로 인해 탑승자가 시트로부터 급격히 이탈되어 차량 내부 구조와 충돌하거나, 차량 외부로 튕겨져 나가는 것을 방지하여 충돌 사고로 인한 탑승자의 상해를 최소화하는 역할을 수행한다.Most vehicles today are equipped with seat belts to ensure the safety of occupants in the event of a vehicle crash. These seat belts, also known as seat belts, minimize injuries to occupants from collision accidents by preventing occupants from being suddenly separated from the seat and colliding with the vehicle's internal structure or being thrown out of the vehicle due to the impact that occurs during a vehicle collision. perform its role.

이러한 시트 벨트는 탑승자의 시트 이탈 방지를 위해 탑승자의 신체를 구속하게 되는데, 이로 인해 압박감이 전해지게 되어 탑승자는 시트 벨트 착용에 불편함을 느끼게 된다. 이에 따라 시트 벨트가 구비되어 있음에도 불구하고 탑승자가 시트 벨트를 착용하지 않아 큰 상해를 입는 문제가 발생하게 되었다.These seat belts restrain the occupant's body to prevent the occupant from leaving the seat, which causes pressure to be transmitted and the occupant feels uncomfortable wearing the seat belt. Accordingly, even though seat belts are provided, a problem has arisen where passengers do not wear seat belts and suffer serious injuries.

이러한 문제를 해결하기 위해 탑승자의 시트 벨트 착용을 유도하는 종래 기술들이 개발되었다. 종래 기술의 한가지 예로, 무게 정보를 이용하여 시트 벨트 착용을 유도하는 기술이 있다. 이러한 기술은 시트 상단의 착좌면에 부착된 스위치 센서를 통해 시트에 가해지는 하중을 감지하여 탑승자의 유무를 판단하고, 시스 벨트에 부착된 버클 센서를 통해 시트 벨트 체결 여부를 판단한다. 이를 통해 탑승자가 존재함에도 시트 벨트가 체결되지 않은 경우를 인식할 수 있게 되어 알림 등을 통해 시트 벨트 착용을 유도할 수 있게 된다.To solve this problem, conventional technologies that encourage passengers to wear seat belts have been developed. One example of the prior art is a technology that induces seat belt wearing using weight information. This technology determines the presence or absence of an occupant by detecting the load applied to the seat through a switch sensor attached to the seating surface at the top of the seat, and determines whether the seat belt is fastened through a buckle sensor attached to the sheath belt. Through this, it is possible to recognize cases where the seat belt is not fastened even though there is an occupant, and it is possible to encourage people to wear the seat belt through notifications, etc.

그러나, 이러한 기술은 시트 벨트 착용을 회피하기 위해 Fake Buckle과 같은 별도의 도구를 통해 센서로 하여금 시트 벨트가 체결된 것으로 인식하게 하거나, 시트 벨트가 신체를 구속하지 않도록 본래의 용법과 달리 부적절하게 착용하는 경우에 있어서도 시트 벨트가 체결된 것으로 인식한다. 따라서, 탑승자가 실제로는 시트 벨트를 착용하지 않았음에도 시트 벨트가 착용된 상태로 판단하게 되어 시트 벨트 착용을 유도를 위한 기능이 작동한지 않는 문제가 존재한다.However, in order to avoid wearing a seat belt, this technology uses a separate tool such as a fake buckle to make the sensor recognize that the seat belt is fastened, or the seat belt is worn inappropriately, contrary to its original usage, so that it does not restrain the body. Even in this case, it is recognized that the seat belt is fastened. Therefore, there is a problem that the function for encouraging the seat belt to be worn does not work because the occupant is judged to be wearing a seat belt even though he or she is not actually wearing the seat belt.

KRKR 10-0844427 10-0844427 B1B1

본 발명은 영상 정보의 분석에 기반하여 착좌자의 시트 벨트 착용 여부를 보다 정확히 판단할 수 있도록 하는 시트 벨트 착용 여부 판단 방법 및 장치에 관한 것이다.The present invention relates to a method and device for determining whether a seated person is wearing a seat belt, which allows more accurate determination of whether a seated person is wearing a seat belt based on analysis of image information.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved in the present invention are not limited to the technical problems mentioned above, and other technical problems not mentioned will be clearly understood by those skilled in the art from the description below. You will be able to.

상기와 같은 기술적 과제를 해결하기 위하여, 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 방법은, 착좌자를 포함하는 이미지를 획득하는 단계; 상기 획득된 이미지로부터 상기 착좌자의 상반신 영역에 대응되는 제1 바운딩 박스를 결정하는 단계; 상기 획득된 이미지로부터 시트 벨트를 검출하고, 검출된 시트 벨트를 포함하는 제2 바운딩 박스를 결정하는 단계; 및 상기 제1 바운딩 박스 및 상기 제2 바운딩 박스의 중첩도에 기반하여 상기 착좌자의 시트 벨트 착용 여부를 판단하는 단계;를 포함한다.In order to solve the above technical problem, a method of determining whether a seat belt is worn according to an embodiment of the present invention includes the steps of acquiring an image including a seated person; determining a first bounding box corresponding to the upper body area of the seated person from the acquired image; detecting a seat belt from the acquired image and determining a second bounding box containing the detected seat belt; and determining whether the seated person is wearing a seat belt based on a degree of overlap between the first bounding box and the second bounding box.

예를 들어, 상기 제1 바운딩 박스를 결정하는 단계는, 상기 이미지로부터 상기 착좌자의 상반신 영역에 포함되는 적어도 하나의 기 설정된 포인트를 검출하는 단계; 및 상기 검출된 포인트에 기반하여 상기 제1 바운딩 박스를 결정하는 단계;를 포함할 수 있다.For example, determining the first bounding box may include detecting at least one preset point included in the upper body area of the seated person from the image; and determining the first bounding box based on the detected point.

예를 들어, 상기 기 설정된 포인트는, 상기 착좌자의 상반신 중 양쪽 어깨 및 복부 중앙에 각각 대응되는 포인트를 포함할 수 있다.For example, the preset point may include points corresponding to both shoulders and the center of the abdomen of the seated person's upper body.

예를 들어, 상기 제1 바운딩 박스를 결정하는 단계는, 상기 양쪽 어깨에 각각 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 폭을 결정하는 단계; 및 상기 양쪽 어깨에 각각 대응되는 포인트 중 적어도 하나 및 상기 복부 중앙에 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 높이를 결정하는 단계;를 포함할 수 있다.For example, determining the first bounding box may include determining a width of the first bounding box based on points corresponding to each of the two shoulders; and determining the height of the first bounding box based on at least one of the points corresponding to each of the two shoulders and a point corresponding to the center of the abdomen.

예를 들어, 상기 기 설정된 포인트 중 일부가 검출되지 않는 경우 검출된 다른 포인트에 기반하여 검출되지 않은 포인트를 도출하는 단계;를 더 포함하고, 상기 제1 바운딩 박스를 결정하는 단계는, 도출된 포인트를 추가적으로 고려하여 상기 제1 바운딩 박스를 결정할 수 있다.For example, if some of the preset points are not detected, deriving points that were not detected based on other detected points, the step of determining the first bounding box may include deriving points that were not detected. The first bounding box can be determined by additionally considering .

예를 들어, 상기 제2 바운딩 박스를 결정하는 단계는, 상기 획득된 이미지로부터 시트 벨트 특성 정보를 추출하는 단계; 상기 추출된 시트 벨트 특성 정보로부터 분류(Classification) 정보를 획득하는 단계; 및 상기 획득된 분류 정보에 기반하여 시트 벨트를 검출하는 단계;를 포함할 수 있다.For example, determining the second bounding box may include extracting seat belt characteristic information from the acquired image; Obtaining classification information from the extracted seat belt characteristic information; and detecting a seat belt based on the obtained classification information.

예를 들어, 상기 시트 벨트 착용 여부를 판단하는 단계는, 상기 중첩도를 기 설정된 문턱값(Threshold)과 비교하여 시트 벨트 착용 여부를 판단하는 단계;를 포함할 수 있다.For example, the step of determining whether the seat belt is worn may include comparing the degree of overlap with a preset threshold to determine whether the seat belt is worn.

예를 들어, 상기 시트 벨트 착용 여부를 판단하는 단계는, 상기 중첩도가 기 설정된 문턱값 이하인 경우 착좌자가 시트 벨트를 미착용한 것으로 판단하는 단계;를 포함할 수 있다.For example, the step of determining whether the seat belt is worn may include determining that the seated person is not wearing a seat belt when the overlap degree is less than or equal to a preset threshold.

예를 들어, 상기 제1 바운딩 박스를 결정하는 단계, 상기 제2 바운딩 박스를 결정하는 단계 또는 이들의 조합은, 상기 획득된 이미지를 소정의 인공 지능 학습 모델에 입력함으로써 수행될 수 있다.For example, determining the first bounding box, determining the second bounding box, or a combination thereof may be performed by inputting the acquired image into a predetermined artificial intelligence learning model.

예를 들어, 상기 인공 지능 학습 모델은, 인공 지능 알고리즘으로서, 기계학습, 신경망, 딥러닝, 분류 알고리즘 또는 이들의 조합 중 적어도 하나를 포함할 수 있다.For example, the artificial intelligence learning model is an artificial intelligence algorithm and may include at least one of machine learning, neural network, deep learning, classification algorithm, or a combination thereof.

상기와 같은 기술적 과제를 해결하기 위하여, 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 장치는, 차량 내부를 촬영하는 카메라; 및 상기 카메라를 통해 획득된 착좌자를 포함하는 이미지로부터 제1 바운딩 박스 및 제2 바운딩 박스를 결정하고, 상기 제1 바운딩 박스 및 상기 제2 바운딩 박스의 중첩도에 기반하여 상기 착좌자의 시트 벨트 착용 여부를 판단하는 제어기;를 포함하고, 상기 제1 바운딩 박스는, 상기 착좌자의 상반신 영역에 대응되고, 상기 제2 바운딩 박스는, 상기 제어기를 통해 상기 획득된 이미지로부터 검출된 시트 벨트를 포함한다.In order to solve the above technical problem, an apparatus for determining whether a seat belt is worn according to an embodiment of the present invention includes a camera for photographing the inside of a vehicle; and determining a first bounding box and a second bounding box from the image including the seated person obtained through the camera, and whether the seated person is wearing a seat belt based on the degree of overlap between the first bounding box and the second bounding box. and a controller that determines, wherein the first bounding box corresponds to an upper body area of the seated person, and the second bounding box includes a seat belt detected from the acquired image through the controller.

예를 들어, 상기 제어기는, 상기 이미지로부터 상기 착좌자의 상반신 영역에 포함되는 적어도 하나의 기 설정된 포인트를 검출하고, 검출된 포인트에 기반하여 상기 제1 바운딩 박스를 결정할 수 있다.For example, the controller may detect at least one preset point included in the upper body area of the seated person from the image and determine the first bounding box based on the detected point.

예를 들어, 상기 기 설정된 포인트는, 상기 착좌자의 상반신 중 양쪽 어깨 및 복부 중앙에 각각 대응되는 포인트를 포함할 수 있다.For example, the preset point may include points corresponding to both shoulders and the center of the abdomen of the seated person's upper body.

예를 들어, 상기 제어기는, 상기 양쪽 어깨에 각각 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 폭을 결정하고, 상기 양쪽 어깨에 각각 대응되는 포인트 중 적어도 하나 및 상기 복부 중앙에 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 높이를 결정할 수 있다.For example, the controller determines the width of the first bounding box based on the points corresponding to each of the two shoulders, and determines the width of the first bounding box to at least one of the points corresponding to each of the two shoulders and a point corresponding to the center of the abdomen. Based on this, the height of the first bounding box can be determined.

예를 들어, 상기 제어기는, 상기 기 설정된 포인트 중 일부가 검출되지 않는 경우 검출된 다른 포인트에 기반하여 검출되지 않은 포인트를 도출하고, 도출된 포인트를 추가적으로 고려하여 상기 제1 바운딩 박스를 결정할 수 있다.For example, if some of the preset points are not detected, the controller may derive a point that was not detected based on other detected points and determine the first bounding box by additionally considering the derived points. .

예를 들어, 상기 제어기는, 상기 획득된 이미지로부터 시트 벨트 특성 정보를 추출하여, 추출된 시트 벨트 특정 정보로부터 분류(Classification) 정보를 획득하고, 획득된 분류 정보에 기반하여 시트 벨트를 검출할 수 있다.For example, the controller may extract seat belt characteristic information from the acquired image, obtain classification information from the extracted seat belt specific information, and detect the seat belt based on the obtained classification information. there is.

예를 들어, 상기 제어기는, 상기 중첩도를 기 설정된 문턱값(Threshold)과 비교하여 시트 벨트 착용 여부를 판단할 수 있다.For example, the controller may determine whether a seat belt is worn by comparing the degree of overlap with a preset threshold.

예를 들어, 상기 제어기는, 상기 중첩도가 기 설정된 문턱값 이하인 경우 착좌자가 시트 벨트를 미착용한 것으로 판단할 수 있다.For example, the controller may determine that the seated person is not wearing a seat belt when the degree of overlap is less than or equal to a preset threshold.

예를 들어, 상기 제어기는, 상기 획득된 이미지를 소정의 인공 지능 학습 모델에 입력함으로써 상기 제1 바운딩 박스, 상기 제2 바운딩 박스 또는 이들의 조합 중 적어도 하나를 결정할 수 있다.For example, the controller may determine at least one of the first bounding box, the second bounding box, or a combination thereof by inputting the acquired image into a predetermined artificial intelligence learning model.

예를 들어, 상기 인공 지능 학습 모델은, 인공 지능 알고리즘으로서, 기계학습, 신경망, 딥러닝, 분류 알고리즘 또는 이들의 조합 중 적어도 하나를 포함할 수 있다.For example, the artificial intelligence learning model is an artificial intelligence algorithm and may include at least one of machine learning, neural network, deep learning, classification algorithm, or a combination thereof.

본 발명의 과제는 이상에서 언급한 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The object of the present invention is not limited to the problems mentioned above, and other problems not mentioned will be clearly understood by those skilled in the art from the description below.

상기와 같이 구성되는 본 발명의 적어도 하나의 실시예에 관련된 시트 벨트 착용 여부 판단 방법은 영상 정보의 분석에 기반하여 시트 벨트 착용 여부를 보다 정확하게 판단하고, 시트 벨트가 본래의 용법에 따라 적절하게 착용되었는지 판단할 수 있다.The method for determining whether a seat belt is worn or not according to at least one embodiment of the present invention configured as described above more accurately determines whether a seat belt is worn based on analysis of image information, and determines whether the seat belt is properly worn according to its original usage. You can determine whether it has been done.

나아가, 영상 정보 상의 착좌자와 시트 벨트에 대응되는 바운딩 박스를 이용하여 시트 벨트 착용 여부를 판단함으로써 영상 정보 분석의 정확도를 향상하고, 판단 속도를 보다 향상시킬 수 있게 된다.Furthermore, by determining whether or not a seat belt is worn using the bounding box corresponding to the seated person and the seat belt on the image information, the accuracy of image information analysis can be improved and the judgment speed can be further improved.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects that can be obtained from the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description below. will be.

도 1은 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 장치의 구성을 나타낸 도면.
도 2는 본 발명의 일 실시예에 있어서, 시트 벨트 착용 여부 판단을 위해 바운딩 박스 간의 중첩도를 도출하는 과정을 설명하기 위한 도면.
도 3은 본 발명의 일 실시예에 있어서, 중첩도에 기반한 시트 벨트 착용 여부를 판단하는 방법을 설명하기 위한 도면.
도 4는 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 방법의 순서도.
1 is a diagram showing the configuration of a device for determining whether a seat belt is worn according to an embodiment of the present invention.
Figure 2 is a diagram illustrating a process for deriving the degree of overlap between bounding boxes to determine whether a seat belt is worn, according to an embodiment of the present invention.
Figure 3 is a diagram for explaining a method of determining whether a seat belt is worn based on the degree of overlap, according to an embodiment of the present invention.
Figure 4 is a flowchart of a method for determining whether a seat belt is worn according to an embodiment of the present invention.

본 명세서 또는 출원에 개시되어 있는 본 발명의 실시예들에 대해서 특정한 구조적 내지 기능적 설명들은 단지 본 발명에 따른 실시예를 설명하기 위한 목적으로 예시된 것으로, 본 발명에 따른 실시예들은 다양한 형태로 실시될 수 있으며 본 명세서 또는 출원에 설명된 실시예들에 한정되는 것으로 해석되어서는 아니 된다. Specific structural and functional descriptions of the embodiments of the present invention disclosed in the present specification or application are merely illustrative for the purpose of explaining the embodiments according to the present invention, and the embodiments according to the present invention are implemented in various forms. It may be possible and should not be construed as being limited to the embodiments described in this specification or application.

본 발명에 따른 실시예는 다양한 변경을 가할 수 있고 여러가지 형태를 가질 수 있으므로 특정 실시예들을 도면에 예시하고 본 명세서 또는 출원에 상세하게 설명하고자 한다. 그러나, 이는 본 발명의 개념에 따른 실시예를 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. Since the embodiments according to the present invention can make various changes and have various forms, specific embodiments will be illustrated in the drawings and described in detail in the specification or application. However, this is not intended to limit the embodiments according to the concept of the present invention to a specific disclosed form, and should be understood to include all changes, equivalents, and substitutes included in the spirit and technical scope of the present invention.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미이다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미인 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. Unless otherwise defined, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by a person of ordinary skill in the technical field to which the present invention pertains. Terms defined in commonly used dictionaries should be interpreted as having a meaning consistent with the meaning in the context of the related technology, and unless clearly defined in this specification, should not be interpreted as having an ideal or excessively formal meaning. .

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. Hereinafter, embodiments disclosed in the present specification will be described in detail with reference to the attached drawings. However, identical or similar components will be assigned the same reference numbers regardless of reference numerals, and duplicate descriptions thereof will be omitted.

이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. The suffixes “module” and “part” for components used in the following description are given or used interchangeably only for the ease of preparing the specification, and do not have distinct meanings or roles in themselves.

본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. In describing the embodiments disclosed in this specification, if it is determined that detailed descriptions of related known technologies may obscure the gist of the embodiments disclosed in this specification, the detailed descriptions will be omitted. In addition, the attached drawings are only for easy understanding of the embodiments disclosed in this specification, and the technical idea disclosed in this specification is not limited by the attached drawings, and all changes included in the spirit and technical scope of the present invention are not limited. , should be understood to include equivalents or substitutes.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms containing ordinal numbers, such as first, second, etc., may be used to describe various components, but the components are not limited by the terms. The above terms are used only for the purpose of distinguishing one component from another.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.When a component is said to be "connected" or "connected" to another component, it is understood that it may be directly connected to or connected to the other component, but that other components may exist in between. It should be. On the other hand, when it is mentioned that a component is “directly connected” or “directly connected” to another component, it should be understood that there are no other components in between.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. Singular expressions include plural expressions unless the context clearly dictates otherwise.

본 명세서에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. In this specification, terms such as “comprise” or “have” are intended to indicate the presence of features, numbers, steps, operations, components, parts, or combinations thereof described in the specification, but are not intended to indicate the presence of one or more other features. It should be understood that this does not exclude in advance the possibility of the existence or addition of elements, numbers, steps, operations, components, parts, or combinations thereof.

제어기(Controller)는 담당하는 기능의 제어를 위해 다른 제어기나 센서와 통신하는 통신 장치, 운영체제나 로직 명령어와 입출력 정보 등을 저장하는 메모리 및 담당 기능 제어에 필요한 판단, 연산, 결정 등을 수행하는 하나 이상의 프로세서를 포함할 수 있다.A controller is a communication device that communicates with other controllers or sensors to control the function it is in charge of, a memory that stores the operating system, logic commands, input/output information, etc., and a device that performs the judgments, calculations, and decisions necessary to control the function it is in charge of. It may include more than one processor.

본 발명의 실시예들에서는 영상 정보의 분석에 기반하여 시트 벨트 착용 여부를 판단함에 있어, 착좌자와 시트 벨트에 대응되는 바운딩 박스를 기반으로 시트 벨트 착용 여부를 판단하여, 시트 벨트 착용 여부를 보다 정확히 판단하고, 나아가 시트 벨트가 본래의 용법에 따라 적절히 착용되었는지 여부까지 판단할 수 있도록 하는 시트 벨트 착용 여부 판단 방법 및 장치를 제안한다.In embodiments of the present invention, when determining whether or not a seat belt is worn based on analysis of image information, whether or not a seat belt is worn is determined based on the bounding box corresponding to the seated person and the seat belt, thereby determining whether or not the seat belt is worn. We propose a method and device for determining whether a seat belt is worn, which accurately determines whether the seat belt is worn properly according to its intended use.

본 발명에 따른 시트 벨트 착용 여부 판단 방법을 설명하기에 앞서, 도 1을 참조하여 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 장치를 먼저 설명한다.Before explaining the method for determining whether a seat belt is worn according to the present invention, a device for determining whether a seat belt is worn according to an embodiment of the present invention will first be described with reference to FIG. 1 .

도 1은 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 장치의 구성을 나타낸 도면이다.Figure 1 is a diagram showing the configuration of a device for determining whether a seat belt is worn according to an embodiment of the present invention.

도 1을 참조하면, 일 실시예에 따른 시트 벨트(110) 착용 여부 판단 장치(100)는 카메라(140) 및 제어기(150)를 포함한다. 도 1은 본 발명의 실시예들과 관련된 구성 요소를 위주로 도시한 것으로, 실제 판단 장치(100)의 구현에 있어서는 이보다 많은 구성 요소가 포함될 수 있음은 당업자에 자명하다. 이하, 각 구성 요소를 설명한다.Referring to FIG. 1, an apparatus 100 for determining whether a seat belt 110 is worn according to an embodiment includes a camera 140 and a controller 150. Figure 1 mainly shows components related to embodiments of the present invention, and it is obvious to those skilled in the art that more components may be included in the actual implementation of the decision device 100. Below, each component will be described.

먼저, 카메라(140)는 차량 내부를 촬영하고, 촬영된 이미지를 제어기(150) 등에 전달하는 기능을 수행한다. 시트 벨트(110) 착용 여부 판단의 편의를 위해 착좌자의 전면을 잘 인식할 수 있도록 카메라(140)는 차량 내부의 전방에 구비되어 후방을 향해 촬영하는 것이 적절하다. 이 경우 차량 내부를 촬영하는 카메라(140)는 인캐빈 카메라(In-Cabin Camera)로 구현될 수 있다. 한편, 인캐빈 카메라는 차량 실내에 장착되어 착좌자의 상태를 실시간으로 확인할 수 있어 카메라(140)가 인캐빈 카메라로 구현되는 경우 실시간으로 제공되는 이미지를 활용하여 시트 벨트(110) 착용 여부를 지속적으로 모니터링할 수 있게 된다.First, the camera 140 performs the function of photographing the interior of the vehicle and transmitting the photographed image to the controller 150, etc. For the convenience of determining whether or not the seat belt 110 is worn, it is appropriate that the camera 140 be installed at the front of the vehicle and shoot toward the rear so that the front of the seated person can be clearly recognized. In this case, the camera 140 that photographs the interior of the vehicle may be implemented as an in-cabin camera. Meanwhile, the in-cabin camera is mounted inside the vehicle and can check the status of the seated person in real time. If the camera 140 is implemented as an in-cabin camera, it continuously checks whether the seat belt 110 is worn by using the image provided in real time. Monitoring becomes possible.

한편, 제어기(150)는 카메라(140)로부터 착좌자를 포함하는 이미지를 획득하고, 이를 통해 착좌자의 시트 벨트(110) 착용 여부를 판단한다. 제어기(150)는 획득된 이미지로부터 제1 바운딩 박스(210) 및 제2 바운딩 박스(220)를 결정하며 결정된 바운딩 박스 간의 중첩도에 기반하여 착좌자의 시트 벨트(110) 착용 여부를 판단하게 된다. 여기서, 제1 바운딩 박스(210)는 획득된 이미지 상에서의 착좌자의 상반신 영역에 대응되며, 제2 바운딩 박스(220)는 획득된 이미지로부터 검출된 시트 벨트(110)를 포함한다. 제어기(150)에 의한 착좌자의 시트 벨트(110) 착용 여부 판단에 대한 보다 구체적인 설명은 이하 도 2 및 도 3을 참조하여 이하 설명하도록 한다.Meanwhile, the controller 150 obtains an image including the seated person from the camera 140 and determines whether the seated person is wearing the seat belt 110 through the image. The controller 150 determines the first bounding box 210 and the second bounding box 220 from the acquired image and determines whether the seated person is wearing the seat belt 110 based on the degree of overlap between the determined bounding boxes. Here, the first bounding box 210 corresponds to the upper body area of the seated person on the acquired image, and the second bounding box 220 includes the seat belt 110 detected from the acquired image. A more detailed description of the determination by the controller 150 of whether the seated person is wearing the seat belt 110 will be described below with reference to FIGS. 2 and 3 .

도 2는 본 발명의 일 실시예에 있어서, 시트 벨트 착용 여부 판단을 위해 바운딩 박스 간의 중첩도를 도출하는 과정을 설명하기 위한 도면이다.FIG. 2 is a diagram illustrating a process for deriving a degree of overlap between bounding boxes to determine whether a seat belt is worn, according to an embodiment of the present invention.

도 2를 참조하면 카메라(140)로부터 획득한 이미지 상에 착좌자와 시트 벨트(110), 제1 바운딩 박스(210), 제2 바운딩 박스(220) 및 중첩 영역(230)이 표시된다. Referring to FIG. 2 , a seated person, a seat belt 110, a first bounding box 210, a second bounding box 220, and an overlapping area 230 are displayed on the image acquired from the camera 140.

먼저, 획득된 이미지로부터 착좌자의 상반신 영역에 대응되는 제1 바운딩 박스(210)를 결정하는 과정을 설명한다. 제어기(150)는 제1 바운딩 박스(210)를 결정하기 위해 획득된 이미지로부터 착좌자의 상반신 영역에 포함되는 적어도 하나의 기 설정된 포인트를 검출할 수 있다. 이 경우 각 포인트는 이미지 상에 나타난 착좌자의 상반신의 각 지점과 대응될 수 있으며, 특히 제1 바운딩 박스(210)가 착좌자의 상반신 영역에 대응되도록 하기 위해 상반신의 경계가 되는 왼쪽 어깨(211), 오른쪽 어깨(212) 및 복부 중앙(213)에 대응되도록 설정될 수 있다. First, the process of determining the first bounding box 210 corresponding to the upper body area of the seated person from the acquired image will be described. The controller 150 may detect at least one preset point included in the upper body area of the seated person from the image acquired to determine the first bounding box 210. In this case, each point may correspond to each point of the upper body of the seated person shown on the image. In particular, in order to ensure that the first bounding box 210 corresponds to the upper body area of the seated person, the left shoulder 211, which is the boundary of the upper body, It can be set to correspond to the right shoulder 212 and the center of the abdomen 213.

제어기(150)는 검출된 각 포인트들에 기반하여 제1 바운딩 박스(210)를 결정할 수 있다. 특히 획득된 이미지에 나타난 착좌자 상반신의 양쪽 어깨(211,212) 및 복부 중앙에 대응되는 포인트들이 검출된 경우에는 왼쪽 어깨(211)에 대응되는 포인트 및 오른쪽 어깨(212)에 대응되는 포인트에 기반하여 제1 바운딩 박스(210)의 폭을 결정할 수 있다. 또한, 양쪽 어깨(211,212)에 대응되는 포인트들 중 적어도 하나와 복부 중앙에 대응되는 포인트(213)에 기반하여 제1 바운딩 박스(210)의 높이를 결정할 수 있다. 예를 들면, 양쪽 어깨(211,212)에 대응되는 포인트들 사이의 수평 거리를 제1 바운딩 박스(210)의 폭으로, 양쪽 어깨(211,212)에 대응되는 포인트들과 복부 중앙 제어기(150)가 사이의 수직 거리를 제1 바운딩 박스(210)의 높이로 결정할 수 있다. 이와 같이 제1 바운딩 박스(210)를 결정함으로써, 제1 바운딩 박스(210)가 이미지 상의 착좌자 상반신 영역에 비해 지나치게 작거나 크게 결정되는 것을 방지하여 착좌자 상반신 영역과 적절히 대응될 수 있도록 할 수 있게 된다.The controller 150 may determine the first bounding box 210 based on each detected point. In particular, when points corresponding to both shoulders 211, 212 and the center of the abdomen of the seated person's upper body shown in the acquired image are detected, the points corresponding to the left shoulder 211 and the points corresponding to the right shoulder 212 are used. 1 The width of the bounding box 210 can be determined. Additionally, the height of the first bounding box 210 may be determined based on at least one of the points corresponding to both shoulders 211 and 212 and the point 213 corresponding to the center of the abdomen. For example, the horizontal distance between the points corresponding to both shoulders 211 and 212 is the width of the first bounding box 210, and the distance between the points corresponding to both shoulders 211 and 212 and the abdominal central controller 150 is The vertical distance may be determined by the height of the first bounding box 210. By determining the first bounding box 210 in this way, it is possible to prevent the first bounding box 210 from being determined to be too small or large compared to the upper body area of the seated person in the image so that it can appropriately correspond to the upper body area of the seated person. There will be.

한편, 착좌자의 자세나 기타 장애물들로 인해 착좌자의 상반신 중 일부가 가려진 경우 획득된 이미지로부터 기 설정된 포인트 중 일부가 검출되지 않을 수 있다. 이러한 경우 제어기(150)는 검출된 나머지 포인트에 기반하여 검출되지 않은 포인트를 도출할 수 있으며, 도출된 포인트를 검출된 포인트와 함께 고려하여 제1 바운딩 박스(210)를 결정할 수 있다. 예를 들면, 착좌자의 왼쪽 어깨(211)가 가려져 그에 대응되는 포인트가 검출되지 않은 경우, 복부 중앙(213) 또는 명치에 대응되는 포인트와 오른쪽 어깨(212) 사이의 수평방향 거리를 구하고, 양쪽 어깨가 대칭이라는 가정하에 복부 중앙(213) 또는 명치에 대응되는 포인트로부터 왼쪽방향에 전술한 수평방향 거리만큼 떨어진 지점을 왼쪽 어깨(211)에 대응되는 포인트로 도출할 수 있다. 또한, 이와 달리 저장되어 있거나, 전달받은 별도의 인체 정보를 활용하여 검출되지 않은 포인트를 도출할 수도 있다.Meanwhile, if part of the seated person's upper body is obscured by the seated person's posture or other obstacles, some of the preset points may not be detected from the acquired image. In this case, the controller 150 may derive points that were not detected based on the remaining detected points, and determine the first bounding box 210 by considering the derived points together with the detected points. For example, if the left shoulder 211 of the seated person is obscured and the corresponding point is not detected, the horizontal distance between the point corresponding to the center of the abdomen 213 or the solar plexus and the right shoulder 212 is calculated, and both shoulders Under the assumption that is symmetrical, a point located away from the point corresponding to the center of the abdomen 213 or the solar plexus by the above-mentioned horizontal distance to the left can be derived as the point corresponding to the left shoulder 211. Additionally, undetected points can also be derived by utilizing separate human body information that has been stored or received differently.

한편, 제어기(150)는 획득된 이미지로부터 시트 벨트(110)를 검출하고, 검출된 시트 벨트(110)를 포함하는 제2 바운딩 박스(220)를 결정할 수 있다. 이를 위해 제어기(150)는 획득된 이미지로부터 시트 벨트(110) 특성 정보를 추출하여, 추출된 특정 정보로부터 분류(Classification) 정보를 획득할 수 있고, 획득된 분류 정보에 기반하여 시트 벨트를 검출할 수 있다. 여기서 시트 벨트(110) 특성 정보는 시트 벨트(110)의 색, 형태, 위치 등을 포함할 수 있고, 이를 통해 획득된 분류 정보는 이미지 상에서 시트 벨트(110)와 다른 물체를 구별할 수 있도록 한다.Meanwhile, the controller 150 may detect the seat belt 110 from the acquired image and determine the second bounding box 220 including the detected seat belt 110. To this end, the controller 150 can extract characteristic information of the seat belt 110 from the acquired image, obtain classification information from the extracted specific information, and detect the seat belt based on the obtained classification information. You can. Here, the seat belt 110 characteristic information may include the color, shape, and location of the seat belt 110, and the classification information obtained through this allows the seat belt 110 and other objects to be distinguished in the image. .

한편, 제1 바운딩 박스(210) 및 제2 바운딩 박스(210)의 결정은 획득된 이미지를 소정의 인공 지능 학습 모델에 입력함을써 수행될 수 있다. 여기서, 인공 지능 학습 모델은 인공 지능 알고리즘으로서, 기계학습, 신경망, 딥러닝, 분류 알고리즘 또는 이들의 조합 중 적어도 하나를 포함할 수 있다.Meanwhile, determination of the first bounding box 210 and the second bounding box 210 can be performed by inputting the acquired image into a predetermined artificial intelligence learning model. Here, the artificial intelligence learning model is an artificial intelligence algorithm and may include at least one of machine learning, neural network, deep learning, classification algorithm, or a combination thereof.

특히, 제1 바운딩 박스(210)의 결정에는 인공 지능 학습 모델의 Human Pose Estimation가 활용될 수 있다. Human Pose Estimation은 인간의 중요 신체 부위에 대응되는 복수의 키포인트들을 검출하고 이를 통해 대상이 되는 인간의 포즈를 추정하는 것으로, 여기서 검출된 키포인트 중 착좌자의 상반신에 포함되는 것들을 본 발명의 일 실시예에 있어서의 제1 바운딩 박스(210)를 결정하기 위한 포인트들로 활용할 수 있다. 또한, 시트 벨트(110)의 검출에 있어서 인공 지능 학습 모델의 Classification이 활용되어 검출 정확도를 향상시키고, 제1 바운딩 박스(210) 및 제2 바운딩 박스(220)가 보다 정확한 값을 가질 수 있도록 보정하기 위하여 인공 지능 학습 모델의 Bounding Box Regression가 활용될 수 있다.In particular, Human Pose Estimation of an artificial intelligence learning model can be used to determine the first bounding box 210. Human Pose Estimation detects a plurality of key points corresponding to important human body parts and estimates the target human pose through them. Among the detected key points, those included in the upper body of the seated person are used in an embodiment of the present invention. It can be used as points for determining the first bounding box 210. In addition, in detecting the seat belt 110, classification of an artificial intelligence learning model is used to improve detection accuracy, and the first bounding box 210 and the second bounding box 220 are corrected to have more accurate values. To do this, Bounding Box Regression of the artificial intelligence learning model can be used.

이러한 과정을 통해 제1 바운딩 박스(210) 및 제2 바운딩 박스(220)가 결정된 경우 제어기(150)는 이들의 중첩도를 판단하게 된다. 여기서, 중첩도는 획득된 이미지 상에서 제1 바운딩 박스(210) 및 제2 바운딩 박스(220)에 모두 포함되는 영역(230)의 면적에 기반하여 산정될 수 있다.When the first bounding box 210 and the second bounding box 220 are determined through this process, the controller 150 determines their degree of overlap. Here, the degree of overlap may be calculated based on the area of the area 230 included in both the first bounding box 210 and the second bounding box 220 in the acquired image.

도 2를 참조하여 설명한 것과 같이 카메라(140)를 통해 획득한 이미지의 분석을 통해 시트 벨트(110) 착용 여부를 판단함으로써, 버클 센서 등에 의해 시트 벨트(110) 체결 상태로 인식되지만 실질적으로 착좌자가 시트 벨트(110)를 착용하지 않은 경우에도 시트 벨트(110) 미착용 상태로 판단할 수 있게 된다. 나아가, 이를 통해 실질적인 시트 벨트(110) 착용을 유도할 수 있게 된다.As described with reference to FIG. 2, by determining whether the seat belt 110 is worn through analysis of the image acquired through the camera 140, the seat belt 110 is recognized as fastened by a buckle sensor, etc., but the seated person is actually Even when the seat belt 110 is not worn, it can be determined that the seat belt 110 is not worn. Furthermore, through this, it is possible to encourage actual wearing of the seat belt 110.

한편, 획득된 이미지 상에서 시트 벨트(110) 영역 분할(Segmentation)을 통해 시트 벨트(110) 착용 여부를 판단하는 경우 이미지의 픽셀 개수만큼의 방대한 양의 정보가 요구되어 제어기(150)에 과부하가 걸릴 수 있다. 반면, 본 발명의 실시예들에 따라 제1 바운딩 박스(210)와 제2 바운딩 박스(220)를 이용함으로써, 바운딩 박스의 네 꼭지점 정보, 폭 및 높이에 대한 정보만으로 시트 벨트(110) 착용 여부를 판단할 수 있게 된다. 이를 통해 판단을 위해 요구되는 정보의 양을 감축하고, 판단 속도를 향상시킬 수 있게 된다.On the other hand, when determining whether or not the seat belt 110 is worn through segmentation of the seat belt 110 area on the acquired image, a huge amount of information equal to the number of pixels in the image is required, which may overload the controller 150. You can. On the other hand, by using the first bounding box 210 and the second bounding box 220 according to embodiments of the present invention, whether the seat belt 110 is worn only with information about the four vertices, width, and height of the bounding box. It becomes possible to judge. This reduces the amount of information required for judgment and improves judgment speed.

이하, 위와 같은 과정을 통해 산출된 중첩도에 기반하여 시트 벨트(110) 착용 여부를 판단하는 과정에 대하여 도 3을 참조하여 설명한다.Hereinafter, the process of determining whether the seat belt 110 is worn based on the degree of overlap calculated through the above process will be described with reference to FIG. 3.

도 3은 본 발명의 일 실시예에 있어서, 중첩도에 기반한 시트 벨트 착용 여부를 판단하는 방법을 설명하기 위한 도면이다.Figure 3 is a diagram for explaining a method of determining whether a seat belt is worn based on the degree of overlap, according to an embodiment of the present invention.

도 3을 참조하면, 일 실시예에 있어서, 시트 벨트 착용 여부를 판단하는 방법을 설명하기 위해 중첩도를 세로축으로, 시간을 가로축으로 갖는 그래프가 표현될 수 있다. 표현된 그래프는 이해를 돕기 위해 대략적인 추세를 나타낸 것으로 정확한 값을 나타내지 않는다.Referring to FIG. 3, in one embodiment, in order to explain a method of determining whether a seat belt is worn, a graph may be displayed with the degree of overlap as the vertical axis and time as the horizontal axis. The displayed graph shows an approximate trend to aid understanding and does not represent exact values.

먼저. 그래프 상에서 중첩도가 고정된 값을 갖지 않고 변화하는 것을 확인할 수 있다. 중첩도가 시간에 따라 결정되는 것은 아니지만, 착좌자는 고정된 물체가 아니므로 착좌자의 움직임에 따라 이미지 상에 나타나는 착좌자 및 시트 벨트(110)의 영역에 변동이 생기게 되고, 이에 따라 제1 바운딩 박스(210)와 제2 바운딩 박스(220)의 중첩도가 변동되기 때문이다.first. On the graph, you can see that the degree of overlap does not have a fixed value but changes. Although the degree of overlap is not determined by time, since the seated person is not a fixed object, the area of the seated person and the seat belt 110 appearing on the image changes according to the movement of the seated person, and thus the first bounding box This is because the degree of overlap between 210 and the second bounding box 220 changes.

본 발명의 일 실시예에 있어서, 시트 벨트(110) 착용 여부 판단은 카메라(140)가 착좌자를 지속적으로 촬영하여 이미지를 실시간으로 제어기(150)에 전달하고, 제어기(150)가 이를 전달받아 착좌자의 시트 벨트(110) 착용 여부를 판단할 수 있다. 이를 통해 그래프 상에 표현된 것과 같이 변화될 수 있는 착좌자의 시트 벨트(110) 착용 여부를 지속적으로 모니터링할 수 있게 된다.In one embodiment of the present invention, to determine whether or not the seat belt 110 is worn, the camera 140 continuously photographs the seated person and transmits the images to the controller 150 in real time, and the controller 150 receives the images to determine whether the seat belt 110 is worn. It can be determined whether the person is wearing the seat belt 110. Through this, it is possible to continuously monitor whether the seated person is wearing the seat belt 110, which can change as shown in the graph.

한편, 제어기(150)는 제1 바운딩 박스(210)와 제2 바운딩 박스(220)의 중첩도와 기 설정된 문턱값(Threshold)을 비교하고, 비교 결과에 기반하여 시트 벨트(110) 착용 여부를 판단할 수 있다.Meanwhile, the controller 150 compares the degree of overlap between the first bounding box 210 and the second bounding box 220 with a preset threshold, and determines whether the seat belt 110 is worn based on the comparison result. can do.

이 경우 제1 바운딩 박스는 착좌자의 상반신 영역에 대응되고, 제2 바운딩 박스는 시트 벨트(110)를 포함하므로, 중첩도가 큰 값을 가질수록 착좌자가 시트 벨트(110)를 착용한 상태일 확률이 높아지게 된다. 이에 따라 제어기(150)는 중첩도가 기 설정된 문턱값을 초과하는 경우 착좌자가 시트 벨트(110)를 착용한 것으로, 중첩도가 기 설정된 문턱값 이하인 경우 착좌자가 시트 벨트(110)를 착용하지 않은 것으로 판단할 수 있다.In this case, the first bounding box corresponds to the upper body area of the seated person, and the second bounding box includes the seat belt 110, so the higher the overlap, the more likely it is that the seated person is wearing the seat belt 110. This becomes higher. Accordingly, the controller 150 determines that the seated person is wearing the seat belt 110 when the degree of overlap exceeds the preset threshold, and determines that the seated person is not wearing the seat belt 110 when the degree of overlap is less than the preset threshold. It can be judged that

이상에서 설명한 내용을 순서도로 표현하면 도 4와 같다. 이하, 도 4를 참조하여 본 발명의 일 실시예에 따른 시트 벨트(110) 착용 여부 판단 방법에 대하여 설명한다.The contents described above are expressed in a flowchart as shown in FIG. 4. Hereinafter, a method for determining whether the seat belt 110 is worn according to an embodiment of the present invention will be described with reference to FIG. 4.

도 4는 본 발명의 일 실시예에 따른 시트 벨트 착용 여부 판단 방법의 순서도이다.Figure 4 is a flowchart of a method for determining whether a seat belt is worn according to an embodiment of the present invention.

도 4를 참조하면, 먼저 카메라(140)가 착좌자를 포함하는 차량 내부의 이미지를 촬영하고, 제어기(150)가 이를 획득한다(S401). 이 경우 시트 벨트(110) 착용 여부 판단의 편의를 위해 착좌자의 전면을 잘 인식할 수 있도록 카메라(140)는 차량 내부의 전방에 구비되어 후방을 향해 촬영하는 것이 적절하다. 한편, 이 경우 차량 내부를 촬영하는 카메라(140)는 인캐빈 카메라(In-Cabin Camera)로 구현될 수 있다. 인캐빈 카메라는 차량 실내에 장착되어 착좌자의 상태를 실시간으로 확인할 수 있어 카메라(140)가 인캐빈 카메라로 구현되는 경우 실시간으로 제공되는 이미지를 활용하여 시트 벨트(110) 착용 여부를 지속적으로 모니터링할 수 있게 된다.Referring to FIG. 4, first, the camera 140 captures an image of the inside of the vehicle including the seated person, and the controller 150 acquires the image (S401). In this case, for the convenience of determining whether or not the seat belt 110 is worn, it is appropriate for the camera 140 to be installed at the front of the vehicle and shoot toward the rear so that the front of the seated person can be clearly recognized. Meanwhile, in this case, the camera 140 that photographs the interior of the vehicle may be implemented as an in-cabin camera. The in-cabin camera is mounted inside the vehicle and can check the status of the seated person in real time. If the camera 140 is implemented as an in-cabin camera, it is possible to continuously monitor whether the seat belt 110 is worn using images provided in real time. It becomes possible.

이미지를 획득한 제어기(150)는 제1 바운딩 박스(210)를 결정하기 위해 획득된 이미지로부터 착좌자의 상반신 영역에 포함되는 적어도 하나의 기 설정된 포인트를 검출한다(S402). 이 경우 각 포인트는 이미지 상에 나타난 착좌자의 상반신의 각 지점과 대응될 수 있으며, 특히 제1 바운딩 박스(210)가 착좌자의 상반신 영역에 대응되도록 하기 위해 상반신의 경계가 되는 왼쪽 어깨(211), 오른쪽 어깨(212) 및 복부 중앙(213)에 대응되도록 설정될 수 있다.The controller 150 that acquired the image detects at least one preset point included in the upper body area of the seated person from the acquired image to determine the first bounding box 210 (S402). In this case, each point may correspond to each point of the upper body of the seated person shown on the image. In particular, in order to ensure that the first bounding box 210 corresponds to the upper body area of the seated person, the left shoulder 211, which is the boundary of the upper body, It can be set to correspond to the right shoulder 212 and the center of the abdomen 213.

이후 제어기(150)는 검출된 포인트에 기반하여 제1 바운딩 박스(210)를 결정한다(S404). 이 경우 획득된 이미지에 나타난 착좌자 상반신의 양쪽 어깨(211,212) 및 복부 중앙에 대응되는 포인트들이 검출된 경우에는 왼쪽 어깨(211)에 대응되는 포인트 및 오른쪽 어깨(212)에 대응되는 포인트에 기반하여 제1 바운딩 박스(210)의 폭을 결정하고, 양쪽 어깨에 대응되는 포인트들(211,212) 중 적어도 하나와 복부 중앙에 대응되는 포인트(213)에 기반하여 제1 바운딩 박스(210)의 높이를 결정할 수 있다. 예를 들면, 양쪽 어깨(211,212)에 대응되는 포인트들 사이의 수평 거리를 제1 바운딩 박스(210)의 폭으로, 양쪽 어깨(211,212)에 대응되는 포인트들과 복부 중앙 제어기(150)가 사이의 수직 거리를 제1 바운딩 박스(210)의 높이로 결정할 수 있다. 제어기(150)가 이와 같이 제1 바운딩 박스(210)를 결정함으로써, 제1 바운딩 박스(210)가 이미지 상의 착좌자 상반신 영역에 비해 지나치게 작거나 크게 결정되는 것을 방지하여 착좌자 상반신 영역과 적절히 대응될 수 있도록 할 수 있게 된다.Thereafter, the controller 150 determines the first bounding box 210 based on the detected point (S404). In this case, when points corresponding to both shoulders 211, 212 and the center of the abdomen of the seated person's upper body shown in the acquired image are detected, based on the points corresponding to the left shoulder 211 and the points corresponding to the right shoulder 212 Determine the width of the first bounding box 210, and determine the height of the first bounding box 210 based on at least one of the points 211 and 212 corresponding to both shoulders and the point 213 corresponding to the center of the abdomen. You can. For example, the horizontal distance between the points corresponding to both shoulders 211 and 212 is the width of the first bounding box 210, and the distance between the points corresponding to both shoulders 211 and 212 and the abdominal central controller 150 is The vertical distance may be determined by the height of the first bounding box 210. By determining the first bounding box 210 in this way, the controller 150 prevents the first bounding box 210 from being determined to be too small or large compared to the upper body area of the seated person in the image and appropriately corresponds to the upper body area of the seated person. You can make it happen.

한편, 착좌자의 자세나 기타 장애물들로 인해 착좌자의 상반신 중 일부가 가려진 경우 획득된 이미지로부터 기 설정된 포인트 중 일부가 검출되지 않을 수 있다. 이러한 경우 제어기(150)는 검출된 다른 포인트에 기반하여 검출되지 않은 포인트를 도출할 수 있으며, 도출된 포인트를 검출된 포인트와 함께 고려하여 제1 바운딩 박스(210)를 결정할 수 있다. 예를 들면, 착좌자의 왼쪽 어깨(211)가 가려져 그에 대응되는 포인트가 검출되지 않은 경우, 복부 중앙(213) 또는 명치에 대응되는 포인트와 오른쪽 어깨(212) 사이의 수평방향 거리를 구하고, 양쪽 어깨가 대칭이라는 가정하에 복부 중앙(213) 또는 명치에 대응되는 포인트로부터 왼쪽방향에 전술한 수평방향 거리만큼 떨어진 지점을 왼쪽 어깨(211)에 대응되는 포인트로 도출할 수 있다. 또한, 이와 달리 저장되어 있거나, 전달받은 별도의 인체 정보를 활용하여 검출되지 않은 포인트를 도출할 수도 있다.Meanwhile, if part of the seated person's upper body is obscured by the seated person's posture or other obstacles, some of the preset points may not be detected from the acquired image. In this case, the controller 150 may derive the undetected point based on other detected points, and determine the first bounding box 210 by considering the derived point together with the detected point. For example, if the left shoulder 211 of the seated person is obscured and the corresponding point is not detected, the horizontal distance between the point corresponding to the center of the abdomen 213 or the solar plexus and the right shoulder 212 is calculated, and both shoulders Under the assumption that is symmetrical, a point located away from the point corresponding to the center of the abdomen 213 or the solar plexus by the above-mentioned horizontal distance to the left can be derived as the point corresponding to the left shoulder 211. Additionally, undetected points can also be derived by utilizing separate human body information that has been stored or received differently.

또한, 제어기(150)는 제2 바운딩 박스(220)를 결정하기 위해 획득된 이미지로부터 시트 벨트(110)를 검출하게 된다(S403). 제어기(150)는 획득된 이미지로부터 시트 벨트(110) 특성 정보를 추출하고, 추출된 특정 정보로부터 분류(Classification) 정보를 획득하여 획득된 분류 정보에 기반하여 시트 벨트(110)를 검출할 수 있다. 여기서 시트 벨트(110) 특성 정보는 시트 벨트(110)의 색, 형태, 위치 등을 포함할 수 있고, 이를 통해 획득된 분류 정보는 이미지 상에서 시트 벨트(110)와 다른 물체를 구별할 수 있도록 한다.Additionally, the controller 150 detects the seat belt 110 from the acquired image to determine the second bounding box 220 (S403). The controller 150 may extract characteristic information of the seat belt 110 from the acquired image, obtain classification information from the extracted specific information, and detect the seat belt 110 based on the obtained classification information. . Here, the seat belt 110 characteristic information may include the color, shape, and location of the seat belt 110, and the classification information obtained through this allows the seat belt 110 and other objects to be distinguished in the image. .

시트 벨트(110)가 검출된 경우 제어기(150)는 검출된 시트 벨트(110)를 포함하는 제2 바운딩 박스를 결정하며(S405), 이 경우 제2 바운딩 박스는 시트 벨트(110)를 포함하는 최소 면적의 사각형 영역으로 결정되는 것이 적절하다.When the seat belt 110 is detected, the controller 150 determines a second bounding box including the detected seat belt 110 (S405). In this case, the second bounding box includes the seat belt 110. It is appropriate to determine the minimum area as a rectangular area.

한편, 위와 같은 과정들(S402~S405)는 획득된 이미지를 소정의 인공 지능 학습 모델에 입력함을써 수행될 수 있다. 여기서, 인공 지능 학습 모델은 인공 지능 알고리즘으로서, 기계학습, 신경망, 딥러닝, 분류 알고리즘 또는 이들의 조합 중 적어도 하나를 포함할 수 있다. 특히, 제1 바운딩 박스(210)의 결정에는 인공 지능 학습 모델의 Human Pose Estimation가 활용될 수 있다. Human Pose Estimation은 인간의 중요 신체 부위에 대응되는 복수의 키포인트들을 검출하고 이를 통해 대상이 되는 인간의 포즈를 추정하는 것으로, 여기서 검출된 키포인트 중 착좌자의 상반신에 포함되는 것들을 본 발명의 일 실시예에 있어서의 제1 바운딩 박스(210)를 결정하기 위한 포인트들로 활용할 수 있다. 또한, 시트 벨트(110)의 검출에 있어서 인공 지능 학습 모델의 Classification이 활용되어 검출 정확도를 향상시키고, 제1 바운딩 박스(210) 및 제2 바운딩 박스(220)가 보다 정확한 값을 가질 수 있도록 보정하기 위하여 인공 지능 학습 모델의 Bounding Box Regression가 활용될 수 있다.Meanwhile, the above processes (S402 to S405) can be performed by inputting the acquired images into a predetermined artificial intelligence learning model. Here, the artificial intelligence learning model is an artificial intelligence algorithm and may include at least one of machine learning, neural network, deep learning, classification algorithm, or a combination thereof. In particular, Human Pose Estimation of an artificial intelligence learning model can be used to determine the first bounding box 210. Human Pose Estimation detects a plurality of key points corresponding to important human body parts and estimates the target human pose through them. Among the detected key points, those included in the upper body of the seated person are used in an embodiment of the present invention. It can be used as points for determining the first bounding box 210. In addition, in detecting the seat belt 110, classification of an artificial intelligence learning model is used to improve detection accuracy, and the first bounding box 210 and the second bounding box 220 are corrected to have more accurate values. To do this, Bounding Box Regression of the artificial intelligence learning model can be used.

제1 바운딩 박스(210) 및 제2 바운딩 박스(220)가 결정된 경우 제어기(150)는 양 박스(210,220)의 중첩도를 판단하고(S406), 중첩도에 기반하여 착좌자의 시트 벨트(110) 착용 여부를 판단할 수 있다. 여기서, 중첩도는 획득된 이미지 상에서 제1 바운딩 박스(210) 및 제2 바운딩 박스(220)에 모두 포함되는 영역(230)의 면적에 기반하여 산정될 수 있다.When the first bounding box 210 and the second bounding box 220 are determined, the controller 150 determines the degree of overlap between the two boxes 210 and 220 (S406), and connects the seat belt 110 of the seated person based on the degree of overlap. You can decide whether to wear it or not. Here, the degree of overlap may be calculated based on the area of the area 230 included in both the first bounding box 210 and the second bounding box 220 in the acquired image.

제어기(150)는 중첩도와 기 설정된 문턱값(Threshold)을 비교하여 시트 벨트(110) 착용 여부를 판단할 수 있으며, 중첩도가 기 설정된 문턱값을 초과하는 경우(S407의 Yes) 착좌자가 시트 벨트(110)를 착용한 것(S409)으로, 중첩도가 기 설정된 문턱값 이하인 경우(S407의 No) 착좌자가 시트 벨트(110)를 착용하지 않은 것(S408)으로 판단할 수 있다.The controller 150 can determine whether the seat belt 110 is worn by comparing the degree of overlap with a preset threshold. If the degree of overlap exceeds the preset threshold (Yes in S407), the seat belt is worn by the seat belt. It can be determined that the seat belt 110 is worn (S409), and if the degree of overlap is less than a preset threshold (No in S407), it can be determined that the seated person is not wearing the seat belt 110 (S408).

상기와 같이 구성되는 본 발명의 적어도 하나의 실시예에 관련된 시트 벨트 착용 여부 판단 방법은 영상 정보의 분석에 기반하여 시트 벨트 착용 여부를 보다 정확하게 판단하고, 시트 벨트가 본래의 용법에 따라 적절하게 착용되었는지 판단할 수 있다.The method for determining whether a seat belt is worn or not according to at least one embodiment of the present invention configured as described above more accurately determines whether a seat belt is worn based on analysis of image information, and determines whether the seat belt is properly worn according to its original usage. You can determine whether it has been done.

나아가, 영상 정보 상의 착좌자와 시트 벨트에 대응되는 바운딩 박스를 이용하여 시트 벨트 착용 여부를 판단함으로써 영상 정보 분석의 정확도를 향상하고, 판단 속도를 보다 향상시킬 수 있게 된다.Furthermore, by determining whether or not a seat belt is worn using the bounding box corresponding to the seated person and the seat belt on the image information, the accuracy of image information analysis can be improved and the judgment speed can be further improved.

상기한 바와 같이 본 발명의 특정한 실시예에 관련하여 도시하고 설명하였지만, 이하의 특허청구범위에 의해 제공되는 본 발명의 기술적 사상을 벗어나지 않는 한도 내에서, 본 발명이 다양하게 개량 및 변화될 수 있다는 것은 당 업계에서 통상의 지식을 가진 자에게 있어서 자명할 것이다.Although the present invention has been shown and described in relation to specific embodiments of the present invention as described above, it is understood that the present invention can be variously improved and changed without departing from the technical spirit of the present invention provided by the following claims. This will be self-evident to those skilled in the art.

140 : 카메라
150 : 제어기
210 : 제1 바운딩 박스
220 : 제2 바운딩 박스
140: camera
150: controller
210: first bounding box
220: second bounding box

Claims (20)

착좌자를 포함하는 이미지를 획득하는 단계;
상기 획득된 이미지로부터 상기 착좌자의 상반신 영역에 대응되는 제1 바운딩 박스를 결정하는 단계;
상기 획득된 이미지로부터 시트 벨트를 검출하고, 검출된 시트 벨트를 포함하는 제2 바운딩 박스를 결정하는 단계; 및
상기 제1 바운딩 박스 및 상기 제2 바운딩 박스의 중첩도에 기반하여 상기 착좌자의 시트 벨트 착용 여부를 판단하는 단계;를 포함하는 시트 벨트 착용 여부 판단 방법.
acquiring an image including a seated person;
determining a first bounding box corresponding to the upper body area of the seated person from the acquired image;
detecting a seat belt from the acquired image and determining a second bounding box containing the detected seat belt; and
Determining whether the seated person is wearing a seat belt based on a degree of overlap between the first bounding box and the second bounding box.
청구항 1에 있어서,
상기 제1 바운딩 박스를 결정하는 단계는,
상기 이미지로부터 상기 착좌자의 상반신 영역에 포함되는 적어도 하나의 기 설정된 포인트를 검출하는 단계; 및
상기 검출된 포인트에 기반하여 상기 제1 바운딩 박스를 결정하는 단계;를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 1,
The step of determining the first bounding box is,
detecting at least one preset point included in the upper body area of the seated person from the image; and
A method for determining whether a seat belt is worn, comprising: determining the first bounding box based on the detected point.
청구항 2에 있어서,
상기 기 설정된 포인트는,
상기 착좌자의 상반신 중 양쪽 어깨 및 복부 중앙에 각각 대응되는 포인트를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 2,
The preset points are,
A method for determining whether a seat belt is worn, comprising points corresponding to both shoulders and the center of the abdomen of the seated person's upper body.
청구항 3에 있어서,
상기 제1 바운딩 박스를 결정하는 단계는,
상기 양쪽 어깨에 각각 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 폭을 결정하는 단계; 및
상기 양쪽 어깨에 각각 대응되는 포인트 중 적어도 하나 및 상기 복부 중앙에 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 높이를 결정하는 단계;를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 3,
The step of determining the first bounding box is,
determining a width of the first bounding box based on points corresponding to each of the two shoulders; and
Determining the height of the first bounding box based on at least one of the points corresponding to both shoulders and a point corresponding to the center of the abdomen.
청구항 2에 있어서,
상기 기 설정된 포인트 중 일부가 검출되지 않는 경우 검출된 나머지 포인트에 기반하여 검출되지 않은 포인트를 도출하는 단계;를 더 포함하고,
상기 제1 바운딩 박스를 결정하는 단계는,
도출된 포인트를 추가적으로 고려하여 상기 제1 바운딩 박스를 결정하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 2,
If some of the preset points are not detected, deriving points that were not detected based on the remaining detected points; further comprising:
The step of determining the first bounding box is,
A method for determining whether a seat belt is worn, characterized in that the first bounding box is determined by additionally considering the derived points.
청구항 1에 있어서,
상기 제2 바운딩 박스를 결정하는 단계는,
상기 획득된 이미지로부터 시트 벨트 특성 정보를 추출하는 단계;
상기 추출된 시트 벨트 특성 정보로부터 분류(Classification) 정보를 획득하는 단계; 및
상기 획득된 분류 정보에 기반하여 시트 벨트를 검출하는 단계;를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 1,
The step of determining the second bounding box is,
extracting seat belt characteristic information from the acquired image;
Obtaining classification information from the extracted seat belt characteristic information; and
A method for determining whether a seat belt is worn, comprising: detecting a seat belt based on the obtained classification information.
청구항 1에 있어서,
상기 시트 벨트 착용 여부를 판단하는 단계는,
상기 중첩도를 기 설정된 문턱값(Threshold)과 비교하여 시트 벨트 착용 여부를 판단하는 단계;를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 1,
The step of determining whether the seat belt is worn is,
A method for determining whether a seat belt is worn by comparing the degree of overlap with a preset threshold to determine whether a seat belt is worn.
청구항 7에 있어서,
상기 시트 벨트 착용 여부를 판단하는 단계는,
상기 중첩도가 기 설정된 문턱값 이하인 경우 착좌자가 시트 벨트를 미착용한 것으로 판단하는 단계;를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 7,
The step of determining whether the seat belt is worn is,
A method for determining whether a seat belt is worn, comprising: determining that the seated person is not wearing a seat belt when the degree of overlap is less than or equal to a preset threshold.
청구항 1에 있어서,
상기 제1 바운딩 박스를 결정하는 단계, 상기 제2 바운딩 박스를 결정하는 단계 또는 이들의 조합은,
상기 획득된 이미지를 소정의 인공 지능 학습 모델에 입력함으로써 수행되는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 1,
Determining the first bounding box, determining the second bounding box, or a combination thereof,
A method of determining whether a seat belt is worn, characterized in that it is performed by inputting the acquired image into a predetermined artificial intelligence learning model.
청구항 9에 있어서,
상기 인공 지능 학습 모델은, 인공 지능 알고리즘으로서, 기계학습, 신경망, 딥러닝, 분류 알고리즘 또는 이들의 조합 중 적어도 하나를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 방법.
In claim 9,
The artificial intelligence learning model is an artificial intelligence algorithm, and includes at least one of machine learning, neural network, deep learning, classification algorithm, or a combination thereof.
차량 내부를 촬영하는 카메라; 및
상기 카메라를 통해 획득된 착좌자를 포함하는 이미지로부터 제1 바운딩 박스 및 제2 바운딩 박스를 결정하고, 상기 제1 바운딩 박스 및 상기 제2 바운딩 박스의 중첩도에 기반하여 상기 착좌자의 시트 벨트 착용 여부를 판단하는 제어기;를 포함하고,
상기 제1 바운딩 박스는,
상기 착좌자의 상반신 영역에 대응되고,
상기 제2 바운딩 박스는,
상기 제어기를 통해 상기 획득된 이미지로부터 검출된 시트 벨트를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
Cameras that film the interior of a vehicle; and
A first bounding box and a second bounding box are determined from the image including the seated person obtained through the camera, and whether the seated person is wearing a seat belt is determined based on the degree of overlap between the first bounding box and the second bounding box. Includes a controller that determines,
The first bounding box is,
Corresponds to the upper body area of the seated person,
The second bounding box is,
A device for determining whether a seat belt is worn, comprising a seat belt detected from the acquired image through the controller.
청구항 11에 있어서,
상기 제어기는,
상기 이미지로부터 상기 착좌자의 상반신 영역에 포함되는 적어도 하나의 기 설정된 포인트를 검출하고, 검출된 포인트에 기반하여 상기 제1 바운딩 박스를 결정하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 11,
The controller is,
A device for determining whether a seat belt is worn, characterized in that detecting at least one preset point included in the upper body area of the seated person from the image and determining the first bounding box based on the detected point.
청구항 12에 있어서,
상기 기 설정된 포인트는,
상기 착좌자의 상반신 중 양쪽 어깨 및 복부 중앙에 각각 대응되는 포인트를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 12,
The preset points are,
A device for determining whether a seat belt is worn, comprising points corresponding to both shoulders and the center of the abdomen of the seated person's upper body.
청구항 13에 있어서,
상기 제어기는,
상기 양쪽 어깨에 각각 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 폭을 결정하고,
상기 양쪽 어깨에 각각 대응되는 포인트 중 적어도 하나 및 상기 복부 중앙에 대응되는 포인트에 기반하여 상기 제1 바운딩 박스의 높이를 결정하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 13,
The controller is,
Determine the width of the first bounding box based on the points corresponding to each of the two shoulders,
A device for determining whether a seat belt is worn, characterized in that the height of the first bounding box is determined based on at least one of the points corresponding to each of the two shoulders and a point corresponding to the center of the abdomen.
청구항 12에 있어서,
상기 제어기는,
상기 기 설정된 포인트 중 일부가 검출되지 않는 경우 검출된 다른 포인트에 기반하여 검출되지 않은 포인트를 도출하고, 도출된 포인트를 추가적으로 고려하여 상기 제1 바운딩 박스를 결정하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 12,
The controller is,
When some of the preset points are not detected, a point that was not detected is derived based on other detected points, and the first bounding box is determined by additionally considering the derived points. Device.
청구항 11에 있어서,
상기 제어기는,
상기 획득된 이미지로부터 시트 벨트 특성 정보를 추출하여, 추출된 시트 벨트 특정 정보로부터 분류(Classification) 정보를 획득하고, 획득된 분류 정보에 기반하여 시트 벨트를 검출하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 11,
The controller is,
Determining whether or not a seat belt is worn by extracting seat belt characteristic information from the acquired image, obtaining classification information from the extracted seat belt specific information, and detecting the seat belt based on the obtained classification information. Device.
청구항 11에 있어서,
상기 제어기는,
상기 중첩도를 기 설정된 문턱값(Threshold)과 비교하여 시트 벨트 착용 여부를 판단하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 11,
The controller is,
A device for determining whether a seat belt is worn by comparing the degree of overlap with a preset threshold to determine whether the seat belt is worn.
청구항 17에 있어서,
상기 제어기는,
상기 중첩도가 기 설정된 문턱값 이하인 경우 착좌자가 시트 벨트를 미착용한 것으로 판단하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 17,
The controller is,
A device for determining whether a seat belt is worn, characterized in that it is determined that the seated person is not wearing a seat belt when the degree of overlap is less than a preset threshold.
청구항 11에 있어서,
상기 제어기는,
상기 획득된 이미지를 소정의 인공 지능 학습 모델에 입력함으로써 상기 제1 바운딩 박스, 상기 제2 바운딩 박스 또는 이들의 조합 중 적어도 하나를 결정하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.
In claim 11,
The controller is,
A device for determining whether a seat belt is worn, characterized in that it determines at least one of the first bounding box, the second bounding box, or a combination thereof by inputting the acquired image into a predetermined artificial intelligence learning model.
청구항 19에 있어서,
상기 인공 지능 학습 모델은, 인공 지능 알고리즘으로서, 기계학습, 신경망, 딥러닝, 분류 알고리즘 또는 이들의 조합 중 적어도 하나를 포함하는 것을 특징으로 하는 시트 벨트 착용 여부 판단 장치.


In claim 19,
The artificial intelligence learning model is an artificial intelligence algorithm, and includes at least one of machine learning, neural network, deep learning, classification algorithm, or a combination thereof. A device for determining whether a seat belt is worn.


KR1020220089106A 2022-07-19 2022-07-19 Method and apparatus for determining whether seat belt is worn KR20240011544A (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020220089106A KR20240011544A (en) 2022-07-19 2022-07-19 Method and apparatus for determining whether seat belt is worn
US18/353,420 US20240029452A1 (en) 2022-07-19 2023-07-17 Seat belt wearing determination apparatus
EP23185771.5A EP4310799A1 (en) 2022-07-19 2023-07-17 Seat belt wearing determination apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220089106A KR20240011544A (en) 2022-07-19 2022-07-19 Method and apparatus for determining whether seat belt is worn

Publications (1)

Publication Number Publication Date
KR20240011544A true KR20240011544A (en) 2024-01-26

Family

ID=89714628

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220089106A KR20240011544A (en) 2022-07-19 2022-07-19 Method and apparatus for determining whether seat belt is worn

Country Status (1)

Country Link
KR (1) KR20240011544A (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100844427B1 (en) 2007-09-04 2008-07-08 현대자동차주식회사 System and method for detecting the wearing of seat belt

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100844427B1 (en) 2007-09-04 2008-07-08 현대자동차주식회사 System and method for detecting the wearing of seat belt

Similar Documents

Publication Publication Date Title
EP3280619B1 (en) Detection of occupant size and pose with a vehicle interior camera
EP1759933B1 (en) Vison-Based occupant classification method and system for controlling airbag deployment in a vehicle restraint system
CN113147664B (en) Method and system for detecting whether a seat belt is used in a vehicle
US11919465B2 (en) Apparatus for determining build of occupant sitting in seat within vehicle cabin
EP1759932B1 (en) Method of classifying vehicle occupants
US6757009B1 (en) Apparatus for detecting the presence of an occupant in a motor vehicle
US5983147A (en) Video occupant detection and classification
US7636479B2 (en) Method and apparatus for controlling classification and classification switching in a vision system
US20040220705A1 (en) Visual classification and posture estimation of multiple vehicle occupants
US20210001796A1 (en) Physique estimation device and physique estimation method
CN101284516A (en) Occupant detection apparatus, operation device control system, seat belt system, and vehicle
US20240029452A1 (en) Seat belt wearing determination apparatus
US20210188205A1 (en) Vehicle vision system
GB2585247A (en) Occupant classification method and apparatus
KR20240011544A (en) Method and apparatus for determining whether seat belt is worn
US7003384B2 (en) Method and apparatus for self-diagnostics of a vision system
JP2004053324A (en) Collision safety controller for automobile
US11915496B2 (en) Body information acquisition device
CN115923607A (en) Seat parameter adjusting method, device, storage medium and device
JP2018156212A (en) Physique determination device, physique determination method and program
CN114758324A (en) Safety belt wearing detection method and device, storage medium and processor
KR20130038443A (en) Control system for car safety apparatus and control method for the same
KR20240092376A (en) Passenger posture estimation method and apparatus for vehicles
JP2020144573A (en) Driver monitoring device
CN117416301A (en) Safety belt wearing determination device