JP2022548460A - シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラム - Google Patents

シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラム Download PDF

Info

Publication number
JP2022548460A
JP2022548460A JP2021578003A JP2021578003A JP2022548460A JP 2022548460 A JP2022548460 A JP 2022548460A JP 2021578003 A JP2021578003 A JP 2021578003A JP 2021578003 A JP2021578003 A JP 2021578003A JP 2022548460 A JP2022548460 A JP 2022548460A
Authority
JP
Japan
Prior art keywords
human body
seat belt
center point
information
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021578003A
Other languages
English (en)
Other versions
JP7288097B2 (ja
Inventor
王▲飛▼
▲錢▼晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Original Assignee
Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Sensetime Lingang Intelligent Technology Co Ltd filed Critical Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Publication of JP2022548460A publication Critical patent/JP2022548460A/ja
Application granted granted Critical
Publication of JP7288097B2 publication Critical patent/JP7288097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01542Passenger detection systems detecting passenger motion
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01544Passenger detection systems detecting seat belt parameters, e.g. length, tension or height-adjustment
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R22/00Safety belts or body harnesses in vehicles
    • B60R22/48Control systems, alarms, or interlock systems, for the correct application of the belt or harness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/593Recognising seat occupancy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R22/00Safety belts or body harnesses in vehicles
    • B60R22/48Control systems, alarms, or interlock systems, for the correct application of the belt or harness
    • B60R2022/4808Sensing means arrangements therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R22/00Safety belts or body harnesses in vehicles
    • B60R22/48Control systems, alarms, or interlock systems, for the correct application of the belt or harness
    • B60R2022/4866Displaying or indicating arrangements thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Automotive Seat Belt Assembly (AREA)

Abstract

本開示は、シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラムを提供し、当該方法は、車室環境画像を取得することと、車室環境画像に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることと、少なくとも1つの人体の人体検知情報を、少なくとも1本のシートベルトのシートベルト検知情報とマッチングし、シートベルト装着検知結果を決定することと、いずれかの人体にシートベルトが装着されていない場合、警告情報を発することと、を含む。【選択図】図1

Description

(関連出願の相互参照)
本開示は、出願番号が202010791309.2であり、出願日が2020年8月7日である中国特許出願に基づいて提出され、当該中国特許出願に基づく優先権を主張し、ここで当該中国特許出願の全ての内容が参照として本開示に組み込まれる。
本開示は、画像検知技術分野に関し、具体的には、シートベルト装着検知方法、装置、電子デバイス、コンピュータ可読記憶媒体並びにコンピュータプログラムに関する。
自動車の走行中に衝突又は緊急制動が発生するとき、強い慣性力が発生し、乗員はシートベルトを正しく装着することにより、身体を効果的に制御し、強い慣性力によって発生した衝突による身体傷害を低減させることができる。このように、シートベルトを正しく装着することは、運転者及び乗客の生命安全を保障するために極めて重要である。
より安全な車室環境を乗員に提供するために、大部分の車両にはシートベルトセンサ及び警報器が取り付けられている。乗員が着座したことを決定した後、シートベルトセンサを用いてシートベルトが既に係止されているか否かを検知することができ、且つシートベルトが係止されていないと検知した場合、さらに警報器によって音声を発生させたりアイコンを点滅させたりすることで、運転者にシートベルトの装着を注意することができる。
しかしながら、多くの運転者は、シートベルトのソケットにシートベルトバックルを挿入し、又は、シートベルトを体の後から迂回してソケットに挿入することにより、シートベルトが装着されていない旨の警報を回避する。
本開示の実施例は、シートベルト装着検知方法、装置、電子デバイス、コンピュータ可読記憶媒体並びにコンピュータプログラムを提供する。
本開示の実施例は、シートベルト装着検知の方法を提供し、前記方法は、
車室環境画像を取得することと、
前記車室環境画像に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることと、
前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、シートベルト装着検知結果を決定することと、
いずれかの人体にシートベルトが装着されていない場合、警告情報を発することと、を含む。
上記シートベルト装着検知の方法を採用することにより、まず、取得された車室環境画像に基づいて車室特徴図を生成するするとともに、車室特徴図に対して人体検知及びシートベルト検知をそれぞれ行って、人体検知情報及びシートベルト検知情報を得ることができ、人体が実際にシートベルトを装着する状態で、人体とシートベルトは一定の位置対応関係が存在することが考えられるので、上記人体検知情報をシートベルト検知情報とマッチングすることにより、人体がシートベルトを装着しているか否かを検知することができ、シートベルトの装着行為に対する効果的な検知を実現する。
本開示の一部の実施例において、前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングすることは、
前記少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定することと、
決定された前記相対的なズレ情報に基づいて、前記少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索することと、を含む
本開示の一部の実施例において、シートベルト装着検知結果を決定することは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体がシートベルトを装着していないと決定することを含む。
本開示の一部の実施例において、シートベルト装着検知結果を決定することは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体がシートベルトを装着していると決定することを含む。
ここで、まず、シートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定することができ、続いて、相対的なズレ情報に基づいて、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを決定することができ、いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在すると決定した場合、人体がシートベルトを装着していると決定することができ、いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在しないと決定した場合、人体がシートベルトを装着していないと決定することができる。
本開示の一部の実施例において、前記人体検知情報は人体検知枠情報を含み、
前記車室環境画像に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得ることは、
前記車室環境画像に基づいて、車室特徴図を生成することと、
前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得ることであって、前記マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含むことと、
前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定することであって、前記人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むことと、を含む。
ここで、人体検知を行うプロセスにおいて、人体検知によるマルチチャンネル特徴図に基づいて、人体中心点、人体長さ及び人体幅等の相関特徴を特徴付けることができ、これらの相関特徴は人体検知枠に対応する位置範囲を決定する。
本開示の一部の実施例において、前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定することは、
前記マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さ(Step_len)に応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることと、
順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定することと、
複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することと、
各前記人体検知枠の中心点位置情報に基づいて、前記マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした前記人体長さ情報及び人体幅情報を、前記人体検知枠の前記サイズ情報とすることと、を含む。
ここで、最大プーリング処理に基づいて、人体中心点特徴図から切り取った各人体中心点特徴サブ図から人体中心点に対応する可能性が最も高い特徴値を選択することができ、ひいては前記人体中心点特徴図における選択された少なくとも1つの特徴値の座標位置情報に基づいて、少なくとも1つの人体検知枠の中心点位置を得、さらに得られた人体検知枠の中心点位置に基づいて、人体長さ特徴図及び人体幅特徴図から対応する人体長さ情報及び人体幅情報を抽出し、ひいては人体検知枠のサイズ情報を決定することができる。
本開示の一部の実施例において、前記プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることは、
活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得ることと、
プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることと、を含む。
本開示の一部の実施例において、前記複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することは、
複数の前記人体中心点特徴サブ図における各前記人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断することと、
前記人体中心点特徴サブ図に対応する最大人体中心点特徴値が前記プリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定することと、
前記人体中心点特徴図における各前記目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することと、を含む。
本開示の一部の実施例において、前記シートベルト検知情報はシートベルト検知枠情報を含み、
前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることは、
前記車室環境画像に基づいて、車室特徴図を生成することと、
前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定することであって、前記シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含むことと、
シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定することと、
各前記目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定することと、
前記相対的なズレ情報に基づいて、各前記目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定することと、
シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングして、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得ることであって、前記シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むことと、を含む。
ここで、シートベルト検知を行うプロセスにおいて、車室特徴図に対するピクセル分析から、車室特徴図に含まれる複数のピクセルにおける、シートベルトに属する目標シートベルトピクセルを決定することができ、続いて、目標シートベルトピクセルとシートベルト中心ピクセルとの間の相対的なズレ情報に基づいて、各シートベルト中心ピクセルを決定することができ、その後、さらに各シートベルト中心ピクセルに基づいて複数の目標シートベルトピクセルをクラスタリングすることができ、それにより、各シートベルトに対応するシートベルト検知枠情報を決定することができる。
本開示の一部の実施例において、前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定することは、
前記車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得ることであって、前記二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含むことと、
前記車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、前記背景特徴図及び前記シートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報に決定することと、を含む。
本開示の実施例はさらに、シートベルト装着検知の装置を提供し、前記装置は、
車室環境画像を取得するように構成される取得モジュールと、
前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室特徴図に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得るように構成される検知モジュールと、
前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、検知された人体がシートベルトを装着しているか否かを示すシートベルト装着検知結果を決定するように構成されるマッチングモジュールと、
いずれかの人体がシートベルトを装着していない場合、警告情報を発するように構成される警告モジュールと、を備える。
本開示の一部の実施例において、前記マッチングモジュールは、
少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定することと、
決定された相対的なズレ情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索するように構成される。
本開示の一部の実施例において、前記マッチングモジュールは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体がシートベルトを装着していないと決定するように構成される。
本開示の一部の実施例において、前記マッチングモジュールは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体がシートベルトを装着していると決定するように構成される。
本開示の一部の実施例において、前記人体検知情報は人体検知枠情報を含み、
前記検知モジュールは、
前記車室環境画像に基づいて、車室特徴図を生成し、
前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得て、ここで、前記マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含み、
前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定し、ここで、前記人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むように構成される。
本開示の一部の実施例において、前記検知モジュールは、
前記マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取り、
順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定し、
複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定し、
各前記人体検知枠の中心点位置情報に基づいて、前記マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした前記人体長さ情報及び人体幅情報を、前記人体検知枠の前記サイズ情報とするように構成される。
本開示の一部の実施例において、前記検知モジュールは、
活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得て、
プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取るように構成される。
本開示の一部の実施例において、前記検知モジュールは、
複数の前記人体中心点特徴サブ図における各前記人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断し、
前記人体中心点特徴サブ図に対応する最大人体中心点特徴値が前記プリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定し、
前記人体中心点特徴図における各前記目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定するように構成される。
本開示の一部の実施例において、前記シートベルト検知情報はシートベルト検知枠情報を含み、
前記検知モジュールは、
前記車室環境画像に基づいて、車室特徴図を生成し、
前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定し、ここで、前記シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含み、
シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定し、
各前記目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定し、
前記相対的なズレ情報に基づいて、各前記目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定し、
前記シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングして、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得て、ここで、前記シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むように構成される。
本開示の一部の実施例において、前記検知モジュールは、
前記車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得て、ここで、前記二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含み、
前記車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、前記背景特徴図及び前記シートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報と決定するように構成される。
本開示の実施例は、プロセッサ、メモリ、及びバスを備える電子デバイスであって、前記メモリには、前記プロセッサによって実行可能な機械可読命令が記憶されており、前記電子デバイスが稼働するとき、前記プロセッサと前記メモリとは前記バスを介して通信され、前記プロセッサは、前記メモリに記憶されている機械可読命令を実行するために用いられ、前記機械可読命令が前記プロセッサによって実行されるとき、前記プロセッサが上記いずれかの実施例に記載のシートベルト装着検知の方法を実行する、電子デバイスをさらに提供する。
本開示の実施例は、コンピュータプログラムが記憶されており、前記コンピュータプログラムが電子デバイスによって実行されるとき、前記電子デバイスが上記いずれかの実施例により提供されるシートベルト装着検知方法を実行する、コンピュータ可読記憶媒体をさらに提供する。
本開示の実施例は、コンピュータ可読コードが含まれており、前記コンピュータ可読コードが電子デバイスで実行される場合、前記電子デバイスのプロセッサが上記いずれかの実施例に記載のシートベルト装着検知方法を実行する、コンピュータプログラムをさらに提供する。
上記シートベルト装着検知の装置、電子デバイス、及びコンピュータ可読記憶媒体の効果の説明について、上記シートベルト装着検知方法の説明を参照すればよく、ここでは説明を省略する。
本開示の上記目的、特徴及び利点を容易に理解するために、以下は、実施例を組み合わせて且つ添付図面を参照しながら、詳細に説明する。
本開示の実施例により提供されるシートベルト装着検知方法のフローチャートである。 本開示の実施例により提供されるシートベルト装着検知方法における、シートベルト装着検知結果を決定することのフローチャートである。 本開示の実施例により提供されるシートベルト装着検知方法の構造模式図である。 本開示の実施例により提供されるシートベルト装着検知装置の模式図である。 本開示の実施例により提供される電子デバイスの模式図である。
本開示の実施例の技術的解決手段をより明確に説明するために、以下実施例において使用される必要がある図面を簡単に説明し、ここでの図面は、明細書に組み込まれ且つ本明細書の一部を構成しており、これらの図面は、本開示に適合する実施例を示し、明細書とともに本開示の技術的解決手段を説明するために用いられる。以下の図面は、本開示の一部の実施例のみを示しているため、範囲に対する限定と見なされるべきではなく、当業者にとって、創造的な労働を払わない前提で、さらにこれらの図面に基づいて他の関連図面を取得できることを理解すべきである。
本開示の実施例の目的、技術的解決手段及び利点をより明確にするために、以下は、本開示の実施例における図面を参照しながら本開示の実施例における技術的解決手段を明確及び完全に説明する。当然ながら、説明した実施例は、本開示の一部の実施例だけであり、全ての実施例ではない。一般的に、ここで説明され及び示された本開示の実施例の構成要素は、様々な異なる構成によって配置や設計されてもよく。従って、以下の本開示の実施例に対する詳細説明は、本開示の範囲を限定するものでなく、本開示の選択された実施例を示すものだけである。当業者にとって、本開示の実施例に基づいて創造的な労働を払わない前提で取得した全ての他の実施例は、本開示の保護範囲に含まれるべきである。
関連技術において、ある運転者及び乗客は、シートベルトを装着しない又は誤って装着することにより、シートベルトが装着されていない旨の報警を回避する。このような行為は、運転者及び乗客の安全にセキュリティリスクをもたらす。
上記検討に基づいて、本開示は、人体検知とシートベルト検知とを組み合わせることにより、ユーザーがシートベルトを正しく装着するか否かの行為に対して効果的な検知を行うことができるシートベルト装着検知方法を少なくとも提供する。
関連技術に存在した欠陥については、すべて発明者が実践を経って且つ鋭意に研究した結果であり、従って、上記問題の発見過程及び後述の上記問題について本開示の提出する解決手段は、いずれも発明者が本開示の過程において本開示に対してなされた貢献である。
なお、以下の図面において、類似の符号及び英字は類似の要素を表するため、ある要素が1つの図面において定義される場合、それ以降の図面においてこの要素に対してさらなる定義や解釈を行う必要がなくなる。
本実施例を容易に理解するために、まず、本開示の実施例に開示されたシートベルト装着検知方法について詳細に説明する。
本開示の実施例に提供されるシートベルト装着検知方法の実行本体は、一般的に一定の計算能力を有する電子デバイスであり、当該電子デバイスは、例えば、端末装置、サーバ又は他の処理デバイスを含む。端末デバイスは、ユーザーデバイス(User Equipment:UE)、モバイルデバイス、ユーザー端末、端末、携帯電話、コードレス電話、携帯情報端末(Personal Digital Assistant:PDA)、ハンドヘルドデバイス、コンピューティングデバイス、車載デバイス、ウェアラブルデバイス等であってもよい。本開示のいくつかの実施形態において、当該シートベルト装着検知方法は、プロセッサによってメモリに記憶されているコンピュータ可読命令を呼び出す形態で実現されてもよい。
以下、本開示の実施例により提供されるシートベルト装着検知方法について説明する。
図1は、本開示の実施例により提供されるシートベルト装着検知方法のフローチャートである。図1を参照して、方法はステップS101~S104を含む。
ステップS101では、車室環境画像を取得する。
ステップS102では、車室環境画像に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得る。
ステップS103では、少なくとも1つの人体の人体検知情報を、少なくとも1本のシートベルトのシートベルト検知情報とマッチングし、シートベルト装着検知結果を決定する。
ステップS104では、いずれかの人体がシートベルトを装着していない場合、警告情報を発する。
本開示の実施例により提供されるシートベルト装着検知の方法を容易に理解するために、次に当該シートベルト装着検知の方法について説明する。本開示の実施例により提供されるシートベルト装着検知方法は、車室内シートベルト装着の検知シーンに適用することができる。
関連技術において、大部分の車両にはシートベルトセンサ及び警報器が取り付けられている。乗員が着座したことを決定した後、シートベルトセンサを用いてシートベルトが既に係止されているか否かを検知することができ、且つシートベルトが係止されていないと検知した場合、通過警報器によって音声を発生させたりアイコンを点滅させたりして、運転者にシートベルトの装着を注意することができる。しかしながら、ある運転者は、シートベルトのソケットにシートベルトバックルを挿入することにより、又は、シートベルトを身の後から迂回してソケットに挿入することにより、シートベルトが装着されていない旨の報警を回避する。このような行為は、大きなセキュリティリスクを容易に発生させる。
また、シートベルトの装着行為について、関連する交通管理規則が定められていますが、現在は、主に手動チェック方式に基づいて乗員がシートベルトを装着しているか否かを決定する。しかしながら、このような手動チェック方式は、大量の人力物力を消費し、且つシートベルトの装着行為に対して良好な管理作用を果たすことができない。
上記問題を解決するために、本開示の実施例は、人体検知とシートベルト検知とを組み合わせて、ユーザーのシートベルトを装着する行為に対して効果的な検知を行うことが実現できるシートベルト装着検知方法を提供する。
ここで、上記車室環境画像は、車室に設けられた撮像装置によって撮像されたものであってもよい。人体及びシートベルトに相関する画像情報を撮像するために、ここでの撮像装置は、乗員が着座した後の行為を撮像できることを前提として、車室内の座席に対向して設けられてもよい。
本開示の実施例において、抽出された車室環境画像に対して、人体検知を行うことができる一方、シートベルト検知を行うことができる。人体検知は、車室内の人体に相関する人体検知情報、例えば人体の所在する人体検知枠情報を決定することができる。シートベルト検知は、車室内のシートベルトに相関するシートベルト検知情報、例えばシートベルトの所在するシートベルト検知枠情報を決定することができる。なお、上記人体検知及びシートベルト検知は同時に行われてもよい。
本開示の実施例において、人体検知枠情報及びシートベルト検知枠情報を決定した後、人体とシートベルトとの関連関係に基づいて、シートベルト装着の検知を実現することができる。
図2は、本開示の実施例により提供される安全装着検知方法における、シートベルト装着検知結果を決定することのフローチャートである。
図2に示すように、シートベルト装着検知結果を決定するプロセスは、ステップS201~ステップS204によって実現されることができる
ステップS201では、少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定する。
ステップS202では、決定された相対的なズレ情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索する。
ステップS203では、いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体がシートベルトを装着していないと決定する。
ステップS204では、いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体がシートベルトを装着していると決定する。
ここで、予めトレーニングされた人体中心点ズレネットワークを用いて、シートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定することができる。
本開示の実施例において、ネットワークトレーニングを行う前に、予めシートベルトの中心位置をピクセルでマークするとともに、当該シートベルトに対応する人体の中心位置をピクセルでマークすることができ、上記マーク情報に基づいて、上記人体中心点ズレネットワークのネットワークパラメータがトレーニングされて得ることができる。
ここで、トレーニングされて得られたネットワークパラメータに基づいて、各人体に対応する相対的なズレ情報を決定することができ、相対的なズレ情報とシートベルト検知枠の中心点位置とを組み合わせて、少なくとも1つの人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索することができ、即ち、相対的なズレ情報及びシートベルト検知枠の中心点位置が決定された後、シートベルト検知枠に関連する人体検知枠は決定されることができる。
本開示の実施例において、いずれかの人体について、それの人体検知枠に関連するシートベルト検知枠が検索されていない場合、当該人体がシートベルトを装着していないことを意味する。それの人体検知枠に関連するシートベルト検知枠が検索された場合、当該人体がシートベルトを装着していることを意味する。
具体的な適用には、シートベルトを装着していないいずれかの人体が存在すると決定した場合、本開示の実施例により提供されるシートベルト装着検知方法はさらに、車載端末又は運転者側によってシートベルトを装着していないユーザーが存在することを示す警告情報を発し、乗員にシートベルトを正しく装着することを注意して、車両の走行安全を確保することができる。
人体がシートベルトを正しく装着している場合、人体検知情報とシートベルト検知情報との間には強い空間的な関係があると考えられるため、ここでは、2種類の検知情報(即ち、人体検知情報とシートベルト検知情報)をマッチングすることにより、検知された人体がシートベルトを装着しているか否かを決定することできる。
なお、本開示の実施例において、人体検知及びシートベルト検知を行う前に、まず、取得された車室環境画像に対して特徴抽出を行って車室特徴図を得ることができる。ここで、画像処理の方法に基づいて車室環境画像に対して画像処理を行い、車室相関特徴(例えば、シーン特徴、物体プロファイル特徴等)を抽出することができ、また予めトレーニングされた特徴抽出ネットワークに基づいて、車室環境画像から特徴を抽出し、車室特徴図を得ることができる。
特徴抽出ネットワークによってより豊かで、より深い隠蔽特徴をマイニングすることができると考慮するため、本開示の実施例は、特徴抽出ネットワークを採用して特徴抽出を実現することができる。
本開示の一部の実施例において、特徴抽出ネットワークはバックボーン(Backbone)ネットワークに基づいてトレーニングされたものであってもよく、畳み込みニューラルネットワーク(CNN:Convolutional Neural Networks)の1種として、Backboneネットワークは、畳み込みニューラルネットワークの畳み込み特性によって入力画像と出力特徴との間の関連関係をトレーニングすることができる。
このように、取得された車室環境画像をトレーニングされた特徴抽出ネットワークに入力すると、入力された車室環境画像に対して少なくとも1回の畳み込み演算を行い、それにより、対応する車室特徴図を抽出することができる。
本開示の一部の実施例において、入力が640*480サイズの車室環境画像については、特徴抽出ネットワークを経った後、次元削減した80*60*Cの車室特徴図を得ることができ、ここで、Cはチャンネルの数であり、各チャンネルは1つの次元における車室特徴に対応することができる。
本開示の実施例により提供されるシートベルト装着検知の方法に対する人体検知及びシートベルト検知の重要な役割を考慮し、次に、人体検知枠情報の決定、及びシートベルト検知枠情報の決定によりそれぞれ説明する。
本開示の一部の実施例において、人体検知枠情報を人体検知情報とした場合、本開示の実施例は、先に人体に係るマルチチャンネル特徴図を抽出し、続いてこのマルチチャンネル特徴図に基づいて人体検知枠情報を決定し、具体的なにステップA1~ステップA2を含むことができる。
ステップA1では、車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得て、ここで、マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含む。
ステップA2では、マルチチャンネル特徴図に基づいて、少なくとも1つの人体に対応する人体検知枠情報を決定し、ここで、人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含む。
ここで、トレーニングされた人体検知ネットワークに基づいて人体に係るマルチチャンネル特徴図を抽出することができる。ここでの人体検知ネットワークがCNNネットワークに基づいてトレーニングして得るものであってもよい点で上記特徴抽出ネットワークと類似する。ここでの人体検知ネットワークについて車室特徴と人体特徴との関連関係がトレーニングされる点で上記特徴抽出ネットワークと異なる。このように、車室特徴図をトレーニングされた人体検知ネットワークに入力すると、入力された車室特徴図に対して少なくとも1回の畳み込み演算を行い、それにより、各人体に対応するマルチチャンネル特徴図を抽出することができる。
ここで、マルチチャンネル特徴図に含まれる人体中心点特徴図が含んでいる各人体中心点特徴値は、対応する各ピクセルが人体中心点に属する確率の大きさを特徴付けてもよい。人体中心点特徴値が大きいほど、人体中心点に対応する確率が大きくなる。逆に、人体中心点特徴値が小さいほど、人体中心点に対応する確率も小さくなる。また、マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図は、人体の長さ情報及び幅情報を特徴付けることができる。
なお、後続の人体中心位置に係る位置決めを容易に実現するために、ここでのマルチチャンネル特徴図のサイズは車室特徴図のサイズと同様であってもよい。ここで、マルチチャンネル特徴図が三チャンネル特徴図である例をとし、人体検知ネットワークを経った後、80*60*3の三チャンネル特徴図を得ることができる。
本開示の一部の実施例において、上記マルチチャンネル特徴図に基づいて、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含む人体検知枠情報を決定するプロセスは、具体的なにステップB1~ステップB4を含むことができる。
ステップB1では、マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取る。
ステップB2では、順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を特定する。
ステップB3では、複数の人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定する。
ステップB4では、各人体検知枠の中心点位置情報に基づいて、マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした人体長さ情報及び人体幅情報を人体検知枠のサイズ情報とする。
ここで、人体中心点特徴図に対応する各人体中心点特徴値の大きさは、対応するピクセルが人体中心点とする可能性に直接影響し、即ち、特徴値が大きいほど、人体中心点であると決定する可能性が大きくなり、逆も同様である。従って、本開示の実施例は、先に最大プーリング処理を行い、処理結果に応じて人体中心点である可能性が最も高いピクセルを検索し、続いて人体に対応する人体検知枠の中心点位置情報を決定する解決手段を提供する。
本開示の一些実施例において、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、人体中心特徴図から人体中心点特徴サブ図を順次切り取ることができ、例えば、以80*60サイズの人体中心特徴図を例にし、プリセットプーリングサイズの3*3、プリセットプーリングステップ長さの1に応じてサブ図を切り取った後、80*60個の人体中心点特徴サブ図を得ることができる。
順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する、各人体中心点特徴値における最大人体中心点特徴値を決定することができ、即ち、最大プーリング処理を経った後、各人体中心点特徴サブ図について1つの最大人体中心点特徴値を決定することができる。このように、当該人体中心点特徴サブ図における最大人体中心点特徴値の座標位置、及び人体中心点特徴図における当該人体中心点特徴サブ図の座標範囲に基づいて、人体中心点特徴図における最大人体中心点特徴値の座標位置情報を決定することができる。当該座標位置情報は、主に人体中心点の位置を特徴付けるものであるため、この座標位置情報に基づいて人体に対応する人体検知枠の中心点位置情報を決定することができる。
本開示の一些実施例において、人体中心点検知の正確性をさらに向上させるために、閾値設定の方式により、得られた各最大人体中心点特徴値から人体中心点に対してより合致する最大人体中心点特徴値を選択することができる。例示的に、まず1つの人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断することができ、最大人体中心点特徴値がプリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定することができ、当該目標人体中心点に対応する座標位置情報を人体検知枠の中心点位置情報に決定することができる。逆に、最大人体中心点特徴値がプリセット閾値以下である場合、目標人体中心点の座標位置情報に対して割り当て操作を実行しない。
ここで、上記選択されたプリセット閾値は大きすぎるものも小さすぎるものも好ましくなく、閾値が大きすぎると人体の検知を見逃す可能性があり、閾値が小さすぎると余計な検知につながる可能性がある。従って、プリセット閾値が大きすぎる又は小さすぎる場合、いずれも、人体検知の正確性を確保することができない。本開示の実施例は、具体的な適用シーンに応じて異なるプリセット閾値を選択することができ、ここで限定しない。
なお、異なる人体中心点特徴サブ図については、人体中心点特徴図におけるそれの最大人体中心点特徴値の座標位置情報が同一である可能性がある。本開示の一部の実施例において、後続の計算量を低減するために、情報をマージできる。
本開示の一些実施例において、プーリング処理を容易に行うために、人体中心点位置を特徴付ける人体中心点特徴図については、先にシグモイド(sigmoid)活性化関数で当該人体中心点特徴図に対して正規化処理を行って、続いて、正規化処理済の人体中心点特徴図から人体中心点特徴サブ図を順次切り取る。ここで、sigmoid活性化関数は、人体中心点特徴図に対応する各人体中心点特徴値を0から1の範囲内の数値に変換することができる。
本開示の一些実施例において、人体検知枠の中心点位置情報が決定された場合、同一の中心点位置情報に基づいて、人体長さ特徴図及び人体幅特徴図からこの人体検知枠の中心点位置情報にマッチングする人体長さ情報及び人体幅情報を検索し、ひいては人体検知枠のサイズ情報を決定することができる。
本開示の一些実施例において、シートベルト検知枠情報をートベルト検知情報とした場合、シートベルト類別認識、シートベルト中心オフセットの決定、及びピクセルのクラスタリングを組み合わせてシートベルト検知枠情報の決定を実現することができ、ステップC1~ステップC3を含むことができる。
ステップC1では、車室特徴図に含まれる複数のピクセルにおける各ピクセルの属するシートベルト類別情報を決定し、ここでシートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含み、シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定する。
ステップC2では、各目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定し、相対的なズレ情報に基づいて、各目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定する。
ステップC3では、決定されたシートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングし、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得、シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含む。
ここで、本開示の実施例により提供されるシートベルト装着検知方法は、まず、シートベルトに係るシートベルト類別情報を抽出し、続いて、シートベルト中心点オフセットネットワークによってシートベルトに属するという類別における各目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定し、最後に、シートベルト中心ピクセルに基づいて目標シートベルトピクセルをクラスタリングし、これにより、シートベルト検知枠の中心点位置情報を決定することができる。
本開示の一部の実施例において、上記シートベルトに係る安全類別情報を抽出する操作は、セマンティックセグメンテーションネットワークによって実現されてもよい。ここで、上記セマンティックセグメンテーションネットワークは、シートベルト類別がマークされたトレーニングサンプルセットに基づいてトレーニングされたものであってもよく、ここでのマークは、ピクセルごとにマークする方法を採用してもよく、即ち、いずれかのトレーニングサンプルについて、当該トレーニングサンプルに含まれる各ピクセルのシートベルト類別をマークしてもよく、このように、ネットワークパラメータの学習により、車室特徴図に含まれる複数のピクセルにおける各ピクセルの属するシートベルト類別情報を決定することができる。
本開示の一些実施例において、上記セマンティックセグメンテーションネットワークは、1つの二分類模型として、背景特徴図及びシートベルト特徴図が含まれる二チャンネル特徴図を決定することができ、このように、車室特徴図における各ピクセルについて、背景特徴図及びシートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、各ピクセルのシートベルト類別を決定することができ、即ち、特徴値が大きいほど、それの対応する類別可能性が高くなり、これにより、2種類のプリセット類別から可能性が高い類別を選択することができる。
本開示の一些実施例において、80*60*Cの車室特徴図を例にし、セマンティックセグメンテーションネットワークを経った後、80*60*2の二チャンネル特徴図を得ることができ、80*60サイズの特徴図の各ピクセルにわたって、チャンネルにおける点数が最も大きい次元に対応するシートベルト類別を取り出すことにより、当該ピクセルに対応する類別を決定することができる。
本開示の一部の実施例において、80*60サイズの特徴図の各ピクセルにわたって、チャンネルにおける点数が最も大きい次元に対応するシートベルト類別を取り出すことは、特徴図の各次元の特徴ベクトルに対してsoftmax計算を行って実現されてもよい。
本開示の一些実施例において、車室特徴図に含まれる各ピクセルのシートベルト類別情報が決定された後、シートベルト中心点ズレネットワークによって、シートベルトに属するという類別における目標シートベルトピクセルに対応する相対的なズレ情報を決定し、ひいては各目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定することができる。
本開示の一些実施例において、上記シートベルト中心点ズレネットワークは、シートベルトピクセルと安全点中心ピクセルとの相対的なズレ情報をトレーニングし、ネットワークトレーニングを行う前に、予め1本のシートベルトの所在する画像領域をピクセルでマークするとともに、1本のシートベルトの中心位置をピクセルでマークすることができ、上記マーク情報に基づいて上記シートベルト中心点オフセットネットワークのネットワークパラメータがトレーニングされて得ることができる。
本開示の一些実施例において、トレーニングされて得られたネットワークパラメータに基づいて、各目標シートベルトピクセルに対応する相対的なズレ情報を決定することができ、相対的なズレ情報と目標シートベルトピクセルの位置とを組み合わせて、目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定することができる。
例示的に、80*60*2の二チャンネル特徴図を例にし、80*60サイズの特徴図の各ピクセルにわたって、シートベルト中心点ズレネットワークの操作を経った後、80*60*2の二チャンネルズレ特徴図を得ることができ、2つのチャンネルは、それぞれ2つの方向における相対的なズレ情報を特徴付けることにより、最終の相対的なズレ情報を決定する。
図3は、本開示の実施例により提供されるシートベルト装着検知方法の構造模式図である。
本開示の一部の実施例において、車室環境画像301には、車室における乗員の着座状態が含まれてもよい。ここで、乗員の数が複数である場合、車室環境画像301には、各乗員の着座状態が含まれてもよい。
本開示の一部の実施例において、ニューラルネットワーク302は、上記実施例に記載の特徴抽出ネットワーク、例えば上記実施例に記載のトレーニングされた人体検知ネットワーク、セマンティックセグメンテーションネットワークであってもよい。本開示の実施例において、ニューラルネットワーク302は、上記実施例に記載のBackboneであってもよい。
本開示の一部の実施例において、車室環境画像301をニューラルネットワーク302に入力し、車室環境画像301に対するニューラルネットワーク302の特徴抽出操作により、上記実施例に記載の80*60*3の三チャンネル特徴図3031、及び80*60*2の二チャンネル特徴図3032を得ることができる。
例示的に、上記実施例に提供される方式に応じて、三チャンネル特徴図3031に対してプーリング処理を行って、少なくとも1本のシートベルトに対応するシートベルト検知枠中心点位置を得ることができる。例示的に、上記実施例に提供される方式に応じて、二チャンネル特徴図3032に基づいて、人体検知枠の中心点位置との相対的なズレ情報を決定することができ、上記実施例に提供される方式に基づいて、中心点位置情報及び相対的なズレ情報により、シートベルト装着検知結果を決定することができる。
本開示の一些実施例において、異なる目標シートベルトピクセルに対応するシートベルト中心ピクセルは、同一であってもよいし、異なってもよい。同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングすることにより、各シートベルトに対応するシートベルト検知枠情報を得ることができる。
ここでのシートベルト検知枠情報は、シートベルト検知枠の中心点位置情報(シートベルト中心ピクセルに対応)を含んでもよく、そのほか、シートベルト検知枠情報はさらに、シートベルト検知枠のサイズ情報を含んでもよく、当該サイズ情報は、シートベルト中心ピクセルについてクラスタリングして得られた複数の目標シートベルトピクセルの所在する画像領域によって決定されてもよい。
当業者にとって、具体的な実施形態の上記方法において、各ステップの作成順序は、厳密な実行順序を意味して実施プロセスに対して何らかの限定を行っておらず、各ステップの具体的な実行順序は、その機能及び可能な内在論理に応じて決定されるべきであることを理解される。
同一の発明発想に基づいて、本開示の実施例は、シートベルト装着検知の方法に対応するシートベルト装着検知の装置をさらに提供し、本開示の実施例における装置の問題を解決する原理が本開示の実施例における上記シートベルト装着検知方法と類似するため、装置の実施は方法の実施を参照すればよく、繰り返しする部分の説明が省略される。
本開示の実施例は、シートベルト装着検知装置4をさらに提供する。
図4は、本開示の実施例により提供されるシートベルト装着検知装置の模式図である。図4に示すように、当該シートベルト装着検知装置4は、取得モジュール401と、検知モジュール402と、マッチングモジュール403と、警告モジュール404とを備えることができる。
取得モジュール401は、車室環境画像を取得するように構成される。
検知モジュール402は、車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得るように構成される。
マッチングモジュール403は、少なくとも1つの人体の人体検知情報を少なくとも1本のシートベルトのシートベルト検知情報とマッチングし、シートベルト装着検知結果を決定するように構成される。
警告モジュール404は、いずれかの人体がシートベルトを装着していない場合、警告情報を発するように構成される。
上記シートベルト装着検知の装置を採用して、まず、取得された車室環境画像に基づいて車室特徴図を生成するとともに、車室特徴図に対して人体検知及びシートベルト検知をそれぞれ行って、人体検知情報及びシートベルト検知情報を得ることができ、人体が実際にシートベルトを装着する状態で、人体とシートベルトは一定の位置対応関係が存在することを考慮し、上記人体検知情報をシートベルト検知情報とマッチングすることにより、人体がシートベルトを装着しているか否かを検知することができ、シートベルトの装着行為に対する効果的な検知を実現する。
本開示の一部の実施例において、マッチングモジュール403は、以下のステップに応じて、少なくとも1つの人体の人体検知情報を少なくとも1本のシートベルトのシートベルト検知情報とマッチングするように構成され、
即ち、
少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との間の相対的なズレ情報を決定し、
決定された相対的なズレ情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索するように構成される。
本開示の一部の実施例において、マッチングモジュール403は、以下のステップに応じて、シートベルト装着検知結果を決定するように構成され、
即ち、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体がシートベルトを装着していないと決定するように構成される。
本開示の一部の実施例において、マッチングモジュール403は、以下のステップに応じて、シートベルト装着検知結果を決定するように構成され、
即ち、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体がシートベルトを装着していると決定するように構成される。
本開示の一部の実施例において、人体検知情報は人体検知枠情報を含み、検知モジュール402は、以下のステップに応じて、車室環境画像に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得るように構成され、
即ち、
車室環境画像に基づいて、車室特徴図を生成し、
車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得て、ここで、マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含み、
マルチチャンネル特徴図に基づいて、少なくとも1つの人体に対応する人体検知枠情報を決定し、ここで、人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むように構成される。
本開示の一部の実施例において、検知モジュール402は、以下のステップに応じて、マルチチャンネル特徴図に基づいて、少なくとも1つの人体に対応する人体検知枠情報を決定するように構成され、
即ち、
マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取り、
順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定し、
複数の人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定し、
各人体検知枠の中心点位置情報に基づいて、マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした人体長さ情報及び人体幅情報を人体検知枠のサイズ情報とするように構成される。
本開示の一部の実施例において、検知モジュール402は、以下のステップに応じて、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取るように構成され、
即ち、
活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得て、
プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取るように構成される。
本開示の一部の実施例において、検知モジュール402は、以下のステップに応じて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定するように構成され、
即ち、
複数の人体中心点特徴サブ図における各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断し、
人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定し、
人体中心点特徴図における各目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定するように構成される。
本開示の一部の実施例において、シートベルト検知情報はシートベルト検知枠情報を含み、検知モジュール402は、以下のステップに応じて、車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得るように構成され、
即ち、
車室環境画像に基づいて、車室特徴図を生成し、
車室特徴図に含まれる複数のピクセルにおける各ピクセルの属するシートベルト類別情報を決定し、ここで、シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含み、且つシートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定し、
各目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定し、相対的なズレ情報に基づいて、各目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定し、
シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングし、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得て、ここで、シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むように構成される。
本開示の一部の実施例において、検知モジュール402は、以下のステップに応じて、車室特徴図に含まれる複数のピクセルにおける各ピクセルの属するシートベルト類別情報を決定するように構成され、
即ち、
車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得て、ここで、二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含み、
車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、背景特徴図及びシートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報に決定するように構成される。
装置における各モジュールの処理フロー、及び各モジュール同士の交互フローの説明について、上記方法実施例における関連説明を参照すればよく、ここで詳細な説明を省略する。
本開示の実施例は、電子デバイス5をさらに提供する。図5は、本開示の実施例により提供される電子デバイス構造模式図である。図5に示すように、当該電子デバイスは、プロセッサ501、メモリ502、及びバス503を備える。メモリ502には、プロセッサ501によって実行可能な機械可読命令(例えば、図4における装着検知機能付きの装置における取得モジュール401、検知モジュール402、マッチングモジュール403及び警告モジュール404に対応する実行命令等)が記憶されており、電子デバイスが稼働する場合、プロセッサ501とメモリ502とは通過バス503を介して通信され、機械可読命令がプロセッサ501によって実行される場合、以下の処理ステップを実行する。
即ち、
車室環境画像を取得することと、車室環境画像に対して人体検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることと、少なくとも1つの人体の人体検知情報を少なくとも1本のシートベルトのシートベルト検知情報とマッチングし、シートベルト装着検知結果を決定することと、いずれかの人体がシートベルトを装着していない場合、警告情報を発することと、を実行する。
上記命令の具体的な実行プロセスは、本開示の実施例におけるシートベルト装着検知方法を参照すればよく、ここで説明を省略する。
本開示の実施例は、コンピュータ可読記憶媒体をさらに提供し、当該コンピュータ可読記憶媒体にはコンピュータプログラムが記憶されており、当該コンピュータプログラムは、プロセッサによって実行されるとき、上記方法実施例に記載のシートベルト装着検知方法を実行する。ここで、当該記憶媒体は、揮発性又は不揮発性のコンピュータ読み取り可能な記憶媒体であってもよい。
本開示の実施例に提供されるシートベルト装着検知の方法のコンピュータプログラム製品は、プログラムコードが記憶されているコンピュータ可読記憶媒体を含み、前記プログラムコードに含まれる命令は、上記方法実施例に記載のシートベルト装着検知方法を実行するために用いられることができる。上記方法実施例を参照すればよく、ここでは説明を省略する。
本開示の実施例は、コンピュータプログラムをさらに提供し、当該コンピュータプログラムは、コンピュータ可読コードを含み、当該コンピュータ可読コードが電子デバイスで実行される場合、電子デバイスのプロセッサは、上記いずれかの実施例に記載のシートベルト装着検知方法を実現するように実行する。当該コンピュータプログラム製品は、具体的に、ハードウエア、ソフトウェア、又はそれらの組み合わせの形で実現してもよく。本開示の一部の実施例において、前記コンピュータプログラム製品は、具体的にコンピュータ記憶媒体に具現化され、本開示の一部の実施例において、コンピュータプログラム製品は、具体的にソフトウェア製品、例えばソフトウェア開発パッケージ(Software Development Kit、SDK)等に具現化される。
当業者であれば明らかなように、説明の便宜及び簡潔のために、上記記載のシステム及び装置の具体的な動作プロセスは、上記方法実施例における対応するプロセスを参照すればよく、ここでは説明を省略する。本開示により提供されるいくつかの実施例において、開示したシステム、装置及び方法は、他の形態で実現されることができることを理解すべきである。以上に記載の装置の実施例は、例示的なものに過ぎず、例えば、前記ユニットの分割は、論理機能の分割に過ぎず、実際に実現する場合に別の形態で分割してもよく、例えば、複数のユニット又は部品は組み合わせてもよいし、又は別のシステムに統合してもよいし、又は一部の特徴を省略もしくは実行しなくてもよい。また、図示又は説明した各構成要素の結合、又は直接結合、又は通信接続は、いくつかのインタフェース、デバイス又はユニットを介した間接結合又は通信接続であり得、電気的、機械的又は他の形態であり得る。
前記機分離部材として説明した上記ユニットは物理的に分離されたものであってもなくてもよく、ユニットとして示した部材は物理的ユニットであってもなくてもよく、つまり、一箇所に位置してもよく、又は複数のネットワークユニットに分布してもよく、実際の必要に応じてその一部又は全てのユニットを選択して本実施例の解決手段の目的を実現できる。また、在本開示の各実施例における各機能ユニットは、1つの処理ユニットに統合されてもよく、それぞれ独立して物理的に存在してもよく、2つ又は2つ以上のユニットで1つのユニットに統合されてもよい。
前記機能は、ソフトウェア機能ユニットの形で実現され、且つ独立した製品として販売又は使用される場合、プロセッサによって実行可能な不揮発性のコンピュータ読み取り可能な記憶媒体に記憶されてもよく。このような見解をもとに、本実施例の技術的解決手段は、実質的に又は従来技術に寄与する部分又はこの技術的手段の全部又は一部がソフトウェア製品の形で具現化されることができ、当該コンピュータソフトウェア製品記憶は、記憶媒体に記憶され、電子デバイス(パーソナルコンピュータ、サーバ、又はネットワークデバイス等であってもよい)に本開示の各実施例に記載の方法おける全部又は一部のステップを実行させるための複数の命令を含む。上記の記憶媒体は、USBメモリ、モバイルハードディスク、読み取り専用メモリ(Read Only Memory:ROM)、ランダムアクセスメモリ(Random Access Memory:RAM)、磁気ディスク又は光ディスク等のプログラムコードを記憶可能である様々な媒体を含む。
最後に、以上に記載の実施例は、本開示の具体的な実施形態に過ぎず、本開示を限定するものでなく、それの技術的解決手段を説明するためのものであり、且つ本開示の保護範囲がこれに限定されていないことを説明すべきである。上記実施例を参照しながら本開示につて詳細に説明したが、当業者であれば、本開示に開示された技術範囲内において、依然として上記実施例に記載の技術的解決手段を修正し又は容易に変更し、又はその一部の技術的特徴に対して均等置換を行うことを理解すべきである。これらの修正、変更又は置換は、対応する技術的解決手段の本質を本開示の実施例の技術的解決手段の精神及び範囲から逸脱させず、いずれも本開示の保護範囲の内に含まれるべきである。従って、本開示の保護範囲は、請求項の保護範囲に準ずるものとする。
本願の実施例は、シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラムを開示しており、前記方法は、車室環境画像を取得することと、前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることと、前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、シートベルト装着検知結果を決定することと、を含み、本願実施例により提供されるシートベルト装着検知方法は、車室環境における乗員の装着シートベルトの状態を正確に検知することが実現できる。
上記シートベルト装着検知の装置、電子デバイス、及びコンピュータ可読記憶媒体の効果の説明について、上記シートベルト装着検知方法の説明を参照すればよく、ここでは説明を省略する。
例えば、本願は以下の項目を提供する。
(項目1)
車室環境画像を取得することと、
前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることと、
前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、シートベルト装着検知結果を決定することと、
いずれかの人体がシートベルトを装着していない場合、警告情報を発することと、を含む
シートベルト装着検知方法。
(項目2)
前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングすることは、
前記少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定することと、
決定された前記相対的なズレ情報に基づいて、前記少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索することと、を含む
項目1に記載の方法。
(項目3)
シートベルト装着検知結果を決定することは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体がシートベルトを装着していないと決定することを含む
項目2に記載の方法。
(項目4)
シートベルト装着検知結果を決定することは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体がシートベルトを装着していると決定することを含む
項目2に記載の方法。
(項目5)
前記人体検知情報は人体検知枠情報を含み、
前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得ることは、
前記車室環境画像に基づいて、車室特徴図を生成することと、
前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得ることであって、前記マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含むことと、
前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定することであって、前記人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むことと、を含む
項目1~4のいずれか1項に記載の方法。
(項目6)
前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定することは、
前記マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることと、
順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定することと、
複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することと、
各前記人体検知枠の中心点位置情報に基づいて、前記マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした前記人体長さ情報及び人体幅情報を、前記人体検知枠の前記サイズ情報とすることと、を含む
項目5に記載の方法。
(項目7)
前記プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることは、
活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得ることと、
プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることと、を含む
項目6に記載の方法。
(項目8)
前記複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することは、
複数の前記人体中心点特徴サブ図における各前記人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断することと、
前記人体中心点特徴サブ図に対応する最大人体中心点特徴値が前記プリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定することと、
前記人体中心点特徴図における各前記目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することと、を含む
項目6又は7に記載の方法。
(項目9)
前記シートベルト検知情報はシートベルト検知枠情報を含み、
前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることは、
前記車室環境画像に基づいて、車室特徴図を生成することと、
前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定することであって、前記シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含むことと、
シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定することと、
各前記目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定することと、
前記相対的なズレ情報に基づいて、各前記目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定することと、
前記シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングして、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得ることであって、前記シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むことと、を含む
項目1に記載の方法。
(項目10)
前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定することは、
前記車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得ることであって、前記二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含むことと、
前記車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、前記背景特徴図及び前記シートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報と決定することと、を含む
項目9に記載の方法
(項目11)
車室環境画像を取得するように構成される取得モジュールと、
前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得るように構成される検知モジュールと、
前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、シートベルト装着検知結果を決定するように構成されるマッチングモジュールと、
いずれかの人体がシートベルトを装着していない場合、警告情報を発することを実行するように構成される警告モジュールと、を備える
シートベルト装着検知装置
(項目12)
前記マッチングモジュールは、
少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定し、
決定された相対的なズレ情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索するように構成される
項目11に記載の装置。
(項目13)
前記マッチングモジュールは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体にシートベルトを装着していないと決定するように構成される
項目12に記載の装置。
(項目14)
前記マッチングモジュールは、
いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体にシートベルトを装着していると決定するように構成される
項目12に記載の装置。
(項目15)
前記人体検知情報は人体検知枠情報を含み、
前記検知モジュールは、
前記車室環境画像に基づいて、車室特徴図を生成し、
前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得て、ここで、前記マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含み、
前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定し、ここで、前記人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むように構成される
項目11~14のいずれか1項に記載の装置。
(項目16)
前記検知モジュールは、
前記マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取り、
順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定し、
複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定し、
各前記人体検知枠の中心点位置情報に基づいて、前記マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした前記人体長さ情報及び人体幅情報を、前記人体検知枠の前記サイズ情報とするように構成される
項目15に記載の装置。
(項目17)
前記検知モジュールは、
活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得て、
プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取るように構成される
項目16に記載の装置。
(項目18)
前記検知モジュールは、
複数の前記人体中心点特徴サブ図における各前記人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断し、
前記人体中心点特徴サブ図に対応する最大人体中心点特徴値が前記プリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定し、
前記人体中心点特徴図における各前記目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定するように構成される
項目16又は17に記載の装置。
(項目19)
前記シートベルト検知情報はシートベルト検知枠情報を含み、
前記検知モジュールは、
前記車室環境画像に基づいて、車室特徴図を生成し、
前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定し、ここで、前記シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含み、
シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定し、
各前記目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定し、
前記相対的なズレ情報に基づいて、各前記目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定し、
前記シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングして、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得て、ここで、前記シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むように構成される
項目11前記的装置。
(項目20)
前記検知モジュールは、
前記車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得て、ここで、前記二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含み、
前記車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、前記背景特徴図及び前記シートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報と決定するように構成される
項目19に記載の装置。
(項目21)
プロセッサ、メモリ、及びバスを備える電子デバイスであって、
前記メモリには、前記プロセッサによって実行可能な機械可読命令が記憶されており、
前記電子デバイスが稼働するとき、前記プロセッサと前記メモリとは前記バスを介して通信され、
前記プロセッサは、前記メモリに記憶されている機械可読命令を実行するために用いられ、
項目1~10のいずれか1項に記載のシートベルト装着検知方法を実現するように、前記機械可読命令が前記プロセッサによって実行される
電子デバイス。
(項目22)
コンピュータプログラムが記憶されており、
前記コンピュータプログラムが電子デバイスによって実行されるとき、前記電子デバイスが項目1~10のいずれか1項に記載のシートベルト装着検知方法を実行する
コンピュータ可読記憶媒体。
(項目23)
コンピュータ可読コードが含まれており、
前記コンピュータ可読コードが電子デバイスで実行される場合、前記電子デバイスのプロセッサが項目1~10のいずれか1項に記載のシートベルト装着検知方法を実現するように実行する
コンピュータプログラム。

Claims (23)

  1. 車室環境画像を取得することと、
    前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることと、
    前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、シートベルト装着検知結果を決定することと、
    いずれかの人体がシートベルトを装着していない場合、警告情報を発することと、を含む
    シートベルト装着検知方法。
  2. 前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングすることは、
    前記少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定することと、
    決定された前記相対的なズレ情報に基づいて、前記少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索することと、を含む
    請求項1に記載の方法。
  3. シートベルト装着検知結果を決定することは、
    いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体がシートベルトを装着していないと決定することを含む
    請求項2に記載の方法。
  4. シートベルト装着検知結果を決定することは、
    いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体がシートベルトを装着していると決定することを含む
    請求項2に記載の方法。
  5. 前記人体検知情報は人体検知枠情報を含み、
    前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得ることは、
    前記車室環境画像に基づいて、車室特徴図を生成することと、
    前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得ることであって、前記マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含むことと、
    前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定することであって、前記人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むことと、を含む
    請求項1~4のいずれか1項に記載の方法。
  6. 前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定することは、
    前記マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることと、
    順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定することと、
    複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することと、
    各前記人体検知枠の中心点位置情報に基づいて、前記マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした前記人体長さ情報及び人体幅情報を、前記人体検知枠の前記サイズ情報とすることと、を含む
    請求項5に記載の方法。
  7. 前記プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることは、
    活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得ることと、
    プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取ることと、を含む
    請求項6に記載の方法。
  8. 前記複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することは、
    複数の前記人体中心点特徴サブ図における各前記人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断することと、
    前記人体中心点特徴サブ図に対応する最大人体中心点特徴値が前記プリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定することと、
    前記人体中心点特徴図における各前記目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定することと、を含む
    請求項6又は7に記載の方法。
  9. 前記シートベルト検知情報はシートベルト検知枠情報を含み、
    前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得ることは、
    前記車室環境画像に基づいて、車室特徴図を生成することと、
    前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定することであって、前記シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含むことと、
    シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定することと、
    各前記目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定することと、
    前記相対的なズレ情報に基づいて、各前記目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定することと、
    前記シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングして、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得ることであって、前記シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むことと、を含む
    請求項1に記載の方法。
  10. 前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定することは、
    前記車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得ることであって、前記二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含むことと、
    前記車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、前記背景特徴図及び前記シートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報と決定することと、を含む
    請求項9に記載の方法
  11. 車室環境画像を取得するように構成される取得モジュールと、
    前記車室環境画像に対して検知を行って、車室における少なくとも1つの人体の人体検知情報を得、及び、前記車室環境画像に対してシートベルト検知を行って、車室における少なくとも1本のシートベルトのシートベルト検知情報を得るように構成される検知モジュールと、
    前記少なくとも1つの人体の人体検知情報を、前記少なくとも1本のシートベルトのシートベルト検知情報とマッチングして、シートベルト装着検知結果を決定するように構成されるマッチングモジュールと、
    いずれかの人体がシートベルトを装着していない場合、警告情報を発することを実行するように構成される警告モジュールと、を備える
    シートベルト装着検知装置
  12. 前記マッチングモジュールは、
    少なくとも1本のシートベルトに対応するシートベルト検知枠の中心点位置と、人体検知枠の中心点位置との相対的なズレ情報を決定し、
    決定された相対的なズレ情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点から、各シートベルトに対応するシートベルト検知枠の中心点に関連する人体検知枠の中心点が存在するか否かを検索するように構成される
    請求項11に記載の装置。
  13. 前記マッチングモジュールは、
    いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在していない場合、当該人体にシートベルトを装着していないと決定するように構成される
    請求項12に記載の装置。
  14. 前記マッチングモジュールは、
    いずれかの人体について、当該人体に対応する人体検知枠の中心点に関連するシートベルト検知枠の中心点が存在している場合、当該人体にシートベルトを装着していると決定するように構成される
    請求項12に記載の装置。
  15. 前記人体検知情報は人体検知枠情報を含み、
    前記検知モジュールは、
    前記車室環境画像に基づいて、車室特徴図を生成し、
    前記車室特徴図に対して人体検知を行って、車室における少なくとも1つの人体にそれぞれ対応するマルチチャンネル特徴図を得て、ここで、前記マルチチャンネル特徴図は、人体中心点特徴図、人体長さ特徴図、及び人体幅特徴図を含み、
    前記マルチチャンネル特徴図に基づいて、前記少なくとも1つの人体に対応する人体検知枠情報を決定し、ここで、前記人体検知枠情報は、人体検知枠の中心点位置情報及び人体検知枠のサイズ情報を含むように構成される
    請求項11~14のいずれか1項に記載の装置。
  16. 前記検知モジュールは、
    前記マルチチャンネル特徴図に含まれる人体中心点特徴図について、プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取り、
    順次切り取られた各人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対して最大プーリング処理を行って、当該人体中心点特徴サブ図に対応する各人体中心点特徴値における最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報を決定し、
    複数の前記人体中心点特徴サブ図にそれぞれ対応する最大人体中心点特徴値、及び前記人体中心点特徴図における当該最大人体中心点特徴値の座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定し、
    各前記人体検知枠の中心点位置情報に基づいて、前記マルチチャンネル特徴図に含まれる人体長さ特徴図及び人体幅特徴図から、当該人体検知枠にマッチングする人体長さ情報及び人体幅情報をそれぞれ決定し、マッチングした前記人体長さ情報及び人体幅情報を、前記人体検知枠の前記サイズ情報とするように構成される
    請求項15に記載の装置。
  17. 前記検知モジュールは、
    活性化関数によって、人体中心点位置を特徴付ける人体中心点特徴図に対して正規化処理を行って、正規化処理済の人体中心点特徴図を得て、
    プリセットプーリングサイズ及びプリセットプーリングステップ長さに応じて、前記正規化処理済の人体中心点特徴図からプーリング処理対象の人体中心点特徴サブ図を順次切り取るように構成される
    請求項16に記載の装置。
  18. 前記検知モジュールは、
    複数の前記人体中心点特徴サブ図における各前記人体中心点特徴サブ図について、当該人体中心点特徴サブ図に対応する最大人体中心点特徴値がプリセット閾値より大きいか否かを判断し、
    前記人体中心点特徴サブ図に対応する最大人体中心点特徴値が前記プリセット閾値より大きい場合、当該最大人体中心点特徴値で示される人体中心点を目標人体中心点に決定し、
    前記人体中心点特徴図における各前記目標人体中心点に対応する座標位置情報に基づいて、少なくとも1つの人体に対応する人体検知枠の中心点位置情報を決定するように構成される
    請求項16又は17に記載の装置。
  19. 前記シートベルト検知情報はシートベルト検知枠情報を含み、
    前記検知モジュールは、
    前記車室環境画像に基づいて、車室特徴図を生成し、
    前記車室特徴図に含まれる複数のピクセルにおける各前記ピクセルの属するシートベルト類別情報を決定し、ここで、前記シートベルト類別情報は、シートベルトに属すること、及びシートベルトに属さないことを含み、
    シートベルト類別情報がシートベルトに属することであるピクセルを目標シートベルトピクセルに決定し、
    各前記目標シートベルトピクセルとシートベルト中心ピクセルとの相対的なズレ情報を決定し、
    前記相対的なズレ情報に基づいて、各前記目標シートベルトピクセルに対応するシートベルト中心ピクセルを決定し、
    前記シートベルト中心ピクセルに基づいて、同一のシートベルト中心ピクセルに対応する複数の目標シートベルトピクセルをクラスタリングして、車室における少なくとも1本のシートベルトに対応するシートベルト検知枠情報を得て、ここで、前記シートベルト検知枠情報は、シートベルト検知枠の中心点位置情報を含むように構成される
    請求項11前記的装置。
  20. 前記検知モジュールは、
    前記車室特徴図に対してシートベルト検知を行って、二チャンネル特徴図を得て、ここで、前記二チャンネル特徴図は、背景特徴図及びシートベルト特徴図を含み、
    前記車室特徴図に含まれる複数のピクセルにおける各ピクセルについて、前記背景特徴図及び前記シートベルト特徴図における、当該ピクセルにそれぞれ対応する特徴値のうちの比較的大きい方の特徴値で示されるシートベルト類別情報に基づいて、当該ピクセルの属するシートベルト類別情報と決定するように構成される
    請求項19に記載の装置。
  21. プロセッサ、メモリ、及びバスを備える電子デバイスであって、
    前記メモリには、前記プロセッサによって実行可能な機械可読命令が記憶されており、
    前記電子デバイスが稼働するとき、前記プロセッサと前記メモリとは前記バスを介して通信され、
    前記プロセッサは、前記メモリに記憶されている機械可読命令を実行するために用いられ、
    請求項1~10のいずれか1項に記載のシートベルト装着検知方法を実現するように、前記機械可読命令が前記プロセッサによって実行される
    電子デバイス。
  22. コンピュータプログラムが記憶されており、
    前記コンピュータプログラムが電子デバイスによって実行されるとき、前記電子デバイスが請求項1~10のいずれか1項に記載のシートベルト装着検知方法を実行する
    コンピュータ可読記憶媒体。
  23. コンピュータ可読コードが含まれており、
    前記コンピュータ可読コードが電子デバイスで実行される場合、前記電子デバイスのプロセッサが請求項1~10のいずれか1項に記載のシートベルト装着検知方法を実現するように実行する
    コンピュータプログラム。
JP2021578003A 2020-08-07 2020-12-10 シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラム Active JP7288097B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202010791309.2A CN111931642A (zh) 2020-08-07 2020-08-07 一种安全带佩戴检测的方法、装置、电子设备及存储介质
CN202010791309.2 2020-08-07
PCT/CN2020/135494 WO2022027893A1 (zh) 2020-08-07 2020-12-10 安全带佩戴检测方法、装置、电子设备、存储介质及程序

Publications (2)

Publication Number Publication Date
JP2022548460A true JP2022548460A (ja) 2022-11-21
JP7288097B2 JP7288097B2 (ja) 2023-06-06

Family

ID=73307124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021578003A Active JP7288097B2 (ja) 2020-08-07 2020-12-10 シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラム

Country Status (5)

Country Link
US (1) US20220144206A1 (ja)
JP (1) JP7288097B2 (ja)
KR (1) KR20220019105A (ja)
CN (1) CN111931642A (ja)
WO (1) WO2022027893A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931642A (zh) * 2020-08-07 2020-11-13 上海商汤临港智能科技有限公司 一种安全带佩戴检测的方法、装置、电子设备及存储介质
KR20220095819A (ko) * 2020-12-30 2022-07-07 현대자동차주식회사 라이다 센서를 이용한 객체 추적 방법 및 장치, 및 이 방법을 실행하기 위한 프로그램을 기록한 기록 매체
CN117221983A (zh) * 2022-06-02 2023-12-12 中兴通讯股份有限公司 座舱单元控制方法、系统及计算机存储介质
EP4310799A1 (en) * 2022-07-19 2024-01-24 Hyundai Mobis Co., Ltd. Seat belt wearing determination apparatus
CN117671592A (zh) * 2023-12-08 2024-03-08 中化现代农业有限公司 危险行为检测方法、装置、电子设备和存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010113506A (ja) * 2008-11-06 2010-05-20 Aisin Aw Co Ltd 乗員位置検出装置、乗員位置検出方法及び乗員位置検出プログラム
JP2010211705A (ja) * 2009-03-12 2010-09-24 Denso Corp 乗員姿勢推定装置
JP2016522767A (ja) * 2013-03-06 2016-08-04 クアルコム,インコーポレイテッド ドライバの注意散漫防止
JP2016199208A (ja) * 2015-04-14 2016-12-01 株式会社東海理化電機製作所 シートベルト警告装置
CN106709443A (zh) * 2016-12-19 2017-05-24 同观科技(深圳)有限公司 一种安全带佩戴状态的检测方法及终端
CN109086662A (zh) * 2018-06-19 2018-12-25 浙江大华技术股份有限公司 一种异常行为检测方法及装置
JP2021022010A (ja) * 2019-07-24 2021-02-18 トヨタ自動車株式会社 制御装置、車両、制御方法、及び制御プログラム
CN113269005A (zh) * 2020-02-14 2021-08-17 深圳云天励飞技术有限公司 一种安全带检测方法、装置及电子设备
JP2021152966A (ja) * 2020-06-29 2021-09-30 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド シートベルト着用状態の認識方法、認識装置、電子機器及び記憶媒体

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101655858B1 (ko) * 2015-02-03 2016-09-08 (주) 미래테크원 안전벨트 미착용 단속 시스템 및 그의 운용 방법
CN105373779B (zh) * 2015-11-10 2018-09-28 北京数字智通科技有限公司 一种车辆安全带智能检测方法及智能检测系统
CN107529659B (zh) * 2017-07-14 2018-12-11 深圳云天励飞技术有限公司 安全带佩戴检测方法、装置及电子设备
KR101957759B1 (ko) * 2018-10-12 2019-03-14 렉스젠(주) 안전 벨트 검출 시스템 및 그 방법
CN109886205B (zh) * 2019-02-25 2023-08-08 苏州清研微视电子科技有限公司 安全带实时监测方法和系统
CN109753903B (zh) * 2019-02-27 2020-09-15 北航(四川)西部国际创新港科技有限公司 一种基于深度学习的无人机检测方法
CN110046557A (zh) * 2019-03-27 2019-07-23 北京好运达智创科技有限公司 基于深度神经网络判别的安全帽、安全带检测方法
CN111178272B (zh) * 2019-12-30 2023-04-18 东软集团(北京)有限公司 一种识别驾驶员行为的方法、装置及设备
CN111476224B (zh) * 2020-06-28 2020-10-09 杭州鸿泉物联网技术股份有限公司 安全带检测方法、装置、电子设备及系统
CN111931642A (zh) * 2020-08-07 2020-11-13 上海商汤临港智能科技有限公司 一种安全带佩戴检测的方法、装置、电子设备及存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010113506A (ja) * 2008-11-06 2010-05-20 Aisin Aw Co Ltd 乗員位置検出装置、乗員位置検出方法及び乗員位置検出プログラム
JP2010211705A (ja) * 2009-03-12 2010-09-24 Denso Corp 乗員姿勢推定装置
JP2016522767A (ja) * 2013-03-06 2016-08-04 クアルコム,インコーポレイテッド ドライバの注意散漫防止
JP2016199208A (ja) * 2015-04-14 2016-12-01 株式会社東海理化電機製作所 シートベルト警告装置
CN106709443A (zh) * 2016-12-19 2017-05-24 同观科技(深圳)有限公司 一种安全带佩戴状态的检测方法及终端
CN109086662A (zh) * 2018-06-19 2018-12-25 浙江大华技术股份有限公司 一种异常行为检测方法及装置
JP2021022010A (ja) * 2019-07-24 2021-02-18 トヨタ自動車株式会社 制御装置、車両、制御方法、及び制御プログラム
CN113269005A (zh) * 2020-02-14 2021-08-17 深圳云天励飞技术有限公司 一种安全带检测方法、装置及电子设备
JP2021152966A (ja) * 2020-06-29 2021-09-30 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド シートベルト着用状態の認識方法、認識装置、電子機器及び記憶媒体

Also Published As

Publication number Publication date
WO2022027893A1 (zh) 2022-02-10
CN111931642A (zh) 2020-11-13
KR20220019105A (ko) 2022-02-15
US20220144206A1 (en) 2022-05-12
JP7288097B2 (ja) 2023-06-06

Similar Documents

Publication Publication Date Title
JP7288097B2 (ja) シートベルト装着検知方法、装置、電子デバイス、記憶媒体並びにプログラム
CN108764185B (zh) 一种图像处理方法及装置
CN112590794B (zh) 确定车辆驾驶员接管车辆控制的能力估计值的方法和装置
Seshadri et al. Driver cell phone usage detection on strategic highway research program (SHRP2) face view videos
CN106682602B (zh) 一种驾驶员行为识别方法及终端
CN109584507B (zh) 驾驶行为监测方法、装置、系统、交通工具和存储介质
US8547214B2 (en) System for preventing handheld device use while operating a vehicle
US20220084316A1 (en) Method and electronic device for recognizing abnormal sitting posture, and storage medium
US9330308B2 (en) Apparatus method and computer-readable medium that detects different regions of user's hand for recognizing gesture for carrying out operation of vehicle
CN111931639B (zh) 驾驶员行为检测方法、装置、电子设备及存储介质
EP3342664B1 (en) Posture information based pedestrian detection and pedestrian collision prevention apparatus and method
US10817751B2 (en) Learning data creation method, learning method, risk prediction method, learning data creation device, learning device, risk prediction device, and recording medium
WO2015076152A1 (ja) ヘルメット着用判定方法、ヘルメット着用判定システム、ヘルメット着用判定装置及びプログラム
CN110997418A (zh) 车辆占用管理系统和方法
US20160046296A1 (en) Method and device for assigning a driver of a vehicle to a driver class stored in the vehicle and representing a specific driving behaviour of the driver, and computer program product for that purpose
WO2020013035A1 (ja) 異常判定装置
CN109165607B (zh) 一种基于深度学习的驾驶员手持电话检测方法
CN111016913A (zh) 基于图像信息的司机状态控制系统及方法
EP3842998A1 (en) Driver condition estimating device, vehicle and driver condition estimating method
US20180201261A1 (en) Method for checking the plausibility of a control decision for safety means
CN113366493A (zh) 信息处理方法、以及信息处理系统
US10482320B2 (en) Device and method for providing moving body information for a vehicle, and recording medium, on which a program for executing the method is recorded
KR101664620B1 (ko) 도로 곡률 안내 장치 및 방법
US9428221B2 (en) Drive assist control device
Chai et al. Rethinking the Evaluation of Driver Behavior Analysis Approaches

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211228

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230525

R150 Certificate of patent or registration of utility model

Ref document number: 7288097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150