JP2021536069A - 信号表示灯の状態検出方法及び装置、運転制御方法及び装置 - Google Patents

信号表示灯の状態検出方法及び装置、運転制御方法及び装置 Download PDF

Info

Publication number
JP2021536069A
JP2021536069A JP2021513233A JP2021513233A JP2021536069A JP 2021536069 A JP2021536069 A JP 2021536069A JP 2021513233 A JP2021513233 A JP 2021513233A JP 2021513233 A JP2021513233 A JP 2021513233A JP 2021536069 A JP2021536069 A JP 2021536069A
Authority
JP
Japan
Prior art keywords
feature value
reference feature
signal indicator
cluster
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021513233A
Other languages
English (en)
Inventor
シーチャン スー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Sensetime Technology Co Ltd
Original Assignee
Shenzhen Sensetime Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Sensetime Technology Co Ltd filed Critical Shenzhen Sensetime Technology Co Ltd
Publication of JP2021536069A publication Critical patent/JP2021536069A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/14Adaptive cruise control
    • B60W30/143Speed control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • G06F18/23213Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2431Multiple classes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/28Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • G06V10/763Non-hierarchical techniques, e.g. based on statistics of modelling distributions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Probability & Statistics with Applications (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

本開示は、信号表示灯の状態検出方法及び装置、運転制御方法及び装置に関する。前記信号表示灯の状態検出方法は、対象画像における、異なる表示状態を有する信号表示灯を少なくとも1つ含む対象領域を検出し、前記対象領域内のピクセルの第1の特徴値を決定することと、前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得することと、取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定することと、を含む。【選択図】図1

Description

優先権主張
本願は、2019年5月28日に中国特許局に提出された、出願番号がCN201910450394.3で、発明の名称が「信号表示灯の状態検出方法及び装置、運転制御方法及び装置」の中国特許出願の優先権を主張し、当該出願の全体内容は参照により本開示に組み込まれる。
本開示は、コンピュータビジョン技術に関し、特に、信号表示灯の状態検出方法及び装置、運転制御方法及び装置に関する。
自動運転中や運転支援中に、交差点の交通信号の信号状態を検出する必要がある。自動運転車両は、妨害がある様々な走行環境で、交通信号の位置や状態をリアルタイムで検出しないと、経路をうまく案内できない。自動運転車両は、センサーとしてカメラを使用して道路シーンの画像を収集することで、交通信号をリアルタイムで検出することができる。
本開示は、信号表示灯の状態検出方法及び装置を提供する。
本開示の第1の方面によれば、対象画像における、異なる表示状態を有する信号表示灯を少なくとも1つ含む対象領域を検出し、前記対象領域内のピクセルの第1の特徴値を決定することと、 前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得することと、取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定することと、を含む、信号表示灯の状態検出方法を提供する。
いくつかの可能な実施形態では、前記取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定することは、前記対象画像の画像収集機器に予め設定された参考特徴値及び各クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定することと、前記参考特徴値にマッチングするクラスタ中心があることに応じて、前記信号表示灯が第1の状態であると決定することと、を含む。
いくつかの可能な実施形態では、前記方法は、前記参考特徴値及び各クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定した後、前記参考特徴値にマッチングするクラスタ中心がないことに応じて、前記信号表示灯が第2の状態であると決定することとをさらに含む。
いくつかの可能な実施形態では、前記参考特徴値を設定するためには、前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得するステップと、前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定するステップとを含む。
いくつかの可能な実施形態では、前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定することは、所定色領域のピクセルの色値を前記参考特徴値として決定すること、又は前記所定色領域のピクセルの色値に対して正規化処理を実行して、前記参考特徴値を取得することを含む。
いくつかの可能な実施形態では、前記参考特徴値は赤色状態の参考特徴値、黄色状態の参考特徴値及び青色状態の参考特徴値を含む。
いくつかの可能な実施形態では、前記方法は、前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに基づいて、前記対象領域においてクラスタによる第1の面積を決定することと、第1の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定することと、第1の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定することと、をさらに含む。
いくつかの可能な実施形態では、前記方法は、前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに対してクラスタリング処理を行って、複数の新しいクラスタを取得することと、前記新しいクラスタのクラスタ中心にマッチングする参考特徴値を決定し、前記対象領域において前記新しいクラスタのピクセルによる第2の面積を決定することと、第2の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定することと、第2の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定することと、をさらに含む。
いくつかの可能な実施形態では、前記対象領域内のピクセルの第1の特徴値を決定することは、
前記対象領域内のピクセルの色値を前記第1の特徴値として決定すること、又は前記対象領域内のピクセルの色値に対して正規化処理を実行して、前記第1の特徴値を取得することを含む。
いくつかの可能な実施形態では、前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得することは、K平均法で前記対象領域内のピクセルをクラスタリングして、所定数のクラスタを取得することを含む。
本開示の第2の方面によれば、スマート運転機器の画像収集機器によって道路画像を収集することと、前記道路画像を対象画像として本開示の第1の方面におけるいずれか1項に記載の信号表示灯の状態検出方法を実行して、前記道路画像における信号表示灯の表示状態を取得することと、 前記道路画像における信号表示灯の表示状態に基づいて、前記スマート運転機器を制御する制御命令を生成して出力することで、前記スマート運転機器を制御する運転制御方法を提供する。
いくつかの可能な実施形態では、前記制御命令は、速度維持制御命令と、速度調整制御命令と、方向維持制御命令と、方向調整制御命令と、警報提示制御命令と、運転モード切替制御命令とのうちの少なくとも1つを含む。
本開示の第3の方面によれば、対象画像における、異なる表示状態を有する信号表示灯を少なくとも1つ含む対象領域を検出し、前記対象領域内のピクセルの第1の特徴値を決定する検出モジュールと、前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得するクラスタリングモジュールと、取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定する特定モジュールと、を備える信号表示灯の状態検出装置を提供する。
いくつかの可能な実施形態では、前記特定モジュールは、前記対象画像を取得する画像収集機器に予め設定された参考特徴値及び各クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定することと、前記参考特徴値にマッチングするクラスタ中心があることに応じて、前記信号表示灯が第1の状態であると決定する。
いくつかの可能な実施形態では、前記特定モジュールは、さらに、前記参考特徴値及び各クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定した後、前記参考特徴値にマッチングするクラスタ中心がないことに応じて、前記信号表示灯が第2の状態であると決定する。
いくつかの可能な実施形態では、前記装置は、設定モジュールをさらに備え、前記設定モジュールは、前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得し、前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定する。
いくつかの可能な実施形態では、前記設定モジュールは、前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得し、所定色領域のピクセルの色値を前記参考特徴値として決定するか、又は、前記所定色領域のピクセルの色値に対して正規化処理を実行して、前記参考特徴値を取得する。
いくつかの可能な実施形態では、前記参考特徴値は赤色状態の参考特徴値、黄色状態の参考特徴値及び青色状態の参考特徴値を含む。
いくつかの可能な実施形態では、前記特定モジュールは、さらに、前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに基づいて、前記対象領域においてクラスタによる第1の面積を決定し、第1の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定し、第1の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定する。
いくつかの可能な実施形態では、前記特定モジュールは、さらに、前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに対してクラスタリング処理を行って、複数の新しいクラスタを取得し、前記新しいクラスタのクラスタ中心にマッチングする参考特徴値を決定し、前記対象領域において前記新しいクラスタのピクセルによる第2の面積を決定し、第2の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定し、第2の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定する。
いくつかの可能な実施形態では、前記検出モジュールは、対象画像の対象領域を検出し、前記対象領域内のピクセルの色値を前記第1の特徴値として決定するか、又は、前記対象領域内のピクセルの色値に対して正規化処理を実行して、前記第1の特徴値を取得する。
いくつかの可能な実施形態では、前記クラスタリングモジュールは、K平均法で前記対象領域内のピクセルをクラスタリングして、所定数のクラスタを取得する。
本開示の第4の方面によれば、スマート運転機器に取り付けられ、道路画像を収集する画像収集機器と、前記道路画像を対象画像として本開示の第1の方面におけるいずれか1項に記載の信号表示灯の状態検出方法を実行して、前記道路画像における信号表示灯の表示状態を取得する信号表示灯状態検出モジュールと、前記道路画像における信号表示灯の表示状態に基づいて、前記スマート運転機器を制御する制御命令を生成して出力することで、前記スマート運転機器を制御する制御モジュールと、を備える運転制御装置を提供する。
いくつかの可能な実施形態では、前記制御命令は、速度維持制御命令と、速度調整制御命令と、方向維持制御命令と、方向調整制御命令と、警報提示制御命令と、運転モード切替制御命令とのうちの少なくとも1つを含む。
本開示の第5の方面によれば、プロセッサと、プロセッサにより実行可能な命令を記憶するメモリとを含み、前記プロセッサは、第1の方面におけるいずれか1項に記載の方法を実行するか、又は第2の方面におけるいずれか1項に記載の方法を実行するように構成される電子機器を提供する。
本開示の第6の方面によれば、コンピュータプログラム命令が記憶されているコンピュータ可読記憶媒体であって、前記コンピュータプログラム命令がプロセッサにより実行されると、第1の方面におけるいずれか1項に記載の方法を実現させるか、又は第2の方面におけるいずれか1項に記載の方法を実行することを特徴とするコンピュータ可読記憶媒体を提供する。
本開示の第7の方面によれば、コンピュータ可読コードを含むコンピュータプログラムであって、前記コンピュータ可読コードが電子機器において動作すると、前記電子機器のプロセッサに第1の方面におけるいずれか1項に記載の方法を実現するための命令をに実行させるか、又は第2の方面におけるいずれか1項に記載の方法を実現するための命令を実行させるコンピュータプログラムを提供する。
本開示の実施例は、画像における信号表示灯が位置する対象領域を検出し、信号表示灯が位置する対象領域のピクセルの特徴値に対してクラスタリング処理を行って、複数のクラスタを取得することにより、当該複数のクラスタと参考特徴値とのマッチング状況に応じて、信号表示灯の表示状態を取得することができる。本開示の実施例は、信号表示灯の表示状態を精度よく検出した上で、表示状態の検出時にニューラルネットワークを使用する確率を低くすることができ、ネットワークトレーニングプログラムが低減されつつ、信号表示灯の表示状態の検出時間を短縮することができる。自動運転分野においても、本開示の実施例によって交通信号の表示状態を特定することができ、これにより自動運転の安全性が向上する。
以上の一般的な説明及び以下の詳細的な説明は、例示的や解釈的なものに過ぎず、本開示を制限するものではないことを理解すべきである。
図面を参照しながら例示的な実施例を詳細に説明することによって、本開示の他の特徴及び方面はより分かりやすくなる。
明細書の一部として含まれる図面は、本開示の実施例を示し、明細書と共に本開示の技術的手段を説明するものである。
本開示の実施例に係る信号表示灯の状態検出方法のフローチャートを示す。 本開示の実施例に係る信号表示灯の状態検出方法におけるステップS30のフローチャートを示す。 本開示の実施例に係る信号表示灯の状態検出方法における参考特徴値を取得するフローチャートを示す。 本開示の実施例に係る信号表示灯の状態検出方法におけるステップS34のフローチャートを示す。 本開示の実施例に係る信号表示灯の状態検出方法におけるステップS34の別のフローチャートを示す。 本開示の実施例における信号表示灯の構造模式図を示す。 本開示の実施例で提供する運転制御方法のフローチャートを示す。 本開示の実施例に係る信号表示灯の状態検出装置のブロック図を示す。 本開示の実施例に係る運転制御装置のブロック図を示す。 本開示の実施例に係る電子機器のブロック図を示す。 本開示の実施例に係る電子機器の別のブロック図を示す。
以下に図面を参照しながら本開示の様々な例示的実施例、特徴及び方面を詳細に説明する。図面において、同じ符号が同じまたは類似する機能の要素を表す。図面において実施例の様々な方面を示したが、特に説明がない限り、比例に従って図面を描く必要がない。
ここの用語「例示的」とは、「例、実施例とするものまたは説明的なもの」を意味する。ここで「例示的」に説明されるいかなる実施例も他の実施例より好ましい又は優れるものであると理解すべきではない。
本明細書において、用語「及び/又は」は、関連対象の関連関係を記述するものに過ぎず、3つの関係が存在可能であることを示し、例えば、A及び/又はBは、Aのみが存在し、AとBが同時に存在し、Bのみが存在するという3つの場合を示すことができる。また、本明細書において、用語「少なくとも1つ」は複数のうちのいずれか1つ又は複数のうちの少なくとも2つの任意の組合を示し、例えば、A、B、Cのうちの少なくとも1つを含むということは、A、B及びCから構成される集合から選択されたいずれか1つ又は複数の要素を含むことを示すことができる。
また、本開示をより効果的に説明するために、以下の具体的な実施形態において様々な具体的な詳細を示す。当業者であれば、何らかの具体的な詳細がなくても、本開示は同様に実施できるということを理解すべきである。いくつかの実施例では、本開示の趣旨を強調するために、当業者に既知の方法、手段、要素及び回路について、詳細な説明を省略する。
本開示の実施例は、対象画像における信号表示灯の表示状態を検出できる信号表示灯の状態検出方法を提供する。本開示の実施例の信号表示灯の状態検出方法は任意の画像収集機器及び画像処理機器に適用可能である。例えば、ビデオカメラ、カメラ、携帯電話、コンピューター、PAD、スマートウォッチ、スマートブレスレット、またはサーバーに適用できる。また、ロボット、スマート運転機器、視覚障害者の誘導機器などにも適用でき、画像取得や画像処理を実行できるものであれば、本開示の実施例の方法を実現させることができる。これについて、本開示では特に限定しない。本開示は、信号灯状態の識別、検出などの場面に適用でき、例えば、自動運転において、交通信号の状態を検出することによって、経路計画及び経路案内などを行うことができる。具体的な適用場面について、本開示では特に限定しない。
図1は、本開示の実施例に係る信号表示灯の状態検出方法のフローチャートを示す。前記信号表示灯の状態検出方法は以下のステップを含んでもよい。
S10:対象画像における、異なる表示状態を有する信号表示灯を少なくとも1つ含む対象領域を検出し、前記対象領域内のピクセルの第1の特徴値を決定する。
上述したように、本開示の実施例に係る信号表示灯の状態検出方法は、対象画像における信号表示灯(以下、対象オブジェクトという)の表示状態の検出を実現させることができる。まず、当該対象画像を取得する。いくつかの可能な実施形態では、対象画像は、画像収集機器によって取得したものであり、例えば、運転記録機器などの画像収集機器を、車両や航空機などの自動運転または運転支援の機器に設置してもよい。当該画像収集機器によって運転記録画像を取得することができる。当該運転記録画像は、本開示の実施例の対象画像としてもよい。あるいは、受信したビデオ画像からサンプリングすることによって対象画像を取得してもよいし、他の機器から受信した対象画像であってもよい。これについて、本開示では特に限定しない。
いくつかの可能な実施形態では、対象画像を取得した後、ステップS10で対象画像における対象オブジェクトの位置する対象領域を検出することができる。対象オブジェクトは信号表示灯を含んでもよく、当該信号表示灯には、走行方向の直進・旋回を案内する信号表示灯を含んでもよいし、停止、前進、待機を案内する信号表示灯を含んでもよいし、様々な機器の作動状態を指示する信号表示灯を含んでもよい。本開示は、これについて個々に列挙して説明しない。図6は、本開示の実施例における信号表示灯の構造模式図を示しており、縦方向に配列された信号表示灯、横方向に配列された信号表示灯、または方向を指示する信号表示灯などの各信号表示灯の種類を例示的に説明するものに過ぎない。図6に示す対象オブジェクトは、3つの表示灯を含んでもよい。本開示の実施例において、表示灯の数は、1つでもよいし、複数でもよい。これについて特に限定しない。さらに、信号表示灯は、異なる表示状態を有してもよい。例えば、点灯していてもよいし、点灯していなくてもよい。あるいは、点灯時に、例えば、赤、黄、及び青のうちの少なくとも1つの、異なる点灯色を有してもよいし、他の実施例において、他の点灯色または他の表示状態を有してもよい。本開示の実施例において、信号表示灯を対象オブジェクトの例として説明するが、他の実施例において、対象オブジェクトが異なる色または異なる輝度など、異なる表示状態を有すれば、本開示の実施例の対象オブジェクトとしてもよい。
いくつかの可能な実施形態では、対象オブジェクト及び対象オブジェクトの位置する対象領域の検出は、画像認識法(非ニューラルネットワーク検出方法)によって実行してもよいし、対象オブジェクトを認識するようにトレーニングされたニューラルネットワークによって実行してもよい。ニューラルネットワークは、畳み込みニューラルネットワークとしてもよい。あるいは、受信したフレーム選択操作で対象オブジェクトの位置する対象領域を決定してもよい。例えば、入力モジュールによりユーザーが入力したタッチ操作(すなわちフレーム選択操作)を受け、前記タッチ操作で選択された領域に基づいて対象オブジェクトの位置する対象領域を決定してもよい。以上は例示的な説明に過ぎない。他の実施例では、他の方法で対象オブジェクトの位置する対象領域を決定してもよい。これについて、本開示では特に限定しない。
対象画像における対象オブジェクトの位置する対象領域を決定した後、当該対象領域内における複数のピクセルに対応する第1の特徴値を取得してもよい。当該第1の特徴値はピクセルの画素値を表示してもよく、具体的には、ピクセルに対応する少なくとも1つのカラーチャネルの特徴値であってもよい。例えば、本開示の実施例の対象画像はRGB画像(カラー画像)であってもよく、この場合、取得したピクセルの第1の特徴値は対象領域内のピクセルの色値であってよい。色値は、色が異なるカラーモードにおいて対応する色値であり、カラーモードは、色を数字として表すモデルであり、画像の色を記録する方法であるとも言える。現在、一般的に使用されているカラーモードは、RGBモード、CMYKモード、HSBモード、Labカラーモード、ビットマップモード、グレースケールモード、インデックスカラーモード、ダブルトーンモード、マルチチャネルモードなどを含む。したがって、RGBモードにおいて、この色値は、R値と、G値と、B値とを含んでもよい。RGBモードは現在最も一般的に使用されているカラーモードである。以下の例示では、RGBモードのみを例として挙げるが、他のカラーモードを使用する信号表示灯の状態検出方法は、RGBモードを使用する信号表示灯の状態検出方法と類似するので、ここで詳細な説明を省略する。また、対象画像が別の形式の画像である場合、空間変換によって他の形式の画像をRGB画像に変換することができる。例えば、YUV形式の画像をRGB形式の画像に変換して、ピクセルの第1の特徴値を取得する。画像変換の方法について、本開示の実施例は特に限定しない。
いくつかの可能な実施形態では、対象領域内における複数のピクセルの第1の特徴値は正規化処理を行った色値であってもよい。つまり、本開示の実施例は、対象画像の対象領域内における複数のピクセルの色値(R値、G値及びB値)を取得した後、取得したR値、G値及びB値に対して正規化処理を実行してもよく、これによりノイズを低減し、ノイズの侵入による第1の特徴値の差異を小さくすることで、クラスタリング精度及び表示状態の表示精度を高めることができる。正規化処理の方法は、R値、G値及びB値をそれぞれ標準値で除算して、R値、G値、及びB値の正規化処理結果を取得することを含んでもよい。標準値はニーズに応じて決定できるが、通常、対象画像の複数のピクセルの階調に基づいて決定できる。例えば、対象画像の最大画素値をこの標準値として決定してもよい。例えば、対象領域のピクセルのRGBを(255,0,0)として表示し、標準値を255とした場合、正規化された結果は(1,0,0)になる。
S20:前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行い、ピクセルに関する複数のクラスタを取得すること。
本開示の実施例では、対象領域内における複数のピクセルの第1の特徴値を取得した場合、取得した第1の特徴値に基づいて複数のピクセルをクラスタリングして、異なる色状態のクラスタを取得してもよい。
いくつかの可能な実施形態では、複数のピクセルの第1の特徴値は、色値に対応する3次元空間にマッピングしてもよい。色値としてRGBを採用することを例にすると、複数のピクセルの第1の特徴値をRGBの3次元空間にマッピングしてもよい。RGB値は、RGBの3次元空間の座標点とみなしてもよい。例えば、第1の特徴値が(1,0,0)のピクセルの場合、該ピクセルがR軸上にあってもよく、R軸における座標値が1である。このように類推すると、RGB空間における各ピクセルの位置を取得でき、RGB空間内における複数の第1の特徴値の位置に基づいて複数のピクセルに対してクラスタリング処理を行うことができる。
いくつかの可能な実施形態では、K平均法を利用して複数のピクセルのクラスタリング処理を実行してもよい。K平均法は、まず、対象領域内における複数のピクセルの第1の特徴値からK(Kは1より大きい整数)個のオブジェクト(第1の特徴値)を最初のクラスタ中心としてランダムに選択してもよく、クラスタ中心の個数が予め設定されたクラスタの数と同じである。その後、各オブジェクトと複数の最初のクラスタ中心との距離を計算し、各オブジェクトをそれに最も近いクラスタ中心に割り当てる。クラスタ中心及びそれに割り当てられたオブジェクトは、1つのクラスタ(cluster)を表す。すべてのオブジェクトが割り当てられた後、各クラスタのクラスタ中心は、クラスタにおける現存のオブジェクトに基づいて再計算される。このプロセスは、ある終了条件を満たすまで繰り返す。終了条件は、異なるクラスタに再割り当てされるオブジェクトがなく(または最小数である)、再変更されるクラスタ中心がない(または最小数である)ことであってもよい。上記方法により、複数のピクセルのクラスタリングを完了し、設定されたクラスタ数となる複数のクラスタを取得することができる。K平均法でクラスタリング処理を行った後、複数のクラスタを取得するとともに、クラスタのクラスタ中心(クラスタの中心)を決定することができる。
本開示の実施例では、上記クラスタリング処理によって、第1の特徴値の距離が近いピクセルを同じクラスタ(cluster)に割り当てることができ、このプロセスは、同じ色のピクセルのクラスタリング処理を図ることができる。
S30:取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定すること。
上述したように、本開示の実施例はステップS20によって同じ色のピクセルについてのクラスタリング処理を実行することができ、クラスタリング処理によって取得した異なるクラスタは、異なる色のピクセルのクラスタとして表示することができる。したがって、クラスタが表示する色に基づいて対象領域における対象オブジェクトの表示状態を特定することができる。対象オブジェクトは信号表示灯であってよく、本開示の実施例の対応する対象オブジェクトの表示状態は、点灯している信号表示灯がある状態である第1の状態と、点灯している信号表示灯がない状態である第2の状態とを有してもよく、また、第1の状態では、点灯している信号表示灯の色をさらに確認することができる。
図2は、本開示の実施例に係る信号表示灯の状態検出方法におけるステップS30のフローチャートを示す。前記取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定することは、S31〜S34を含んでもよい。
S31において、各クラスタのクラスタ中心に対応する第1の特徴値及び参考特徴値に基づいて、参考特徴値にマッチングするクラスタ中心の有無を決定する。
いくつかの可能な実施形態では、複数の色状態を有する参考特徴値を設定してもよい。同様に、各参考特徴値は、対応する色の、RGB値などの色値を有してもよく、当該参考特徴値を色値空間にマッピングしてもよく、これにより当該参考特徴値に対応する色値とクラスタのクラスタ中心との距離に基づいてクラスタ中心が参考特徴値にマッチングするか否かを決定してもよい。対象オブジェクトが信号表示灯である場合、設定された参考特徴値は、赤色状態の参考特徴値、黄色状態の参考特徴値及び青色状態の参考特徴値を有してもよい。参考特徴値は、RGB空間の1つの座標点として表示してもよく、座標値が、対応するRGB値である。
クラスタリング処理により取得した複数のクラスタのクラスタ中心を参考特徴値と比較することにより、クラスタ中心が参考特徴値にマッチングするか否か、すなわち、対応するクラスタの色が参考特徴値に対応する色にマッチングするか否かを決定することができる。
いくつかの可能な実施形態では、クラスタ中心と参考特徴値との距離が距離閾値よりも小さい場合、当該クラスタ中心が当該参考特徴値にマッチングする、すなわち当該クラスタ中心に対応するクラスタの色が当該参考特徴値に対応する色にマッチングすると決定することができる。つまり、対象領域には、当該色がハイライト表示されている状態、例えば当該色の表示灯がしているする状態である可能性がある。すべてのクラスタのクラスタ中心について、いずれもクラスタ中心にマッチングする参考特徴値がない場合、すなわちそれぞれのクラスタ中心と複数の参考特徴値との距離のいずれも距離閾値以上である場合、対象領域の対象オブジェクトには、点灯している参考特徴値に対応する色がない状態であること、すなわちハイライト表示されている参考特徴値に対応する色がないことを意味している。つまり、点灯している信号表示灯がない。
S32において、前記参考特徴値にマッチングするクラスタ中心があることに応じて、前記対象オブジェクトが第1の状態であると決定する。
上述したように、参考特徴値との距離が距離閾値よりも小さいクラスタ中心がある場合、前記参考特徴値にマッチングするクラスタ中心があると決定することができる。このとき、対象領域の対象オブジェクトが第1の状態であると決定できる。つまり、ハイライト表示されている参考特徴値に対応する状態の色がある。このとき、点灯している信号表示灯がある状態である。
S33において、前記参考特徴値にマッチングするクラスタ中心がないことに応じて、前記対象オブジェクトが第2の状態であると決定する。
上述したように、すべてのクラスタのクラスタ中心の第1の特徴値のいずれについても、任意の参考特徴値との距離が距離閾値以上である場合、前記参考特徴値にマッチングするクラスタ中心がないと決定することができる。このとき、対象領域の対象オブジェクトが第2の状態であると決定できる。つまり、ハイライト表示されている参考特徴値に対応する色がない状態であり、このとき、点灯している信号表示灯がない状態である。
S34において、前記第1の状態又は前記第2の状態に基づいて、前記対象オブジェクトの表示状態を特定する。
いくつかの可能な実施形態では、対象オブジェクトが第2の状態であると決定したとき、対象オブジェクトの表示状態は、ハイライト表示されている参考特徴値に対応する色がない状態、すなわち点灯している信号表示灯がない状態である。
いくつかの可能な実施形態では、対象オブジェクトが第1の状態であると決定したとき、対象オブジェクトの表示状態は、ハイライト表示されている参考特徴値に対応する色がある状態、すなわち点灯している信号表示灯がある状態である。
本開示の実施例によれば、信号表示灯の第1の状態と第2の状態を決定することができ、第2の状態である場合、当該対象領域内の信号表示灯がいずれも点灯していないと決定することができる。このとき、当該信号表示灯が故障したものであることを検出することができる(正常の場合、信号表示灯のうちのいずれか1つが点灯しているはずであるから)。また、当該信号表示灯が故障した旨を関連機関に知らせるために、対象画像の信号表示灯が第2の状態であると決定した場合、当該故障情報を報告するようにしてもよい。例えば、関連機関の作業者が信号表示灯のメンテナンスを容易に行い、交通の安全性を向上させるために、対象画像を、対象画像に対応する位置情報及び対象画像の第2の状態とともに予め設定された格納アドレス(例えば交通機関の通信アドレス)に伝送することで当該故障情報を報告してもよい。
また、本開示の実施例の複数の色に対応する参考特徴値、例えば参考RGB値は、設定されたRGB値によって決定してもよい。標準状態における赤色のRGB値を赤色の参考特徴値と決定し、標準状態における黄色のRGB値を黄色の参考特徴値と決定し、標準状態における青色のRGB値を青色の参考特徴値と決定してもよい。
別のいくつかの実施形態では、画像収集機器でカラーキャリブレーションターゲットを撮影することにより、当該画像収集機器に対応する複数の色の参考特徴値を取得してもよい。図3は、本開示の実施例に係る信号表示灯の状態検出方法における参考特徴値を取得するのフローチャートを示す。参考特徴値を取得するステップは、S41およびS42を含む。
S41において、前記対象画像を取得する画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得する。
いくつかの可能な実施形態では、カラーキャリブレーションターゲットは、異なる色を有するカラーサンプルであってもよく、対象画像を収集する画像収集機器で当該カラーキャリブレーションターゲットを撮影することにより、当該カラーキャリブレーションターゲットに関する参考画像を取得することができる。
S42において、前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定する。
前記参考画像は、複数の色領域を有してもよいので、複数の色領域内のピクセルの色値(例えばRGB値)を取得することができる。本開示の実施例は、対応する領域内のピクセルの色値の平均値を当該色領域に対応する参考特徴値、すなわち当該色の参考特徴値としてもよい。
同様に、第1の特徴値の取得方法と同じように、対応する色領域の色値の平均値を正規化して当該色の参考特徴値を取得してもよい。正規化方法は、上記の説明の通りである。例えば、色値の平均値を階調数又は他の標準値で除算して、正規化した参考特徴値を取得する。詳細なプロセスについて、ここで重複な説明を省略する。
上記実施例によれば、画像収集機器に関する複数の色の参考特徴値を取得し、後続のステップで当該参考特徴値に基づいてクラスタ中心と参考特徴値とのマッチング処理などの後続の論理的処理を行い、画像収集機器のパラメータによる色のピクセルへの影響を減らすことができる。さらに、多種類の画像収集機器に適用し、画像収集機器で収集した画像間の色のばらつきを減らすことができる。
いくつかの可能な実施形態では、対象オブジェクトが第1の状態であると決定した場合、点灯している表示灯の色をさらに決定してもよい。
図4は、本開示の実施例に係る信号表示灯の状態検出方法におけるステップS34のフローチャートを示す。前記第1の状態又は前記第2の状態に基づいて前記対象オブジェクトの表示状態を特定することは、S3401およびS3402を含む。
S3401において、前記対象オブジェクトが第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに基づいて、前記対象領域において当該クラスタによる第1の面積を決定する。
いくつかの可能な実施形態では、対象オブジェクトが第1の状態であると決定した場合、対象領域において参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルが形成された領域の第1の面積を取得してもよい。例えば、参考特徴値にマッチングするクラスタ中心に対応するピクセルを対象領域に再マッピングして、対象領域において当該クラスタのピクセルによる第1の面積を決定してもよい。本開示の実施例は、積算により第1の面積を決定してもよいし、他の方法により第1の面積を取得してもよい。これについて、本開示では特に限定しない。
S3402において、第1の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記対象オブジェクトの表示色を特定する。
参考特徴値にマッチングするクラスタ中心が複数である可能性があるため、少なくとも1つのクラスタに対応する第1の面積を取得する可能性がある。このとき、本開示の実施例は、第1の面積が最も大きく、かつ当該第1の面積が面積閾値よりも大きいクラスタに対応する参考特徴値の色を、対象領域における対象オブジェクトの表示色として決定しもよい。この方法によって、対象領域における点灯している信号表示灯の色を簡単且つ便利に決定することができる。本開示の実施例は必要に応じてかかる面積閾値を設定してもよい。これについて、本開示では特に限定しない。
又は、本開示の別のいくつかの実施例では、対象領域内に再マッピングされた複数のピクセルに対してクラスタリング処理をさらに実行して、新しい複数のクラスタを取得し、対象オブジェクトの表示色、すなわち点灯している表示灯の色をさらに決定してもよい。この方法によって、表示色の検出精度を高めることができる。
図5は、本開示の実施例に係る信号表示灯の状態検出方法におけるステップS34の別のフローチャートを示す。前記第1の状態又は前記第2の状態に基づいて、前記対象オブジェクトの表示状態を特定することは、S3411〜S3413を含む。
S3411において、前記対象オブジェクトが第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに対してクラスタリング処理を実行して、複数の新しいクラスタを取得する。
上記実施例で記述するように、本開示の実施例は、決定された参考特徴にマッチングするクラスタ中心に対応するクラスタ内のピクセルを対象領域に再マッピングして、再マッピングされたすべてのピクセルに対してクラスタリング処理を再実行してもよい。
同様に、再マッピングされたピクセルの第1の特徴値に基づいてクラスタリング処理を実行してもよい。例えば、K平均クラスタリング処理を実行してもよい。ステップS20におけるクラスタリング処理に設定するクラスタの数と、本ステップにおけるクラスタリング処理に設定するクラスタの数とは同一であってもよいし、異なってもよいが、通常、3以上の数値に設定してもよい。
再マッピングされたピクセルの第1の特徴値に基づいて当該再マッピングされたピクセルのクラスタリング処理を実行した後、新しいクラスタを複数取得することができる。当該新しいクラスタは、対象領域内に再マッピングされたピクセルを少なくとも1つ有してもよい。このステップによって、ステップS20で取得された参考特徴値にマッチングするクラスタ内のピクセルの再クラスタリングを実現させて、新しいクラスタを形成することができる。同様に、新しいクラスタのクラスタ中心を複数取得することもできる。当該プロセスについて、本開示では特に限定しない。
S3412において、前記新しいクラスタのクラスタ中心にマッチングする参考特徴値を決定し、前記対象領域において新しいクラスタのピクセルによる第2の面積を決定する。
S3413において、第2の面積が最も大きい新しいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記対象オブジェクトの表示色を特定する。
いくつかの可能な実施形態では、新しいクラスタを複数取得した後、複数の新しいクラスタのクラスタ中心にマッチングする参考特徴値を再決定してもよい。このステップでは、新しいクラスタのクラスタ中心との距離が最も近い参考特徴値に対応する色を、当該新しいクラスタに対応する色として決定してもよい。
また、本開示の実施例では、新しいクラスタ内のピクセルに基づいて、対応する新しいクラスタによる第2の面積を決定してもよい。例えば、新しいクラスタ内のピクセルで囲まれた領域を決定し、当該領域の第2の面積、すなわち対応する新しいクラスタの第2の面積をさらに決定してもよい。
新しいクラスタの第2の面積を取得した後、その内から第2の面積が最も大きい新しいクラスタを選択してもよい。さらに、第2の面積が最も大きくかつ面積閾値よりも大きい新しいクラスタのクラスタ中心にマッチングする参考特徴値に対応する色を対象オブジェクトの表示色として決定してもよい。
上記実施例によれば、第2の面積が最も大きい新しいクラスタに対応する参考特徴値の色を取得することができ、当該表示色を対象オブジェクトの表示色として決定することができる。参考特徴値にマッチングされたクラスタ内のピクセルを再クラスタリングすることにより、当該再クラスタリングの処理は、ステップS20における参考特徴値にマッチングされたクラスタ内のピクセルについて行ったものであるため、他のピクセルの影響を減らし、再クラスタリングによるクラスタの精度を高めるとともに、対応する色のマッチング度合いを高めることができる。
以上より、本開示の実施例は、信号表示灯の表示状態を精度よく検出する技術であって、画像における対象オブジェクト(信号表示灯)の位置する対象領域を検出し、対象オブジェクトの位置する対象領域内のピクセルの特徴値に対してクラスタリング処理を行って、複数のクラスタを取得することにより、当該複数のクラスタと参考特徴値とのマッチング状況に基づいて、対象オブジェクトの表示状態を取得する技術を提供する。上記クラスタリング処理によって、同一の表示状態を有する類似のピクセルを1つのクラスタとして決定することができ、クラスタ(cluster)をさらに分析して対象オブジェクトの表示状態を的確に決定することにより、信号表示灯のバックグラウンドのロバスト性を向上することができる。
また、本開示の実施例は、智能運転制御方法をさらに提供する。当該智能運転制御方法は、スマート運転機器に適用可能である。例えば、スマート運転車両(自動運転および高度運転支援システムを含む)、航空機、ロボット、および視覚障害者の誘導機器などに適用可能である。本開示は、スマート運転機器の種類を特に限定しなく、信号表示灯の表示状態に合わせて運転制御を実行できる装置であれば、本開示の実施例の適用主体とすることができる。
図7は、本開示の実施例で提供する運転制御方法のフローチャートを示す。前記運転制御方法はS100〜S300を含む。
S100において、スマート運転機器の画像収集機器により道路画像を収集する。
スマート運転機器には、画像収集機器が設けられてもよい。当該画像収集機器は走行中のスマート運転機器の前方の道路画像をリアルタイムで収集することにより、信号表示灯を含む道路画像を収集することができる。
S200において、前記道路画像を対象画像として上記実施例で上述した信号表示灯の状態検出方法を実行して、前記道路画像における信号表示灯の表示状態を取得する。
道路画像を取得した後、上述した信号表示灯の状態検出方法で道路画像に含まれる信号表示灯の表示状態を検出することができる。その具体的な実現について、上述した実施例の説明を参照すればよく、ここで詳細な説明を省略する。
S300において、前記道路画像における信号表示灯の表示状態に基づいて、前記スマート運転機器を制御する制御命令を生成して出力することで、前記スマート運転機器を制御する。
道路画像に含まれる信号表示灯の表示状態を取得した後、当該表示状態に基づいてスマート運転機器の走行パラメータの制御を実行してもよく、すなわちスマート運転機器を制御する制御命令を生成する。制御命令は、走行速度を維持するための速度維持制御命令と、走行速度を調整するための速度調整制御命令と、走行方向を維持するための方向維持制御命令と、走行方向を調整するための方向調整制御命令と、警報(例えば、赤信号警報、右左折警報等)を実行するための警報提示制御命令と、運転モード切替制御命令とのうちの少なくとも1つを含む。クラスタリング処理を実行する参考特徴値の色は、赤色参考特徴値、青色参考特徴値及び黄色参考特徴値を有してもよい。例えば、信号表示灯の赤色灯が点灯していると決定した場合、減速や停止をしてもよい。信号表示灯の青色灯が点灯していると決定した場合、直進できることを意味する。あるいは、他の実施形態では、右左折表示灯の点灯色に基づいて走行方向、車線選択及び走行速度のうちの少なくとも1つを決定してもよい。
上記実施例によれば、識別されたた信号灯の表示状態に基づいて、スマート運転機器の運転パラメータの制御を実行することができる。また、取得された信号灯の表示状態の的確性が高いため、スマート運転機器を的確に制御することができる。
また、当業者であれば、具体的な実施形態に係る上記の方法では、各ステップの記載順序は、実行順序を厳密に限定して実施の過程を限定するものではなく、各ステップの実行順序がその機能と内部の論理によって具体的に決定されることが理解すべきである。
本開示で言及される上記各方法の実施例は、原理と論理に違反しない限り、相互に組み合わせて実施例を形成することができることが理解すべきである。紙数に限りがあるので、本開示では詳細な説明を省略する。論理に違反しない限り、本開示で提供する異なる実現方法は、相互に組み合わせることができる。
さらに、本開示では、信号表示灯の状態検出装置、運転制御装置、電子機器、コンピュータ可読記憶媒体、プログラムが提供される。これはいずれも本開示に係る信号表示灯の状態検出方法又は運転制御方法のいずれか1つを実現するためにに利用できる。対応する技術的解決手段と説明は、方法の対応の記載を参照すればよく、詳細な説明を省略する。
図8は、本開示の実施例に係る信号表示灯の状態検出装置のブロック図を示す。図8に示されるように、前記信号表示灯の状態検出装置は、
対象画像の対象領域を検出し、異なる表示状態を有する信号表示灯を少なくとも1つ含む前記対象領域内のピクセルの第1の特徴値を決定する検出モジュール10と、
前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得するクラスタリングモジュール20と、
取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定する特定モジュール30と、
を備える。
いくつかの可能な実施形態では、前記特定モジュールは、さらに、前記対象画像を取得する画像収集機器に予め設定された参考特徴値及び前記クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定し、
前記参考特徴値にマッチングするクラスタ中心があることに応じて、前記信号表示灯が第1の状態であると決定する。
いくつかの可能な実施形態では、前記特定モジュールは、前記参考特徴値及び前記クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定した後、前記参考特徴値にマッチングするクラスタ中心がないことに応じて、前記信号表示灯が第2の状態であると決定する。
いくつかの可能な実施形態では、前記装置は、設定モジュールをさらに備え、前記設定モジュールは、前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得し、
前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定する。
いくつかの可能な実施形態では、前記設定モジュールは、
前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得し、
所定色領域のピクセルの色値を前記参考特徴値として決定するか、又は、前記所定色領域のピクセルの色値に対して正規化処理を実行して、前記参考特徴値を取得する。
いくつかの可能な実施形態では、前記参考特徴値は赤色状態の参考特徴値、黄色状態の参考特徴値及び青色状態の参考特徴値を含む。
いくつかの可能な実施形態では、前記特定モジュールは、さらに、前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに基づいて、前記対象領域において前記クラスタによる第1の面積を決定し、
第1の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定し、
第1の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定する。
いくつかの可能な実施形態では、前記特定モジュールは、さらに、前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに対してクラスタリング処理を行って、複数の新しいクラスタを取得し、
前記新しいクラスタのクラスタ中心にマッチングする参考特徴値を決定し、前記対象領域において新しいクラスタのピクセルによる第2の面積を決定し、
第2の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定し、
第2の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定する。
いくつかの可能な実施形態では、前記検出モジュールは、
対象画像の対象領域を検出し、
前記対象領域内のピクセルの色値を前記第1の特徴値として決定するか、又は、前記対象領域内のピクセルの色値に対して正規化処理を実行して、前記第1の特徴値を取得する。
いくつかの可能な実施形態では、前記クラスタリングモジュールは、K平均法で前記対象領域内のピクセルをクラスタリングして、所定数のクラスタを取得する。
図9は、本開示の実施例に係る運転制御装置のブロック図を示す。前記運転制御装置は、
スマート運転機器に取り付けられ、道路画像を収集する画像収集機器100と、
前記道路画像を対象画像として第1の方面におけるいずれか1項に記載の信号表示灯の状態検出方法を実行して、前記道路画像における信号表示灯の表示状態を取得する信号表示灯状態検出モジュール200と、
前記道路画像における信号表示灯の表示状態に基づいて、前記スマート運転機器を制御する制御命令を生成して出力することで、前記スマート運転機器を制御する制御モジュール300と、
を備える。
いくつかの可能な実施形態では、前記制御命令は、速度維持制御命令と、速度調整制御命令と、方向維持制御命令と、方向調整制御命令と、警報提示制御命令と、運転モード切替制御命令とのうちの少なくとも1つを含む。
いくつかの実施例では、本開示の実施例に係る装置が備える機能又はモジュールは、上述した方法の実施例に説明される方法を実行するために利用でき、その具体的な実現については、上述した方法の実施例の説明を参照すればよく、簡素化のために、ここで詳細な説明を省略する。
本開示の実施例では、コンピュータプログラム命令が記憶されているコンピュータ可読記憶媒体であって、前記コンピュータプログラム命令はプロセッサによって実行されると、上記の方法を実現させるコンピュータ可読記憶媒体がさらに提供される。コンピュータ可読記憶媒体は、不揮発性のコンピュータ可読記憶媒体であってもよく、または揮発性のコンピュータ可読記憶媒体であってもよい。
本開示の実施例では、プロセッサと、プロセッサにより実行可能な命令を記憶するメモリと、を含み、前記プロセッサは、上記の方法を実行するように構成される電子機器がさらに提供される。
本開示の実施例では、コンピュータ可読コードを含むコンピュータプログラムであって、前記コンピュータ可読コードが電子機器において動作すると、前記電子機器のプロセッサに上記の方法を実現するための命令を実行させるコンピュータプログラムがさらに提供される。
電子機器は、端末、サーバ又は他の形態の装置として提供されてもよい。
図10は本開示の実施例に係る電子機器のブロック図を示す。例えば、装置800は携帯電話、コンピュータ、デジタル放送端末、メッセージ送受信機器、ゲームコンソール、タブレット型機器、医療機器、フィットネス機器、パーソナル・デジタル・アシスタント等の端末であってもよい。
図10を参照すると、電子機器800は処理コンポーネント802、メモリ804、電源コンポーネント806、マルチメディアコンポーネント808、オーディオコンポーネント810、入力/出力(I/O)インタフェース812、センサコンポーネント814、及び通信コンポーネント816のうちの一つ以上を含んでもよい。
処理コンポーネント802は通常、電子機器800の全体的な動作、例えば表示、電話の呼び出し、データ通信、カメラ動作及び記録動作に関連する動作を制御する。処理コンポーネント802は、上記方法の全てまたは一部のステップを実行するために、命令を実行する一つ以上のプロセッサ820を含んでもよい。また、処理コンポーネント802は、他のコンポーネントとのインタラクションのための一つ以上のモジュールを含んでもよい。例えば、処理コンポーネント802は、マルチメディアコンポーネント808とのインタラクションのために、マルチメディアモジュールを含んでもよい。
メモリ804は、電子機器800での動作をサポートするための様々なタイプのデータを記憶するように構成される。これらのデータは、例として、電子機器800において操作するあらゆるアプリケーションプログラムまたは方法の命令、連絡先データ、電話帳データ、メッセージ、ピクチャー、ビデオなどを含む。メモリ804は、例えば静的ランダムアクセスメモリ(SRAM)、電気的消去可能プログラマブル読み取り専用メモリ(EEPROM)、消去可能なプログラマブル読み取り専用メモリ(EPROM)、プログラマブル読み取り専用メモリ(PROM)、読み取り専用メモリ(ROM)、磁気メモリ、フラッシュメモリ、磁気ディスクまたは光ディスクなどの様々なタイプの揮発性または不揮発性記憶装置またはそれらの組み合わせによって実現できる。
電源コンポーネント806は電子機器800の各コンポーネントに電力を供給する。電源コンポーネント806は電源管理システム、一つ以上の電源、及び電子機器800のための電力生成、管理及び配分に関連する他のコンポーネントを含んでもよい。
マルチメディアコンポーネント808は前記電子機器800とユーザとの間で出力インタフェースを提供するスクリーンを含む。いくつかの実施例では、スクリーンは液晶ディスプレイ(LCD)及びタッチパネル(TP)を含んでもよい。スクリーンがタッチパネルを含む場合、ユーザからの入力信号を受信するタッチスクリーンとして実現してもよい。タッチパネルは、タッチ、スライド及びタッチパネルでのジェスチャを検出するために、一つ以上のタッチセンサを含む。前記タッチセンサはタッチまたはスライド動きの境界を検出するのみならず、前記タッチまたはスライド操作に関する持続時間及び圧力を検出するようにしてもよい。いくつかの実施例では、マルチメディアコンポーネント808は前面カメラ及び/または背面カメラを含む。電子機器800が動作モード、例えば撮影モードまたは撮像モードになる場合、前面カメラ及び/または背面カメラは外部のマルチメディアデータを受信するようにしてもよい。各前面カメラ及び背面カメラは、固定された光学レンズ系、または焦点距離及び光学ズーム能力を有するものであってもよい。
オーディオコンポーネント810はオーディオ信号を出力及び/または入力するように構成される。例えば、オーディオコンポーネント810は、一つのマイク(MIC)を含み、マイク(MIC)は、電子機器800が動作モード、例えば呼び出しモード、記録モードまたは音声認識モードになる場合、外部のオーディオ信号を受信するように構成される。受信されたオーディオ信号はさらにメモリ804に記憶されるか、または通信コンポーネント816を介して送信されてもよい。いくつかの実施例では、オーディオコンポーネント810はさらに、オーディオ信号を出力するためのスピーカーを含む。
I/Oインタフェース812は処理コンポーネント802と周辺インタフェースモジュールとの間でインタフェースを提供し、上記周辺インタフェースモジュールはキーボード、クリックホイール、ボタンなどであってもよい。これらのボタンはホームボタン、ボリュームボタン、スタートボタン及びロックボタンを含んでもよいが、これらに限定されない。
センサコンポーネント814は電子機器800の各面の状態評価のための一つ以上のセンサを含む。例えば、センサコンポーネント814は、電子機器800のオン/オフ状態、例えば電子機器800の表示装置及びキーパッドのようなコンポーネントの相対的位置決めを検出でき、センサコンポーネント814はさらに、電子機器800または電子機器800のあるコンポーネントの位置の変化、ユーザと電子機器800との接触の有無、電子機器800の方位または加減速及び電子機器800の温度変化を検出できる。センサコンポーネント814は、いかなる物理的接触もない場合に近傍の物体の存在を検出するように構成される近接センサを含む。センサコンポーネント814はさらに、CMOSまたはCCDイメージセンサのような、イメージングアプリケーションにおいて使用するための光センサを含んでもよい。いくつかの実施例では、該センサコンポーネント814はさらに、加速度センサ、ジャイロセンサ、磁気センサ、圧力センサまたは温度センサを含んでもよい。
通信コンポーネント816は電子機器800と他の機器との間の有線または無線通信を実現するように構成される。電子機器800は通信規格に基づく無線ネットワーク、例えばWiFi、2Gまたは3G、またはそれらの組み合わせにアクセスできる。一例示的実施例では、通信コンポーネント816は放送チャネルを介して外部の放送管理システムからの放送信号または放送関連情報を受信する。一例示的実施例では、前記通信コンポーネント816はさらに、近距離通信を促進させるために、近距離無線通信(NFC)モジュールを含む。例えば、NFCモジュールは無線周波数識別(RFID)技術、赤外線データ協会(IrDA)技術、超広帯域(UWB)技術、ブルートゥース(BT)技術及び他の技術によって実現できる。
例示的な実施例では、電子機器800は一つ以上の特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、デジタル信号処理デバイス(DSPD)、プログラマブルロジックデバイス(PLD)、フィールドプログラマブルゲートアレイ(FPGA)、コントローラ、マイクロコントローラ、マイクロプロセッサまたは他の電子要素によって実現され、上記方法を実行するために用いられることができる。
例示的な実施例では、さらに、不揮発性のコンピュータ可読記憶媒体、例えばコンピュータプログラム命令を含むメモリ804が提供され、上記コンピュータプログラム命令は電子機器800のプロセッサ820によって実行されると、上記方法を実行させることができる。
図11は本開示の実施例に係る電子機器の別のブロック図である。例えば、電子機器1900はサーバとして提供されてもよい。図11を参照すると、電子機器1900は、一つ以上のプロセッサを含む処理コンポーネント1922、及び、処理コンポーネント1922によって実行可能な命令、例えばアプリケーションプログラムを記憶するための、メモリ1932を代表とするメモリ資源をさらに含む。メモリ1932に記憶されているアプリケーションプログラムは、それぞれが1つの命令群に対応する一つ以上のモジュールを含んでもよい。また、処理コンポーネント1922は、命令を実行することによって上記方法を実行するように構成される。
電子機器1900はさらに、電子機器1900の電源管理を実行するように構成される電源コンポーネント1926、電子機器1900をネットワークに接続するように構成される有線または無線ネットワークインタフェース1950、及び入出力(I/O)インタフェース1958を含んでもよい。電子機器1900はメモリ1932に記憶されているオペレーティングシステム、例えばWindows ServerTM、Mac OS XTM、UnixTM、LinuxTM、FreeBSDTMまたは類似するものに基づいて動作できる。
例示的な実施例では、さらに、不揮発性のコンピュータ可読記憶媒体または揮発性のコンピュータ可読記憶媒体、例えばコンピュータプログラム命令を含むメモリ1932が提供され、上記コンピュータプログラム命令は、電子機器1900の処理コンポーネント1922によって実行されると、上記方法を実行させることができる。
本開示はシステム、方法および/またはコンピュータプログラム製品であってもよい。コンピュータプログラム製品は、プロセッサに本開示の各方面を実現させるためのコンピュータ可読プログラム命令を有しているコンピュータ可読記憶媒体を含んでもよい。
コンピュータ可読記憶媒体は、命令実行装置に使用される命令を保存及び記憶可能な実体のある装置であってもよい。コンピュータ可読記憶媒体は例えば、電気記憶装置、磁気記憶装置、光記憶装置、電磁記憶装置、半導体記憶装置または上記の任意の適当な組み合わせであってもよいが、これらに限定されない。コンピュータ可読記憶媒体のさらなる具体的な例(非網羅的リスト)としては、携帯型コンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去・プログラマブル可能な読み取り専用メモリ(EPROMまたはフラッシュメモリ)、静的ランダムアクセスメモリ(SRAM)、携帯型コンパクトディスク読み取り専用メモリ(CD−ROM)、デジタル多用途ディスク(DVD)、メモリスティック、フロッピーディスク、例えば命令が記憶されているせん孔カードまたはスロット内突起構造のような機械的符号化装置、及び上記の任意の適当な組み合わせを含む。ここで使用されるコンピュータ可読記憶媒体は、一時的な信号自体、例えば無線電波または他の自由に伝播される電磁波、導波路または他の伝送媒体を経由して伝播される電磁波(例えば、光ファイバーケーブルを通過するパルス光)、または電線を経由して伝送される電気信号であると解釈されるものではない。
ここで記述したコンピュータ可読プログラム命令はコンピュータ可読記憶媒体から各計算/処理機器にダウンロードされてもよいし、またはネットワーク、例えばインターネット、ローカルエリアネットワーク、広域ネットワーク及び/または無線ネットワークを経由して外部のコンピュータまたは外部記憶装置にダウンロードされてもよい。ネットワークは銅伝送ケーブル、光ファイバー伝送、無線伝送、ルーター、ファイアウォール、交換機、ゲートウェイコンピュータ及び/またはエッジサーバを含んでもよい。各計算/処理機器内のネットワークアダプタカードまたはネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、該コンピュータ読取可能プログラム命令を転送し、各計算/処理機器内のコンピュータ可読記憶媒体に記憶させる。
本開示の動作を実行するためのコンピュータプログラム命令はアセンブラ命令、命令セットアーキテクチャ(ISA)命令、機械語命令、機械依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk、C++などのオブジェクト指向プログラミング言語及び「C」言語または類似するプログラミング言語などの一般的な手続き型プログラミング言語を含める一つ以上のプログラミング言語の任意の組み合わせで書かれたソースコードまたは目標コードであってもよい。コンピュータ可読プログラム命令は、完全にユーザのコンピュータにおいて実行されてもよく、部分的にユーザのコンピュータにおいて実行されてもよく、スタンドアロンソフトウェアパッケージとして実行されてもよく、部分的にユーザのコンピュータにおいてかつ部分的にリモートコンピュータにおいて実行されてもよく、または完全にリモートコンピュータもしくはサーバにおいて実行されてもよい。リモートコンピュータに関与する場合、リモートコンピュータは、ローカルエリアネットワーク(LAN)または広域ネットワーク(WAN)を含む任意の種類のネットワークを経由してユーザのコンピュータに接続されてもよく、または、(例えばインターネットサービスプロバイダを利用してインターネットを経由して)外部コンピュータに接続されてもよい。いくつかの実施例では、コンピュータ可読プログラム命令の状態情報を利用して、例えばプログラマブル論理回路、フィールドプログラマブルゲートアレイ(FPGA)またはプログラマブル論理アレイ(PLA)などの電子回路をパーソナライズし、該電子回路によりコンピュータ可読プログラム命令を実行することにより、本開示の各方面を実現するようにしてもよい。
ここで本開示の実施例に係る方法、装置(システム)及びコンピュータプログラム製品のフローチャート及び/またはブロック図を参照しながら本開示の各態様を説明したが、フローチャート及び/またはブロック図の各ブロック、及びフローチャート及び/またはブロック図の各ブロックの組み合わせは、いずれもコンピュータ可読プログラム命令によって実現できることを理解すべきである。
これらのコンピュータ可読プログラム命令は、汎用コンピュータ、専用コンピュータまたは他のプログラマブルデータ処理装置のプロセッサへ提供され、これらの命令がコンピュータまたは他のプログラマブルデータ処理装置のプロセッサによって実行されると、フローチャート及び/またはブロック図の一つ以上のブロックにおいて指定された機能/動作を実現させるように、装置を製造してもよい。これらのコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体に記憶され、コンピュータ、プログラマブルデータ処理装置及び/または他の機器を決定の方式で動作させるようにしてもよい。これにより、命令が記憶されているコンピュータ可読記憶媒体は、フローチャート及び/またはブロック図の一つ以上のブロックにおいて指定された機能/動作の各方面を実現する命令を有する製品を含む。
コンピュータ可読プログラム命令は、コンピュータ、他のプログラマブルデータ処理装置、または他の機器にロードされ、コンピュータ、他のプログラマブルデータ処理装置または他の機器に一連の動作ステップを実行させることにより、コンピュータにより実施可能なプロセスを生成するようにしてもよい。このようにして、コンピュータ、他のプログラマブルデータ処理装置、または他の機器において実行される命令により、フローチャート及び/またはブロック図の一つ以上のブロックにおいて指定された機能/動作を実現する。
図面のうちフローチャート及びブロック図は、本開示の複数の実施例に係るシステム、方法及びコンピュータプログラム製品の実現可能なシステムアーキテクチャ、機能及び動作を示す。この点では、フローチャートまたはブロック図における各ブロックは一つのモジュール、プログラムセグメントまたは命令の一部分を代表することができ、前記モジュール、プログラムセグメントまたは命令の一部分は指定された論理機能を実現するための一つ以上の実行可能な命令を含む。いくつかの代替としての実現形態では、ブロックに表記される機能は、図面に付した順序と異なる順序で実現してもよい。例えば、連続的な二つのブロックは実質的に並行に実行してもよく、また、係る機能によって、逆な順序で実行してもよい場合がある。なお、ブロック図及び/またはフローチャートにおける各ブロック、及びブロック図及び/またはフローチャートにおけるブロックの組み合わせは、指定される機能または動作を実行するハードウェアに基づく専用システムによって実現してもよいし、または専用ハードウェアとコンピュータ命令との組み合わせによって実現してもよいことにも注意すべきである。
以上、本開示の各実施例を記述したが、上記説明は例示的なものに過ぎず、網羅的なものではなく、かつ披露された各実施例に限定されるものでもない。当業者にとって、説明された各実施例の範囲及び精神から逸脱することなく、様々な修正及び変更が自明である。本明細書に選ばれた用語は、各実施例の原理、実際の適用または従来技術への技術的改善を好適に解釈するか、または他の当業者に本明細書に披露された各実施例を理解させるためのものである。

Claims (27)

  1. 対象画像における、異なる表示状態を有する信号表示灯を少なくとも1つ含む対象領域を検出し、前記対象領域内のピクセルの第1の特徴値を決定することと、
    前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得することと、
    取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定することと、
    を含むことを特徴とする信号表示灯の状態検出方法。
  2. 取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定することは、
    前記対象画像の画像収集機器に予め設定された参考特徴値及び前記クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定することと、
    前記参考特徴値にマッチングするクラスタ中心があることに応じて、前記信号表示灯が第1の状態であると決定することと、
    を含むことを特徴とする請求項1に記載の方法。
  3. 前記参考特徴値及び前記クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定した後、前記参考特徴値にマッチングするクラスタ中心がないことに応じて、前記信号表示灯が第2の状態であると決定する
    ことを特徴とする請求項2に記載の方法。
  4. 前記参考特徴値を決定するためには、
    前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得するステップと、
    前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定するステップとを含む
    ことを特徴とする請求項2又は3に記載の方法。
  5. 前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定することは、
    前記所定色領域のピクセルの色値を前記参考特徴値として決定すること、又は
    前記所定色領域のピクセルの色値に対して正規化処理を実行して、前記参考特徴値を取得することを含むことを特徴とする請求項4に記載の方法。
  6. 前記参考特徴値は赤色状態の参考特徴値、黄色状態の参考特徴値及び青色状態の参考特徴値を含むことを特徴とする請求項2〜5のいずれか1項に記載の方法。
  7. 前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに基づいて、前記対象領域において前記クラスタによる第1の面積を決定することと、
    第1の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定することと、
    前記第1の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定することと、
    をさらに含むことを特徴とする請求項2〜6のいずれか1項に記載の方法。
  8. 前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに対してクラスタリング処理を行って、複数の新しいクラスタを取得することと、
    前記新しいクラスタのクラスタ中心にマッチングする参考特徴値を決定し、前記対象領域において前記新しいクラスタのピクセルによる第2の面積を決定することと、
    第2の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定することと、
    前記第2の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定することと、
    を含むことを特徴とする請求項2〜6のいずれか1項に記載の方法。
  9. 前記対象領域内のピクセルの第1の特徴値を決定することは、
    前記対象領域内のピクセルの色値を前記第1の特徴値として決定すること、又は
    前記対象領域内のピクセルの色値に対して正規化処理を実行して、前記第1の特徴値を取得することと、
    を含むことを特徴とする請求項1〜8のいずれか1項に記載の方法。
  10. 前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得することは、
    K平均法で前記対象領域内のピクセルをクラスタリングして、所定数のクラスタを取得することを含むことを特徴とする請求項1〜9のいずれか1項に記載の方法。
  11. スマート運転機器の画像収集機器によって道路画像を収集することと、
    前記道路画像を対象画像として請求項1〜10のいずれか1項に記載の信号表示灯の状態検出方法を実行して、前記道路画像における信号表示灯の表示状態を取得することと、
    前記道路画像における信号表示灯の表示状態に基づいて、前記スマート運転機器を制御する制御命令を生成して出力することで、前記スマート運転機器を制御することと、
    を含むことを特徴とする運転制御方法。
  12. 前記制御命令は、速度維持制御命令と、速度調整制御命令と、方向維持制御命令と、方向調整制御命令と、警報提示制御命令と、運転モード切替制御命令とのうちの少なくとも1つを含むことを特徴とする請求項11に記載の方法。
  13. 対象画像における、異なる表示状態を有する信号表示灯を少なくとも1つ含む対象領域を検出し、前記対象領域内のピクセルの第1の特徴値を決定する検出モジュールと、
    前記第1の特徴値に基づいて前記対象領域内のピクセルに対してクラスタリング処理を行って、ピクセルに関する複数のクラスタを取得するクラスタリングモジュールと、
    取得した前記複数のクラスタに基づいて前記信号表示灯の表示状態を特定する特定モジュールと、
    を備えることを特徴とする信号表示灯の状態検出装置。
  14. 前記特定モジュールは、前記対象画像を取得する画像収集機器に予め設定された参考特徴値及び前記クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定し、
    前記参考特徴値にマッチングするクラスタ中心があることに応じて、前記信号表示灯が第1の状態であると決定することを特徴とする請求項13に記載の装置。
  15. 前記特定モジュールは、さらに、前記参考特徴値及び前記クラスタのクラスタ中心に対応する第1の特徴値に基づいて、前記参考特徴値にマッチングするクラスタ中心の有無を決定した後、前記参考特徴値にマッチングするクラスタ中心がないことに応じて、前記信号表示灯が第2の状態であると決定することを特徴とする請求項14に記載の装置。
  16. 設定モジュールをさらに備え、
    前記設定モジュールは、
    前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得し、
    前記参考画像内の所定色領域のピクセルの色値に基づいて、前記参考特徴値を決定することを特徴とする請求項14又は15に記載の装置。
  17. 前記設定モジュールは、
    前記画像収集機器でカラーキャリブレーションターゲットを撮影して、参考画像を取得し、
    前記所定色領域のピクセルの色値を前記参考特徴値として決定するか、又は、前記所定色領域のピクセルの色値に対して正規化処理を実行して、前記参考特徴値を取得することを特徴とする請求項16に記載の装置。
  18. 前記参考特徴値は赤色状態の参考特徴値、黄色状態の参考特徴値及び青色状態の参考特徴値を含むことを特徴とする請求項14〜17のいずれか1項に記載の装置。
  19. 前記特定モジュールは、さらに、
    前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに基づいて、前記対象領域において前記クラスタによる第1の面積を決定し、
    第1の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定し、
    前記第1の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定することを特徴とする請求項14〜18のいずれか1項に記載の装置。
  20. 前記特定モジュールは、さらに、
    前記信号表示灯が第1の状態であると決定した場合、前記参考特徴値にマッチングするクラスタ中心に対応するクラスタ内のピクセルに対してクラスタリング処理を行って、複数の新しいクラスタを取得し、
    前記新しいクラスタのクラスタ中心にマッチングする参考特徴値を決定し、前記対象領域において前記新しいクラスタのピクセルによる第2の面積を決定し、
    第2の面積が最も大きいクラスタに含まれるピクセルを前記信号表示灯に含まれるピクセルとして決定し、
    前記第2の面積が最も大きいクラスタのクラスタ中心にマッチングする参考特徴値に基づいて、前記対象領域内の前記信号表示灯の表示色を特定することを特徴とする請求項14〜18のいずれか1項に記載の装置。
  21. 前記検出モジュールは、
    対象画像の対象領域を検出し、
    前記対象領域内のピクセルの色値を前記第1の特徴値として決定するか、又は、前記対象領域内のピクセルの色値に対して正規化処理を実行して、前記第1の特徴値を取得することを特徴とする請求項14〜20のいずれか1項に記載の装置。
  22. 前記クラスタリングモジュールは、K平均法で前記対象領域内のピクセルをクラスタリングして、所定数のクラスタを取得することを特徴とする請求項14〜21のいずれか1項に記載の装置。
  23. スマート運転機器に取り付けられ、道路画像を収集する画像収集機器と、
    前記道路画像を対象画像として請求項1〜10のいずれか1項に記載の信号表示灯の状態検出方法を実行して、前記道路画像における信号表示灯の表示状態を取得する信号表示灯状態検出モジュールと、
    前記道路画像における信号表示灯の表示状態に基づいて、前記スマート運転機器を制御する制御命令を生成して出力することで、前記スマート運転機器を制御する制御モジュールと、
    を備えることを特徴とする運転制御装置。
  24. 前記制御命令は、速度維持制御命令と、速度調整制御命令と、方向維持制御命令と、方向調整制御命令と、警報提示制御命令と、運転モード切替制御命令とのうちの少なくとも1つを含むことを特徴とする請求項23に記載の装置。
  25. プロセッサと、
    プロセッサにより実行可能な命令を記憶するメモリとを含み、
    前記プロセッサは、請求項1〜10のいずれか1項に記載の方法を実行するか、又は請求項11又は12に記載の方法を実行するように構成される
    ことを特徴とする電子機器。
  26. コンピュータプログラム命令が記憶されているコンピュータ可読記憶媒体であって、前記コンピュータプログラム命令がプロセッサにより実行されると、請求項1〜10のいずれか1項に記載の方法を実現させるか、又は請求項11又は12に記載の方法を実現させることを特徴とするコンピュータ可読記憶媒体。
  27. コンピュータ可読コードを含むコンピュータプログラムであって、前記コンピュータ可読コードが電子機器において動作すると、前記電子機器のプロセッサに請求項1〜10のいずれか1項に記載の方法を実現するための命令を実行させるか、又は請求項11又は12に記載の方法を実現するための命令を実行させることを特徴とするコンピュータプログラム。
JP2021513233A 2019-05-28 2020-05-19 信号表示灯の状態検出方法及び装置、運転制御方法及び装置 Pending JP2021536069A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201910450394.3A CN112016344A (zh) 2019-05-28 2019-05-28 信号指示灯的状态检测方法及装置、驾驶控制方法及装置
CN201910450394.3 2019-05-28
PCT/CN2020/091064 WO2020238699A1 (zh) 2019-05-28 2020-05-19 信号指示灯的状态检测方法及装置、驾驶控制方法及装置

Publications (1)

Publication Number Publication Date
JP2021536069A true JP2021536069A (ja) 2021-12-23

Family

ID=73501363

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021513233A Pending JP2021536069A (ja) 2019-05-28 2020-05-19 信号表示灯の状態検出方法及び装置、運転制御方法及び装置

Country Status (6)

Country Link
US (1) US20210150232A1 (ja)
JP (1) JP2021536069A (ja)
KR (1) KR20210058931A (ja)
CN (1) CN112016344A (ja)
SG (1) SG11202102249UA (ja)
WO (1) WO2020238699A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112699773B (zh) * 2020-12-28 2023-09-01 阿波罗智联(北京)科技有限公司 交通灯识别方法、装置及电子设备
US20220318954A1 (en) * 2021-03-31 2022-10-06 Advanced Micro Devices, Inc. Real time machine learning-based privacy filter for removing reflective features from images and video
CN113657175A (zh) * 2021-07-21 2021-11-16 山东爱普电气设备有限公司 配电柜开关状态智能识别方法、系统、存储介质及设备
CN113747636B (zh) * 2021-08-24 2022-04-19 安顺市成威科技有限公司 一种基于无线传感器技术的智慧路灯智能调控方法及云调控系统
CN114066823A (zh) * 2021-10-27 2022-02-18 随锐科技集团股份有限公司 检测色块的方法及其相关产品
CN114148252B (zh) * 2021-12-27 2023-12-29 一汽解放汽车有限公司 应用于车辆中的指示灯控制方法、装置、设备及介质
CN114359844B (zh) * 2022-03-21 2022-06-21 广州银狐科技股份有限公司 一种基于色彩识别的aed设备状态监测方法及系统
CN117350485B (zh) * 2023-09-27 2024-06-25 广东电网有限责任公司 基于数据挖掘模型的电力市场管控方法和系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020080998A1 (en) * 2000-12-25 2002-06-27 Yoshihiko Matsukawa Image detection apparatus, program, and recording medium
CN103093245A (zh) * 2013-01-21 2013-05-08 信帧电子技术(北京)有限公司 视频图像中识别信号灯的方法
JP2013242686A (ja) * 2012-05-21 2013-12-05 Nissan Motor Co Ltd 信号機検出装置及び信号機検出方法
JP2016197388A (ja) * 2015-04-02 2016-11-24 株式会社リコー 認識装置、認識方法及びプログラム
JP2018063680A (ja) * 2016-10-14 2018-04-19 国立大学法人金沢大学 交通信号認識方法および交通信号認識装置
JP2018072884A (ja) * 2016-10-24 2018-05-10 株式会社リコー 情報処理装置、情報処理方法およびプログラム
CN109684900A (zh) * 2017-10-18 2019-04-26 百度在线网络技术(北京)有限公司 用于输出颜色信息的方法和装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100498870C (zh) * 2006-06-26 2009-06-10 上海宝信软件股份有限公司 基于视频图像处理的交通信号灯状态判定方法
CN102785645B (zh) * 2012-04-20 2017-05-31 中兴通讯股份有限公司 一种判断交通灯的方法及终端
CN104019901B (zh) * 2014-06-16 2016-02-17 哈尔滨工业大学 一种基于动态聚类方法的汽车仪表指示灯颜色检测方法
US10507807B2 (en) * 2015-04-28 2019-12-17 Mobileye Vision Technologies Ltd. Systems and methods for causing a vehicle response based on traffic light detection
CN107527511B (zh) * 2016-06-22 2020-10-09 杭州海康威视数字技术股份有限公司 一种智能车辆行车提醒方法及装置
CN108961357B (zh) * 2017-05-17 2023-07-21 浙江宇视科技有限公司 一种交通信号灯过爆图像强化方法及装置
CN108108761B (zh) * 2017-12-21 2020-05-01 西北工业大学 一种基于深度特征学习的快速交通信号灯检测方法
CN108681994B (zh) * 2018-05-11 2023-01-10 京东方科技集团股份有限公司 一种图像处理方法、装置、电子设备及可读存储介质
CN109116846B (zh) * 2018-08-29 2022-04-05 五邑大学 一种自动驾驶方法、装置、计算机设备和存储介质
CN109389838A (zh) * 2018-11-26 2019-02-26 爱驰汽车有限公司 无人驾驶路口路径规划方法、系统、设备及存储介质
US11087152B2 (en) * 2018-12-27 2021-08-10 Intel Corporation Infrastructure element state model and prediction
CN109784317B (zh) * 2019-02-28 2021-02-23 东软睿驰汽车技术(沈阳)有限公司 一种交通信号灯的识别方法及装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020080998A1 (en) * 2000-12-25 2002-06-27 Yoshihiko Matsukawa Image detection apparatus, program, and recording medium
JP2013242686A (ja) * 2012-05-21 2013-12-05 Nissan Motor Co Ltd 信号機検出装置及び信号機検出方法
CN103093245A (zh) * 2013-01-21 2013-05-08 信帧电子技术(北京)有限公司 视频图像中识别信号灯的方法
JP2016197388A (ja) * 2015-04-02 2016-11-24 株式会社リコー 認識装置、認識方法及びプログラム
JP2018063680A (ja) * 2016-10-14 2018-04-19 国立大学法人金沢大学 交通信号認識方法および交通信号認識装置
JP2018072884A (ja) * 2016-10-24 2018-05-10 株式会社リコー 情報処理装置、情報処理方法およびプログラム
CN109684900A (zh) * 2017-10-18 2019-04-26 百度在线网络技术(北京)有限公司 用于输出颜色信息的方法和装置

Also Published As

Publication number Publication date
US20210150232A1 (en) 2021-05-20
SG11202102249UA (en) 2021-04-29
CN112016344A (zh) 2020-12-01
WO2020238699A1 (zh) 2020-12-03
KR20210058931A (ko) 2021-05-24

Similar Documents

Publication Publication Date Title
JP2021536069A (ja) 信号表示灯の状態検出方法及び装置、運転制御方法及び装置
US20210192239A1 (en) Method for recognizing indication information of an indicator light, electronic apparatus and storage medium
JP7061191B2 (ja) 画像処理方法及び装置、電子機器並びに記憶媒体
CN111917980B (zh) 拍照控制方法及装置、存储介质和电子设备
JP7419495B2 (ja) 投影方法および投影システム
CN107784279B (zh) 目标跟踪方法及装置
EP3125152A1 (en) Method and device for collecting sounds corresponding to surveillance images
US20210152750A1 (en) Information processing apparatus and method for controlling the same
WO2021057244A1 (zh) 光强调节方法及装置、电子设备和存储介质
CN106774849B (zh) 虚拟现实设备控制方法及装置
US11450021B2 (en) Image processing method and apparatus, electronic device, and storage medium
US20210201532A1 (en) Image processing method and apparatus, and storage medium
CN111435422B (zh) 动作识别方法、控制方法及装置、电子设备和存储介质
CN112819714A (zh) 目标对象曝光方法、装置、存储介质及设备
AU2020323956B2 (en) Image processing method and apparatus, electronic device, and storage medium
EP3892069B1 (en) Determining a control mechanism based on a surrounding of a remote controllable device
US11463617B2 (en) Information processing apparatus, information processing system, image capturing apparatus, information processing method, and memory
US20170285650A1 (en) Methods and devices for controlling self-balancing vehicle to park
AU2020309091A1 (en) Image processing method and apparatus, electronic device, and storage medium
CN110933314A (zh) 追焦拍摄方法及相关产品
CN114659450B (zh) 机器人跟随方法、装置、机器人及存储介质
CN111832338A (zh) 对象检测方法及装置、电子设备和存储介质
CN113505674B (zh) 人脸图像处理方法及装置、电子设备和存储介质
US11843846B2 (en) Information processing apparatus and control method therefor
CN111435431A (zh) 图像处理方法及装置、电子设备和存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230606