CN112131414A - 信号灯的图像的标注方法、装置、电子设备以及路侧设备 - Google Patents
信号灯的图像的标注方法、装置、电子设备以及路侧设备 Download PDFInfo
- Publication number
- CN112131414A CN112131414A CN202011006909.XA CN202011006909A CN112131414A CN 112131414 A CN112131414 A CN 112131414A CN 202011006909 A CN202011006909 A CN 202011006909A CN 112131414 A CN112131414 A CN 112131414A
- Authority
- CN
- China
- Prior art keywords
- image frame
- signal lamp
- image
- state
- difference value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000002372 labelling Methods 0.000 title claims abstract description 49
- 238000000034 method Methods 0.000 claims abstract description 64
- 230000008859 change Effects 0.000 claims abstract description 34
- 230000015654 memory Effects 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 19
- 238000012360 testing method Methods 0.000 claims description 19
- 239000003086 colorant Substances 0.000 claims description 9
- 241001270131 Agaricus moelleri Species 0.000 claims description 6
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/483—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Library & Information Science (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种信号灯的图像的标注方法、装置、电子设备以及路侧设备,涉及智能交通、自动驾驶技术领域。具体实现方案为:获取拍摄装置拍摄的包含有信号灯的图像帧序列,在图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,第一位置为信号灯的位置,根据灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态。其中,若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的目标图像帧,则将目标图像帧标注为信号灯的无颜色图像。本申请实施例中可以借助图像帧之间的灰度差分值判断信号灯变化状态,进而确定信号灯从点亮状态转变为熄灭状态的图像帧,可以实现无颜色图像的自动标注,提高了标注效率和准确性。
Description
技术领域
本申请实施例涉及图像处理领域中的智能交通、自动驾驶技术,尤其涉及一种信号灯的图像的标注方法、装置、电子设备以及路侧设备。
背景技术
灯色识别模型用于识别图像中的灯的颜色,对自动驾驶领域中车辆的驾驶策略有重要的作用,目前可以通过训练集包括的信号灯的图像训练得到灯色识别模型。训练集所涵盖的信号灯的图像范围在很大程度上决定了灯色识别模型的识别效果。目前,在绿灯闪烁、黄灯闪烁、红灯闪烁的过程中,会存在短暂的无颜色的信号灯的情况,但目前的训练集中这种图像的数据量少,因此会导致灯色识别模型识别绿灯闪烁、黄灯闪烁、红灯闪烁的图像不准确。亟需大量地获取在信号闪烁过程中无颜色的信号灯的图像。
目前可以获取设置在路侧的摄像头采集的图像,通过人工标注的方式标注信号灯在闪烁过程中无颜色的信号灯的图像,但该种标注方式的效率低。
发明内容
本申请实施例提供了一种信号灯的图像的标注方法、装置、电子设备以及路侧设备,可以提高标注效率和准确性。
根据本申请实施例的一方面,提供了一种信号灯的图像的标注方法,包括:获取拍摄装置拍摄的包含有信号灯的图像帧序列,且在所述图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,根据所述灰度的差分值,确定所述图像帧序列中每个图像帧中所述信号灯的变化状态以及所述第一位置为所述信号灯的位置;若所述图像帧序列中存在所述信号灯从点亮状态转变为熄灭状态的目标图像帧,则将所述目标图像帧标注为所述信号灯的无颜色图像。
本申请实施例中,可以借助图像帧之间的灰度差分值判断信号灯变化状态,进而确定信号灯从点亮状态转变为熄灭状态的图像帧,可以实现无颜色图像的自动标注,提高了标注效率和准确性。
根据本申请实施例的另一方面,提供了一种信号灯的图像的标注装置,包括:处理模块,用于获取拍摄装置拍摄的包含有信号灯的图像帧序列,且在所述图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,以及根据所述灰度的差分值,确定所述图像帧序列中每个图像帧中所述信号灯的变化状态,所述第一位置为所述信号灯的位置;
标注模块,用于若所述图像帧序列中存在所述信号灯从点亮状态转变为熄灭状态的目标图像帧,则将所述目标图像帧标注为所述信号灯的无颜色图像。
根据本申请实施例的另一方面,提供了一种电子设备,包括:至少一个处理器、存储器收发器和显示器;所述存储器存储计算机执行指令;所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述电子设备执行上述信号灯的图像的标注方法;所述收发器耦合至所述处理器,所述处理器控制所述收发器的收发动作;所述显示器用于显示电子设备的界面。
根据本申请实施例的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机执行指令,当所述计算机执行指令被处理器执行时,实现上述信号灯的图像的标注方法。
根据本申请实施例的另一方面,提供了一种路侧设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述信号灯的图像的标注方法。
根据本申请实施例的技术,解决了目前技术方案中采用人工标注处于闪烁状态的信号灯的无颜色图像效率低的问题,提高了标注效率和准确性。
应当理解,本部分所描述的内容并非旨在标识本申请实施例的关键或重要特征,也不用于限制本申请实施例的范围。本申请实施例的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请实施例的限定。其中:
图1为本申请实施例提供的信号灯的图像的标注方法适用的场景示意图;
图2为本申请实施例提供的信号灯的图像的标注方法的一实施例的流程示意图;
图3为本申请实施例提供的一种包含有信号灯的图像帧的示意图;
图4为本申请实施例提供的信号灯的图像的标注方法的另一实施例的流程示意图;
图5为本申请实施例提供的界面示意图;
图6为本申请实施例提供的获取阈值的流程示意图;
图7为本申请实施例提供的信号灯的图像的标注方法的流程示意图;
图8为本申请提供的信号灯的图像的标注装置的结构示意图;
图9为本申请实施例提供的电子设备的结构示意图。
具体实施方式
以下结合附图对本申请实施例的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请实施例的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
为了解决背景技术中,采用人工标注信号灯闪烁的过程中的无颜色图像效率低的问题,目前还提供了一种初步筛选信号灯闪烁的过程中的无颜色图像的技术方案。其中,可以根据信号灯的显示周期,确定信号灯的闪烁时段,进而由人工标注信号灯闪烁时段内的无颜色图像。该种技术方案中虽然不需要人工一张一张地对图像进行标注,而是仅标注信号灯闪烁时段内的图像,因此可以大幅度减少工作量,提升标注效率。一方面信号灯的显示周期不是固定不变的,如在早晚高峰期主干道上的绿灯的显示市场较长,因此依靠固定的信号灯的显示周期会造成确定的信号的闪烁时段错误。另一方面,该种技术方案中仍然需要人工在初步筛选的图像(信号灯闪烁时段内的图像)中标注无颜色图像,效率也较低,且人工标注的准确性低。
为了解决目前的技术问题,本申请实施例提供一种信号灯的图像的标注方法,应用于图像处理领域中的人工智能、自动驾驶技术领域,本申请实施通过图像帧中信号灯的灰度,识别出处于闪烁状态的信号灯的图像帧,进而对该图像帧中无颜色图像进行标注,能够提高无颜色图像的标注效率和准确率。
图1为本申请实施例提供的信号灯的图像的标注方法适用的场景示意图。如图1所示,该场景中可以包括设置在道路上的信号灯、设置在路侧用于拍摄信号灯的拍摄装置(也可以称为路侧感知装置/设备)、以及与拍摄装置通信连接的信号灯的图像的标注装置。其中,拍摄装置可以为摄像头、录像机等可以拍摄信号灯的电子设备。拍摄装置在拍摄获取信号灯的图像后,可以将图像发送给信号灯的拍摄装置,以便信号灯的拍摄装置可以对处于闪烁状态的信号灯的无颜色图像进行标注。可选的,在另一种系统架构中,该场景中还可以包括路侧设备,路侧设备包括上述的路侧感知设备和路侧计算设备(例如路侧计算单元RSCU),其中,拍摄设备(路侧感知装置/设备)可以与路侧计算设备连接,路侧计算设备与服务器连接。服务器可以通过各种方式与自动驾驶或辅助驾驶车辆通信。可选的,在另一种系统架构中,路侧感知设备自身包括计算功能,则路侧感知设备直接连接到所述服务器。以上连接可以是有线连接或是无线连接。本申请中服务器例如是云控平台、车路协同管理平台、中心子系统、边缘计算平台、云计算平台等。
应理解,本申请实施例中执行信号灯的图像的标注方法的执行主体可以为信号灯的拍摄装置,该信号灯的拍摄装置可以为服务器,或者服务器中的芯片、单独的电子设备或路侧设备。单独的电子设备可以离线地从存储设备中获取图像帧序列,也可以在线从路侧感知设备中获取图像帧序列。而路侧设备例如是有计算功能的路侧感知设备、与路侧感知设备相连接的路侧计算设备。本申请实施例对执行主体不作限制。下述实施例中以执行主体为服务器为例进行说明。
下面结合具体的实施例对本申请实施例提供的信号灯的图像的标注方法进行说明。下面这几个实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。图2为本申请实施例提供的信号灯的图像的标注方法的一实施例的流程示意图。如图2所示,本申请实施例提供的信号灯的图像的标注方法可以包括:
S201,获取拍摄装置拍摄的包含有信号灯的图像帧序列。
S202,在图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,第一位置为信号灯的位置。
S203,根据灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态。
S204,若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的目标图像帧,则将目标图像帧标注为信号灯的无颜色图像。
上述S201中,拍摄装置可以拍摄包含有信号灯的图像帧,进而拍摄装置可以拍摄包含有信号灯的图像帧序列。拍摄装置可以将图像帧序列发送给服务器,或者服务器可以周期性的从拍摄装置获取图像帧序列,进而使得服务器获取拍摄装置拍摄的包含有信号灯的图像帧序列。应理解,该图像帧序列中可以包括多个包含有信号灯的图像帧。图3为本申请实施例提供的一种包含有信号灯的图像帧的示意图。如图3所示,图像帧中包含有3个信号灯,从上之下依次为红色信号灯(简称为红灯)、黄色信号灯(简称为黄灯)和绿色信号灯(简称为绿灯)。
其中,本申请实施例中的拍摄装置的拍摄范围可以不变,该拍摄范围中包含有信号灯;或者,拍摄装置的拍摄范围可以变化,但拍摄范围内包含有信号灯。当拍摄装置的拍摄范围不变时,拍摄装置拍摄的图像均为包含有信号灯的图像帧。当拍摄装置的拍摄范围变化时,拍摄装置拍摄的图像中包括包含有信号灯的图像帧,当服务器接收到包含有信号灯的图像帧时,需要识别包含有信号灯的图像帧,进而得到包含有信号灯的图像帧序列。其中,服务器可以采用识别模型,识别包含有信号灯的图像帧,识别模型用于识别图像中的目标对象,该目标对象可以包括信号灯。识别模型可以为经过机器学习得到的模型,可以参照目前技术方案中的相关描述。
上述S202中,在图像帧序列中,本申请实施例中可以获取相邻两个图像帧中第一位置的灰度的差分值。其中,第一位置为信号灯的位置,应理解,如图3所示,图像帧中可以包含有多个信号灯,第一位置可以为其中任意一个信号灯的位置。应理解,每个信号灯的图像的标注方法可以相同,本申请实施例中以标注一个信号灯的图像为例进行说明。
应理解,本申请实施例中可以获取图像帧序列中每个图像帧的二值化图像,进而根据每个图像帧的二值化图像,获取相邻两个图像帧的第一位置的灰度的差分值。示例性的,相邻两个图像帧为第一图像帧和第二图像帧,则可以获取第一图像帧对应的第一二值化图像和第二图像帧对应的第二二值化图像,且获取第一二值化图像中第一位置的灰度,以及第二二值化图像中第一位置的灰度。第一二值化图像中第一位置的灰度和第二二值化图像中第一位置的灰度的差值即为相邻两个图像帧中第一位置的灰度的差分值。
上述S203中,本申请实施例中,服务器可以根据相邻两个图像帧中第一位置的灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态。在一种可能的实现方式中,服务器中可以存储有差分值阈值以及信号灯点亮状态识别模型。其中,服务器可以根据信号灯点亮状态识别模型识别图像帧序列中信号灯处于点亮状态的图像帧。应理解,信号灯点亮状态识别模型能够识别处于点亮状态的信号灯,该信号灯点亮状态识别模型也可以以大量的“点亮状态的信号灯的测试图像和熄灭状态的信号灯的测试图像”训练获取,该信号灯点亮状态识别模型可以经机器学习得到,本申请实施例中对训练得到信号灯点亮状态识别模型的过程不做赘述。
本申请实施例中的差分值阈值,可以为图像帧中信号灯从点亮状态变为熄灭状态对应的阈值。其中,当相邻两个图像帧中第一位置的灰度的差分值大于该差分值阈值,则可以确定相邻两个图像帧中后一个图像帧中的信号灯为熄灭状态,前一个图像帧中的信号灯为点亮状态,进而确定后一个图像帧中信号灯从点亮状态转变为熄灭状态。鉴于本申请实施例中已经获取了处于点亮状态的图像帧,进而结合确定的从点亮状态转变为熄灭状态的图像帧,若相邻两个处于点亮状态的图像帧之间包含有“从点亮状态转变为熄灭状态的图像帧”,则可以将该相邻两个处于点亮状态的图像帧之间包含的图像帧均作为信号灯的无颜色图像。
示例性的,图像帧序列包含有图像帧1、图像帧2……图像帧20,其中图像帧1、图像帧10以及图像帧20均为处于点亮状态的图像帧,且图像帧2与图像帧1的第一位置的灰度的差分值大于该差分值阈值,即图像帧1和图像帧10之间存在“从点亮状态转变为熄灭状态的图像帧”,则将图像帧1和图像帧10之间的图像帧作为信号灯的无颜色的图像帧。同理的,若图像帧10与图像帧11的第一位置的灰度的差分值大于该差分值阈值,即图像帧10和图像帧20之间存在“从点亮状态转变为熄灭状态的图像帧”,则将图像帧10和图像帧20之间的图像帧作为信号灯的无颜色的图像帧。
上述S204中,本申请实施例中,若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的图像帧,则可以将该从点亮状态转变为熄灭状态的图像帧作为目标图像帧,且将目标图像帧标注为信号灯的无颜色图像。
示例性的,如图像帧1和图像帧10之间的图像帧,以及图像帧10和图像帧20之间的图像帧,均是从信号灯的点亮状态转变为熄灭状态的图像帧。则该图像帧1和图像帧10之间的图像帧,以及图像帧10和图像帧20之间的图像帧均为目标图像帧,则可以将目标图像帧标注为信号灯的无颜色图像。本申请实施例中标注的方式可以为对目标图像帧打标签,或者将目标图像帧存储至该信号灯的无颜色的图像的集合中,本申请实施例对图像的标注方式不做限制。
本申请实施例提供的信号灯的图像的标注方法包括:获取拍摄装置拍摄的包含有信号灯的图像帧序列,在图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,第一位置为信号灯的位置,根据灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态。其中,若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的目标图像帧,则将目标图像帧标注为信号灯的无颜色图像。本申请实施例中可以借助图像帧之间的灰度差分值判断信号灯变化状态,进而确定信号灯从点亮状态转变为熄灭状态的图像帧,可以实现无颜色图像的自动标注,提高了标注效率和准确性。
在上述实施例的基础上,图4为本申请实施例提供的信号灯的图像的标注方法的另一实施例的流程示意图。如图4所示,本申请实施例提供的信号灯的图像的标注方法可以包括:
S401,获取拍摄装置拍摄的包含有信号灯的图像帧序列。
S402,在图像帧序列中,获取信号灯在第一个图像帧的坐标位置,拍摄装置与信号灯的相对位置保持不变。
S403,将坐标位置作为图像帧序列中每个图像帧的第一位置。
S404,在图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值。
S405,根据灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态。
S406,若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的目标图像帧,则获取信号灯的颜色,且目标图像帧标注为颜色的信号灯的无颜色图像。
本申请实施例中的S401、S404、S405中的实施方式可以参照上述实施例中S201、S202、S203中的相关描述,在此不做赘述。
上述S402中,本申请实施例中的拍摄装置与信号灯的相对位置保持不变,也就是说,拍摄装置拍摄的每个图像帧中信号灯的位置是不变的。因此,本申请实施例中可以在图像帧序列中,获取信号灯在第一个图像帧的坐标位置,进而将该图像帧序列中每个图像帧中的该坐标位置作为信号灯所处的位置,即该位置坐标为每个图像帧的第一位置。
在一种可能的实现方式中,本申请实施例中可以采用识别模型,识别得到信号灯在第一个图像帧的坐标位置。应理解,识别模型可以识别图像帧中的目标对象,该识别模型可以参照上述实施例中的相关描述。
采用识别模型的方式虽然可以获取快速的获取信号灯在第一个图像帧的坐标位置,但坐标位置依赖于识别模型的识别效果,可能会存在坐标位置不准确或者信号灯边缘位置识别错误的问题,因此在一种可能的实现方式中,本申请实施例中为了提高信号灯的坐标位置的识别准确性,可以采用人工识别的方式进行确定。虽然该技术方案中引入了人工确定信号灯在第一个图像帧的坐标位置,但是相较于目前的技术方案中的工作量大大减少,只需在第一个图像帧中确定信号灯的坐标位置即可。
在该种方式中,在服务器获取图像帧后,可以显示第一个图像帧,使得用户可在观看到该第一个图像帧,进而在该图像帧中选择信号灯的坐标位置。相对应的,服务器可以接收到用户对第一个图像帧的坐标的选择指令,进而根据该选择指令,得到坐标位置。其中,该选择指令用于指示用户选择的坐标位置。
示例性的,图5为本申请实施例提供的界面示意图。如图5所示,该界面上可以显示有第一个图像帧,该第一个图像帧中包含有信号灯。用户可以以点击的方式在图像帧中选择信号灯的位置坐标。其中,用户可以将第一个图像帧进行方法,点击属于信号灯的像素块,以得到第一个图像帧中的坐标位置,该坐标位置可以为像素坐标的集合。图5中以多个点击的位置表征用户点击选择了多个像素块。
上述S406中,服务器可以在图像帧序列中存在目标图像帧时,获取第一位置的信号灯的颜色,进而将该目标图像帧标注为颜色的信号灯的无颜色图像。应理解,本申请实施例中的设置在道路上的信号灯为如图3所示的信号灯,包括三个独立的信号灯,且每个信号灯的颜色不同,在另外两个信号灯处于熄灭状态时,第三个信号灯可以处于点亮状态或者闪烁状态。如图3所示的信号灯从上至下依次是红灯、黄灯和绿灯。因为本申请实施例中拍摄装置和信号灯的相对位置不变,因此3个信号灯在图像帧中的位置也是不变的。本申请实施例中可以预先存储有每个颜色的信号灯在图像中的坐标位置,进而在服务器得到第一个图像帧中信号灯的坐标位置时,确定该坐标位置处的信号灯是哪个颜色的信号灯。
示例性的,红灯、黄灯和绿灯的预设的坐标位置分别为坐标位置1、坐标位置2和坐标位置3。当服务器确定信号灯的坐标位置为坐标位置1时,确定该坐标位置处的信号灯的颜色为红色,则在图像帧序列中存在红灯从点亮状态转变为熄灭状态的目标图像帧时,可以将该目标图像帧标注为红灯的无颜色图像。
本申请实施例中,为了提高信号灯的无颜色图像的标注准确性,可以获取信号灯的颜色,进而将目标图像帧标注为对应颜色的信号灯的无颜色图像,以提高训练的灯色识别模型的准确性。
在上述实施例中,为了进一步简化获取信号灯的变化状态过程,提高获取信号灯的变化状态的效率,本申请实施例中可以根据,该相邻两个图像帧中第一位置的灰度的差分值,以及差分值阈值确定信号灯的变化状态。图5为本申请实施例提供的信号灯的图像的标注方法的另一实施例的流程示意图。如图5所示,上述实施例中的S103可以包括:
S1031,获取第一图像帧的第一位置的灰度减去第二图像帧的第一位置的灰度的第一差分值,以得到多个第一差分值。
S1032,获取第二图像帧的第一位置的灰度减去第一图像帧的第一位置的灰度的第二差分值,以得到多个第二差分值。
S1033,根据多个第一差分值、第一阈值、多个第二差分值和第二阈值,确定每个图像帧中颜色的信号灯的变化状态。
上述S1031和上述S1032中,本申请实施例中将图像帧序列中相邻两个图像中的前一个图像帧作为第一图像帧,后一个图像帧作为第二图像帧。服务器获取相邻两个图像帧的第一位置的灰度的差分值可以包括:获取第一图像帧的第一位置的灰度减去第二图像帧的第一位置的灰度的第一差分值,以得到多个第一差分值。以及,获取第二图像帧的第一位置的灰度减去第一图像帧的第一位置的灰度的第二差分值,以得到多个第二差分值。
示例性的,如图像帧序列中包括图像帧1、图像帧2和图像帧3,则服务器可以获取图像帧2的第一位置的灰度减去图像帧1的第一位置的灰度的第一差分值1,服务器同样也可以获取图像帧3的第一位置的灰度减去图像帧2的第一位置的灰度的第一差分值2。同理的,服务器可以获取图像帧1的第一位置的灰度减去图像帧2的第一位置的灰度的第二差分值1,服务器同样也可以获取图像帧2的第一位置的灰度减去图像帧3的第一位置的灰度的第二差分值2。
因为本申请实施例中的第一位置可以为信号灯的坐标位置,该坐标位置可以为至少两个像素块的坐标的集合。因此,该第一位置可以包括至少两个像素块。因此本申请实施例中服务器在获取第一差分值时,可以获取第一图像帧的每个像素块减去第二图像帧的对应的像素块的灰度的第一子差分值,且将至少两个第一子差分值的均值作为第一差分值。示例性的,如服务器可以获取图像帧2的第一位置中每个像素块的灰度减去图像帧1的第一位置中对应的像素块的灰度的第一子差分值,进而将该多个第一子差分值的均值作为第一差分值1。应理解,在图像帧2中每个像素块对应的图像帧中的像素块的像素坐标可以相同。同理的,服务器在获取第二差分值时,可以获取第二图像帧的每个像素块减去第一图像帧的对应的像素块的灰度的第二子差分值,且将至少两个第二子差分值的均值作为第二差分值。
上述S1033中,因为不同颜色的信号灯在图像帧转变为二值化图像后,处于点亮状态的信号灯的灰度不同,对于不同颜色的信号灯具有相同的差分值时,信号灯的变化状态可能不同,因此本申请实施例中为了提高获取的信号灯的变化状态的准确性,对于不同颜色的信号灯具有不同的差分值阈值,该差分值阈值可以包括第一阈值和第二阈值。其中,第一阈值为图像帧中对应的颜色的信号灯从点亮状态转变为熄灭状态对应的阈值,第二阈值为图像帧中对应的颜色的信号灯从熄灭状态转变为点亮状态对应的阈值。本申请实施例中以第一阈值可以为红灯从点亮状态转变为熄灭状态对应的阈值,第二阈值可以为红灯从熄灭状态转变为点亮状态对应的阈值为例进行说明。
本申请实施例中可以根据多个第一差分值、第一阈值、多个第二差分值和第二阈值,确定每个图像帧中颜色的信号灯的变化状态。其中,服务器可以在多个第一差分值中,获取第一差分值大于预设比例的第一阈值的第一目标图像帧,且将第一目标图像帧作为颜色的信号灯从点亮状态转变为熄灭状态的开始图像帧。其中,预设比例的第一阈值可以为第一预设的预设比例,该预设比例为预先设定的,如80%,预设比例的第一阈值即为80%的第一阈值。
应理解,第一阈值为红灯从点亮状态转变为熄灭状态对应的阈值,原理上说来只要第一差分值大于该第一阈值,即可以确定该第一差分值对应的第一目标图像帧即为信号灯从点亮状态转变为熄灭状态的开始图像帧。而本申请实施例中为了提高容错率,可以将第一差分值大于预设比例的第一阈值的第一目标图像帧,其中,该第一目标图像帧为红灯从点亮状态转变为熄灭状态的开始图像帧。同理的,服务器也可以在多个第二差分值中,获取第二差分值大于预设比例的第二阈值的第二目标图像帧,且将第二目标图像帧作为颜色的信号灯从熄灭状态转变为点亮状态的结束图像帧。
本申请实施例中,服务器在获取图像帧序列中的开始图像帧和结束图像帧后,可以将相邻的开始图像帧和结束图像帧之间的图像帧作为目标图像帧(即从点亮状态转变为熄灭状态的图像帧),也就是红灯的无颜色图像。示例性的,图像帧序列为包括图像帧1、图像帧2……图像帧20,其中,图像帧2、图像帧12为第一目标图像帧,即红灯从点亮状态转变为熄灭状态的开始图像帧,图像帧11、图像帧20为第二目标图像帧,即红灯从熄灭状态转变为点亮状态的结束图像帧,则该示例中相邻的开始图像帧和结束图像帧为“图像帧2和图像11”,以及“图像帧12和图像帧20”,则服务器可以将图像帧2和图像11之间的图像帧作为目标图像帧,以及将图像帧12和图像帧20之间的图像帧作为目标图像帧。
应注意,本申请实施例中不同颜色的信号灯对应有不同的“第一阈值和第二阈值”,其中,该第一阈值和第二阈值可以为服务器预先根据获取的。应理解,在一种可能的实现方式中,该第一阈值和第二阈值可以为用户根据经验得到的,进而输入至服务器中,以使服务器接收来自用户的第一阈值和第二阈值。
本申请实施例中为了提高第一阈值和第二阈值的准确性,服务器可以根据测试图像序列获取该第一阈值和第二阈值。图6为本申请实施例提供的获取阈值的流程示意图。如图6所示,本申请实施例中获取第一阈值和第二阈值可以包括:
S601,在测试图像帧序列中,获取第三图像帧的第一位置的灰度减去第四图像帧的第一位置的灰度的第三差分值,以得到多个第三差分值,第一位置为颜色的信号灯。
S602,获取第四图像帧的第一位置的灰度减去第三图像帧的第一位置的灰度的第四差分值,以得到多个第四差分值。
S603,将多个第三差分值中最大的第三差分值作为第一阈值,且将多个第四差分值中最大的第四差分值作为第二阈值。
应注意,测试图像帧序列为与上述实施例中同一拍摄装置拍摄的图像帧序列,测试图像帧序列表征为在该方案还为实际应用前获取的图像帧序列。其中,本申请实施例中的测试图像帧序列中相邻两个图像帧中的前一个图像帧为第三图像帧,后一个图像帧为第四图像帧。
在S601和S602中,第三图像帧和第四图像帧中的第一位置为与上述第一图像的第一位置具有相同的颜色的信号灯。在测试图像帧序列中,服务器可以获取第三图像帧的第一位置的灰度减去第四图像帧的第一位置的灰度的第三差分值,以得到多个第三差分值;还可以获取第四图像帧的第一位置的灰度减去第三图像帧的第一位置的灰度的第四差分值,以得到多个第四差分值。应理解,本申请实施例中获取第三差分值和第四差分值的方式可以参照上述实施例中获取第一差分值的相关描述,在此不做赘述。
因为信号灯从点亮状态转变为熄灭状态或从熄灭状态转变为点亮状态,灰度的转变是最大的。因此,本申请实施例中可以将多个第三差分值中最大的第三差分值作为第一阈值,且将多个第四差分值中最大的第四差分值作为第二阈值。应理解,本申请实施例中可以预设有测试图像帧的数量,在该测试图像帧的数量中获取多个第三差分值和多个第四差分值,进而将该多个第三差分值中最大的第三差分值作为第一阈值,将多个第四差分值中最大的第四差分值作为第二阈值。
示例性的,以获取第一阈值的过程为例进行说明,服务器在获取测试图像帧2和测试图像帧1的第三差分值1后,可以将该第三差分值1作为预备第三差分值,在获取测试图像帧3和测试图像帧2的第三差分值2后,若第三差分值2大于第三差分值1,则可以将第三差分值2作为新的预备第三差分值,进过不断循环迭代,直至获取最后一个测试图像帧和倒数第二个测试图像帧的第三差分值N,若第三差分值N大于第三差分值N-1,则可以将第三差分值N作为第一阈值。应理解,N为大于或等于2的整数。
本申请实施例中,采用差分值阈值可以确定图像帧中的信号灯的变化状态,相较于上述实施例提高了确定信号灯的变化状态的效率。另,因为不同颜色的信号灯在图像帧转变为二值化图像后,处于点亮状态的信号灯的灰度不同,对于不同颜色的信号灯具有相同的差分值时,信号灯的变化状态可能不同,因此本申请实施例中对于不同颜色的信号灯可以获取该颜色对应的差分值阈值,可以提高获取的信号灯的变化状态的准确性。
在上述实施例的基础上,服务器在获取目标图像帧后,还可以对目标图像帧进行进一步验证,以确定该目标图像帧为准确的无颜色的图像帧,进而提高标注准确性。图7为本申请实施例提供的信号灯的图像的标注方法的流程示意图。如图7所示,本申请实施例中信号灯的图像的标注方法可以包括:
S701,获取拍摄装置拍摄的包含有信号灯的图像帧序列。
S702,在图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值。
S703,根据灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态。
S704,若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的目标图像帧,则获取目标图像帧的第一位置处的灰度与模板图像帧的目标位置的灰度的第五差分值,模板图像帧的目标位置无颜色。
S705,若第五差分值小于预设值,则确定目标图像帧的第一位置为无颜色。
S706,将目标图像帧标注为信号灯的无颜色图像。
本申请实施例中的S701-S703、S706中的实施方式可以参照上述实施例中S201-S203、S204的相关描述,在此不做赘述。
上述S704中,服务器在确定信号灯从点亮状态转变为熄灭状态的目标图像帧后,可以将获取目标图像帧的第一位置处的灰度与模板图像帧的目标位置的灰度的第五差分值。该模板图像帧的目标位置无颜色,因此本申请实施例中可以通过将目标图像帧的第一位置的灰度与无颜色的图像帧进行比较,以确定该目标图像帧的第一位置是否真正为无颜色。
上述S705中,在第五差分值小于预设值,则可以确定目标图像帧的第一位置为无颜色,说明服务器获取的目标图像帧为准确的信号灯为无颜色的图像帧。可以想到的是,若第五差分值大于或等于该预设值,则可以确定服务器获取的目标图像帧为错误的信号灯为无颜色的图像帧,则可以将不标注该目标图像帧。
应理解,本申请实施例中的模板图像帧可以为预先设置的,模板图像帧中的目标位置为预先设定的。在一种可能的实现方式中,服务器也可以在标注的过程中,获取模板图像帧。其中,服务器在获取目标图像帧时,可以确定目标图像帧的第一位置的信号灯为熄灭状态,而在目标图像帧的前一个图像帧(非目标图像帧)的第二位置的信号灯和第三位置的信号灯均为熄灭状态。其中,第一位置、第二位置和第三位置的信号灯的颜色相异,示例性的,如目标图像帧中的红灯为熄灭状态,则可以确定目标图像帧的前一个图像帧(非目标图像帧)中的红灯为点亮状态,而第二位置的黄灯和第三位置的绿灯均为熄灭状态,本申请实施例中可以将第二位置和/或第三位置作为目标位置。
可选的,为了进一步保证模板图像帧以及模板图像帧中的目标位置的准确性,本申请实施例中可以在目标图像帧的前一个图像帧中,获取第二位置和第三位置的灰度的差值,因为第二位置和第三位置均为无颜色,则第二位置和第三位置的灰度的差值为0或接近于0,本申请实施例中可以设置一个非常小的预设值,如该第二位置和第三位置的灰度的差值小于预设值,则服务器可以将第二位置和/或第三位置作为目标位置,且将目标图像帧的前一个图像帧(非目标图像帧)作为模板图像帧。
本申请实施例中,服务器在图像帧序列中获取信号灯从点亮状态转变为熄灭状态的目标图像帧后,还可以将目标图像帧与模板图像帧进行进一步比较,验证目标图像帧中的第一位置是否真正为无颜色,进而能够提高标注的准确性。
图8为本申请提供的信号灯的图像的标注装置的结构示意图。该信号灯的图像的标注装置可以为上述实施例中的服务器,可以执行服务器的动作。如图8所示,该信号灯的图像的标注装置800包括:处理模块801、标注模块802、显示模块803和收发模块804。
处理模块801,用于获取拍摄装置拍摄的包含有信号灯的图像帧序列,且在图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,第一位置为信号灯的位置,且根据灰度的差分值,确定图像帧序列中每个图像帧中信号灯的变化状态;
标注模块802,用于若图像帧序列中存在信号灯从点亮状态转变为熄灭状态的目标图像帧,则将目标图像帧标注为信号灯的无颜色图像
在一种可能的实现方式中,标注模块802,具体用于获取信号灯的颜色,将目标图像帧标注为颜色的信号灯的无颜色图像。
在一种可能的实现方式中,拍摄装置与信号灯的相对位置保持不变。处理模块801,具体用于在图像帧序列中,获取信号灯在第一个图像帧的坐标位置,将坐标位置作为图像帧序列中每个图像帧的第一位置。
在一种可能的实现方式中,显示模块803,用于显示第一个图像帧。收发模块804,用于接收用户对第一个图像帧的坐标的选择指令。处理模块801,用于根据选择指令,得到坐标位置。
在一种可能的实现方式中,处理模块801,具体用于采用识别模型,识别得到信号灯在第一个图像帧的坐标位置。
在一种可能的实现方式中,处理模块801,具体用于获取每个图像帧的二值化图像;根据每个图像帧的二值化图像,获取相邻两个图像帧的第一位置的灰度的差分值。
在一种可能的实现方式中,相邻两个图像帧中的前一个图像帧为第一图像帧,后一个图像帧为第二图像帧。处理模块801,具体用于获取第一图像帧的第一位置的灰度减去第二图像帧的第一位置的灰度的第一差分值,以得到多个第一差分值;获取第二图像帧的第一位置的灰度减去第一图像帧的第一位置的灰度的第二差分值,以得到多个第二差分值。
在一种可能的实现方式中,第一位置包括至少两个像素块。处理模块801,具体用于获取第一图像帧的每个像素块减去第二图像帧的对应的像素块的灰度的第一子差分值,且将至少两个第一子差分值的均值作为第一差分值;获取第二图像帧的每个像素块减去第一图像帧的对应的像素块的灰度的第二子差分值,且将至少两个第二子差分值的均值作为第二差分值;根据多个第一差分值、第一阈值、多个第二差分值和第二阈值,确定每个图像帧中颜色的信号灯的变化状态,第一阈值为颜色的信号灯从点亮状态转变为熄灭状态对应的阈值,第二阈值为颜色的信号灯从熄灭状态转变为点亮状态对应的阈值。
在一种可能的实现方式中,处理模块801,具体用于在多个第一差分值中,获取第一差分值大于预设比例的第一阈值的第一目标图像帧,且将第一目标图像帧作为颜色的信号灯从点亮状态转变为熄灭状态的开始图像帧;在多个第二差分值中,获取第二差分值大于预设比例的第二阈值的第二目标图像帧,且将第二目标图像帧作为颜色的信号灯从熄灭状态转变为点亮状态的结束图像帧;将相邻的开始图像帧和结束图像帧之间的图像帧作为目标图像帧。
在一种可能的实现方式中,处理模块801,还用于获取第一阈值和第二阈值。
在一种可能的实现方式中,测试图像帧序列中相邻两个图像帧中的前一个图像帧为第三图像帧,后一个图像帧为第四图像帧。处理模块801,具体用于在测试图像帧序列中,获取第三图像帧的第一位置的灰度减去第四图像帧的第一位置的灰度的第三差分值,以得到多个第三差分值,第一位置为颜色的信号灯;获取第四图像帧的第一位置的灰度减去第三图像帧的第一位置的灰度的第四差分值,以得到多个第四差分值;将多个第三差分值中最大的第三差分值作为第一阈值,且将多个第四差分值中最大的第四差分值作为第二阈值。
在一种可能的实现方式中,处理模块801,还用于获取目标图像帧的第一位置处的灰度与模板图像帧的目标位置的灰度的第五差分值,模板图像帧的目标位置无颜色;若第五差分值小于预设值,则确定目标图像帧的第一位置为无颜色。
在一种可能的实现方式中,处理模块801,还用于确定目标图像帧的前一个图像帧的第二位置的信号灯和第三位置的信号灯均为熄灭状态,第一位置、第二位置和第三位置的信号灯的颜色相异;若在目标图像帧的前一个图像帧中,第二位置和第三位置的灰度的差值小于预设值,则将第二位置和/或第三位置作为目标位置,且将目标图像帧的前一个图像帧作为模板图像帧。
本实施例提供的信号灯的图像的标注装置与上述信号灯的图像的标注方法实现的原理和技术效果类似,在此不作赘述。
根据本申请实施例,本申请实施例还提供了一种电子设备和一种可读存储介质。图9为本申请实施例提供的电子设备的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请实施例的实现。
如图9所示,该电子设备包括:一个或多个处理器901、存储器902,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图9中以一个处理器901为例。
存储器902即为本申请实施例所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请实施例所提供的信号灯的图像的标注方法。本申请实施例的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请实施例所提供的信号灯的图像的标注方法。
存储器902作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的信号灯的图像的标注方法对应的程序指令/模块。处理器901通过运行存储在存储器902中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的信号灯的图像的标注方法。
存储器902可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器902可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器902可选包括相对于处理器901远程设置的存储器,这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
电子设备还可以包括:输入装置903、输出装置904和收发器905。处理器901、存储器902、输入装置903、输出装置904和收发器905可以通过总线或者其他方式连接,图9中以通过总线连接为例。收发器905耦合至处理器901,处理器901控制收发器905执行上述收发模块的收发动作。
输入装置903可接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置904可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请实施例公开的技术方案所期望的结果,本文在此不进行限制。
本申请实施例中还提供一种路侧设备,该路侧设备可以包括路侧感知设备和路侧计算设备。其中,该路侧设备中可以包括至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述信号灯的图像的标注方法。其中,该路侧感知设备的结构可以与上述图9所示的电子设备的结构相同,可以参照上述图9的相关描述。
上述具体实施方式,并不构成对本申请实施例保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请实施例的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请实施例保护范围之内。
Claims (18)
1.一种信号灯的图像的标注方法,包括:
获取拍摄装置拍摄的包含有信号灯的图像帧序列;
在所述图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,所述第一位置为所述信号灯的位置;
根据所述灰度的差分值,确定所述图像帧序列中每个图像帧中所述信号灯的变化状态;
若所述图像帧序列中存在所述信号灯从点亮状态转变为熄灭状态的目标图像帧,则将所述目标图像帧标注为所述信号灯的无颜色图像。
2.根据权利要求1所述的方法,其中,所述将所述目标图像帧标注为所述信号灯的无颜色图像,包括:
获取所述信号灯的颜色;
将所述目标图像帧标注为所述颜色的信号灯的无颜色图像。
3.根据权利要求1所述的方法,其中,所述拍摄装置与所述信号灯的相对位置保持不变,所述方法还包括:
在所述图像帧序列中,获取所述信号灯在第一个图像帧的坐标位置;
将所述坐标位置作为所述图像帧序列中每个图像帧的所述第一位置。
4.根据权利要求3所述的方法,其中,所述获取所述信号灯在所述第一个图像帧的坐标位置,包括:
显示所述第一个图像帧;
接收用户对所述第一个图像帧的坐标的选择指令;
根据所述选择指令,得到所述坐标位置。
5.根据权利要求3所述的方法,其中,所述获取所述信号灯在所述第一个图像帧的坐标位置,包括:
采用识别模型,识别得到所述信号灯在所述第一个图像帧的坐标位置。
6.根据权利要求1-5中任一项所述的方法,其中,所述获取相邻两个图像帧中第一位置的灰度的差分值,包括:
获取每个图像帧的二值化图像;
根据所述每个图像帧的二值化图像,获取相邻两个图像帧的第一位置的灰度的差分值。
7.根据权利要求2-6中任一项所述的方法,其中,所述相邻两个图像帧中的前一个图像帧为第一图像帧,后一个图像帧为第二图像帧,所述获取相邻两个图像帧中第一位置的灰度的差分值,包括:
获取所述第一图像帧的第一位置的灰度减去所述第二图像帧的所述第一位置的灰度的第一差分值,以得到多个第一差分值;
获取所述第二图像帧的第一位置的灰度减去所述第一图像帧的所述第一位置的灰度的第二差分值,以得到多个第二差分值。
8.根据权利要求7所述的方法,其中,所述第一位置包括至少两个像素块,所述获取所述第一图像帧的第一位置的灰度减去所述第二图像帧的所述第一位置的灰度的第一差分值,包括:
获取所述第一图像帧的每个像素块减去所述第二图像帧的对应的像素块的灰度的第一子差分值;
将至少两个第一子差分值的均值作为所述第一差分值;
所述获取所述第二图像帧的第一位置的灰度减去所述第一图像帧的所述第一位置的灰度的第二差分值,包括:
获取所述第二图像帧的每个像素块减去所述第一图像帧的对应的像素块的灰度的第二子差分值;
将至少两个第二子差分值的均值作为所述第二差分值。
9.根据权利要求7或8所述的方法,其中,所述根据所述灰度的差分值,确定所述图像帧序列中每个图像帧中所述信号灯的变化状态,包括:
根据所述多个第一差分值、第一阈值、所述多个第二差分值和第二阈值,确定所述每个图像帧中所述颜色的信号灯的变化状态,所述第一阈值为所述颜色的信号灯从点亮状态转变为熄灭状态对应的阈值,所述第二阈值为所述颜色的信号灯从熄灭状态转变为点亮状态对应的阈值。
10.根据权利要求9所述的方法,其中,所述根据所述多个第一差分值、第一阈值、所述多个第二差分值和第二阈值,确定所述每个图像帧中所述信号灯的变化状态,包括:
在所述多个第一差分值中,获取第一差分值大于预设比例的所述第一阈值的第一目标图像帧,且将所述第一目标图像帧作为所述颜色的信号灯从点亮状态转变为熄灭状态的开始图像帧;
在所述多个第二差分值中,获取第二差分值大于预设比例的所述第二阈值的第二目标图像帧,且将所述第二目标图像帧作为所述颜色的信号灯从熄灭状态转变为点亮状态的结束图像帧;
将相邻的开始图像帧和结束图像帧之间的图像帧作为所述目标图像帧。
11.根据权利要求9或10所述的方法,其中,所述方法还包括:
获取所述第一阈值和所述第二阈值。
12.根据权利要求11所述的方法,其中,测试图像帧序列中相邻两个图像帧中的前一个图像帧为第三图像帧,后一个图像帧为第四图像帧,所述获取所述第一阈值和所述第二阈值,包括:
在测试图像帧序列中,获取所述第三图像帧的第一位置的灰度减去所述第四图像帧的所述第一位置的灰度的第三差分值,以得到多个第三差分值,所述第一位置为所述颜色的信号灯;
获取所述第四图像帧的第一位置的灰度减去所述第三图像帧的所述第一位置的灰度的第四差分值,以得到多个第四差分值;
将所述多个第三差分值中最大的第三差分值作为所述第一阈值,且将所述多个第四差分值中最大的第四差分值作为第二阈值。
13.根据权利要求1-12中任一项所述的方法,其中,所述将所述目标图像帧标注为所述信号灯的无颜色图像之后,还包括:
获取所述目标图像帧的所述第一位置处的灰度与模板图像帧的目标位置的灰度的第五差分值,所述模板图像帧的目标位置无颜色;
若所述第五差分值小于预设值,则确定所述目标图像帧的第一位置为无颜色。
14.根据权利要求13所述的方法,所述方法还包括:
确定目标图像帧的前一个图像帧的第二位置的信号灯和第三位置的信号灯均为熄灭状态,所述第一位置、所述第二位置和所述第三位置的信号灯的颜色相异;
若在所述目标图像帧的前一个图像帧中,所述第二位置和所述第三位置的灰度的差值小于所述预设值,则将所述第二位置和/或所述第三位置作为所述目标位置,且将所述目标图像帧的前一个图像帧作为所述模板图像帧。
15.一种信号灯的图像的标注装置,包括:
处理模块,用于获取拍摄装置拍摄的包含有信号灯的图像帧序列,且在所述图像帧序列中,获取相邻两个图像帧中第一位置的灰度的差分值,以及根据所述灰度的差分值,确定所述图像帧序列中每个图像帧中所述信号灯的变化状态,所述第一位置为所述信号灯的位置;
标注模块,用于若所述图像帧序列中存在所述信号灯从点亮状态转变为熄灭状态的目标图像帧,则将所述目标图像帧标注为所述信号灯的无颜色图像。
16.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-14中任一项所述的方法。
17.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-14中任一项所述的方法。
18.一种路侧设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-14中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011006909.XA CN112131414B (zh) | 2020-09-23 | 2020-09-23 | 信号灯的图像的标注方法、装置、电子设备以及路侧设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011006909.XA CN112131414B (zh) | 2020-09-23 | 2020-09-23 | 信号灯的图像的标注方法、装置、电子设备以及路侧设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112131414A true CN112131414A (zh) | 2020-12-25 |
CN112131414B CN112131414B (zh) | 2024-06-25 |
Family
ID=73842667
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011006909.XA Active CN112131414B (zh) | 2020-09-23 | 2020-09-23 | 信号灯的图像的标注方法、装置、电子设备以及路侧设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112131414B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112733839A (zh) * | 2020-12-28 | 2021-04-30 | 北京百度网讯科技有限公司 | 灯头位置确定方法、装置、存储介质、程序、路侧设备 |
CN113033464A (zh) * | 2021-04-10 | 2021-06-25 | 阿波罗智联(北京)科技有限公司 | 信号灯检测方法、装置、设备以及存储介质 |
CN115984825A (zh) * | 2023-03-02 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 信号灯闪烁感知方法、车辆控制方法、设备、介质及车辆 |
Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100310189A1 (en) * | 2007-12-04 | 2010-12-09 | Masafumi Wakazono | Image processing device and method, program recording medium |
EP2626671A1 (de) * | 2012-02-10 | 2013-08-14 | SICK STEGMANN GmbH | Vorrichtung und Verfahren zur Positionsbestimmung |
JP2014052505A (ja) * | 2012-09-07 | 2014-03-20 | Canon Inc | 撮像装置、撮像装置の制御方法及びプログラム並びに記録媒体 |
CN104574960A (zh) * | 2014-12-25 | 2015-04-29 | 宁波中国科学院信息技术应用研究院 | 一种交通灯识别方法 |
JP2015153312A (ja) * | 2014-02-18 | 2015-08-24 | アルパイン株式会社 | 車両運転支援装置 |
JP2015207035A (ja) * | 2014-04-17 | 2015-11-19 | アルパイン株式会社 | 交通信号機認識装置及びコンピュータプログラム |
WO2016203616A1 (ja) * | 2015-06-18 | 2016-12-22 | 日産自動車株式会社 | 信号機検出装置及び信号機検出方法 |
RU2668885C1 (ru) * | 2015-07-08 | 2018-10-04 | Ниссан Мотор Ко., Лтд. | Устройство обнаружения лампы и способ обнаружения лампы |
CN109145678A (zh) * | 2017-06-15 | 2019-01-04 | 杭州海康威视数字技术股份有限公司 | 信号灯检测方法及装置和计算机设备及可读存储介质 |
CN109218621A (zh) * | 2018-10-23 | 2019-01-15 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
US20190080186A1 (en) * | 2017-09-12 | 2019-03-14 | Baidu Online Network Technology (Beijing) Co., Ltd. | Traffic light state recognizing method and apparatus, computer device and readable medium |
CN109726302A (zh) * | 2018-12-10 | 2019-05-07 | 广州景骐科技有限公司 | 图像的标注方法、装置、计算机设备和存储介质 |
CN109903308A (zh) * | 2017-12-08 | 2019-06-18 | 百度在线网络技术(北京)有限公司 | 用于获取信息的方法及装置 |
CN110210328A (zh) * | 2019-05-13 | 2019-09-06 | 北京三快在线科技有限公司 | 在图像序列中标注物体的方法、装置及电子设备 |
WO2019165604A1 (zh) * | 2018-02-28 | 2019-09-06 | 华为技术有限公司 | 一种发际线轮廓的定位方法、装置及计算机可读存储介质 |
CN110287828A (zh) * | 2019-06-11 | 2019-09-27 | 北京三快在线科技有限公司 | 信号灯的检测方法、装置及电子设备 |
CN110414399A (zh) * | 2019-07-22 | 2019-11-05 | 北京三快在线科技有限公司 | 信号灯的检测方法、装置及智能驾驶设备 |
CN110458226A (zh) * | 2019-08-08 | 2019-11-15 | 上海商汤智能科技有限公司 | 图像标注方法及装置、电子设备和存储介质 |
WO2019227438A1 (zh) * | 2018-05-31 | 2019-12-05 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、设备、飞行器、系统及存储介质 |
CN111400531A (zh) * | 2020-03-13 | 2020-07-10 | 广州文远知行科技有限公司 | 目标标注方法、装置、设备与计算机可读存储介质 |
-
2020
- 2020-09-23 CN CN202011006909.XA patent/CN112131414B/zh active Active
Patent Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100310189A1 (en) * | 2007-12-04 | 2010-12-09 | Masafumi Wakazono | Image processing device and method, program recording medium |
EP2626671A1 (de) * | 2012-02-10 | 2013-08-14 | SICK STEGMANN GmbH | Vorrichtung und Verfahren zur Positionsbestimmung |
JP2014052505A (ja) * | 2012-09-07 | 2014-03-20 | Canon Inc | 撮像装置、撮像装置の制御方法及びプログラム並びに記録媒体 |
JP2015153312A (ja) * | 2014-02-18 | 2015-08-24 | アルパイン株式会社 | 車両運転支援装置 |
JP2015207035A (ja) * | 2014-04-17 | 2015-11-19 | アルパイン株式会社 | 交通信号機認識装置及びコンピュータプログラム |
CN104574960A (zh) * | 2014-12-25 | 2015-04-29 | 宁波中国科学院信息技术应用研究院 | 一种交通灯识别方法 |
WO2016203616A1 (ja) * | 2015-06-18 | 2016-12-22 | 日産自動車株式会社 | 信号機検出装置及び信号機検出方法 |
RU2668885C1 (ru) * | 2015-07-08 | 2018-10-04 | Ниссан Мотор Ко., Лтд. | Устройство обнаружения лампы и способ обнаружения лампы |
CN109145678A (zh) * | 2017-06-15 | 2019-01-04 | 杭州海康威视数字技术股份有限公司 | 信号灯检测方法及装置和计算机设备及可读存储介质 |
US20190080186A1 (en) * | 2017-09-12 | 2019-03-14 | Baidu Online Network Technology (Beijing) Co., Ltd. | Traffic light state recognizing method and apparatus, computer device and readable medium |
CN109903308A (zh) * | 2017-12-08 | 2019-06-18 | 百度在线网络技术(北京)有限公司 | 用于获取信息的方法及装置 |
WO2019165604A1 (zh) * | 2018-02-28 | 2019-09-06 | 华为技术有限公司 | 一种发际线轮廓的定位方法、装置及计算机可读存储介质 |
WO2019227438A1 (zh) * | 2018-05-31 | 2019-12-05 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、设备、飞行器、系统及存储介质 |
CN109218621A (zh) * | 2018-10-23 | 2019-01-15 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
CN109726302A (zh) * | 2018-12-10 | 2019-05-07 | 广州景骐科技有限公司 | 图像的标注方法、装置、计算机设备和存储介质 |
CN110210328A (zh) * | 2019-05-13 | 2019-09-06 | 北京三快在线科技有限公司 | 在图像序列中标注物体的方法、装置及电子设备 |
CN110287828A (zh) * | 2019-06-11 | 2019-09-27 | 北京三快在线科技有限公司 | 信号灯的检测方法、装置及电子设备 |
CN110414399A (zh) * | 2019-07-22 | 2019-11-05 | 北京三快在线科技有限公司 | 信号灯的检测方法、装置及智能驾驶设备 |
CN110458226A (zh) * | 2019-08-08 | 2019-11-15 | 上海商汤智能科技有限公司 | 图像标注方法及装置、电子设备和存储介质 |
CN111400531A (zh) * | 2020-03-13 | 2020-07-10 | 广州文远知行科技有限公司 | 目标标注方法、装置、设备与计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
李宗鑫;秦勃;王梦倩;: "基于时空关系模型的交通信号灯的实时检测与识别", 计算机科学, no. 06, 15 June 2018 (2018-06-15), pages 320 - 325 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112733839A (zh) * | 2020-12-28 | 2021-04-30 | 北京百度网讯科技有限公司 | 灯头位置确定方法、装置、存储介质、程序、路侧设备 |
CN112733839B (zh) * | 2020-12-28 | 2024-05-03 | 阿波罗智联(北京)科技有限公司 | 灯头位置确定方法、装置、存储介质、程序、路侧设备 |
CN113033464A (zh) * | 2021-04-10 | 2021-06-25 | 阿波罗智联(北京)科技有限公司 | 信号灯检测方法、装置、设备以及存储介质 |
CN113033464B (zh) * | 2021-04-10 | 2023-11-21 | 阿波罗智联(北京)科技有限公司 | 信号灯检测方法、装置、设备以及存储介质 |
CN115984825A (zh) * | 2023-03-02 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 信号灯闪烁感知方法、车辆控制方法、设备、介质及车辆 |
WO2024179134A1 (zh) * | 2023-03-02 | 2024-09-06 | 安徽蔚来智驾科技有限公司 | 信号灯闪烁感知方法、车辆控制方法、设备、介质及车辆 |
Also Published As
Publication number | Publication date |
---|---|
CN112131414B (zh) | 2024-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112131414B (zh) | 信号灯的图像的标注方法、装置、电子设备以及路侧设备 | |
CN110910665B (zh) | 信号灯控制方法、装置以及计算机设备 | |
CN111709328A (zh) | 车辆跟踪方法、装置及电子设备 | |
CN111931724B (zh) | 信号灯的异常识别方法、装置、电子设备和路侧设备 | |
CN111931591A (zh) | 用于构建关键点学习模型的方法、装置、电子设备及可读存储介质 | |
CN111833340A (zh) | 图像检测方法、装置、电子设备及存储介质 | |
CN112528786B (zh) | 车辆跟踪方法、装置及电子设备 | |
CN112528926B (zh) | 检测信号灯图像异常的方法、装置、设备及存储介质 | |
CN110968718A (zh) | 目标检测模型负样本挖掘方法、装置及电子设备 | |
JP7241127B2 (ja) | 信号灯の灯色識別方法、装置及び路側機器 | |
CN110866504B (zh) | 标注数据的获取方法、装置和设备 | |
CN111488821B (zh) | 用于识别交通信号灯倒计时信息的方法及装置 | |
CN113469109A (zh) | 交通灯识别结果处理方法、装置、路侧设备及云控平台 | |
CN112180285B (zh) | 识别交通信号灯故障的方法、装置、导航系统和路侧设备 | |
CN111582030A (zh) | 红绿灯的识别方法、装置、电子设备和计算机存储介质 | |
CN112149741A (zh) | 图像识别模型的训练方法、装置、电子设备及存储介质 | |
CN111652112A (zh) | 一种车道流向的识别方法、装置、电子设备及存储介质 | |
CN113378769A (zh) | 图像分类方法和装置 | |
CN111627241A (zh) | 用于生成车辆排队信息的方法和装置 | |
CN112270532A (zh) | 一种数据处理方法、装置、电子设备以及存储介质 | |
CN112507832A (zh) | 监控场景下的犬只检测方法、装置、电子设备和存储介质 | |
CN112699754A (zh) | 信号灯识别方法、装置、设备以及存储介质 | |
CN111191619A (zh) | 车道线虚线段的检测方法、装置、设备和可读存储介质 | |
CN112990127B (zh) | 目标识别方法、装置、电子设备及存储介质 | |
CN111027195A (zh) | 仿真场景的生成方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211022 Address after: 100176 101, floor 1, building 1, yard 7, Ruihe West 2nd Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing Applicant after: Apollo Intelligent Connectivity (Beijing) Technology Co., Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |