CN111753610A - 天气识别方法及装置 - Google Patents

天气识别方法及装置 Download PDF

Info

Publication number
CN111753610A
CN111753610A CN201910745480.7A CN201910745480A CN111753610A CN 111753610 A CN111753610 A CN 111753610A CN 201910745480 A CN201910745480 A CN 201910745480A CN 111753610 A CN111753610 A CN 111753610A
Authority
CN
China
Prior art keywords
weather
video frame
category
classification model
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910745480.7A
Other languages
English (en)
Other versions
CN111753610B (zh
Inventor
蒋姚亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Goldway Intelligent Transportation System Co Ltd
Original Assignee
Shanghai Goldway Intelligent Transportation System Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Goldway Intelligent Transportation System Co Ltd filed Critical Shanghai Goldway Intelligent Transportation System Co Ltd
Priority to CN201910745480.7A priority Critical patent/CN111753610B/zh
Publication of CN111753610A publication Critical patent/CN111753610A/zh
Application granted granted Critical
Publication of CN111753610B publication Critical patent/CN111753610B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Astronomy & Astrophysics (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供一种天气识别方法及装置,通过获取用于天气识别的目标视频帧;将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出,并当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出,因此本申请可以提升天气类别识别的准确率。

Description

天气识别方法及装置
技术领域
本申请涉及视频监控技术领域,尤其涉及一种天气识别方法及装置。
背景技术
随着视频监控装置的广泛应用,高速公路上的视频监控装置的安装数量也迅速增加,在高速公路上通常每公里会架设一台视频监控装置。这些视频监控装置拍摄的视频图像除了用来进行交通违章等检查以外,还可以通过AI(Artificial Intelligence,人工智能)检测视频图像中的天气情况,并可以结合卫星、自动观测站、气象雷达,通过多维数据融合和大数据来提升气象预报准确性、精细化和及时性的,从而既可以满足高速公路中的监控部署需求,又可以利用监控视频图像辅助天气预测,因此基于视频图像识别天气类别的方式非常有实用价值。
但是目前基于视频图像识别天气类别的技术还不完善,现有的技术可以最多只能识别出雨雪像素位置,但无法具体区分出天气的类别无法满足天气检测的需求。
发明内容
有鉴于此,本申请提供一种天气识别方法及装置,以区分出天气类别。
具体地,本申请是通过如下技术方案实现的:
根据本申请实施例的第一方面,提供一种天气识别方法,所述方法包括:
获取用于天气识别的目标视频帧;
将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出;
当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
作为一个实施例,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出,包括:
从所述目标视频帧中截取包含目标对象的局部图片,将所述局部图片输入至所述第二分类模型,以利用所述第二分类模型依据输入的所述局部图片进一步精确确定出天气类别并输出。
作为一个实施例,从所述目标视频帧中截取局部图片,包括:
将所述目标视频帧输入至已训练的目标检测模型,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息;
依据所述目标对象的类别和位置信息从所述目标视频帧中截取局部图片。
作为一个实施例,所述利用第二分类模型依据输入的局部图片进一步精确确定出天气类别,包括:
利用所述第二分类模型识别出所述目标对象的动作行为;
依据所述目标对象的动作行为确定天气类别。
作为一个实施例,依据所述目标对象的动作行为确定天气类别,包括:
当所述目标对象为人时,若所述目标对象打伞,则确定天气类别为雨天,若所述目标对象未打伞,则确定天气类别为晴天;
当所述目标对象为车辆时,若所述目标对象在路面上压起水花,则确定天气类别为雨天,若所述目标对象在路面上未压起水花,则确定天气类别为晴天。
作为一个实施例,将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出,包括:
利用所述第一分类模型识别所述目标视频帧的路面情况,当所述路面有积雪时,确定所述天气类别为雪天;当所述路面仅有积水时,确定所述天气类别为雨天;当所述路面无积雪且无积水时,确定所述天气类别为晴天。
根据本申请实施例的第二方面,提供一种天气识别装置,所述装置包括:
获取单元,用于获取用于天气识别的目标视频帧;
第一识别单元,用于将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出;
第二识别单元,用于当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
作为一个实施例,所述第二识别单元,包括:
第一子单元,用于从所述目标视频帧中截取包含目标对象的局部图片;
第二子单元,用于将所述局部图片输入至所述第二分类模型,以利用所述第二分类模型依据输入的所述局部图片进一步精确确定出天气类别并输出。
作为一个实施例,所述第一子单元,具体用于将所述目标视频帧输入至已训练的目标检测模型,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息;依据所述目标对象的类别和位置信息从所述目标视频帧中截取局部图片。
作为一个实施例,所述第二子单元,具体用于利用所述第二分类模型识别出所述目标对象的动作行为;依据所述目标对象的动作行为确定天气类别。
作为一个实施例,所述第二子单元,具体用于当所述目标对象为人时,若所述目标对象打伞,则确定天气类别为雨天,若所述目标对象未打伞,则确定天气类别为晴天;当所述目标对象为车辆时,若所述目标对象在路面上压起水花,则确定天气类别为雨天,若所述目标对象在路面上未压起水花,则确定天气类别为晴天。
作为一个实施例,所述第一识别单元,具体用于利用所述第一分类模型识别所述目标视频帧的路面情况,当所述路面有积雪时,确定所述天气类别为雪天;当所述路面仅有积水时,确定所述天气类别为雨天;当所述路面无积雪且无积水时,确定所述天气类别为晴天。
根据本申请实施例的第三方面,提供一种计算机设备,包括处理器、通信接口、存储器和通信总线;
其中,所述处理器、通信接口、存储器通过所述通信总线进行相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的计算机程序,所述处理器执行所述计算机程序时实现任一天气识别方法的步骤。
根据本申请实施例的第四方面,提供一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现任一天气识别方法的步骤。
由上述实施例可见,本申请可以通过获取用于天气识别的目标视频帧;将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出,并当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。由于现有技术只能识别出图片中雨雪像素位置,但无法具体区分出天气的类别,因此本申请可以通过将用于天气识别的目标视频帧输入到第一分类模型后,进一步通过第二分类模型来对天气类别进行精准识别,进而提升了天气类别识别的准确率,满足天气检测的需求。
附图说明
图1为本申请示例性的一种天气识别方法的实施例流程图;
图2-1、2-2、2-3分别为本申请示例性的晴天、雨天、雪天的视频图像示意图;
图3为本申请示例性的截取局部图片的实施例流程图;
图4-1、4-2分别为本申请示例性的压起水花车辆和未压起水花的车辆的示意图;
图5-1为本申请示例性的目标视频帧示意图;
图5-2为本申请示例性的局部图片示意图;
图6为本申请示例性的分类网络模型示意图;
图7为本申请的天气识别装置的一个实施例框图;
图8为本申请一种计算机设备的一个实施例框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
下面以一实施例对本申请提供的天气识别方法进行具体说明。
请参见图1,为本申请示例性的一种天气识别方法的实施例流程图,该方法包括以下步骤:
步骤101、获取用于天气识别的目标视频帧。
在本实施例中,可以从高速道路上部署的视频监控装置中获取用于天气识别的目标视频帧,该目标视频帧至少包含路面情况,例如路面的覆盖物,还可以包含路面上的车辆和行人等对象。
步骤102、将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出。
在本实施例中,可以将步骤101中获取的用于天气识别的目标视频帧输入至已训练的第一分类模型,以利用所述第一分类模型依据所述目标视频帧中的路面情况确定所述目标视频帧对应的天气类别,所述天气类别可以包括雨天、雪天、晴天等。当第一分类模型输出所述目标视频帧的天气类别后,可以天气类别作为所述目标视频帧的识别结果进行输出。
需要说明的是,本申请的第一分类模型输出的天气类别结果具体可以通过置信度的形式表示,并将置信度最高的类型作为输出结果。例如,当第一分类模型可以识别A、B、C三种天气类别时,若输出的目标视频帧的识别结果为:A的置信度是0.88,B的置信度是0.11,C的置信度是0.01,则说明A类更接近实际的天气类别,因此可以选择置信度最高的A作为最终输出结果。
本申请可以检测的天气类别是依据该第一分类模型的训练结果而定,若训练的分类较多,则可以检测的天气类别就比较多,如果训练结果较少,则可以检测的天气类别就比较少,一般情况下,本申请可以检测晴天、雨天和雪天这三种天气类别。
下面实施例具体说明训练所述第一分类模型的方法。
在训练第一分类模型时,首先可以获取第一训练样本集合,所述第一训练样本集合包括了不同天气类别下的路面情况的样本视频帧以及样本视频帧对应的天气类别;然后依据所述第一训练样本集训练用于识别天气类别的第一分类模型。举例来讲,如图2-1、2-2和2-3所示,其中图2-1是晴天时的视频帧,可以看到晴天时的路面没有积水和积雪;图2-2是雨天时的视频帧,可以看到雨天时的路面有积水;图2-3是雪天时的视频帧,可以看到雪天时的路面有积雪;为了使路面情况的素材更加丰富多样,能够展示多种路面情况,本申请可以参考如图2-1、2-2和2-3所示的大量不同路面情况的样本视频帧,并且记录样本视频帧以及该样本视频帧的天气类别的对应关系,将该样本视频帧以及样本视频帧对应的天气类别作为第一训练样本集合,最终将所述第一训练样本集合输入到待训练的第一分类模型中进行训练,从而得到用于识别不同路面情况对应的天气类别的第一分类模型。该第一分类模型的结构可以采用一般的分类模型结构,例如深度学习网络中的VGG16模型,或者alexnet模型等,具体模型不做限定。
以VGG16模型为例,请参见图6所示的第一分类模型结构,其中包括卷积层、池化层和全连接层。输入第一训练样本后,首先进入卷积层对输入数据进行特征提取,在卷积层后面是池化层,可以对输出的特征进行特征选择和信息过滤;然后将输出的特征依次进行堆叠和剪裁,将结果输入到全连接层把前边提取到的特征综合起来,最终输出结果,即天气类别的识别结果。
作为一个实施例,在获取目标视频帧后,可以将该目标视频帧输入到预训练的第一分类模型,由于第一分类模型可以识别不同路面特征,因此可以利用所述第一分类模型确定所述目标视频帧的路面特征,所谓的路面情况是指路面上的外界环境特征,例如路面积水、积雪等特征,以及路面上的车辆的特征。利用所述第一分类模型识别所述目标视频帧的路面情况,具体可以是,当识别出所述路面有积雪时,确定所述天气类别为雪天;当识别出所述路面仅有积水时,确定所述天气类别为雨天;当识别出所述路面无积雪且无积水时,确定所述天气类别为晴天。
由于现有技术只能识别出图片中雨雪像素位置,但无法具体区分出天气的类别,而本申请可以通过将用于天气识别的目标视频帧输入到第一分类模型来区分天气类别,从而可以满足天气检测的初步分类需求。
步骤103、当所述天气类别为指定类别时,基于所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
考虑到雨天的路面情况与晴天的路面情况有时候差异不是很明显,为了对识别结果为雨天的情况进行更精确的确定,本申请可以在确定所述目标视频帧的天气类别为指定类别(例如雨天)时,可以不直接输出天气类别,而是进一步实现对该天气类别进行精确识别,具体可以将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
作为一个实施例,将所述目标视频帧输入至已训练的第二分类模型之后,可以利用所述第二分类模型识别出所述目标对象的动作行为,依据所述目标对象的动作行为确定天气类别。
具体来讲,当所述目标对象为人时,若所述目标对象打伞,则确定天气类别为雨天,若所述目标对象未打伞,则确定天气类别为晴天;当所述目标对象为车辆时,若所述目标对象在路面上压起水花,则确定天气类别为雨天,若所述目标对象在路面上未压起水花,则确定天气类别为晴天。例如,当输入的局部图片为图4-1所示的图片时,由于图4-1是压起水花的车辆的截图,因此可以判断目标对象(车辆)的动作行为为在路面上压起水花,则可以确定天气类别为雨天;当输入的局部图片为图4-2所示的图片时,由于图4-2是未压起水花的车辆的截图,因此可以判断目标对象(车辆)的动作行为为在路面上未压起水花,则可以确定天气类别为晴天。对于目标对象的类别为人时的识别方法与上述方法类似,此处不再赘述。
作为一个实施例,本申请可以基于目标视频帧中的目标对象进行进一步分析,从而进行天气类别的二次识别,该目标对象可以包括路面上的车辆或者行人。由于目标视频帧中通常还包含了大部分除了目标对象以外的内容,为了提高二次识别的效率和准确率,可以进一步从所述目标视频帧中截取包含目标对象的局部图片,将所述局部图片输入至所述第二分类模型,以利用所述第二分类模型依据输入的所述局部图片进一步精确确定出天气类别并输出。具体过程如图3所示。
请参见图3,为本申请示例性的截取局部图片的实施例流程图,该方法包括以下步骤:
步骤301、将目标视频帧输入至已训练的目标检测模型,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息;
步骤302、依据所述目标对象的类别和位置信息从所述目标视频帧中截取局部图片。
在本实施例中,可以将目标视频帧输入至已训练的目标检测模型,例如检测目标对象为车辆或者行人的目标检测模型中,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息,其中目标对象的类别则是指目标对象为车辆还是行人;目标对象的位置信息可以是目标对象在目标视频帧中的位置坐标,例如左上角的顶点坐标及右下角的顶点坐标,可以依据这两个坐标确定出该目标对象在目标视频帧中的位置和所在区域。
在确定目标对象的类别和位置信息后,可以在所述目标对象的类别为第一类别时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第一指定大小得到第一目标区域,从所述目标视频帧中截取第一目标区域作为所述局部图片;在所述目标对象的类别为第二类别时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第二指定大小得到第二目标区域,第二目标区域大于第一目标区域,从所述目标视频帧中截取第二目标区域作为所述局部图片。举例来讲,当所述目标对象的第一类别为人时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第一指定大小得到第一目标区域,例如以该目标对象的中心为原点,将该目标对象向外扩张,得到扩张后的面积为原面积的100~110%的大小的第一目标区域,从所述目标视频帧中截取第一目标区域作为所述局部图片;当所述目标对象的第二类别为车辆时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第二指定大小得到第二目标区域,第二目标区域大于第一目标区域,例如以该目标对象的中心为原点,将该目标对象向外扩张,得到扩张后的面积为原面积的111~120%的大小的第二目标区域,从所述目标视频帧中截取第二目标区域作为所述局部图片。
在一个例子中,当所述目标视频帧的天气类别为雨天时,为了进一步检验该天气类别的准确性,可以截取所述目标视频帧中的局部图片。由于车辆在雨天时,会在行驶的时候压起水花,因此路面上的车辆可以作为目标对象,如图4-1所示为压起水花的车辆的视频截图,图4-2为未压起水花的车辆的视频截图,因此通过带有车辆的局部图片可以分辨是否为雨天。除了车辆外,路面上的行人也可以作为雨天识别的目标对象,例如可以通过识别局部图像中的人是否打伞,来确定是否下雨。当确定所述目标对象为车辆时,以所述目标对象所在区域的中心将所述目标对象所在区域为原点向外扩张原来的120%得到第二目标区域,从所述目标视频帧中截取第二目标区域作为所述局部图片。如图5-1所示,最大的框代表目标视频帧,中间的车辆是目标对象,车辆外面的细实线框是车辆的标注框(也就是坐标信息),本申请为了可以显示车辆压水花的特征,将该车辆的标注框扩大预设倍数,例如扩大成标注框的120%的大小,从而得到扩大后的第二目标区域(粗实线框所示)。然后将该目标视频帧进行剪裁,截取粗实线框的第二目标区域作为局部图片,最终基于该目标视频帧截取的局部图片如图5-2所示。通过对目标视频帧中的目标物体所在的区域进行剪裁获取局部图片输入到第二分类模型,可以减少第二分类模型对原视频帧中与目标物体无关计算,从而可以减少计算量,提高识别效率,并且仅通过输入目标物体的局部图片,可以避免图像中其它非目标物体的干扰,从而可以提高识别准确性。
下面实施例具体说明训练所述第二分类模型的方法。
可以首先获取第二训练样本集合,所述第二训练样本集合包括不同天气类别下的目标对象的动作行为的样本图片以及样本图片对应的天气类别;依据所述第二训练样本集合训练用于精确识别天气类别的第二分类模型。其中,第二训练样本集合中的样本图片如图4-1、4-2所示,其中图4-1是雨天时目标对象的局部图片,可以看到车辆压起水花;图4-2是晴天时目标对象的局部图片,可以看到车辆未压起水花;为了使目标对象的素材更加丰富多样,可以收集并整理不同场景、时间段、架设角度的不同天气图片样本,本申请可以获取大量的上述样本图片,并且记录每张样本图片以及该样本图片的天气类别的对应关系,将该样本图片和所述对应关系作为第二训练样本集合,将所述第二训练样本集合输入到待训练的第二分类模型中进行训练,从而得到用于精确识别天气类别的第二分类模型。该第二分类模型的结构可以和第一分类模型的结构相似,此处不再赘述。
在一个例子中,还可以通过第二分类模型检测多个局部图片对应的天气类别,从得到的检测结果中统计出重复数量最多的天气类别作为最终的天气类别,从而可以对某一时间的天气的判断更加精确。
相比于现有技术,本申请可以基于深度学习图像分类技术,将视频帧中包含目标对象的局部图片进行二次识别,从而解决了雨天不明显情况下的天气检测,进一步提升了检测成功率,提高了检测精度。
与前述天气识别方法的实施例相对应,本申请还提供了天气识别装置的实施例。
请参见图7,为本申请的天气识别装置的一个实施例框图,该装置70可以包括:
获取单元701,用于获取用于天气识别的目标视频帧;
第一识别单元702,用于将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出;
第二识别单元703,用于当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
在本实施例中,获取单元701可以从高速道路上部署的视频监控装置中获取用于天气识别的目标视频帧,该目标视频帧至少包含路面情况,例如路面的覆盖物,还可以包含路面上的车辆和行人等对象。第一识别单元702可以将获取单元701中获取的用于天气识别的目标视频帧输入至已训练的第一分类模型,以利用所述第一分类模型依据所述目标视频帧中的路面情况确定所述目标视频帧对应的天气类别,所述天气类别可以包括雨天、雪天、晴天等。当第一分类模型输出所述目标视频帧的天气类别后,可以天气类别作为所述目标视频帧的识别结果进行输出。
需要说明的是,本申请的第一分类模型输出的天气类别结果具体可以通过置信度的形式表示,并将置信度最高的类型作为输出结果。例如,当第一分类模型可以识别A、B、C三种天气类别时,若输出的目标视频帧的识别结果为:A的置信度是0.88,B的置信度是0.11,C的置信度是0.01,则说明A类更接近实际的天气类别,因此可以选择置信度最高的A作为最终输出结果。
本申请可以检测的天气类别是依据该第一分类模型的训练结果而定,若训练的分类较多,则可以检测的天气类别就比较多,如果训练结果较少,则可以检测的天气类别就比较少,一般情况下,本申请可以检测晴天、雨天和雪天这三种天气类别。
本装置还包括用于训练所述第一分类模型的第一训练单元(图7中未示出)。该第一训练单元,在训练第一分类模型时,首先可以获取第一训练样本集合,所述第一训练样本集合包括了不同天气类别下的路面情况的样本视频帧以及样本视频帧对应的天气类别;然后依据所述第一训练样本集训练用于识别天气类别的第一分类模型。举例来讲,如图2-1、2-2和2-3所示,其中图2-1是晴天时的视频帧,可以看到晴天时的路面没有积水和积雪;图2-2是雨天时的视频帧,可以看到雨天时的路面有积水;图2-3是雪天时的视频帧,可以看到雪天时的路面有积雪;为了使路面情况的素材更加丰富多样,能够展示多种路面情况,本申请可以参考如图2-1、2-2和2-3所示的大量不同路面情况的样本视频帧,并且记录样本视频帧以及该样本视频帧的天气类别的对应关系,将该样本视频帧以及样本视频帧对应的天气类别作为第一训练样本集合,最终将所述第一训练样本集合输入到待训练的第一分类模型中进行训练,从而得到用于识别不同路面情况对应的天气类别的第一分类模型。该第一分类模型的结构可以采用一般的分类模型结构,例如深度学习网络中的VGG16模型,或者alexnet模型等,具体模型不做限定。以VGG16模型为例,请参见图6所示的第一分类模型结构,其中包括卷积层、池化层和全连接层。输入第一训练样本后,首先进入卷积层对输入数据进行特征提取,在卷积层后面是池化层,可以对输出的特征进行特征选择和信息过滤;然后将输出的特征依次进行堆叠和剪裁,将结果输入到全连接层把前边提取到的特征综合起来,最终输出结果,即天气类别的识别结果。
作为一个实施例,第一识别单元702在获取目标视频帧后,可以将该目标视频帧输入到预训练的第一分类模型,由于第一分类模型可以识别不同路面特征,因此可以利用所述第一分类模型确定所述目标视频帧的路面特征,所谓的路面情况是指路面上的外界环境特征,例如路面积水、积雪等特征,以及路面上的车辆的特征。利用所述第一分类模型识别所述目标视频帧的路面情况,具体可以是,当识别出所述路面有积雪时,确定所述天气类别为雪天;当识别出所述路面仅有积水时,确定所述天气类别为雨天;当识别出所述路面无积雪且无积水时,确定所述天气类别为晴天。
由于现有技术只能识别出图片中雨雪像素位置,但无法具体区分出天气的类别,而本申请可以通过将用于天气识别的目标视频帧输入到第一分类模型来区分天气类别,从而可以满足天气检测的初步分类需求。
考虑到雨天的路面情况与晴天的路面情况有时候差异不是很明显,为了对识别结果为雨天的情况进行更精确的确定,本申请可以在确定所述目标视频帧的天气类别为指定类别(例如雨天)时,可以不直接输出天气类别,而是通过第二识别单元703进一步实现对该天气类别进行精确识别。
作为一个实施例,所述第二识别单元703,包括:
第一子单元(图7中未示出),用于从所述目标视频帧中截取包含目标对象的局部图片。
作为一个实施例,所述第一子单元,具体用于将所述目标视频帧输入至已训练的目标检测模型,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息;依据所述目标对象的类别和位置信息从所述目标视频帧中截取局部图片。
在本实施例中,第一子单元可以将目标视频帧输入至已训练的目标检测模型,例如检测目标对象为车辆或者行人的目标检测模型中,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息,其中目标对象的类别则是指目标对象为车辆还是行人;目标对象的位置信息可以是目标对象在目标视频帧中的位置坐标,例如左上角的顶点坐标及右下角的顶点坐标,可以依据这两个坐标确定出该目标对象在目标视频帧中的位置和所在区域。
在确定目标对象的类别和位置信息后,第一子单元可以在所述目标对象的类别为第一类别时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第一指定大小得到第一目标区域,从所述目标视频帧中截取第一目标区域作为所述局部图片;在所述目标对象的类别为第二类别时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第二指定大小得到第二目标区域,第二目标区域大于第一目标区域,从所述目标视频帧中截取第二目标区域作为所述局部图片。举例来讲,当所述目标对象的第一类别为人时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第一指定大小得到第一目标区域,例如以该目标对象的中心为原点,将该目标对象向外扩张,得到扩张后的面积为原面积的100~110%的大小的第一目标区域,从所述目标视频帧中截取第一目标区域作为所述局部图片;当所述目标对象的第二类别为车辆时,在所述目标视频帧中从所述目标对象的位置信息向外扩张第二指定大小得到第二目标区域,第二目标区域大于第一目标区域,例如以该目标对象的中心为原点,将该目标对象向外扩张,得到扩张后的面积为原面积的111~120%的大小的第二目标区域,从所述目标视频帧中截取第二目标区域作为所述局部图片。
在一个例子中,当所述目标视频帧的天气类别为雨天时,为了进一步检验该天气类别的准确性,可以截取所述目标视频帧中的局部图片。由于车辆在雨天时,会在行驶的时候压起水花,因此路面上的车辆可以作为目标对象,如图4-1所示为压起水花的车辆的视频截图,图4-2为未压起水花的车辆的视频截图,因此通过带有车辆的局部图片可以分辨是否为雨天。除了车辆外,路面上的行人也可以作为雨天识别的目标对象,例如可以通过识别局部图像中的人是否打伞,来确定是否下雨。当确定所述目标对象为车辆时,以所述目标对象所在区域的中心将所述目标对象所在区域为原点向外扩张原来的120%得到第二目标区域,从所述目标视频帧中截取第二目标区域作为所述局部图片。如图5-1所示,最大的框代表目标视频帧,中间的车辆是目标对象,车辆外面的细实线框是车辆的标注框(也就是坐标信息),本申请为了可以显示车辆压水花的特征,将该车辆的标注框扩大预设倍数,例如扩大成标注框的120%的大小,从而得到扩大后的第二目标区域(粗实线框所示)。然后将该目标视频帧进行剪裁,截取粗实线框的第二目标区域作为局部图片,最终基于该目标视频帧截取的局部图片如图5-2所示。通过对目标视频帧中的目标物体所在的区域进行剪裁获取局部图片输入到第二分类模型,可以减少第二分类模型对原视频帧中与目标物体无关计算,从而可以减少计算量,提高识别效率,并且仅通过输入目标物体的局部图片,可以避免图像中其它非目标物体的干扰,从而可以提高识别准确性。
作为一个实施例,第二识别单元还包括第二子单元(图7中未示出),用于将所述局部图片输入至所述第二分类模型,以利用所述第二分类模型依据输入的所述局部图片进一步精确确定出天气类别并输出。
第二子单元可以将所述目标视频帧输入至已训练的第二分类模型之后,可以利用所述第二分类模型识别出所述目标对象的动作行为,依据所述目标对象的动作行为确定天气类别。
具体来讲,第二子单元具体用于,当所述目标对象为人时,若所述目标对象打伞,则确定天气类别为雨天,若所述目标对象未打伞,则确定天气类别为晴天;当所述目标对象为车辆时,若所述目标对象在路面上压起水花,则确定天气类别为雨天,若所述目标对象在路面上未压起水花,则确定天气类别为晴天。例如,当输入的局部图片为图4-1所示的图片时,由于图4-1是压起水花的车辆的截图,因此可以判断目标对象(车辆)的动作行为为在路面上压起水花,则可以确定天气类别为雨天;当输入的局部图片为图4-2所示的图片时,由于图4-2是未压起水花的车辆的截图,因此可以判断目标对象(车辆)的动作行为为在路面上未压起水花,则可以确定天气类别为晴天。对于目标对象的类别为人时的识别方法与上述方法类似,此处不再赘述。
本装置还包括用于训练所述第二分类模型的第二训练单元(图7中未示出),该第二训练单元可以首先获取第二训练样本集合,所述第二训练样本集合包括不同天气类别下的目标对象的动作行为的样本图片以及样本图片对应的天气类别;依据所述第二训练样本集合训练用于精确识别天气类别的第二分类模型。其中,第二训练样本集合中的样本图片如图4-1、4-2所示,其中图4-1是雨天时目标对象的局部图片,可以看到车辆压起水花;图4-2是晴天时目标对象的局部图片,可以看到车辆未压起水花;为了使目标对象的素材更加丰富多样,可以收集并整理不同场景、时间段、架设角度的不同天气图片样本,本申请可以获取大量的上述样本图片,并且记录每张样本图片以及该样本图片的天气类别的对应关系,将该样本图片和所述对应关系作为第二训练样本集合,将所述第二训练样本集合输入到待训练的第二分类模型中进行训练,从而得到用于精确识别天气类别的第二分类模型。该第二分类模型的结构可以和第一分类模型的结构相似,此处不再赘述。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
与前述天气识别方法的实施例相对应,本申请还提供了用于执行上述天气识别方法的计算机设备的实施例。
作为一个实施例,请参考图8,一种计算机设备,包括处理器81、通信接口82、存储器83和通信总线84;
其中,所述处理器81、通信接口82、存储器83通过所述通信总线84进行相互间的通信;
所述存储器83,用于存放计算机程序;
所述处理器81,用于执行所述存储器上所存放的计算机程序,所述处理器81执行所述计算机程序时实现任一天气识别方法的步骤。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于计算机设备的实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
与前述天气识别方法的实施例相对应,本申请还提供了用于执行上述天气识别方法的计算机可读存储介质的实施例。
作为一个实施例,本申请还包括一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现任一天气识别方法的步骤。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于计算机设备实施例以及计算机可读存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
综上所述,本申请可以通过获取用于天气识别的目标视频帧;将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出,并当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。由于现有技术只能识别出图片中雨雪像素位置,但无法具体区分出天气的类别,因此本申请可以通过将用于天气识别的目标视频帧输入到第一分类模型后,进一步通过第二分类模型来对天气类别进行精准识别,进而提升了天气类别识别的准确率,满足天气检测的需求。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。

Claims (14)

1.一种天气识别方法,其特征在于,所述方法包括:
获取用于天气识别的目标视频帧;
将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出;
当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
2.根据权利要求1所述的方法,其特征在于,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出,包括:
从所述目标视频帧中截取包含目标对象的局部图片,将所述局部图片输入至所述第二分类模型,以利用所述第二分类模型依据输入的所述局部图片进一步精确确定出天气类别并输出。
3.根据权利要求2所述的方法,其特征在于,从所述目标视频帧中截取局部图片,包括:
将所述目标视频帧输入至已训练的目标检测模型,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息;
依据所述目标对象的类别和位置信息从所述目标视频帧中截取局部图片。
4.根据权利要求2所述的方法,其特征在于,所述利用第二分类模型依据输入的局部图片进一步精确确定出天气类别,包括:
利用所述第二分类模型识别出所述目标对象的动作行为;
依据所述目标对象的动作行为确定天气类别。
5.根据权利要求4所述的方法,其特征在于,依据所述目标对象的动作行为确定天气类别,包括:
当所述目标对象为人时,若所述目标对象打伞,则确定天气类别为雨天,若所述目标对象未打伞,则确定天气类别为晴天;
当所述目标对象为车辆时,若所述目标对象在路面上压起水花,则确定天气类别为雨天,若所述目标对象在路面上未压起水花,则确定天气类别为晴天。
6.根据权利要求1所述的方法,其特征在于,将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出,包括:
利用所述第一分类模型识别所述目标视频帧的路面情况,当所述路面有积雪时,确定所述天气类别为雪天;当所述路面仅有积水时,确定所述天气类别为雨天;当所述路面无积雪且无积水时,确定所述天气类别为晴天。
7.一种天气识别装置,其特征在于,所述装置包括:
获取单元,用于获取用于天气识别的目标视频帧;
第一识别单元,用于将所述目标视频帧输入至已训练的第一分类模型,以由所述第一分类模型依据输入的目标视频帧中的路面情况识别出天气类别并输出;
第二识别单元,用于当所述天气类别为指定类别时,将所述目标视频帧输入至已训练的第二分类模型,以利用所述第二分类模型依据输入的所述目标视频帧进一步精确确定出天气类别并输出。
8.根据权利要求7所述的装置,其特征在于,所述第二识别单元,包括:
第一子单元,用于从所述目标视频帧中截取包含目标对象的局部图片;
第二子单元,用于将所述局部图片输入至所述第二分类模型,以利用所述第二分类模型依据输入的所述局部图片进一步精确确定出天气类别并输出。
9.根据权利要求8所述的装置,其特征在于,
所述第一子单元,具体用于将所述目标视频帧输入至已训练的目标检测模型,以由所述目标检测模型从所述目标视频帧中识别出目标对象的类别和位置信息;依据所述目标对象的类别和位置信息从所述目标视频帧中截取局部图片。
10.根据权利要求8所述的装置,其特征在于,
所述第二子单元,具体用于利用所述第二分类模型识别出所述目标对象的动作行为;依据所述目标对象的动作行为确定天气类别。
11.根据权利要求10所述的装置,其特征在于,
所述第二子单元,具体用于当所述目标对象为人时,若所述目标对象打伞,则确定天气类别为雨天,若所述目标对象未打伞,则确定天气类别为晴天;当所述目标对象为车辆时,若所述目标对象在路面上压起水花,则确定天气类别为雨天,若所述目标对象在路面上未压起水花,则确定天气类别为晴天。
12.根据权利要求7所述的装置,其特征在于,
所述第一识别单元,具体用于利用所述第一分类模型识别所述目标视频帧的路面情况,当所述路面有积雪时,确定所述天气类别为雪天;当所述路面仅有积水时,确定所述天气类别为雨天;当所述路面无积雪且无积水时,确定所述天气类别为晴天。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-6任一所述方法的步骤。
14.一种计算机设备,其特征在于,所述计算机设备包括存储器、处理器、通信接口以及通信总线;其中,所述存储器、处理器、通信接口通过所述通信总线进行相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的计算机程序,所述处理器执行所述计算机程序时实现权利要求1-6任一所述方法的步骤。
CN201910745480.7A 2019-08-13 2019-08-13 天气识别方法及装置 Active CN111753610B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910745480.7A CN111753610B (zh) 2019-08-13 2019-08-13 天气识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910745480.7A CN111753610B (zh) 2019-08-13 2019-08-13 天气识别方法及装置

Publications (2)

Publication Number Publication Date
CN111753610A true CN111753610A (zh) 2020-10-09
CN111753610B CN111753610B (zh) 2024-09-24

Family

ID=72672798

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910745480.7A Active CN111753610B (zh) 2019-08-13 2019-08-13 天气识别方法及装置

Country Status (1)

Country Link
CN (1) CN111753610B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112672209A (zh) * 2020-12-14 2021-04-16 北京达佳互联信息技术有限公司 视频编辑方法和视频编辑装置
CN114299726A (zh) * 2021-12-31 2022-04-08 象谱信息产业有限公司 一种基于人工智能的高速公路恶劣天气识别方法
CN114333308A (zh) * 2021-12-24 2022-04-12 中国联合网络通信集团有限公司 交通异常识别方法、装置、电子设备及存储介质
WO2024137206A1 (en) * 2022-12-19 2024-06-27 Lytx, Inc. Inclement weather detection

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110074955A1 (en) * 2007-08-30 2011-03-31 Valeo Schalter Und Sensoren Gmbh Method and system for weather condition detection with image-based road characterization
CN104050620A (zh) * 2013-03-13 2014-09-17 株式会社电装 对象检测设备
CN105678221A (zh) * 2015-12-29 2016-06-15 大连楼兰科技股份有限公司 一种雨雪天气的行人检测方法及系统
US20180060676A1 (en) * 2015-05-06 2018-03-01 Continental Teves Ag & Co. Ohg Method and device for detecting and evaluating environmental influences and road condition information in the vehicle surroundings

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110074955A1 (en) * 2007-08-30 2011-03-31 Valeo Schalter Und Sensoren Gmbh Method and system for weather condition detection with image-based road characterization
CN104050620A (zh) * 2013-03-13 2014-09-17 株式会社电装 对象检测设备
US20180060676A1 (en) * 2015-05-06 2018-03-01 Continental Teves Ag & Co. Ohg Method and device for detecting and evaluating environmental influences and road condition information in the vehicle surroundings
CN105678221A (zh) * 2015-12-29 2016-06-15 大连楼兰科技股份有限公司 一种雨雪天气的行人检测方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
朱振杰: "基于深度学习的高速公路交通检测算法研究", 中国优秀硕士学位论文全文数据库工程科技Ⅱ辑, pages 36 - 51 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112672209A (zh) * 2020-12-14 2021-04-16 北京达佳互联信息技术有限公司 视频编辑方法和视频编辑装置
CN114333308A (zh) * 2021-12-24 2022-04-12 中国联合网络通信集团有限公司 交通异常识别方法、装置、电子设备及存储介质
CN114299726A (zh) * 2021-12-31 2022-04-08 象谱信息产业有限公司 一种基于人工智能的高速公路恶劣天气识别方法
WO2024137206A1 (en) * 2022-12-19 2024-06-27 Lytx, Inc. Inclement weather detection

Also Published As

Publication number Publication date
CN111753610B (zh) 2024-09-24

Similar Documents

Publication Publication Date Title
CN109977812B (zh) 一种基于深度学习的车载视频目标检测方法
CN111753610B (zh) 天气识别方法及装置
CN110310264A (zh) 一种基于dcnn的大尺度目标检测方法、装置
CN111767878B (zh) 嵌入式设备中基于深度学习的交通标志检测方法及系统
CN111126258A (zh) 图像识别方法及相关装置
CN111160205B (zh) 一种交通场景嵌入式多类目标端对端统一检测方法
CN107609485A (zh) 交通标志的识别方法、存储介质、处理设备
CN107665327B (zh) 一种车道线检测方法及装置
CN112801158A (zh) 基于级联融合和注意力机制的深度学习小目标检测方法及装置
CN105426903A (zh) 一种遥感卫星图像的云判方法及系统
CN111274926A (zh) 图像数据筛选方法、装置、计算机设备和存储介质
CN108052929A (zh) 车位状态检测方法、系统、可读存储介质和计算机设备
CN112666553B (zh) 一种基于毫米波雷达的道路积水识别方法及设备
CN110555420A (zh) 一种基于行人区域特征提取和重识别融合模型网络及方法
CN112784724A (zh) 一种车辆变道检测方法、装置、设备及存储介质
CN111967396A (zh) 障碍物检测的处理方法、装置、设备及存储介质
CN112836657A (zh) 一种基于轻量化YOLOv3的行人检测方法及系统
CN110852236A (zh) 目标事件的确定方法及装置、存储介质、电子装置
CN104915642A (zh) 前方车辆测距方法及装置
CN112926426A (zh) 基于监控视频的船舶识别方法、系统、设备及存储介质
Thomas et al. Smart car parking system using convolutional neural network
CN115953744A (zh) 一种基于深度学习的车辆识别追踪方法
CN111881984A (zh) 一种基于深度学习的目标检测方法和装置
CN113454649B (zh) 目标检测方法、装置、电子设备和计算机可读存储介质
CN114241373A (zh) 一种端到端的车辆行为检测方法、系统、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant