CN115309713B - 交通数据压缩方法、装置、电子设备及存储介质 - Google Patents
交通数据压缩方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115309713B CN115309713B CN202211195175.3A CN202211195175A CN115309713B CN 115309713 B CN115309713 B CN 115309713B CN 202211195175 A CN202211195175 A CN 202211195175A CN 115309713 B CN115309713 B CN 115309713B
- Authority
- CN
- China
- Prior art keywords
- data
- tensor
- reconstructed
- traffic
- reconstruction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013144 data compression Methods 0.000 title claims abstract description 42
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000007906 compression Methods 0.000 claims abstract description 110
- 230000006835 compression Effects 0.000 claims abstract description 110
- 239000011159 matrix material Substances 0.000 claims abstract description 30
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 25
- 230000006870 function Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 238000012544 monitoring process Methods 0.000 claims description 9
- 238000013500 data storage Methods 0.000 claims description 4
- 239000000126 substance Substances 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 abstract description 15
- 238000004891 communication Methods 0.000 description 9
- 238000007726 management method Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 241000589596 Thermus Species 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 241000220317 Rosa Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/174—Redundancy elimination performed by the file system
- G06F16/1744—Redundancy elimination performed by the file system using compression, e.g. sparse files
-
- G06Q50/40—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/04—Protocols for data compression, e.g. ROHC
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Computer Security & Cryptography (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开一种交通数据压缩方法、装置、电子设备及存储介质，其方法包括：在待监控的交通区域部署边缘服务器，以实时采集交通区域的交通数据；利用预设的聚类算法对交通数据进行聚类，得到聚类数据，对聚类数据进行结构类型重构，得到重构数据，将重构数据进行张量压缩，得到压缩张量数据；将压缩张量数据分解成核心张量和因子矩阵，以对压缩张量数据进行张量重构，得到重构张量数据，并计算重构张量数据的压缩比；在压缩比符合预设条件时，将重构张量数据发送至预设的云端中，以分析重构张量数据的质量评分，在质量评分大于预设阈值，将重构张量数据进行存储，得到压缩结果。本发明减少交通数据的传输带宽占用资源，提高交通数据的压缩效率。
Description
技术领域
本发明涉及数据处理领域，尤其涉及一种交通数据压缩方法、装置、电子设备及存储介质。
背景技术
随着新能源汽车的发展（Internet of Vehicle，IoV）作为一种车载信息通信系统已经得到了广泛的应用。IoV中存在各种类型的路边监测单位设备（Roadside MonitoringUnits，RMUs）在交通信息数据的收集和传输方面发挥着重要作用，通过这些RMUs收集的信息可以大大提高区域内的交通质量、完成车流预测等活动。在以云计算为中心的 IoV 场景中，路边单元可以收集很多类型的交通数据信息，包括车牌信息、车辆行驶速度、区域安全警告、区域事故报告，交通流量等，然后RMUs系统再将这些收集到的信息发送到云服务器进行实时数据分析和处理。
目前交通信息数据通过远程云服务器来处理，但是这种传统的云计算网络模式往往需要将大量数据进行长距离的传输，这将导致传输带宽将被大量占用，从而会影响交通数据的压缩效率。
发明内容
为了解决上述技术问题，本发明提供了一种交通数据压缩方法，能够减少交通数据的传输带宽占用资源，提高交通数据的压缩效率。
第一方面，本发明提供了一种交通数据压缩方法，包括：
获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以利用所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果。
在第一方面的一种可能实现方式中，所述在所述交通区域部署边缘服务器，包括：
识别所述交通区域的边缘拓扑结构，根据所述边缘拓扑结构，查询所述交通区域的边缘位置节点；
在所述边缘位置节点中配置服务器IP和网络地址，根据所述服务器IP和所述网络地址，执行针对所述交通区域的边缘服务器的部署操作。
在第一方面的一种可能实现方式中，所述利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，包括：
提取所述交通数据的数据元素，分析所述数据元素的元素特征；
根据所述元素特征并结合所述聚类算法，对所述交通数据进行聚类，得到聚类数据，其中，所述聚类算法包括：
其中，
表示聚类数据，
表示第i个交通数据的元素特征，
表示第i个交通数
据的元素特征，n表示交通数据的数量。
在第一方面的一种可能实现方式中，所述对所述聚类数据进行结构类型重构，得到重构数据，包括：
识别所述聚类数据的原始结构，查询所述原始结构的位置节点；
根据所述位置节点，配置所述聚类数据的重构规则，以执行对所述聚类数据的结构类型重构处理，得到重构数据。
在第一方面的一种可能实现方式中，所述将所述重构数据进行张量压缩，得到压缩张量数据包括：
计算所述重构数据的数据权重，得到权重数据，并构建所述权重数据的数据压缩模型；
根据所述数据压缩模型对所述重构数据进行张量压缩，得到压缩张量数据。
在第一方面的一种可能实现方式中，所述计算所述重构张量数据的压缩比包括：
获取所述重构张量数据的全量数据，得到全量重构张量数据，查询所述全量重构张量数据的张量元素；
根据所述张量元素并结合预设的压缩比函数计算所述全量重构张量数据的压缩比，其中，所述预设的压缩比函数如下所示：
其中，
表示压缩比，Num of bits compressed data表示压缩后的全量重构张量
数据，Num of bits uncompressed data为未压缩的全量重构张量数据，
为原始张量
的元素个数，
表示全量重构张量数据中核心张量的元素个数；
表示全
量重构张量数据中因子矩阵的元素个数。
在第一方面的一种可能实现方式中，所述在所述预设的云端中分析所述重构张量数据的质量评分，包括：
利用下述公式分析所述重构张量数据的质量评分：
其中
表示质量评分，x表示重构张量数据，
表示重构张量数据对应的监
测时间，
表示重构张量数据的数量，n表示交通数据的数量，m表示重构张量数据的类别数
量，t表示监测时间，
表示重构张量数据对应张量数据的维度大小，
表示
重构张量数据的维度大小。
第二方面，本发明提供了一种交通数据压缩装置，所述装置包括：
数据采集模块，用于获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
数据压缩模块，用于利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
数据重构模块，用于将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
数据存储模块，用于在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以在所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果。
第三方面，本发明提供一种电子设备，包括：
至少一个处理器；以及与所述至少一个处理器通信连接的存储器；
其中，所述存储器存储有可被所述至少一个处理器执行的计算机程序，以使所述至少一个处理器能够执行如上述第一方面中任意一项所述的交通数据压缩方法。
第四方面，本发明提供一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现如上述第一方面中任意一项所述的交通数据压缩方法。
与现有技术相比，本方案的技术原理及有益效果在于：
本方案首先在待监控的交通区域部署边缘服务器，可以实时采集交通区域的交通数据；利用预设的聚类算法对交通数据进行聚类，得到聚类数据，对聚类数据进行结构类型重构，得到重构数据，以适应交通道路信息的多维度变化，并在保存数据相关性的同时保证较低的数据恢复误差；其次，本发明实施例通过将重构数据进行张量压缩，得到压缩张量数据，将压缩张量数据分解成核心张量和因子矩阵，以对压缩张量数据进行张量重构，得到重构张量数据，并计算重构张量数据的压缩比，可以实现交通数据的自适应压缩，从而降低交通数据的存储空间，减少交通数据的传输带宽占用资源，提高提高交通数据的压缩效率；进一步地，本发明实施例通过在压缩比符合预设条件时，将重构张量数据发送至预设的云端中，以分析重构张量数据的质量评分，在质量评分大于预设阈值时，将重构张量数据进行存储，得到压缩结果，可以保障数据在传输后的数据质量。因此，本发明实施例提出的一种交通数据压缩方法、装置、电子设备以及存储介质，可以减少交通数据的传输带宽占用资源，提高交通数据的压缩效率。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的一种交通数据压缩方法的流程示意图；
图2为本发明一实施例提供的一种交通数据压缩装置的模块示意图；
图3为本发明一实施例提供的实现交通数据压缩方法的电子设备的内部结构示意图。
具体实施方式
应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不用于限定本发明。
本发明实施例提供一种交通数据压缩方法，所述交通数据压缩方法的执行主体包括但不限于服务端、终端等能够被配置为执行本发明实施例提供的该方法的电子设备中的至少一种。换言之，所述交通数据压缩方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。所述服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
参阅图1所示，是本发明一实施例提供的交通数据压缩方法的流程示意图。其中，图1中描述的交通数据压缩方法包括以下步骤S1-S5：
S1、获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
本发明实施例通过所述获取待监控的交通区域可以了解当前区域的交通情况，便于后续的服务器部署，其中所述交通区域通过车联网获取（以下简称iov），所述交通区域如城市道路、街道、高速公路等，
进一步的本发明实施例通过所述在所述交通区域部署边缘服务器可以实时采集所述交通区域的交通数据。
作为本发明的一个实施例所述在所述交通区域部署边缘服务器包括：识别所述交通区域的边缘拓扑结构，根据所述边缘拓扑结构，查询所述交通区域的边缘位置节点；在所述边缘位置节点中配置服务器IP和网络地址，根据所述服务器IP和所述网络地址，执行针对所述交通区域的边缘服务器的部署操作。
其中，所述边缘拓扑结构是指用传输媒体把计算机设备连接起来的物理布局结构，所述边缘位置节点是指所述交通区域的边缘位置信息，所述服务器IP和网络地址用于确定所述交通区域的边缘服务器信息。
S2、利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据。
本发明实施例通过所述利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，可以将所有交通数据按照一定的规律或相同元素分成聚合类便于对数据属性的分析以及对后续数据的重构做一个保障。
作为本发明的一个实施例所述利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据包括：提取所述交通数据的数据元素，分析所述数据元素的元素特征，根据所述元素特征并结合所述聚类算法，对所述交通数据进行聚类，得到聚类数据。
其中，所述数据元素是指组成所述所述交通数据的各个部分，如车牌信息、车辆行驶速度、区域安全警告、区域事故报告，交通流量等，所述数据元素特征是指所述数据元素的具体属性如车辆行驶速度中有超速，正常速度等。
可选的，所述提取所述交通数据的数据元素通过所述边缘服务器的数据接收接口获得，所述分析所述交通数据的数据元素特征通过数据元素提取函数提取，所述数据元素提取函数通过html语言生成。
进一步地，本发明一可选实施例中，所述聚类算法包括：
其中，
表示聚类数据，
表示第i个交通数据的元素特征，
表示第i个交通数
据的元素特征，n表示交通数据的数量。
进一步的，本发明实施例通过所述对所述聚类数据进行结构类型重构，使得所述聚类数据中所有数据可以保持统一结构类型，并可以适应交通道路信息的多维度变化，并在保存数据相关性的同时保证较低的数据恢复误差，提高后续数据的处理效率，其中，所述结构类型重构是指将所述聚类数据从一种格式到另一种格式的转换过程，如结构转换、格式转换、类型替换等(数据拼接、数据裁剪、数据压缩等)，以实现空间数据在结构、格式、类型上的统一，多源和异构数据的联接与融合。
进一步地，作为本发明的一个实施例，所述对所述聚类数据进行结构类型重构，得到重构数据包括：识别所述聚类数据的原始结构，查询所述原始结构的位置节点，根据所述位置节点，配置所述聚类数据的重构规则，以执行对所述聚类数据的结构类型重构处理，得到重构数据。
其中，所述原始结构是指所述聚类数据的原始结构类型，所述位置节点是指所述原始结构所存在的位置序列，所述重构规则是指用于规定进行数据重构时所要遵循的重构方案。
可选的，所述聚类数据的原始结构可以通过计算机读取所述聚类数据的原始结构生成文本识别，所述原始结构的位置节点可以通过数据结构节点查询脚本查询，所述聚类数据的重构规则可以基于不同的业务需求进行设置，如可以按照所述聚类数据中具有数量最多的原始结构进行转换。
进一步地，本发明实施例通过所述将所述重构数据进行张量压缩，得到压缩张量数据可以提升数据查询的效率和节约数据的存储空间。
作为本发明的一个实施例所述将所述重构数据进行张量压缩，得到压缩张量数据包括：计算所述重构数据的数据权重，得到权重数据，构建所述权重数据的数据模型，根据所述数据压缩模型对所述重构数据进行张量压缩，压缩张量数据。
其中，所述数据权重是指所述重构数据中各项数据的占比或重要程度，所述数据压缩模型是指所述重构数据在空间中的进行压缩的结构模板，所述张量压缩算法是指能够将数据进行张量压缩的函数公式。
可选的，所述计算所述重构数据的数据权重通过预构建的数据权重公式计算，如信息熵公式，所述构建所述权重数据的数据压缩模型通过ROSE数据建模工具构建。
S3、将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比。
本发明实施例通过所述将所述压缩张量数据分解成核心张量和因子矩阵，可以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，从而可以实现交通数据的自适应压缩，从而降低交通数据的存储空间，减少交通数据的传输带宽占用资源，提高提高交通数据的压缩效率。
本发明一可选实施例中通过正交匹配算法将其分解为一个核心张量(CoreTensor)和N个因子矩阵，其具体表达式为：
其中，核心张量
，核心张量
表示了张量X中不同阶之间的相互作
用，核心张量的大小即为上述RMUs收集的
数据的最小张量维度：min(m,n,t)；因子矩阵
每个因子矩阵可看作对应不同维度的线性变换操作。
在具体的自适应分解算法中：
将张量X分解的核心张量大小
自适应设置为（min(m,n,t)，min(m,n,t)，min(m,n,
t)）；
其余因子矩阵的计算方法如下所示：
式中，
、
、
为对
对应的模展开矩阵；
、
、
分别为对应模展
开矩阵的三个奇异值矩阵。
、
、
分别为其对应矩阵的左奇异值矩阵；
、
、
分
别为其对应矩阵的右奇异值矩阵。
其中，更新核心张量与因子矩阵更新的条件要求为：
正交匹配算法更新完成后，重构张量数据为：
进一步的，本发明实施例通过所述对所述压缩张量数据进行张量重构，得到重构张量数据，降低后续数据在向云端传输过程中带宽资源的占用，需要说明的是，本发明中所述对所述压缩张量数据进行张量重构，得到重构张量数据步骤与S2所述对所述聚类数据进行结构类型重构，得到重构数据原理相同在这里不多做赘述。
本发明实施例通过计算所述重构张量数据的压缩比可以了解本次对所述重构张量数据压缩的质量，其中所述压缩比是指数据被压缩的比例，同时可作为衡量数据压缩的质量指标。
作为本发明的一个实施例，所述计算所述重构张量数据的压缩比包括：获取所述重构张量数据的全量数据，得到全量重构张量数据，查询所述全量重构张量数据的张量元素；根据所述张量元素并结合预设的压缩比函数计算所述重构张量数据的压缩比。
其中，所述全量数据是指所述重构张量数据的全部数据，所述张量元素是指构成所述全量重构张量数据组成部分的特征元素，可选的，所述获取所述重构张量数据的全量数据通过所述边缘服务器数据存储库中获取，所述查询所述全量重构张量数据的元素集通过js语言的元素查询函数获取，所述预设的压缩比函数如下所示：
其中，
表示压缩比，Num of bits compressed data表示压缩后的全量重构张量
数据，Num of bits uncompressed data为未压缩的全量重构张量数据，
为原始张量
的元素个数，
表示全量重构张量数据中核心张量的元素个数；
表示全
量重构张量数据因子矩阵的元素个数。
S4、在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以在所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的存储结果。
应当了解在所述压缩比符合预设条件时表示所述重构张量数据的重构结果符合要求，因此，本发明实施例通过将所述重构张量数据发送至预设的云端中通过所述边缘服务器的数据传输端口发送到所述云端中，实现所述交通数据的边缘传输，以通过所述预设的云端中分析所述重构张量数据的质量评分可以了解所述张量数据被重构后的损失值进而了解所述重构张量数据的价值。可选的，所述预设条件可以设置为所述压缩比是否大于预设压缩比，即在所述压缩比大于预设压缩比，表示所述压缩比符合所述预设条件，所述预设压缩比可以设置0.6，也可以根据实际业务场景设置。
作为本发明的一个实施例，利用下述公式分析所述重构张量数据的质量评分：
其中
表示质量评分，x表示重构张量数据，
表示重构张量数据对应的监
测时间，
表示重构张量数据的数量，n表示交通数据的数量，m表示重构张量数据的类别数
量，t表示监测时间，
表示重构张量数据对应张量数据的维度大小，
表示
重构张量数据的维度大小。
进一步地，本发明实施例在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，以所述交通数据的压缩结果，实现所述交通数据的压缩处理，其中，所述预设阈值可以设置为0.8，也可以根据实际业务场景设置。
本方案首先在待监控的交通区域部署边缘服务器，可以实时采集交通区域的交通数据；利用预设的聚类算法对交通数据进行聚类，得到聚类数据，对聚类数据进行结构类型重构，得到重构数据，以适应交通道路信息的多维度变化，并在保存数据相关性的同时保证较低的数据恢复误差；其次，本发明实施例通过将重构数据进行张量压缩，得到压缩张量数据，将压缩张量数据分解成核心张量和因子矩阵，以对压缩张量数据进行张量重构，得到重构张量数据，并计算重构张量数据的压缩比，可以实现交通数据的自适应压缩，从而降低交通数据的存储空间，减少交通数据的传输带宽占用资源，提高提高交通数据的压缩效率；进一步地，本发明实施例通过在压缩比符合预设条件时，将重构张量数据发送至预设的云端中，以分析重构张量数据的质量评分，在质量评分大于预设阈值时，将重构张量数据进行存储，得到压缩结果，可以保障数据在传输后的数据质量。因此，本发明实施例提出的一种交通数据压缩方法可以减少交通数据的传输带宽占用资源，提高交通数据的压缩效率。
如图2所示，是本发明交通数据压缩装置的功能模块图。
本发明所述交通数据压缩装置200可以安装于电子设备中。根据实现的功能，所述交通数据压缩装置可以包括数据采集模块201、数据压缩模块202、数据重构模块203以及数据存储模块204。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本发明实施例中，关于各模块/单元的功能如下：
所述数据采集模块201，用于获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
所述数据压缩模块202，用于利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
所述数据重构模块203，用于将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
所述数据存储模块204，用于在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以在所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果。
详细地，本发明实施例中所述交通数据压缩装置200中的所述各模块在使用时采用与上述的图1中所述的交通数据压缩方法一样的技术手段，并能够产生相同的技术效果，这里不再赘述。
如图3所示，是本发明实现交通数据压缩方法的电子设备的结构示意图。
所述电子设备可以包括处理器30、存储器31、通信总线32以及通信接口33，还可以包括存储在所述存储器31中并可在所述处理器30上运行的计算机程序，如交通数据压缩程序。
其中，所述处理器30在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器（Central Processing Unit，CPU）、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器30是所述电子设备的控制核心（ControlUnit），利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器31内的程序或者模块（例如执行交通数据压缩程序等），以及调用存储在所述存储器31内的数据，以执行电子设备的各种功能和处理数据。
所述存储器31至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器（例如：SD或DX存储器等）、磁性存储器、磁盘、光盘等。所述存储器31在一些实施例中可以是电子设备的内部存储单元，例如该电子设备的移动硬盘。所述存储器31在另一些实施例中也可以是电子设备的外部存储设备，例如电子设备上配备的插接式移动硬盘、智能存储卡（Smart Media Card，SMC）、安全数字（Secure Digital，SD）卡、闪存卡（Flash Card）等。进一步地，所述存储器31还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器31不仅可以用于存储安装于电子设备的应用软件及各类数据，例如交通数据压缩程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线32可以是外设部件互连标准（Peripheral ComponentInterconnect，简称PCI）总线或扩展工业标准结构（Extended Industry StandardArchitecture，简称EISA）总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器31以及至少一个处理器30等之间的连接通信。
所述通信接口33用于上述电子设备与其他设备之间的通信，包括网络接口和用户接口。可选地，所述网络接口可以包括有线接口和/或无线接口（如WI-FI接口、蓝牙接口等），通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器（Display）、输入单元（比如键盘（Keyboard）），可选地，所述用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED（Organic Light-Emitting Diode，有机发光二极管）触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
图3仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图3示出的结构并不构成对所述电子设备的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管图中未示出，所述电子设备还可以包括给各个部件供电的电源（比如电池），优选地，电源可以通过电源管理装置与所述至少一个处理器30逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
应该了解，所述实施例仅为说明之用，在专利发明范围上并不受此结构的限制。
所述电子设备中的所述存储器31存储的交通数据压缩程序是多个计算机程序的组合，在所述处理器30中运行时，可以实现以下方法：
获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以利用所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果。
具体地，所述处理器30对上述计算机程序的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
进一步地，所述电子设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个非易失性计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的，也可以是非易失性的。例如，所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）。
本发明还提供一种计算机可读存储介质，所述可读存储介质存储有计算机程序，所述计算机程序在被电子设备的处理器所执行时，可以实现以下方法：
获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以利用所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本发明的具体实施方式，使本领域技术人员能够理解或实现本发明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所发明的原理和新颖特点相一致的最宽的范围。
Claims (7)
1.一种交通数据压缩方法，其特征在于，所述方法包括：
获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以在所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果；
所述对所述聚类数据进行结构类型重构，得到重构数据，包括：
识别所述聚类数据的原始结构，查询所述原始结构的位置节点；
根据所述位置节点，配置所述聚类数据的重构规则，以执行对所述聚类数据的结构类型重构处理，得到重构数据；
所述计算所述重构张量数据的压缩比包括：
获取所述重构张量数据的全量数据，得到全量重构张量数据，查询所述全量重构张量数据的张量元素；
根据所述张量元素并结合预设的压缩比函数计算所述全量重构张量数据的压缩比，其中，所述预设的压缩比函数如下所示：
其中，
表示压缩比，Num of bits compressed data表示压缩后的全量重构张量数
据，Num of bits uncompressed data为未压缩的全量重构张量数据，
为原始张量的
元素个数，
表示全量重构张量数据中核心张量的元素个数；
表示全量
重构张量数据中因子矩阵的元素个数，n表示交通数据的数量；
所述在所述预设的云端中分析所述重构张量数据的质量评分，包括：
利用下述公式分析所述重构张量数据的质量评分：
其中
表示质量评分，x表示重构张量数据，
表示重构张量数据对应的监测时
间，
表示重构张量数据的数量，n表示交通数据的数量，m表示重构张量数据的类别数量，t
表示监测时间，
表示重构张量数据对应张量数据的维度大小，
表示重构
张量数据的维度大小。
2.根据权利要求1所述的方法，其特征在于，所述在所述交通区域部署边缘服务器，包括：
识别所述交通区域的边缘拓扑结构，根据所述边缘拓扑结构，查询所述交通区域的边缘位置节点；
在所述边缘位置节点中配置服务器IP和网络地址，根据所述服务器IP和所述网络地址，执行针对所述交通区域的边缘服务器的部署操作。
3.根据权利要求1所述的方法，其特征在于，所述利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，包括：
提取所述交通数据的数据元素，分析所述数据元素的元素特征；
根据所述元素特征并结合所述聚类算法，对所述交通数据进行聚类，得到聚类数据，其中，所述聚类算法包括：
其中，
表示聚类数据，
表示第i个交通数据的元素特征，
表示第i个交通数据的
元素特征，n表示交通数据的数量。
4.根据权利要求1所述的方法，其特征在于，所述将所述重构数据进行张量压缩，得到压缩张量数据包括：
计算所述重构数据的数据权重，得到权重数据，并构建所述权重数据的数据压缩模型；
根据所述数据压缩模型对所述重构数据进行张量压缩，得到压缩张量数据。
5.一种交通数据压缩装置，其特征在于，所述装置包括：
数据采集模块，用于获取待监控的交通区域，并在所述交通区域部署边缘服务器，以通过所述边缘服务器实时采集所述交通区域的交通数据；
数据压缩模块，用于利用预设的聚类算法对所述交通数据进行聚类，得到聚类数据，并对所述聚类数据进行结构类型重构，得到重构数据，将所述重构数据进行张量压缩，得到压缩张量数据；
数据重构模块，用于将所述压缩张量数据分解成核心张量和因子矩阵，以根据所述核心张量和所述因子矩阵，对所述压缩张量数据进行张量重构，得到重构张量数据，并计算所述重构张量数据的压缩比；
数据存储模块，用于在所述压缩比符合预设条件时，将所述重构张量数据发送至预设的云端中，以在所述预设的云端中分析所述重构张量数据的质量评分，并在所述质量评分大于预设阈值时，将所述重构张量数据进行存储，得到所述交通数据的压缩结果；
所述对所述聚类数据进行结构类型重构，得到重构数据，包括：
识别所述聚类数据的原始结构，查询所述原始结构的位置节点；
根据所述位置节点，配置所述聚类数据的重构规则，以执行对所述聚类数据的结构类型重构处理，得到重构数据；
所述计算所述重构张量数据的压缩比包括：
获取所述重构张量数据的全量数据，得到全量重构张量数据，查询所述全量重构张量数据的张量元素；
根据所述张量元素并结合预设的压缩比函数计算所述全量重构张量数据的压缩比，其中，所述预设的压缩比函数如下所示：
其中，
表示压缩比，Num of bits compressed data表示压缩后的全量重构张量数
据，Num of bits uncompressed data为未压缩的全量重构张量数据，
为原始张量的
元素个数，
表示全量重构张量数据中核心张量的元素个数；
表示全量
重构张量数据中因子矩阵的元素个数，n表示交通数据的数量；
所述在所述预设的云端中分析所述重构张量数据的质量评分，包括：
利用下述公式分析所述重构张量数据的质量评分：
其中
表示质量评分，x表示重构张量数据，
表示重构张量数据对应的监测时
间，
表示重构张量数据的数量，n表示交通数据的数量，m表示重构张量数据的类别数量，t
表示监测时间，
表示重构张量数据对应张量数据的维度大小，
表示重构
张量数据的维度大小。
6.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至4中任意一项所述的交通数据压缩方法。
7.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至4中任意一项所述的一种交通数据压缩方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211195175.3A CN115309713B (zh) | 2022-09-29 | 2022-09-29 | 交通数据压缩方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211195175.3A CN115309713B (zh) | 2022-09-29 | 2022-09-29 | 交通数据压缩方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115309713A CN115309713A (zh) | 2022-11-08 |
| CN115309713B true CN115309713B (zh) | 2022-12-23 |
Family
ID=83867440
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211195175.3A Active CN115309713B (zh) | 2022-09-29 | 2022-09-29 | 交通数据压缩方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115309713B (zh) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111340186A (zh) * | 2020-02-17 | 2020-06-26 | 之江实验室 | 基于张量分解的压缩表示学习方法 |
| CN112600596A (zh) * | 2020-12-04 | 2021-04-02 | 南京邮电大学 | 基于张量并行压缩的毫米波系统信道反馈方法 |
| CN114077885A (zh) * | 2020-08-21 | 2022-02-22 | 华为技术有限公司 | 基于张量分解的模型压缩方法、装置和服务器 |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9681147B2 (en) * | 2014-01-20 | 2017-06-13 | Board Of Trustees Of Michigan State University | Compression of image ensembles using tensor decomposition |
| CN106646595B (zh) * | 2016-10-09 | 2018-05-29 | 电子科技大学 | 一种基于张量的自适应秩截断的地震数据压缩方法 |
| CN106981292B (zh) * | 2017-05-16 | 2020-04-14 | 北京理工大学 | 一种基于张量建模的多路空间音频信号压缩和恢复方法 |
| CN109033030B (zh) * | 2018-07-09 | 2022-05-20 | 成都爱为贝思科技有限公司 | 一种基于gpu的张量分解及重构方法 |
| CN111008517A (zh) * | 2019-10-30 | 2020-04-14 | 天津大学 | 一种基于张量分解技术的神经语言模型的压缩方法 |
| US20220207342A1 (en) * | 2020-12-30 | 2022-06-30 | Industrial Technology Research Institute | Data compression method, data compression system and operation method of deep learning acceleration chip |
| CN112820104B (zh) * | 2020-12-31 | 2022-05-31 | 北京航空航天大学 | 一种基于时空聚类张量分解的交通数据补全方法 |
| US20220270298A1 (en) * | 2021-02-25 | 2022-08-25 | Apeel Technology, Inc. | Hyperspectral image compression using a feature extraction model |
| US11940907B2 (en) * | 2021-06-25 | 2024-03-26 | Intel Corporation | Methods and apparatus for sparse tensor storage for neural network accelerators |
| CN113689513B (zh) * | 2021-09-28 | 2024-03-29 | 东南大学 | 一种基于鲁棒张量分解的sar图像压缩方法 |
| US20220051103A1 (en) * | 2021-10-27 | 2022-02-17 | Intel Corporation | System and method for compressing convolutional neural networks |
-
2022
- 2022-09-29 CN CN202211195175.3A patent/CN115309713B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111340186A (zh) * | 2020-02-17 | 2020-06-26 | 之江实验室 | 基于张量分解的压缩表示学习方法 |
| CN114077885A (zh) * | 2020-08-21 | 2022-02-22 | 华为技术有限公司 | 基于张量分解的模型压缩方法、装置和服务器 |
| CN112600596A (zh) * | 2020-12-04 | 2021-04-02 | 南京邮电大学 | 基于张量并行压缩的毫米波系统信道反馈方法 |
Non-Patent Citations (4)
| Title |
|---|
| Power Distribution System Stream Data Compression Based on Incremental Tensor Decomposition;Hongshan Zhao 等;《IEEE》;20190812;第2469-2476页 * |
| 基于张量的智能电网大数据降维研究;郭伟等;《信息技术》;20200923(第09期);第115-120页 * |
| 应用整数小波变换的LZ77电力数据压缩算法;许晓飞等;《西安工程大学学报》;20180619(第03期);第337-342页 * |
| 张量分解算法研究与应用综述;熊李艳等;《华东交通大学学报》;20180415(第02期);第120-128页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115309713A (zh) | 2022-11-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111782900B (zh) | 异常业务检测方法、装置、电子设备及存储介质 | |
| CN114707474A (zh) | 报表生成方法、装置、电子设备及计算机可读存储介质 | |
| CN114550076A (zh) | 区域异常行为监控方法、装置、设备及存储介质 | |
| CN114418360A (zh) | 一种智慧城市运行体征大数据分析方法及装置 | |
| CN113132313A (zh) | 分布式can数据处理方法及其系统 | |
| CN112765127B (zh) | 一种交通数据仓库的构建方法、装置、存储介质及终端 | |
| CN115309713B (zh) | 交通数据压缩方法、装置、电子设备及存储介质 | |
| CN113918718A (zh) | 基于人工智能的车险用户分类方法、装置、设备及介质 | |
| CN113687825A (zh) | 一种软件模块的构建方法、装置、设备及存储介质 | |
| CN114157679A (zh) | 基于云原生分布式应用监控方法、装置、设备及介质 | |
| CN113869456A (zh) | 采样监测方法、装置、电子设备及存储介质 | |
| CN112784025A (zh) | 一种目标事件的确定方法和装置 | |
| CN110007998B (zh) | 页面生成方法及装置 | |
| CN111950623A (zh) | 数据稳定性监控方法、装置、计算机设备及介质 | |
| CN111026940A (zh) | 一种面向电网电磁环境的网络舆情及风险信息监测系统、电子设备 | |
| CN115409041A (zh) | 一种非结构化数据提取方法、装置、设备及存储介质 | |
| CN113626605B (zh) | 信息分类方法、装置、电子设备及可读存储介质 | |
| CN112560416B (zh) | 页面图表生成方法、装置、电子设备及存储介质 | |
| CN115115231A (zh) | 指标体系构建方法、装置、电子设备及存储介质 | |
| CN111860661B (zh) | 基于用户行为的数据分析方法、装置、电子设备及介质 | |
| CN111914138A (zh) | 基于车联网大数据的工况分析方法、装置和系统 | |
| CN113204714A (zh) | 一种基于用户画像的任务推荐方法、装置、存储介质及终端 | |
| CN113220551A (zh) | 指标趋势预测及预警方法、装置、电子设备及存储介质 | |
| CN113656369A (zh) | 一种大数据场景下的日志分布式流式采集及计算方法 | |
| CN113469232A (zh) | 车辆用户分类方法、设备及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |