CN116962523B - 一种数据上传方法、装置、计算机设备及存储介质 - Google Patents
一种数据上传方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN116962523B CN116962523B CN202311218647.7A CN202311218647A CN116962523B CN 116962523 B CN116962523 B CN 116962523B CN 202311218647 A CN202311218647 A CN 202311218647A CN 116962523 B CN116962523 B CN 116962523B
- Authority
- CN
- China
- Prior art keywords
- data
- uploading
- uploaded
- static
- static data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000003068 static effect Effects 0.000 claims abstract description 178
- 238000012544 monitoring process Methods 0.000 claims description 21
- 230000002159 abnormal effect Effects 0.000 claims description 18
- 230000005540 biological transmission Effects 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 7
- 238000012856 packing Methods 0.000 claims description 4
- 238000013500 data storage Methods 0.000 abstract description 9
- 238000013523 data management Methods 0.000 abstract description 8
- 230000006870 function Effects 0.000 description 9
- 230000004044 response Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000012384 transportation and delivery Methods 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 229910002056 binary alloy Inorganic materials 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本申请提出了一种数据上传方法、装置、计算机设备及存储介质,其中方法包括:获取待上传数据;基于预设的数据分类规则,对待上传数据进行数据分类,得到静态数据和动态数据;确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和动态数据;响应后端返回的指令,确定是否需要上传静态数据。本申请提供的一种数据上传方案,通过将待上传数据分为静态数据和动态数据,然后基于预设上传策略将静态数据对应的唯一标识和动态数据进行上传,而无需一开始就将所有待上传数据上传,在后续需要上传静态数据时再进行上传,实现按需上传,避免相同内容重复上传,减少数据上传流量,以及降低数据管理和存储的成本。
Description
技术领域
本申请涉及计算机技术领域,具体涉及一种数据上传方法、装置、计算机设备及存储介质。
背景技术
随着当前移动端平台的不断建设和更新,出现了例如“稳定性平台”、“性能监控平台”、“日志平台”和“埋点平台”等等各种不同的移动端平台,移动端需要上传的数据也越来越多。其中,在不同移动端的用户都重复上报了内容相同或相似的大量数据,而上报这类重复的数据一方面不仅会浪费用户流量,另一方面还会增加服务端请求量以及数据存储成本。
虽然相关技术提出了通过修改传输协议或者限流的上传策略方式上传数据,以提高移动端上传数据的性能。但是,相关技术中无论是通过修改传输协议或修改上传策略,都存在相同内容重复上传的情况,产生无效上传,同样会由于上传大部分重复数据导致数据管理成本和存储成本较高的问题。因此,亟需一种能够克服上述技术缺陷的数据上传方法。
前面的叙述在于提供一般的背景信息,并不一定构成现有技术。
发明内容
针对上述技术问题,本申请提供一种数据上传方法、装置、计算机设备及存储介质,通过将待上传数据分为静态数据和动态数据,然后基于预设上传策略将静态数据对应的唯一标识和动态数据进行上传,无需一开始就将所有待上传数据上传,在后续需要上传静态数据时再进行上传,实现按需上传,避免相同内容重复上传,减少数据上传流量,以及降低数据管理和存储的成本。
为解决上述技术问题,本申请提供了一种数据上传方法,至少包括如下步骤:
获取待上传数据;
基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据;
确定所述静态数据对应的唯一标识,并基于预设的上传策略上传所述静态数据对应的唯一标识和所述动态数据;
响应后端返回的指令,确定是否需要上传所述静态数据。
可选地,所述响应后端返回的指令,确定是否需要上传所述静态数据,包括:
获取后端返回的指令;
基于所述返回的指令,判断是否需要继续上传所述静态数据;
若是,则将所述静态数据及其对应的唯一标识进行打包上传;
若否,则结束本次数据上传。
可选地,所述待上传数据为异常监控数据,所述异常监控数据包括异常崩溃信息、设备信息、应用信息、用户信息、网络信息、用户操作轨迹、日志信息和快照数据的至少一种。
可选地,若所述待上传数据为异常监控数据,则所述基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据,包括:
基于预设的数据分类规则,对所述异常监控数据进行数据分类;
将所述异常监控数据分为静态数据和动态数据,其中,所述静态数据包括异常崩溃信息、用户操作轨迹、日志信息和快照数据的至少一种,所述动态数据包括设备信息、应用信息、用户信息和网络信息的至少一种。
可选地,在所述获取待上传数据之后,所述方法还包括:
根据业务需求,将所述待上传数据按照不同的上传策略拆分成不同数据传输协议对应的数据。
可选地,所述确定所述静态数据对应的唯一标识,包括:
根据业务需求定义静态数据标识规则;
基于所述静态数据标识规则确定所述静态数据对应的唯一标识。
可选地,所述基于所述静态数据标识规则确定所述静态数据对应的唯一标识,包括:
基于堆栈相似度模型,计算所述静态数据和服务端存储的数据进行相似度得分;
当所述相似度得分高于预设阈值时,判定所述服务端存在与所述静态数据相似的堆栈,并生成所述相似的堆栈对应的唯一标识。
相应地,本申请还提供了一种数据上传装置,包括:
获取模块,用于获取待上传数据;
分类模块,基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据;
第一上传模块,用于确定所述静态数据对应的唯一标识,并基于预设的上传策略上传所述静态数据对应的唯一标识和所述动态数据;
第二上传模块,用于响应后端返回的指令,确定是否需要上传所述静态数据。
本申请实施例提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如上所述的数据上传方法的步骤。
本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的数据上传方法的步骤。
实施本发明实施例,具有如下有益效果:
如上所述,本申请提供的一种数据上传方法、装置、计算机设备及存储介质,其中方法包括:首先,获取待上传数据;然后,基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据;接着,确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和动态数据;最后,响应后端返回的指令,确定是否需要上传静态数据。本申请实施例提供的一种数据上传方案,通过在数据源头将待上传数据进行分类,得到静态数据和动态数据后,按照上传策略将静态数据对应的唯一标识与动态数据进行上传,后续再确定是否需要上传静态数据,而无需一开始就将所有的待上传数据上传,实现按需高效上传,以更小的成本保证数据上传需求,提高数据上传效率,避免相同内容重复上传的情况,从而能够减少数据上传流量,以及降低数据管理和存储的成本。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的数据上传方法的流程示意图;
图2是本申请实施例提供的步骤S4的流程示意图;
图3是本申请实施例提供的数据上传装置的结构示意图;
图4是本申请实施例提供的计算机设备的结构示意图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素,此外,本申请不同实施例中具有同样命名的部件、特征、要素可能具有相同含义,也可能具有不同含义,其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。
应当理解,尽管在本文可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本文范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时"”或“响应于确定”。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。本申请使用的术语“或”、“和/或”、“包括以下至少一个”等可被解释为包括性的,或意味着任一个或任何组合。例如,“包括以下至少一个:A、B、C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A和B和C”,再如,“A、B或C”或者“A、B和/或C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A和B和C”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。
应该理解的是,虽然本申请实施例中的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
需要说明的是,在本文中,采用了诸如S1、S2等步骤代号,其目的是为了更清楚简要地表述相应内容,不构成顺序上的实质性限制,本领域技术人员在具体实施时,可能会先执行S2后执行S1等,但这些均应在本申请的保护范围之内。
应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本申请的说明,其本身没有特定的意义。因此,“模块”、“部件”或者“单元”可以混合地使用。
本申请实施例可以应用于服务器中,服务器可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
首先介绍本申请可以提供的应用场景,如提供一种数据上传方法、装置、计算机设备及存储介质,主要应用在移动智能终端,通过将待上传数据分为静态数据和动态数据,然后基于预设上传策略将静态数据对应的唯一标识和动态数据进行上传,无需一开始就将所有待上传数据上传,在后续需要上传静态数据时再进行上传,实现按需上传,避免相同内容重复上传,减少数据上传流量,以及降低服务端数据管理和存储的成本。
对于数据上传技术,由于不同移动端的用户都重复上报了内容相同或相似的大量数据,而上报这类重复的数据一方面不仅会浪费用户流量,另一方面还会增加服务端请求量以及数据存储成本。
为了解决上述技术问题,本申请提供了一种数据上传方法,请参阅图1,图1是本申请实施例提供的数据上传方法的流程示意图。该数据上传方法具体可以包括:
S1.获取待上传数据。
具体的,对于步骤S1,主要通过前端获取用户应用本次需要上传的数据,该前端可以是移动智能终端,需要上传的数据包括但不限于文本、图片、音视频等任意数据内容。
S2.基于预设的数据分类规则,对待上传数据进行数据分类,得到静态数据和动态数据。
具体的,对于步骤S2,基于预设的数据分类规则,对获取到的待上传数据进行数据分类,从数据源头上将待上传数据分为两类,包括静态数据和动态数据,其中,静态数据可以定义为不需要重复上传的数据,则动态数据可以定义为每次都需要上传的数据,因此,对待上传数据的分类规则也是基于该数据是否需要每次上传的原则,静态数据和动态数据的定义规则与数据的分类规则可以是相对应的,也可以是不对应的,静态数据和动态数据的定义规则不限于上述规则,可按照实际需求进行设置,只要满足对数据进行动静区分,且差异化上传,达到节省流量、提高上传效率和减少存储成本的目的既可。利用移动端数据特性,将不同用户可能产生的相同数据找出来,并归类为静态数据。
S3.确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和动态数据。
具体的,对于步骤S3,基于预设的静态数据表示规则,确定本次待上传数据中静态数据对应的唯一标识,该唯一标识用于替代静态数据对应的原本堆栈内容,唯一标识与静态数据内容绑定且唯一;然后基于预设的上传策略将动态数据以及静态数据对应的唯一标识进行上传,上传至目标端,例如服务器或相关后端。利用数据上传策略,对不同维度的数据进行不同程度的降低上传,从而达到满足业务的同时,实现流量和数据成本的降低。
S4.响应后端返回的指令,确定是否需要上传静态数据。
具体的,对于步骤S4,在将动态数据以及静态数据对应的唯一标识进行上传后,正常情况的数据上传至此就已经结束。但是,考虑到业务复杂性,本实施例还提供了后端返回是否需要继续上传静态数据,从而响应后端返回的指令,确定是否需要继续上传静态数据,以满足特殊需求,例如针对某些疑难问题,目前上传的数据无法明确定位问题,因此需要继续上传静态数据,以根据静态数据对应的堆栈进行进一步排查。另外,关于静态数据何时需要上传,可以按照业务形态进行设定,在此不进行具体限制,例如按App版本30天内是否有用户上报过,如果统一版本近30天用任意一个用户上报过了,则其他用户都不需要继续上传静态数据。
本实施例提供的一种数据上传方法,可以执行在前端(如移动智能终端),通过在数据源头将待上传数据进行分类,得到静态数据和动态数据后,通过对静态数据和动态数据定制不同的上传策略,从而按照上传策略将静态数据对应的唯一标识与动态数据进行上传,后续再确定是否需要上传静态数据,而无需一开始就将所有的待上传数据上传,实现按需高效上传,以更小的成本保证数据上传需求,能够提高数据上传效率,并且避免相同内容重复上传的情况,极大减少重复数据的上传,从而节约流量成本,如减少数据上传流量,以及降低数据管理和存储的成本。
可选地,如图2所示,在一些实施例中,步骤S4具体可以包括:
S41.获取后端返回的指令;
S42.基于返回的指令,判断是否需要继续上传静态数据;
S43.若是,则将静态数据及其对应的唯一标识进行打包上传;
S44.若否,则结束本次数据上传。
具体的,对于步骤S4,在将动态数据以及静态数据对应的唯一标识上传后,针对特殊需求,后端会返回一个是否继续上传静态数据的指令,在获取该指令后,基于该指令,确定是否需要继续上传静态数据,如果后端返回的是需要继续上传的指令,则通过静态资源上传接口,将静态数据对应的唯一标识和原始的静态数据按后端策略一并上传,满足业务需求,保证数据上传需求;如果后端返回是不需要继续上传的指令,则本次数据上传流程结束,而无需一开始就将静态数据上传,减少上传数据量。
可选地,在一些实施例中,待上传数据可以为异常监控数据,该异常监控数据具体可以包括异常崩溃信息、设备信息、应用信息、用户信息、网络信息、用户操作轨迹、日志信息和快照数据的至少一种。
具体的,以App应用崩溃时需要上传数据为例,本实施例的待上传数据可以是App的异常监控数据,该异常监控数据包括异常崩溃信息、设备信息、应用信息、用户信息、网络信息、用户操作轨迹、日志信息和其它数据的至少一种。其中,异常崩溃信息包括崩溃类型、代码异常堆栈、线程信息、应用性能快照等,设备信息包括用户收集型号、操作系统版本、CPU架构、屏幕分辨率和RAM随机存取存储器信息等,应用信息包括App版本号、应用包名、渠道和构建号等,用户信息包括用户ID、登陆状态和城市等,网络信息包括网络请求URL、参数、响应码、网络类型、IP类型和TLS版本等,用户操作轨迹包括用户操作路径、崩溃场景信息和使用时长等,日志信息包括App运行入职信息,其它数据包括App性能快照和内存快照等。
可选地,在一些实施例中,若待上传数据为异常监控数据,则步骤S2具体可以包括:
基于预设的数据分类规则,对异常监控数据进行数据分类;
将异常监控数据分为静态数据和动态数据,其中,静态数据包括异常崩溃信息、用户操作轨迹、日志信息和快照数据的至少一种,动态数据包括设备信息、应用信息、用户信息和网络信息的至少一种。
具体的,若待上传数据为异常监控数据,假定App1.0版本使用短信验证码登录时App必然出现崩溃,目前全网已经有100w用户安装此版本的App并且都使用验证码登录,出现App崩溃现象,按传统方案这100w用户都会上传上面异常监控数据的所有数据。通过异常崩溃信息研发可确认这100w用户的崩溃都是同一个原因(1.0版本短信验证码登录有bug),所以大部分数据对于问题分析都是重复的,同时我们还需要知道问题影响用户量有多少、影响多长时间、哪个渠道影响比例最大等信息。
基于上述分析,将异常监控数据按照需求进行数据拆分,例如,异常崩溃信息在此场景下可以明确问题,因此不需要重复上传;用户id和使用时长,可以明确影响用户量、影响用户时长,每次都需要上传;应用版本号、渠道信息,可以明确问题版本、哪个渠道影响比例最大,每次都需要上传;因此,用户id、使用时长、应用版本号、渠道信息等为动态数据,异常崩溃信息为静态数据。
可选地,在一些实施例中,在步骤S1之后,所述方法具体还可以:
根据业务需求,将待上传数据按照不同的上传策略拆分成不同数据传输协议对应的数据。
具体的,根据不同的业务需求,可以将待上传数据按照不同的上传策略,拆分成不同数据传输协议对应的数据,其中不同上传策略对应不同的数据传输协议,通过切换不同的数据传输协议,保证数据上传的效率和稳定性,在应用上线后可以随时根据后端能力调整数据上传策略,提高数据上传的灵活性。其中,数据传输协议可以是json、文件、二进制等任意形式,在此不进行具体限定。
可选地,在一些实施例中,步骤S3中的确定静态数据对应的唯一标识,具体可以包括:
根据业务需求定义静态数据标识规则;
基于静态数据标识规则确定静态数据对应的唯一标识。
具体的,在对待上传数据拆分为动态数据和静态数据后,接着定义静态数据标识规则,根据静态数据标识规则确定静态数据对应的唯一标识,该唯一表示用于替代静态数据对应的堆栈内容,通过将静态数据进行压缩,实现数据省流的目的。其中,静态数据标识规则可以按照需求调整,在此不进行具体限定。
可选地,在一些实施例中,所述基于静态数据标识规则确定静态数据对应的唯一标识,具体可以包括:
基于堆栈相似度模型,计算静态数据和服务端存储的数据进行相似度得分;
当相似度得分高于预设阈值时,判定服务端存在与静态数据相似的堆栈,并生成相似的堆栈对应的唯一标识。
具体的,通过表示规则,例如使用堆栈相似度模型对静态数据对应的堆栈和服务端存储的堆栈进行打分,通过得分判断服务器端是否存在与静态数据相似度的堆栈,若存在,则按照唯一标识生成规则,将静态数据对应的堆栈生成唯一标识,后续上传时仅需上传唯一标识,替代静态数据原本的堆栈内容,实现上传内容的极大压缩。其中,唯一标识生成规则以及静态数据是否存在的规则可以按需调整,在此不进行具体限定。
为了更好的实施本申请实施例的数据上传方法,本申请实施例还提供一种基于上述数据上传方法的数据上传装置,其中名词的含义与上述数据上传方法中相同,具体实施细节可以参考方法实施例中的说明。
请参阅图3,图3为本申请实施例提供的数据上传装置的结构示意图,其中可以包括获取模块100、分类模块200、第一上传模块300和第四上传模块400。
其中,获取模块100,用于获取待上传数据;
具体的,对于获取模块100,主要通过前端获取用户应用本次需要上传的数据,该前端可以是移动智能终端,需要上传的数据包括但不限于文本、图片、音视频等任意数据内容。
分类模块200,基于预设的数据分类规则,对待上传数据进行数据分类,得到静态数据和动态数据;
具体的,对于分类模块200,基于预设的数据分类规则,对获取到的待上传数据进行数据分类,从数据源头上将待上传数据分为两类,包括静态数据和动态数据,其中,静态数据可以定义为不需要重复上传的数据,则动态数据可以定义为每次都需要上传的数据,因此,对待上传数据的分类规则也是基于该数据是否需要每次上传的原则,静态数据和动态数据的定义规则与数据的分类规则可以是相对应的,也可以是不对应的,静态数据和动态数据的定义规则不限于上述规则,可按照实际需求进行设置,只要满足对数据进行动静区分,且差异化上传,达到节省流量、提高上传效率和减少存储成本的目的既可。利用移动端数据特性,将不同用户可能产生的相同数据找出来,并归类为静态数据。
第一上传模块300,用于确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和所述动态数据;
具体的,对于第一上传模块300,基于预设的静态数据表示规则,确定本次待上传数据中静态数据对应的唯一标识,该唯一标识用于替代静态数据对应的原本堆栈内容,唯一标识与静态数据内容绑定且唯一;然后基于预设的上传策略将动态数据以及静态数据对应的唯一标识进行上传,上传至目标端,例如服务器或相关后端。利用数据上传策略,对不同维度的数据进行不同程度的降低上传,从而达到满足业务的同时,实现流量和数据成本的降低。
第二上传模块400,用于响应后端返回的指令,确定是否需要上传静态数据;
具体的,对于第二上传模块400,在将动态数据以及静态数据对应的唯一标识进行上传后,正常情况的数据上传至此就已经结束。但是,考虑到业务复杂性,本实施例还提供了后端返回是否需要继续上传静态数据,从而响应后端返回的指令,确定是否需要继续上传静态数据,以满足特殊需求,例如针对某些疑难问题,目前上传的数据无法明确定位问题,因此需要继续上传静态数据,以根据静态数据对应的堆栈进行进一步排查。另外,关于静态数据何时需要上传,可以按照业务形态进行设定,在此不进行具体限制,例如按App版本30天内是否有用户上报过,如果统一版本近30天用任意一个用户上报过了,则其他用户都不需要继续上传静态数据。
可选地,在一些实施例中,第二上传模块400具体可以包括:
指令获取单元,用于获取后端返回的指令;
判断单元,用于基于返回的指令,判断是否需要继续上传静态数据;
上传单元,用于若是,则将静态数据及其对应的唯一标识进行打包上传;若否,则结束本次数据上传。
综上,本申请实施例提供的一种数据上传装置,通过获取模块100获取待上传数据;通过分类模块200基于预设的数据分类规则,对待上传数据进行数据分类,得到静态数据和动态数据;通过第一上传模块300确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和动态数据;通过第二上传模块400响应后端返回的指令,确定是否需要上传静态数据。本实施例通过在数据源头将待上传数据进行分类,得到静态数据和动态数据后,按照上传策略将静态数据对应的唯一标识与动态数据进行上传,后续再确定是否需要上传静态数据,而无需一开始就将所有的待上传数据上传,实现按需高效上传,以更小的成本保证数据上传需求,提高数据上传效率,避免相同内容重复上传的情况,从而能够减少数据上传流量,以及降低数据管理和存储的成本。
此外,本申请实施例还提供一种计算机设备,如图4所示,其示出了本申请实施例所涉及的计算机设备的结构示意图,具体来讲:
该计算机设备可以包括一个或者一个以上处理核心的处理器301、一个或一个以上计算机可读存储介质的存储器302、电源303和输入单元304等部件。本领域技术人员可以理解,图4中示出的计算机设备结构并不构成对计算机设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器301是该计算机设备的控制中心,利用各种接口和线路连接整个计算机设备的各个部分,通过运行或执行存储在存储器302内的软件程序和/或模块,以及调用存储在存储器302内的数据,执行计算机设备的各种功能和处理数据,从而对计算机设备进行整体监控。可选的,处理器301可包括一个或多个处理核心;优选的,处理器301可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器301中。
存储器302可用于存储软件程序以及模块,处理器301通过运行存储在存储器302的软件程序以及模块,从而执行各种功能应用以及数据上传方法。存储器302可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器302还可以包括存储器控制器,以提供处理器301对存储器302的访问。
计算机设备还包括给各个部件供电的电源303,优选的,电源303可以通过电源管理系统与处理器301逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源303还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该计算机设备还可包括输入单元304,该输入单元304可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,计算机设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,计算机设备中的处理器301会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器302中,并由处理器301来运行存储在存储器302中的应用程序,从而实现各种功能,如下:获取待上传数据;基于预设的数据分类规则,对待上传数据进行数据分类,得到静态数据和动态数据;接着,确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和动态数据;最后,响应后端返回的指令,确定是否需要上传静态数据。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
本申请实施例通过在数据源头将待上传数据进行分类,得到静态数据和动态数据后,按照上传策略将静态数据对应的唯一标识与动态数据进行上传,后续再确定是否需要上传静态数据,而无需一开始就将所有的待上传数据上传,实现按需高效上传,以更小的成本保证数据上传需求,提高数据上传效率,避免相同内容重复上传的情况,从而能够减少数据上传流量,以及降低数据管理和存储的成本。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例提供一种存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本申请实施例所提供的任一种数据上传方法中的步骤。例如,该指令可以执行如下步骤:获取待上传数据;基于预设的数据分类规则,对待上传数据进行数据分类,得到静态数据和动态数据;接着,确定静态数据对应的唯一标识,并基于预设的上传策略上传静态数据对应的唯一标识和动态数据;最后,响应后端返回的指令,确定是否需要上传静态数据。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本申请实施例所提供的任一种数据上传方法中的步骤,因此,可以实现本申请实施例所提供的任一种数据上传方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例所提供的一种数据上传方法、装置、计算机设备及存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (8)
1.一种数据上传方法,其特征在于,至少包括如下步骤:
获取待上传数据;
基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据;
确定所述静态数据对应的唯一标识,并基于预设的上传策略上传所述静态数据对应的唯一标识和所述动态数据;
响应后端返回的指令,确定是否需要上传所述静态数据;
若所述待上传数据为异常监控数据,则所述基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据,包括:
基于预设的数据分类规则,对所述异常监控数据进行数据分类;
将所述异常监控数据分为静态数据和动态数据,其中,所述静态数据包括异常崩溃信息、用户操作轨迹、日志信息和快照数据的至少一种,所述动态数据包括设备信息、应用信息、用户信息和网络信息的至少一种。
2.根据权利要求1所述的数据上传方法,其特征在于,所述响应后端返回的指令,确定是否需要上传所述静态数据,包括:
获取后端返回的指令;
基于所述返回的指令,判断是否需要继续上传所述静态数据;
若是,则将所述静态数据及其对应的唯一标识进行打包上传;
若否,则结束本次数据上传。
3.根据权利要求1所述的数据上传方法,其特征在于,在所述获取待上传数据之后,所述方法还包括:
根据业务需求,将所述待上传数据按照不同的上传策略拆分成不同数据传输协议对应的数据。
4.根据权利要求1所述的数据上传方法,其特征在于,所述确定所述静态数据对应的唯一标识,包括:
根据业务需求定义静态数据标识规则;
基于所述静态数据标识规则确定所述静态数据对应的唯一标识。
5.根据权利要求4所述的数据上传方法,其特征在于,所述基于所述静态数据标识规则确定所述静态数据对应的唯一标识,包括:
基于堆栈相似度模型,计算所述静态数据和服务端存储的数据进行相似度得分;
当所述相似度得分高于预设阈值时,判定所述服务端存在与所述静态数据相似的堆栈,并生成所述相似的堆栈对应的唯一标识。
6.一种数据上传装置,其特征在于,包括:
获取模块,用于获取待上传数据;
分类模块,基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据;
第一上传模块,用于确定所述静态数据对应的唯一标识,并基于预设的上传策略上传所述静态数据对应的唯一标识和所述动态数据;
第二上传模块,用于响应后端返回的指令,确定是否需要上传所述静态数据;
若所述待上传数据为异常监控数据,则所述基于预设的数据分类规则,对所述待上传数据进行数据分类,得到静态数据和动态数据,包括:
基于预设的数据分类规则,对所述异常监控数据进行数据分类;
将所述异常监控数据分为静态数据和动态数据,其中,所述静态数据包括异常崩溃信息、用户操作轨迹、日志信息和快照数据的至少一种,所述动态数据包括设备信息、应用信息、用户信息和网络信息的至少一种。
7.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5中任一项所述的数据上传方法的步骤。
8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的数据上传方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311218647.7A CN116962523B (zh) | 2023-09-21 | 2023-09-21 | 一种数据上传方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311218647.7A CN116962523B (zh) | 2023-09-21 | 2023-09-21 | 一种数据上传方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116962523A CN116962523A (zh) | 2023-10-27 |
CN116962523B true CN116962523B (zh) | 2023-12-08 |
Family
ID=88460534
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311218647.7A Active CN116962523B (zh) | 2023-09-21 | 2023-09-21 | 一种数据上传方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116962523B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107491393A (zh) * | 2017-08-25 | 2017-12-19 | 武汉斗鱼网络科技有限公司 | 崩溃信息上传方法、装置及终端设备 |
CN109831506A (zh) * | 2019-01-31 | 2019-05-31 | 百度在线网络技术(北京)有限公司 | 文件上传方法、装置、终端、服务器及可读存储介质 |
WO2019222934A1 (zh) * | 2018-05-23 | 2019-11-28 | 优视科技新加坡有限公司 | 文件处理方法、装置和系统 |
CN111061583A (zh) * | 2019-11-15 | 2020-04-24 | 腾讯科技(深圳)有限公司 | 一种崩溃信息处理方法、装置、设备及介质 |
CN111752734A (zh) * | 2020-05-19 | 2020-10-09 | 广州多益网络股份有限公司 | 异常数据的分类方法、分析方法、装置及存储介质 |
CN116614495A (zh) * | 2023-06-21 | 2023-08-18 | 建信金融科技有限责任公司 | 数据上传方法、装置、设备、存储介质及程序产品 |
-
2023
- 2023-09-21 CN CN202311218647.7A patent/CN116962523B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107491393A (zh) * | 2017-08-25 | 2017-12-19 | 武汉斗鱼网络科技有限公司 | 崩溃信息上传方法、装置及终端设备 |
WO2019222934A1 (zh) * | 2018-05-23 | 2019-11-28 | 优视科技新加坡有限公司 | 文件处理方法、装置和系统 |
CN109831506A (zh) * | 2019-01-31 | 2019-05-31 | 百度在线网络技术(北京)有限公司 | 文件上传方法、装置、终端、服务器及可读存储介质 |
CN111061583A (zh) * | 2019-11-15 | 2020-04-24 | 腾讯科技(深圳)有限公司 | 一种崩溃信息处理方法、装置、设备及介质 |
CN111752734A (zh) * | 2020-05-19 | 2020-10-09 | 广州多益网络股份有限公司 | 异常数据的分类方法、分析方法、装置及存储介质 |
CN116614495A (zh) * | 2023-06-21 | 2023-08-18 | 建信金融科技有限责任公司 | 数据上传方法、装置、设备、存储介质及程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN116962523A (zh) | 2023-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10055134B2 (en) | Data compression method and storage system | |
CN111221793B (zh) | 数据挖掘方法、平台、计算机设备及存储介质 | |
CN111367693B (zh) | 基于消息队列调度插件任务的方法、系统、设备及介质 | |
CN110895503B (zh) | 一种应用的性能监控方法及客户端 | |
CN106547683A (zh) | 一种冗余代码检测方法及装置 | |
CN113014608B (zh) | 一种流量分发控制方法、装置、电子设备及存储介质 | |
CN114385674A (zh) | 一种平台消息跟踪方法、系统、装置及存储介质 | |
CN213876703U (zh) | 一种资源池管理系统 | |
CN116962523B (zh) | 一种数据上传方法、装置、计算机设备及存储介质 | |
CN105740435A (zh) | 一种基于分布式的文档在线预览设计方法 | |
CN104714923A (zh) | 一种实现设备共享的方法和装置 | |
CN111401819B (zh) | 系统间数据推送方法及系统 | |
CN114741162A (zh) | 服务编排方法、装置、存储介质和设备 | |
CN113360558A (zh) | 数据处理方法、数据处理装置、电子设备及存储介质 | |
CN114520808A (zh) | 请求处理方法、装置、电子设备及计算机可读存储介质 | |
CN111459819A (zh) | 软件测试方法及装置、电子设备、计算机可读介质 | |
CN110990213A (zh) | 一种集群环境用户日志实时监控方法及装置 | |
CN115103039B (zh) | 一种报文数据处理方法、装置、智能设备及存储介质 | |
CN113890872B (zh) | 一种数据集合上传方法、装置、电子设备和存储介质 | |
CN115038089B (zh) | 一种基于信息抽取的多端数据监听采集方法 | |
CN110908958B (zh) | 一种文件处理方法、装置、终端及存储介质 | |
CN117435367B (zh) | 用户行为处理方法、装置、设备、存储介质和程序产品 | |
CN104426900B (zh) | 一种多媒体数据采集方法和系统 | |
CN112631692B (zh) | 一种应用程序运行控制方法、装置和存储介质 | |
CN114064277A (zh) | 实例资源处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |