CN107103086B - 一种数据采集审计的方法及系统、计算机可读存储介质 - Google Patents

一种数据采集审计的方法及系统、计算机可读存储介质 Download PDF

Info

Publication number
CN107103086B
CN107103086B CN201710290850.3A CN201710290850A CN107103086B CN 107103086 B CN107103086 B CN 107103086B CN 201710290850 A CN201710290850 A CN 201710290850A CN 107103086 B CN107103086 B CN 107103086B
Authority
CN
China
Prior art keywords
data
audit
client
daily
acquisition server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710290850.3A
Other languages
English (en)
Other versions
CN107103086A (zh
Inventor
王忠御
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Shengmai Technology Co., Ltd
Original Assignee
Hangzhou Shengmai Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Shengmai Technology Co Ltd filed Critical Hangzhou Shengmai Technology Co Ltd
Priority to CN201710290850.3A priority Critical patent/CN107103086B/zh
Publication of CN107103086A publication Critical patent/CN107103086A/zh
Application granted granted Critical
Publication of CN107103086B publication Critical patent/CN107103086B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21—Design, administration or maintenance of databases
    • G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/182—Distributed file systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Debugging And Monitoring (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明公开一种数据采集审计的方法及系统、计算机可读存储介质，该方法包括：在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据；基于现有上报策略，将审计数据随同客户端的日常数据一并打包发送到数据采集服务器端；在数据采集服务器端上对日常数据与审计数据进行分离处理后，按上报日期来对之进行分区存放；在数据采集服务器端上比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。本发明可及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。

Description

一种数据采集审计的方法及系统、计算机可读存储介质
技术领域
本发明涉及数据处理技术领域，尤其涉及一种数据采集审计的方法及系统、计算机可读存储介质。
背景技术
数据(Data)是对事实、概念或指令的一种表达形式，可由人工或自动化装置进行处理。数据经过解释并赋予一定的意义之后，便成为信息。数据处理(data processing)是对数据的采集、存储、检索、加工、变换和传输，其基本目的是从大量的、可能是杂乱无章的、难以理解的数据中抽取并推导出对于某些特定的人们来说是有价值、有意义的数据。数据处理是系统工程和自动控制的基本环节，其贯穿于社会生产和社会生活的各个领域。数据处理技术的发展及其应用的广度和深度，极大地影响着人类社会发展的进程。
数据处理离不开软件的支持，数据处理软件包括：用以书写处理程序的各种程序设计语言及其编译程序，管理数据的文件系统和数据库系统，以及各种数据处理方法的应用软件包，为了保证数据安全可靠，还有一整套数据安全保密的技术。根据处理设备的结构方式、工作方式，以及数据的时间空间分布方式的不同，数据处理有不同的方式。不同的处理方式要求不同的硬件和软件支持。每种处理方式都有自己的特点，应当根据应用问题的实际环境选择合适的处理方式。数据处理主要有四种分类方式①根据处理设备的结构方式区分，有联机处理方式和脱机处理方式。②根据数据处理时间的分配方式区分，有批处理方式、分时处理方式和实时处理方式。③根据数据处理空间的分布方式区分，有集中式处理方式和分布处理方式。④根据计算机中央处理器的工作方式区分，有单道作业处理方式、多道作业处理方式和交互式处理方式。数据处理对数据(包括数值的和非数值的)进行分析和加工的技术过程，包括对各种原始数据的分析、整理、计算、编辑等的加工和处理，比数据分析含义广。
我们知道，每个软件客户端的开发运营均是一个不断修正改良的过程中，其需要数据采集服务器端不断地采集每一用户对其客户端的使用行为，以便运营商可更好地了解用户对其客户端的使用习惯，进而使得运营商可为用户提供更好的服务，一般在客户端运行过程中，用户每对客户端进行一次操作，其相应的数据采集服务器端都会不断地对之进行远程数据采集，以收集相关数据进行数据统计分析，从而得出每一用户对其客户端的使用习惯及需求，为运营商如何给用户提供更贴心的服务提供一个良好的参考依据。而数据采集服务器端在进行这些数据的采集阶段，经常会因为网络、采集数据时间超时、软件本身的bug等原因造成部分数据的丢失，由于这部分数据丢失往往难以定位到具体原因，也无法预警，由此软件的隐患、风险也将一直持续。因而这部分数据丢失，将会严重的影响到基础统计、运营分析、数据决策等数据统计相关业务的精准性，将会是数据统计整个系统生态链上的严重bug。
发明内容
本发明的主要目的在于提出一种数据采集审计的方法及系统、计算机可读存储介质，旨在及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。
为实现上述目的，本发明提供的一种数据采集审计的方法，所述方法包括以下步骤：采集审计数据：在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储；上报审计数据：基于客户端现有日常数据的上报策略，将所述审计数据随同客户端的日常数据一并打包发送到数据采集服务器端；存放审计数据：在数据采集服务器端上对所述日常数据与所述审计数据进行分离处理后，按上报日期来对所述日常数据与所述审计数据进行分区存放；比对原始审计数据：在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
优选地，所述采集审计数据的步骤具体包括：在客户端上每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。
优选地，所述存放审计数据的步骤具体包括以下步骤：在数据采集服务器端上通过Flume系统对所述日常数据与所述审计数据进行分离处理后，按上报日期来将所述日常数据与所述审计数据存入HDFS系统对应的分区中；设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表对应的分区中，以得到相应的审计统计日表。
优选地，所述审计原始审计数据的步骤具体包括：在数据采集服务器端上设定每日比对任务，以比对前一天中所述审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
优选地，所述方法还包括以下步骤：比对清洗后审计数据：分别对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
此外，为实现上述目的，本发明还提出一种数据采集审计的系统，所述系统包括：审计数据采集模块，用于在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储；审计数据上报模块，用于基于客户端现有日常数据的上报策略，将所述审计数据随同客户端的日常数据一并打包发送到数据采集服务器端；审计数据存放模块，用于在数据采集服务器端上对所述日常数据与所述审计数据进行分离处理后，按上报日期来对所述日常数据与所述审计数据进行分区存放；原始审计数据比对模块，用于在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
优选地，所述审计数据采集模块在客户端每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。
优选地，所述审计数据存放模块包括：存放处理单元，用于在数据采集服务器端上通过Flume系统对所述日常数据与所述审计数据进行分离处理后，按上报日期来将所述日常数据与所述审计数据存入HDFS系统对应的分区中；定时统计单元，用于设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表对应的分区中，以得到相应的审计统计日表。
优选地，所述系统还包括清洗后审计数据比对模块，用于分别对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
此外，为实现上述目的，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现上述的方法的步骤。
本发明提出的一种数据采集审计的方法及系统、计算机可读存储介质，其通过在客户端增加采集审计数据机制，以在客户端上对每一事件的产生次数进行每日数据审计统计来获得相应的审计数据，然后通过在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警，以便及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。
附图说明
图1为实现本发明各个实施例的移动终端的硬件结构示意图。
图2为如图1所示的移动终端所基于的通信网络系统架构图。
图3为本发明第一实施例数据采集审计的方法的流程框图。
图4为本发明第二实施例数据采集审计的系统的结构框图。；
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍：
射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。
WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。
进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。
为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。
具体地，UE201可以是上述终端100，此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。
基于上述移动终端硬件结构以及通信网络系统，提出本发明方法各个实施例。
如图3所示，本发明第一实施例提出一种数据采集审计的方法，包括以下步骤：
步骤S1：采集审计数据：在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储。
具体地，在客户端上每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。系统预设事件可包括startup(启动)、session(会话)、install(插入)等事件，考虑到session这种特殊类型的事件，需要下次启动才能生成，事件未定(可能不是当天)，针对这种类型的数据，就需要重新上报审计数据，以更新该事件发生当日的历史审计数据。
自定义事件为每一软件客户端为进行相关数据统计而进行新定义的事件，如音乐播放器的点歌行为、地图软件的地址搜索等事件。
步骤S2：上报审计数据：基于客户端现有日常数据的上报策略，将该审计数据随同客户端的日常数据一并打包发送到数据采集服务器端。
具体地，由于客户端原先便有相应的上报策略(如实时、定时间隔、批量等策略)，以便客户端将其产生的日常数据上报给数据采集服务器端。而审计数据的上报，考虑到客户端流量、性能问题，因此不能频繁地进行发送数据，因而，可利用客户端原先的上报策略，将该审计数据随同客户端的日常数据一并打包发送到数据采集服务器端。一般而言，审计的过程数据大致为一天4～5次，用户使用移动终端的极致时间为12～15小时，因此定位间隔3小时进行审计数据合并，每天分将4～5次，将合并后的审计数据以及客户端的日常数据，一并打包发送到数据采集服务器端。
步骤S3：存放审计数据：在数据采集服务器端上对该日常数据与该审计数据进行分离处理后，按上报日期来对该日常数据与该审计数据进行分区存放。
具体地，在进行存放审计数据的步骤时：首先，在数据采集服务器端上通过Flume系统(Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力)对该日常数据与该审计数据进行分离处理后，按上报日期来将该日常数据与该审计数据存入HDFS系统(即Hadoop分布式文件系统，其被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统，它是一个高度容错性的系统，能提供高吞吐量的数据访问，非常适合大规模数据集上的应用，且可以实现流的形式访问(streaming access)文件系统中的数据)对应的分区中。
其次，可设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表(Hive是建立在Hadoop上的数据仓库基础构架，它提供了一系列的工具，可以用来进行数据提取转化加载(ETL)，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户查询数据。同时，这个语言也允许熟悉MapReduce开发者的开发自定义的mapper和reducer来处理内建的mapper和reducer无法完成的复杂的分析工作。Hive没有专门的数据格式，Hive可以很好的工作在Thrift之上，控制分隔符，也允许用户指定数据格式)对应的分区中，以得到相应的审计统计日表，通过该审计统计日表，可快速查询到客户端上报过来的每日的总的审计数据。
步骤S4：比对原始审计数据：在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
具体地，可通过审计统计日表，快速查询到客户端上报过来的前一天的总的审计数据。在数据采集服务器端上进行每日定时比对时，以比对前一天中该审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。由于数据采集服务器端本身亦会对客户端的用户行为进行统计，即在客户端上每次产生系统预设事件、自定义事件时，数据采集服务器端会根据反馈回来的数据进行同步统计，亦即数据采集服务器端实际统计数据，该实际统计数据经常会因为网络、采集数据时间超时、软件本身的bug等原因造成数据的丢失，因而，若在比对前一天中该审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性过程中，发现两者不一致时，即说明客户端可能出现数据丢失的问题，或客户端出现自身SDK设计上的缺陷，此时，通过预警可及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。
例如要审计应用商店2017年2月14日的session数据条数时，可用select count(audit_session)from audit where appid＝’appid’and ds＝’2017-02-14’(暂不考虑去重)，与select count(1)from events2 where appid＝’appid’and ds＝’2017-02-14’andxwhat＝’session’进行对比。若比对结果不一致时，即可进行预警。
步骤S5：比对清洗后审计数据：分别对前一天中客户端上报过来的审计数据与服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
具体地，可进一步对前一天中客户端上报过来的审计数据与服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
例如要审计应用商店2017年2月14日的活跃用户数据时，可针对应用商店当天的审计数据，按用户去重后，计算session的个数(一个用户只算一次session)，与统计后台的数据对比。若比对结果不一致时，即可进行预警。
如图4所示，本发明第二实施例提出一种数据采集审计的系统300，该系统300包括审计数据采集模块310、审计数据上报模块320、审计数据存放模块330、原始审计数据比对模块340以及清洗后审计数据比对模块350。
其中，审计数据采集模块310主要用于在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储。
具体地，审计数据采集模块310在客户端每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。系统预设事件可包括startup(启动)、session(会话)、install(插入)等事件，考虑到session这种特殊类型的事件，需要下次启动才能生成，事件未定(可能不是当天)，针对这种类型的数据，就需要重新上报审计数据，以更新该事件发生当日的历史审计数据。自定义事件为每一软件客户端为进行相关数据统计而进行新定义的事件，如音乐播放器的点歌行为、地图软件的地址搜索等事件。
审计数据上报模块320主要用于基于客户端现有日常数据的上报策略，将该审计数据随同客户端的日常数据一并打包发送到数据采集服务器端。
具体地，由于客户端原先便有相应的上报策略(如实时、定时间隔、批量等策略)，以便客户端将其产生的日常数据上报给数据采集服务器端。而审计数据的上报，考虑到客户端流量、性能问题，因此不能频繁地进行发送数据，因而，审计数据上报模块320可利用客户端原先的上报策略，将该审计数据随同客户端的日常数据一并打包发送到数据采集服务器端。一般而言，审计的过程数据大致为一天4～5次，用户使用移动终端的极致时间为12～15小时，因此，审计数据上报模块320可定位间隔3小时进行审计数据合并，每天分将4～5次，将合并后的审计数据以及客户端的日常数据，一并打包发送到数据采集服务器端。
审计数据存放模块330主要用于在数据采集服务器端上对该日常数据与该审计数据进行分离处理后，按上报日期来对该日常数据与该审计数据进行分区存放，审计数据存放模块330包括存放处理单元331以及定时统计单元332。
具体地，首先，存放处理单元331在数据采集服务器端上通过Flume系统(Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力)对该日常数据与该审计数据进行分离处理后，按上报日期来将该日常数据与该审计数据存入HDFS系统(即Hadoop分布式文件系统，其被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统，它是一个高度容错性的系统，能提供高吞吐量的数据访问，非常适合大规模数据集上的应用，且可以实现流的形式访问(streaming access)文件系统中的数据)对应的分区中。
其次，定时统计单元332可设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表(Hive是建立在Hadoop上的数据仓库基础构架，它提供了一系列的工具，可以用来进行数据提取转化加载(ETL)，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户查询数据。同时，这个语言也允许熟悉MapReduce开发者的开发自定义的mapper和reducer来处理内建的mapper和reducer无法完成的复杂的分析工作。Hive没有专门的数据格式，Hive可以很好的工作在Thrift之上，控制分隔符，也允许用户指定数据格式。)对应的分区中，以得到相应的审计统计日表，通过该审计统计日表，可快速查询到客户端上报过来的每日的总的审计数据。
原始审计数据比对模块340主要用于在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
具体地，可通过审计统计日表，快速查询到客户端上报过来的前一天的总的审计数据，原始审计数据比对模块340在数据采集服务器端上进行每日定时比对时，以比对前一天中该审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。由于数据采集服务器端本身亦会对客户端的用户行为进行统计，即在客户端上每次产生系统预设事件、自定义事件时，数据采集服务器端会根据反馈回来的数据进行同步统计，亦即数据采集服务器端实际统计数据，该实际统计数据经常会因为网络、采集数据时间超时、软件本身的bug等原因造成数据的丢失，因而，若原始审计数据比对模块340在比对前一天中该审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性过程中，发现两者不一致时，即说明客户端可能出现数据丢失的问题，或客户端出现自身SDK设计上的缺陷，此时，通过预警可及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。
例如要审计应用商店2017年2月14日的session数据条数时，可用select count(audit_session)from audit where appid＝’appid’and ds＝’2017-02-14’(暂不考虑去重)，与select count(1)from events2 where appid＝’appid’and ds＝’2017-02-14’andxwhat＝’session’进行对比。若比对结果不一致时，即可进行预警。
清洗后审计数据比对模块350主要用于分别对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
具体地，可通过清洗后审计数据比对模块350进一步对前一天中客户端上报过来的审计数据与服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
例如要审计应用商店2017年2月14日的活跃用户数据时，可针对应用商店当天的审计数据，按用户去重后，计算session的个数(一个用户只算一次session)，与统计后台的数据对比。若比对结果不一致时，即可进行预警。
本发明第三实施例还提出一种计算机可读存储介质，该计算机可读存储介质存储有一个或者多个程序，该一个或者多个程序可被一个或者多个处理器执行，以实现以下如图3所示的具体步骤：
步骤S1：采集审计数据：在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储。
具体地，在客户端上每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。系统预设事件可包括startup(启动)、session(会话)、install(插入)等事件，考虑到session这种特殊类型的事件，需要下次启动才能生成，事件未定(可能不是当天)，针对这种类型的数据，就需要重新上报审计数据，以更新该事件发生当日的历史审计数据。自定义事件为每一软件客户端为进行相关数据统计而进行新定义的事件，如音乐播放器的点歌行为、地图软件的地址搜索等事件。
步骤S2：上报审计数据：基于客户端现有日常数据的上报策略，将该审计数据随同客户端的日常数据一并打包发送到数据采集服务器端。
具体地，由于客户端原先便有相应的上报策略(如实时、定时间隔、批量等策略)，以便客户端将其产生的日常数据上报给数据采集服务器端。而审计数据的上报，考虑到客户端流量、性能问题，因此不能频繁地进行发送数据，因而，可利用客户端原先的上报策略，将该审计数据随同客户端的日常数据一并打包发送到数据采集服务器端。一般而言，审计的过程数据大致为一天4～5次，用户使用移动终端的极致时间为12～15小时，因此定位间隔3小时进行审计数据合并，每天分将4～5次，将合并后的审计数据以及客户端的日常数据，一并打包发送到数据采集服务器端。
步骤S3：存放审计数据：在数据采集服务器端上对该日常数据与该审计数据进行分离处理后，按上报日期来对该日常数据与该审计数据进行分区存放。
具体地，在进行存放审计数据的步骤时：首先，在数据采集服务器端上通过Flume系统(Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力)对该日常数据与该审计数据进行分离处理后，按上报日期来将该日常数据与该审计数据存入HDFS系统(即Hadoop分布式文件系统，其被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统，它是一个高度容错性的系统，能提供高吞吐量的数据访问，非常适合大规模数据集上的应用，且可以实现流的形式访问(streaming access)文件系统中的数据)对应的分区中。
其次，可设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表(Hive是建立在Hadoop上的数据仓库基础构架，它提供了一系列的工具，可以用来进行数据提取转化加载(ETL)，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户查询数据。同时，这个语言也允许熟悉MapReduce开发者的开发自定义的mapper和reducer来处理内建的mapper和reducer无法完成的复杂的分析工作。Hive没有专门的数据格式，Hive可以很好的工作在Thrift之上，控制分隔符，也允许用户指定数据格式。)对应的分区中，以得到相应的审计统计日表，通过该审计统计日表，可快速查询到客户端上报过来的每日的总的审计数据。
步骤S4：比对原始审计数据：在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
具体地，可通过审计统计日表，快速查询到客户端上报过来的前一天的总的审计数据。在数据采集服务器端上进行每日定时比对时，以比对前一天中该审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。由于数据采集服务器端本身亦会对客户端的用户行为进行统计，即在客户端上每次产生系统预设事件、自定义事件时，数据采集服务器端会根据反馈回来的数据进行同步统计，亦即数据采集服务器端实际统计数据，该实际统计数据经常会因为网络、采集数据时间超时、软件本身的bug等原因造成数据的丢失，因而，若在比对前一天中该审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性过程中，发现两者不一致时，即说明客户端可能出现数据丢失的问题，或客户端出现自身SDK设计上的缺陷，此时，通过预警可及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。
例如要审计应用商店2017年2月14日的session数据条数时，可用select count(audit_session)from audit where appid＝’appid’and ds＝’2017-02-14’(暂不考虑去重)，与select count(1)from events2 where appid＝’appid’and ds＝’2017-02-14’andxwhat＝’session’进行对比。若比对结果不一致时，即可进行预警。
步骤S5：比对清洗后审计数据：分别对前一天中客户端上报过来的审计数据与服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
具体地，可进一步对前一天中客户端上报过来的审计数据与服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
例如要审计应用商店2017年2月14日的活跃用户数据时，可针对应用商店当天的审计数据，按用户去重后，计算session的个数(一个用户只算一次session)，与统计后台的数据对比。若比对结果不一致时，即可进行预警。
本发明提出的一种数据采集审计的方法及系统、计算机可读存储介质，其通过在客户端增加采集审计数据机制，以在客户端上对每一事件的产生次数进行每日数据审计统计来获得相应的审计数据，然后通过在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警，以便及时发现客户端是否出现数据丢失的问题，使得后续可根据预警进行相关的数据修复，同时帮助客户端发现自身SDK设计上的缺陷，以便开发者及时作出相应维护。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种数据采集审计的方法，其特征在于，所述方法包括以下步骤：
采集审计数据：在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储；
上报审计数据：基于客户端现有日常数据的上报策略，将所述审计数据随同客户端的日常数据一并打包发送到数据采集服务器端；
存放审计数据：在数据采集服务器端上对所述日常数据与所述审计数据进行分离处理后，按上报日期来对所述日常数据与所述审计数据进行分区存放；
比对原始审计数据：在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
2.根据权利要求1所述的方法，其特征在于，所述采集审计数据的步骤具体包括：在客户端上每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。
3.根据权利要求1所述的方法，其特征在于，所述存放审计数据的步骤具体包括以下步骤：
在数据采集服务器端上通过Flume系统对所述日常数据与所述审计数据进行分离处理后，按上报日期来将所述日常数据与所述审计数据存入HDFS系统对应的分区中；
设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表对应的分区中，以得到相应的审计统计日表。
4.根据权利要求3所述的方法，其特征在于，所述比对原始审计数据的步骤具体包括：在数据采集服务器端上设定每日比对任务，以比对前一天中所述审计统计日表的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
5.根据权利要求1所述的方法，其特征在于，所述方法还包括以下步骤：
比对清洗后审计数据：分别对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
6.一种数据采集审计的系统，其特征在于，所述系统包括：
审计数据采集模块，用于在客户端上对每一事件的产生次数进行每日数据审计统计，以获得相应的审计数据，并进行本地存储；
审计数据上报模块，用于基于客户端现有日常数据的上报策略，将所述审计数据随同客户端的日常数据一并打包发送到数据采集服务器端；
审计数据存放模块，用于在数据采集服务器端上对所述日常数据与所述审计数据进行分离处理后，按上报日期来对所述日常数据与所述审计数据进行分区存放；
原始审计数据比对模块，用于在数据采集服务器端上设定每日比对任务，以比对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据之间的一致性，并在比对结果不一致时作出预警。
7.根据权利要求6所述的系统，其特征在于，所述审计数据采集模块在客户端每次产生系统预设事件、自定义事件时，按照事件名称分别统计每一事件的发生次数，然后将统计结果写入对应日期、对应用户的本地存储中。
8.根据权利要求6所述的系统，其特征在于，所述审计数据存放模块包括：
存放处理单元，用于在数据采集服务器端上通过Flume系统对所述日常数据与所述审计数据进行分离处理后，按上报日期来将所述日常数据与所述审计数据存入HDFS系统对应的分区中；
定时统计单元，用于设定每日统计任务，将HDFS系统中存入的审计数据按上报日期导入Hive表对应的分区中，以得到相应的审计统计日表。
9.根据权利要求6所述的系统，其特征在于，所述系统还包括清洗后审计数据比对模块，用于分别对前一天中客户端上报过来的审计数据与数据采集服务器端实际统计数据进行去重计算后，再对两者进行一致性比对，并在比对结果不一致时作出预警。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如权利要求1-5任一所述的方法的步骤。
CN201710290850.3A 2017-04-28 2017-04-28 一种数据采集审计的方法及系统、计算机可读存储介质 Active CN107103086B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710290850.3A CN107103086B (zh) 2017-04-28 2017-04-28 一种数据采集审计的方法及系统、计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710290850.3A CN107103086B (zh) 2017-04-28 2017-04-28 一种数据采集审计的方法及系统、计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN107103086A CN107103086A (zh) 2017-08-29
CN107103086B true CN107103086B (zh) 2020-11-06

Family

ID=59656510

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710290850.3A Active CN107103086B (zh) 2017-04-28 2017-04-28 一种数据采集审计的方法及系统、计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN107103086B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108009787A (zh) * 2017-10-23 2018-05-08 青岛市市北区审计局 一种审计数据对比分析管理系统
CN110324208B (zh) * 2019-07-18 2022-06-10 深圳市易平方网络科技有限公司 一种数据丢失处理方法、智能终端及存储介质
CN117499923B (zh) * 2023-12-29 2024-03-15 南京邮电大学 变电站环境下的移动终端分区分时安全接入方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101022454A (zh) * 2006-02-16 2007-08-22 华为技术有限公司 一种实体间的审计方法及系统
CN101400043A (zh) * 2007-09-25 2009-04-01 中兴通讯股份有限公司 移动通信系统中前后台数据一致性比较的方法及系统
CN102156933A (zh) * 2010-02-11 2011-08-17 阿里巴巴集团控股有限公司 统计电子商务交易数据的方法和统计系统
CN103441889A (zh) * 2013-01-25 2013-12-11 刘俊 一种统计信息生成方法和系统
CN105554042A (zh) * 2016-03-01 2016-05-04 上海斐讯数据通信技术有限公司 一种UDP远程传输log的方法及系统
CN106484601A (zh) * 2015-08-24 2017-03-08 腾讯科技（深圳）有限公司 客户端的用户数据分析方法及系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080215387A1 (en) * 2005-08-22 2008-09-04 Sivakumar Muthusamy Automation of Validation Life Cycle and Providing 100% Paperless Electronic Validation Process
US9292226B2 (en) * 2013-06-24 2016-03-22 Steven Andrew Moyer Adaptive data management using volume types

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101022454A (zh) * 2006-02-16 2007-08-22 华为技术有限公司 一种实体间的审计方法及系统
CN101400043A (zh) * 2007-09-25 2009-04-01 中兴通讯股份有限公司 移动通信系统中前后台数据一致性比较的方法及系统
CN102156933A (zh) * 2010-02-11 2011-08-17 阿里巴巴集团控股有限公司 统计电子商务交易数据的方法和统计系统
CN103441889A (zh) * 2013-01-25 2013-12-11 刘俊 一种统计信息生成方法和系统
CN106484601A (zh) * 2015-08-24 2017-03-08 腾讯科技（深圳）有限公司 客户端的用户数据分析方法及系统
CN105554042A (zh) * 2016-03-01 2016-05-04 上海斐讯数据通信技术有限公司 一种UDP远程传输log的方法及系统

Also Published As

Publication number Publication date
CN107103086A (zh) 2017-08-29

Similar Documents

Publication Publication Date Title
CN107330035B (zh) 一种数据库中操作日志同步方法、移动终端以及计算机可读存储介质
CN109492073B (zh) 日志搜索方法、日志搜索装置和计算机可读存储介质
CN108509299B (zh) 消息处理方法、设备及计算机可读存储介质
CN108334539B (zh) 对象推荐方法、移动终端及计算机可读存储介质
CN107368518B (zh) 一种通知消息的管理方法及终端、计算机可读存储介质
CN107967322B (zh) 文件分类显示方法、移动终端及计算机可读存储介质
CN109905545B (zh) 一种消息处理方法及终端、计算机可读存储介质
CN108600516B (zh) 数据采集方法、移动终端及计算机可读存储介质
CN107103086B (zh) 一种数据采集审计的方法及系统、计算机可读存储介质
CN108011937B (zh) 消息推送方法、服务器、智能终端及计算机可读存储介质
CN108898428A (zh) 一种终端用户活跃指标的确定方法、服务器和存储介质
CN110633438A (zh) 一种新闻事件处理的方法、终端、服务器及存储介质
CN108322897B (zh) 卡套餐组合方法及装置
CN107480054B (zh) 一种调用链数据处理方法、设备及计算机可读存储介质
CN108846051A (zh) 数据处理方法、装置及计算机可读存储介质
EP3582450B1 (en) Message notification method and terminal
CN106502833A (zh) 数据备份方法及装置
CN112711516B (zh) 一种数据处理方法和相关装置
CN113157984A (zh) 处理方法、终端设备及存储介质
CN108063863B (zh) 一种信息浏览方法、终端、服务器和计算机可读存储介质
CN110070389B (zh) 一种业务推广统计方法、装置及计算机可读存储介质
CN112347067A (zh) 一种日志信息管控方法、设备及计算机可读存储介质
CN114817419A (zh) 基于Kafka的媒资数据存储方法、装置、电子设备及存储介质
CN108629006A (zh) 一种数据模型与数据库对象的同步方法及装置
CN106330684B (zh) 一种信息同步的方法及终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20200928

Address after: Room 109, building 1, No. 7, CaiMa East Road, Gongshu District, Hangzhou City, Zhejiang Province

Applicant after: Hangzhou Tianhan Data Management Service Co., Ltd

Address before: 518000 Guangdong Province, Shenzhen high tech Zone of Nanshan District City, No. 9018 North Central Avenue's innovation building A, 6-8 layer, 10-11 layer, B layer, C District 6-10 District 6 floor

Applicant before: NUBIA TECHNOLOGY Co.,Ltd.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20201019

Address after: Room a038, 2 / F, area 3, Zhejiang xinnongdu logistics center, Xinjie street, Xiaoshan District, Hangzhou City, Zhejiang Province

Applicant after: Hangzhou Shengmai Technology Co., Ltd

Address before: Room 109, building 1, No. 7, CaiMa East Road, Gongshu District, Hangzhou City, Zhejiang Province

Applicant before: Hangzhou Tianhan Data Management Service Co., Ltd

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant