CN112435074A - 一种新零售实时数据追踪、反馈方法和系统 - Google Patents
一种新零售实时数据追踪、反馈方法和系统 Download PDFInfo
- Publication number
- CN112435074A CN112435074A CN202011429635.5A CN202011429635A CN112435074A CN 112435074 A CN112435074 A CN 112435074A CN 202011429635 A CN202011429635 A CN 202011429635A CN 112435074 A CN112435074 A CN 112435074A
- Authority
- CN
- China
- Prior art keywords
- data
- new retail
- time
- real
- time sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000012545 processing Methods 0.000 claims abstract description 35
- 238000012800 visualization Methods 0.000 claims abstract description 18
- 238000001514 detection method Methods 0.000 claims description 70
- 230000002159 abnormal effect Effects 0.000 claims description 20
- 238000003672 processing method Methods 0.000 claims description 10
- 230000001932 seasonal effect Effects 0.000 claims description 8
- 230000002776 aggregation Effects 0.000 claims description 5
- 238000004220 aggregation Methods 0.000 claims description 5
- 238000003860 storage Methods 0.000 abstract description 7
- 238000007405 data analysis Methods 0.000 description 8
- 230000008859 change Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000005111 flow chemistry technique Methods 0.000 description 3
- 230000002688 persistence Effects 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000005465 channeling Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000011895 specific detection Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
- G06Q30/0203—Market surveys; Market polls
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
Landscapes
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Strategic Management (AREA)
- Engineering & Computer Science (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Economics (AREA)
- Marketing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Game Theory and Decision Science (AREA)
- Data Mining & Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种新零售实时数据追踪、反馈方法和系统,通过数据采集模块采集电商平台中店铺的数据,并将采集到的数据中的时序数据发送给时序数据库,时序数据库从时间纬度对时序数据存储,可视化模块时序数据进行图表可视化展现,实时反馈给用户,报警模块对时序数据匹配相应的预警策略,并将告警信息和预警信息反馈给联系人,及时告知用户特殊状况的发生,实现了时序数据库对新零售实时数据的采集、追踪到反馈的全面利用,提高了对海量新零售数据的有效存储和及时处理能力,从而能够更好地发掘新零售实时数据的价值以及便于商家及时获得店铺的信息情况。
Description
技术领域
本发明涉及新零售信息技术领域,特别是涉及一种新零售实时数据追踪、反馈方法和系统。
背景技术
近年来,随着互联网的发展、大量的电商平台涌现,为商家增添了许多新的零售渠道,也极快地促进了数字经济的发展。新零售可总结为“线上+线下+物流,其核心是以消费者为中心的会员、支付、库存、服务等方面数据的全面打通。
电商平台每日可产生海量的网购相关数据,然而对这些数据的管理和利用存在着一定缺陷:联机事务处理过程(OLTP,On-Line TransactionProcessing)负责基本业务的正常运转,再借助数据仓库等手段,离线统计分析历史业务数据积累时所产生的价值信息,可惜的是获得这些信息时延程度较高,在双十一等促销节日更不能及时地反馈数据的骤变和其中蕴含的价值意义,更无法对商品销售、库存、物流等做出及时的预警和建议,因而商家无法对商品或物流出现的情况及时发现、及时跟进、及时处理。当商家和店铺或是电商平台存在一对多关系时,商家对跨店铺的数据也无法进行统一比较,从而无法及时获取数据,造成有用信息的丢失。在试图满足客户期望时,优化服务业务流程的能力是最重要的。通道化和管理数据,以争取客户的利益以及创造利润为目标,对商家的生存至关重要。
电商平台产生的数据绝大多数是有时间纬度的大数据,而关系型数据库由于存在存储成本大、维护成本高、写入吞吐低、查询性能差等缺点,无法满足对海量时间序列数据的有效存储与快速处理。
因此,目前新零售行业普遍存在无法存储海量新零售数据、难以及时对新零售数据追踪和处理等技术难题。
发明内容
本发明的目的是提供一种新零售实时数据追踪、反馈方法和系统,通过将电商平台店铺中的数据处理,存储到时序数据库,并基于数据匹配的预警策略及时预警,从而实现新零售数据的采集、追踪到反馈的全面利用,提高对海量新零售数据的有效存储和及时处理能力。
为实现上述目的,本发明提供了如下方案:
一种新零售实时数据追踪、反馈方法,包括:
采集电商平台中店铺的新零售数据;
存储所述新零售数据中的时序数据,并给所述时序数据打上时间标签,建立新零售数据基础库;
对所述新零售数据基础库中的数据进行图表可视化展现;
建立指标阈值模型和自回归模型,对所述新零售数据基础库中的数据进行报警。
可选的,通过不同电商平台的应用程序接口采集各个店铺的新零售数据。
可选的,所述采集电商平台中店铺的新零售数据之后,根据不同的应用程序接口的类型,将所述新零售数据划分为时序数据和非时序数据;所述时序数据为消息服务接口不断推送过来的新零售数据;所述非时序数据为其他接口提供的新零售数据。
可选的,所述存储所述新零售数据中的时序数据之前,对所述时序数据进行实时流处理。
可选的,所述对所述时序数据进行实时流处理之前,将所述时序数据打入到消息队列中,缓存数据。
可选的,所述对所述新零售数据基础库中的数据进行图表可视化展现之前,需要采用定时调度的方式,定时读取所述新零售数据基础库中的数据,并对读取的数据进行聚合、预测和逻辑判断处理,将处理后的数据重新存入至所述新零售数据基础库。
可选的,所述建立指标阈值模型和自回归模型,对所述新零售数据基础库中的数据进行报警,具体包括:
调用检测处理方法,对所述新零售数据基础库中数据的进行指标检测,得到检测结果;所述检测处理方法包括阈值检测、四分位间距检测、持续性检测、水平值异常检测、波动率检测和季节性检测中的一种或多种;
采用自回归模型对所述新零售数据基础库中数据的进行指标预测,得到预测结果;
当所述检测结果出现异常时,向联系人告警,并将异常的检测结果发送给联系人,同时将所述异常的检测结果存储至所述新零售数据基础库;
当预测结果出现异常时,向联系人预警,并将异常的预测结果发送给联系人,同时将所述异常的预测结果存储至所述新零售数据基础库。
一种新零售实时数据追踪、反馈系统,包括:
数据采集模块用于采集电商平台中店铺的新零售数据;
时序数据库用于存储所述新零售数据中的时序数据,并给所述时序数据打上时间标签,建立新零售数据基础库;
可视化模块用于对所述新零售数据基础库中的数据进行图表可视化展现;
报警模块用于建立指标阈值模型和自回归模型,对所述新零售数据基础库中的数据进行报警。
可选的,还包括数据分类模块,所述数据分类模块位于所述采集模块和所述时序数据库之间,所述数据分类模块用于根据不同的应用程序接口的类型,将所述新零售数据划分为时序数据和非时序数据;所述时序数据为消息服务接口不断推送过来的新零售数据;所述非时序数据为其他接口提供的新零售数据。
可选的,还包括数据缓存模块,所述数据缓存模块位于所述数据分类模块和所述时序数据库之间,所述数据缓存模块用于将所述时序数据打入到消息队列中,缓存数据;
可选的,还包括流处理模块,所述流处理模块位于所述数据缓存模块和所述时序数据库之间,所述流处理模块用于对所述新零售数据中的时序数据进行实时流处理。
可选的,还包括数据分析模块,所述数据分析模块位于所述时序数据库和所述可视化模块之间,所述数据分析模块用于采用定时调度的方式,定时读取所述新零售数据基础库中的数据,并对读取的数据进行聚合、预测和逻辑判断处理,将处理后的数据重新存入至所述新零售数据基础库。
可选的,所述流处理模块、所述时序数据库和所述数据分析模块可封装为一个可复用的服务,作为数据中台。
可选的,所述数据中台还内嵌数据处理开发平台,所述数据处理开发平台基于实时数据处理引擎和函数计算引擎实现,所述数据处理开发平台用于在线地开发和发布检测处理方法;所述检测处理方法包括阈值检测、四分位间距检测、持续性检测、水平值异常检测、波动率检测和季节性检测中的一种或多种。
根据本发明提供的具体实施例,本发明公开了以下技术效果:
1.本发明提供的一种新零售实时数据追踪、反馈方法,通过采集电商平台中店铺的数据,并将采集到的数据转换成时序数据格式打入消息队列用作数据缓存,以减少数据采集模块和网关之间的数据丢失;网关将时序数据发送给时序数据库,时序数据库从时间纬度将数据记录下来,并通过可视化实时反馈给用户,同时对新零售实时数据匹配相应的预警策略,并将告警信息反馈给联系人,及时告知用户特殊状况的发生,实现了时序数据库对新零售实时数据的采集、追踪到反馈的全面利用,提高了对海量新零售数据的有效存储和及时处理能力,从而能够更好地发掘新零售实时数据的价值以及便于商家及时获得店铺的信息情况。
2.本发明提供的一种新零售实时数据追踪、反馈系统,在架构层面上来看,本发明的系统实现了应用和服务的分离,将时序数据的流处理模块、时序数据库、数据分析模块封装为一个可复用的服务,作为数据中台,在其上构建包括但不限于新零售场景的各类业务场景应用,系统具有极大的灵活性和可扩展性。
3.本发明提供的一种新零售实时数据追踪、反馈系统中还内嵌基于实时数据处理引擎和函数计算引擎实现的数据处理开发平台,用于系统开发人员和用户进行数据检测处理函数的在线开发和发布,系统的灵活程度高,更能满足用户的各种需求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例1提供的一种新零售实时数据追踪、反馈方法的方法流程图;
图2为本发明实施例1中持续性检测的检测结果示意图;
图3为本发明实施例1中水平值异常检测的检测结果示意图;
图4为本发明实施例1中波动率检测的检测结果示意图;
图5为本发明实施例1提供的一种新零售实时数据追踪、反馈系统的系统架构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种新零售实时数据追踪、反馈方法和系统,通过将流处理的新零售数据存储到时序数据库,并基于数据匹配的预警策略及时告警和预警,从而实现新零售数据的采集、追踪到反馈的全面利用,提高对海量新零售数据的有效存储和及时处理能力。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
实施例1:
新零售数据(如实时的销量、库存、物流等)有如下特点:
(1)数据源繁杂,数据量大,可多达数十亿个单独的数据点;
(2)有时间维度,按时间顺序实时产生;
(3)大部分都是结构化的数据,即表示在某个时间点的某个特征;
(4)数据存储的频率比查询的频率高出很多;
(5)已存储的数据几乎不需要更新;
(6)用户会更关注时间段维度的数据聚合值或者趋势而不是一个特定的时间点;
(7)需要对数据进行统计、可视化或是告警用户。
基于上述新零售数据的特点,结合目前现有新零售行业存在无法存储海量新零售数据、难以及时对新零售数据追踪和处理等技术问题,迫切需要一种能够针对时间序列数据来做优化的数据库系统(时间序列数据指按照时间先后顺序产生并带有时间戳的数据)。而时序数据库由于自带时间戳纬度的索引和优化,采用特殊数据存储方式,能够极大地提高时间相关数据的处理能力,相对于关系型数据库它的存储空间减半,查询速度极大的提高。对此,本发明提供了一种基于时序数据库的新零售实时数据追踪、反馈方法,如图1所示,包括:
步骤一:采集电商平台中店铺的新零售数据,具体包括:
在电商平台中的店铺授权后,通过不同电商平台的应用程序接口API采集各个店铺的新零售数据,以提供数据支撑;
步骤二:存储所述新零售数据中的时序数据,并给所述时序数据打上时间标签,建立新零售数据基础库,具体包括:
(1)根据不同的应用程序接口的类型对采集的新零售数据进行分类,将所述新零售数据划分为时序数据和非时序数据;所述时序数据为消息服务接口不断推送过来的新零售数据;所述非时序数据为其他接口提供的新零售数据;所述非时序数据存储在关系型数据库中;
(2)采用封装高性能消息队列NSQ的方式,将所述时序数据打入到消息队列中,缓存数据,防止因网关发送阻塞而造成时序数据丢失;
(3)采用Flink(Apache Flink是由Apache软件基金会开发的开源流处理框架)的方式,对消息队列中的时序数据进行实时流处理,则将流处理后的时序数据无损失地存储至时序数据库中,并给所述时序数据打上时间标签,建立新零售数据基础库。
步骤三:对所述新零售数据基础库中的数据进行图表可视化展现,具体包括:根据字段值和时间戳在所述新零售数据基础库中查询所需要展示的数据,使用图表对需要展示的数据进行可视化展现,图表的时间粒度可达秒级且随时间不断变化,例如显示商品销售量的变化时间线、商品库存的变化时间线等。
所述对所述新零售数据基础库中的数据进行图表可视化展现之前,需要采用定时调度的方式,定时读取所述新零售数据基础库中的数据,并对读取的数据进行聚合、预测和逻辑判断处理,将处理后的数据重新存入至所述新零售数据基础库。
步骤四:建立指标阈值模型和自回归模型和自回归模型,对所述新零售数据基础库中的数据进行报警,具体包括:
调用检测处理方法,对所述新零售数据基础库中数据的进行指标检测,得到检测结果;所述检测处理方法包括阈值检测、四分位间距检测、持续性检测、水平值异常检测、波动率检测和季节性检测中的一种或多种;
采用自回归模型对所述新零售数据基础库中的数据进行预测,得到预测结果;
当所述检测结果出现异常时,向联系人告警,并将异常的检测结果发送给联系人,同时将所述异常的检测结果存储至所述新零售数据基础库;
当预测结果出现异常时,向联系人预警,并将异常的预测结果发送给联系人,同时将所述异常的预测结果存储至所述新零售数据基础库。
所述阈值检测通过比较每个时间序列值与设定的阈值,检测所述新零售数据基础库中的数据。该算法简单易行,客户可按照自己的业务需求设定阈值,如对负面评价的数量设定一阈值,一旦负面评价的数量超过该阈值,就进行告警。
所述四分位间距检测的具体检测方法包括:设定间距范围[Q1-c×IQR,Q3+c×IQR],其中IQR表示四分位距,IQR是25%和75%的分位数之间的间距,IQR=Q3-Q1;c是用于确定正常范围界限的因子,默认值为3.0,限制了一个随时间变化的上下限,如果是元组(c1,c2),则c1和c2这两个因子分别用于上下限;Q1表示第一四分位数,Q3表示第三四分位数。
所述持续性检测通过检测器比较所述新零售数据基础库中的数据和所述新零售数据基础库中的数据前一个时间窗口的中值或平均值。如图2所示,通过持续性检测方法检测新零售场景中商品价格的骤降。
如图3所示,所述水平值异常检测是通过跟踪两个彼此相邻的滑动时间窗口的中值之间的差异来检测所述新零售数据基础库中的数据水平的变化。所述水平值异常检测对瞬时尖峰不敏感,可用于如持续大量购买的检测和预警。
如图4所示,所述波动率检测是通过跟踪两个彼此相邻的滑动时间窗口处的标准偏差之间的差异,来检测波动水平的变化。
由于所述新零售场景中的数据是带有时间戳的时间序列数据,且具有随季节变化的特点,因此将季节性检测应用于新零售场景中,能够避免季节或是促销活动日对商品销量的干扰。所述季节性检测通过识别季节性或是使用季节性差分来调整季节性对数据指标检测的影响。
所述自回归模型通过历史数据自回归检测不符合当前理想值的异常值,并且预测将来是否发生异常。
在新零售场景中,可对商品强制下架情况进行预警、对库存可能售罄的情况进行预警、对订单物理过程中存在的异常情况进行预警、对负面评价过多的商品进行预警、对客户申请电商平台介入的动作进行预警、对用户大量购买商品进行预警等,商户也可以自己定义预警规则。
本实施例通过采集电商平台中店铺的数据,并将采集到的数据存储至时序数据库中,时序数据库从时间纬度将数据记录下来,并通过可视化实时反馈给用户,同时对新零售实时数据匹配相应的预警策略,并将告警信息反馈给联系人,及时告知用户特殊状况的发生,实现了时序数据库对新零售实时数据的采集、对商家所拥有的多个店铺的商品销售趋势、库存、物流、退款数量、上下架商品数量等数据的追踪和反馈的全面利用,提高了对海量新零售数据的有效存储和及时处理能力,从而能够更好地发掘新零售实时数据的价值以及便于商家及时获得店铺的信息情况。
实施例2:
如图5所示,本发明还提供了一种新零售实时数据追踪、反馈系统,包括:
数据采集模块用于采集电商平台中店铺的新零售数据;
时序数据库用于存储所述新零售数据中的时序数据,并给所述时序数据打上时间标签,建立新零售数据基础库;
可视化模块用于对所述新零售数据基础库中的数据进行图表可视化展现;
报警模块用于建立指标阈值模型和自回归模型,对所述新零售数据基础库中的数据进行报警。
所述数据采集模块和所述时序数据库通过网关实现数据传输。
进一步的,该系统还包括数据分类模块、数据缓存模块、流处理模块和数据分析模块;
所述数据分类模块位于所述采集模块和所述时序数据库之间,所述数据分类模块用于根据不同的应用程序接口的类型,将所述新零售数据划分为时序数据和非时序数据;所述时序数据为消息服务接口不断推送过来的新零售数据;所述非时序数据为其他接口提供的新零售数据;
所述数据缓存模块位于所述数据分类模块和所述时序数据库之间,所述数据缓存模块用于将所述时序数据打入到消息队列中,缓存数据;
所述流处理模块位于所述数据缓存模块和所述时序数据库之间,所述流处理模块用于对所述新零售数据中的时序数据进行实时流处理;
所述数据分析模块位于所述时序数据库和所述可视化模块之间,所述数据分析模块用于采用定时调度的方式,定时读取所述新零售数据基础库中的数据,并对读取的数据进行聚合、预测和逻辑判断处理,将处理后的数据重新存入至所述新零售数据基础库。
进一步的,所述流处理模块、所述时序数据库和所述数据分析模块可封装为一个可复用的服务,作为数据中台。所述数据中台通过应用程序接口API与所述可视化模块和所述报警模块通信连接。所述数据中台的构建包括但不限于新零售场景的各类业务场景应用,构建数据中台实现了系统在应用和服务上的分离,因而系统具有极大的灵活性和可扩展性。
所述数据中台还内嵌数据处理开发平台,所述数据处理开发平台基于实时数据处理引擎和函数计算引擎实现,所述数据处理开发平台用于在线地开发和发布检测处理方法,因而更能满足用户的各种需求,提高了系统的灵活性;所述检测处理方法包括阈值检测、四分位间距检测、持续性检测、水平值异常检测、波动率检测和季节性检测中的一种或多种。
本说明书中每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种新零售实时数据追踪、反馈方法,其特征在于,包括:
采集电商平台中店铺的新零售数据;
存储所述新零售数据中的时序数据,并给所述时序数据打上时间标签,建立新零售数据基础库;
对所述新零售数据基础库中的数据进行图表可视化展现;
建立指标阈值模型和自回归模型和自回归模型,对所述新零售数据基础库中的数据进行报警。
2.根据权利要求1所述的一种新零售实时数据追踪、反馈方法,其特征在于,通过不同电商平台的应用程序接口采集各个店铺的新零售数据。
3.根据权利要求1所述的一种新零售实时数据追踪、反馈方法,其特征在于,所述采集电商平台中店铺的新零售数据之后,根据不同的应用程序接口的类型,将所述新零售数据划分为时序数据和非时序数据;所述时序数据为消息服务接口不断推送过来的新零售数据;所述非时序数据为其他接口提供的新零售数据。
4.根据权利要求1所述的一种新零售实时数据追踪、反馈方法,其特征在于,所述存储所述新零售数据中的时序数据之前,对所述时序数据进行实时流处理。
5.根据权利要求4所述的一种新零售实时数据追踪、反馈方法,其特征在于,所述对所述时序数据进行实时流处理之前,将所述时序数据打入到消息队列中,缓存数据。
6.根据权利要求1所述的一种新零售实时数据追踪、反馈方法,其特征在于,所述对所述新零售数据基础库中的数据进行图表可视化展现之前,需要采用定时调度的方式,定时读取所述新零售数据基础库中的数据,并对读取的数据进行聚合、预测和逻辑判断处理,将处理后的数据重新存入至所述新零售数据基础库。
7.根据权利要求1所述的一种新零售实时数据追踪、反馈方法,其特征在于,所述建立指标阈值模型和自回归模型和自回归模型,对所述新零售数据基础库中的数据进行报警,具体包括:
调用检测处理方法,对所述新零售数据基础库中数据的指标进行检测,得到检测结果;所述检测处理方法包括阈值检测、四分位间距检测、持续性检测、水平值异常检测、波动率检测和季节性检测中的一种或多种;
采用自回归模型对所述新零售数据基础库中的数据进行预测,得到预测结果;
当所述检测结果出现异常时,向联系人告警,并将异常的检测结果发送给联系人,同时将所述异常的检测结果存储至所述新零售数据基础库;
当预测结果出现异常时,向联系人预警,并将异常的预测结果发送给联系人,同时将所述异常的预测结果存储至所述新零售数据基础库。
8.一种新零售实时数据追踪、反馈系统,其特征在于,包括:
数据采集模块用于采集电商平台中店铺的新零售数据;
时序数据库用于存储所述新零售数据中的时序数据,并给所述时序数据打上时间标签,建立新零售数据基础库;
可视化模块用于对所述新零售数据基础库中的数据进行图表可视化展现;
报警模块用于建立指标阈值模型和自回归模型和自回归模型,对所述新零售数据基础库中的数据进行报警。
9.根据权利要求8所述的一种新零售实时数据追踪、反馈系统,其特征在于,还包括数据分类模块,所述数据分类模块位于所述采集模块和所述时序数据库之间,所述数据分类模块用于根据不同的应用程序接口的类型,将所述新零售数据划分为时序数据和非时序数据;所述时序数据为消息服务接口不断推送过来的新零售数据;所述非时序数据为其他接口提供的新零售数据。
10.根据权利要求9所述的一种新零售实时数据追踪、反馈系统,其特征在于,还包括数据缓存模块,所述数据缓存模块位于所述数据分类模块和所述时序数据库之间,所述数据缓存模块用于将所述时序数据打入到消息队列中,缓存数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011429635.5A CN112435074A (zh) | 2020-12-07 | 2020-12-07 | 一种新零售实时数据追踪、反馈方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011429635.5A CN112435074A (zh) | 2020-12-07 | 2020-12-07 | 一种新零售实时数据追踪、反馈方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112435074A true CN112435074A (zh) | 2021-03-02 |
Family
ID=74691193
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011429635.5A Pending CN112435074A (zh) | 2020-12-07 | 2020-12-07 | 一种新零售实时数据追踪、反馈方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112435074A (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102385724A (zh) * | 2010-08-27 | 2012-03-21 | 上海财经大学 | 一种应用于库存管理的零配件组合需求预测信息处理方法 |
CN106709003A (zh) * | 2016-12-23 | 2017-05-24 | 长沙理工大学 | 基于Hadoop的海量日志数据处理方法 |
CN108647891A (zh) * | 2018-05-14 | 2018-10-12 | 口口相传(北京)网络技术有限公司 | 数据异常归因分析方法及装置 |
CN110264096A (zh) * | 2019-06-25 | 2019-09-20 | 浪潮卓数大数据产业发展有限公司 | 一种基于电商平台预警网络零售不正当销售行为的方法 |
CN110515810A (zh) * | 2019-09-03 | 2019-11-29 | 浪潮软件集团有限公司 | 一种基于时序数据库的数据监控日志收集及追溯方法 |
CN110704484A (zh) * | 2019-09-09 | 2020-01-17 | 华迪计算机集团有限公司 | 一种对海量实时数据流进行处理的方法及系统 |
CN110968570A (zh) * | 2018-09-28 | 2020-04-07 | 广州威阿科技有限公司 | 面向电商平台的分布式大数据挖掘系统 |
CN110991989A (zh) * | 2019-11-22 | 2020-04-10 | 广东电力交易中心有限责任公司 | 一种电力市场零售合同自动结算方法、装置及设备 |
-
2020
- 2020-12-07 CN CN202011429635.5A patent/CN112435074A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102385724A (zh) * | 2010-08-27 | 2012-03-21 | 上海财经大学 | 一种应用于库存管理的零配件组合需求预测信息处理方法 |
CN106709003A (zh) * | 2016-12-23 | 2017-05-24 | 长沙理工大学 | 基于Hadoop的海量日志数据处理方法 |
CN108647891A (zh) * | 2018-05-14 | 2018-10-12 | 口口相传(北京)网络技术有限公司 | 数据异常归因分析方法及装置 |
CN110968570A (zh) * | 2018-09-28 | 2020-04-07 | 广州威阿科技有限公司 | 面向电商平台的分布式大数据挖掘系统 |
CN110264096A (zh) * | 2019-06-25 | 2019-09-20 | 浪潮卓数大数据产业发展有限公司 | 一种基于电商平台预警网络零售不正当销售行为的方法 |
CN110515810A (zh) * | 2019-09-03 | 2019-11-29 | 浪潮软件集团有限公司 | 一种基于时序数据库的数据监控日志收集及追溯方法 |
CN110704484A (zh) * | 2019-09-09 | 2020-01-17 | 华迪计算机集团有限公司 | 一种对海量实时数据流进行处理的方法及系统 |
CN110991989A (zh) * | 2019-11-22 | 2020-04-10 | 广东电力交易中心有限责任公司 | 一种电力市场零售合同自动结算方法、装置及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021052031A1 (zh) | 基于统计四分位距的商品库存风险预警方法、系统及计算机可读存储介质 | |
US9792259B2 (en) | Systems and/or methods for interactive exploration of dependencies in streaming data | |
US20180219723A1 (en) | Automated scoring of unstructured events in information technology environments | |
US10572296B2 (en) | System and method for a data processing architecture | |
EP2709023A1 (en) | Systems and/or methods for statistical online analysis of large and potentially heterogeneous data sets | |
US11017330B2 (en) | Method and system for analysing data | |
US11201802B2 (en) | Systems and methods for providing infrastructure metrics | |
US9922257B2 (en) | Image auditing method and system | |
CN114820140A (zh) | 基于大数据分析的家具全链路数字化运营系统 | |
CN115796924A (zh) | 一种基于大数据的云平台电子商务数据处理方法及系统 | |
CN113742118B (zh) | 对数据管道中的异常进行检测的方法和系统 | |
CN117788115A (zh) | 一种物品需求信息确定方法、装置、设备及存储介质 | |
US7783509B1 (en) | Determining that a change has occured in response to detecting a burst of activity | |
US7899776B2 (en) | Explaining changes in measures thru data mining | |
US11017414B1 (en) | Efficient cross customer analytics | |
CN112435074A (zh) | 一种新零售实时数据追踪、反馈方法和系统 | |
CN117216150A (zh) | 一种基于数据仓库的数据挖掘系统 | |
CN117093617A (zh) | 轨道交通数据分析方法、系统、存储介质和电子设备 | |
CN110750549A (zh) | 一种基于大数据的车辆库存管理系统 | |
CN116664158A (zh) | 基于大数据的新型零售分析方法及系统 | |
CN114529383B (zh) | 实现税务缴纳追踪和税款流失预警方法及系统 | |
CN115860465A (zh) | 一种企业关联数据处理预警方法、系统及装置 | |
CN1489074A (zh) | 价格分析系统和方法 | |
CN114312930A (zh) | 基于日志数据的列车运行异常诊断方法和装置 | |
CA3128563A1 (en) | Commodity information pushing method, device and system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |