CN111552622A - 一种行情数据的回放装置及方法 - Google Patents
一种行情数据的回放装置及方法 Download PDFInfo
- Publication number
- CN111552622A CN111552622A CN202010362681.1A CN202010362681A CN111552622A CN 111552622 A CN111552622 A CN 111552622A CN 202010362681 A CN202010362681 A CN 202010362681A CN 111552622 A CN111552622 A CN 111552622A
- Authority
- CN
- China
- Prior art keywords
- market
- data
- time
- data packet
- quotation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 19
- 238000012360 testing method Methods 0.000 claims description 17
- 238000004519 manufacturing process Methods 0.000 claims description 12
- 230000005540 biological transmission Effects 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 10
- 238000007405 data analysis Methods 0.000 claims description 6
- 230000006837 decompression Effects 0.000 claims description 4
- 238000009826 distribution Methods 0.000 claims description 4
- 230000008521 reorganization Effects 0.000 claims description 3
- 230000006798 recombination Effects 0.000 claims description 2
- 238000005215 recombination Methods 0.000 claims description 2
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000012795 verification Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 238000005553 drilling Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
- G06F11/3414—Workload generation, e.g. scripts, playback
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
Abstract
本发明公开了一种行情数据的回放装置及方法,该装置包括:行情数据录制单元,连接上级行情网关,从上级接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,并将新数据包压缩处理后写入磁盘文件;回放控制单元,用于根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,于实时回放模式下,以当前系统时间修改当前行情数据包的行情市场时间并组装成新数据包,加入发送队列;发送单元,用于等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包发送至下级客户端。
Description
技术领域
本发明涉及计算机数据分析及传输技术领域,特别是涉及一种行情数据的回放装置及方法。
背景技术
随着信息技术快速发展,各行各业的信息化建设要求逐步提高,而数据分析及传输领域的实时性及性能要求也越来越高。
以行情数据为例,随着各交易所行情提速,原单向行情小站、行情VDE合并为行情网关MDGW,原文件方式的行情改造为数据流行情模式,为用户提供更快的速度。各证券公司、基金公司接入高速数据流行情后,对应下游系统均有相应的支持,理想情况下,从网关程序、转发程序、解码程序到最终展示程序等都正常稳定工作。但一些系统的联调测试及行情演练,也是需要定期执行,目前只能依靠交易所仿真行情测试环境,并于固定时间联合测试。因而,对于内部各系统的测试周期,测试压力等都不能有效的控制,有诸多不便。
发明内容
为克服上述现有技术存在的不足,本发明之目的在于提供一种行情数据的回放装置及方法,以使券商或应用系统供应商,可以随时通过回放生产环境录制的真实行情数据来进行回放演练和测试。
为达上述目的,本发明提出一种行情数据的回放装置,包括:
行情数据录制单元,用于连接上级行情网关,从上级行情网关接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,并将新数据包压缩处理后写入磁盘文件;
回放控制单元,用于根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,以控制回放与历史生产环境行情发布频率一致,于实时回放模式下,以当前系统时间修改当前行情数据包的行情市场时间并组装成新数据包,加入发送队列,以实现任意时段任意日期的接入回放测试;
发送单元,用于等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包发送至下级客户端。
优选地,所述行情数据录制单元进一步包括:
行情数据接收单元,用于连接上级行情网关,接收行情数据;
行情数据解析单元,用于对接收的行情数据的数据包进行解析,检验所接收的行情数据的有效性;
数据包重组单元,用于将当前系统时间与该行情数据数据包重组形成新数据包,并将重组后的新数据包放入接收队列。
优选地,所述行情数据解析单元对接收的行情数据数据包进行解析,校验行情数据的有效性,若校验失败,则关闭当前连接,重新向上级行情网关发起连接以获取最新数据;若校验正常,则将该行情数据的数据包传送至所述数据包重组单元以重组数据包。
优选地,对于普通回放模式,所述回放控制单元选择录制好的行情数据文件,读取压缩数据长度的数据并进行解压,获得解压数据包;获取当前系统时间,与解压获得的录制时的系统时间的时分秒值对比计算差值,根据对比结果读取行情数据包并加入所述发送队列。
优选地,若时间差值等于零,则读取完整行情数据包,并加入到所述发送队列中;若时间差值小于零,则等待并于到达录制时的系统时间的时分秒值后,再开始读取完整行情数据包,并加入所述发送队列;若时间差值大于零,则跳过开始行情数据,直到找到行情数据包中的当前系统时间一致的时间点,从该时间点开始读取行情数据包,并加入所述发送队列。
优选地,对于实时回放模式,所述回放控制单元首先选择录制好的行情数据文件,读取压缩数据长度的数据并进行解压获得解压数据包;然后,获取解压后的数据中完整的行情数据包,并解析该行情数据包,获得行情市场时间,对比前一个行情数据包中的行情市场时间,计算时间差值,并于等待差值时间后,将当前行情数据包中行情市场时间修改为当前系统时间,并重新计算校验码,设置到行情数据包包尾,将生成的新行情数据包加入到所述发送队列。
优选地,若当前实时回放模式设置有加速回放,则将计算获得的差值时间除以预设的倍数,等待除以预设的倍数的差值时间后,将当前行情数据包中市场时间修改为当前系统时间,重新计算校验码,并设置到行情数据包包尾,将生成的新行情数据包加入到所述发送队列。
优选地,所述发送单元与多个下级客户端连接,于建立连接后,遍历发送任务,将所述发送队列的行情数据包从对应连接上发送出去,以将每个数据包发送给每个下级客户端。
为达到上述目的,本发明还提供一种行情数据的回放方法,包括如下步骤:
步骤S1,连接上级行情网关,从上级行情网关接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,对新数据包压缩处理后写入磁盘文件;
步骤S2,根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,以控制回放与历史生产环境行情发布频率一致,于实时回放模式下,以当前系统时间修改当前行情数据包的行情市场时间并组装成新数据包,加入发送队列,以实现任意时段任意日期的接入回放测试;
步骤S3,等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包逐个发送至下级客户端。
优选地,于步骤S3中,与多个下级客户端建立连接,并于多个下级客户端建立连接后,遍历发送任务,将所述发送队列的行情数据包从对应连接上发送出去,以将每个数据包发送给每个下级客户端。
与现有技术相比,本发明一种行情数据的回放装置及方法通过将真实生产环境中实时行情变化的数据录制到本地磁盘文件保存,并于指定时间进行行情回放演练及测试,回放要求与生产环境变化频率一致,或者增加压力回放,并将回放行情数据快速转发至下级节点,而数据传输过程中不允许丢包乱序,且需要确保传输过程的高效及稳定可靠,本发明通过给下游应用系统提供一个模拟的行情网关,确保压力测试或演练测试的可靠效果,另外,本发明选择TCP数据传输协议,对行情数据的存储采用压缩方式存储节省磁盘空间。
附图说明
图1为本发明一种行情数据的回放装置的系统架构图;
图2为本发明一种行情数据的回放方法的步骤流程图;
图3为本发明实施例的架构拓扑结构图;
图4为本发明实施例中行情数据录制的具体流程图;
图5为本发明实施例中普通回放模式的流程图;
图6为实时回放行情的流程图;
图7为本发明实施例中回放数据发送的流程图。
具体实施方式
以下通过特定的具体实例并结合附图说明本发明的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本发明的其它优点与功效。本发明亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本发明的精神下进行各种修饰与变更。
图1为本发明一种行情数据的回放装置的系统架构图。如图1所示,本发明一种行情数据的回放装置,包括:
行情数据录制单元10,用于连接上级行情网关,从上级行情网关接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,对新数据包压缩处理后写入磁盘文件。所述标识信息包括但不限于当前系统时间,记录标识信息后组装成的新数据包则包括新包长度、系统时间以及原数据包。
具体地,行情数据录制单元10进一步包括:
行情数据接收单元101,用于连接上级行情网关,接收行情数据。
具体地,行情数据接收单元101向上级行情网关发起连接,以与上级行情网关建立连接,在与上级行情网关建立连接后,从上级行情网关接收行情数据。
行情数据解析单元102,用于对接收的行情数据的数据包进行解析,检验所接收的行情数据的有效性。
在本发明具体实施例中,行情数据解析单元102对接收的行情数据数据包进行解析,校验行情数据的有效性;若校验失败,则说明当前上级的行情网关发送异常,则关闭当前连接,重新向上级行情网关发起连接以获取最新数据;若校验正常,则将该行情数据的数据包传送至数据包重组单元103,重组新数据包。在本发明具体实施例中,数据规范由上下级约定一致,从上级行情网关接收的行情数据包包括但不限于数据包长度、数据(数据中包含行情市场时间)以及结尾的数据校验码,行情数据解析单元102对接收的行情数据数据包进行解析的方法如下:取所述行情数据数据包的数据包头部长度,如果当前接收到的数据长度大于等于该数据包头部长度,则说明接收到一个完整数据包,根据数据包长度取出行情数据包,然后将该行情数据包包体各字节的数据相加取后三位数据,与数据包结尾校验码比较,若一致,则说明数据包正确,数据包校验正常,否则则校验失败。
数据包重组单元103,用于将当前系统时间与该行情数据数据包重组形成新数据包,并将重组后的新数据包放入接收队列。具体地说,数据包重组单元103将当前系统时间加入包头并对该行情数据数据包重新组包处理,同时设置好新的数据包长度。在本发明中,于原行情数据包中加入当前系统时间的目的,主要是为了控制回放频率。
压缩录制处理单元104,用于从接收队列获取新数据包,并对获得的数据包进行压缩处理,将压缩数据及其长度存入一录制文件中。
回放控制单元20,用于根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,于实时回放模式下,以当前系统时间修改所选行情数据文件中的行情市场时间并组装成新数据包,加入发送队列。
在本发明具体实施例中,回放模式包括普通回放模式与实时回放模式(一般预先配置),所述普通模式表示回放系统时间与行情录制时间完全一致,如周六九点开始回放周五九点的行情(也就是说行情回放的时间点相同,例如周末演练也是按照股市时间段,九点到下午三点),所述实时回放模式表示任意时间点可以回放数据,且可以设置回放速度。
对于普通回放模式,所述回放控制单元20选择录制好的行情数据文件(录制文件),打开文件,读取压缩数据长度的数据并进行解压,获得解压数据包,解压后的数据包含完整的行情数据包及录制时存入的系统时间;然后获取当前系统时间,与解压获得的录制时的系统时间的时分秒值对比计算差值,如果等于零,则表示行情时间与当前系统时间一致,则读取完整行情数据包,并加入到发送队列中,开始发送;如果时间差值小于零,表示当前系统时间未到开市行情播放时间,需要等待到达时间后,再开始读取完整行情数据包,并加入发送队列;如果时间差值大于零,则说明当前时间已经处于盘中,需要跳过开始行情数据,直到找到录制数据中的一致时间点与当前时间一致,从该时间点开始读取数据包,并加入发送队列。
对于实时回放模式,实时就是指按照原始数据包里的行情市场时间间隔,动态设置和当前系统时间一致,然后提供给下游应用使用,具体地,在实时回放模式下,所述回放控制单元20首先选择录制好的行情数据文件(本发明中,录制的文件采用日期作为文件名区分,每天对应一个行情数据文件,回放的时候,选择对应日期的文件即可),打开文件,读取压缩数据长度的数据,进行解压,获得解压数据包;然后,获取解压后的数据中完整的行情数据包,并解析此行情数据包,获得行情数据包中的行情市场时间,若不是第一个数据包,则对比前一个数据包中的行情市场时间,计算时间差值,并于等待差值时间后,将当前行情数据包中行情市场时间修改为当前系统时间,并重新计算校验码(因为行情市场时间改变则行情数据的数据包体数据,则需重新计算包尾的数据校验码,具体可根据上下级规范约定,将数据包体数据按字节累加,最后取后三位作为校验码,以保证行情数据实时,同时数据包格式正确,这样保证下级客户端接收后,能检查出完整和正确的数据包),设置到行情数据包包尾,然后将新数据包加入到发送队列,若是第一个数据包,则直接将当前行情数据包中行情市场时间修改为当前系统时间,并重新计算校验码。也就是说,实时就是以当前系统的时间作为行情市场时间,实时回放启动后立即回放录制的行情数据,且数据包中的行情市场时间也和当前系统时间一致,例如当前系统时间为13:00,录制的数据是10:00开始的,假设实时回放10:00开始的数据,将数据包中的行情市场时间自动修改为13:00开始,回放频率可以和源录制文件一致。因为数据是连续的,本发明中计算两个数据包之间的间隔,是为了保持生产数据的发送频率,同时不能直接将当前行情数据包发送出去,而需将当前行情数据包中行情市场时间修改为当前系统时间,如本实施例中不能直接将将10点数据发送出去,而需将数据包中的行情市场时间10:00自动修改为13:00,因为行情数据市场时间和当前时间差异太大,一般应用都会报警,无法作为行情演练来使用。
优选地,若当前实时回放模式设置有加速回放,则将计算获得的差值时间除以预设的倍数,等待除以预设的倍数的差值时间后,将当前行情数据包中市场时间修改为当前系统时间,并重新计算校验码,设置到行情数据包包尾,然后将新数据包加入到发送队列,这样等待时间相应减少,实现了加速回放的目的。
在实时回放模式下,做行情演练和测试时,比如下游股票软件,看到的股市行情的变化就和当前时间是一致的,各个相关系统能做很完整的联调和演练。
发送单元30,用于等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包逐个发送至下级客户端。
具体地说,当开启发送服务后,发送单元30监听端口等待下级客户端应用连接,当与下级客户端连接完成后,读取发送队列中的行情数据包,将行情数据包逐个发送至下级,发送完毕后,关闭与下级客户端的连接。
优选地,为提高性能,本发明可使用多线程处理发送队列中行情数据,即发送单元30可以与多个下级客户端连接,于建立连接后,遍历发送任务,将数据包从对应连接上发送出去,即将每个数据包发送给每个下级客户端,具体地为遍历下级客户端连接,逐个发送,例如,将每个数据包关联至所有连接,记录引用计数,组装发送任务,发送任务执行完毕后,释放资源。
图2为本发明一种行情数据的回放方法的步骤流程图。如图2所示,本发明一种行情数据的回放方法,包括如下步骤:
步骤S1,连接上级行情网关,从上级行情网关接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,对新数据包压缩处理后写入磁盘文件。
具体地,步骤S1进一步包括:
步骤S100,连接上级行情网关,接收行情数据。
具体地,向上级行情网关发起连接,以与上级行情网关建立连接,在与上级行情网关建立连接后,从上级行情网关接收行情数据。
步骤S101,对接收的行情数据的数据包进行解析,检验所接收的行情数据的有效性。
在本发明具体实施例中,对接收的行情数据数据包进行解析,校验行情数据的有效性,若校验失败,则说明当前上级的行情网关发送异常,则关闭当前连接,重新向上级行情网关发起连接以获取最新数据;若校验正常,则进入步骤S102。
步骤S102,将当前系统时间与该行情数据数据包重组形成新数据包,并将重组后的新数据包放入接收队列。具体地说,于步骤S102中,将当前系统时间加入包头并对该行情数据数据包重新组包处理。
步骤S103,从接收队列获取新数据包,并对获得的数据包进行压缩处理,将压缩数据及其长度存入一录制文件中。
步骤S2,根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,于实时回放模式下,以当前系统时间修改行情市场时间并组装成新数据包,加入发送队列。
在本发明具体实施例中,回放模式包括普通回放模式与实时回放模式,所述普通模式表示回放系统时间与行情录制时间完全一致,如周六九点开始回放周五九点的行情,所述实时回放模式表示任意时间点可以回放数据,且可以设置回放速度。
对于普通回放模式,选择录制好的行情数据文件(录制文件),打开文件,读取压缩数据长度的数据并进行解压,获得解压数据包,解压后的数据包含完整的行情数据包及录制时存入的系统时间;然后获取当前系统时间,与解压获得的录制时的系统时间的时分秒值对比计算差值,如果等于零,则表示行情时间与当前系统时间一致,则读取完整行情数据包,并加入到发送队列中,开始发送;如果时间差值小于零,表示当前时间未到开市行情播放时间,需要等待到达时间后,再开始读取完整行情数据包,并加入发送队列;如果时间差值大于零,则说明当前时间已经处于盘中,需要跳过开始行情数据,直到找到录制数据中的一致时间点与当前时间一致,从该时间点开始读取数据包,并加入发送队列。
对于实时回放模式,首先选择录制好的行情数据文件,打开文件,读取压缩数据长度的数据,进行解压,获得解压数据包;然后,获取解压后的数据中完整的行情数据包,并解析此行情数据包,获得行情市场时间,对比前一个数据包中的行情市场时间,计算时间差值,并于等待差值时间后,将当前行情数据包中行情市场时间修改为当前系统时间,并重新计算校验码,设置到行情数据包包尾,然后将新数据包加入到发送队列。
优选地,若当前实时回放模式设置有加速回放,则将计算获得的差值时间除以预设的倍数,等待除以预设的倍数的差值时间后,将当前行情数据包中市场时间修改为当前系统时间,并重新计算校验码,设置到行情数据包包尾,然后将新数据包加入到发送队列,这样等待时间相应减少,实现了加速回放的目的。
步骤S3,等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包逐个发送至下级客户端。
具体地说,当开启发送服务后,监听端口等待下级客户端应用连接,当与下级客户端连接完成后,读取发送队列中的行情数据包,将行情数据包逐个发送至下级,发送完毕后,关闭与下级客户端的连接。
优选地,为提高性能,于本发明中,可使用多线程处理发送队列中行情数据,即于步骤S3中,可与多个下级客户端连接,于多个下级客户端建立连接后,遍历发送任务,将数据包从对应连接上发送出去。
实施例
图3为本发明实施例的架构拓扑结构,其描述了三个主要的层级,图3中最上部分为上级行情网关或者上级应用,即行情数据源端。中间为本发明之行情回放装置,其接收到行情数据后录制保存到本地存储,根据选择录制数据及配置,将行情数据发送至下级应用。最下部分为下级应用,即下级客户端,其可以接收行情数据并解码展示,或者转发到其他应用系统。
本实施例可以实现从上级行情网关录制数据,并在非交易或者非工作日回放行情,供第三方系统或者应用演练测试。
图4为本发明实施例中行情数据录制的具体流程图,其过程如下:
首先,本发明之回放装置发起连接与上级行情网关建立连接,接收行情数据。
然后,解析接收的行情数据,校验数据的有效性,校验失败,则说明当前网关发送异常,关闭当前连接,重连接网关获取最新数据。
如果校验正常,则重组新数据包,将当前系统时间及数据包长度及原始行情数据包存入新数据包,然后将新数据包放入压缩队列。
最后,从接收队列获取新数据包,通过压缩处理,将压缩数据及长度存入录制文件中。
图5为本发明实施例中普通回放模式的流程图,普通模式表示,回放系统时间与行情录制时间完全一致,如周六九点开始回放周五九点的行情。回放过程如下:
首先,选择录制好的行情数据文件,打开文件,读取压缩数据长度的数据,进行解压,获得解压数据包,解压后的数据包含完整的行情数据包及录制时存入的系统时间。
然后,获取当前系统时间,与录制时的系统时间的时分秒值对比计算差值,如果等于零,表示行情时间与当前时间一致,则读取完整行情数据包,并加入到发送队列中,开始发送。如果时间差值小于零,表示当前时间未到开市行情播放时间,需要等待到达时间后,开始读取行情数据,并加入发送队列。如果时间差值大于零,则说明当前时间已经处于盘中,需要跳过开始行情数据,直到找到录制数据中的一致时间点,开始读取完整数据包,并加入发送队列。
最后,判断录制数据是否已回放完毕,回放完毕则停止。
图6为实时回放行情的流程图。在本发明中,实时回放表示,任意时间点可以回放数据,且可以设置回放速度。其回放过程如下:
首先,选择录制好的行情数据文件,打开文件,读取压缩数据长度的数据,进行解压,获得解压数据包。
然后,获取解压后的数据中完整的行情数据包,并解析此行情数据包,获得行情市场时间。对比前一个数据包中的行情市场时间,计算时间差值。
如果当前未设置加速回放,则等待差值时间后,将当前行情数据包中行情市场时间修改为当前系统时间,并重新计算校验码,设置到行情数据包包尾。然后将新数据包加入到发送队列。
如果当前设置有加速回放,则将差值时间除以设置的倍数,等待时间相应减少,然后同上一步,修改行情数据包市场时间和校验码,加入到发送队列。
最后,判断录制数据是否已回放完毕,未回放完毕,则继续读取下一个数据包直至完毕。
图7为本发明实施例中回放数据发送的流程图,其过程如下:
首先,开启发送服务,监听端口等待下级客户端应用连接。
然后,下级客户端连接完成后,开始读取发送队列中的行情数据包,将行情数据包逐个发送至下级,发送完毕后,关闭连接。
至此,以上步骤实现了行情数据从接收到录制,从回放到发送至下级客户端节点的目的。
在本发明中,通过行情数据录制单元录制的行情数据,可以在任意时间点回放,且可以设置回放速度模拟不同行情压力,可以一比一播放(与实际生产环境的行情变化频率一致,压力相同)历史生产的行情数据等,给企业特别是证券公司提供更灵活,更全面的行情演练和行情应用的测试方案
综上所述,本发明一种行情数据的回放装置及方法通过将真实生产环境中实时行情变化的数据录制到本地磁盘文件保存,并于指定时间进行行情回放演练及测试,回放要求与生产环境变化频率一致,或者增加压力回放,并将回放行情数据快速转发至下级节点,而数据传输过程中不允许丢包乱序,且需要确保传输过程的高效及稳定可靠(1.使用TCP协议,2.使用缓存,3.内部处理上做到完全保序),本发明通过给下游应用系统提供一个模拟的行情网关,确保压力测试或演练测试的可靠效果,另外,本发明选择TCP数据传输协议,对行情数据的存储采用压缩方式存储节省磁盘空间。
与现有技术相比,本发明具有如下优点:
1、本发明提供压缩方式存储行情数据,压缩率高,占用磁盘空间低。
2、本发明通过将行情市场时间自动修改为当前系统时间,实现对下游应用提供实时行情。
3、本发明支持普通模式回放,与历史生产环境行情发布频率完全一致。
4、本发明支持倍速回放,提供不同压力的行情数据。
5、本发明支持任意时段任意日期的接入测试。
6、本发明支持行情循环回放。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何本领域技术人员均可在不违背本发明的精神及范畴下,对上述实施例进行修饰与改变。因此,本发明的权利保护范围,应如权利要求书所列。
Claims (10)
1.一种行情数据的回放装置,包括:
行情数据录制单元,用于连接上级行情网关,从所述上级行情网关接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,并将新数据包压缩处理后写入磁盘文件;
回放控制单元,用于根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,以控制回放与历史生产环境行情发布频率一致,于实时回放模式下,以当前系统时间修改当前行情数据包的行情市场时间并组装成新数据包,加入发送队列,以实现任意时段任意日期的接入回放测试;
发送单元,用于等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包发送至下级客户端。
2.如权利要求1所述的一种行情数据的回放装置,其特征在于,所述行情数据录制单元进一步包括:
行情数据接收单元,用于连接所述上级行情网关,接收行情数据;
行情数据解析单元,用于对接收的行情数据的数据包进行解析,检验所接收的行情数据的有效性;
数据包重组单元,用于将当前系统时间与该行情数据数据包重组形成新数据包,并将重组后的新数据包放入接收队列。
3.如权利要求2所述的一种行情数据的回放装置,其特征在于:所述行情数据解析单元对接收的行情数据包进行解析,校验行情数据的有效性,若校验失败,则关闭当前连接,重新向上级行情网关发起连接以获取最新数据;若校验正常,则将该行情数据的行情数据包传送至所述数据包重组单元以重组数据包。
4.如权利要求3所述的一种行情数据的回放装置,其特征在于:对于普通回放模式,所述回放控制单元选择录制好的行情数据文件,读取压缩数据长度的数据并进行解压,获得解压数据包;获取当前系统时间,与解压获得的录制时的系统时间的时分秒值对比计算差值,根据对比结果读取行情数据包并加入所述发送队列。
5.如权利要求4所述的一种行情数据的回放装置,其特征在于:若时间差值等于零,则读取完整行情数据包,并加入到所述发送队列中;若时间差值小于零,则等待并于到达录制时的系统时间的时分秒值后,再开始读取完整行情数据包,并加入所述发送队列;若时间差值大于零,则跳过开始行情数据,直到找到行情数据包中的当前系统时间一致的时间点,从该时间点开始读取行情数据包,并加入所述发送队列。
6.如权利要求3所述的一种行情数据的回放装置,其特征在于:对于实时回放模式,所述回放控制单元首先选择录制好的行情数据文件,读取压缩数据长度的数据并进行解压获得解压数据包;然后,获取解压后的数据中完整的行情数据包,并解析该行情数据包,获得行情市场时间,对比前一个行情数据包中的行情市场时间,计算时间差值,并于等待差值时间后,将当前行情数据包中行情市场时间修改为当前系统时间,并重新计算校验码,设置到当前行情数据包包尾,将生成的新行情数据包加入到所述发送队列。
7.如权利要求6所述的一种行情数据的回放装置,其特征在于:若当前实时回放模式设置有加速回放,则将计算获得的差值时间除以预设的倍数,等待除以预设的倍数的差值时间后,将当前行情数据包中市场时间修改为当前系统时间,重新计算校验码,并设置到行情数据包包尾,将生成的新行情数据包加入到所述发送队列。
8.如权利要求1所述的一种行情数据的回放装置,其特征在于:所述发送单元与多个下级客户端连接,于建立连接后,遍历发送任务,将所述发送队列的行情数据包从对应连接上发送出去,以将每个数据包发送给每个下级客户端。
9.一种行情数据的回放方法,包括如下步骤:
步骤S1,连接上级行情网关,从上级行情网关接收行情数据,解析所接收的行情数据包,记录标识信息后组装成新数据包,对新数据包压缩处理后写入磁盘文件;
步骤S2,根据配置的回放模式,选择录制好的行情数据文件,解析压缩数据,于普通回放模式下,根据行情录制时间与当前系统时间比较结果读取行情数据包至发送队列,以控制回放与历史生产环境行情发布频率一致,于实时回放模式下,以当前系统时间修改当前行情数据包的行情市场时间并组装成新数据包,加入发送队列,以实现任意时段任意日期的接入回放测试;
步骤S3,等待下级客户端连接,并于下级客户端连接后,读取发送队列中的行情数据包,将行情数据包逐个发送至下级客户端。
10.如权利要求9所述的一种行情数据的回放方法,其特征在于,于步骤S3中,与多个下级客户端建立连接,并于多个下级客户端建立连接后,遍历发送任务,将所述发送队列的行情数据包从对应连接上发送出去,以将每个数据包发送给每个下级客户端。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010362681.1A CN111552622B (zh) | 2020-04-30 | 2020-04-30 | 一种行情数据的回放装置及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010362681.1A CN111552622B (zh) | 2020-04-30 | 2020-04-30 | 一种行情数据的回放装置及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111552622A true CN111552622A (zh) | 2020-08-18 |
CN111552622B CN111552622B (zh) | 2023-11-07 |
Family
ID=72008016
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010362681.1A Active CN111552622B (zh) | 2020-04-30 | 2020-04-30 | 一种行情数据的回放装置及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111552622B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112822256A (zh) * | 2020-12-31 | 2021-05-18 | 上海英方软件股份有限公司 | 一种行情文件转数据流传输的方法及装置 |
CN113609026A (zh) * | 2021-08-20 | 2021-11-05 | 盐城金堤科技有限公司 | 对服务器进行压力测试的方法和装置 |
CN114741206A (zh) * | 2022-06-09 | 2022-07-12 | 深圳华锐分布式技术股份有限公司 | 客户端数据回放处理方法、装置、设备及存储介质 |
CN115269709A (zh) * | 2022-09-30 | 2022-11-01 | 深圳华锐分布式技术股份有限公司 | 基于行情数据的查询及回放方法、装置、设备及介质 |
CN117453560A (zh) * | 2023-11-08 | 2024-01-26 | 国金证券股份有限公司 | 交易策略测试方法、装置、设备、存储介质和程序产品 |
CN117827740A (zh) * | 2024-03-05 | 2024-04-05 | 上海特高信息技术有限公司 | 一种基于fpga的模块化行情数据回放方法及回放系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104104895A (zh) * | 2013-04-09 | 2014-10-15 | 杭州海康威视数字技术股份有限公司 | 对视频数据进行录像回放的方法及硬盘录像机 |
CN106250401A (zh) * | 2016-07-18 | 2016-12-21 | 珠海格力电器股份有限公司 | 一种回放原始通讯数据的装置和方法 |
CN109245843A (zh) * | 2018-11-20 | 2019-01-18 | 成都心吉康科技有限公司 | 采集端时间同步接收端的方法及装置 |
CN109274747A (zh) * | 2018-09-29 | 2019-01-25 | 上海中畅信息科技有限公司 | 行情网关系统及其处理方法 |
CN109547430A (zh) * | 2018-11-16 | 2019-03-29 | 上海朔羡网络科技有限公司 | 一种开发服务网关系统及开发服务网关 |
CN110278260A (zh) * | 2019-06-17 | 2019-09-24 | 武汉灯塔之光科技有限公司 | 一种不同证券行情数据的转发录播方法、系统和装置 |
CN110955636A (zh) * | 2018-10-17 | 2020-04-03 | 郑州期米信息技术有限公司 | 一种立体全景式历史行情回放方法 |
-
2020
- 2020-04-30 CN CN202010362681.1A patent/CN111552622B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104104895A (zh) * | 2013-04-09 | 2014-10-15 | 杭州海康威视数字技术股份有限公司 | 对视频数据进行录像回放的方法及硬盘录像机 |
CN106250401A (zh) * | 2016-07-18 | 2016-12-21 | 珠海格力电器股份有限公司 | 一种回放原始通讯数据的装置和方法 |
CN109274747A (zh) * | 2018-09-29 | 2019-01-25 | 上海中畅信息科技有限公司 | 行情网关系统及其处理方法 |
CN110955636A (zh) * | 2018-10-17 | 2020-04-03 | 郑州期米信息技术有限公司 | 一种立体全景式历史行情回放方法 |
CN109547430A (zh) * | 2018-11-16 | 2019-03-29 | 上海朔羡网络科技有限公司 | 一种开发服务网关系统及开发服务网关 |
CN109245843A (zh) * | 2018-11-20 | 2019-01-18 | 成都心吉康科技有限公司 | 采集端时间同步接收端的方法及装置 |
CN110278260A (zh) * | 2019-06-17 | 2019-09-24 | 武汉灯塔之光科技有限公司 | 一种不同证券行情数据的转发录播方法、系统和装置 |
Non-Patent Citations (1)
Title |
---|
甘江英;徐志骏;郭绍光;: "硬件相关处理机数据回放模块研究", no. 00 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112822256A (zh) * | 2020-12-31 | 2021-05-18 | 上海英方软件股份有限公司 | 一种行情文件转数据流传输的方法及装置 |
CN112822256B (zh) * | 2020-12-31 | 2023-01-17 | 上海英方软件股份有限公司 | 一种行情文件转数据流传输的方法及装置 |
CN113609026A (zh) * | 2021-08-20 | 2021-11-05 | 盐城金堤科技有限公司 | 对服务器进行压力测试的方法和装置 |
CN113609026B (zh) * | 2021-08-20 | 2022-09-16 | 盐城金堤科技有限公司 | 对服务器进行压力测试的方法和装置 |
CN114741206A (zh) * | 2022-06-09 | 2022-07-12 | 深圳华锐分布式技术股份有限公司 | 客户端数据回放处理方法、装置、设备及存储介质 |
CN114741206B (zh) * | 2022-06-09 | 2022-09-06 | 深圳华锐分布式技术股份有限公司 | 客户端数据回放处理方法、装置、设备及存储介质 |
CN115269709A (zh) * | 2022-09-30 | 2022-11-01 | 深圳华锐分布式技术股份有限公司 | 基于行情数据的查询及回放方法、装置、设备及介质 |
CN117453560A (zh) * | 2023-11-08 | 2024-01-26 | 国金证券股份有限公司 | 交易策略测试方法、装置、设备、存储介质和程序产品 |
CN117827740A (zh) * | 2024-03-05 | 2024-04-05 | 上海特高信息技术有限公司 | 一种基于fpga的模块化行情数据回放方法及回放系统 |
CN117827740B (zh) * | 2024-03-05 | 2024-05-14 | 上海特高信息技术有限公司 | 一种基于fpga的模块化行情数据回放方法及回放系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111552622B (zh) | 2023-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111552622A (zh) | 一种行情数据的回放装置及方法 | |
US7330901B2 (en) | Data stream-distribution system and method therefor | |
CN100534071C (zh) | 为改进客户机服务器通信使用分组压缩缓冲器的方法 | |
CN101267524B (zh) | 为预定的节目恢复丢失内容的方法和数字视频记录器 | |
JP2009512279A (ja) | ストリーミングと制御処理に異なる素子を用いたメディアデータ処理 | |
US8463860B1 (en) | Scenario based scale testing | |
JPH09326796A (ja) | コンピュータネットワーク通信をシミュレートするためのテストパケットの生成方法、及びその装置 | |
US6397360B1 (en) | Method and apparatus for generating a fibre channel compliant frame | |
US20070226483A1 (en) | System and method for storing and/or transmitting emulated network flows | |
US8583269B2 (en) | Isochronous audio network software interface | |
CN111107050B (zh) | 一种配电网动模系统的分布式录波方法及装置 | |
US20040172253A1 (en) | Capture and playback web automation tool | |
US20140013007A1 (en) | Access log management method | |
WO2020029602A1 (zh) | 检测时延的方法、装置及系统 | |
US6844832B2 (en) | Input data conversion method, input data conversion program, and input data conversion system | |
CN111552626A (zh) | 使用真实事务数据测试被开发系统的方法和系统 | |
CN113612516A (zh) | 一种卫星通信数据包的压缩测试方法、系统及设备 | |
US20130129319A1 (en) | Video data processing apparatus and file management method | |
CN113438503B (zh) | 视频文件还原方法、装置、计算机设备和存储介质 | |
KR100990555B1 (ko) | 통일된 데이터 교환 및 저장 포맷을 제공하는 방법 및시스템 | |
CN106201942B (zh) | 将计算机设备间事件相关联的方法、设备及系统 | |
JP4411188B2 (ja) | オンラインシステム及び通信方法 | |
US20240137431A1 (en) | Packet sorting and reassembly circuit module | |
US20240236212A9 (en) | Packet sorting and reassembly circuit module | |
JP2003150478A (ja) | コンテンツ提供方法及びその装置と、コンテンツ提供プログラム及びそのプログラムを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |