CN113222625A - 一种农产品检测结果的多元异构数据模型及其构建方法 - Google Patents
一种农产品检测结果的多元异构数据模型及其构建方法 Download PDFInfo
- Publication number
- CN113222625A CN113222625A CN202110615289.8A CN202110615289A CN113222625A CN 113222625 A CN113222625 A CN 113222625A CN 202110615289 A CN202110615289 A CN 202110615289A CN 113222625 A CN113222625 A CN 113222625A
- Authority
- CN
- China
- Prior art keywords
- data
- block chain
- user
- food safety
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/018—Certifying business or products
- G06Q30/0185—Product, service or business identity fraud
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- Marketing (AREA)
- Bioethics (AREA)
- Strategic Management (AREA)
- Finance (AREA)
- Economics (AREA)
- Development Economics (AREA)
- Health & Medical Sciences (AREA)
- General Business, Economics & Management (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Accounting & Taxation (AREA)
- Entrepreneurship & Innovation (AREA)
- Computing Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种农产品检测结果的多元异构数据模型及其构建方法,包括用户端、基础服务平台、联盟区块链、用户端、监控平台;联盟区块链是保证数据安全存储的关键,利用区块链数据不可篡改以及交易记录可溯源的特点,将访问数据时需要的元数据存储在区块链中,并在区块链节点上部署开发的智能合约,基础服务平台通过调用智能合约将用户数据的元数据和访问记录存储在区块链中;优点在于:本申请建立了风险监测预警模型,通过预警规则的定义生成并保存食品安全预警信息,并通过预警信息的发布规则将得到的预警信息以邮件或手机短消息的方式实时发布给相关对象,实现食品安全风险的实时监测与预警。
Description
技术领域
本发明涉及食品安全检测技术领域,尤其涉及一种农产品检测结果的多元异构数据模型及其构建方法。
背景技术
食品安全是社会的重要关注点,故而需构建能够针对食品、农产品检测结果的多元异构数据模型以更好地辅助社会监督、管理食品安全。本申请基于此提出了一种农产品检测结果的多元异构数据模型及其构建方法;
在进行食品安全风险分析数据仓库体系结构设计时,食品安全风险分析的数据仓库的体系结构能够是通过等级分级结构构成的这是因为食品安全风险分析的数据仓库架构与食品安全各个保障体系紧密相连;
建立起了基于食品安全管理、数据集成、ETL处理、食品安全风险分析数据仓库、OLAP以及客户端综合报表相关联的食品安全风险分析数据仓库体系结构。食品安全风险分析数据仓库的基础数据是从各个不同的食品管理系统而来,基于这种来源途径,基础数据明显显现了这么几个特点:结构不统一而分散、数据量大且非常不利于分析。要想从食品安全风险分析数据仓库高效地提取有利于食品监管决策信息,得需要对基础数据进行一系列的预处理操作。
食品安全风险分析数据仓库功能模块设计时,数据仓库的最终目标是要建立数据存储环境中的系统,将分析大量的数据,为决策从以前的操作环境拉出,这样不一致的,分散的运营数据转换成一个统一的,集成的信息,不同的成员单位不同部门可以在同一环境中,通过信息和数据的应用程序,发现新的问题和新的视角和新的思路和分析,然后开发出制度化的决策体系,并获得更多的有益回馈。
发明内容
本发明的目的是为了解决现有技术中的问题,而提出的一种农产品检测结果的多元异构数据模型及其构建方法。
为了实现上述目的,本发明采用了如下技术方案:一种农产品检测结果的多元异构数据模型,所述多元异构数据模型由用户端、基础服务平台、联盟区块链、监控平台组成;
所述联盟区块链是保证数据安全存储的关键,利用区块链数据不可篡改以及交易记录可溯源的特点,将访问数据时需要的元数据存储在区块链中,并在区块链节点上部署开发的智能合约;
所述基础服务平台通过调用智能合约将用户数据的元数据和访问记录存储在区块链中;
调用所述智能合约产生的交易记录会永久、不可篡改的保存在节点上,因此,通过对用户数据生成和访问的溯源,保证数据真实可信。
监控平台周期性从区块链网络中获取区块链节点在线与离线信息,通过这些数据分析系统是否处于健康状态;
系统总体架构中的用户端是数据安全存储服务的使用者,基础服务平台为用户屏蔽了服务的逻辑实现,用户端只需要通过封装好的接口便可实现数据的安全可靠且私密的存储和访问记录的溯源。
在上述的农产品检测结果的多元异构数据模型法中,
所述联盟区块链具有高可靠性和很强的扩展性,可以通过增加节点的方式应对集群存储能力不足的问题;数据以对象的形式存储在去中心化的节点中;所述基础服务平台通过这些接口实现数据的上传与检索;
所述基础服务平台处于方案的中间层,向上与用户端通信,封装了业务逻辑操作,为用户提供访问接口;向下与联盟区块链上的节点通信,调用对象网关的接口完成数据的上传操作,再生成数字摘要等元数据,执行部署在区块链节点中的智能合约将元数据存储在节点中;或通过智能合约获取元数据再调用对象网关的接口完成数据的访问操作;
用户若对基础服务平台提供的数据完整性校验和访问记录溯源接口产生质疑,也可以直接与区块链节点通信,调用智能合约完成数据完整性校验和访问记录溯源。
在上述的农产品检测结果的多元异构数据模型中,所述联盟区块链的初始化和区块同步:区块链基于P2P网络模式,不存在中心节点即每个节点地位相等,可以与其他节点直接通信,将数据广播到全网中:
a、数据存储服务提供者执行区块链初始化脚本文件启动节点,生成创世块,等待对应用户实体的区块链节点接入。启动基础服务平台程序和监控平台程序;
b、用户启动区块链节点接入联盟区块链,接入过程联盟区块链网络会对节点进行身份验证,合法的节点才会成功加入到联盟区块链。接入网络后,节点开启监听线程,等待网络中对等节点广播数据,并检查本身区块是否是最新的,如果不是则从其他节点同步区块;
c、当节点监听到广播的交易或区块数据后,如果验证交易或区块的签名有效,则进一步处理数据并转发到其他对等节点。
在上述的农产品检测结果的多元异构数据模型中,所述智能合约的部署:将摘要数据与文件位置数据存入区块链的操作需要通过调用智能合约来实现,因此建立区块链网络后,部署开发的智能合约:
a、将编写的智能合约编译成二进制码,再部署到区块链网络中;
b、用户发送访问数据、校验数据完整性、查询数据访问记录等操作时,都需要构造交易数据,并使用私钥对交易数据签名。
在上述的农产品检测结果的多元异构数据模型中,所述用户端的数据上传,为了保证数据安全性,数据上传的是密文数据,最终以文件的形式存储在去中心化的网络节点上:
a、用户在本地通过对称加密方式将数据加密为密文,再发送到基础服务平台,其中对称加密密钥由用户自己管理;
b、基础服务平台根据收到的数据生成文件,计算数据摘要值。再将文件存储到节点中,获得文件地址;
c、基础服务平台发起交易调用智能合约,将数字摘要和文件地址等信息作为元数据存储在区块链网络中;
d、区块链网络对交易达成一致。
在上述的农产品检测结果的多元异构数据模型中,数据访问时数据以多元化的对象的形式存储在各节点上,文件位置信息存储在区块链中,因此若想访问数据,需要调用智能合约获取文件位置;但是当设置数据仅允许用户本人访问时,合约函数会对调用者身份进行判断;通过交易的签名可以得到发起者的真实身份,没有私钥的情况下无法伪冒身份;
a、用户构造数据访问交易,并使用私钥对交易签名;
b、区块链节点先验证交易签名,将交易打包并广播到全网,最后区块链网络对交易达成共识;其中交易执行过程中会记录数据访问的时间,供数据所有者对访问记录溯源;
c、基础服务平台得到元数据,再从节点获取文件数据,并验证数据完整性,最后返回给客户端;
d、用户使用对称加密密钥解密获得的密文数据,得到明文。
在上述的农产品检测结果的多元异构数据模型中,所述基础服务平台的数据完整性校验:
数据完整性校验对用户的某一条数据进行校验,包括两种形式:
一种是当用户访问数据时基础服务平台会对获取到密文数据执行完整性校验;
另一种是若用户质疑基础服务平台执行数据完整性校验的正确性,这种情况下,用户首先获取到密文数据,再直接与区块链节点通信获取摘要数据;
用户在本地计算密文数据的摘要与从区块链获取到的摘要进行比对,相同则说明数据没有被篡改;由于数据管理者没有控制整个区块链网络的能力,通过去中心化保证数据完整性校验结果可信。
一种农产品检测结果的多元异构数据模型的构建方法,包括以下方法:
S1、数据预处理,本项目所使用的分析数据来自于各实验室检测的数据。数据是数据仓库分析的基础,要进行高效地食品安全风险分析联机处理和数据挖掘分析,恰当的数据预处理工作非常有必要;
a、数据导入及连接数据源;
b、数据预处理:食品检测数据作为分析对象,是食品安全风险分析系统的根本,数据预处理的过程,其中包括数据的抽取、清洗、转换、集成以及规范化(或标准化);
c、装载实现:新建一个Integration Services项目以及一个的foodSafety.dtsx的SSIS包;要进行实际的表数据处理,真正核心的是数据流操作,进入到数据流界面,需要找到OLE DB源和OLE DB目标放入到控制流里,并将它们连接起来;
上述操作为建立ETL处理框架,并未具体涉及到本食品安全风险分析数据,真正关联到食品安全风险分析数据库的数据表,则需要进入到OLE DB源编辑器,OLE DB连接管理器务必要选择食品安全风险分析数据库foodSafety,只有连接上了合适的数据库,才能处理内部的数据表;数据源处理成功之后数据存入何处则是OLE DB目标的配置的问题;
S2、创建维度表、事实表:
确定本申请的主题为食品安全事故风险分析,确定对应的食品安全问题事实表和食品安全分析维度表:食品安全风险分析时间维度表、食品安全风险分析省份维度表、食品安全风险分析食品分类维度表、食品安全风险分析问题类别维度表;
S3、多维数据集构建与处理:
根据食品安全事故风险分析主题、食品安全分析维度表、食品安全问题事实表和星型数据模式,创建食品安全风险分析数据仓库,并建立多维数据集,实现多维数据集联机处理;
建立的食品安全风险分析多维数据集,可以对数据进行多维浏览与分析,其中包括:下钻、上卷、切片、切块、旋转等操作;
S4、OLAP处理结论分析:
通过数据透视图、图表和数据透视对多维数据集进行处理,建立相关数据表OLAP,实现数据的归类汇总;
S5、构建基于联盟区块链的可信任的智能化检测数据存储平台:
在基于联盟区块链的数据安全存储方案中,用户上传的数据以文件的形式存储在区块链节点上,数据的数字摘要、文件在节点中的地址以及访问记录等存储在联盟区块链。
在上述的农产品检测结果的多元异构数据模型的构建方法中;构建多元异构数据模型还包括以下步骤:
S1、建立基于json的异构数据中心与资源共享平台:
平台通过一个向食品检测机构的异构数据接口,实现各检测机构数据的上传与整合,建立涵盖多方检测机构的食品安全数据中心;
S2、建立食品、农产品安全综合评价指标体系:
采用层次分析法,构建食品、农产品安全的综合评价指标体系,包括食品安全国际标准指标库、检测方法库、检测项目库、危害物质信息库、居民膳食营养信息库等;
S3、建立食品、农产品安全综合评价指数模型:
食品安全指数是本系统的核心,包括指数的计算、修正与归档,指数的动态定义、指数的计算公式的管理、指数的查询统计等功能;
S4、建立食品安全风险预警模型:
模型包括预警规则的定义、食品安全溯源、预警信息的发布等功能;通过预警模型能够生成并保存食品安全预警信息,并将预警信息以邮件或手机短消息的方式实时发布给相关对象(如行政管理部门、食品生产企业、检测机构、消费者)。
与现有的技术相比,本发明的优点在于:
1、本发明构建基于多元异构数据模型和联盟区块链检测平台的食品、农产品质量安全风险预警模型,解决数据格式转换带来的种种问题,可实现对多种数据格式的直接访问,并形成立体式食品安全监测联网数据体系,为综合评价指数和预警平台提供数据基础。
2、食品安全指数模型的研究是系统的核心,其主要包括食品风险度的确定、食品危害指数的计算、食品安全综合指数的计算等技术,本申请采用加权的方法予以处理,权重由层次分析法(AHP)确定。设在食品安全综合指数的指标体系中由若干个一级指标和二级指标构成,其中二级指标共有L个。采用专家成对比较的方法确定各指标之间的正互反矩阵。
3、食品、农产品安全涉及的因素非常多,而且很多要素之间存在相互联系与制约。因此本申请统计分析和数据挖掘的方法研究建立安全评价指标体系,给出各级指标的定义和计算方法。同时应用德尔菲法构建评价指标体系的计算方法,采用层次分析法和专家咨询方式计算出参与指数计算的各个指标的权重系数。通过各级指标数据的积累与分析反映具体品种食品的安全状况,每种危害物质的风险信息,以及预测食品、农产品安全状态变化趋势。
在此基础上建立风险监测预警模型,通过预警规则的定义生成并保存食品安全预警信息,并通过预警信息的发布规则将得到的预警信息以邮件或手机短消息的方式实时发布给相关对象(包括主管人员、行政管理部门、食品企业、社会大众等),实现食品安全风险的实时监测与预警。
具体实施方式
以下实施例仅处于说明性目的,而不是想要限制本发明的范围。
实施例一
本实施例提供了一种农产品检测结果的多元异构数据模型,根据数据安全存储方案的设计目标,对方案总体框架进行设计,多元异构数据模型由用户端、基础服务平台、联盟区块链、用户端、监控平台组成;
联盟区块链是保证数据安全存储的关键,利用区块链数据不可篡改以及交易记录可溯源的特点,将访问数据时需要的元数据存储在区块链中,并在区块链节点上部署开发的智能合约;
基础服务平台通过调用智能合约将用户数据的元数据和访问记录存储在区块链中;
调用智能合约产生的交易记录会永久、不可篡改的保存在节点上,因此,通过对用户数据生成和访问的溯源,保证数据真实可信。
多元异构数据模型还包括:用户端、监控平台;
联盟区块链具有高可靠性和很强的扩展性,可以通过增加节点的方式应对集群存储能力不足的问题;数据以对象的形式存储在去中心化的节点中;基础服务平台通过这些接口实现数据的上传与检索;
基础服务平台处于方案的中间层,向上与用户端通信,封装了业务逻辑操作,为用户提供访问接口;向下与联盟区块链上的节点通信,调用对象网关的接口完成数据的上传操作,再生成数字摘要等元数据,执行部署在区块链节点中的智能合约将元数据存储在节点中;或通过智能合约获取元数据再调用对象网关的接口完成数据的访问操作;
监控平台周期性从区块链网络中获取区块链节点在线与离线信息,通过这些数据分析系统是否处于健康状态;
系统总体架构中的用户端是数据安全存储服务的使用者,基础服务平台为用户屏蔽了服务的逻辑实现,用户端只需要通过封装好的接口便可实现数据的安全可靠且私密的存储和访问记录的溯源;
用户若对基础服务平台提供的数据完整性校验和访问记录溯源接口产生质疑,也可以直接与区块链节点通信,调用智能合约完成数据完整性校验和访问记录溯源。
联盟区块链的初始化和区块同步:区块链基于P2P网络模式,不存在中心节点即每个节点地位相等,可以与其他节点直接通信,将数据广播到全网中:
a、数据存储服务提供者执行区块链初始化脚本文件启动节点,生成创世块,等待对应用户实体的区块链节点接入。启动基础服务平台程序和监控平台程序;
b、用户启动区块链节点接入联盟区块链,接入过程联盟区块链网络会对节点进行身份验证,合法的节点才会成功加入到联盟区块链。接入网络后,节点开启监听线程,等待网络中对等节点广播数据,并检查本身区块是否是最新的,如果不是则从其他节点同步区块;
c、当节点监听到广播的交易或区块数据后,如果验证交易或区块的签名有效,则进一步处理数据并转发到其他对等节点。
智能合约的部署:将摘要数据与文件位置数据存入区块链的操作需要通过调用智能合约来实现,因此建立区块链网络后,部署开发的智能合约:
a、将编写的智能合约编译成二进制码,再部署到区块链网络中;
b、用户发送访问数据、校验数据完整性、查询数据访问记录等操作时,都需要构造交易数据,并使用私钥对交易数据签名。
所述用户端的数据上传,为了保证数据安全性,数据上传的是密文数据,最终以文件的形式存储在去中心化的网络节点上:
a、用户在本地通过对称加密方式将数据加密为密文,再发送到基础服务平台,其中对称加密密钥由用户自己管理;
b、基础服务平台根据收到的数据生成文件,计算数据摘要值。再将文件存储到节点中,获得文件地址;
c、基础服务平台发起交易调用智能合约,将数字摘要和文件地址等信息作为元数据存储在区块链网络中;
d、区块链网络对交易达成一致。
数据访问时数据以多元化的对象的形式存储在各节点上,文件位置信息存储在区块链中,因此若想访问数据,需要调用智能合约获取文件位置;但是当设置数据仅允许用户本人访问时,合约函数会对调用者身份进行判断;通过交易的签名可以得到发起者的真实身份,没有私钥的情况下无法伪冒身份;
a、用户构造数据访问交易,并使用私钥对交易签名;
b、区块链节点先验证交易签名,将交易打包并广播到全网,最后区块链网络对交易达成共识;其中交易执行过程中会记录数据访问的时间,供数据所有者对访问记录溯源;
c、基础服务平台得到元数据,再从节点获取文件数据,并验证数据完整性,最后返回给客户端;
d、用户使用对称加密密钥解密获得的密文数据,得到明文。
基础服务平台的数据完整性校验:
数据完整性校验对用户的某一条数据进行校验,包括两种形式:
一种是当用户访问数据时基础服务平台会对获取到密文数据执行完整性校验;
另一种是若用户质疑基础服务平台执行数据完整性校验的正确性,这种情况下,用户首先获取到密文数据,再直接与区块链节点通信获取摘要数据;
用户在本地计算密文数据的摘要与从区块链获取到的摘要进行比对,相同则说明数据没有被篡改;由于数据管理者没有控制整个区块链网络的能力,通过去中心化保证数据完整性校验结果可信。
食品安全风险分析数据仓库构建方案:
a、主题设计:传统的数据库开发是面向某种具体的运用,为了解决某种处理业务需要,拥有反映具体数据流特点,与具体业务所关联的文档或单据有很好的对应关系。但在食品安全风险分析数据仓库中,主要为决策分析处理的需要,针对食品安全相关管理部门的主要需求,必须通过与之相关的“主题”来组织。根据食品安全风险分析决策支持系统的需求,可以确定本系统的主题为“食品、农产品检测结果的多元异构数据模型”。
b、数据模型设计:星型模型就是一个大的食品安全事故事实表通过外键和各个小维度表相连接,这样查询起来方便,但是可能会有不少的冗余数据。雪花模型其实和星型模型相差不是太大,它是星型模型的扩展形式,维度表外面还能通过外键再连接别的维度表,看起来像雪花形状,所以叫做雪花模型。混合模型也很好理解,它是以上两种模型的结合,使用的比较广泛,只是混合模型的表必须是高度规范化的表。基于以上各种数据模型的优缺点以及结合本文食品安全问题数据的特点,本项目采用了星型模型建立数据模型。
c、粒度设计:数据仓库的数据粒度是全面的,为了挖掘出更有价值,更有意义的信息,更精细的数据的必须采用Analysis Services这种方式。然而全部数据都采用细粒度的数据也是不好的。这是因为,细粒度需要的空间更大,相对来说,响应时间也会增长,但是对于食品安全风险分析数据仓库来说,大部分数据都采用一般粒度即可,只有少部分数据涉及到细粒度,为了快速响应,需要不同大小的粒度相互结合,最终该数据结构以形成一个多粒度模式。
构建基于多元异构数据模型和联盟区块链检测平台的食品、农产品质量安全风险预警模型。实现了以下4个关键技术:
基于json的异构数据中心与资源共享平台。平台通过一个向食品检测机构的异构数据接口,实现各检测机构数据的上传与整合,建立涵盖多方检测机构的食品安全数据中心。
食品、农产品安全综合评价指标体系。采用层次分析法,构建食品、农产品安全的综合评价指标体系,包括食品安全国际标准指标库、检测方法库、检测项目库、危害物质信息库、居民膳食营养信息库等。
食品、农产品安全综合评价指数模型。食品安全指数是本系统的核心,包括指数的计算、修正与归档,指数的动态定义、指数的计算公式的管理、指数的查询统计等功能。
食品安全风险预警模型。模型包括预警规则的定义、食品安全溯源、预警信息的发布等功能。通过预警模型能够生成并保存食品安全预警信息,并将预警信息以邮件或手机短消息的方式实时发布给相关对象(如行政管理部门、食品生产企业、检测机构、消费者等)。
实施例二
本实施例提供了一种农产品检测结果的多元异构数据模型的构建方法,包括以下方法:
S1数据预处理:
a、数据导入及连接数据源;
b、数据预处理:食品检测数据作为分析对象,是食品安全风险分析系统的根本,数据预处理的过程,其中包括数据的抽取、清洗、转换、集成以及规范化(或标准化);
c、装载实现:新建一个Integration Services项目以及一个的foodSafety.dtsx的SSIS包;要进行实际的表数据处理,真正核心的是数据流操作,进入到数据流界面,需要找到OLE DB源和OLE DB目标放入到控制流里,并将它们连接起来;
上述操作为建立ETL处理框架,并未具体涉及到本食品安全风险分析数据,真正关联到食品安全风险分析数据库的数据表,则需要进入到OLE DB源编辑器,OLE DB连接管理器务必要选择食品安全风险分析数据库foodSafety,只有连接上了合适的数据库,才能处理内部的数据表;数据源处理成功之后数据存入何处则是OLE DB目标的配置的问题;
S2、创建维度表、事实表:
确定本申请的主题为食品安全事故风险分析,确定对应的食品安全问题事实表和食品安全分析维度表:食品安全风险分析时间维度表、食品安全风险分析省份维度表、食品安全风险分析食品分类维度表、食品安全风险分析问题类别维度表;
S3、多维数据集构建与处理:
根据食品安全事故风险分析主题、食品安全分析维度表、食品安全问题事实表和星型数据模式,创建食品安全风险分析数据仓库,并建立多维数据集,实现多维数据集联机处理;
建立的食品安全风险分析多维数据集,可以对数据进行多维浏览与分析,其中包括:下钻、上卷、切片、切块、旋转等操作;
S4、OLAP处理结论分析:
通过数据透视图、图表和数据透视对多维数据集进行处理,建立相关数据表OLAP,实现数据的归类汇总;
S5、构建基于联盟区块链的可信任的智能化检测数据存储平台:
在基于联盟区块链的数据安全存储方案中,用户上传的数据以文件的形式存储在区块链节点上,数据的数字摘要、文件在节点中的地址以及访问记录等存储在联盟区块链。
构建多元异构数据模型还包括以下步骤:
S1、建立基于json的异构数据中心与资源共享平台:
平台通过一个向食品检测机构的异构数据接口,实现各检测机构数据的上传与整合,建立涵盖多方检测机构的食品安全数据中心;
S2、建立食品、农产品安全综合评价指标体系:
采用层次分析法,构建食品、农产品安全的综合评价指标体系,包括食品安全国际标准指标库、检测方法库、检测项目库、危害物质信息库、居民膳食营养信息库等;
S3、建立食品、农产品安全综合评价指数模型:
食品安全指数是本系统的核心,包括指数的计算、修正与归档,指数的动态定义、指数的计算公式的管理、指数的查询统计等功能;
S4、建立食品安全风险预警模型:
模型包括预警规则的定义、食品安全溯源、预警信息的发布等功能;通过预警模型能够生成并保存食品安全预警信息,并将预警信息以邮件或手机短消息的方式实时发布给相关对象(如行政管理部门、食品生产企业、检测机构、消费者)。
构建基于多元异构数据模型和联盟区块链检测平台的食品、农产品质量安全风险预警模型。1)基于json的异构数据中心与资源共享平台:为了真正实现数据共享使用,解决数据格式转换带来的种种问题,我们提出一种基于json的异构数据库共享平台,可实现对多种数据格式的直接访问,并形成立体式食品安全监测联网数据体系,为综合评价指数和预警平台提供数据基础。四层体系结构模式包括:业务系统层;服务系统层;标准、安全、技术层;通信与存储层。
食品安全综合评价指数模型:食品安全指数模型的研究是此系统的核心,其主要包括食品风险度的确定、食品危害指数的计算、食品安全综合指数的计算等技术。a、食品风险度的确定:风险因子,包括微生物污染、农药残留、食品添加剂和重金属残留等,摄入过量都会对人体造成一定程度的损害。在此可对其危害程度进行比较。b、食品危害指数的计算:根据居民的膳食结构,选取Ⅳ种食物和膨种危害因子作为食品质量指数计算的原始数据。c、食品安全综合指数的计算。作为反映待测省市食品安全总体情况的综合指标,FSI既要反映食品质量检测情况,又要体现食品安全的其他情况,如食源性疾病发生率,食物中毒事故发生率,消费者食品安全度,突发性食物安全事件,抽检合格率等。这些因素有些是定性的,定量因素之间也存在量纲上的不同,因此我们采用加权的方法予以处理,权重由层次分析法(AHP)确定。设在食品安全综合指数的指标体系中由若干个一级指标和二级指标构成,其中二级指标共有L个。采用专家成对比较的方法确定各指标之间的正互反矩阵。
3)食品、农产品安全综合评价指标体系和风险监测预警:食品、农产品安全的综合评价的关键是建立一套科学的、可行的评价指标体系。由于食品、农产品安全涉及的因素非常多,而且很多要素之间存在相互联系与制约。为此,我们利用统计分析和数据挖掘的方法研究建立安全评价指标体系,给出各级指标的定义和计算方法。同时应用德尔菲法构建评价指标体系的计算方法,采用层次分析法和专家咨询方式计算出参与指数计算的各个指标的权重系数。通过各级指标数据的积累与分析反映具体品种食品的安全状况,每种危害物质的风险信息,以及预测食品、农产品安全状态变化趋势。在此基础上建立风险监测预警模型,通过预警规则的定义生成并保存食品安全预警信息,并通过预警信息的发布规则将得到的预警信息以邮件或手机短消息的方式实时发布给相关对象(包括主管人员、行政管理部门、食品企业、社会大众等),实现食品安全风险的实时监测与预警。
最后,还需要注意的是,以上列举的仅是本发明的若干个具体实施例。显然,本发明不限于以上实施例,本领域的普通技术人员能从本发明公开的内容直接导出或联想到的所有技术方案,均应认为在本发明的保护范围之内。
Claims (9)
1.一种农产品检测结果的多元异构数据模型,其特征在于,所述多元异构数据模型由基础服务平台、联盟区块链、用户端、监控平台组成;
所述联盟区块链是保证数据安全存储的关键,利用区块链数据不可篡改以及交易记录可溯源的特点,将访问数据时需要的元数据存储在区块链中,并在区块链节点上部署开发的智能合约;
所述基础服务平台通过调用智能合约将用户数据的元数据和访问记录存储在区块链中;
调用所述智能合约产生的交易记录会永久、不可篡改的保存在节点上;
监控平台周期性从区块链网络中获取区块链节点在线与离线信息,通过这些数据分析系统是否处于健康状态;
系统总体架构中的用户端是数据安全存储服务的使用者,基础服务平台为用户屏蔽了服务的逻辑实现,用户端只需要通过封装好的接口便可实现数据的安全可靠且私密的存储和访问记录的溯源。
2.根据权利要求1所述的一种农产品检测结果的多元异构数据模型,其特征在于,
所述联盟区块链具有高可靠性和很强的扩展性,可以通过增加节点的方式应对集群存储能力不足的问题;数据以对象的形式存储在去中心化的节点中;所述基础服务平台通过这些接口实现数据的上传与检索;
所述基础服务平台处于方案的中间层,向上与用户端通信,封装了业务逻辑操作,为用户提供访问接口;向下与联盟区块链上的节点通信,调用对象网关的接口完成数据的上传操作,再生成数字摘要元数据,执行部署在区块链节点中的智能合约将元数据存储在节点中;或通过智能合约获取元数据再调用对象网关的接口完成数据的访问操作;
用户若对基础服务平台提供的数据完整性校验和访问记录溯源接口产生质疑,也可以直接与区块链节点通信,调用智能合约完成数据完整性校验和访问记录溯源。
3.根据权利要求2所述的一种农产品检测结果的多元异构数据模型,其特征在于,所述联盟区块链的初始化和区块同步:区块链基于P2P网络模式,不存在中心节点即每个节点地位相等,可以与其他节点直接通信,将数据广播到全网中:
a、数据存储服务提供者执行区块链初始化脚本文件启动节点,生成创世块,等待对应用户实体的区块链节点接入,启动基础服务平台程序和监控平台程序;
b、用户启动区块链节点接入联盟区块链,接入过程联盟区块链网络会对节点进行身份验证,合法的节点才会成功加入到联盟区块链,接入网络后,节点开启监听线程,等待网络中对等节点广播数据,并检查本身区块是否是最新的,如果不是则从其他节点同步区块;
c、当节点监听到广播的交易或区块数据后,如果验证交易或区块的签名有效,则进一步处理数据并转发到其他对等节点。
4.根据权利要求3所述的一种农产品检测结果的多元异构数据模型,其特征在于,智能合约的部署:将摘要数据与文件位置数据存入区块链的操作需要通过调用智能合约来实现,因此建立区块链网络后,部署开发的智能合约:
a、将编写的智能合约编译成二进制码,再部署到区块链网络中;
b、用户发送访问数据、校验数据完整性、查询数据访问记录操作时,都需要构造交易数据,并使用私钥对交易数据签名。
5.根据权利要求4所述的一种农产品检测结果的多元异构数据模型,其特征在于,所述用户端的数据上传,为了保证数据安全性,数据上传的是密文数据,最终以文件的形式存储在去中心化的网络节点上:
a、用户在本地通过对称加密方式将数据加密为密文,再发送到基础服务平台,其中对称加密密钥由用户自己管理;
b、基础服务平台根据收到的数据生成文件,计算数据摘要值;再将文件存储到节点中,获得文件地址;
c、基础服务平台发起交易调用智能合约,将数字摘要和文件地址信息作为元数据存储在区块链网络中;
d、区块链网络对交易达成一致。
6.根据权利要求5所述的一种农产品检测结果的多元异构数据模型,其特征在于,数据访问时数据以多元化的对象的形式存储在各节点上,文件位置信息存储在区块链中,因此若想访问数据,需要调用智能合约获取文件位置;但是当设置数据仅允许用户本人访问时,合约函数会对调用者身份进行判断;通过交易的签名可以得到发起者的真实身份,没有私钥的情况下无法伪冒身份;
a、用户构造数据访问交易,并使用私钥对交易签名;
b、区块链节点先验证交易签名,将交易打包并广播到全网,最后区块链网络对交易达成共识;其中交易执行过程中会记录数据访问的时间,供数据所有者对访问记录溯源;
c、基础服务平台得到元数据,再从节点获取文件数据,并验证数据完整性,最后返回给客户端;
d、用户使用对称加密密钥解密获得的密文数据,得到明文。
7.根据权利要求6所述的一种农产品检测结果的多元异构数据模型,其特征在于,所述基础服务平台的数据完整性校验:
数据完整性校验对用户的某一条数据进行校验,包括两种形式:
一种是当用户访问数据时基础服务平台会对获取到密文数据执行完整性校验;
另一种是若用户质疑基础服务平台执行数据完整性校验的正确性,这种情况下,用户首先获取到密文数据,再直接与区块链节点通信获取摘要数据;
用户在本地计算密文数据的摘要与从区块链获取到的摘要进行比对,相同则说明数据没有被篡改;由于数据管理者没有控制整个区块链网络的能力,通过去中心化保证数据完整性校验结果可信。
8.一种基于权利要求1-7任意一项所述的农产品检测结果的多元异构数据模型的构建方法,其特征在于;包括以下方法:
S1、数据预处理:
a、数据导入及连接数据源;
b、数据预处理:食品检测数据作为分析对象,是食品安全风险分析系统的根本,数据预处理的过程,其中包括数据的抽取、清洗、转换、集成以及规范化;
c、装载实现:新建一个Integration Services项目以及一个的foodSafety.dtsx的SSIS包;要进行实际的表数据处理,真正核心的是数据流操作,进入到数据流界面,找到OLEDB源和OLE DB目标放入到控制流里,并将它们连接起来;
上述操作为建立ETL处理框架,关联到食品安全风险分析数据库的数据表,则进入到OLE DB源编辑器,OLE DB连接管理器务必要选择食品安全风险分析数据库foodSafety;
S2、创建维度表、事实表:
确定本申请的主题为食品安全事故风险分析,确定对应的食品安全问题事实表和食品安全分析维度表:食品安全风险分析时间维度表、食品安全风险分析省份维度表、食品安全风险分析食品分类维度表、食品安全风险分析问题类别维度表;
S3、多维数据集构建与处理:
根据食品安全事故风险分析主题、食品安全分析维度表、食品安全问题事实表和星型数据模式,创建食品安全风险分析数据仓库,并建立多维数据集,实现多维数据集联机处理;
建立的食品安全风险分析多维数据集,可以对数据进行多维浏览与分析,其中包括:下钻、上卷、切片、切块、旋转操作;
S4、OLAP处理结论分析:
通过数据透视图、图表和数据透视对多维数据集进行处理,建立相关数据表OLAP,实现数据的归类汇总;
S5、构建基于联盟区块链的可信任的智能化检测数据存储平台:
在基于联盟区块链的数据安全存储方案中,用户上传的数据以文件的形式存储在区块链节点上,数据的数字摘要、文件在节点中的地址以及访问记录存储在联盟区块链。
9.根据权利要求8所述的一种农产品检测结果的多元异构数据模型的构建方法,其特征在于;构建多元异构数据模型还包括以下方法:
S1、建立基于json的异构数据中心与资源共享平台:
平台通过一个向食品检测机构的异构数据接口,实现各检测机构数据的上传与整合,建立涵盖多方检测机构的食品安全数据中心;
S2、建立食品、农产品安全综合评价指标体系:
采用层次分析法,构建食品、农产品安全的综合评价指标体系,包括食品安全国际标准指标库、检测方法库、检测项目库、危害物质信息库、居民膳食营养信息库;
S3、建立食品、农产品安全综合评价指数模型:
食品安全指数是本系统的核心,包括指数的计算、修正与归档,指数的动态定义、指数的计算公式的管理、指数的查询统计功能;
S4、建立食品安全风险预警模型:
模型包括预警规则的定义、食品安全溯源、预警信息的发布功能;通过预警模型能够生成并保存食品安全预警信息,并将预警信息以邮件或手机短消息的方式实时发布给相关对象。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110615289.8A CN113222625A (zh) | 2021-06-02 | 2021-06-02 | 一种农产品检测结果的多元异构数据模型及其构建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110615289.8A CN113222625A (zh) | 2021-06-02 | 2021-06-02 | 一种农产品检测结果的多元异构数据模型及其构建方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113222625A true CN113222625A (zh) | 2021-08-06 |
Family
ID=77082379
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110615289.8A Pending CN113222625A (zh) | 2021-06-02 | 2021-06-02 | 一种农产品检测结果的多元异构数据模型及其构建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113222625A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113961545A (zh) * | 2021-10-26 | 2022-01-21 | 北京市科学技术情报研究所 | 基于区块链的信息价值数据库构建方法 |
WO2023133716A1 (zh) * | 2022-01-12 | 2023-07-20 | 广州工商学院 | 基于危害分析与关键控制点体系的玫瑰山药果冻加工系统 |
CN116595592A (zh) * | 2023-05-18 | 2023-08-15 | 武汉淘扣网络科技有限公司 | 一种应用区块链技术的工业物联网安全管理方法及系统 |
CN116739618A (zh) * | 2023-06-19 | 2023-09-12 | 河北华烨冀科信息技术有限责任公司 | 基于区块链的变形码溯源系统以及数据处理方法 |
CN117390143A (zh) * | 2023-12-13 | 2024-01-12 | 深圳海关食品检验检疫技术中心 | 基于区块链的食品检测数据处理方法 |
CN117787792A (zh) * | 2023-12-27 | 2024-03-29 | 江苏科佳软件开发有限公司 | 一种基于医疗器械质量安全风险监管的方法及系统 |
CN118377837A (zh) * | 2024-06-26 | 2024-07-23 | 南方科技大学 | 基于区块链的数据共享方法及系统 |
CN118377683A (zh) * | 2024-06-21 | 2024-07-23 | 杭州易康信科技有限公司 | 一种基于多模态数据全生命周期归档溯源的方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109802993A (zh) * | 2018-12-13 | 2019-05-24 | 深圳市链联科技有限公司 | 一种基于供应链生态的联盟链搭建方法 |
CN111092896A (zh) * | 2019-12-23 | 2020-05-01 | 北京工商大学 | 基于优化paxos的食品溯源分布式数据同步方法 |
-
2021
- 2021-06-02 CN CN202110615289.8A patent/CN113222625A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109802993A (zh) * | 2018-12-13 | 2019-05-24 | 深圳市链联科技有限公司 | 一种基于供应链生态的联盟链搭建方法 |
CN111092896A (zh) * | 2019-12-23 | 2020-05-01 | 北京工商大学 | 基于优化paxos的食品溯源分布式数据同步方法 |
Non-Patent Citations (3)
Title |
---|
周鹏: "基于联盟区块链的数据安全存储方案设计与应用", 《中国优秀硕士学位论文全文数据库 信息科技辑》, pages 23 - 28 * |
彭小丽: ""数据仓库技术在食品安全风险分析中的研究与应用"", 《中国优秀硕士学位论文全文数据库 工程科技Ⅰ辑》, pages 1 - 2 * |
王海明等: "食品安全风险监测预警系统研究", 《中国卫生监督杂志》, vol. 17, no. 6, pages 530 - 532 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113961545A (zh) * | 2021-10-26 | 2022-01-21 | 北京市科学技术情报研究所 | 基于区块链的信息价值数据库构建方法 |
CN113961545B (zh) * | 2021-10-26 | 2022-04-26 | 北京市科学技术情报研究所 | 基于区块链的信息价值数据库构建方法 |
WO2023133716A1 (zh) * | 2022-01-12 | 2023-07-20 | 广州工商学院 | 基于危害分析与关键控制点体系的玫瑰山药果冻加工系统 |
CN116595592A (zh) * | 2023-05-18 | 2023-08-15 | 武汉淘扣网络科技有限公司 | 一种应用区块链技术的工业物联网安全管理方法及系统 |
CN116739618A (zh) * | 2023-06-19 | 2023-09-12 | 河北华烨冀科信息技术有限责任公司 | 基于区块链的变形码溯源系统以及数据处理方法 |
CN116739618B (zh) * | 2023-06-19 | 2024-01-26 | 河北华烨冀科信息技术有限责任公司 | 基于区块链的变形码溯源系统以及数据处理方法 |
CN117390143A (zh) * | 2023-12-13 | 2024-01-12 | 深圳海关食品检验检疫技术中心 | 基于区块链的食品检测数据处理方法 |
CN117390143B (zh) * | 2023-12-13 | 2024-05-03 | 深圳海关食品检验检疫技术中心 | 基于区块链的食品检测数据处理方法 |
CN117787792A (zh) * | 2023-12-27 | 2024-03-29 | 江苏科佳软件开发有限公司 | 一种基于医疗器械质量安全风险监管的方法及系统 |
CN118377683A (zh) * | 2024-06-21 | 2024-07-23 | 杭州易康信科技有限公司 | 一种基于多模态数据全生命周期归档溯源的方法 |
CN118377837A (zh) * | 2024-06-26 | 2024-07-23 | 南方科技大学 | 基于区块链的数据共享方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113222625A (zh) | 一种农产品检测结果的多元异构数据模型及其构建方法 | |
CN105554070B (zh) | 一种基于警务大数据中心服务建设的方法 | |
CN110134674B (zh) | 一种货币信贷大数据监测分析系统 | |
CN106778253A (zh) | 基于大数据的威胁情景感知信息安全主动防御模型 | |
CN109471846A (zh) | 一种基于云日志分析的云上用户行为审计系统及方法 | |
CN109840253A (zh) | 企业级大数据平台架构 | |
Beheshti et al. | iprocess: Enabling iot platforms in data-driven knowledge-intensive processes | |
CN107506898A (zh) | 一种生态治理项目信息动态管理系统及方法 | |
CN107247788A (zh) | 一种基于政府数据的综合治理服务的方法 | |
CN107103064B (zh) | 数据统计方法及装置 | |
CN101901242A (zh) | 联合的配置数据管理 | |
CN108399199A (zh) | 一种基于Spark的应用软件运行日志的收集与服务处理系统及方法 | |
US9123006B2 (en) | Techniques for parallel business intelligence evaluation and management | |
CN105303455A (zh) | 电力企业用户数据存储和分析系统 | |
CN104811506B (zh) | 基于无线传感器网络的油脂储藏远程监管系统及方法 | |
CN112181960A (zh) | 一种基于AIOps的智能运维框架系统 | |
CN111400393B (zh) | 基于多应用平台的数据处理方法和装置、存储介质 | |
CN112738040A (zh) | 一种基于dns日志的网络安全威胁检测方法、系统及装置 | |
CN117521969B (zh) | 一种基于数字孪生的智慧园区运行指数计算系统 | |
CN109784786A (zh) | 一种重要产品质量安全电子溯源数据服务系统 | |
CN111538720B (zh) | 电力行业基础数据清理的方法及系统 | |
CN115796758A (zh) | 一种工厂规则管理平台 | |
CN112822153A (zh) | 基于dns日志的可疑威胁发现方法和系统 | |
CN116961241B (zh) | 一种基于电网业务的统一应用监测平台 | |
CN113706101B (zh) | 电网项目管理智能系统架构及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |