JP6668442B2 - Sqlパケット分析を通じての異機種データベースのデータ複製および同期化エラー探知方法およびシステム - Google Patents
Sqlパケット分析を通じての異機種データベースのデータ複製および同期化エラー探知方法およびシステム Download PDFInfo
- Publication number
- JP6668442B2 JP6668442B2 JP2018203004A JP2018203004A JP6668442B2 JP 6668442 B2 JP6668442 B2 JP 6668442B2 JP 2018203004 A JP2018203004 A JP 2018203004A JP 2018203004 A JP2018203004 A JP 2018203004A JP 6668442 B2 JP6668442 B2 JP 6668442B2
- Authority
- JP
- Japan
- Prior art keywords
- database
- sql
- data
- replication
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010076 replication Effects 0.000 title claims description 73
- 238000000034 method Methods 0.000 title claims description 48
- 238000004458 analytical method Methods 0.000 title claims description 15
- 230000008859 change Effects 0.000 claims description 20
- 238000012795 verification Methods 0.000 claims description 14
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 238000011084 recovery Methods 0.000 claims description 12
- 239000000284 extract Substances 0.000 claims description 8
- 238000001514 detection method Methods 0.000 claims description 7
- 238000012360 testing method Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 5
- 230000000873 masking effect Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 claims description 5
- 238000001914 filtration Methods 0.000 claims description 2
- 230000003362 replicative effect Effects 0.000 description 7
- 238000005192 partition Methods 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/275—Synchronous replication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
30:インターネット
110:第1運営サーバー
111:ソースデータベース
120:複製サーバー
130:第2運営サーバー
131:複製データベース
121:スニッフィングモジュール
122:プロキシモジュール
123:パケット分析モジュール
124:SQL選別モジュール
125:データ標準化モジュール
126:データ構造変換モジュール
127:変換データ適用モジュール
128:データ同期化検証モジュール
129:データ同期化復旧モジュール
1291:データ同期化モジュール
140、141、150、151、160、170:パケット
Claims (6)
- ソースデータベースを運営する第1運営サーバーと、
別途の加工された複製データの異種データベースを運営する第2運営サーバーと、
クライアントから前記第1運営サーバーに伝送されるネットワークストリームからソースデータベースに伝送されるSQL(Structured Query Language)を抽出してデータ構造を変換して前記第2運営サーバーに伝送する複製サーバーを含み、
前記複製サーバーは、
クライアントと前記第1運営サーバーまたはソースデータベースの間に伝送されるパケットをキャプチャーするスニッフィングモジュールと、
クライアントと前記第1運営サーバーの間でデータを中継する役割をしつつ、パケットを収集するプロキシモジュールと、
前記スニッフィングモジュールと前記プロキシモジュールによってキャプチャーされたパケットを分析して、SQLとバインド値(Bind Value)を抽出するパケット分析モジュールと、
抽出したSQLを分析して同期化および同期化検証に必要なSQL Queryを選別するSQL選別モジュールと、
抽出したSQLとバインド値(Bind Value)をソーステーブルのスキーマ(SCHEMA)と対応させてカラム値(Column−Value)構造に変換させるデータ標準化モジュールと、
複製しようとする対象システムである前記第2運営サーバーに合うデータ構造に変更作業を遂行するデータ構造変換モジュールと、
変換されたデータを前記第2運営サーバーに伝送する変換データ適用モジュールを具備し、
ソースデータベースと対象異種データベースを一致させることを特徴とする、SQLパケット分析を通じての異種データベースのデータ複製および同期化エラー探知システム。 - 前記複製サーバーは
クライアントから前記第1運営サーバーに伝送されるネットワークストリームからソースデータベース(Source Database)に伝送されるSQL(Structured Query Language)およびその実行結果を抽出して、前記第2運営サーバーにSQLを伝送して得た結果と比較することによってソースデータベースと複製データベース間の同期化エラーを探知する機能をさらに含むことを特徴とする、請求項1に記載のSQLパケット分析を通じての異種データベースのデータ複製および同期化エラー探知システム。 - 複製サーバーが、クライアントがソースデータベースを運営する第1運営サーバーに伝送するネットワークパケットをキャプチャーする段階と、
前記複製サーバーが、キャプチャーしたネットワークパケットの中からパケットフィルタリングを通じてSQLを抽出してデータベース変更SQLを選別する段階と、
前記複製サーバーが、前記選別したデータベース変更SQLを、テーブルスキーマ(Table schema)を基準としてカラム値(Column−value)構造に変換し、カラム値(Column−value)構造をキー値(key−value)構造に変更する段階と、
複製対象データベースがテストデータベースであれば、前記複製サーバーが、複製システムに設定された敏感情報カラム(Column)値を基準としてマスキングキー値(key−value)をマスキング(masking)処理し、複製対象データベースが関係型データベース(RDBMS)であれば、標準SQLに変換し、複製対象データベースがNoSQL基盤の文書基盤データベース(Document base DBMS)であれば、キー値(key−value)構造をJSON(JavaScript(登録商標) Object Notation)形式の文書(document)に変換する段階と、
前記複製サーバーが、データ構造変換が完了したデータを第2運営サーバーに伝送する段階と、を含む、
SQLパケット分析を通じての異種データベースのデータ複製および同期化エラー探知方法。 - 前記方法は、
前記複製サーバーが、前記抽出したSQLの中から同期化検証に必要なクエリを選別し、前記選別したクエリを複製データベースで実行した後、抽出された実行結果と前記ソースデータベースのクエリ実行結果を比較して同期化エラーを探知する段階と、
前記複製サーバーが、前記実行結果を比較して同期化エラーを探知すると、前記実行結果を利用してデータ変更SQLを生成し、前記生成したデータ変更SQLを複製データベースに実行してソースデータベースと複製データベースを一致させる段階と、
をさらに含む、
請求項3に記載のSQLパケット分析を通じての異種データベースのデータ複製および同期化エラー探知方法。 - 前記同期化エラーを探知する段階は、
クエリが復旧用クエリである場合、前記複製サーバーが、クエリ結果を利用して複製データベースに伝送するDML(Data Manipulation Language)を生成する段階と、
前記複製サーバーが、生成したDMLを複製データベースに伝送して復旧する段階と、
同期化エラーが探知され、クエリが検査用クエリである場合、前記複製サーバーが、同期化エラーを復旧する段階と、
を含む、
請求項4に記載のSQLパケット分析を通じての異種データベースのデータ複製および同期化エラー探知方法。 - 前記復旧する段階は
前記複製サーバーが、直接ソースデータベースを読み込んで複製データベースに同期化(sync)作業を遂行して復旧することを特徴とする、
請求項5に記載のSQLパケット分析を通じての異種データベースのデータ複製および同期化エラー探知方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2017-0178652 | 2017-12-22 | ||
KR1020170178652A KR101917806B1 (ko) | 2017-12-22 | 2017-12-22 | Sql 패킷분석을 통한 이기종 데이터베이스의 데이터 복제 및 동기화 오류 탐지 방법 및 시스템 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019114240A JP2019114240A (ja) | 2019-07-11 |
JP6668442B2 true JP6668442B2 (ja) | 2020-03-18 |
Family
ID=64024428
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018203004A Active JP6668442B2 (ja) | 2017-12-22 | 2018-10-29 | Sqlパケット分析を通じての異機種データベースのデータ複製および同期化エラー探知方法およびシステム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11157512B2 (ja) |
JP (1) | JP6668442B2 (ja) |
KR (1) | KR101917806B1 (ja) |
GB (1) | GB2569675A (ja) |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11328081B2 (en) * | 2018-10-16 | 2022-05-10 | Sap Se | Consent-based data privacy management system |
US11204940B2 (en) * | 2018-11-16 | 2021-12-21 | International Business Machines Corporation | Data replication conflict processing after structural changes to a database |
KR102124954B1 (ko) * | 2018-12-20 | 2020-06-19 | 주식회사 엘지씨엔에스 | 이기종 데이터베이스 관리 시스템을 동시 지원하기 위한 IoT 플랫폼 시스템 및 그 동작 방법 |
KR102174957B1 (ko) * | 2019-01-24 | 2020-11-05 | 주식회사 웨어밸리 | 관계형 데이터베이스의 DML문장을 NoSQL 데이터베이스로 동기화하기 위한 트랜잭션 제어 방법 |
US11138061B2 (en) * | 2019-02-28 | 2021-10-05 | Netapp Inc. | Method and apparatus to neutralize replication error and retain primary and secondary synchronization during synchronous replication |
CN110309184B (zh) | 2019-07-10 | 2021-05-25 | 中国民航信息网络股份有限公司 | 一种航空运价数据的缓存方法及系统 |
CN110362630B (zh) * | 2019-07-19 | 2023-11-28 | 深圳前海微众银行股份有限公司 | 数据管理方法、装置、设备与计算机可读存储介质 |
US11461324B2 (en) * | 2019-08-29 | 2022-10-04 | Oracle International Corporation | First futamura projection in the context of SQL expression evaluation |
US11650841B2 (en) | 2019-11-26 | 2023-05-16 | Walmart Apollo, Llc | Data mover |
CN112988883B (zh) * | 2019-12-16 | 2023-03-10 | 金篆信科有限责任公司 | 数据库的数据同步方法、装置以及存储介质 |
CN111177244A (zh) * | 2019-12-24 | 2020-05-19 | 四川文轩教育科技有限公司 | 面向多个异构数据库的数据关联分析方法 |
CN111209298A (zh) * | 2020-01-06 | 2020-05-29 | 平安科技(深圳)有限公司 | 查询数据库数据的方法、装置、设备和存储介质 |
KR102410251B1 (ko) * | 2020-02-28 | 2022-06-24 | (주)시즐 | 관계형 데이터베이스 구조를 이용한 비관계형 데이터베이스 장치 및 데이터 정형화 방법 |
CN111427787B (zh) * | 2020-03-26 | 2023-05-30 | 杭州小影创新科技股份有限公司 | 一种异构数据库业务数据同步测试方法 |
US11960623B2 (en) * | 2020-03-27 | 2024-04-16 | EMC IP Holding Company LLC | Intelligent and reversible data masking of computing environment information shared with external systems |
CN111666338B (zh) * | 2020-05-26 | 2023-08-15 | 中国工商银行股份有限公司 | 数据复制方法、控制节点及电子设备 |
WO2022028486A1 (zh) * | 2020-08-04 | 2022-02-10 | 中国人民银行数字货币研究所 | 共享文件的方法、装置和系统 |
US11522975B2 (en) * | 2020-10-09 | 2022-12-06 | Sap Se | Double persistence layer using an in-memory map |
KR20220056453A (ko) | 2020-10-28 | 2022-05-06 | 삼성에스디에스 주식회사 | 데이터베이스 동기화를 위한 장치 및 방법 |
CN112307124A (zh) * | 2020-11-03 | 2021-02-02 | 平安普惠企业管理有限公司 | 数据库同步验证方法、装置、设备及存储介质 |
CN112685439B (zh) * | 2020-12-29 | 2023-09-22 | 上海豹云网络信息服务有限公司 | 针对风控系统的造数方法、系统、装置及存储介质 |
US11561933B2 (en) * | 2021-04-01 | 2023-01-24 | At&T Intellectual Property I, L.P. | Transformation as a service |
CN113076310A (zh) * | 2021-04-30 | 2021-07-06 | 浙江太美医疗科技股份有限公司 | 实时数据仓库的数据校验方法、系统及计算机可读介质 |
US11941142B2 (en) * | 2021-07-30 | 2024-03-26 | Sap Se | Dedicated SQL services for cross-system SQL access to an application-server-managed database |
CN113821565B (zh) * | 2021-09-10 | 2024-03-15 | 上海得帆信息技术有限公司 | 一种多数据源同步数据的方法 |
KR102522585B1 (ko) * | 2022-01-21 | 2023-04-17 | 주식회사 넥스트앤콤 | 데이터 동기화 시스템 및 그 방법 |
CN114116681B (zh) * | 2022-01-21 | 2022-07-15 | 阿里巴巴(中国)有限公司 | 数据迁移方法及装置 |
CN115129735A (zh) * | 2022-07-03 | 2022-09-30 | 中科金审(北京)科技有限公司 | 一种支持多源异构数据的统一sql查询系统 |
US11966399B1 (en) * | 2022-10-14 | 2024-04-23 | Oracle International Corporation | Processing top-K queries on data in relational database systems |
CN115563088B (zh) * | 2022-12-08 | 2023-07-25 | 广东睿江云计算股份有限公司 | 不同类型的数据库的数据迁移方法及迁移系统 |
CN117033519A (zh) * | 2023-09-28 | 2023-11-10 | 北京谷器数据科技有限公司 | 一种关系型异构数据库数据同步的方法及系统 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19536649A1 (de) * | 1995-09-30 | 1997-04-03 | Sel Alcatel Ag | Verfahren zur Kopplung von Datenbearbeitungseinheiten, Verfahren zum Steuern einer Vermittlungsstelle, Datenbearbeitungseinheit, Steuerung und Vermittlungsstelle |
JP4844743B2 (ja) * | 2004-11-08 | 2011-12-28 | 日本電気株式会社 | データ多重化システム |
US8200700B2 (en) * | 2005-02-01 | 2012-06-12 | Newsilike Media Group, Inc | Systems and methods for use of structured and unstructured distributed data |
US8751441B2 (en) * | 2008-07-31 | 2014-06-10 | Sybase, Inc. | System, method, and computer program product for determining SQL replication process |
KR101513943B1 (ko) | 2008-12-01 | 2015-04-23 | 주식회사 케이티 | 실시간 복제 환경의 데이터베이스 운용 관리 방법 및 시스템 |
US8387076B2 (en) * | 2009-07-21 | 2013-02-26 | Oracle International Corporation | Standardized database connectivity support for an event processing server |
KR20110071785A (ko) | 2009-12-21 | 2011-06-29 | 한국전자통신연구원 | 분산 데이터베이스 시스템의 데이터 복제 장치 및 방법 |
KR101191832B1 (ko) * | 2010-07-20 | 2012-10-16 | 주식회사 웨어밸리 | 네트워크 패킷 분석을 통한 데이터베이스 복제 방법 및 시스템 |
JP5994490B2 (ja) * | 2012-08-29 | 2016-09-21 | 富士通株式会社 | データ検索プログラム、データベース装置および情報処理システム |
US9009175B2 (en) * | 2013-02-04 | 2015-04-14 | Sap Se | System and method for database migration and validation |
US9454281B2 (en) * | 2014-09-03 | 2016-09-27 | Palantir Technologies Inc. | System for providing dynamic linked panels in user interface |
US10248510B2 (en) * | 2014-09-16 | 2019-04-02 | Actifio, Inc. | Guardrails for copy data storage |
US20160306864A1 (en) * | 2015-04-14 | 2016-10-20 | Don Estes & Associates, Inc. | Method and system for data synchronization |
KR101660451B1 (ko) | 2015-05-08 | 2016-09-28 | 주식회사 알티베이스 | 데이터베이스에서 압축테이블을 실시간 복제하는 장치 및 방법 |
JP2017027349A (ja) * | 2015-07-22 | 2017-02-02 | 株式会社エクサ | レプリケーションプログラム |
KR101706252B1 (ko) * | 2016-02-29 | 2017-02-13 | 주식회사 티맥스데이터 | 이기종 데이터베이스들 간의 쿼리 결과를 동기화하기 위한 방법, 서버 및 컴퓨터-판독가능 매체에 저장된 컴퓨터 프로그램 |
-
2017
- 2017-12-22 KR KR1020170178652A patent/KR101917806B1/ko active IP Right Grant
-
2018
- 2018-09-17 US US16/133,523 patent/US11157512B2/en active Active
- 2018-09-20 GB GB1815317.1A patent/GB2569675A/en not_active Withdrawn
- 2018-10-29 JP JP2018203004A patent/JP6668442B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019114240A (ja) | 2019-07-11 |
KR101917806B1 (ko) | 2018-11-12 |
US20190197174A1 (en) | 2019-06-27 |
GB201815317D0 (en) | 2018-11-07 |
GB2569675A (en) | 2019-06-26 |
US11157512B2 (en) | 2021-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6668442B2 (ja) | Sqlパケット分析を通じての異機種データベースのデータ複製および同期化エラー探知方法およびシステム | |
CN109034993B (zh) | 对账方法、设备、系统及计算机可读存储介质 | |
WO2020135048A1 (zh) | 知识图谱的数据融合方法和装置 | |
KR101917807B1 (ko) | 원본 데이터베이스의 부하를 최소화한 데이터 정합성 검증 방법 및 시스템 | |
Al-Dhaqm et al. | CDBFIP: Common database forensic investigation processes for Internet of Things | |
WO2019223228A1 (zh) | 一种分布式异构数据库的数据同步方法及装置 | |
CN112685433B (zh) | 元数据更新方法、装置、电子设备及计算机可读存储介质 | |
CN106951557B (zh) | 日志关联方法、装置和应用其的计算机系统 | |
CN107423390B (zh) | 一种基于oltp-olap混合关系型数据库系统内部的数据实时同步方法 | |
MX2012010377A (es) | Metodo, sistema y aparato para la sincronizacion de datos entre bases de datos. | |
CN105512284A (zh) | 基于事务形态数据和binlog文件的MySQL数据保护方法 | |
CN111625552B (zh) | 数据收集方法、装置、设备和可读存储介质 | |
US9047354B2 (en) | Statement categorization and normalization | |
KR101191832B1 (ko) | 네트워크 패킷 분석을 통한 데이터베이스 복제 방법 및 시스템 | |
CN109902070A (zh) | 一种面向WiFi日志数据的解析存储搜索方法 | |
CN110245037A (zh) | 一种基于日志的Hive用户操作行为还原方法 | |
CN105389378A (zh) | 一种分离式数据整合系统 | |
CN115563088B (zh) | 不同类型的数据库的数据迁移方法及迁移系统 | |
CN114510719A (zh) | 非法sql语句获取、模型训练、检测方法、装置及设备 | |
Makanju et al. | Storage and retrieval of system log events using a structured schema based on message type transformation | |
CN113032368A (zh) | 一种数据迁移方法、装置、存储介质及平台 | |
JP2000132435A (ja) | 異種データベース管理システム間のデータ整合処理装置 | |
Beyers et al. | An approach to examine the Metadata and Data of a database Management System by making use of a forensic comparison tool. | |
US12032454B2 (en) | Systems and methods for defining, capturing, and extracting data from data repositories to specification | |
Nalini et al. | Elimination of Data Redundancy before Persisting into DBMS using SVM Classification |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181029 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191021 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191203 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200204 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6668442 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |