JP6613357B2 - 統計的sqlパターン分析を通じてのsqlチューニング自動化方法およびシステム - Google Patents
統計的sqlパターン分析を通じてのsqlチューニング自動化方法およびシステム Download PDFInfo
- Publication number
- JP6613357B2 JP6613357B2 JP2018203005A JP2018203005A JP6613357B2 JP 6613357 B2 JP6613357 B2 JP 6613357B2 JP 2018203005 A JP2018203005 A JP 2018203005A JP 2018203005 A JP2018203005 A JP 2018203005A JP 6613357 B2 JP6613357 B2 JP 6613357B2
- Authority
- JP
- Japan
- Prior art keywords
- sql
- module
- database
- performance
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/217—Database tuning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
- G06F11/3419—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment by assessing time
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3452—Performance evaluation by statistical analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/12—Network monitoring probes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3027—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a bus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
- G06F2201/80—Database-specific techniques
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Computational Linguistics (AREA)
- Probability & Statistics with Applications (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Debugging And Monitoring (AREA)
Description
30:インターネット
100:運営環境
110:運営サーバー
111:データベース
120:モニタリングサーバー
121:スニッフィングモジュール
122:パケット分析モジュール
123:トランザクション分析モジュール
124:オプティマイザーモジュール
125:検証モジュール
126:リポジトリ
127:管理者コンソール
128:プロキシモジュール
141、142、143:パケット
Claims (3)
- データベースを運営する運営サーバーと、クライアントと前記運営サーバーのデータベース(Database)間に送受信されるネットワークストリームからSQL(Structured Query Language)を含むトランザクション情報および応答時間、処理結果を抽出して性能をモニタリングしつつ、性能低下の原因を探して改善案を提供するモニタリングサーバーを含む統計的SQLパターン分析を通じてのSQLチューニング自動化システムにおいて、
前記モニタリングサーバーが
クライアントと前記運営サーバー間に送受信されるパケットをキャプチャーするスニッフィングモジュールと、
クライアントと前記運営サーバー間の連結を中継しパケットを収集するプロキシモジュールと、
前記スニッフィングモジュールと前記プロキシモジュールによってキャプチャーされたパケットを分析してトランザクション情報を抽出するパケット分析モジュールと、
前記抽出したトランザクション情報からユーザー情報、接続DBMSサーバー、SQLと該当SQLで使われたテーブル、カラム、関数、データ量、条件節、ジョインテーブル、処理結果、処理時間を分析してSQL属性情報をリポジトリに保存するトランザクション分析モジュールと、
前記リポジトリに保存された処理時間の平均を基準に早いSQLグループと遅いSQLグループに区分し、同義語辞典と過去の最適化内訳を参照して同一テーブルに対するSQLの特性を分析した後、遅いSQLに早いSQLの特性を反映して改善案を提供するオプティマイジングモジュールと、
前記改善案と元のSQLを実際のデータベースで比較検証する検証モジュールと、を備え、
対象データベースの性能をモニタリングし性能低下の原因を分析して改善案を提案できることを特徴とする、統計的SQLパターン分析を通じてのSQLチューニング自動化システム。 - 性能モニタリングサーバーがユーザーとデータベース間のパケット送受信時にネットワークからパケットを獲得する第1段階と、
性能モニタリングサーバーが前記獲得したパケットを分析してトランザクション情報を抽出する第2段階と、
性能モニタリングサーバーが前記抽出したトランザクション情報からユーザー情報、接続DBMSサーバー、SQLと該当SQLで使われたテーブル、カラム、関数、データ量、条件節、ジョインテーブル、処理結果、処理時間を分析してSQL属性情報をリポジトリに保存する第3段階と、
性能モニタリングサーバーが前記リポジトリに保存された処理時間の平均を基準に早いSQLグループと遅いSQLグループに区分し、同義語辞典と過去の最適化内訳を参照して同一テーブルに対するSQLの特性を分析した後、遅いSQLに早いSQLの特性を反映して改善案を提供する第4段階と、
前記改善案を検証する第5段階と、
を含み、
監視対象データベースをモニタリングし性能低下の原因を分析して改善案を提案することを特徴とする、統計的SQLパターン分析を通じてのSQLチューニング方法。 - 前記ネットワークからパケットを獲得する第1段階は、
スニッフィングモジュールがクライアントと前記運営サーバー間に送受信されるパケットをキャプチャーするか、プロキシモジュールがクライアントと前記運営サーバー間の連結を中継しつつパケットを収集することを特徴とする、請求項2に記載の統計的SQLパターン分析を通じてのSQLチューニング方法。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20170178654 | 2017-12-22 | ||
KR10-2017-0178654 | 2017-12-22 | ||
KR10-2018-0105809 | 2018-09-05 | ||
KR1020180105809A KR102127272B1 (ko) | 2017-12-22 | 2018-09-05 | 통계적 sql 패턴 분석을 통한 sql 튜닝 자동화 방법 및 시스템 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019114241A JP2019114241A (ja) | 2019-07-11 |
JP6613357B2 true JP6613357B2 (ja) | 2019-11-27 |
Family
ID=66673812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018203005A Active JP6613357B2 (ja) | 2017-12-22 | 2018-10-29 | 統計的sqlパターン分析を通じてのsqlチューニング自動化方法およびシステム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190197140A1 (ja) |
JP (1) | JP6613357B2 (ja) |
GB (1) | GB2569678A (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110990381B (zh) * | 2019-12-02 | 2023-08-15 | 珠海格力电器股份有限公司 | 服务器的处理方法及装置、存储介质和电子装置 |
JP7406386B2 (ja) * | 2020-02-03 | 2023-12-27 | アラクサラネットワークス株式会社 | 通信監視装置、通信監視方法、及び通信監視プログラム |
CN112527620B (zh) * | 2020-12-24 | 2024-08-13 | 北京百度网讯科技有限公司 | 数据库性能分析方法及装置、电子设备、介质、产品 |
CN113986736A (zh) * | 2021-10-29 | 2022-01-28 | 重庆富民银行股份有限公司 | 基于java代理和字节码增强的慢sql监控系统及方法 |
CN113986707B (zh) * | 2021-11-03 | 2022-06-14 | 北京科杰科技有限公司 | 一种基于大数据kudu分区监控和监控慢SQL的方法 |
CN115033303A (zh) * | 2022-06-20 | 2022-09-09 | 寒武纪行歌(南京)科技有限公司 | 路面质量检测系统的性能优化方法、装置及相关产品 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100481130B1 (ko) * | 2002-11-08 | 2005-04-07 | 주식회사 웨어밸리 | 데이터베이스 시스템에 접속하지 않고 데이터베이스시스템을 모니터링하는 방법 |
US7376638B2 (en) * | 2003-12-24 | 2008-05-20 | International Business Machines Corporation | System and method for addressing inefficient query processing |
US7970755B2 (en) * | 2008-07-02 | 2011-06-28 | Oracle Int'l. Corp. | Test execution of user SQL in database server code |
-
2018
- 2018-10-05 GB GB1816283.4A patent/GB2569678A/en not_active Withdrawn
- 2018-10-23 US US16/168,665 patent/US20190197140A1/en not_active Abandoned
- 2018-10-29 JP JP2018203005A patent/JP6613357B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
US20190197140A1 (en) | 2019-06-27 |
GB2569678A (en) | 2019-06-26 |
JP2019114241A (ja) | 2019-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6613357B2 (ja) | 統計的sqlパターン分析を通じてのsqlチューニング自動化方法およびシステム | |
US11157512B2 (en) | Method and system for replicating data to heterogeneous database and detecting synchronization error of heterogeneous database through SQL packet analysis | |
US11775501B2 (en) | Trace and span sampling and analysis for instrumented software | |
CN109656999B (zh) | 大数据量的数据同步方法、设备、存储介质及装置 | |
CN109885496B (zh) | 测试日志管理方法及系统 | |
EP3864516B1 (en) | Veto-based model for measuring product health | |
CN111309550A (zh) | 应用程序的数据采集方法、系统、设备和存储介质 | |
US20090248803A1 (en) | Apparatus and method of analyzing service processing status | |
CN106941493A (zh) | 一种网络安全态势感知结果输出方法及装置 | |
CN113360554A (zh) | 一种数据抽取、转换和加载etl的方法和设备 | |
CN105930502B (zh) | 一种收集数据的系统、客户端和方法 | |
CN114979186B (zh) | 基于Flink组件的流量链接分析方法及系统 | |
KR20180068271A (ko) | 클라우드 스토리지 페더레이션 환경의 가용성 개선 방법 및 그에 따른 응용 프로그램 | |
CN112579603A (zh) | 基于cdc的数据模型动态信息感知监测方法及装置 | |
CN110011860A (zh) | 基于网络流量分析的安卓应用识别方法 | |
KR102127272B1 (ko) | 통계적 sql 패턴 분석을 통한 sql 튜닝 자동화 방법 및 시스템 | |
CN105719072B (zh) | 关联多段组件交易的系统及方法 | |
CN112764988B (zh) | 一种数据分段采集方法及装置 | |
CN103036746A (zh) | 基于网络中间点的网页响应时间被动测量方法及系统 | |
US10164819B2 (en) | Correlating web traffic events to a web page session | |
US11016821B2 (en) | Resegmenting chunks of data for efficient load balancing across indexers | |
CN112800064A (zh) | 一种基于Confluent社区开源版的实时大数据应用开发方法及系统 | |
CN110647448A (zh) | 一种移动应用操作日志数据实时分析方法、服务器和系统 | |
CN109189813B (zh) | 一种数据共享方法及装置 | |
CN116257571A (zh) | 用于Clickhouse的指标统计方法、装置和指标统计系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181029 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191007 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191015 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191101 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6613357 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |