TR2022013419A2 - ROOT CAUSE DETECTION SYSTEM THAT PREDICTATS FAILURES THROUGH REAL-TIME ERROR LOGS - Google Patents
ROOT CAUSE DETECTION SYSTEM THAT PREDICTATS FAILURES THROUGH REAL-TIME ERROR LOGSInfo
- Publication number
- TR2022013419A2 TR2022013419A2 TR2022/013419 TR2022013419A2 TR 2022013419 A2 TR2022013419 A2 TR 2022013419A2 TR 2022/013419 TR2022/013419 TR 2022/013419 TR 2022013419 A2 TR2022013419 A2 TR 2022013419A2
- Authority
- TR
- Turkey
- Prior art keywords
- log
- module
- root cause
- database
- key
- Prior art date
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 55
- 230000007257 malfunction Effects 0.000 claims abstract description 33
- 238000004458 analytical method Methods 0.000 claims description 99
- 238000000034 method Methods 0.000 claims description 40
- 238000007781 pre-processing Methods 0.000 claims description 22
- 238000004891 communication Methods 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 16
- 238000000605 extraction Methods 0.000 claims description 15
- 238000013473 artificial intelligence Methods 0.000 claims description 11
- 238000010801 machine learning Methods 0.000 claims description 10
- 230000007704 transition Effects 0.000 claims description 8
- 230000007774 longterm Effects 0.000 claims description 7
- 238000012300 Sequence Analysis Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 6
- 230000002457 bidirectional effect Effects 0.000 claims description 5
- 238000007619 statistical method Methods 0.000 claims description 5
- 230000008859 change Effects 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 claims description 2
- 230000008570 general process Effects 0.000 claims description 2
- 238000007726 management method Methods 0.000 description 16
- 238000013459 approach Methods 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012552 review Methods 0.000 description 2
- 238000013024 troubleshooting Methods 0.000 description 2
- 230000033228 biological regulation Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Abstract
Bu buluş, her türlü operasyonlar ile ilgili bilgi veren ?log? verisi (A) üreten yapıda, gelen isteklerde herhangi bir arıza ile karşılaşma durumu olup olamayacağını öngören ve oluşan arızaların kök nedenlerinin tespitini sağlayarak servis (B) kalitesini arttıran, gerçek-zamanlı hata logları üzerinden arıza tahmini yapan kök neden tespit sistemi (1) ile ilgilidir. Sistem (1) belirlenen kritik arızaların önceden öngörülmesi ve bu arızaların kök nedenlerinin analizlerinin yapılarak yüksek servis (B) kalitesi ile hizmet verilmesini sağlamaktadır.This invention includes the ?log? that provides information about all kinds of operations. It is related to the root cause detection system (1), which predicts whether there will be any malfunction in incoming requests in the structure that produces data (A), increases the quality of service (B) by detecting the root causes of the malfunctions, and predicts malfunctions through real-time error logs. . System (1) provides service with high service (B) quality by predicting identified critical malfunctions and analyzing the root causes of these malfunctions.
Description
TARIFNAME GERÇEK-ZAMANLI HATA LOGLARI ÜZERINDEN ARIZA TAHMINI YAPAN KÖK NEDEN TESPIT SISTEMI Teknik Alan Bu bulus, her türlü operasyonlar ile ilgili bilgi veren “log” verisi üreten yapida, gelen isteklerde herhangi bir ariza ile karsilasma durumu olup olamayacagini öngören ve olusan arizalarin kök nedenlerinin tespitini saglayarak servis kalitesini arttiran, gerçek- zamanli hata loglari üzerinden ariza tahmini yapan kök neden tespit sistemi ile ilgilidir. DESCRIPTION ROOT PREDICTING FAILURES THROUGH REAL-TIME ERROR LOGS WHY DETECTION SYSTEM Technical Field This invention has a structure that produces "log" data that provides information about all kinds of operations. predicting whether there may be any malfunctions in the requests and Increasing service quality by detecting the root causes of malfunctions, It is related to the root cause detection system that predicts failure through timed error logs.
Teknigin Bilinen Durumu Modern bilisim sistemlerinde çok sayida bilgisayar birlikte kullanilarak islemler dagitik olarak gerçeklestirilmektedir. Bu yaklasim, dagitik sistemlerde sistemin ölçeklenebilmesine ve ihtiyaç duyulan islemlerin sistemde yogunluga neden olmadan gerçeklestirilebilmesine olanak saglamaktadir. Bu sistemler gerçek zamanli olarak çalismasi gereken arama motorlari, sosyal aglar, e-ticaret uygulamalari gibi hizmetlerin saglanmasinda kullanilmaktadir. Bunlar arasinda milyonlarca kullaniciya hizmet veren ödeme sistemleri ve bankacilik sistemleri de bulunmaktadir. Bu sistemlerin 7/24 kesintisiz olarak çalisabilme, yüksek düzeyde ulasilabilirlik ve güvenilirlik gereksinimlerini saglamalari gerekmektedir. Bu nedenle, ortaya çikabilecek küçük sorunlar bile, sunulan servis ve uygulamalarin kesintiye ugramalarina yol açarak, önemli gelir kayiplarina neden olabilmektedir. Known Status of the Technique In modern information systems, many computers are used together to perform distributed operations. It is carried out as. This approach is used in distributed systems to be scalable and to carry out the required operations without causing congestion in the system. makes it possible to achieve this. These systems are real-time Services such as search engines, social networks, e-commerce applications that need to work It is used to provide Among these, serving millions of users There are also payment systems and banking systems. These systems are available 24/7 Uninterrupted operation, high availability and reliability must meet their requirements. Therefore, small Even problems can lead to interruption of the services and applications offered, causing significant may result in loss of income.
Sistemler, gerçeklesen islemleri, "log" olarak tanimlanan, bilgi veren mesajlar üreterek kayit altina alirlar. Böylece “log” mesajlari sistemin durumu hakkinda da bilgi tasirlar. Log mesajlarinda sistem yöneticisinin dikkatini çekmeyi gerektiren durumlarda alarmlar üretilmektedir. Bazi alarmlar, anlik müdahale gerektirmeseler de, daha büyük arizalar olusmadan önce sistemin kontrol edilmesi konusunda uyarida bulunur. Olusan arizalar sistemde geçici ya da ciddi kesintilere de yol açabildikleri için arizalarin önceden öngörülmesi sistem için oldukça önemlidir. Özellikle ödeme sistemleri ve nesnelerin interneti (Internet of Things (IoT)) aglari gibi büyük ölçekli, dagitik sistemlerde (yazilim, donanim, iletisim protokolü, vb.) heterojen teknolojilerin kullanilmasi ve standardizasyon olmamasi nedeniyle sistemi otomasyon olmadan yönetmek oldukça zordur. Bu nedenlerle, bankacilik ve IoT, ve bunun gibi uygulamalarda kesintisiz hizmet verilebilmesi için gecikme, cevap süresi, ve bunun gibi hizmet kalitesi parametrelerinin tanimlanabilmesi gerekmektedir. Systems record the transactions by producing informative messages, defined as "logs". They record it. Thus, “log” messages also carry information about the status of the system. log Alarms in situations that require the attention of the system administrator in their messages is produced. Although some alarms do not require immediate intervention, they may cause larger malfunctions. It warns to check the system before it occurs. Malfunctions that occur Prevent malfunctions as they can cause temporary or serious interruptions in the system. Prediction is very important for the system. Especially payment systems and objects In large-scale, distributed systems (software, use of heterogeneous technologies (hardware, communication protocol, etc.) and standardization It is very difficult to manage the system without automation due to its absence. This For reasons, uninterrupted service in banking, IoT, and similar applications service quality parameters such as delay, response time, etc. must be defined.
Günümüzde karsilasilan teknik problemlerden en önemlisi büyük bilisim sistemi mimarilerinde sistem kayit mesajinin ciddiyet seviyesi onulmaz hatadan, hata, uyari ve bilgi seviyesine inildikçe sistemin olusturdugu mesaj sayisi çok yüksek sayilara çikabilmektedir. Bu nedenle sistemde sorun yaratan ve kritik nedenlere bagli olabilecek hatalarin tespiti için sistemde çesitli seviyelerdeki log verileri ile ayri ayri analiz yapilabilmesi oldukça önemlidir. Günümüzde sistemin durumuna göre gerektiginde sistemde büyük bir yük yaratmadan oldukça verimli bir sekilde yalnizca onulmaz hata ve hata seviyesindeki sistem kayitlarini ve tüm log seviyelerindeki bilgilerini kullanarak ihtiyaca bagli olarak ariza ve kök neden tespitini yapan yapilanmalara ihtiyaç duyulmaktadi r. The most important technical problem encountered today is the large information system problem. In architectures, the severity level of the system log message ranges from irreparable errors, errors, warnings and As the information level decreases, the number of messages created by the system increases to very high numbers. It can come out. For this reason, it may cause problems in the system and may be due to critical reasons. Log data at various levels in the system are analyzed separately to detect errors. It is very important that it can be done. Nowadays, when necessary depending on the state of the system It only eliminates irreparable errors and errors in a highly efficient manner without creating a large load on the system. using system logs at the error level and information at all log levels Depending on the need, structures that detect malfunctions and root causes are needed. is heard.
Bir diger teknik problem sistemlerdeki sistem kayit mesajlarinin ciddiyet seviyelerinin her zaman dogru sekilde belirlenememesidir. Bu nedenle ariza olarak tespit edilecek mesaj tipi her zaman onulmaz hata olmamaktadir. Ayni zamanda onulmaz hata seviyesindeki sistem kayit mesajlari her zaman çok kritik sistem kaynakli hatalara karsilik gelmemektedir. Bu nedenle günümüzde, belirlenen hatalarin tespiti için kullanilan, sistem yöneticisi tarafindan belirlenen farkli hatalar için ariza ve kök neden tespitini gerçeklestirebilen yapilanmalara ihtiyaç duyulmaktadir. Another technical problem is that the severity levels of system log messages in the systems are different. The time is not determined accurately. Therefore, the message to be detected as a malfunction This type of error is not always irreparable. At the same time, it is at the level of irreparable error. System log messages always respond to critical system errors. It is not coming. For this reason, today, it is used to detect identified errors. fault and root cause detection for different errors determined by the system administrator There is a need for structures that can achieve this.
Bir diger teknik problem ise üretilen sistem kayit mesajlarinin sistem tarafindan otomatik olarak siniflandirilarak mesaj anahtarlarinin belirlenmesidir. Bu mesaj anahtarlarinin belirlenmesinde mesajda yer alan parametrelerden bagimsiz olarak bir sekilde dil isleme yönteminde kullanilan N-gram analiz algoritmasi gibi çesitli algoritmalar kullanilarak sistemde kayit mesaj anahtarlari belirlenmektedir. Bunun yani sira çesitli yapay zeka algoritmalari ve çesitli kümeleme algoritmalari kullanilarak da parametreden bagimsiz olacak sekilde log mesajlari otomatik olarak gruplanabilmektedir. Günümüzde, yapilan gruplamalar arasindaki benzerlikleri ayrica kontrol ederek geçmiste yapilan daha verimsiz gruplamamalarin devam etmemesini ve tekrar gruplama yapilmasini saglayan yapilanmalara ihtiyaç duyulmaktadir. Another technical problem is that the system log messages produced are not automatically processed by the system. It is to determine the message keys by classifying them as: These message keys Language processing is used to determine the information, independently of the parameters contained in the message. using various algorithms such as the N-gram analysis algorithm used in the Record message keys are determined in the system. In addition, various artificial intelligence parameters independent by using algorithms and various clustering algorithms. Log messages can be grouped automatically. Nowadays, it is done by further checking the similarities between the groupings, as has been done in the past Ensures that inefficient groupings do not continue and grouping can be done again structures are needed.
Teknigin bilinen durumunda yer alan US 9,497,072 82 numarali patent basvuru dokümaninda, ag baglantili bir bilgi islem ortaminin izlenmesi ve birden çok alarmin tek bir kök neden altinda birlestirilmesi için yöntemler açiklanmistir. Ag baglantili bir bilgisayar ortamindaki bir performans sorununa karsilik gelen bir uyarinin saptanmasina yönelik olarak, kök neden belirleme araci, ag baglantili bilgisayar ortamini izleyen çok sayida performans yönetimi aracindan çok sayida alarmi toplayabilir. Kök neden tanimlama araci daha sonra, birden çok alarma dayali olarak performans sorunuyla iliskili bir basarisizlik grafigi olusturabilir. Olusturulan basarisizlik grafiginin bir birincil yaprak dügüm grubunu belirleyebilir ve birincil yaprak dügüm kümesine dayali olarak bir basarisizlik zincirini belirleyebilir. Ilk ariza zinciriyle iliskili olmayan alarmlari bastirir (veya gizler) ve yalnizca ilk ariza zinciriyle iliskili birlestirilmis bir alarm verir. Önerilen yöntemde gelistirmeler müsteri tarafindan yapilan isteklerden bagimsiz olarak yalnizca zaman tabanli olarak gelistirilmistir. Patent application numbered US 9,497,072 82, which is in the state of the art document, monitoring a networked computing environment and reporting multiple alarms in a single Methods for combining them under a root cause are explained. a network connected detecting an alert corresponding to a performance problem in the computer environment For this purpose, the root cause detection tool uses multiple It can collect a large number of alerts from numerous performance management tools. Root cause The identification tool then encounters a performance issue based on multiple alarms. can create a correlated failure graph. The created failure graph has a primary can specify the leaf node group and create a group based on the primary leaf node cluster. can identify the chain of failure. Suppresses (or suppresses) alarms not associated with the first fault chain. hides) and only raises a consolidated alarm associated with the first fault chain. In the recommended method improvements only occur over time, regardless of requests made by the customer. It was developed based on
Teknigin bilinen durumunda yer alan US 9,772,898 B2 numarali patent basvuru dokümaninda, dagitilmis bir sistemdeki sistem arizalarinin kök nedenlerini belirlemeye yönelik yöntemler ve düzenlemelere yer verilmistir. Söz konusu yöntem asagidaki adimlari gerçeklestiren bilgisayar kodunu yürütmek için en az bir islemci kullanmaktadir. Patent application numbered US 9,772,898 B2, which is in the state of the art document, to determine the root causes of system failures in a distributed system Methods and regulations are included. The method in question is as follows It uses at least one processor to execute the computer code that performs the steps.
Bir depolama cihazinda toplanan makine durumu verilerini kaydedilmektedir. Güncel olarak toplanan veriler geçmis makine durumu verilerine eklenir. Bulus geçmis makine durumu verilerine dayali olarak saglikli bir harita modeli olusturma islemini gerçeklestirmektedir. Bulus sistemin durumunu izleyerek dagitilmis sistemde en az bir arizali makine durumunun tespit edilmesi için anlik durumu saglikli harita modeli ile karsilastirmaktadir. Bu karsilastirmaya dayali olarak en az bir temel neden belirlemektedir. Belirlenen neden görüntüleme cihazinda bir liste içerisinde gösterilmektedir. Bu bulusta anlik makine durumunu gösteren veriler kullanilmaktadir ancak bu veriler arasinda makineler üzerinde servis veren sistemlerin isteklere bagli olarak karsilastiklari hatalar degerlendirilmemektedir. Sistemin donanim performansi üzerine veriler toplanmaktadir. Bunun yani sira, saglikli sistem durumu ile karsilastirma yapilarak tespit edilen kök nedenler hatali oIabiImektedirIer. Arizalar yalnizca anda ve ortaya çiktigi bölümde gerçeklesen arizalardan kaynaklanmamaktadir. Bu nedenle ariza ile iliskili islemlerin geçmisleri bu analizin daha yüksek dogrulukla yapilmasi için incelenmelidir ancak bulus böyle bir çözüm içermemektedir. The collected machine status data is saved on a storage device. Current The data collected is added to the historical machine status data. Invented machine The process of creating a healthy map model based on state data It carries out. The invention monitors the status of the system and monitors at least one system in the distributed system. In order to detect the faulty machine status, the current status is used with the healthy map model. compares. Based on this comparison, at least one major reason determines. The identified cause is listed in a list on the imaging device. is shown. In this invention, data showing the current machine status is used. However, among these data, the systems providing service on the machines may vary depending on the requests. The errors they encounter are not evaluated. Hardware performance of the system Data is collected on it. Besides, comparison with healthy system state The root causes identified by this method may be incorrect. Malfunctions occur only at the moment and It is not caused by malfunctions in the section where it occurs. Therefore the fault The histories of transactions associated with are used to enable this analysis to be performed with greater accuracy. should be examined, but the invention does not contain such a solution.
Teknigin bilinen durumunda yer alan US 9,727,407 B2 numarali patent basvuru dokümaninda, bir bilgi islem sisteminden gelen bir dizi problem günlügü girisinde, basarisiz bir istekle ilgili olan problem günlügü girislerinin bir alt kümesi tanimlanir. AIt küme, sorun günlük girislerinin alt kümesinin referans modeldeki karsilik gelen günlük girislerinden sapan bir bölümünü belirlemek için, bilgi islem sisteminin saglikli durumu altinda istek türü basina günlük girislerini tanimlayan bir referans modeliyle karsilastirilir. Patent application numbered US 9,727,407 B2, which is in the state of the art document, a series of problem log entries from a computing system, A subset of problem log entries that are related to a failed request is identified. AIt cluster is the subset of issue log entries that correspond to the corresponding log in the reference model. the healthy state of the computing system to identify any part of it that deviates from its inputs. It is compared to a reference model below that defines log entries per request type.
Alt kümenin bölümünde, en az bir yüksek degerli günlük girisi tanimlanir. En az bir yüksek degerli günlük girisi çiktisi alinir. Sistem aIt kümeleri kullanarak sorunun temel nedenine gitmeye çalismaktadir. Bulus yalnizca basarisiz bir istekle ilgili olan alt nedenleri incelemis ancak zaman tabanli daha genis bir inceleme yapmadan bu islemi gerçeklestirdigi için hataIi kök neden tahminleri yapabilmektedir. Bunun yani sira, basarisiz olarak tanimlanan isteklere ait nedenlerin tespiti için çok farkli seviyede Iog toplama islemi yapildigi için sistemde büyük bir yük olusturabilmektedir. At least one high-value log entry is defined in the subset's partition. at least one high value journal entry is output. Get the basics of the problem using system aIt clusters He is trying to get to the why. The invention is only related to a failed request. examined the reasons, but carried out this process without a more comprehensive time-based examination. It can make erroneous root cause predictions because it performs this procedure. And also, Many different levels of IOG are used to determine the reasons for requests defined as unsuccessful. Since the collection process is performed, it can create a large load on the system.
Teknigin bilinen durumunda yer alan US 10,891,297 B2 numarali patent basvuru dokümaninda, günlük kayitlarini verimli bir sekilde yapilandirabilen, toplayabilen, analiz edebilen bir sistem tasarIanmistir. Bulus günlük Iog bilgilerini isleyerek analizler yapabilen bir sistem yöntem ve bilgisayar programi olarak gelistirilmistir. Bir günlügün satir içeriginin analiziyle otomatik olarak bir günlük ayristiricisi olusturmak için gelistirilmis bir yaklasim açiklanmistir. Ek olarak, günlük içeriginden anahtar/deger içerigini çikarmak için verimli bir yaklasim açiklanmistir. Önerilen sistem, sistem kayitlarini siniflandirma asamasinda siniflandirma yöntemini toplanan ve sistem tarafindan islenen veri ve Iog miktari arttikça degistirememektedir. Bu sistemin hataIi operasyonlar yaptigi durumda daha verimli duruma gelememesine neden olmaktadir. dokümaninda açiklanan bulus, Java Persistence Application Programming Interface (JPAPI), Java Transaction API (JTA) ve Hibernate kullanan uygulamalara ait uygulama sunucularindan elde edilen kayitlarin taranmasi islemini gerçeklestirmektedir. Yigin izlemelerde bu kütüphanelere ait sinifIari ve metotlari içeren hatalarin anIamIandiriImasinda kullanilmaktadir. Bu hatalarin nedenlerini operasyon ekiplerine iletmektedir. Sinif ve metotlardan kaynaklanan hatalarin önceden tahminlerini gerçeklestirmemektedir. Bunun yani sira geçmise yönelik bir analiz gerçeklestirmekte önceden alarm mekanizmasi bulundurmamaktadir. dokümaninda, yazilim projelerinde kaynak kod yazimi süresince ortaya çikan hatalar ve kodun gelistirilmesinde ortaya çikan hatalarin temel nedenlerinin belirlenmesi için bir sistem gelistirilmistir. Bu sistem yalnizca kod tabanli bir inceleme yapmaktadir. Kaynak kodda yapilan degisiklikler kayit altinda tutularak geriye dönük bir inceleme yapilabilmektedir. Bu bulusta yapilan kod tabanli hata analizi sistem üzerinde çalisan servisler arasindaki iIiskiIerden, baglantilardan ve alinan isteklerden kaynaklanabilecek hatalarin tespitinde faydali olmamaktadir. Bunun yani sira hatalari önceden öngörebilecek bir alarm mekanizmasi bulundurmamaktadir. Patent application numbered US 10,891,297 B2, which is in the state of the art document, which can efficiently structure, collect, and analyze log records. A system that can do this has been designed. Bulus analyzes daily IOG information It has been developed as a system method and computer program that can do this. one day to automatically create a log parser with analysis of line contents An improved approach is described. Additionally, key/value from log content An efficient approach to extract its content is described. Recommended system, system At the stage of classifying the records, the classification method is collected and the system It cannot change as the amount of data and IOG processed by it increases. This system is wrong This causes the operations to become less efficient. The invention described in the document, Java Persistence Application Programming Interface Implementation of applications using (JPAPI), Java Transaction API (JTA) and Hibernate It performs the scanning of the records obtained from the servers. Stack Errors involving the classes and methods of these libraries are detected in the traces. It is used for interpretation. Explain the reasons for these errors to the operation teams. transmits. Predict errors arising from classes and methods It does not perform. In addition, it carries out an analysis of the past. It does not have a pre-alarm mechanism. errors that occur during source code writing in software projects and A method to determine the root causes of errors that occur during the development of the code. The system has been improved. This system only performs a code-based review. Source A retrospective review by keeping a record of the changes made to the code It can be done. Code-based error analysis performed in this invention may arise from the relationships, connections and requests received between the services. It is not useful in detecting errors. In addition, mistakes are made before It does not have an alarm mechanism that can predict the situation.
Sonuç olarak, yukarida anlatilan ihtiyaçlari karsilayacak çözümlerin konu hakkindaki yetersizligi nedeniyle ilgili teknik alanda bir gelistirme yapilmasi gerekli kiIinmistir. As a result, solutions that will meet the needs described above are on the subject. Due to its inadequacy, it has been deemed necessary to make a development in the relevant technical field.
Bulusun Amaci Bulus, mevcut durumlardan esinlenerek qusturqup yukarida belirtilen olumsuzluklari çözmeyi amaçlamaktadir. Purpose of the Invention The invention was inspired by current situations and eliminated the above-mentioned negativities. aims to solve.
Bu bulusun amaci, her türlü operasyonlar ile ilgili bilgi veren “log” verisi üreten yapida, geIen isteklerde herhangi bir ariza iIe karsilasma durumu qup olamayacagini öngören ve olusan arizalarin kök nedenlerinin tespitini saglayarak servis kalitesini arttiran, gerçek-zamanli hata IogIari üzerinden ariza tahmini yapan kök neden tespit sisteminin ortaya konulmasidir. The purpose of this invention is to produce "log" data that provides information about all kinds of operations, Predicting that there will be no malfunctions in the requests received. and improves service quality by identifying the root causes of malfunctions, root cause detection system that predicts failure through real-time error logs is to be revealed.
Bulusun yapisal ve karakteristik özellikleri ve tüm avantajlari asagida verilen sekiIIer ve bu sekillere atiflar yapilmak suretiyle yazilan detayli açiklama sayesinde daha net olarak anlasilacaktir ve bu nedenle degerlendirmenin de bu sekiIIer ve detayli açiklama göz önüne alinarak yapilmasi gerekmektedir. The structural and characteristic features and all the advantages of the invention are shown in the figures and figures given below. More clearly thanks to the detailed explanation written by making references to these figures. will be understood and therefore the evaluation should be based on these figures and detailed explanations. It needs to be taken into consideration.
Bulusun Anlasilmasina Yardimci Olacak Sekiller Sekil 1, bulusa konu olan sistemin sematik gösterimidir. Figures to Help Understand the Invention Figure 1 is a schematic representation of the system that is the subject of the invention.
Sekil 2, bulusa konu olan sistemin ariza tespit ve kök neden analizi kontrol süreçlerine ait sematik gösterimidir. Figure 2 shows the fault detection and root cause analysis control processes of the system subject to the invention. is the schematic representation of .
Sekil 3, bulusa konu olan sistemin ariza tespit geneI sürecine ait sematik gösterimidir. Figure 3 is a schematic representation of the general fault detection process of the system that is the subject of the invention.
Sekil 4, bulusa konu olan sistemin ön isleme sürecine ait sematik gösterimidir. Figure 4 is a schematic representation of the pre-processing process of the system that is the subject of the invention.
Sekil 5, bulusa konu olan sistemin özniteIik çikarim sürecine ait sematik gösterimidir. Figure 5 is the schematic representation of the feature extraction process of the system that is the subject of the invention.
Parça Referanslarinin Açiklamasi 1. Kök neden tespit sistemi 2. Haberlesme agi Istek yönetim birimi Kayit ünitesi Log veritabani Ariza alarm ve kök neden birimi Ariza alarm ve kök neden veritabani Yönetim arayüzü Log kayit birimi Ariza tespit ve kök neden analizi sunucusu Log isleme modülü Ariza tespit modülü Kök neden analiz modülü Log ön isleme modülü Log gruplama modülü Öznitelik çikarma modülü Siniflandirma modülü Anlik kök neden analiz modülü Uzun süreli kök neden analiz modülü Veritabani sunucusu Log anahtari veritabani Log anahtari olasiliklari veritabani Ariza kontrol modülü Parametre tespit modülü . Metin analiz modülü 26. Karsilastirma modülü 27. Anahtar olusturma modülü 28. Log anahtar dizisi analiz modülü 29. Analiz modülü . Log anahtari geçis olasilik analiz modülü 31. Log zaman analizi modülü 32. Genel log analizi modülü A. Log verisi (Log mesaji, Kayit mesaji) B. Servis C. Sistem yöneticisi D. Alarm E. Müsteri F. Öznitelik G. Log anahtari dizisi H. Zaman dizisi Bulusun Detayli Açiklamasi Bu detayli açiklamada, bulusa konu olan sistemin (1) tercih edilen yapilanmalari, sadece konunun daha iyi anlasilmasina yönelik olarak açiklanmaktadir. Description of Part References 1. Root cause detection system 2. Communication network Request management unit recording unit log database Fault alarm and root cause unit Fault alarm and root cause database Management interface log recorder Fault detection and root cause analysis server Log processing module Fault detection module Root cause analysis module Log preprocessing module Log grouping module Feature extraction module Classification module Instant root cause analysis module Long-term root cause analysis module Database server Log key database Log key probabilities database Fault control module Parameter detection module . Text analysis module 26. Comparison module 27. Key generation module 28. Log key sequence analysis module 29. Analysis module . Log key transition probability analysis module 31. Log time analysis module 32. General log analysis module A. Log data (Log message, Record message) B. Service C. System administrator d.alarm E. Customer F.Attribute G. Log key sequence H. Time series Detailed Description of the Invention In this detailed description, the preferred embodiments of the system (1) that are the subject of the invention are only It is explained for a better understanding of the subject.
Bu bulus, her türlü operasyonlar ile ilgili bilgi veren “log” verisi (A) üreten yapida, gelen isteklerde herhangi bir ariza ile karsilasma durumu qup olamayacagini öngören ve olusan arizalarin kök nedenlerinin tespitini saglayarak servis (B) kalitesini arttiran, gerçek-zamanli hata Ioglari üzerinden ariza tahmini yapan kök neden tespit sistemi (1) Sistem (1); büyük bir yük yaratmadan oldukça verimli bir sekilde yaInizca onuImaz hata ve hata seviyesindeki sistem (1) kayitlarini ve tüm log seviyelerindeki bilgilerini kuIIanarak ihtiyaca bagli olarak ariza ve kök neden tespitini yapmaktadir. This invention has a structure that produces "log" data (A) that provides information about all kinds of operations. foresees that there will be no problems in case of encountering any malfunction in the requests and Increasing service (B) quality by identifying the root causes of malfunctions, Root cause detection system that predicts failure through real-time error logs (1) System (1); only fatal error in a highly efficient manner without creating a large burden and system (1) records at the error level and information at all log levels It detects malfunctions and root causes depending on the need.
Sistem (1) kayit mesajlarinin (A) ciddiyet seviyeleri farkli olabilmektedir. Bu nedenle ariza olarak tespit edilecek mesaj (A) tipi her zaman onuImaz hata olmamaktadir. Ayni zamanda onuImaz hata seviyesindeki sistem (1) kayit mesajlari (A) her zaman çok kritik sistem (1) kaynakli hatalara karsilik gelmemektedir. Bulus konusu sistem (1), belirlenen hatalarin tespiti için kullanilmakta, sistem yöneticisi (C) tarafindan belirlenen farkli hatalar için ariza ve kök neden tespitini gerçeklestirebiImektedir. The seriousness levels of system (1) recording messages (A) may be different. Therefore the fault The type of message (A) to be detected as is not always a fatal error. Same System (1) log messages (A) at irreparable error level are always very critical It does not correspond to errors caused by system (1). The system subject to the invention (1) is It is used to detect errors and different methods determined by the system administrator (C). It can detect faults and root causes for errors.
Sistem (1), otomatik sekilde gruplanan log verileri (A) arasindaki benzerlikleri ayrica kontrol ederek geçmiste yapiIan daha verimsiz gruplamamalarin devam etmemesini ve tekrar gruplama yapilmasini saglamaktadir. The system (1) also analyzes the similarities between automatically grouped log data (A). by checking to ensure that less inefficient groupings of the past continue and It allows regrouping.
Bunun yani sira sistem (1), gelen bir istegin gerçeklesmesi için kullanilan servislerden (B) gelen sistem (1) kayit mesajlarini (A) kullanarak istegin ariza ile ya da basarili bir sekilde sonuçIanip sonuçIanmayacagini önceden tahmin edebilmektedir. Sistem (1) bunu istek numarasina bagli olarak yapmanin yani sira, istek numarasindan bagimsiz olarak da belirli bir zaman penceresi içinde log verilerinin (A) anaIizini gerçeklestirmektedir. Bu sayede sistem (1), hata gerçeklesmeden önce alarm (D) üretebilmekte ve karsilasilmasi oIasi hatalarin kök nedenlerini tespit edebilmektedir. In addition, the system (1) is one of the services used to realize an incoming request. (B) uses the incoming system (1) registration messages (A) to determine whether the request is a failure or a successful one. He can predict whether it will turn out that way or not. System (1) In addition to doing this depending on the request number, you can also do this independently of the request number analysis of log data (A) within a certain time window. It carries out. In this way, the system (1) raises an alarm (D) before the error occurs. It can produce and detect the root causes of possible errors.
Sistem (1), tespit edilen arizalarin kök nedenlerini tespit edebilmektedir. Tespit edilen kök nedenler depolanarak kök nedenlerin karsilasilma sikligi ve kök nedenler arasindaki iliski kontrol edilmektedir. Kök nedenler arasindaki iliskiler kayit mesajlarinin (A) ait oldugu anahtarlar arasindaki korelasyon ve geçisler degerlendirilerek beIirIenmektedir. System (1) can detect the root causes of the detected malfunctions. Detected By storing the root causes, the frequency of encounter of the root causes and the difference between the root causes The relationship is controlled. Relationships between root causes belong to the log messages (A). It is determined by evaluating the correlations and transitions between the keys.
Hem kod seviyesindeki hatalar tespit edilebilirken servislerdeki (B) ya da servisler (B) arasi baglantilardan kaynakli hatalar da sistem (1) yardimi ile tespit edilebilmektedir. While errors at the code level can be detected, errors in services (B) or services (B) Errors arising from interconnections can also be detected with the help of system (1).
Sistem (1) belirlenen kritik arizalarin önceden öngörülmesi ve bu arizalarin kök nedenlerinin anaIizIerinin yapilarak yüksek servis (B) kalitesi ile hizmet verilmesini sagIamaktadi r. The system (1) predicts the identified critical malfunctions and determines the root cause of these malfunctions. to provide service with high service (B) quality by analyzing the reasons provides.
Sekil 1*de sematik gösterimi sunuIan bulus konusu sistem (1); isteklerinin tamaminin ya da bir kisminin gerçeklesmesini saglayan servisi (B), hizmeti ya da sistemi (1) kullanan müsteriler (E) ile sunulan hizmet arasindaki iletisimi gerçeklestiren güvenli iletisim agi (2), müsterilerden (E) gelen isteklerin gerekli servislere (B) ya da sunuculara iletilmesini saglayan istek yönetim birimi (3), istek yönetim biriminden (3) iletilen tüm servisleri (B) ve sunuculardan gelen istekleri iliskilendirerek log bilgilerini toplayan kayit ünitesi (4), kayit ünitesinde (4) toplanan toplanan tüm Ioglari depolayan log veritabani (5), kayit ünitesinde (4) toplanan log kayitlarini analiz ederek hem istege bagli hem de zamana göre olan sorunlarin tespitini saglayan ariza alarm ve kök neden daha önceden karsilasilan ariza, alarm (D) ve kök nedenlerin bilgilerini depolayan ariza alarm ve kök neden veritabani (7) ve yönetimden sorumlu sistem yöneticisine (C) karsilasilacak hatalarin önceden haber verilmesini saglayan, bu hatalar ile ilgili nedenlerin bilgisini ve daha önceden karsilasilan hatalar ile ilgili her türlü bilgiyi sistem yöneticisine (C) sunan, gerektiginde parametre ayarlamalarinin yapilabilmesini saglayan ve sisteme (1) her türlü müdahale imkani sunan yönetim arayüzü (8) içermektedir. The system (1) of the invention, whose schematic representation is presented in Figure 1; service (B) that ensures all or part of the requests are fulfilled, between the customers (E) using the service or system (1) and the service provided secure communication network that carries out the communication (2), Requests from customers (E) are sent to the necessary services (B) or servers. request management unit (3), which ensures the transmission of all services (B) transmitted from the request management unit (3) and recording unit (4), which collects log information by associating requests, log database (5) that stores all logs collected in the recording unit (4), By analyzing the log records collected in the recording unit (4), both optional and Fault alarm and root cause detection that enables detection of problems over time stores information about previously encountered malfunctions, alarms (D) and root causes fault alarm and root cause database (7) and The system administrator (C) responsible for the management is informed about the errors that will be encountered in advance. providing notification, information on the reasons for these errors, and more Presenting all kinds of information about previously encountered errors to the system administrator (C), It allows parameter adjustments to be made when necessary and is connected to the system (1). Management interface (8) offering all kinds of intervention possibilities Contains.
Bulus konusu sistem (1), ariza tespit ve kök neden analizi kontrol süreçleri için; sistemdeki (1) tüm kayitlari istek numaralari ile iliskilendirerek toplayan log kayit sistemden (1) toplanan log kayit birimi (9) tarafindan gönderilen anlik log verisini (A) alan ve ariza tespit ve kök neden analizi islemlerinin gerçeklestiren ariza tespit ve kök neden analizi sunucusu (10), ariza tespit ve kök neden analizi sunucusunun (10) içerisinde yer alan ve log isleme islemlerini gerçeklestiren log isleme modülü (11), ariza tespit ve kök neden analizi sunucusunun (10) içerisinde yer alan ve ariza tespit islemlerini gerçeklestiren ariza tespit modülü (12), ariza tespit ve kök neden analizi sunucusunun (10) içerisinde yer alan ve kök neden analiz islemlerini gerçeklestiren ve log isleme modülü (11), ariza tespit modülü (12) ve yönetim arayüzü (8) ile haberlesme agi (2) üzerinden haberlesen kök neden analiz modülü (13), log isleme modülü (11) içerisinde yer alan ve log ön isleme islemini gerçeklestiren log ön isleme modülü (14), log isleme modülü (11) içerisinde yer alan ve log verilerinin (A) hem istek numarasina hem de zamana göre gruplamalarini yapan log gruplama modülü (15), ariza tespit modülü (12) içerisinde yer alan ve hem istek numarasi hem de zaman penceresi içerisindeki log verilerinden (A) öznitelikleri (F) çikartan öznitelik çikarma modülü (16), ariza tespit modülü (12) içerisinde yer alan, kendi kendini olusan hatalardan egitebilen ve siniflandirmanin yapilmasini saglayan siniflandirma modülü (17), kök neden analiz modülü (13) içerisinde yer alan ve anlik kök neden analizini canli çalisan sistemde (1) yapan anlik kök neden analiz modülü (18), kök neden analiz modülü (13) içerisinde yer alan ve daha önceki verilere de dayanan kök neden analizini gerçeklestiren uzun süreli kök neden analiz modülü (19), ariza tespit ve kök neden analizi sunucusu (10) ile haberlesme agi (2) üzerinden haberlesen ve sistemde (1) kullanilan verileri depolayan veritabani sunucusu (20), veritabani sunucusu (20) içerisinde yer alan ve log anahtarlarinin depolanmasini saglayan log anahtari veritabani (21) ve veritabani sunucusu (20) içerisinde yer alan ve daha önceden karsilasilan ariza, alarm (D) ve kök nedenlerin depolanmasini saglayan ariza alarm ve kök neden veritabani (7) içermektedir (Sekil 2). The system subject to the invention (1) is for fault detection and root cause analysis control processes; log record that collects all records in the system (1) by associating them with request numbers instant log data sent by the log recording unit (9) collected from the system (1) (A) field and fault detection and root cause analysis detection and root cause analysis server (10), located within the fault detection and root cause analysis server (10) and log log processing module (11), which performs the processing operations located within the fault detection and root cause analysis server (10) and fault detection module (12), which performs detection operations, located within the fault detection and root cause analysis server (10) and Why does the log processing module (11) perform the analysis operations and detect the fault? communicating with the module (12) and the management interface (8) via the communication network (2). root cause analysis module (13), located in the log processing module (11) and performing the log pre-processing process. log preprocessing module (14), It is located in the log processing module (11) and the log data (A) is Log grouping module that groups both by number and time (15), It is located in the fault detection module (12) and contains both the request number and time. feature that extracts features (F) from log data (A) within the window extraction module (16), from self-induced errors in the fault detection module (12). Classification module (17), which can train and enable classification. It is included in the root cause analysis module (13) and provides instant root cause analysis. Instant root cause analysis module (18) in the live system (1), previous data in the root cause analysis module (13) Long-term root cause analysis module that performs root cause analysis based on (19), via communication network (2) with the fault detection and root cause analysis server (10) database server that communicates and stores data used in the system (1) (20), located in the database server (20) and storing log keys. log key database (21) that provides and previously encountered malfunction in the database server (20), fault alarm and root cause, which enables the storage of alarm (D) and root causes database (7) (Figure 2).
Bulus konusu sistem (1), ariza tespit genel sürecinde; sistemden (1) toplanan anlik log verilerini (A) alan ve log ön isleme islemini gerçeklestiren log ön isleme modülü (14), log ön isleme modülü (14) sonrasinda çalisan, log verilerini (A) hem istek numarasina hem de zamana göre gruplayan yapildigi log gruplama modülü (15), log gruplama modülü (15) sonrasinda çalisan, hem istek numarasi hem de zaman penceresi içerisindeki log verilerinden (A) öznitelikleri (F) çikartan öznitelik çikarma modülü (16) sonrasinda çalisan, kendini olusan hatalardan egiten ve siniflandirmanin yapilmasini saglayan siniflandirma modülü (17), anahtarlarini depolayan log anahtari veritabani (21), log ön isleme modülü (14) ve öznitelik çikarma modülü (16) ile çift yönlü veri alisverisi gerçeklestiren ve Iog anahtarlarinin karsilasilma oIasiIikIarini depolayan log anahtari olasiliklari veritabani (22), siniflandirma modülü (17) sonrasinda çalisan ve ariza olustugu durumda sistem yöneticisinin (C) dikkatini çekmek için alarm (D) üreten ariza kontrol modülü (23), daha önceden karsilasilan ariza, alarm (D) ve kök nedenleri depolayan ariza alarm ve kök neden veritabani (7), ariza kontrol modülü (23) sonrasinda çalisan, ariza alarm ve kök neden veritabani (7) ile çift yönlü veri alisverisi gerçeklestiren, hem anlik IogIara dayali hem de geçmisteki alarm (D) ve nedenlerin analizi ile birlikte kök neden analizini gerçeklestiren ve koddaki ve sistemdeki (1) hatanin tespit edilmesini saglayan kök neden analiz modülü (13) içermektedir (Sekil 3). The system subject to the invention (1) is used in the general process of fault detection; It takes the instant log data (A) collected from the system (1) and performs the log pre-processing process. log pre-processing module (14), which performs After the log pre-processing module (14), the running log data (A) is processed both by request and log grouping module (15), which groups by both number and time After the log grouping module (15) runs, both the request number and extracts features (F) from log data (A) within the time window After the feature extraction module (16) runs, it protects itself from errors. Classification module (17), which trains and enables classification. log key database (21), which stores keys bidirectional data processing with log pre-processing module (14) and feature extraction module (16). who perform the exchange and the probabilities of encountering Iog keys database (22), which stores log key probabilities The system operates after the classification module (17) and in case of a malfunction. fault control module (23), which produces an alarm (D) to attract the attention of the manager (C), fault that stores previously encountered faults, alarms (D) and root causes alarm and root cause database (7), After the fault control module (23), the fault alarm and root cause which performs bidirectional data exchange with the database (7) and is based on instant logs. as well as root cause analysis along with analysis of past alarms (D) and causes which performs and enables the detection of errors in the code and the system (1) root cause analysis module (13) (Figure 3).
Bulus konusu sistem (1), ön isleme sürecinde; kayit anahtarlarinin depolandigi log anahtari veritabani (21), karsilastirma dahil olmak üzere, log anahtarlari ile iliskili olasiliklarin tutuldugu log anahtari olasiliklari veritabani (22), metin içerisindeki zamana, sistemin (1) durumuna ya da farkli sartlara bagli degisiklik gösterebilen parametrelerin belirlenmesini saglayan parametre tespit parametre tespit modülü (24) sonrasinda çalisan, metinin verimli sekilde N-gram Analizi, Random Indexing gibi dil isleme algoritmalarinin yani sira makine ögrenmesine ve yapay zekaya dayali yöntemler iIe analiz edilmesini saglayan metin analiz modülü (25), metin analiz modülü (25) sonrasinda çalisan, log anahtari olasiliklari veritabani (22) ve Iog anahtari veritabanindan (21) veriler alan, yeni gelen Iog verisinin (A) analiz eIdiImesi ile olusturulan anahtari özetleyen vektörün veri setinde yer alan anahtarlar ile karsilastirilmasini saglayan karsilastirma modülü (26) ve karsilastirma modülü (26) sonrasinda çalisan ve log anahtari veritabanina (21) anahtar eklenmesini saglayan anahtar olusturma modülü (27) içermektedir (Sekil 4). The system (1) subject to the invention is used during the pre-processing process; log key database (21), where log keys are stored, maintains probabilities associated with log keys, including comparison log key probabilities database (22), depending on the time in the text, the state of the system (1) or different conditions Parameter detection, which enables the determination of parameters that may change Working after the parameter detection module (24), N-gram analysis of the text is carried out efficiently. Analysis is carried out using language processing algorithms such as Random Indexing as well as machine which allows it to be learned and analyzed using artificial intelligence-based methods. text analysis module (25), log key probabilities database running after the text analysis module (25) (22) and the new incoming Iog data (A), which receives data from the Iog key database (21). The vector summarizing the key created by analysis is included in the data set. Comparison module (26) that allows comparison with keys and After the comparison module (26), the running and log key is transferred to the database (21). Key creation module (27) that allows adding keys (Figure 4).
Bulus konusu sistem (1), öznitelik (F) çikarim sürecinde; daha önceden karsilasilan log anahtarlarina ait olasilik bilgilerinin depolandigi log anahtari olasiliklari veritabani (22), belirli bir istek numarasina ait ya da zaman penceresi içerisinde karsilasilan Iog verilerinin (A) eslestirildigi Iog anahtari dizisinin (G) analizinin makine ögrenmesi, yapay zeka ve çesitli istatistiksel yöntemler ile gerçeklestirilmesini ve özniteliklerin (F) elde edilmesini saglayan log anahtar dizisi analiz modülü (28), log anahtar dizisi analiz modülü (28) sonrasinda çalisan, N-gram analizi, çesitli diI isleme, makine ögrenmesi ve yapay zeka yöntemlerini kullanarak dizinin analizini gerçeklestiren ve özniteliklerin (F) elde edilmesini saglayan analiz analiz modülü (29) sonrasinda çalisan, log anahtari olasiliklari veritabanini (22) ile çift yönlü veri alisverisi gerçeklestiren, Iog anahtar dizisindeki anahtarlar arasindaki geçis oIasiIikIarini degerlendiren ve öznitelikleri (F) çikartan Iog anahtari geçis olasilik analiz modülü (30), belirli bir istek numarasina ait ya da zaman penceresi içerisinde karsilasilan Iog verilerinin (A) zaman bilgilerine sahip olan zaman dizisinin (H) analizini makine ögrenmesi, yapay zeka ve çesitli istatistiksel yöntemler ile gerçeklestiren ve özniteliklerin (F) elde edilmesini saglayan log zaman analizi modülü (31) ve belirli bir istek numarasina ait ya da zaman penceresi içerisinde karsilasilan Iog verilerinin (A) zaman ve anahtar bilgisi disindaki tüm bilgilerine sahip olan genel yapay zeka ve çesitli istatistiksel yöntemler ile gerçeklestiren ve özniteliklerin (F) elde edilmesini saglayan genel Iog analizi modülü (32) içermektedir (Sekil 5). The system (1) subject to the invention is used in the feature (F) extraction process; Probability information of previously encountered log keys is stored. log key probabilities database (22), Iog of a specific request number or encountered within the time window machine learning analysis of the Iog key sequence (G) to which data (A) is matched, is carried out using artificial intelligence and various statistical methods, and log key sequence analysis module (28), which enables the attributes (F) to be obtained, running after the log key sequence analysis module (28), N-gram analysis, various using language processing, machine learning and artificial intelligence methods analysis that performs the analysis and enables the attributes (F) to be obtained. log key probabilities database (22) running after the analysis module (29) Switches in the Iog key sequence that perform bidirectional data exchange with Iog, which evaluates the transition probabilities between the data and extracts the features (F). switch transition probability analysis module (30), Iog of a specific request number or encountered within the time window The machine performs the analysis of the time series (H) that has the time information of the data (A). learning, using artificial intelligence and various statistical methods, and log time analysis module (31) that enables the features (F) to be obtained and Iog of a specific request number or encountered within the time window public data that has all information except time and key information (A) and attributes (F) using artificial intelligence and various statistical methods. General IOG analysis module (32) that enables (Figure 5).
Sistem (1), müsterilerden (E) gelen istekleri toplamaktadir. Müsteriden (E) gelen istekler, haberlesme agi (2) üzerinden benzersiz kimlik numaralari ile istek yönetim biriminde (3) eslestirilerek istege bagli olmak üzere farkli servislere (B) iIetiImektedir. System (1) collects requests from customers (E). Requests from Customer (E), in the request management unit (3) with unique identification numbers over the communication network (2) It is paired and optionally transmitted to different services (B).
Servisler (B) istek ile ilgili islemleri yaparken farkli ciddiyet seviyelerinde (bilgi, uyari, hata ve onulmaz hata) sistem (1) kayit mesajlarini (A) üretirler ve bu mesajlar (A) kayit ünitesi (4) tarafindan toplanir. Üretilen kayit mesajlari (A) ariza alarm ve kök neden analizi birimine (6) iletilmektedir. Services (B) use different levels of seriousness (information, warning, error) while performing the request-related operations. and irreversible error) system (1) produces recording messages (A) and these messages (A) are sent to the recording unit It is collected by (4). The generated recording messages (A) are transmitted to the fault alarm and root cause analysis unit (6).
Ayni zamanda log veritabanina (5) kaydedilir. Ariza alarm ve kök neden analizi birimine (6) gelen log verisi (A) haberlesme agi (2) üzerinden gelir. Log verisi (A), haberlesme agi (2) üzerinden log isleme modülüne (11) yönlendirir. It is also recorded in the log database (5). Fault alarm and root cause analysis unit (6) incoming log data (A) comes over the communication network (2). Log data (A), communication network It directs to the log processing module (11) via (2).
Log ön isleme modülünde (14) ön isleme yapilarak, log verisi (A) içerisindeki parametreler parametre tespit modülü (24) tarafindan belirlenir. By pre-processing in the log pre-processing module (14), the log data in (A) The parameters are determined by the parameter determination module (24).
Metin analiz modülü (25) yardimiyla kayit mesajini (A) özetleyen bir vektör N-gram analiz gibi dil isleme yöntemleri, makine ögrenmesi ve derin ögrenme algoritmalari kullanilarak elde edilir. Bu vektör kayit anahtari eslestirilme asamasinda kullanilir. A vector N-gram analysis that summarizes the record message (A) is made with the help of the text analysis module (25). By using language processing methods, machine learning and deep learning algorithms such as obtained. This vector registration key is used during the matching phase.
Karsilastirma modülünde (26) kayit mesaji (A) var olan log anahtari veritabanindaki (21) anahtarlar ile karsilastirilir. Eslesme bulunur ise kayit mesaji (A) ilgili anahtar ile eslestirilir. The log key existing in the log message (A) in the comparison module (26) is in the database (21). compared to keys. If a match is found, the record message (A) is sent to the relevant key. is matched.
Eger uygun eslesme bulunamaz ise eslesme yapilamayan diger mesaj (A) anahtarlari ile karsilastirilir. Mesaj (A) anahtari ile ilgili gruplama yapilabilirse anahtar olusturma modülü (27) tarafindan anahtar olusturularak log anahtari veritabanina (21) eklenir ve kayit mesaji (A) ilgili kayit mesaji (A) ile eslestirilir. Eslesme bulunamaz ise kayit mesaji (A) bilinmeyen olarak isaretlenerek isleme devam edilir ve eslesme yapilamayan mesajlar (A) grubuna eklenirler. If a suitable match is not found, other message (A) keys that cannot be matched are It is compared with . If grouping can be done regarding the message (A) key, creating a key The key is created by the module (27) and the log key is added to the database (21) and registration message (A) is matched with the corresponding registration message (A). If no match is found, registration message (A) is marked as unknown and the process continues and if no match can be made, The messages are added to group (A).
Anahtar ile eslestirilen kayit mesaji (A) istek numarasina göre gruplanmak üzere Log gruplama modülüne (15) gönderilir. Log gruplama modülü (15) istek numarasina göre gelen mesajlari (A) gruplar ve belirli sayida mesaja (A) ulasinca haberlesme agi (2) yardimiyla ariza tespit modülüne (12) gönderilir. Bunun yaninda zaman pencereleri kullanilarak da bu gruplama yapilir. Belirli süre boyunca yeni kayit anahtari gelmeyen istek numaralari silinerek ariza tespit modülünden (12) düsürülür. The record message (A) matched with the key is sent to Log to be grouped according to the request number. is sent to the grouping module (15). Log grouping module (15) by request number groups the incoming messages (A) and when a certain number of messages (A) is reached, the communication network (2) It is sent to the fault detection module (12) with the help of Besides, time windows This grouping is also done using . No new registration key received for a certain period of time The request numbers are deleted and removed from the fault detection module (12).
Eger gelen mesaj (A) daha önceden karsilasilan bir istek numarasina ait ise daha önceden gelen mesajlar (A) ile birlikte haberlesme agi (2) üzerinden ariza tespit modülüne (12) iletilir. Istek numarasi ve kayit anahtari ile eslestirilen kayit mesaji (A) anahtari ariza tespit modülüne (12) gönderilir. If the incoming message (A) belongs to a request number that has been encountered before, Fault detection via communication network (2) together with previously received messages (A). is transmitted to the module (12). Registration message (A) paired with request number and registration key The key is sent to the fault detection module (12).
Ariza tespit modülünün (12) içinde yer alan öznitelik çikarma modülünde (16), gelen sirali sistem (1) kayit mesaji (A) dizisi islenir ve istek numarasina ait mesaj (A) dizisini özetleyen öznitelikler (F) çikarilir. Sistem (1) kayit mesajlari (A) ve anahtarlarinin olasiliklarina, zamanlamalarina, N-Gram analiz, Random Indexing gibi çesitli yöntemler ile sirali örüntülere dayanan çesitli öznitelikler (F) çikarilir. Çikarilan öznitelik (F) vektörü, siniflandirma modülüne (17) gönderilir. Siniflandirma modülünde (17) kullanilan uzun kisa süreli bellek algoritmasi, destek vektör algoritmasi çesitli makine ögrenmesi ve derin ögrenme algoritmalari kullanilarak istek numarasi ariza ya da normal olarak siniflandirilir. In the feature extraction module (16) located within the fault detection module (12), the incoming sequential system (1) records message (A) sequence is processed and the message (A) sequence belonging to the request number is processed. summarizing features (F) are extracted. System (1) register messages (A) and keys various methods such as N-Gram analysis, Random Indexing, etc. Various features (F) based on sequential patterns are extracted with . The extracted feature (F) vector is sent to the classification module (17). Classification long short term memory algorithm, support vector algorithm used in module (17) request number using various machine learning and deep learning algorithms It is classified as malfunction or normal.
Siniflandirma sonucu, haberlesme agi (2) yardimi ile yönetim arayüzüne (8) ve veritabani sunucusuna (20) iletilir. Ariza olarak siniflandirilan istek numarasi ve ilgili kayit mesaji (A) bilgileri yönetim arayüzüne (8) iletilir ve sistem yöneticisinin (C) görmesi için alarm (D) üretilir. The classification result is sent to the management interface (8) and is transmitted to the database server (20). Request number classified as a fault and the relevant record message (A) information is transmitted to the management interface (8) and displayed for the system administrator (C) to see. alarm (D) is generated.
Ariza olarak siniflandirilan istek numarasi ve kayit mesaji (A) bilgileri ayni zamanda kök neden analiz modülüne (13) iletilir. Kök neden analiz modülünde (13) ilk olarak anlik kök neden analizi modülü (18) ile olasi sorun olabilecek servisler (B) ve baglantilar belirlenir. The request number and registration message (A) information classified as a failure is also The reason is transmitted to the analysis module (13). In the root cause analysis module (13), first the immediate root With the cause analysis module (18), services (B) and connections that may cause problems are determined.
Olasi sorun olabilecek servis (B) ve baglantilar istek numarasi ile birlikte yönetim arayüzüne (8) iletilir. Ariza olarak isaretlenen istek numarasina bagli sirali kayit mesaji (A) dizisi anlik kök neden analiz modülü (18) ile birlikte uzun süreli kök neden analiz modülüne (19) de iletilir. Service (B) and connections that may cause problems are managed with the request number. is transmitted to the interface (8). Sequential registration message based on request number marked as failure (A) sequence includes long-term root cause analysis with instant root cause analysis module (18). It is also transmitted to the module (19).
Ariza alarm ve kök neden veritabani (7) ile iletisim kurularak daha önceki arizalara ait nedenler ile korelasyon ve çesitli teknikler kullanilarak karsilastirmalar yapilir. Bu karsilastirmalar sonucunda hatalara yol açmasi olasi servis (B) ve baglantilar belirlenerek haberlesme agi (2) üzerinden yönetim arayüzüne (8) iletilir. By communicating with the fault alarm and root cause database (7), previous faults can be retrieved. Comparisons are made using various reasons, correlation and various techniques. This Services (B) and connections that are likely to cause errors as a result of comparisons is determined and transmitted to the management interface (8) over the communication network (2).
Sistem (1) herhangi müdahaleye gerek duymadan çalisabilmektedir. Bunun yaninda sistem yöneticisi (C), yönetim arayüzü (8) yardimi ile sistem (1) içerisindeki her türlü parametrenin kontrolünü gerektiginde yapabilmektedir. Log anahtari veritabanina (21) log anahtari tanimlayabilmekte bu log anahtarlarinin sistem (1) tarafindan ileride degistirilip degistirilemeyecegi ile ilgili parametreleri belirleyebilmektedir. System (1) can operate without the need for any intervention. Besides The system administrator (C) manages all kinds of information in the system (1) with the help of the management interface (8). It can control the parameter when necessary. Log key to database (21) log key can be defined and these log keys can be used by the system (1) in the future. It can determine the parameters whether they can be changed or not.
Sistem (1), müsterilerden (E) gelen istekler için servisler (B) tarafindan yapilan islemler sonucunda elde edilen loglari kullanarak ileriki asamalarda hatalar ile karsilasip karsilasmayacagini hem istege hem de zamana bagli olarak önceden tahmin etmektedir. System (1), operations carried out by services (B) for requests from customers (E) Using the logs obtained as a result, you can check whether you encounter errors in the future stages. It predicts what will happen, depending on both demand and time.
Sistem (1), karsilasilmasi olasi hatalarin temel nedenlerinin hem anlik hem de uzun süreli veriye dayanan analizini yapmaktadir. Sistem (1), temel olarak bes ana bölümden olusmaktadir. Bu bölümler log isleme modülü (11), ariza tespit modülü (12), kök neden analiz modülü (13), yönetim arayüzü (8), log anahtari veritabanini (21) ve ariza alarm ve kök neden veritabanini (7) içeren veritabani sunucusudur (20). Haberlesme agi (2) bu modüller ve sunucular arasindaki anlik haberlesmeden sorumludur. Bulus dagitik ya da monolog mimarili çalisan bir sistem (1) üzerinden toplanan log verilerinin analizlerini yaparak hem istek numarasina bagli olarak hem de zamana bagli olarak önceden hatalarin öngörülmesini ve öngörülen ve olusan hatalarin kök nedenlerinin tespitinin yapilmasini, bu arizalar ile ilgili her türlü bilginin sistem yöneticisine (C) iletilmesini saglamaktadi r. System (1) determines the root causes of possible errors, both immediate and long-term. It conducts analysis based on long-term data. The system (1) basically consists of five main parts. is occurring. These sections are log processing module (11), troubleshooting module (12), root cause analysis module (13), management interface (8), log key database (21) and fault alarm and The root cause is the database server (20) containing the database (7). Communication network (2) this It is responsible for instant communication between modules and servers. The invention is distributed or analyzes of log data collected through a system (1) operating with monologue architecture. by doing so in advance, both depending on the request number and time. predicting errors and identifying the root causes of predicted and occurring errors and that all information regarding these malfunctions be forwarded to the system administrator (C). provides
Log isleme modülü (11) temel olarak log ön isleme modülünü (14) ve log gruplama modülünü (15) içermektedir. Log ön isleme modülünde (14) sistem (1) kayitlarindan gelen mesajlarin (A) ait olduklari anahtar mesajlarin (A) belirlenmesini saglanmaktadir. The log processing module (11) basically includes the log pre-processing module (14) and log grouping module (14). It contains the module (15). From the system (1) records in the log pre-processing module (14) The key messages (A) to which the incoming messages (A) belong are determined.
Log ön isleme modülü (14) içerisinde yer alan parametre tespit modülü (24), sistem (1) kayit mesajinda (A) yer alan sayi, tarih, IP adresi gibi parametreleri tespit ederek bunlarin türlerini belirten anahtar kelimeler ile degistirilmesi islemini gerçeklestirmektedir. Metin analiz modülü (25) log ön isleme modülü (14) içinde yer almaktadir. Dil isleme yönteminde kullanilan N-Gram analiz gibi çesitli yöntemler ile sistem (1) kayit mesajlari (A) içerisindeki kelimeler analiz edilmektedir. Karsilastirma modülü (26) de log ön isleme modülü (14) içerisinde yer almaktadir ve log anahtari veritabaninda (21) yer alan mesaj (A) anahtarlari ile gözlemlenen mesaj (A) anahtarlarini karsilastirmaktadir. Bu karsilastirma bir önceki sistem (1) kayit mesaji (A) anahtarindan sonra en yüksek olasilikli mesaj (A) anahtarindan baslayarak yapilmaktadir. Olasilik bilgilerine log anahtari olasiliklari veritabanindan ulasilir (22). Anahtar olusturma modülü (27), sistemde (1) gözlemlenen mesaja (A) ait anahtar bulamaz ise mesaj (A) anahtari olusturarak log anahtari veritabanina (21) bu anahtarin eklenmesini saglar. Log gruplama modülünde (15) sistem (1) kayit mesajlarinin (A) ait olduklari istek numarasina bagli olarak sistem (1) içerisinde gruplanmasini ve belirli sayida mesaja (A) ulasildiginda özniteliklerin (F) çikarilmasi için kayit mesaji (A) içerisindeki bilgilerin öznitelik çikarma modülüne (16) iletilmesini saglamaktadir. Bu islem zaman penceresi göz önünde bulundurularak da yapilabilmektedir. Ariza tespit modülü (12) iletilen log verilerinden (A) özniteliklerin (F) çikarilmasini saglamaktadir. Bu öznitelik çikarma modülü (16) sistem (1) kayit mesajlarindan (A) gelen bilgileri kullanarak ariza tespit için kullanilacak özniteliklerin (F) elde edilmesini saglamaktadir. Öznitelik çikarma modülü (16) içerisinde sirali sistem (1) kayit mesaji (A) anahtari dizisinin N-gram analizi gibi çesitli analizlerle tüm yönleriyle incelenerek özniteliklerin (F) çikarilmasi Log anahtar dizisi analiz modülü (28) ve analiz modülü (29) tarafindan gerçeklestirilir. Log zaman analizi modülü (31) sistem (1) kayit mesajlarinin (A) gelis zamanlarini degerlendirerek öznitelik (F) dizisi olusturulmasini saglamaktadir. Log anahtari geçis olasilik analiz modülü (30), log anahtari olasiliklari veritabanindan (22) normal ve ariza ile karsilasan istek numaralari için olusturulan geçis olasilik matrislerindeki olasiliklarini kullanarak öznitelik (F) dizisi olusturmaktadir. Genel log analizi modülü (32), sistem (1) kayit mesajlarinda (A) yer alan, sisteme (1) bagli olan özellikleri kullanarak, istek numaralari ve zaman penceresi için ayri ayri özniteliklerin (F) olusturulmasini saglamaktadir. Ardindan siniflandirma modülü (17), öznitelikleri (F) çikarilan istek numarasi için herhangi bir ariza olusup olusmayacaginin tahmininde kullanilmaktadir. Uzun-kisa süreli bellek yordami gibi çesitli makine ögrenmesi ve derin ögrenme yordamlari kullanilarak elde edilen dizi halindeki öznitelikler (F) kullanilarak ariza olusup olusmayacagi tahmin edilir. Ardindan kök neden analiz modülü (13), sistemde (1) bir ariza tespit edildigi durumda gelen sistem (1) kayit mesaji (A) dizisini analiz ederek kök neden analizini yapmaktadir. Sistemdeki (1) hataya sebep olan alt servisin (B) ya da servisler (B) arasindaki iliskinin belirlenmesini saglamaktadir. Bu asamada üretilen alarmlar (D) ve belirlenen kök nedenler ariza alarm ve kök neden veritabaninda (7) depolanmaktadir. Ariza alarm ve kök neden veritabani (7), ayni zamanda kök nedenleri uzun vadede analiz edilmeleri için tutmaktadir. Ariza alarm ve kök neden veritabanina (7) sistem yöneticisi (C) erismekte, sistemde (1) ortaya çikan hatalarin hangi nedenlerden ne siklikla karsilasildigini analiz ederek bu hatalarin düzeltilmesi için sistemde (1) nelerin yapilmasi gerektigine karar verebilmektedir. Parameter detection module (24) located within the log pre-processing module (14), system (1) by detecting parameters such as number, date, IP address in the registration message (A) and It performs the process of replacing the keywords with keywords indicating their types. Text The analysis module (25) is located within the log pre-processing module (14). language processing system (1) record messages with various methods such as N-Gram analysis used in the The words in (A) are analyzed. Log preprocessing in the comparison module (26) It is located in the module (14) and the log key is located in the database (21). It compares the (A) keys with the observed message (A) keys. This comparison is the highest after the previous system (1) register message (A) key The probabilistic message is made starting from the (A) key. Log into probability information key probabilities can be accessed from the database (22). Key generation module (27), If the key belonging to the message (A) observed in the system (1) cannot be found, the message (A) key is It creates a log key and ensures that this key is added to the database (21). log In the grouping module (15), the system (1) assigns the record messages (A) to the request number they belong to. grouping them within the system (1) depending on the number of messages (A) and when a certain number of messages (A) are reached. Attribute extraction of the information in the registration message (A) is used to extract the attributes (F). It ensures that the data is transmitted to the module (16). Considering this trading time window It can also be done by keeping The fault detection module (12) uses the transmitted log data (A) It enables the extraction of features (F). This feature extraction module (16) system (1) will be used for troubleshooting using information from log messages (A). It enables the features (F) to be obtained. In the feature extraction module (16) sequential system (1) with various analyzes such as N-gram analysis of the record message (A) key sequence Extracting features (F) by examining all aspects Log key sequence analysis module (28) and analysis module (29). Log time analysis module (31) The system (1) evaluates the arrival times of the record messages (A) and creates the attribute (F) array. It enables its creation. Log switch transition probability analysis module (30), log key probabilities from the database (22) normal and error request numbers feature (F) sequence using the probabilities in the transition probability matrices created for It constitutes. The general log analysis module (32) is included in the system (1) log messages (A). field, request numbers and time window using features connected to the system (1) It enables the creation of separate attributes (F) for Then classification module (17) determines whether any malfunction occurs for the request number whose attributes (F) are extracted. It is used to predict whether it will occur. Various methods such as long-short term memory procedure series of data obtained using machine learning and deep learning procedures. It is predicted whether a malfunction will occur or not by using attributes (F). Then the root cause analysis module (13) records the system (1) in case a malfunction is detected in the system (1). It performs root cause analysis by analyzing the message (A) sequence. (1) error in the system determining the sub-service (B) or the relationship between services (B) that causes It provides. The alarms (D) generated at this stage and the root causes identified are malfunction alarms. and the root cause is stored in the database (7). Fault alarm and root cause database (7) also keeps the root causes to be analyzed in the long term. Fault The system administrator (C) accesses the alarm and root cause database (7), and the system (1) By analyzing the reasons why errors occur and how often they occur, It can decide what needs to be done in the system (1) to correct it.
Yönetim arayüzü (8), sistem(1) çiktilarina sistem yöneticisinin (C) erismesini saglamakta ve sistem yöneticisinin (C) sistem (1) hakkindaki bilgileri ve alarmlari (D) gözlemlemesini saglamaktadir. Olusturulan alarmlar (D) ve hatalarin temel nedenleri yönetim arayüzünde (8) sistem yöneticisine (C) gösterilir. The management interface (8) allows the system administrator (C) to access the system (1) outputs. and the system administrator (C) to observe the information and alarms (D) about the system (1). It provides. The main causes of generated alarms (D) and errors are management It is displayed to the system administrator (C) on the interface (8).
Bulusta önerilen sistem (1), baslangiç asamasinda daha önceden toplanan sistem (1) kayitlari yardimi ile kendi kendini egitebilmesinin yani sira, canli bir yapi içerisinde baslatildiginda çalisma süresince karsilastigi log verilerini (A) ve isteklerin basari durumlarini analiz ederek kendi egitimini otomatik sekilde gerçeklestirerek çalismaya baslayabilmektedir. Makinenin egitim süreci kullanildigi süre boyunca devam etmektedir.The system proposed in the invention (1) is the system (1) that was previously assembled at the initial stage. In addition to being able to educate himself with the help of recordings, he can also learn within a living structure. When it is started, it displays the log data (A) and the success of the requests encountered during the run. to work by automatically carrying out his own education by analyzing his situations. can start. The training process of the machine continues as long as it is used.
Claims (5)
Publications (1)
| Publication Number | Publication Date |
|---|---|
| TR2022013419A2 true TR2022013419A2 (en) | 2024-03-21 |
Family
ID=
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111712813B (en) | Intelligent preprocessing of multi-dimensional time series data | |
| US9652318B2 (en) | System and method for automatically managing fault events of data center | |
| US10346744B2 (en) | System and method for visualisation of behaviour within computer infrastructure | |
| EP3734520A1 (en) | Fault analysis and prediction using empirical architecture analytics | |
| CN113282461B (en) | Alarm identification method and device for transmission network | |
| US11886276B2 (en) | Automatically correlating phenomena detected in machine generated data to a tracked information technology change | |
| Kubiak et al. | An overview of data-driven techniques for IT-service-management | |
| CN111475370A (en) | Operation and maintenance monitoring method, device and equipment based on data center and storage medium | |
| EP3663919B1 (en) | System and method of automated fault correction in a network environment | |
| CN112783682B (en) | Abnormal automatic repairing method based on cloud mobile phone service | |
| CN113515434A (en) | Abnormity classification method, abnormity classification device, abnormity classification equipment and storage medium | |
| Liu et al. | Scalable and adaptive log-based anomaly detection with expert in the loop | |
| CN113282920B (en) | Log abnormality detection method, device, computer equipment and storage medium | |
| Cavallaro et al. | Identifying anomaly detection patterns from log files: A dynamic approach | |
| CN116755992B (en) | Log analysis method and system based on OpenStack cloud computing | |
| US20230376372A1 (en) | Multi-modality root cause localization for cloud computing systems | |
| CN116225848A (en) | Log monitoring method, device, equipment and medium | |
| US11822578B2 (en) | Matching machine generated data entries to pattern clusters | |
| TR2022013419A2 (en) | ROOT CAUSE DETECTION SYSTEM THAT PREDICTATS FAILURES THROUGH REAL-TIME ERROR LOGS | |
| CN114329453A (en) | Anomaly detection method based on system log | |
| Sheluhin et al. | Anomaly states monitoring of large-scale systems with intellectual analysis of system logs | |
| WO2021151494A1 (en) | Device for monitoring a computer network system | |
| Cinque et al. | An unsupervised approach to discover filtering rules from diagnostic logs | |
| US11816112B1 (en) | Systems and methods for automated process discovery | |
| Wang | Design of Visual Log Analysis System |