ES2370424B1 - Method for determining in real time the causes of deterioration of service quality in converged networks. - Google Patents
Method for determining in real time the causes of deterioration of service quality in converged networks. Download PDFInfo
- Publication number
- ES2370424B1 ES2370424B1 ES200900406A ES200900406A ES2370424B1 ES 2370424 B1 ES2370424 B1 ES 2370424B1 ES 200900406 A ES200900406 A ES 200900406A ES 200900406 A ES200900406 A ES 200900406A ES 2370424 B1 ES2370424 B1 ES 2370424B1
- Authority
- ES
- Spain
- Prior art keywords
- deterioration
- real time
- data
- causality
- causes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes.#En esta invención se pretende identificar entre las métricas críticas originales de los servicios y de la red (que originan caídas de rendimiento y cambios en las métricas relacionadas) en redes convergentes. El proceso es altamente automatizado, presenta una respuesta en tiempo casi real a los cambios en la CIPN, y no requiere intervención humana. La invención amplía el concepto de correlación para obtener las relaciones reales de causalidad entre el deterioro del rendimiento y las métricas en grandes CIPN, en las que la tasa de eventos entrantes puede sobrecargar fácilmente la potencia de proceso del sistema.Method for the determination in real time of the causes of the deterioration of the quality of the service in convergent networks. # In this invention it is tried to identify between the original critical metrics of the services and of the network (that originate yield drops and changes in the related metrics) in convergent networks. The process is highly automated, presents an almost real-time response to changes in the CIPN, and does not require human intervention. The invention extends the concept of correlation to obtain the real causality relationships between performance deterioration and metrics in large CIPN, in which the rate of incoming events can easily overload the system's processing power.
Description
Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes. Method for the determination in real time of the causes of the deterioration of the quality of the service in convergent networks.
Sector de la técnica Technical sector
La presente invención está relacionada con el campo de la gestión de redes de telecomunicaciones y, más en particular, con la gestión de la distribución de servicios integrados en Redes de la Próxima Generación (NGN), donde los servicios de Telecomunicaciones y de Tecnologías de la Información se integran en Redes IP Convergentes (CIPN). The present invention is related to the field of telecommunications network management and, more particularly, to the management of the distribution of integrated services in Next Generation Networks (NGN), where the Telecommunications and Technology Services of the Information is integrated into Converged IP Networks (CIPN).
Específicamente, esta invención ayuda a identificar entre las métricas críticas originales de los servicios y de la red, en redes convergente. Specifically, this invention helps to identify between the original critical services and network metrics, in converged networks.
Se entiende por métrica un valor que se asigna a una ruta de telecomunicación para una interfaz de red en particular que identifica el costo asociado al uso de dicha ruta. Por ejemplo, la métrica se puede valorar en función de la velocidad del vínculo, el número de saltos o el retardo de tiempo. Metric means a value that is assigned to a telecommunication route for a particular network interface that identifies the cost associated with the use of that route. For example, the metric can be assessed based on the speed of the link, the number of hops or the time delay.
En esta descripción se entenderá por cluster de datos un conjunto de datos agrupados por una relación de causalidad. In this description, a cluster of data means a set of data grouped by a causal relationship.
Estado de la técnica State of the art
Permitir la distribución de servicios integrados en las Redes de la Próxima Generación (NGN), donde los servicios de Telecomunicaciones y de Tecnologías de la Información están siendo integrados en Redes IP Convergentes (CIPN), es una tarea complicada dada la heterogeneidad subyacente en los servicios ofrecidos en las redes CIPN. Un ejemplo del prototipo de herramienta para conseguir este objetivo de integración es EzWeb [1]. EzWeb proporciona una Interfaz Gráfica de Usuario (GUI) para un servicio unificado y homogéneo. Esta plataforma se emplea para la integración de mega-servicios, servicios con millones de usuarios, creando un escenario de mercado, donde los servicios pueden ser registrados y confeccionados en el navegador de la red por los usuarios finales. Allowing the distribution of integrated services in the Next Generation Networks (NGN), where Telecommunications and Information Technology services are being integrated into Converged IP Networks (CIPN), is a complicated task given the underlying heterogeneity in the services offered on CIPN networks. An example of the prototype tool to achieve this integration objective is EzWeb [1]. EzWeb provides a Graphical User Interface (GUI) for a unified and homogeneous service. This platform is used for the integration of mega-services, services with millions of users, creating a market scenario, where the services can be registered and made in the web browser by the end users.
EzWeb permitirá a los operadores de Telecomunicaciones ir más allá de la tradicional distribución de servicios de voz/datos, permitiendo la integración de una diversidad de servicios que cambian permanentemente (a menudo, sobre redes CIPN y Subsistemas Multimedia sobre IP). Por ejemplo, los servicios de distribución de contenidos (como Imagenio [2]), canales de compra, capacidades de Voz sobre IP, etc., permiten al usuario de terminales ligeros (por ejemplo PDA, notebook, etc...) disponer de todos los servicios e información que son accesibles desde la propia red. EzWeb will allow Telecommunications operators to go beyond the traditional distribution of voice / data services, allowing the integration of a variety of services that change permanently (often, over CIPN networks and Multimedia Subsystems over IP). For example, content distribution services (such as Imagenio [2]), purchase channels, Voice over IP capabilities, etc., allow the user of light terminals (for example PDA, notebook, etc ...) to have all services and information that are accessible from the network itself.
Este escenario basado en CIPN requiere el despliegue de diversos recursos de infraestructura (redes, ordenadores, cortafuegos, balanceadores de carga, etc.) que tienen que ser proporcionados por uno o más centros de datos o nodos de la red. La gestión de un Centro de Datos o nodo para la provisión de servicios requiere una gestión ágil y eficaz dirigida por el aseguramiento de la política de Calidad del Servicio (QoS). This CIPN-based scenario requires the deployment of various infrastructure resources (networks, computers, firewalls, load balancers, etc.) that have to be provided by one or more data centers or network nodes. The management of a Data Center or node for the provision of services requires an agile and efficient management directed by the assurance of the Quality of Service (QoS) policy.
La garantía de la QoS se gestiona automáticamente por medio de la supervisión de algunas métricas del Servicio, a menudo denominadas Indicadores Clave del Funcionamiento (KPI). Existen diversas tecnologías para supervisar servicios y redes como las sondas, los agentes, los análisis de registros, etc., que son capaces de supervisar muchas métricas. Estas tecnologías incluyen simples olfateadores de red, tales como Wireshark [3], herramientas que añaden informes de gestión, administración y distribución remotas para la simple supervisión de red [4] o el tradicional Protocolo Simple de Gestión de Red (SNMP), que forma parte del abanico de protocolos de Internet como los define el Grupo de Trabajo de Ingeniería de Internet (IETF, Internet Engineering Task Force). Además, también hay disponibles plataformas de recogida y supervisión de datos a gran escala, construidas para las empresas de Telecomunicaciones y servicios [5]. The QoS guarantee is automatically managed through the supervision of some Service metrics, often referred to as Key Performance Indicators (KPI). There are various technologies to monitor services and networks such as probes, agents, log analysis, etc., that are capable of monitoring many metrics. These technologies include simple network sniffers, such as Wireshark [3], tools that add remote management, administration and distribution reports for simple network monitoring [4] or the traditional Simple Network Management Protocol (SNMP), which forms part of the range of Internet protocols as defined by the Internet Engineering Task Force (IETF). In addition, large-scale data collection and monitoring platforms are also available, built for Telecommunications and services companies [5].
Sin embargo, es crucial identificar las métricas relevantes que tienen una influencia directa en la percepción de la QoS. Esta tarea no es nada trivial en el escenario descrito, ya que hay muchas interacciones entre servicios y componentes de red que no son obvias para técnicos en operación. El objetivo de esta solución es revelar las dependencias ocultas entre las métricas, que permiten identificar las causas raíz de los fallos del servicio, caídas de la QoS, etc. Una vez que se han encontrado estas dependencias, los operadores serán capaces de detectar e impedir esas situaciones por anticipado. However, it is crucial to identify the relevant metrics that have a direct influence on the perception of QoS. This task is not trivial in the scenario described, as there are many interactions between services and network components that are not obvious to operating technicians. The objective of this solution is to reveal the hidden dependencies between the metrics, which allow us to identify the root causes of service failures, QoS crashes, etc. Once these dependencies have been found, operators will be able to detect and prevent those situations in advance.
Hay un gran número de publicaciones que trataron este problema, pero no pudieron establecer relaciones reales de causalidad [6, 7], que es una manera de valorar la relevancia de una métrica dada. En la mayoría de los sistemas, el software ayuda al operador a construir tales relaciones [8, 9] o los usuarios tienen que aprender estas relaciones por sí mismos [10]. Se utiliza la correlación para obtener la causalidad potencial entre métricas. En Estados Unidos se han patentado técnicas semiautomatizadas avanzadas de correlación basadas en series de tiempo, para procesos de negocios, que proporcionan una certeza adicional a la relación causal [11]. El método de la presente invención es diferente de dichas técnicas debido a varias razones. En primer lugar se realiza la agrupación de “clusters” formados sobre la base de una relación de causalidad (que permite descubrir modelos ocultos), de acuerdo con el valor de los coeficientes de correlación. Además, la presente invención extiende la propuesta de dichas técnicas [11] optimizando los algoritmos para un dominio de aplicación opuestamente diferente. En segundo lugar, el proceso de extracción de la información conlleva una pesada sobrecarga de cálculo para descubrir relaciones estadísticas [12]. En la presente invención se propone una técnica rápida de indexación para aliviar este problema, ayudando a guiar el proceso de descubrimiento en un orden óptimo [13]. El problema se complica más porque los servicios y, por tanto, las mediciones y sus relaciones serán continuamente actualizados en las CIPN, que hace diferente a la presente invención de otras publicaciones relacionadas por causalidad [12]. There are a large number of publications that addressed this problem, but could not establish real causal relationships [6, 7], which is a way of assessing the relevance of a given metric. In most systems, software helps the operator build such relationships [8, 9] or users have to learn these relationships for themselves [10]. The correlation is used to obtain the potential causality between metrics. In the United States, advanced semi-automated correlation techniques based on time series have been patented for business processes that provide additional certainty to the causal relationship [11]. The method of the present invention is different from said techniques due to several reasons. In the first place, the grouping of clusters formed on the basis of a causal relationship (which allows to discover hidden models) is performed, according to the value of the correlation coefficients. Furthermore, the present invention extends the proposal of said techniques [11] by optimizing the algorithms for an oppositely different application domain. Secondly, the process of extracting information entails a heavy calculation overhead to discover statistical relationships [12]. In the present invention a rapid indexing technique is proposed to alleviate this problem, helping to guide the discovery process in an optimal order [13]. The problem is further complicated because the services and, therefore, the measurements and their relationships will be continuously updated in the CIPN, which makes the present invention different from other publications related by causality [12].
Problema técnico planteado Technical problem raised
La solución tradicional para detectar las métricas óptimas depende normalmente de la experiencia de los expertos en el dominio y es laboriosa y propensa a errores. Alrededor del 20% del trabajo para identificar una métrica de éxito proviene de un ciclo de instalar-observar-ajustar [14, 15, 16]. Este procedimiento de prueba y error puede llegar a no ser factible dada la complejidad, la distribución y el tamaño creciente de las CIPN. En las CIPN modernas, se introducen continuamente en la red nuevos servicios que interactúan con servicios existentes anteriormente. Por tanto, incluso los operadores más experimentados tienen poca o ninguna experiencia en sus redes, haciendo que el conocimiento de los expertos quede desactualizado rápidamente. The traditional solution to detect optimal metrics usually depends on the expertise of domain experts and is laborious and error-prone. About 20% of the work to identify a success metric comes from an install-observe-adjust cycle [14,15,16]. This trial and error procedure may not be feasible given the complexity, distribution and increasing size of the CIPN. In modern CIPN, new services that interact with previously existing services are continuously introduced into the network. Therefore, even the most experienced operators have little or no experience in their networks, making expert knowledge quickly outdated.
Los sistemas tradiciones de inteligencia de negocios [17, 18] proporcionan principalmente métricas históricas predefinidas (o indicadores atrasados) durante un análisis estadístico a largo o medio plazo [19] y les falta la necesaria flexibilidad para dar soporte a métricas o recogida de datos en evolución con el tiempo para el análisis en tiempo real. En un momento dado, la métrica que revela un fallo en la red puede ser diferente, de manera que el proceso debe ser iterativo. Tradition business intelligence systems [17,18] mainly provide predefined historical metrics (or backward indicators) during a long- or medium-term statistical analysis [19] and lack the necessary flexibility to support metrics or data collection in evolution over time for real-time analysis. At any given time, the metric that reveals a network failure may be different, so the process must be iterative.
Hay disponibles otras técnicas para detectar métricas importantes [20], en las que aplican un vector de ponderación de la prioridad (PWV) y lo integran en una red neural SOM (los estados normales del sistema se describen con un mapa auto-organizado identificado a partir de los datos. Una desviación grande de las muestras de datos en los nodos SOM se detecta como un comportamiento anómalo). Algunos autores utilizan un análisis de trazado disperso con el fin de determinar el punto en que comienza a declinar el rendimiento y utilizan el Modelo de Suavización Aditiva de Winter para obtener la tendencia estadística y prever la evolución del sistema [16]. Sin embargo, estos enfoques se utilizan para detectar un funcionamiento anómalo de una sola célula de la red y están basados en métodos de distancia Euclídea (no muy adecuado para detectar correlaciones en series temporales). Por tanto, las CIPN requieren técnicas de correlación más complejas que las redes móviles [21]. Other techniques are available to detect important metrics [20], in which they apply a priority weighting vector (PWV) and integrate it into an SOM neural network (the normal states of the system are described with a self-organized map identi fi ed to from the data A large deviation of the data samples in the SOM nodes is detected as an anomalous behavior). Some authors use a scattered plot analysis in order to determine the point at which performance begins to decline and use the Winter Additive Smoothing Model to obtain the statistical trend and predict the evolution of the system [16]. However, these approaches are used to detect abnormal functioning of a single cell in the network and are based on Euclidean distance methods (not very suitable for detecting correlations in time series). Therefore, CIPN require more complex correlation techniques than mobile networks [21].
En las CIPN modernas, los servicios pueden residir por todo el mundo, y originan funcionamientos anómalos en el otro extremo del globo. Las técnicas actualmente disponibles tratan a menudo con datos locales, adoleciendo de falta de integración global de toda la red. In modern CIPN, services can reside worldwide, and cause anomalous operations at the other end of the globe. Currently available techniques often deal with local data, suffering from a lack of global integration of the entire network.
Breve descripción de la invención Brief Description of the Invention
El objetivo de esta invención es ayudar a identificar entre las métricas críticas originales de los servicios y de la red (que originan caídas de rendimiento y cambios en las métricas relacionadas) en redes convergentes. El proceso está altamente automatizado y presenta una respuesta en tiempo casi real a los cambios en la CIPN, y no requiere intervención humana. Esta invención amplía el concepto de correlación para obtener las relaciones reales de causalidad entre el deterioro del rendimiento y las métricas en grandes CIPN, en las que la tasa de eventos entrantes puede sobrecargar fácilmente la potencia de proceso del sistema. The objective of this invention is to help identify between the original critical services and network metrics (which result in performance drops and changes in related metrics) in converged networks. The process is highly automated and presents an almost real-time response to changes in the CIPN, and does not require human intervention. This invention extends the concept of correlation to obtain the real causal relationships between performance deterioration and metrics in large CIPNs, in which the rate of incoming events can easily overload the system process power.
Debe observarse que estas métricas críticas pueden cambiar durante el tiempo de vida de la CIPN a medida que se añaden nuevos servicios. Consecuentemente, el proceso aquí propuesto es altamente adaptable para identificar los cambios en el estado de la CIPN a escala global. Esta escalabilidad es esencial en entornos distribuidos en los que las interacciones potenciales de los servicios y los elementos de red pueden tener lugar por todo el mundo, pero degradan los sistemas localmente. It should be noted that these critical metrics may change during the lifetime of the CIPN as new services are added. Consequently, the process proposed here is highly adaptable to identify changes in the status of the CIPN on a global scale. This scalability is essential in distributed environments where potential interactions of services and network elements can take place all over the world, but degrade systems locally.
El proceso está altamente automatizado, lo que evita los costosos procedimientos de prueba y error en la detección de las métricas óptimas (aquellas que realmente degradan la QoS), gracias a los módulos correlación específicos de causalidad y de series temporales que están incluidos. Además, el procedimiento es capaz de tratar con el aumento exponencial en el número de servicios (y métricas) de interacción en las CIPN. The process is highly automated, which avoids the costly trial and error procedures in the detection of the optimal metrics (those that really degrade the QoS), thanks to the specific causality correlation modules and time series that are included. In addition, the procedure is capable of dealing with the exponential increase in the number of services (and metrics) of interaction in the CIPN.
La invención presenta una respuesta en tiempo casi real a los cambios en la CIPN, y no requiere intervención humana. Debe observarse que estas métricas críticas pueden cambiar durante el tiempo de vida de la CIPN, a medida que se agregan nuevos servicios a ella y dependen mucho del comportamiento de los servicios añadidos. El proceso propuesto en esta invención es altamente adaptable para identificar los cambios en el estado de la CIPN a una escala global, donde los datos llegan masivamente a los nodos de proceso. The invention presents an almost real-time response to changes in the CIPN, and does not require human intervention. It should be noted that these critical metrics may change during the lifetime of the CIPN, as new services are added to it and depend heavily on the behavior of the added services. The process proposed in this invention is highly adaptable to identify changes in the status of the CIPN on a global scale, where the data massively reaches the process nodes.
El proceso propuesto mejora el cálculo de correlaciones de las métricas calculando desplazamientos de tiempo con funciones no métricas de distancias, mejorando los métodos de distancia euclideana y los coeficientes de correlación simple. The proposed process improves the calculation of correlations of the metrics by calculating time shifts with non-metric distance functions, improving the Euclidean distance methods and the coefficients of simple correlation.
La invención se basa fundamentalmente en técnicas de reducción de la dimensionalidad y las refuerza añadiendo un método de clasificación que permite al sistema priorizar las mediciones al fijar un sistema de supervisión altamente sobrecargado, tal como el existente en las CIPN. The invention is based primarily on techniques for reducing dimensionality and reinforcing them by adding a method of classification that allows the system to prioritize measurements by establishing a highly overloaded supervision system, such as that existing in the CIPN.
La invención aporta un método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, el cual comprende las siguientes etapas básicas: The invention provides a method for determining in real time the causes of deterioration of service quality in converged networks, which comprises the following basic stages:
- a. to.
- reducir la dimensión de los eventos entrantes; reduce the dimension of incoming events;
- b. b.
- efectuar una correlación ordenada de dichos eventos para buscar las relaciones de causalidad entre los datos priorizados y los de alta correlación, construyendo al menos una matriz de distancia de causalidad, y obteniendo la causalidad potencial entre métricas, y make an orderly correlation of these events to find the causality relationships between the prioritized and high correlation data, building at least one causality distance matrix, and obtaining the potential causality between metrics, and
- c. C.
- agrupar los datos en clusters, formados sobre la base de una relación de causalidad, formando clusters de datos con una relación causal alta basándose en dicha matriz de distancia de causalidad previamente construida, grouping the data into clusters, formed on the basis of a causality relationship, forming data clusters with a high causal relationship based on said previously constructed causality distance matrix,
en donde dicha matriz de distancia de la etapa b) proporciona las relaciones jerárquicas mediante una lista de indicadores potencialmente operables o dendrograma. wherein said distance matrix of step b) provides the hierarchical relationships by means of a list of potentially operable indicators or dendrogram.
Conforme a una realización preferida de la invención el número real de clusters en la etapa c) se determina por el Criterio de Información de Akaike, en el cual la probabilidad de registros (log-likelihood) del modelo es penalizada crecientemente con el número de parámetros. According to a preferred embodiment of the invention, the actual number of clusters in step c) is determined by the Akaike Information Criteria, in which the probability of log-likelihood of the model is increasingly penalized with the number of parameters .
Breve descripción de los dibujos Brief description of the drawings
Para completar la descripción y con objeto de ayudar a una mejor comprensión de las características dela presente invención, se acompaña como parte integrante de dicha descripción, un juego de figuras donde, con carácter ilustrativo y no limitativo, se ha representado lo siguiente: To complete the description and in order to help a better understanding of the characteristics of the present invention, a set of figures is attached as an integral part of this description, where, as an illustration and not limitation, the following has been represented:
La figura 1 representa el método propuesto para extraer las métricas relevantes; y Figure 1 represents the proposed method to extract the relevant metrics; Y
La figura 2 representa una realización de muestra del método propuesto para la extracción de las métricas relevantes. Figure 2 represents a sample embodiment of the proposed method for extracting the relevant metrics.
Descripción detallada de la invención Detailed description of the invention
En la figura 1, se puede observar cómo los datos en bruto y los datos integrados se disponen conjuntamente (pasos 1 y 2). Dado el enorme volumen de información de métricas, es necesario realizar una reducción de dimensionalidad (evitando así “la maldición de la dimensionalidad” http://en.wikipedia.org/wiki/Curse_of_dimensionality, presente en grandes conjuntos de datos de los sistemas de extracción de datos) (paso 3). En esta invención se utilizan técnicas de reducción de la dimensionalidad, tales como el Análisis de Componentes Principales (PCA) [26], la Descomposición en Valores Singulares (SVD) [22], o la Aproximación de Acumulación de Trozos (PAA) [23], para filtrar las métricas menos significativas. Estas u otras técnicas de reducción de datos son útiles para separar las métricas menos relevantes. Además, se hace un modelo del proceso de distribución óptima (PAA) [23], como el clásico problema de cubierta de vértices en teoría de gráfos, que es un problema NP completo [25]. In Figure 1, you can see how raw data and integrated data are arranged together (steps 1 and 2). Given the enormous volume of metrics information, it is necessary to make a dimensionality reduction (thus avoiding “the curse of dimensionality” http://en.wikipedia.org/wiki/Curse_of_dimensionality, present in large data sets of the systems of data extraction) (step 3). In this invention, dimensionality reduction techniques are used, such as Principal Component Analysis (PCA) [26], Decomposition in Singular Values (SVD) [22], or the Accumulation Approach of Pieces (PAA) [23 ], to filter the least significant metrics. These or other data reduction techniques are useful for separating less relevant metrics. In addition, a model of the optimal distribution process (PAA) [23] is made, such as the classic vertex cover problem in graph theory, which is a complete NP problem [25].
Una vez reducida la dimensionalidad de los datos, se realiza una correlación métrica (paso 4) para buscar una relación entre los datos. Hay disponibles varias técnicas de correlación en la información impresa [24-27]. Sin embargo, las funciones tradicionales de distancia métrica, tal como la distancia Euclídea y los coeficientes de correlación, no son adecuados para detectar la correlación entre series temporales [28]. Hay otras funciones no métricas de distancia que calculan los desplazamientos de tiempo entre diversas métricas, que ayudan a determinar el orden de tiempo de estas métricas (por ejemplo, la Deformación Dinámica de Tiempo [29], DTW). Once the dimensionality of the data is reduced, a metric correlation (step 4) is performed to find a relationship between the data. Several correlation techniques are available in printed information [24-27]. However, traditional metric distance functions, such as Euclidean distance and correlation coefficients, are not suitable for detecting correlation between time series [28]. There are other non-metric distance functions that calculate the time shifts between various metrics, which help determine the time order of these metrics (for example, Dynamic Time Deformation [29], DTW).
Las mediciones de la correlación no implican una relación causal (que es lo que se busca en esta invención, para determinar aquellas métricas sobre las que se puede actuar para modificar el rendimiento global del sistema). Pero afortunadamente, se puede confiar en que las teorías de causalidad (paso 5) proporcionen la base estadística sólida para comprobar la dirección causal de diversas series de tiempo (por ejemplo, la teoría de Granger [30], las soluciones de Bayes que utilizan valores específicos de las métricas para transformar la estimación anterior de la probabilidad en una estimación posterior de la probabilidad de las causas de la métrica, o las funciones de Eigen de la Transformada de Hilbert [31]). Correlation measurements do not imply a causal relationship (which is what is sought in this invention, to determine those metrics on which action can be taken to modify the overall system performance). But fortunately, one can rely on causality theories (step 5) to provide the solid statistical basis for checking the causal direction of various time series (for example, Granger's theory [30], Bayes' solutions that use values specific metrics to transform the previous estimate of probability into a subsequent estimate of the probability of the causes of the metric, or the Eigen functions of the Hilbert Transform [31]).
Sin embargo, cualquier métrica puede tener muchas métricas potencialmente determinantes, de manera que la complejidad direccional aumenta con el número de métricas (por tanto, es evidente la importancia de la reducción de la dimensionalidad). Este inconveniente puede ser resuelto acumulando las métricas (las métricas en un cluster tienen una correlación más alta);de esta forma las métricas temporalmente precedentes en el cluster se supone que determinan el resultado de las demás del mismo cluster, con un peso relativo más alto que las demás de otros clusters (paso 6). La modificación de la técnica acumulativa de clustering se hace precisa en este caso para cortar bordes de incertidumbre cuando el conjunto de clusters generado es demasiado complejo. However, any metric can have many potentially determining metrics, so that the directional complexity increases with the number of metrics (therefore, the importance of dimensionality reduction is evident). This problem can be solved by accumulating the metrics (the metrics in a cluster have a higher correlation); in this way the temporarily preceding metrics in the cluster are supposed to determine the result of the others in the same cluster, with a higher relative weight than the rest of other clusters (step 6). The modification of the cumulative clustering technique is necessary in this case to cut edges of uncertainty when the set of clusters generated is too complex.
En esta sección se presenta una realización concreta del método general presentado anteriormente (cuyo resumen se puede encontrar en la figura 2). Los datos en bruto son generados desde unas sondas de red y agentes de software que reside en la infraestructura de la red (1). Estos datos son acumulados después (debe conseguirse un compromiso entre la capacidad de respuesta y la reducción de datos en la red) utilizando estadísticas sencillas (media y mediana) y son enviados al centro de procesado (2). This section presents a concrete embodiment of the general method presented above (whose summary can be found in Figure 2). The raw data is generated from network probes and software agents that reside in the network infrastructure (1). This data is accumulated afterwards (a compromise between the response capacity and the reduction of data in the network must be achieved) using simple statistics (mean and medium) and sent to the processing center (2).
Después, se aplican técnicas PCA y SVD para reducir la dimensionalidad de los datos generados masivamente y se utiliza la selección heurística de picos (greedy vertex) basándose en el grado del pico, y se proponen dos sencillos algoritmos para generar una gama estimada (indexación) en los picos (es decir, puntos de medida), basándose en los bordes (relaciones estadísticas existentes) que inciden sobre ellos. Los dos algoritmos están basados en un muestreo aleatorio como en la referencia [25]. Este paso (3) es, por tanto, crucial para manejar la enorme cantidad de eventos entrantes. Then, PCA and SVD techniques are applied to reduce the dimensionality of massively generated data and heuristic selection of peaks (greedy vertex) is used based on the degree of the peak, and two simple algorithms are proposed to generate an estimated range (indexation) at the peaks (i.e. measurement points), based on the edges (existing statistical relationships) that affect them. The two algorithms are based on random sampling as in the reference [25]. This step (3) is therefore crucial to handle the huge amount of incoming events.
Una vez que se ha reducido considerablemente la dimensión y se han priorizado los eventos entrantes, se efectúa una correlación ordenada (DTW[29]), de acuerdo con el ranking previamente obtenido (4). Estos pasos permiten buscar las relaciones de causalidad (aplicando la causalidad de Granger) entre los datos priorizados y los de alta correlación (5). Finalmente, se forman clusters de datos con una relación causal alta (6), basándose en la matriz de distancia de causalidad previamente construida, para obtener las relaciones jerárquicas en un dendrograma, es decir, una lista de indicadores potencialmente operables. Sin embargo, el cluster acumulativo tradicional tiene el inconveniente de encontrar los bordes de los distintos clusters. Para resolver este problema, el número real de clusters puede ser determinado por el Criterio de Información de Akaike, en el cual la probabilidad de registros (log-likelihood) del modelo es penalizada crecientemente con el número de parámetros. Once the dimension has been considerably reduced and incoming events have been prioritized, an orderly correlation (DTW [29]) is made, according to the previously obtained ranking (4). These steps allow you to search for causal relationships (applying Granger causality) between prioritized and high correlation data (5). Finally, data clusters with a high causal relationship (6) are formed, based on the previously constructed causality distance matrix, to obtain hierarchical relationships in a dendrogram, that is, a list of potentially operable indicators. However, the traditional cumulative cluster has the disadvantage of finding the edges of the different clusters. To solve this problem, the actual number of clusters can be determined by the Akaike Information Criteria, in which the probability of log-likelihood of the model is increasingly penalized with the number of parameters.
Abreviaturas utilizadas Abbreviations used
Referencias References
[1] EzWeb Mash-up platform. http://ezweb.morfeo-project.org/lng/en. [1] EzWeb Mash-up platform. http://ezweb.morfeo-project.org/lng/en.
[2] Imagenio Description. http://en.wikipedia.org/wiki/Imagenio. [2] Imagenio Description. http://en.wikipedia.org/wiki/Imagenio.
[3] Wireshark Net Sniffer. http://www.wireshark.com. [3] Wireshark Net Sniffer. http://www.wireshark.com
[4] LANSurveyor. http://www.solarwinds.com/products/LANsurveyor/. [4] LANSurveyor. http://www.solarwinds.com/products/LANsurveyor/.
[5] Monitoring Genie. http://www.jilroy.com/MP Introduction.htm. [5] Monitoring Genie. http://www.jilroy.com/MP Introduction.htm.
[6] Method and System for Optimising the Performance of a Network. http://www.wipo.int/pctdb/en/wo.jsp?IA= EP2001012374&WQ=2003037018&DI SPLAY=CLAIMS. [6] Method and System for Optimizing the Performance of a Network. http://www.wipo.int/pctdb/en/wo.jsp?IA= EP2001012374 & WQ = 2003037018 & DI SPLAY = CLAIMS.
[7] Network Analyzing Method and Apparatus for Optimal Performance of Network and a Recording Medium Having Programs to Conduct Said Methods. http://www.wipo.int/pctdb/en/wo.jsp?IA=KR2002002302&wo=2003055251 &DI SPLAY=DESC. [7] Network Analyzing Method and Apparatus for Optimal Performance of Network and a Recording Medium Having Programs to Conduct Said Methods. http://www.wipo.int/pctdb/en/wo.jsp?IA=KR2002002302&wo=2003055251 & DI SPLAY = DESC.
[8] Van Grembergen;R.W. Saull;S.De Haes; “Linking the IT Balanced Scorecard to the Business Objectives at a Major Canadian Financial Group”, Journal of Information Technology Cases and Applications, 2003. [8] Van Grembergen; R.W. Saull; S. De Haes; “Linking the IT Balanced Scorecard to the Business Objectives at a Major Canadian Financial Group,” Journal of Information Technology Cases and Applications, 2003.
[9] Malina MA, Selto FH. Causality in Performance Measurement Model. Social Science research Networks. 2004. http://papers.ssrn.com/sol3/papers.cfm?abstract id=488144. [9] Malina MA, Selto FH. Causality in Performance Measurement Model. Social Science research Networks. 2004. http://papers.ssrn.com/sol3/papers.cfm?abstract id = 488144.
[10] Chan APC, Scott D, Chan APL. Factors Affecting the Success of a Construction Project. J. Constr. Engrg. and Mgmt. 2004: 1(130):153-155. [10] Chan APC, Scott D, Chan APL. Factors Affecting the Success of a Construction Project. J. Constr. Engrg and Mgmt. 2004: 1 (130): 153-155.
[11] Semi-automatic system with an iterative learning method for uncovering the leading indicators in business processes. United States Patent Application 20080201397. [11] Semi-automatic system with an iterative learning method for uncovering the leading indicators in business processes. United States Patent Application 20080201397.
[12] Liu Y, Arnold A, Abe N. Temporal Causal Modeling with Graphical Granger Methods. Proceedings of the 13th ACM SIGKDD international conference on Knowledge discovery and data mining. 2007. [12] Liu Y, Arnold A, Abe N. Temporal Causal Modeling with Graphical Granger Methods. Proceedings of the 13th ACM SIGKDD international conference on Knowledge discovery and data mining. 2007
[13] Hui Z, Haifeng C, Guofei J, Xiaoqiao M, Yoshihira K. Fast statistical relationship discovery in massive monitoring data. IEEE Conference on Computer Communications Workshops, 2008. [13] Hui Z, Haifeng C, Guofei J, Xiaoqiao M, Yoshihira K. Fast statistical relationship discovery in massive monitoring data. IEEE Conference on Computer Communications Workshops, 2008.
[14] Pearson K. On Lines and Planes of Closest Fit to Systems and/or customer base grows the submitted book types are very of Points in Space. Philosophical Magazine, 2(6): 559-572, likely to change dramatically. [14] Pearson K. On Lines and Plans of Closest Fit to Systems and / or customer base grows the submitted book types are very of Points in Space. Philosophical Magazine, 2 (6): 559-572, likely to change dramatically.
[15] The Application of Trial Methodologies for Measuring and Verifying GPRS KPIs in the Railway Environment. 2004. http://www.bechtel.com/communications/assets/files/TechnicalJournals/Septe mber2004/Article2.pdf. [15] The Application of Trial Methodologies for Measuring and Verifying GPRS KPIs in the Railway Environment. 2004. http://www.bechtel.com/communications/assets/ fi les / TechnicalJournals / Septe mber2004 / Article2.pdf.
[16] Rhee CH, Park SJ, Lee YH, Kwon B, Yu JH. Deployment Method for Real-Time Wireless Network Optimizer in CDMA Network. http://research.ac.upc.ed u/EW2004/papers/37.pdf. [16] Rhee CH, Park SJ, Lee YH, Kwon B, Yu JH. Deployment Method for Real-Time Wireless Network Optimizer in CDMA Network. http: //research.ac.upc.ed u / EW2004 / papers / 37.pdf.
[17] Kaplan RS, Norton, DP. The Balanced Scorecard -Translating Strategy Into Action, Harvard Business School Press, Boston, Massachusetts, 1996. [17] Kaplan RS, Norton, DP. The Balanced Scorecard -Translating Strategy Into Action, Harvard Business School Press, Boston, Massachusetts, 1996.
[18] Leidner, DE., Elam, JJ. Executive Information Systems: Their Impact on Executive Decision Making. Journal of Management Information Systems, 1994; 10:139-156. [18] Leidner, DE., Elam, JJ. Executive Information Systems: Their Impact on Executive Decision Making. Journal of Management Information Systems, 1994; 10: 139-156.
[19] TGG International White Paper. About Network Performance Monitoring & Benchmarking In a Fast Changing Environment. http://www.ttgint.com/UserFiles/File/Telecom/White%20paper-About%20network %20performance%20monitoring%20and%20Benchmarking.pdf. [19] TGG International White Paper. About Network Performance Monitoring & Benchmarking In a Fast Changing Environment. http://www.ttgint.com/UserFiles/File/Telecom/White%20paper-About%20network% 20performance% 20monitoring% 20and% 20Benchmarking.pdf.
[20] Laiho, J., Kylväjä, M., Hoglund, A. Utilisation of Advanced Analysis Methods in UMTS Networks. Proceedings of the Vehicular Technology Conference 2002: 726-730. http://lib.tkk.fi/Diss/2002/isbn9512259028/article9.pdf. [20] Laiho, J., Kylväjä, M., Hoglund, A. Utilization of Advanced Analysis Methods in UMTS Networks. Proceedings of the Vehicular Technology Conference 2002: 726-730. http: //lib.tkk. fi / Diss / 2002 / isbn9512259028 / article9.pdf.
[21] Kreher, R. UMTS Performance Measurement: A Practical Guide to KPIs for the UTRAN Environment. July 2008. ISBN-10: 0-470-03249-9. [21] Kreher, R. UMTS Performance Measurement: A Practical Guide to KPIs for the UTRAN Environment. July 2008. ISBN-10: 0-470-03249-9.
[22] Golub, GH., Van Loan,CF. Matrix Computations. 3rd ed., Johns Hopkins University Press, Baltimore, 1996. [22] Golub, GH., Van Loan, CF. Matrix Computations 3rd ed., Johns Hopkins University Press, Baltimore, 1996.
[23] Keogh, E J., Chakrabarti, K., Pazzani, MJ., Mehrotra, S. Dimensionality reduction for fast similarity search in large time series databases. Knowledge and Information Systems, 2001; 3: 263-286. [23] Keogh, E J., Chakrabarti, K., Pazzani, MJ., Mehrotra, S. Dimensionality reduction for fast similarity search in large time series databases. Knowledge and Information Systems, 2001; 3: 263-286.
[24] Time Series Analysis Overview http://www.statsoft.com/textbook/sttimser.html. [24] Time Series Analysis Overview http://www.statsoft.com/textbook/sttimser.html.
[25] Papadimitriou, S., Jimeng S., Yu, PS. Local Correlation Tracking in Time Series. Proceedings of the Sixth International Conference on Data Mining, 2006; 18:456-465. [25] Papadimitriou, S., Jimeng S., Yu, PS. Local Correlation Tracking in Time Series. Proceedings of the Sixth International Conference on Data Mining, 2006; 18: 456-465.
[26] Peter Robinson, 2007. Correlation testing in time series, spatial and cross-sectional data. CeMMAP working papers CWP01/07, Centre for Microdata Methods and Practice, Institute for Fiscal Studies. [26] Peter Robinson, 2007. Correlation testing in time series, spatial and cross-sectional data. CeMMAP working papers CWP01 / 07, Center for Microdata Methods and Practice, Institute for Fiscal Studies.
[27] Zhang,P., Huang,Y., Shekhar, S., Kumar, V. Correlation Analysis of Spatial Time Series Datasets: A Filterand-Refine Approach. Proc. of the 7thPAKDD 2003. [27] Zhang, P., Huang, Y., Shekhar, S., Kumar, V. Correlation Analysis of Spatial Time Series Datasets: A Filterand-Refin ne Approach. Proc. of the 7thPAKDD 2003.
[28] Sakurai,Y., Papadimitriou, S., Faloutsos, C. BRAID: Stream Mining through Group Lag Correlations, SIGMOD, 599-610, 2005. [28] Sakurai, Y., Papadimitriou, S., Faloutsos, C. BRAID: Stream Mining through Group Lag Correlations, SIGMOD, 599-610, 2005.
[29] Myers, CS., Rabiner, LR. A comparative study of several dynamic timewarping algorithms for connected word recognition. The Bell System Technical Journal, 1981; 60:1389-1409. [29] Myers, CS., Rabiner, LR. A comparative study of several dynamic timewarping algorithms for connected word recognition. The Bell System Technical Journal, 1981; 60: 1389-1409.
[30] Granger, CWJ. Investigating causal relations by econometric models and cross-spectral methods. Econometrica, 1969; 37:424-438. [30] Granger, CWJ. Investigating causal relations by econometric models and cross-spectral methods. Econometrics, 1969; 37: 424-438.
[31] Knockaert, L., Dhaene, T. Causality Determination and Time Delay Extraction by Means of the Eigenfunctions of the Hilbert Transform. Proceedings of the 12th IEEE Workshop on Signal Propagation on Interconnects 2008:1-4. [31] Knockaert, L., Dhaene, T. Causality Determination and Time Delay Extraction by Means of the Eigenfunctions of the Hilbert Transform. Proceedings of the 12th IEEE Workshop on Signal Propagation on Interconnects 2008: 1-4.
Claims (9)
- a. to.
- reducir la dimensión de los eventos entrantes; reduce the dimension of incoming events;
- b. b.
- efectuar una correlación ordenada de dichos eventos para buscar las relaciones de causalidad entre los datos priorizados y los de alta correlación, construyendo al menos una matriz de distancia de causalidad, y obteniendo la causalidad potencial entre métricas, y make an orderly correlation of these events to find the causality relationships between the prioritized and high correlation data, building at least one causality distance matrix, and obtaining the potential causality between metrics, and
- c. C.
- agruparlos datos en clusters, formados sobre la base de una relación de causalidad, formando clusters de datos con una relación causal alta basándose en dicha matriz de distancia de causalidad previamente construida, grouping the data into clusters, formed on the basis of a causality relationship, forming data clusters with a high causal relationship based on said previously constructed causality distance matrix,
- 2. 2.
- Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, según la reivindicación 1, caracterizado porque en la etapa a) se aplican técnicas PCA y SVD para reducir la dimensionalidad de los datos generados masivamente, se utiliza la selección heurística de picos (greedy vertex) basándose en el grado del pico, y se aplican unos algoritmos de muestreo aleatorio para generar una gama estimada (indexación rápida) en los picos o puntos de medida, basándose en los bordes (relaciones estadísticas existentes) que inciden sobre ellos. Method for determining in real time the causes of the deterioration of the quality of the service in convergent networks, according to claim 1, characterized in that in step a) PCA and SVD techniques are applied to reduce the dimensionality of the massively generated data, uses heuristic peak selection (greedy vertex) based on the degree of the peak, and random sampling algorithms are applied to generate an estimated range (rapid indexing) at the peaks or measurement points, based on the edges (existing statistical relationships ) that affect them.
- 3. 3.
- Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, según la reivindicación 1, caracterizado porque en dicha etapa b) se aplica la causalidad de Granger, valorando la causalidad comprobando la dirección causal de varias series temporales. Method for determining in real time the causes of deterioration of the quality of the service in convergent networks, according to claim 1, characterized in that in said step b) the causality of Granger is applied, assessing the causality by checking the causal direction of several series Temporary
- 4. Four.
- Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, según la reivindicación 1, caracterizado porque dicha matriz de distancia construida en la etapa b) proporciona las relaciones jerárquicas mediante una lista de indicadores potencialmente operables o dendrograma. Method for determining in real time the causes of deterioration of the quality of service in convergent networks, according to claim 1, characterized in that said distance matrix constructed in step b) provides the hierarchical relationships by means of a list of potentially operable indicators or dendrogram
- 6. 6.
- Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, según una cualquiera de las reivindicaciones anteriores, caracterizado porque utiliza directamente los datos de las redes que están en funcionamiento para disponer de la capacidad de adaptación en tiempo cuasi real a los cambios en dichas redes. Method for the determination in real time of the causes of the deterioration of the quality of the service in convergent networks, according to any one of the preceding claims, characterized in that it directly uses the data of the networks that are in operation to have the adaptability in Quasi-real time to changes in these networks.
- 7. 7.
- Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, según una cualquiera de las reivindicaciones anteriores, caracterizado porque se realiza un cambio en las métricas que son identificadas conforme se van añadiendo nuevos servicios a una red. Method for the determination in real time of the causes of the deterioration of the quality of the service in convergent networks, according to any one of the preceding claims, characterized in that a change is made in the metrics that are identi fi ed as new services are added to a network .
- 8. 8.
- Método para la determinación en tiempo real de las causas del deterioro de la calidad del servicio en redes convergentes, según la reivindicación 1, caracterizado porque previamente a dicha etapa a) se procede a disponer conjuntamente los datos en bruto y los datos integrados de dichos eventos entrantes. Method for determining in real time the causes of deterioration of the quality of the service in convergent networks, according to claim 1, characterized in that prior to said stage a) the raw data and the integrated data of said events are arranged together Incoming
- Categoría Category
- Documentos citados Reivindicaciones afectadas Documents cited Claims Affected
- A A To
- WO 03055251 A1 (SK TELECOM CO LTD et al.) 03.07.2003, resumen; página 3, línea 15 – página 5, línea 16; página 6, línea 19 – página 12, línea 8; figura 3. US 2004266442 A1 (FLANAGAN ADRIAN et al.) 30.12.2004, resumen; párrafos 18-31,38-40; figura 1. 1-8 1-8 WO 03055251 A1 (SK TELECOM CO LTD et al.) 03.07.2003, summary; page 3, line 15 - page 5, line 16; page 6, line 19 - page 12, line 8; Figure 3. US 2004266442 A1 (FLANAGAN ADRIAN et al.) 30.12.2004, summary; paragraphs 18-31,38-40; Figure 1. 1-8 1-8
- Categoría de los documentos citados X: de particular relevancia Y: de particular relevancia combinado con otro/s de la misma categoría A: refleja el estado de la técnica O: referido a divulgación no escrita P: publicado entre la fecha de prioridad y la de presentación de la solicitud E: documento anterior, pero publicado después de la fecha de presentación de la solicitud Category of the documents cited X: of particular relevance Y: of particular relevance combined with other / s of the same category A: reflects the state of the art O: refers to unwritten disclosure P: published between the priority date and the date of priority submission of the application E: previous document, but published after the date of submission of the application
- El presente informe ha sido realizado • para todas las reivindicaciones • para las reivindicaciones nº: This report has been prepared • for all claims • for claims no:
- Fecha de realización del informe 24.11.2011 Date of realization of the report 24.11.2011
- Examinador J. Santaella Vallejo Página 1/4 Examiner J. Santaella Vallejo Page 1/4
- Novedad (Art. 6.1 LP 11/1986) Novelty (Art. 6.1 LP 11/1986)
- Reivindicaciones Reivindicaciones 1-8 SI NO Claims Claims 1-8 IF NOT
- Actividad inventiva (Art. 8.1 LP11/1986) Inventive activity (Art. 8.1 LP11 / 1986)
- Reivindicaciones Reivindicaciones 1-8 SI NO Claims Claims 1-8 IF NOT
- Documento Document
- Número Publicación o Identificación Fecha Publicación Publication or Identification Number publication date
- D01 D01
- WO 03055251 A1 (SK TELECOM CO LTD et al.) 03.07.2003 WO 03055251 A1 (SK TELECOM CO LTD et al.) 03.07.2003
- D02 D02
- US 2004266442 A1 (FLANAGAN ADRIAN et al.) 30.12.2004 US 2004266442 A1 (FLANAGAN ADRIAN et al.) 12-30-2004
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
ES200900406A ES2370424B1 (en) | 2009-02-13 | 2009-02-13 | Method for determining in real time the causes of deterioration of service quality in converged networks. |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
ES200900406A ES2370424B1 (en) | 2009-02-13 | 2009-02-13 | Method for determining in real time the causes of deterioration of service quality in converged networks. |
Publications (2)
Publication Number | Publication Date |
---|---|
ES2370424A1 ES2370424A1 (en) | 2011-12-15 |
ES2370424B1 true ES2370424B1 (en) | 2012-08-07 |
Family
ID=45023364
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
ES200900406A Expired - Fee Related ES2370424B1 (en) | 2009-02-13 | 2009-02-13 | Method for determining in real time the causes of deterioration of service quality in converged networks. |
Country Status (1)
Country | Link |
---|---|
ES (1) | ES2370424B1 (en) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040266442A1 (en) * | 2001-10-25 | 2004-12-30 | Adrian Flanagan | Method and system for optimising the performance of a network |
US7218928B2 (en) * | 2001-12-07 | 2007-05-15 | Sk Telecom Co., Ltd. | Network analyzing method and apparatus for optimal performance of network, and a recording medium having programs to conduct said method |
-
2009
- 2009-02-13 ES ES200900406A patent/ES2370424B1/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
ES2370424A1 (en) | 2011-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7145764B2 (en) | Network advisor based on artificial intelligence | |
Saleem et al. | How representative is a sparql benchmark? an analysis of rdf triplestore benchmarks | |
Xuan et al. | Solving the large scale next release problem with a backbone-based multilevel algorithm | |
US20200409781A1 (en) | Identifying root causes of performance issues | |
Rana et al. | A framework for adoption of machine learning in industry for software defect prediction | |
US9026652B1 (en) | Web service asset management and web service information storage | |
US9971669B2 (en) | Predicting performance of a software application over a target system | |
US20160140171A1 (en) | Method and system for efficient performance prediction of structured query for big data | |
EP3383088A1 (en) | A computer implemented method, a system and computer programs to quantify the performance of a network | |
Ouared et al. | Deepcm: Deep neural networks to improve accuracy prediction of database cost models | |
ES2370424B1 (en) | Method for determining in real time the causes of deterioration of service quality in converged networks. | |
Hafez | Mining Big Data in telecommunications industry: challenges, techniques, and revenue opportunity | |
Qazi | Data-driven impact assessment of multidimensional project complexity on project performance | |
Nidd et al. | Automated business application discovery | |
binti Oseman et al. | Data mining in churn analysis model for telecommunication industry | |
Parekh et al. | Issues in bottleneck detection in multi-tier enterprise applications | |
García-Saiz et al. | A clustering-based knowledge discovery process for data centre infrastructure management | |
Pasias et al. | Cyber-Resilience Enhancement Framework in Smart Grids | |
Roschke et al. | An alert correlation platform for memory‐supported techniques | |
Colomo-Palacios et al. | Semantic representation and computation of cloud-based Customer Relationship Management solutions | |
Wajid et al. | Optimizing service ecosystems in the cloud | |
Moulla et al. | Systematic literature review of IoT metrics | |
Ramos et al. | Distributed systems performance for big data | |
Wang | Research on Human Resource Management Performance Evaluation Method Based on Chaos Optimization Algorithm | |
Grisci et al. | Perspectives on risk prioritization of data center vulnerabilities using rank aggregation and multi-objective optimization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FG2A | Definitive protection |
Ref document number: 2370424 Country of ref document: ES Kind code of ref document: B1 Effective date: 20120807 |
|
FD2A | Announcement of lapse in spain |
Effective date: 20190610 |