RU2018142269A - Система и способ организации очереди на основе ожидания - Google Patents

Система и способ организации очереди на основе ожидания Download PDF

Info

Publication number
RU2018142269A
RU2018142269A RU2018142269A RU2018142269A RU2018142269A RU 2018142269 A RU2018142269 A RU 2018142269A RU 2018142269 A RU2018142269 A RU 2018142269A RU 2018142269 A RU2018142269 A RU 2018142269A RU 2018142269 A RU2018142269 A RU 2018142269A
Authority
RU
Russia
Prior art keywords
messages
waiting
recipient
network address
queue
Prior art date
Application number
RU2018142269A
Other languages
English (en)
Inventor
Ридиан ДЖОН
Томас ЛУНИ
Бартломей ПРОКОП
Original Assignee
Виза Интернэшнл Сервис Ассосиэйшн
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Виза Интернэшнл Сервис Ассосиэйшн filed Critical Виза Интернэшнл Сервис Ассосиэйшн
Publication of RU2018142269A publication Critical patent/RU2018142269A/ru

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/50—Queue scheduling
    • H04L47/56—Queue scheduling implementing delay-aware scheduling
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/48—Message addressing, e.g. address format or anonymous messages, aliases
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0852—Delays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0852—Delays
    • H04L43/0864—Round trip delays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/226—Delivery according to priorities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computer And Data Communications (AREA)
  • Information Transfer Between Computers (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Claims (31)

1. Способ, содержащий этапы, на которых:
принимают в серверной компьютерной системе множество сообщений, причем каждое сообщение включает в себя сетевой адрес компьютера получателя;
отправляют посредством серверной компьютерной системы по сети данное множество сообщений на компьютеры получателей, причем каждое из множества сообщений отправляется с помощью потока из множества потоков, выполняющихся в серверной компьютерной системе, при этом от потока требуется ожидать ответ с подтверждением с соответствующего компьютера получателя, прежде чем отправлять другое сообщение из упомянутого множества сообщений;
определяют время ожидания ответа с подтверждением, который должен быть принят серверной компьютерной системой, для каждого из множества сообщений;
принимают в серверной компьютерной системе первое сообщение, включающее в себя первый сетевой адрес компьютера первого получателя;
определяют, отправлялись ли ранее другие сообщения на первый сетевой адрес компьютера первого получателя;
после определения того, что другие сообщения ранее отправлялись на первый сетевой адрес:
определяют величину ожидания ответа на другие сообщения, связанные с первым сетевым адресом,
сравнивают величину ожидания с первым порогом и
определяют, следует ли помещать первое сообщение в первую очередь ожидания или во вторую очередь ожидания, на основе сравнения величины ожидания с первым порогом, при этом разные потоки из упомянутого множества потоков распределяются в первую очередь ожидания и вторую очередь ожидания.
2. Способ по п.1, дополнительно содержащий этапы, на которых:
генерируют хеши, по меньшей мере, части сетевых адресов компьютеров получателей для упомянутого множества сообщений;
сохраняют эти хеши в базе данных; и
генерируют первый хеш, по меньшей мере, части первого сетевого адреса,
при этом упомянутое определение того, что другие сообщения ранее отправлялись на первый сетевой адрес, содержит этап, на котором сравнивают первый хеш с сохраненными в базе данных хешами.
3. Способ по п.1, дополнительно содержащий этап, на котором, после определения того, что другие сообщения ранее не отправлялись на первый сетевой адрес, помещают первое сообщение в очередь по умолчанию.
4. Способ по п.1, в котором времена ожидания других сообщений, связанных с первым сетевым адресом, образуют статистическое распределение, при этом упомянутое определение величины ожидания ответа для других сообщений, связанных с первым сетевым адресом, содержит этап, на котором вычисляют статистический параметр этого статистического распределения, каковой статистический параметр является одним из среднего, моды или медианы данного статистического распределения, причем величина ожидания представляет собой данный статистический параметр.
5. Способ по п.1, дополнительно содержащий этап, на котором, после помещения первого сообщения во вторую очередь ожидания, генерируют предупреждение для компьютера первого получателя о том, что величина ожидания ответа превышает первый порог для первого сетевого адреса.
6. Способ по п.1, дополнительно содержащий этап, на котором динамически изменяют количество потоков, распределяемых в первую очередь ожидания и вторую очередь ожидания, на основе первого количества сообщений в первой очереди ожидания и на основе второго количества сообщений во второй очереди ожидания.
7. Способ по п.1, дополнительно содержащий этап, на котором динамически изменяют упомянутый порог на основе первого количества сообщений в первой очереди ожидания и на основе второго количества сообщений во второй очереди ожидания.
8. Способ по п.1, в котором сообщения отправляются на компьютеры получателей с использованием по меньшей мере одного из HTTP и TCP.
9. Способ по п.1, дополнительно содержащий этапы, на которых:
сравнивают величину ожидания со вторым порогом; и
определяют, следует ли помещать первое сообщение во вторую очередь ожидания или в третью очередь ожидания, на основе сравнения величины ожидания со вторым порогом.
10. Способ по п. 1, дополнительно содержащий этапы, на которых:
осуществляют попытку отправить по сети первое сообщение на компьютер первого получателя с использованием первого потока из множества потоков, причем первый поток связан с первой очередью ожидания или второй очередью ожидания, при этом от потока требуется ожидать первый ответ с подтверждением с компьютера первого получателя, прежде чем осуществлять попытку отправить другое сообщение из упомянутого множества сообщений, при этом первый ответ с подтверждением не принимается с компьютера первого получателя в течение порогового периода времени; и
переназначают первое сообщение во второй поток, связанный с первой очередью ожидания, второй очередью ожидания или очередью для обработки в ручном режиме.
11. Машиночитаемый носитель, хранящий команды, которые при их исполнении процессором предписывают компьютерной системе выполнять способ по любому из пп. 1-10.
12. Серверная компьютерная система, содержащая:
процессор и
память, подключенную к процессору, причем память хранит команды, которые при их исполнении процессором предписывают серверной компьютерной системе выполнять способ по любому из пп. 1-10.
RU2018142269A 2016-05-02 2017-04-28 Система и способ организации очереди на основе ожидания RU2018142269A (ru)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/144,216 2016-05-02
US15/144,216 US9935888B2 (en) 2016-05-02 2016-05-02 System and method for latency-based queuing
PCT/US2017/030241 WO2017192400A1 (en) 2016-05-02 2017-04-28 System and method for latency-based queuing

Publications (1)

Publication Number Publication Date
RU2018142269A true RU2018142269A (ru) 2020-06-03

Family

ID=60159188

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2018142269A RU2018142269A (ru) 2016-05-02 2017-04-28 Система и способ организации очереди на основе ожидания

Country Status (6)

Country Link
US (2) US9935888B2 (ru)
EP (1) EP3453148B1 (ru)
CN (1) CN109076026B (ru)
AU (2) AU2017259252B2 (ru)
RU (1) RU2018142269A (ru)
WO (1) WO2017192400A1 (ru)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9280791B2 (en) * 2012-12-20 2016-03-08 Trading Technologies International, Inc. Systems and methods for routing trade orders based on exchange latency
US10356002B2 (en) * 2017-01-24 2019-07-16 Nokia Solutions And Networks Oy Processing real-time multipoint-to-point traffic
US10547561B1 (en) 2017-11-22 2020-01-28 Juniper Networks, Inc. Queuing system to achieve maximum queuing latency in a computing device
CN108566346A (zh) * 2018-03-14 2018-09-21 阿里巴巴集团控股有限公司 网络请求的处理方法及装置
US10608961B2 (en) * 2018-05-08 2020-03-31 Salesforce.Com, Inc. Techniques for handling message queues
US10862811B1 (en) * 2018-06-08 2020-12-08 West Corporation Message brokering for asynchronous status updates
US10623328B1 (en) * 2018-06-08 2020-04-14 West Corporation Message brokering for asynchronous status updates
US10623329B2 (en) * 2018-06-27 2020-04-14 Juniper Networks, Inc. Queuing system to predict packet lifetime in a computing device
JP7251182B2 (ja) * 2019-02-06 2023-04-04 日本電気株式会社 制御装置、処理装置の制御方法及びプログラム
JP7029428B2 (ja) * 2019-07-09 2022-03-03 株式会社日立製作所 時刻同期システム、時刻同期方法及び時刻スレーブ装置
CN110662085B (zh) * 2019-10-16 2021-10-01 北京字节跳动网络技术有限公司 消息发送方法、装置、可读介质及电子设备
CN110768915A (zh) * 2019-10-31 2020-02-07 杭州迪普科技股份有限公司 一种分流方法及装置
CN113162790B (zh) * 2020-01-22 2023-10-03 华为技术有限公司 调整服务等级的方法、装置、设备及存储介质
CN111444012B (zh) * 2020-03-03 2023-05-30 中国科学院计算技术研究所 一种保证延迟敏感应用延迟slo的动态调控资源方法及系统
US11768686B2 (en) * 2020-07-27 2023-09-26 Nvidia Corporation Out of order memory request tracking structure and technique
US11456815B2 (en) 2020-10-30 2022-09-27 Sk3W Technologies Inc. Deterministic dynamic network traffic shaping
US12033212B2 (en) * 2021-06-08 2024-07-09 Citigroup Technology, Inc. Systems and methods for non-intrusive monitoring of intra-process latency of application
US20220138021A1 (en) * 2021-07-23 2022-05-05 Intel Corporation Communications for workloads
CA3236932A1 (en) * 2021-10-29 2023-05-04 Sk3W Technologies Inc. Network traffic latency equalizing

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5767785A (en) 1996-05-01 1998-06-16 Motorola, Inc. Method and apparatus for selecting a batch of pending messages for a next transmission
KR0185319B1 (ko) 1996-09-21 1999-05-15 김흥기 포지티브 포토레지스트 제조용 수지 및 이 수지를 함유하는 화학증폭형 포지티브 포토레지스트 조성물
US6738386B1 (en) 2000-05-11 2004-05-18 Agere Systems Inc. Controlled latency with dynamically limited queue depth based on history and latency estimation
US6880111B2 (en) * 2001-10-31 2005-04-12 Intel Corporation Bounding data transmission latency based upon a data transmission event and arrangement
US7296067B2 (en) * 2002-12-19 2007-11-13 Research In Motion Limited Wireless/LAN router queuing method and system
US7761516B2 (en) * 2003-03-06 2010-07-20 Siemens Enterprise Communications, Inc. System and method for e-mail presence confirmation
US7626988B2 (en) 2004-06-09 2009-12-01 Futurewei Technologies, Inc. Latency-based scheduling and dropping
GB0524021D0 (en) * 2005-11-25 2006-01-04 Ibm A system for preserving message order
US8656409B2 (en) * 2005-12-29 2014-02-18 Intel Corporation High performance queue implementations in multiprocessor systems
US7797284B1 (en) * 2007-04-25 2010-09-14 Netapp, Inc. Dedicated software thread for communicating backup history during backup operations
US8571048B2 (en) 2007-04-30 2013-10-29 Hewlett-Packard Development Company, L.P. Dynamic memory queue depth algorithm
US8132239B2 (en) * 2007-06-22 2012-03-06 Informed Control Inc. System and method for validating requests in an identity metasystem
US8972504B2 (en) * 2007-11-16 2015-03-03 International Business Machines Corporation Forwarding un-responded to instant messages to electronic mail
US8547846B1 (en) * 2008-08-28 2013-10-01 Raytheon Bbn Technologies Corp. Method and apparatus providing precedence drop quality of service (PDQoS) with class-based latency differentiation
US8135025B2 (en) * 2009-06-03 2012-03-13 Microsoft Corporation Asynchronous communication in an unstable network
US8971184B2 (en) * 2009-06-08 2015-03-03 Arris Enterprises, Inc. Latency based random early discard for network packets
US8547847B2 (en) 2010-07-22 2013-10-01 International Business Machines Corporation Transparent quality of service
US9160725B2 (en) * 2011-09-23 2015-10-13 Rpost Communications Limited Computer implemented system and method for authenticating a sender of electronic data to a recipient
US8521825B2 (en) * 2011-09-26 2013-08-27 International Business Machines Corporation Electronic message monitoring
US9571406B2 (en) * 2011-10-25 2017-02-14 Vmware, Inc. Network congestion management based on communication delay
US9276873B2 (en) * 2012-11-23 2016-03-01 Verizon Patent And Licensing Inc. Time-based QoS scheduling of network traffic
US9860182B2 (en) * 2012-12-19 2018-01-02 Nec Corporation Data transmission device, data transmission method, and program therefor
US9329047B2 (en) 2013-07-17 2016-05-03 Google Inc. Point-of-interest latency prediction using mobile device location history
WO2015172815A1 (en) * 2014-05-13 2015-11-19 Telefonaktiebolaget L M Ericsson (Publ) Delay requirement aware packet forwarding control
US9729662B2 (en) * 2014-08-11 2017-08-08 Cisco Technology, Inc. Probabilistic lazy-forwarding technique without validation in a content centric network
US11736405B2 (en) * 2015-08-31 2023-08-22 Comcast Cable Communications, Llc Network packet latency management
US11010833B2 (en) * 2015-10-09 2021-05-18 Chicago Mercantile Exchange Inc. Systems and methods for calculating a latency of a transaction processing system

Also Published As

Publication number Publication date
CN109076026B (zh) 2020-05-15
CN109076026A (zh) 2018-12-21
US10659383B2 (en) 2020-05-19
US20180198725A1 (en) 2018-07-12
US20170317944A1 (en) 2017-11-02
WO2017192400A1 (en) 2017-11-09
US9935888B2 (en) 2018-04-03
EP3453148B1 (en) 2021-09-01
AU2017259252B2 (en) 2018-11-22
AU2017259252A1 (en) 2018-09-20
EP3453148A1 (en) 2019-03-13
AU2019200401A1 (en) 2019-02-07
EP3453148A4 (en) 2019-04-10

Similar Documents

Publication Publication Date Title
RU2018142269A (ru) Система и способ организации очереди на основе ожидания
CN107800768B (zh) 开放平台控制方法和系统
US11765025B2 (en) Consistent hashing for network traffic dispatching
CN110535787B (zh) 消息消费方法、装置及可读存储介质
WO2020133967A1 (zh) 共享计算资源的调度方法、共享计算系统、服务器及介质
JP2016515228A5 (ru)
US9225651B2 (en) Method and apparatus for load balancing
MX2019007812A (es) Metodo y dispositivo de procesamiento y consenso de servicio.
CN106445675B (zh) 一种b2b平台分布式应用调度与资源分配方法
CN106878415B (zh) 数据消费的负载均衡方法及装置
TW201929510A (zh) 支援基於數據類型將數據流分組並儲存至雲端儲存文件中的系統和電腦可執行方法
JP2012230667A5 (ru)
CN108933829A (zh) 一种负载均衡方法及装置
CN105160570A (zh) 一种可水平扩展的并发在线交易处理方法
US20170078207A1 (en) Network prioritization based on node-level attributes
CN107623731B (zh) 一种任务调度方法、客户端、服务集群及系统
CN104980515A (zh) 一种云存储系统中消息分发处理方法和装置
US20180097748A1 (en) Partitioned Topic Based Queue with Automatic Processing Scaling
EP3349130A1 (en) Data compression method and storage system
CN107046503B (zh) 一种报文传输方法、系统及其装置
CN105554049B (zh) 分布式业务量控制方法和装置
Komarasamy et al. A novel approach for Dynamic Load Balancing with effective Bin Packing and VM Reconfiguration in cloud
WO2016070478A1 (zh) 一种用于报文处理的规则表项的优化方法及装置
US9894012B2 (en) Method and system to improve network connection locality on multicore systems
CN111008071A (zh) 任务调度系统、方法和服务器

Legal Events

Date Code Title Description
FA93 Acknowledgement of application withdrawn (no request for examination)

Effective date: 20200429