KR20240030872A

KR20240030872A - 레이턴시 메트릭을 계산하고 사용자 실험을 비활성화하기 위한 시스템 및 방법

Info

Publication number: KR20240030872A
Application number: KR1020220124706A
Authority: KR
Inventors: 샤오웨이 공; 응옥-란 이사벨 판; 시안빙 링; 알디 자하디
Original assignee: 쿠팡 주식회사
Priority date: 2022-08-29
Filing date: 2022-09-29
Publication date: 2024-03-07
Also published as: WO2024047411A1; US20240070692A1

Abstract

본 개시의 실시예는 네트워크를 통해 사용자 디바이스로부터 실험 세트의 제1 실험과 관련된 실험 매개변수를 수신하는 것을 포함하는 - 실험 세트는 적어도 하나의 처리 그룹 및 적어도 하나의 제어 그룹을 포함함 -, 사용자 실험을 위한 레이턴시 메트릭의 계산을 최적화하기 위한 시스템 및 방법을 제공한다. 사용자 디바이스는 네트워크를 통해 제1 실험에 대한 상호작용까지의 시간(TTI) 데이터를 수신한다. TTI는 각 처리 그룹 실험 및 각 제어 그룹 실험에 대해 계산된다. 처리 그룹 실험의 TTI 값은 제어 그룹 실험의 TTI 값과 비교된다. 시스템 및 방법은 처리 그룹 실험의 TTI 값과 제어 그룹 실험의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 큰지 여부를 결정한다. 처리 그룹 실험과 제어 그룹 실험은 값이 미리 결정된 임계 값보다 클 때까지 유지된다. 처리 그룹 실험 값이 미리 결정된 임계 값보다 큰 경우, 시스템 및 방법은 사용자에게 통지하는 알림을 전송하거나 처리 그룹 실험의 활성화를 비활성화한다.

Description

레이턴시 메트릭을 계산하고 사용자 실험을 비활성화하기 위한 시스템 및 방법{SYSTEMS AND METHODS FOR CALCULATING LATENCY METRICS AND DISABLING USER EXPERIMENTS}

본 개시는 일반적으로 사용자 실험에서 레이턴시 메트릭을 계산하고 지연 시간을 최소화하기 위한 컴퓨터화된 시스템 및 방법에 관한 것이다. 특히, 본 개시의 실시예는 사용자 실험에서 레이턴시 메트릭을 계산하고 네트워크 디바이스와 실행 중인 실험 사이의 지연 시간을 최소화하는 것과 관련된 독창적이고 비전통적인 시스템에 관한 것이다.

A/B 테스트는 개발자가 고객이 활용하지 않는 웹사이트 기능을 만들고 개발하는 데 시간과 리소스를 소비하는 것을 방지하는 중요한 도구이다. 주문 이행 회사는 고객이 웹 페이지의 특정 요소 변경에 어떻게 반응하는지 더 잘 이해하기 위해 웹 페이지에서 A/B 테스트를 사용할 수 있다. A/B 테스트는 판매량 변화와 같이 요소의 효과를 측정하는 데 활용될 수 있는 웹 페이지 요소의 형태 및 시각화의 변형을 갖는 웹 페이지의 두 가지 버전을 준비하는 것을 포함할 수 있다. 고객이 웹 페이지의 기능과 상호 작용하는 방식을 이해하면 A/B 테스트를 통해 고객이 긍정적으로 반응한 웹 페이지 기능을 사용하여 고객을 유치하여 수익을 극대화할 수 있다.

A/B 테스트는 유용한 도구이지만, 이러한 테스트는 많은 리소스와 시간이 소요될 수 있다. A/B 테스트는 페이지를 로드하는 데 너무 오래 걸리면 고객 경험이 느려질 수 있다. 두 가지 버전의 콘텐츠가 서로 다른 시간에 고객에게 표시되기 때문에 페이지를 로드하는 데 시간이 더 오래 걸릴 수 있다. 이는 고객이 웹 페이지를 다시 방문하지 못하게 하거나 웹 페이지를 떠나도록 하는 열악한 고객 경험을 만들어 판매 감소로 이어질 수 있다. 웹 페이지를 로드하는 데 걸리는 시간은, 지연 시간으로 알려진, 중요한 메트릭이다. 따라서, 레이턴시의 감소는 고객 경험을 개선하는 데 중요하다.

그러나, 수백 개의 서로 다른 A/B 테스트를 실행하여 지연 시간을 측정하는 것은 어렵다. 많은 A/B 테스트를 실행하는 조직의 경우, 테스트의 지연 시간을 측정하면 오류와 불일치가 발생할 수 있다. 또한, 조직은 지연 시간을 최소화하고 사용자 경험을 방해하지 않도록 특정 웹 페이지 버전을 신속하게 확장하거나 특정 웹 페이지 버전을 신속하게 비활성화해야 할 수 있다. 로드/렌더링 시간이 길면 불필요한 리소스가 소모되고 정보의 전달이 줄어들며 전반적인 경험이 저하될 수 있으므로 웹 페이지의 로드나 렌더링이 중단되거나 로드하거나 렌더링하는 데 걸리는 시간이 예기치 않게 증가하는 경우 즉시 개발자에게 알리는 것이 중요하다. 웹 페이지 지연 시간이 언제 있는지 개발자에게 항상 명확하지 않을 수 있다. 즉각적인 알림을 보내면 개발자와 백-엔드 사용자가 잠재적인 문제를 바로잡기 위해 즉각적인 조치를 취할 수 있다. 따라서, 지연을 피하고 프로세스를 간소화하며 효율성을 높이기 위한 경고 시스템이 필요하다.

따라서, 사용자 실험에서 레이턴시 메트릭을 계산하고 지연 시간을 최소화하기 위한 개선된 방법 및 시스템이 필요하다.

본 개시의 일 양상은 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템에 관한 것이다. 컴퓨터화된 시스템은 명령을 저장하는 메모리 및 적어도 하나 이상의 프로세서를 포함할 수 있다. 적어도 하나의 프로세서는 네트워크를 통해 사용자 디바이스로부터, 실험 세트의 제1 실험과 관련된 실험 매개변수를 수신하고 - 실험 세트는 적어도 하나의 실험군 실험 및 적어도 하나의 대조군 실험을 포함하고, 매개변수는 적어도 하나의 웹 페이지와 연관됨 -; 네트워크를 통해 사용자 디바이스로부터, 제1 실험에 대한 상호작용까지의 시간(TTI, time till interaction) 데이터를 수신하고 - TTI 데이터는 시간 값 및 고유 식별자를 포함함 -; 각 실험군 실험에 대한 TTI 값을 계산하고; 각 대조군 실험에 대한 TTI 값을 계산하고; 실험군 실험으로부터의 TTI 값을 대조군 실험으로부터의 TTI 값과 비교하고; 실험군 실험으로부터의 TTI 값과 대조군 실험으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 큰지 여부를 결정하고; 값이 미리 결정된 임계 값보다 클 때까지 실험군 실험 및 대조군 실험을 유지하고; 그리고 실험군 실험 값이 미리 결정된 임계 값보다 크다는 것을 나타내는 알림을 전송하는 것을 포함하는 것을 수행하도록 구성될 수 있다.

본 개시의 다른 양상은 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 방법에 관한 것으로, 방법은: 네트워크를 통해 사용자 디바이스로부터, 실험 세트의 제1 실험과 관련된 실험 매개변수를 수신하고 - 실험 세트는 적어도 하나의 실험군 실험 및 적어도 하나의 대조군 실험을 포함하고, 매개변수는 적어도 하나의 웹 페이지와 연관됨 -; 네트워크를 통해 사용자 디바이스로부터, 제1 실험에 대한 상호작용까지의 시간(TTI) 데이터를 수신하고 - TTI 데이터는 시간 값 및 고유 식별자를 포함함 -; 각 실험군 실험에 대한 TTI 값을 계산하고; 각 대조군 실험에 대한 TTI 값을 계산하고; 실험군 실험으로부터의 TTI 값을 대조군 실험으로부터의 TTI 값과 비교하고; 실험군 실험으로부터의 TTI 값과 대조군 실험으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 큰지 여부를 결정하고; 값이 미리 결정된 임계 값보다 클 때까지 실험군 실험 및 대조군 실험을 유지하고; 그리고 실험군 실험 값이 미리 결정된 임계 값보다 크다는 것을 나타내는 알림을 전송하는 것을 포함한다.

다른 시스템들, 방법들 및 컴퓨터-판독 가능한 매체도 본 명세서에서 논의된다.

도 1a는 개시된 실시예에 따른, 배송, 운송, 및 물류 운영을 가능하게 하는 통신을 위한 컴퓨터 시스템을 포함하는 네트워크의 예시적인 실시예를 나타낸 개략적인 블록도이다.
도 1b는 개시된 실시예에 따른, 상호 동작 사용자 인터페이스 요소에 따라 검색 요청을 만족시키는 하나 이상의 검색 결과를 포함하는 검색 결과 페이지(SRP; Search Result Page)의 샘플을 나타낸 도면이다.
도 1c는 개시된 실시예에 따른, 상호 동작 사용자 인터페이스 요소에 따라 제품 및 제품에 대한 정보를 포함하는 싱글 상세 페이지(SDP; Single Detail Page)의 샘플을 나타낸 도면이다.
도 1d는 개시된 실시예에 따른, 상호 동작 사용자 인터페이스 요소에 따라 가상의 쇼핑 장바구니에 아이템을 포함하는 장바구니 페이지의 샘플을 나타낸 도면이다.
도 1e는 개시된 실시예에 따른, 상호 동작 사용자 인터페이스 요소에 따라, 가상의 쇼핑 장바구니로부터 구매 및 배송에 관한 정보에 따른 아이템을 포함하는 주문 페이지의 샘플을 나타낸 도면이다.
도 2는 개시된 실시예에 따른, 개시된 컴퓨터화된 시스템을 활용하도록 구성된 예시적인 풀필먼트 센터의 개략적인 도면이다.
도 3은 개시된 실시예에 따른, 레이턴시 메트릭을 계산하기 위한 네트워크 및 시스템을 포함하는, 디바이스의 네트워크를 도시한다.
도 4는 개시된 실시예에 따른, TTI 값을 계산하고 실험군 실험의 값이 미리 결정된 임계 값보다 큰 경우 통지를 전송하기 위한 예시적인 프로세스 흐름의 개략도이다.
도 5는 개시된 실시예에 따른, 사용자 실험을 위한 레이턴시 메트릭을 계산하는 예시적인 방법의 흐름도이다.

이어서 첨부된 도면을 참조하여 자세하게 설명된다. 가능하면, 다음의 설명에서 같거나 유사한 부분에 대해 참조되도록 도면에서 같은 도면 부호가 사용된다. 여기에 몇몇 예시적인 실시예가 설명되지만, 변경, 조정 및 다른 구현도 가능하다. 예를 들면, 도면 내의 구성 및 스텝에 대해 교체, 추가, 또는 변경이 이루어질 수 있고, 여기에 설명된 예시적인 방법은 개시된 방법에 대해 스텝을 교체, 순서 변경, 제거 또는 추가함으로써 변경될 수 있다. 따라서, 다음의 자세한 설명은 개시된 실시예 및 예시로 제한되는 것은 아니다. 대신에 본 발명의 적절한 범위는 청구범위에 의해 규정된다.

본 개시의 실시예는 사용자 실험을 위한 레이턴시 메트릭을 계산하도록 구성된 시스템 및 방법에 관한 것이다.

도 1a를 참조하면, 배송, 운송 및 물류 운영을 가능하게 하는 통신을 위한 컴퓨터 시스템을 포함하는 예시적인 시스템의 실시예를 나타낸 개략적인 블록도(100)가 도시되어 있다. 도 1a에 나타낸 바와 같이, 시스템(100)은 다양한 시스템을 포함할 수 있으며, 이들 각각은 하나 이상의 네트워크를 통해 서로 연결될 수 있다. 시스템은 (예를 들어, 케이블을 사용한) 직접 연결을 통해 서로 연결될 수 있다. 도시된 시스템은 배송 기관 기술(shipment authority technology, SAT) 시스템(101), 외부 프론트 엔드 시스템(103), 내부 프론트 엔드 시스템(105), 운송 시스템(107), 모바일 디바이스(107A, 107B, 107C), 판매자 포털(109), 배송 및 주문 트래킹(shipment and order tracking, SOT) 시스템(111), 풀필먼트 최적화(fulfillment optimization, FO) 시스템(113), 풀필먼트 메시징 게이트웨이(fulfillment messaging gateway, FMG)(115), 공급 체인 관리(supply chain management, SCM) 시스템(117), 창고 관리 시스템(119), 모바일 디바이스(119A, 119B, 119C)(풀필먼트 센터(fulfillment center, FC)(200) 내부에 있는 것으로 도시됨), 제3자 풀필먼트 시스템(121A, 121B, 121C), 풀필먼트 센터 인증 시스템(fulfillment center authorization system, FC Auth)(123), 및 노동 관리 시스템(labor management system, LMS)(125)을 포함한다.

일부 실시예에서, SAT 시스템(101)은 주문 상태와 배달 상태를 모니터링하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, SAT 시스템(101)은 주문이 약속된 배달 날짜(Promised Delivery Date, PDD)를 지났는지를 결정할 수 있고, 새로운 주문을 개시시키고, 배달되지 않은 주문의 아이템을 다시 배송하며, 배달되지 않은 주문을 취소하고, 주문 고객과 연락을 시작하는 것 등을 포함하는 적합한 조치를 취할 수 있다. SAT 시스템(101)은 또한, (특정 기간 동안 배송된 패키지의 개수와 같은) 출력, 및 (배송시 사용하기 위해 수신된 빈 카드보드 박스의 개수와 같은) 입력을 포함하는 다른 데이터를 감시할 수 있다. SAT 시스템(101)은 또한, 외부 프론트 엔드 시스템(103) 및 FO 시스템(113)과 같은 장치들 간의 (예를 들면, 저장 전달(store-and-forward) 또는 다른 기술을 사용하는) 통신을 가능하게 하는 시스템(100) 내의 상이한 장치들 사이의 게이트웨이로서 동작할 수 있다.

일부 실시예에서, 외부 프론트 엔드 시스템(103)은 외부 사용자가 시스템(100) 내의 하나 이상의 시스템과 상호 동작할 수 있게 하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, 시스템(100)이 시스템의 프레젠테이션을 가능하게 하여 사용자가 아이템에 대한 주문을 할 수 있도록 하는 실시예에서, 외부 프론트 엔드 시스템(103)은 검색 요청을 수신하고, 아이템 페이지를 제시하며, 결제 정보를 요청하는 웹 서버로서 구현될 수 있다. 예를 들면, 외부 프론트 엔드 시스템(103)은 Apache HTTP 서버, Microsoft Internet Information Services(IIS), NGINX 등과 같은 소프트웨어를 실행하는 컴퓨터 또는 컴퓨터들로서 구현될 수 있다. 다른 실시예에서, 외부 프론트 엔드 시스템(103)은 외부 디바이스(예를 들어, 모바일 디바이스(102A) 또는 컴퓨터(102B))로부터 요청을 수신 및 처리하고, 이들 요청에 기초하여 데이터베이스 및 다른 데이터 저장 장치로부터 정보를 획득하며, 획득한 정보에 기초하여 수신된 요청에 대한 응답을 제공하도록 설계된 커스텀 웹 서버 소프트웨어를 실행할 수 있다.

일부 실시예에서, 외부 프론트 엔드 시스템(103)은 웹 캐싱 시스템, 데이터베이스, 검색 시스템, 또는 결제 시스템 중 하나 이상을 포함할 수 있다. 일 양상에서, 외부 프론트 엔드 시스템(103)은 이들 시스템 중 하나 이상을 포함할 수 있는 반면, 다른 양상에서는 외부 프론트 엔드 시스템(103)은 이들 시스템 중 하나 이상에 연결된 인터페이스(예를 들면, 서버 대 서버, 데이터베이스 대 데이터베이스, 또는 다른 네트워크 연결)를 포함할 수 있다.

도 1b, 1c, 1d 및 1e에 의해 나타낸 단계들의 예시적인 세트는 외부 프론트 엔드 시스템(103)의 일부 동작을 설명하는 것에 도움이 될 것이다. 외부 프론트 엔드 시스템(103)은 프레젠테이션 및/또는 디스플레이를 위해 시스템(100) 내의 시스템 또는 디바이스로부터 정보를 수신할 수 있다. 예를 들면, 외부 프론트 엔드 시스템(103)은 검색 결과 페이지(Search Result Page, SRP)(예를 들면, 도 1b), 싱글 디테일 페이지(Single Detail Page, SDP)(예를 들면, 도 1c), 장바구니 페이지(Cart page)(예를 들면, 도 1d), 또는 주문 페이지(예를 들면, 도 1e)를 포함하는 하나 이상의 웹페이지를 호스팅하거나 제공할 수 있다. (예를 들면, 모바일 디바이스(102A) 또는 컴퓨터(102B)를 사용하는) 사용자 디바이스는 외부 프론트 엔드 시스템(103)으로 이동하고 검색 박스에 정보를 입력함으로써 검색을 요청할 수 있다. 외부 프론트 엔드 시스템(103)은 시스템(100) 내의 하나 이상의 시스템으로부터 정보를 요청할 수 있다. 예를 들면, 외부 프론트 엔드 시스템(103)은 FO 시스템(113)으로부터 검색 요청을 만족하는 정보를 요청할 수 있다. 외부 프론트 엔드 시스템(103)은 또한, (FO 시스템(113)으로부터) 검색 결과에 포함된 각 제품에 대한 약속된 배달 날짜(Promised Delivery Date) 또는 "PDD"를 요청하고 수신할 수 있다. 일부 실시예에서, PDD는 제품이 들어있는 패키지가 특정 기간 이내, 예를 들면, 하루의 끝(PM 11:59)까지 주문되면 언제 사용자가 원하는 장소에 도착할 것인지에 대한 추정 또는 제품이 사용자가 원하는 장소에 배달될 약속된 날짜를 나타낼 수 있다(PDD는 FO 시스템(113)과 관련하여 이하에서 더 논의된다).

외부 프론트 엔드 시스템(103)은 정보에 기초하여 SRP(예를 들면, 도 1b)를 준비할 수 있다. SRP는 검색 요청을 만족하는 정보를 포함할 수 있다. 예를 들면, 이는 검색 요청을 만족하는 제품의 사진을 포함할 수 있다. SRP는 또한, 각 제품에 대한 각각의 가격, 또는 각 제품, PDD, 무게, 크기, 오퍼(offer), 할인 등에 대한 개선된 배달 옵션에 관한 정보를 포함할 수 있다. 외부 프론트 엔드 시스템(103)은 (예를 들면, 네트워크를 통해) SRP를 요청 사용자 디바이스로 전송할 수 있다.

사용자 디바이스는 SRP에 나타낸 제품을 선택하기 위해, 예를 들면, 사용자 인터페이스를 클릭 또는 탭핑하거나, 다른 입력 디바이스를 사용하여 SRP로부터 제품을 선택할 수 있다. 사용자 디바이스는 선택된 제품에 관한 정보에 대한 요청을 만들어 내고 이를 외부 프론트 엔드 시스템(103)으로 전송할 수 있다. 이에 응답하여, 외부 프론트 엔드 시스템(103)은 선택된 제품에 관한 정보를 요청할 수 있다. 예를 들면, 정보는 각각의 SRP 상에 제품에 대해 제시된 것 이상의 추가 정보를 포함할 수 있다. 이는, 예를 들면, 유통 기한, 원산지, 무게, 크기, 패키지 내의 아이템 개수, 취급 지침, 또는 제품에 대한 다른 정보를 포함할 수 있다. 정보는 또한, (예를 들면, 이 제품 및 적어도 하나의 다른 제품을 구입한 고객의 빅 데이터 및/또는 기계 학습 분석에 기초한) 유사한 제품에 대한 추천, 자주 묻는 질문에 대한 답변, 고객의 후기, 제조 업체 정보, 사진 등을 포함할 수 있다.

외부 프론트 엔드 시스템(103)은 수신된 제품 정보에 기초하여 SDP(Single Detail Page)(예를 들면, 도 1c)를 준비할 수 있다. SDP는 또한, "지금 구매(Buy Now)" 버튼, "장바구니에 추가(Add to Cart)" 버튼, 수량 필드, 아이템 사진 등과 같은 다른 상호 동작 요소를 포함할 수 있다. SDP는 제품을 오퍼하는 판매자의 리스트를 포함할 수 있다. 이 리스트는 최저가로 제품을 판매하는 것으로 오퍼하는 판매자가 리스트의 최상단에 위치하도록, 각 판매자가 오퍼한 가격에 기초하여 순서가 정해질 수 있다. 이 리스트는 또한 최고 순위 판매자가 리스트의 최상단에 위치하도록, 판매자 순위에 기초하여 순서가 정해질 수 있다. 판매자 순위는, 예를 들어, 약속된 PPD를 지켰는지에 대한 판매자의 과거 추적 기록을 포함하는, 복수의 인자에 기초하여 만들어질 수 있다. 외부 프론트 엔드 시스템(103)은 (예를 들면, 네트워크를 통해) SDP를 요청 사용자 디바이스로 전달할 수 있다.

요청 사용자 디바이스는 제품 정보를 나열하는 SDP를 수신할 수 있다. SDP를 수신하면, 사용자 디바이스는 SDP와 상호 동작할 수 있다. 예를 들면, 요청 사용자 디바이스의 사용자는 SDP의 "장바구니에 담기(Place in Cart)" 버튼을 클릭하거나, 이와 상호 동작할 수 있다. 이렇게 하면 사용자와 연계된 쇼핑 장바구니에 제품이 추가된다. 사용자 디바이스는 제품을 쇼핑 장바구니에 추가하기 위해 외부 프론트 엔드 시스템(103)으로 이러한 요청을 전송할 수 있다.

외부 프론트 엔드 시스템(103)은 장바구니 페이지(예를 들면, 도 1d)를 생성할 수 있다. 일부 실시예에서, 장바구니 페이지는 사용자가 가상의 "쇼핑 장바구니(shopping cart)"에 추가한 제품을 나열한다. 사용자 디바이스는 SRP, SDP, 또는 다른 페이지의 아이콘을 클릭하거나, 상호 동작함으로써 장바구니 페이지를 요청할 수 있다. 일부 실시예에서, 장바구니 페이지는 사용자가 장바구니에 추가한 모든 제품 뿐 아니라 각 제품의 수량, 각 제품의 품목당 가격, 관련 수량에 기초한 각 제품의 가격, PDD에 관한 정보, 배달 방법, 배송 비용, 쇼핑 장바구니의 제품을 수정(예를 들면, 수량의 삭제 또는 수정)하기 위한 사용자 인터페이스 요소, 다른 제품의 주문 또는 제품의 정기적인 배달 설정에 대한 옵션, 할부(interest payment) 설정에 대한 옵션, 구매를 진행하기 위한 사용자 인터페이스 요소 등과 같은 장바구니의 제품에 관한 정보를 나열할 수 있다. 사용자 디바이스의 사용자는 쇼핑 장바구니에 있는 제품의 구매를 시작하기 위해 사용자 인터페이스 요소(예를 들면, "지금 구매(Buy Now)"라고 적혀있는 버튼)를 클릭하거나, 이와 상호 동작할 수 있다. 그렇게 하면, 사용자 디바이스는 구매를 시작하기 위해 이러한 요청을 외부 프론트 엔드 시스템(103)으로 전송할 수 있다.

외부 프론트 엔드 시스템(103)은 구매를 시작하는 요청을 수신하는 것에 응답하여 주문 페이지(예를 들면, 도 1e)를 생성할 수 있다. 일부 실시예에서, 주문 페이지는 쇼핑 장바구니로부터의 아이템을 재나열하고, 결제 및 배송 정보의 입력을 요청한다. 예를 들면, 주문 페이지는 쇼핑 장바구니의 아이템 구매자에 관한 정보(예를 들면, 이름, 주소, 이메일 주소, 전화번호), 수령인에 관한 정보(예를 들면, 이름, 주소, 전화번호, 배달 정보), 배송 정보(예를 들면, 배달 및/또는 픽업 속도/방법), 결제 정보(예를 들면, 신용 카드, 은행 송금, 수표, 저장된 크레딧), 현금 영수증을 요청하는 사용자 인터페이스 요소(예를 들면, 세금 목적) 등을 요청하는 섹션을 포함할 수 있다. 외부 프론트 엔드 시스템(103)은 사용자 디바이스에 주문 페이지를 전송할 수 있다.

사용자 디바이스는 주문 페이지에 정보를 입력하고 외부 프론트 엔드 시스템(103)으로 정보를 전송하는 사용자 인터페이스 요소를 클릭하거나, 상호 동작할 수 있다. 그로부터, 외부 프론트 엔드 시스템(103)은 정보를 시스템(100) 내의 다른 시스템으로 전송하여 쇼핑 장바구니의 제품으로 새로운 주문을 생성하고 처리할 수 있도록 한다.

일부 실시예에서, 외부 프론트 엔드 시스템(103)은 판매자가 주문과 관련된 정보를 전송 및 수신할 수 있도록 추가로 구성될 수 있다.

일부 실시예에서, 내부 프론트 엔드 시스템(105)은 내부 사용자(예를 들면, 시스템(100)을 소유, 운영 또는 임대하는 조직의 직원)가 시스템(100) 내의 하나 이상의 시스템과 상호작용할 수 있게 하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, 시스템(100)이 사용자가 아이템에 대한 주문을 할 수 있게 하는 시스템의 프레젠테이션을 가능하게 하는 실시예에서, 내부 프론트 엔드 시스템(105)은 내부 사용자가 주문에 대한 진단 및 통계 정보를 볼 수 있게 하고, 아이템 정보를 수정하며, 또는 주문에 대한 통계를 검토할 수 있게 하는 웹 서버로서 구현될 수 있다. 예를 들면, 내부 프론트 엔드 시스템(105)은 Apache HTTP 서버, Microsoft Internet Information Services(IIS), NGINX 등과 같은 소프트웨어를 실행하는 컴퓨터 또는 컴퓨터들로서 구현될 수 있다. 다른 실시예에서, 내부 프론트 엔드 시스템(105)은 (도시되지 않은 다른 디바이스뿐 아니라) 시스템(100) 내에 나타낸 시스템 또는 디바이스로부터 요청을 수신 및 처리하고, 그러한 요청에 기초하여 데이터베이스 및 다른 데이터 저장 장치로부터 정보를 획득하며, 획득한 정보에 기초하여 수신된 요청에 대한 응답을 제공하도록 (설계된 커스텀 웹 서버 소프트웨어를 실행)할 수 있다.

일부 실시예에서, 내부 프론트 엔드 시스템(105)은 웹 캐싱 시스템, 데이터베이스, 검색 시스템, 결제 시스템, 분석 시스템, 주문 모니터링 시스템 등 중 하나 이상을 포함할 수 있다. 일 양상에서, 내부 프론트 엔드 시스템(105)은 이들 시스템 중 하나 이상을 포함할 수 있는 반면, 다른 양상에서는 내부 프론트 엔드 시스템(105)은 이들 시스템 중 하나 이상에 연결된 인터페이스(예를 들면, 서버 대 서버, 데이터베이스 대 데이터베이스, 또는 다른 네트워크 연결)를 포함할 수 있다.

일부 실시예에서, 운송 시스템(107)은 시스템(100) 내의 시스템 또는 디바이스와 모바일 디바이스(107A-107C) 간의 통신을 가능하게 하는 컴퓨터 시스템으로서 구현될 수 있다. 일부 실시예에서, 운송 시스템(107)은 하나 이상의 모바일 디바이스(107A-107C)(예를 들면, 휴대 전화, 스마트폰, PDA 등)로부터 정보를 수신할 수 있다. 예를 들면, 일부 실시예에서, 모바일 디바이스(107A-107C)는 배달원에 의해 동작되는 디바이스를 포함할 수 있다. 정규직, 임시적 또는 교대 근무일 수 있는 배달원은 사용자에 의해 주문된 제품들이 들어 있는 패키지의 배달을 위해 모바일 디바이스(107A-107C)를 이용할 수 있다. 예를 들면, 패키지를 배달하기 위해, 배달원은 배달할 패키지와 배달할 위치를 나타내는 모바일 디바이스 상의 알림을 수신할 수 있다. 배달 장소에 도착하면, 배달원은 (예를 들면, 트럭의 뒤나 패키지의 크레이트에) 패키지를 둘 수 있고, 모바일 디바이스를 사용하여 패키지 상의 식별자와 관련된 데이터(예를 들면, 바코드, 이미지, 텍스트 문자열, RFID 태그 등)를 스캔하거나, 캡처하며, (예를 들면, 현관문에 놓거나, 경비원에게 맡기거나, 수령인에게 전달하는 것 등에 의해) 패키지를 배달할 수 있다. 일부 실시예에서, 배달원은 모바일 디바이스를 사용하여 패키지의 사진(들)을 찍거나 및/또는 서명을 받을 수 있다. 모바일 디바이스는, 예를 들면, 시간, 날짜, GPS 위치, 사진(들), 배달원에 관련된 식별자, 모바일 디바이스에 관련된 식별자 등을 포함하는 배달에 관한 정보를 포함하는 정보를 운송 시스템(107)에 전송할 수 있다. 운송 시스템(107)은 시스템(100) 내의 다른 시스템에 의한 접근을 위해 데이터베이스(미도시)에 이러한 정보를 저장할 수 있다. 일부 실시예에서, 운송 시스템(107)은 다른 시스템에 특정 패키지의 위치를 나타내는 트래킹 데이터를 준비 및 전송하기 위해 이러한 정보를 사용할 수 있다.

일부 실시예에서, 특정 사용자는, 한 종류의 모바일 디바이스를 사용할 수 있는 반면(예를 들면, 정규 직원은 바코드 스캐너, 스타일러스 및 다른 장치와 같은 커스텀 하드웨어를 갖는 전문 PDA를 사용할 수 있음), 다른 사용자는 다른 종류의 모바일 디바이스를 사용할 수 있다(예를 들면, 임시 또는 교대 근무 직원이 기성 휴대 전화 및/또는 스마트폰을 사용할 수 있음).

일부 실시예에서, 운송 시스템(107)은 사용자를 각각의 디바이스와 연관시킬 수 있다. 예를 들면, 운송 시스템(107)은 사용자(예를 들면, 사용자 식별자, 직원 식별자, 또는 전화번호에 의해 표현됨)와 모바일 디바이스(예를 들면, International Mobile Equipment Identity(IMEI), International Mobile Subscription Identifier(IMSI), 전화번호, Universal Unique Identifier(UUID), 또는 Globally Unique Identifier(GUID)에 의해 표현됨) 간의 연관성(association)을 저장할 수 있다. 운송 시스템(107)은, 다른 것들 중에 작업자의 위치, 작업자의 효율성, 또는 작업자의 속도를 결정하기 위해 데이터베이스에 저장된 데이터를 분석하기 위해 배달시 수신되는 데이터와 관련하여 이러한 연관성을 사용할 수 있다.

일부 실시예에서, 판매자 포털(109)은 판매자 또는 다른 외부 엔터티(entity)가 시스템(100) 내의 하나 이상의 시스템과 전자 통신할 수 있게 하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, 판매자는 판매자 포털(109)을 사용하여 시스템(100)을 통해 판매하고자 하는 제품에 대하여, 제품 정보, 주문 정보, 연락처 정보 등을 업로드하거나 제공하는 컴퓨터 시스템(미도시)을 이용할 수 있다.

일부 실시예에서, 배송 및 주문 트래킹 시스템(111)은 고객(예를 들면, 디바이스(102A-102B)를 사용하는 사용자)에 의해 주문된 제품들이 들어 있는 패키지의 위치에 관한 정보를 수신, 저장 및 포워딩하는 컴퓨터 시스템으로서 구현될 수 있다. 일부 실시예에서, 배송 및 주문 트래킹 시스템(111)은 고객에 의해 주문된 제품들이 들어 있는 패키지를 배달하는 배송 회사에 의해 운영되는 웹 서버(미도시)로부터 정보를 요청하거나 저장할 수 있다.

일부 실시예에서, 배송 및 주문 트래킹 시스템(111)은 시스템(100)에 나타낸 시스템들로부터 정보를 요청하고 저장할 수 있다. 예를 들면, 배송 및 주문 트래킹 시스템(111)은 운송 시스템(107)으로부터 정보를 요청할 수 있다. 전술한 바와 같이, 운송 시스템(107)은 사용자(예를 들면, 배달원) 또는 차량(예를 들면, 배달 트럭) 중 하나 이상과 연관된 하나 이상의 모바일 디바이스(107A-107C)(예를 들면, 휴대 전화, 스마트폰, PDA 등)로부터 정보를 수신할 수 있다. 일부 실시예에서, 배송 및 주문 트래킹 시스템(111)은 또한, 풀필먼트 센터(예를 들면, 풀필먼트 센터(200)) 내부의 개별 제품의 위치를 결정하기 위해 창고 관리 시스템(WMS)(119)으로부터 정보를 요청할 수 있다. 배송 및 주문 트래킹 시스템(111)은 운송 시스템(107) 또는 WMS(119) 중 하나 이상으로부터 데이터를 요청하고, 이를 처리하며, 요청시 디바이스(예를 들면, 사용자 디바이스(102A, 102B))로 제공할 수 있다.

일부 실시예에서, 풀필먼트 최적화(FO) 시스템(113)은 다른 시스템(예를 들면, 외부 프론트 엔드 시스템(103) 및/또는 배송 및 주문 트래킹 시스템(111))으로부터의 고객 주문에 대한 정보를 저장하는 컴퓨터 시스템으로서 구현될 수 있다. FO 시스템(113)은 또한, 특정 아이템이 유지 또는 저장되는 곳을 나타내는 정보를 저장할 수 있다. 예를 들면, 소정 아이템은 하나의 풀필먼트 센터에만 저장될 수 있는 반면, 소정 다른 아이템은 다수의 풀필먼트 센터에 저장될 수 있다. 또 다른 실시예에서, 특정 풀필먼트 센터는 아이템의 특정 세트(예를 들면, 신선한 농산물 또는 냉동 제품)만을 저장하도록 구성될 수 있다. FO 시스템(113)은 이러한 정보뿐 아니라 관련 정보(예를 들면, 수량, 크기, 수령 날짜, 유통 기한 등)를 저장한다.

FO 시스템(113)은 또한, 각 제품에 대해 대응하는 PDD(약속된 배달 날짜)를 계산할 수 있다. 일부 실시예에서, PDD는 하나 이상의 요소에 기초할 수 있다. 예를 들면, FO 시스템(113)은 제품에 대한 과거 수요(예를 들면, 그 제품이 일정 기간 동안 얼마나 주문되었는지), 제품에 대한 예측된 수요(예를 들면, 얼마나 많은 고객이 다가오는 기간 동안 제품을 주문할 것으로 예상되는지), 일정 기간 동안 얼마나 많은 제품이 주문되었는지를 나타내는 네트워크 전반의 과거 수요, 다가오는 기간 동안 얼마나 많은 제품이 주문될 것으로 예상되는지를 나타내는 네트워크 전반의 예측된 수요, 각각의 제품을 저장하는 각 풀필먼트 센터(200)에 저장된 제품의 하나 이상의 개수, 그 제품에 대한 예상 또는 현재 주문 등에 기초하여 제품에 대한 PDD를 계산할 수 있다.

일부 실시예에서, FO 시스템(113)은 주기적으로(예를 들면, 시간별로) 각 제품에 대한 PDD를 결정하고, 검색하거나 다른 시스템(예를 들면, 외부 프론트 엔드 시스템(103), SAT 시스템(101), 배송 및 주문 트래킹 시스템(111))으로 전송하기 위해 이를 데이터베이스에 저장할 수 있다. 다른 실시예에서, FO 시스템(113)은 하나 이상의 시스템(예를 들면, 외부 프론트 엔드 시스템(103), SAT 시스템(101), 배송 및 주문 트래킹 시스템(111))으로부터 전자 요청을 수신하고 요구에 따라 PDD를 계산할 수 있다.

일부 실시예에서, 풀필먼트 메시징 게이트웨이(FMG)(115)는 FO 시스템(113)과 같은 시스템(100) 내의 하나 이상의 시스템으로부터 하나의 포맷 또는 프로토콜로 요청 또는 응답을 수신하고, 그것을 다른 포맷 또는 프로토콜로 변환하여, 변환된 포맷 또는 프로토콜로 된 요청 또는 응답을 WMS(119) 또는 제3자 풀필먼트 시스템(121A, 121B, 또는 121C)과 같은 다른 시스템에 포워딩하며, 반대의 경우도 가능한 컴퓨터 시스템으로서 구현될 수 있다.

일부 실시예에서, 공급 체인 관리(SCM) 시스템(117)은 예측 기능을 수행하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, SCM 시스템(117)은, 예를 들어 제품에 대한 과거 수요, 제품에 대한 예측된 수요, 네트워크 전반의 과거 수요, 네트워크 전반의 예측된 수요, 각각의 풀필먼트 센터(200)에 저장된 제품 개수, 각 제품에 대한 예상 또는 현재 주문 등에 기초하여, 특정 제품에 대한 수요의 수준을 예측할 수 있다. 이러한 예측된 수준과 모든 풀필먼트 센터를 통한 각 제품의 수량에 응답하여, SCM 시스템(117)은 특정 제품에 대한 예측된 수요를 만족시키기에 충분한 양을 구매 및 비축하기 위한 하나 이상의 구매 주문을 생성할 수 있다.

일부 실시예에서, 창고 관리 시스템(WMS)(119)은 작업 흐름을 모니터링하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, WMS(119)는 개개의 디바이스(예를 들면, 디바이스(107A-107C 또는 119A-119C))로부터 개별 이벤트를 나타내는 이벤트 데이터를 수신할 수 있다. 예를 들면, WMS(119)는 패키지를 스캔하기 위해 이들 디바이스 중 하나를 사용한 것을 나타내는 이벤트 데이터를 수신할 수 있다. 풀필먼트 센터(200) 및 도 2에 관하여 이하에서 논의되는 바와 같이, 풀필먼트 프로세스 동안, 패키지 식별자(예를 들면, 바코드 또는 RFID 태그 데이터)는 특정 스테이지의 기계(예를 들면, 자동 또는 핸드헬드 바코드 스캐너, RFID 판독기, 고속 카메라, 태블릿(119A), 모바일 디바이스/PDA(119B), 컴퓨터(119C)와 같은 디바이스 등)에 의해 스캔되거나 판독될 수 있다. WMS(119)는 패키지 식별자, 시간, 날짜, 위치, 사용자 식별자, 또는 다른 정보와 함께 대응하는 데이터베이스(미도시)에 패키지 식별자의 스캔 또는 판독을 나타내는 각 이벤트를 저장할 수 있고, 이러한 정보를 다른 시스템(예를 들면, 배송 및 주문 트래킹 시스템(111))에 제공할 수 있다.

일부 실시예에서, WMS(119)는 하나 이상의 디바이스(예를 들면, 디바이스(107A-107C 또는 119A-119C))와 시스템(100)과 연관된 하나 이상의 사용자를 연관시키는 정보를 저장할 수 있다. 예를 들면, 일부 상황에서, (파트 타임 또는 풀 타임 직원과 같은) 사용자는 모바일 디바이스(예를 들면, 모바일 디바이스는 스마트폰임)를 소유한다는 점에서, 모바일 디바이스와 연관될 수 있다. 다른 상황에서, 사용자는 임시로 모바일 디바이스를 보관한다는 점에서(예를 들면, 하루의 시작에서부터 모바일 디바이스를 대여받은 사용자가, 하루 동안 그것을 사용하고, 하루가 끝날 때 그것을 반납할 것임), 모바일 디바이스와 연관될 수 있다.

일부 실시예에서, WMS(119)는 시스템(100)과 연관된 각각의 사용자에 대한 작업 로그를 유지할 수 있다. 예를 들면, WMS(119)는 임의의 할당된 프로세스(예를 들면, 트럭에서 내리기, 픽업 구역에서 아이템을 픽업하기, 리비닝 월(rebin wall) 작업, 아이템 패킹하기), 사용자 식별자, 위치(예를 들면, 풀필먼트 센터(200)의 바닥 또는 구역), 직원에 의해 시스템을 통해 이동된 유닛의 수(예를 들면, 픽업된 아이템의 수, 패킹된 아이템의 수), 디바이스(예를 들면, 디바이스(119A-119C))와 관련된 식별자 등을 포함하는, 각 직원과 관련된 정보를 저장할 수 있다. 일부 실시예에서, WMS(119)는 디바이스(119A-119C)에서 작동되는 계시(timekeeping) 시스템과 같은 계시 시스템으로부터 체크-인 및 체크-아웃 정보를 수신할 수 있다.

일부 실시예에서, 제3자 풀필먼트 (3PL) 시스템(121A-121C)은 물류 및 제품의 제3자 제공자와 관련된 컴퓨터 시스템을 나타낸다. 예를 들면, (도 2와 관련하여 이하에서 후술하는 바와 같이) 일부 제품이 풀필먼트 센터(200)에 저장되는 반면, 다른 제품은 오프-사이트(off-site)에 저장될 수 있거나, 수요에 따라 생산될 수 있으며, 달리 풀필먼트 센터(200)에 저장될 수 없다. 3PL 시스템(121A-121C)은 FO 시스템(113)으로부터 (예를 들면, FMG(115)를 통해) 주문을 수신하도록 구성될 수 있으며, 고객에게 직접 제품 및/또는 서비스(예를 들면, 배달 또는 설치)를 제공할 수 있다. 일부 구현예에서, 하나 이상의 3PL 시스템(121A-121C)은 시스템(100)의 일부일 수 있지만, 다른 구현예에서는, 하나 이상의 3PL 시스템(121A-121C)이 시스템(100)의 외부에 있을 수 있다(예를 들어, 제3자 제공자에 의해 소유 또는 운영됨)일 수 있다.

일부 실시예에서, 풀필먼트 센터 인증 시스템(FC Auth)(123)은 다양한 기능을 갖는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, 일부 실시예에서, FC Auth(123)는 시스템(100) 내의 하나 이상의 다른 시스템에 대한 단일-사인 온(single-sign on, SSO) 서비스로서 작동할 수 있다. 예를 들면, FC Auth(123)는 내부 프론트 엔드 시스템(105)을 통해 사용자가 로그인하게 하고, 사용자가 배송 및 주문 트래킹 시스템(111)에서 리소스에 액세스하기 위해 유사한 권한을 갖고 있다고 결정하며, 두 번째 로그인 프로세스 요구 없이 사용자가 그러한 권한에 액세스할 수 있게 한다. 다른 실시예에서, FC Auth(123)는 사용자(예를 들면, 직원)가 자신을 특정 작업과 연관시킬 수 있게 한다. 예를 들면, 일부 직원은 (디바이스(119A-119C)와 같은) 전자 디바이스를 갖지 않을 수 있으며, 대신 하루 동안 풀필먼트 센터(200) 내에서 작업들 사이 및 구역들 사이에서 이동할 수 있다. FC Auth(123)는 이러한 직원들이 상이한 시간 대에 수행 중인 작업과 속해 있는 구역을 표시할 수 있도록 구성될 수 있다.

일부 실시예에서, 노동 관리 시스템(LMS)(125)은 직원(풀-타임 및 파트-타임 직원을 포함함)에 대한 출근 및 초과 근무 정보를 저장하는 컴퓨터 시스템으로서 구현될 수 있다. 예를 들면, LMS(125)는 FC Auth(123), WMS(119), 디바이스(119A-119C), 운송 시스템(107), 및/또는 디바이스(107A-107C)로부터 정보를 수신할 수 있다.

도 1a에 나타낸 특정 구성은 단지 예시일 뿐이다. 예를 들면, 도 1a는 FO 시스템(113)에 연결된 FC Auth 시스템(123)을 나타낸 반면, 모든 실시예가 이러한 특정 구성을 필요로 하는 것은 아니다. 실제로, 일부 실시예에서, 시스템(100) 내의 시스템은 인터넷, 인트라넷, WAN(Wide-Area Network), MAN(Metropolitan-Area Network), IEEE 802.11a/b/g/n 표준을 따르는 무선 네트워크, 임대 회선 등을 포함하는 하나 이상의 공공 또는 사설 네트워크를 통해 서로 연결될 수 있다. 일부 실시예에서, 시스템(100) 내의 시스템 중 하나 이상은 데이터 센터, 서버 팜 등에서 구현되는 하나 이상의 가상 서버로서 구현될 수 있다.

도 2는 풀필먼트 센터(200)를 나타낸다. 풀필먼트 센터(200)는 주문시 고객에게 배송하기 위한 아이템을 저장하는 물리적 장소의 예시이다. 풀필먼트 센터(FC)(200)는 다수의 구역으로 분할될 수 있으며, 각각이 도 2에 도시된다. 일부 실시예에서, 이러한 "구역(zones)"은 아이템을 수령하고, 아이템을 저장하고, 아이템을 검색하고, 아이템을 배송하는 과정의 상이한 단계 사이의 가상 구분으로 생각될 수 있다. 따라서, "구역"이 도 2에 나타나 있으나, 일부 실시예에서, 구역의 다른 구분도 가능하고, 도 2의 구역은 생략, 복제, 또는 수정될 수 있다.

인바운드 구역(203)은 도 1a의 시스템(100)을 사용하여 제품을 판매하고자 하는 판매자로부터 아이템이 수신되는 FC(200)의 영역을 나타낸다. 예를 들면, 판매자는 트럭(201)을 사용하여 아이템(202A, 202B)을 배달할 수 있다. 아이템(202A)은 자신의 배송 팔레트(pallet)를 점유하기에 충분히 큰 단일 아이템을 나타낼 수 있으며, 아이템(202B)은 공간을 절약하기 위해 동일한 팔레트 상에 함께 적층되는 아이템의 세트를 나타낼 수 있다.

작업자는 인바운드 구역(203)의 아이템을 수령하고, 선택적으로 컴퓨터 시스템(미도시)을 사용하여 아이템이 손상되었는지 및 정확한지를 체크할 수 있다. 예를 들면, 작업자는 아이템(202A, 202B)의 수량을 아이템의 주문 수량과 비교하기 위해 컴퓨터 시스템을 사용할 수 있다. 수량이 일치하지 않는다면, 해당 작업자는 아이템(202A, 202B) 중 하나 이상을 거부할 수 있다. 수량이 일치한다면, 작업자는 그 아이템들을 (예를 들면, 짐수레(dolly), 핸드트럭(handtruck), 포크리프트(forklift), 또는 수작업으로) 버퍼 구역(205)으로 운반할 수 있다. 버퍼 구역(205)은, 예를 들면, 예측된 수요를 충족시키기 위해 픽업 구역에 그 아이템이 충분한 수량만큼 있기 때문에, 픽업 구역에서 현재 필요하지 않은 아이템에 대한 임시 저장 영역일 수 있다. 일부 실시예에서, 포크리프트(206)는 버퍼 구역(205) 주위와 인바운드 구역(203) 및 드롭 구역(207) 사이에서 아이템을 운반하도록 작동한다. (예를 들면, 예측된 수요로 인해) 픽업 구역에 아이템(202A, 202B)이 필요하면, 포크리프트는 아이템(202A, 202B)을 드롭 구역(207)으로 운반할 수 있다.

드롭 구역(207)은 픽업 구역(209)으로 운반되기 전에 아이템을 저장하는 FC(200)의 영역일 수 있다. 픽업 동작에 할당된 작업자("피커(picker)")는 픽업 구역의 아이템(202A, 202B)에 접근하고, 픽업 구역에 대한 바코드를 스캔하며, 모바일 디바이스(예를 들면, 디바이스(119B))를 사용하여 아이템(202A, 202B)과 관련된 바코드를 스캔할 수 있다. 그 다음 피커는 (예를 들면, 카트에 놓거나 운반함으로써) 픽업 구역(209)에 아이템을 가져갈 수 있다.

픽업 구역(209)은 아이템(208)이 저장 유닛(210)에 저장되는 FC(200)의 영역일 수 있다. 일부 실시예에서, 저장 유닛(210)은 물리적 선반, 책꽂이, 박스, 토트(tote), 냉장고, 냉동고, 저온 저장고 등 중 하나 이상을 포함할 수 있다. 일부 실시예에서, 픽업 구역(209)은 다수의 플로어로 편성될 수 있다. 일부 실시예에서, 작업자 또는 기계는, 예를 들면, 포크리프트, 엘리베이터, 컨베이어 벨트, 카트, 핸드트럭, 짐수레, 자동화된 로봇 또는 디바이스, 또는 수작업을 포함하는 다양한 방식으로 아이템을 픽업 구역(209)으로 운반할 수 있다. 예를 들면, 피커는 아이템(202A, 202B)을 드롭 구역(207)의 핸드트럭 또는 카트에 놓을 수 있으며, 아이템(202A, 202B)을 픽업 구역(209)으로 가져갈 수 있다.

피커는 저장 유닛(210) 상의 특정 공간과 같은 픽업 구역(209)의 특정 스팟에 아이템을 배치(또는 "적재(stow)")하라는 명령을 수신할 수 있다. 예를 들면, 피커는 모바일 디바이스(예를 들면, 디바이스(119B))를 사용하여 아이템(202A)을 스캔할 수 있다. 디바이스는, 예를 들면, 통로, 선반 및 위치를 나타내는 시스템을 사용하여, 아이템(202A)을 적재해야 하는 위치를 나타낼 수 있다. 그 다음 디바이스는 그 위치에 아이템(202A)을 적재하기 전에 피커가 그 위치에서 바코드를 스캔하도록 할 수 있다. 디바이스는 도 1a의 WMS(119)와 같은 컴퓨터 시스템에 아이템(202A)이 디바이스(119B)를 사용하는 사용자에 의해 그 위치에 적재되었음을 나타내는 데이터를 (예를 들면, 무선 네트워크를 통해) 전송할 수 있다.

일단 사용자가 주문을 하면, 피커는 저장 유닛(210)으로부터 하나 이상의 아이템(208)을 검색하기 위해 디바이스(119B)에 명령을 수신할 수 있다. 피커는 아이템(208)을 검색하고, 아이템(208) 상의 바코드를 스캔하며, 운송 기구(214) 상에 놓을 수 있다. 일부 실시예에서, 운송 기구(214)가 슬라이드로서 표현되지만, 운송 기구는 컨베이어 벨트, 엘리베이터, 카트, 포크리프트, 핸드트럭, 짐수레 등 중 하나 이상으로서 구현될 수 있다. 그 다음 아이템(208)은 패킹 구역(211)에 도착할 수 있다.

패킹 구역(211)은 아이템이 픽업 구역(209)으로부터 수령되고 고객에게 최종 배송하기 위해 박스 또는 가방에 패킹되는 FC(200)의 영역일 수 있다. 패킹 구역(211)에서, 아이템을 수령하도록 할당된 작업자("리비닝 작업자(rebin worker)")는 픽업 구역(209)으로부터 아이템(208)을 수령하고, 그것이 어느 주문에 대응하는지를 결정할 것이다. 예를 들면, 리비닝 작업자는 아이템(208) 상의 바코드를 스캔하기 위해 컴퓨터(119C)와 같은 디바이스를 사용할 수 있다. 컴퓨터(119C)는 아이템(208)이 어느 주문과 관련이 있는지를 시각적으로 나타낼 수 있다. 이는, 예를 들면, 주문에 대응하는 월(216) 상의 공간 또는 "셀(cell)"을 포함할 수 있다. (예를 들면, 셀에 주문의 모든 아이템이 포함되어 있기 때문에) 일단 주문이 완료되면, 리비닝 작업자는 패킹 작업자(또는 "패커(packer)")에게 주문이 완료된 것을 알릴 수 있다. 패커는 셀로부터 아이템을 검색하고, 배송을 위해 이들을 박스 또는 가방에 놓을 수 있다. 그 다음 패커는, 예를 들면, 포크리프트, 카트, 짐수레, 핸드트럭, 컨베이어 벨트, 수작업 또는 다른 방법을 통해, 박스 또는 가방을 허브 구역(213)으로 보낼 수 있다.

허브 구역(213)은 패킹 구역(211)으로부터 모든 박스 또는 가방("패키지(packages)")을 수신하는 FC(200)의 영역일 수 있다. 허브 구역(213)의 작업자 및/또는 기계는 패키지(218)를 검색하고, 각 패키지가 배달 영역의 어느 부분으로 배달되도록 되어 있는지를 결정하며, 패키지를 적합한 캠프 구역(215)으로 보낼 수 있다. 예를 들면, 배달 영역이 2개의 작은 하위 영역을 갖는다면, 패키지는 2개의 캠프 구역(215) 중 하나로 보내질 것이다. 일부 실시예에서, 작업자 또는 기계는 최종 목적지를 결정하기 위해 (예를 들면, 디바이스(119A-119C) 중 하나를 사용하여) 패키지를 스캔할 수 있다. 패키지를 캠프 구역(215)으로 보내는 것은, 예를 들면, (우편 번호에 기초하여) 패키지가 향하는 지리적 영역의 부분을 결정하고, 지리적 영역의 부분과 관련된 캠프 구역(215)을 결정하는 것을 포함할 수 있다.

일부 실시예에서, 캠프 구역(215)은 루트 및/또는 서브-루트로 분류하기 위해 허브 구역(213)으로부터 패키지가 수령되는 하나 이상의 빌딩, 하나 이상의 물리적 공간, 또는 하나 이상의 영역을 포함할 수 있다. 일부 실시예에서, 캠프 구역(215)은 FC(200)로부터 물리적으로 분리되어 있는 반면, 다른 실시예에서는 캠프 구역(215)은 FC(200)의 일부를 형성할 수 있다.

캠프 구역(215)의 작업자 및/또는 기계는, 예를 들면, 목적지와 기존 루트 및/또는 서브-루트의 비교, 각각의 루트 및/또는 서브-루트에 대한 작업량의 계산, 하루 중 시간, 배송 방법, 패키지(220)를 배송하기 위한 비용, 패키지(220)의 아이템과 관련된 PDD 등에 기초하여 패키지(220)가 어느 루트 및/또는 서브-루트와 연관되어야 하는지를 결정할 수 있다. 일부 실시예에서, 작업자 또는 기계는 최종 목적지를 결정하기 위해 (예를 들면, 디바이스(119A-119C) 중 하나를 사용하여) 패키지를 스캔할 수 있다. 일단 패키지(220)가 특정 루트 및/또는 서브-루트에 할당되면, 작업자 및/또는 기계는 배송될 패키지(220)를 운반할 수 있다. 예시적인 도 2에서, 캠프 구역(215)은 트럭(222), 자동차(226), 배달원(224A, 224B)을 포함한다. 일부 실시예에서, 배달원(224A)이 트럭(222)을 운전할 수 있는데, 이 때 배달원(224A)은 FC(200)에 대한 패키지를 배달하는 풀-타임 직원이며, 트럭은 FC(200)를 소유, 임대 또는 운영하는 동일한 회사에 의해 소유, 임대, 또는 운행된다. 일부 실시예에서, 배달원(224B)이 자동차(226)를 운전할 수 있는데, 이 때 배달원(224B)은 필요에 따라(예를 들면, 계절에 따라) 배달하는 "플렉스(flex)" 또는 비상시적인 작업자이다. 자동차(226)는 배달원(224B)에 의해 소유, 임대 또는 운행될 수 있다.

도 3은 개시된 실시예에 따른, 레이턴시 메트릭을 계산하기 위한 네트워크(310) 및 시스템(340)을 포함하는 디바이스(300)의 네트워크를 도시한다. 시스템(340)은 적어도 하나의 프로세서(346), 명령(344)을 저장하는 메모리, 및 데이터베이스(342)를 포함한다. 메모리(344)는 레이턴시 메트릭을 계산하기 위한 프로그램을 저장한다. 프로그램은 A/B 테스트를 사용하여 검색 요청을 수신하고 아이템 페이지를 제시하며 지불 정보를 요청하는 웹 서버로서 외부 프론트 엔드 시스템(103)을 이용하여 구현될 수 있다. 네트워크(310)는 사용자 디바이스(320) 및 시스템(340)과 통신할 수 있다. 사용자 디바이스(320)는 실험군(treatment group) 실험 매개변수(330) 및 대조군(control group) 실험 매개변수(350)를 수신할 수 있다. 실험군 실험 매개변수(330)는 적어도 하나의 웹 페이지(360A)와 연관된다. 대조군 실험 매개변수(350)는 적어도 하나의 웹 페이지(360B)와 연관된다. 실험 매개변수는 웹 페이지의 기능이나 요소를 정의하는 임의의 특성이다. 일부 실시예에서, 실험군 실험 매개변수는 변경이 적용된 매개변수일 수 있다. 일부 실시예에서, 대조군 실험 매개변수는 변경이 적용되지 않는 파라미터일 수 있다. 예를 들어, 일부 실시예에서 대조군 실험 매개변수는 도 1b에 도시된 웹 페이지를 보여줄 수 있다. 대조적으로, 실험군 실험 매개변수는 도 1b에 도시된 바와 같은 웹페이지를 크기가 2배로 확대된 텍스트 또는 흑백이 아닌 컬러로 표시되는 텍스트를 갖거나, 또는 치즈의 유형의 그림을 도시하지 않게 표시할 수 있다. 예를 들어, 일부 실시예에서, 대조군 실험 매개변수는 도 1c에 도시된 바와 같은 웹 페이지를 보여줄 수 있다. 대조적으로, 실험군 실험 매개변수는 도 1c에 도시된 바와 같은 웹페이지를 크기가 더 작은 텍스트 또는 흑백이 아닌 컬러로 표시되는 텍스트를 갖거나, 사용자가 드롭다운 메뉴를 클릭하여 다른 고객이 구매한 제품을 보도록 선택할 수 있음을 나타내도록 표시할 수 있다. A/B 테스트를 사용함으로써, 시스템(340)은 사용자가 페이지의 특정 기능을 클릭하는지 또는 페이지 밖으로 이동하는지 여부를 결정할 수 있다. 시스템(340)은 또한 사용자가, 예를 들어, 글꼴 크기를 늘리거나 줄이기 위해 페이지를 변경하는지 여부를 결정할 수 있다.

시스템(340)은 레이턴시 메트릭을 측정하도록 구성되고 직접 연결을 통해 도 1a의 시스템(100)의 하나 이상의 시스템과 연관될 수 있다. 일부 실시예에서, 시스템(340)은 레이턴시 메트릭을 처리하고 레이턴시 메트릭 소스 테이블을 생성한다. 일부 실시예에서, 시스템(340)은 웹로그 데이터를 수집하고 처리한다. 일부 실시예에서, 시스템(340)은 Apache Hive와 같은 데이터 창고 시스템에 미가공(raw) 데이터를 저장한다. 일부 실시예에서, 시스템(340)은 매시간 레이턴시 메트릭을 계산한다. 일부 실시예에서, 시스템(340)은 네트워크(310)를 통해 또는 직접 연결을 통해 시스템(100)의 다른 구성요소들과 통신할 수 있다. 시스템(340)은 하나 이상의 프로세서(346)를 포함할 수 있다.

프로세서(346)는 정보를 조작하거나 처리할 수 있는 일반 또는 특정 전자 디바이스일 수 있다. 예를 들어, 프로세서는 임의의 수의 중앙 처리 장치(CPU), 그래픽 처리 장치(GPU), 광학 프로세서, 프로그래머블 로직 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서, 디지털 신호 프로세서, 지적 재산(IP) 코어, 프로그래머블 로직 어레이(PLA), 프로그래머블 어레이 로직(PAL), 일반 어레이 로직(GAL), 복합 프로그래머블 로직 디바이스(CPLD), 필드-프로그래머블 게이트 어레이(FGPA), 시스템 온 칩(SoC), 애플리케이션-특정 집적 회로(ASIC) 및 데이터 처리가 가능한 임의의 유형의 회로의 임의의 조합을 포함할 수 있다. 프로세서는 또한 네트워크를 통해 연결된 다수의 기계 또는 디바이스들에 걸쳐 분산된 하나 이상의 프로세서를 포함하는 가상 프로세서일 수 있다.

메모리(344)는 프로세서에 의해 액세스 가능한 코드 및 데이터를 저장할 수 있는 일반 또는 특정 전자 디바이스일 수 있다. 예를 들어, 메모리(344)는 임의의 수의 랜덤-액세스 메모리(RAM), 읽기-전용 메모리(ROM), 광 디스크, 자기 디스크, 하드 드라이브, 솔리드-스테이트 드라이브, 플래시 드라이브, 보안 디지털(SD) 카드, 메모리 스틱, 컴팩트 플래시(CF) 카드 또는 임의의 유형의 저장 디바이스의 조합을 포함할 수 있다. 코드는 특정 작업을 위한 하나 이상의 응용 프로그램 및 운영 체제(OS)를 포함할 수 있다. 메모리는 또한 네트워크를 통해 연결된 다수의 기계 또는 디바이스에 걸쳐 분산된 하나 이상의 메모리를 포함하는 가상 메모리일 수 있다.

데이터베이스(342)는 시스템(340)에 연결된다. 데이터베이스(342)는 프로세서 및 메모리를 포함할 수 있다. 일부 실시예에서, 시스템(340)은 데이터베이스(342)로서 동시에 동작할 수 있다.

시스템(340)은 컴퓨터 네트워크(310)에 연결된다. 예를 들어, 컴퓨터 네트워크(310)는 임의의 수의 인터넷, 인트라넷, 근거리 통신망(LAN), 광역 통신망(WAN), 대도시 통신망(MAN), 가상 사설망 (VPN), 무선 네트워크, 유선 네트워크, 임대 회선, 셀룰러 데이터 네트워크 및 블루투스 연결, 적외선 연결 또는 근거리 무선 통신(NFC) 연결을 사용하는 네트워크의 임의의 조합을 포함할 수 있다.

시스템(340)은 또한 직접적으로 또는 컴퓨터 네트워크(310)를 통해 사용자 디바이스(320)에 연결된다. 사용자 디바이스(320)는 랩톱, 독립형 컴퓨터, 태블릿, 휴대폰 등일 수 있다. 일부 실시예에서, 시스템(340)과 사용자 디바이스(320)는 시스템(340)과 사용자 디바이스(320) 사이에 교환되는 정보가 컴퓨터 네트워크(310)를 통과하지 않도록 직접 연결될 수 있다. 일부 실시예에서, 사용자 디바이스(320)는 와이파이에 연결된다.

시스템(340)은 사용자 디바이스(320)를 통해 실험군 실험 매개변수(330) 및 대조군 실험 매개변수(350)를 수신한다. 각각의 실험군 실험 매개변수(330)는 적어도 하나의 웹 페이지(360A)와 연관된다. 각각의 대조군 실험 매개변수는 적어도 하나의 웹 페이지(360B)와 연관된다. 웹 페이지(360A 및 360B)는 A/B 테스트를 표시한다.

도 4는 개시된 실시예에 따른, TTI 값을 계산하고 실험군 실험의 활성화를 비활성화(disable) 하기 위한 예시적인 프로세스의 개략도이다. TTI는 웹 페이지가 완전히 상호 작용하는 데 걸리는 시간을 측정하는 웹 성능 진행 메트릭일 수 있다. 일부 실시예에서, 페이지가 500밀리초 이내에 사용자 상호작용에 응답할 때 페이지는 완전히 상호작용 한다. TTI 값은 스파크 잡(Spark job)을 이용하여 계산된다. 시스템(340)은 50%, 90% 및 95%의 백분위수 값에서 실험군 실험 및 대조군 실험에 대한 TTI 값에 기초하여 단계 550의 계산된 미리 결정된 임계 값을 출력한다. 일부 실시예에서, 스파크 잡은 50%, 90% 및 95% 값으로부터 평균 백분위수 값을 계산한다. 일부 실시예에서, 스파크 잡은 사용자 경험의 대부분을 캡처하기 때문에 이러한 백분위수 값에서 계산된다. 일부 실시예에서, TTI 값은 각각의 플랫폼, 페이지 및 네트워크에 대해 계산된다. 일부 실시예에서 플랫폼은 운영 체제이다. 일부 실시예에서 네트워크는 와이파이를 사용하여 동작한다. 일부 실시예에서 네트워크는 셀룰러 데이터를 사용하여 동작한다. 일부 실시예에서, 백분위수 값은 매 4시간마다 계산된다. 값이 사전 결정된 임계 값보다 큰 경우, 알림(420)에서 시스템(340)은 사용자 디바이스에 알림을 전송한다. 예를 들어, 사용자 디바이스는 모바일 디바이스, 랩톱, 태블릿, 독립형 컴퓨터 등을 포함할 수 있다. 도 4는 90번째 백분위수 값에서 알림을 보내는 것을 도시한다. 일부 실시예에서, 알림(420)이 사용자 디바이스에 전송될 때, 프로세스(400)는 실험군 실험을 자동으로 비활성화한다.

도 5는 개시된 실시예에 따른, 사용자 실험을 위한 레이턴시 메트릭을 계산하는 예시적인 방법의 흐름도이다. 프로세스(500)는 단계 510에서 시작된다. 단계 510에서, 시스템(340)은 네트워크(310)를 통해 사용자 디바이스(320)를 통해 실험 매개변수를 수신한다. 실험 매개변수는 실험 세트의 제1 실험과 관련된다. 일부 실시예에서, 실험 세트와 관련된 하나 이상의 실험이 있을 수 있다. 실험 세트는 A/B 테스트에 사용하기 위한 실험군 실험 중 적어도 하나와 대조군 실험 중 적어도 하나를 포함한다. 실험군 실험 매개변수(330)는 실험군 실험과 연관된다. 대조군 실험 매개변수(350)는 대조군 실험과 연관된다. 각각의 실험군 실험 매개변수(330)는 웹 페이지(360A)와 연관되고 각각의 대조군 실험 매개변수(350)는 웹 페이지(360B)와 연관된다. 웹 페이지(360A 및 360B)는 A/B 테스트를 표시한다.

그 다음 프로세스(500)는 단계 520으로 진행한다. 단계 520에서, 시스템(340)은 실험을 위한 상호작용까지의 시간(TTI, time till interaction) 데이터를 수신한다. TTI 데이터는 시간 값과 고유 식별자를 포함한다. 시간 값은 TTI 데이터가 네트워크(310)를 통해 사용자 디바이스(320)로부터 수신된 시간을 나타낸다. 실험은 적어도 하나의 실험군 실험 및 적어도 하나의 대조군 실험이다.

그 다음 프로세스(500)는 단계 530으로 진행한다. 단계 530에서, 시스템(340)은 각각의 실험군 실험 및 각각의 대조군 실험을 위한 TTI의 값을 계산한다. TTI 데이터는 실험군 실험에 대해 웹 페이지를 로드하는 데 걸리는 시간을 측정하여 계산되고 대조군 실험에 대해 웹 페이지를 로드하는 데 걸리는 시간과 비교된다.

프로세스(500)는 단계 540으로 진행한다. 단계 540에서, 시스템(340)은 실험군 실험으로부터의 TTI 값을 대조군 실험으로부터의 TTI 값과 비교한다. 웹 페이지(360A 및 360B)는 사용자가 웹 페이지를 방문할 때마다 TTI 값을 측정한다. TTI 값은 메모리(344)에 저장된다. 시스템(340)은 네트워크(310)를 통해 저장된 TTI 값을 수신한다. TTI 데이터의 값은 메모리(344)에 저장된다.

그 다음 프로세스(500)는 단계 550으로 진행한다. 단계 550에서, 실험군으로부터의 TTI 값과 대조군으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 크다고 결정되면, 단계 570에서, 시스템은 실험군으로부터의 TTI 값이 미리 결정된 임계 값보다 크다는 것을 나타내는 알림을 전송한다. 이러한 상황에서, 웹 페이지 개발자는 A/B 테스트를 위해 더 나은 레이턴시를 필요로 한다. 일부 실시예에서, 프로세스는 실험군 실험으로부터의 TTI 값이 대조군 실험의 값과 비교되는 단계 540으로 되돌아간다. 대안적인 실시예에서, 단계 570에서, 시스템(340)은 실험군 실험이 알림과 연관될 때마다 로그하고 알림과 연관된 각 실험군을 시간 값 및 고유 식별자 중 적어도 하나에 기초하여 우선 순위 큐에 배치한다. 일부 실시예에서, 시스템(340)은 A/B 테스트를 검토하는 동안 사용하기 위해 이러한 실험군 실험에 대한 로그를 유지한다. 우선 순위 큐는 개발자가 A/B 테스트를 분석하는 데 이용될 수 있다. 일부 실시예에서 시스템(340)은 알림과 연관된 실험군의 우선 순위 큐에 액세스하고 레이턴시 값이 미리 결정된 임계 값 미만임을 결정하고 우선 순위 큐에 기초하여 실험군 실험을 활성화한다. 대안적인 실시예에서, 단계 550에서 실험군으로부터의 TTI 값과 대조군으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 크다고 결정되면, 단계 570에서, 시스템은 실험군 실험의 활성화를 비활성화한다. 일부 실시예에서, 시스템(340)은 실험군 실험이 비활성화될 때마다 로그하고 각각의 비활성화된 실험군을 시간 값 및 고유 식별자 중 적어도 하나에 기초하여 우선 순위 큐에 배치한다. 일부 실시예에서, 시스템(340)은 A/B 테스트를 검토하는 동안 사용하기 위해 비활성화된 실험군 실험에 대한 로그를 유지한다. 우선 순위 큐는 개발자가 A/B 테스트를 분석하는 데 이용될 수 있다. 일부 실시예에서, 시스템(340)은 비활성화된 실험군의 우선 순위 큐에 액세스하고 레이턴시가 미리 결정된 임계 값 미만임을 결정하고 우선 순위 큐에 기초하여 실험군 실험을 활성화한다.

일부 실시예에서, 실험군으로부터의 TTI 값과 대조군으로부터의 TTI 값 사이의 차이는 레이턴시 값으로 알려져 있다. 일부 실시예에서 시스템(340)은 7일의 값 비교 후에 알림을 생성하고 전송할 수 있지만, 다른 실시예에서 시스템(340)은 7일의 값 비교 후에 실험군 실험의 활성화를 비활성화할 수 있다. 값 비교는 연속 7일 동안 실험군으로부터의 TTI 값과 대조군으로부터의 TTI 값이 미리 결정된 임계 값보다 컸음을 요구할 수 있다. 단계 570에서 실험군 실험이 비활성화되면, 대조군 실험은 활성화로 유지된다.

한편, 단계 550에서, 실험군으로부터의 TTI 값과 대조군으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값 이하인 것으로 결정되면, 단계 560에서, 실험군 실험과 대조군 실험은 변경 없이 유지되며 알림이 전송되지 않는다.

단계 550의 미리 결정된 임계 값은 도 4에 도시된 바와 같이 50%, 90% 및 95%의 백분위수 값에서 실험군 및 대조군에 대한 TTI 값에 기초하여 계산된다. 일부 실시예에서, 미리 결정된 임계 값은 3%의 값일 수 있다.

본 개시는 그 특정 실시예를 참조하여 도시되고 설명되었지만, 본 개시는 다른 환경에서, 변경없이, 실시될 수 있음을 이해할 것이다. 전술한 설명은 예시의 목적으로 제시되었다. 그것은 개시된 정확한 형태나 실시예에 대해 총망라된 것이 아니며 이것으로 한정되는 것은 아니다. 개시된 실시예의 설명 및 실시를 고려하는 것으로부터 변경 및 조정이 통상의 기술자에게 명백할 것이다. 추가적으로, 비록 개시된 실시예의 형태가 메모리에 저장되는 것으로서 설명되었지만, 통상의 기술자는 이들 형태가 2차 저장 디바이스, 예를 들면, 하드디스크나 CD ROM, 또는 다른 형태의 RAM이나 ROM, USB 매체, DVD, 블루레이, 또는 다른 광 드라이브 매체와 같이, 다른 형태의 컴퓨터 판독 가능한 매체에 저장될 수도 있는 것을 이해할 것이다.

상술한 설명 및 개시된 방법에 기초한 컴퓨터 프로그램은 숙련된 개발자의 기술 내에 있다. 여러 프로그램 혹은 프로그램 모듈은 통상의 기술자에게 알려진 어느 기술을 이용하여 생성되거나, 또는 기존의 소프트웨어와 연결하여 설계될 수 있다. 예를 들면, 프로그램 섹션 혹은 프로그램 모듈은 닷넷 프레임워크, 닷넷 컴팩트 프레임워크(및 비주얼 베이식, C 등과 같은, 관련 언어), 자바, C++, 오브젝티브 C, HTML, HTML/AJAX 조합, XML, 또는 자바 애플릿이 포함된 HTML 내에서 혹은 그것들에 의해서 설계될 수 있다.

게다가, 여기에서는 예시적인 실시예가 설명되었지만, 본 개시에 기초하여 통상의 기술자가 이해할 수 있는 바와 같이, 일부 또는 모든 실시예의 범위는 동등한 요소, 변경, 생략, 조합(예로써, 여러 실시예에 걸치는 형태의 조합), 조정 및/또는 수정을 가질 수 있다. 청구범위 내의 제한 사항은 그 청구범위 내에 적용된 언어에 기초하여 폭넓게 이해되도록 하는 것이며, 응용의 수행 동안 혹은 본 명세서 내에 설명된 예시로 한정되는 것은 아니다. 그 예시는 비배타적으로 해석되도록 하기 위한 것이다. 추가로, 개시된 방법의 스텝은 어떤 다른 방법으로 변경되거나, 스텝을 재배열 및/또는 스텝을 삽입하거나 삭제하는 것을 포함할 수 있다. 그러므로, 설명 및 예시는 오직 예시적으로 고려되는 것이며, 진정한 범위 및 기술 사상은 다음의 청구범위 및 그 동등한 전체 범위에 의해 나타내지는 것으로 의도된다.

Claims

사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템으로서,
적어도 하나의 프로세서;
상기 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서가 동작을 수행하도록 하는 명령을 포함하는 적어도 하나의 비-일시적 저장 매체를 포함하고,
상기 동작은
네트워크를 통해 사용자 디바이스로부터, 실험 세트의 제1 실험과 관련된 실험 매개변수를 수신하고 - 상기 실험 세트는 적어도 하나의 실험군 실험 및 적어도 하나의 대조군 실험을 포함하고, 상기 매개변수는 적어도 하나의 웹 페이지와 연관됨 -;
상기 네트워크를 통해 상기 사용자 디바이스로부터, 상기 제1 실험에 대한 상호작용까지의 시간(TTI, time till interaction) 데이터를 수신하고 - 상기 TTI 데이터는 시간 값 및 고유 식별자를 포함함 -;
각 실험군 실험에 대한 TTI 값을 계산하고;
각 대조군 실험에 대한 TTI 값을 계산하고;
상기 실험군 실험으로부터의 TTI 값을 상기 대조군 실험으로부터의 TTI 값과 비교하고;
상기 실험군 실험으로부터의 TTI 값과 상기 대조군 실험으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 큰지 여부를 결정하고;
상기 값이 상기 미리 결정된 임계 값보다 클 때까지 상기 실험군 실험 및 상기 대조군 실험을 유지하고; 그리고
상기 실험군 실험 값이 상기 미리 결정된 임계 값보다 크다는 것을 나타내는 알림을 전송하는 것을 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 미리 결정된 임계 값은 50%, 90% 및 95%의 백분위수 값에서 상기 실험군 및 상기 대조군에 대한 TTI 값에 기초하여 계산되는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 실험군으로부터의 TTI 값과 상기 대조군으로부터의 TTI 값 사이의 차이를 결정하는 것은,
7일 간의 값 비교 후 상기 실험군 실험 값이 상기 미리 결정된 임계 값보다 큰 경우 상기 알림을 전송하거나, 또는
7일 간의 값 비교 후 상기 값이 상기 미리 결정된 임계 값보다 큰 경우 상기 실험군 실험의 활성화를 비활성화하는 것,
중 적어도 하나를 더 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 동작은 상기 시스템이 상기 실험군 실험의 활성화를 비활성화 하는 경우 사용자가 상기 대조군 실험을 사용하도록 허용하는 것을 더 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 사용자 디바이스는 상기 실험 세트를 실행하기 전에 와이파이에 연결되는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 각 실험에 대한 상기 TTI의 값은 상기 웹 페이지와 연관된 매개변수에 기초하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 시스템은, 상기 시간 값 및 상기 고유 식별자에 기초하여, 상기 실험군 실험 값이 상기 미리 결정된 임계 값보다 크다는 것을 나타내는 알림이 전송될 때마다 로그하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 동작은 비활성화된 실험군 실험의 로그를 유지하는 것을 더 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 알림과 연관된 각각의 실험군 실험은 추가 분석을 위해 우선 순위 큐에 배치되는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
청구항 1에 있어서, 상기 동작은:
상기 알림과 연관된 실험군의 우선순위 큐에 액세스하고;
상기 실험군 실험으로부터의 TTI 값과 상기 대조군 실험으로부터의 TTI 값 사이의 차이가 상기 미리 결정된 임계 값 미만임을 결정하고; 그리고
상기 실험군 실험을 활성화하는 것을 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터화된 시스템.
사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법으로서, 상기 방법은:
네트워크를 통해 사용자 디바이스로부터, 실험 세트의 제1 실험과 관련된 실험 매개변수를 수신하고 - 상기 실험 세트는 적어도 하나의 실험군 실험 및 적어도 하나의 대조군 실험을 포함하고, 상기 매개변수는 적어도 하나의 웹 페이지와 연관됨 -;
상기 네트워크를 통해 상기 사용자 디바이스로부터, 상기 제1 실험에 대한 상호작용까지의 시간(TTI) 데이터를 수신하고 - 상기 TTI 데이터는 시간 값 및 고유 식별자를 포함함 -;
각 실험군 실험에 대한 TTI 값을 계산하고;
각 대조군 실험에 대한 TTI 값을 계산하고;
상기 실험군 실험으로부터의 TTI 값을 상기 대조군 실험으로부터의 TTI 값과 비교하고;
상기 실험군 실험으로부터의 TTI 값과 상기 대조군 실험으로부터의 TTI 값 사이의 차이가 미리 결정된 임계 값보다 큰지 여부를 결정하고;
상기 값이 상기 미리 결정된 임계 값보다 클 때까지 상기 실험군 실험 및 상기 대조군 실험을 유지하고; 그리고
상기 실험군 실험 값이 상기 미리 결정된 임계 값보다 크다는 것을 나타내는 알림을 전송하는 것을 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 미리 결정된 임계 값은 50%, 90% 및 95%의 백분위수 값에서 상기 실험군 및 상기 대조군에 대한 TTI 값에 기초하여 계산되는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 실험군 실험으로부터의 TTI 값과 상기 대조군 실험으로부터의 TTI 값 사이의 차이를 결정하는 것은,
7일 간의 값 비교 후 상기 실험군 실험 값이 상기 미리 결정된 임계 값보다 큰 경우 상기 알림을 전송하거나, 또는
7일 간의 값 비교 후 상기 값이 상기 미리 결정된 임계 값보다 큰 경우 상기 실험군 실험의 활성화를 비활성화하는 것,
중 적어도 하나를 더 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 방법은 상기 방법이 상기 실험군 실험의 활성화를 비활성화 하는 경우 사용자가 상기 대조군 실험을 사용하도록 허용하는 것을 더 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 사용자 디바이스는 상기 실험 세트를 실행하기 전에 와이파이에 연결되는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 각 실험에 대한 상기 TTI의 값은 상기 웹 페이지와 연관된 매개변수에 기초하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 방법은, 상기 시간 값 및 상기 고유 식별자에 기초하여, 상기 실험군 실험 값이 상기 미리 결정된 임계 값보다 크다는 것을 나타내는 알림이 전송될 때마다 로그하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 방법은 비활성화된 실험군 실험의 로그를 유지하는 것을 더 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 알림과 연관된 각각의 실험군 실험은 추가 분석을 위해 우선 순위 큐에 배치되는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.
청구항 11에 있어서, 상기 방법은:
상기 알림과 연관된 실험군의 우선순위 큐에 액세스하고;
상기 실험군 실험으로부터의 TTI 값과 상기 대조군 실험으로부터의 TTI 값 사이의 차이가 상기 미리 결정된 임계 값 미만임을 결정하고; 그리고
상기 실험군 실험을 활성화하는 것을 포함하는, 사용자 실험을 위한 레이턴시 메트릭을 계산하기 위한 컴퓨터-구현 방법.