KR102447691B1 - Determining Contributions of Various User Interactions to a Conversion - Google Patents

Determining Contributions of Various User Interactions to a Conversion Download PDF

Info

Publication number
KR102447691B1
KR102447691B1 KR1020177004082A KR20177004082A KR102447691B1 KR 102447691 B1 KR102447691 B1 KR 102447691B1 KR 1020177004082 A KR1020177004082 A KR 1020177004082A KR 20177004082 A KR20177004082 A KR 20177004082A KR 102447691 B1 KR102447691 B1 KR 102447691B1
Authority
KR
South Korea
Prior art keywords
user
interactions
identifier
conversion
online system
Prior art date
Application number
KR1020177004082A
Other languages
Korean (ko)
Other versions
KR20170035949A (en
Inventor
세르지오 실베리아 클레멘테 필류
제이슨 조지 맥휴
Original Assignee
메타 플랫폼스, 인크.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 메타 플랫폼스, 인크. filed Critical 메타 플랫폼스, 인크.
Publication of KR20170035949A publication Critical patent/KR20170035949A/en
Application granted granted Critical
Publication of KR102447691B1 publication Critical patent/KR102447691B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0242Determining effectiveness of advertisements
    • G06Q30/0244Optimization
    • G06N7/005
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/067Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241Advertisements
    • G06Q30/0242Determining effectiveness of advertisements
    • G06Q30/0246Traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/02Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]

Abstract

온라인 시스템은 광고와의 사용자 상호작용을 설명하는 정보 및 다른 컨텐츠를 관리한다. 추가로, 온라인 시스템은 사용자를 식별하는 다양한 정보 타입 및 특정 사용자를 식별하는 정보 타입의 가능성의 척도를 제공하는 사용자를 식별하는 정보 타입과 각각 관련된 신뢰도 값을 관리한다. 사용자를 식별하는 예시적인 정보 타입은 온라인 시스템 식별자, 클라이언트 장치 식별자 및 애플리케이션 식별자를 포함한다. 온라인 시스템이 사용자가 전환을 수행했다고 표시하는 정보를 수신하는 경우, 온라인 시스템은 사용자를 식별하는 적어도 하나의 정보 타입과 관련된 상호작용을 검색한다. 기여 모델은 전환으로의 다양한 상호작용의 공헌을 결정하도록 검색된 상호작용에 적용되며, 다양한 상호작용과 관련된 사용자를 식별하는 정보 타입과 관련된 신뢰도 값을 참작한다. The online system maintains information and other content describing user interactions with advertisements. Additionally, the online system maintains a confidence value each associated with the various types of information identifying the user and the information type identifying the user that provides a measure of the likelihood of the type of information identifying a particular user. Exemplary types of information identifying a user include an online system identifier, a client device identifier, and an application identifier. When the online system receives information indicating that the user has performed a conversion, the online system retrieves an interaction associated with at least one type of information identifying the user. An attribution model is applied to the retrieved interactions to determine the contribution of the various interactions to conversion, taking into account the confidence values associated with the types of information that identify the users associated with the various interactions.

Description

전환에 대한 다양한 사용자 상호작용의 공헌의 결정{Determining Contributions of Various User Interactions to a Conversion}Determining Contributions of Various User Interactions to a Conversion

본 발명은 일반적으로 전환의 모니터링에 관한 것이며, 특히 수행된 전환에 대한 상호작용의 공헌을 결정하는 것에 관한 것이다.FIELD OF THE INVENTION The present invention relates generally to monitoring conversions, and more particularly to determining the contribution of interactions to conversions performed.

컨텐츠 제공자는 온라인 시스템으로 제시하기 위해 컨텐츠 제공자에 의해 제공되는 컨텐츠와 전환(conversion)을 연관시킬 수 있다. 전환은 온라인 시스템의 사용자들이 컨텐츠를 제시받을 때 수행하기를 컨텐츠 제공자가 원하는 상호작용 또는 상호작용의 타입을 식별한다. 예를 들어, 컨텐츠 제공자는 사용자가 온라인 시스템에 의해 제시된 컨텐츠와 관련된 웹사이트에 액세스하거나 온라인 시스템에 의해 제시된 컨텐츠에 의해 식별되는 애플리케이션을 설치하도록 컨텐츠와 전환을 연관시킨다.A content provider may associate a conversion with content provided by the content provider for presentation to an online system. A conversion identifies an interaction or type of interaction that the content provider wants to perform when users of the online system are presented with content. For example, a content provider associates content with a transition such that a user accesses a website related to the content presented by the online system or installs an application identified by the content presented by the online system.

그러나, 사용자들은 흔히 온라인 시스템에 의해 제시된 컨텐츠와 관련된 전환을 수행하기 전에 온라인 시스템에 의해 캡처된 다수의 상호작용을 수행한다. 사용자에 의해 수행되는 다양한 상호작용은 사용자가 전환을 수행할 가능성을 증가시키거나 감소시킬 수 있다. 그러나, 온라인 시스템으로 전달되는 사용자가 수행한 서로 다른 상호작용들을 설명하는 정보는 사용자를 식별하는 서로 다른 정보 타입들을 포함할 수 있다. 이런 서로 다른 타입의 사용자 식별 정보를 사용함으로 인하여 종래의 온라인 시스템은 사용자에 의해 수행된 전환에 공헌했을 수 있는 사용자에 의한 이전의 상호작용들을 정확히 식별하지 못한다.However, users often perform a number of interactions captured by the online system prior to performing conversions related to the content presented by the online system. The various interactions performed by the user may increase or decrease the likelihood that the user will perform a conversion. However, the information that is communicated to the online system describing the different interactions the user has performed may include different types of information identifying the user. Due to the use of these different types of user identification information, conventional online systems do not accurately identify previous interactions by the user that may have contributed to the conversion performed by the user.

전환으로 이어지는 사용자에 의한 다양한 상호작용의 공헌에 대한 더 정확한 정보를 광고자에게 제공하기 위해, 온라인 시스템은 전환 이전에 사용자에 의한 상호작용을 식별하고 전환으로의 서로 다른 상호작용들의 공헌을 결정한다. 전환에 대한 상호작용의 공헌은 전환을 수행하는 사용자에 대한 상호작용의 영향력의 척도를 제공한다. 온라인 시스템은 사용자가 수행한 다양한 상호작용을 설명하는 정보뿐 아니라 온라인 시스템으로 식별된 전환과 관련된 정보를 저장한다. 온라인 시스템에 의한 상호작용과 관련된 정보의 예들은: 상호 작용의 타입의 설명(예를 들어, 광고의 노출, 광고 또는 링크와의 상호작용, 온라인에서 수행된 검색, 온라인 구매 등), 상호작용을 수행한 사용자를 식별하는 정보(예를 들어, 온라인 시스템 사용자 식별자, 장치 식별자 등), 및 상호작용과 관련된 시간(예를 들어, 타임스탬프)을 포함한다. 또한, 온라인 시스템은 정확하게 사용자를 식별하는 정보 타입의 능력의 척도를 나타내는 다양한 사용자 식별 정보 타입과 신뢰도 값을 연관시킨다. 예를 들어, 온라인 시스템은 다수의 사용자가 장치를 공유할 때 장치 식별자와 관련된 신뢰도 값보다 더 높은 신뢰도 값을 온라인 시스템 사용자 식별자와 연관시킨다. 일부 실시예에서, 온라인 시스템은 해당 신뢰도 값에 기반하여 사용자를 식별하는 정보 타입을 순위화하는데, 순위에서 더 높은 위치에 있다면 사용자를 정확히 식별하는 정보 타입의 능력이 더 높음을 나타낸다. 온라인 시스템이 전환을 설명하는 정보를 수신하면, 온라인 시스템은 수신된 정보로부터 사용자를 식별하는 정보를 식별한다. 이후, 온라인 시스템은 사용자를 식별하는 정보와 관련된 상호작용뿐 아니라 사용자를 식별하는 다른 정보 타입과 관련된 상호작용을 식별한다.In order to provide advertisers with more accurate information about the contribution of various interactions by users to conversion, the online system identifies interactions by users prior to conversion and determines the contribution of different interactions to conversion. . The interaction's contribution to conversion provides a measure of the interaction's impact on the user performing the conversion. The online system stores information that describes the various interactions performed by the user, as well as information related to the conversions identified with the online system. Examples of information related to an interaction with an online system include: a description of the type of interaction (eg, exposure of an advertisement, interaction with an advertisement or link, a search performed online, an online purchase, etc.), the interaction information identifying the user who performed it (eg, online system user identifier, device identifier, etc.), and the time (eg, timestamp) associated with the interaction. The online system also associates confidence values with various types of user identification information that represent a measure of the information type's ability to accurately identify a user. For example, an online system associates a trust value with an online system user identifier that is higher than a trust value associated with the device identifier when multiple users share a device. In some embodiments, the online system ranks information types that identify users based on their confidence values, a higher position in the ranking indicates a higher ability of an information type to accurately identify a user. When the online system receives information describing the transition, the online system identifies information identifying the user from the received information. The online system then identifies interactions related to information identifying the user as well as interactions related to other types of information identifying the user.

기여 모델(attribution model)은 전환에 대한 소스들(sources)의 공헌을 평가하도록 검색된 상호작용에 적용된다. 일부 실시예에서, 기여 모델은 서로 다른 상호작용들에 가중치를 적용하여 전환에 대한 다양한 상호작용의 공헌을 식별한다. 다양한 실시예에서, 상기 가중치는 사용자를 식별하는 정보 타입과 관련된 신뢰도 값에 적어도 부분적으로 기반한다. 또한, 기여 모델은 가령 적어도 하나의 임계 신뢰도 값을 가지는 사용자를 식별하는 정보 타입과 관련하여 검색된 상호작용과 같이 검색된 상호작용들의 서브세트에 적용될 수 있다.An attribution model is applied to the retrieved interactions to evaluate the contribution of sources to conversion. In some embodiments, the attribution model weights different interactions to identify the contribution of various interactions to conversion. In various embodiments, the weight is based, at least in part, on a confidence value associated with a type of information identifying the user. Further, the attribution model may be applied to a subset of the retrieved interactions, such as the interactions retrieved with respect to a type of information identifying a user having at least one threshold confidence value.

본 발명의 내용 중에 포함되어 있다.Included in the context of the present invention.

도 1은 일실시예에 따라 온라인 시스템이 구동되는 시스템 환경의 블록도이다.
도 2는 일실시예에 따른 온라인 시스템의 블록도이다.
도 3은 일실시예에 따라 하나 이상의 상호작용 중에서 전환에 기여하는 방법의 흐름도이다.
도 4는 일실시예에 따라 행위중인 사용자를 식별하는 정보 타입과 상호작용 및 전환을 연관시키는 정보의 예이다.
도면들은 오로지 예시적인 목적으로 다양한 실시예들을 도시한다. 통상의 기술자는 하기의 설명으로부터 본 명세서에 도시된 구조 및 방법의 대안적 실시예들이 본 명세서에 개시된 원칙으로부터 벗어남이 없이 이용될 수 있음을 용이하게 인식할 것이다.
1 is a block diagram of a system environment in which an online system is driven according to an exemplary embodiment.
2 is a block diagram of an online system according to an embodiment.
3 is a flow diagram of a method of contributing to a conversion among one or more interactions in accordance with one embodiment.
4 is an example of information associating interactions and conversions with types of information identifying an acting user, according to one embodiment.
The drawings depict various embodiments for illustrative purposes only. Those skilled in the art will readily recognize from the following description that alternative embodiments of the structures and methods shown herein may be utilized without departing from the principles disclosed herein.

시스템 구조system structure

도 1은 온라인 시스템(140)에 대한 시스템 환경(100)의 블록도이다. 도 1에 도시된 시스템 환경(100)은 하나 이상의 클라이언트 장치(110), 네트워크(120), 하나 이상의 제3자 시스템(130) 및 온라인 시스템(140)을 포함한다. 대안적 구성으로, 상이한 컴포넌트 및/또는 추가 컴포넌트가 시스템 환경(100)에 포함될 수 있다. 1 is a block diagram of a system environment 100 for an online system 140 . The system environment 100 illustrated in FIG. 1 includes one or more client devices 110 , a network 120 , one or more third party systems 130 , and an online system 140 . In alternative configurations, different and/or additional components may be included in the system environment 100 .

클라이언트 장치(110)는 사용자 입력을 수신할 수 있고 네트워크(120)를 통해 데이터를 전송 및/또는 수신할 수 있는 하나 이상의 컴퓨팅 장치이다. 일실시예로, 클라이언트 장치(110)는 가령 데스크톱이나 랩톱 컴퓨터와 같은 종래의 컴퓨터 시스템이다. 대안적으로, 클라이언트 장치(110)는 가령 개인용 정보단말기(PDA), 모바일 전화, 스마트폰 또는 다른 적절한 장치와 같이, 컴퓨팅 기능을 갖는 장치일 수 있다. 클라이언트 장치(110)는 네트워크(120)를 통해 통신하도록 구성된다. 일실시예로, 클라이언트 장치(110)는 클라이언트 장치(110)의 사용자가 온라인 시스템(140)과 상호작용할 수 있게 하는 애플리케이션을 실행한다. 예컨대, 클라이언트 장치(100)는 네트워크(120)를 통해 클라이언트 장치(100)와 온라인 시스템(140) 사이의 상호작용을 가능하게 하는 브라우저 애플리케이션을 실행한다. 또 다른 실시예로, 클라이언트 장치(110)는, 가령 iOS® 및 ANDROIDTM와 같이, 클라이언트 장치(110)의 네이티브 운영 시스템에서 실행하는 응용 프로그래밍 인터페이스(API)를 통해 온라인 시스템(140)과 상호작용한다. 클라이언트 장치(110)는 한 명 이상의 사용자들과 연관될 수 있다. 일부 실시예에서, 사용자는 사용자와 관련된 클라이언트 장치(110)를 통해 다수의 애플리케이션, 제3자 시스템(130) 또는 임의의 이들의 조합에 액세스할 수 있다.Client device 110 is one or more computing devices capable of receiving user input and transmitting and/or receiving data over network 120 . In one embodiment, the client device 110 is a conventional computer system, such as a desktop or laptop computer. Alternatively, the client device 110 may be a device having computing capabilities, such as a personal digital assistant (PDA), mobile phone, smart phone, or other suitable device. The client device 110 is configured to communicate over the network 120 . In one embodiment, the client device 110 runs an application that allows a user of the client device 110 to interact with the online system 140 . For example, the client device 100 runs a browser application that enables interaction between the client device 100 and the online system 140 over the network 120 . In yet another embodiment, the client device 110 interacts with the online system 140 via an application programming interface (API) executing on the native operating system of the client device 110 , such as iOS® and ANDROID . do. A client device 110 may be associated with one or more users. In some embodiments, a user may access multiple applications, a third party system 130 , or any combination thereof through a client device 110 associated with the user.

클라이언트 장치(110)는 유선 및 무선 통신 시스템 모두를 사용하여 근거리 네트워크 및/또는 광역 네트워크의 임의의 조합을 포함할 수 있는 네트워크(120)를 통해 통신하도록 구성된다. 일실시예로, 네트워크(120)는 표준 통신 기술 및/또는 프로토콜을 사용한다. 예컨대, 네트워크(120)는 가령 이더넷, 802.11, WiMAX(worldwide interoperability for microwave access), 3G, 4G, CDMA(code division multiple access), DSL(digital subscriber line) 등과 같은 기술을 사용하는 통신 링크를 포함한다. 네트워크(120)를 통한 통신을 위해 사용되는 네트워킹 프로토콜의 예는 MPLS(multiprotocol label switching), TCP/IP(transmission control protocol/Internet protocol), HTTP(hypertext transport protocol), SMTP(simple mail transfer protocol) 및 FTP(file transfer protocol)를 포함한다. 네트워크(120)에서 교환되는 데이터는 하이퍼텍스트 마크업 언어(HTML) 또는 확장형 마크업 언어(XML)와 같은 임의의 적절한 포맷을 사용하여 표현될 수 있다. 일부 실시예로, 네트워크(120)의 통신 링크의 전부 또는 일부는 임의의 적절한 기술(들)을 사용하여 암호화될 수 있다.Client device 110 is configured to communicate over network 120 , which may include any combination of local area networks and/or wide area networks, using both wired and wireless communication systems. In one embodiment, network 120 uses standard communication technologies and/or protocols. For example, network 120 includes communication links using technologies such as Ethernet, 802.11, worldwide interoperability for microwave access (WiMAX), 3G, 4G, code division multiple access (CDMA), digital subscriber line (DSL), etc. . Examples of networking protocols used for communication over network 120 include multiprotocol label switching (MPLS), transmission control protocol/Internet protocol (TCP/IP), hypertext transport protocol (HTTP), simple mail transfer protocol (SMTP), and Includes file transfer protocol (FTP). Data exchanged in network 120 may be represented using any suitable format, such as Hypertext Markup Language (HTML) or Extensible Markup Language (XML). In some embodiments, all or part of the communication link of network 120 may be encrypted using any suitable technology(s).

하나 이상의 제3자 시스템(130)은 온라인 시스템(140)과 통신하기 위한 네트워크(120)와 연결될 수 있는데, 이는 도 2와 함께 더 후술된다. 일실시예로, 제3자 시스템(130)은 클라이언트 장치에서 실행되는 애플리케이션에서 사용되기 위하여 클라이언트 장치(110)에서 실행되기 위한 애플리케이션을 설명하는 정보를 통신하거나 데이터를 클라이언트 장치(110)로 통신하는 애플리케이션 제공자이다. 다른 실시예에서, 제3자 시스템(130)은 클라이언트 장치(110)를 통해 표시되기 위한 컨텐츠 또는 다른 정보를 제공한다. 또한, 제3자 시스템(130)은 가령 제3자 시스템(130)에서 제공하는 애플리케이션에 대한 광고, 컨텐츠 또는 정보와 같은 정보를 온라인 시스템(140)으로 정보를 전달할 수 있다.One or more third party systems 130 may be coupled to a network 120 for communicating with an online system 140 , which is further described below in conjunction with FIG. 2 . In one embodiment, the third-party system 130 communicates information describing an application to be executed on the client device 110 or communicates data to the client device 110 for use in an application running on the client device. application provider. In another embodiment, the third party system 130 provides content or other information for display via the client device 110 . In addition, the third-party system 130 may transmit information, such as advertisements, contents, or information about an application provided by the third-party system 130 to the online system 140 .

도 2는 온라인 시스템(120)의 구조의 블록도이다. 도 2에 도시된 온라인 시스템(140)은 행위 로그(210a), 필터링 모듈(215), 기여 모듈(220) 및 웹 서버 (225)를 포함한다. 다른 실시예로, 온라인 시스템(140)은 다양한 애플리케이션을 위한 추가 모듈, 더 적은 모듈 또는 다른 모듈을 포함할 수 있다. 가령 네트워크 인터페이스, 보안 기능, 부하 균형기, 장애복구 서버, 관리와 네트워크 동작 콘솔 등과 같은 종래의 구성요소들은 시스템 구조의 세부사항을 모호하게 하지 않도록 도시되지 않는다.2 is a block diagram of the structure of the online system 120 . The online system 140 shown in FIG. 2 includes an action log 210a , a filtering module 215 , a contribution module 220 , and a web server 225 . In other embodiments, the online system 140 may include additional modules, fewer modules, or other modules for various applications. Conventional components such as network interfaces, security functions, load balancers, failover servers, management and network operation consoles, etc. are not shown in order not to obscure the details of the system architecture.

온라인 시스템(120)의 각각의 사용자는 사용자 프로필 스토어(205)에 저장되는 사용자 프로필과 관련된다. 사용자 프로필은 사용자에 의해 명시적으로 공유되었던 사용자에 대한 선언형 정보를 포함하고, 또한 온라인 시스템(140)에 의해 추론된 프로필 정보를 포함할 수 있다. 일실시예에서, 사용자 프로필은 대응하는 온라인 시스템 사용자의 하나 이상의 속성을 각각 설명하는 다수의 데이터 필드를 포함한다. 사용자 프로필에 저장된 정보의 예는 가령 경력, 학력, 성별, 취미나 기호, 위치 등과 같은 인명 정보, 인구학적 정보 및 다른 타입의 설명적 정보를 포함한다. 또한, 사용자 프로필 스토어(205) 내 사용자 프로필은 행위 로그(210)에 저장된 행위에 대한 레퍼런스를 관리할 수 있다.Each user of the online system 120 is associated with a user profile that is stored in a user profile store 205 . The user profile includes declarative information about the user that has been explicitly shared by the user, and may also include profile information inferred by the online system 140 . In one embodiment, a user profile includes a plurality of data fields each describing one or more attributes of a corresponding online system user. Examples of information stored in a user profile include, for example, biographical information such as career, education, gender, hobbies or preferences, location, etc., demographic information, and other types of descriptive information. In addition, the user profile in the user profile store 205 may manage a reference to the action stored in the action log 210 .

다양한 실시예에서, 사용자와 관련된 다수의 물리적 위치는 사용자의 사용자 프로필에 포함된다. 위치 타입은 각각의 물리적 위치에 관련되며 물리적 위치의 하나 이상의 특성을 설명한다. 예를 들면, 위치 타입은 물리적 위치가 결정되었던 소스를 특정한다. 일실시예에서, 물리적 위치와 관련된 위치 타입은 위치 타입들의 세트로부터 선택된다. 예를 들면, 위치 타입은 사용자에 의해 특정되거나 사용자와 관련된 정보로부터 추론되는 고정의 물리적 위치(예컨대, 연고지, 거주지)를 식별하고, 또 다른 위치 타입은 사용자에 의해 온라인 시스템(140)으로 제공되는 컨텐츠에서 식별된 물리적 위치(예컨대, 사용자에 의한 온라인 시스템(140)으로의 게시물로 식별된 위치, 클라이언트 장치(110)를 통해 사용자가 체크인한 위치)를 식별하며, 추가의 위치 타입은 사용자와 관련된 클라이언트 장치(110)에 의해 온라인 시스템(140)으로 전달되는 정보에 의해 식별된 물리적 위치(예컨대, 온라인 시스템(140)과 관련된 애플리케이션을 실행하는 클라이언트 장치(110)에 의해 온라인 시스템(140)으로 전달되는 GPS(Global Positioning System) 좌표)를 식별한다. 그러나, 다른 실시예에서, 물리적 위치와 관련된 위치 타입은 물리적 위치의 특성들의 조합 중 임의의 적절한 특성을 식별할 수 있다. 또한, 일부 실시예에서, 위치 타입은 사용자의 현재의 물리적 위치를 식별한다. 예를 들어, 온라인 시스템(140)은 (예컨대, 상술한 바와 같이 사용자와 관련된 클라이언트 장치(110)에 의해 온라인 시스템(140)으로 전달되는 정보 및/또는 사용자에 의해 온라인 시스템(140)으로 제공되는 컨텐츠를 통해) 클라이언트 장치(110)로부터 수신된 정보와 관련된 타임스탬프를 현재시간과 비교함으로써 사용자와 관련된 물리적 위치가 사용자의 현재의 물리적 위치인지를 여부를 결정한다. 비교되는 시간들의 차이가 임계값 미만이라면, 온라인 시스템(140)은 사용자와 관련된 물리적 위치가 사용자의 현재 위치라고 식별한다.In various embodiments, multiple physical locations associated with the user are included in the user's user profile. A location type is associated with each physical location and describes one or more characteristics of the physical location. For example, the location type specifies the source from which the physical location was determined. In one embodiment, the location type associated with the physical location is selected from a set of location types. For example, a location type identifies a fixed physical location (eg, hometown, residence) that is specified by the user or inferred from information related to the user, and another location type is provided by the user to the online system 140 Identifies a physical location identified in the content (eg, a location identified as a post by the user to the online system 140 , a location the user checked in via the client device 110 ), wherein the additional location type is associated with the user The physical location identified by the information passed by the client device 110 to the online system 140 (eg, delivered to the online system 140 by the client device 110 running an application associated with the online system 140 ) GPS (Global Positioning System) coordinates) are identified. However, in other embodiments, the location type associated with the physical location may identify any suitable combination of properties of the physical location. Also, in some embodiments, the location type identifies the user's current physical location. For example, the online system 140 may include information communicated to the online system 140 by a client device 110 associated with the user and/or information provided to the online system 140 by the user (eg, as described above). It is determined whether the physical location associated with the user is the current physical location of the user by comparing the timestamp associated with the information received from the client device 110 to the current time (via content). If the difference between the times compared is less than the threshold, the online system 140 identifies the physical location associated with the user as the user's current location.

서로 다른 위치 타입을 서로 다른 물리적 위치와 연관시킴으로써, 사용자 프로필은 사용자가 현재 서로 다른 물리적 위치들과 연관될 가능성이 얼마나 되는지에 대한 표시를 제공할 수 있다. 예를 들어, 물리적 위치가 클라이언트 장치(110)로부터 온라인 시스템(140)에 의해 수신된 정보로 식별되었음을 나타내는 위치 타입과 관련된 물리적 위치는 물리적 위치가 사용자-특정의 고정된 물리적 위치임을 나타내는 위치 타입과 관련된 물리적 위치보다 현재시간에 사용자와 관련될 가능성이 상대적으로 더 높다. 온라인 시스템(140)은 물리적 위치와 함께 수신된 추가 정보에 기반하여 물리적 위치와 관련된 위치 타입을 결정할 수 있다. 일부 실시예에서, 위치 타입을 특정하는 메타 데이터는 물리적 위치와 함께 온라인 시스템(140)에 의해 수신된다.By associating different location types with different physical locations, a user profile can provide an indication of how likely a user is currently associated with different physical locations. For example, a physical location associated with a location type indicating that the physical location has been identified with information received by the online system 140 from the client device 110 may be associated with a location type indicating that the physical location is a user-specific fixed physical location and a location type indicating that the physical location is a user-specific fixed physical location. It is relatively more likely to be associated with the user at the current time than the associated physical location. The online system 140 may determine a location type associated with the physical location based on additional information received with the physical location. In some embodiments, metadata specifying the location type is received by the online system 140 along with the physical location.

행위 로그(210)는 가령 외부 웹사이트와 같은 제3자 시스템(130)에서 행해지고 온라인 시스템(140)으로 전달되는 사용자 행위를 저장할 수 있다. 예컨대, 전자상거래 웹사이트는 전자상거래 웹사이트가 온라인 시스템(140)의 사용자를 식별할 수 있게 하는 소셜 플러그-인을 통해 온라인 시스템(140)의 사용자를 인식할 수 있다. 온라인 시스템(140)의 사용자는 고유하게 식별가능하기 때문에, 상기 예에서와 같이, 전자상거래 웹사이트는 온라인 시스템(140)의 외부의 사용자의 행위에 대한 정보를 사용자와의 연관을 위하여 온라인 시스템(140)과 통신할 수 있다. 따라서, 행위 로그(210)는, 웹페이지 열람 이력, 연계되었던 광고, 행해진 구매, 제3자 서비스의 구독(예컨대, 영화 구독, 음악 구독, 전자책 구독 등) 및 쇼핑과 구입으로부터의 다른 패턴들을 포함하는, 사용자가 제3자 시스템(130)에서 수행한 행위에 대한 정보를 기록할 수 있다.The action log 210 may store user actions that are performed on a third-party system 130 , such as an external website, and communicated to the online system 140 . For example, an e-commerce website may recognize a user of the online system 140 via a social plug-in that enables the e-commerce website to identify a user of the online system 140 . Because users of the online system 140 are uniquely identifiable, as in the example above, the e-commerce website may use the online system ( 140) can be communicated with. Accordingly, the behavior log 210 records webpage browsing history, associated advertisements, purchases made, subscriptions to third-party services (eg, movie subscriptions, music subscriptions, e-book subscriptions, etc.) and other patterns from shopping and purchases. Including, information on actions performed by the user in the third-party system 130 may be recorded.

행위 로그(210)는 온라인 시스템 사용자에 의한 컨텐츠와의 상호작용뿐 아니라 온라인 시스템 사용자와 관련된 전환을 설명하는 정보를 포함한다. 전환은 광고자에 의해 요구되고 사용자가 수행한 행위이며, 모니터링되거나 추적될 광고자에 의해 특정되는 사용자의 하나 이상의 상호 작용에 기인할 수 있다. 일실시예에서, 행위 로그(210)는 상호작용 및 전환과 관련된 정보를 저장하는 다양한 데이터베이스를 포함한다. 예를 들어, 행위 로그(210)는 광고자와 관련된 다수의 상호작용 및 전환과 관련된 정보를 저장하는 쓰기-최적화(write-optimized) 데이터베이스를 포함한다. 추가적인 예로서, 행위 로그(210)는 전환과 관련된 정보를 식별하는 사용자에 부합하는 사용자 식별 정보와 관련된 다수의 상호작용과 관련된 정보를 저장하는 읽기-최적화(read-optimized) 데이터베이스를 포함한다. 대안으로, 행위 로그(210)는 상호작용의 가장 빈번한 타입에 대하여 최적화된 단일의 데이터베이스를 포함한다; 예를 들어, 행위 로그(210)는 데이터베이스에 기록하는 것이 가장 일반적인 행위인 구현에서 쓰기-최적화 데이터베이스를 포함한다. 서로 다른 타입의 데이터베이스를 포함시킴으로써 행위 로그(210)는 임의의 타입의 정보에 대한 검색 시간을 최적화하고 다른 타입의 정보의 저장을 최적화할 수 있다.Behavior log 210 contains information describing interactions with content by online system users as well as conversions related to online system users. A conversion is an action requested by the advertiser and performed by the user, and may result from one or more interactions of the user specified by the advertiser to be monitored or tracked. In one embodiment, the behavior log 210 includes various databases that store information related to interactions and conversions. For example, the behavior log 210 includes a write-optimized database that stores information related to a number of interactions and conversions associated with the advertiser. As a further example, the behavior log 210 includes a read-optimized database that stores information related to a number of interactions related to user identifying information corresponding to a user identifying information related to conversions. Alternatively, the behavior log 210 includes a single database optimized for the most frequent types of interactions; For example, the behavior log 210 includes a write-optimized database in implementations where writing to the database is the most common behavior. By including different types of databases, the behavior log 210 can optimize the search time for any type of information and optimize the storage of other types of information.

행위 로그(210)에 저장된 상호작용 또는 전환과 관련된 정보 타입의 예는: 상호작용의 타입의 설명(예컨대, 광고의 노출, 광고 또는 링크의 액세스, 사용자가 수행한 검색, 사용자와 관련된 이전의 전환) 및 상호작용이나 전환과 관련된 시간(예컨대, 타임스탬프)을 포함한다. 또한, 행위 로그는 사용자 식별 정보를 각각의 상호작용이나 전환과 연관시켜서 상호작용이나 전환을 수행한 사용자를 식별한다. 사용자를 식별하는 다수의 정보 타입은 상호작용 또는 전환과 연관될 수 있다. 사용자를 식별하는 정보의 예시적인 타입은 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자, 애플리케이션 식별자 및 임의의 다른 적절한 정보를 포함한다.Examples of types of information related to interactions or conversions stored in the action log 210 include: a description of the type of interaction (eg, exposure of an advertisement, access to an advertisement or link, searches performed by the user, previous conversions associated with the user) ) and the time (eg, timestamp) associated with the interaction or conversion. In addition, the behavior log identifies the user who performed the interaction or conversion by associating the user identification information with each interaction or conversion. Many types of information identifying a user may be associated with an interaction or conversion. Exemplary types of information identifying a user include an online system user identifier, a client device identifier, an application identifier, and any other suitable information.

필터링 모듈(215)은 광고자에 의해 상호작용 및 전환과 관련된 정보를 데이터베이스로 인덱싱한다. 예를 들어, 필터링 모듈(215)은 행위 로그(210)로부터 다양한 광고자와 관련된 다수의 상호작용 및 전환과 관련된 정보를 검색하고, 검색된 정보를 각각의 광고자와 관련된 데이터베이스로 인덱싱한다. 또한, 필터링 모듈(215)은 전환과 관련된 사용자 식별 정보 및 상호작용과 관련된 사용자 식별 정보에 기반하여 행위 로그(210)로부터 전환과 관련된 상호작용을 필터링한다. 예를 들어, 필터링 모듈(215)은 행위 로그(210)로부터 전환과 관련된 사용자 식별 정보와 매치하는 사용자 식별 정보와 관련된 상호작용에 관한 정보를 검색하고, 추후 검색을 위해 데이터베이스에 검색된 정보를 저장한다.The filtering module 215 indexes information related to interactions and conversions by advertisers into a database. For example, the filtering module 215 retrieves information related to multiple interactions and conversions associated with various advertisers from the behavior log 210 and indexes the retrieved information into a database associated with each advertiser. In addition, the filtering module 215 filters the interaction related to the conversion from the action log 210 based on the user identification information related to the conversion and the user identification information related to the interaction. For example, the filtering module 215 retrieves from the action log 210 information about interactions related to user identification information that matches user identification information related to conversions, and stores the retrieved information in a database for later retrieval. .

행위 로그(210)로부터 전환과 관련된 사용자 식별 정보와 연관되는 상호작용에 관한 정보를 검색할 때, 필터링 모듈(215)은 사용자를 식별하는 다양한 정보 타입과 관련된 정보를 행위 로그(210)로부터 검색할 수 있다. 예를 들어, 온라인 시스템(140)은 사용자와 다양한 사용자 식별 정보 타입(예컨대, 온라인 시스템 사용자 식별자, 장치 식별자, 애플리케이션 식별자)을 연관시킨다. 전환과 관련된 사용자 식별 정보의 타입이 전환과 연관된 사용자 식별 정보와 일치하는 경우, 필터링 모듈(215)은 또한 사용자를 식별하는 정보의 추가 타입을 결정할 수 있다. 사용자 식별 정보의 추가 타입과 관련된 상호 작용은 필터링 모듈(215)에 의해 검색되며, 사용자에 관한 사용자 식별 정보의 다수의 타입과 관련된 상호작용의 검색을 가능하게 한다.When retrieving information about interactions associated with user identification information related to conversion from the behavior log 210 , the filtering module 215 may retrieve information related to various types of information identifying the user from the behavior log 210 . can For example, online system 140 associates users with various types of user identification information (eg, online system user identifiers, device identifiers, application identifiers). If the type of user identification information associated with the conversion matches the user identification information associated with the conversion, the filtering module 215 may also determine an additional type of information identifying the user. Interactions related to additional types of user identification information are retrieved by the filtering module 215 , which enables retrieval of interactions related to multiple types of user identification information about a user.

기여 모듈(220)은 전환에 대한 다른 상호작용들의 공헌을 식별하도록 식별된 전환에 적용되는 하나 이상의 기여 규칙(attribution rules)을 포함한다. 일실시예에서, 필터링 모듈(215)은 전환과 관련된 사용자 식별 정보 및 사용자를 식별하는 적어도 하나의 정보 타입과 관련된 하나 이상의 상호작용 타입과 관련된 상호작용을 기여 모듈(220)로 전달한다. 기여 모듈(220)은 서로 다른 타입의 사용자 식별 정보와 관련된 신뢰도 값을 포함하는데, 이때 한 타입의 사용자 식별 정보와 관련된 신뢰도 값은 온라인 시스템(140)의 특정 사용자를 식별하는 한 타입의 사용자 식별 정보의 가능성의 척도를 제공한다. 예를 들어, 온라인 시스템 사용자 식별자는 온라인 시스템 사용자 식별자가 온라인 시스템(140)의 특정 사용자를 식별할 가능성이 더 크기 때문에 클라이언트 장치 식별자보다 더 큰 신뢰도 값과 연관된다. 신뢰도 값을 사용자 상호작용의 타입과 연관시키는 것이 도 3과 함께 더 후술된다.The attribution module 220 includes one or more attribution rules applied to the identified conversion to identify the contribution of other interactions to the conversion. In one embodiment, the filtering module 215 passes the user identification information associated with the conversion and the interaction associated with one or more interaction types associated with at least one type of information identifying the user to the attribution module 220 . The attribution module 220 includes confidence values associated with different types of user identification information, wherein the confidence values associated with one type of user identification information are one type of user identification information that identifies a particular user of the online system 140 . provides a measure of the likelihood of For example, an online system user identifier is associated with a greater confidence value than a client device identifier because the online system user identifier is more likely to identify a particular user of the online system 140 . Associating a confidence value with a type of user interaction is further described below in conjunction with FIG. 3 .

일부 실시예에서, 기여 모듈(220)은 서로 다른 상호작용들과 관련된 사용자 식별 정보의 타입들에 기반하여 필터링 모듈(215)로부터 수신된 다양한 상호작용과 가중치를 연관시킨다. 예를 들어, 상호작용과 관련된 가중치는 상호작용과 관련된 사용자를 식별하는 정보의 타입과 관련된 신뢰도 값에 비례하며, 따라서 더 높은 신뢰도 값을 갖는 사용자 식별 정보의 타입과 관련된 상호 작용이 더 높은 가중치와 연관된다. 기여 모듈(220)은 전환에 대한 다양한 상호작용의 공헌을 결정할 때 다양한 상호작용과 관련된 가중치를 참작한다. 일부 실시예에서, 기여 모델(220)은 사용자 및/또는 상호작용과 관련된 다른 정보에 기반하여 필터링 모듈(215)로부터 수신된 다양한 상호작용과 가중치를 연관시킨다. 예를 들어, 기여 모듈(220)은 대화가 발생했을 때의 시간에 대해 경과된 시간량에 기반하여 광고 노출, 클릭, 또는 다른 상호작용의 중요성을 감소시키는 "시간 감쇠(time decay)"모델을 포함한다.In some embodiments, the attribution module 220 associates a weight with the various interactions received from the filtering module 215 based on types of user identification information associated with the different interactions. For example, a weight associated with an interaction is proportional to a confidence value associated with the type of information identifying the user associated with the interaction, so that an interaction associated with a type of user identification information with a higher confidence value is associated with a higher weight. related The attribution module 220 takes into account the weights associated with the various interactions when determining the contribution of the various interactions to a conversion. In some embodiments, the attribution model 220 associates weights with various interactions received from the filtering module 215 based on users and/or other information related to the interactions. For example, the attribution module 220 may employ a “time decay” model that reduces the importance of ad impressions, clicks, or other interactions based on the amount of time that has elapsed relative to the time when the conversation occurred. include

웹 서버(225)는 네트워크(120)를 통해 온라인 시스템(140)을 하나 이상의 클라이언트 장치(110)뿐 아니라 하나 이상의 제3자 시스템(130)으로 링크한다. 웹 서버(225)는 웹 페이지뿐만 아니라 가령 JAVA®, FLASH®, XML 등과 같은 다른 컨텐츠를 제공한다. 웹 서버(225)는, 예컨대 인스턴트 메시지, 큐잉된 메시지(예컨대, 이메일), 텍스트 메시지, SMS(단문 메시지 서비스) 메시지 또는 임의의 다른 적절한 메시징 기술을 사용하여 송신되는 메시지와 같은, 온라인 시스템(140)과 클라이언트 장치(110) 사이의 메시지를 수신하고 라우팅할 수 있다. 사용자는 웹 서버(225)로 요청을 송신하여 컨텐츠 스토어(210)에 저장된 정보(예컨대, 이미지 또는 비디오)를 업로드할 수 있다. 추가로, 웹 서버(225)는 가령 IOS®, ANDROIDTM, WEBOS® 또는 Blackberry OS와 같은 네이티브 클라이언트 장치 운영 시스템으로 직접 데이터를 송신하는 응용 프로그래밍 인터페이스(API) 기능을 제공할 수 있다.Web server 225 links online system 140 via network 120 to one or more client devices 110 as well as one or more third-party systems 130 . The web server 225 serves web pages as well as other content such as JAVA®, FLASH®, XML, and the like. The web server 225 may provide an online system 140 , such as an instant message, a queued message (eg, e-mail), a text message, an SMS (Short Message Service) message, or a message sent using any other suitable messaging technology. ) and the client device 110 may receive and route messages. A user may upload information (eg, an image or video) stored in the content store 210 by sending a request to the web server 225 . Additionally, web server 225 may provide application programming interface (API) functionality to send data directly to a native client device operating system, such as, for example, IOS®, ANDROID™, WEBOS® or Blackberry OS.

전환에 대한 상호작용의 공헌의Contribution of interaction to conversion 결정 decision

도 3은 광고와 관련된 전환에 대한 다양한 상호작용의 공헌을 결정하기 위한 방법의 일실시예의 흐름도이다. 다른 실시예에서, 본 방법은 도 3에 도시된 것보다 상이하거나, 더 많거나, 더 적은 단계를 포함한다. 추가로, 일부 실시예에서, 도 3과 관련하여 서술된 단계는 상이한 순서로 수행될 수 있다. 3 is a flow diagram of one embodiment of a method for determining the contribution of various interactions to a conversion associated with an advertisement. In other embodiments, the method includes different, more, or fewer steps than shown in FIG. 3 . Additionally, in some embodiments, the steps described with respect to FIG. 3 may be performed in a different order.

온라인 시스템(140)은 온라인 시스템 사용자를 식별하는 다양한 정보 타입과 관련된 신뢰도 값을 저장(305)한다. 사용자를 식별하는 정보 타입과 관련된 신뢰도 값은 그 정보 타입이 정확하게 사용자를 식별할 가능성의 척도를 제공한다. 사용자를 식별하는 정보 타입의 예는: 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자 및 애플리케이션 식별자를 포함한다. 일실시예에서, 온라인 시스템(140)은 그와 관련된 신뢰도 값에 기반하여 사용자를 식별하는 정보 타입을 순위화한다. 예를 들어, 사용자 식별 정보의 타입의 순위는 순위의 더 높은 위치에 사용자를 정확히 식별할 가능성이 더 많은 사용자 식별 정보 타입(즉, 더 높은 신뢰도 값과 관련된 사용자 식별 정보 타입)을 가진다.The online system 140 stores 305 confidence values associated with various types of information that identify users of the online system. A confidence value associated with a type of information that identifies a user provides a measure of the likelihood that that information type will correctly identify the user. Examples of types of information identifying a user include: an online system user identifier, a client device identifier, and an application identifier. In one embodiment, the online system 140 ranks the types of information identifying users based on their associated confidence values. For example, a ranking of a type of user identification information has a user identification information type that is more likely to correctly identify a user at a higher position in the ranking (ie, a user identification information type associated with a higher confidence value).

또한, 온라인 시스템(140)은 온라인 시스템(140)의 사용자와 관련된 하나 이상의 상호작용을 설명하는 정보를 수신(310)하고, 하나 이상의 상호작용을 설명하는 정보를 저장(315)한다. 예를 들어, 온라인 시스템(140)은 온라인 시스템(140)의 사용자가 광고를 제시받았음을 나타내는 정보를 광고 내 매립된 추적 픽셀(310)을 통해 수신(310)하고, 온라인 시스템 사용자 식별자, 브라우저 식별자 및 클라이언트 장치 식별자를 가진 사용자를 식별하며, 사용자가 광고를 제시받았던 시간을 나타낸다. 사용자 상호작용을 설명하는 정보는 실시간으로 또는 거의 실시간으로 수신 될 수 있다. 일부 실시예에서, 온라인 시스템(140)은 온라인 시스템(140)의 사용자가 아닌 엔티티와 관련된 상호작용을 설명하는 정보를 수신(310) 및 저장(315)한다. 예를 들어, 온라인 시스템(140)은 광고와의 상호작용을 식별하는 정보, 상호작용과 관련된 타임스탬프 및 상호작용을 수행하는데 사용되는 클라이언트 장치(110)와 관련된 클라이언트 장치 식별자를 수신(310)한다. 일부 실시예에서, 온라인 시스템(140)은 상호작용을 설명하는 정보를 더 효율적으로 저장하도록 광고와의 하나 이상의 상호작용을 설명하는 정보를 쓰기-최적화된 데이터베이스에 저장한다.The online system 140 also receives 310 information describing one or more interactions associated with a user of the online system 140 and stores 315 information describing the one or more interactions. For example, the online system 140 receives 310 information indicating that a user of the online system 140 has been presented with an advertisement, via a tracking pixel 310 embedded in the advertisement, 310 , an online system user identifier, a browser identifier. and a user having a client device identifier and indicating a time at which the user was presented with an advertisement. Information describing user interactions may be received in real-time or near real-time. In some embodiments, the online system 140 receives 310 and stores 315 information describing interactions with entities other than users of the online system 140 . For example, the online system 140 receives 310 information identifying an interaction with an advertisement, a timestamp associated with the interaction, and a client device identifier associated with the client device 110 used to perform the interaction. . In some embodiments, the online system 140 stores information describing one or more interactions with advertisements in a write-optimized database to more efficiently store information describing the interactions.

온라인 시스템(140)은 광고와 관련되고 행위중인 사용자와 관련된 전환을 설명하는 정보를 수신한다(320). 상술한 바와 같이, 전환은 광고의 제시에 응답하여 원하는 상호작용의 타입으로서 광고자에 의한 광고와 관련된 행위 타입이다. 전환의 예는 구매, 광고와의 상호작용 또는 온라인 시스템(140)의 행위중인 사용자 및 광고와 관련된 다른 적절한 상호작용을 포함한다. 전환을 설명하는 정보는 제3자 시스템(130)의 추적 픽셀 또는 다른 추적 메커니즘으로부터 또는 임의의 적절한 소스로부터 수신(320)될 수 있다. 또한, 전환을 설명하는 정보는 실시간으로 또는 거의 실시간으로 수신될 수 있다. 전환을 설명하는 정보는 행위중인 사용자를 식별하는 정보(예컨대, 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자, 애플리케이션 식별자), 전환에 대한 설명 및 전환과 관련된 시간을 포함한다. 온라인 시스템(140)은 전환을 설명하는 정보를 저장(325)한다. 예를 들어, 온라인 시스템(140)은 전환 및 전환과 관련된 광고자에 관한 다른 상호작용들을 설명하는 정보를 행위 로그(210)의 쓰기-최적화 데이터베이스에 저장한다.The online system 140 receives ( 320 ) information related to an advertisement and describing a conversion related to the user in action. As noted above, a conversion is a type of action associated with an advertisement by an advertiser as the type of interaction desired in response to presentation of the advertisement. Examples of conversions include purchases, interactions with advertisements, or other suitable interactions involving the user and advertisements in action of the online system 140 . Information describing the transition may be received 320 from a tracking pixel or other tracking mechanism of the third party system 130 or from any suitable source. Additionally, information describing the transition may be received in real-time or near real-time. The information describing the transition includes information identifying the acting user (eg, online system user identifier, client device identifier, application identifier), a description of the transition and the time associated with the transition. The online system 140 stores 325 information describing the transition. For example, the online system 140 stores information describing conversions and other interactions with the advertiser related to the conversion in a write-optimized database of the action log 210 .

행위중인 사용자를 식별하는 정보는 전환을 설명하는 정보로부터 식별(330)되고, 행위중인 사용자와 관련된 하나 이상의 추가 상호작용을 설명하는 정보는 행위중인 사용자를 식별하는 정보를 사용하여 검색(335)된다. 또한, 일부 실시예들에서, 행위중인 사용자를 식별하는 정보가 사용자를 식별하는 특정 타입의 정보인 경우, 행위중인 사용자를 식별하는 다른 타입의 정보가 식별되고, 행위중인 사용자를 식별하는 다른 타입의 정보와 관련된 상호 작용이 또한 검색(335)된다. 예를 들면, 행위중인 사용자를 식별하는 정보가 장치 식별자라면, 온라인 시스템(140)은 행위중인 사용자를 식별하는 다른 정보 타입(예컨대, 온라인 시스템 사용자 식별자, 애플리케이션 식별자)를 식별하며 장치 식별자와 관련된 상호작용과 함께 행위중인 사용자를 식별하는 다른 정보 타입과 관련된 상호작용을 검색(335)한다.Information identifying the acting user is identified 330 from the information describing the conversion, and information describing one or more additional interactions associated with the acting user is retrieved 335 using the information identifying the acting user. . Also, in some embodiments, if the information identifying the acting user is a specific type of information identifying the user, another type of information identifying the acting user is identified, and another type of information identifying the acting user is Interactions related to the information are also retrieved 335 . For example, if the information identifying the acting user is a device identifier, then the online system 140 identifies another type of information identifying the acting user (eg, online system user identifier, application identifier) and a trade name associated with the device identifier. Retrieve 335 interactions associated with other types of information that identify the user acting with the action.

일실시예에서, 온라인 시스템(140)에 의해 수신되고 전환 및 하나 이상의 상호작용을 설명하는 정보는 수행된 상호작용의 타입, 상호작용이나 전환을 수행하는 사용자를 식별하는 하나 이상의 정보 타입 및 각각의 상호작용이나 전환과 관련된 시간에 대한 정보를 포함하는 쓰기-최적화된 데이터베이스에 저장된다. 온라인 시스템(140)이 전환을 설명하는 정보를 수신(320)할 때, 행위중인 사용자와 관련된 사용자 식별 정보의 하나 이상의 타입이 수신된 정보로부터 식별(330)되고, 전환을 설명하는 정보에 포함된 사용자를 식별하는 정보 타입과 일치하는 행위중인 사용자를 식별하는 적어도 하나의 정보 타입을 가지는 행위중인 사용자와 관련된 하나 이상의 추가 상호작용을 검색(335)하는데 사용된다. 일부 실시예에서, 검색된 하나 이상의 추가 상호작용을 설명하는 정보는 온라인 시스템(140)에 의한 추후 정보 검색을 신속히 처리하는 읽기-최적화된 데이터베이스에 저장된다.In one embodiment, the information received by the online system 140 and describing the conversion and one or more interactions includes the type of interaction performed, one or more types of information identifying the user performing the interaction or conversion, and each It is stored in a write-optimized database that contains information about the times associated with interactions or transitions. When the online system 140 receives 320 information describing the conversion, one or more types of user identification information associated with the user acting are identified 330 from the received information and included in the information describing the conversion. is used to retrieve 335 one or more additional interactions related to the acting user having at least one information type identifying the acting user that matches the type of information identifying the user. In some embodiments, information describing one or more additional interactions retrieved is stored in a read-optimized database that expedites subsequent retrieval of information by the online system 140 .

일부 실시예에서, 상호작용 및/또는 전환과 관련된 사용자를 식별하는 정보는 추론될 수 있다. 사용자를 식별하는 정보 타입과 관련된 적어도 임계 수 또는 비율의 상호작용이 사용자를 식별하는 추가 정보 타입과도 또한 관련된다면, 사용자를 식별하는 정보 타입과 관련된 상호작용은 사용자를 식별하는 추가 정보 타입과도 또한 관련되는 것으로 추론된다. 예를 들어, 장치 식별자와 관련된 적어도 임계 비율의 상호작용이 온라인 시스템 사용자 식별자와도 또한 관련된다면, 오직 장치 식별자에만 관련된 상호작용은 온라인 시스템 사용자 식별자와도 또한 관련된 것으로 추론된다. 사용자 식별 정보의 타입과의 추론된 관련성을 가지는 상호작용의 전환에 대한 공헌은 디스카운트(discounted)될 수 있다.In some embodiments, information identifying the user associated with the interaction and/or conversion may be inferred. If at least a threshold number or percentage of interactions associated with the type of information identifying the user also relate to the type of additional information that identifies the user, then the interaction with the type of information that identifies the user is also associated with the type of additional information that identifies the user. It is also inferred to be related. For example, if at least a threshold percentage of interactions related to a device identifier are also related to an online system user identifier, then it is inferred that interactions related only to the device identifier are also related to the online system user identifier. Contributions to conversion of an interaction having an inferred relevance to a type of user identification information may be discounted.

일부 실시예에서, 온라인 시스템(140)은 정보의 추후 검색을 최적화할 수 있는 위치에 상호작용을 설명하는 검색된 정보를 저장(340)한다. 예를 들어, 검색된 정보는 검색된 정보로의 후속 액세스를 신속하게 처리하도록 행위 로그(210)보다 별도의 데이터베이스에 저장(340)된다. 일부 실시예에서, 검색된 정보는 온라인 시스템(140)이 검색된 정보에 더 신속히 액세스하도록 해주는 읽기-최적화된 데이터베이스에 저장(340)된다.In some embodiments, the online system 140 stores 340 the retrieved information describing the interaction in a location that may optimize further retrieval of the information. For example, the retrieved information is stored 340 in a separate database than the action log 210 to expedite subsequent access to the retrieved information. In some embodiments, the retrieved information is stored 340 in a read-optimized database that allows the online system 140 to more quickly access the retrieved information.

상호작용을 설명하는 검색된 정보에 기반하여, 온라인 시스템(140)은 전환에 대한 다양한 상호작용의 공헌도 값(contribution value)을 결정하는 기여 모델에 상호작용을 전달한다. 일실시예에서, 온라인 시스템(140)은 전환에 대한 다양한 상호작용의 공헌을 결정(345)한다. 가중치는 검색된 정보로부터의 다양한 상호작용과 관련된다. 일실시예에서, 가중치는 검색된 정보에 의해 설명되는 각각의 상호작용과 관련된다. 상호작용과 관련된 가중치는 전환에 대한 상호작용의 공헌량(amount of contribution)의 측정을 제공한다. 다양한 실시예에서, 상호작용과 관련된 가중치는 상호작용과 관련된 사용자를 식별하는 정보의 타입에 적어도 부분적으로 기반한다.상호작용과 관련된 가중치는 상호작용과 관련된 행위중인 사용자를 식별하는 정보의 타입과 관련된 신뢰도 값에 비례할 수 있다. 예를 들어, 더 높은 신뢰도 값을 갖는 사용자 식별 정보의 타입과 관련된 상호작용은 더 높은 가중치와 관련된다. 일부 실시예들에서, 온라인 시스템(140)은 다양한 상호작용과 관련된 가중치를 결정하고, 가중치에 적어도 부분적으로 기반하여 전환에 대한 다양한 상호작용의 공헌도 값을 결정(345)하는 기여 모델에 가중치 및 상호작용을 설명하는 정보를 전달한다. 일부 실시예들에서, 온라인 시스템은 사용자 및/또는 상호작용과 관련된 다른 정보(예컨대, 상호작용 이후의 경과 시간의 길이 및 전환이 발생한 시간)에 기반하여 다양한 상호작용에 가중치를 부여한다.Based on the retrieved information describing the interactions, the online system 140 passes the interactions to an attribution model that determines the contribution values of the various interactions to conversions. In one embodiment, the online system 140 determines 345 the contribution of various interactions to the conversion. The weights relate to various interactions from the retrieved information. In one embodiment, a weight is associated with each interaction described by the retrieved information. Interaction-related weights provide a measure of the interaction's amount of contribution to conversion. In various embodiments, the weight associated with the interaction is based, at least in part, on the type of information identifying the user associated with the interaction. The weight associated with the interaction is related to the type of information identifying the user taking action associated with the interaction. It can be proportional to the reliability value. For example, an interaction associated with a type of user identification information having a higher confidence value is associated with a higher weight. In some embodiments, the online system 140 determines weights associated with the various interactions and adds the weights and interactions to an attribution model that determines 345 a contribution value of the various interactions to a conversion based at least in part on the weights. It conveys information that describes the action. In some embodiments, the online system weights the various interactions based on the user and/or other information related to the interaction (eg, the length of time elapsed since the interaction and the time at which the conversion occurred).

기여 모델 또는 하나 이상의 기여 규칙은 전환에 대한 다양한 상호작용의 공헌을 결정(345)하도록 검색된 정보에 대응하는 상호작용에 적용된다. 기여 규칙 또는 기여 모델은 전환에 대한 다양한 상호작용의 공헌을 결정(345)할 때 다양한 상호작용과 관련된 가중치에 적용될 수 있다. 예를 들어, 상호작용은 다양한 상호작용과 관련되는 행위중인 사용자의 식별 정보 타입에 관한 신뢰도 값에 기반하여 순위화되며, 순위에서 적어도 한 임계 위치를 가지는 상호작용은 전환에 대한 상호작용의 공헌을 결정하는 기여 모델로 전달된다. 다른 예로서, 적어도 한 임계 신뢰도 값을 갖는 행위중인 사용자를 식별하는 정보의 타입과 관련된 상호작용은 기여 모델로 전달된다. 다양한 실시예에서, 전환에 대한 상호작용의 공헌은 상호작용과 관련된 가중치에 적어도 부분적으로 기반한다. 온라인 시스템(140)은 전환에 대한 다양한 상호작용의 공헌을 식별하는 기여 모델 또는 기여 규칙의 적용에 기반하여 광고자에 대한 기여 보고서(attribution report)를 생성할 수 있다.An attribution model, or one or more attribution rules, is applied to interactions corresponding to the retrieved information to determine 345 the contribution of various interactions to conversions. Attribution rules or attribution models may be applied to weights associated with the various interactions in determining 345 the contribution of the various interactions to a conversion. For example, interactions are ranked based on a confidence value regarding the type of identifying information of the user in action associated with the various interactions, and interactions having at least one critical position in the ranking can be attributed to the interaction's contribution to conversion. It is passed on to the attribution model that determines As another example, an interaction related to a type of information identifying an acting user having at least one threshold confidence value is passed to the attribution model. In various embodiments, an interaction's contribution to a conversion is based, at least in part, on a weight associated with the interaction. The online system 140 may generate an attribution report for an advertiser based on application of an attribution model or attribution rule that identifies the contribution of various interactions to a conversion.

상호작용의 식별의 예Examples of Identification of Interactions

도 4는 행위중인 사용자를 식별하는 정보의 타입(405)과 상호작용을 연관시키는 정보의 예를 도시한다. 도 4의 예에서, 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자 및 애플리케이션 식별자는 행위중인 사용자를 식별하는 정보의 타입(405)이다. 도시의 목적상, 도 4는 온라인 시스템(140)이 행위중인 사용자와 관련된 온라인 시스템 사용자 식별자 및 애플리케이션 식별자를 포함하는 행위중인 사용자와 관련된 전환(410)을 설명하는 정보를 수신하는 예를 나타낸다.4 shows an example of information that associates an interaction with a type 405 of information identifying an acting user. In the example of FIG. 4 , the online system user identifier, client device identifier, and application identifier are types 405 of information identifying the acting user. For illustrative purposes, FIG. 4 illustrates an example in which online system 140 receives information describing a conversion 410 associated with an acting user including an online system user identifier and an application identifier associated with the acting user.

전환(410)을 설명하는 정보에 포함된 온라인 시스템 사용자 식별자 및 애플리케이션 식별자에 기반하여, 온라인 시스템(140)은 행위중인 사용자를 식별하는 정보의 다양한 타입과 관련된 상호작용들을 검색한다. 도 4의 예에서, 온라인 시스템(140)는 행위중인 사용자와 각각 관련되지만 행위중인 사용자를 식별하는 서로 다른 타입(405)의 정보와 관련되는 상호작용들((415), (420), (425))을 검색한다. 상호작용(415)은 행위중인 사용자와 관련된 클라이언트 장치 식별자와 관련된다. 상호작용(420)은 행위중인 사용자와 각각 관련되는 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자 및 애플리케이션 식별자와 관련된다. 또한, 상호작용(425)은 행위중인 사용자와 관련된 클라이언트 장치 식별자 및 애플리케이션 식별자와 관련된다.Based on the online system user identifier and application identifier included in the information describing the conversion 410 , the online system 140 retrieves interactions related to various types of information identifying the acting user. In the example of FIG. 4 , the online system 140 interacts with interactions 415 , 420 , 425 that are respectively associated with the acting user but are associated with a different type of information 405 identifying the acting user. ))). Interaction 415 relates to a client device identifier associated with the acting user. Interaction 420 relates to an online system user identifier, a client device identifier, and an application identifier, respectively, associated with the acting user. Interaction 425 also relates to an application identifier and a client device identifier associated with the acting user.

행위중인 사용자와 관련된 정보의 타입(405)과 관련된 상호작용으로부터, 온라인 시스템(140)은 전환(410)과도 또한 관련되는 사용자를 식별하는 정보와 관련된 하나 이상의 상호작용을 식별한다. 도 4의 예에서, 상호작용(420)은 전환과 관련된 온라인 시스템 사용자 식별자와 관련되고, 상호작용(425)은 전환(410)과 관련된 애플리케이션 식별자와 관련된다. 따라서, 온라인 시스템(140)은 전환(410)에 대한 상호작용(420) 및 상호작용(425) 모두의 공헌을 결정하도록 기여 모델 또는 하나 이상의 기여 규칙을 상호작용(420) 및 상호작용(425) 모두에 적용한다. 도 3과 함께 상술한 바와 같이, 가중치는 각각의 상호작용과 관련된 행위중인 사용자를 식별하는 정보의 타입과 관련된 신뢰도 값에 기반하여 상호작용(420) 및 상호작용(425)과 관련될 수 있다. 예를 들어, 온라인 시스템 사용자 식별자가 애플리케이션 식별자보다 더 높은 신뢰도 값을 갖는다면, 더 큰 가중치는 상호작용(425)보다 상호작용(420)과 관련된다. 다양한 실시예에서, 상호작용과 관련된 가중치는 기여 모델 또는 기여 규칙에 의해 전환(410)에 대한 각각의 상호작용의 공헌을 결정하는데 사용된다.From the interactions related to the type 405 of information related to the user acting, the online system 140 identifies one or more interactions related to information identifying the user also related to the conversion 410 . In the example of FIG. 4 , interaction 420 is associated with an online system user identifier associated with a conversion, and interaction 425 is associated with an application identifier associated with conversion 410 . Accordingly, the online system 140 applies an attribution model or one or more attribution rules to the interaction 420 and interaction 425 to determine the contribution of both the interaction 420 and the interaction 425 to the conversion 410 . apply to all As discussed above in conjunction with FIG. 3 , weights may be associated with interactions 420 and 425 based on a confidence value associated with a type of information identifying the acting user associated with each interaction. For example, if the online system user identifier has a higher trust value than the application identifier, a greater weight is associated with interaction 420 rather than interaction 425 . In various embodiments, weights associated with interactions are used to determine the contribution of each interaction to conversion 410 by an attribution model or attribution rule.

요약summary

본 발명의 실시예들에 대한 상기 설명은 설명의 목적으로 제공되고, 배타적이거나 개시된 정확한 형태들로 특허권을 제한하고자 하는 것이 아니다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자라면 상기 개시로부터 다양한 변형 및 변경이 가능함을 인식할 수 있을 것이다.The foregoing description of embodiments of the present invention is provided for purposes of explanation, and is not intended to be exhaustive or to limit the patent rights to the precise forms disclosed. Those of ordinary skill in the art to which the present invention pertains will recognize that various modifications and variations are possible from the above disclosure.

본 명세서의 일부는 실시예들을 정보에 대한 동작의 알고리즘 및 기호적 표현으로 설명한다. 이러한 알고리즘적 설명 및 표현은 본 기술분야에서 통상의 지식을 가진 자들에게 효과적으로 그들의 작업의 실체를 다른 통상의 지식을 가진 자에게 전달하기 위하여 데이터 프로세싱 분야에서 통상의 지식을 가진 자에 의하여 공통적으로 사용되는 것이다. 기능적으로, 계산적으로 또는 논리적으로 설명되고 있는 이들 동작은 컴퓨터 프로그램 또는 등가의 전기 회로, 마이크로 코드 등에 의해 구현되는 것으로 이해된다. 또한, 종종 이러한 동작의 배열은 일반성의 손실 없이 모듈로 언급될 수 있는 것으로 확인된다. 기술된 동작 및 그와 관련된 모듈들은 소프트웨어, 펌웨어, 하드웨어 또는 이들의 임의의 결합으로 구현될 수 있을 것이다.Portions of this specification describe embodiments as algorithms and symbolic representations of operations on information. These algorithmic descriptions and expressions are commonly used by those of ordinary skill in the data processing field to effectively convey the substance of their work to others skilled in the art. will become These operations, which are described functionally, computationally or logically, are understood to be implemented by a computer program or equivalent electrical circuit, microcode, or the like. Also, it is often found that such arrangements of operations can be referred to as modules without loss of generality. The described operations and related modules may be implemented in software, firmware, hardware, or any combination thereof.

본 명세서에 기술된 임의의 단계들, 동작들 또는 프로세스들은 하나 이상의 하드웨어 또는 소프트웨어 모듈들에 의해 또는 이들과 다른 장치들의 결합에 의해 수행되거나 구현될 수 있다. 일실시예에서, 소프트웨어 모듈은 설명된 단계들, 동작들 또는 프로세스들 일부 또는 전부를 수행하기 위하여 컴퓨터 프로세서에 의해 실행될 수 있는 컴퓨터 프로그램 코드를 포함하는 컴퓨터 판독가능한 매체를 포함하는 컴퓨터 프로그램 제품으로 구현된다.Any steps, operations, or processes described herein may be performed or implemented by one or more hardware or software modules or in combination with other devices. In one embodiment, a software module is implemented as a computer program product comprising a computer readable medium comprising computer program code executable by a computer processor to perform some or all of the steps, operations or processes described. do.

또한, 본 발명의 실시예들은 본 명세서의 동작들을 수행하기 위한 장치와 관련될 수 있다. 이 장치는 요청된 목적을 위하여 구체적으로 구성될 수 있고/있거나 컴퓨터에 저장된 컴퓨터 프로그램에 의해 선택적으로 활성화되거나 재구성되는 범용 컴퓨팅 장치를 포함할 수 있다. 이런 컴퓨터 프로그램은 비-일시적 유형의 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 시스템 버스에 결합될 수 있는 전자 명령어를 저장하기에 적절한 임의의 타입의 매체에 저장될 수 있다. 게다가, 본 명세서에서 언급된 임의의 컴퓨팅 시스템들은 단일 프로세서를 포함할 수 있거나, 증가한 컴퓨팅 능력을 위해 다중 프로세서 설계를 채용한 구조일 수 있다.Further, embodiments of the present invention may relate to an apparatus for performing the operations herein. The apparatus may include a general purpose computing apparatus that may be specifically constructed for the requested purpose and/or selectively activated or reconfigured by a computer program stored on a computer. Such a computer program may be stored in a non-transitory tangible computer readable storage medium or any type of medium suitable for storing electronic instructions capable of being coupled to a computer system bus. Moreover, any computing systems referred to herein may include a single processor, or may be an architecture employing a multi-processor design for increased computing power.

또한, 본 발명의 실시예들은 본 명세서에 기술된 컴퓨팅 프로세스로 제조된 제품에 관한 것일 수 있다. 이런 제품은 컴퓨팅 프로세스의 결과로 생성된 정보를 포함할 수 있는데, 여기서 정보는 비-일시적인 유형의 컴퓨터 판독가능한 저장 매체에 저장되며, 본 명세서에 기술된 컴퓨터 프로그램 제품 또는 다른 데이터 조합의 임의의 실시예를 포함할 수 있다.Further, embodiments of the present invention may relate to products manufactured with the computing processes described herein. Such products may include information generated as a result of a computing process, wherein the information is stored in a non-transitory tangible computer-readable storage medium, any implementation of a computer program product or other data combination described herein. Examples may be included.

마지막으로, 본 명세서에서 사용되는 언어는 원칙적으로 가독성 및 훈시적 목적으로 선택되었으며, 특허권을 상세히 설명하거나 제한하려고 선택된 것은 아닐 수 있다. 따라서, 특허권의 범위는 본 상세한 설명에 의해서가 아니라, 이에 근거하여 본 출원이 제출하는 임의의 청구범위에 의해 한정되는 것으로 의도된다. 따라서, 실시예들에 관한 개시는 하기의 청구범위에서 제시되는 특허권의 범위의 예시가 되지만 이에 국한되지 않는 것으로 의도된다.Finally, the language used herein has been principally chosen for readability and elucidation purposes, and may not be chosen to detail or limit patent rights. Accordingly, it is intended that the scope of the patents be limited not by this detailed description, but by any claims that this application files based thereon. Accordingly, the disclosure of the embodiments is intended to be illustrative, but not limiting, of the scope of the patents set forth in the following claims.

Claims (20)

온라인 시스템에서, 온라인 시스템의 사용자들을 식별하는 복수의 식별자 타입들과 각각 관련되는 신뢰도 값을 저장하는 단계;
광고와 관련된 전환(conversion)을 설명하고 상기 전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자를 포함하는 정보를 수신하는 단계;
전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자의 각각의 타입과 관련하여 전환에 기여할 수 있는 하나 이상의 상호작용을 검색하는 단계;
검색된 하나 이상의 상호작용과 가중치를 각각 연관시키는 단계; 및
가중치에 기반하여, 전환에 대해 검색된 하나 이상의 상호작용 중 하나 이상에 공헌량(contribution amount)을 할당하도록 구성된 기여 모델(attribution model)로 가중치 및 검색된 하나 이상의 상호작용을 전달하는 단계를 포함하며,
식별자 타입과 관련된 신뢰도 값은 식별자 타입이 온라인 시스템의 사용자를 식별할 가능성의 척도를 제공하고, 복수의 식별자 타입은 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자, 및 애플리케이션 식별자 중 2개 이상을 포함하고,
검색된 상호작용과 관련된 가중치는 전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자 타입과 관련되는 신뢰도 값에 적어도 부분적으로 기반하는, 컴퓨터로 수행되는 방법.
storing, in the online system, a reliability value each associated with a plurality of identifier types that identify users of the online system;
receiving information that describes a conversion associated with an advertisement and includes an identifier identifying an active user of an online system associated with the conversion;
retrieving one or more interactions that may contribute to the conversion in association with each type of identifier that identifies an acting user of the online system associated with the conversion;
associating each of the retrieved one or more interactions with a weight; and
passing, based on the weight, the weight and the retrieved one or more interactions to an attribution model configured to assign a contribution amount to one or more of the retrieved one or more interactions for the conversion;
the confidence value associated with the identifier type provides a measure of the likelihood that the identifier type identifies a user of the online system, the plurality of identifier types comprising at least two of an online system user identifier, a client device identifier, and an application identifier;
wherein the weight associated with the retrieved interaction is based, at least in part, on a confidence value associated with a type of identifier that identifies an acting user of the online system associated with the conversion.
제 1 항에 있어서,
온라인 시스템에서, 온라인 시스템의 사용자들을 식별하는 복수의 식별자 타입들과 각각 관련되는 신뢰도 값을 저장하는 단계는:
신뢰도 값에 적어도 부분적으로 기반하여 온라인 시스템의 사용자들을 식별하는 복수의 식별자 타입들을 순위화하는 단계를 포함하는, 컴퓨터로 수행되는 방법.
The method of claim 1,
In the online system, storing a trust value each associated with a plurality of identifier types identifying users of the online system includes:
and ranking a plurality of identifier types identifying users of the online system based at least in part on a confidence value.
제 1 항에 있어서,
전환에 기여할 수 있는 하나 이상의 상호작용은 행위중인 사용자와 관련된 하나 이상의 이전의 전환들을 포함하는, 컴퓨터로 수행되는 방법.
The method of claim 1,
wherein the one or more interactions that may contribute to the conversion include one or more prior conversions associated with the user in action.
제 1 항에 있어서,
전환에 기여할 수 있는 하나 이상의 상호작용은: 하나 이상의 광고를 열람하기, 하나 이상의 광고와 상호작용하기, 하나 이상의 광고와 관련된 하나 이상의 객체에 액세스하기, 광고에 대한 광고자와 관련된 하나 이상의 구매를 하기, 광고에 대한 광고자와 관련된 하나 이상의 서비스를 요청하기, 광고에 대한 광고자와 관련된 하나 이상의 이벤트에 참여하기, 하나 이상의 제3자 서비스를 구독하기, 및 이들의 임의의 조합으로 구성된 그룹에서 선택되는, 컴퓨터로 수행되는 방법.
The method of claim 1,
One or more interactions that may contribute to a conversion include: viewing one or more advertisements, interacting with one or more advertisements, accessing one or more objects associated with one or more advertisements, making one or more purchases associated with the advertiser for an advertisement. , requesting one or more services associated with the advertiser for advertising, participating in one or more events associated with the advertiser for advertising, subscribing to one or more third-party services, and any combination thereof. A method performed by a computer.
제 1 항에 있어서,
검색된 하나 이상의 상호작용과 각각 관련된 가중치 및 기여 모델에 적어도 부분적으로 기반하여 전환에 대해 검색된 하나 이상의 행위중인 사용자의 상호작용 중 하나 이상의 공헌량을 결정하는 단계를 더 포함하는, 컴퓨터로 수행되는 방법.
The method of claim 1,
and determining a contribution amount of one or more of the retrieved one or more active user interactions for the conversion based at least in part on an attribution model and a weight and an attribution model each associated with the retrieved one or more interactions.
제 5 항에 있어서,
검색된 하나 이상의 상호작용과 각각 관련된 가중치 및 기여 모델에 적어도 부분적으로 기반하여 전환에 대해 검색된 하나 이상의 행위중인 사용자의 상호작용 중 하나 이상의 공헌량을 결정하는 단계는:
검색된 하나 이상의 상호작용과 각각 관련된 행위중인 사용자를 식별하는 식별자 타입과 관련된 신뢰도 값에 적어도 부분적으로 기반하여, 전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자의 각각의 타입과 관련하여 전환에 기여할 수 있는 검색된 하나 이상의 상호작용의 서브세트를 식별하는 단계; 및
가중치에 적어도 부분적으로 기반하여 전환에 대해 검색된 하나 이상의 상호작용의 서브세트 내 각각의 상호작용의 공헌량을 결정하는 단계를 포함하는, 컴퓨터로 수행되는 방법.
6. The method of claim 5,
Determining an amount of contribution of one or more of the retrieved one or more active user interactions to the conversion based at least in part on a weight and attribution model each associated with the retrieved one or more interactions, comprising:
At least in part based on a confidence value associated with a type of identifier that identifies an acting user associated with each of the one or more interactions retrieved, at least in part to contribute to a conversion with respect to each type of identifier that identifies an acting user of the online system associated with the conversion. identifying a subset of the retrieved one or more interactions that are possible; and
determining a contribution amount of each interaction in a subset of the one or more interactions retrieved for conversion based at least in part on the weight.
제 6 항에 있어서,
신뢰도 값에 적어도 부분적으로 기반하여, 전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자의 각각의 타입과 관련하여 전환에 기여할 수 있는 검색된 하나 이상의 상호작용의 서브세트를 식별하는 단계는:
신뢰도 값에 적어도 부분적으로 기반하여 식별자 타입을 순위화하는 단계; 및
순위 내에서 적어도 하나의 임계 위치를 가지는 식별자 타입과 관련되는 검색된 상호작용을 선택하는 단계를 포함하는, 컴퓨터로 수행되는 방법.
7. The method of claim 6,
Based at least in part on the credit value, identifying a subset of the retrieved one or more interactions that may contribute to a conversion with respect to each type of identifier that identifies an acting user of the online system associated with the conversion, comprising:
ranking the identifier type based at least in part on the confidence value; and
and selecting a retrieved interaction associated with an identifier type having at least one threshold position within the ranking.
제 1 항에 있어서,
전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자의 각각의 타입과 관련하여 전환에 기여할 수 있는 하나 이상의 상호작용을 검색하는 단계는:
전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 복수의 식별자 타입과 관련된 상호작용을 검색하는 단계를 포함하는, 컴퓨터로 수행되는 방법.
The method of claim 1,
Retrieving one or more interactions that may contribute to a conversion with respect to each type of identifier that identifies an acting user of the online system associated with the conversion comprises:
and retrieving an interaction associated with a plurality of identifier types that identify an acting user of the online system associated with the conversion.
제 1 항에 있어서,
전환과 관련된 온라인 시스템의 행위중인 사용자를 식별하는 식별자의 각각의 타입과 관련하여 전환에 기여할 수 있는 하나 이상의 상호작용을 검색하는 단계는:
행위중인 사용자의 하나 이상의 상호작용과 관련된 행위중인 사용자를 식별하는 복수의 식별자 타입으로서, 행위중인 사용자의 하나 이상의 상호작용의 적어도 하나의 임계 비율(threshold percentage)과 관련되는, 상기 복수의 식별자 타입을 식별하는 단계;
행위중인 사용자를 식별하는 복수의 식별자 타입의 서브세트와 관련된 온라인 시스템의 행위중인 사용자의 하나 이상의 추가 상호작용을 식별하는 단계;
행위중인 사용자의 하나 이상의 추가 상호작용과 사용자를 식별하는 복수의 식별자 타입을 연관시키는 단계; 및
행위중인 사용자를 식별하는 적어도 하나의 식별자 타입과 관련하여 전환에 기여할 수 있는 하나 이상의 상호작용을 검색하는 단계를 포함하는, 컴퓨터로 수행되는 방법.
The method of claim 1,
Retrieving one or more interactions that may contribute to a conversion with respect to each type of identifier that identifies an acting user of the online system associated with the conversion comprises:
a plurality of identifier types that identify an acting user associated with one or more interactions of the acting user, the plurality of identifier types being associated with at least one threshold percentage of the one or more interactions of the acting user; identifying;
identifying one or more additional interactions of the acting user of the online system associated with a subset of the plurality of identifier types that identify the acting user;
associating one or more further interactions of the user with a plurality of identifier types identifying the user; and
retrieving one or more interactions that may contribute to a conversion with respect to at least one identifier type that identifies the user in action.
광고와 관련된 전환을 설명하고 상기 전환과 관련된 온라인 시스템의 사용자를 식별하는 정보를 포함하는 정보를 온라인 시스템에서 수신하는 단계;
사용자를 식별하는 수신된 정보에 기반하여 사용자를 식별하는 하나 이상의 식별자 타입을 온라인 시스템에 의해 식별하는 단계로서, 상기 하나 이상의 식별자 타입은 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자, 및 애플리케이션 식별자를 포함하고, 사용자를 식별하는 수신된 정보에 기반하여 사용자를 식별하는 하나 이상의 식별자 타입을 식별하는 것은:
온라인 시스템의 사용자를 식별하는 하나 이상의 식별자 타입과 각각 관련된 신뢰도 값을 검색하는 단계 - 식별자 타입과 관련된 신뢰도 값은 식별자 타입이 온라인 시스템의 사용자를 식별할 가능성의 척도를 제공함 - ;
사용자를 식별하는 하나 이상의 식별된 식별자 타입에 적어도 부분적으로 기반하여 전환에 기여할 수 있는 하나 이상의 상호작용을 온라인 시스템에 의해 검색하는 단계; 및
전환에 대한 검색된 하나 이상의 상호작용 중 하나 이상에 공헌량을 할당하도록 구성된 기여 모델로 검색된 하나 이상의 상호작용을 온라인 시스템에 의해 전달하는 단계를 포함하는, 상기 식별하는 단계; 및
하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입과 기여 모델에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 하나 이상의 상호작용의 각각의 공헌량을 온라인 시스템에 의해 결정하는 단계로서, 하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입과 기여 모델에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 하나 이상의 상호작용의 각각의 공헌량을 결정하는 단계는:
신뢰도 값에 적어도 부분적으로 기반하여 가중치를 하나 이상의 상호작용과 연관시키는 단계를 포함하는, 상기 결정하는 단계를 포함하는, 방법.
receiving at the online system information describing a conversion associated with the advertisement and comprising information identifying a user of the online system associated with the conversion;
identifying, by the online system, one or more identifier types identifying the user based on the received information identifying the user, the one or more identifier types including an online system user identifier, a client device identifier, and an application identifier; Identifying one or more identifier types identifying the user based on the received information identifying the user comprises:
retrieving a confidence value each associated with one or more identifier types identifying a user of the online system, the confidence value associated with the identifier type providing a measure of the likelihood that the identifier type identifies a user of the online system;
searching by the online system for one or more interactions that may contribute to a conversion based at least in part on the one or more identified identifier types identifying the user; and
identifying, comprising communicating, by the online system, the retrieved one or more interactions to an attribution model configured to assign an amount of contribution to one or more of the retrieved one or more interactions for a conversion; and
determining, by the online system, a contribution amount of each of the one or more interactions that may contribute to a conversion, based at least in part on an attribution model and one or more identifier types identifying a user each associated with the one or more interactions, comprising: Determining, based at least in part on an attribution model and at least one identifier type identifying a user each associated with the one or more interactions, an amount of contribution of each of the one or more interactions that may contribute to a conversion comprises:
and associating a weight with one or more interactions based at least in part on a confidence value.
제 10 항에 있어서,
사용자를 식별하는 수신된 정보에 기반하여 사용자를 식별하는 하나 이상의 식별자 타입을 식별하는 단계는:
신뢰도 값에 적어도 부분적으로 기반하여 온라인 시스템의 사용자를 식별하는 하나 이상의 식별자 타입을 순위화하는 단계를 더 포함하는, 방법.
11. The method of claim 10,
Identifying one or more identifier types identifying the user based on the received information identifying the user comprises:
and ranking one or more identifier types identifying users of the online system based at least in part on the confidence value.
제 10 항에 있어서,
전환에 기여할 수 있는 검색된 하나 이상의 상호작용은 사용자와 관련된 하나 이상의 이전의 전환을 포함하는, 방법.
11. The method of claim 10,
wherein the retrieved one or more interactions that may contribute to the conversion include one or more previous conversions associated with the user.
제 10 항에 있어서,
전환에 기여할 수 있는 검색된 하나 이상의 상호작용은: 하나 이상의 광고를 열람하기, 하나 이상의 광고와 상호작용하기, 하나 이상의 광고와 관련된 하나 이상의 객체에 액세스하기, 광고에 대한 광고자와 관련된 하나 이상의 구매를 하기, 광고에 대한 광고자와 관련된 하나 이상의 서비스를 요청하기, 광고에 대한 광고자와 관련된 하나 이상의 이벤트에 참여하기, 하나 이상의 제3자 서비스를 구독하기, 및 이들의 임의의 조합으로 구성된 그룹에서 선택되는, 방법.
11. The method of claim 10,
The retrieved one or more interactions that may contribute to a conversion include: viewing one or more advertisements, interacting with one or more advertisements, accessing one or more objects associated with one or more advertisements, making one or more purchases associated with the advertiser for an advertisement. in the group consisting of: requesting one or more services associated with the advertiser for advertising, participating in one or more events associated with the advertiser for advertising, subscribing to one or more third-party services, and any combination thereof; chosen way.
제 10 항에 있어서,
기여 모델 및 하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 하나 이상의 상호작용 각각의 공헌량을 결정하는 단계는:
전환에 기여할 수 있는 하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입과 관련된 가중치에 적어도 부분적으로 기반하여, 전환에 대한 사용자의 하나 이상의 상호작용 각각의 공헌(contribution)을 결정하는 단계를 포함하는, 방법.
11. The method of claim 10,
Determining, based at least in part on the attribution model and one or more identifier types identifying users each associated with the one or more interactions, a contribution amount of each of the one or more interactions that may contribute to a conversion comprises:
determining a contribution of each of the user's one or more interactions to the conversion based at least in part on a weight associated with the one or more identifier types that identify the user associated with the one or more interactions that may contribute to the conversion; Including method.
제 10 항에 있어서,
기여 모델 및 하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 하나 이상의 상호작용 각각의 공헌량을 결정하는 단계는:
신뢰도 값에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 검색된 하나 이상의 상호작용의 서브세트를 식별하는 단계; 및
신뢰도 값에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 검색된 하나 이상의 상호작용의 서브세트 내 각각의 상호작용의 공헌을 결정하는 단계를 포함하는, 방법.
11. The method of claim 10,
Determining, based at least in part on the attribution model and one or more identifier types identifying users each associated with the one or more interactions, a contribution amount of each of the one or more interactions that may contribute to a conversion comprises:
identifying, based at least in part on the confidence value, a subset of the retrieved one or more interactions that may contribute to the conversion; and
determining, based at least in part on the confidence value, a contribution of each interaction in a subset of the retrieved one or more interactions that may contribute to the conversion.
제 15 항에 있어서,
신뢰도 값에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 검색된 하나 이상의 상호작용의 서브세트를 식별하는 단계는:
신뢰도 값에 적어도 부분적으로 기반하여 식별자 타입을 순위화하는 단계; 및
순위 내에서 적어도 하나의 임계 위치를 가지는 식별자 타입과 관련되는 검색된 상호작용을 선택하는 단계를 포함하는, 방법.
16. The method of claim 15,
Identifying, based at least in part on the confidence value, a subset of the retrieved one or more interactions that may contribute to the conversion comprises:
ranking the identifier type based at least in part on the confidence value; and
and selecting a retrieved interaction associated with an identifier type having at least one threshold position within the ranking.
인코딩된 명령어를 기록한 컴퓨터 판독가능한 저장매체로서, 프로세서에 의한 실행시, 상기 명령어는 프로세서로 하여금:
광고와 관련된 전환을 설명하고 상기 전환과 관련된 온라인 시스템의 사용자를 식별하는 정보를 포함하는 정보를 수신하는 것;
사용자를 식별하는 수신된 정보에 기반하여 사용자를 식별하는 하나 이상의 식별자 타입을 식별하는 것으로서, 상기 하나 이상의 식별자 타입은 온라인 시스템 사용자 식별자, 클라이언트 장치 식별자, 및 애플리케이션 식별자를 포함하고, 사용자를 식별하는 수신된 정보에 기반하여 사용자를 식별하는 하나 이상의 식별자 타입을 식별하는 것은:
온라인 시스템의 사용자를 식별하는 하나 이상의 식별자 타입과 각각 관련된 신뢰도 값을 검색하는 것 - 식별자 타입과 관련된 신뢰도 값은 식별자 타입이 온라인 시스템의 사용자를 식별할 가능성의 척도를 제공함 - ;
사용자를 식별하는 하나 이상의 식별된 식별자 타입에 적어도 부분적으로 기반하여 전환에 기여할 수 있는 하나 이상의 상호작용을 검색하는 것; 및
전환에 대한 검색된 하나 이상의 상호작용 중 하나 이상에 공헌량을 할당하도록 구성된 기여 모델로 검색된 하나 이상의 상호작용을 전달하게 하는 것을 포함하는, 상기 식별하는 것; 및
하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입과 기여 모델에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 하나 이상의 상호작용의 각각의 공헌량을 결정하는 것으로서, 하나 이상의 상호작용과 각각 관련된 사용자를 식별하는 하나 이상의 식별자 타입과 기여 모델에 적어도 부분적으로 기반하여, 전환에 기여할 수 있는 하나 이상의 상호작용의 각각의 공헌량을 결정하는 것은:
신뢰도 값에 적어도 부분적으로 기반하여 가중치를 하나 이상의 상호작용과 연관시키는 것을 포함하는, 상기 결정하는 것을 수행하게 하는, 컴퓨터 판독가능한 저장매체.
A computer-readable storage medium having recorded thereon encoded instructions, when executed by a processor, the instructions cause the processor to:
receiving information describing a conversion associated with the advertisement and comprising information identifying a user of an online system associated with the conversion;
Identifies one or more identifier types identifying a user based on received information identifying the user, the one or more identifier types including an online system user identifier, a client device identifier, and an application identifier, the receiving identifier identifying the user Identifying one or more types of identifiers identifying the user based on the identified information includes:
retrieving a confidence value each associated with one or more identifier types identifying a user of the online system, the confidence value associated with the identifier type providing a measure of the likelihood that the identifier type identifies a user of the online system;
retrieving one or more interactions that may contribute to a conversion based at least in part on the one or more identified identifier types identifying the user; and
identifying the retrieved one or more interactions, comprising passing the retrieved one or more interactions to an attribution model configured to assign an attribution amount to one or more of the retrieved one or more interactions for a conversion; and
determining, based at least in part on an attribution model and at least one identifier type identifying a user each associated with the one or more interactions, an attribution amount of each of the one or more interactions that may contribute to a conversion, wherein each of the one or more interactions and each Determining, based at least in part on an attribution model and one or more identifier types identifying the associated user, an amount of contribution of each of the one or more interactions that may contribute to a conversion comprises:
and associating a weight with one or more interactions based at least in part on a confidence value.
제 17 항에 있어서,
사용자를 식별하는 수신된 정보에 기반하여 사용자를 식별하는 하나 이상의 식별자 타입을 식별하는 것은:
신뢰도 값에 적어도 부분적으로 기반하여 온라인 시스템의 사용자를 식별하는 하나 이상의 식별자 타입을 순위화하는 것을 포함하는, 컴퓨터 판독가능한 저장매체.
18. The method of claim 17,
Identifying one or more identifier types identifying the user based on the received information identifying the user comprises:
and ranking one or more identifier types that identify a user of the online system based at least in part on a confidence value.
삭제delete 삭제delete
KR1020177004082A 2014-07-25 2015-06-15 Determining Contributions of Various User Interactions to a Conversion KR102447691B1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/340,588 US20160027040A1 (en) 2014-07-25 2014-07-25 Determining contributions of various user interactions to a conversion
US14/340,588 2014-07-25
PCT/US2015/035815 WO2016014170A1 (en) 2014-07-25 2015-06-15 Determining contributions of various user interactions to a conversion

Publications (2)

Publication Number Publication Date
KR20170035949A KR20170035949A (en) 2017-03-31
KR102447691B1 true KR102447691B1 (en) 2022-09-28

Family

ID=55163502

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020177004082A KR102447691B1 (en) 2014-07-25 2015-06-15 Determining Contributions of Various User Interactions to a Conversion

Country Status (6)

Country Link
US (1) US20160027040A1 (en)
JP (1) JP6683681B2 (en)
KR (1) KR102447691B1 (en)
AU (1) AU2015294540A1 (en)
CA (1) CA2955589A1 (en)
WO (1) WO2016014170A1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10169778B1 (en) 2015-03-26 2019-01-01 Amazon Technologies, Inc. Cross-channel online advertising attribution
US10977685B1 (en) * 2015-04-30 2021-04-13 Amazon Technologies, Inc. Identity resolution service
US20170228768A1 (en) * 2016-02-09 2017-08-10 Google Inc. Attributing conversions relating to content items
AU2018355893B2 (en) * 2017-10-24 2024-01-04 A.C.N. 629 573 093 Pty. Ltd. A system for improved digital advertising display device proof-of-play data logging

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050071218A1 (en) * 2003-06-30 2005-03-31 Long-Ji Lin Methods to attribute conversions for online advertisement campaigns
US20130124309A1 (en) * 2011-11-15 2013-05-16 Tapad, Inc. Managing associations between device identifiers
US20140136332A1 (en) * 2012-11-14 2014-05-15 Facebook, Inc. Providing social context for products in advertisements

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU1797401A (en) * 1999-11-22 2001-06-04 Avenue, A, Inc. Targeting electronic advertising placement in accordance with an analysis of user inclination and affinity
JP2007018446A (en) * 2005-07-11 2007-01-25 Fujitsu Ltd Information providing system and information providing method
KR101651245B1 (en) * 2009-01-30 2016-08-25 구글 인코포레이티드 Conversion crediting
JP5355198B2 (en) * 2009-04-20 2013-11-27 株式会社博報堂 Real Store Affiliate System Computing Method
JP5501021B2 (en) * 2010-01-28 2014-05-21 Kauli株式会社 Advertising effect measurement data creation system
CA2794040A1 (en) * 2010-03-23 2011-09-29 Google Inc. Conversion path performance measures and reports
US8788339B2 (en) * 2011-05-27 2014-07-22 Google Inc. Multiple attribution models with return on ad spend
US20130124327A1 (en) * 2011-11-11 2013-05-16 Jumptap, Inc. Identifying a same user of multiple communication devices based on web page visits
US20140075428A1 (en) * 2012-09-11 2014-03-13 Millmobile Bv Application detection system
US9514478B2 (en) * 2013-01-23 2016-12-06 Facebook, Inc. Conversion tracking for installation of applications on mobile devices

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050071218A1 (en) * 2003-06-30 2005-03-31 Long-Ji Lin Methods to attribute conversions for online advertisement campaigns
US20130124309A1 (en) * 2011-11-15 2013-05-16 Tapad, Inc. Managing associations between device identifiers
US20140136332A1 (en) * 2012-11-14 2014-05-15 Facebook, Inc. Providing social context for products in advertisements

Also Published As

Publication number Publication date
WO2016014170A1 (en) 2016-01-28
AU2015294540A1 (en) 2017-02-23
CA2955589A1 (en) 2016-01-28
JP6683681B2 (en) 2020-04-22
KR20170035949A (en) 2017-03-31
US20160027040A1 (en) 2016-01-28
JP2017529587A (en) 2017-10-05

Similar Documents

Publication Publication Date Title
US20180268317A1 (en) Embeddings for feed and pages
US20170024764A1 (en) Evaluating Content Items For Presentation To An Online System User Based In Part On Content External To The Online System Associated With The Content Items
US11537623B2 (en) Deep semantic content selection
US11687974B1 (en) Identifying content to present to a group of online system users based on user actions and specified by a third-party system
US20190139096A1 (en) Optimizing generation of a feed of content for a user based on prior user interactions with the feed of content
KR101765720B1 (en) Combining user profile information maintained by various social networking systems
KR102447691B1 (en) Determining Contributions of Various User Interactions to a Conversion
US10715850B2 (en) Recommending recently obtained content to online system users based on characteristics of other users interacting with the recently obtained content
US10523780B2 (en) Determining a primary user of a client device and propagating settings of the primary user from the client device to an online system
US20160292729A1 (en) Identifying products related to interactions performed by an online system user with content from a third party system
US11222366B2 (en) Determining accuracy of a model determining a likelihood of a user performing an infrequent action after presentation of content
US10504136B2 (en) Measuring performance of content among groups of similar users of an online system
US10592931B2 (en) Presenting content to an online system user promoting interaction with an application based on installation of the application on a client device
US10491637B2 (en) Identifying user profiles to evaluate against policies enforced by an online system based on connections between content items, user profiles, and objects maintained by the online system
US10374929B2 (en) Measuring deletion of cookies included in browsers used by online system users
US20160027035A1 (en) Optimizing retrieval of user interactions for determining contributions to a conversion
US20170193549A1 (en) Selecting additional content for inclusion in video data presented to users via an online system
US11093555B2 (en) Determining correlations between locations associated with a label and physical locations based on information received from users providing physical locations to an online system
US10621256B2 (en) Determining a rate for sampling information describing presentation of content based on previously received information describing presentation of content
US10475088B2 (en) Accounting for online system user actions occurring greater than a reasonable amount of time after presenting content to the users when selecting content for users
US10552874B2 (en) Prompting a user to purchase items for use in an application in a feed of content provided by an online system
US20170308512A1 (en) Generating characteristics of users of an online system presented with content in a context relative to other content
US20160300268A1 (en) Determining access to information describing a group of online system users specified by a third-party system
US20140379483A1 (en) User-specified distribution of stories describing user actions in a social networking system
US20190057399A1 (en) Identifying whether an objective included in a content item presented by an online system was performed without the online system receiving information from a client device identifying a user

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right