KR20230020543A - 소프트웨어 개발 키트 관여 모니터 - Google Patents

소프트웨어 개발 키트 관여 모니터 Download PDF

Info

Publication number
KR20230020543A
KR20230020543A KR1020237001059A KR20237001059A KR20230020543A KR 20230020543 A KR20230020543 A KR 20230020543A KR 1020237001059 A KR1020237001059 A KR 1020237001059A KR 20237001059 A KR20237001059 A KR 20237001059A KR 20230020543 A KR20230020543 A KR 20230020543A
Authority
KR
South Korea
Prior art keywords
app
sdk
party
message
open
Prior art date
Application number
KR1020237001059A
Other languages
English (en)
Inventor
패트릭 만디아
Original Assignee
스냅 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 스냅 인코포레이티드 filed Critical 스냅 인코포레이티드
Publication of KR20230020543A publication Critical patent/KR20230020543A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3003Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/302Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3438Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment monitoring of user actions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/20Software design
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/60Software deployment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/542Event management; Broadcasting; Multicasting; Notifications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/86Event-based monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/88Monitoring involving counting

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • Mathematical Physics (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

메시징 시스템에 의해 제공되는 예시적인 개발자 도구 시스템이 개발자 도구 시스템을 사용하는 제3자 리소스들(예로서, 제3자 앱들)에서 앱 개방 이벤트들을 캡처하는 것을 허용하는 SKD(software development kit) 관여 모니터를 포함한다. SKD 관여 모니터는 제3자 개발자들의 프라이버시를 보존하고 제3자 리소스 사용에 관한 PII(personally identifiable information)를 메시징 시스템 백엔드 환경에 운반하는 것을 회피하는 방식으로 동작하도록 구성된다.

Description

소프트웨어 개발 키트 관여 모니터
[우선권 주장]
본 출원은 2020년 6월 10일자로 출원된 미국 가출원 일련번호 제63/037,512호 및 2021년 3월 25일자로 출원된 미국 특허 출원 일련번호 제17/212,584호에 대한 우선권의 이익을 주장하며, 이 출원들 각각은 그 전체가 본 명세서에 참조에 의해 포함된다.
[기술 분야]
본 개시내용은 일반적으로 소프트웨어 개발자 키트(software developer kit, SDK)들의 구축 및 활용에 관한 것이다.
사용자들이 콘텐츠 및 다른 사용자들에게 온라인으로 액세스하고 그들과 상호작용하는 것을 허용하는 컴퓨터 구현 프로그램들의 인기가 계속 증가하고 있다. 사용자들이 메시징 클라이언트들을 통해 다른 사용자들과 콘텐츠를 공유하는 것을 허용하는 다양한 컴퓨터 구현 애플리케이션들이 존재한다. 앱들이라고 칭해지는 이러한 컴퓨터 구현 애플리케이션들의 일부는 전화, 태블릿, 또는 웨어러블 디바이스와 같은 모바일 디바이스 상에서 실행되도록 설계될 수 있는 한편, 클라이언트 디바이스에서 수행하기에 합리적인 것보다 더 큰 리소스들을 요구할 수 있는 (예컨대, 대량의 데이터를 저장하거나 계산적으로 비용이 많이 드는 처리를 수행하는) 동작들을 수행하기 위하여 서버 컴퓨터 시스템 상에 제공된 백엔드 서비스를 가질 수 있다. 예를 들어, 메시징 시스템은, 콘텐츠 증강 도구들과 함께 모바일 디바이스의 카메라를 활용하기 위해, 그리고 캡처된 콘텐츠를 네트워크 통신을 통해 공유하기 위해 콘텐츠를 수정 또는 증강시키기 위한 다양한 도구들을 제공할 수 있다. 컴퓨터 구현 애플리케이션의 선택된 기능성은 하나 이상의 SDK에 의해 제3자 앱의 개발자들에게 이용가능하게 될 수 있다.
반드시 축척대로 그려진 것은 아닌 도면들에서, 유사한 번호들은 상이한 도면들에서 유사한 컴포넌트들을 기술할 수 있다. 임의의 특정 요소 또는 액트의 논의를 쉽게 식별하기 위해, 참조 번호의 최상위 숫자 또는 숫자들은 그 요소가 처음 도입되는 도면 번호를 지칭한다. 일부 실시예들은 첨부 도면들의 그림들에서 제한이 아닌 예로서 예시된다.
도 1은 일부 예들에 따른, SDK 관여 모니터가 배치될 수 있는 네트워킹된 환경의 도식적 표현이다.
도 2는 일부 예들에 따른, 클라이언트 측 및 서버 측 기능성 둘 다를 가지는 메시징 시스템의 도식적 표현이다.
도 3은 일부 예들에 따른, 데이터베이스에 유지되는 바와 같은 데이터 구조의 도식적 표현이다.
도 4는 일부 예들에 따른, 메시지의 도식적 표현이다.
도 5는 일부 예들에 따른, 액세스 제한 프로세스에 대한 흐름도이다.
도 6은 일부 예들에 따른, 내장된 SKD의 도식적 표현이다.
도 7은 일부 예들에 따른, 내장된 SKD의 관여를 모니터링하기 위한 방법의 흐름도이다.
도 8은 일부 예들에 따른, 머신으로 하여금 본 명세서에 논의된 방법론들 중 어느 하나 이상을 수행하게 야기하기 위해 명령어들의 세트가 그 내에서 실행될 수 있는, 일부 예들에 따른 컴퓨터 시스템 형태의 머신의 도식적 표현이다.
본 개시내용의 실시예들은 제3자 앱 사용자들에 관한 개인 식별가능 정보(personally identifiable information, PII)를 SDK 제공자 시스템에 통신하는 것을 회피함으로써 사용자들의 프라이버시를 보존하면서, SDK가 제3자 앱에 내장될 때 가시성(visibility)을 향상시켜 SDK의 실제적 및 잠재적 활용이 되게 함으로써 컴퓨터 구현 애플리케이션들의 기능성을 개선한다. 제3자 앱에 내장된 SDK의 잠재적 관여를 모니터링하는 기술적 문제는 SKD 관여 모니터를 구축하고 제3자 앱에 내장된 SDK에 SKD 관여 모니터를 포함시킴으로써 해결된다. 내장된 SDK를 포함하는 제3자 앱의 개방에는 SDK를 지원하는 백엔드 시스템에 의해 제공되는 하나 이상의 특징에 액세스하기 위해 SDK를 관여시키는 동작들이 잠재적으로 후속될 수 있기 때문에, 앱 개방 이벤트들 및 다양한 연관된 정보가 SDK의 활용을 예측하는데 유용할 수 있다.
SDK 관여 모니터는 SDK가 내장된 제3자 앱의 개방을 나타내는 시스템 개시 및 사용자 개시 이벤트들을 캡처하도록 구성된다. 이 설명의 목적을 위해, 제3자 앱의 개방을 나타내는 이벤트는 앱 개방 이벤트라고 지칭된다. 앱 개방 이벤트를 검출한 것에 응답하여, SDK 관여 모니터는 검출된 이벤트로부터 PPI가 없는 연관된 정보를 도출하고, 도출된 연관된 정보를 SDK를 지원하는 백엔드 시스템인 SDK 제공자 시스템에 통신한다. PPI가 없는 도출된 연관 정보를 포함하는, 앱 개방 이벤트를 검출하는 SDK 관여 모니터에 의해 트리거되는 통신은 본 개시내용의 목적을 위해 개방 이벤트 메시지라고 지칭된다.
본 설명의 목적을 위해, SDK 제공자 시스템에 의해 제공되는 선택된 특징으로의 액세스를 각각 용이하게 하는 SDK 관여 모니터 및 하나 이상의 SDK는, 제3자 앱에 내장될 때, 집합적으로 내장된 SDK라고 지칭된다. SKD 관여 모니터는 연관된 메시징 클라이언트에 대한 백엔드 서비스를 호스팅하는 메시징 시스템의 컨텍스트에서 사용될 수 있으며, 여기서 연관된 메시징 클라이언트에 대한 백엔드 서비스는 SDK 제공자 시스템이다.
클라이언트 디바이스에서 실행되고 메시징 서버 시스템에서 제공되는 백엔드 서비스에 의해 지원되는 메시징 클라이언트를 포함하는 메시징 시스템은, 사용자들이 메시징 클라이언트를 호스팅하는 클라이언트 디바이스의 카메라로 이미지들 및 비디오들을 캡처하고 캡처된 콘텐츠를 네트워크 통신을 통해 다른 사용자들과 공유하는 것을 허용하도록 구성된다. 메시징 시스템은 메시징 클라이언트를 통해 액세스가능한 AR(augmented reality) 컴포넌트들을 제공하도록 구성될 수 있다. AR 컴포넌트들은 예컨대, 캡처된 이미지 또는 비디오 프레임 위에 사진들 또는 애니메이션을 오버레이함으로써, 또는 3차원(3D) 효과들, 객체들, 캐릭터들, 및 변환들을 추가함으로써, 카메라에 의해 캡처된 콘텐츠를 수정하기 위해 사용될 수 있다.
메시징 시스템은 사용자가 이미지들 또는 짧은 비디오들과 같은 몇 개의 콘텐츠 아이템을, 이러한 콘텐츠 아이템들이 메시징 클라이언트의 카메라 뷰 스크린을 이용하여 캡처되고 있음에 따라 브로드캐스팅될 수 있는 컬렉션이 되도록 조합하는 것을 허용하는 기능성을 포함할 수 있다. 카메라 뷰 스크린은, 카메라의 디지털 이미지 센서의 출력, 카메라에 의해 이미지를 캡처하거나 또는 비디오 레코딩을 시작 및 중단하도록 동작가능한 사용자 선택가능 요소를 포함하고, 또한 각자의 AR 컴포넌트들을 나타내는 하나 이상의 사용자 선택가능 요소를 디스플레이할 수 있는, 메시징 클라이언트에 의해 디스플레이되는 스크린이다. 메시징 시스템은 또한 사용자들이 그들 자신의 개인화된 만화 아바타들을 생성하는 것을 허용할 수 있는데, 만화 아바타들은 온라인 통신을 더 재미있고 표현적으로 만들기 위해 메시지들 내에 포함될 수 있다. 제3자 개발자들이 AR 경험들, 콘텐츠 아이템들의 컬렉션들 및 개인화된 만화 아바타들과 같은 이러한 특징들 중 일부 또는 전부를 사용하는 것을 허용하기 위해, 메시징 시스템은 제3자 앱에 내장될 수 있는 하나 이상의 SDK를 SKD 관여 모니터와 함께 내장된 SDK로서 유지하는 개발자 도구 서버를 사용할 수 있다. 내장된 SDK로서, SKD 관여 모니터와 함께, 제3자 앱에 내장될 수 있는 하나 이상의 SDK의 예들은 AR 키트, 컬렉션 키트 및 로그인 키트를 포함한다. AR 키트는 제3자 앱의 사용자들이 메시징 시스템에 의해 제공되는 AR 컴포넌트들 중 하나 이상에 액세스하는 것을 허용하고, 및/또는 제3자 앱의 개발자들에 의한 새로운 AR 컴포넌트들의 생성을 용이하게 하도록 구성된다. 예를 들어, AR 키트는, 시청자가 카메라 뷰 스크린 상에 제시되는 사람을 파티 모자를 착용하고 있는 것으로 보도록, 디지털 이미지 센서에 의해 캡처되고 있는 사람의 머리 위치를 검출하고 검출된 머리 위치 위에 파티 모자의 이미지를 오버레이하는 AR 컴포넌트에 대한 액세스를 제3자 앱의 사용자들에게 제공할 수 있다. 내장된 SDK가, 연관된 시각 제어에 대한 사용자 개시 제스처와 같은, 증강 현실 키트의 관여를 나타내는 이벤트를 검출할 때, 내장된 SDK는 동일한 클라이언트 디바이스에 설치된 메시징 클라이언트를 메시징 클라이언트에 의해 제공된 카메라 뷰 스크린에 론칭한다.
컬렉션 키트는 제3자 앱의 사용자들이, 사용자가 이미지들 또는 짧은 비디오들과 같은 몇 개의 콘텐츠 아이템들을, 이 콘텐츠 아이템들이 캡처되고 있음에 따라 브로드캐스팅될 수 있는 컬렉션이 되도록 조합하는 것을 허용하는 기능성에 액세스하는 것을 허용하도록 구성된다. 로그인 키트는 메시징 시스템의 사용자가 메시징 시스템에 대한 사용자의 자격증명을 이용하여 제3자 앱에 연결하는 것을 허용한다.
내장된 SDK에 포함되는 SDK 관여 모니터는 각각의 앱 개방 이벤트를 검출하고, 이것을 개방 이벤트 메시지의 형태로 메시징 시스템에 보고한다. 앱 개방 이벤트는 앱의 론칭 동작뿐만 아니라 앱의 전경화(foregrounding) 동작을 나타낸다. 본 설명의 목적을 위해, 클라이언트 디바이스에서 실행되는 앱으로부터 전경 포커스를 제거하는 동작은 배경화(backgrounding)로 명명된다. 전경 포커스를 앱으로 복원하는 동작은 전경화로 지칭된다. 전경화는, 전경화되고 있는 앱이 이전에 론칭되었고 배경에서 실행되고 있기 때문에, 앱의 론칭과 상이하다. 앱 개방 이벤트는, 예를 들어, 앱으로부터의 통지의 활성화 - 통지는 클라이언트 디바이스의 스크린에 제시됨 -, 클라이언트 디바이스에서 배경에서 실행하는 하나 이상의 앱의 캐러셀로부터의 앱의 선택, 또는 클라이언트 디바이스의 스크린에서 앱을 나타내는 아이콘의 활성화에 의해 야기될 수 있다.
SDK 관여 모니터는 캘린더 날짜에 의해 표현되는 각각의 24시간 기간 동안 클라이언트 디바이스에서의 앱 개방 이벤트들의 수를 모니터링한다. SDK 관여 모니터가 앱 개방 이벤트를 검출할 때마다, SDK 관여 모니터는 클라이언트 디바이스에 저장된 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트를 업데이트한다. 일부 예들에서, SDK 관여 모니터는 앱 개방 이벤트들의 업데이트된 카운트에 기초하여 일일 버킷 식별자(daily bucket identifier)를 생성하고, 앱 개방 이벤트들의 업데이트된 카운트 대신에 생성된 일일 버킷 식별자를 SDK 제공자 시스템에 통신하기 위해 개방 이벤트 메시지에 포함시킨다. SDK 관여 모니터는 개방 이벤트 메시지에 앱 개방 이벤트의 타임스탬프 대신에 앱 개방 이벤트와 연관된 캘린더 날짜를 포함시킨다. 앱 개방 이벤트와 연관된 캘린더 날짜는 SDK 관여 모니터에 의해 하루, 한 달 및 한 해의 형태로 생성된다. SDK 관여 모니터는 클라이언트 디바이스에서 캘린더 날짜 및 일일 버킷 식별자를 생성한다. 클라이언트 디바이스에서 캘린더 날짜 및 일일 버킷 식별자를 생성하고 또한 SDK 제공자 시스템에, 앱 개방 이벤트들의 카운트 대신 일일 버킷 식별자 및 앱 개방 이벤트의 타임스탬프 대신 캘린더 날짜를 통신하는 것은, SDK 제공자 시스템이 제3자 앱을 제공하는 엔티티와는 별개인 엔티티에 의해 작동될 수 있으므로, 제3자 앱 사용자들의 PPI가 SDK 제공자 시스템에 드러나는 것을 방지하는데 기여한다.
일부 예들에서, 일일 버킷 식별자의 생성은, 앱 개방 이벤트들의 업데이트된 카운트가 제1 값 미만이면, 일일 버킷 식별자를 (새롭게 검출된 앱 개방 이벤트에 응답하여 카운트를 증가시킴으로써 그것을 업데이트한 후에) 앱 개방 이벤트들의 카운트에 설정하고, 앱 개방 이벤트들의 업데이트된 카운트가 제1 값 이상이면, 일일 버킷 식별자를 제2 값에 설정하는 것을 포함한다. 예를 들어, 앱 개방 이벤트들의 카운트가 10 이하인 경우, SDK 관여 모니터는 일일 버킷 식별자를 앱 개방 이벤트들의 카운트에 설정한다(앱 개방 이벤트들의 카운트가 1인 경우, SDK 관여 모니터는 일일 버킷 식별자를 1에 설정하고, 앱 개방 이벤트들의 카운트가 2인 경우, SDK 관여 모니터는 일일 버킷 식별자를 2에 설정하고, 앱 개방 이벤트들의 카운트가 3인 경우, SDK 관여 모니터는 일일 버킷 식별자를 3에 설정하고, 앱 개방 이벤트들의 카운트가 10에 도달할 때까지 그렇게 계속된다). 앱 개방 이벤트들의 카운트가 10보다 큰 경우, SDK 관여 모니터는 일일 버킷 식별자를 10 또는 임의의 다른 수와 같은 일부 다른 미리 결정된 값에 설정하고, 그 값을 그 캘린더 날짜에 대한 모든 후속 개방 이벤트 메시지 내에 일일 버킷 식별자로서 포함시킨다. 일일 버킷 식별자는, 예를 들어, 상이한 일일 버킷 식별자를 상이한 값들의 범위들에 할당하는 것과 같은 다양한 상이한 스키마들을 이용하여 생성될 수 있다는 것을 이해할 것이다. 예를 들어, 버킷 식별자 "1"은 검출된 이벤트들의 수가 1과 3 사이에 있는 것을 표시하기 위해 사용될 수 있고, 버킷 식별자 "2"는 검출된 이벤트들의 수가 4와 12 사이에 있는 것을 표시하기 위해 사용될 수 있고, 버킷 식별자 "3"은 검출된 이벤트들의 수가 12보다 큰 것을 표시하기 위해 사용될 수 있고, 등등과 같이 된다.
개방 이벤트 메시지는, 일일 버킷 식별자 및 연관된 캘린더 날짜 외에도, 제3자 앱의 식별과 같은 정보를 포함할 수 있다. 일부 예들에서, SDK 관여 모니터는 또한 어느 개발 키트들이 내장된 SDK에 포함되는지를 결정하고 및 내장된 SDK 내의 하나 이상의 개발 키트의 제각기 식별들을 개방 이벤트 메시지의 일부로서 SDK 제공자 시스템에 통신하도록 구성된다. 내장된 SDK에 포함된 개발 키트의 예는 SDK 제공자 시스템에서의 AR(augmented reality) 경험에 대한 액세스를 제3자 앱에 제공하는 AR 키트이다. AR 키트를 포함하는 내장된 SDK가 AR 키트의 관여를 나타내는 이벤트를 검출할 때, 내장된 SDK는 메시징 클라이언트에 의해 제공되는 카메라 뷰 스크린에 SDK 제공자 시스템에 의해 제공되는 메시징 클라이언트를 론칭한다.
SDK 관여 모니터가 메시징 시스템의 맥락에서 아래에 설명되지만, 본 명세서에서 설명되는 방법론들은 SDK들을 활용하는 다양한 컴퓨터 구현 애플리케이션들에서 유리하게 사용될 수 있다.
네트워크화된 컴퓨팅 환경
도 1은 네트워크를 통해 데이터(예를 들어, 메시지들 및 연관된 콘텐츠)를 교환하기 위한 예시적인 시스템(100)을 도시하는 블록도이다. 시스템(100)은 클라이언트 디바이스(102)의 다중의 인스턴스를 포함하며, 이들 각각은 메시징 클라이언트(104) 및 제3자 앱(103)을 포함하는 다수의 애플리케이션을 호스팅한다. 제3자 앱(103)은 사용자들이 제3자 시스템(130)에 의해 제공되는 기능성에 액세스하는 것을 허용하도록 구성된다.
각각의 메시징 클라이언트(104)는 네트워크(106)(예를 들어, 인터넷)를 통해 메시징 클라이언트(104) 및 메시징 서버 시스템(108)의 다른 인스턴스들에 통신가능하게 결합된다.
메시징 클라이언트(104)는 네트워크(106)를 통해 또 다른 메시징 클라이언트(104)와 그리고 메시징 서버 시스템(108)과 통신하고 데이터를 교환하도록 구성된다. 메시징 클라이언트(104) 사이에, 그리고 메시징 클라이언트(104)와 메시징 서버 시스템(108) 사이에 교환되는 데이터는, 기능들(예를 들어, 기능들을 기동(invoke)시키는 커맨드들)뿐만 아니라, 페이로드 데이터(예를 들어, 텍스트, 오디오, 비디오 또는 다른 멀티미디어 데이터)를 포함한다.
메시징 서버 시스템(108)은 네트워크(106)를 통해 특정 메시징 클라이언트(104)에 서버 측 기능성을 제공한다. 시스템(100)의 특정 기능들이 메시징 클라이언트(104)에 의해 또는 메시징 서버 시스템(108)에 의해 수행되는 것으로 본 명세서에 설명되지만, 메시징 클라이언트(104) 또는 메시징 서버 시스템(108) 내에서의 특정 기능성의 로케이션은 설계 선택사항이다. 예를 들어, 처음에는 특정 기술 및 기능성을 메시징 서버 시스템(108) 내에 배치하지만, 나중에는 클라이언트 디바이스(102)가 충분한 처리 용량을 갖는 경우 이 기술 및 기능성을 메시징 클라이언트(104)로 이주시키는 것이 기술적으로 바람직할 수 있다.
메시징 서버 시스템(108)은 메시징 클라이언트(104)에 제공되는 다양한 서비스들 및 동작들을 지원한다. 그러한 동작들은 메시징 클라이언트(104)에 데이터를 송신하고, 그로부터 데이터를 수신하고, 그에 의해 생성된 데이터를 처리하는 것을 포함한다. 이 데이터는, 예로서, 메시지 콘텐츠, 클라이언트 디바이스 정보, 지오로케이션 정보, 미디어 주석 및 오버레이, 메시지 콘텐츠 지속 조건, 소셜 네트워크 정보, 및 라이브 이벤트 정보를 포함할 수 있다. 시스템(100) 내에서의 데이터 교환들은 메시징 클라이언트(104)의 사용자 인터페이스들(UI들)을 통해 이용 가능한 기능들을 통해 기동되고 제어된다.
이제 구체적으로 메시징 서버 시스템(108)을 참조하면, API(Application Program Interface) 서버(110)가 애플리케이션 서버들(112)에 결합되어 프로그램 방식의 인터페이스를 제공한다. 애플리케이션 서버들(112)은 데이터베이스(120)에 대한 액세스를 용이하게 하는 데이터베이스 서버(118)에 통신가능하게 결합된다. 웹 서버(124)는 애플리케이션 서버들(112)에 결합되고 웹 기반 인터페이스들을 애플리케이션 서버들(112)에 제공한다. 이를 위해, 웹 서버(124)는 HTTP(Hypertext Transfer Protocol) 및 여러 다른 관련 프로토콜을 통해 착신(incoming) 네트워크 요청들을 처리한다. 데이터베이스(120)는 애플리케이션 서버들(112)에 의해 처리되는 메시지들과 연관된 데이터, 예컨대, 예를 들어, 특정 엔티티에 관한 프로필 데이터를 저장한다. 엔티티가 개인인 경우, 프로필 데이터는, 예를 들어, 사용자 이름, 통지 및 프라이버시 설정들뿐만 아니라, 사용자의 자체 보고 연령(self-reported age) 및 사용자에 의해 그들의 프로필 데이터에 행해진 변경들에 관련된 레코드들을 포함한다.
API(Application Program Interface) 서버(110)는 클라이언트 디바이스(102)와 애플리케이션 서버들(112) 사이에서 메시지 데이터(예를 들어, 커맨드들 및 메시지 페이로드들)를 수신하고 송신한다. 구체적으로, API(Application Program Interface) 서버(110)는 애플리케이션 서버들(112)의 기능성을 기동시키기 위해 메시징 클라이언트(104)에 의해 호출되거나 질의될 수 있는 인터페이스들(예를 들어, 루틴들 및 프로토콜들)의 세트를 제공한다. API 서버(110)는 계정 등록, 로그인 기능성, 특정 메시징 클라이언트(104)로부터 또 다른 메시징 클라이언트(104)로의, 애플리케이션 서버들(112)을 통한 메시지들의 전송, 메시징 클라이언트(104)로부터 메시징 서버(114)로의 미디어 파일들(예를 들어, 이미지들 또는 비디오)의 전송, 및 또 다른 메시징 클라이언트(104)에 의한 가능한 액세스를 위해, 애플리케이션 이벤트(예를 들어, 메시징 클라이언트(104)에 관련됨)를 오픈하는 것을 포함하는, 애플리케이션 서버들(112)에 의해 지원되는 다양한 기능들뿐만 아니라, 제3자 컴퓨터 시스템들에 의한 사용을 위해 메시징 서버 시스템(108)에 의해 제공되는 개발자 도구들에 의해 지원되는 다양한 기능들을 노출시킨다.
애플리케이션 서버들(112)은, 예를 들어, 메시징 서버(114), 이미지 처리 서버(116), 및 소셜 네트워크 서버(122)를 포함하는 다수의 서버 애플리케이션 및 서브시스템을 호스팅한다. 메시징 서버(114)는, 특히 메시징 클라이언트(104)의 다중의 인스턴스로부터 수신된 메시지들에 포함된 콘텐츠(예를 들어, 텍스트 및 멀티미디어 콘텐츠)의 모음(aggregation) 및 다른 처리에 관련된, 다수의 메시지 처리 기술 및 기능을 구현한다. 이미지 처리 서버(116)는 전형적으로 메시징 서버(114)로부터 전송되거나 메시징 서버(114)에서 수신된 메시지의 페이로드 내의 이미지들 또는 비디오에 관하여, 다양한 이미지 처리 동작들을 수행하는 데 전용된다. 소셜 네트워크 서버(122)는 다양한 소셜 네트워킹 기능 및 서비스를 지원하고 이들 기능 및 서비스를 메시징 서버(114)에 이용가능하게 만든다.
또한, 개발자 도구 서버(117)가 도 1에 도시되어 있다. 개발자 도구 서버(117)는 사용자들이 그들의 앱(제3자 앱으로도 지칭됨)에 걸쳐 메시징 서버 시스템(108)에 의해 제공되는 특징들 중 일부를 통합하는 것을 허용하는 하나 이상의 SDK(software developer kit)를 유지한다. 개발자 도구 서버(117)에 의해 제공되는 기능성은 웹 브라우저를 통해 액세스될 수 있는 개발자 포털을 통해 제3자 컴퓨터 시스템들로부터 액세스될 수 있다. 일부 예들에서, 개발자 도구 서버(117)에 의해 제공되는 기능성에 대한 액세스를 제3자 컴퓨터 시스템들(예를 들어, 제3자 시스템(130))에 제공하는 개발자 포털이 제3자 컴퓨터 시스템에 다운로드될 수 있고, 이 경우 이는 웹 브라우저의 사용을 요구하지 않을 수 있다. 제3자 시스템(130)은 개발자 포털(132)을 포함하는 것으로 도시된다. 앞서 설명한 바와 같이, 개발자 포털(132)은 제3자 시스템(130) 상에서 실행되거나 제3자 시스템(130)에 다운로드되는 웹 브라우저를 통해 액세스될 수 있다. 앞서 언급된 바와 같이, 제3자 시스템(130)에 의해 제공되는 기능성은 제3자 앱(103)을 통해 사용자들에 의해 액세스될 수 있다. 클라이언트 디바이스(102) 상에 설치되는 제3자 앱(103)은 내장된 SDK(105)를 포함하는 것으로 도시된다. 내장된 SDK(105)는 전술한 SDK 관여 모니터, 및 또한 하나 이상의 SDK를 포함하며, SDK들 각각은 연관된 SDK 제공자 시스템에 의해, 즉, 이 예에서, 메시징 서버 시스템(108)에 의해 제공되는 선택된 특징 또는 특징들의 세트에 대한 액세스를 용이하게 한다.
시스템 아키텍처
도 2는 일부 예들에 따른, 메시징 시스템(100)에 관한 추가 상세사항들을 예시하는 블록도이다. 구체적으로, 시스템(100)은 메시징 클라이언트(104), 개발자 포털(132), 및 애플리케이션 서버들(112)을 포함하는 것으로 도시된다. 시스템(100)은 메시징 클라이언트(104) 및/또는 개발자 포털(132)에 의해 클라이언트 측에서 그리고 애플리케이션 서버들(112)에 의해 서버 측에서 지원되는 다수의 서브시스템을 구체화한다. 이러한 서브시스템들은, 예를 들어, 단기적 타이머 시스템(202), 컬렉션 관리 시스템(204), 및 증강 시스템(206)을 포함한다.
단기적 타이머 시스템(202)은 메시징 클라이언트(104) 및 메시징 서버(114)에 의한 콘텐츠에 대한 일시적 또는 시간 제한된 액세스를 시행하는 것을 담당한다. 단기적 타이머 시스템(202)은 메시지 또는 메시지들의 컬렉션(예를 들어, 스토리)과 연관된 지속기간 및 디스플레이 파라미터들에 기초하여, 메시징 클라이언트(104)를 통한 메시지들 및 연관된 콘텐츠에 대한 (예를 들어, 프레젠테이션 및 디스플레이를 위한) 액세스를 선택적으로 가능하게 하는 다수의 타이머를 포함한다. 단기적 타이머 시스템(202)의 동작에 관한 추가 상세사항들이 이하에 제공된다.
컬렉션 관리 시스템(204)은 미디어의 컬렉션들(예를 들어, 텍스트, 이미지 비디오, 및 오디오 데이터의 컬렉션들) 또는 세트들을 관리하는 것을 담당한다. 콘텐츠(예를 들어, 이미지들, 비디오, 텍스트, 및 오디오를 포함하는 메시지들)의 컬렉션은 "이벤트 갤러리" 또는 "이벤트 스토리"가 되도록 조직될 수 있다. 그러한 컬렉션은 콘텐츠가 관련되는 이벤트의 지속기간과 같은 지정된 시간 기간 동안 이용 가능하게 될 수 있다. 예를 들어, 음악 콘서트와 관련된 콘텐츠는 그 음악 콘서트의 지속기간 동안 "스토리"로서 이용 가능하게 될 수 있다. 컬렉션 관리 시스템(204)은 또한 메시징 클라이언트(104)의 사용자 인터페이스에게 특정 컬렉션의 존재의 통지를 제공하는 아이콘을 게시하는 것을 담당할 수 있다.
컬렉션 관리 시스템(204)은 더욱이 컬렉션 관리자가 콘텐츠의 특정 컬렉션을 관리 및 큐레이팅하는 것을 허용하는 큐레이션 인터페이스(212)를 포함한다. 예를 들어, 큐레이션 인터페이스(212)는 이벤트 조직자가 특정적 이벤트에 관련한 콘텐츠의 컬렉션을 큐레이팅(예를 들어, 부적절한 콘텐츠 또는 중복 메시지들을 삭제)하는 것을 가능하게 한다. 추가적으로, 컬렉션 관리 시스템(204)은 머신 비전(또는 이미지 인식 기술) 및 콘텐츠 규칙들을 채택하여 콘텐츠 컬렉션을 자동으로 큐레이팅한다. 특정 예들에서, 사용자 생성 콘텐츠를 컬렉션에 포함시키는 것에 대한 보상이 사용자에게 지불될 수 있다. 이러한 경우에, 컬렉션 관리 시스템(204)은 이러한 사용자들에게 그들의 콘텐츠의 사용에 대해 자동적으로 지불하도록 동작한다.
일부 예들에서, 컬렉션 관리 시스템(204)에 의해 제공되는 기능성은 개발자 도구 서버(117)에 의해 연관된 제3자 앱들 내에 포함시키기 위해 제3자 개발자들에게 이용가능하게 될 수 있다.
증강 시스템(206)은 사용자가 메시지와 연관될 수 있는 미디어 콘텐츠를 증강(예를 들어, 주석을 달거나 또는 그렇지 않으면 수정 또는 편집)할 수 있게 하는 다양한 기능들을 제공한다. 예를 들어, 증강 시스템(206)은 시스템(100)에 의해 처리되는 메시지들에 대한 미디어 오버레이들의 생성 및 게시와 관련된 기능들을 제공한다. 미디어 오버레이들은 데이터베이스(120)에 저장되고 데이터베이스 서버(118)를 통해 액세스될 수 있다.
일부 예들에서, 증강 시스템(206)은, 예를 들어, JavaScript 또는 Java와 같은, 앱 개발에 적절한 프로그래밍 언어를 사용하여 구현될 수 있고 및 각자의 AR 컴포넌트 식별자들에 의해 메시징 서버 시스템에서 식별되는 AR 컴포넌트들에의 액세스를 제공하도록 구성된다. AR 컴포넌트는 이미지 수정, 필터, 미디어 오버레이, 변환, 및 그와 유사한 것에 대응하는 다양한 이미지 처리 동작들을 포함하거나 이것들을 참조할 수 있다. 이러한 이미지 처리 동작들은 디지털 이미지 센서 또는 카메라에 의해 캡처되는 객체들, 표면들, 배경들, 조명 등이 컴퓨터 생성 지각 정보에 의해 향상되는, 실세계 환경의 상호작용 경험을 제공할 수 있다. 이런 맥락에서, AR 컴포넌트는 선택된 증강 현실 경험을 이미지 또는 비디오 피드에 적용하는 데 필요한 데이터, 파라미터들, 및 다른 자산들의 컬렉션을 포함한다.
일부 실시예들에서, AR 컴포넌트는 클라이언트 디바이스의 GUI(graphical user interface) 내에 제시된 이미지 데이터를 소정 방식으로 수정 또는 변환하도록 구성된 모듈들을 포함한다. 예를 들어, 비디오 클립에서의 사람 머리에 토끼 귀들을 추가하는 것, 비디오 클립에 배경 컬러링을 갖는 부유 하트(floating heart)들을 추가하는 것, 비디오 클립 내에서의 사람의 피처들의 비율들을 변경하는 것, 또는 많은 수많은 다른 그러한 변환들과 같은, 콘텐츠 이미지들에 대한 복잡한 추가들 또는 변환들이 AR 컴포넌트 데이터를 사용하여 수행될 수 있다. 이것은, 이미지가 클라이언트 디바이스와 연관된 카메라를 이용하여 캡처된 다음 AR 컴포넌트 수정과 함께 클라이언트 디바이스의 스크린 상에 디스플레이됨에 따라 이미지를 수정하는 실시간 수정뿐만 아니라, AR 컴포넌트를 이용하여 수정될 수 있는 갤러리 내의 비디오 클립과 같은 저장된 콘텐츠에 대한 수정 둘 다를 포함한다.
AR 컴포넌트에 의해 제공될 수 있는 다양한 증강 현실 기능성은 객체들(예컨대, 얼굴들, 손들, 몸들, 고양이들, 개들, 표면들, 물체들 등)의 검출, 객체들이 비디오 프레임들에서 시야를 떠나고, 시야에 들어가고, 시야 주위를 이동함에 따른 이러한 객체들의 추적, 및 객체들이 추적될 때 이러한 객체들의 수정 또는 변환을 포함한다. 다양한 실시예들에서, 그러한 변환들을 달성하기 위한 상이한 방법들이 이용될 수 있다. 예를 들어, 일부 실시예들은 객체 또는 객체들의 3D 메시 모델을 생성하는 것, 및 변환을 달성하기 위해 비디오 내의 모델의 변환들 및 애니메이션된 텍스처들을 사용하는 것을 수반할 수 있다. 다른 실시예들에서, 객체 상의 포인트들의 추적을 이용하여, 2차원 또는 3차원일 수 있는 이미지 또는 텍스처를 추적 위치에 배치할 수 있다. 또 다른 실시예들에서, 비디오 프레임들의 신경망 분석이 콘텐츠(예를 들어, 비디오의 이미지들 또는 프레임들)에서 이미지들, 모델들, 또는 텍스처들을 배치하기 위해 사용될 수 있다. 따라서, AR 컴포넌트 데이터는 콘텐츠에서 변환들을 생성하기 위해 사용되는 이미지들, 모델들, 및 텍스처들뿐만 아니라, 객체 검출, 추적, 및 배치로 이러한 변환들을 달성하는데 필요한 추가적인 모델링 및 분석 정보 둘 다를 지칭한다.
일부 예들에서, 증강 시스템(206)에 의해 제공되는 기능성은 개발자 도구 서버(117)에 의해 제3자 앱들에 포함시키기 위해 제3자 개발자들에게 이용가능하게 될 수 있다.
데이터 아키텍처
도 3은 특정 예들에 따른, 메시징 서버 시스템(108)의 데이터베이스(120)에 저장될 수 있는 데이터 구조들(300)을 예시하는 개략도이다. 데이터베이스(120)의 콘텐츠가 다수의 테이블을 포함하는 것으로 도시되어 있지만, 데이터는 다른 유형의 데이터 구조에 (예를 들어, 객체 지향 데이터베이스로서) 저장될 수 있다는 것을 알 것이다.
데이터베이스(120)는 메시지 테이블(302) 내에 저장된 메시지 데이터를 포함한다. 이 메시지 데이터는, 임의의 특정한 하나의 메시지에 대해, 적어도 메시지 발신자 데이터, 메시지 수신 측(또는 수신자) 데이터, 및 페이로드를 포함한다. 메시지의 페이로드는 제3자 앱에 내장된 SDK를 활용하여 생성된 콘텐츠를 포함할 수 있다. 메시지에 포함될 수 있고 또한 메시지 테이블(302)에 저장된 메시지 데이터 내에 포함될 수 있는 정보에 관한 추가 상세사항들은 도 4를 참조하여 아래에 설명된다.
엔티티 테이블(304)은 엔티티 데이터를 저장하고, 엔티티 그래프(306) 및 프로필 데이터(308)에 (예를 들어, 참조적으로) 링크된다. 그에 대해 레코드들이 엔티티 테이블(304) 내에 유지되는 엔티티들은 개인들, 회사 엔티티들, 조직들, 객체들, 장소들, 이벤트들, 및 등등을 포함할 수 있다. 엔티티 유형에 관계없이, 그에 관해 메시징 서버 시스템(108)이 데이터를 저장하는 임의의 엔티티는 인식된 엔티티일 수 있다. 각각의 엔티티는 고유 식별자뿐만 아니라 엔티티 유형 식별자(도시되지 않음)를 구비한다.
엔티티 그래프(306)는 엔티티들 사이의 관계 및 연관에 관한 정보를 저장한다. 그러한 관계들은, 단지 예를 들어, 사회적, 전문적(예를 들어, 일반 법인 또는 조직에서의 일) 관심 기반 또는 활동 기반일 수 있다. AR 컴포넌트에 의해 제공되는 기능성을 참조하면, 엔티티 그래프(306)는, AR 컴포넌트가 타깃 미디어 콘텐츠 객체를 수정하기 위해 연관된 클라이언트 디바이스를 제어하는 사용자의 초상화 이미지 이외의 사용자의 초상화 이미지를 사용하는 것을 허용하여, 연관된 클라이언트 디바이스를 제어하는 사용자를 나타내는 프로필에 연결된 추가 프로필을 결정하도록 구성된 경우에, 사용될 수 있는 정보를 저장한다. 앞서 언급한 바와 같이, 사용자의 초상화 이미지는 메시징 시스템에서 사용자를 나타내는 사용자 프로필에 저장될 수 있다.
프로필 데이터(308)는 특정 엔티티에 관한 다중 유형의 프로필 데이터를 저장한다. 프로필 데이터(308)는 특정 엔티티에 의해 특정된 프라이버시 설정들에 기초하여, 선택적으로 사용되고 메시징 시스템(100)의 다른 사용자들에게 제시될 수 있다. 엔티티가 개인인 경우, 프로필 데이터(308)는, 예를 들어, 사용자 이름, 전화 번호, 주소, 설정들(예컨대, 통지 및 프라이버시 설정들)은 물론이고, 사용자 선택 아바타 표현(또는 이러한 아바타 표현들의 컬렉션)을 포함한다. 그 후 특정 사용자는 메시징 시스템(100)을 통해 통신된 메시지들의 콘텐츠 내에 그리고 메시징 클라이언트들(104)에 의해 다른 사용자들에게 디스플레이된 맵 인터페이스들 상에 이들 아바타 표현들 중 하나 이상을 선택적으로 포함할 수 있다. 아바타 표현들의 컬렉션은 사용자가 특정 시간에 통신하기 위해 선택할 수 있는 상태 또는 활동의 그래픽 표현을 제시하는 "상태 아바타들"을 포함할 수 있다.
데이터베이스(120)는 증강 데이터를 증강 테이블(310)에 또한 저장한다. 증강 데이터는 (그에 대해 데이터가 비디오 테이블(314)에 저장되는) 비디오들 및 (그에 대해 데이터가 이미지 테이블(316)에 저장되는) 이미지들과 연관되고 이들에게 적용된다. 일부 예들에서, 증강 데이터는 AR 컴포넌트를 포함하는 다양한 AR 컴포넌트들에 의해 사용된다. 증강 데이터의 예는, 위에서 설명된 바와 같이, AR 컴포넌트와 연관될 수 있고 사용자를 위한 AR 경험을 생성하기 위하여 이용될 수 있는 타깃 미디어 콘텐츠 객체이다.
증강 데이터의 또 다른 예는 이미지 변환들을 일으키기 위해 AR 컴포넌트들에서 사용될 수 있는 AR(augmented reality) 도구들이다. 이미지 변환들은, 이미지가 클라이언트 디바이스(102)의 디지털 이미지 센서를 사용하여 캡처됨에 따라 이미지(예를 들어, 비디오 프레임)를 수정하는 실시간 수정들을 포함한다. 수정된 이미지는 수정들과 함께 클라이언트 디바이스(102)의 스크린 상에 디스플레이된다. AR 도구들은 또한, 갤러리에 저장된 정지 이미지들 또는 비디오 클립들과 같은, 저장된 콘텐츠에 수정들을 적용하기 위해 사용될 수 있다. 다중의 AR 도구에 대한 액세스를 갖는 클라이언트 디바이스(102)에서, 사용자는 상이한 AR 도구들이 어떻게 동일한 비디오 클립을 수정할 것인지를 알아보기 위해 (예를 들어, 상이한 AR 도구들을 활용하도록 구성된 상이한 AR 컴포넌트들을 관여시킴으로써) 상이한 AR 도구들을 단일 비디오 클립에 적용할 수 있다. 예를 들어, 상이한 의사무작위(pseudorandom) 움직임 모델들을 적용하는 다중의 AR 도구는 동일한 캡처된 콘텐츠에 대한 상이한 AR 도구들을 선택함으로써 동일한 캡처된 콘텐츠에 적용될 수 있다. 유사하게, 클라이언트 디바이스(102)가 제공된 카메라의 디지털 이미지 센서에 의해 현재 캡처되고 있는 비디오 이미지들이 어떻게 캡처된 데이터를 수정할 것인지를 보여주기 위해 예시된 수정과 함께 실시간 비디오 캡처가 사용될 수 있다. 이러한 데이터는 스크린 상에 단순히 디스플레이되고 및 메모리에 저장되지 않을 수 있거나, 또는 디지털 이미지 센서에 의해 캡처된 콘텐츠는 수정들과 함께 또는 수정들 없이 (또는 둘 다로) 메모리에 기록되고 저장될 수 있다. 메시징 클라이언트(104)는 상이한 AR 도구들에 의해 생성된 수정들이 동시에 디스플레이에서의 상이한 윈도우들 내에서 어떻게 보일 것인지를 보여줄 수 있는 미리보기 특징을 포함하도록 구성될 수 있다. 이는, 예를 들어, 사용자가 디스플레이 상에 제시되는 상이한 의사무작위 애니메이션들을 갖는 다중의 윈도우를 동시에 보는 것을 허용할 수 있다.
일부 예들에서, 변환될 콘텐츠와 함께 특정 수정이 선택될 때, 변환될 요소들이 컴퓨팅 디바이스에 의해 식별되고, 그 후 이들이 비디오의 프레임들에 존재하는 경우 검출 및 추적된다. 객체의 요소들은 수정을 위한 요청에 따라 수정되고, 따라서 비디오 스트림의 프레임들을 변환한다. 비디오 스트림의 프레임들의 변환은 상이한 종류의 변환을 위한 상이한 방법들에 의해 수행될 수 있다. 예를 들어, 객체의 요소들의 형태들을 변경하는 것을 주로 가리키는 프레임들의 변환들에 대해, 객체의 각각의 요소에 대한 특징적인 포인트들이 (예를 들어, ASM(Active Shape Model) 또는 다른 알려진 방법들을 사용하여) 계산된다. 그 후, 객체의 적어도 하나의 요소 각각에 대해 특징적인 포인트들에 기초한 메시가 생성된다. 이 메시는 비디오 스트림에서 객체의 요소들을 추적하는 다음 스테이지에서 사용된다. 추적 프로세스에서, 각각의 요소에 대한 언급된 메시는 각각의 요소의 위치와 정렬된다. 그 후, 메시 상에 추가적인 포인트들이 생성된다. 수정 요청에 기초하여 각각의 요소에 대해 제1 포인트들의 제1 세트가 생성되고, 제1 포인트 세트 및 수정 요청에 기초하여 각각의 요소에 대해 제2 포인트 세트가 생성된다. 그 후, 비디오 스트림의 프레임들은 제1 및 제2 포인트 세트들 및 메시에 기초하여 객체의 요소들을 수정함으로써 변환될 수 있다. 이러한 방법에서, 수정된 객체의 배경은 배경을 추적하고 수정함으로써 역시 변경되거나 왜곡될 수 있다.
일부 예들에서, 객체의 요소들을 이용하여 객체의 일부 영역들을 변경하는 변환들이 객체의 각각의 요소에 대한 특징적인 포인트들을 계산하고, 계산된 특징적인 포인트들에 기초하여 메시를 생성함으로써 수행될 수 있다. 포인트들이 메시 상에 생성되고, 그 후 포인트들에 기초하는 다양한 영역들이 생성된다. 그 후, 각각의 요소에 대한 영역을 적어도 하나의 요소 각각에 대한 위치와 정렬함으로써 객체의 요소들이 추적되며, 영역들의 속성들이 수정을 위한 요청에 기초하여 수정될 수 있고, 따라서 비디오 스트림의 프레임들을 변환할 수 있다. 수정을 위한 특정적 요청에 좌우되어, 언급된 영역들의 속성들이 상이한 방식들로 변환될 수 있다. 그러한 수정들은 영역들의 컬러를 변경하는 것; 비디오 스트림의 프레임들로부터 영역들의 적어도 일부 부분을 제거하는 것; 수정 요청에 기초하는 영역들 내에 하나 이상의 새로운 객체를 포함시키는 것; 및 영역 또는 객체의 요소들을 수정 또는 왜곡하는 것을 수반할 수 있다. 다양한 실시예들에서, 그러한 수정들 또는 다른 유사한 수정들의 임의의 조합이 이용될 수 있다. 애니메이션될 특정 모델들에 대해, 일부 특징적 포인트들이 모델 애니메이션에 대한 옵션들의 전체 상태-공간을 결정하는데 이용될 제어 포인트들로서 선택될 수 있다.
스토리 테이블(312)은 메시지들 및 연관된 이미지, 비디오, 또는 오디오 데이터의 컬렉션들에 관한 데이터를 저장하는데, 이것들은 컬렉션(예를 들어, 스토리 또는 갤러리)이 되도록 편집된다. 특정 컬렉션의 생성은, 특정 사용자(예를 들어, 그에 대해 레코드가 엔티티 테이블(304)에 유지되는 각각의 사용자)에 의해 개시될 수 있다. 사용자는 그 사용자에 의해 생성되고 전송/브로드캐스팅된 콘텐츠의 컬렉션의 형태로 "개인 스토리(personal story)"를 생성할 수 있다. 이를 위해, 메시징 클라이언트(104)의 사용자 인터페이스는 전송 측 사용자가 자신의 개인 스토리에 특정적 콘텐츠를 추가하는 것을 가능하게 하기 위해 사용자 선택가능한 아이콘을 포함할 수 있다. 일부 예들에서, 스토리 테이블(312)은 AR 컴포넌트를 이용하여 생성된 하나 이상의 이미지 또는 비디오를 저장한다.
컬렉션은 또한, 수동으로, 자동으로, 또는 수동 및 자동 기법의 조합을 이용하여 생성된 다중 사용자로부터의 콘텐츠의 컬렉션인 "라이브 스토리(live story)"를 구성할 수 있다. 예를 들어, "라이브 스토리"는 다양한 로케이션들 및 이벤트들로부터의 사용자-제출 콘텐츠(user-submitted content)의 큐레이팅된 스트림(curated stream)을 구성할 수 있다. 그 클라이언트 디바이스들이 로케이션 서비스 인에이블되고 또한 특정 시간에 공통 로케이션 이벤트에 있는 사용자들에게는, 예를 들어, 메시징 클라이언트(104)의 사용자 인터페이스를 통해, 특정 라이브 스토리에 콘텐츠를 기여하는 옵션이 제시될 수 있다. 라이브 스토리는 자신의 로케이션에 기초하여 메시징 클라이언트(104)에 의해 사용자에게 식별될 수 있다. 최종 결과는 커뮤니티 관점에서 말한 "라이브 스토리"이다.
특정 지리적 로케이션(예를 들어, 단과대학 또는 대학 캠퍼스) 내에 자신의 클라이언트 디바이스(102)가 위치되는 사용자가 특정 컬렉션에 기여하는 것을 가능하게 하는 추가적인 유형의 콘텐츠 컬렉션이 "로케이션 스토리(location story)"라고 알려져 있다. 일부 예들에서, 로케이션 스토리에 대한 기여는 최종 사용자가 특정 조직 또는 다른 엔티티에 속하는지(예를 들어, 대학 캠퍼스의 학생인지)를 검증하기 위해 제2 인증 정도를 요구할 수 있다.
위에 언급된 바와 같이, 비디오 테이블(314)은, 일 예에서, 그에 대해 레코드들이 메시지 테이블(302) 내에 유지되는 메시지들과 연관되는 비디오 데이터를 저장한다. 유사하게, 이미지 테이블(316)은 그에 대한 메시지 데이터가 엔티티 테이블(304)에 저장되는 메시지들과 연관된 이미지 데이터를 저장한다. 엔티티 테이블(304)은 증강 테이블(310)로부터의 다양한 증강들을 이미지 테이블(316) 및 비디오 테이블(314)에 저장된 다양한 이미지들 및 비디오들과 연관시킬 수 있다.
데이터 통신 아키텍처
도 4는 추가 메시징 클라이언트(104) 또는 메시징 서버(114)로의 통신을 위해 메시징 클라이언트(104)에 의해 생성된, 일부 예들에 따른, 메시지(400)의 구조를 예시하는 개략도이다. 특정 메시지(400)의 콘텐츠는 메시징 서버(114)에 의해 액세스 가능한, 데이터베이스(120) 내에 저장된 메시지 테이블(302)을 채우기 위해 사용된다. 유사하게, 메시지(400)의 콘텐츠는 클라이언트 디바이스(102) 또는 애플리케이션 서버들(112)의 "수송중(in-transit)" 또는 "비행중(in-flight) 데이터로서 메모리에 저장된다. 메시지(400)의 콘텐츠는, 일부 예들에서, AR 컴포넌트를 사용하여 생성된 이미지 또는 비디오를 포함한다. 메시지(400)는 다음의 예시적인 컴포넌트들을 포함하는 것으로 도시된다:
· 메시지 식별자(402): 메시지(400)를 식별하는 고유 식별자.
· 메시지 텍스트 페이로드(404): 클라이언트 디바이스(102)의 사용자 인터페이스를 통해 사용자에 의해 생성되고 메시지(400)에 포함되는 텍스트.
· 메시지 이미지 페이로드(406): 클라이언트 디바이스(102)의 카메라 컴포넌트에 의해 캡처되거나 또는 클라이언트 디바이스(102)의 메모리 컴포넌트로부터 검색되고, 메시지(400)에 포함되는 이미지 데이터. 전송 또는 수신된 메시지(400)에 대한 이미지 데이터는 이미지 테이블(316)에 저장될 수 있다. 송신 또는 수신된 메시지(400)에 대한 이미지 데이터는, 일부 예들에서, 제3자 앱에 내장된 SDK를 활용하여 증강된 이미지이다.
· 메시지 비디오 페이로드(408): 카메라 컴포넌트에 의해 캡처되거나 또는 클라이언트 디바이스(102)의 메모리 컴포넌트로부터 검색되고, 및 메시지(400)에 포함되는 비디오 데이터. 송신 또는 수신된 메시지(400)에 대한 비디오 데이터는 비디오 테이블(314)에 저장될 수 있다.
· 메시지 오디오 페이로드(410): 마이크로폰에 의해 캡처되거나 또는 클라이언트 디바이스(102)의 메모리 컴포넌트로부터 검색되고 메시지(400)에 포함되는 오디오 데이터.
· 메시지 증강 데이터(412): 메시지(400)의 메시지 이미지 페이로드(406), 메시지 비디오 페이로드(408), 또는 메시지 오디오 페이로드(410)에 적용될 증강들을 나타내는 증강 데이터(예를 들어, 필터들, 스티커들, 또는 다른 주석들 또는 강화물들). 송신된 또는 수신된 메시지(400)에 대한 증강 데이터는 증강 테이블(310)에 저장될 수 있다.
· 메시지 지속기간 파라미터(414): 그에 대해 메시지의 콘텐츠(예를 들어, 메시지 이미지 페이로드(406), 메시지 비디오 페이로드(408), 메시지 오디오 페이로드(410))가 메시징 클라이언트(104)를 통해 사용자에게 제시되거나 액세스 가능하게 되는 시간의 양을 초 단위로 표시하는 파라미터 값.
· 메시지 지오로케이션 파라미터(416): 메시지의 콘텐츠 페이로드와 연관된 지오로케이션 데이터(예를 들어, 위도 및 경도 좌표). 다중의 메시지 지오로케이션 파라미터(416) 값이 페이로드에 포함될 수 있으며, 이들 파라미터 값들 각각은 콘텐츠(예를 들어, 메시지 이미지 페이로드(406) 내의 특정적 이미지, 또는 메시지 비디오 페이로드(408) 내의 특정적 비디오)에 포함된 콘텐츠 아이템들에 관하여 연관된다.
· 메시지 스토리 식별자(418): 메시지(400)의 메시지 이미지 페이로드(406) 내의 특정 콘텐츠 아이템이 그와 연관되어 있는 하나 이상의 콘텐츠 컬렉션(예를 들어, 스토리 테이블(312)에서 식별되는 "스토리들")을 식별하는 식별자 값들. 예를 들어, 메시지 이미지 페이로드(406) 내의 다중의 이미지 각각은 식별자 값들을 이용하여 다중의 콘텐츠 컬렉션과 연관될 수 있다.
· 메시지 태그(420): 각각의 메시지(400)는 다중의 태그로 태깅될 수 있고, 그 각각은 메시지 페이로드에 포함된 콘텐츠의 주제를 나타낸다. 예를 들어, 메시지 이미지 페이로드(406)에 포함된 특정 이미지가 동물(예를 들어, 사자)을 묘사하는 경우, 관련 동물을 나타내는 태그 값이 메시지 태그(420) 내에 포함될 수 있다. 태그 값은 사용자 입력에 기초하여 수동으로 생성되거나, 예를 들어, 이미지 인식을 이용하여 자동으로 생성될 수 있다.
· 메시지 발신자 식별자(422): 그 상에서 메시지(400)가 생성되었고 그로부터 메시지(400)가 전송된 클라이언트 디바이스(102)의 사용자를 나타내는 식별자(예를 들어, 메시징 시스템 식별자, 이메일 어드레스, 또는 디바이스 식별자).
· 메시지 수신자 식별자(424): 메시지(400)가 어드레싱되는 클라이언트 디바이스(102)의 사용자를 나타내는 식별자(예를 들어, 메시징 시스템 식별자, 이메일 주소, 또는 디바이스 식별자).
메시지(400)의 다양한 컴포넌트들의 콘텐츠(예를 들어, 값들)는 그 내에 콘텐츠 데이터 값들이 저장되어 있는 테이블에서의 로케이션들에 대한 포인터들일 수 있다. 예를 들어, 메시지 이미지 페이로드(406)에서의 이미지 값은 이미지 테이블(316) 내의 로케이션에 대한 포인터(또는 그 주소)일 수 있다. 유사하게, 메시지 비디오 페이로드(408) 내의 값들은 비디오 테이블(314) 내에 저장된 데이터를 가리킬 수 있고, 메시지 증강(412) 내에 저장된 값들은 증강 테이블(310)에 저장된 데이터를 가리킬 수 있고, 메시지 스토리 식별자(418) 내에 저장된 값들은 스토리 테이블(312)에 저장된 데이터를 가리킬 수 있고, 메시지 전송자 식별자(422) 및 메시지 수신자 식별자(424) 내에 저장된 값들은 엔티티 테이블(304) 내에 저장된 사용자 레코드들을 가리킬 수 있다.
시간 기반 액세스 제한 아키텍처
도 5는 그에 관하여 콘텐츠(예를 들어, 단기적 메시지(502), 및 데이터의 연관된 멀티미디어 페이로드) 또는 콘텐츠 컬렉션(예를 들어, 단기적 메시지 그룹(504))에의 액세스가 시간 제한될(예를 들어, 단기적으로 될) 수 있는, 액세스 제한 프로세스(500)를 예시하는 개략도이다. 일부 예들에서, 단기적 메시지(502)의 콘텐츠는 제3자 앱에 내장된 SDK를 활용하여 증강된 이미지를 포함한다.
단기적 메시지(502)는 메시지 지속기간 파라미터(506)와 연관되는 것으로 도시되어 있고, 그 값은 단기적 메시지(502)가 메시징 클라이언트(104)에 의해 단기적 메시지(502)의 수신 측 사용자에게 디스플레이될 시간량을 결정한다. 일 예에서, 전송 측 사용자가 메시지 지속기간 파라미터(506)를 사용하여 지정하는 시간량에 좌우되어, 최대 10초에 이르기까지 동안 수신 측 사용자가 단기적 메시지(502)를 볼 수 있다.
메시지 지속기간 파라미터(506) 및 메시지 수신자 식별자(424)는 메시지 타이머(512)에 대한 입력들인 것으로 도시되어 있으며, 메시지 타이머(512)는 단기적 메시지(502)가 메시지 수신자 식별자(424)에 의해 식별된 특정 수신 측 사용자에게 보여지는 시간량을 결정하는 것을 담당한다. 특히, 단기적 메시지(502)는 메시지 지속기간 파라미터(506)의 값에 의해 결정된 시간 기간 동안 관련 수신 측 사용자에게만 보여질 것이다. 메시지 타이머(512)는 수신 측 사용자에게 콘텐츠(예를 들어, 단기적 메시지(502))의 디스플레이의 전체 타이밍을 담당하는 더 일반화된 단기적 타이머 시스템(202)에 출력을 제공하는 것으로 도시되어 있다.
단기적 메시지(502)는 단기적 메시지 그룹(504)(예를 들어, 개인 스토리 또는 이벤트 스토리에서의 메시지들의 컬렉션) 내에 포함되는 것으로 도 5에 도시되어 있다. 단기적 메시지 그룹(504)은 연관된 그룹 지속기간 파라미터(508)를 가지며, 그 값은 그에 대해 단기적 메시지 그룹(504)이 메시징 시스템(100)의 사용자들에게 제시되고 액세스 가능한 시간 지속기간을 결정한다. 그룹 지속기간 파라미터(508)는, 예를 들어, 음악 콘서트의 지속기간일 수 있고, 여기서 단기적 메시지 그룹(504)은 그 콘서트에 관련된 콘텐츠의 컬렉션이다. 대안적으로, 사용자(소유 사용자 또는 큐레이터 사용자)는 단기적 메시지 그룹(504)의 셋업 및 생성을 수행할 때 그룹 지속기간 파라미터(508)에 대한 값을 지정할 수 있다.
추가적으로, 단기적 메시지 그룹(504) 내의 각각의 단기적 메시지(502)는 연관된 그룹 참여 파라미터(510)를 가지며, 그 값은 그에 대해 단기적 메시지(502)가 단기적 메시지 그룹(504)의 컨텍스트 내에서 액세스 가능할 시간의 지속기간을 결정한다. 따라서, 특정 단기적 메시지 그룹(504)은, 단기적 메시지 그룹(504) 자체가 그룹 지속기간 파라미터(508)의 관점에서 만료되기 전에, 단기적 메시지 그룹(504)의 컨텍스트 내에서 "만료"되고 액세스 불가능하게 될 수 있다. 그룹 지속기간 파라미터(508), 그룹 참여 파라미터(510), 및 메시지 수신자 식별자(424)는 각각 그룹 타이머(514)에 대한 입력을 제공하며, 이것은 동작적으로, 먼저, 단기적 메시지 그룹(504)의 특정 단기적 메시지(502)가 특정 수신 측 사용자에게 디스플레이될 것인지, 그리고 그렇다면, 얼마나 오랫동안 디스플레이될지를 결정한다. 단기적 메시지 그룹(504)은 또한 메시지 수신자 식별자(424)의 결과로서 특정 수신 측 사용자의 아이덴티티를 인식한다는 점에 유의한다.
따라서, 그룹 타이머(514)는 연관된 단기적 메시지 그룹(504)뿐만 아니라, 단기적 메시지 그룹(504)에 포함된 개별 단기적 메시지(502)의 전체 수명을 동작적으로 제어한다. 일 예에서, 단기적 메시지 그룹(504) 내의 각각의 및 모든 단기적 메시지(502)는 그룹 지속기간 파라미터(508)에 의해 지정된 시간 기간 동안 시청가능하고 액세스가능하게 유지된다. 추가 예에서, 특정 단기적 메시지(502)는, 그룹 참여 파라미터(510)에 기초하여, 단기적 메시지 그룹(504)의 컨텍스트 내에서 만료될 수 있다. 메시지 지속기간 파라미터(506)는 단기적 메시지 그룹(504)의 컨텍스트 내에서도, 특정 단기적 메시지(502)가 수신 측 사용자에게 디스플레이되는 시간의 지속기간을 여전히 결정할 수 있다는 점에 유의한다. 따라서, 메시지 지속기간 파라미터(506)는 수신 측 사용자가 단기적 메시지 그룹(504)의 컨텍스트 내부 또는 외부에서 해당 단기적 메시지(502)를 보고 있는지에 관계없이, 특정 단기적 메시지(502)가 수신 측 사용자에게 디스플레이되는 시간의 지속기간을 결정한다.
단기적 타이머 시스템(202)은 더욱이 동작적으로 특정 단기적 메시지(502)가 연관된 그룹 참여 파라미터(510)를 초과했다는 결정에 기초하여 단기적 메시지 그룹(504)으로부터 특정 단기적 메시지(502)를 제거할 수 있다. 예를 들어, 전송 측 사용자가 포스팅(posting)으로부터 24 시간의 그룹 참여 파라미터(510)를 확립했을 때, 단기적 타이머 시스템(202)은 지정된 24 시간 후에 단기적 메시지 그룹(504)으로부터 관련된 단기적 메시지(502)를 제거할 것이다. 단기적 타이머 시스템(202)은 또한 단기적 메시지 그룹(504) 내의 각각의 그리고 모든 단기적 메시지(502)에 대한 그룹 참여 파라미터(510)가 만료되었을 때, 또는 단기적 메시지 그룹(504) 자체가 그룹 지속기간 파라미터(508)의 관점에서 만료되었을 때 단기적 메시지 그룹(504)을 제거하도록 동작한다.
특정 사용 경우들에서, 특정 단기적 메시지 그룹(504)의 생성자는 무한(indefinite) 그룹 지속기간 파라미터(508)를 지정할 수 있다. 이 경우, 단기적 메시지 그룹(504) 내의 마지막 나머지 단기적 메시지(502)에 대한 그룹 참여 파라미터(510)의 만료는 단기적 메시지 그룹(504) 자체가 만료될 때를 결정할 것이다. 이 경우, 단기적 메시지 그룹(504)에 추가된 새로운 단기적 메시지(502)는, 새로운 그룹 참여 파라미터(510)에 의해, 단기적 메시지 그룹(504)의 수명을 그룹 참여 파라미터(510)의 값과 동일하도록 효과적으로 연장한다.
단기적 타이머 시스템(202)이 단기적 메시지 그룹(504)이 만료된 것으로(예를 들어, 더 이상 액세스 가능하지 않은 것으로) 결정한 것에 응답하여, 단기적 타이머 시스템(202)은 메시징 시스템(100)(및 예를 들어, 구체적으로 메시징 클라이언트(104))과 통신하여, 관련된 단기적 메시지 그룹(504)과 연관된 표시(예를 들어, 아이콘)가 더 이상 메시징 클라이언트(104)의 사용자 인터페이스 내에 디스플레이되지 않도록 야기한다. 유사하게, 단기적 타이머 시스템(202)이 특정 단기적 메시지(502)에 대한 메시지 지속기간 파라미터(506)가 만료된 것을 결정할 때, 단기적 타이머 시스템(202)은 메시징 클라이언트(104)로 하여금 단기적 메시지(502)와 연관된 표시(예를 들어, 아이콘 또는 텍스트 식별)를 더 이상 디스플레이하지 않게 야기한다.
내장된 SDK
도 6은 일부 예들에 따른 내장된 SDK(600)의 도식적 표현이다. 도 6에 도시된 바와 같이, 내장된 SDK(600)는 SDK 관여 모니터(610) 및 몇 개의 개발 키트, 즉 증강 현실 키트(620), 컬렉션 키트(630) 및 로그인 키트(640)를 포함한다.
증강 현실 키트(620)는 제3자 앱의 사용자들이 도 2를 참조하여 설명되는 증강 시스템(206)에 의해 제공되는 특징들 중 적어도 일부에 액세스하는 것을 허용하도록 구성된다. 예를 들어, 증강 현실 키트(620)는 제3자 앱의 사용자들에게, 디지털 이미지 센서에 의해 캡처되고 있는 사람의 머리 위치를 검출하고 검출된 머리 위치 위에 파티 모자의 이미지를 오버레이하는 AR 컴포넌트에 대한 액세스를 제공하여, 뷰어가 카메라 뷰 스크린 상에 제시되는 사람을 파티 모자를 착용한 것으로 보도록 할 수 있다. 내장된 SDK(600)가, 연관된 시각 제어에 대한 사용자 개시 제스처와 같은 증강 현실 키트(620)의 관여를 나타내는 이벤트를 검출할 때, 내장된 SDK(600)는 메시징 클라이언트(104)에 메시징 클라이언트(104)에 의해 제공된 카메라 뷰 스크린에 론칭한다.
컬렉션 키트(630)는 제3자 앱의 사용자들이 사용자가 이미지들 또는 짧은 비디오들과 같은 몇 개의 콘텐츠 아이템을, 이들 콘텐츠 아이템들이 캡처되고 있음에 따라 브로드캐스팅될 수 있는 컬렉션이 되도록 조합하는 것을 허용하는 기능성에 액세스하는 것을 허용하도록 구성된다. 로그인 키트(640)는 제3자 앱의 사용자들이 메시징 시스템에 대한 사용자의 자격증명들을 사용하여 제3자 앱에 연결하는 것을 허용하도록 구성된다.
SDK 관여 모니터(610)는 이벤트 검출기(612), 캘린더 날짜 생성기(614), 및 일일 세션 버킷 구축기(daily session bucket builder)(616)를 포함한다. 이벤트 검출기(612)는 각각의 앱 개방 이벤트를 검출하고 그것을 개방 이벤트 메시지의 형태로 SDK 제공자 시스템에 보고한다. 위에서 설명된 바와 같이, 앱 개방 이벤트는 앱의 론칭 동작뿐만 아니라 앱의 전경화 동작을 나타낸다. 캘린더 날짜 생성기(614)는 하루, 한 달 및 한 해의 형태로 앱 개방 이벤트와 연관된 캘린더 날짜를 생성한다. 일일 세션 버킷 구축기(616)는 이벤트 검출기(612)가 앱 개방 이벤트를 검출하고 업데이트된 앱 개방 이벤트들의 카운트에 기초하여 일일 버킷 식별자를 생성할 때마다 클라이언트 디바이스에 저장된 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트를 업데이트하고, 생성된 일일 버킷 식별자를 SDK 제공자 시스템에 통신하기 위해 개방 이벤트 메시지에 포함시킨다. 내장된 SDK(600)에 의해 수행되는 일부 동작은 도 7을 참조하여 설명된다.
내장된 SDK의 관여를 모니터링하기 위한 방법
도 7은 일부 예들에 따른, 내장된 SDK의 관여를 모니터링하기 위한 방법의 흐름도이다. 설명된 흐름도들이 동작들을 순차적인 프로세스로서 도시할 수 있지만, 동작들 중 다수는 병렬로 또는 동시에 수행될 수 있다. 또한, 동작들의 순서는 재배열될 수 있다. 프로세스는 그것의 동작들이 완료될 때 종료된다. 프로세스는 방법, 절차, 알고리즘 등에 대응할 수 있다. 방법들의 동작들은 전체적으로 또는 부분적으로 수행될 수도 있고, 다른 방법들에서의 동작들의 일부 또는 전부와 연계하여 수행될 수도 있고, 본 명세서에서 설명된 시스템들과 같은 임의의 수의 상이한 시스템들, 또는 시스템들 중의 임의의 것 내에 포함된 프로세서와 같은 그 임의의 부분에 의해 수행될 수도 있다.
다양한 예들에서, 일부 또는 모든 처리 로직은 클라이언트 디바이스(102)에 상주한다. 방법(700)은 클라이언트 디바이스에서 제3자 앱의 개방을 나타내는 앱 개방 이벤트가 제3자 앱에 내장된 SDK에서 검출될 때, 동작(710)에서 시작한다. 동작(720)에서, 검출된 앱 개방 이벤트의 캘린더 날짜가 결정된다. 동작(730)에서, 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트가 업데이트되고, 동작(740)에서, 앱 개방 이벤트들의 업데이트된 카운트에 기초하여 일일 버킷 식별자가 생성된다. 동작(750)에서, 내장된 SDK는 위에 설명한 바와 같이, 캘린더 날짜 및 버킷 식별자를 개방 이벤트 메시지의 형태로 SDK 제공자 시스템에 송신한다.
머신 아키텍처
도 8은, 머신(800)으로 하여금 본 명세서에서 논의된 방법론들 중 어느 하나 이상을 수행하게 야기하기 위한 명령어들(808)(예를 들어, 소프트웨어, 프로그램, 애플리케이션, 애플릿, 앱, 또는 기타의 실행가능 코드)이 그 내에서 실행될 수 있는 머신(800)의 도식적 표현이다. 예를 들어, 명령어들(808)은 머신(800)으로 하여금 본 명세서에서 설명된 방법들 중 어느 하나 이상을 실행하게 야기할 수 있다. 명령어들(808)은, 일반적인 비프로그래밍된 머신(800)을, 설명되고 예시된 기능들을 설명된 방식으로 완수하도록 프로그래밍된 특정 머신(800)이 되도록 변환한다. 머신(800)은 독립형 디바이스로서 동작하거나 또는 다른 머신들에 결합(예를 들어, 네트워킹)될 수 있다. 네트워킹된 배치에서, 머신(800)은 서버-클라이언트 네트워크 환경에서 서버 머신 또는 클라이언트 머신의 자격으로, 또는 피어-투-피어(또는 분산형) 네트워크 환경에서 피어 머신으로서 동작할 수 있다. 머신(800)은 서버 컴퓨터, 클라이언트 컴퓨터, 개인용 컴퓨터(PC), 태블릿 컴퓨터, 랩톱 컴퓨터, 넷북, STB(set-top box), PDA(personal digital assistant), 엔터테인먼트 미디어 시스템, 셀룰러 전화, 스마트폰, 모바일 디바이스, 착용형 디바이스(예를 들어, 스마트 시계), 스마트 홈 디바이스(예를 들어, 스마트 어플라이언스), 다른 스마트 디바이스, 웹 어플라이언스, 네트워크 라우터, 네트워크 스위치, 네트워크 브리지, 또는 머신(800)에 의해 취해질 동작들을 지정하는 명령어들(808)을 순차적으로 또는 기타의 방식으로 실행할 수 있는 임의의 머신을 포함할 수 있는데, 이것들에만 제한되는 것은 아니다. 또한, 단 하나의 머신(800)만이 예시되어 있지만, 용어 "머신"은 또한, 본 명세서에서 논의된 방법론들 중 어느 하나 이상을 수행하기 위해 명령어들(808)을 개별적으로 또는 공동으로 실행하는 머신들의 컬렉션을 포함하는 것으로 간주될 것이다. 머신(800)은, 예를 들어, 클라이언트 디바이스(102) 또는 메시징 서버 시스템(108)의 일부를 형성하는 다수의 서버 디바이스 중 어느 하나를 포함할 수 있다. 일부 예들에서, 머신(800)은 또한, 특정 방법 또는 알고리즘의 특정 동작들이 서버 측에서 수행되고 그리고 특정 방법 또는 알고리즘의 특정 동작들이 클라이언트 측에서 수행되면서, 클라이언트 및 서버 시스템들 둘 다를 포함할 수 있다.
머신(800)은, 버스(840)를 통해 서로 통신하도록 구성될 수 있는, 프로세서들(802), 메모리(804), 및 입력/출력 I/O 컴포넌트들(838)을 포함할 수 있다. 예에서, 프로세서들(802)(예를 들어, CPU(Central Processing Unit), RISC(Reduced Instruction Set Computing) 프로세서, CISC(Complex Instruction Set Computing) 프로세서, GPU(Graphics Processing Unit), DSP(Digital Signal Processor), ASIC(Application Specific Integrated Circuit), RFIC(Radio-Frequency Integrated Circuit), 또 다른 프로세서, 또는 이들의 임의의 적절한 조합)은, 예를 들어, 명령어들(808)을 실행하는 프로세서(806) 및 프로세서(810)를 포함할 수 있다. 용어 "프로세서"는, 동시에 명령어들을 실행할 수 있는 2개 이상의 독립된 프로세서(때때로 "코어"로서 지칭됨)를 포함할 수 있는 멀티-코어 프로세서를 포함하도록 의도된다. 도 8은 다중의 프로세서(802)를 도시하고 있지만, 머신(800)은, 단일-코어를 갖는 단일 프로세서, 다중 코어를 갖는 단일 프로세서(예를 들어, 멀티-코어 프로세서), 단일 코어를 갖는 다중 프로세서, 다중 코어를 갖는 다중 프로세서, 또는 이들의 임의의 조합을 포함할 수 있다.
메모리(804)는 메인 메모리(812), 정적 메모리(814), 및 저장 유닛(816)을 포함하고, 둘 다 버스(840)를 통해 프로세서들(802)이 액세스 가능하다. 메인 메모리(804), 정적 메모리(814), 및 저장 유닛(816)은 본 명세서에 설명된 방법론들 또는 기능들 중 어느 하나 이상을 구체화하는 명령어들(808)을 저장한다. 명령어들(808)은 또한, 머신(800)에 의한 그 실행 동안, 완전히 또는 부분적으로, 메인 메모리(812) 내에, 정적 메모리(814) 내에, 저장 유닛(816) 내의 머신 판독가능 매체(818) 내에, 프로세서들(802) 중 적어도 하나 내에(예를 들어, 프로세서의 캐시 메모리 내에), 또는 이들의 임의의 적합한 조합으로 상주할 수 있다.
I/O 컴포넌트들(838)은 입력을 수신하고, 출력을 제공하고, 출력을 생성하고, 정보를 송신하고, 정보를 교환하고, 측정들을 캡처하는 등을 위한 매우 다양한 컴포넌트들을 포함할 수 있다. 특정 머신에 포함되는 특정적 I/O 컴포넌트들(838)은 머신의 유형에 의존할 것이다. 예를 들어, 모바일 폰들과 같은 휴대용 머신들은 터치 입력 디바이스 또는 다른 그러한 입력 메커니즘들을 포함할 수 있는 한편, 헤드리스 서버 머신은 그러한 터치 입력 디바이스를 포함하지 않을 가능성이 크다. I/O 컴포넌트들(838)은 도 8에 도시되지 않은 많은 다른 컴포넌트들을 포함할 수 있다는 점을 알 것이다. 다양한 예들에서, I/O 컴포넌트들(838)은 사용자 출력 컴포넌트들(824) 및 사용자 입력 컴포넌트들(826)을 포함할 수 있다. 사용자 출력 컴포넌트들(824)은 시각적 컴포넌트들(예를 들어, 플라즈마 디스플레이 패널(PDP), 발광 다이오드(LED) 디스플레이, 액정 디스플레이(LCD), 프로젝터, 또는 CRT(cathode ray tube)와 같은 디스플레이), 음향 컴포넌트들(예를 들어, 스피커들), 햅틱 컴포넌트들(예를 들어, 진동 모터, 저항 메커니즘들), 다른 신호 생성기들 등을 포함할 수 있다. 사용자 입력 컴포넌트들(826)은 영숫자 입력 컴포넌트들(예를 들어, 키보드, 영숫자 입력을 수신하도록 구성된 터치 스크린, 포토-광학 키보드, 또는 다른 영숫자 입력 컴포넌트들), 포인트 기반 입력 컴포넌트들(예를 들어, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서, 또는 또 다른 포인팅 기구), 촉각 입력 컴포넌트들(예를 들어, 물리적 버튼, 터치들 또는 터치 제스처들의 로케이션 및 힘을 제공하는 터치 스크린, 또는 다른 촉각 입력 컴포넌트들), 오디오 입력 컴포넌트들(예를 들어, 마이크로폰) 등을 포함할 수 있다.
추가의 예들에서, I/O 컴포넌트들(838)은, 매우 다양한 기타 컴포넌트들 중에서도 특히, 바이오메트릭 컴포넌트들(828), 모션 컴포넌트들(830), 환경 컴포넌트들(832), 또는 위치 컴포넌트들(834)을 포함할 수 있다. 예를 들어, 바이오메트릭 컴포넌트들(828)은, 표현들(예를 들어, 손 표현, 얼굴 표현, 음성 표현, 신체 제스처, 또는 눈-추적)을 검출하고, 생체신호들(예를 들어, 혈압, 심박수, 체온, 땀 또는 뇌파)을 측정하고, 사람을 식별(예를 들어, 음성 식별, 망막 식별, 얼굴 식별, 지문 식별, 또는 뇌파계-기반 식별)하고, 및 그와 유사한 것을 하는 컴포넌트들을 포함한다. 모션 컴포넌트들(830)은, 가속도 센서 컴포넌트들(예를 들어, 가속도계), 중력 센서 컴포넌트들, 회전 센서 컴포넌트들(예를 들어, 자이로스코프)을 포함한다.
환경 컴포넌트들(832)은, 예를 들어, (정지 이미지/사진 및 비디오 능력을 갖춘) 하나 이상의 카메라, 조명 센서 컴포넌트들(예를 들어, 광도계), 온도 센서 컴포넌트들(예를 들어, 주변 온도를 검출하는 하나 이상의 온도계), 습도 센서 컴포넌트들, 압력 센서 컴포넌트들(예를 들어, 기압계), 음향 센서 컴포넌트들(예를 들어, 배경 잡음을 검출하는 하나 이상의 마이크로폰), 근접 센서 컴포넌트(예를 들어, 근처의 물체를 검출하는 적외선 센서), 가스 센서들(예를 들어, 안전을 위해 유해성 가스의 농도를 검출하거나 대기 중의 오염 물질을 측정하는 가스 검출 센서), 또는 주변의 물리적 환경에 대응하는 표시, 측정치, 또는 신호를 제공할 수 있는 기타 컴포넌트들을 포함한다.
카메라들과 관련하여, 클라이언트 디바이스(102)는, 예를 들어, 클라이언트 디바이스(102)의 전방 표면 상의 전방 카메라들 및 클라이언트 디바이스(102)의 후방 표면 상의 후방 카메라들을 포함하는 카메라 시스템을 가질 수 있다. 전방 카메라들은, 예를 들어, 클라이언트 디바이스(102)의 사용자의 정지 이미지들 및 비디오(예를 들어, "셀피")를 캡처하기 위해 사용될 수 있고, 이것은 이후 전술한 증강 데이터(예를 들어, 필터들)로 증강될 수 있다. 후방 카메라들은 예를 들어, 더 전통적인 카메라 모드에서 정지 이미지들 및 비디오들을 캡처하기 위해 사용될 수 있고, 이들 이미지들은 유사하게 증강 데이터로 증강된다. 전방 및 후방 카메라들에 더하여, 클라이언트 디바이스(102)는 360° 사진들 및 비디오들을 캡처하기 위한 360° 카메라를 또한 포함할 수 있다.
또한, 클라이언트 디바이스(102)의 카메라 시스템은 클라이언트 디바이스(102)의 전방 및 후방 측면들 상에 이중 후방 카메라들(예를 들어, 주 카메라뿐만 아니라 깊이 감지 카메라), 또는 심지어 삼중, 사중 또는 오중 후방 카메라 구성들을 포함할 수 있다. 이러한 다중 카메라 시스템은 예를 들어, 와이드 카메라, 울트라 와이드 카메라, 텔레포토 카메라, 매크로 카메라, 및 깊이 센서를 포함할 수 있다.
위치 컴포넌트(834)는, 로케이션 센서 컴포넌트(예를 들어, GPS(Global Positioning System) 수신기 컴포넌트), 고도 센서 컴포넌트(고도계 또는 고도가 그로부터 도출될 수 있는 기압을 검출하는 기압계), 오리엔테이션 센서 컴포넌트(예를 들어, 자력계) 등을 포함한다.
통신은 다양한 기술을 이용하여 구현될 수 있다. I/O 컴포넌트(838)는, 머신(800)을 각자의 결합 또는 접속을 통해 네트워크(820) 또는 디바이스(822)에 결합하도록 동작가능한 통신 컴포넌트(836)를 추가로 포함한다. 예를 들어, 통신 컴포넌트(836)는, 네트워크 인터페이스 컴포넌트, 또는 네트워크(820)와 인터페이스하기에 적합한 또 다른 디바이스를 포함할 수 있다. 추가 예에서, 통신 컴포넌트(836)는 유선 통신 컴포넌트, 무선 통신 컴포넌트, 셀룰러 통신 컴포넌트, NFC(Near Field Communication) 컴포넌트, Bluetooth® 컴포넌트(예를 들어, Bluetooth® Low Energy), Wi-Fi® 컴포넌트, 및 다른 양태를 통해 통신을 제공하는 기타 통신 컴포넌트를 포함할 수 있다. 디바이스(822)는 또 다른 머신 또는 다양한 주변 디바이스들 중 임의의 것(예를 들어, USB를 통해 결합된 주변 디바이스)일 수 있다.
더욱이, 통신 컴포넌트들(836)은 식별자들을 검출할 수 있거나 식별자들을 검출하도록 동작가능한 컴포넌트들을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(836)은 RFID(Radio Frequency Identification) 태그 판독기 컴포넌트들, NFC 스마트 태그 검출 컴포넌트들, 광학 판독기 컴포넌트들(예를 들어, UPC(Universal Product Code) 바코드와 같은 1차원 바코드들, QR(Quick Response) 코드, Aztec 코드, Data Matrix, Dataglyph, MaxiCode, PDF418, Ultra Code, UCC RSS-2D 바코드와 같은 다차원 바코드들, 및 다른 광학 코드들을 검출하는 광학 센서), 또는 음향 검출 컴포넌트들(예를 들어, 태깅된 오디오 신호들을 식별하는 마이크로폰들)을 포함할 수 있다. 또한, 인터넷 프로토콜(IP) 지오로케이션을 통한 로케이션, Wi-Fi® 신호 삼각측량을 통한 로케이션, 특정 로케이션을 나타낼 수 있는 NFC 비컨 신호를 검출하는 것을 통한 로케이션 등과 같은 다양한 정보가 통신 컴포넌트들(836)을 통해 도출될 수 있다.
다양한 메모리들(예를 들어, 메인 메모리(812), 정적 메모리(814), 및 프로세서들(802)의 메모리) 및 저장 유닛(816)은 본 명세서에 설명된 방법론들 또는 기능들 중 어느 하나 이상을 구체화하거나 그에 의해 사용되는 명령어들 및 데이터 구조들(예를 들어, 소프트웨어)의 하나 이상의 세트를 저장할 수 있다. 이러한 명령어들(예를 들어, 명령어들(808))은, 프로세서들(802)에 의해 실행될 때, 다양한 동작들이 개시된 예들을 구현하도록 야기한다.
명령어들(808)은, 송신 매체를 이용하여, 네트워크 인터페이스 디바이스(예를 들어, 통신 컴포넌트(836)에 포함된 네트워크 인터페이스 컴포넌트)를 통해 그리고 수 개의 널리 공지된 전송 프로토콜들 중 임의의 하나(예를 들어, HTTP(hypertext transfer protocol))를 이용하여, 네트워크(820)를 통해 송신되거나 수신될 수 있다. 유사하게, 명령어들(808)은 디바이스들(822)에 대한 결합(예를 들어, 피어-투-피어 결합)을 통해 송신 매체를 이용하여 송신 또는 수신될 수 있다.
용어집
"캐리어 신호"는 머신에 의한 실행을 위한 명령어들을 저장, 인코딩, 또는 운반할 수 있는 임의의 무형 매체를 지칭하고, 그러한 명령어들의 통신을 용이하게 하기 위한 디지털 또는 아날로그 통신 신호들 또는 다른 무형 매체를 포함한다. 명령어들은 네트워크 인터페이스 디바이스를 통해 송신 매체를 사용하여 네트워크를 통해 송신 또는 수신될 수 있다.
"클라이언트 디바이스"는 하나 이상의 서버 시스템들 또는 다른 클라이언트 디바이스들로부터 리소스들을 획득하기 위해 통신 네트워크에 인터페이스하는 임의의 머신을 지칭한다. 클라이언트 디바이스는, 모바일 폰, 데스크톱 컴퓨터, 랩톱, PDA(portable digital assistant), 스마트폰, 태블릿, 울트라북, 넷북, 랩톱, 멀티-프로세서 시스템, 마이크로프로세서-기반 또는 프로그래머블 가전 제품, 게임 콘솔, 셋톱 박스, 또는 사용자가 네트워크에 액세스하기 위해 사용할 수 있는 임의의 다른 통신 디바이스일 수 있지만, 이것으로만 제한되지는 않는다.
"통신 네트워크(Communication Network)"는 애드 혹 네트워크, 인트라넷, 엑스트라넷, VPN(virtual private network), LAN(local area network), 무선 LAN(WLAN), WAN(wide area network), 무선 WAN(WWAN), MAN(metropolitan area network), 인터넷, 인터넷의 일부, PSTN(Public Switched Telephone Network)의 일부, POTS(plain old telephone service) 네트워크, 셀룰러 전화 네트워크, 무선 네트워크, Wi-Fi® 네트워크, 또 다른 유형의 네트워크, 또는 둘 이상의 그러한 네트워크의 조합일 수 있는, 네트워크의 하나 이상의 부분을 지칭한다. 예를 들어, 네트워크 또는 네트워크의 부분은 무선 또는 셀룰러 네트워크를 포함할 수 있고 결합은 CDMA(Code Division Multiple Access) 접속, GSM(Global System for Mobile communications) 접속, 또는 다른 유형의 셀룰러 또는 무선 결합일 수 있다. 이 예에서, 결합은, 1xRTT(Single Carrier Radio Transmission Technology), EVDO(Evolution-Data Optimized) 기술, GPRS(General Packet Radio Service) 기술, EDGE(Enhanced Data rates for GSM Evolution) 기술, 3G를 포함하는 3GPP(third Generation Partnership Project), 4G(fourth generation wireless) 네트워크들, UMTS(Universal Mobile Telecommunications System), HSPA(High-Speed Packet Access), WiMAX(Worldwide Interoperability for Microwave Access), LTE(Long Term Evolution) 표준, 다양한 표준 설정 조직들에 의해 정의되는 다른 것들, 다른 장거리 프로토콜들, 또는 다른 데이터 전송 기술과 같은, 다양한 유형들의 데이터 전송 기술 중 임의의 것을 구현할 수 있다.
"컴포넌트(Component)"는 기능 또는 서브루틴 호출, 분기 포인트, API, 또는 특정 처리 또는 제어 기능들의 분할 또는 모듈화를 제공하는 다른 기술들에 의해 정의된 경계들을 갖는 디바이스, 물리적 엔티티, 또는 로직을 지칭한다. 컴포넌트들은 그들의 인터페이스들을 통해 다른 컴포넌트들과 조합되어 머신 프로세스를 완수할 수 있다. 컴포넌트는, 다른 컴포넌트들 및 보통은 관련된 기능들 중 특정 기능을 수행하는 프로그램의 일부와 함께 이용하도록 설계되는 패키징된 기능적 하드웨어 유닛일 수 있다. 컴포넌트들은 소프트웨어 컴포넌트들(예를 들어, 머신 판독가능 매체 상에 구체화되는 코드) 또는 하드웨어 컴포넌트들을 구성할 수 있다. "하드웨어 컴포넌트"는 특정 동작들을 수행할 수 있는 유형 유닛(tangible unit)이고, 특정 물리적 방식으로 구성되거나 배열될 수 있다. 다양한 예시적인 실시예들에서, 하나 이상의 컴퓨터 시스템(예를 들어, 독립형 컴퓨터 시스템, 클라이언트 컴퓨터 시스템, 또는 서버 컴퓨터 시스템) 또는 컴퓨터 시스템의 하나 이상의 하드웨어 컴포넌트(예를 들어, 프로세서 또는 프로세서들의 그룹)은 본 명세서에 설명되는 바와 같은 특정 동작들을 수행하기 위해 동작하는 하드웨어 컴포넌트로서 소프트웨어(예를 들어, 애플리케이션 또는 애플리케이션 부분)에 의해 구성될 수 있다. 하드웨어 컴포넌트는 또한, 기계적으로, 전자적으로, 또는 이들의 임의의 적합한 조합으로 구현될 수 있다. 예를 들어, 하드웨어 컴포넌트는 특정 동작들을 수행하도록 영구적으로 구성된 전용 회로 또는 로직을 포함할 수 있다. 하드웨어 컴포넌트는, FPGA(Field-Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)와 같은 특수 목적 프로세서일 수 있다. 하드웨어 컴포넌트는 또한, 특정 동작들을 수행하도록 소프트웨어에 의해 일시적으로 구성된 프로그래머블 로직 또는 회로를 포함할 수 있다. 예를 들어, 하드웨어 컴포넌트는 범용 프로세서 또는 다른 프로그래머블 프로세서에 의해 실행되는 소프트웨어를 포함할 수 있다. 일단 이러한 소프트웨어에 의해 구성되면, 하드웨어 컴포넌트들은 구성된 기능들을 수행하도록 고유하게 맞춤화된 특정 머신들(또는 머신의 특정 컴포넌트들)이 되고 더 이상 범용 프로세서들이 아니다. 하드웨어 컴포넌트를 기계적으로, 전용의 영구적으로 구성된 회로에, 또는 일시적으로 구성된 회로(예를 들어, 소프트웨어에 의해 구성됨)에 구현하기로 하는 결정이 비용 및 시간 고려사항들에 의해 주도될 수 있다는 것을 알 것이다. 따라서, "하드웨어 컴포넌트"(또는 "하드웨어-구현된 컴포넌트")라는 문구는, 엔티티가 특정 방식으로 동작하거나 본 명세서에서 설명된 특정 동작들을 수행하도록 물리적으로 구성되거나, 영구적으로 구성되거나(예를 들어, 하드와이어드), 또는 일시적으로 구성된(예를 들어, 프로그래밍되는) 엔티티인 한, 유형 엔티티(tangible entity)를 포괄하는 것으로 이해해야 한다. 하드웨어 컴포넌트들이 일시적으로 구성된 (예를 들어, 프로그래밍된) 실시예들을 고려할 때, 하드웨어 컴포넌트들 각각은 임의의 한 시간 인스턴스에서 구성되거나 인스턴스화될 필요는 없다. 예를 들어, 하드웨어 컴포넌트가 특수 목적 프로세서가 되도록 소프트웨어에 의해 구성된 범용 프로세서를 포함하는 경우에, 범용 프로세서는 상이한 때에 (예컨대, 상이한 하드웨어 컴포넌트들을 포함하는) 제각기 상이한 특수 목적 프로세서들로서 구성될 수 있다. 따라서 소프트웨어는 예를 들어, 하나의 시간 인스턴스에서는 특정 하드웨어 컴포넌트를 구성하고 상이한 시간 인스턴스에서는 상이한 하드웨어 컴포넌트를 구성하도록 특정 프로세서 또는 프로세서들을 구성한다. 하드웨어 컴포넌트는 다른 하드웨어 컴포넌트들에 정보를 제공하고 그로부터 정보를 수신할 수 있다. 따라서, 설명된 하드웨어 컴포넌트들은 통신가능하게 결합되는 것으로서 고려될 수 있다. 다중의 하드웨어 컴포넌트가 동시에 존재하는 경우에, 하드웨어 컴포넌트들 중 2개 이상 간의 또는 그들 사이의 (예를 들어, 적절한 회로들 및 버스들을 통한) 신호 송신을 통해 통신이 달성될 수 있다. 다중의 하드웨어 컴포넌트가 상이한 시간들에서 구성되거나 인스턴스화되는 실시예에서, 이러한 하드웨어 컴포넌트들 사이의 통신은, 예를 들어, 다중의 하드웨어 컴포넌트가 그에 대한 액세스를 갖는 메모리 구조 내의 정보의 저장 및 검색을 통해 달성될 수 있다. 예를 들어, 어느 한 하드웨어 컴포넌트는 동작을 수행하고 그 동작의 출력을 자신이 통신가능하게 결합된 메모리 디바이스에 저장할 수 있다. 그 후 추가의 하드웨어 컴포넌트는, 이후의 시간에, 메모리 디바이스에 액세스하여 저장된 출력을 검색 및 처리할 수 있다. 하드웨어 컴포넌트들은 또한 입력 또는 출력 디바이스들과 통신을 개시할 수 있고, 리소스(예를 들어, 정보의 컬렉션)에 대해 동작할 수 있다. 본 명세서에 설명된 예시적 방법들의 다양한 동작들은, 관련 동작들을 수행하도록 영구적으로 구성되거나 또는 (예를 들어, 소프트웨어에 의해) 일시적으로 구성된 하나 이상의 프로세서에 의해 적어도 부분적으로 수행될 수 있다. 일시적으로 구성되든 또는 영구적으로 구성되든 간에, 이러한 프로세서들은 본 명세서에 설명되는 하나 이상의 동작 또는 기능들을 수행하도록 동작하는 프로세서 구현 컴포넌트들을 구성할 수 있다. 본 명세서에서 사용되는 바와 같이, "프로세서 구현 컴포넌트(processor-implemented component)"는 하나 이상의 프로세서를 사용하여 구현되는 하드웨어 컴포넌트를 지칭한다. 유사하게, 본 명세서에 설명되는 방법들은, 특정 프로세서 또는 프로세서들이 하드웨어의 예가 되면서, 적어도 부분적으로 프로세서 구현될 수 있다. 예를 들어, 방법의 동작들 중 적어도 일부가 하나 이상의 프로세서(802) 또는 프로세서 구현 컴포넌트들에 의해 수행될 수 있다. 더욱이, 하나 이상의 프로세서는 또한 "클라우드 컴퓨팅(cloud computing)" 환경에서 또는 "SaaS(software as a service)"로서 관련 동작들의 수행을 지원하기 위해 동작할 수 있다. 예를 들어, 동작들 중 적어도 일부는, (프로세서들을 포함하는 머신의 예로서의) 컴퓨터들의 그룹에 의해 수행될 수 있고, 이들 동작들은 네트워크(예를 들어, 인터넷)를 통해 및 하나 이상의 적절한 인터페이스(예를 들어, API)를 통해 액세스가능하다. 동작들 중 특정의 것의 수행은 단일 머신 내에 상주할 뿐만 아니라, 다수의 머신에 걸쳐 배치된 프로세서들 사이에 분산될 수 있다. 일부 예시적인 실시예들에서, 프로세서들 또는 프로세서 구현 컴포넌트들은 단일의 지리적 로케이션에(예를 들어, 가정 환경, 사무실 환경, 또는 서버 팜(server farm) 내에) 위치될 수 있다. 다른 예시적인 실시예들에서, 프로세서들 또는 프로세서 구현 컴포넌트들은 다수의 지리적 로케이션에 걸쳐 분산될 수 있다.
"컴퓨터 판독가능 저장 매체"는 머신 저장 매체 및 송신 매체 둘 다를 지칭한다. 따라서, 용어들은 저장 디바이스들/매체들 및 캐리어 파들/변조된 데이터 신호들 모두를 포함한다. "머신 판독가능 매체", "컴퓨터 판독가능 매체" 및 "디바이스 판독가능 매체" 라는 용어들은 동일한 것을 의미하며, 본 개시내용에서 상호 교환 가능하게 사용될 수 있다.
"머신 저장 매체"는 실행가능 명령어들, 루틴들 및/또는 데이터를 저장하는 단일의 또는 다중의 저장 디바이스 및/또는 매체(예를 들어, 중앙집중형 또는 분산형 데이터베이스, 및/또는 연관된 캐시들 및 서버들)을 지칭한다. 따라서, 용어는 프로세서들 내부 또는 외부의 메모리를 포함하는 고체 상태 메모리들, 및 광학 및 자기 매체를 포함하지만 이에 제한되지 않는 것으로 취해질 수 있다. 머신 저장 매체들, 컴퓨터 저장 매체들, 및 디바이스 저장 매체들의 특정 예들은 예로서, 반도체 메모리 디바이스들, 예컨대, EPROM(erasable programmable read-only memory), EEPROM(electrically erasable programmable read-only memory), FPGA, 및 플래시 메모리 디바이스들을 포함하는 비휘발성 메모리; 내부 하드 디스크 및 이동식 디스크와 같은 자기 디스크; 자기 광학 디스크들; 및 CD-ROM 및 DVD-ROM 디스크를 포함한다. 용어들 "머신 저장 매체", "디바이스 저장 매체", "컴퓨터 저장 매체"는 동일한 것을 의미하고 본 개시내용에서 상호교환가능하게 사용될 수 있다. "머신 저장 매체", "컴퓨터 저장 매체", 및 "디바이스 저장 매체"라는 용어들은 구체적으로 캐리어 파들, 변조된 데이터 신호들, 및 다른 그런 매체를 제외하는데, 이들 중 적어도 일부는 "신호 매체"라는 용어 하에 커버된다.
"비일시적 컴퓨터 판독가능 저장 매체"는 머신에 의한 실행을 위한 명령어들을 저장, 인코딩, 또는 운반할 수 있는 유형 매체를 지칭한다.
"신호 매체"는 머신에 의한 실행을 위한 명령어들을 저장, 인코딩 또는 운반할 수 있는 임의의 무형 매체를 지칭하며, 소프트웨어 또는 데이터의 통신을 용이하게 하기 위해 디지털 또는 아날로그 통신 신호들 또는 다른 무형 매체를 포함한다. 용어 "신호 매체"는 임의의 형태의 변조된 데이터 신호, 캐리어 파 등을 포함하는 것으로 취해질 것이다. "변조된 데이터 신호"라는 용어는 신호 내의 정보를 인코딩하기 위한 그런 상황에서 자신의 특성 중 하나 이상이 설정 또는 변경된 것을 갖는 신호를 의미한다. "송신 매체", 및 "신호 매체"라는 용어들은 동일한 것을 의미하고 본 개시내용에서 상호교환가능하게 사용될 수 있다.

Claims (20)

  1. 방법으로서:
    제3자 앱에 내장된 SDK(software development kit)에서, 클라이언트 디바이스에서의 상기 제3자 앱의 개방을 나타내는 앱 개방 이벤트를 검출하는 단계 - 상기 SDK는 상기 제3자 앱을 지원하는 제3자 제공자 시스템과 별개인 SDK 제공자 시스템에 의해 제공됨 -;
    상기 앱 개방 이벤트의 검출에 응답하여, 상기 앱 개방 이벤트의 캘린더 날짜를 결정하고, 상기 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트를 업데이트하고, 상기 업데이트된 앱 개방 이벤트들의 카운트에 기초하여 일일 버킷 식별자를 생성하는 단계; 및
    상기 SDK 제공자 시스템에게 개방 이벤트 메시지를 송신하는 단계 - 상기 개방 이벤트 메시지는 상기 캘린더 날짜 및 상기 버킷 식별자를 포함함 - 를 포함하는 방법.
  2. 제1항에 있어서, 상기 제3자 앱의 개방은 상기 클라이언트 디바이스에서 상기 제3자 앱을 론칭하는 것을 포함하는 방법.
  3. 제1항에 있어서, 상기 제3자 앱의 개방은 상기 제3자 앱을 상기 클라이언트 디바이스의 스크린의 전경으로 가져오는 것을 포함하는 방법.
  4. 제1항에 있어서, 상기 일일 버킷 식별자의 생성은 상기 업데이트된 앱 개방 이벤트들의 카운트가 제1 값 미만인 경우 상기 일일 버킷 식별자를 상기 업데이트된 앱 개방 이벤트들의 카운트에 설정하는 것을 포함하는 방법.
  5. 제4항에 있어서, 상기 일일 버킷 식별자의 생성은 상기 업데이트된 앱 개방 이벤트들의 카운트가 상기 제1 값 이상인 경우 상기 일일 버킷 식별자를 제2 값에 설정하는 것을 포함하는 방법.
  6. 제1항에 있어서, 상기 개방 이벤트 메시지는 상기 제3자 앱의 식별을 포함하는 방법.
  7. 제1항에 있어서, 상기 개방 이벤트 메시지는 상기 내장된 SDK 내의 하나 이상의 개발 키트의 각자의 식별들을 포함하는 방법.
  8. 제7항에 있어서, 상기 하나 이상의 개발 키트로부터의 AR(augmented reality) 키트는 상기 SDK 제공자 시스템에서의 AR 경험에 대한 액세스를 상기 제3자 앱에 제공하는 방법.
  9. 제8항에 있어서, 상기 내장된 SDK에서 상기 AR 키트의 관여를 나타내는 이벤트를 검출하고, 및 이에 응답하여, 상기 SDK 제공자 시스템에 의해 지원되는 메시징 클라이언트를 상기 메시징 클라이언트에 의해 제공되는 카메라 뷰 스크린에 론칭하는 단계를 포함하는 방법.
  10. 제1항에 있어서, 상기 앱 개방 이벤트의 캘린더 날짜의 결정, 상기 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트의 업데이트, 및 상기 일일 버킷 식별자의 생성은 상기 클라이언트 디바이스에서 수행되는 방법.
  11. 시스템으로서:
    하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 의해 실행될 때, 상기 하나 이상의 프로세서로 하여금 동작들을 수행하게 야기하는 명령어들을 포함하는 비일시적 컴퓨터 판독가능 저장 매체를 포함하고, 상기 동작들은:
    제3자 앱에 내장된 SDK(software development kit)에서, 클라이언트 디바이스에서의 상기 제3자 앱의 개방을 나타내는 앱 개방 이벤트를 검출하는 동작 - 상기 SDK는 상기 제3자 앱을 지원하는 제3자 제공자 시스템과 별개인 SDK 제공자 시스템에 의해 제공됨 -;
    상기 앱 개방 이벤트의 검출에 응답하여, 상기 앱 개방 이벤트의 캘린더 날짜를 결정하고, 상기 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트를 업데이트하고, 상기 업데이트된 앱 개방 이벤트들의 카운트에 기초하여 일일 버킷 식별자를 생성하는 동작; 및
    상기 SDK 제공자 시스템에 개방 이벤트 메시지를 송신하는 동작 - 상기 개방 이벤트 메시지는 상기 캘린더 날짜 및 상기 버킷 식별자를 포함함 - 을 포함하는 시스템.
  12. 제11항에 있어서, 상기 제3자 앱의 개방은 상기 클라이언트 디바이스에서 상기 제3자 앱을 론칭하는 것을 포함하는 시스템.
  13. 제11항에 있어서, 상기 제3자 앱의 개방은 상기 제3자 앱을 상기 클라이언트 디바이스의 스크린의 전경으로 가져오는 것을 포함하는 시스템.
  14. 제11항에 있어서, 상기 일일 버킷 식별자의 생성은 상기 업데이트된 앱 개방 이벤트들의 카운트가 제1 값 미만인 경우 상기 일일 버킷 식별자를 상기 업데이트된 앱 개방 이벤트들의 카운트에 설정하는 것을 포함하는 시스템.
  15. 제14항에 있어서, 상기 일일 버킷 식별자의 생성은 상기 업데이트된 앱 개방 이벤트들의 카운트가 상기 제1 값 이상인 경우 상기 일일 버킷 식별자를 제2 값에 설정하는 것을 포함하는 시스템.
  16. 제11항에 있어서, 상기 개방 이벤트 메시지는 상기 제3자 앱의 식별을 포함하는 시스템.
  17. 제11항에 있어서, 상기 개방 이벤트 메시지는 상기 내장된 SDK에서의 하나 이상의 개발 키트의 각자의 식별들을 포함하는 시스템.
  18. 제17항에 있어서, 상기 하나 이상의 개발 키트로부터의 AR(augmented reality) 키트는 상기 SDK 제공자 시스템에서의 AR 경험에 대한 액세스를 상기 제3자 앱에 제공하는 시스템.
  19. 제18항에 있어서, 상기 하나 이상의 프로세서에 의해 실행되는 명령어들에 의해 야기되는 동작들은:
    상기 AR 키트의 관여를 나타내는 이벤트를 검출하고, 및 이에 응답하여, 상기 SDK 제공자 시스템에 의해 지원되는 메시징 클라이언트를 상기 메시징 클라이언트에 의해 제공되는 카메라 뷰 스크린에 론칭하는 동작을 추가로 포함하는 시스템.
  20. 머신에 의해 실행가능하여 상기 머신으로 하여금 동작들을 수행하게 야기하는 명령어 데이터를 갖는 머신 판독가능 비일시적 저장 매체로서, 상기 동작들은:
    제3자 앱에 내장된 SDK(software development kit)에서, 클라이언트 디바이스에서의 상기 제3자 앱의 개방을 나타내는 앱 개방 이벤트를 검출하는 동작 - 상기 SDK는 상기 제3자 앱을 지원하는 제3자 제공자 시스템과 별개인 SDK 제공자 시스템에 의해 제공됨 -;
    상기 앱 개방 이벤트의 검출에 응답하여, 상기 앱 개방 이벤트의 캘린더 날짜를 결정하고, 상기 캘린더 날짜에 대한 앱 개방 이벤트들의 카운트를 업데이트하고, 상기 업데이트된 앱 개방 이벤트들의 카운트에 기초하여 일일 버킷 식별자를 생성하는 동작; 및
    상기 SDK 제공자 시스템에 개방 이벤트 메시지를 송신하는 동작 - 상기 개방 이벤트 메시지는 상기 캘린더 날짜 및 상기 버킷 식별자를 포함함 - 를 포함하는 머신 판독가능 비일시적 저장 매체.
KR1020237001059A 2020-06-10 2021-06-02 소프트웨어 개발 키트 관여 모니터 KR20230020543A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063037512P 2020-06-10 2020-06-10
US63/037,512 2020-06-10
US17/212,584 2021-03-25
US17/212,584 US11579847B2 (en) 2020-06-10 2021-03-25 Software development kit engagement monitor
PCT/US2021/035383 WO2021252235A1 (en) 2020-06-10 2021-06-02 Software development kit engagement monitor

Publications (1)

Publication Number Publication Date
KR20230020543A true KR20230020543A (ko) 2023-02-10

Family

ID=78825430

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020237001059A KR20230020543A (ko) 2020-06-10 2021-06-02 소프트웨어 개발 키트 관여 모니터

Country Status (5)

Country Link
US (3) US11579847B2 (ko)
EP (1) EP4165504A4 (ko)
KR (1) KR20230020543A (ko)
CN (1) CN115698946A (ko)
WO (1) WO2021252235A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11579847B2 (en) 2020-06-10 2023-02-14 Snap Inc. Software development kit engagement monitor
US11360733B2 (en) 2020-09-10 2022-06-14 Snap Inc. Colocated shared augmented reality without shared backend
CN114666098A (zh) * 2022-02-28 2022-06-24 重庆趣链数字科技有限公司 一种移动端无侵入式事件监听通用上链机制
US11949527B2 (en) 2022-04-25 2024-04-02 Snap Inc. Shared augmented reality experience in video chat

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9384360B2 (en) * 2005-12-29 2016-07-05 Nextlabs, Inc. Techniques and system for specifying policies using abstractions
US8612582B2 (en) * 2008-12-19 2013-12-17 Openpeak Inc. Managed services portals and method of operation of same
US20100159898A1 (en) * 2008-12-19 2010-06-24 Openpeak, Inc. Services platform for networked devices that provide telephony and digital media services
US8745213B2 (en) * 2008-12-19 2014-06-03 Openpeak Inc. Managed services platform and method of operation of same
US8964298B2 (en) * 2010-02-28 2015-02-24 Microsoft Corporation Video display modification based on sensor input for a see-through near-to-eye display
US20130278631A1 (en) * 2010-02-28 2013-10-24 Osterhout Group, Inc. 3d positioning of augmented reality information
US9292758B2 (en) * 2012-05-14 2016-03-22 Sphero, Inc. Augmentation of elements in data content
US9407443B2 (en) 2012-06-05 2016-08-02 Lookout, Inc. Component analysis of software applications on computing devices
US20150007145A1 (en) * 2013-07-01 2015-01-01 Samsung Electronics Co., Ltd. Computing system with instrumentation mechanism and capture mechanism and method of operation thereof
US9923953B2 (en) * 2013-07-31 2018-03-20 Adenda Media Inc. Extending mobile applications to the lock screen of a mobile device
CN103488489B (zh) * 2013-09-30 2017-02-01 乐视网信息技术(北京)股份有限公司 一种数据处理方法及装置
US9838292B2 (en) 2014-09-19 2017-12-05 Splunk Inc. Utilizing packet headers to monitor network traffic in association with a client device
US20160171540A1 (en) * 2014-12-12 2016-06-16 Suryanarayana MANGIPUDI Dynamic Omnichannel Relevant Content And Services Targeting In Real Time
US10084865B2 (en) * 2015-02-26 2018-09-25 Urban Airship, Inc. Mobile event notifications
US10200486B2 (en) * 2015-02-26 2019-02-05 Urban Airship, Inc. Mobile event notifications for network enabled objects
US20170178253A1 (en) * 2015-12-19 2017-06-22 Linkedin Corporation User data store for online advertisement events
CN107145489B (zh) 2016-03-01 2020-12-01 阿里巴巴集团控股有限公司 一种基于云平台的客户端应用的信息统计方法和装置
US10785327B2 (en) 2016-06-02 2020-09-22 Google Llc Client device application interaction monitoring
KR20180037342A (ko) * 2016-10-04 2018-04-12 주식회사 리나소프트 어플리케이션 에러 모니터링 및 통계관리 서비스 및 방법
US20180121461A1 (en) * 2016-10-31 2018-05-03 Facebook, Inc. Methods and Systems for Deduplicating Redundant Usage Data for an Application
CN108471376B (zh) * 2017-02-23 2020-11-10 腾讯科技(深圳)有限公司 数据处理方法、装置及系统
KR102330829B1 (ko) * 2017-03-27 2021-11-24 삼성전자주식회사 전자 장치에서 증강현실 기능 제공 방법 및 장치
US10455378B2 (en) * 2017-05-09 2019-10-22 ROKO Labs, LLC System and method for generating analytics for conversations within applications
CA3062634A1 (en) * 2017-05-10 2018-11-15 Embee Mobile, Inc. System and method for the capture of mobile behavior, usage, or content exposure
CA3040625C (en) 2017-07-28 2023-09-05 4Iiii Innovations Inc. Systems and methods for time based remote control of product functionality
US20200264859A1 (en) * 2017-09-19 2020-08-20 Christopher Jones System and Method for Tracking Application Data
US10489951B2 (en) * 2017-09-29 2019-11-26 Qualcomm Incorporated Display of a live scene and auxiliary object
WO2019171237A1 (en) * 2018-03-05 2019-09-12 Tensera Networks Ltd. Application preloading in the presence of user actions
US10579245B1 (en) * 2018-09-21 2020-03-03 Mid-Atlantic Door Group, Inc. Apparatuses and methods for graphical user interface display to increase completeness and accuracy of measured parameter values for installation of garage doors
CN112956157B (zh) * 2019-01-29 2023-03-14 算话智能科技有限公司 追踪客户端设备事件的系统和方法
US11050699B2 (en) * 2019-08-06 2021-06-29 Airship Group, Inc. Cross-channel orchestration of messages
CN110569182B (zh) * 2019-09-19 2023-08-29 北京博睿宏远数据科技股份有限公司 一种崩溃率计算方法、装置、计算机设备及存储介质
US11074065B2 (en) * 2019-12-06 2021-07-27 Salesforce.Com, Inc. Rule-based dynamic command triggers in mobile applications
US11579847B2 (en) 2020-06-10 2023-02-14 Snap Inc. Software development kit engagement monitor

Also Published As

Publication number Publication date
EP4165504A1 (en) 2023-04-19
EP4165504A4 (en) 2024-07-10
US20240281216A1 (en) 2024-08-22
US20210389932A1 (en) 2021-12-16
WO2021252235A1 (en) 2021-12-16
US20230168865A1 (en) 2023-06-01
CN115698946A (zh) 2023-02-03
US11579847B2 (en) 2023-02-14
US12073193B2 (en) 2024-08-27

Similar Documents

Publication Publication Date Title
KR102614536B1 (ko) 가상 비전 시스템
KR102493509B1 (ko) 미디어 항목들의 관여를 추적하는 시스템
US12073193B2 (en) Software development kit engagement monitor
US11869164B2 (en) Using portrait images in augmented reality components
US11805084B2 (en) Bidirectional bridge for web view
US11743340B2 (en) Deep linking to augmented reality components
US11140515B1 (en) Interfaces for relative device positioning
KR20240024952A (ko) 뷰파인더 링 플래시
KR20240027043A (ko) 적응형 전방 플래시 뷰
US11500454B2 (en) Body UI for augmented reality components
KR20230081715A (ko) 실시간 비디오 편집
KR20230124703A (ko) 증강 현실 컴포넌트들을 위한 신체 ui
CN116710895A (zh) 用于增强现实组件的身体ui