KR20230146123A - 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기 - Google Patents

제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기 Download PDF

Info

Publication number
KR20230146123A
KR20230146123A KR1020237033872A KR20237033872A KR20230146123A KR 20230146123 A KR20230146123 A KR 20230146123A KR 1020237033872 A KR1020237033872 A KR 1020237033872A KR 20237033872 A KR20237033872 A KR 20237033872A KR 20230146123 A KR20230146123 A KR 20230146123A
Authority
KR
South Korea
Prior art keywords
content item
media content
user interface
image
user
Prior art date
Application number
KR1020237033872A
Other languages
English (en)
Inventor
셀리아 니콜 모우르코기아니스
Original Assignee
스냅 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 스냅 인코포레이티드 filed Critical 스냅 인코포레이티드
Publication of KR20230146123A publication Critical patent/KR20230146123A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206—Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3215—Monitoring of peripheral devices
    • G06F1/3218—Monitoring of peripheral devices of display devices
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234—Power saving characterised by the action undertaken
    • G06F1/325—Power saving in peripheral device
    • G06F1/3278—Power saving in modem or I/O interface
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234—Power saving characterised by the action undertaken
    • G06F1/3287—Power saving characterised by the action undertaken by switching off individual functional units in the computer system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04—Real-time or near real-time messaging, e.g. instant messaging [IM]
    • H04L51/046—Interoperability with other network applications or services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/10—Multimedia information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/62—Control of parameters via user interfaces
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/222—Monitoring or handling of messages using geographical location information, e.g. messages transmitted or received in proximity of a certain spot or area
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Computing Systems (AREA)
  • Computer Hardware Design (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 개시내용의 양태들은 증강 현실 콘텐츠를 디스플레이하기 위한 프로그램 및 방법을 저장하는 컴퓨터 판독가능 저장 매체를 포함하는 시스템을 수반한다. 프로그램 및 방법은 디바이스 상에서 실행되는 메시징 애플리케이션 내에서, 미디어 콘텐츠 아이템을 시청하기 위한 제1 사용자 인터페이스를 디스플레이하는 것; 제1 사용자 인터페이스를 통해 사용자 입력을 수신하는 것 - 사용자 입력은 미리 정의된 터치 제스처에 대응함 -; 및 사용자 입력을 수신한 것에 응답하여, 메시징 애플리케이션 내에서, 제1 사용자 인터페이스로부터 디바이스의 카메라가 이미지를 캡처하기 위해 활성화되는 제2 사용자 인터페이스로 스위칭하고, 제2 사용자 인터페이스를 통해, 이미지와 함께 미디어 콘텐츠 아이템의 크기 조정된 버전을 디스플레이하는 것을 제공한다.

Description

제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기{COMBINING FIRST USER INTERFACE CONTENT INTO SECOND USER INTERFACE}
[관련 출원의 상호 참조]
본 특허 출원은, 발명의 명칭이 "COMBINING FIRST USER INTERFACE CONTENT INTO SECOND USER INTERFACE"인 2020년 3월 26일 출원된 미국 가출원 제63/000,185호의 우선권을 주장하는, 2021년 3월 10일 출원된 미국 특허 출원 일련 번호 제17/197,832호의 우선권을 주장하며, 전자의 출원은 참조에 의해 그 전체가 본 명세서에 포함된다.
[기술 분야]
본 개시내용은 일반적으로 메시징 애플리케이션 내에 증강 현실 콘텐츠의 디스플레이를 제공하는 것을 포함하는 메시징 애플리케이션들에 관한 것이다.
메시징 시스템들은 사용자들 사이의 메시지 콘텐츠의 교환을 제공한다. 예를 들어, 메시징 시스템은 사용자가 하나 이상의 다른 사용자와 메시지 콘텐츠(예를 들어, 텍스트, 이미지들)를 교환하게 허용한다.
임의의 특정 요소 또는 액트(act)의 논의를 용이하게 식별하기 위해, 참조 번호에서 최상위 숫자 또는 숫자들은 그 요소가 처음 도입되는 도면 번호를 가리킨다.
도 1은 일부 예시적인 실시예들에 따른, 본 개시내용이 배치될 수 있는 네트워크 환경의 도식적 표현이다.
도 2는 일부 예시적인 실시예들에 따른, 메시징 클라이언트 애플리케이션의 도식적 표현이다.
도 3은 일부 예시적인 실시예들에 따른, 데이터베이스에 유지되는 바와 같은 데이터 구조의 도식적 표현이다.
도 4는 일부 예시적인 실시예들에 따른, 메시지의 도식적 표현이다.
도 5는 일부 예시적인 실시예들에 따른 액세스 제한 프로세스에 대한 흐름도이다.
도 6은 일부 예시적인 실시예들에 따른, 제1 사용자 인터페이스로부터의 미디어 콘텐츠를 제2 사용자 인터페이스 내에 조합하기 위한 프로세스를 예시하는 상호작용 도면이다.
도 7a 및 도 7b는 일부 예시적인 실시예들에 따른, 그 미디어 콘텐츠가 제2 사용자 인터페이스 내에 조합되는 제1 사용자 인터페이스를 도시한다.
도 8a 및 도 8b는 일부 예시적인 실시예들에 따른, 그 미디어 콘텐츠가 제2 사용자 인터페이스 내에 조합되는 제1 사용자 인터페이스를 도시한다.
도 9는 일부 예시적인 실시예들에 따른, 제1 사용자 인터페이스로부터의 미디어 콘텐츠를 제2 사용자 인터페이스 내에 조합하기 위한 프로세스를 예시하는 흐름도이다.
도 10은 일부 예시적인 실시예들에 따른, 본 개시내용이 구현될 수 있는 소프트웨어 아키텍처를 보여주는 블록도이다.
도 11은 일부 예시적인 실시예들에 따른, 머신으로 하여금 논의된 방법론들 중 임의의 하나 이상을 수행하게 야기하기 위해 명령어들의 세트가 그 내에서 실행될 수 있는 컴퓨터 시스템 형태의 머신의 도식적 표현이다.
메시징 시스템은 통상적으로 사용자들이 메시지 스레드에서 서로 콘텐츠 아이템들(예를 들어, 메시지, 이미지 및/또는 비디오)을 교환하는 것을 허용한다. 메시징 시스템은 메시징과 관련하여 증강 현실 콘텐츠를 디스플레이하기 위해 증강 현실 시스템을 구현하거나 또는 다르게는 이와 연계하여 동작할 수 있다. 예를 들어, 증강 현실 콘텐츠는 메시지 콘텐츠를 생성할 시에 디바이스 카메라에 의해 캡처된 이미지 데이터와 조합된다. 그러나, 사용자는 메시징과 관련하여 증강 현실 콘텐츠의 선택을 용이하게 하기를 원할 수 있다.
개시된 실시예들은 메시징 애플리케이션이 미디어 콘텐츠 아이템을 시청하기 위해 제1 사용자 인터페이스 내에서 미리 정의된 제스처(예로서, 핀치(pinch) 제스처)를 검출하는 것을 제공한다. 사용자 입력을 검출한 것에 응답하여, 메시징 애플리케이션은 디바이스 카메라가 이미지를 캡처하도록 활성화되는 제2 사용자 인터페이스로 스위칭한다. 제2 사용자 인터페이스는 캡처된 이미지를 미디어 콘텐츠 아이템의 크기 조정된 버전(예를 들어, 스티커와 같은 더 작은 버전)과 함께 디스플레이한다.
더욱이, 제2 사용자 인터페이스는 크기 조정된 미디어 콘텐츠 아이템 및 캡처된 이미지와 함께 디스플레이하기 위한 (예를 들어, 렌즈들 또는 증강 현실 경험들을 적용하는 것에 대응하는) 이용가능한 증강 현실 콘텐츠 아이템들을 표현하는 아이콘들을 갖는 캐러셀 인터페이스를 포함한다. 아이콘들은 미디어 콘텐츠 아이템 및 캡처된 이미지에서 검출된 객체들에 기초하여 순위 매겨진 순서로 디스플레이된다.
도 1은 네트워크(106)를 통해 데이터(예를 들어, 메시지들 및 연관된 콘텐츠)를 교환하기 위한 예시적인 메시징 시스템(100)을 도시하는 블록도이다. 메시징 시스템(100)은 클라이언트 디바이스(102)의 인스턴스들을 포함하고, 그 각각은 메시징 클라이언트 애플리케이션(104)을 포함한 다수의 애플리케이션을 호스팅한다. 각각의 메시징 클라이언트 애플리케이션(104)은 네트워크(106)(예를 들어, 인터넷)를 통해 메시징 클라이언트 애플리케이션(104)의 다른 인스턴스들 및 메시징 서버 시스템(110)에 통신가능하게 결합된다.
메시징 클라이언트 애플리케이션(104)은 네트워크(106)를 통해 또 다른 메시징 클라이언트 애플리케이션(104)과 그리고 메시징 서버 시스템(110)과 통신하고 데이터를 교환할 수 있다. 메시징 클라이언트 애플리케이션(104) 사이에서 그리고 다른 메시징 클라이언트 애플리케이션(104)과 메시징 서버 시스템(110) 사이에서 교환되는 데이터는, 기능들(예를 들어, 기능들을 기동시키는 명령들)뿐만 아니라, 페이로드 데이터(예를 들어, 텍스트, 오디오, 비디오 또는 다른 멀티미디어 데이터)를 포함한다.
일부 실시예들에서, 메시징 클라이언트 애플리케이션(104)은 (예를 들어, 메시징 클라이언트 애플리케이션(104)의 시동 시에) 클라이언트 디바이스(102)의 카메라를 활성화한다. 메시징 클라이언트 애플리케이션(104)은 사용자가 카메라에 의해 캡처된 카메라 피드에서 하나 이상의 아이템을 스캐닝하도록 요청하는 것을 허용한다. 예를 들어, 메시징 클라이언트 애플리케이션(104)은 카메라 피드와 함께 제시되는 전용 스캔 옵션(예를 들어, 버튼)의 사용자 선택을 수신할 수 있다. 대안적인 실시예에서, 메시징 클라이언트 애플리케이션(104)은 임계 시간 기간 동안 사용자의 손의 손가락과 터치 스크린의 영역 사이의 물리적 접촉을 검출할 수 있다. 예를 들어, 메시징 클라이언트 애플리케이션(104)은 사용자가 3초를 초과하여 스크린 상에 자신의 손가락을 터치하고 유지했다고 결정한다. 이에 응답하여, 메시징 클라이언트 애플리케이션(104)은 스크린 상에 디스플레이되고 있는 이미지를 캡처하고 이미지를 처리하여 이미지 내의 하나 이상의 객체를 식별한다. 일부 실시예들에서, 메시징 클라이언트 애플리케이션(104)은 하나 이상의 훈련된 분류기 및/또는 환경적 인자들을 이용하여 이미지 내의 객체들을 식별한다.
메시징 서버 시스템(110)은 네트워크(106)를 통해 특정 메시징 클라이언트 애플리케이션(104)에게 서버 측 기능성을 제공한다. 메시징 시스템(100)의 특정 기능들이 메시징 클라이언트 애플리케이션(104)에 의해 또는 메시징 서버 시스템(110)에 의해 수행되는 것으로 본 명세서에 설명되지만, 메시징 클라이언트 애플리케이션(104) 또는 메시징 서버 시스템(110) 내에서의 특정 기능성의 로케이션은 설계 선택사항이라는 것을 알 것이다. 예를 들어, 처음에 메시징 서버 시스템(110) 내에 특정 기술 및 기능성을 배치하지만, 나중에 클라이언트 디바이스(102)가 충분한 처리 용량을 갖는 메시징 클라이언트 애플리케이션(104)으로 이 기술 및 기능성을 이주시키는 것이 기술적으로 바람직할 수 있다.
메시징 서버 시스템(110)은 메시징 클라이언트 애플리케이션(104)에 제공되는 다양한 서비스들 및 동작들을 지원한다. 그러한 동작들은 메시징 클라이언트 애플리케이션(104)에게 데이터를 송신하고, 그로부터 데이터를 수신하고, 그에 의해 생성된 데이터를 처리하는 것을 포함한다. 이 데이터는, 예로서, 메시지 콘텐츠, 클라이언트 디바이스 정보, 그래픽 요소, 지오로케이션 정보, 미디어 주석 및 오버레이, 가상 객체, 메시지 콘텐츠 지속 조건, 소셜 네트워크 정보, 및 라이브 이벤트 정보를 포함할 수 있다. 메시징 시스템(100) 내에서의 데이터 교환들은 메시징 클라이언트 애플리케이션(104)의 사용자 인터페이스들(UI들)(예를 들어, 그래픽 사용자 인터페이스들)을 통해 이용가능한 기능들을 통해 기동되고 제어된다.
이제 구체적으로 메시징 서버 시스템(110)을 참조하면, API 서버(108)(application programming interface server)가 애플리케이션 서버(112)에 결합되어 그에게 프로그램 방식의 인터페이스를 제공한다. 애플리케이션 서버(112)는 데이터베이스 서버(116)에 통신가능하게 결합되고, 데이터베이스 서버(116)는 애플리케이션 서버(112)에 의해 처리되는 메시지들과 연관된 데이터가 저장되는 데이터베이스(122)에 대한 액세스를 용이하게 한다.
API 서버(108)를 구체적으로 다루면, 이 서버는 클라이언트 디바이스(102)와 애플리케이션 서버(112) 사이에서 메시지 데이터(예를 들어, 명령들 및 메시지 페이로드들)를 수신하고 송신한다. 구체적으로, API 서버(108)는 애플리케이션 서버(112)의 기능성을 기동하기 위해 메시징 클라이언트 애플리케이션(104)에 의해 호출되거나 질의될 수 있는 인터페이스들의 세트(예를 들어, 루틴들 및 프로토콜들)를 제공한다. API 서버(108)는 계정 등록; 로그인 기능성; 애플리케이션 서버(112)를 통해, 특정 메시징 클라이언트 애플리케이션(104)으로부터 또 다른 메시징 클라이언트 애플리케이션(104)으로 메시지들을 전송하는 것; 또 다른 메시징 클라이언트 애플리케이션(104)에 의한 가능한 액세스를 위해, 메시징 클라이언트 애플리케이션(104)으로부터 메시징 서버 애플리케이션(114)으로의 미디어 파일들(예를 들어, 그래픽 요소들, 이미지들 또는 비디오)의 전송; 그래픽 요소 리스트; 미디어 데이터의 컬렉션(예를 들어, 스토리)의 설정; 그러한 컬렉션들의 검색; 클라이언트 디바이스(102)의 사용자의 친구들의 리스트의 검색; 증강 현실 콘텐츠 아이템들을 유지하는 것; 메시지들 및 콘텐츠의 검색; 소셜 그래프에 친구들을 추가 및 삭제하는 것; 소셜 그래프 내에서의 친구들의 로케이션; 사용자 대화 데이터에 대한 액세스; 메시징 서버 시스템(110)에 저장된 아바타 정보에 액세스하는 것; 및 애플리케이션 이벤트(예를 들어, 메시징 클라이언트 애플리케이션(104)에 관련됨)를 여는 것을 포함하는, 애플리케이션 서버(112)에 의해 지원되는 다양한 기능들을 노출시킨다.
애플리케이션 서버(112)는, 메시징 서버 애플리케이션(114), 이미지 처리 시스템(118), 소셜 네트워크 시스템(120), 및 증강 현실 시스템(124)을 포함한, 다수의 애플리케이션 및 서브시스템을 호스팅한다. 메시징 서버 애플리케이션(114)은, 특히 메시징 클라이언트 애플리케이션(104)의 다중의 인스턴스로부터 수신된 메시지들에 포함된 콘텐츠(예를 들어, 텍스트 및 멀티미디어 콘텐츠)의 애그리게이션 및 기타 처리에 관련된, 다수의 메시지 처리 기술 및 기능을 구현한다. 더 상세히 설명되는 바와 같이, 다중의 소스로부터의 텍스트 및 미디어 콘텐츠는 콘텐츠의 컬렉션들(예를 들어, 스토리 또는 갤러리라고 불림)가 되도록 애그리게이션될 수 있다. 그 후 이 컬렉션들은 메시징 서버 애플리케이션(114)에 의해, 메시징 클라이언트 애플리케이션(104)에 이용가능하게 된다. 이러한 처리를 위한 하드웨어 요건들을 고려하여, 다른 프로세서 및 메모리 집약적인 데이터 처리가 또한 메시징 서버 애플리케이션(114)에 의해 서버 측에서 수행될 수 있다.
애플리케이션 서버(112)는 또한, 통상적으로 메시징 서버 애플리케이션(114)에서 메시지의 페이로드 내에서 수신된 이미지들 또는 비디오에 관하여, 다양한 이미지 처리 동작들을 수행하는 데 전용되는 이미지 처리 시스템(118)을 포함한다. 하나 이상의 구현에서, 이미지 처리 시스템(118)의 일부분이 또한 증강 현실 시스템(124)에 의해 구현될 수 있다.
소셜 네트워크 시스템(120)은 다양한 소셜 네트워킹 기능 및 서비스를 지원하고 이들 기능 및 서비스를 메시징 서버 애플리케이션(114)에 이용가능하게 만든다. 이를 위해, 소셜 네트워크 시스템(120)은 데이터베이스(122) 내에 엔티티 그래프를 유지하고 그에 액세스한다. 소셜 네트워크 시스템(120)에 의해 지원되는 기능들 및 서비스들의 예들은, 특정 사용자가 관계를 가지거나 "팔로우하고 있는" 메시징 시스템(100)의 다른 사용자들의 식별, 및 또한 특정 사용자의 다른 엔티티들 및 관심들의 식별을 포함한다. 이러한 다른 사용자들은 사용자의 친구들이라고 지칭될 수 있다. 소셜 네트워크 시스템(120)은 사용자의 친구들 각각과 연관된 로케이션 정보에 액세스하여 그들이 살고 있거나 현재 지리적으로 위치하는 곳을 결정할 수 있다. 소셜 네트워크 시스템(120)은 사용자의 친구들이 살고 있는 지리적 로케이션을 나타내는 사용자의 친구들 각각에 대한 로케이션 프로필을 유지할 수 있다.
메시징 클라이언트 애플리케이션(104)은 클라이언트 디바이스(102)가 증강 현실 시스템(124)에 액세스하도록 허용하는 기능들의 세트를 포함한다. 증강 현실 시스템(124)은 증강 현실 콘텐츠 아이템들의 리스트를 생성하고 유지한다. 증강 현실 콘텐츠 아이템들은 캡처된 이미지 데이터를 증강 현실 콘텐츠로 보완하기 위한 증강 현실 경험들(예를 들어, 렌즈들)에 대응할 수 있다.
하나 이상의 실시예에서, 증강 현실 시스템(124)은 객체의 하나 이상의 속성(예컨대, 이름)을 결정(예컨대, 수신)하는 것을 제공한다. 증강 현실 시스템(124)은 객체 및/또는 액션의 하나 이상의 속성과 연관된 하나 이상의 증강 현실 콘텐츠 아이템(예를 들어, 가상 객체들)을 검색하고, (예를 들어, 속성들 각각에 할당된 연관성들 및 가중치들에 기초하여) 가상 객체들을 순위 매기는 것을 제공한다. 증강 현실 시스템(124)은 하나 이상의 가상 객체 또는 최고 순위 매겨진 증강 현실 콘텐츠 아이템의 그래픽 요소들이 캡처된 이미지의 최상부에 제시되게 야기한다.
애플리케이션 서버(112)는, 메시징 서버 애플리케이션(114)에 의해 처리되는 메시지들과 연관된 데이터가 저장되는 데이터베이스(122)에 대한 액세스를 용이하게 하는 데이터베이스 서버(116)에 통신가능하게 결합된다. 데이터베이스(122)는 제3자 데이터베이스일 수 있다. 예를 들어, 애플리케이션 서버(112)는 제1 엔티티와 연관될 수 있고, 데이터베이스(122) 또는 데이터베이스(122)의 일부분은 제2 상이한 엔티티와 연관되고 그에 의해 호스팅될 수 있다. 일부 실시예들에서, 데이터베이스(122)는 제1 엔티티가 제1 엔티티에 의해 제공되는 서비스의 다양한 사용자들 각각에 관해 수집하는 사용자 데이터를 저장한다. 예를 들어, 사용자 데이터는 사용자 이름들, 전화 번호들, 패스워드들, 주소들, 친구들, 활동 정보, 선호도들, 사용자에 의해 소비되는 비디오들 또는 콘텐츠, 및 등등을 포함한다.
도 2는 예시적인 실시예들에 따른, 메시징 시스템(100)에 관한 추가의 상세사항들을 예시하는 블록도이다. 구체적으로, 메시징 시스템(100)은 메시징 클라이언트 애플리케이션(104) 및 애플리케이션 서버(112)를 포함하는 것으로 도시되며, 이들은 다음으로 다수의 일부 서브시스템, 즉, 단기적 타이머 시스템(ephemeral timer system)(202), 컬렉션 관리 시스템(204) 및 주석 시스템(206)을 구체화한다.
단기적 타이머 시스템(202)은 메시징 클라이언트 애플리케이션(104) 및 메시징 서버 애플리케이션(114)에 의해 허용되는 콘텐츠에 대한 일시적인 액세스를 시행하는 것을 담당한다. 이를 위해, 단기적 타이머 시스템(202)은 메시지, 또는 메시지들의 컬렉션(예를 들어, 스토리)과 연관된 지속기간 및 디스플레이 파라미터들에 기초하여, 메시징 클라이언트 애플리케이션(104)을 통해 메시지들 및 연관된 콘텐츠를 선택적으로 디스플레이하고 그에 대한 액세스를 가능하게 하는 다수의 타이머를 포함한다. 단기적 타이머 시스템(202)의 동작에 관한 추가 상세사항들이 이하에 제공된다.
컬렉션 관리 시스템(204)은 미디어의 컬렉션들(예를 들어, 텍스트, 이미지 비디오 및 오디오 데이터의 컬렉션들)을 관리하는 것을 담당한다. 일부 예들에서, 콘텐츠의 컬렉션(예를 들어, 이미지들, 비디오, 텍스트 및 오디오를 포함하는 메시지들)은 "이벤트 갤러리(event gallery)" 또는 "이벤트 스토리(event story)"가 되도록 조직될 수 있다. 그러한 컬렉션은 콘텐츠가 관련되는 이벤트의 지속기간과 같은 지정된 시간기간 동안 이용 가능하게 될 수 있다. 예를 들어, 음악 콘서트와 관련된 콘텐츠는 그 음악 콘서트의 지속기간 동안 "스토리"로서 이용 가능하게 될 수 있다. 컬렉션 관리 시스템(204)은 또한 메시징 클라이언트 애플리케이션(104)의 사용자 인터페이스에 특정 컬렉션의 존재의 통지를 제공하는 아이콘을 게시(publishing)하는 것을 담당할 수 있다.
컬렉션 관리 시스템(204)은 더욱이 컬렉션 관리자가 콘텐츠의 특정 컬렉션을 관리 및 큐레이팅하는 것을 허용하는 큐레이션 인터페이스(208)를 포함한다. 예를 들어, 큐레이션 인터페이스(208)는 이벤트 조직자가 특정 이벤트에 관련된 콘텐츠의 컬렉션을 큐레이팅(예를 들어, 부적절한 콘텐츠 또는 중복 메시지들을 삭제)하는 것을 가능하게 한다. 추가적으로, 컬렉션 관리 시스템(204)은 머신 비전(또는 이미지 인식 기술) 및 콘텐츠 규칙들을 채택하여 콘텐츠 컬렉션을 자동으로 큐레이팅한다. 특정 실시예들에서, 사용자 생성 콘텐츠(user-generated content)를 컬렉션에 포함시키는 것에 대한 보상이 사용자에게 지불될 수 있다. 그러한 경우들에서, 큐레이션 인터페이스(208)는 그러한 사용자들에게 그들의 콘텐츠를 사용하는 것에 대해 자동으로 지불하도록 동작한다.
주석 시스템(206)은 사용자가 메시지와 연관된 미디어 콘텐츠를 주석하거나 또는 다른 방식으로 수정하거나 편집하는 것을 가능하게 하는 다양한 기능들을 제공한다. 예를 들어, 주석 시스템(206)은 메시징 시스템(100)에 의해 처리된 메시지들에 대한 미디어 오버레이들의 생성 및 게시와 관련된 기능들을 제공한다. 주석 시스템(206)은 클라이언트 디바이스(102)의 지오로케이션에 기초하여 메시징 클라이언트 애플리케이션(104)에게 미디어 오버레이 또는 보완물(예를 들어, 이미지 필터)을 동작적으로 공급한다. 또 다른 예에서, 주석 시스템(206)은 클라이언트 디바이스(102)의 사용자의 소셜 네트워크 정보와 같은 다른 정보에 기초하여 메시징 클라이언트 애플리케이션(104)에게 미디어 오버레이를 동작적으로 공급한다. 미디어 오버레이는 오디오 및 시각적 콘텐츠 및 시각적 효과를 포함할 수 있다. 오디오 및 시각 콘텐츠의 예들은 사진들, 텍스트들, 로고들, 애니메이션들, 및 사운드 효과들을 포함한다. 시각적 효과의 예는 컬러 오버레잉(color overlaying)을 포함한다. 오디오 및 시각적 콘텐츠 또는 시각적 효과는 클라이언트 디바이스(102)에 있는 미디어 콘텐츠 아이템(예를 들어, 사진)에 적용될 수 있다. 예를 들어, 미디어 오버레이는 클라이언트 디바이스(102)에 의해 촬영된 사진 위에 오버레이될 수 있는 텍스트를 포함할 수 있다. 또 다른 예에서, 미디어 오버레이는, 로케이션 식별 오버레이(예를 들어, Venice Beach), 라이브 이벤트 이름, 상인 이름 오버레이(예를 들어, Beach Coffee House)를 포함한다. 또 다른 예에서, 주석 시스템(206)은 클라이언트 디바이스(102)의 지오로케이션을 이용하여 클라이언트 디바이스(102)의 지오로케이션에 있는 상인의 이름을 포함하는 미디어 오버레이를 식별한다. 미디어 오버레이는 상인과 연관된 다른 표시를 포함할 수 있다. 미디어 오버레이들은 데이터베이스(122)에 저장되고 데이터베이스 서버(116)를 통해 액세스될 수 있다.
하나의 예시적인 실시예에서, 주석 시스템(206)은 사용자들이 지도 상의 지오로케이션을 선택하고, 선택된 지오로케이션과 연관된 콘텐츠를 업로드하는 것을 가능하게 하는 사용자 기반 게시 플랫폼(user-based publication platform)을 제공한다. 사용자는 또한 특정 미디어 오버레이가 다른 사용자들에게 제공되어야 하는 상황들을 지정할 수 있다. 주석 시스템(206)은 업로드된 콘텐츠를 포함하고 업로드된 콘텐츠를 선택된 지오로케이션과 연관시키는 미디어 오버레이를 생성한다.
또 다른 예시적인 실시예에서, 주석 시스템(206)은 상인들이 입찰 프로세스를 통해 지오로케이션과 연관된 특정한 미디어 오버레이를 선택하는 것을 가능하게 하는 상인 기반 게시 플랫폼을 제공한다. 예를 들어, 주석 시스템(206)은 최고가 입찰 상인의 미디어 오버레이를 미리 정의된 양의 시간 동안 대응하는 지오로케이션과 연관시킨다.
도 3은 특정 예시적인 실시예들에 따른, 메시징 서버 시스템(110)의 데이터베이스(122)에 저장될 수 있는 데이터 구조들(300)을 예시하는 개략도이다. 데이터베이스(122)의 콘텐츠가 다수의 테이블을 포함하는 것으로 도시되어 있지만, 데이터는 다른 유형의 데이터 구조에(예를 들어, 객체 지향형 데이터베이스로서) 저장될 수 있다는 것을 알 것이다.
데이터베이스(122)는 메시지 테이블(316) 내에 저장된 메시지 데이터를 포함한다. 엔티티 테이블(302)은 엔티티 그래프(304)를 포함하는 엔티티 데이터를 저장한다. 그에 대해 레코드들이 엔티티 테이블(302) 내에 유지되는 엔티티들은 개인들, 회사 엔티티들, 조직들, 객체들, 장소들, 이벤트들, 및 등등을 포함할 수 있다. 유형에 관계없이, 그에 관해 메시징 서버 시스템(110)이 데이터를 저장하는 임의의 엔티티는 인식된 엔티티(recognized entity)일 수 있다. 각각의 엔티티는 고유 식별자뿐만 아니라 엔티티 유형 식별자(도시되지 않음)를 구비한다.
엔티티 그래프(304)는 엔티티들 사이의 관계성 및 연관성에 관한 정보를 저장한다. 그러한 관계성들은, 단지 예를 들어, 사회의, 전문적(예를 들어, 일반 법인 또는 조직에서의 일), 관심 기반, 또는 활동 기반일 수 있다.
메시지 테이블(316)은 사용자와 하나 이상의 친구 또는 엔티티 사이의 대화들의 컬렉션을 저장할 수 있다. 메시지 테이블(316)은 참가자들의 리스트, 대화의 크기(예를 들어, 사용자들의 수 및/또는 메시지들의 수), 대화의 채팅 색, 대화에 대한 고유 식별자, 및 임의의 다른 대화 관련 특징(들)과 같은 각각의 대화의 다양한 속성들을 포함할 수 있다.
데이터베이스(122)는 또한 주석 데이터를 필터들의 예시적인 형태로 주석 테이블(314)에 저장한다. 데이터베이스(122)는 또한 수신된 주석이 달린 콘텐츠를 주석 테이블(314)에 저장한다. 그에 대해 데이터가 주석 테이블(314) 내에 저장되는 필터들이 (그에 대해 데이터가 비디오 테이블(312)에 저장되는) 비디오들 및/또는 (그에 대해 데이터가 이미지 테이블(310)에 저장되는) 이미지들과 연관되고 이들에 적용된다. 한 예에서, 필터들은 수신 측 사용자에의 제시 동안 이미지 또는 비디오 상에 오버레이되어 디스플레이되는 오버레이(overlay)들이다. 필터들은, 전송 측 사용자가 메시지를 작성하고 있을 때 메시징 클라이언트 애플리케이션(104)에 의해 전송 측 사용자에게 제시되는 필터들의 갤러리로부터의, 사용자에 의해 선택된(user-selected) 필터들을 포함하여, 다양한 유형의 것일 수 있다. 다른 유형의 필터들은 지리적 로케이션에 기초하여 전송 측 사용자에게 제시될 수 있는 지오로케이션 필터(지오필터(geo-filter)라고도 알려짐)들을 포함한다. 예를 들어, 이웃 또는 특수한 로케이션에 특정적인 지오로케이션 필터들이 클라이언트 디바이스(102)의 GPS(Global Positioning System) 유닛에 의해 결정된 지오로케이션 정보에 기초하여 메시징 클라이언트 애플리케이션(104)에 의해 UI 내에 제시될 수 있다. 또 다른 유형의 필터는, 메시지 생성 프로세스 동안 클라이언트 디바이스(102)에 의해 수집된 정보 또는 다른 입력들에 기초하여, 메시징 클라이언트 애플리케이션(104)에 의해 전송 측 사용자에게 선택적으로 제시될 수 있는 데이터 필터이다. 데이터 필터들의 예들은 특정 로케이션에서의 현재 온도, 전송 측 사용자가 이동하고 있는 현재 속도, 클라이언트 디바이스(102)에 대한 배터리 수명, 또는 현재 시간을 포함한다.
이미지 테이블(310) 내에 저장될 수 있는 다른 주석 데이터는 (예를 들어, 증강 현실 경험들 또는 렌즈들에 대응하는) 증강 현실 콘텐츠 아이템들이다. 증강 현실 콘텐츠 아이템은 이미지 또는 비디오에 추가될 수 있는 실시간 특수 효과 및 사운드일 수 있다.
앞서 설명된 바와 같이, 증강 현실 콘텐츠 아이템들, 오버레이들, 이미지 변환들, AR 이미지들, 및 유사한 용어들은 비디오들 또는 이미지들에 대해 이루어질 수 있는 수정들을 지칭한다. 이것은 이미지가 디바이스 센서를 이용하여 캡처된 다음 수정들과 함께 디바이스의 스크린 상에 디스플레이됨에 따라 이미지를 수정하는 실시간 수정을 포함한다. 이것은 또한, 수정될 수 있는 갤러리 내의 비디오 클립들과 같은, 저장된 콘텐츠에 대한 수정들을 포함한다. 예를 들어, 다중의 증강 현실 콘텐츠 아이템에 대한 액세스를 갖는 디바이스에서, 사용자는 상이한 증강 현실 콘텐츠 아이템들이 어떻게 저장된 클립을 수정할 것인지를 알기 위해 다중의 증강 현실 콘텐츠 아이템을 갖는 단일 비디오 클립을 이용할 수 있다. 예를 들어, 상이한 의사랜덤 이동 모델들을 적용하는 다중의 증강 현실 콘텐츠 아이템은 콘텐츠에 대해 상이한 증강 현실 콘텐츠 아이템들을 선택함으로써 동일한 콘텐츠에 적용될 수 있다. 유사하게, 실시간 비디오 캡처가 예시된 수정과 함께 이용되어, 디바이스의 센서들에 의해 현재 캡처되고 있는 비디오 이미지들이 어떻게 캡처된 데이터를 수정할 것인지를 보여줄 수 있다. 이러한 데이터는 스크린 상에 단순히 디스플레이되고 메모리에 저장되지 않을 수 있거나, 또는 디바이스 센서들에 의해 캡처된 콘텐츠는 수정들과 함께 또는 수정들 없이(또는 둘 다로) 메모리에 기록되고 저장될 수 있다. 일부 시스템들에서, 미리보기 특징이 상이한 증강 현실 콘텐츠 아이템들이 동시에 디스플레이에서의 상이한 윈도우들 내에서 어떻게 나타나 보일 것인지를 보여줄 수 있다. 이는 예를 들어, 상이한 의사랜덤 애니메이션들을 갖는 다중의 윈도우가 동시에 디스플레이 상에서 보여지게 할 수 있다.
따라서, 증강 현실 콘텐츠 아이템들을 이용하는 데이터 및 다양한 시스템들 또는 이러한 데이터를 이용하여 콘텐츠를 수정하기 위한 다른 그러한 변환 시스템들은 객체들(예를 들어, 얼굴들, 손들, 몸들, 고양이들, 개들, 표면들, 객체들 등)의 검출, 객체들이 비디오 프레임들에서 시야를 떠나고, 들어가고, 그 주위를 이동함에 따라 그러한 객체들의 추적, 및 객체들이 추적됨에 따라 그러한 객체들의 수정 또는 변환을 수반할 수 있다. 다양한 실시예들에서, 그러한 변환들을 달성하기 위한 상이한 방법들이 이용될 수 있다. 예를 들어, 일부 실시예들은 객체 또는 객체들의 3차원 메시 모델을 생성하고, 비디오 내에서의 모델의 변환들 및 애니메이션된 텍스처들을 이용하여 변환을 달성하는 것을 수반할 수 있다. 다른 실시예들에서, 객체 상의 포인트들의 추적은 이미지 또는 텍스처(2차원 또는 3차원일 수 있음)를 추적된 위치에 배치하기 위해 이용될 수 있다. 또 다른 실시예들에서, 비디오 프레임들의 신경망 분석이 콘텐츠(예를 들어, 비디오의 이미지들 또는 프레임들)에 이미지들, 모델들, 또는 텍스처들을 배치하기 위해 사용될 수 있다. 따라서, 증강 현실 콘텐츠 아이템들은 콘텐츠에서 변환들을 생성하기 위해 사용되는 이미지들, 모델들, 및 텍스처들뿐만 아니라, 객체 검출, 추적, 및 배치로 그러한 변환들을 달성하는 데 필요한 추가적인 모델링 및 분석 정보 둘 다를 지칭한다.
실시간 비디오 처리가 임의 종류의 컴퓨터화된 시스템의 메모리에 저장된 임의 종류의 비디오 데이터(예를 들어, 비디오 스트림들, 비디오 파일들 등)에 의해 수행될 수 있다. 예를 들어, 사용자는 비디오 파일들을 로딩하고 이들을 디바이스의 메모리에 저장할 수 있거나, 또는 디바이스의 센서들을 사용하여 비디오 스트림을 생성할 수 있다. 덧붙여, 임의의 객체들은 컴퓨터 애니메이션 모델, 예컨대 인간의 얼굴 및 인체의 부분들, 동물들, 또는 의자들, 자동차들, 또는 다른 객체들과 같은 무생물들을 사용하여 처리될 수 있다.
일부 실시예들에서, 변환될 콘텐츠와 함께 특정 수정이 선택될 때, 변환될 요소들이 컴퓨팅 디바이스에 의해 식별되고, 그 후 이들이 비디오의 프레임들에 존재하는 경우 검출 및 추적된다. 객체의 요소들은 수정을 위한 요청에 따라 수정되고, 따라서 비디오 스트림의 프레임들을 변환한다. 비디오 스트림의 프레임들의 변환은 상이한 종류의 변환을 위한 상이한 방법들에 의해 수행될 수 있다. 예를 들어, 객체의 요소들의 형태들을 변경하는 것을 주로 지칭하는 프레임들의 변환들에 대해, 객체의 요소 각각에 대한 특징적 포인트들이 (예를 들어, ASM(Active Shape Model) 또는 다른 알려진 방법들을 사용하여) 계산된다. 그 후, 객체의 적어도 하나의 요소 각각에 대해 특징적 포인트들에 기초한 메시가 생성된다. 이 메시는 비디오 스트림에서 객체의 요소들을 추적하는 다음 스테이지에서 사용된다. 추적 프로세스에서, 각각의 요소에 대한 언급된 메시는 각각의 요소의 위치와 정렬된다. 그 후, 메시 상에 추가 포인트들이 생성된다. 수정 요청에 기초하여 각각의 요소에 대해 제1 세트의 제1 포인트들이 생성되고, 제1 포인트 세트 및 수정 요청에 기초하여 각각의 요소에 대해 제2 포인트 세트가 생성된다. 그 후, 비디오 스트림의 프레임들은 제1 및 제2 포인트들의 세트들 및 메시에 기초하여 객체의 요소들을 수정함으로써 변환될 수 있다. 이러한 방법에서, 수정된 객체의 배경은 배경을 추적하고 수정함으로써 마찬가지로 변경되거나 왜곡될 수 있다.
하나 이상의 실시예에서, 객체의 요소들을 사용하여 객체의 일부 영역들을 변경하는 변환들이 객체의 각각의 요소에 대한 특징적 포인트들을 계산하고 계산된 특징적 포인트들에 기초하여 메시를 생성함으로써 수행될 수 있다. 포인트들이 메시 상에 생성되고, 그 후 포인트들에 기초하는 다양한 영역들이 생성된다. 그 후, 각각의 요소에 대한 영역을 적어도 하나의 요소 각각에 대한 위치와 정렬함으로써 객체의 요소들이 추적되며, 영역들의 특성들이 수정을 위한 요청에 기초하여 수정될 수 있고, 따라서 비디오 스트림의 프레임들을 변환할 수 있다. 수정을 위한 특정 요청에 좌우되어, 언급된 영역들의 특성들이 상이한 방식들로 변환될 수 있다. 그러한 수정들은 다음을 수반할 수 있다: 영역들의 컬러를 변경하는 것; 상기 비디오 스트림의 프레임들로부터 영역들의 적어도 일부를 제거하는 것; 수정 요청에 기초하는 영역들 내에 하나 이상의 새로운 객체들을 포함시키는 것; 및 영역 또는 객체의 요소들을 수정 또는 왜곡하는 것. 다양한 실시예들에서, 그러한 수정들 또는 다른 유사한 수정들의 임의의 조합이 이용될 수 있다. 애니메이션될 특정 모델들에 대해, 일부 특징적 포인트들이 모델 애니메이션에 대한 옵션들의 전체 상태 공간을 결정하는데 이용될 제어 포인트들로서 선택될 수 있다.
얼굴 검출을 이용하여 이미지 데이터를 변환하는 컴퓨터 애니메이션 모델의 일부 실시예들에서, 특정 얼굴 검출(예를 들어, Viola-Jones)을 이용하여 이미지 상에서 얼굴이 검출된다. 그 후, 얼굴 특징 참조 포인트들을 검출하기 위해 이미지의 얼굴 영역에 ASM(Active Shape Model) 알고리즘이 적용된다.
다른 실시예들에서, 얼굴 및/또는 객체 검출에 적합한 다른 방법들 및 알고리즘들이 사용될 수 있다. 예를 들어, 일부 실시예들에서, 특징들은 고려 중인 이미지들의 대부분에 존재하는 구별가능한 포인트를 나타내는 랜드마크를 사용하여 위치된다. 얼굴 랜드마크들에 대해, 예를 들어, 좌측 눈 동공의 로케이션이 사용될 수 있다. 초기 랜드마크가 식별가능하지 않은 경우(예를 들어, 사람이 안대를 착용한 경우), 2차 랜드마크들이 사용될 수 있다. 이러한 랜드마크 식별 절차들은 임의의 이러한 객체들에 대해 사용될 수 있다. 일부 실시예들에서, 랜드마크들의 세트가 형상을 형성한다. 형상들은 형상 내의 포인트들의 좌표들을 이용하여 벡터들로서 표현될 수 있다. 어느 한 형상은 형상 포인트들 사이의 평균 유클리드 거리를 최소화하는 유사성 변환(similarity transform)(병진, 스케일링 및 회전을 허용함)을 이용하여 또 다른 형상에 정렬된다. 평균 형상은 정렬된 훈련 형상들의 평균이다.
일부 실시예들에서, 전역적 얼굴 검출기에 의해 결정된 얼굴의 위치 및 크기에 정렬된 평균 형상으로부터의 랜드마크들에 대한 검색이 시작된다. 그 후 이러한 검색은 각각의 포인트 주변의 이미지 텍스처의 템플릿 매칭에 의해 형상 포인트들의 로케이션들을 조정함으로써 임시 형상을 제안하는 단계 및 그 후 수렴이 일어날 때까지 임시 형상을 전역적 형상 모델에 부합시키는 단계를 반복한다. 일부 시스템들에서, 개별 템플릿 매칭들은 신뢰할 수 없으며, 형상 모델은 약한 템플릿 매처(template matcher)들의 결과들을 풀링(pooling)하여 더 강한 전체 분류기를 형성한다. 전체 검색은 거친 해상도로부터 미세 해상도까지 이미지 피라미드에서의 각각의 레벨에서 반복된다.
변환 시스템의 실시예들은 클라이언트 디바이스(예를 들어, 클라이언트 디바이스(102)) 상에서 이미지 또는 비디오 스트림을 캡처하고, 적절한 사용자 경험, 계산 시간, 및 전력 소비를 유지하면서 클라이언트 디바이스(102) 상에서 국소적으로 복잡한 이미지 조작을 수행할 수 있다. 복잡한 이미지 조작은 크기 및 형상 변경, 감정 전달(예를 들어, 찡그림으로부터 미소로 얼굴을 변경), 상태 전달(예를 들어, 피험자의 노화, 겉보기 연령 감소, 성별 변경), 스타일 전달, 그래픽 요소 애플리케이션, 및 클라이언트 디바이스(102) 상에서 효율적으로 실행되도록 구성된 컨볼루션 신경망에 의해 구현되는 기타 임의의 적절한 이미지 또는 비디오 조작을 포함할 수 있다.
일부 예시적인 실시예들에서, 이미지 데이터를 변환하기 위한 컴퓨터 애니메이션 모델은 클라이언트 디바이스(102) 상에서 동작하는 메시징 클라이언트 애플리케이션(104)의 일환으로서 동작하는 신경망을 갖는 클라이언트 디바이스(102)를 사용하여 사용자의 이미지 또는 비디오 스트림(예를 들어, 셀피)을 사용자가 캡처할 수 있는 시스템에 의해 사용될 수 있다. 메시징 클라이언트 애플리케이션(104) 내에서 동작하는 변환 시스템은 이미지 또는 비디오 스트림 내의 객체(예를 들어, 얼굴)의 존재를 결정하고 이미지 데이터를 변환하기 위해 컴퓨터 애니메이션 모델과 연관된 수정 아이콘들을 제공하거나, 또는 컴퓨터 애니메이션 모델은 본 명세서에 설명된 인터페이스와 연관된 것으로서 존재할 수 있다. 수정 아이콘들은 수정 동작의 일환으로서 이미지 또는 비디오 스트림 내에서 사용자의 얼굴을 수정하기 위한 기초일 수 있는 변경들을 포함한다. 일단 수정 아이콘이 선택되면, 변환 시스템은 선택된 수정 아이콘을 반영하기 위해(예를 들어, 사용자 상에 미소짓는 얼굴을 생성함) 사용자의 이미지를 변환하기 위한 프로세스를 개시한다. 일부 실시예들에서, 수정된 이미지 또는 비디오 스트림은 이미지 또는 비디오 스트림이 캡처되고 지정된 수정이 선택되자마자 모바일 클라이언트 디바이스 상에 디스플레이되는 그래픽 사용자 인터페이스에 제시될 수 있다. 변환 시스템은 선택된 수정을 생성 및 적용하기 위해 이미지 또는 비디오 스트림의 일부분 상에 복소수 컨볼루션 신경망(complex convolutional neural network)을 구현할 수 있다. 즉, 사용자는 이미지 또는 비디오 스트림을 캡처할 수 있고, 일단 수정 아이콘이 선택되면 실시간으로 또는 거의 실시간으로 수정된 결과를 제시받을 수 있다. 또한, 수정은 비디오 스트림이 캡처되고 있고 선택된 수정 아이콘이 토글링된 채로 유지되는 동안 지속될 수 있다. 머신 피교육 신경망(machine taught neural network)들이 이러한 수정들을 가능하게 하기 위해 사용될 수 있다.
일부 실시예들에서, 변환 시스템에 의해 수행되는 수정을 제시하는 그래픽 사용자 인터페이스가 사용자에게 추가적인 상호작용 옵션들을 공급할 수 있다. 이러한 옵션들은 특정 컴퓨터 애니메이션 모델의 콘텐츠 캡처 및 선택을 개시하기 위해 사용되는 인터페이스에 기초할 수 있다(예를 들어, 콘텐츠 생성자 사용자 인터페이스로부터의 개시). 다양한 실시예들에서, 수정 아이콘의 초기 선택 후에 수정이 지속될 수 있다. 사용자는 변환 시스템에 의해 수정되는 얼굴을 탭핑하거나 다르게는 선택함으로써 수정을 온 또는 오프로 토글링하고, 그것을 나중에 시청하기 위해 저장하거나 또는 이미징 애플리케이션의 다른 영역들에 브라우징할 수 있다. 변환 시스템에 의해 다중의 얼굴이 수정되는 경우, 사용자는 그래픽 사용자 인터페이스 내에서 수정되어 디스플레이된 단일 얼굴을 탭핑하거나 선택함으로써 전역적으로 수정을 온 또는 오프로 토글링할 수 있다. 일부 실시예들에서, 다중의 얼굴 그룹 중에서 개별 얼굴들은 개별적으로 수정될 수 있거나 또는 그러한 수정들은 그래픽 사용자 인터페이스 내에서 디스플레이된 개별 얼굴 또는 일련의 개별 얼굴들을 탭핑하거나 선택함으로써 개별적으로 토글링될 수 있다.
앞서 언급된 바와 같이, 비디오 테이블(312)은, 일 실시예에서, 그에 대해 레코드들이 메시지 테이블(316) 내에 유지되는 메시지들과 연관되는 비디오 데이터를 저장한다. 유사하게, 이미지 테이블(310)은 그에 대해 메시지 데이터가 엔티티 테이블(302)에 저장되는 메시지들과 연관된 이미지 데이터를 저장한다. 엔티티 테이블(302)은 주석 테이블(314)로부터의 다양한 주석들을 이미지 테이블(310) 및 비디오 테이블(312)에 저장된 다양한 이미지들 및 비디오들과 연관시킬 수 있다.
증강 현실 콘텐츠 아이템 테이블(318)은 메시징 클라이언트 애플리케이션(104)에 의한 선택 및 활성화를 위해 이용가능한 증강 현실 콘텐츠 아이템들의 표시(예를 들어, 리스트)를 저장한다. 하나 이상의 실시예에서, 증강 현실 콘텐츠 아이템 테이블(318) 내의 각각의 증강 현실 콘텐츠 아이템은 하나 이상의 객체 속성과 연관된다. 증강 현실 콘텐츠 아이템 테이블(318) 내의 각각의 증강 현실 콘텐츠 아이템은 또한 (예를 들어, 메타데이터 라벨들, 지정들, 및 그와 유사한 것을 이용하여) 하나 이상의 미리 정의된 단어와 연관될 수 있다. 하나 이상의 실시예에서, 메시징 클라이언트 애플리케이션(104)은 증강 현실 콘텐츠 아이템 테이블(318)에 저장된 객체 속성들 및/또는 미리 정의된 단어들을 검색하여, 캡처된 이미지에서 식별된 객체 또는 스캐닝된 객체와 연관된 하나 이상의 증강 현실 콘텐츠 아이템을 식별한다. 증강 현실 콘텐츠 아이템 테이블(318)에 저장된 각각의 증강 현실 콘텐츠 아이템은 애니메이션될 수 있거나 애니메이션되지 않을 수 있는 하나 이상의 그래픽 요소 또는 가상 객체를 포함한다. 각각의 증강 현실 콘텐츠 아이템은 또한 캡처된 이미지에 묘사된 다른 객체들에 대해 그래픽 요소들 또는 가상 객체들을 어디에 위치시킬지에 대한 명령어들을 포함한다.
스토리 테이블(306)은 컬렉션(예를 들어, 스토리 또는 갤러리)이 되도록 컴파일되는, 메시지들 및 연관된 이미지, 비디오, 또는 오디오 데이터의 컬렉션들에 관한 데이터를 저장한다. 특정 컬렉션의 생성은 특정 사용자(예를 들어, 그에 대해 레코드가 엔티티 테이블(302)에서 유지되는 각각의 사용자)에 의해 개시될 수 있다. 사용자는 그 사용자에 의해 생성되고 전송/브로드캐스팅된 콘텐츠의 컬렉션의 형태로 "개인 스토리(personal story)"를 생성할 수 있다. 이를 위해, 메시징 클라이언트 애플리케이션(104)의 UI는, 전송 측 사용자가 자신의 개인 스토리에 특정 콘텐츠를 추가하는 것을 가능하게 하기 위해 사용자 선택가능한 아이콘을 포함할 수 있다.
컬렉션은 또한, 수동으로, 자동으로, 또는 수동 및 자동 기법의 조합을 이용하여 생성되는 다중의 사용자로부터의 콘텐츠의 컬렉션인 "라이브 스토리"를 구성할 수 있다. 예를 들어, "라이브 스토리"는 다양한 로케이션들 및 이벤트들로부터의 사용자 제출 콘텐츠(user-submitted content)의 큐레이팅된 스트림(curated stream)을 구성할 수 있다. 자신의 클라이언트 디바이스들이 로케이션 서비스 가능하고 특정 시간에 공통 로케이션 이벤트에 있는 사용자들에게는, 예를 들어, 메시징 클라이언트 애플리케이션(104)의 UI를 통해, 특정 라이브 스토리에 콘텐츠를 기여하는 옵션이 제시될 수 있다. 라이브 스토리는 그의 로케이션에 기초하여 메시징 클라이언트 애플리케이션(104)에 의해 사용자에게 식별될 수 있다. 최종 결과는 커뮤니티 관점에서 말한 "라이브 스토리"이다.
특정 지리적 로케이션(예를 들어, 단과대학 또는 대학 캠퍼스) 내에 그의 클라이언트 디바이스(102)가 위치되는 사용자가 특정 컬렉션에 기여하는 것을 가능하게 하는 추가적인 유형의 콘텐츠 컬렉션은 "로케이션 스토리(location story)"라고 알려져 있다. 일부 실시예들에서, 로케이션 스토리에 대한 기여는 최종 사용자가 특정 조직 또는 다른 엔티티에 속하는지(예를 들어, 대학 캠퍼스의 학생인지)를 검증하기 위해 제2 인증 정도(second degree of authentication)를 요구할 수 있다.
메모리 테이블(308)은 하나 이상의 사용자 "메모리"에 관한 데이터를 저장하고, 여기서, 각각의 사용자 메모리는 그 사용자에 의한 후속 액세스를 위해 개별 사용자에 의해 저장된 콘텐츠(예를 들어, 이미지, 비디오 및/또는 오디오 파일)에 대응한다. 특정한 사용자 메모리의 생성 및 저장은 개별 사용자(예를 들어, 그에 대해 레코드가 엔티티 테이블(302)에 유지되는 각각의 사용자)에 의해 개시될 수 있다. 게다가, 메모리 테이블(308) 내에 저장된 각각의 사용자 메모리는 개별 사용자에 의해 보여지고, 편집되고 및/또는 전송될 수 있다.
예를 들어, 사용자가 (예를 들어, 메시징에서 다른 사람들과 교환하기 위해) 콘텐츠를 생성하는 경우, 생성된 콘텐츠는 디폴트로 통상적으로 지정된 시간 기간(예를 들어, 1시간, 1분, 1초 등) 후에 자동으로 삭제되고 저장소로부터 제거될 수 있다. 그러나, 콘텐츠가 자동으로 삭제되는 지정된 시간 기간 전에, 사용자가 (예를 들어, "저장" 인터페이스를 통해) 영구 보유를 위해 콘텐츠를 선택하는 경우, 콘텐츠는 메모리 테이블(308)에 사용자 메모리로서 추가될 수 있다. 저장된 콘텐츠는 시청, 편집 및/또는 다른 사용자들과의 공유를 위해 개별 사용자에 의해 액세스 가능할 수 있다.
도 4는 추가 메시징 클라이언트 애플리케이션(104) 또는 메시징 서버 애플리케이션(114)에의 통신을 위해 메시징 클라이언트 애플리케이션(104)에 의해 생성된, 일부 실시예들에 따른, 메시지(400)의 구조를 예시하는 개략도이다. 특정 메시지(400)의 콘텐츠는 메시징 서버 애플리케이션(114)에 의해 액세스 가능한, 데이터베이스(122) 내에 저장된 메시지 테이블(316)을 채우기 위해 사용된다. 유사하게, 메시지(400)의 콘텐츠는 클라이언트 디바이스(102) 또는 애플리케이션 서버(112)의 "수송중(in-transit)" 또는 "비행중(in-flight) 데이터로서 메모리에 저장된다. 메시지(400)는 다음과 같은 컴포넌트들을 포함하는 것으로 도시되어 있다:
● 메시지 식별자(402): 메시지(400)를 식별하는 고유 식별자.
● 메시지 텍스트 페이로드(404): 클라이언트 디바이스(102)의 사용자 인터페이스를 통해 사용자에 의해 생성되고 메시지(400)에 포함되는 텍스트.
● 메시지 이미지 페이로드(406): 클라이언트 디바이스(102)의 카메라 컴포넌트에 의해 캡처되거나 클라이언트 디바이스(102)의 메모리 컴포넌트로부터 검색되고, 메시지(400)에 포함되는 이미지 데이터.
● 메시지 비디오 페이로드(408): 카메라 컴포넌트에 의해 캡처되거나 클라이언트 디바이스(102)의 메모리 컴포넌트로부터 검색되고 메시지(400)에 포함되는 비디오 데이터.
● 메시지 오디오 페이로드(410): 마이크로폰에 의해 캡처되거나 또는 클라이언트 디바이스(102)의 메모리 컴포넌트로부터 검색되고 메시지(400)에 포함되는 오디오 데이터.
● 메시지 주석(412): 메시지(400)의 메시지 이미지 페이로드(406), 메시지 비디오 페이로드(408), 또는 메시지 오디오 페이로드(410)에 적용될 주석을 나타내는 주석 데이터(예를 들어, 필터, 스티커 또는 기타의 강화물).
● 메시지 지속기간 파라미터(414): 그에 대해 메시지의 콘텐츠(예를 들어, 메시지 이미지 페이로드(406), 메시지 비디오 페이로드(408), 메시지 오디오 페이로드(410))가 메시징 클라이언트 애플리케이션(104)을 통해 사용자에게 제시되거나 액세스 가능하게 되는 시간량을 초 단위로 표시하는 파라미터 값.
● 메시지 지오로케이션 파라미터(416): 메시지의 콘텐츠 페이로드와 연관된 지오로케이션 데이터(예를 들어, 위도 및 경도 좌표). 다중의 메시지 지오로케이션 파라미터(416) 값이 페이로드에 포함될 수 있으며, 이들 파라미터 값들 각각은 콘텐츠(예를 들어, 메시지 이미지 페이로드(406) 내의 특정한 이미지, 또는 메시지 비디오 페이로드(408) 내의 특정한 비디오)에 포함된 콘텐츠 아이템들에 관하여 연관된다.
● 메시지 스토리 식별자(418): 메시지(400)의 메시지 이미지 페이로드(406) 내의 특정한 콘텐츠 아이템이 연관되어 있는 하나 이상의 콘텐츠 컬렉션(예를 들어, "스토리")을 식별하는 식별자 값들. 예를 들어, 메시지 이미지 페이로드(406) 내의 다중의 이미지 각각은 식별자 값들을 이용하여 다중의 콘텐츠 컬렉션과 연관될 수 있다.
● 메시지 태그(420): 각각의 메시지(400)는 다중의 태그로 태깅될 수 있고, 그 각각은 메시지 페이로드에 포함된 콘텐츠의 주제를 나타낸다. 예를 들어, 메시지 이미지 페이로드(406)에 포함된 특정한 이미지가 동물(예를 들어, 사자)을 묘사하는 경우, 관련 동물을 나타내는 태그 값이 메시지 태그(420) 내에 포함될 수 있다. 태그 값은, 사용자 입력에 기초하여 수동으로 생성되거나, 또는 예를 들어, 이미지 인식을 이용하여 자동으로 생성될 수 있다.
● 메시지 발신자 식별자(422): 그 상에서 메시지(400)가 생성되었고 그로부터 메시지(400)가 전송된 클라이언트 디바이스(102)의 사용자를 나타내는 식별자(예를 들어, 메시징 시스템 식별자, 이메일 주소, 또는 디바이스 식별자).
● 메시지 수신자 식별자(424): 메시지(400)가 어드레싱되는 클라이언트 디바이스(102)의 사용자를 나타내는 식별자(예를 들어, 메시징 시스템 식별자, 이메일 주소, 또는 디바이스 식별자).
메시지(400)의 다양한 컴포넌트들의 콘텐츠(예를 들어, 값들)는 그 안에 콘텐츠 데이터 값들이 저장되어 있는 테이블 내의 로케이션들에 대한 포인터들일 수 있다. 예를 들어, 메시지 이미지 페이로드(406) 내의 이미지 값은 이미지 테이블(310) 내의 로케이션에 대한 포인터(또는 그 주소)일 수 있다. 유사하게, 메시지 비디오 페이로드(408) 내의 값들은 비디오 테이블(312) 내에 저장된 데이터를 가리킬 수 있고, 메시지 주석(412) 내에 저장된 값들은 주석 테이블(314)에 저장된 데이터를 가리킬 수 있고, 메시지 스토리 식별자(418) 내에 저장된 값들은 스토리 테이블(306)에 저장된 데이터를 가리킬 수 있고, 메시지 발신자 식별자(422) 및 메시지 수신자 식별자(424) 내에 저장된 값들은 엔티티 테이블(302) 내에 저장된 사용자 레코드들을 가리킬 수 있다.
도 5는 그에 관하여 콘텐츠(예를 들어, 단기적 메시지(502), 및 데이터의 연관된 멀티미디어 페이로드) 또는 콘텐츠 컬렉션(예를 들어, 단기적 메시지 그룹(504))에의 액세스가 시간-제한될(예를 들어, 단기적으로 될) 수 있는, 액세스-제한 프로세스(500)를 예시하는 개략도이다.
단기적 메시지(502)는 메시지 지속기간 파라미터(506)와 연관되는 것으로 도시되어 있고, 그 값은 단기적 메시지(502)가 메시징 클라이언트 애플리케이션(104)에 의해 단기적 메시지(502)의 수신 측 사용자에게 디스플레이될 시간량을 결정한다. 일 실시예에서, 전송 측 사용자가 메시지 지속기간 파라미터(506)를 사용하여 지정하는 시간량에 좌우되어, 최대 10초에 이르기까지 수신 측 사용자가 단기적 메시지(502)를 볼 수 있다.
메시지 지속기간 파라미터(506) 및 메시지 수신자 식별자(424)는 메시지 타이머(512)에 대한 입력들인 것으로 도시되어 있으며, 메시지 타이머(512)는 단기적 메시지(502)가 메시지 수신자 식별자(424)에 의해 식별된 특정 수신 측 사용자에게 보여지는 시간량을 결정하는 것을 담당한다. 특히, 단기적 메시지(502)는 메시지 지속기간 파라미터(506)의 값에 의해 결정된 시간 기간 동안 관련 수신 측 사용자에게만 보여질 것이다. 메시지 타이머(512)는 수신 측 사용자에의 콘텐츠(예를 들어, 단기적 메시지(502))의 디스플레이의 전체 타이밍을 담당하는 더 일반화된 단기적 타이머 시스템(202)에 출력을 제공하는 것으로 도시된다.
단기적 메시지(502)는 단기적 메시지 그룹(504)(예를 들어, 개인 스토리 또는 이벤트 스토리 내의 메시지들의 컬렉션) 내에 포함되는 것으로 도 5에 도시된다. 단기적 메시지 그룹(504)은 연관된 그룹 지속기간 파라미터(508)를 가지며, 그 값은 그에 대해 단기적 메시지 그룹(504)이 메시징 시스템(100)의 사용자들에게 제시되고 액세스 가능한 시간 지속기간을 결정한다. 그룹 지속기간 파라미터(508)는, 예를 들어, 음악 콘서트의 지속기간일 수 있고, 여기서 단기적 메시지 그룹(504)은 그 콘서트에 관련된 콘텐츠의 컬렉션이다. 대안적으로, 사용자(소유 사용자 또는 큐레이터 사용자)가 단기적 메시지 그룹(504)의 셋업 및 생성을 수행할 때 그룹 지속기간 파라미터(508)에 대한 값을 지정할 수 있다.
덧붙여, 단기적 메시지 그룹(504) 내의 각각의 단기적 메시지(502)는 연관된 그룹 참여 파라미터(510)를 가지며, 그 값은 그에 대해 단기적 메시지(502)가 단기적 메시지 그룹(504)의 컨텍스트 내에서 액세스 가능할 시간의 지속기간을 결정한다. 따라서, 특정 단기적 메시지 그룹(504)은, 단기적 메시지 그룹(504) 자체가 그룹 지속기간 파라미터(508)의 관점에서 만료되기 이전에, 단기적 메시지 그룹(504)의 컨텍스트 내에서 "만료"되고 액세스 불가능하게 될 수 있다. 그룹 지속기간 파라미터(508), 그룹 참여 파라미터(510), 및 메시지 수신자 식별자(424) 각각은 그룹 타이머(514)에 대한 입력을 제공하며, 그룹 타이머(514)는 동작 중에, 먼저, 단기적 메시지 그룹(504)의 특정 단기적 메시지(502)가 특정 수신측 사용자에게 디스플레이될 것인지, 그리고 그렇다면, 얼마나 오랫동안 디스플레이될지를 결정한다. 단기적 메시지 그룹(504)은 또한 메시지 수신자 식별자(424)의 결과로서 특정 수신 측 사용자의 아이덴티티를 인식한다는 점에 유의한다.
따라서, 그룹 타이머(514)는 연관된 단기적 메시지 그룹(504)뿐만 아니라, 단기적 메시지 그룹(504)에 포함된 개별 단기적 메시지(502)의 전체 수명을 동작 중에 제어한다. 일 실시예에서, 단기적 메시지 그룹(504) 내의 각각의 및 모든 단기적 메시지(502)는 그룹 지속기간 파라미터(508)에 의해 지정된 시간-기간 동안 볼 수 있고 액세스가능하게 유지된다. 추가 실시예에서, 특정 단기적 메시지(502)는, 그룹 참여 파라미터(510)에 기초하여, 단기적 메시지 그룹(504)의 컨텍스트 내에서 만료될 수 있다. 메시지 지속기간 파라미터(506)는 그에 대해 특정 단기적 메시지(502)가 단기적 메시지 그룹(504)의 컨텍스트 내에서도 수신 측 사용자에게 디스플레이되는 시간의 지속기간을 여전히 결정할 수 있다는 점에 유의한다. 따라서, 메시지 지속기간 파라미터(506)는 수신 측 사용자가 단기적 메시지 그룹(504)의 컨텍스트 내부 또는 외부에서 단기적 메시지(502)를 시청하고 있는지에 관계없이, 특정 단기적 메시지(502)가 수신 측 사용자에게 디스플레이되는 시간의 지속기간을 결정한다.
단기적 타이머 시스템(202)은 더욱이 동작 중에 그것이 연관된 스토리 참여 파라미터(510)를 초과했다는 결정에 기초하여 단기적 메시지 그룹(504)으로부터 특정 단기적 메시지(502)를 제거할 수 있다. 예를 들어, 전송 측 사용자가 포스팅(posting)으로부터 24 시간의 그룹 참여 파라미터(510)를 확립했을 때, 단기적 타이머 시스템(202)은 지정된 24 시간 후에 단기적 메시지 그룹(504)으로부터 관련된 단기적 메시지(502)를 제거할 것이다. 단기적 타이머 시스템(202)은 또한 단기적 메시지 그룹(504) 내의 각각의 그리고 모든 단기적 메시지(502)에 대한 그룹 참여 파라미터(510)가 만료되었을 때, 또는 단기적 메시지 그룹(504) 자체가 그룹 지속기간 파라미터(508)의 관점에서 만료될 때 단기적 메시지 그룹(504)을 제거하도록 동작한다.
특정 사용 사례들에서, 특정 단기적 메시지 그룹(504)의 생성자는 무기한 그룹 지속기간 파라미터(508)를 지정할 수 있다. 이 경우, 단기적 메시지 그룹(504) 내의 마지막 나머지 단기적 메시지(502)에 대한 그룹 참여 파라미터(510)의 만료는 단기적 메시지 그룹(504) 자체가 만료되는 때를 결정할 것이다. 이 경우, 단기적 메시지 그룹(504)에 더해지는 새로운 단기적 메시지(502)는, 새로운 그룹 참여 파라미터(510)와 함께, 단기적 메시지 그룹(504)의 수명을 그룹 참여 파라미터(510)의 값과 동일하도록 효과적으로 연장한다.
단기적 타이머 시스템(202)이 단기적 메시지 그룹(504)이 만료된 것으로(예를 들어, 더 이상 액세스 가능하지 않은 것으로) 결정한 것에 응답하여, 단기적 타이머 시스템(202)은 메시징 시스템(100)(및 예를 들어, 구체적으로 메시징 클라이언트 애플리케이션(104))과 통신하여 관련된 단기적 메시지 그룹(504)과 연관된 표시(예를 들어, 아이콘)가 더 이상 메시징 클라이언트 애플리케이션(104)의 사용자 인터페이스 내에 디스플레이되지 않게 야기한다. 유사하게, 단기적 타이머 시스템(202)이 특정 단기적 메시지(502)에 대한 메시지 지속기간 파라미터(506)가 만료된 것으로 결정할 때, 단기적 타이머 시스템(202)은 메시징 클라이언트 애플리케이션(104)으로 하여금 단기적 메시지(502)와 연관된 표시(예를 들어, 아이콘 또는 텍스트 식별)를 더 이상 디스플레이하지 않게 야기한다.
도 6은 일부 예시적인 실시예들에 따른, 제1 사용자 인터페이스로부터의 미디어 콘텐츠를 제2 사용자 인터페이스 내에 조합하기 위한 프로세스(600)를 예시하는 상호작용 도면이다. 설명의 목적을 위해, 프로세스(600)는 주로 도 1의 클라이언트 디바이스(102)의 메시징 클라이언트 애플리케이션(104) 및 메시징 서버 시스템(110)을 참조하여 본 명세서에서 설명된다. 그러나, 프로세스(600)의 하나 이상의 블록(또는 동작)은 하나 이상의 다른 컴포넌트에 의해 및/또는 다른 적절한 디바이스들에 의해 수행될 수 있다. 추가로 설명의 목적을 위해, 프로세스(600)의 블록들은 본 명세서에서 직렬로 또는 선형으로 발생하는 것으로 설명된다. 그러나, 프로세스(600)의 다중의 블록은 병렬로 발생할 수 있다. 또한, 프로세스(600)의 블록들은 도시된 순서로 수행될 필요가 없고 및/또는 프로세스(600)의 하나 이상의 블록은 수행될 필요가 없고 및/또는 다른 동작들로 대체될 수 있다.
본 명세서에 설명된 바와 같이, 메시징 클라이언트 애플리케이션(104)은 제1 사용자가 미디어 콘텐츠 아이템을 시청하기 위해 제1 사용자 인터페이스 상에서 미리 정의된 제스처(예를 들어, 핀치(pinch) 제스처)를 수행하도록 허용하게 구성된다. 사용자 입력에 응답하여, 메시징 클라이언트 애플리케이션(104)은 디바이스 카메라가 이미지를 캡처하도록 활성화되는 제2 사용자 인터페이스로 스위칭한다. 제2 사용자 인터페이스는 미디어 콘텐츠 아이템의 더 작은 버전(예로서, 스티커)을 갖는 캡처된 이미지를 디스플레이한다. 메시징 클라이언트 애플리케이션(104)은 이용가능한 증강 현실 콘텐츠 아이템들에 대응하는 아이콘들을 갖는 캐러셀 인터페이스를 추가로 디스플레이한다. 아이콘들은 미디어 콘텐츠 아이템 및 캡처된 이미지에서 검출된 객체들에 기초하여 순위 매겨진 순서로 디스플레이된다.
따라서, 블록(602)에서, 메시징 클라이언트 애플리케이션(104)은 미디어 콘텐츠 아이템(예를 들어, 임의의 주석(들)을 갖는 이미지 및/또는 비디오)을 시청하기 위한 제1 사용자 인터페이스를 디스플레이한다. 예를 들어, 미디어 콘텐츠 아이템은 (예를 들어, 제1 및 제2 사용자들이 연락처들인 상태에서) 제2 사용자로부터 수신되는 미디어 메시지에 대응한다. 앞서 살펴본 바와 같이, 메시징 서버 시스템(110)은 제1 사용자와 제2 사용자가 메시징 서버 시스템(110)에 대한 연락처들(예컨대, 친구들)인 것을 결정하기 위해 소셜 네트워크 시스템(120)을 구현하고 및/또는 그와 연계하여 작업할 수 있다.
또 다른 예에서, 미디어 콘텐츠 아이템은 (예를 들어, 메모리 테이블(308)과 연관되어) 사용자 메모리에 대응한다. 사용자 메모리는 시청, 편집 및/또는 다른 사용자들(예를 들어, 친구들)과의 공유를 위해 제1 사용자에 의해 액세스 가능할 수 있다.
또 다른 예에서, 미디어 콘텐츠 아이템은, 개인 스토리, 라이브 스토리 및/또는 로케이션 스토리와 같은, (예를 들어, 스토리 테이블(306)과 연관된) 스토리에 대응한다. 앞서 유의한 바와 같이, 한 스토리는 메시지들 및 연관된 이미지, 비디오, 또는 오디오 데이터의 컬렉션에 대응한다. 하나 이상의 실시예에서, 스토리들은 제1 사용자의 친구들에 의해 제공되는 이용가능한 스토리들을 갖는 친구 리스트 인터페이스를 통해 액세스가능하다. 대안적으로 또는 추가적으로, 스토리들은 게시자들(예를 들어, 상인들, 소셜 미디어 인플루언서들, 비즈니스들, 광고주들, 및 그와 유사한 것)에 의해 제공되는 이용가능한 스토리들을 디스플레이하는 가입 리스트 인터페이스를 통해 액세스가능하다.
또 다른 예에서, 미디어 콘텐츠 아이템은 메시지 미리보기에 대응한다. 예를 들어, 메시지 미리보기는 디바이스 카메라에 의해 캡처된 미디어 콘텐츠(예를 들어, 이미지 및/또는 비디오)를 포함하는 메시지를 미리보기하는 것에 대응한다. 하나 이상의 실시예에서, 메시지 미리 보기는 미디어 콘텐츠를 수정/주석을 달기 위한 하나 이상의 사용자 선택 가능 편집 도구(예를 들어, 그리기, 텍스트 추가, 스티커 추가, 크로핑(cropping), 및 그와 유사한 것)를 제공한다.
유의한 바와 같이, 전술한 미디어 콘텐츠 아이템들이 예들에 대응한다. 프로세스(600)는 이러한 예들로만 제한되지 않으며, 프로세스(600)는 다른 유형의 미디어 콘텐츠 아이템들에 적용될 수 있다.
블록(604)에서, 메시징 클라이언트 애플리케이션(104)은 미리 정의된 터치 제스처에 대응하는 사용자 입력을 수신한다. 예를 들어, 사용자 입력은 제1 사용자 인터페이스와 연관하여 수행되는 핀치 제스처에 대응하고, 메시징 클라이언트 애플리케이션(104)은 이러한 제스처를 검출하도록 구성된다.
미리 정의된 터치 제스처를 검출한 것에 응답하여, 메시징 클라이언트 애플리케이션(104)은 제1 사용자 인터페이스로부터 클라이언트 디바이스(102)의 카메라가 이미지를 캡처하도록 활성화되는 제2 사용자 인터페이스로 스위칭한다(블록 606).
하나 이상의 실시예에서, 제2 사용자 인터페이스는 미디어 콘텐츠를 작성/생성하기 위한 (예를 들어, 메시지, 스토리, 및 그와 유사한 것에 포함시키기 위한) 인터페이스에 대응한다. 하나 이상의 실시예에서, 제2 사용자 인터페이스는 사용자 선택가능 아이콘들을 갖는 캐러셀 인터페이스(carousel interface)를 포함하고, 아이콘들 각각은 디스플레이를 위한 각자의 증강 현실 콘텐츠 아이템에 대응한다.
제2 사용자 인터페이스를 디스플레이하는데 있어서, 메시징 클라이언트 애플리케이션(104)은 디바이스 카메라에 의해 캡처된 이미지와 함께, 제1 사용자 인터페이스로부터의 미디어 콘텐츠 아이템의 크기 조정된 버전을 디스플레이한다(블록 608). 예를 들어, 미디어 콘텐츠 아이템의 크기 조정된 버전은 미디어 콘텐츠 아이템의 더 작은 크기의 버전에 대응한다. 하나 이상의 실시예에서, 미디어 콘텐츠 아이템의 크기를 감소시킴에 있어서, 메시징 클라이언트 애플리케이션(104)은 더 작은 크기에 도달할 때까지 미디어 콘텐츠 아이템을 축소하는 것으로서 묘사하는 애니메이션을 제공한다. 더 작은 크기는 메시징 클라이언트 애플리케이션(104)에 의해 미리 정의된 디폴트 크기에 대응할 수 있다. 대안적으로 또는 추가적으로, 더 작은 크기가 사용자에 의해 지정될 수 있다(예컨대, 사용자가 핀치 제스처 및/또는 당기기 제스처를 계속함에 따라 크기가 변할 수 있음).
하나 이상의 구현에서, 미디어 콘텐츠 아이템의 크기 조정된 버전은 디바이스 카메라에 의해 캡처된 이미지를 오버레이하는 스티커에 대응한다. 메시징 클라이언트 애플리케이션(104)은 (예를 들어, 스티커 상에서 수행되는 핀치/당기기 입력에 응답하여) 사용자가 스티커를 크기 조정하는 것을 제공할 수 있다. 대안적으로 또는 추가적으로, 메시징 클라이언트 애플리케이션(104)은 (예를 들어, 스티커 상에서 수행된 드래그 제스처에 응답하여) 사용자가 스티커를 재위치시키는 것을 제공할 수 있다. 하나 이상의 실시예에서, 메시징 클라이언트 애플리케이션(104)은, 예를 들어, 미디어 콘텐츠 아이템의 그러한 크기 조정 및/또는 재위치시킴을 용이하게 하기 위해, 미디어 콘텐츠 아이템의 크기 조정된 버전(예를 들어, 임의의 주석(들)을 갖는 이미지 및/또는 비디오)을 저장하는 것을 제공한다.
하나 이상의 구현에서, 제1 사용자 인터페이스 내에서의 미디어 콘텐츠 아이템의 디스플레이는 하나 이상의 제한에 종속될 수 있다. 메시징 클라이언트 애플리케이션(104)은 미디어 콘텐츠 아이템의 크기 조정된 버전을 디스플레이하는 것에 관한 제한들을 준수하는 것을 제공한다.
예를 들어, 미디어 콘텐츠 아이템은 단기적 타이머 시스템(202)과 연관되어 타이머(예를 들어, 제2 사용자에 의해 지정됨)에 종속될 수 있다. 따라서, 메시징 클라이언트 애플리케이션(104)은 제2 사용자 인터페이스에 미디어 콘텐츠 아이템의 크기 조정된 버전을 디스플레이하는 것과 관련하여 시간 기반 제한을 준수하는 것을 제공한다.
또 다른 예에서, 미디어 콘텐츠 아이템이 제2 사용자로부터 제1 사용자에게 전송되었기 때문에, 제1 사용자가 제2 사용자 인터페이스의 콘텐츠(예를 들어, 크기 조정된 미디어 콘텐츠 아이템과 조합된 캡처된 이미지 데이터)를 제2 사용자 이외의 임의의 사용자와 공유하는 것을 허용하지 않음으로써 프라이버시가 유지될 수 있다. 또 다른 예에서, 제1 사용자 스크린이 크기 조정된 미디어 콘텐츠 아이템과 조합된 캡처된 이미지 데이터를 캡처하거나 다른 방식으로 저장하는 경우에, 메시징 클라이언트 애플리케이션(104)은 그러한 스크린 캡처/저장 동작을 제2 사용자(예를 들어, 전송 측 사용자)에게 통지하는 것을 제공할 수 있다.
앞서 유의한 바와 같이, 제2 사용자 인터페이스는 아이콘들을 갖는 캐러셀 인터페이스를 포함한다. 각각의 아이콘은 사용자 선택가능하고, 각자의 증강 현실 콘텐츠를 디스플레이하기 위한 각자의 증강 현실 콘텐츠 아이템(예를 들어, 증강 현실 경험)에 대응한다. 증강 현실 콘텐츠는 크기 조정된 미디어 콘텐츠 아이템 및 디바이스 카메라에 의해 캡처된 이미지와 함께 디스플레이된다. 하나 이상의 실시예에서, 아이콘들은 순위 매겨진 순서로 디스플레이된다.
순위 매김을 수행하기 위해, 메시징 클라이언트 애플리케이션(104)은 미디어 콘텐츠 아이템 및 캡처된 이미지 각각에서 하나 이상의 객체를 검출한다(블록 610). 앞서 살펴본 바와 같이, 메시징 클라이언트 애플리케이션(104)은 이미지를 스캐닝하도록, 그리고 이미지 내에서의 객체들의 이동을 검출/추적하도록 구성된 객체 인식 알고리즘들(예컨대, 머신 러닝 알고리즘들을 포함함)을 구현하거나 다른 방식으로 액세스하도록 구성된다. 비제한적인 예로서, 이미지 내에서의 검출가능한 객체들은: 사람 얼굴, 인체의 부분들, 동물들 및 그의 부분들, 풍경, 자연의 물체들, 무생물 물체들(예컨대, 의자, 책, 자동차, 건물, 다른 구조물들), (예컨대, 포스터 및/또는 전단(flyer) 상의) 객체들의 일러스트레이션들, 텍스트 기반 객체들, 수학식 기반 객체들 및 그와 유사한 것을 포함한다. 더욱이, 메시징 클라이언트 애플리케이션(104)은 이름, 유형, 장르, 색, 크기, 형상, 텍스처, 지오로케이션 및/또는 다른 보완 정보(예컨대, 미디어에 대응하는 객체에 대한 노래 제목/아티스트)와 같은, 객체들의 속성들을 결정하거나 다른 방식으로 액세스하도록 구성된다.
따라서, 하나 이상의 실시예에서, 메시징 클라이언트 애플리케이션(104)은 미디어 콘텐츠 아이템 및 캡처된 이미지 각각을 스캐닝하여 그 안의 각자의 객체들을 검출한다. 예를 들어, 캡처된 이미지 데이터와 크기 조정된 미디어 콘텐츠 아이템의 조합된 디스플레이와 관련하여 스캐닝이 수행된다. 대안적으로, 미디어 콘텐츠 아이템(예를 들어, 반드시 크기 조정되지 않았음) 및 캡처된 이미지 데이터 각각에 대해 개별 스캐닝을 수행하여, 각각에서 각자의 객체(들)를 검출한다.
동작(612)에서, 메시징 클라이언트 애플리케이션(104)은 검출된 객체들을 나타내는 요청을, 이용가능한 증강 현실 콘텐츠 아이템들을 순위 매기기 위해 메시징 서버 시스템(110)에 전송한다. 요청에 응답하여, 메시징 서버 시스템(110)은 검출된 객체들에 기초하여 증강 현실 콘텐츠 아이템들을 순위 매긴다(블록 614).
예를 들어, (미디어 콘텐츠 아이템 및/또는 캡처 이미지로부터의) 검출된 객체들의 하나 이상의 속성을 (예를 들어, 증강 현실 콘텐츠 아이템 테이블(318)에 저장된) 대응하는 증강 현실 콘텐츠 아이템 속성들/단어들과 비교함으로써, 이용가능한 증강 현실 콘텐츠 아이템들이 순위 매겨진다. 더욱이, 검출된 객체(예컨대, 사용자의 얼굴)에 대해 다중의 증강 현실 콘텐츠 아이템이 이용가능한 경우, 증강 현실 콘텐츠 아이템들은 사용자에 의해 선택된 증강 현실 콘텐츠 아이템들의 선호도들/이력, 시스템 사용자들 중에서의 증강 현실 콘텐츠 아이템들의 인기도, 새로 이용가능한 증강 현실 콘텐츠 아이템들, 및 그와 유사한 것과 같은 하나 이상의 파라미터에 기초하여 순위 매겨질 수 있다.
하나 이상의 실시예에서, 특정 증강 현실 콘텐츠 아이템들은 2개의 별개의 객체(예를 들어, 얼굴들 및/또는 다른 객체들의 조합들)에 대해 효과들을 생성하도록 구성된다. 예를 들어, 얼굴 스와핑(swapping) 효과는 검출된 얼굴들을 디지털적으로 스와핑하는 것을 제공한다. 다른 효과들은 전체 몸체들(예를 들어, 인체들) 또는 그의 부분들을 스와핑하는 것, 다른 객체들의 선택된 부분들을 스와핑하는 것, 객체들 또는 그의 부분들을 세그먼트화하는 것, 및 그와 유사한 것을 제공한다. 증강 현실 콘텐츠 아이템 테이블(318)은 이러한 효과들(예를 들어, 2개의 객체 간의 스와핑 유형 효과들)을 생성하도록 구성된 증강 현실 콘텐츠 아이템들에 대한 속성(들)을 저장할 수 있다. 하나 이상의 실시예에서, 메시징 서버 시스템(110)은, 미디어 콘텐츠 아이템 및 캡처된 이미지 데이터 각각에서 적용가능한 객체들이 검출되는 경우, 그러한 증강 현실 콘텐츠 아이템들에 대해 더 높은 순위 매김을 제공하도록 구성된다.
메시징 서버 시스템(110)은 순위 매김의 표시를 메시징 클라이언트 애플리케이션(104)에 전송한다(동작 616). 예를 들어, 순위 매김은 이용가능한 증강 현실 콘텐츠 아이템들이 (예를 들어, 캐러셀 인터페이스 내에서) 디스플레이될 순서를 나타낸다. 수신된 순위 매김들에 기초하여, 메시징 클라이언트 애플리케이션(104)은, 각각이 순위 매겨진 순서로 각자의 증강 현실 콘텐츠 아이템을 선택하기 위한 아이콘들을 갖는 캐러셀 인터페이스를 디스플레이한다(블록 618).
하나 이상의 실시예에서, 순위 매김은 가장 높게 순위 매겨진 증강 현실 콘텐츠 아이템을 추가로 나타낸다. 따라서, 디스플레이를 위해 크기 조정된 미디어 콘텐츠 아이템과 캡처 이미지를 조합함에 있어서, 메시징 클라이언트 애플리케이션(104)은 (예를 들어, 가장 높게 순위 매겨진 증강 현실 경험을 적용하는 것에 대응하는) 가장 높게 순위 매겨진 증강 현실 콘텐츠 아이템을 추가적으로 디스플레이할 수 있다. 예를 들어, 사용자 옵트인(opt-in)(예를 들어, 설정)에 기초하여, 메시징 클라이언트 애플리케이션(104)은 (예를 들어, 캡처된 이미지와 함께 크기 조정된 미디어 콘텐츠를 디스플레이하는 핀치 제스처에 응답하여) 자동으로 활성화되는 증강 현실 콘텐츠 아이템으로서 가장 높게 순위 매겨진 증강 현실 콘텐츠 아이템을 설정하는 것을 디폴트로 한다.
따라서, 본 명세서에 설명된 바와 같은 메시징 시스템(100)은 미디어 콘텐츠 아이템을 시청하기 위한 제1 사용자 인터페이스로부터, 미디어 콘텐츠 아이템의 크기 조정된 버전을 갖는 캡처된 이미지를 시청하기 위한 제2 사용자 인터페이스로의 스위칭을 제공한다. 더욱이, 메시징 시스템(100)은 미디어 콘텐츠 아이템 및 캡처된 이미지 둘 다에서 검출된 객체들에 기초하여 증강 현실 콘텐츠 아이템들(예를 들어, 증강 현실 경험들)을 순위 매기는 것을 제공한다. 이러한 특징들에 의해, 사용자들 사이에 더 용이하게 되고 및/또는 매력적인 메시징을 제공하는 것이 가능하다.
도 7a 및 도 7b는 일부 예시적인 실시예들에 따른, 그 미디어 콘텐츠가 제2 사용자 인터페이스 내에 조합되는 제1 사용자 인터페이스를 도시한다. 도 7a의 사용자 인터페이스(702) 및 도 7b의 사용자 인터페이스(704)는 제1 사용자의 클라이언트 디바이스(102) 상에서 실행되는 메시징 클라이언트 애플리케이션(104)의 상이한 사용자 인터페이스들에 대응한다.
도 7a의 예에서, 사용자 인터페이스(702)는 제1 사용자가 제2 사용자(예를 들어, 전송자(708))로부터 수신된 미디어 메시지를 시청하도록 구성되는데, 제1 및 제2 사용자들은 메시징 시스템(100) 내의 친구들/연락처들이다. 미디어 메시지는 제2 사용자에 의해 그들 각자의 디바이스에서 제공/캡처된 이미지에 대응하는 캡처된 이미지 데이터(706)를 포함한다.
도 7a의 예는 수신된 메시지에 대응하는 것으로서 사용자 인터페이스(702)를 예시한다. 그러나, 앞서 유의한 바와 같이, 사용자 인터페이스(702)는 또한 (예를 들어, 도 8a-도 8b와 관련하여 이하 논의되는 바와 같이) 사용자 메모리, 스토리 및/또는, 메시지 미리보기와 같은, 그러나 이에 제한되지는 않는 다른 유형의 미디어 콘텐츠 아이템들을 위해 적용될 수 있다.
사용자 인터페이스(702)를 디스플레이하는 동안 디바이스 스크린에서 검출된 미리 정의된 사용자 입력(예를 들어, 핀치 제스처)에 응답하여, 메시징 클라이언트 애플리케이션(104)은 사용자 인터페이스(702)의 디스플레이로부터 클라이언트 디바이스(102)의 카메라가 이미지(예를 들어, 캡처된 이미지 데이터(710))를 캡처하도록 활성화되는 사용자 인터페이스(704)로 스위칭한다. 하나 이상의 실시예에서, 사용자 인터페이스(704)는 (예를 들어, 메시지, 스토리, 및 그와 유사한 것에 포함시키기 위한) 미디어 콘텐츠를 작성/생성하기 위한 인터페이스에 상응한다.
도 7b의 예에 도시된 바와 같이, 사용자 인터페이스(704)는 사용자 인터페이스(702)에 포함된 미디어 콘텐츠 아이템(예를 들어, 캡처된 이미지 데이터(706))의 크기 조정된 것(예를 들어, 더 작은 버전)에 대응하는 크기 조정된 이미지(712)를 더 포함한다. 앞서 살펴본 바와 같이, 제1 사용자는 (예컨대, 각자의 당기기/핀치 제스처를 통해) 크기 조정된 이미지(712)를 확대 및/또는 축소시킬 수 있고, 및/또는 (예컨대, 드래그 제스처를 통해) 사용자 인터페이스(704) 내에서 크기 조정된 이미지(712)를 재위치시킬 수 있다.
하나 이상의 실시예에서, 사용자 인터페이스(704)는 사용자가 캡처된 이미지 데이터(710)에 대해 적용할 증강 현실 콘텐츠 아이템(예를 들어, 증강 현실 경험)을 통해 순환 및/또는 이것을 선택하도록 허용하는 캐러셀 인터페이스(714)를 포함한다. 이용가능한 증강 현실 콘텐츠 아이템들 각각은 각자의 증강 현실 콘텐츠 아이템으로 스위칭하기 위해 사용자 선택가능한 아이콘에 의해 표현된다. 앞서 살펴본 바와 같이, 캐러셀 인터페이스(714)의 아이콘들은 (예를 들어, 메시징 서버 시스템(110)으로부터 수신된 순위 매김 데이터에 기초하여) 순위 매겨진 순서로 제시될 수 있다.
하나 이상의 실시예에서, 활성 증강 현실 콘텐츠 아이템에 대응하는 아이콘(예를 들어, 선택된 렌즈 아이콘(716))은 나머지 아이콘들에 대해 상이한 방식으로 (예를 들어, 그보다 더 크게) 디스플레이된다. 앞서 살펴본 바와 같이, 활성 증강 현실 콘텐츠 아이템은 메시징 서버 시스템(110)으로부터 수신된 증강 현실 콘텐츠 아이템 순위 매김 데이터에 기초하여 메시징 클라이언트 애플리케이션(104)에 의해 선택된 디폴트 증강 현실 콘텐츠 아이템에 대응할 수 있다. 도 7b의 예에서, 선택된 렌즈 아이콘(716)은 증강 현실 콘텐츠를 디스플레이하는 것과 연관되지 않은 빈/공백 아이콘에 대응한다. 예를 들어, 이것은 제1 사용자가 증강 현실 경험을 자동으로 활성화하는 것으로부터 (예컨대, 사용자 설정에 기초하여) 옵트아웃(opt out)한 것에 기초할 수 있다.
하나 이상의 실시예에서, 선택된 렌즈 아이콘(716)의 사용자 선택은 스크린 콘텐츠의 (예를 들어, 선택된 렌즈 아이콘(716)의 누르기/탭 제스처에 응답한) 이미지 및/또는 (예를 들어, 선택된 렌즈 아이콘(716)의 길게 누르기 제스처에 응답한) 비디오를 포함하는 메시지를 생성하여, 예를 들어, 친구들에게 전송하고, 스토리에 포함시키고, 및 그와 유사한 것을 제공한다.
도 8a 및 도 8b는 일부 예시적인 실시예들에 따른, 그 미디어 콘텐츠가 제2 사용자 인터페이스 내에 조합되는 제1 사용자 인터페이스를 도시한다. 도 8a의 사용자 인터페이스(802) 및 도 8b의 사용자 인터페이스(804)는 사용자의 클라이언트 디바이스(102) 상에서 실행되는 메시징 클라이언트 애플리케이션(104)의 상이한 사용자 인터페이스들에 대응한다.
도 8a의 예에서, 사용자 인터페이스(802)는 클라이언트 디바이스(102)의 카메라에 의해 캡처된 대로의 미디어 콘텐츠(예를 들어, 캡처된 이미지 데이터(806))를 포함하는 메시지 미리보기에 대응한다. 하나 이상의 구현에서, 사용자 인터페이스(802)는 캡처된 이미지 데이터(806)를 수정/주석 달기(예를 들어, 그리기, 텍스트 추가, 스티커 추가, 크로핑, 및 그와 유사한 것)를 하기 위한 편집 도구들(808)을 포함한다. 또한, 사용자 인터페이스(802)는 캡처된 이미지 데이터(806)를 임의의 주석(들)과 함께 (예를 들어, 앞서 논의된 바와 같은 사용자 메모리로서) 저장하기 위한 저장 버튼(810)을 포함한다. 더욱이, 사용자 인터페이스(802)는 주석(들)을 갖는 캡처된 이미지 데이터(806)에 기초하여 스토리를 생성하기 위한 스토리 버튼(812), 및 주석(들)을 갖는 캡처된 이미지 데이터(806)를 포함하는 메시지를 수신자(예를 들어, 연락처/친구)에게 전송하기 위한 전송 버튼(814)을 포함한다.
사용자 인터페이스(702)를 디스플레이하는 동안 디바이스 스크린에서 검출된 사용자 입력(예를 들어, 핀치 제스처)에 응답하여, 메시징 클라이언트 애플리케이션(104)은 사용자 인터페이스(802)의 디스플레이로부터 클라이언트 디바이스(102)의 카메라가 이미지(예를 들어, 캡처된 이미지 데이터(816))를 캡처하도록 활성화되는 사용자 인터페이스(804)로 스위칭한다. 하나 이상의 실시예에서, 사용자 인터페이스(804)는 미디어 콘텐츠를 작성/생성하기 위한 (예를 들어, 메시지, 스토리, 및 그와 유사한 것에 포함시키기 위한) 인터페이스에 대응한다.
도 8b의 예에 도시된 바와 같이, 사용자 인터페이스(804)는 사용자 인터페이스(702)에 포함된 미디어 콘텐츠 아이템(예를 들어, 캡처된 이미지 데이터(706))의 크기 조정된 것(예를 들어, 더 작은 버전)에 대응하는 크기 조정된 이미지(818)를 더 포함한다. 앞서 살펴본 바와 같이, 사용자는 (예컨대, 각자의 당기기/핀치 제스처를 통해) 크기 조정된 이미지(818)를 확대 및/또는 축소시킬 수 있고 및/또는 (예컨대, 드래그 제스처를 통해) 사용자 인터페이스(704) 내에서 크기 조정된 이미지(818)를 재위치시킬 수 있다.
하나 이상의 실시예에서, 사용자 인터페이스(804)는 사용자가 캡처된 이미지 데이터(816)에 대해 적용할 증강 현실 콘텐츠 아이템(예를 들어, 증강 현실 경험)을 통해 순환 및/또는 이것을 선택하도록 허용하는 캐러셀 인터페이스(820)를 포함한다. 이용가능한 증강 현실 콘텐츠 아이템들 각각은 각자의 증강 현실 콘텐츠 아이템으로 스위칭하기 위해 사용자 선택가능한 아이콘에 의해 표현된다. 앞서 살펴본 바와 같이, 캐러셀 인터페이스(820)의 아이콘들은 (예를 들어, 메시징 서버 시스템(110)으로부터 수신된 순위 매김 데이터에 기초하여) 순위 매겨진 순서로 제시될 수 있다.
하나 이상의 실시예에서, 활성 증강 현실 콘텐츠 아이템에 대응하는 아이콘(예를 들어, 선택된 렌즈 아이콘(822))은 나머지 아이콘들에 대해 상이한 방식으로 (예를 들어, 그보다 더 크게) 디스플레이된다. 앞서 살펴본 바와 같이, 활성 증강 현실 콘텐츠 아이템은 메시징 서버 시스템(110)으로부터 수신된 증강 현실 콘텐츠 아이템 순위 매김 데이터에 기초하여 메시징 클라이언트 애플리케이션(104)에 의해 선택된 디폴트 증강 현실 콘텐츠 아이템에 대응할 수 있다. 도 8b의 예에서, 선택된 렌즈 아이콘(822)은 증강 현실 콘텐츠를 디스플레이하는 것과 연관되지 않은 빈/공백 아이콘에 대응한다. 예를 들어, 이것은 사용자가 증강 현실 경험을 자동으로 활성화하는 것으로부터 (예컨대, 사용자 설정에 기초하여) 옵트아웃(opt out)한 것에 기초할 수 있다.
하나 이상의 실시예에서, 선택된 렌즈 아이콘(822)의 사용자 선택은 스크린 콘텐츠의 (예를 들어, 선택된 렌즈 아이콘(822)의 누르기/탭 제스처에 응답한) 이미지 및/또는 (예를 들어, 선택된 렌즈 아이콘(822)의 길게 누르기 제스처에 응답한) 비디오를 포함하는 메시지를 생성하여, 예를 들어, 친구들에게 전송하고, 스토리에 포함시키고, 및 그와 유사한 것을 제공한다.
도 9는 일부 예시적인 실시예들에 따른, 제1 사용자 인터페이스로부터의 미디어 콘텐츠를 제2 사용자 인터페이스 내에 조합하기 위한 프로세스(900)를 예시하는 흐름도이다. 설명의 목적으로, 프로세스(900)는 주로 도 1의 메시징 클라이언트 애플리케이션(104) 및 메시징 서버 시스템(110)을 참조하여 본 명세서에서 설명된다. 그러나, 프로세스(900)의 하나 이상의 블록(또는 동작)은 하나 이상의 다른 컴포넌트에 의해, 및/또는 다른 적절한 디바이스들에 의해 수행될 수 있다. 또한 설명의 목적으로, 프로세스(900)의 블록들은 직렬로 또는 선형으로 발생하는 것으로서 본 명세서에서 설명된다. 그러나, 프로세스(900)의 다중의 블록은 병렬로 발생할 수 있다. 또한, 프로세스(900)의 블록들은 도시된 순서로 수행될 필요가 없고 및/또는 프로세스(900)의 하나 이상의 블록은 수행될 필요가 없고 및/또는 다른 동작들로 대체될 수 있다.
메시징 클라이언트 애플리케이션(104)은 미디어 콘텐츠 아이템을 시청하기 위한 제1 사용자 인터페이스를 디스플레이한다(블록 902). 블록(904)에서, 메시징 클라이언트 애플리케이션(104)은 제1 사용자 인터페이스를 통해 사용자 입력을 수신하고, 사용자 입력은 미리 정의된 터치 제스처(예를 들어, 핀치 제스처)에 대응한다.
사용자 입력을 수신한 것에 응답하여, 메시징 클라이언트 애플리케이션(104)은 제1 사용자 인터페이스로부터 디바이스의 카메라가 이미지를 캡처하기 위해 활성화되는 제2 사용자 인터페이스로 스위칭하고(블록 906), 제2 사용자 인터페이스를 통해, 이미지와 함께 미디어 콘텐츠 아이템의 크기 조정된 버전을 디스플레이한다(블록 908). 메시징 클라이언트 애플리케이션(104)은 제1 사용자 인터페이스로부터 제2 사용자 인터페이스로의 스위칭과 연관하여 미디어 콘텐츠 아이템을 미디어 콘텐츠 아이템의 크기 조정된 버전으로 크기 조정하는 애니메이션을 디스플레이할 수 있다.
메시징 클라이언트 애플리케이션(104)은 미디어 콘텐츠 아이템에 디스플레이된 제1 객체를 검출하고, 이미지에 디스플레이된 제2 객체를 검출하며, 제2 사용자 인터페이스 내에서 디스플레이하기 위한 복수의 증강 현실 콘텐츠 아이템에 대한 순위 매김을 결정할 수 있고, 순위 매김은 제1 객체 및 제2 객체에 기초한다.
순위 매김을 결정하는 것은, 메시징 서버 시스템(110)에게, 복수의 증강 현실 콘텐츠 아이템을 순위매기기 위한 요청 - 요청은 제1 객체 및 제2 객체를 표시함 - 을 전송하는 것, 및 메시징 서버 시스템(110)으로부터 그리고 요청을 전송한 것에 응답하여, 복수의 증강 현실 콘텐츠 아이템에 대한 순위 매김의 표시를 수신하는 것을 포함할 수 있다.
메시징 클라이언트 애플리케이션(104)은 순위 매김에 기초하여 순서화된 아이콘들을 갖는 캐러셀 인터페이스(carousel interface)를 디스플레이할 수 있고, 캐러셀 인터페이스는 다중의 아이콘을 포함하고, 각각의 아이콘은 이미지와 함께 복수의 증강 현실 콘텐츠 아이템 중 각자의 것을 디스플레이하도록 사용자 선택가능하다.
메시징 클라이언트 애플리케이션(104)은 제2 사용자 입력을 수신하여 미디어 콘텐츠 및 이미지를 포함하는 제2 미디어 콘텐츠 아이템을 생성하고, 제2 사용자 입력을 수신한 것에 응답하여, 제2 미디어 콘텐츠 아이템을 생성할 수 있다.
미디어 콘텐츠 아이템은 수신된 메시지, 메시징 애플리케이션을 통해 디바이스의 사용자에 의해 이전에 생성된 저장된 미디어 콘텐츠(예를 들어, 사용자 메모리), 멀티미디어 콘텐츠의 컬렉션(예를 들어, 스토리), 또는 카메라에 의해 이전에 캡처된 제2 이미지의 미리 보기(예를 들어, 메시지 미리 보기) 중 적어도 하나에 대응할 수 있다.
제1 사용자 인터페이스 내에서의 미디어 콘텐츠 아이템의 디스플레이는 하나 이상의 제한에 종속될 수 있다. 미디어 콘텐츠 아이템의 크기 조정된 버전을 디스플레이하는 것은 하나 이상의 제한을 준수한다.
도 10은 본 명세서에서 설명되는 디바이스들 중 임의의 하나 이상에 설치될 수 있는 소프트웨어 아키텍처(1004)를 예시하는 블록도(1000)이다. 소프트웨어 아키텍처(1004)는 프로세서들(1020), 메모리(1026), 및 I/O 컴포넌트들(1038)을 포함하는 머신(1002)과 같은 하드웨어에 의해 지원된다. 이 예에서, 소프트웨어 아키텍처(1004)는, 각각의 계층이 특정의 기능성을 제공하는, 계층들의 스택으로서 개념화될 수 있다. 소프트웨어 아키텍처(1004)는 운영 체제(1012), 라이브러리들(1010), 프레임워크들(1008), 및 애플리케이션들(1006)과 같은 계층들을 포함한다. 동작적으로, 애플리케이션(1006)은 소프트웨어 스택을 통해 API 호출들(1050)을 기동하고 API 호출들(1050)에 응답하여 메시지들(1052)을 수신한다.
운영 체제(1012)는 하드웨어 자원들을 관리하고 공통 서비스들을 제공한다. 운영 체제(1012)는, 예를 들어, 커널(1014), 서비스들(1016), 및 드라이버들(1022)을 포함한다. 커널(1014)은 하드웨어와 다른 소프트웨어 계층들 사이의 추상화 계층으로서 작용한다. 예를 들어, 커널(1014)은, 무엇보다도 특히, 메모리 관리, 프로세서 관리(예를 들어, 스케줄링), 컴포넌트 관리, 네트워킹, 및 보안 설정을 제공한다. 서비스들(1016)은 다른 소프트웨어 계층들에 대한 다른 공통 서비스들을 제공할 수 있다. 드라이버들(1022)은 그 아래에 있는 하드웨어를 제어하거나 그와 인터페이싱하는 것을 담당한다. 예를 들어, 드라이버들(1022)은 디스플레이 드라이버, 카메라 드라이버, BLUETOOTH® 또는 BLUETOOTH® Low Energy 드라이버, 플래시 메모리 드라이버, 직렬 통신 드라이버(예를 들어, USB(Universal Serial Bus) 드라이버), WI-FI® 드라이버, 오디오 드라이버, 전력 관리 드라이버 등등을 포함할 수 있다.
라이브러리들(1010)은 애플리케이션들(1006)에 의해 사용되는 로우-레벨 공통 인프라스트럭처를 제공한다. 라이브러리들(1010)은 메모리 할당 기능, 스트링 조작 기능, 수학 기능, 및 그와 유사한 것의 기능을 제공하는 시스템 라이브러리들(1018)(예를 들어, C 표준 라이브러리)을 포함할 수 있다. 또한, 라이브러리들(1010)은, 미디어 라이브러리(예를 들어, MPEG4(Moving Picture Experts Group-4), H.264 또는 AVC(Advanced Video Coding), MP3(Moving Picture Experts Group Layer-3), AAC(Advanced Audio Coding), AMR(Adaptive Multi-Rate) 오디오 코덱, JPEG(Joint Photographic Experts Group) 또는 JPG, PNG(Portable Network Graphics)와 같은 다양한 미디어 포맷의 프레젠테이션과 조작을 지원하는 라이브러리들), 그래픽 라이브러리(예를 들어, 그래픽 콘텐츠를 디스플레이 상에 2차원(2D) 및 3차원(3D)으로 렌더링하는데 이용되는 OpenGL 프레임워크), 데이터베이스 라이브러리(예를 들어, 다양한 관계형 데이터베이스 기능을 제공하는 SQLite), 웹 라이브러리(예를 들어, 웹 브라우징 기능성을 제공하는 WebKit), 및 그와 유사한 것과 같은 API 라이브러리들(1024)을 포함할 수 있다. 라이브러리들(1010)은 또한, 많은 다른 API를 애플리케이션(1006)에 제공하는 다양하고 다른 라이브러리(1028)를 포함할 수 있다.
프레임워크들(1008)은 애플리케이션들(1006)에 의해 사용되는 하이-레벨 공통 인프라스트럭처를 제공한다. 예를 들어, 프레임워크들(1008)은, 다양한 그래픽 GUI(graphical user interface) 기능, 하이-레벨 자원 관리, 및 하이-레벨 로케이션 서비스를 제공한다. 프레임워크들(1008)은 애플리케이션(1006)에 의해 이용될 수 있는 광범위한 스펙트럼의 다른 API들을 제공할 수 있고, 그 중 일부는 특정한 운영 체제 또는 플랫폼에 특정적일 수 있다.
예시적인 실시예에서, 애플리케이션들(1006)은 홈 애플리케이션(1036), 연락처 애플리케이션(1030), 브라우저 애플리케이션(1032), 북 리더 애플리케이션(1034), 로케이션 애플리케이션(1042), 미디어 애플리케이션(1044), 메시징 애플리케이션(1046)(예를 들어, 메시징 클라이언트 애플리케이션(104)에 대응함), 게임 애플리케이션(1048), 및 제3자 애플리케이션들(1040)과 같은 광범위한 다른 애플리케이션들을 포함할 수 있다. 애플리케이션들(1006)은 프로그램들에서 정의된 기능들을 실행하는 프로그램들이다. 객체 지향 프로그래밍 언어(예를 들어, Objective-C, Java, 또는 C++) 또는 절차적 프로그래밍 언어(procedural programming language)(예를 들어, C 또는 어셈블리 언어)와 같은, 다양한 방식으로 구조화된 다양한 프로그래밍 언어들이 애플리케이션들(1006) 중 하나 이상을 생성하기 위해 채택될 수 있다. 특정 예에서, 제3자 애플리케이션들(1040)(예를 들어, 특정 플랫폼의 벤더 이외의 엔티티에 의해 ANDROID™ 또는 IOS™ SDK(software development kit)를 이용하여 개발된 애플리케이션들)은 IOS™, ANDROID™, WINDOWS® Phone, 또는 또 다른 모바일 운영 체제와 같은 모바일 운영 체제 상에서 실행되는 모바일 소프트웨어일 수 있다. 이 예에서, 제3자 애플리케이션들(1040)은 본 명세서에 설명된 기능성을 용이하게 하기 위해 운영 체제(1012)에 의해 제공되는 API 호출들(1050)을 기동할 수 있다.
도 11은, 머신(1100)으로 하여금 본 명세서에서 논의된 방법론들 중 임의의 하나 이상을 수행하게 야기하기 위한 명령어들(1108)(예를 들어, 소프트웨어, 프로그램, 애플리케이션, 애플릿, 앱, 또는 기타의 실행가능 코드)이 그 내에서 실행될 수 있는 머신(1100)의 도식적 표현이다. 예를 들어, 명령어들(1108)은 머신(1100)으로 하여금 본 명세서에서 설명된 방법들 중 임의의 하나 이상을 실행하게 야기할 수 있다. 명령어들(1108)은, 일반적인 비-프로그래밍된 머신(1100)을, 설명되고 예시된 기능들을 설명된 방식으로 실행하도록 프로그래밍된 특정한 머신(1100)으로 변환한다. 머신(1100)은 독립형 디바이스로서 동작하거나 또는 다른 머신들에 결합(예를 들어, 네트워크화)될 수 있다. 네트워크화된 배치에서, 머신(1100)은 서버-클라이언트 네트워크 환경에서 서버 머신 또는 클라이언트 머신의 자격으로, 또는 피어-투-피어(또는 분산형) 네트워크 환경에서 피어 머신으로서 동작할 수 있다. 머신(1100)은, 서버 컴퓨터, 클라이언트 컴퓨터, 개인용 컴퓨터(PC), 태블릿 컴퓨터, 랩톱 컴퓨터, 넷북, 셋탑 박스(STB), PDA, 엔터테인먼트 미디어 시스템, 셀룰러 전화, 스마트폰, 모바일 디바이스, 착용형 디바이스(예를 들어, 스마트 시계), 스마트 홈 디바이스(예를 들어, 스마트 어플라이언스), 다른 스마트 디바이스, 웹 어플라이언스, 네트워크 라우터, 네트워크 스위치, 네트워크 브리지, 또는 머신(1100)에 의해 취해질 동작들을 지정하는 명령어들(1108)을 순차적으로 또는 기타의 방식으로 실행할 수 있는 임의의 머신을 포함할 수 있는데, 이것들에만 제한되지는 않는다. 단 하나의 머신(1100)만이 예시되어 있지만, 용어 "머신"은 또한, 본 명세서에서 논의된 방법론들 중 임의의 하나 이상을 수행하기 위해 명령어들(1108)을 개별적으로 또는 공동으로 실행하는 머신들의 컬렉션을 포함하는 것으로 간주될 것이다.
머신(1100)은 버스(1142)를 통해 서로 통신하도록 구성될 수 있는 프로세서들(1102), 메모리(1104), 및 I/O 컴포넌트들(1144)을 포함할 수 있다. 예시적인 실시예에서, 프로세서들(1102)(예를 들어, CPU(Central Processing Unit), RISC(Reduced Instruction Set Computing) 프로세서, CISC(Complex Instruction Set Computing) 프로세서, GPU(Graphics Processing Unit), DSP(Digital Signal Processor), ASIC, RFIC(Radio-Frequency Integrated Circuit), 또 다른 프로세서, 또는 이들의 임의의 적합한 조합)은, 예를 들어, 명령어들(1108)을 실행하는 프로세서(1106) 및 프로세서(1110)를 포함할 수 있다. "프로세서"라는 용어는 명령어들을 동시에 실행할 수 있는 2개 이상의 독립적 프로세서(때때로 "코어들"이라고 지칭됨)을 포함할 수 있는 멀티-코어 프로세서들을 포함하도록 의도된다. 도 11이 다중의 프로세서(1102)를 도시하지만, 머신(1100)은 단일 코어를 갖는 단일 프로세서, 다중의 코어를 갖는 단일 프로세서(예를 들어, 멀티-코어 프로세서), 단일 코어를 갖는 다중의 프로세서, 다중의 코어를 갖는 다중의 프로세서, 또는 이들의 임의의 조합을 포함할 수 있다.
메모리(1104)는, 메인 메모리(1112), 정적 메모리(1114), 및 저장 유닛(1116)을 포함하고, 둘 모두는 버스(1142)를 통해 프로세서들(1102)에 액세스가능하다. 메인 메모리(1104), 정적 메모리(1114), 및 저장 유닛(1116)은, 본 명세서에 설명된 방법론들 또는 기능들 중 임의의 하나 이상을 구체화하는 명령어들(1108)을 저장한다. 명령어들(1108)은 또한, 머신(1100)에 의한 그 실행 동안에, 완전히 또는 부분적으로, 메인 메모리(1112) 내에, 정적 메모리(1114) 내에, 저장 유닛(1116) 내의 머신-판독가능 매체(1118) 내에, 프로세서들(1102) 중 적어도 하나 내에(예를 들어, 프로세서의 캐시 메모리 내에), 또는 이들의 임의의 적절한 조합에 존재할 수 있다.
I/O 컴포넌트들(1144)은 입력을 수신하고, 출력을 제공하고, 출력을 생성하고, 정보를 송신하고, 정보를 교환하고, 측정들을 캡처하고 및 등등을 위한 매우 다양한 컴포넌트들을 포함할 수 있다. 특정 머신에 포함되는 특정 I/O 컴포넌트들(1144)은 머신의 유형에 의존할 것이다. 예를 들어, 모바일 폰들과 같은 휴대용 머신들은 터치 입력 디바이스 또는 다른 그러한 입력 메커니즘들을 포함할 수 있는 반면, 헤드리스 서버 머신(headless server machine)은 그러한 터치 입력 디바이스를 포함하지 않을 가능성이 있다. I/O 컴포넌트들(1144)은 도 11에 도시되지 않은 많은 다른 컴포넌트들을 포함할 수 있다. 다양한 예시적인 실시예들에서, I/O 컴포넌트들(1144)은 출력 컴포넌트들(1128) 및 입력 컴포넌트들(1130)을 포함할 수 있다. 출력 컴포넌트들(1128)은 시각적 컴포넌트들(예를 들어, 플라즈마 디스플레이 패널(PDP), 발광 다이오드(LED) 디스플레이, 액정 디스플레이(LCD), 프로젝터, 또는 음극선관(CRT)과 같은 디스플레이), 음향 컴포넌트들(예를 들어, 스피커들), 햅틱 컴포넌트들(예를 들어, 진동 모터, 저항 메커니즘들), 다른 신호 생성기들, 및 등등을 포함할 수 있다. 입력 컴포넌트들(1130)은 알파뉴메릭 입력 컴포넌트들(예를 들어, 키보드, 알파뉴메릭 입력을 수신하도록 구성된 터치 스크린, 포토-광학 키보드, 또는 다른 알파뉴메릭 입력 컴포넌트들), 포인트 기반 입력 컴포넌트들(예를 들어, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서, 또는 또 다른 포인팅 기구), 촉각 입력 컴포넌트들(예를 들어, 물리적 버튼, 터치들 또는 터치 제스처들의 로케이션 및/또는 힘을 제공하는 터치 스크린, 또는 다른 촉각 입력 컴포넌트들), 오디오 입력 컴포넌트들(예를 들어, 마이크로폰), 광학 센서 컴포넌트들(예를 들어, 카메라),및 그와 유사한 것을 포함할 수 있다.
추가의 예시적인 실시예들에서, I/O 컴포넌트들(1144)은, 매우 다양한 다른 컴포넌트들 중에서도 특히, 바이오메트릭 컴포넌트들(1132), 모션 컴포넌트들(1134), 환경 컴포넌트들(1136), 또는 위치 컴포넌트들(1138)을 포함할 수 있다. 예를 들어, 바이오메트릭 컴포넌트들(1132)은 표현들(예를 들어, 손 표현, 얼굴 표정, 음성 표현, 신체 제스처, 또는 눈 추적)을 검출하고, 생체신호들(예를 들어, 혈압, 심박수, 체온, 땀, 또는 뇌파)을 측정하고, 사람을 식별하고(예를 들어, 목소리 식별, 망막 식별, 얼굴 식별, 지문 식별, 또는 뇌파계 기반 식별), 및 이와 유사한 것을 하는 컴포넌트들을 포함한다. 모션 컴포넌트들(1134)은 가속도 센서 컴포넌트들(예를 들어, 가속도계), 중력 센서 컴포넌트들, 회전 센서 컴포넌트들(예를 들어, 자이로스코프), 및 등등을 포함한다. 환경 컴포넌트들(1136)은, 예를 들어, 조명 센서 컴포넌트들(예를 들어, 광도계), 온도 센서 컴포넌트들(예를 들어, 주변 온도를 검출하는 하나 이상의 온도계), 습도 센서 컴포넌트들, 압력 센서 컴포넌트들(예를 들어, 기압계), 음향 센서 컴포넌트들(예를 들어, 배경 잡음을 검출하는 하나 이상의 마이크로폰), 근접 센서 컴포넌트들(예를 들어, 인근 물체들을 검출하는 적외선 센서들), 가스 센서들(예를 들어, 안전을 위해 유해성 가스들의 농도들을 검출하거나 대기 내의 오염물질들을 측정하는 가스 검출 센서들), 또는 주변 물리적 환경에 대응하는 표시들, 측정들, 또는 신호들을 제공할 수 있는 다른 컴포넌트들을 포함한다. 위치 컴포넌트들(1138)은 로케이션 센서 컴포넌트들(예를 들어, GPS 수신기 컴포넌트), 고도 센서 컴포넌트들(예를 들어, 고도가 그로부터 도출될 수 있는 기압을 검출하는 고도계들 또는 기압계들), 오리엔테이션 센서 컴포넌트들(예를 들어, 자력계들), 및 그와 유사한 것을 포함한다.
통신은 매우 다양한 기술을 이용하여 구현될 수 있다. I/O 컴포넌트들(1144)은 제각기 결합(1126) 및 결합(1124)을 통해 머신(1100)을 네트워크(1120) 또는 디바이스(1122)에 결합하도록 동작가능한 통신 컴포넌트들(1140)을 추가로 포함한다. 예를 들어, 통신 컴포넌트들(1140)은 네트워크 인터페이스 컴포넌트 또는 네트워크(1120)와 인터페이싱하기 위한 또 다른 적절한 디바이스를 포함할 수 있다. 추가 예에서, 통신 컴포넌트들(1140)은, 유선 통신 컴포넌트, 무선 통신 컴포넌트, 셀룰러 통신 컴포넌트, NFC(Near Field Communication) 컴포넌트, Bluetooth® 컴포넌트(예를 들어, Bluetooth® Low Energy), Wi-Fi® 컴포넌트, 및 다른 양태를 통해 통신을 제공하는 기타의 통신 컴포넌트를 포함할 수 있다. 디바이스들(1122)은 또 다른 머신 또는 매우 다양한 주변 디바이스들 중 임의의 것(예를 들어, USB를 통해 결합된 주변 디바이스)일 수 있다.
또한, 통신 컴포넌트들(1140)은 식별자들을 검출할 수 있거나 식별자들을 검출하도록 동작가능한 컴포넌트들을 포함할 수 있다. 예를 들어, 통신 컴포넌트들(1140)은 RFID(Radio Frequency Identification) 태그 판독기 컴포넌트들, NFC 스마트 태그 검출 컴포넌트들, 광학 판독기 컴포넌트들(예를 들어, UPC(Universal Product Code) 바코드와 같은 1차원 바코드들, QR(Quick Response) 코드와 같은 다차원 바코드들, Aztec 코드, Data Matrix, Dataglyph, MaxiCode, PDF417, Ultra Code, UCC RSS-2D 바코드, 및 다른 광학 코드들을 검출하는 광학 센서), 또는 음향 검출 컴포넌트들(예를 들어, 태깅된 오디오 신호들을 식별하는 마이크로폰들)을 포함할 수 있다. 또한, 인터넷 프로토콜(IP) 지오로케이션을 통한 로케이션, Wi-Fi® 신호 삼각측량을 통한 로케이션, 특정 로케이션을 나타낼 수 있는 NFC 비컨 신호를 검출하는 것을 통한 로케이션, 및 등등과 같은 다양한 정보가 통신 컴포넌트들(1140)을 통해 도출될 수 있다.
다양한 메모리들(예를 들어, 메모리(1104), 메인 메모리(1112), 정적 메모리(1114), 및/또는 프로세서들(1102)의 메모리) 및/또는 저장 유닛(1116)은 본 명세서에 설명된 방법론들 또는 기능들 중 임의의 하나 이상을 구체화하거나 그에 의해 사용되는 명령어들 및 데이터 구조들(예를 들어, 소프트웨어)의 하나 이상의 세트를 저장할 수 있다. 이러한 명령어들(예를 들어, 명령어들(1108))은, 프로세서들(1102)에 의해 실행될 때, 다양한 동작들이 개시된 실시예들을 구현하도록 야기한다.
명령어들(1108)은, 송신 매체를 이용하여, 네트워크 인터페이스 디바이스(예를 들어, 통신 컴포넌트(1140)에 포함된 네트워크 인터페이스 컴포넌트)를 통해, 및 다수의 널리 공지된 전송 프로토콜들 중 임의의 하나(예를 들어, HTTP(hypertext transfer protocol))를 이용하여, 네트워크(1120)를 통해 송신되거나 수신될 수 있다. 유사하게, 명령어들(1108)은 디바이스들(1122)로의 결합(1124)(예를 들어, 피어-투-피어 결합)을 통해 송신 매체를 이용하여 송신되거나 수신될 수 있다.
"클라이언트 디바이스"는 하나 이상의 서버 시스템 또는 다른 클라이언트 디바이스로부터 자원들을 획득하기 위해 통신 네트워크에 인터페이싱하는 임의의 머신을 지칭한다. 클라이언트 디바이스는, 모바일 폰, 데스크톱 컴퓨터, 랩톱, PDA(portable digital assistant), 스마트폰, 태블릿, 울트라북, 넷북, 랩톱, 멀티-프로세서 시스템, 마이크로프로세서-기반 또는 프로그래밍 가능한 소비자 가전 제품, 게임 콘솔, 셋톱 박스, 또는 사용자가 네트워크에 액세스하기 위해 사용할 수 있는 임의의 다른 통신 디바이스일 수 있지만, 이것으로 제한되지는 않는다.
"통신 네트워크"는 애드혹 네트워크, 인트라넷, 엑스트라넷, VPN(virtual private network), LAN(local area network), WLAN(wireless LAN), WAN(wide area network), WWAN(wireless WAN), MAN(metropolitan area network), 인터넷, 인터넷의 일부분, PSTN(Public Switched Telephone Network)의 일부분, POTS(plain old telephone service) 네트워크, 셀룰러 전화 네트워크, 무선 네트워크, Wi-Fi® 네트워크, 다른 유형의 네트워크, 또는 2개 이상의 그러한 네트워크의 조합일 수 있는 네트워크의 하나 이상의 부분을 지칭한다. 예를 들어, 네트워크 또는 네트워크의 부분은 무선 또는 셀룰러 네트워크를 포함할 수 있고 결합은 CDMA(Code Division Multiple Access) 접속, GSM(Global System for Mobile communications) 접속, 또는 다른 유형의 셀룰러 또는 무선 결합일 수 있다. 이러한 예에서, 결합은, 1xRTT(Single Carrier Radio Transmission Technology), EVDO(Evolution-Data Optimized) 기술, GPRS(General Packet Radio Service) 기술, EDGE(Enhanced Data rates for GSM Evolution) 기술, 3G를 포함하는 3GPP(third Generation Partnership Project), 4G(fourth generation wireless) 네트워크들, UMTS(Universal Mobile Telecommunications System), HSPA(High-Speed Packet Access), WiMAX(Worldwide Interoperability for Microwave Access), LTE(Long Term Evolution) 표준, 다양한 표준 설정 조직들에 의해 정의되는 다른 것들, 다른 장거리 프로토콜들, 또는 다른 데이터 전송 기술과 같은, 다양한 유형들의 데이터 전송 기술 중 임의의 것을 구현할 수 있다.
"컴포넌트(Component)"는 기능 또는 서브루틴 호출, 분기 포인트, API, 또는 특정한 처리 또는 제어 기능들의 분할 또는 모듈화를 제공하는 다른 기술들에 의해 정의된 경계들을 갖는 디바이스, 물리적 엔티티, 또는 로직을 지칭한다. 컴포넌트들은 그들의 인터페이스들을 통해 다른 컴포넌트들과 조합되어 머신 프로세스를 수행할 수 있다. 컴포넌트는, 다른 컴포넌트들 및 보통은 관련된 기능들 중 특정 기능을 수행하는 프로그램의 일부와 함께 이용되도록 설계되는 패키징된 기능적 하드웨어 유닛일 수 있다. 컴포넌트들은 소프트웨어 컴포넌트들(예를 들어, 머신 판독가능 매체 상에 구체화되는 코드) 또는 하드웨어 컴포넌트들을 구성할 수 있다. "하드웨어 컴포넌트"는 특정 동작들을 수행할 수 있는 유형적 유닛(tangible unit)이고, 특정 물리적 방식으로 구성되거나 배열될 수 있다. 다양한 예시적인 실시예들에서, 하나 이상의 컴퓨터 시스템(예를 들어, 독립형 컴퓨터 시스템, 클라이언트 컴퓨터 시스템, 또는 서버 컴퓨터 시스템) 또는 컴퓨터 시스템의 하나 이상의 하드웨어 컴포넌트(예를 들어, 프로세서 또는 프로세서들의 그룹)은 본 명세서에 설명되는 바와 같이 특정 동작들을 수행하기 위해 동작하는 하드웨어 컴포넌트로서 소프트웨어(예를 들어, 애플리케이션 또는 애플리케이션 부분)에 의해 구성될 수 있다. 하드웨어 컴포넌트는 또한, 기계적으로, 전자적으로, 또는 이들의 임의의 적합한 조합으로 구현될 수 있다. 예를 들어, 하드웨어 컴포넌트는 특정 동작들을 수행하도록 영구적으로 구성되는 전용 회로 또는 로직을 포함할 수 있다. 하드웨어 컴포넌트는, FPGA(Field-Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)와 같은 특수 목적 프로세서일 수 있다. 하드웨어 컴포넌트는 또한, 특정 동작들을 수행하도록 소프트웨어에 의해 일시적으로 구성된 프로그램가능한 로직 또는 회로를 포함할 수 있다. 예를 들어, 하드웨어 컴포넌트는 범용 프로세서 또는 다른 프로그램가한능 프로세서에 의해 실행되는 소프트웨어를 포함할 수 있다. 일단 이러한 소프트웨어에 의해 구성되면, 하드웨어 컴포넌트들은 구성되는 기능들을 수행하도록 고유하게 맞춤화된 특정 머신들(또는 머신의 특정 컴포넌트들)이 되고 더 이상 범용 프로세서들이 아니다. 하드웨어 컴포넌트를 기계적으로, 전용의 영구적으로 구성되는 회로에, 또는 일시적으로 구성되는 회로(예를 들어, 소프트웨어에 의해 구성됨)에 구현하기로 하는 결정이 비용 및 시간 고려사항들에 의해 주도될 수 있다는 것을 잘 알 것이다. 따라서, "하드웨어 컴포넌트"(또는 "하드웨어-구현된 컴포넌트")라는 문구는, 엔티티가 특정 방식으로 동작하거나 또는 본 명세서에서 설명된 특정 동작들을 수행하도록 물리적으로 구성되거나, 영구적으로 구성되거나(예를 들어, 하드와이어드), 또는 일시적으로 구성되는(예를 들어, 프로그래밍되는) 것은 무엇이든 유형 엔티티(tangible entity)를 포괄하는 것으로 이해해야 한다. 하드웨어 컴포넌트들이 일시적으로 구성되는 (예를 들어, 프로그래밍되는) 실시예들을 고려할 때, 하드웨어 컴포넌트들 각각은 임의의 하나의 시간 인스턴스에서 구성되거나 인스턴스화될 필요는 없다. 예를 들어, 하드웨어 컴포넌트가 특수 목적 프로세서가 되도록 소프트웨어에 의해 구성된 범용 프로세서를 포함하는 경우에, 범용 프로세서는 상이한 때에 (예컨대, 상이한 하드웨어 컴포넌트들을 포함하는) 제각기 상이한 특수 목적 프로세서들로서 구성될 수 있다. 따라서 소프트웨어는 예를 들어, 하나의 시간 인스턴스에서는 특정 하드웨어 컴포넌트를 구성하고 상이한 시간 인스턴스에서는 상이한 하드웨어 컴포넌트를 구성하도록 특정 프로세서 또는 프로세서들을 구성한다. 하드웨어 컴포넌트는 다른 하드웨어 컴포넌트들에 정보를 제공하고 그로부터 정보를 수신할 수 있다. 따라서, 설명된 하드웨어 컴포넌트들은 통신가능하게 결합되는 것으로서 간주될 수 있다. 다중의 하드웨어 컴포넌트가 동시에 존재하는 경우에, 하드웨어 컴포넌트들 중 2개 이상 간의 또는 그들 사이의 (예를 들어, 적절한 회로들 및 버스들을 통한) 신호 송신을 통해 통신이 달성될 수 있다. 다중의 하드웨어 컴포넌트가 상이한 시간들에서 구성되거나 인스턴스화되는 실시예에서, 이러한 하드웨어 컴포넌트들 사이의 통신은, 예를 들어, 다중의 하드웨어 컴포넌트가 액세스하는 메모리 구조 내의 정보의 저장 및 검색을 통해 달성될 수 있다. 예를 들어, 어느 한 하드웨어 컴포넌트는 동작을 수행하고 그 동작의 출력을, 그것이 통신가능하게 결합된 메모리 디바이스에 저장할 수 있다. 그 후 추가의 하드웨어 컴포넌트는, 추후에, 저장된 출력을 검색 및 처리하기 위해 메모리 디바이스에 액세스할 수 있다. 하드웨어 컴포넌트들은 또한 입력 또는 출력 디바이스들과 통신을 개시할 수 있고, 자원(예를 들어, 정보의 컬렉션) 상에서 동작할 수 있다. 본 명세서에 설명된 예시적 방법들의 다양한 동작들은, 관련 동작들을 수행하도록 영구적으로 구성되거나 또는(예를 들어, 소프트웨어에 의해) 일시적으로 구성되는 하나 이상의 프로세서에 의해 적어도 부분적으로 수행될 수 있다. 일시적으로 또는 영구적으로 구성되든 간에, 이러한 프로세서들은 본 명세서에 설명되는 하나 이상의 동작 또는 기능들을 수행하도록 동작하는 프로세서 구현 컴포넌트들을 구성할 수 있다. 본 명세서에서 사용되는 바와 같이, "프로세서 구현 컴포넌트(processor-implemented component)"는 하나 이상의 프로세서를 사용하여 구현되는 하드웨어 컴포넌트를 지칭한다. 유사하게, 본 명세서에 설명되는 방법들은, 특정 프로세서 또는 프로세서들이 하드웨어의 예가 되면서, 적어도 부분적으로 프로세서로 구현될 수 있다. 예를 들어, 방법의 동작들 중 적어도 일부가 하나 이상의 프로세서 또는 프로세서 구현 컴포넌트들에 의해 수행될 수 있다. 더욱이, 하나 이상의 프로세서는 또한 "클라우드 컴퓨팅(cloud computing)" 환경에서 또는 "SaaS(software as a service)"로서 관련 동작들의 수행을 지원하기 위해 동작할 수 있다. 예를 들어, 동작들 중 적어도 일부는, (프로세서들을 포함하는 머신의 예로서의) 컴퓨터들의 그룹에 의해 수행될 수 있고, 이들 동작들은 네트워크(예를 들어, 인터넷)를 통해 및 하나 이상의 적절한 인터페이스(예를 들어, API)를 통해 액세스가능하다. 동작들 중 특정의 것의 수행은 단일 머신 내에 상주할 뿐만 아니라, 다수의 머신에 걸쳐 배치된 프로세서들 사이에 분산될 수 있다. 일부 예시적인 실시예들에서, 프로세서들 또는 프로세서 구현 컴포넌트들은 단일의 지리적 로케이션에(예를 들어, 가정 환경, 사무실 환경, 또는 서버 팜(server farm) 내에) 위치될 수 있다. 다른 예시적인 실시예들에서, 프로세서들 또는 프로세서 구현 컴포넌트들은 다수의 지리적 로케이션에 걸쳐 분산될 수 있다.
"컴퓨터 판독가능 매체"는 머신 저장 매체 및 송신 매체 둘 다를 지칭한다. 따라서, 용어들은 저장 디바이스들/매체들 및 반송파들/변조된 데이터 신호들 모두를 포함한다. "머신 판독가능 매체", "컴퓨터 판독가능 매체" 및 "디바이스 판독가능 매체"라는 용어들은 동일한 것을 의미하며, 본 개시에서 상호 교환 가능하게 사용될 수 있다.
"단기적 메시지"는 시간 제한된 지속기간 동안 액세스 가능한 메시지를 지칭한다. 단기적 메시지는 텍스트, 이미지, 비디오 등일 수 있다. 단기적 메시지에 대한 액세스 시간은 메시지 전송자에 의해 설정될 수 있다. 대안적으로, 액세스 시간은 디폴트 설정 또는 수신자에 의해 지정된 설정일 수 있다. 설정 기법에 관계없이, 메시지는 일시적(transitory)이다.
"머신 저장 매체"는 실행가능 명령어들, 루틴들 및/또는 데이터를 저장하는 단일의 또는 다중의 저장 디바이스들 및/또는 매체들(예를 들어, 중앙집중형 또는 분산형 데이터베이스, 및/또는 연관된 캐시들 및 서버들)을 지칭한다. 따라서, 용어는 프로세서들 내부 또는 외부의 메모리를 포함하는 고체 상태 메모리들, 및 광학 및 자기 매체를 포함하지만 이에 제한되지는 않는 것으로 취해질 것이다. 머신 저장 매체들, 컴퓨터 저장 매체들 및/또는 디바이스 저장 매체들의 특정 예들은 예로서, 반도체 메모리 디바이스들, 예컨대, EPROM(erasable programmable read-only memory), EEPROM(electrically erasable programmable read-only memory), FPGA, 및 플래시 메모리 디바이스들을 포함하는 비휘발성 메모리; 내부 하드 디스크 및 이동식 디스크와 같은 자기 디스크; 자기-광학 디스크들; 및 CD-ROM 및 DVD-ROM 디스크들을 포함한다. 용어들 "머신 저장 매체", "디바이스 저장 매체", "컴퓨터 저장 매체"는 동일한 것을 의미하고 본 개시내용에서 상호 교환가능하게 사용될 수 있다. "머신 저장 매체", "컴퓨터 저장 매체", 및 "디바이스 저장 매체"라는 용어들은 구체적으로 반송파들, 변조된 데이터 신호들, 및 다른 그런 매체를 제외하는데, 이들 중 적어도 일부는 "신호 매체"라는 용어 하에 포함된다.
"프로세서(Processor)"는 제어 신호들(예를 들어, "명령들", "오피코드들", "머신 코드" 등)에 따라 데이터 값들을 조작하고 머신을 동작시키기 위해 가해지는 대응하는 출력 신호들을 생성하는 임의의 회로 또는 가상 회로(실제 프로세서 상에서 실행되는 로직에 의해 에뮬레이트되는 물리 회로)를 지칭한다. 프로세서는, 예를 들어, CPU(Central Processing Unit), RISC(Reduced Instruction Set Computing) 프로세서, CISC(Complex Instruction Set Computing) 프로세서, GPU(Graphics Processing Unit), DSP(Digital Signal Processor), ASIC(Application Specific Integrated Circuit), RFIC(Radio-Frequency Integrated Circuit), 또는 이들의 임의의 조합일 수 있다. 프로세서는 추가로, 명령어들을 동시에 실행할 수 있는 2개 이상의 독립적 프로세서(때때로 "코어들(cores)"이라고 지칭됨)을 갖는 멀티 코어 프로세서일 수 있다.
"신호 매체"는 머신에 의한 실행을 위한 명령어들을 저장하거나, 인코딩하거나, 또는 운반할 수 있는 임의의 무형적 매체를 지칭하고, 소프트웨어 또는 데이터의 통신을 용이하게 하기 위한 디지털 또는 아날로그 통신 신호들 또는 다른 무형적 매체들을 포함한다. 용어 "신호 매체"는 임의의 형태의 변조된 데이터 신호, 반송파, 및 등등을 포함하는 것으로 취해질 것이다. "변조된 데이터 신호"라는 용어는 신호 내의 정보를 인코딩하기 위한 그런 상황에서 설정 또는 변경된 자신의 특성들 중 하나 이상을 갖는 신호를 의미한다. "송신 매체", 및 "신호 매체"라는 용어들은 동일한 것을 의미하고 본 개시내용에서 상호 교환가능하게 사용될 수 있다.
본 개시내용의 범위를 벗어나지 않고 개시된 실시예들에 대한 변경들 및 수정들이 이루어질 수 있다. 이들 및 다른 변경들 또는 수정들은 다음의 청구항들에서 표현된 바와 같은, 본 개시내용의 범위 내에 포함되는 것으로 의도된다.

Claims (20)

  1. 시스템으로서,
    적어도 하나의 프로세서; 및
    명령어들이 저장된 메모리 컴포넌트를 포함하고, 상기 명령어들은 상기 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금 동작들을 수행하게 하고, 상기 동작들은:
    제1 사용자와 연관된 제1 디바이스 상에서 실행되는 메시징 애플리케이션 내에서, 상기 제1 디바이스의 카메라가 비활성화되는 제1 사용자 인터페이스를 디스플레이하는 것 - 상기 제1 사용자 인터페이스는 상기 제1 디바이스에 의해 캡처된 제1 이미지에 기초하여 제1 미디어 콘텐츠 아이템을 미리보기함 -;
    상기 제1 사용자 인터페이스를 통해 사용자 입력을 수신하는 것 - 상기 사용자 입력은 핀치 제스처에 대응함 -; 및
    상기 사용자 입력을 수신한 것에 응답하여,
    실시간으로 제2 이미지를 캡처하기 위해 상기 카메라를 활성화하고,
    상기 제1 사용자 인터페이스를 대체하는 제2 사용자 인터페이스를 디스플레이하는 것
    을 포함하고, 상기 제2 사용자 인터페이스는 제2 미디어 콘텐츠 아이템을 생성하고, 상기 제2 미디어 콘텐츠 아이템은 상기 제2 이미지, 및 상기 제2 이미지를 오버레이하는 스티커로서의 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전을 포함하는 시스템.
  2. 제1항에 있어서, 상기 동작들은 추가로,
    상기 제1 미디어 콘텐츠 아이템에 디스플레이된 제1 객체를 검출하는 것;
    상기 제2 이미지에 디스플레이된 제2 객체를 검출하는 것; 및
    상기 제2 이미지 및 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전과 함께 디스플레이하기 위한 복수의 증강 현실 콘텐츠 아이템에 대한 순위 매김을 결정하는 것을 포함하고,
    상기 순위 매김은 상기 제1 객체 및 상기 제2 객체에 기초하는, 시스템.
  3. 제2항에 있어서, 상기 순위 매김을 결정하는 것은,
    상기 복수의 증강 현실 콘텐츠 아이템을 순위 매기기 위한 요청을 서버에 전송하는 것 - 상기 요청은 상기 제1 객체 및 상기 제2 객체를 표시함 -; 및
    상기 서버로부터 그리고 상기 요청을 전송한 것에 응답하여, 상기 복수의 증강 현실 콘텐츠 아이템에 대한 상기 순위 매김의 표시를 수신하는 것
    를 포함하는, 시스템.
  4. 제2항에 있어서, 상기 동작들은 추가로,
    상기 순위 매김에 기초하여 순서화된 아이콘들을 갖는 캐러셀 인터페이스(carousel interface)를 디스플레이하는 것 - 상기 캐러셀 인터페이스는 다중의 아이콘을 포함하고, 각각의 아이콘은 상기 제2 이미지와 함께 상기 복수의 증강 현실 콘텐츠 아이템 중 각자의 것을 디스플레이하도록 사용자 선택가능함 - 을 포함하는, 시스템.
  5. 제1항에 있어서, 상기 동작들은 추가로,
    상기 제1 미디어 콘텐츠 아이템의 더 작은 버전 및 상기 제2 이미지를 포함하는 제2 미디어 콘텐츠 아이템을 생성하라는 제2 사용자 입력을 수신하는 것; 및
    상기 제2 사용자 입력을 수신한 것에 응답하여, 상기 제2 미디어 콘텐츠 아이템을 생성하는 것을 포함하는, 시스템.
  6. 제1항에 있어서, 상기 동작들은 추가로,
    제1 미디어 콘텐츠 아이템을 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전으로 리사이징하는 애니메이션을 디스플레이하는 것을 포함하는, 시스템.
  7. 제1항에 있어서,
    상기 제1 사용자 인터페이스 내에서의 제1 미디어 콘텐츠 아이템의 디스플레이는 하나 이상의 제한에 종속되고,
    제1 미디어 콘텐츠 아이템의 더 작은 버전을 디스플레이하는 것은 상기 하나 이상의 제한을 준수하는, 시스템.
  8. 제7항에 있어서,
    상기 하나 이상의 제한은 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전의 디스플레이를 미리 정의된 시간 기간으로 제한하는 시간 기반 제한을 포함하는, 시스템.
  9. 제7항에 있어서,
    상기 하나 이상의 제한은 상기 제2 미디어 콘텐츠 아이템의 공유를 제한하는 공유 제한을 포함하는, 시스템.
  10. 방법으로서,
    제1 사용자와 연관된 제1 디바이스 상에서 실행되는 메시징 애플리케이션 내에서, 상기 제1 디바이스의 카메라가 비활성화되는 제1 사용자 인터페이스를 디스플레이하는 단계 - 상기 제1 사용자 인터페이스는 상기 제1 디바이스에 의해 캡처된 제1 이미지에 기초하여 제1 미디어 콘텐츠 아이템을 미리보기함 -;
    상기 제1 사용자 인터페이스를 통해 사용자 입력을 수신하는 단계 - 상기 사용자 입력은 핀치 제스처에 대응함 -; 및
    상기 사용자 입력을 수신한 것에 응답하여,
    실시간으로 제2 이미지를 캡처하기 위해 상기 카메라를 활성화하고,
    상기 제1 사용자 인터페이스를 대체하는 제2 사용자 인터페이스를 디스플레이하는 단계
    를 포함하고, 상기 제2 사용자 인터페이스는 제2 미디어 콘텐츠 아이템을 생성하고, 상기 제2 미디어 콘텐츠 아이템은 상기 제2 이미지, 및 상기 제2 이미지를 오버레이하는 스티커로서의 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전을 포함하는 방법.
  11. 제10항에 있어서,
    상기 제1 미디어 콘텐츠 아이템에 디스플레이된 제1 객체를 검출하는 단계;
    상기 제2 이미지에 디스플레이된 제2 객체를 검출하는 단계; 및
    상기 제2 이미지 및 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전과 함께 디스플레이하기 위한 복수의 증강 현실 콘텐츠 아이템에 대한 순위 매김을 결정하는 단계를 추가로 포함하고,
    상기 순위 매김은 상기 제1 객체 및 상기 제2 객체에 기초하는, 방법.
  12. 제11항에 있어서, 상기 순위 매김을 결정하는 단계는,
    상기 복수의 증강 현실 콘텐츠 아이템을 순위 매기기 위한 요청을 서버에 전송하는 단계 - 상기 요청은 상기 제1 객체 및 상기 제2 객체를 표시함 -; 및
    상기 서버로부터 그리고 상기 요청을 전송한 것에 응답하여, 상기 복수의 증강 현실 콘텐츠 아이템에 대한 상기 순위 매김의 표시를 수신하는 단계
    를 포함하는, 방법.
  13. 제11항에 있어서,
    상기 순위 매김에 기초하여 순서화된 아이콘들을 갖는 캐러셀 인터페이스를 디스플레이하는 단계 - 상기 캐러셀 인터페이스는 다중의 아이콘을 포함하고, 각각의 아이콘은 상기 제2 이미지와 함께 상기 복수의 증강 현실 콘텐츠 아이템 중 각자의 것을 디스플레이하도록 사용자 선택가능함 - 를 추가로 포함하는, 방법.
  14. 제10항에 있어서,
    상기 제1 미디어 콘텐츠 아이템의 더 작은 버전 및 상기 제2 이미지를 포함하는 제2 미디어 콘텐츠 아이템을 생성하라는 제2 사용자 입력을 수신하는 단계; 및
    상기 제2 사용자 입력을 수신한 것에 응답하여, 상기 제2 미디어 콘텐츠 아이템을 생성하는 단계
    를 추가로 포함하는, 방법.
  15. 제10항에 있어서,
    제1 미디어 콘텐츠 아이템을 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전으로 리사이징하는 애니메이션을 디스플레이하는 단계를 추가로 포함하는, 방법.
  16. 제10항에 있어서,
    상기 제1 사용자 인터페이스 내에서의 제1 미디어 콘텐츠 아이템의 디스플레이는 하나 이상의 제한에 종속되고,
    상기 제1 미디어 콘텐츠 아이템의 더 작은 버전을 디스플레이하는 것은 상기 하나 이상의 제한을 준수하는, 방법.
  17. 제16항에 있어서,
    상기 하나 이상의 제한은 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전의 디스플레이를 미리 정의된 시간 기간으로 제한하는 시간 기반 제한을 포함하는, 방법.
  18. 제16항에 있어서,
    상기 하나 이상의 제한은 상기 제2 미디어 콘텐츠 아이템의 공유를 제한하는 공유 제한을 포함하는, 방법.
  19. 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 컴퓨터 판독가능 저장 매체는 명령어들을 포함하고, 상기 명령어들은, 컴퓨터에 의해 실행될 때, 상기 컴퓨터로 하여금 동작들을 수행하게 하고, 상기 동작들은:
    제1 사용자와 연관된 제1 디바이스 상에서 실행되는 메시징 애플리케이션 내에서, 상기 제1 디바이스의 카메라가 비활성화되는 제1 사용자 인터페이스를 디스플레이하는 것 - 상기 제1 사용자 인터페이스는 상기 제1 디바이스에 의해 캡처된 제1 이미지에 기초하여 제1 미디어 콘텐츠 아이템을 미리보기함 -;
    상기 제1 사용자 인터페이스를 통해 핀치 제스처에 대응하는 사용자 입력을 수신하는 것; 및
    상기 사용자 입력을 수신한 것에 응답하여,
    실시간으로 제2 이미지를 캡처하기 위해 상기 카메라를 활성화하고,
    상기 제1 사용자 인터페이스를 대체하는 제2 사용자 인터페이스를 디스플레이하는 것
    을 포함하고, 상기 제2 사용자 인터페이스는 제2 미디어 콘텐츠 아이템을 생성하고, 상기 제2 미디어 콘텐츠 아이템은 상기 제2 이미지, 및 상기 제2 이미지를 오버레이하는 스티커로서의 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전을 포함하는 비일시적 컴퓨터 판독가능 저장 매체.
  20. 제19항에 있어서, 상기 동작들은 추가로,
    상기 제1 미디어 콘텐츠 아이템에 디스플레이된 제1 객체를 검출하는 것;
    상기 제2 이미지에 디스플레이된 제2 객체를 검출하는 것; 및
    상기 제2 이미지 및 상기 제1 미디어 콘텐츠 아이템의 더 작은 버전과 함께 디스플레이하기 위한 복수의 증강 현실 콘텐츠 아이템에 대한 순위 매김을 결정하는 것을 포함하고,
    상기 순위 매김은 상기 제1 객체 및 상기 제2 객체에 기초하는, 비일시적 컴퓨터 판독가능 저장 매체.
KR1020237033872A 2020-03-26 2021-03-11 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기 KR20230146123A (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US202063000185P 2020-03-26 2020-03-26
US63/000,185 2020-03-26
US17/197,832 2021-03-10
US17/197,832 US11675494B2 (en) 2020-03-26 2021-03-10 Combining first user interface content into second user interface
PCT/US2021/021892 WO2021194755A1 (en) 2020-03-26 2021-03-11 Combining first user interface content into second user interface
KR1020227036800A KR102586855B1 (ko) 2020-03-26 2021-03-11 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020227036800A Division KR102586855B1 (ko) 2020-03-26 2021-03-11 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기

Publications (1)

Publication Number Publication Date
KR20230146123A true KR20230146123A (ko) 2023-10-18

Family

ID=77857127

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020227036800A KR102586855B1 (ko) 2020-03-26 2021-03-11 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기
KR1020237033872A KR20230146123A (ko) 2020-03-26 2021-03-11 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020227036800A KR102586855B1 (ko) 2020-03-26 2021-03-11 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기

Country Status (5)

Country Link
US (2) US11675494B2 (ko)
EP (1) EP4128672B1 (ko)
KR (2) KR102586855B1 (ko)
CN (1) CN115443641A (ko)
WO (1) WO2021194755A1 (ko)

Families Citing this family (89)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10509466B1 (en) 2011-05-11 2019-12-17 Snap Inc. Headwear with computer and optical element for use therewith and systems utilizing same
US10439972B1 (en) 2013-05-30 2019-10-08 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US10283162B2 (en) 2014-02-05 2019-05-07 Avatar Merger Sub II, LLC Method for triggering events in a video
US9276886B1 (en) 2014-05-09 2016-03-01 Snapchat, Inc. Apparatus and method for dynamically configuring application component tiles
US9396354B1 (en) 2014-05-28 2016-07-19 Snapchat, Inc. Apparatus and method for automated privacy protection in distributed images
US9537811B2 (en) 2014-10-02 2017-01-03 Snap Inc. Ephemeral gallery of ephemeral messages
US9225897B1 (en) 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
US10775996B2 (en) 2014-11-26 2020-09-15 Snap Inc. Hybridization of voice notes and calling
US9385983B1 (en) 2014-12-19 2016-07-05 Snapchat, Inc. Gallery of messages from individuals with a shared interest
US10311916B2 (en) 2014-12-19 2019-06-04 Snap Inc. Gallery of videos set to an audio time line
EP3272078B1 (en) 2015-03-18 2022-01-19 Snap Inc. Geo-fence authorization provisioning
US9668217B1 (en) 2015-05-14 2017-05-30 Snap Inc. Systems and methods for wearable initiated handshaking
US10503264B1 (en) 2015-06-16 2019-12-10 Snap Inc. Radial gesture navigation
US10354425B2 (en) 2015-12-18 2019-07-16 Snap Inc. Method and system for providing context relevant media augmentation
US10055895B2 (en) 2016-01-29 2018-08-21 Snap Inc. Local augmented reality persistent sticker objects
US10474353B2 (en) 2016-05-31 2019-11-12 Snap Inc. Application control using a gesture based trigger
US10102423B2 (en) 2016-06-30 2018-10-16 Snap Inc. Object modeling and replacement in a video stream
US10768639B1 (en) 2016-06-30 2020-09-08 Snap Inc. Motion and image-based control system
US10609036B1 (en) 2016-10-10 2020-03-31 Snap Inc. Social media post subscribe requests for buffer user accounts
US10579869B1 (en) 2017-07-18 2020-03-03 Snap Inc. Virtual object machine learning
US11323398B1 (en) 2017-07-31 2022-05-03 Snap Inc. Systems, devices, and methods for progressive attachments
US11204949B1 (en) 2017-07-31 2021-12-21 Snap Inc. Systems, devices, and methods for content selection
US10591730B2 (en) 2017-08-25 2020-03-17 II Jonathan M. Rodriguez Wristwatch based interface for augmented reality eyewear
US11531357B1 (en) 2017-10-05 2022-12-20 Snap Inc. Spatial vector-based drone control
US11847426B2 (en) 2017-11-08 2023-12-19 Snap Inc. Computer vision based sign language interpreter
US10217488B1 (en) 2017-12-15 2019-02-26 Snap Inc. Spherical video editing
US10567321B2 (en) 2018-01-02 2020-02-18 Snap Inc. Generating interactive messages with asynchronous media content
US10523606B2 (en) 2018-01-02 2019-12-31 Snap Inc. Generating interactive messages with asynchronous media content
US11063889B2 (en) 2018-06-08 2021-07-13 Snap Inc. Generating interactive messages with entity assets
US10796482B2 (en) 2018-12-05 2020-10-06 Snap Inc. 3D hand shape and pose estimation
US11012390B1 (en) 2019-03-28 2021-05-18 Snap Inc. Media content response in a messaging system
US12071228B1 (en) 2019-03-28 2024-08-27 Snap Inc. Drone with propeller guard configured as an airfoil
US11036368B1 (en) 2019-03-29 2021-06-15 Snap Inc. Messaging system with message transmission user interface
US11019011B1 (en) 2019-03-29 2021-05-25 Snap Inc. Messaging system with discard user interface
US11106342B1 (en) 2019-06-03 2021-08-31 Snap Inc. User interfaces to facilitate multiple modes of electronic communication
US11151794B1 (en) 2019-06-28 2021-10-19 Snap Inc. Messaging system with augmented reality messages
US11307747B2 (en) 2019-07-11 2022-04-19 Snap Inc. Edge gesture interface with smart interactions
KR20220062338A (ko) 2019-09-09 2022-05-16 스냅 인코포레이티드 스테레오 카메라들로부터의 손 포즈 추정
US11062498B1 (en) 2019-12-30 2021-07-13 Snap Inc. Animated pull-to-refresh
US10963145B1 (en) * 2019-12-30 2021-03-30 Snap Inc. Prioritizing display of user icons associated with content
US11488358B2 (en) 2020-02-05 2022-11-01 Snap Inc. Augmented reality session creation using skeleton tracking
US11265274B1 (en) 2020-02-28 2022-03-01 Snap Inc. Access and routing of interactive messages
US11675494B2 (en) 2020-03-26 2023-06-13 Snap Inc. Combining first user interface content into second user interface
US11409368B2 (en) 2020-03-26 2022-08-09 Snap Inc. Navigating through augmented reality content
US11960651B2 (en) 2020-03-30 2024-04-16 Snap Inc. Gesture-based shared AR session creation
US11455078B1 (en) 2020-03-31 2022-09-27 Snap Inc. Spatial navigation and creation interface
KR20230029968A (ko) 2020-06-30 2023-03-03 스냅 인코포레이티드 실시간 가상 효과들을 위한 골격 추적
US11832015B2 (en) 2020-08-13 2023-11-28 Snap Inc. User interface for pose driven virtual effects
US11360733B2 (en) 2020-09-10 2022-06-14 Snap Inc. Colocated shared augmented reality without shared backend
US11671559B2 (en) 2020-09-30 2023-06-06 Snap Inc. Real time video editing
US11797162B2 (en) 2020-12-22 2023-10-24 Snap Inc. 3D painting on an eyewear device
US11782577B2 (en) 2020-12-22 2023-10-10 Snap Inc. Media content player on an eyewear device
US12105283B2 (en) 2020-12-22 2024-10-01 Snap Inc. Conversation interface on an eyewear device
EP4268066A1 (en) 2020-12-22 2023-11-01 Snap Inc. Media content player on an eyewear device
EP4272406B1 (en) 2020-12-29 2024-10-02 Snap Inc. Body ui for augmented reality components
EP4272059A1 (en) 2020-12-31 2023-11-08 Snap Inc. Electronic communication interface with haptic feedback response
KR20230128063A (ko) 2020-12-31 2023-09-01 스냅 인코포레이티드 햅틱 피드백을 갖는 실시간 비디오 통신 인터페이스
KR20230124082A (ko) 2020-12-31 2023-08-24 스냅 인코포레이티드 햅틱 피드백 증강들을 갖는 미디어 콘텐츠 아이템들
US12008152B1 (en) 2020-12-31 2024-06-11 Snap Inc. Distance determination for mixed reality interaction
US11734959B2 (en) 2021-03-16 2023-08-22 Snap Inc. Activating hands-free mode on mirroring device
US11908243B2 (en) 2021-03-16 2024-02-20 Snap Inc. Menu hierarchy navigation on electronic mirroring devices
US11809633B2 (en) 2021-03-16 2023-11-07 Snap Inc. Mirroring device with pointing based navigation
US11798201B2 (en) 2021-03-16 2023-10-24 Snap Inc. Mirroring device with whole-body outfits
US11978283B2 (en) 2021-03-16 2024-05-07 Snap Inc. Mirroring device with a hands-free mode
USD998637S1 (en) 2021-03-16 2023-09-12 Snap Inc. Display screen or portion thereof with a graphical user interface
US12050729B2 (en) 2021-03-31 2024-07-30 Snap Inc. Real-time communication interface with haptic and audio feedback response
US12034680B2 (en) * 2021-03-31 2024-07-09 Snap Inc. User presence indication data management
US11880542B2 (en) 2021-05-19 2024-01-23 Snap Inc. Touchpad input for augmented reality display device
US11928306B2 (en) 2021-05-19 2024-03-12 Snap Inc. Touchpad navigation for augmented reality display device
US11670059B2 (en) 2021-09-01 2023-06-06 Snap Inc. Controlling interactive fashion based on body gestures
US11960784B2 (en) 2021-12-07 2024-04-16 Snap Inc. Shared augmented reality unboxing experience
US11748958B2 (en) 2021-12-07 2023-09-05 Snap Inc. Augmented reality unboxing experience
US11861801B2 (en) 2021-12-30 2024-01-02 Snap Inc. Enhanced reading with AR glasses
US11579747B1 (en) 2022-03-14 2023-02-14 Snap Inc. 3D user interface depth forgiveness
US11949527B2 (en) 2022-04-25 2024-04-02 Snap Inc. Shared augmented reality experience in video chat
US12136160B2 (en) 2022-04-27 2024-11-05 Snap Inc. Augmented reality experience power usage prediction
US11960653B2 (en) 2022-05-10 2024-04-16 Snap Inc. Controlling augmented reality effects through multi-modal human interaction
WO2023229932A1 (en) * 2022-05-23 2023-11-30 Snap Inc. Context cards for media supplementation
US20230379571A1 (en) * 2022-05-23 2023-11-23 Nathan Kenneth Boyd Combining content in a preview state
US12001878B2 (en) 2022-06-03 2024-06-04 Snap Inc. Auto-recovery for AR wearable devices
US12002168B2 (en) 2022-06-20 2024-06-04 Snap Inc. Low latency hand-tracking in augmented reality systems
US12069399B2 (en) 2022-07-07 2024-08-20 Snap Inc. Dynamically switching between RGB and IR capture
US11948266B1 (en) 2022-09-09 2024-04-02 Snap Inc. Virtual object manipulation with gestures in a messaging system
US11995780B2 (en) 2022-09-09 2024-05-28 Snap Inc. Shooting interaction using augmented reality content in a messaging system
US11797099B1 (en) 2022-09-19 2023-10-24 Snap Inc. Visual and audio wake commands
US11747912B1 (en) 2022-09-22 2023-09-05 Snap Inc. Steerable camera for AR hand tracking
US12112025B2 (en) 2023-02-16 2024-10-08 Snap Inc. Gesture-driven message content resizing
KR102662339B1 (ko) * 2023-09-22 2024-05-02 누트컴퍼니 주식회사 태그 기반의 디지털 이미지 컨텐츠 서비스 제공 장치 및 방법
US12093443B1 (en) 2023-10-30 2024-09-17 Snap Inc. Grasping virtual objects with real hands for extended reality

Family Cites Families (106)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7724242B2 (en) * 2004-08-06 2010-05-25 Touchtable, Inc. Touch driven method and apparatus to integrate and display multiple image layers forming alternate depictions of same subject matter
US7971156B2 (en) 2007-01-12 2011-06-28 International Business Machines Corporation Controlling resource access based on user gesturing in a 3D captured image stream of the user
US20090012788A1 (en) 2007-07-03 2009-01-08 Jason Andre Gilbert Sign language translation system
US9058764B1 (en) * 2007-11-30 2015-06-16 Sprint Communications Company L.P. Markers to implement augmented reality
US7991285B2 (en) * 2008-01-08 2011-08-02 Sony Ericsson Mobile Communications Ab Using a captured background image for taking a photograph
KR101456494B1 (ko) * 2008-08-01 2014-10-31 삼성전자주식회사 잔류 영상을 표시하는 디지털 촬영 장치의 제어 방법, 상기제어 방법에 따라 구동하는 디지털 촬영 장치 및 상기제어 방법을 기록한 기록 매체
US8487938B2 (en) 2009-01-30 2013-07-16 Microsoft Corporation Standard Gestures
US7996793B2 (en) 2009-01-30 2011-08-09 Microsoft Corporation Gesture recognizer system architecture
US8856691B2 (en) 2009-05-29 2014-10-07 Microsoft Corporation Gesture tool
KR101593573B1 (ko) * 2009-06-19 2016-02-12 삼성전자주식회사 단말기의 카메라를 이용한 컨텐츠 제작 방법 및 장치
US20140171036A1 (en) 2009-11-18 2014-06-19 Gwendolyn Simmons Method of communication
US8751215B2 (en) 2010-06-04 2014-06-10 Microsoft Corporation Machine based sign language interpreter
US8839118B2 (en) * 2010-06-30 2014-09-16 Verizon Patent And Licensing Inc. Users as actors in content
US8811948B2 (en) * 2010-07-09 2014-08-19 Microsoft Corporation Above-lock camera access
US9143699B2 (en) * 2010-07-13 2015-09-22 Sony Computer Entertainment Inc. Overlay non-video content on a mobile device
US8730354B2 (en) * 2010-07-13 2014-05-20 Sony Computer Entertainment Inc Overlay video content on a mobile device
US20120246562A1 (en) * 2011-03-25 2012-09-27 Leslie Gable Maness Building a customized story
US10509466B1 (en) 2011-05-11 2019-12-17 Snap Inc. Headwear with computer and optical element for use therewith and systems utilizing same
US9171198B1 (en) * 2012-04-02 2015-10-27 Google Inc. Image capture technique
US20150370320A1 (en) 2014-06-20 2015-12-24 Medibotics Llc Smart Clothing with Human-to-Computer Textile Interface
US9646522B2 (en) * 2012-06-29 2017-05-09 Intel Corporation Enhanced information delivery using a transparent display
US9230160B1 (en) 2012-08-27 2016-01-05 Amazon Technologies, Inc. Method, medium, and system for online ordering using sign language
KR102013443B1 (ko) * 2012-09-25 2019-08-22 삼성전자주식회사 이미지를 전송하기 위한 방법 및 그 전자 장치
JP5921404B2 (ja) * 2012-09-28 2016-05-24 株式会社東芝 情報表示装置、情報表示方法及びプログラム
CN103049761B (zh) 2013-01-21 2016-08-03 中国地质大学（武汉） 基于手语手套的手语识别方法及系统
US9705831B2 (en) 2013-05-30 2017-07-11 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US10439972B1 (en) 2013-05-30 2019-10-08 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
US9742713B2 (en) 2013-05-30 2017-08-22 Snap Inc. Apparatus and method for maintaining a message thread with opt-in permanence for entries
KR102047704B1 (ko) * 2013-08-16 2019-12-02 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
US11042607B2 (en) * 2013-08-23 2021-06-22 Nant Holdings Ip, Llc Recognition-based content management, systems and methods
US10057731B2 (en) * 2013-10-01 2018-08-21 Ambient Consulting, LLC Image and message integration system and method
US9558756B2 (en) 2013-10-29 2017-01-31 At&T Intellectual Property I, L.P. Method and system for adjusting user speech in a communication session
US9454840B2 (en) * 2013-12-13 2016-09-27 Blake Caldwell System and method for interactive animations for enhanced and personalized video communications
US20150172238A1 (en) * 2013-12-18 2015-06-18 Lutebox Ltd. Sharing content on devices with reduced user actions
US10283162B2 (en) 2014-02-05 2019-05-07 Avatar Merger Sub II, LLC Method for triggering events in a video
US9716861B1 (en) * 2014-03-07 2017-07-25 Steelcase Inc. Method and system for facilitating collaboration sessions
US10284813B2 (en) * 2014-03-17 2019-05-07 Microsoft Technology Licensing, Llc Automatic camera selection
US9276886B1 (en) 2014-05-09 2016-03-01 Snapchat, Inc. Apparatus and method for dynamically configuring application component tiles
US9537811B2 (en) 2014-10-02 2017-01-03 Snap Inc. Ephemeral gallery of ephemeral messages
US20150350141A1 (en) * 2014-05-31 2015-12-03 Apple Inc. Message user interfaces for capture and transmittal of media and location content
US9225897B1 (en) 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
US10284508B1 (en) 2014-10-02 2019-05-07 Snap Inc. Ephemeral gallery of ephemeral messages with opt-in permanence
US9940477B2 (en) * 2014-12-11 2018-04-10 Agostino Sibillo Geolocation-based encryption method and system
US9385983B1 (en) 2014-12-19 2016-07-05 Snapchat, Inc. Gallery of messages from individuals with a shared interest
US10025491B2 (en) 2014-12-30 2018-07-17 PIQPIQ, Inc. Social messaging system for real-time selection and sorting of photo and video content
US20160196584A1 (en) * 2015-01-06 2016-07-07 Facebook, Inc. Techniques for context sensitive overlays
US20160216871A1 (en) * 2015-01-27 2016-07-28 Twitter, Inc. Video capture and sharing
WO2016168591A1 (en) 2015-04-16 2016-10-20 Robert Bosch Gmbh System and method for automated sign language recognition
US10503264B1 (en) 2015-06-16 2019-12-10 Snap Inc. Radial gesture navigation
TWM521371U (zh) 2015-08-04 2016-05-11 胡天騏 頸掛式重物背帶結構及其輔助裝置
US11106273B2 (en) 2015-10-30 2021-08-31 Ostendo Technologies, Inc. System and methods for on-body gestural interfaces and projection displays
KR20170064901A (ko) * 2015-12-02 2017-06-12 엘지전자 주식회사 모바일 디바이스 및 그 제어 방법
US10217283B2 (en) * 2015-12-17 2019-02-26 Google Llc Navigation through multidimensional images spaces
US10055895B2 (en) 2016-01-29 2018-08-21 Snap Inc. Local augmented reality persistent sticker objects
US9996224B2 (en) * 2016-02-29 2018-06-12 Google Llc Methods, systems, and media for creating and updating a group of media content items
CN105791692B (zh) * 2016-03-14 2020-04-07 腾讯科技（深圳）有限公司 一种信息处理方法、终端及存储介质
JP2017174300A (ja) 2016-03-25 2017-09-28 富士ゼロックス株式会社 情報処理装置、情報処理方法およびプログラム
US9965467B2 (en) 2016-03-28 2018-05-08 Avaya Inc. Sign language communication with communication devices
US10768639B1 (en) 2016-06-30 2020-09-08 Snap Inc. Motion and image-based control system
US10102423B2 (en) 2016-06-30 2018-10-16 Snap Inc. Object modeling and replacement in a video stream
US20180067641A1 (en) * 2016-09-01 2018-03-08 PIQPIQ, Inc. Social networking application for real-time selection and sorting of photo and video content
US9940975B2 (en) * 2016-09-13 2018-04-10 Shutterfly, Inc. System and method for automatically displaying variable image content in an image product
WO2018057541A1 (en) * 2016-09-20 2018-03-29 Google Llc Suggested responses based on message stickers
GB2554668B (en) * 2016-09-30 2022-06-22 Apical Ltd Image manipulation
US10446059B2 (en) 2016-12-07 2019-10-15 Thomas William Pryor Hand motion interpretation and communication apparatus
CN106775258A (zh) * 2017-01-04 2017-05-31 虹软(杭州)多媒体信息技术有限公司 利用手势控制实现虚拟现实交互的方法和装置
CN108874113A (zh) * 2017-05-08 2018-11-23 丽宝大数据股份有限公司 电子化妆镜装置及其背景转换方法
US10579869B1 (en) 2017-07-18 2020-03-03 Snap Inc. Virtual object machine learning
CN107483721B (zh) * 2017-07-28 2019-10-25 Oppo广东移动通信有限公司 基于黑屏手势的控制方法、装置、存储介质及移动终端
US10591730B2 (en) 2017-08-25 2020-03-17 II Jonathan M. Rodriguez Wristwatch based interface for augmented reality eyewear
US11138255B2 (en) * 2017-09-27 2021-10-05 Facebook, Inc. Providing combinations of pre-generated and dynamic media effects to create customized media communications
US10573043B2 (en) * 2017-10-30 2020-02-25 Snap Inc. Mobile-based cartographic control of display content
US11847426B2 (en) 2017-11-08 2023-12-19 Snap Inc. Computer vision based sign language interpreter
US10956770B1 (en) * 2017-11-14 2021-03-23 Snap Inc. Systems and methods for multi-device image processing
US11202124B2 (en) * 2017-11-28 2021-12-14 Snap Inc. Media collection generation and privacy mechanisms
CN111480153A (zh) * 2017-12-11 2020-07-31 三星电子株式会社 用于管理网络内容的导航的方法和装置
US10217488B1 (en) 2017-12-15 2019-02-26 Snap Inc. Spherical video editing
US10630622B2 (en) * 2017-12-28 2020-04-21 Ebay Inc. Adding images via MMS to a draft document
US10567321B2 (en) * 2018-01-02 2020-02-18 Snap Inc. Generating interactive messages with asynchronous media content
US10962809B1 (en) 2018-01-10 2021-03-30 Snap Inc. Eyewear device with finger activated touch sensor
US11092998B1 (en) 2018-01-12 2021-08-17 Snap Inc. Eyewear device with fingerprint sensor for user input
US11012389B2 (en) * 2018-05-07 2021-05-18 Apple Inc. Modifying images with supplemental content for messaging
US11227626B1 (en) 2018-05-21 2022-01-18 Snap Inc. Audio response messages
US20180351895A1 (en) * 2018-07-11 2018-12-06 Yogesh Rathod In the event of selection of message, invoking camera to enabling to capture media and relating, attaching, integrating, overlay message with/on/in captured media and send to message sender
CN110764921A (zh) * 2018-07-24 2020-02-07 北京京东尚科信息技术有限公司 轮播图展示方法、装置、电子设备及计算机可读介质
US11157694B2 (en) * 2018-08-14 2021-10-26 Snap Inc. Content suggestion system
US11165838B1 (en) * 2018-09-07 2021-11-02 Curator Video, LLC Video capture and management system
CN112789578A (zh) 2018-09-28 2021-05-11 美国斯耐普公司 用于可穿戴或移动设备上的姿势、穿戴、活动或携带检测的神经网络系统
US20200120269A1 (en) * 2018-10-11 2020-04-16 Manuchehr Shirmohamadi Double-selfie system for photographic device having at least two cameras
US10796482B2 (en) 2018-12-05 2020-10-06 Snap Inc. 3D hand shape and pose estimation
US20220158961A1 (en) * 2019-03-04 2022-05-19 Twitter, Inc. Media content capture and presentation
US11012390B1 (en) 2019-03-28 2021-05-18 Snap Inc. Media content response in a messaging system
US10904193B1 (en) * 2019-03-28 2021-01-26 Snap Inc. Modular chat in a content sharing platform
US11036368B1 (en) 2019-03-29 2021-06-15 Snap Inc. Messaging system with message transmission user interface
US11106342B1 (en) 2019-06-03 2021-08-31 Snap Inc. User interfaces to facilitate multiple modes of electronic communication
US11514124B2 (en) * 2019-06-19 2022-11-29 International Business Machines Corporation Personalizing a search query using social media
US11134036B2 (en) * 2019-07-05 2021-09-28 Snap Inc. Event planning in a content sharing platform
US11307747B2 (en) 2019-07-11 2022-04-19 Snap Inc. Edge gesture interface with smart interactions
KR20220062338A (ko) 2019-09-09 2022-05-16 스냅 인코포레이티드 스테레오 카메라들로부터의 손 포즈 추정
US11169600B1 (en) 2019-12-06 2021-11-09 Snap Inc. Virtual object display interface between a wearable device and a mobile device
US11087728B1 (en) 2019-12-21 2021-08-10 Snap Inc. Computer vision and mapping for audio applications
US11062498B1 (en) 2019-12-30 2021-07-13 Snap Inc. Animated pull-to-refresh
US11488358B2 (en) 2020-02-05 2022-11-01 Snap Inc. Augmented reality session creation using skeleton tracking
US11675494B2 (en) 2020-03-26 2023-06-13 Snap Inc. Combining first user interface content into second user interface
US11409368B2 (en) 2020-03-26 2022-08-09 Snap Inc. Navigating through augmented reality content
US11960651B2 (en) 2020-03-30 2024-04-16 Snap Inc. Gesture-based shared AR session creation

Also Published As

Publication number Publication date
WO2021194755A1 (en) 2021-09-30
KR20220156926A (ko) 2022-11-28
EP4128672A1 (en) 2023-02-08
US11675494B2 (en) 2023-06-13
US20230273723A1 (en) 2023-08-31
US20210303140A1 (en) 2021-09-30
KR102586855B1 (ko) 2023-10-11
EP4128672B1 (en) 2024-01-03
CN115443641A (zh) 2022-12-06

Similar Documents

Publication Publication Date Title
KR102586855B1 (ko) 제1 사용자 인터페이스 콘텐츠를 제2 사용자 인터페이스 내로 조합하기
US11775079B2 (en) Navigating through augmented reality content
US12062235B2 (en) Providing travel-based augmented reality content with a captured image
US11645933B2 (en) Displaying augmented reality content with tutorial content
US11680814B2 (en) Augmented reality-based translations associated with travel
US11978096B2 (en) Providing travel-based augmented reality content relating to user-submitted reviews
US12051131B2 (en) Presenting shortcuts based on a scan operation within a messaging system
KR20220155601A (ko) 검출된 객체들에 대한 증강 현실 콘텐츠의 음성 기반 선택
US20240073166A1 (en) Combining individual functions into shortcuts within a messaging system
US20230394819A1 (en) Displaying object names in association with augmented reality content

Legal Events

Date Code Title Description
A107 Divisional application of patent