KR20230152723A - 평균 스무딩을 사용하여 이미지-대-이미지 모델들 압축 - Google Patents
평균 스무딩을 사용하여 이미지-대-이미지 모델들 압축 Download PDFInfo
- Publication number
- KR20230152723A KR20230152723A KR1020237033235A KR20237033235A KR20230152723A KR 20230152723 A KR20230152723 A KR 20230152723A KR 1020237033235 A KR1020237033235 A KR 1020237033235A KR 20237033235 A KR20237033235 A KR 20237033235A KR 20230152723 A KR20230152723 A KR 20230152723A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- message
- data
- messaging
- user
- Prior art date
Links
- 238000009499 grossing Methods 0.000 title claims abstract description 17
- 238000000034 method Methods 0.000 claims abstract description 89
- 238000010606 normalization Methods 0.000 claims abstract description 24
- 230000015654 memory Effects 0.000 claims description 33
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 25
- 230000006835 compression Effects 0.000 abstract description 44
- 238000007906 compression Methods 0.000 abstract description 44
- 238000012549 training Methods 0.000 abstract description 7
- 238000007792 addition Methods 0.000 abstract description 3
- 230000001419 dependent effect Effects 0.000 abstract description 2
- 238000013519 translation Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 36
- 238000004891 communication Methods 0.000 description 31
- 230000004048 modification Effects 0.000 description 31
- 238000012986 modification Methods 0.000 description 31
- 230000003416 augmentation Effects 0.000 description 19
- 230000003190 augmentative effect Effects 0.000 description 17
- 230000008569 process Effects 0.000 description 14
- 238000012545 processing Methods 0.000 description 13
- 230000009466 transformation Effects 0.000 description 13
- 238000013528 artificial neural network Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 12
- 230000004044 response Effects 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 210000000887 face Anatomy 0.000 description 9
- 230000000007 visual effect Effects 0.000 description 9
- 238000001514 detection method Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000008878 coupling Effects 0.000 description 6
- 238000010168 coupling process Methods 0.000 description 6
- 238000005859 coupling reaction Methods 0.000 description 6
- 238000012546 transfer Methods 0.000 description 6
- 244000141353 Prunus domestica Species 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000001815 facial effect Effects 0.000 description 5
- 230000001413 cellular effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000000844 transformation Methods 0.000 description 4
- 241001465754 Metazoa Species 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 239000007789 gas Substances 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000013140 knowledge distillation Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000004821 distillation Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000013138 pruning Methods 0.000 description 2
- 238000010079 rubber tapping Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 241000282472 Canis lupus familiaris Species 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 238000013256 Gubra-Amylin NASH model Methods 0.000 description 1
- 241000282320 Panthera leo Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000356 contaminant Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 231100001261 hazardous Toxicity 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007620 mathematical function Methods 0.000 description 1
- 238000010297 mechanical methods and process Methods 0.000 description 1
- 230000005226 mechanical processes and functions Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008261 resistance mechanism Effects 0.000 description 1
- 230000002207 retinal effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000035900 sweating Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/002—Image coding using neural networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0495—Quantised networks; Sparse networks; Compressed networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0475—Generative networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/094—Adversarial learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Probability & Statistics with Applications (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
이미지-대-이미지 모델을 압축하는 시스템 및 방법. GAN(Generative Adversarial Networks)은 충실도가 높은 이미지를 생성하는 데 성공했다. 이미지 압축 시스템 및 방법은 추가 계산 비용을 발생시키지 않고 이미지 품질을 복구하는 CLADE-Avg라고 하는 클래스 종속 파라미터(CLADE)에 새로운 변형을 추가한다. 파라미터와 정규화 계층 사이에 평균 스무딩의 추가 계층이 수행된다. CLADE와 비교하여 이러한 이미지 압축 시스템 및 방법은 급변 경계를 부드럽게 하고 스케일링 및 이동에 더 많은 가능한 값을 도입한다. 또한 평균 스무딩을 위한 커널 크기는 3 x 3 커널 크기와 같은 하이퍼파라미터로 선택할 수 있다. 이러한 방법은 추가 곱셈이 아닌 덧셈만 도입하므로 훈련 후 나눗셈이 파라미터에 흡수될 수 있으므로 계산 오버헤드가 많이 발생하지 않는다.
Description
[0001] 본 출원은 2021년 3월 4일자로 출원된 미국 출원 제17/191,970호에 대한 우선권을 주장하며, 그 내용은 참조로써 본원에 완전히 통합된다.
[0002] 본원에 제시되는 예들은 일반적으로 생성적 대립 네트워크(GAN: generative adversarial network)에 관한 것이다. 본 예는 이미지-대-이미지 모델들을 압축하기 위한 방법들 및 시스템들을 포함하지만 이에 한정되지는 않는다.
[0003] GAN은 2 개의 신경망들인, 판별자 네트워크와 생성자 네트워크가 제로-섬(zero-sum) 게임에서 서로 경쟁하는 기계 학습 프레임워크이다. 훈련 데이터 세트가 주어지면, 훈련된 GAN 모델은 훈련 세트와 동일한 통계들로 새로운 데이터를 생성하도록 학습한다.
[0004] 반드시 스케일대로 도시될 필요는 없는 도면들에서, 동일한 숫자들은 상이한 도면들에서 유사한 구성 요소들을 설명할 수 있다. 임의의 특정 요소나 행위에 대한 논의를 쉽게 식별하기 위해, 참조 번호의 가장 중요한 숫자 또는 숫자들은 해당 요소가 처음 소개된 도면 번호를 나타낸다. 일부 비제한적인 예들이 첨부 도면들의 그림들에 예시되어 있으며, 여기서,
[0005] 도 1은 일부 예들에 따라 본 개시가 배치될 수 있는 네트워크화된 환경의 개략적 표현이다.
[0006] 도 2는 일부 예들에 따라 클라이언트측 기능과 서버측 기능 모두를 갖는 메시징 시스템의 개략적 표현이다.
[0007] 도 3은 일부 예들에 따라 데이터베이스에 유지되는 데이터 구조의 개략적 표현이다.
[0008] 도 4는 일부 예들에 따른 메시지의 개략적 표현이다.
[0009] 도 5는 일부 예들에 따른 액세스-제한 프로세스에 대한 흐름도이다.
[0010] 도 6은 일부 예들에 따른 생성적 대립 네트워크 아키텍처의 예시이다.
[0011] 도 7은 일부 예들에 따른 잔여 블록의 예시이다.
[0012] 도 8a는 일 예에 따른 방법을 예시한다.
[0013] 도 8b는 정규화 계층들의 학습된 스케일링 및 시프트 파라미터들에 대한 입력에 공간-의존성(SPADE: spatial-dependency) 방법을 도입하는 것을 예시한다.
[0014] 도 8c는 후속 정규화 계층에서 스케일링 및 시프트된 파라미터들 결정하기 위해 입력 픽셀 정보 대신 입력 클래스를 사용하는 클래스 적응형(CLADE: class adaptive) 방법을 예시한다.
[0015] 도 8d는 급변 경계들을 스무딩(smoothing)하고 스케일링 및 시프트에 대해 더 많은 가능한 값들을 도입하는 정규화 계층과 파라미터 사이에 평균 스무딩의 추가 계층이 제공되는 CLADE-Avg 방법을 예시한다.
[0016] 도 8e는 Clade-Avg 방법을 사용하여 압축된 이미지-대-이미지 모델을 생성하기 위한 예시적인 방법을 예시한다.
[0017] 도 9는 일부 예들에 따라 기계로 하여금 본원에 논의되는 방법들 중 임의의 하나 이상을 수행하게 하기 위해 명령들의 세트가 내부에서 실행될 수 있는 컴퓨터 시스템 형태의 기계의 개략적인 표현이다.
[0018] 도 10은 예들이 구현될 수 있는 소프트웨어 아키텍처를 도시하는 블록도이다.
[0005] 도 1은 일부 예들에 따라 본 개시가 배치될 수 있는 네트워크화된 환경의 개략적 표현이다.
[0006] 도 2는 일부 예들에 따라 클라이언트측 기능과 서버측 기능 모두를 갖는 메시징 시스템의 개략적 표현이다.
[0007] 도 3은 일부 예들에 따라 데이터베이스에 유지되는 데이터 구조의 개략적 표현이다.
[0008] 도 4는 일부 예들에 따른 메시지의 개략적 표현이다.
[0009] 도 5는 일부 예들에 따른 액세스-제한 프로세스에 대한 흐름도이다.
[0010] 도 6은 일부 예들에 따른 생성적 대립 네트워크 아키텍처의 예시이다.
[0011] 도 7은 일부 예들에 따른 잔여 블록의 예시이다.
[0012] 도 8a는 일 예에 따른 방법을 예시한다.
[0013] 도 8b는 정규화 계층들의 학습된 스케일링 및 시프트 파라미터들에 대한 입력에 공간-의존성(SPADE: spatial-dependency) 방법을 도입하는 것을 예시한다.
[0014] 도 8c는 후속 정규화 계층에서 스케일링 및 시프트된 파라미터들 결정하기 위해 입력 픽셀 정보 대신 입력 클래스를 사용하는 클래스 적응형(CLADE: class adaptive) 방법을 예시한다.
[0015] 도 8d는 급변 경계들을 스무딩(smoothing)하고 스케일링 및 시프트에 대해 더 많은 가능한 값들을 도입하는 정규화 계층과 파라미터 사이에 평균 스무딩의 추가 계층이 제공되는 CLADE-Avg 방법을 예시한다.
[0016] 도 8e는 Clade-Avg 방법을 사용하여 압축된 이미지-대-이미지 모델을 생성하기 위한 예시적인 방법을 예시한다.
[0017] 도 9는 일부 예들에 따라 기계로 하여금 본원에 논의되는 방법들 중 임의의 하나 이상을 수행하게 하기 위해 명령들의 세트가 내부에서 실행될 수 있는 컴퓨터 시스템 형태의 기계의 개략적인 표현이다.
[0018] 도 10은 예들이 구현될 수 있는 소프트웨어 아키텍처를 도시하는 블록도이다.
[0019] 본 개시는 이미지-대-이미지 모델들을 압축하기 위한 방법 및 시스템을 포함한다. 생성적 대립 네트워크(GAN)들은 충실도가 높은(high-fidelity) 이미지들을 생성하는 데 성공했다. 본 개시에 제시되는 예들은 추가 컴퓨테이션 비용을 도입하지 않고 이미지 품질을 복구하는 CLADE-Avg로 본 개시에서 지칭되는 CLADE 파라미터들 새로운 변형을 추가하는 이미지 압축 시스템 및 방법을 설명한다. 본 개시는 파라미터와 정규화 계층들 사이에 평균 스무딩의 추가 계층을 도입한다. CLADE와 비교하여, 이러한 이미지 압축 시스템 및 방법은 급변 경계들을 스무딩하고 스케일링 및 시프트에 대해 더 많은 가능한 값들을 도입한다. 또한, 평균 스무딩을 위한 커널 크기는 3 x 3 커널 크기와 같은 하이퍼파라미터로서 선택될 수 있다. 본 방법은 추가 곱셈들이 아닌 덧셈만을 도입하므로, 훈련 후 나눗셈이 파라미터들에 흡수될 수 있으므로 많은 컴퓨테이션 오버헤드를 도입하지 않는다.
[0020] 이미지 압축 시스템은 교사 네트워크(예를 들어, 제1 GAN)의 생성기 네트워크에 인셉션(inception)-기반 잔여 블록들을 포함한다. 이미지 압축 시스템은 교사 네트워크로부터 학생 네트워크(예를 들어, 제2 GAN)를 검색하기 위해 원-스텝 프루닝(one-step pruning) 방법을 사용한다. 이미지 압축 시스템은 유사성 메트릭을 사용하여 교사 네트워크와 학생 네트워크 사이의 특징 유사성을 최대화함으로써 지식 증류를 사용하여 학생 네트워크를 훈련한다. 결과적으로 훈련된 학생 네트워크는 교사 네트워크보다 더 적은 파라미터들을 포함하며 교사 네트워크 상대에 비해 더 컴퓨테이션 효율적이다. 훈련된 학생 네트워크는 교사 네트워크보다 더 낮은 컴퓨테이션 비용들로 모바일 컴퓨팅 디바이스 상에서 실행될 수 있다.
네트워크화된 컴퓨팅 환경
[0021] 도 1은 네트워크를 통해 데이터(예를 들어, 메시지들 및 관련 컨텐츠)를 교환하기 위한 예시적인 메시징 시스템(100)을 도시하는 블록도이다. 메시징 시스템(100)은 클라이언트 디바이스(102)의 복수의 인스턴스들을 포함하고, 그 각각은 메시징 클라이언트(104) 및 다른 애플리케이션들(106)을 포함하는 다수의 애플리케이션들을 호스팅한다. 각각의 메시징 클라이언트(104)는 네트워크(112)(예를 들어, 인터넷)를 통해 (예를 들어, 개개의 다른 클라이언트 디바이스들(102) 상에서 호스팅되는) 메시징 클라이언트(104)의 다른 인스턴스들, 메시징 서버 시스템(108) 및 제3자 서버들(110)에 통신 가능하게 커플링된다. 메시징 클라이언트(104)는 또한 애플리케이션 프로그램 인터페이스(API: Application Program Interface)들을 사용하여 로컬-호스팅되는 애플리케이션들(106)과 통신할 수 있다.
[0022] 메시징 클라이언트(104)는 네트워크(112)를 통해 다른 메시징 클라이언트들(104) 및 메시징 서버 시스템(108)과 통신하고 데이터를 교환할 수 있다. 메시징 클라이언트들(104) 사이, 그리고 메시징 클라이언트(104)와 메시징 서버 시스템(108) 사이에서 교환되는 데이터는 함수들(예를 들어, 함수들을 호출하는 커맨드들)뿐만 아니라 페이로드(payload) 데이터(예를 들어, 텍스트, 오디오, 비디오 또는 다른 멀티미디어 데이터)도 포함한다.
[0023] 메시징 서버 시스템(108)은 네트워크(112)를 통해 특정 메시징 클라이언트(104)에 서버측 기능을 제공한다. 메시징 시스템(100)의 특정 기능들이 메시징 클라이언트(104) 또는 메시징 서버 시스템(108)에 의해 수행되는 것으로 본원에서 설명되지만, 메시징 클라이언트(104) 또는 메시징 서버 시스템(108) 내의 특정 기능의 위치는 설계 선택일 수 있다. 예를 들어, 초기에는 메시징 서버 시스템(108) 내에 특정 기술 및 기능을 배치하지만 나중에 이러한 기술 및 기능을 클라이언트 디바이스(102)가 충분한 프로세싱 용량을 갖는 메시징 클라이언트(104)로 마이그레이팅(migrating)하는 것이 기술적으로 바람직할 수 있다.
[0024] 메시징 서버 시스템(108)은 메시징 클라이언트(104)에 제공되는 다양한 서비스들 및 동작들을 지원한다. 이러한 동작들은 메시징 클라이언트(104)로의 데이터 전송, 메시징 클라이언트(104)로부터의 데이터 수신 및 메시징 클라이언트(104)에 의해 생성된 데이터를 프로세싱하는 것을 포함한다. 이러한 데이터는 예를 들어, 메시지 컨텐츠, 클라이언트 디바이스 정보, 지오로케이션(geolocation) 정보, 미디어 증강 및 오버레이들, 메시지 컨텐츠 지속성 조건들, 소셜 네트워크 정보, 라이브 이벤트 정보를 포함할 수 있다. 메시징 시스템(100) 내의 데이터 교환들은 메시징 클라이언트(104)의 사용자 인터페이스(UI: user interface)들을 통해 이용 가능한 기능들을 통해 호출되고 제어된다.
[0025] 이제 구체적으로 메시징 서버 시스템(108)을 살펴보면, 애플리케이션 프로그램 인터페이스(API) 서버(116)는 애플리케이션 서버들(114)에 커플링되어 이에 프로그램 인터페이스를 제공한다. 애플리케이션 서버들(114)은 데이터베이스 서버(120)에 통신 가능하게 커플링되며, 데이터베이스 서버(120)는 애플리케이션 서버들(114)에 의해 프로세싱된 메시지들과 연관된 데이터를 저장하는 데이터베이스(126)에 대한 액세스를 용이하게 한다. 마찬가지로, 웹 서버(128)가 애플리케이션 서버들(114)에 커플링되어 애플리케이션 서버들(114)에 웹-기반 인터페이스들을 제공한다. 이를 위해, 웹 서버(128)는 하이퍼텍스트 전송 프로토콜(HTTP: Hypertext Transfer Protocol) 및 몇몇 다른 관련 프로토콜들을 통해 진입하는 네트워크 요청들을 프로세싱한다.
[0026] 애플리케이션 프로그램 인터페이스(API) 서버(116)는 클라이언트 디바이스(102)와 애플리케이션 서버들(114) 사이에서 메시지 데이터(예를 들어, 커맨드들 및 메시지 페이로드들)를 수신하고 전송한다. 구체적으로, 애플리케이션 프로그램 인터페이스(API) 서버(116)는 애플리케이션 서버들(114)의 기능을 호출하기 위해 메시징 클라이언트(104)에 의해 호출되거나 질의될 수 있는 인터페이스들(예를 들어, 루틴들 및 프로토콜들)의 세트를 제공한다. 애플리케이션 프로그램 인터페이스(API) 서버(116)는 계정 등록, 로그인 기능, 특정 메시징 클라이언트(104)로부터 다른 메시징 클라이언트(104)로 애플리케이션 서버들(114)을 통한 메시지들의 송신, 메시징 클라이언트(104)로부터 메시징 서버(118)로의 미디어 파일들(예를 들어, 이미지들 또는 비디오)의 송신, 그리고 다른 메시징 클라이언트(104)에 의한 가능한 액세스를 위해, 미디어 데이터(예를 들어, 스토리)의 컬렉션의 설정들, 클라이언트 디바이스(102) 사용자의 친구들의 목록 검색, 이러한 컬렉션들의 검색, 메시지들 및 컨텐츠의 검색, 엔티티 그래프(예를 들어, 소셜 그래프)에 대한 엔티티들(예를 들어, 친구들)의 추가 및 삭제, 소셜 그래프 내의 친구들의 위치 및 애플리케이션 이벤트 열기(예를 들어, 메시징 클라이언트(104)와 관련됨)를 포함하여 애플리케이션 서버들(114)에 의해 지원되는 다양한 기능들을 노출시킨다.
[0027] 애플리케이션 서버들(114)은 예를 들어, 메시징 서버(118), 이미지 프로세싱 서버(122), 소셜 네트워크 서버(124) 및 이미지 압축 시스템(130)을 포함하여 다수의 서버 애플리케이션들 및 서브시스템들을 호스팅한다. 메시징 서버(118)는 특히 메시징 클라이언트(104)의 복수의 인스턴스들로부터 수신된 메시지들에 포함된 컨텐츠(예를 들어, 텍스트 및 멀티미디어 컨텐츠)의 애그리게이션(aggregation) 및 다른 프로세싱과 관련된 다수의 메시지 프로세싱 기술들 및 기능들을 구현한다. 추가로 상세히 설명되는 바와 같이, 복수의 소스들로부터의 텍스트 및 미디어 컨텐츠는 컨텐츠의 컬렉션들(예를 들어, 스토리들 또는 갤러리들이라고 칭함)로 집계될 수 있다. 그 후, 이러한 컬렉션들은 메시징 클라이언트(104)에 대해 이용 가능하게 된다. 데이터의 다른 프로세서 및 메모리 집약적 프로세싱은 또한 이러한 프로세싱을 위한 하드웨어 요건들의 관점에서 메시징 서버(118)에 의해 서버측에서 수행될 수 있다.
[0028] 애플리케이션 서버들(114)은 또한 통상적으로 메시징 서버(118)로부터 송신되거나 메시징 서버(118)에서 수신되는 메시지의 페이로드 내의 이미지들 또는 비디오와 관련하여 다양한 이미지 프로세싱 동작들을 수행하는 데 전용인 이미지 프로세싱 서버(122)를 포함한다.
[0029] 소셜 네트워크 서버(124)는 다양한 소셜 네트워킹 기능들 및 서비스들을 지원하고 이러한 기능들 및 서비스들을 메시징 서버(118)에 대해 이용 가능하게 만든다. 이를 위해, 소셜 네트워크 서버(124)는 데이터베이스(126) 내의 (도 3에 도시된 바와 같은) 엔티티 그래프(308)를 유지하고 액세스한다. 소셜 네트워크 서버(124)에 의해 지원되는 기능들 및 서비스들의 예들은 특정 사용자가 관계들을 갖고 있거나 "팔로잉(following)"하고 있는 메시징 시스템(100)의 다른 사용자들의 식별 그리고 또한 다른 엔티티들의 식별 및 특정 사용자의 관심사들을 포함한다.
[0030] 이미지 압축 시스템(130)은 컴퓨테이션 효율적인 학생 네트워크를 생성하기 위해 교사 네트워크를 검색한다. 이미지 압축 시스템(130)은 효율적인 학생 네트워크가 발견될 수 있는 검색 공간을 생성하도록 특별히 구성되는 잔여 블록을 활용한다.
[0031] 메시징 클라이언트(104)로 돌아가서, 외부 자원(예를 들어, 애플리케이션(106) 또는 애플릿)의 특징들 및 기능들은 메시징 클라이언트(104)의 인터페이스를 통해 사용자에게 이용 가능하게 된다. 이러한 맥락에서, "외부"는 애플리케이션(106) 또는 애플릿이 메시징 클라이언트(104) 외부에 있다는 사실을 지칭한다. 외부 자원은 종종 제3자에 의해 제공되지만 메시징 클라이언트(104)의 제공자에 의해 제공될 수도 있다. 메시징 클라이언트(104)는 이러한 외부 자원의 특징들을 론칭하거나 액세스하는 옵션의 사용자 선택을 수신한다. 외부 자원은 클라이언트 디바이스(102) 상에 설치된 애플리케이션(106)(예를 들어, "네이티브 앱(native app)") 또는 클라이언트 디바이스(102) 상에 호스팅되거나 클라이언트 디바이스(102)의 원격에 있는(예를 들어, 제3자 서버들(110) 상의) 애플리케이션의 소규모 버전(예를 들어, "애플릿")일 수 있다. 소규모 버전의 애플리케이션은 애플리케이션의 증징들 및 기능들의 서브세트(예를 들어, 애플리케이션의 전체-규모, 네이티브 버전)를 포함하며 마크업-언어 문서를 사용하여 구현된다. 일 예에서, 소규모 버전의 애플리케이션(예를 들어, "애플릿")은 애플리케이션의 웹-기반, 마크업-언어 버전이며 메시징 클라이언트(104)에 매립된다. 마크업-언어 문서들(예를 들어, .*ml 파일)을 사용하는 것에 추가하여, 애플릿은 스크립팅(scripting) 언어(예를 들어, .*js 파일 또는 .json 파일)와 스타일 시트(예를 들어, .*ss 파일)를 통합할 수 있다.
[0032] 외부 자원의 특징들을 론칭하거나 액세스하는 옵션의 사용자 선택을 수신하는 것에 응답하여, 메시징 클라이언트(104)는 선택된 외부 자원이 웹-기반 외부 자원인지 또는 로컬-설치된 애플리케이션(106)인지 결정한다. 일부 경우들에 있어서, 클라이언트 디바이스(102) 상에 로컬 설치된 애플리케이션들(106)은 클라이언트 디바이스(102)의 홈 스크린 상의, 애플리케이션(106)에 대응하는 아이콘을 선택하는 것과 같이 메시징 클라이언트(104)와 독립적으로 그리고 이와 별도로 론칭될 수 있다. 이러한 애플리케이션들의 소규모 버전들은 메시징 클라이언트(104)를 통해 론칭되거나 액세스될 수 있으며, 일부 예들에서는, 소규모 애플리케이션의 제한된 부분이 메시징 클라이언트(104) 외부에서 액세스될 수 있거나, 액세스될 수 없다. 소규모 애플리케이션은 예를 들어, 소규모 애플리케이션과 연관된 마크업-언어 문서를 제3자 서버(110)로부터 수신하고 이러한 문서를 프로세싱하는 메시징 클라이언트(104)에 의해 론칭될 수 있다.
[0033] 외부 자원이 로컬-설치된 애플리케이션(106)이라는 결정에 응답하여, 메시징 클라이언트(104)는 외부 자원에 대응하는 로컬-저장된 코드를 실행함으로써 외부 자원을 실행하도록 클라이언트 디바이스(102)에 명령한다. 외부 자원이 웹-기반 자원이라는 결정에 응답하여, 메시징 클라이언트(104)는 (예를 들어) 선택된 외부 자원에 대응하는 마크업-언어 문서를 획득하기 위해 제3자 서버(110)와 통신한다. 그 후, 메시징 클라이언트(104)는 메시징 클라이언트(104)의 사용자 인터페이스 내에 웹-기반 외부 자원을 표시하기 위해 획득된 마크업-언어 문서를 프로세싱한다.
[0034] 메시징 클라이언트(104)는 클라이언트 디바이스(102)의 사용자 또는 이러한 사용자와 관련된 다른 사용자들(예를 들어, "친구들")에게 하나 이상의 외부 자원들에서 발생하는 활동을 통지할 수 있다. 예를 들어, 메시징 클라이언트(104)는 사용자들의 그룹의 하나 이상의 멤버들에 의한 외부 자원의 현재 또는 최근 사용과 관련된 통지를 메시징 클라이언트(104)의 대화(예를 들어, 챗 세션(chat session)) 참가자들에게 제공할 수 있다. 하나 이상의 사용자들이 초대되어 활성 외부 자원에 참여하거나 최근에 사용되었지만 (친구들의 그룹에서) 현재 비활성인 외부 자원을 론칭할 수 있다. 외부 자원은 개개의 메시징 클라이언트들(104)을 각각 사용하는 대화 참여자들에게 챗 세션으로 사용자들의 그룹의 하나 이상의 멤버들과 외부 자원의 항목, 상태(status), 상태(state) 또는 위치를 공유할 수 있는 능력을 제공할 수 있다. 공유 항목은 예를 들어, 대응하는 외부 자원을 론칭하거나, 외부 자원 내의 특정 정보를 보거나, 챗의 멤버를 외부 자원 내의 특정 위치 또는 상태로 데려가기 위해, 챗의 멤버들이 상호 작용할 수 있는 상호 작용 챗 카드일 수 있다. 주어진 외부 자원 내에서, 응답 메시지들은 메시징 클라이언트(104)의 사용자들에게 송신될 수 있다. 외부 자원은 외부 자원의 현재 컨텍스트에 기초하여 응답에 상이한 미디어 항목들을 선택적으로 포함할 수 있다.
[0035] 메시징 클라이언트(104)는 주어진 외부 자원을 실행하거나 이에 액세스하기 위해 이용 가능한 외부 자원들(예를 들어, 애플리케이션들(106) 또는 애플릿들)의 목록을 사용자에게 표시할 수 있다. 이러한 목록은 컨텍스트-민감(context-sensitive) 메뉴에 표시될 수 있다. 예를 들어, 애플리케이션(106)(또는 애플릿)의 상이한 아이콘을 나타내는 아이콘들은 (예를 들어, 대화 인터페이스 또는 비대화 인터페이스로부터) 메뉴가 사용자에 의해 론칭되는 방식에 따라 변할 수 있다.
시스템 아키텍처
[0036] 도 2는 일부 예들에 따른 메시징 시스템(100)에 관한 추가 상세 사항들을 예시하는 블록도이다. 구체적으로, 메시징 시스템(100)은 메시징 클라이언트(104) 및 애플리케이션 서버들(114)을 포함하는 것으로 도시된다. 메시징 시스템(100)은 클라이언트측에서 메시징 클라이언트(104)에 의해 지원되고 서버측에서 애플리케이션 서버들(114)에 의해 지원되는 다수의 서브시스템들을 구현한다. 이러한 서브시스템들은 예를 들어, 임시 타이머 시스템(202), 컬렉션 관리 시스템(204), 증강 시스템(208), 맵 시스템(210), 게임 시스템(212), 외부 자원 시스템(214) 및 이미지 압축 시스템(130)을 포함한다.
[0037] 임시 타이머 시스템(202)은 메시징 클라이언트(104) 및 메시징 서버(118)에 의한 컨텐츠에 대한 일시적 또는 시간-제한 액세스를 시행하는 것을 담당한다. 임시 타이머 시스템(202)은 메시지 또는 메시지들의 컬렉션(예를 들어, 스토리)과 연관된 디스플레이 파라미터들 및 지속 시간에 기초하여, 메시징 클라이언트(104)를 통해 메시지들 및 연관 컨텐츠에 대한 (예를 들어, 프레젠테이션 및 표시를 위한) 액세스를 선택적으로 가능하게 하는 다수의 타이머들을 통합한다. 임시 타이머 시스템(202)의 동작에 관한 추가적인 상세 사항들이 아래에 제공된다.
[0038] 컬렉션 관리 시스템(204)은 미디어의 세트들 또는 컬렉션들(예를 들어, 텍스트, 이미지 비디오 및 오디오 데이터의 컬렉션들)을 관리하는 것을 담당한다. 컨텐츠의 컬렉션(예를 들어, 이미지들, 비디오, 텍스트 및 오디오를 포함하는 메시지들)은 "이벤트 갤러리" 또는 "이벤트 스토리"로 조직될 수 있다. 이러한 컬렉션은 컨텐츠와 관련된 이벤트 지속 시간과 같은 특정된 기간 동안 이용 가능하게 될 수 있다. 예를 들어, 음악 콘서트와 관련된 컨텐츠는 해당 음악 콘서트의 지속 시간 동안 "스토리"로서 이용 가능하게 될 수 있다. 컬렉션 관리 시스템(204)은 또한 메시징 클라이언트(104)의 사용자 인터페이스에 특정 컬렉션의 존재에 대한 통지를 제공하는 아이콘을 발행하는 것을 담당할 수 있다.
[0039] 컬렉션 관리 시스템(204)은 컬렉션 관리자가 컨텐츠의 특정 컬렉션을 관리하고 큐레이팅(curating)할 수 있게 하는 큐레이션 인터페이스(206)를 추가로 포함한다. 예를 들어, 큐레이션 인터페이스(206)는 이벤트 조직자가 특정 이벤트와 관련된 컨텐츠의 컬렉션을 큐레이팅(예를 들어, 부적절한 컨텐츠 또는 중복 메시지들을 삭제)할 수 있게 한다. 또한, 컬렉션 관리 시스템(204)은 컨텐츠 컬렉션을 자동으로 큐레이팅하기 위해 기계 비전(또는 이미지 인식 기술) 및 컨텐츠 룰들을 채용한다. 특정 예들에서, 사용자-생성 컨텐츠를 컬렉션에 포함시키기 위해 사용자에게 보상이 지불될 수 있다. 이러한 경우들에 있어서, 컬렉션 관리 시스템(204)은 해당 컨텐츠의 사용을 위해 이러한 사용자에게 자동으로 지불하도록 동작한다.
[0040] 증강 시스템(208)은 사용자가 메시지와 연관된 미디어 컨텐츠를 증강(예를 들어, 주석을 달거나 아니면 수정 또는 편집)할 수 있게 하는 다양한 기능들을 제공한다. 예를 들어, 증강 시스템(208)은 메시징 시스템(100)에 의해 프로세싱되는 메시지들에 대한 미디어 오버레이들의 생성 및 발행과 관련된 기능들을 제공한다. 증강 시스템(208)은 클라이언트 디바이스(102)의 지오로케이션에 기초하여 미디어 오버레이 또는 증강(예를 들어, 이미지 필터)을 메시징 클라이언트(104)에 동작 가능하게 공급한다. 다른 예에서, 증강 시스템(208)은 클라이언트 디바이스(102)의 사용자의 소셜 네트워크 정보와 같은 다른 정보에 기초하여 메시징 클라이언트(104)에 미디어 오버레이를 동작 가능하게 공급한다. 미디어 오버레이는 오디오 및 비주얼 컨텐츠와 비주얼 효과들을 포함할 수 있다. 오디오 및 비주얼 컨텐츠의 예들은 사진들, 텍스트들, 로고들, 애니메이션들 및 사운드 효과들을 포함한다. 비주얼 효과의 예는 컬러 오버레잉을 포함한다. 오디오 및 비주얼 컨텐츠 또는 비주얼 효과들은 클라이언트 디바이스(102)의 미디어 컨텐츠 항목(예를 들어, 사진)에 적용될 수 있다. 예를 들어, 미디어 오버레이는 클라이언트 디바이스(102)에 의해 촬영된 사진 위에 오버레이될 수 있는 텍스트 또는 이미지를 포함할 수 있다. 다른 예에서, 미디어 오버레이는 위치 오버레이의 식별(예를 들어, 베니스(Venice) 해변), 라이브 이벤트의 이름, 또는 판매자 오버레이의 이름(예를 들어, Beach Coffee House)을 포함한다. 다른 예에서, 증강 시스템(208)은 클라이언트 디바이스(102)의 지오로케이션에 있는 판매자의 이름을 포함하는 미디어 오버레이를 식별하기 위해 클라이언트 디바이스(102)의 지오로케이션을 사용한다. 미디어 오버레이는 판매자와 연관된 다른 표시를 포함할 수 있다. 미디어 오버레이들은 데이터베이스(126)에 저장될 수 있고 데이터베이스 서버(120)를 통해 액세스될 수 있다.
[0041] 일부 예들에서, 증강 시스템(208)은 사용자가 맵 상의 지오로케이션을 선택하고 선택된 지오로케이션과 연관된 컨텐츠를 업로드할 수 있게 하는 사용자-기반 발행 플랫폼을 제공한다. 사용자는 또한 특정 미디어 오버레이가 다른 사용자들에게 제공되어야 하는 상황을 특정할 수 있다. 증강 시스템(208)은 업로드된 컨텐츠를 포함하고 업로드된 컨텐츠를 선택된 지오로케이션과 연관시키는 미디어 오버레이를 생성한다.
[0042] 다른 예들에서, 증강 시스템(208)은 판매자가 입찰 프로세스를 통해 지오로케이션과 연관된 특정 미디어 오버레이를 선택할 수 있게 하는 판매자-기반 발행 플랫폼을 제공한다. 예를 들어, 증강 시스템(208)은 사전 정의된 시간량 동안 대응하는 지오로케이션과 최고 입찰 판매자의 미디어 오버레이를 연관시킨다.
[0043] 맵 시스템(210)은 다양한 지리적 위치 기능들을 제공하고 메시징 클라이언트(104)에 의한 맵-기반 미디어 컨텐츠 및 메시지들의 프레젠테이션을 지원한다. 예를 들어, 맵 시스템(210)은 사용자의 "친구들"의 현재 또는 과거 위치뿐만 아니라 맵의 컨텍스트 내에서 이러한 친구들에 의해 생성된 미디어 컨텐츠(예를 들어, 사진들 및 비디오들을 포함하는 메시지들의 컬렉션들)를 나타내기 위해 (예를 들어, 프로필 데이터(316)에 저장된) 사용자 아이콘들 또는 아바타들의 표시를 가능하게 한다. 예를 들어, 사용자에 의해 특정 지리적 위치로부터 메시징 시스템(100)으로 포스팅된 메시지는 메시징 클라이언트(104)의 맵 인터페이스 상의 특정 사용자의 "친구들"에게 해당 특정 위치에서 맵의 컨텍스트 내에서 표시될 수 있다. 사용자는 메시징 클라이언트(104)를 통해 메시징 시스템(100)의 다른 사용자들과 (예를 들어, 적절한 상태 아바타를 사용하여) 자신의 위치 및 상태 정보를 추가로 공유할 수 있으며, 이러한 위치 및 상태 정보는 선택된 사용자들에 대한 메시징 클라이언트(104)의 맵 인터페이스의 컨텍스트 내에서 유사하게 표시된다.
[0044] 게임 시스템(212)은 메시징 클라이언트(104)의 컨텍스트 내에서 다양한 게임 기능들을 제공한다. 메시징 클라이언트(104)는 메시징 클라이언트(104)의 컨텍스트 내에서 사용자에 의해 론칭될 수 있고 메시징 시스템(100)의 다른 사용자들과 플레이될 수 있는 이용 가능한 게임들의 목록을 제공하는 게임 인터페이스를 제공한다. 메시징 시스템(100)은 추가로 메시징 클라이언트(104)로부터 이러한 다른 사용자들에게 초대들을 발행함으로써 특정 사용자가 다른 사용자들을 특정 게임의 플레이에 참여하도록 초대할 수 있게 한다. 메시징 클라이언트(104)는 또한 게임플레이의 컨텍스트 내에서 음성 및 텍스트 메시징(예를 들어, 챗들)을 모두 지원하고, 게임에 대한 순위표를 제공하며, 또한 게임 내 보상들(예를 들어, 코인들 및 아이템들)의 제공을 지원한다.
[0045] 외부 자원 시스템(214)은 외부 자원들, 즉, 애플리케이션들 또는 애플릿들을 론칭하거나 이에 액세스하기 위해 메시징 클라이언트(104)가 원격 서버들(예를 들어, 제3자 서버들(110))과 통신하기 위한 인터페이스를 제공한다. 각각의 제3자 서버(110)는 예를 들어, 마크업 언어(예를 들어, HTML5) 기반 애플리케이션 또는 소규모 버전의 애플리케이션(예를 들어, 게임, 유틸리티, 결제 또는 차량-공유 애플리케이션)을 호스팅한다. 메시징 클라이언트(104)는 웹-기반 자원과 연관된 제3자 서버들(110)로부터 HTML5 파일에 액세스함으로써 웹-기반 자원(예를 들어, 애플리케이션)을 론칭할 수 있다. 특정 예들에서, 제3자 서버들(110)에 의해 호스팅되는 애플리케이션들은 메시징 서버(118)에 의해 제공되는 소프트웨어 개발 키트(SDK: Software Development Kit)를 활용하는 JavaScript로 프로그래밍된다. SDK는 웹-기반 애플리케이션에 의해 호출(call) 또는 호출(invoking)될 수 있는 기능들을 갖는 애플리케이션 프로그래밍 인터페이스(API)들을 포함한다. 특정 예들에서, 메시징 서버(118)는 메시징 클라이언트(104)의 특정 사용자 데이터에 대한 주어진 외부 자원 액세스를 제공하는 JavaScript 라이브러리를 포함한다. HTML5는 게임들을 프로그래밍하기 위한 예시적인 기술로서 사용되지만, 다른 기술들에 기초하여 프로그래밍된 애플리케이션들 및 자원들이 사용될 수 있다.
[0046] SDK의 기능들을 웹-기반 자원에 통합하기 위해, SDK는 메시징 서버(118)로부터 제3자 서버(110)에 의해 다운로드되거나 아니면 제3자 서버(110)에 의해 수신된다. 일단 다운로드되거나 수신되면, SDK는 웹-기반 외부 자원의 애플리케이션 코드의 일부로서 포함된다. 그런 다음, 웹-기반 자원의 코드는 메시징 클라이언트(104)의 특징들을 웹-기반 자원에 통합하기 위해 SDK의 특정 기능들을 호출(call) 또는 호출(invoking)할 수 있다.
[0047] 메시징 서버(118) 상에 저장된 SDK는 외부 자원(예를 들어, 애플리케이션들(106) 또는 애플릿들)과 메시징 클라이언트(104) 사이의 브릿지를 효과적으로 제공한다. 이는 메시징 클라이언트(104) 상에서 다른 사용자들과 통신하는 끊김 없는 경험을 사용자에게 제공하며, 또한 메시징 클라이언트(104)의 외관 및 느낌을 보존한다. 외부 자원과 메시징 클라이언트(104) 사이의 통신들을 브릿징하기 위해, 특정 예들에서, SDK는 제3자 서버들(110)과 메시징 클라이언트(104) 사이의 통신을 용이하게 한다. 특정 예들에서, 클라이언트 디바이스(102) 상에서 실행되는 WebViewJavaScriptBridge는 외부 자원과 메시징 클라이언트(104) 사이에 2 개의 단방향 통신 채널들을 확립한다. 메시지들은 이러한 통신 채널들을 통해 비동기적으로 외부 자원과 메시징 클라이언트(104) 사이에서 송신된다. 각각의 SDK 기능 호출은 메시지 및 콜백(callback)으로서 송신된다. 각각의 SDK 기능은 고유 콜백 식별자를 구성하고 해당 콜백 식별자를 갖는 메시지를 송신함으로써 구현된다.
[0048] SDK를 사용함으로써, 메시징 클라이언트(104)로부터의 모든 정보가 제3자 서버들(110)과 공유되는 것은 아니다. SDK는 외부 자원의 필요에 기초하여 공유되는 정보를 제한한다. 특정 예들에서, 각각의 제3자 서버(110)는 웹-기반 외부 자원에 대응하는 HTML5 파일을 메시징 서버(118)에 제공한다. 메시징 서버(118)는 (박스 아트(box art) 또는 다른 그래픽과 같은) 웹-기반 외부 자원의 비주얼 표현을 메시징 클라이언트(104)에 추가할 수 있다. 사용자가 비주얼 표현을 선택하거나 메시징 클라이언트(104)의 GUI를 통해 메시징 클라이언트(104)에 웹-기반 외부 자원의 특징들에 액세스하도록 명령하면, 메시징 클라이언트(104)는 HTML5 파일을 획득하고 웹-기반 외부 자원의 특징들에 액세스하는 데 필요한 자원들을 인스턴스화한다.
[0049] 메시징 클라이언트(104)는 외부 자원에 대한 그래픽 사용자 인터페이스(예를 들어, 랜딩 페이지(landing page) 또는 타이틀 스크린)를 표시한다. 랜딩 페이지 또는 타이틀 스크린을 표시하는 동안, 표시 전 또는 표시 후에, 메시징 클라이언트(104)는 론칭된 외부 자원이 메시징 클라이언트(104)의 사용자 데이터에 액세스하도록 이전에 허가되었는지 여부를 결정한다. 론칭된 외부 자원이 메시징 클라이언트(104)의 사용자 데이터에 액세스하도록 이전에 허가된 것으로 결정하는 것에 응답하여, 메시징 클라이언트(104)는 외부 자원의 기능들 및 특징들을 포함하는 외부 자원의 다른 그래픽 사용자 인터페이스를 표시한다. 론칭된 외부 자원이 메시징 클라이언트(104)의 사용자 데이터에 액세스하도록 이전에 허가되지 않은 것으로 결정하는 것에 응답하여, 외부 자원의 랜딩 페이지 또는 타이틀 스크린을 표시하는 임계 기간(예를 들어, 3초) 후에, 메시징 클라이언트(104)는 사용자 데이터에 액세스하기 위해 외부 자원을 허가하기 위한 메뉴를 위로 슬라이딩 업(sliding up)한다(예를 들어, 스크린의 바닥으로부터 스크린의 중간 또는 다른 부분으로의 서피싱(surfacing)과 같이 메뉴를 애니메이팅(animating)). 메뉴는 외부 자원이 사용 허가될 사용자 데이터 유형을 식별한다. 수용 옵션의 사용자 선택을 수신하는 것에 응답하여, 메시징 클라이언트(104)는 허가된 외부 자원들의 목록에 외부 자원을 추가하고 외부 자원이 메시징 클라이언트(104)로부터 사용자 데이터에 액세스하도록 허용한다. 일부 예들에서, 외부 자원은 OAuth 2 프레임워크에 따라 사용자 데이터에 액세스하도록 메시징 클라이언트(104)에 의해 허가된다.
[0050] 메시징 클라이언트(104)는 허가된 외부 자원의 유형에 기초하여 외부 자원들과 공유되는 사용자 데이터의 유형을 제어한다. 예를 들어, 전체-스케일 애플리케이션들(예를 들어, 애플리케이션(106))을 포함하는 외부 자원들은 제1 유형의 사용자 데이터(예를 들어, 상이한 아바타 특성들을 갖거나 갖지 않는 사용자의 2차원 아바타들만)에 대한 액세스를 제공받는다. 다른 예로서, 소규모 버전의 애플리케이션들(예를 들어, 웹-기반 버전의 애플리케이션들)을 포함하는 외부 자원들은 제2 유형의 사용자 데이터(예를 들어, 결제 정보, 사용자들의 2차원 아바타들, 사용자들의 3차원 아바타들 및 다양한 아바타 특성을 갖는 아바타들)에 대한 액세스를 제공받는다. 아바타 특성들은 상이한 포즈(pose)들, 얼굴 특징들, 의상 등과 같은 아바타의 외관과 느낌을 사용자 맞춤화하는 상이한 방식들을 포함한다.
[0051] 이미지 압축 시스템(130)은 컴퓨테이션 효율적인 학생 네트워크를 생성하기 위해 교사 네트워크를 검색한다. 이미지 압축 시스템(130)은 효율적인 학생 네트워크를 찾을 수 있는 검색 공간을 생성하도록 특별히 구성된 잔여 블록을 활용한다. 이미지 압축 시스템(130)의 양태들은 메시징 클라이언트(104) 상에 존재할 수 있고 다른 양태들은 애플리케이션 서버들(114) 상에 존재할 수 있다. 일부 예들에서, 이미지 압축 시스템(130)은 메시징 클라이언트(104) 상에서만 동작한다.
데이터 아키텍처
[0052] 도 3은 특정 예들에 따라 메시징 서버 시스템(108)의 데이터베이스(126)에 저장될 수 있는 데이터 구조들(300)을 예시하는 개략도이다. 데이터베이스(126)의 컨텐츠가 다수의 테이블들을 포함하는 것으로 도시되어 있지만, 데이터는 다른 유형의 데이터 구조들(예를 들어, 객체-지향 데이터베이스로서)에 저장될 수 있다는 것이 이해될 것이다.
[0053] 데이터베이스(126)는 메시지 테이블(302) 내에 저장된 메시지 데이터를 포함한다. 이러한 메시지 데이터는 임의의 특정의 하나의 메시지에 대해 적어도 메시지 송신자 데이터, 메시지 수취자(또는 수신자) 데이터 및 페이로드를 포함한다. 메시지에 포함될 수 있고 메시지 테이블(302)에 저장된 메시지 데이터 내에 포함될 수 있는 정보에 관한 추가의 상세 사항들이 도 4를 참조하여 아래에서 설명된다.
[0054] 엔티티 테이블(306)은 엔티티 데이터를 저장하고, 엔티티 그래프(308) 및 프로필 데이터(316)에 (예를 들어, 참조로) 링크된다. 엔티티 테이블(306) 내에서 기록들이 유지되는 엔티티들은 개인, 기업 엔티티들, 조직들, 객체들, 장소들, 이벤트들 등을 포함할 수 있다. 엔티티 유형에 관계없이, 메시징 서버 시스템(108)이 데이터를 저장하는 것에 관한 임의의 엔티티가 인식된 엔티티일 수 있다. 각각의 엔티티에는 고유 식별자뿐만 아니라 엔티티 유형 식별자(미도시)도 제공된다.
[0055] 엔티티 그래프(308)는 엔티티들 간의 관계들 및 연관성들에 관한 정보를 저장한다. 이러한 관계들은 단지 예를 들어, 소셜, 전문적(예를 들어, 일반 회사 또는 조직에서의 일) 관심-기반 또는 활동-기반일 수 있다.
[0056] 프로필 데이터(316)는 특정 엔티티에 대한 복수의 유형의 프로필 데이터를 저장한다. 프로필 데이터(316)는 특정 엔티티에 의해 특정된 프라이버시 설정들에 기초하여 메시징 시스템(100)의 다른 사용자들에게 선택적으로 사용되고 표시될 수 있다. 엔티티가 개인인 경우, 프로필 데이터(316)는 예를 들어, 사용자 이름, 전화 번호, 주소, 설정들(예를 들어, 통지 및 프라이버시 설정들)뿐만 아니라 사용자-선택 아바타 표현(또는 이러한 아바타 표현들의 컬렉션)을 포함한다. 그러면 특정 사용자는 메시징 시스템(100)을 통해 전달되는 메시지들의 컨텐츠 내에, 그리고 메시징 클라이언트들(104)에 의해 다른 사용자들에게 표시되는 맵 인터페이스들 상에 이러한 아바타 표현들 중 하나 이상을 선택적으로 포함할 수 있다. 아바타 표현들의 컬렉션은 사용자가 특정 시간에 전달하기 위해 선택할 수 있는 상태 또는 활동의 그래픽 표현을 표시하는 "상태 아바타들"을 포함할 수 있다.
[0057] 엔티티가 그룹인 경우, 그룹에 대한 프로필 데이터(316)는 관련 그룹에 대한 그룹 이름, 멤버들 및 다양한 설정들(예를 들어, 통지) 외에도 그룹과 연관된 하나 이상의 아바타 표현들을 유사하게 포함할 수 있다.
[0058] 데이터베이스(126)는 또한 오버레이들 또는 필터들과 같은 증강 데이터를 증강 테이블(310)에 저장한다. 증강 데이터는 비디오들(데이터가 비디오 테이블(304)에 저장됨) 및 이미지들(데이터가 이미지 테이블(312)에 저장됨)과 연관되어 적용된다.
[0059] 일 예에서, 필터들은 수신 사용자에 대한 프레젠테이션 동안 이미지 또는 비디오 상에 오버레이되어 표시되는 오버레이들이다. 필터들은 송신 사용자가 메시지를 구성할 때 메시징 클라이언트(104)에 의해 송신 사용자에게 표시되는 필터들의 세트로부터의 사용자-선택 필터들을 포함하는 다양한 유형들일 수 있다. 다른 유형의 필터들은 지리적 위치에 기초하여 송신 사용자에게 표시될 수 있는 지오로케이션 필터들(지오(geo)-필터들로도 알려짐)을 포함한다. 예를 들어, 이웃 또는 특수 위치에 특정한 지오로케이션 필터들은 클라이언트 디바이스(102)의 글로벌 포지셔닝 시스템(GPS: Global Positioning System) 유닛에 의해 결정된 지오로케이션 정보에 기초하여 메시징 클라이언트(104)에 의해 사용자 인터페이스 내에 표시될 수 있다.
[0060] 다른 유형의 필터는 메시지 생성 프로세스 동안 클라이언트 디바이스(102)에 의해 수집된 다른 입력들 또는 정보에 기초하여 메시징 클라이언트(104)에 의해 송신 사용자에게 선택적으로 표시될 수 있는 데이터 필터이다. 데이터 필터들의 예들은 특정 위치에서의 현재 온도, 송신 사용자가 이동하는 현재 속도, 클라이언트 디바이스(102)에 대한 배터리 수명, 또는 현재 시간을 포함한다.
[0061] 이미지 테이블(312) 내에 저장될 수 있는 다른 증강 데이터는 증강 현실 컨텐츠 항목들(예를 들어, 렌즈(Lense)들 적용 또는 증강 현실 경험에 대응)을 포함한다. 증강 현실 컨텐츠 항목은 이미지 또는 비디오에 추가될 수 있는 실시간 특수 효과 및 사운드일 수 있다.
[0062] 상술한 바와 같이, 증강 데이터는 증강 현실 컨텐츠 항목들, 오버레이들, 이미지 변환들, AR 이미지들을 포함하고, 유사한 용어는 이미지 데이터(예를 들어, 비디오들 또는 이미지들)에 적용될 수 있는 수정을 지칭한다. 이는 클라이언트 디바이스(102)의 디바이스 센서들(예를 들어, 하나 또는 복수의 카메라들)을 사용하여 캡처된 후 수정들로 클라이언트 디바이스(102)의 스크린 상에 표시될 때 이미지를 수정하는 실시간 수정들을 포함한다. 이는 또한 수정될 수 있는 갤러리의 비디오 클립들과 같이 저장된 컨텐츠에 대한 수정들도 포함한다. 예를 들어, 복수의 증강 현실 컨텐츠 항목들에 대한 액세스를 갖는 클라이언트 디바이스(102)에서, 사용자는 상이한 증강 현실 컨텐츠 항목들이 저장된 클립을 어떻게 수정하는지 보기 위해 복수의 증강 현실 컨텐츠 항목들을 갖는 단일 비디오 클립을 사용할 수 있다. 예를 들어, 컨텐츠에 대해 상이한 증강 현실 컨텐츠 항목들을 선택함으로써 상이한 의사 랜덤(pseudorandom) 이동 모델들을 적용하는 복수의 증강 현실 컨텐츠 항목들이 동일한 컨텐츠에 적용할 수 있다. 유사하게, 실시간 비디오 캡처는 클라이언트 디바이스(102)의 센서들에 의해 현재 캡처되고 있는 비디오 이미지들이 캡처된 데이터를 어떻게 수정하는지 보여주기 위해 예시된 수정과 함께 사용될 수 있다. 이러한 데이터는 단순히 스크린 상에 표시되고 메모리에 저장되지 않을 수도 있거나, 디바이스 센서들에 의해 캡처된 컨텐츠가 수정들을 갖거나 갖지 않고(또는 둘 모두) 메모리에 기록 및 저장될 수 있다. 일부 시스템들에서, 미리보기 특징이 상이한 증강 현실 컨텐츠 항목들이 디스플레이의 상이한 윈도우들 내에서 동시에 어떻게 보이는지 보여줄 수 있다. 예를 들어, 이는 상이한 의사 랜덤 애니메이션들을 갖는 복수의 윈도우들이 동시에 디스플레이 상에서 보이게 할 수 있다.
[0063] 따라서 증강 현실 컨텐츠 항목들을 사용하는 데이터 및 다양한 시스템들 또는 이러한 데이터를 사용하여 컨텐츠를 수정하기 위한 이러한 다른 변환 시스템들은 객체들(예를 들어, 얼굴들, 손들, 신체들, 고양이들, 개들, 표면들, 객체들 등)의 검출, 이들이 떠날 때 이러한 객체들의 추적, 비디오 프레임들의 시야 주위에서 이동, 그리고 이들이 추적될 때 이러한 객체들의 수정 또는 변환을 수반할 수 있다. 다양한 예들에서, 그러한 변환을 달성하기 위한 상이한 방법들이 사용될 수 있다. 일부 예들은 객체 또는 객체들의 3차원 메시 모델을 생성하고 변환을 달성하기 위해 비디오 내에서 모델의 변환들 및 애니메이팅된 텍스처들을 사용하는 것을 수반할 수 있다. 다른 예들에서, 객체 상의 포인트들의 추적이 추적된 포지션에 이미지 또는 텍스처(2차원 또는 3차원일 수 있음)를 배치하는 데 사용될 수 있다. 또 다른 예들에서, 비디오 프레임들의 신경망 분석이 컨텐츠(예를 들어, 비디오의 이미지들 또는 프레임들)에 이미지들, 모델들 또는 텍스처들을 배치하는 데 사용될 수 있다. 따라서, 증강 현실 컨텐츠 항목들은 컨텐츠의 변환들을 생성하는 데 사용되는 이미지들, 모델들 및 텍스처들뿐만 아니라 객체 검출, 추적 및 배치로 이러한 변환들을 달성하는 데 필요한 추가 모델링 및 분석 정보도 모두 지칭한다.
[0064] 실시간 비디오 프로세싱은 임의의 종류의 컴퓨터화된 시스템의 메모리에 저장된 임의의 종류의 비디오 데이터(예를 들어, 비디오 스트림들, 비디오 파일들 등)로 수행될 수 있다. 예를 들어, 사용자는 비디오 파일들을 로딩하여 이들을 디바이스의 메모리에 저장하거나, 디바이스의 센서들을 사용하여 비디오 스트림을 생성할 수 있다. 또한, 인간의 얼굴, 인체의 일부들, 동물들, 의자들, 자동차들 또는 다른 객체들과 같은 무생물과 같은 임의의 객체들이 컴퓨터 애니메이션 모델을 사용하여 프로세싱될 수 있다.
[0065] 일부 예들에서, 변환될 컨텐츠와 함께 특정 수정이 선택되면, 변환될 요소들이 컴퓨팅 디바이스에 의해 식별된 다음, 이들이 비디오의 프레임들에 존재하는지 검출 및 추적된다. 수정에 대한 요청에 따라 객체의 요소들이 수정되어, 비디오 스트림의 프레임들을 변환한다. 비디오 스트림의 프레임들의 변환은 상이한 종류의 변환을 위해 상이한 방법들에 의해 수행될 수 있다. 예를 들어, 객체의 요소들의 형태 변화를 주로 참조하는 프레임들의 변환들의 경우 (예를 들어, 활성 형상 모델(ASM: Active Shape Model) 또는 다른 알려진 방법들을 사용하여) 객체의 각각의 요소에 대한 특징 포인트들이 계산된다. 그러면, 객체의 적어도 하나의 요소 각각에 대해 특징 포인트들에 기초한 메시가 생성된다. 이러한 메시는 비디오 스트림에서 객체의 요소들을 추적하는 다음 스테이지에서 사용된다. 추적 프로세스에서, 언급된 각각의 요소에 대한 메시는 각각의 요소의 포지션과 정렬된다. 그 후, 메시 상에 추가 포인트들이 생성된다. 수정에 대한 요청에 기초하여 각각의 요소에 대해 제1 포인트들의 제1 세트가 생성되고, 제1 포인트들의 세트와 수정에 대한 요청에 기초하여 각각의 요소에 대해 제2 포인트들의 세트가 생성된다. 그 후, 제1 및 제2 포인트들의 세트와 메시에 기초하여 객체의 요소들을 수정하여 비디오 스트림의 프레임들이 변환될 수 있다. 이러한 방법에서, 배경을 추적하고 수정함으로써 수정된 객체의 배경도 변경되거나 왜곡될 수 있다.
[0066] 일부 예들에서, 객체의 각각의 요소에 대한 특징 포인트들을 계산하고, 계산된 특징 포인트들에 기초하여 메시를 생성함으로써 객체의 요소들을 사용하여 객체의 일부 영역들을 변경하는 변환들이 수행될 수 있다. 메시 상에 포인트들이 생성된 후, 포인트들이 기초하여 다양한 영역들이 생성된다. 그 후, 각각의 요소의 영역을 적어도 하나의 요소의 각각에 대한 포지션과 정렬하여 객체의 요소들이 추적되고, 수정에 대한 요청에 기초하여 영역들의 속성들이 수정되어 비디오 스트림의 프레임들을 변환할 수 있다. 언급된 영역들의 속성들 수정에 대한 특정 요청에 따라 상이한 방식으로 변환될 수 있다. 이러한 수정들은 영역들의 컬러 변경; 비디오 스트림의 프레임들로부터 영역들의 적어도 일부를 제거; 수정에 대한 요청에 기초하여 하나 이상의 새로운 객체들을 영역들에 포함시키는 것; 그리고 영역이나 객체의 요소들을 수정하거나 왜곡하는 것을 수반할 수 있다. 다양한 예들에서, 이러한 수정들 또는 다른 유사한 수정들의 임의의 조합이 사용될 수 있다. 애니메이팅될 특정 모델들의 경우, 일부 특징 포인트들이 제어 포인트들로서 선택되어 모델 애니메이션 옵션들의 전체 상태-공간을 결정하는 데 사용될 수 있다.
[0067] 얼굴 검출을 사용하여 이미지 데이터를 변환하는 컴퓨터 애니메이션 모델의 일부 예들에서, 얼굴은 특정 얼굴 검출 알고리즘(예를 들어, Viola-Jones)을 사용하여 이미지 상에서 검출된다. 그 후, 활성 형상 모델(ASM) 알고리즘이 이미지의 얼굴 영역에 적용되어 얼굴 특징 기준 포인트들을 검출한다.
[0068] 얼굴 검출에 적절한 다른 방법들 및 알고리즘들이 사용될 수 있다. 예를 들어, 일부 예들에서, 고려 중인 대부분의 이미지들에 존재하는 구별 가능한 포인트를 나타내는 랜드마크를 사용하여 특징들을 찾는다. 예를 들어, 얼굴 랜드마크의 경우, 좌측 눈 동공의 위치가 사용될 수 있다. 초기 랜드마크를 식별할 수 없는 경우(예를 들어, 사람이 안대를 착용한 경우), 2차 랜드마크들이 사용될 수 있다. 이러한 랜드마크 식별 절차는 이러한 임의의 객체들에 사용될 수 있다. 일부 예들에서, 랜드마크들의 세트가 형상을 형성한다. 형상들은 형상의 포인트들의 좌표를 사용하여 벡터들로서 표현될 수 있다. 하나의 형상은 형상 포인트들 사이의 평균 유클리드 거리(Euclidean distance)를 최소화하는 유사성 변환(트랜슬레이션, 스케일링 및 회전을 허용)으로 다른 형상과 정렬된다. 평균(mean) 형상은 정렬된 훈련 형상들의 평균이다.
[0069] 일부 예들에서, 글로벌 얼굴 검출기에 의해 결정된 얼굴의 포지션 및 크기에 정렬된 평균 형상으로부터 랜드마크에 대한 검색이 개시된다. 그 후, 이러한 검색은 각각의 포인트 주변의 이미지 텍스처의 템플릿 매칭에 의해 형상 포인트들의 위치들을 조정한 후 수렴이 발생할 때까지 잠정적인 형상을 글로벌 형상 모델에 일치시킴으로써 잠정적인 형상을 제안하는 단계들을 반복한다. 일부 시스템들에서, 개별 템플릿 매치들은 신뢰할 수 없으며, 형상 모델이 약한 템플릿 매치들의 결과들을 풀링(pooling)하여 더 강력한 전체 분류기를 형성한다. 전체 검색은 거친 해상도에서 미세 해상도까지 이미지 피라미드의 각각의 레벨에서 반복된다.
[0070] 변환 시스템은 클라이언트 디바이스(예를 들어, 클라이언트 디바이스(102)) 상의 이미지 또는 비디오 스트림을 캡처하고 적절한 사용자 경험, 컴퓨테이션 시간 및 전력 소비를 유지하면서 클라이언트 디바이스(102) 상에서 로컬로 복합 이미지 조작들을 수행할 수 있다. 복합 이미지 조작들은 크기 및 모양 변경들, 감정 전달들(예를 들어, 찡그린 얼굴에서 미소로의 얼굴 변경), 상태 전달들(예를 들어, 대상의 노화, 겉보기 연령 감소, 성별 변경), 스타일 전달들, 그래픽 요소 애플리케이션, 및 클라이언트 디바이스(102) 상에서 효율적으로 실행되도록 구성된 컨벌루션 신경망에 의해 구현되는 임의의 다른 적절한 이미지 또는 비디오 조작을 포함할 수 있다.
[0071] 일부 예들에서, 이미지 데이터를 변환하기 위한 컴퓨터 애니메이션 모델은 사용자가 클라이언트 디바이스(102) 상에서 동작하는 메시징 클라이언트(104)의 일부로서 동작하는 신경망을 갖는 클라이언트 디바이스(102)를 사용하여 사용자의 이미지 또는 비디오 스트림을 캡처할 수 있는(예를 들어, 셀피(selfie)) 시스템에 의해 사용될 수 있다. 메시징 클라이언트(104) 내에서 동작하는 변환 시스템은 이미지 또는 비디오 스트림 내의 얼굴의 존재를 결정하고 이미지 데이터를 변환하기 위해 컴퓨터 애니메이션 모델과 연관된 수정 아이콘들을 제공하거나, 컴퓨터 애니메이션 모델은 본원에 설명된 인터페이스와 연관되어 존재할 수 있다. 수정 아이콘들은 수정 동작의 일부로서 이미지 또는 비디오 스트림 내에서 사용자의 얼굴을 수정하기 위한 기초가 될 수 있는 변경들을 포함한다. 수정 아이콘이 선택되면, 변환 시스템은 선택된 수정 아이콘을 반영하도록 사용자의 이미지를 변환하는 프로세스를 개시한다(예를 들어, 사용자에 대한 웃는 얼굴 생성). 수정된 이미지 또는 비디오 스트림은 이미지 또는 비디오 스트림이 캡처되고 지정된 수정이 선택되자마자 클라이언트 디바이스(102) 상에 표시되는 그래픽 사용자 인터페이스에 표시될 수 있다. 변환 시스템은 선택된 수정을 생성하고 적용하기 위해 이미지 또는 비디오 스트림의 일부에 복합 컨벌루션 신경망을 구현할 수 있다. 즉, 사용자는 이미지 또는 비디오 스트림을 캡처하고 수정 아이콘이 선택되면 실시간으로 또는 거의 실시간으로 수정된 결과를 제시받을 수 있다. 추가로, 비디오 스트림이 캡처되는 동안 수정이 지속될 수 있으며, 선택된 수정 아이콘은 토글링된(toggled) 상태로 유지된다. 그러한 수정들을 가능하게 하기 위해 기계 학습 신경망들이 사용될 수 있다.
[0072] 변환 시스템에 의해 수행된 수정을 표시하는 그래픽 사용자 인터페이스는 사용자에게 추가적인 상호 작용 옵션들을 공급할 수 있다. 이러한 옵션들은 특정 컴퓨터 애니메이션 모델의 컨텐츠 캡처 및 선택(예를 들어, 컨텐츠 생성 사용자 인터페이스로부터의 개시)을 개시하는 데 사용되는 인터페이스에 기초할 수 있다. 다양한 예들에서, 수정 아이콘의 초기 선택 이후 수정이 지속될 수 있다. 사용자는 변환 시스템에 의해 수정되는 얼굴을 태핑(tapping)하거나 다르게 선택하여 수정을 온(on) 또는 오프(off)로 토글링하고 이를 나중에 보기 위해 저장하거나 이미징 애플리케이션의 다른 영역들을 브라우징할 수 있다. 변환 시스템에 의해 복수의 얼굴들이 수정되는 경우, 사용자는 그래픽 사용자 인터페이스 내에 수정되고 표시되는 단일 얼굴을 태핑하거나 선택하여 글로벌로 수정을 온 또는 오프로 토글링할 수 있다. 일부 예들에서, 복수의 얼굴들의 그룹 중 개별 얼굴들은 개별적으로 수정될 수 있거나, 이러한 수정은 개별 얼굴 또는 그래픽 사용자 인터페이스 내에 표시된 일련의 개별 얼굴들을 태핑하거나 선택함으로써 개별적으로 토글링될 수 있다.
[0073] 스토리 테이블(314)은 컬렉션(예를 들어, 스토리 또는 갤러리)으로 컴파일되는 메시지들의 컬렉션들 및 관련 이미지, 비디오 또는 오디오 데이터에 관한 데이터를 저장한다. 특정 컬렉션의 생성은 특정 사용자(예를 들어, 엔티티 테이블(306)에 기록이 유지되는 각각의 사용자)에 의해 개시될 수 있다. 사용자는 해당 사용자에 의해 생성되고 송신/브로드캐스팅된 컨텐츠의 컬렉션의 형태로 "개인 스토리"를 생성할 수 있다. 이를 위해, 메시징 클라이언트(104)의 사용자 인터페이스는 송신 사용자가 자신의 개인 스토리에 특정 컨텐츠를 추가할 수 있도록 사용자-선택 가능한 아이콘을 포함할 수 있다.
[0074] 컬렉션은 또한 수동으로, 자동으로, 또는 수동 및 자동 기법들의 조합을 사용하여 생성되는 복수의 사용자들로부터의 컨텐츠 컬렉션인 "라이브 스토리"를 구성할 수 있다. 예를 들어, "라이브 스토리"는 다양한 위치들과 이벤트들에서 사용자-제출 컨텐츠의 큐레이팅된 스트림을 구성할 수 있다. 클라이언트 디바이스가 활성화된 위치 서비스들을 갖고 특정 시간에 공통 위치 이벤트에 있는 사용자들에게 예를 들어, 메시징 클라이언트(104)의 사용자 인터페이스를 통해 특정 라이브 스토리에 컨텐츠를 제공하는 옵션이 제시될 수 있다. 라이브 스토리는 사용자의 위치에 기초하여 메시징 클라이언트(104)에 의해 사용자에게 식별될 수 있다. 최종 결과는 커뮤니티 관점에서 전달되는 '라이브 스토리'이다.
[0075] 추가 유형의 컨텐츠 컬렉션은 클라이언트 디바이스(102)가 특정 지리적 위치(예를 들어, 칼리지 또는 대학 캠퍼스) 내에 위치하는 사용자가 특정 컬렉션에 기여할 수 있게 하는 "위치 스토리"로 알려져 있다. 일부 예들에서, 위치 스토리에 대한 기여는 최종 사용자가 특정 조직 또는 다른 엔티티(예를 들어, 대학 캠퍼스의 학생)에 속해 있는지 검증하기 위해 2차 인증을 필요로 할 수 있다.
[0076] 위에서 언급한 바와 같이, 비디오 테이블(304)은 일 예에서, 기록이 메시지 테이블(302) 내에 유지되는 메시지와 연관된 비디오 데이터를 저장한다. 유사하게, 이미지 테이블(312)은 메시지 데이터가 엔티티 테이블(306)에 저장되는 메시지들과 연관된 이미지 데이터를 저장한다. 엔티티 테이블(306)은 증강 테이블(310)로부터의 다양한 증강들을 이미지 테이블(312) 및 비디오 테이블(304)에 저장된 다양한 이미지들 및 비디오들과 연관시킬 수 있다.
데이터 통신 아키텍처
[0077] 도 4는 일부 예들에 따라, 추가 메시징 클라이언트(104) 또는 메시징 서버(118)와의 통신을 위해 메시징 클라이언트(104)에 의해 생성된 메시지(400)의 구조를 예시하는 개략도이다. 특정 메시지(400)의 컨텐츠는 메시징 서버(118)에 의해 액세스 가능한 데이터베이스(126) 내에 저장된 메시지 테이블(302)을 채우는 데 사용된다. 마찬가지로, 메시지(400)의 컨텐츠는 클라이언트 디바이스(102) 또는 애플리케이션 서버들(114)의 "전송 중" 또는 "비행 중" 데이터로서 메모리에 저장된다. 다음의 예시적인 구성 요소들을 포함하는 메시지(400)가 표시된다.
[0078] 메시지(400)의 다양한 구성 요소들의 컨텐츠(예를 들어, 값들)는 컨텐츠 데이터 값들이 저장되어 있는 테이블들의 위치들에 대한 포인터들일 수 있다. 예를 들어, 메시지 이미지 페이로드(406)의 이미지 값은 이미지 테이블(312) 내의 위치에 대한 포인터(또는 그 주소)일 수 있다. 마찬가지로, 메시지 비디오 페이로드(408) 내의 값들은 비디오 테이블(304) 내에 저장된 데이터를 가리킬 수 있고, 메시지 증강들(412) 내에 저장된 값들은 증강 테이블(310)에 저장된 데이터를 가리킬 수 있고, 메시지 스토리 식별자(418) 내에 저장된 값들은 스토리 테이블(314)에 저장된 데이터를 가리킬 수 있으며, 메시지 송신자 식별자(422) 및 메시지 수신자 식별자(424) 내에 저장된 값들은 엔티티 테이블(306) 내에 저장된 사용자 기록들을 가리킬 수 있다.
시간-기반 액세스 제한 아키텍처
[0079] 도 5는 컨텐츠(예를 들어, 임시 메시지(502) 및 데이터의 연관된 멀티미디어 페이로드) 또는 컨텐츠 컬렉션(예를 들어 임시 메시지 그룹(504))에 대한 액세스가 시간-제한적일 수 있다는 관점에서(예를 들어, 임시로 만들어짐) 액세스-제한 프로세스(500)를 예시하는 개략도이다.
[0080] 임시 메시지(502)는 메시지 지속 시간 파라미터(506)와 연관된 것으로 도시되어 있으며, 그 값은 메시징 클라이언트(104)에 의해 임시 메시지(502)가 임시 메시지(502)의 수신 사용자에게 표시될 시간량을 결정한다. 일 예에서, 임시 메시지(502)는 송신 사용자가 메시지 지속 시간 파라미터(506)를 사용하여 특정하는 시간량에 따라 최대 10초 동안 수신 사용자가 볼 수 있다.
[0081] 메시지 지속 시간 파라미터(506) 및 메시지 수신자 식별자(424)는 메시지 타이머(510)에 대한 입력들로 도시되어 있으며, 이는 임시 메시지(502)가 메시지 수신자 식별자(424)에 의해 식별된 특정 수신 사용자에게 보여지는 시간량을 결정하는 것을 담당한다. 특히, 임시 메시지(502)는 메시지 지속 시간 파라미터(506)의 값에 의해 결정되는 기간 동안 관련 수신 사용자에게만 보여질 것이다. 메시지 타이머(510)는 보다 일반화된 임시 타이머 시스템(202)에 대한 출력을 제공하는 것으로 도시되며, 이는 수신 사용자에 대한 컨텐츠(예를 들어, 임시 메시지(502))의 디스플레이의 전체 타이밍을 담당한다.
[0082] 임시 메시지(502)는 임시 메시지 그룹(504)(예를 들어, 개인 스토리 또는 이벤트 스토리의 메시지들의 컬렉션) 내에 포함되는 것으로 도 5에 도시되어 있다. 임시 메시지 그룹(504)은 연관된 그룹 지속 시간 파라미터(508)를 가지며, 그 값은 임시 메시지 그룹(504)이 표시되고 메시징 시스템(100)의 사용자에 액세스 가능한 지속 시간을 결정한다. 그룹 지속 시간 파라미터(508)는 예를 들어, 음악 콘서트의 지속 시간일 수 있으며, 여기서 임시 메시지 그룹(504)은 해당 콘서트에 관련된 컨텐츠의 컬렉션이다. 대안적으로, 사용자(소유 사용자 또는 큐레이터 사용자)는 임시 메시지 그룹(504)의 설정 및 생성을 수행할 때 그룹 지속 시간 파라미터(508)에 대한 값을 특정할 수 있다.
[0083] 추가적으로, 임시 메시지 그룹(504) 내의 각각의 임시 메시지(502)는 연관된 그룹 참여 파라미터(512)를 가지며, 그 값은 임시 메시지(502)가 임시 메시지 그룹(504)의 컨텍스트 내에서 액세스 가능하게 되는 지속 시간을 결정한다. 따라서, 특정 임시 메시지 그룹(504)은 임시 메시지 그룹(504) 자체가 그룹 지속 시간 파라미터(508)의 관점에서 만료되기 전에 "만료"되어 임시 메시지 그룹(504)의 컨텍스트 내에서 액세스 불가능하게 될 수 있다. 그룹 지속 시간 파라미터(508), 그룹 참여 파라미터(512) 및 메시지 수신자 식별자(424)는 각각 그룹 타이머(514)에 입력을 제공하며, 이는 우선 임시 메시지 그룹(504)의 특정 임시 메시지(502)가 특정 수신 사용자에게 표시되는지 여부, 그리고 만약 표시된다면 얼마나 오랫동안 표시되는지를 동작 가능하게 결정한다. 임시 메시지 그룹(504)은 또한 메시지 수신자 식별자(424)의 결과로 특정 수신 사용자의 아이덴티티를 인식한다는 점에 유의한다.
[0084] 따라서, 그룹 타이머(514)는 연관된 임시 메시지 그룹(504)의 전체 수명뿐만 아니라 임시 메시지 그룹(504)에 포함된 개별 임시 메시지(502)도 동작 가능하게 제어한다. 일 예에서, 임시 메시지 그룹(504) 내의 각각의 그리고 모든 임시 메시지(502)는 그룹 지속 시간 파라미터(508)에 의해 특정된 기간 동안 볼 수 있고 액세스 가능한 상태로 유지된다. 추가 예에서, 특정 임시 메시지(502)는 그룹 참여 파라미터(512)에 기초하여 임시 메시지 그룹(504)의 컨텍스트 내에서 만료될 수 있다. 메시지 지속 시간 파라미터(506)는 임시 메시지 그룹(504)의 컨텍스트 내에서도 특정 임시 메시지(502)가 수신 사용자에게 표시되는 지속 시간을 여전히 결정할 수 있다는 점에 유의한다. 따라서, 수신 사용자가 임시 메시지 그룹(504)의 컨텍스트 내부 또는 외부에서 해당 임시 메시지(502)를 보고 있는지 여부에 관계없이, 메시지 지속 시간 파라미터(506)는 특정 임시 메시지(502)가 수신 사용자에게 표시되는 지속 시간을 결정한다.
[0085] 임시 타이머 시스템(202)은 추가로 관련 그룹 참여 파라미터(512)를 초과했다는 결정에 기초하여 임시 메시지 그룹(504)으로부터 특정 임시 메시지(502)를 동작 가능하게 제거할 수 있다. 예를 들어, 송신 사용자가 포스팅으로부터 24시간의 그룹 참여 파라미터(512)를 확립한 때, 임시 타이머 시스템(202)은 특정된 24시간 후에 임시 메시지 그룹(504)으로부터 관련 임시 메시지(502)를 제거할 것이다. 임시 타이머 시스템(202)은 또한 임시 메시지 그룹(504) 내의 각각의 그리고 모든 임시 메시지(502)에 대한 그룹 참여 파라미터(512)가 만료되었거나 그룹 지속 시간 파라미터(508)의 관점에서 임시 메시지 그룹(504) 자체가 만료되었을 때 임시 메시지 그룹(504)을 제거하도록 동작한다.
[0086] 특정 사용 경우들에 있어서, 특정 임시 메시지 그룹(504)의 생성자는 무한 그룹 지속 시간 파라미터(508)를 특정할 수 있다. 이 경우, 임시 메시지 그룹(504) 내의 마지막 남은 임시 메시지(502)에 대한 그룹 참여 파라미터(512)의 만료는 임시 메시지 그룹(504) 자체가 만료되는 시기를 결정할 것이다. 이 경우, 새로운 그룹 참여 파라미터(512)로 임시 메시지 그룹(504)에 추가된 새로운 임시 메시지(502)는 그룹 참여 파라미터(512)의 값과 동일하도록 임시 메시지 그룹(504)의 수명을 효과적으로 연장한다.
[0087] 임시 타이머 시스템(202)이 임시 메시지 그룹(504)이 만료되었다고(예를 들어, 더 이상 액세스할 수 없음) 결정하는 것에 응답하여, 임시 타이머 시스템(202)은 메시징 시스템(100)(그리고, 예를 들어, 구체적으로 메시징 클라이언트(104))과 통신하여 관련 임시 메시지 그룹(504)과 연관된 표시들(예를 들어, 아이콘)이 메시징 클라이언트(104)의 사용자 인터페이스 내에 더 이상 표시되지 않게 한다. 마찬가지로, 임시 타이머 시스템(202)이 특정 임시 메시지(502)에 대한 메시지 지속 시간 파라미터(506)가 만료되었다고 결정할 때, 임시 타이머 시스템(202)은 메시징 클라이언트(104)가 임시 메시지(502)와 연관된 표시들(예를 들어, 아이콘 또는 텍스트 식별)을 더 이상 표시하지 않게 한다.
생성적 대립 네트워크들
[0088] 도 6은 일부 예들에 따른 GAN 아키텍처의 예시이다. 일부 예들에서, 이미지 압축 시스템(130)은 GAN을 포함한다. 생성기(604)와 판별기(610)는 신경망들이다. 각각의 네트워크는 인공 신경망, 컨벌루션 신경망, 순환 신경망 등과 같은 임의의 신경망일 수 있다. 생성기(604)의 출력은 판별기(610)의 입력과 직접 링크된다. 역전파를 사용하여, 판별기의 분류는 생성기가 그 가중치를 업데이트하는 데 사용하는 신호를 제공한다.
[0089] 판별기(610)는 실제 데이터를 인공 데이터(예를 들어, 생성기에 의해 생성된 데이터)와 구별하려고 시도하는 분류기이다. 판별기(610)는 2 개의 데이터 소스들: 실제 데이터(606)와 페이크(fake) 데이터(608)를 사용하여 훈련된다. 실제 데이터(606)는 실제 인간 얼굴들을 포함할 수 있고 페이크 데이터(608)는 인공의 인간 얼굴을 포함할 수 있다. 페이크 데이터(608)는 생성기(604)에 의해 생성되는 데이터이다. 판별기(610)의 훈련 동안, 판별기(610)는 실제 데이터(606)와 페이크 데이터(608)를 분류한다. 판별기 손실(612)은 판별기(610)가 실제 데이터(606)를 페이크로 그리고 페이크 데이터(608)를 실제로 잘못 분류하는 것을 수용한다. 판별기(610)는 판별기 손실(612)을 사용하여 역전파를 통해 그 가중치들(예를 들어, 신경망 계층들의 가중치들)을 업데이트한다.
[0090] 생성기(604)는 판별기로부터의 피드백에 기초하여 페이크 데이터(608)를 생성하는 신경망이다. 이는 판별기(610)가 페이크 데이터(608)를 실제로 분류하도록 학습한다. 생성기(604)는 랜덤 노이즈(616)를 입력으로 취하고 랜덤 노이즈(616)를 의미 있는 출력 데이터로 변환한다. 생성기 손실은 판별기(610)가 페이크로 분류한 페이크 데이터(608)를 생성하는 생성기(604)를 수용한다. 생성기(604)는 생성기 손실(614)을 사용하여 판별기(610)와 생성기(604)를 통한 역전파를 통해 그 가중치들을 업데이트한다.
[0091] 일부 예들에서, 이미지 압축 시스템(130)은 사전-훈련된 GAN(예를 들어, Pix2Pix, CYCLEGAN, GauGAN)을 사용한다.
[0092] 도 7은 일부 예들에 따른 이미지 압축 시스템(130)에 의해 사용되는 잔여 블록(702)의 예시이다. 잔여 블록(702)은 인셉션-기반 잔여 블록이다. 이미지 생성기 네트워크(예를 들어, 생성기 604)의 통상의 잔여 블록은 하나의 커널 크기를 갖는 컨벌루션 계층들만을 포함한다. 그러나, 인셉션-기반 잔여 블록(702)은 상이한 커널 크기들(예를 들어, 1x1, 3x3, 5x5)을 갖는 컨벌루션 계층들을 포함한다. 인셉션-기반 잔여 블록(702)은 깊이별 블록들(블록들 704, 706, 708)(예를 들어, 깊이별 컨벌루션 계층들)을 통합한다. 깊이별 컨벌루션 계층들은 성능 희생 없이 더 적은 컴퓨테이션 비용을 필요로 하며 모바일 컴퓨팅 디바이스들에 배치되는 신경망들에 적합하다. 인셉션-기반 잔여 블록(702)은 6 개 유형의 동작들(예를 들어, 2 개 유형의 컨벌루션 계층들과 3 개의 상이한 커널 크기들)을 포함한다. 정규화 계층들(예를 들어, BN)과 ReLU가 각각의 연속된 2 개의 컨벌루션 계층들 사이에 적용된다. 일부 예들에서, 정규화 계층은 6 개 블록들의 특징들과 잔여 연결을 합산한 후에 삽입된다.
[0093] 각각의 연산의 제1 컨벌루션 계층들에 대한 출력 채널들의 수는 원래 잔여 블록들을 6으로 나눈 수(예를 들어, 잔여 블록(702)의 상이한 연산들의 수)로 설정된다. 일부 예들에서, GAN의 모든 잔여 블록들은 잔여 블록(702)으로 대체된다.
[0094] 도 8a는 예들에 따른 압축된 이미지-대-이미지 모델을 생성하기 위한 예시적인 방법이다. 본 방법(800)은 도 1의 이미지 압축 시스템(130)에 의해 수행될 수 있다. 일 예에서, 이미지 압축 시스템(130)에 포함된 프로세서(또는 명령된 작업들을 수행하는 전용 회로)는 방법(800)을 수행하거나 이미지 구성 요소로 하여금 방법(800)을 수행하게 한다.
[0095] 설명된 흐름도들은 동작들을 순차적인 프로세스로 도시할 수 있지만, 많은 동작들이 병렬로 또는 동시에 수행될 수 있다. 또한, 동작들의 순서는 재배열될 수 있다. 해당 동작들이 완료되면 프로세스가 종료된다. 프로세스는 방법, 절차, 알고리즘 등에 대응할 수 있다. 방법들의 동작들은 전체로 또는 부분적으로 수행될 수 있고, 다른 방법들의 동작들 중 일부 또는 전부와 조합하여 수행될 수 있고, 본원에 설명된 시스템들과 같은 임의의 수의 상이한 시스템들, 또는 임의의 시스템들에 포함된 프로세서와 같은 그 임의의 부분에 의해 수행될 수 있다.
[0096] 동작 802에서, 이미지 압축 시스템(130)은 제1 유형의 컨벌루션 계층, 제2 유형의 컨벌루션 계층 및 복수의 커널 크기들을 포함하는 제1 생성적 대립 네트워크(GAN)를 생성한다. 예를 들어, 제1 유형의 컨벌루션 계층은 통상의 컨벌루션 계층일 수 있고, 제2 유형의 컨벌루션 계층은 깊이별 컨벌루션 계층일 수 있다. 복수의 커널 크기들은 예를 들어 1x1, 3x3 및 5x5일 수 있다. 동작 804에서, 이미지 압축 시스템(130)은 임계값을 식별한다. 이미지 압축 시스템(130)은 사전-훈련된 교사 네트워크로부터 정규화 계층들의 스케일링 팩터(scaling factor)들에 대한 바이너리 검색에 의해 스케일 임계값을 결정한다. 예를 들어, 이미지 압축 시스템(130)은 임계값보다 작은 스케일링 팩터 크기로 모든 채널들을 일시적으로 프루닝(pruning)하고 프루닝된 모델의 컴퓨테이션 비용을 측정할 수 있다.
[0097] 비용이 컴퓨테이션 예산보다 작으면, 모델은 너무 많이 프루닝되고 이미지 압축 시스템(130)은 더 작은 임계값을 얻기 위해 더 낮은 간격으로 검색한다. 그렇지 않은 경우, 이미지 압축 시스템(130)은 더 큰 값을 얻기 위해 더 높은 간격으로 검색한다. 이러한 프로세스 중에, 이미지 압축 시스템(130)은 유효하지 않은 모델을 피하기 위해 잔여 블록(702) 외부의 컨벌루션 계층들에 대한 출력 채널들 수를 사전-정의된 값보다 더 크게 유지한다. 임계값은 GAN의 컴퓨테이션 비용들의 척도를 나타낸다. 일부 예들에서, 임계값은 곱셈-누적 연산(MAC: multiply-accumulate operation)들의 수이다. 일부 예들에서, 임계값은 컴퓨테이션 레이턴시(latency)의 척도이다. 컴퓨테이션 비용의 임의의 척도가 임계값으로서 사용될 수 있음을 이해해야 한다.
[0098] 동작 806에서, 이미지 압축 시스템(130)은 임계값에 기초하여 제1 GAN의 채널들을 프루닝하여 제2 GAN을 생성한다. 일부 예들에서, 이미지 압축 시스템(130)은 배치 정규화(BN: Batch Normalization) 및 인스턴스 정규화(IN: Instance Normalization)와 같은 정규화 계층들의 스케일링 팩터들의 크기를 통해 채널들을 프루닝한다. 임계값보다 작은 규모의 모든 채널들은 최종 모델이 타깃 컴퓨테이션 예산을 달성할 때까지 프루닝된다. 잔여 블록(702)이 주어지면, 이미지 압축 시스템(130)은 각각의 계층의 채널들 수를 모두 변경하고 동작을 수정할 수 있어, 예를 들어, 하나의 잔여 블록(702)이 커널 크기 1x1 및 3x3을 갖는 계층들을 포함할 수 있다. 이미지 압축 시스템(130)은 대응하는 컨벌루션 계층들과 함께 정규화 계층들의 채널들을 프루닝한다. 구체적으로, 이미지 압축 시스템(130)은 잔여 블록(702)의 각각의 동작에 대해 제1 정규화 계층, 즉, 통상의 동작들의 경우 제1 kxk 컨벌루션 계층들 다음의 계층들 그리고 깊이별 동작들의 경우 첫번째 1x1 컨벌루션 계층들 다음의 계층들을 프루닝한다.
[0099] 위에서 설명된 1-단계 프루닝을 통해 검색하기 위한 예시적인 알고리즘은 다음과 같다.
[0100] 동작 808에서, 이미지 압축 시스템(130)은 제1 GAN으로부터의 유사성-기반 지식 증류를 사용하여 제2 GAN을 훈련시킨다. 이미지 압축 시스템(130)은 2 개의 네트워크들의 특징 공간들 간에 지식을 전달한다. 구체적으로, (제1 GAN과 제2 GAN 사이의 홀수의 채널들로 인한) 정보 손실을 피하기 위해, 이미지 압축 시스템(130)은 2 개의 특징 공간들 간의 유사성을 직접 장려한다. 제1 GAN과 제2 GAN 사이의 유사성을 비교하기 위해, 이미지 압축 시스템(130)은 유사성 메트릭을 컴퓨팅한다. 여기서 논의되는 유사성 메트릭은 Global-CKA(GCKA)에 요청하는 것으로 참조될 것이다. GCKA는 다음과 같이 정의된다.
[0101] 여기서 X와 Y는 동일한 2 개의 텐서(tensor)들이고, 여기서
는 입력 행렬에 대한 재형상화 연산이다. GCKA 합들은 채널들에 대한 유사성을 특징으로 하며, 배치별(batch-wise) 유사성과 공간별 유사성 모두를 특징으로 한다. 이러한 연산의 컴퓨테이션 복잡성은 통상의 유사성 메트릭들보다 더 낮다. 이미지 압축 시스템(130)은 특징 공간에 대한 증류를 수행한다. 예를 들어, SKD가 지식 증류를 수행하기 위한 계층들의 세트를 표기하는 반면, 및 는 각각 제1 GAN과 제2 GAN으로부터의 계층 l의 특징 텐서들을 표기한다. 이미지 압축 시스템(130)은 다음과 같이 증류 손실 Ldist을 최소화한다.
여기서 제1 GAN과 제2 GAN 간의 특징 유사성을 최대화하기 위해 마이너스 부호가 도입된다. 제1 GAN은 다음과 같은 대립 손실 Ladv를 포함하는 원래의 손실 함수들을 사용하여 훈련된다.
여기서 x와 y는 입력 이미지와 실제 이미지를 표기이고 D와 G는 각각 판별기와 생성기를 표기한다. 제2 GAN을 훈련시키기 위해, 이미지 압축 시스템(130)은 제1 GAN으로부터 생성된 데이터를 사용하여 페어링된(paired) 데이터를 수행하고 재구성 손실 Lrecon로 제1 GAN과 동일하게 제2 GAN을 훈련시킬 수 있다. 따라서, 제2 GAN은 제1 GAN에 대해 압축될 수 있다. 일부 예들에서, 제2 GAN에 대한 전체 손실은 다음과 같이 설명될 수 있다.
[0102] 일부 예들에서, 제2 GAN에 대한 전체 손실은 다음과 같이 설명될 수 있다.
여기서 및 는 손실들을 밸런싱하는 하이퍼-파라미터들을 나타낸다.
[0103] 동작 810에서, 방법(800)은 훈련된 제2 GAN을 저장한다. 일부 예들에서, 훈련된 제2 GAN은 모바일 클라이언트 디바이스 상에 배치될 수 있다.
[0104] 평균 스무딩을 사용한 클래스-적응 정규화(CLADE-Avg: Class-Adaptive Normalization with Average Smoothing)
[0105] 시맨틱 정보와의 합성에 의한 압축된 이미지들의 이미지 품질은 정규화 계층들(SPADE로 명명, GauGAN으로 알려짐)의 학습된 스케일링 및 시프트 파라미터들에 대한 입력에 대한 공간-의존성을 도입함으로써 상당히 개선될 수 있다. 본 방법은 도 1의 이미지 압축 시스템(130)에 의해 수행될 수 있다.
[0106] 도 8b에 도시된 바와 같이, 입력은 배치 정규화를 위한 학습 가능한 스케일링 및 시프팅 파라미터들을 결정하는 데 이용된다. 본 개시에 따르면, 입력 이미지 정보를 활용하지 않고 학습 가능한 파라미터들을 사용하는 네이티브 방법에 비해 이미지 압축 동안 생성되는 이미지 품질이 상당히 개선될 수 있다.
[0107] 예를 들어, 도시 풍경을 포함하는 샘플 데이터세트의 경우, SPADE 모듈(GauGAN)에 기초한 생성 모델은 62.3(더 클수록 더 좋음)의 평균(mean) 인터섹션-오버-유니온(mIoU: Intersection-over-Union)을 달성할 수 있지만 Pix2Pix 모델의 원래 작업은 42.06의 mIoU만을 달성한다. Pix2PixHD와 같은 더 발전된 기법들의 경우에도, SPADE 모듈은 또한 개선된 성능으로 귀결된다. 예를 들어, 샘플 도시 풍경 데이터 세트 상에서, PixPixHD를 갖는 mIoU는 14.6에 불과하고, 프레쳇 인셉션 거리(FID: inception distance)는 111.5(더 작을수록 더 좋음)의 크기인 반면, GauGAN을 갖는 mIoU는 37.4일 수 있으며, 이는 2배 더 크고 FID는 22.6에 불과하고, 이는 약 5배 더 작다. FID는 GAN의 생성기(604)에 의해 생성된 이미지들의 품질을 평가하는 데 사용되는 메트릭이다.
[0108] 그 성공과 인기에도 불구하고, SPADE는 막대한 컴퓨테이션 비용을 도입한다. 샘플 도시 풍경 데이터세트에서 GauGAN의 컴퓨테이션 비용은 약 281B MAC인 반면, 원래 Pix2Pix 모델은 56.8B MAC만을 필요로 하여, 이는 약 4배의 차이로 귀결되고, 실제로 GauGAN의 광범위한 적용을 잠재적으로 막는다. 학습된 파라미터들은 각각의 균일 영역의 공간 차원을 따라 매우 크게 변하지 않지만, 학습된 파라미터들은 입력 픽셀들의 클래스에만 민감하다. 이에 기초하여, 공간 종속성이 클래스-종속 파라미터들(CLADE)로 대체되어 컴퓨테이션 비용을 크게 감소시킬 수 있다. 그러나, 원래 SPADE 방법과 비교하면, CLADE는 열등한 이미지 충실도를 비용으로 컴퓨테이션 노력을 절약한다.
[0109] 본 개시에 따르면, 추가 컴퓨테이션 비용을 도입하지 않고 이미지 품질을 복구하는 CLADE-Avg라는 이름의 새로운 변형이 CLADE에 도입된다. 이 방법은 SPADE와 비슷하거나 훨씬 더 나은 성능을 달성하므로, 이 방법은 기존 모든 방법들의 이점들을 통합한다.
[0110] 도 8c에 도시된 바와 같이, CLADE 방법은 입력 픽셀 정보 대신 입력 클래스를 사용하여 다음 정규화 계층에서 스케일링 및 시프팅된 파라미터들을 결정한다. 기본적인 추론은 학습된 파라미터들이 각각의 입력에 대한 균일 영역에 걸쳐 많이 변하지 않고 입력 시맨틱 정보가 변경되는 경계들에 걸쳐서만 변한다는 것이다. 이에 기초하여, 입력이 클래스 정보로 대체되어 컴퓨테이션 비용을 감소시킨다. 그러나, 이는 학습된 파라미터들에 급격한 변화를 도입할 것이며, 이는 이러한 파라미터들이 경계에서 점진적으로 변하는 SPADE 방법과 다르다.
[0111] 도 8d에 도시된 바와 같이, 이러한 문제를 극복하기 위해, 본 개시는 파라미터 계층들(822)과 정규화 계층들(824) 사이에 평균 스무딩(820)의 추가 계층을 도입한다. CLADE와 비교하여, 이러한 방법은 급변 경계들을 스무딩하고, 스케일링 및 시프트에 대해 더 많은 가능한 값들을 도입한다. 또한, 평균 스무딩(820)을 위한 커널 크기가 하이퍼파라미터로서 선택될 수 있다. 여기서, 시연의 목적으로 3 x 3 커널이 사용된다. 이러한 방법은 추가 곱셈들이 아닌 덧셈만을 도입하므로, 나눗셈이 훈련 후 파라미터들에 흡수될 수 있으므로 많은 컴퓨테이션 오버헤드를 도입하지 않으며, 이를 CLADE-Avg라고 칭한다.
[0112] 이러한 CLADE-Avg 방법을 이전 방법들과 비교하기 위해, 샘플 도시 풍경 데이터세트가 SPADE, CLADE 및 CLADE-Avg로 프로세싱되고, 컴퓨테이션 비용(FLOP들)과 함께 FID를 보고한다. 결과들이 표 1에 요약되어 있다. 알 수 있는 바와 같이, 이러한 CLADE-Avg 방법은 3 개의 방법들 중에서 최고의 성능 효율성 트레이드오프들을 달성한다.
[0113]
[표 1]
모델
MAC들
FID
GauGAN
281B
55.15
Clade
75.2B
55.82
Clade-Avg
75.2B
54.52
[0114] 도 8e를 참조하면, 도 8d의 관점에서 Clade-Avg 방법을 사용하여 이미지(602) 상에 압축된 이미지-대-이미지 모델을 생성하기 위한 예시적인 방법(830)이 도시되어 있다.
[0115] 본 방법(830)은 도 1의 이미지 압축 시스템(130)에 의해 수행된다. 일 예에서, 이미지 압축 시스템(130)에 포함된 프로세서(또는 명령된 작업들을 수행하기 위한 전용 회로)는 방법(830)을 수행하거나 이미지 구성 요소로 하여금 방법(830)을 수행하게 한다.
[0116] 블록 832에서, GAN의 이미지 압축 시스템(130)은 압축된 이미지-대-이미지 모델을 생성하기 위한 이미지 입력을 수신하며, 여기서 이미지 입력은 GAN에 의해 학습되는 파라미터들을 갖는다. 학습된 파라미터들은 공간 의존성을 포함할 수 있다.
[0117] 블록 834에서, GAN은 정규화 계층(824)의 스케일링 및 시프트 파라미터들을 결정하기 위해 픽셀 데이터가 아닌 이미지 입력의 입력 클래스를 사용한다. 학습된 파라미터들은 각각의 입력에 대해 균일한 영역에 걸쳐 많이 변하지 않으며, 입력 시맨틱 정보가 변하는 경계들에 걸쳐서만 변한다. 이에 기초하여, 입력이 클래스 정보로 대체되어 컴퓨테이션 비용을 절감한다. 그러나, 이는 학습된 파라미터들에 급격한 변화를 도입하며, 이는 이러한 파라미터들이 경계 상에서 점진적으로 변하는 이전 방법과 다르다.
[0118] 블록 836에서, 인셉션-기반 잔여 블록(702)의 커널 크기가 선택된다. 이전에 논의된 바와 같이, 인셉션-기반 잔여 블록(702)은 깊이별 블록들(블록들 704, 706, 708)(예를 들어, 깊이별 컨벌루션 계층들)을 통합한다. 깊이별 컨벌루션 계층들은 성능의 희생 없이 더 적은 컴퓨테이션 비용을 필요로 하며, 모바일 컴퓨팅 디바이스들 상에 배치되는 신경망들에 적합하다.
[0119] 블록 838에서, GAN은 도 8d에 예시된 바와 같이, 파라미터 계층들(822)과 정규화 계층들(824) 사이에서 평균 스무딩(820)을 수행한다. CLADE와 비교하여, 이러한 방법은 급변 경계들을 스무딩하고, 스케일링 및 시프트에 더 많은 가능한 값들을 도입한다. 또한, 평균 스무딩을 위한 커널 크기가 하이퍼파라미터로서 선택될 수 있다. 일 예에서, 3 x 3 커널이 사용될 수 있다.
기계 아키텍처
[0120] 도 9는 기계(900)로 하여금 본원에서 논의된 방법론들 중 임의의 하나 이상을 수행하게 하기 위한 명령들(910)(예를 들어, 소프트웨어, 프로그램, 애플리케이션, 애플릿, 앱 또는 다른 실행 가능한 코드)이 실행될 수 있는 기계(900)의 개략적인 표현이다. 예를 들어, 명령들(910)은 기계(900)로 하여금 본원에 설명된 방법들 중 임의의 하나 이상을 실행하게 할 수 있다. 명령들(910)은 일반적이고 프로그래밍되지 않은 기계(900)를 설명된 방식으로 설명되고 예시된 기능들을 수행하도록 프로그래밍된 특정 기계(900)로 변환한다. 기계(900)는 독립형 디바이스로서 동작할 수 있거나 다른 기계들에 커플링(예를 들어, 네트워킹)될 수 있다. 네트워크화된 배치에서, 기계(900)는 서버-클라이언트 네트워크 환경에서 서버 기계 또는 클라이언트 기계의 능력에서 동작할 수 있거나, 피어-투-피어(peer-to-peer)(또는 분산) 네트워크 환경에서 피어 기계로서 동작할 수 있다. 기계(900)는 서버 컴퓨터, 클라이언트 컴퓨터, 개인용 컴퓨터(PC: personal computer), 태블릿 컴퓨터, 랩탑 컴퓨터, 넷북, 셋-탑 박스(STB: set-top box), 퍼스널 디지털 어시스턴트(PDA: personal digital assistant), 엔터테인먼트 미디어 시스템, 셀룰러 전화, 스마트폰, 모바일 디바이스, 웨어러블 디바이스(예를 들어, 스마트워치), 스마트 홈 디바이스(예를 들어, 스마트 기기), 다른 스마트 디바이스들, 웹 기기, 네트워크 라우터, 네트워크 스위치, 네트워크 브릿지, 또는 기계(900)에 의해 취해질 액션들을 특정하는 명령들(910)을 순차적으로 또는 다른 방식으로 실행할 수 있는 임의의 기계를 포함할 수 있지만 이에 한정되지 않는다. 추가로, 단일 기계(900)만이 예시되어 있지만, "기계"라는 용어는 또한 본원에서 논의된 방법론들 중 하나 이상을 수행하기 위해 명령들(910)을 개별적으로 또는 공동으로 실행하는 기계들의 컬렉션을 포함하는 것으로 간주되어야 한다. 예를 들어, 기계(900)는 클라이언트 디바이스(102) 또는 메시징 서버 시스템(108)의 일부를 형성하는 다수의 서버 디바이스들 중 임의의 하나를 포함할 수 있다. 일부 예들에서, 기계(900)는 또한 서버측에서 수행되는 특정 방법 또는 알고리즘의 특정 동작들과 클라이언트측에서 수행되는 특정 방법 또는 알고리즘의 특정 동작들을 갖는 클라이언트 및 서버 시스템들 모두를 포함할 수 있다.
[0121] 기계(900)는 버스(940)를 통해 서로 통신하도록 구성될 수 있는 프로세서(904), 메모리(906) 및 입력/출력 I/O 구성 요소들(902)을 포함할 수 있다. 일 예에서, 프로세서(904)(예를 들어, 중앙 처리 장치(CPU: Central Processing Unit), 축소 명령 세트 컴퓨팅(RISC: Reduced Instruction Set Computing) 프로세서, 복합 명령 세트 컴퓨팅(CISC: Complex Instruction Set Computing) 프로세서, 그래픽 처리 장치(GPU: Graphics Processing Unit), 디지털 신호 프로세서(DSP: Digital Signal Processor), 주문형 집적 회로(ASIC: Application Specific Integrated Circuit), 무선-주파수 집적 회로(RFIC: Radio-Frequency Integrated Circuit), 다른 프로세서, 또는 이들의 임의의 적절한 조합)는 예를 들어, 명령들(910)을 실행하는 프로세서(908) 및 프로세서(912)를 포함할 수 있다. "프로세서"라는 용어는 명령들을 동시에 실행할 수 있는 2 개 이상의 독립적인 프로세서들(때로는 "코어들"이라고 칭함)을 포함할 수 있는 멀티-코어 프로세서들을 포함하도록 의도된다. 도 9는 복수의 프로세서들(904)을 도시하지만, 기계(900)는 단일-코어를 갖는 단일 프로세서, 복수의 코어들을 갖는 단일 프로세서(예를 들어, 멀티-코어 프로세서), 단일 코어를 갖는 복수의 프로세서들, 복수의 코어들을 갖는 복수의 프로세서들, 또는 이들의 임의의 조합을 포함할 수 있다.
[0122] 메모리(906)는 메인 메모리(914), 정적 메모리(916) 및 저장 유닛(918)을 포함하며, 모두 버스(940)를 통해 프로세서들(904)에 액세스 가능하다. 메인 메모리(906), 정적 메모리(916) 및 저장 유닛(918)은 본원에 설명된 방법론들 또는 기능들 중 임의의 하나 이상에 대한 명령들(910)을 저장한다. 명령들(910)은 또한 기계(900)에 의한 실행 동안, 메인 메모리(914) 내, 정적 메모리(916) 내, 저장 유닛(918) 내의 기계-판독 가능 매체(920) 내, 프로세서들(904) 중 적어도 하나 내(예를 들어, 프로세서의 캐시 메모리 내)에 또는 이들의 임의의 적절한 조합에 완전히 또는 부분적으로 상주할 수 있다.
[0123] I/O 구성 요소들(902)은 입력을 수신하고, 출력을 제공하고, 출력을 생성하고, 정보를 전송하고, 정보를 교환하고, 측정치들을 캡처하는 등의 광범위하게 다양한 구성 요소들을 포함할 수 있다. 특정 기계에 포함된 특정 I/O 구성 요소들(902)은 기계의 유형에 따를 것이다. 예를 들어, 모바일 폰들과 같은 휴대용 기계들은 터치 입력 디바이스 또는 이러한 다른 입력 메커니즘들을 포함할 수 있지만, 헤드리스 서버 기계는 이러한 터치 입력 디바이스를 포함하지 않을 가능성이 높다. I/O 구성 요소들(902)은 도 9에 도시되지 않은 많은 다른 구성 요소들을 포함할 수 있다는 것이 이해될 것이다. 다양한 예들에서, I/O 구성 요소들(902)은 사용자 출력 구성 요소들(926) 및 사용자 입력 구성 요소들(928)을 포함할 수 있다. 사용자 출력 구성 요소들(926)은 비주얼 구성 요소들(예를 들어, 플라즈마 디스플레이 패널(PDP: plasma display panel), 발광 다이오드(LED: light-emitting diode) 디스플레이, 액정 디스플레이(LCD: liquid crystal display), 프로젝터 또는 음극선관(CRT: cathode ray tube)과 같은 디스플레이), 음향 구성 요소들(예를 들어, 스피커들), 햅틱(haptic) 구성 요소들(예를 들어, 진동 모터, 저항 메커니즘들), 다른 신호 생성기들 등을 포함할 수 있다. 사용자 입력 구성 요소들(928)은 영숫자 입력 구성 요소들(예를 들어, 키보드, 영숫자 입력을 수용하도록 구성된 터치 스크린, 포토-옵티컬(photo-optical) 키보드, 또는 다른 영숫자 입력 구성 요소들), 포인트-기반 입력 구성 요소들(예를 들어, 마우스, 터치패드, 트랙볼, 조이스틱, 모션 센서 또는 다른 포인팅 도구), 촉각 입력 구성 요소들(예를 들어, 물리적 버튼, 터치들 또는 터치 제스처들의 위치와 힘을 제공하는 터치 스크린, 또는 다른 촉각 입력 구성 요소들), 오디오 입력 구성 요소들(예를 들어, 마이크로폰) 등을 포함할 수 있다.
[0124] 추가 예들에서, I/O 구성 요소들(902)은 다른 구성 요소들의 광범위한 어레이 중에서, 생체 측정 구성 요소들(930), 모션 구성 요소들(932), 환경 구성 요소들(934) 또는 포지션 구성 요소들(936)을 포함할 수 있다. 예를 들어, 생체 측정 구성 요소들(930)은 표현들(예를 들어, 손 표현들, 얼굴 표현들, 음성 표현들, 신체 제스처들 또는 눈-추적)을 검출하고 생체 신호들(예를 들어, 혈압, 심박수, 체온, 발한 또는 뇌파)을 측정하고, 사람을 식별하는(예를 들어, 음성 식별, 망막 식별, 얼굴 식별, 지문 식별 또는 뇌파(electroencephalogram)-기반 식별) 등을 위한 구성 요소들을 포함한다. 모션 구성 요소들(932)은 가속도 센서 구성 요소들(예를 들어, 가속도계), 중력 센서 구성 요소들, 회전 센서 구성 요소들(예를 들어, 자이로스코프)을 포함한다.
[0125] 환경 구성 요소들(934)은 예를 들어, 하나 이상의 카메라들(스틸 이미지/사진 및 비디오 기능들을 가짐), 조명 센서 구성 요소들(예를 들어, 광도계), 온도 센서 구성 요소들(예를 들어, 주변 온도를 검출하는 하나 이상의 온도계들), 습도 센서 구성 요소들, 압력 센서 구성 요소들(예를 들어, 기압계), 음향 센서 구성 요소들(예를 들어, 배경 노이즈를 검출하는 하나 이상의 마이크로폰들), 근접 센서 구성 요소들(예를 들어, 근처 객체들을 검출하는 적외선 센서들), 가스 센서들(예를 들어, 안전을 위해 위험한 가스들의 농도를 검출하거나 대기 중 오염물들을 측정하는 가스 검출 센서들) 또는 주변 물리적 환경에 대응하는 표시들, 측정치들 또는 신호들을 제공할 수 있는 다른 구성 요소들을 포함한다.
[0126] 카메라들과 관련하여, 클라이언트 디바이스(102)는 예를 들어, 클라이언트 디바이스(102)의 전면 상의 전면 카메라들과 클라이언트 디바이스(102)의 후면 상의 후면 카메라들을 포함하는 카메라 시스템을 가질 수 있다. 예를 들어, 전면 카메라들은 상술한 증강 데이터(예를 들어, 필터들)로 후에 증강될 수 있는 클라이언트 디바이스(102) 사용자의 스틸 이미지들 및 비디오(예를 들어, "셀피들")를 캡처하는 데 사용될 수 있다. 예를 들어, 후면 카메라들은 보다 전통적인 카메라 모드에서 스틸 이미지들과 비디오들을 캡처하는 데 사용될 수 있으며, 이러한 이미지들은 유사하게 증강 데이터로 증강된다. 전면 및 후면 카메라들에 추가하여, 클라이언트 디바이스(102)는 360° 사진들 및 비디오들을 캡처하기 위한 360° 카메라도 포함할 수 있다.
[0127] 추가로, 클라이언트 디바이스(102)의 카메라 시스템은 듀얼 후면 카메라들(예를 들어, 깊이-감지 카메라뿐만 아니라 기본 카메라), 또는 심지어 클라이언트 디바이스(102)의 전면 및 후면측 상의 트리플, 쿼드 또는 펜타 후면 카메라 구성들을 포함할 수 있다. 이러한 복수의 카메라 시스템들은 예를 들어, 광각 카메라, 초광각 카메라, 텔리포토(telephoto) 카메라, 매크로 카메라 및 깊이 센서를 포함할 수 있다.
[0128] 포지션 구성 요소들(936)은 위치 센서 구성 요소들(예를 들어, GPS 수신기 구성 요소), 고도 센서 구성 요소들(예를 들어, 고도가 도출될 수 있는 기압을 검출하는 고도계들 또는 기압계들), 배향 센서 구성 요소들(예를 들어, 자력계들) 등을 포함한다.
[0129] 통신은 광범위하게 다양한 기술들을 사용하여 구현될 수 있다. I/O 구성 요소들(902)은 개개의 커플링 또는 연결들을 통해 기계(900)를 네트워크(922) 또는 디바이스(924)에 커플링하도록 동작 가능한 통신 구성 요소들(938)을 추가로 포함한다. 예를 들어, 통신 구성 요소들(938)은 네트워크(922)와 인터페이싱하기 위한 네트워크 인터페이스 구성 요소 또는 다른 적절한 디바이스를 포함할 수 있다. 추가적인 예들에서, 통신 구성 요소들(938)은 유선 통신 구성 요소들, 무선 통신 구성 요소들, 셀룰러 통신 구성 요소들, 근거리 통신(NFC: Near Field Communication) 구성 요소들, Bluetooth® 구성 요소들(예를 들어, Bluetooth®Low Energy), Wi-Fi® 구성 요소들 및 다른 양식들을 통해 통신을 제공하는 다른 통신 구성 요소들을 포함할 수 있다. 디바이스들(924)은 다른 기계 또는 광범위하게 다양한 주변 디바이스들(예를 들어, USB를 통해 커플링된 주변 디바이스) 중 임의의 것일 수 있다.
[0130] 또한, 통신 구성 요소들(938)은 식별자들을 검출하거나 식별자들을 검출하도록 동작 가능한 구성 요소들을 포함할 수 있다. 예를 들어, 통신 구성 요소들(938)은 무선 주파수 식별(RFID: Radio Frequency Identification) 태그 판독기 구성 요소들, NFC 스마트 태그 검출 구성 요소들, 광학 판독기 구성 요소들(예를 들어, 범용 제품 코드(UPC: Universal Product Code) 바 코드와 같은 1차원 바코드들, 빠른 응답(QR: Quick Response) 코드, Aztec 코드, 데이터 매트릭스(Data Matrix), Dataglyph, MaxiCode, PDF417, Ultra Code, UCC RSS-2D 바 코드 및 다른 광학 코드들과 같은 다차원 바 코드들을 검출하는 광학 센서) 또는 음향 검출 구성 요소들(예를 들어, 태깅된(tagged) 오디오 신호들을 식별하는 마이크로폰들)을 포함할 수 있다. 또한, 인터넷 프로토콜(IP: Internet Protocol) 지오로케이션을 통한 위치, Wi-Fi® 신호 삼각 측량을 통한 위치, 특정 위치를 나타낼 수 있는 NFC 비콘 신호 검출을 통한 위치 등과 같은 통신 구성 요소들(938)을 통해 다양한 정보가 도출될 수 있다.
[0131] 다양한 메모리들(예를 들어, 메인 메모리(914), 정적 메모리(916) 및 프로세서들(904)의 메모리) 및 저장 유닛(918)은 본원에 설명된 방법론들 또는 기능들 중 임의의 하나 이상에 의해 구현되거나 사용되는 명령들 및 데이터 구조들(예를 들어, 소프트웨어)의 하나 이상의 세트들을 저장할 수 있다. 이러한 명령들(예를 들어, 명령들(910))은 프로세서들(904)에 의해 실행될 때 다양한 동작들로 하여금 개시된 예들을 구현하게 한다.
[0132] 명령들(910)은 전송 매체를 사용하여, 네트워크 인터페이스 디바이스(예를 들어, 통신 구성 요소들(938)에 포함된 네트워크 인터페이스 구성 요소)를 통해, 그리고 몇몇 공지된 전송 프로토콜들(예를 들어, 하이퍼텍스트 전송 프로토콜(HTTP: hypertext transfer protocol)) 중 임의의 하나를 사용하여 네트워크(922)를 통해 전송되거나 수신될 수 있다. 마찬가지로, 명령들(910)은 디바이스들(924)에 대한 커플링(예를 들어, 피어-투-피어 커플링)을 통해 전송 매체를 사용하여 전송되거나 수신될 수 있다.
소프트웨어 아키텍처
[0133] 도 10은 본원에 설명된 디바이스들 중 임의의 하나 이상에 설치될 수 있는 소프트웨어 아키텍처(1004)를 예시하는 블록도(1000)이다. 소프트웨어 아키텍처(1004)는 프로세서들(1020), 메모리(1026) 및 I/O 구성 요소들(1038)을 포함하는 기계(1002)와 같은 하드웨어에 의해 지원된다. 이러한 예에서, 소프트웨어 아키텍처(1004)는 계층들의 스택으로서 개념화될 수 있으며, 여기서 각각의 계층은 특정의 기능을 제공한다. 소프트웨어 아키텍처(1004)는 운영 체제(1012), 라이브러리들(1010), 프레임워크들(1008) 및 애플리케이션들(1006)과 같은 계층들을 포함한다. 동작적으로, 애플리케이션들(1006)은 소프트웨어 스택을 통해 API 콜(call)들(1050)을 호출하고 API 콜들(1050)에 응답하여 메시지들(1052)을 수신한다.
[0134] 운영 체제(1012)는 하드웨어 자원들을 관리하고 공통 서비스들을 제공한다. 운영 체제(1012)는 예를 들어, 커널(1014), 서비스들(1016) 및 드라이버들(1022)을 포함한다. 커널(1014)은 하드웨어와 다른 소프트웨어 계층들 사이의 추상화 계층 역할을 한다. 예를 들어, 커널(1014)은 다른 기능 중에서 메모리 관리, 프로세서 관리(예를 들어, 스케줄링), 구성 요소 관리, 네트워킹 및 보안 설정들을 제공한다. 서비스들(1016)은 다른 소프트웨어 계층들에 대해 다른 공통 서비스들을 제공할 수 있다. 드라이버들(1022)은 기본 하드웨어를 제어하거나 인터페이싱하는 것을 담당한다. 예를 들어, 드라이버들(1022)은 디스플레이 드라이버들, 카메라 드라이버들, BLUETOOTH® 또는 BLUETOOTH® LOW Energy 드라이버들, 플래시 메모리 드라이버들, 직렬 통신 드라이버들(예를 들어, USB 드라이버들), WI-FI® 드라이버들, 오디오 드라이버들, 전력 관리 드라이버들 등을 포함할 수 있다.
[0135] 라이브러리들(1010)은 애플리케이션들(1006)에 의해 사용되는 공통 로우-레벨(low-level) 인프라스트럭처를 제공한다. 라이브러리들(1010)은 메모리 할당 기능들, 스트링 조작 기능들, 수학적 기능들 등과 같은 기능들을 제공하는 시스템 라이브러리들(1018)(예를 들어, C 표준 라이브러리)을 포함할 수 있다. 또한, 라이브러리들(1010)은 미디어 라이브러리들(예를 들어, 동영상 전문가 그룹-4(MPEG4: Moving Picture Experts Group-4), 고급 비디오 코딩(H.264 또는 AVC), 동영상 전문가 그룹 계층-3(MP3: Moving Picture Experts Group Layer-3), 고급 오디오 코딩(AAC: Advanced Audio Coding), 적응형 멀티-레이트(AMR: Adaptive Multi-Rate) 오디오 코덱, 조인트 포토그래픽 전문가 그룹(JPEG(Joint Photographic Experts Group) 또는 JPG) 또는 휴대용 네트워크 그래픽스(PNG: Portable Network Graphics)와 같은 다양한 미디어 포맷들의 표현 및 조작을 지원하는 라이브러리들), 그래픽 라이브러리들(예를 들어, 디스플레이 상의 그래픽 컨텐츠에서 2차원(2D) 및 3차원(3D)으로 렌더링하는 데 사용되는 OpenGL 프레임워크), 데이터베이스 라이브러리들(예를 들어, 다양한 관계형 데이터베이스 기능들을 제공하는 SQLite), 웹 라이브러리들(예를 들어, 웹 브라우징 기능을 제공하는 WebKit) 등과 같은 API 라이브러리들(1024)을 포함할 수 있다. 라이브러리들(1010)은 또한 애플리케이션들(1006)에 많은 다른 API들을 제공하기 위해 광범위하게 다양한 다른 라이브러리들(1028)을 포함할 수 있다.
[0136] 프레임워크들(1008)은 애플리케이션들(1006)에 의해 사용되는 공통의 하이-레벨 인프라스트럭처를 제공한다. 예를 들어, 프레임워크들(1008)은 다양한 그래픽 사용자 인터페이스(GUI: graphical user interface) 기능들, 하이-레벨 자원 관리 및 하이-레벨 위치 서비스들을 제공한다. 프레임워크들(1008)은 애플리케이션들(1006)에 의해 사용될 수 있는 다른 API들의 넓은 스펙트럼을 제공할 수 있으며, 그 중 일부는 특정 운영 체제 또는 플랫폼에 특정적일 수 있다.
[0137] 일 예에서, 애플리케이션들(1006)은 홈 애플리케이션(1036), 연락처 애플리케이션(1030), 브라우저 애플리케이션(1032), 북 리더 애플리케이션(1034), 위치 애플리케이션(1042), 미디어 애플리케이션(1044), 메시징 애플리케이션(1046), 게임 애플리케이션(1048) 및 제3자 애플리케이션(1040)과 같은 넓은 종류의 다른 애플리케이션들을 포함할 수 있다. 애플리케이션들(1006)은 프로그램들에 정의된 기능들을 실행하는 프로그램들이다. 객체-지향 프로그래밍 언어들(예를 들어, 객체-C, Java 또는 C++) 또는 절차적 프로그래밍 언어들(예를 들어, C 또는 어셈블리어)과 같은 다양한 방식으로 구조화된 하나 이상의 애플리케이션들(1006)을 생성하기 위해 다양한 프로그래밍 언어들이 채용될 수 있다. 특정 예에서, 제3자 애플리케이션(1040)(예를 들어, 특정 플랫폼의 벤더(vendor) 외의 엔티티에 의해 ANDROID™ 또는 IOS™ 소프트웨어 개발 키트(SDK: software development kit)를 사용하여 개발된 애플리케이션)은 IOS™, ANDROID™, WINDOWS® Phone과 같은 모바일 운영 체제 또는 다른 모바일 운영 체제 상에서 실행되는 모바일 소프트웨어일 수 있다. 이러한 예에서, 제3자 애플리케이션(1040)은 본원에 설명된 기능을 용이하게 하기 위해 운영 체제(1012)에 의해 제공되는 API 콜들(1050)을 호출할 수 있다.
용어집
[0138] "캐리어 신호"는 기계에 의한 실행을 위한 명령들을 저장, 인코딩 또는 운반할 수 있는 임의의 무형 매체를 지칭하며, 이러한 명령들의 통신을 용이하게 하기 위한 디지털 또는 아날로그 통신 신호들 또는 다른 무형 매체를 포함한다. 명령들은 네트워크 인터페이스 디바이스를 통해 전송 매체를 사용하여 네트워크를 통해 전송되거나 수신될 수 있다.
[0139] "클라이언트 디바이스"는 하나 이상의 서버 시스템들 또는 다른 클라이언트 디바이스들로부터 자원들을 획득하기 위해 통신 네트워크에 인터페이싱하는 임의의 기계를 지칭한다. 클라이언트 디바이스는 모바일 폰, 데스크탑 컴퓨터, 랩탑, 휴대용 디지털 어시스턴트(PDA)들, 스마트폰들, 태블릿들, 울트라북들, 넷북들, 랩탑들, 멀티-프로세서 시스템들, 마이크로프로세서-기반 또는 프로그래밍 가능한 가전 제품들, 게임 콘솔들, 셋-탑 박스들 또는 사용자가 네트워크에 액세스하는 데 사용할 수 있는 임의의 다른 통신 디바이스일 수 있지만 이에 한정되지 않는다.
[0140] "통신 네트워크"는 애드 혹(ad hoc) 네트워크, 인트라넷, 엑스트라넷, 가상 사설 네트워크(VPN: virtual private network), 근거리 네트워크(LAN), 무선 LAN(WLAN), 광역 네트워크(WAN: wide area network), 무선 WAn(WWAN), 도시 지역 네트워크(MAN: metropolitan area network), 인터넷, 인터넷의 일부, 공중 교환 전화 네트워크(PSTN: Public Switched Telephone Network)의 일부, 일반 전화 서비스(POTS: plain old telephone service) 네트워크, 셀룰러 전화 네트워크, 무선 네트워크, Wi-Fi® 네트워크, 다른 유형의 네트워크, 또는 이러한 네트워크들 중 둘 이상의 조합일 수 있는 네트워크의 하나 이상의 부분들을 지칭한다. 예를 들어, 네트워크 또는 네트워크의 일부는 무선 또는 셀룰러 네트워크를 포함할 수 있으며 커플링은 코드 분할 다중 접속(CDMA: Code Division Multiple Access) 연결, 모바일 통신들을 위한 글로벌 시스템(GSM: Global System for Mobile communications) 연결 또는 기타 유형의 셀룰러 또는 무선 커플링일 수 있다. 이러한 예에서, 커플링은 단일 캐리어 무선 전송 기술(1xRTT: Single Carrier Radio Transmission Technology), 진화-데이터 최적화(EVDO: Evolution-Data Optimized) 기술, 일반 패킷 무선 서비스(GPRS: General Packet Radio Service) 기술, GSM 진화를 위한 향상된 데이터 레이트(EDGE: Enhanced Data rates for GSM Evolution) 기술, 3G를 포함한 3세대 파트너십 프로젝트(3GPP: third Generation Partnership Project), 4세대 무선(4G) 네트워크들, 범용 모바일 원격 통신 시스템(UMTS: Universal Mobile Telecommunications System), 고속 패킷 액세스(HSPA: High Speed Packet Access), 마이크로파 액세스를 위한 범세계적 상호 운용성(WiMAX: Worldwide Interoperability for Microwave Access), 롱 텀 이볼루션(LTE: Long Term Evolution) 표준, 다양한 표준-설정 기관들에 의해 정의된 다른 것들, 다른 장거리 프로토콜들, 또는 다른 데이터 전송 기술과 같은 임의의 다양한 유형의 데이터 전송 기술을 구현할 수 있다.
[0141] "구성 요소"는 기능 또는 서브루틴 콜들, 브랜치 포인트들, API들 또는 특정 프로세싱 또는 제어 기능들의 파티셔닝 또는 모듈화를 제공하는 다른 기술들에 의해 정의된 경계들을 갖는 디바이스, 물리적 엔티티 또는 로직을 지칭한다. 구성 요소들은 인터페이스를 통해 다른 구성 요소들과 결합되어 기계 프로세스를 수행할 수 있다. 구성 요소는 다른 구성 요소들과 함께 사용하도록 설계된 패키징된 기능 하드웨어 유닛 및 일반적으로 관련 기능들 중 특정 기능을 수행하는 프로그램의 일부일 수 있다. 구성 요소들은 소프트웨어 구성 요소들(예를 들어, 기계-판독 가능 매체 상에 구현된 코드) 또는 하드웨어 구성 요소들을 구성할 수 있다. "하드웨어 구성 요소"는 특정 동작들을 수행할 수 있는 유형의 유닛이며 특정 물리적 방식으로 구성되거나 배열될 수 있다. 다양한 예들에서, 하나 이상의 컴퓨터 시스템들(예를 들어, 독립형 컴퓨터 시스템, 클라이언트 컴퓨터 시스템, 또는 서버 컴퓨터 시스템) 또는 컴퓨터 시스템의 하나 이상의 하드웨어 구성 요소들(예를 들어, 프로세서 또는 프로세서들의 그룹)은 본원에 설명된 특정 동작들을 수행하도록 동작하는 하드웨어 구성 요소로서 소프트웨어(예를 들어, 애플리케이션 또는 애플리케이션 부분)에 의해 구성될 수 있다. 하드웨어 구성 요소는 또한 기계적으로, 전자적으로, 또는 이들의 임의의 적절한 조합으로 구현될 수 있다. 예를 들어, 하드웨어 구성 요소는 특정 동작들을 수행하도록 영구적으로 구성된 전용 회로 또는 로직을 포함할 수 있다. 하드웨어 구성 요소는 필드-프로그래밍 가능 게이트 어레이(FPGA: field-programmable gate array) 또는 주문형 집적 회로(ASIC)와 같은 특수 목적 프로세서일 수 있다. 하드웨어 구성 요소는 또한 특정 동작들을 수행하기 위해 소프트웨어에 의해 일시적으로 구성되는 프로그래밍 가능한 로직 또는 회로를 포함할 수 있다. 예를 들어, 하드웨어 구성 요소는 범용 프로세서 또는 다른 프로그래밍 가능 프로세서에 의해 실행되는 소프트웨어를 포함할 수 있다. 이러한 소프트웨어에 의해 구성되면, 하드웨어 구성 요소들은 구성된 기능들을 수행하도록 고유하게 맞춤화된 특정 기계들(또는 기계의 특정 구성 요소들)이 되며 더 이상 범용 프로세서들이 아니다. 하드웨어 구성 요소를 기계적으로, 전용 및 영구적으로 구성된 회로에서, 또는 일시적으로 구성된 회로(예를 들어, 소프트웨어에 의해 구성됨)에서 구현할지의 결정은 비용 및 시간 고려 사항들에 의해 도출될 수 있음을 이해할 것이다. 따라서 "하드웨어 구성 요소"(또는 "하드웨어-구현 구성 요소")라는 문구는 특정 방식으로 동작하거나 본원에 설명된 특정 동작들을 수행하기 위해 물리적으로 구성되거나, 영구적으로 구성되거나(예를 들어, 하드와이어링), 일시적으로 구성(예를 들어, 프로그래밍)되는 엔티티인 유형의 엔티티를 포함하는 것으로 이해되어야 한다. 하드웨어 구성 요소들이 일시적으로 구성(예를 들어, 프로그래밍)되는 예들을 고려하면, 하드웨어 구성 요소들의 각각은 임의의 하나의 시점에서 구성되거나 인스턴스화될 필요가 없다. 예를 들어, 하드웨어 구성 요소가 특수 목적 프로세서가 되도록 소프트웨어에 의해 구성된 범용 프로세서를 포함하는 경우, 범용 프로세서는 상이한 시간에 각각 상이한 특수 목적 프로세서들(예를 들어, 상이한 하드웨어 구성 요소들을 포함)로서 구성될 수 있다. 따라서 소프트웨어는 예를 들어, 하나의 시점에 특정 하드웨어 구성 요소를 구성하고 상이한 시점에 상이한 하드웨어 구성 요소를 구성하도록 특정 프로세서 또는 프로세서들을 구성한다. 하드웨어 구성 요소들은 다른 하드웨어 구성 요소들에 정보를 제공하고 이로부터 정보를 수신할 수 있다. 따라서, 설명된 하드웨어 구성 요소들은 통신 가능하게 커플링된 것으로 간주될 수 있다. 복수의 하드웨어 구성 요소들이 동시에 존재하는 경우, 2 개 이상의 하드웨어 구성 요소들 사이에서 (예를 들어, 적절한 회로들 및 버스들을 통해) 신호 전송을 통해 통신들이 달성될 수 있다. 복수의 하드웨어 구성 요소들이 상이한 시간에 구성되거나 인스턴스화되는 예들에서, 이러한 하드웨어 구성 요소들 사이의 통신들은 예를 들어, 복수의 하드웨어 구성 요소들이 액세스를 갖는 메모리 구조들에서의 정보의 저장 및 검색을 통해 달성될 수 있다. 예를 들어, 하나의 하드웨어 구성 요소는 동작을 수행하고 통신 가능하게 커플링되는 메모리 디바이스의 해당 동작의 출력을 저장할 수 있다. 그러면 추가 하드웨어 구성 요소가 나중에 메모리 디바이스에 액세스하여 저장된 출력을 검색하고 프로세싱할 수 있다. 하드웨어 구성 요소들은 또한 입력 또는 출력 디바이스들과의 통신들을 개시할 수도 있으며, 자원(예를 들어, 정보의 컬렉션) 상에서 작동할 수 있다. 본원에 설명된 예시적인 방법들의 다양한 동작들은 관련 동작들을 수행하도록 (예를 들어, 소프트웨어에 의해) 일시적으로 구성되거나 영구적으로 구성되는 하나 이상의 프로세서들에 의해 적어도 부분적으로 수행될 수 있다. 일시적으로 구성되든 영구적으로 구성되든, 이러한 프로세서들은 본원에 설명된 하나 이상의 동작들 또는 기능들을 수행하도록 동작하는 프로세서-구현된 구성 요소들을 구성할 수 있다. 본원에 사용된 바와 같이, "프로세서-구현 구성 요소"는 하나 이상의 프로세서들을 사용하여 구현된 하드웨어 구성 요소를 지칭한다. 마찬가지로, 본원에 설명된 방법들은 적어도 부분적으로 프로세서로 구현될 수 있으며, 특정 프로세서 또는 프로세서들은 하드웨어의 일 예이다. 예를 들어, 방법의 동작들 중 적어도 일부는 하나 이상의 프로세서들(1004) 또는 프로세서-구현 구성 요소들에 의해 수행될 수 있다. 또한, 하나 이상의 프로세서들은 또한 "클라우드 컴퓨팅" 환경에서 또는 "서비스로서의 소프트웨어"(SaaS: software as a service)로서 관련 동작들의 성능을 지원하도록 동작할 수도 있다. 예를 들어, 동작들 중 적어도 일부는 (프로세서들을 포함하는 기계들의 예들로서) 컴퓨터들의 그룹에 의해 수행될 수 있으며, 이러한 동작들은 네트워크(예를 들어, 인터넷) 및 하나 이상의 적절한 인터페이스들(예를 들어, API)을 통해 액세스될 수 있다. 특정 동작들의 성능은 단일 시스템 내에 상주할 뿐만 아니라 다수의 기계들에 걸쳐 배치된 프로세서들 중에 분산될 수 있다. 일부 예들에서, 프로세서들 또는 프로세서-구현 구성 요소들은 단일 지리적 위치(예를 들어, 가정 환경, 사무실 환경 또는 서버 팜(farm) 내)에 위치될 수 있다. 다른 예에서, 프로세서들 또는 프로세서-구현 구성 요소들은 다수의 지리적 위치들에 걸쳐 분산될 수 있다.
[0142] "컴퓨터-판독 가능 저장 매체"는 기계-저장 매체와 전송 매체를 모두 지칭한다. 따라서, 해당 용어들은 저장 디바이스/매체 및 반송파/변조된 데이터 신호들 모두를 포함한다. "기계-판독 가능 매체", "컴퓨터-판독 가능 매체" 및 "디바이스-판독 가능 매체"라는 용어들은 동일한 것을 의미하며 본 개시에서 상호 교환적으로 사용될 수 있다.
[0143] "임시 메시지"는 제한된 지속 시간 동안 액세스할 수 있는 메시지를 지칭한다. 임시 메시지는 텍스트, 이미지, 비디오 등이 될 수 있다. 임시 메시지에 대한 액세스 시간은 메시지 송신자에 의해 설정될 수 있다. 대안적으로, 액세스 시간은 디폴트 설정 또는 수신자에 의해 특정된 설정일 수 있다. 설정 기법에 관계없이, 메시지는 일시적이다.
[0144] "기계 저장 매체"는 실행 가능한 명령들, 루틴들 및 데이터를 저장하는 단일 또는 복수의 저장 디바이스들 및 매체(예를 들어 중앙 집중식 또는 분산 데이터베이스 및 관련 캐시들 및 서버들)를 지칭한다. 따라서, 해당 용어는 프로세서들의 내부 또는 외부의 메모리를 포함하여 솔리드-스테이트 메모리, 및 광학 및 자기 매체를 포함하되 이에 한정되지 않는 것으로 간주되어야 한다. 기계-저장 매체, 컴퓨터-저장 매체 및 디바이스-저장 매체의 특정 예들은 예시의 방식으로 반도체 메모리 디바이스들, 예를 들어, 소거 가능 프로그래밍 가능 판독-전용 메모리(EPROM: erasable programmable read-only memory), 전기적으로 소거 가능 프로그래밍 가능 판독-전용 메모리(EEPROM: electrically erasable programmable read-only memory), FPGA 및 플래시 메모리 디바이스들; 내부 하드 디스크들 및 이동식 디스크들과 같은 자기 디스크들; 자기-광학 디스크들; 및 CD-ROM 및 DVD-ROM 디스크들을 포함하는 비휘발성 메모리를 포함한다. "기계-저장 매체", "디바이스-저장 매체", "컴퓨터-저장 매체"라는 용어들은 동일한 것을 의미하며 본 개시에서 상호 교환적으로 사용될 수 있다. "기계-저장 매체", "컴퓨터-저장 매체" 및 "디바이스-저장 매체"라는 용어들은 구체적으로 반송파들, 변조된 데이터 신호들 및 이러한 다른 매체를 배제하며, 이들 중 적어도 일부는 "신호 매체"라는 용어에 포함된다.
[0145] "비일시적 컴퓨터-판독 가능 저장 매체"는 기계에 의한 실행을 위한 명령들을 저장, 인코딩 또는 운반할 수 있는 유형의 매체를 지칭한다.
[0146] "신호 매체"는 기계에 의한 실행을 위한 명령들을 저장, 인코딩 또는 운반할 수 있는 임의의 무형 매체를 지칭하며, 소프트웨어 또는 데이터의 통신을 용이하게 하기 위한 디지털 또는 아날로그 통신 신호들 또는 다른 무형의 매체를 포함한다. "신호 매체"라는 용어는 변조된 데이터 신호, 반송파 등의 임의의 형태를 포함하는 것으로 간주되어야 한다. "변조된 데이터 신호"라는 용어는 신호의 정보를 인코딩하는 것과 같은 문제에서 설정되거나 변경된 하나 이상의 특성을 갖는 신호를 의미한다. "전송 매체" 및 "신호 매체"라는 용어들은 동일한 것을 의미하며 본 개시에서 상호 교환적으로 사용될 수 있다.
Claims (20)
- 생성적 대립 네트워크(GAN: generative adversarial network)를 동작시키는 방법으로서,
학습된 파라미터들을 갖는 이미지를 수신하는 단계;
정규화 계층에서 스케일링(scaling) 및 시프팅(shifting) 파라미터들을 결정하기 위해 상기 이미지의 입력 클래스를 사용하는 단계; 및
시맨틱(semantic) 정보가 변하는 급변 경계들을 스무딩(smoothing)하기 위해 파라미터 계층들과 정규화 계층들 간의 평균 스무딩을 수행하여 상기 이미지를 압축하는 단계를 포함하는, 방법. - 제1 항에 있어서,
상기 학습된 파라미터들은 공간 의존성을 포함하는, 방법. - 제1 항에 있어서,
상기 평균 스무딩은 상기 스케일링 및 시프팅 파라미터들에 대한 복수의 값들을 생성하는, 방법. - 제1 항에 있어서,
커널(kernel)을 포함하는 인셉션(inception)-기반 잔여 블록을 사용하는 단계를 더 포함하는, 방법. - 제4 항에 있어서,
상기 커널은 상이한 커널 크기들부터 선택된 커널 크기를 갖는, 방법. - 제4 항에 있어서,
상기 인셉션-기반 잔여 블록은 깊이별 컨벌루셔널(convolutional) 계층들을 통합하는, 방법. - 제1 항에 있어서,
상기 GAN은 모바일 컴퓨팅 디바이스 상에 저장되는, 방법. - 제1 항에 있어서,
상기 GAN은 사전-훈련된 GAN인, 방법. - 시스템으로서,
프로세서; 및
컴퓨터 판독 가능 명령들을 저장한 메모리를 포함하고, 상기 컴퓨터 판독 가능 명령들은 상기 프로세서에 의해 실행될 때,
학습된 파라미터들을 갖는 이미지를 수신하는 동작;
정규화 계층에서 스케일링 및 시프팅 파라미터들을 결정하기 위해 상기 이미지의 입력 클래스를 사용하는 동작; 및
시맨틱 정보가 변하는 급변 경계들을 스무딩하기 위해 파라미터 계층들과 정규화 계층들 간의 평균 스무딩을 수행하여 상기 이미지를 압축하는 동작을 포함하는 동작들을 수행하도록 상기 시스템을 구성하는, 시스템. - 제9 항에 있어서,
상기 학습된 파라미터들은 공간 의존성을 포함하는, 시스템. - 제9 항에 있어서,
상기 평균 스무딩은 상기 스케일링 및 상기 시프팅 파라미터들에 대한 복수의 값들을 생성하는, 시스템. - 제9 항에 있어서,
커널을 포함하는 인셉션-기반 잔여 블록을 사용하는 동작을 더 포함하는, 시스템. - 제12 항에 있어서,
상기 커널은 상이한 커널 크기들부터 선택된 커널 크기를 갖는, 시스템. - 제12 항에 있어서,
상기 인셉션-기반 잔여 블록은 깊이별 컨벌루셔널 계층들을 통합하는, 시스템. - 제9 항에 있어서,
상기 시스템은 모바일 컴퓨팅 디바이스 상에 저장되는, 시스템. - 제9 항에 있어서,
상기 시스템은 사전-훈련된 생성적 대립 네트워크(GAN)인, 시스템. - 비일시적 컴퓨터-판독 가능 저장 매체로서,
상기 컴퓨터-판독 가능 저장 매체는 명령들을 포함하고, 상기 명령들은 컴퓨터에 의해 실행될 때 상기 컴퓨터로 하여금,
학습된 파라미터들을 갖는 이미지를 수신하는 동작;
정규화 계층에서 스케일링 및 시프팅 파라미터들을 결정하기 위해 상기 이미지의 입력 클래스를 사용하는 동작; 및
시맨틱 정보가 변하는 급변 경계들을 스무딩하기 위해 파라미터 계층들과 정규화 계층들 간의 평균 스무딩을 수행하여 상기 이미지를 압축하는 동작을 포함하는 동작들을 수행하게 하는, 컴퓨터-판독 가능 저장 매체. - 제17 항에 있어서,
상기 학습된 파라미터들은 공간 의존성을 포함하는, 컴퓨터-판독 가능 저장 매체. - 제17 항에 있어서,
상기 평균 스무딩은 상기 스케일링 및 시프팅 파라미터들에 대한 복수의 값들을 생성하는, 컴퓨터-판독 가능 저장 매체. - 제17 항에 있어서,
커널을 포함하는 인셉션-기반 잔여 블록을 사용하라는 명령들을 더 포함하는, 컴퓨터-판독 가능 저장 매체.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US17/191,970 | 2021-03-04 | ||
| US17/191,970 US11790565B2 (en) | 2021-03-04 | 2021-03-04 | Compressing image-to-image models with average smoothing |
| PCT/US2022/017865 WO2022187086A1 (en) | 2021-03-04 | 2022-02-25 | Compressing image-to-image models with average smoothing |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20230152723A true KR20230152723A (ko) | 2023-11-03 |
Family
ID=80787423
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020237033235A KR20230152723A (ko) | 2021-03-04 | 2022-02-25 | 평균 스무딩을 사용하여 이미지-대-이미지 모델들 압축 |
Country Status (5)
| Country | Link |
|---|---|
| US (2) | US11790565B2 (ko) |
| EP (1) | EP4302243A1 (ko) |
| KR (1) | KR20230152723A (ko) |
| CN (1) | CN116964590A (ko) |
| WO (1) | WO2022187086A1 (ko) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10963748B1 (en) * | 2018-08-31 | 2021-03-30 | Snap Inc. | Generative neural network distillation |
| CN112966954B (zh) * | 2021-03-15 | 2022-10-18 | 河海大学 | 一种基于时间卷积网络的防洪调度方案优选方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11809998B2 (en) * | 2020-05-20 | 2023-11-07 | Qualcomm Incorporated | Maintaining fixed sizes for target objects in frames |
| US20220019810A1 (en) * | 2020-07-14 | 2022-01-20 | The Chamberlain Group, Inc. | Object Monitoring System and Methods |
-
2021
- 2021-03-04 US US17/191,970 patent/US11790565B2/en active Active
-
2022
- 2022-02-25 CN CN202280018987.2A patent/CN116964590A/zh active Pending
- 2022-02-25 EP EP22711371.9A patent/EP4302243A1/en active Pending
- 2022-02-25 KR KR1020237033235A patent/KR20230152723A/ko unknown
- 2022-02-25 WO PCT/US2022/017865 patent/WO2022187086A1/en active Application Filing
-
2023
- 2023-08-28 US US18/238,979 patent/US20230410376A1/en active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| WO2022187086A1 (en) | 2022-09-09 |
| EP4302243A1 (en) | 2024-01-10 |
| US20220292724A1 (en) | 2022-09-15 |
| CN116964590A (zh) | 2023-10-27 |
| US20230410376A1 (en) | 2023-12-21 |
| US11790565B2 (en) | 2023-10-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102542427B1 (ko) | 미디어 콘텐츠 아이템들의 개인 컬렉션들에 대한 초대 미디어 오버레이들 | |
| KR20230079180A (ko) | 인간 캐릭터의 음악 반응 애니메이션 | |
| KR20230013097A (ko) | 특징있는 콘텐츠 컬렉션 인터페이스 | |
| US20220207355A1 (en) | Generative adversarial network manipulated image effects | |
| US20230410376A1 (en) | Compressing image-to-image models with average smoothing | |
| KR20230078756A (ko) | 이미지 애니메이션을 위한 방법, 시스템 및 컴퓨터 판독가능 저장 매체 | |
| KR20230044213A (ko) | 관절형 애니메이션을 위한 모션 표현들 | |
| KR20230022241A (ko) | 애플리케이션을 론칭하기 위한 시각적 검색 | |
| KR20230070505A (ko) | 메시징에서의 ar 기반 메이크업 제품 세트들 | |
| KR20240021247A (ko) | 제3자 리소스들로부터 메시징 애플리케이션에 의해 수신되는 콘텐츠를 제시함 | |
| KR20230022234A (ko) | 컨텍스트 액션 바 | |
| US20220207329A1 (en) | Compressing image-to-image models | |
| US20220103495A1 (en) | Generating media content items for sharing to external applications | |
| KR20230160930A (ko) | 사용자 존재 표시 데이터 관리 | |
| KR20230160926A (ko) | 사용자-정의 맥락 공간들 | |
| KR20230124083A (ko) | 햅틱 피드백 응답을 갖는 통신 인터페이스 | |
| KR20230124086A (ko) | 햅틱 피드백 응답을 갖는 전자 통신 인터페이스 | |
| KR20230128065A (ko) | 흐름-유도 모션 리타깃팅 | |
| KR20230075508A (ko) | 증강 현실 연속성을 위한 qr 생성 시스템 | |
| US20240160673A1 (en) | Searching augmented reality experiences using visual embeddings | |
| WO2022146727A1 (en) | Generative adversarial network manipulated image effects | |
| KR20240049575A (ko) | 조합된 판독 및 반응 메시지 | |
| KR20230128063A (ko) | 햅틱 피드백을 갖는 실시간 비디오 통신 인터페이스 | |
| KR20230160925A (ko) | 사용자 존재 표시 데이터 관리 | |
| KR20240047404A (ko) | 메시징 시스템 연락처 피드로부터 프로필의 디스플레이 |