KR20170008747A

KR20170008747A - 공통 피처들에 대한 분류자의 업데이트

Info

Publication number: KR20170008747A
Application number: KR1020167031949A
Authority: KR
Inventors: 카시미어 매튜 비어진스키; 데이비드 조나단 줄리안; 앤서니 사라
Original assignee: 퀄컴 인코포레이티드
Priority date: 2014-05-12
Filing date: 2015-04-20
Publication date: 2017-01-24
Also published as: EP3143560A1; CN106575377B; JP2017520824A; EP3143560C0; JP2017520825A; WO2015175156A1; US20150324689A1; KR20170008748A; EP3143561A1; EP3143560B1; US20150324688A1; CN106462797A; CN106575377A; WO2015175154A1

Abstract

분류자들의 세트를 업데이트하는 방법은 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하는 단계를 포함한다. 방법은 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정에 기초하여 분류 업데이트를 요청하는 단계를 더 포함한다.

Description

공통 피처들에 대한 분류자의 업데이트{UPDATE OF CLASSIFIER OVER COMMON FEATURES}

관련 출원에 대한 상호-참조

본 출원은 "CUSTOMIZED CLASSIFIER OVER COMMON FEATURES" 라는 명칭으로 2014년 5월 12일자로 출원된 미국 가특허출원 제61/992,168호의 이익을 주장하고, 그 개시는 전부가 본 명세서에 참조에 의해 분명히 통합된다.

분야

본 개시의 소정의 양태들은 일반적으로 뉴럴 시스템 엔지니어링에 관한 것으로, 특히, 공통 피처들의 세트에 대한 커스텀화된 분류자를 생성하기 위한 시스템들 및 방법들에 관한 것이다.

인공 뉴런들 (즉, 뉴런 모델들) 의 상호연결된 그룹을 포함할 수도 있는 인공 뉴럴 네트워크는 컴퓨테이션 디바이스이거나 또는 컴퓨테이션 디바이스에 의해 수행될 방법을 나타낸다. 인공 뉴럴 네트워크들은 생물학적 뉴럴 네트워크들에 있어서의 대응하는 구조 및/또는 기능을 가질 수도 있다. 그러나, 인공 뉴럴 네트워크들은 전통의 컴퓨테이션 기법들이 복잡하거나, 비현실적이거나, 또는 부적당한 소정의 애플리케이션들에 대해 혁신적이고 유용한 컴퓨테이션 기법들을 제공할 수도 있다. 인공 뉴럴 네트워크들은 관측 (observation) 들로부터 기능을 추론할 수 있기 때문에, 이러한 네트워크들은 태스크 또는 데이터의 복잡성이 종래의 기법들에 의한 기능의 설계를 힘들게 만드는 애플리케이션들에서 특히 유용하다.

본 개시의 하나의 양태에서, 분류자들의 세트를 업데이트하는 방법이 개시된다. 방법은 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하는 단계를 포함한다. 방법은 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정에 기초하여 분류자 업데이트를 요청하는 단계를 포함한다.

본 개시의 다른 양태에서, 분류자들의 세트를 업데이트하기 위한 장치가 개시된다. 장치는 메모리 및 그 메모리에 커플링된 하나 이상의 프로세서들을 포함한다. 프로세서(들)는 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하도록 구성된다. 프로세서(들)는 또한, 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정에 기초하여 분류자 업데이트를 요청하도록 구성된다.

본 개시의 다른 양태에서, 분류자들의 세트를 업데이트하기 위한 장치가 개시된다. 장치는 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하는 수단을 포함한다. 장치는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정에 기초하여 분류자 업데이트를 요청하는 수단을 더 포함한다.

본 개시의 다른 양태에서, 분류자들의 세트를 업데이트하기 위한 컴퓨터 프로그램 제품이 개시된다. 컴퓨터 프로그램 제품은 프로그램 코드를 인코딩한 비일시적 컴퓨터 판독가능 매체를 포함한다. 프로그램 코드는 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하기 위한 프로그램 코드를 포함한다. 프로그램 코드는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정에 기초하여 분류자 업데이트를 요청하기 위한 프로그램 코드를 더 포함한다.

이것은 다음에 오는 상세한 설명이 더 잘 이해될 수도 있도록 하기 위하여 본 개시의 피처들 및 기술적 이점들의 개요를 다소 폭넓게 서술하였다. 본 개시의 추가적인 피처들 및 이점들이 이하에 설명될 것이다. 본 개시가 본 개시의 동일한 목적들을 수행하기 위한 다른 구조들을 수정 또는 설계하기 위한 기초로서 쉽게 활용될 수도 있다는 것이 당업자들에 의해 인식되어야 한다. 이러한 등가의 구성들은 첨부된 청구항들에 기재된 바와 같은 본 개시의 교시들로부터 벗어나지 않는다는 것이 당업자들에 의해 또한 인지되어야 한다. 본 개시의 특성인 것으로 여겨지는 신규한 피처들은, 추가 목적들 및 이점들과 함께, 그것의 조직화 및 동작 방법 양자에 관해서는, 첨부한 도면들과 관련하여 고려될 때 다음의 설명으로부터 더 잘 이해될 것이다. 그러나, 도면들의 각각은 단지 예시 및 설명의 목적을 위해 제공되고 본 개시의 제한들의 정의로서 의도되지 않는다는 것이 분명히 이해될 것이다.

본 개시의 피처들, 본질, 및 이점들은 유사한 참조 부호들이 전반에 걸쳐 대응하여 식별하는 도면들과 함께 취해질 때 이하에 기재된 상세한 설명으로부터 보다 명백해질 것이다.
도 1 은 본 개시의 소정의 양태들에 따른 뉴런들의 일 예의 네트워크를 예시한다.
도 2 는 본 개시의 소정의 양태들에 따른 컴퓨테이션 네트워크 (뉴럴 시스템 또는 뉴럴 네트워크) 의 프로세싱 유닛 (뉴런) 의 일 예를 예시한다.
도 3 은 본 개시의 소정의 양태들에 따른 스파이크-타이밍 의존 가소성 (spike-timing dependent plasticity; STDP) 곡선의 일 예를 예시한다.
도 4 는 본 개시의 소정의 양태들에 따른 뉴런 모델의 거동을 정의하기 위한 포지티브 레짐 및 네거티브 레짐의 일 예를 예시한다.
도 5 는 본 개시의 소정의 양태들에 따른 범용 프로세서를 이용하여 뉴럴 네트워크를 설계하는 일 예의 구현을 예시한다.
도 6 은 본 개시의 소정의 양태들에 따른, 메모리가 개개의 분산된 프로세싱 유닛들과 인터페이스될 수도 있는 뉴럴 네트워크를 설계하는 일 예의 구현을 예시한다.
도 7 은 본 개시의 소정의 양태들에 따른 분산된 메모리들 및 분산된 프로세싱 유닛들에 기초하여 뉴럴 네트워크를 설계하는 일 예의 구현을 예시한다.
도 8 은 본 개시의 소정의 양태들에 따른 뉴럴 네트워크의 일 예의 구현을 예시한다.
도 9 는 본 개시의 양태들에 따른 모델을 학습하기 위한 일 예시적인 데이터 플로우를 예시하는 블록 다이어그램이다.
도 10 은 본 개시의 양태들에 따른 분류자에 대한 일 예시적인 아키텍처를 예시하는 블록 다이어그램이다.
도 11 은 본 개시의 양태들에 따른 모델을 학습하기 위한 일 예시적인 데이터 플로우를 예시하는 블록 다이어그램이다.
도 12 는 본 개시의 양태들에 따른 분류자를 생성하기 위한 일 예시적인 데이터 플로우를 예시하는 플로우차트이다.
도 13 은 본 개시의 양태들에 따른 모델을 학습하기 위한 방법을 예시한다.
도 14 는 본 개시의 양태들에 따른 모델을 학습하기 위한 방법을 예시한다.
도 15 는 본 개시의 양태들에 따른 분류자 모델을 생성하기 위한 방법을 예시한다.
도 16 은 본 개시의 양태들에 따른 분류자 모델을 생성하기 위한 방법을 예시한다.
도 17 은 본 개시의 양태들에 따른 분류자 모델을 생성하기 위한 방법을 예시한다.

첨부된 도면들과 관련하여, 이하에 기재된 상세한 설명은 다양한 구성들의 설명으로서 의도되고 본 명세서에서 설명된 개념들이 실시될 수도 있는 유일한 구성들을 나타내도록 의도되지 않는다. 상세한 설명은 다양한 개념들의 완전한 이해를 제공하는 목적을 위해 특정 상세들을 포함한다. 그러나, 이들 개념들은 이들 특정 상세들 없이도 실시될 수도 있다는 것이 당업자들에게 명백할 것이다. 일부 인스턴스들에서, 잘 알려진 구조들 및 컴포넌트들은 이러한 개념들을 모호하게 하는 것을 회피하기 위하여 블록 다이어그램 형태로 도시된다.

교시들에 기초하여, 당업자는 본 개시의 범위가 본 개시의 임의의 다른 양태에 독립적으로 구현되든 또는 이와 결합되든 간에, 본 개시의 임의의 양태를 커버하도록 의도된다는 것을 인식해야 한다. 예를 들어, 기재된 임의의 수의 양태들을 이용하여 장치가 구현될 수도 있거나 또는 방법이 실시될 수도 있다. 추가로, 본 개시의 범위는 기재된 본 개시의 다양한 양태들에 더하여 또는 이들 외에 다른 구조, 기능성, 또는 구조 및 기능성을 이용하여 실시되는 그러한 장치 또는 방법을 커버하도록 의도된다. 개시된 본 개시의 임의의 양태는 청구항의 하나 이상의 엘리먼트들에 의해 구체화될 수도 있다는 것이 이해되어야 한다.

단어 "예시적인" 은 본 명세서에서 "일 예, 인스턴스, 또는 예시로서 기능하는 것" 을 의미하는데 사용된다. 본 명세서에서 "예시적인" 으로서 설명된 임의의 양태는 선호되거나 또는 다른 양태들에 비해 이로운 것으로서 반드시 해석되는 것은 아니다.

특정한 양태들이 본 명세서에서 설명되지만, 이들 양태들의 많은 변형들 및 치환들이 본 개시의 범위에 포함된다. 선호된 양태들의 일부 이익들 및 이점들이 언급되지만, 본 개시의 범위는 특정한 이익들, 사용들 및 목적들에 제한되도록 의도되지 않는다. 오히려, 본 개시의 양태들은 일부가 선호된 양태들의 다음의 설명에서 및 도면들에서 일 예에 의해 예시되는, 상이한 기술들, 시스템 구성들, 네트워크들, 및 프로토콜들에 폭넓게 적용가능한 것으로 의도된다. 상세한 설명 및 도면들은 제한보다는 본 개시의 단지 예시일 뿐이고, 본 개시의 범위는 첨부된 청구항들 및 그 등가물들에 의해 정의된다.

일 예의 뉴럴 시스템, 트레이닝 및 동작

도 1 은 본 개시의 소정의 양태들에 따른 뉴런들의 다수의 레벨들을 가진 일 예의 인공 뉴럴 시스템 (100) 을 예시한다. 뉴럴 시스템 (100) 은 뉴런들의 레벨 (102) 을 가질 수도 있고 그 뉴런들의 레벨 (102) 은 시냅스 연결들 (즉, 피드-포워드 연결들) 의 네트워크 (104) 를 통하여 뉴런들의 다른 레벨 (106) 에 연결된다. 간략화를 위해, 도 1 에는 단 2 개의 뉴런들의 레벨들만이 예시되지만, 더 적거나 또는 더 많은 뉴런들의 레벨들이 뉴럴 시스템에 존재할 수도 있다. 뉴런들 중 일부는 측면 연결들을 통하여 동일한 층 (layer) 의 다른 뉴런들에 연결할 수도 있다는 것에 주목해야 한다. 더욱이, 뉴런들 중 일부는 피드백 연결들을 통하여 이전 층의 뉴런에 다시 연결할 수도 있다.

도 1 에 예시한 바와 같이, 레벨 (102) 에서의 각각의 뉴런은 (도 1 에는 도시되지 않은) 이전 레벨의 뉴런들에 의해 생성될 수도 있는 입력 신호 (108) 를 수신할 수도 있다. 신호 (108) 는 레벨 (102) 뉴런의 입력 전류를 나타낼 수도 있다. 이 전류는 멤브레인 전위를 충전하기 위해 뉴런 멤브레인 상에 누적될 수도 있다. 멤브레인 전위가 그 임계 값에 도달할 때, 뉴런은 발화하고 뉴런들의 다음 레벨 (예를 들어, 레벨 (106)) 로 전송 (transfer) 될 출력 스파이크를 생성할 수도 있다. 일부 모델링 접근법들에서, 뉴런은 뉴런들의 다음 레벨로 신호를 계속적으로 전송할 수도 있다. 이 신호는 통상적으로 멤브레인 전위의 함수이다. 이러한 거동은 이하에 설명된 것들과 같은 아날로그 및 디지털 구현들을 포함하는, 하드웨어 및/또는 소프트웨어에서 에뮬레이션 또는 시뮬레이션될 수 있다.

생물학적 뉴런들에서, 뉴런이 발화할 때 생성된 출력 스파이크는 활동 전위 (action potential) 로 지칭된다. 이 전기 신호는 대략 100 mV 의 진폭 및 약 1 ms 의 지속기간을 갖는, 상대적으로 빠른, 일시적인, 신경 임펄스이다. 일련의 연결된 뉴런들을 갖는 뉴럴 시스템의 특정한 실시형태 (예를 들어, 도 1 에서의 뉴런들의 하나의 레벨로부터 다른 레벨로의 스파이크들의 전송) 에서, 모든 활동 전위는 기본적으로 동일한 진폭 및 지속기간을 갖고, 따라서, 신호에서의 정보는 진폭보다는, 단지 스파이크들의 주파수 (frequency) 및 개수, 또는 스파이크들의 시간에 의해 나타내질 수도 있다. 활동 전위에 의해 운반된 정보는 스파이크, 스파이킹한 뉴런, 및 스파이크의 다른 스파이크 또는 스파이크들에 대한 시간에 의해 결정될 수도 있다. 스파이크의 중요도는 이하에 설명한 바와 같이, 뉴런들 사이의 연결에 적용된 가중치에 의해 결정될 수도 있다.

뉴런들의 하나의 레벨로부터 다른 레벨로의 스파이크들의 전송은 도 1 에 예시한 바와 같이, 시냅스 연결들의 네트워크 (또는 단순히 "시냅스들") (104) 를 통하여 달성될 수도 있다. 시냅스들 (104) 에 대해, 레벨 (102) 의 뉴런들은 시냅스전 (presynaptic) 뉴런들인 것으로 간주될 수도 있고 레벨 (106) 의 뉴런들은 시냅스후 (postsynaptic) 뉴런들인 것으로 간주될 수도 있다. 시냅스들 (104) 은 레벨 (102) 뉴런들로부터 출력 신호들 (즉, 스파이크들) 을 수신하고 그 신호들을 조정가능한 시냅스 가중치 (synaptic weight) 들 (

) 에 따라 스케일링할 수도 있고, 여기서 P 는 레벨들 (102 및 106) 의 뉴런들 사이의 시냅스 연결들의 총 개수이고 i 는 뉴런 레벨의 표시자이다. 도 1 의 예에서, i 는 뉴런 레벨 (102) 을 나타내고 i+1 은 뉴런 레벨 (106) 을 나타낸다. 게다가, 스케일링된 신호들은 레벨 (106) 에서의 각각의 뉴런의 입력 신호로서 결합될 수도 있다. 레벨 (106) 에서의 모든 뉴런은 대응하는 결합된 입력 신호에 기초하여 출력 스파이크들 (110) 을 생성할 수도 있다. 출력 스파이크들 (110) 은 (도 1 에는 도시되지 않은) 시냅스 연결들의 다른 네트워크를 이용하여 뉴런들의 다른 레벨로 전송될 수도 있다.

생물학적 시냅스들은 시냅스후 뉴런들에서 흥분성 (excitatory) 활동 또는 억제성 (inhibitory) (과분극 (hyperpolarizing)) 활동 중 어느 하나의 활동을 중재할 수 있고 뉴런 신호들을 증폭시키도록 또한 기능할 수 있다. 흥분성 신호들은 멤브레인 전위를 탈분극한다 (즉, 멤브레인 전위를 휴지 전위에 대하여 증가시킨다). 멤브레인 전위를 임계치보다 높게 탈분극하기 위해 충분한 흥분성 신호들이 소정 시간 주기 이내에 수신되면, 활동 전위가 시냅스후 뉴런에서 발생한다. 그에 반해서, 억제성 신호들은 일반적으로 멤브레인 전위를 과분극한다 (즉, 낮춘다). 억제성 신호들은, 충분히 강하면, 흥분성 신호들의 합을 상쇄시키고 멤브레인 전위가 임계치에 도달하는 것을 막을 수 있다. 시냅스 흥분을 상쇄시키는 것에 더하여, 시냅스 억제는 자발적 활성 뉴런들에 강력한 제어를 행사할 수 있다. 자발적 활성 뉴런은 예를 들어, 그 역학 또는 피드백으로 인해, 추가 입력 없이도 스파이킹하는 뉴런을 지칭한다. 이들 뉴런들에서의 활동 전위들의 자발적 생성을 억압하는 것에 의해, 시냅스 억제는 일반적으로 스컬프처링 (sculpturing) 으로 지칭되는, 뉴런에서의 발화의 패턴을 형상화할 수 있다. 다양한 시냅스들 (104) 은 원하는 거동에 의존하여, 흥분성 또는 억제성 시냅스들의 임의의 조합으로서의 역할을 할 수도 있다.

뉴럴 시스템 (100) 은 범용 프로세서, 디지털 신호 프로세서 (DSP), 주문형 집적 회로 (ASIC), 필드 프로그래밍가능 게이트 어레이 (FPGA) 또는 다른 프로그래밍가능 로직 디바이스 (PLD), 이산 게이트 또는 트랜지스터 로직, 이산 하드웨어 컴포넌트들, 프로세서에 의해 실행된 소프트웨어 모듈, 또는 그 임의의 조합에 의해 에뮬레이션될 수도 있다. 뉴럴 시스템 (100) 은 이미지 및 패턴 인식, 머신 학습, 모터 제어 등과 같은 큰 범위의 애플리케이션들에서 활용될 수도 있다. 뉴럴 시스템 (100) 에서의 각각의 뉴런은 뉴런 회로로서 구현될 수도 있다. 출력 스파이크를 개시하는 임계 값까지 충전된 뉴런 멤브레인은 예를 들어, 그 뉴런 멤브레인을 통하여 흐르는 전류를 적산하는 커패시터로서 구현될 수도 있다.

일 양태에서는, 커패시터가 뉴런 회로의 전류 적산 디바이스로서 제거될 수도 있고, 보다 작은 멤리스터 엘리먼트가 그 대신에 사용될 수도 있다. 이 접근법은 뉴런 회로들에서 뿐만 아니라 부피가 큰 커패시터들이 전류 적산기들로서 활용되는 다양한 다른 애플리케이션들에서 적용될 수도 있다. 추가로, 시냅스들 (104) 의 각각은 멤리스터 엘리먼트에 기초하여 구현될 수도 있고, 여기서 시냅스 가중치 변화들은 멤리스터 저항의 변화들과 관련될 수도 있다. 나노미터 피처-사이즈의 멤리스터들의 경우, 뉴런 회로 및 시냅스들의 면적은 상당히 감소될 수도 있으며, 이는 대형-스케일의 뉴럴 시스템 하드웨어 구현예의 구현을 보다 실현가능하게 만들 수도 있다.

뉴럴 시스템 (100) 을 에뮬레이션하는 뉴럴 프로세서의 기능성은 뉴런들 사이의 연결들의 강도들을 제어할 수도 있는, 시냅스 연결들의 가중치들에 의존할 수도 있다. 시냅스 가중치들은 전력 다운된 후의 프로세서의 기능성을 보존하기 위하여 비휘발성 메모리에 저장될 수도 있다. 일 양태에서, 시냅스 가중치 메모리는 메인 뉴럴 프로세서 칩과는 별개의 외부 칩 상에 구현될 수도 있다. 시냅스 가중치 메모리는 교체가능한 메모리 카드로서 뉴럴 프로세서 칩과는 별개로 패키징될 수도 있다. 이것은 뉴럴 프로세서에 다양한 기능성들을 제공할 수도 있으며, 여기서 특정한 기능성은 뉴럴 프로세서에 현재 부착된 메모리 카드에 저장된 시냅스 가중치들에 기초할 수도 있다.

도 2 는 본 개시의 소정의 양태들에 따른 컴퓨테이션 네트워크 (예를 들어, 뉴럴 시스템 또는 뉴럴 네트워크) 의 프로세싱 유닛 (예를 들어, 뉴런 또는 뉴런 회로) (202) 의 일 예시적인 다이어그램 (200) 을 예시한다. 예를 들어, 뉴런 (202) 은 도 1 로부터의 레벨들 (102 및 106) 의 뉴런들 중 임의의 뉴런에 대응할 수도 있다. 뉴런 (202) 은 뉴럴 시스템의 외부의 신호들, 또는 동일한 뉴럴 시스템의 다른 뉴런들에 의해 생성된 신호들, 또는 양자일 수도 있는 다수의 입력 신호들 (204₁ 내지 204_N) 을 수신할 수도 있다. 입력 신호는 전류, 컨덕턴스, 전압, 실수값, 및/또는 복소값일 수도 있다. 입력 신호는 고정-소수점 (fixed-point) 또는 부동-소수점 (floating-point) 표현을 가진 수치 값을 포함할 수도 있다. 이들 입력 신호들은 조정가능한 시냅스 가중치들 (206₁ 내지 206_N) (W₁ 내지 W_N) 에 따라 신호들을 스케일링하는 시냅스 연결들을 통하여 뉴런 (202) 에 전달될 수도 있고, 여기서 N 은 뉴런 (202) 의 입력 연결들의 총 개수일 수도 있다.

뉴런 (202) 은 스케일링된 입력 신호들을 결합하고 결합된 스케일링된 입력들을 이용하여 출력 신호 (208) (즉, 신호 (Y)) 를 생성할 수도 있다. 출력 신호 (208) 는 전류, 컨덕턴스, 전압, 실수값 및/또는 복소값일 수도 있다. 출력 신호는 고정-소수점 또는 부동-소수점 표현을 가진 수치 값일 수도 있다. 출력 신호 (208) 는 그 후 동일한 뉴럴 시스템의 다른 뉴런들로의 입력 신호로서, 동일한 뉴런 (202) 으로의 입력 신호로서, 또는 뉴럴 시스템의 출력으로서 전송될 수도 있다.

프로세싱 유닛 (뉴런) (202) 은 전기 회로에 의해 에뮬레이션될 수도 있고 그 입력 및 출력 연결들은 시냅스 회로들을 가진 전기적 연결들에 의해 에뮬레이션될 수도 있다. 프로세싱 유닛 (202) 및 그 입력 및 출력 연결들은 소프트웨어 코드에 의해 또한 에뮬레이션될 수도 있다. 프로세싱 유닛 (202) 은 또한, 전기 회로에 의해 에뮬레이션될 수도 있는 반면, 그 입력 및 출력 연결들은 소프트웨어 코드에 의해 에뮬레이션될 수도 있다. 일 양태에서, 컴퓨테이션 네트워크에서의 프로세싱 유닛 (202) 은 아날로그 전기 회로일 수도 있다. 다른 양태에서, 프로세싱 유닛 (202) 은 디지털 전기 회로일 수도 있다. 또 다른 양태에서, 프로세싱 유닛 (202) 은 아날로그 컴포넌트와 디지털 컴포넌트 양자를 가진 혼합-신호 전기 회로일 수도 있다. 컴퓨테이션 네트워크는 전술한 형태들 중 임의의 형태로 프로세싱 유닛들을 포함할 수도 있다. 이러한 프로세싱 유닛들을 이용한 컴퓨테이션 네트워크 (뉴럴 시스템 또는 뉴럴 네트워크) 는 이미지 및 패턴 인식, 머신 학습, 모터 제어 등과 같은 큰 범위의 애플리케이션들에서 활용될 수도 있다.

뉴럴 네트워크를 트레이닝하는 과정 동안, 시냅스 가중치들 (예를 들어, 도 1 로부터의 가중치들 (

) 및/또는 도 2 로부터의 가중치들 (206₁ 내지 206_N)) 은 랜덤 값들로 초기화되고 학습 규칙에 따라 증가 또는 감소될 수도 있다. 당업자들은 학습 규칙의 예들이 스파이크-타이밍-의존 가소성 (spike-timing-dependent plasticity; STDP) 학습 규칙, Hebb 규칙, Oja 규칙, BCM (Bienenstock-Copper-Munro) 규칙 등을 포함하지만 이들에 제한되지는 않는다는 것을 인식할 것이다. 소정의 양태들에서, 가중치들은 2 개의 값들 (즉, 가중치들의 이봉 (bimodal) 분포) 중 하나로 정하거나 또는 수렴할 수도 있다. 이 효과는 각각의 시냅스 가중치에 대한 비트들의 수를 감소시키고, 시냅스 가중치들을 저장하는 메모리로부터의/로의 판독 및 기록의 속도를 증가시키고, 그리고 시냅스 메모리의 전력 및/또는 프로세서 소비를 감소시키는데 활용될 수 있다.

시냅스 타입

뉴럴 네트워크들의 하드웨어 및 소프트웨어 모델들에서, 시냅스 관련 기능들의 프로세싱은 시냅스 타입에 기초할 수 있다. 시냅스 타입들은 비-소성 (non-plastic) 시냅스들 (가중치 및 지연의 변화들 없음), 가소성 (plastic) 시냅스들 (가중치가 변화할 수도 있다), 구조적 지연 가소성 시냅스들 (가중치 및 지연이 변화할 수도 있다), 완전 가소성 시냅스들 (가중치, 지연 및 연결성이 변화할 수도 있다), 및 그에 대한 변형들 (예를 들어, 지연은 변화할 수도 있지만, 가중치 또는 연결성에는 어떤 변화도 없음) 일 수도 있다. 다수의 타입들의 이점은 프로세싱이 서브분할될 수 있다는 것이다. 예를 들어, 비-소성 시냅스들은 가소성 기능들이 실행되는 것 (또는 이러한 기능들이 완료하기를 대기하는 것) 을 이용하지 않을 수도 있다. 유사하게, 지연 및 가중치 가소성은 시퀀스로 또는 병렬로, 함께 또는 별개로 동작할 수도 있는 동작들로 서브분할될 수도 있다. 시냅스들의 상이한 타입들은 적용되는 상이한 가소성 타입들의 각각에 대해 상이한 룩업 테이블들 또는 공식들 및 파라미터들을 가질 수도 있다. 따라서, 방법들은 시냅스의 타입에 대한 관련 테이블들, 공식들, 또는 파라미터들에 액세스할 것이다.

스파이크-타이밍 의존 구조적 가소성이 시냅스 가소성에 독립적으로 실행될 수도 있다는 사실의 추가 암시들이 존재한다. 구조적 가소성 (즉, 지연 변화의 양) 이 사전-사후 스파이크 시간 차이의 직접 함수 (direct function) 일 수도 있기 때문에 가중치 크기에 어떤 변화도 없는 경우라도 (예를 들어, 가중치가 최소 또는 최대 값에 도달하거나, 또는 일부 다른 이유로 인해 변화되지 않는다면) 구조적 가소성은 실행될 수도 있다. 대안적으로, 구조적 가소성은 가중치 변화량의 함수로서 또는 가중치들 또는 가중치 변화들의 한계들에 관한 조건들에 기초하여 설정될 수도 있다. 예를 들어, 시냅스 지연은 가중치 변화가 발생할 때 또는 가중치들이 0 에 도달하는 경우에만 변화할 수도 있고 그 가중치들이 최대 값에 있는 경우에는 변화하지 않을 수도 있다. 그러나, 이들 프로세스들은 병렬화되어 메모리 액세스들의 수 및 오버랩을 감소시킬 수 있도록 독립적인 기능들을 갖는 것이 바람직할 수도 있다.

시냅스 가소성의 결정

신경가소성 (또는 단순히 "가소성") 은 뇌에서의 뉴런들 및 뉴럴 네트워크들이 그들의 시냅스 연결들 및 거동을 새로운 정보, 감각 자극, 발달, 손상, 또는 기능장애에 응답하여 변화시키는 능력이다. 가소성은 생물학에서의 학습 및 메모리 뿐만 아니라 컴퓨테이션 신경과학 및 뉴럴 네트워크들에 대해 중요하다. 가소성의 다양한 형태들, 이를 테면 시냅스 가소성 (예를 들어, Hebbian 이론에 따름), 스파이크-타이밍-의존 가소성 (STDP), 비-시냅스 가소성, 활동도-의존 가소성, 구조적 가소성 및 향상적 가소성이 연구되어 왔다.

STDP 는 뉴런들 사이의 시냅스 연결들의 강도를 조정하는 학습 프로세스이다. 연결 강도들은 특정한 뉴런의 출력 및 수신된 입력 스파이크들 (즉, 활동 전위들) 의 상대적 타이밍에 기초하여 조정된다. STDP 프로세스 하에서, 장기 증강 (long-term potentiation; LTP) 은 소정의 뉴런에 대한 입력 스파이크가 평균적으로, 그 뉴런의 출력 스파이크 직전에 발생하는 경향이 있다면 발생할 수도 있다. 그 후, 그 특정한 입력은 다소 더 강해진다. 한편, 장기 억압 (long-term depression; LTD) 은 입력 스파이크가 평균적으로, 출력 스파이크 직후에 발생하는 경향이 있다면 발생할 수도 있다. 그 후, 그 특정한 입력은 다소 더 약해지고, 그에 따라 명칭이 "스파이크-타이밍-의존 가소성" 이다. 결과적으로, 시냅스후 뉴런의 흥분의 원인일 수도 있는 입력들은 장래에 기여할 가능성이 훨씬 더 많게 되는 반면, 시냅스후 스파이크의 원인이 아닌 입력들은 장래에 기여할 가능성이 더 적게 된다. 프로세스는 연결들의 초기 세트의 서브세트가 남아있을 때까지 계속되고, 한편 모든 다른 것들의 영향은 중요하지 않은 레벨로 감소된다.

뉴런은 그 입력들 대부분이 짧은 주기 이내에 발생할 때 출력 스파이크를 생성할 수도 있기 때문에 (즉, 출력을 야기하기에 충분히 누적적이다), 통상적으로 남아있는 입력들의 서브세트는 시간에 있어서 상관되려는 경향이 있었던 것들을 포함한다. 추가로, 출력 스파이크 전에 발생하는 입력들은 강화되기 때문에, 상관의 가장 이른 충분히 누적적인 표시를 제공하는 입력들은 결국 뉴런에 대한 최종 입력이 될 것이다.

STDP 학습 규칙은 시냅스전 뉴런의 스파이크 시간 (

) 과 시냅스후 뉴런의 스파이크 시간 (

) 사이의 시간 차이 (즉,

) 의 함수로서 시냅스전 뉴런을 시냅스후 뉴런에 연결하는 시냅스의 시냅스 가중치를 효과적으로 적응시킬 수도 있다. STDP 의 통상의 공식화 (formulation) 는 시간 차이가 포지티브이면 (시냅스전 뉴런은 시냅스후 뉴런 전에 발화한다) 시냅스 가중치를 증가시키고 (즉, 시냅스를 증강하고) 시간 차이가 네거티브이면 (시냅스후 뉴런은 시냅스전 뉴런 전에 발화한다) 시냅스 가중치를 감소시키다 (즉, 시냅스를 억압한다).

STDP 프로세스에서, 시간의 경과에 따른 시냅스 가중치의 변화는 다음에 의해 주어진 바와 같이, 지수적 감쇠를 이용하여 통상 달성될 수도 있고:

여기서,

및

는 각각 포지티브 및 네거티브 시간 차이에 대한 시상수들이고,

및

는 대응하는 스케일링 크기들이고, μ 는 포지티브 시간 차이 및/또는 네거티브 시간 차이에 적용될 수도 있는 오프셋이다.

도 3 은 STDP 에 따라 시냅스전 및 시냅스후 스파이크들의 상대적 타이밍의 함수로서의 시냅스 가중치 변화의 일 예시적인 다이어그램 (300) 을 예시한다. 시냅스전 뉴런이 시냅스후 뉴런 전에 발화하면, 대응하는 시냅스 가중치는 그래프 (300) 의 부분 (302) 에 예시한 바와 같이, 증가될 수도 있다. 이 가중치는 시냅스의 LTP 로 지칭될 수 있다. LTP 의 양은 시냅스전과 시냅스후 스파이크 시간들 사이의 차이의 함수로서 대략 지수적으로 감소할 수도 있다는 것이 그래프 부분 (302) 으로부터 관측될 수 있다. 발화의 리버스 순서는 그래프 (300) 의 부분 (304) 에 예시한 바와 같이, 시냅스 가중치를 감소시켜, 시냅스의 LTD 를 야기할 수도 있다.

도 3 의 그래프 (300) 에 예시한 바와 같이, 네거티브 오프셋 (μ) 은 STDP 그래프의 LTP (인과적) 부분 (302) 에 적용될 수도 있다. x-축의 교차 포인트 (306) (y=0) 는 층 i-1 로부터의 인과적 입력들에 대한 상관을 고려하기 위해 최대 시간 래그와 일치하도록 구성될 수도 있다. 프레임-기반 입력 (즉, 스파이크들 또는 펄스들을 포함하는 특정한 지속기간의 프레임의 형태로 있는 입력) 의 경우에, 오프셋 값 (μ) 은 프레임 경계를 반영하도록 컴퓨팅될 수 있다. 프레임에서의 제 1 입력 스파이크 (펄스) 는 뉴럴 상태에 대한 영향의 관점에서 또는 직접적으로 시냅스후 전위에 의해 모델링되는 바와 같이 시간의 경과에 따라 감쇠하는 것으로 간주될 수도 있다. 프레임에서의 제 2 입력 스파이크 (펄스) 가 특정한 시간 프레임에 상관되거나 또는 관련되는 것으로 간주되면, 프레임 전과 후의 관련 시간들은 그 시간 프레임 경계에서 분리되고 관련 시간들의 값이 상이 (예를 들어, 하나의 프레임보다 더 큰 경우에 네거티브 및 하나의 프레임보다 더 작은 경우에 포지티브) 할 수도 있도록 STDP 곡선의 하나 이상의 부분들을 오프셋하는 것에 의해 가소성 관점에서 상이하게 취급될 수도 있다. 예를 들어, 네거티브 오프셋 (μ) 은 곡선이 프레임 시간보다 더 큰 사전-사후 시간에서 실제로 0 보다 아래로 가고 따라서 LTP 대신에 LTD 의 부분이 되도록 LTP 를 오프셋하도록 설정될 수도 있다.

뉴런 모델들 및 동작

유용한 스파이킹 뉴런 모델을 설계하기 위한 일부 일반적인 원리들이 존재한다. 훌륭한 뉴런 모델은 2 개의 컴퓨테이션 레짐들: 일치 검출 및 함수적 컴퓨테이션의 관점에서 풍부한 전위 거동을 가질 수도 있다. 더욱이, 훌륭한 뉴런 모델은 시간 코딩을 허용하기 위해 2 개의 엘리먼트들을 가져야 한다: 입력들의 도달 시간은 출력 시간에 영향을 주고 일치 검출은 좁은 시간 윈도우를 가질 수 있다. 마지막으로, 컴퓨테이션적으로 흥미를 끌기 위해서, 훌륭한 뉴런 모델은 연속적인 시간에서의 닫힌-형태의 해, 그리고 근처의 어트랙터들 및 새들 (saddle) 포인트들을 포함하는 안정된 거동을 가질 수도 있다. 다시 말해서, 유용한 뉴런 모델은 풍부하고, 현실적이고 생물학적으로-일관된 거동들을 모델링하는데 이용될 수 있을 뿐만 아니라, 뉴럴 회로들을 엔지니어링하고 리버스 엔지니어링하는 모두를 행하는데 이용될 수 있고 실현가능한 뉴런 모델이다.

뉴런 모델은 입력 도달, 출력 스파이크 또는 내부적이든 또는 외부적이든 간에 다른 이벤트와 같은 이벤트들에 의존할 수도 있다. 풍부한 거동 레파토리를 달성하기 위해, 복잡한 거동들을 보일 수 있는 상태 머신이 요망될 수도 있다. 입력 기여 (만약 있다면) 와는 별개인, 이벤트 자체의 발생이 상태 머신에 영향을 주고 이벤트에 후속하는 역학을 제약할 수 있으면, 시스템의 장래 상태는 상태 및 입력의 함수일 뿐만 아니라, 상태, 이벤트, 및 입력의 함수이다.

일 양태에서, 뉴런 (n) 은 다음의 역학에 의해 좌우되는 멤브레인 전압 (

) 을 가진 스파이킹 누설-적산-및-발화 뉴런 (spiking leaky-integrate-and-fire neuron) 으로서 모델링될 수도 있고:

여기서 α 및 β 는 파라미터들이고,

은 시냅스전 뉴런 (m) 을 시냅스후 뉴런 (n) 에 연결하는 시냅스에 대한 시냅스 가중치이고,

는 뉴런 (n) 의 세포체 (soma) 에서의 도달까지

에 따라 수지상 (dendritic) 또는 축삭 (axonal) 지연에 의해 지연될 수도 뉴런 (m) 의 스파이킹 출력이다.

시냅스후 뉴런으로의 충분한 입력이 확립되는 시간으로부터 시냅스후 뉴런이 실제로 발화하는 시간까지 지연이 존재한다는 것에 주목해야 한다. Izhikevich 의 단순 모델과 같은 동적 스파이킹 뉴런 모델에서, 시간 지연은 탈분극 임계치 (

) 및 피크 스파이크 전압 (

) 사이에 차이가 존재하면 초래될 수도 있다. 예를 들어, 단순 모델에서, 뉴런 세포체 역학은 전압 및 복구에 대한 미분 방정식들의 쌍, 즉:

에 의해 좌우될 수 있고, 여기서 v 는 멤브레인 전위이고, u 는 멤브레인 복구 변수이고, k 는 멤브레인 전위 (v) 의 시간 스케일을 기술하는 파라미터이고, a 는 복구 변수 (u) 의 시간 스케일을 기술하는 파라미터이고, b 는 멤브레인 전위 (v) 의 하위-임계 변동들에 대한 복구 변수 (u) 의 민감도를 기술하는 파라미터이고, v _r 은 멤브레인 휴지 전위이고, I 는 시냅스 전류이고, C 는 멤브레인의 커패시턴스이다. 이 모델에 따르면, 뉴런은 v > v _peak 일 때 스파이킹하도록 정의된다.

Hunzinger Cold 모델

Hunzinger Cold 뉴런 모델은 풍부한 다양한 뉴럴 거동들을 재현할 수 있는 최소 듀얼-레짐 스파이킹 선형 동적 모델이다. 모델의 1- 또는 2-차원 선형 역학은 2 개의 레짐들을 가질 수 있고, 여기서 시상수 (및 커플링) 는 그 레짐에 의존할 수 있다. 하위-임계 레짐에서, 관례상 네거티브인, 시상수는 생물학적으로-일관된 선형 방식으로 셀을 휴지로 리턴하도록 일반적으로 작용하는 누설 채널 역학을 나타낸다. 관례상 포지티브인, 상위-임계 레짐에서의 시상수는 스파이크-생성에 있어서 레이턴시를 초래하면서 스파이킹하기 위해 셀을 일반적으로 구동하는 누설-방지 채널 역학을 반영한다.

도 4 에 예시한 바와 같이, 모델 (400) 의 역학은 2 개의 (또는 그보다 많은) 레짐들로 분할될 수도 있다. 이들 레짐들은 네거티브 레짐 (402) (누설-적산-및-발화 (LIF) 뉴런 모델과 혼동되지 않도록, LIF 레짐으로 또한 상호교환가능하게 지칭됨) 및 포지티브 레짐 (404) (누설-방지-적산-및-발화 (ALIF) 뉴런 모델과 혼동되지 않도록, ALIF 레짐으로 또한 상호교환가능하게 지칭됨) 이라 불릴 수도 있다. 네거티브 레짐 (402) 에서, 상태는 장래 이벤트의 시간에서 휴지 (v _-) 를 향하는 경향이 있다. 이 네거티브 레짐에서, 모델은 시간 입력 검출 속성들 및 다른 하위-임계 거동을 일반적으로 보인다. 포지티브 레짐 (404) 에서, 상태는 스파이킹 이벤트 (v _s ) 를 향하는 경향이 있다. 이 포지티브 레짐에서, 모델은 후속 입력 이벤트들에 의존하여 스파이킹하기 위해 레이턴시를 초래하는 것과 같은 컴퓨테이션 속성들을 보인다. 이들 2 개의 레짐들로의 역학의 분리 및 이벤트들의 관점에서의 역학의 공식화는 모델의 기본적인 특성들이다.

(상태들 (v 및 u) 에 대한) 선형 듀얼-레짐 이차원 역학은 관례상 다음으로서 정의될 수도 있고:

및 r 은 커플링에 대한 선형 변환 변수들이다.

심볼 (ρ) 은 특정 레짐에 대한 관계를 논의 또는 표현할 때, 심볼 (ρ) 을 네거티브 레짐과 포지티브 레짐 각각에 대해 부호 "-" 또는 "+" 로 대체하는 관례를 갖는 역학 레짐을 표시하기 위해 본 명세서에서 사용된다.

모델 상태는 멤브레인 전위 (전압) (v) 및 복구 전류 (u) 에 의해 정의된다. 기본 형태에서, 레짐은 모델 상태에 의해 본질적으로 결정된다. 정확하고 일반적인 정의의 미묘하지만 중요한 양태들이 존재하지만, 지금은, 모델을, 전압 (v) 이 임계치 (v ₊) 보다 높다면 포지티브 레짐 (404) 에 있는 것으로 그리고 그렇지 않다면 네거티브 레짐 (402) 에 있는 것으로 간주한다.

레짐-의존 시상수들은 네거티브 레짐 시상수인 τ _-, 및 포지티브 레짐 시상수인 τ ₊ 를 포함한다. 복구 전류 시상수 (τ _u ) 는 통상 레짐에 독립적이다. 편의를 위해, 네거티브 레짐 시상수 (τ _-) 는 감쇠를 반영하도록 네거티브 양으로서 통상적으로 특정되어, τ _u 일 바와 같이, 지수 및 τ ₊ 가 일반적으로 포지티브일 포지티브 레짐에 대해서처럼 전압 에볼루션에 대해 동일한 수식 (expression) 이 사용될 수도 있다.

2 개의 상태 엘리먼트들의 역학은 그들의 널-클라인 (null-cline) 들로부터 상태들을 오프셋하는 변환들에 의해 이벤트들에서 커플링될 수도 있고, 여기서 변환 변수들은:

이고, 여기서 δ, ε, β 및 v _-, v ₊ 는 파라미터들이다.

에 대한 2 개의 값들은 2 개의 레짐들에 대한 레퍼런스 전압들에 대한 베이스 (base) 이다. 파라미터 (v _-) 는 네거티브 레짐에 대한 베이스 전압이고, 멤브레인 전위는 네거티브 레짐에서 v _- 를 향하여 일반적으로 감쇠할 것이다. 파라미터 (v ₊) 는 포지티브 레짐에 대한 베이스 전압이고, 멤브레인 전위는 포지티브 레짐에서 v ₊ 로부터 멀어지는 경향이 있을 것이다.

v 및 u 에 대한 널-클라인들은 각각 변환 변수들 (

및 r) 의 네거티브에 의해 주어진다. 파라미터 (δ) 는 u 널-클라인의 슬로프를 제어하는 스케일 팩터이다. 파라미터 (ε) 는 -v _- 와 통상 동일하게 설정된다. 파라미터 (β) 는 양자의 레짐들에서 v 널-클라인들의 슬로프를 제어하는 저항 값이다.

시상수 파라미터들은 지수적 감쇠들 뿐만 아니라 각각의 레짐에서 별개로 널-클라인 슬로프들을 제어한다.

모델은 전압 (v) 이 값 (v _S ) 에 도달할 때 스파이킹하도록 정의될 수도 있다. 후속하여, 상태는 (스파이크 이벤트와 하나의 동일한 것일 수도 있는) 리셋 이벤트에서 리셋될 수도 있고:

여기서

및

는 파라미터들이다. 리셋 전압 (

) 은 v _- 로 통상 설정된다.

순간적인 커플링의 원리에 의해, 닫힌 형태의 해가 상태 (그리고 단일 지수 항을 가짐) 에 대해서 뿐만 아니라, 특정한 상태에 도달하기 위한 시간에 대해서도 가능하다. 닫힌 형태의 상태 해들은 다음과 같다:

따라서, 모델 상태는 입력 (시냅스전 스파이크) 또는 출력 (시냅스후 스파이크) 과 같은 이벤트들 시에만 업데이트될 수도 있다. 동작들은 또한 (입력 또는 출력이 존재하든 하지 않든 간에) 임의의 특정한 시간에서 수행될 수도 있다.

더욱이, 순간적인 커플링 원리에 의해, 시냅스후 스파이크의 시간은 예상될 수도 있어서, 특정한 상태에 도달하기 위한 시간이 반복 기법들 또는 수치 방법들 (예를 들어, Euler 수치 방법) 없이도 사전에 결정될 수도 있다. 사전 전압 상태 (v ₀) 가 주어지면, 전압 상태 (v _f ) 에 도달할 때까지의 시간 감쇠는 다음에 의해 주어진다:

스파이크가 전압 상태 (v) 가 v _S 에 도달하는 시간에서 발생하는 것으로서 정의되면, 전압이 주어진 상태 (v) 에 있는 시간으로부터 측정한 바와 같이 스파이크가 발생할 때까지, 시간의 양, 또는 상대적 지연에 대한 닫힌-형태의 해는:

이고, 여기서

는 통상 파라미터 (v ₊) 로 설정되지만, 다른 변형들이 가능할 수도 있다.

모델 역학의 상기 정의들은 모델이 포지티브 또는 네거티브 레짐에 있는지 여부에 의존한다. 언급한 바와 같이, 커플링 및 레짐 (ρ) 은 이벤트들 시에 컴퓨팅될 수도 있다. 상태 전파의 목적들을 위해, 레짐 및 커플링 (변환) 변수들은 마지막 (사전) 이벤트의 시간에서의 상태에 기초하여 정의될 수도 있다. 후속하여 예상하는 스파이크 출력 시간의 목적들을 위해, 레짐 및 커플링 변수는 다음 (현재) 이벤트의 시간에서의 상태에 기초하여 정의될 수도 있다.

Cold 모델의 여러 가능한 구현들이 존재하며, 시뮬레이션, 에뮬레이션 및 모델을 시간적으로 실행하고 있다. 이것은 예를 들어, 이벤트-업데이트, 스텝-이벤트 업데이트, 및 스텝-업데이트 모드들을 포함한다. 이벤트 업데이트는 상태들이 (특정한 순간들에서) 이벤트들 또는 "이벤트 업데이트" 에 기초하여 업데이트되는 업데이트이다. 스텝 업데이트는 모델이 간격을 두고 (예를 들어, 1 ms) 업데이트될 때의 업데이트이다. 이것은 반복 방법들 또는 수치 방법들을 반드시 활용하는 것은 아니다. 이벤트-기반 구현은 또한, 이벤트가 스텝들에서 또는 사이에서 또는 "스텝-이벤트" 업데이트에 의해 발생한다면 모델을 단지 업데이트하는 것에 의해 스텝-기반 시뮬레이터에서의 제한된 시간 레졸루션에서 또한 가능하다.

본 개시는 스파이킹 뉴런들, 뉴런 모델들 및 네트워크들의 다양한 예들을 설명했지만, 본 개시는 이렇게 제한되지 않는다. 오히려, 넌-스파이킹 뉴런들 및 네트워크들은 또한, 본 개시의 소정의 양태들을 실현하는데 이용될 수도 있다.

공통 피처들에 대한 커스텀화된 분류자 및 분산 모델 학습

본 개시의 양태들은 디바이스들이 또한 모델을 이용하는 동안에 분산된 느슨하게 조정된 방식으로 그 모델을 계속 학습하기 위한 프로세스와 관련된다. 하나의 예시적인 양태에서, 딥 뉴럴 네트워크 (deep neural network; DNN) 는 모바일 디바이스들이 모델을 계속 정제 (refine) 하기 위해 중앙 서버로 정보를 되전송하는 모바일 디바이스들 상에서 이미지들에서의 오브젝트 인식을 위해 이용될 수도 있다. 설명의 용이함을 위해, 예시적인 데이터 플로우들 및 다른 설명들이 이미지들 및 오브젝트 인식에 적용된다. 그러나, 본 개시는 그렇게 제한되지 않고 대신에 임의의 감각 양상이 대안적으로 또는 추가적으로 활용될 수도 있다.

본 개시의 추가 양태들은 분류자 모델을 생성하는 것과 관련된다. 분류자 모델은 공통 피처 세트에 대해 커스텀화될 수도 있다. 하나의 예시적인 양태에서, 중앙 서버는 하나 이상의 사용자 디바이스들로부터 라벨링된 예들의 코퍼스들을 수신하도록 구성될 수도 있다. 사용자 디바이스들은 개인용 컴퓨터들 (PC들), 텔레비전들, 비디오 게임 시스템들, 모바일 디바이스들, 이를 테면, 랩톱들, 태블릿 PC들, 스마트폰들, 또는 다른 휴대용 전자 디바이스들을 포함할 수도 있다.

서버는 데이터 세트와 관련 있는 통계적 피처들의 세트로 구성될 수도 있다. 일부 양태들에서, 데이터 세트는 예를 들어, 특정한 감각 양상 (이미지, 사운드, 배향, 로케이션 등) 에 대응할 수도 있다. 서버는 통계적 피처들의 세트 및 수신된 라벨링된 예들의 코퍼스들에 기초하여 분류자를 생성할 수도 있다.

도 5 는 본 개시의 소정의 양태들에 따른 범용 프로세서 (502) 를 이용하여 전술한 모델을 학습하는 것, 분류자 모델을 생성하는 것, 및/또는 분류자들의 세트를 업데이트하는 것의 일 예의 구현 (500) 을 예시한다. 컴퓨테이션 네트워크 (뉴럴 네트워크) 와 연관된 변수들 (뉴럴 신호들), 시냅스 가중치들, 시스템 파라미터들, 지연들, 주파수 빈 정보 파라미터 업데이트들, 이상치 정보 (outlier information), 모델 업데이트들, 피처 정보, 예들 및/또는 라벨 정보는 메모리 블록 (504) 에 저장될 수도 있는 한편, 범용 프로세서 (502) 에서 실행된 명령들은 프로그램 메모리 (506) 로부터 로딩될 수도 있다. 본 개시의 양태에서, 범용 프로세서 (502) 로 로딩된 명령들은 하나 이상의 사용자들로부터 모델 업데이트들을 수신하고, 이전 모델 및 모델 업데이트들에 기초하여 업데이트된 모델을 컴퓨팅하고, 및/또는 업데이트된 모델에 기초하여 업데이트된 모델에 관련된 데이터를 하나 이상의 사용자들에 송신하기 위한 코드를 포함할 수도 있다.

본 개시의 다른 양태에서, 범용 프로세서 (502) 로 로딩된 명령들은 공유된 추론 모델에 기초하여 서버로부터 데이터를 수신하고, 수신된 데이터에 기초하여 하나 이상의 모델 파라미터들을 포함하는 모델을 생성하고, 모델에 기초하여 추론을 컴퓨팅하고, 추론에 기초하여 하나 이상의 모델 파라미터 업데이트들을 컴퓨팅하고, 및/또는 서버에 모델 파라미터 업데이트(들)에 기초하여 데이터를 송신하기 위한 코드를 포함할 수도 있다.

본 개시의 또 다른 양태에서, 범용 프로세서 (502) 로 로딩된 명령들은 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하고 및/또는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정 중 하나 이상에 기초하여 분류자 업데이트를 요청하기 위한 코드를 포함할 수도 있다.

본 개시의 또 다른 양태에서, 범용 프로세서 (502) 로 로딩된 명령들은 다수의 사용자들에 공통 피처 모델을 배포하고, 공통 피처 모델의 위에 다수의 분류자들을 트레이닝하고, 및/또는 다수의 사용자들 중 제 1 사용자에 다수의 분류자들 중 제 1 분류자를 그리고 다수의 사용자들 중 제 2 사용자에 다수의 분류자들 중 제 2 분류자를 배포하기 위한 코드를 포함할 수도 있다.

도 6 은 본 개시의 소정의 양태들에 따른, 메모리 (602) 가 컴퓨테이션 네트워크 (뉴럴 네트워크) 의 개개의 (분산된) 프로세싱 유닛들 (뉴럴 프로세서들) (606) 과 상호연결 네트워크 (604) 를 통해 인터페이스될 수 있는, 전술한 모델을 학습하는 것 및/또는 분류자 모델을 생성하는 것의 일 예의 구현 (600) 을 예시한다. 컴퓨테이션 네트워크 (뉴럴 네트워크) 지연들과 연관된 변수들 (뉴럴 신호들), 시냅스 가중치들, 시스템 파라미터들, 주파수 빈 정보 파라미터 업데이트들, 이상치 정보, 모델 업데이트들, 피처 정보, 예들 및/또는 라벨 정보는 메모리 (602) 에 저장될 수도 있고, 메모리 (602) 로부터 상호연결 네트워크 (604) 의 연결(들)을 통해 각각의 프로세싱 유닛 (뉴럴 프로세서) (606) 으로 로딩될 수도 있다. 본 개시의 양태에서, 프로세싱 유닛 (606) 은 하나 이상의 하나 이상의 사용자들로부터 모델 업데이트들을 수신하고, 이전 모델 및/또는 모델 업데이트들에 기초하여 업데이트된 모델을 컴퓨팅하고, 및/또는 업데이트된 모델에 기초하여 업데이트된 모델에 관련된 데이터를 하나 이상의 사용자들에 송신하도록 구성될 수도 있다.

본 개시의 다른 양태에서, 프로세싱 유닛 (606) 은 공유된 추론 모델에 기초하여 서버로부터 데이터를 수신하고, 수신된 데이터에 기초하여 하나 이상의 모델 파라미터들을 포함하는 모델을 생성하고, 모델에 기초하여 추론을 컴퓨팅하고, 추론에 기초하여 하나 이상의 모델 파라미터 업데이트들을 컴퓨팅하고, 및/또는 서버에 모델 파라미터 업데이트(들)에 기초하여 데이터를 송신하도록 구성될 수도 있다.

본 개시의 또 다른 양태에서, 프로세싱 유닛 (606) 은 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하고 및/또는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정 중 하나 이상에 기초하여 분류자 업데이트를 요청하도록 구성될 수도 있다.

본 개시의 또 다른 양태에서, 프로세싱 유닛 (606) 은 다수의 사용자들에 공통 피처 모델을 배포하고, 공통 피처 모델의 위에 다수의 분류자들을 트레이닝하고, 및/또는 다수의 사용자들 중 제 1 사용자에 다수의 분류자들 중 제 1 분류자를 그리고 다수의 사용자들 중 제 2 사용자에 다수의 분류자들 중 제 2 분류자를 배포하도록 구성될 수도 있다.

도 7 은 전술한 모델을 학습하는 것 및/또는 분류자 모델을 생성하는 것의 일 예의 구현 (700) 을 예시한다. 도 7 에 예시한 바와 같이, 하나의 메모리 뱅크 (702) 는 컴퓨테이션 네트워크 (뉴럴 네트워크) 의 하나의 프로세싱 유닛 (704) 과 직접 인터페이스될 수도 있다. 각각의 메모리 뱅크 (702) 는 대응하는 프로세싱 유닛 (뉴럴 프로세서) (704) 지연들과 연관된 변수들 (뉴럴 신호들), 시냅스 가중치들, 및/또는 시스템 파라미터들, 주파수 빈 정보 파라미터 업데이트들, 이상치 정보, 모델 업데이트들, 피처 정보, 예들 및/또는 라벨 정보를 저장할 수도 있다. 본 개시의 양태에서, 프로세싱 유닛 (704) 은 하나 이상의 사용자들로부터 모델 업데이트들을 수신하고, 이전 모델 및 모델 업데이트들에 기초하여 업데이트된 모델을 컴퓨팅하고, 및/또는 업데이트된 모델에 기초하여 업데이트된 모델에 관련된 데이터를 하나 이상의 사용자들에 송신하도록 구성될 수도 있다.

본 개시의 추가 양태에서, 프로세싱 유닛 (704) 은 공유된 추론 모델에 기초하여 서버로부터 데이터를 수신하고, 수신된 데이터에 기초하여 하나 이상의 모델 파라미터들을 포함하는 모델을 생성하고, 모델에 기초하여 추론을 컴퓨팅하고, 추론에 기초하여 하나 이상의 모델 파라미터 업데이트들을 컴퓨팅하고, 및/또는 서버에 모델 파라미터 업데이트(들)에 기초하여 데이터를 송신하도록 구성될 수도 있다.

본 개시의 또 다른 양태에서, 프로세싱 유닛 (704) 은 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하고 및/또는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 및 분류자들의 제 1 세트의 적용의 성능 측정 중 하나 이상에 기초하여 분류자 업데이트를 요청하도록 구성될 수도 있다.

본 개시의 또 다른 양태에서, 프로세싱 유닛 (704) 은 다수의 사용자들에 공통 피처 모델을 배포하고, 공통 피처 모델의 위에 다수의 분류자들을 트레이닝하고, 및/또는 다수의 사용자들 중 제 1 사용자에 다수의 분류자들 중 제 1 분류자를 그리고 다수의 사용자들 중 제 2 사용자에 다수의 분류자들의 제 2 분류자를 배포하도록 구성될 수도 있다.

도 8 은 본 개시의 소정의 양태들에 따른 뉴럴 네트워크 (800) 의 일 예의 구현을 예시한다. 도 8 에 예시한 바와 같이, 뉴럴 네트워크 (800) 는 본 명세서에서 설명된 방법들의 다양한 동작들을 수행할 수도 있는 다수의 로컬 프로세싱 유닛들 (802) 을 가질 수도 있다. 각각의 로컬 프로세싱 유닛 (802) 은 뉴럴 네트워크의 파라미터들을 저장하는 로컬 파라미터 메모리 (806) 및 로컬 상태 메모리 (804) 를 포함할 수도 있다. 추가로, 로컬 프로세싱 유닛 (802) 은 로컬 모델 프로그램을 저장하기 위한 로컬 (뉴런) 모델 프로그램 (LMP) 메모리 (808), 로컬 학습 프로그램을 저장하기 위한 로컬 학습 프로그램 (LLP) 메모리 (810), 및 로컬 연결 메모리 (812) 를 가질 수도 있다. 더욱이, 도 8 에 예시한 바와 같이, 각각의 로컬 프로세싱 유닛 (802) 은 로컬 프로세싱 유닛의 로컬 메모리들에 대한 구성들을 제공하기 위한 구성 프로세서 유닛 (814) 과, 그리고 로컬 프로세싱 유닛들 (802) 사이의 라우팅을 제공하는 라우팅 연결 프로세싱 유닛 (816) 과 인터페이스될 수도 있다.

하나의 구성에서, 뉴런 모델은 하나 이상의 사용자들로부터 모델 업데이트들을 수신하고, 이전 모델 및 모델 업데이트들에 기초하여 업데이트된 모델을 컴퓨팅하고, 및/또는 업데이트된 모델에 기초하여 업데이트된 모델에 관련된 데이터를 하나 이상의 사용자들에 송신하기 위해 구성된다. 뉴런 모델은 수신 수단, 컴퓨팅 수단, 및/또는 송신 수단을 포함한다. 하나의 양태에서, 수신 수단, 컴퓨팅 수단, 및/또는 송신 수단은 언급된 기능들을 수행하도록 구성된 범용 프로세서 (502), 프로그램 메모리 (506), 메모리 블록 (504), 메모리 (602), 상호연결 네트워크 (604), 프로세싱 유닛들 (606), 프로세싱 유닛 (704), 로컬 프로세싱 유닛들 (802), 및 또는 라우팅 연결 프로세싱 유닛들 (816) 일 수도 있다.

다른 구성에서, 뉴런 모델은 공유된 추론 모델에 기초하여 서버로부터 데이터를 수신하고, 모델에 기초하여 추론을 컴퓨팅하고, 추론에 기초하여 하나 이상의 모델 파라미터 업데이트들을 컴퓨팅하고, 및/또는 서버에 모델 파라미터 업데이트(들)에 기초하여 데이터를 송신하기 위해 구성된다. 뉴런 모델은 수신 수단, 컴퓨팅 수단 및 송신 수단을 포함한다. 하나의 양태에서, 수신 수단, 추론을 컴퓨팅하는 수단, 모델 파라미터 업데이트(들)를 컴퓨팅하는 수단 및/또는 송신 수단은 언급된 기능들을 수행하도록 구성된 범용 프로세서 (502), 프로그램 메모리 (506), 메모리 블록 (504), 메모리 (602), 상호연결 네트워크 (604), 프로세싱 유닛들 (606), 프로세싱 유닛 (704), 로컬 프로세싱 유닛들 (802), 및 또는 라우팅 연결 프로세싱 유닛들 (816) 일 수도 있다.

또 다른 구성에서, 뉴런 모델은 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하고 및/또는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 또는 분류자들의 제 1 세트의 적용의 성능 측정 중 하나 이상에 기초하여 분류자 업데이트를 요청하기 위해 구성된다. 뉴런 모델은 적용 수단 및 요청 수단을 포함한다. 하나의 양태에서, 적용 수단 및/또는 요청 수단은 언급된 기능들을 수행하도록 구성된 범용 프로세서 (502), 프로그램 메모리 (506), 메모리 블록 (504), 메모리 (602), 상호연결 네트워크 (604), 프로세싱 유닛들 (606), 프로세싱 유닛 (704), 로컬 프로세싱 유닛들 (802), 및 또는 라우팅 연결 프로세싱 유닛들 (816) 일 수도 있다.

또 다른 구성에서, 뉴런 모델은 사용자들에 공통 피처 모델을 배포하고, 공통 피처 모델의 위에 분류자들을 트레이닝하고, 및/또는 제 1 사용자에 분류자들 중 제 1 분류자를 그리고 제 2 사용자에 제 2 분류자를 배포하기 위해 구성된다. 뉴런 모델은 공통 피처 모델을 배포하는 수단, 트레이닝 수단, 및 복수의 사용자들 중 제 1 사용자에 복수의 분류자들 중 제 1 분류자를 그리고 제 2 사용자에 제 2 분류자를 배포하는 수단 ("분류자들을 배포하는 수단") 을 포함한다. 하나의 양태에서, 공통 피처 모델을 배포하는 수단, 트레이닝 수단 및/또는 분류자들을 배포하는 수단은 언급된 기능들을 수행하도록 구성된 범용 프로세서 (502), 프로그램 메모리 (506), 메모리 블록 (504), 메모리 (602), 상호연결 네트워크 (604), 프로세싱 유닛들 (606), 프로세싱 유닛 (704), 로컬 프로세싱 유닛들 (802), 및/또는 라우팅 연결 프로세싱 유닛들 (816) 일 수도 있다.

추가 구성에서, 뉴런 모델은 제 1 분류자 모델을 학습하기 위해 제 1 지정된 사용자로부터의 라벨링된 예들의 제 1 코퍼스들에 공통 피처 맵들의 세트를 적용하고, 제 2 분류자 모델을 학습하기 위해 제 2 지정된 사용자로부터의 라벨링된 예들의 제 2 코퍼스들에 공통 피처 맵들의 세트를 적용하고, 및/또는 분류자 모델을 배포하기 위해 구성된다. 뉴런 모델은 제 1 분류자 모델을 학습하기 위해 제 1 지정된 사용자로부터의 라벨링된 예들의 제 1 코퍼스들에 공통 피처 맵들의 세트를 적용하는 수단, 제 2 분류자 모델을 학습하기 위해 제 2 지정된 사용자로부터의 라벨링된 예들의 제 2 코퍼스에 공통 피처 맵들의 세트를 적용하는 수단 및 배포 수단을 포함한다. 하나의 양태에서, 제 1 분류자 모델을 학습하기 위해 제 1 지정된 사용자로부터의 라벨링된 예들의 제 1 코퍼스들에 공통 피처 맵들의 세트를 적용하는 수단, 제 2 분류자 모델을 학습하기 위해 제 2 지정된 사용자로부터의 라벨링된 예들의 제 2 코퍼스들에 공통 피처 맵들의 세트를 적용하는 수단, 및/또는 배포 수단은 언급된 기능들을 수행하도록 구성된 범용 프로세서 (502), 프로그램 메모리 (506), 메모리 블록 (504), 메모리 (602), 상호연결 네트워크 (604), 프로세싱 유닛들 (606), 프로세싱 유닛 (704), 로컬 프로세싱 유닛들 (802), 및 또는 라우팅 연결 프로세싱 유닛들 (816) 일 수도 있다.

다른 구성에서, 전술한 수단은 전술한 수단에 의해 언급된 기능들을 수행하도록 구성된 임의의 모듈 또는 임의의 장치일 수도 있다.

본 개시의 소정의 양태들에 따르면, 각각의 로컬 프로세싱 유닛 (802) 은 뉴럴 네트워크의 원하는 하나 이상의 기능적 피처들에 기초하여 뉴럴 네트워크의 파라미터들을 결정하고, 결정된 파라미터들이 추가로 적응, 튜닝 및 업데이트될 때 원하는 기능적 피처들을 향하여 하나 이상의 기능적 피처들을 디벨롭핑하도록 구성될 수도 있다.

도 9 는 본 개시의 양태들에 따른 모델을 학습하기 위한 일 예시적인 데이터 플로우 (900) 를 예시하는 블록 다이어그램이다. 도 9 를 참조하면, 블록 902 에서, 뉴럴 네트워크는 초기 가중치들 (W0) 을 가진 모델을 학습하기 위해 트레이닝될 수도 있다. 일부 양태들에서, 뉴럴 네트워크는 트레이닝 이미지들의 세트 상에서 오브젝트 인식을 위한 모델을 학습하기 위해 트레이닝될 수도 있다. 뉴럴 네트워크는 예를 들어, 딥 뉴럴 네트워크 (deep nueral network; DNN) 를 포함할 수도 있다. DNN 은 다수의 은닉 층들을 가진 뉴럴 네트워크이다.

블록 904 에서, 초기 모델 가중치들 ("모델" 로 또한 지칭됨) (W0) 은 사용자들 (예를 들어, 모바일 디바이스들, 이를 테면 스마트폰들 또는 다른 디바이스들) 또는 다른 엔티티들에 푸시 아웃 (push out) 또는 배포될 수도 있다. 일부 양태들에서, 모델은 폭넓게 배포될 수도 있다 (예를 들어, 대략 일억 또는 천억 개의 디바이스들).

블록 906 및 블록 908 에서, 각각의 모바일 디바이스는 특정한 태스크를 수행하기 위해 모델 (WO) 을 이용할 수도 있다. 예를 들어, 일부 양태들에서, 모델 (WO) 은 모바일 디바이스 상의 데이터의 분류를 제공할 수도 있다. 예를 들어, 모델 (WO) 은 디바이스 사용자들에 대한 픽처들에서의 오브젝트들을 식별 및/또는 라벨링할 수도 있다. 일부 양태들에서, 오브젝트들은 모델 (WO) 을 이용하여 자동적으로 식별 또는 라벨링될 수도 있다. 추가적으로, 각각의 모바일 디바이스는 픽처가 촬영될 때 모델 파라미터 업데이트들을 학습할 수도 있거나, 또는 일부 경우들에서 픽처들이 프리뷰잉될 때, 모바일 디바이스 (i) 는 모델 파라미터 업데이트들 (△W0,i) 을 컴퓨팅 및 누적할 수도 있다. 일부 양태들에서, 디바이스 (i) 는 추론을 위해 배포된 모델 (W0) 의 파라미터들 (예를 들어, 가중치들) 을 단지 이용할 수도 있고, 그 업데이트들을 로컬로 적용하지 않을 수도 있다.

파라미터 업데이트들 (△W0,i) 은 다수의 방식들로 컴퓨팅될 수도 있다. 예를 들어, 파라미터 업데이트들 (△W0,i) 은 예를 들어, 라벨에 대해 사용자를 프롬프트하고 역전파 (back propagation) 를 이용하거나 또는 주기 동안 모델에서의 하나의 층을 타겟팅하고 오토-인코더 목적 함수들에 기초하여 그 층에 대한 가중치 기울기 (weight gradient) 들을 컴퓨팅함으로써 컴퓨팅될 수도 있다. 물론, 다른 타입들의 목적 함수들이 또한 이용될 수도 있다. 예를 들어, 일부 양태들에서, 스파스 (sparse) 오토-인코더, 수축성 (contractive) 오토-인코더, 잡음제거 (denoising) 오토-인코더 목적 함수 (objective function) 들 등이 또한 이용될 수도 있다. 이러한 목적 함수들은 정규화 페널티 (regularization penalty) 들로 재구성을 최소화할 수도 있다. 파라미터 업데이트들은 또한 자율 (unsupervised) 웨이크-슬립 프로세스 또는 다른 업데이트 기법들을 이용하여 컴퓨팅될 수도 있다.

모바일 디바이스들 (예를 들어, 스마트폰들) 은 블록 910 에서, 중앙 서버/허브를 통한 수집을 위해, 그들의 모델 가중치 업데이트들 (△W0,i) 을 전송할 수도 있다. 일부 양태들에서, 모델 가중치 업데이트들은 매일, 매주 또는 매달과 같은 기간별로 중앙 서버로 전송될 수도 있다. 물론, 이것은 단지 예시적일 뿐이며 제한이 아니다. 예를 들어, 일부 양태들에서, 모바일 디바이스들은 서버로부터의 요청들에 응답하여 업데이트들을 되전송할 수도 있다 (예를 들어, 서버는 업데이트들을 제의할 수도 있다). 다른 예에서, 모바일 디바이스들은 서버 요청들에 응답하여 또는 주기적 스케줄링된 업데이트들과 조합하여 업데이트들을 전송할 수도 있다. 또 다른 예에서, 업데이트들은 (예를 들어, 마지막 제공된 업데이트 이래의 픽처들의 시간 또는 마지막 제공된 업데이트 이래의 픽처들의 수를 취하는) 트레이닝 예들의 누적에 기초하여 되전송될 수도 있다.

블록 912 에서, 중앙 서버/허브는 차례로, 모바일 디바이스들로부터, 수신된 모델 가중치 업데이트들 (△W0,i) 에 기초하여 새로운 모델 (W1) 을 컴퓨팅할 수도 있다.

일부 양태들에서, 새로운 모델은 블록 914 에서 검증 프로세스를 통해 검증될 수도 있다. 블록 916 에서, 새로운 모델 (W1) 은 모바일 디바이스 사용자들에 푸시 아웃 또는 배포될 수도 있다. 블록 918 및 블록 920 에서, 각각의 모바일 디바이스는 특정한 태스크를 수행하기 위해 모델 (W1) 을 이용할 수도 있다. 그 후에, 프로세스는 모델을 추가로 업데이트하기 위해 반복될 수도 있다.

모델 업데이트들을 컴퓨팅

업데이트된 모델은 다양한 방식들로 컴퓨팅될 수도 있다. 예를 들어, 일부 양태들에서, 업데이트된 모델은 다음과 같이 컴퓨팅될 수도 있고:

여기서 n 은 사용자 업데이트들의 수이고,

는 학습 파라미터이다.

일부 양태들에서, 가중치 업데이트들은 사전-정상화될 (pre-normalized) 수도 있다. 예를 들어, 가중치 업데이트들은 가중치 업데이트들을 되전송하기 이전에 학습된 다수의 픽처들에 의해 사전-정상화 (분할) 될 수도 있다. 이것은 모델 가중치들의 단순 평균 (straight average) 을 제공할 수도 있다.

일부 양태들에서, 업데이트들은 또한 가중화될 수도 있다. 하나의 예에서, 가중치 업데이트들은

, 즉 △W0,i 를 컴퓨팅하는데 이용된 이미지들의 수의 함수로서 가중화될 수도 있다. 이로써, 수백 개의 픽처들을 촬영한 사용자로부터의 가중치 업데이트는 예를 들어, 단지 하나의 픽처만을 촬영한 사용자로부터의 가중치 업데이트보다 더 큰 영향을 줄 수도 있다. 이에 따라, 이 수정에 의해, 업데이트된 모델은 다음으로서 컴퓨팅될 수도 있다 :

가중화된 업데이트들의 경우에, 사용자들에 의한 초과가중화 (overweighting) 를 막는 것이 바람직할 수도 있다. 즉, 예를 들어, 흥미롭지 않은 픽처들 (예를 들어, 흰벽의 다수의 픽처들) 을 촬영한 사용자들, 개개의 사용자들로부터의 과표현 (overrepresentation), 및 모델을 의도적으로 저하시키려고 시도하는 어택커들을 막는 것이 바람직할 수도 있다. 하나의 접근법은 가중치 업데이트들을 실행하기 전에, 픽처들의 수 (

) 를

또는 동등하게는,

로 캡 (cap) 또는 제한하는 것일 것이다. 이 경우에, 어택커들로부터의 가중치 업데이트들을 막고 평균내기 위해 다수의 사용자들 (예를 들어, 모든 사용자들 또는 그 세그먼트, 이를 테면 피어 그룹) 로부터의 총합 또는 다수의 가중치 업데이트들을 이용할 수도 있다. 게다가, 큰 엘리먼트 값들을 가진 가중치 업데이트들 (△Wk, i) 은 필터링 또는 정상화될 수도 있다.

모델 검증 (Model Validation)

사용자들에 푸시 아웃 또는 배포된 모델들은 새로운 모델 업데이트들을 학습하는 것에 더하여 활성 추론을 지원할 수도 있기 때문에, 업데이트된 모델을 검증하는데 유용할 수도 있다. 예를 들어, 일부 양태들에서, 모델 성능은 새로운 학습된 가중치들이 추론 성능을 너무 저하시키지 않는 것을 보장하기 위해 검증될 수도 있다. 다른 한편으로는, 추론 성능이 너무 저하되면, 보정 액션 (corrective action) 이 초기화될 수도 있다.

일부 양태들에서, 업데이트된 모델 성능은 검증 데이터 세트에 대해 측정될 수도 있다. 하나의 예에서, 업데이트된 모델 성능은 오브젝트 인식을 위해 정확성 또는 F-스코어를 컴퓨팅함으로써 측정될 수도 있다. 이 예에서, 업데이트된 모델은 검증 성능이 미리결정된 양 (예를 들어, 정의된 퍼센티지 또는 고정된 차이) 보다 더 많이 감소하지 않는 경우에만 배포 또는 푸시 아웃될 수도 있다. 성능이 타겟팅된 양보다 더 많이 감소하지 않는다면, 보정 측정들이 구현될 수도 있다. 예를 들어, 일부 양태들에서, 모델 업데이트는 일 주기 동안 (예를 들어, 이 라운드에 대해) 무시될 수도 있고, (예를 들어, 그들의 델타 가중치들을 리셋하고 및/또는 현재 모델 또는 이전 모델을 이용하기 위해) 사용자에게 통지가 전송될 수도 있다.

일부 양태들에서, 이상치 검출기는 이하에 설명한 바와 같이, 예를 들어, 제거/무시할 사용자들의 가중치들의 서브세트를 식별할 수도 있다. 업데이트된 모델은 그 후 나머지 가중치들에 기초하여 재컴퓨팅될 수도 있다. 업데이트된 모델은 또한, 재테스팅 및 검증 프로세스들의 대상이 될 수도 있다. 모델이 여전히 타겟 메트릭들을 충족하지 않는다면, 추가적인 또는 보다 제한적인 이상치 필터들이 이용될 수도 있다.

일부 양태들에서, 기울기 방향으로의 라인 탐색이 이용될 수도 있다. 예를 들어, 이것은 상이한 학습 레이트들로 수개의 잠재적인 업데이트된 모델들을 컴퓨팅하고 최적의 검증 성능을 가진 모델을 이용함으로써 행해질 수도 있고, 가장 큰 학습 레이트를 가진 모델은 타겟 검증 성능 임계치를 충족하거나, 또는 모델은 검증 성능 결과들의 함수로서 선택된다.

새로운 또는 업데이트된 모델은 또한, 추론을 위한 이전 모델 및 가중치 업데이트들 컴퓨팅하기 위한 새로운 모델을 이용하기 위한 표시를 포함할 수도 있다. 이것은 추론 성능에 영향을 주지 않고 모델 성능을 감소시킬 방향으로 다수의 스텝들을 익스플로어하기 위한 학습을 감안할 수도 있다.

다른 양태들에서, 사용자 디바이스들은 2 개의 모델들 (예를 들어, W0 및 W1) 을 유지할 수도 있다. 예를 들어, 사용자 디바이스는 하나의 모델 (예를 들어, W0) 및 모델 업데이트 (예를 들어, W1) 에 대응하는 서버로부터의 델타들을 유지할 수도 있다. 2 개의 모델들은 유클리드 거리에 있어서 가까울 수도 있기 때문에, 디바이스들은 2 개의 별개의 모델들을 저장하는데 있어서 이용한 것보다 더 적은 메모리로 2 개의 모델들을 유지할 수도 있다. 이 접근법에서, 다수의 스텝들 후에, 모델 성능이 새로운 더 나은 성능 포인트로 향상되면, 모델은 이 새로운 모델을 사용하기 위한 표시와 함께 푸시 아웃된다. 모델 성능이 향상되지 않으면, 하나 이상의 보정 액션 (예를 들어, 상기 설명된 보정 액션들) 이 채용될 수도 있다.

추가로, 검증 데이터 세트의 세너티 (sanity) 체크는 검증 데이터 세트가 구형이 되어 가지 않음을 보장하도록 수행될 수도 있다 (예를 들어, 피처 학습을 구동하고 있고 검증 데이터세트를 적절할 때 업데이트하는 새로운 폰들, 차들 등과 같은 손실된 새로운 오브젝트들).

이상치 검출

일부 구성들에서, 이상치 검출기 필터는 개개의 가중치 업데이트들 또는 이슈들 또는 잠재적 어택들을 표시하는 반복된 가중치 업데이트들을 가진 사용자들/디바이스들을 검출하기 위해 옵션적으로 포함될 수도 있다. 이상치 필터는 가중치 업데이트들의 팝퓰레이션에 대하여 가중치 업데이트들을 테스트할 수도 있다. 예를 들어, 주어진 가중치 값에 대한 업데이트들의 배포는 컴퓨팅될 수도 있다. 가중치 업데이트가 타겟팅된 수의 표준 편차들을 넘어서면, 그것은 이상치로서 식별될 수도 있다.

유사하게, 상기 참조한 바와 같은 라인 탐색이 이용될 때, 기울기 벡터 방향들은 로컬 최소치들을 향하여 포인팅하고 있어야 한다. 사용자 기울기 및 팝퓰레이션 평균 기울기의 내적이 임계치보다 낮다면, 그것은 이상치로서 마크될 수도 있다. 기울기 또는 기울기의 엘리먼트들의 크기가 팝퓰레이션의 다수의 표준 편차들을 넘어서면, 그것은 또한 이상치로서 마크될 수도 있다. 다른 통계적 테스트들이 이용될 수도 있다. 추가로, 팝퓰레이션 및 배포들은 이상치가 포함될 때 테스트 하의 기울기를 이용하여 또는 이용하지 않고 컴퓨팅될 수도 있다.

주어진 기울기 업데이트가 이상치로서 언급되면, 그것은 가중치 업데이트들의 현재 라운드에 대해 배제될 수도 있거나 또는 업데이트에서 더 작은 가중을 부여받을 수도 있다. 사용자가 이상치 가중치 업데이트들을 반복적으로 제공하는 것으로 플래그되면, 업데이트들은 추가 조사를 위해 플래그될 수도 있거나 또는 사용자는 모델 정확성을 의도적으로 또는 비의도적으로 어택하고 있을 수도 있는 사용자로서 영구적으로 플래그될 수도 있다. 일부 양태들에서, 플래그된 사용자들은 넌-플래그된 사용자들보다 더 적은 기여를 가진 그들의 가중치 업데이트들을 가산하고 있을 수도 있다. 예를 들어, 업데이트된 모델은 다음으로서 컴퓨팅될 수도 있고:

여기서 플래그된 사용자들에 대해 더 작은 기여를 제공하기 위해

이다. 대안적으로, 가중치들은 업데이트들로부터 제외될 수도 있다 (예를 들어,

).

반대로, 이상치 검출기는 더 많은 신규 이미지들 및/또는 어느 것이 더 많은 신규 피처들을 포함하는지에 기초하여 업데이트들을 결정하는 것을 도울 수도 있다. 이상치 검출기는 또한, 이러한 신규 이미지들을 공급하는 사용자들을 식별하는 것을 도울 수도 있다. 게다가, 신규 이미지들 및/또는 사용자들이 식별될 때, 이상치 식별자는 그 이미지들, 사용자들 및/또는 피처들을 비가중화할 수도 있다.

아키텍처 업데이트들

업데이트된 모델은 아키텍처 업데이트들을 포함할 수도 있다. 모델은 학습이 계속되는 동안에 추론 태스크들을 위해 활용될 수도 있기 때문에, 트레이닝 데이터가 오버피팅되지 않도록 초기 트레이닝 데이터 및 디바이스 특성들에 기초하여 초기 모델 용량이 사이징되는 것이 유익할 수도 있다. 그러나, 분산 학습이 진행됨에 따라, 성능은 모델 용량에 의해 제한되어질 수도 있다. 동시에, 모델이 학습됨에 따라, 가장 낮은 층들은 그들이 학습할 수 있는 내용에 수렴하기 시작할 수도 있다 (예를 들어, 제 1 층에서의 가버 타입 에지 검출기들). 그 층들에서의 추가적인 트레이닝은 제한된 잠재성을 가질 수도 있다. 이것을 핸들링하기 위해, 모델은 성장 및/또는 수축할 수도 있다.

하나의 접근법에서, 컴퓨트 및 검증 페이즈들 동안의 모델 성능은 현재의 모델 용량에 대한 수렴이 존재하는지 여부를 결정하기 위해 모니터링될 수도 있다. 수렴 메트릭들은 성능이 타겟팅된 수의 시기 (epoch) 들 동안 포화되었는지 여부를 결정하거나, 또는 가중치 업데이트들의 피처들, 이를 테면 가중치 업데이트의 크기, 임계치보다 더 큰 수의 엘리먼트들의 희박성 (sparsity), 및/또는 기울기 방향들의 코히어런스를 살펴보기 위해 검증 세트에 대한 모델 성능을 추적하는 것을 포함한다. 트레이닝 시기들 및/또는 트레이닝 예들의 수는 또한, 모델 성장 및/또는 수축이 유익할지를 결정하는데 이용될 수도 있다.

모델 성장이 표시되면, 예를 들어, 하나 이상의 기존의 층들에서의 뉴런들의 수는 증가될 수도 있거나, 또는 하나 이상의 추가적인 층들이 모델에 추가될 수도 있다. 새로운 뉴런들 및/또는 레벨들은 여러 방식들 중 하나로 추가될 수도 있다.

하나의 접근법에서, 추가된 아키텍처 (예를 들어, 뉴런들 및/또는 층들) 는 어떤 즉각적인 영향도 갖지 않도록 추가될 수도 있다. 예를 들어, 층에서의 새로운 노드들에 대한 가중치들은 제로 (0) 값들로 구성될 수도 있고 및/또는 새로운 층이 아이덴티티 함수를 형성하는 가중치들의 세트로 구성될 수도 있다. 그 후, 후속의 학습 시기들이 정제된 가중치들을 학습하기 시작할 것이다.

다른 접근법에서, 새로운 층들은 상기 설명된 접근법에서 추가될 수도 있고, 그 후 트레이닝이 더 나은 초기 세트의 가중치들을 얻기 위해 중앙 데이터 트레이닝 세트에 대해 구현 (지도 및/또는 자율 트레이닝) 될 수도 있다.

상기의 접근법들은 모델의 성장을 허용하지만, 동일한 표시들이 모델의 가소성/학습가능 부분을 줄어들게 하는데 이용될 수도 있다. 예를 들어, 하부 층은 가중치 업데이트들이 상위 층들에 대해 단지 컴퓨팅 및 송신되도록 프로즈닝 (frozening) 될 수도 있다.

분류자-피처 학습자 스플릿

도 10 은 본 개시의 양태들에 따른 분류자 (1000) 에 대한 일 예시적인 아키텍처를 예시하는 블록 다이어그램이다. 분류자를 구성하는데 있어서의 하나의 도전과제는 클래스 라벨들을 가산 또는 감산하거나, 심지어는 스크래치로부터 학습을 시작하지 않고 보다 정교한 추론 엔진들을 구축하는 방법이다. 하나의 관측은 딥 뉴럴 네트워크들과 같은 모델들이 하위 층들에서 학습 피처들 및 상위 층들에서 그 피처들에 대한 추론 엔진들로서 뷰잉될 수 있다는 것이다. 게다가, 피처 학습은 다수의 트레이닝 예들로 가장 큰 이익을 얻을 수도 있는 한편, 추론 엔진은 그것이 고품질 피처들을 이용하고 있다면 훨씬 적은 예들로 학습할 수도 있다. 이 관측을 이용하면, 분산 학습은 피처들에 대해, 가중치들과 같은 모델 업데이트들을 학습하고 도 10 에 도시된 바와 같은 중앙 데이터 세트를 이용하여 상부 층들에서 각각의 시간에 스크래치로부터 분류자를 재트레이닝할 수 있다.

일 예로서, 도 10 의 분류자에 대한 예시적인 아키텍처 (1000) 에서, 디바이스는 입력 데이터 (1002) 를 제공한다 (예를 들어, 픽처들을 촬영하거나 또는 다른 감각 입력 데이터를 제공할 수도 있다). 모델 가중치 업데이트들은 분산 학습된 피처들 (1004) 을 DNN 의 피처 층들로서 제공하기 위해 입력 데이터 (1002) 에 기초하여 컴퓨팅될 수도 있다. 디바이스들은 그 후 가중치 업데이트들을 (주기적으로 또는 다른 방식으로) 중심 학습된 추론 엔진 (1006) 으로 전송할 수도 있고, 피처 모델은 이전에 설명한 바와 같이, 이들 가중치 업데이트들에 기초하여 업데이트될 수도 있다. 그 후에, 피처 모델 가중치들은 고정될 수도 있고 새로운 이미지 분류자가 중심 라벨링된 데이터세트 (1008) 를 이용하여 피처들의 위에 트레이닝될 수도 있다. 결과의 모델은 그 후 향상된 오브젝트 인식 능력 및 추가 피처 모델 학습을 위해 디바이스들에 배포 또는 푸시 아웃될 수도 있다.

이것의 확장으로서, 중심 학습된 추론 엔진 (1006) 은 오브젝트 라벨들을 가산, 감산, 결합하고, 다수의 오브젝트들을 라벨링하는 것으로 확장하거나, 또는 계속 학습 피처들을 활용하는 다른 향상들을 제공할 수도 있다. 오브젝트 라벨들을 가산, 감산, 또는 결합하는 것은 피처들의 위에 추론 엔진을 학습하는데 이용된 데이터세트를 적절히 수정하는 것, 이를 테면 기존 이미지들에 대한 라벨들을 수정하는 것 및/또는 이미지들을 추가/제거하는 것에 의해 행해질 수도 있다.

유사하게, 추론 엔진 (1006) 은 분산 학습된 피처들 (1004) 의 위에 구축되기 때문에, 새로운 추론 프로세스, 아키텍처, 또는 접근법이 이용될 수도 있다. 예를 들어, 새로운 추론 프로세스는 각각의 이미지에 대한 단일의 라벨 대신에 각각의 이미지에 대해 다수의 라벨들을 제공하는 것과 같은 라벨링 수정을 포함할 수도 있다. 다른 예에서, 추론 엔진 아키텍처는 인공 뉴럴 네트워크 (ANN) 접근법으로부터 스파이킹 뉴럴 네트워크 접근법, 지원 벡터 머신 (Support Vector Machine; SVM) 접근법, 또는 다른 접근법으로 스위칭하는 것에 의해 수정될 수도 있다.

추가적으로, 추론 엔진을 중심적으로 학습함으로써, 상이한 추론 엔진들은 상이한 트레이닝 데이터 세트들을 이용하여 피처들의 동일한 세트 상에 상이한 추론 엔진들을 트레이닝함으로써 상이한 사용 케이스들, 디바이스들, 또는 애플리케이션들에 대해 학습될 수도 있다.

또 다른 확장으로서, 피처 가중치들을 프리즈닝하고 단지 추론 엔진을 트레이닝하는 대신에, 피처 가중치들은 또한, 사용자들 및/또는 디바이스들에 배포될 수도 있는 결과의 모델을 컴퓨팅하기 위해 하나 이상의 트레이닝 데이터 세트들에 대해 학습하는 것으로 추가 정제될 수도 있다. 반대로, 추론 엔진은 피처들과 동일한 분산 방식으로 학습될 수도 있다.

하나의 구성에서, 분산 학습은 사용자들이 추론 엔진으로부터 하나 이상의 모델 라벨들을 보정할 때 비정기적인 지도 입력으로 대체로 자율화될 수도 있다. 이 구성에서, 하나보다 더 많은 학습 프로세스가 모델 가중치 업데이트들을 컴퓨팅하는데 이용될 수도 있다. 또한, 이 구성에서, 피처/추론 학습 개념적 스플릿에 의한 분산 학습은 사용자가 모델 향상을 더 빨리 알도록 사용자들 라벨들을 이용하여 추론 엔진을 로컬로 업데이트할 수도 있다.

추가적으로, 프라이버시, 옵트-아웃, 및/또는 대역폭 목적들을 위해, 일부 양태들에서, 사용자 이미지들은 중앙 서버에 제공되지 않을 수도 있다. 이 경우에, 이미지는 새로운 모델이 사용자 디바이스에서 수신될 때 추론 엔진이 로컬 저장된 이미지들 및 라벨들에 기초하여 가중치들을 업데이트함으로써 자동적으로 정제될 수도 있도록 로컬 라벨과 함께 사용자의 디바이스에 캐시될 수도 있다. 이것은 모델이 분산 방식으로 계속 학습되는 동안에 사용자가 라벨 보정들에 기초하여 업데이트들을 유지하는 추론 엔진을 갖도록 허용할 수도 있다.

도 11 은 본 개시의 양태들에 따른 모델을 학습하기 위한 일 예시적인 데이터 플로우 (1100) 를 예시하는 블록 다이어그램이다. 도 11 을 참조하면, 블록 1102 에서, 초기 모델 (W ₀ ) 은 중앙 데이터 세트 상에 트레이닝될 수도 있다. 블록 1104 에서, 초기 모델 (W ₀ ) 은 예를 들어, 사용자 1 및 사용자 2 에 푸시 아웃 또는 배포될 수도 있다. 물론, 이것은 단지 예시적일 뿐이며, 모델은 임의의 수의 사용자들, 사용자들의 그룹들 또는 다른 엔티티들에 배포될 수도 있다.

초기 모델 (W ₀ ) 은 각각의 사용자 디바이스 (1106, 1108) 에서 인식 및 모델을 학습하기 위해 이용될 수도 있다. 그러나, 학습된 가중치 업데이트들은 중앙 서버에 비동기적으로 제공될 수도 있다. 즉, 각각의 사용자는 가중치 업데이트들을 중앙 서버로 비동기적으로 전송할 수도 있다 (1106 및 1108). 중앙 서버가 (예를 들어, 블록 1110 에서 사용자 1 로부터 또는 블록 1116 에서 사용자 2 로부터) 단일의 모델 업데이트, 또는 어쩌면 일 시간 주기에 걸쳐 사용자들의 서브세트로부터 모델 업데이트들의 세트를 수신할 때, 서버는 새로운 모델을 컴퓨팅하고 그것을 사용자들에 배포 또는 푸시 아웃할 수도 있다 (1112, 1118).

일부 양태들에서, 새로운 모델 업데이트들은 업데이트들을 제공하는 사용자들의 서브세트에만 전송될 수도 있다. 즉, 업데이트들은 차동적으로 배포될 수도 있다. 예를 들어, 블록 1110 에서, 중앙 서버는 사용자 1 로부터의 가중치 업데이트들을 수집하고 차례로 새로운 모델 (W1) 을 컴퓨팅한다. 블록 1112 에서, 중앙 서버는 사용자 1 에만 W1 을 푸시 아웃 또는 배포할 수도 있다. 업데이트는 다음으로서 표현될 수도 있고:

여기서 그 합은 서브세트에서의 사용자 또는 사용자들에 대한 것이다. 블록 1114 에서, 새로운 모델 (W ₁ ) 은 사용자 1 디바이스에서 인식 및 학습을 위해 이용될 수도 있다.

블록 1108 에서, 중앙 서버는 다른 사용자로부터 (예를 들어, 사용자 2 로부터) 또는 사용자들의 서브세트로부터 모델 업데이트들의 세트를 수신하고 다른 새로운 모델 업데이트를 컴퓨팅할 수도 있다 (1116). 이 모델 업데이트는 업데이트들이 구형 모델, 이를 테면 (W ₀ ) 에 대해 컴퓨팅되었던 경우라도 다음:

으로서 진행중인 모델에 적용될 수도 있다. 블록 1118 에서, 새로운 모델 (W ₂ ) 은 다른 사용자 (예를 들어, 사용자 2) 또는 사용자들의 그룹에 배포될 수도 있다. 블록 1120 에서, 새로운 모델 (W ₂ ) 은 사용자 2 디바이스에서 인식 및 학습을 위해 이용될 수도 있다.

일부 양태들에서, 모델 업데이트들 (예를 들어, W ₁ 또는 W ₂ ) 이 수신될 때, 그들은 어느 모델을 그들이 기반으로 했었는지에 대한 표시로 마크되거나 또는 다르게는 구성될 수도 있다. 업데이트들이 초기 모델 (예를 들어, W ₀ ) 로부터 임계 수의 업데이트들 후에 수신되면, 이러한 업데이트들은 스테일 (stale) 로서 폐기될 수도 있다.

비동기 업데이트의 경우에서, 비동기 업데이트 시간들은 여러 팩터들에 기초할 수도 있다. 하나의 예에서, 업데이트들은 서버 및 네트워크 리소스들을 로드 밸런싱하는 것을 돕기 위해 사용자들의 상이한 서브세트들에 대해 상이한 시간들에서 계획될 수도 있다. 제 2 예에서, 업데이트들은 컴퓨팅된 타겟팅된 수의 로컬 모델 업데이트들 (예를 들어, 타겟팅된 수의 픽처들) 또는 디바이스로부터 원래의 중앙 서버로의 고-대역폭 채널의 갑작스런 이용가능성과 같이, 일부 디바이스 로컬 메트릭이 충족된 후에 전송될 수도 있다.

일부 양태들에서, 학습된 가중치 업데이트들은 각각의 학습 컴퓨테이션 (예를 들어, 픽처들) 후에 업데이트들을 적용하는 온-라인 방식이나, 또는 타겟팅된 수의 학습 컴퓨테이션들 (예를 들어, 픽처들) 후에 업데이트들을 적용하는 미니-배치 프로세스를 이용하는 것 중 어느 하나로 로컬로 적용될 수도 있다. 예를 들어, 사용자들은 중앙 서버로부터 마지막 수신된 모델 이래의 총 누적된 가중치 업데이트를 되전송할 수도 있다. 이 접근법은 추론이 비-검증된 모델에 대해 수행되기 때문에 저하된 중간 성능의 위험으로 사용자들이 그들의 모델들을 로컬로 향상하고 모델 공간 중의 더 많은 모델 공간을 더 빨리 익스플로어하는 것을 허용할 수도 있다.

성능 저하의 위험은 2 개의 모델들을 로컬로 유지함으로써 감소될 수도 있다 (예를 들어, 하나는 추론 값들을 보고하기 위한 것이고 하나는 모델 공간 중의 더 많은 모델 공간을 학습하기 위한 것이다). 물론, 유지된 모델들의 수는 단지 예시적일 뿐이며, 임의의 수의 모델들이 리소스 이용가능성에 따라 유지될 수도 있다. 이것은 모델 (W) 및 진행중인 업데이트들 (△W) 을 유지하고, 그리고 추론을 위해 W 그리고 모델 학습을 위해

를 이용함으로써 행해질 수도 있다.

이들 모델 익스플로레이션 (exploration) 의 경우들에서, 중앙 서버는 이전에 설명된 방법들에서와 같이 모델 업데이트들을 적용할 수도 있다. 일부 양태들에서, 중앙 서버는 어느 것이 더 나은 모델 업데이트들을 제공하는지를 결정하기 위해 검증 세트에 대하여 상이한 업데이트들을 테스트할 수도 있다.

모델 파라미터들을 송신

분산 모델 학습과 연관된 하나의 도전과제는, 고용량 모델들에 대한 모델 사이즈들이 상대적으로 클 수도 있어, 모델들을 푸시 아웃하고 학습된 모델 파라미터들을 되찾는 단순한 접근법들은 많은 대역폭을 소비할 수도 있다는 것이다. 추가적으로, 중앙 서버들에 대해, 다수의 디바이스들 (예를 들어, 수억 또는 수천억 개의 디바이스들) 로부터 모델 업데이트들을 수신하는 것은 유지할 매우 큰 플로우를 생성할 수도 있다. 디바이스들에서 대역폭 및 메모리 활용을 감소시키는데 채용될 수도 있는 여러 방법들이 존재한다.

디바이스들로부터 중앙 서버로

제 1 접근법은 각각의 사용자 (디바이스) 가 중앙 서버로 전송하는 △W들을 서브샘플링하는 것이다. 모델이 다수 (예를 들어, 수백만 또는 수십억) 개의 가중치 파라미터들을 갖는다면, △W 벡터는 그 많은 엘리먼트들을 갖는다. 수백만 또는 수십억 개의 디바이스들이 풀 가중치 벡터를 중앙 서버로 전송하게 하는 것보다, 각각의 사용자 (디바이스) 가 엘리먼트들의 서브세트 (예를 들어, 엘리먼트들의 랜덤 서브세트) 를 전송할 수도 있다. 각각의 △W 엘리먼트는 통상적으로 오차 함수를 최소화하도록 컴퓨팅되기 때문에, 각각의 엘리먼트 업데이트 단독이 훌륭한 방향으로 있어야 한다. 다수의 디바이스들이 존재하기 때문에, 적합한 통계적 평균을 이용하는 것보다, 모든 사용자들이 그들의 업데이트들 전부를 전송하면 대역폭이 효율적으로 활용되지 않을 수도 있다. 하나의 양태에서, 서버는 모델이 사용자 (디바이스) 에 푸시 아웃될 때 되전송할 파라미터들의 수에 대한 파라미터 np 를 전송할 수도 있다. 로컬 사용자 디바이스는 중앙 서버로 전송할 △W 벡터에서의 대응하는 수의 엘리먼트 로케이션들을 랜덤으로 선택할 수도 있다. 이로써, 각각의 학습 업데이트 시에, 로컬 디바이스는 타겟팅된 △W 엘리먼트들을 컴퓨팅하는데 이용되는 중간 값들을 단지 컴퓨팅할 수도 있다. 추가로, 로컬 사용자 디바이스는 그 후에 시간의 경과에 따라 △W 의 np 엘리먼트들에 대해 단지 파악하고 있을 수도 있다. 디바이스는 그 np 엘리먼트들을 적절한 시간에 중앙 서버로 전송할 수도 있다.

다음 반복 동안에, 다른 옵션들이 구현될 수도 있다. 예를 들어, 하나의 구성에서, 디바이스는 동일한 세트의 엘리먼트 로케이션들을 유지할 수도 있거나 또는 새로운 랜덤 엘리먼트 로케이션들을 재생성할 수도 있다. 추가적으로, 중앙 서버에 의해 푸시 아웃되는 파라미터 np 의 값은 예를 들어, 디바이스들의 수를 증가시키는 것, 모델 사이즈들을 변화시키는 것, 대역폭을 증가시키는 것, 및 다른 팩터들을 설명하기 위해 시간의 경과에 따라 변화할 수도 있다.

다른 구성에서, 중앙 서버는 디바이스들로부터 파라미터들의 전부 또는 일부를 수신할 수도 있고 모델을 업데이트하는데 이용된 △W들을 서브샘플링할 수도 있다. 이것은 각각의 업데이트에 대해 중앙 서버에서 수행된 컴퓨테이션들의 양을 제어하기 위해 행해질 수도 있다. 일부 양태들에서, 중앙 서버는 또한 수신된 업데이트들의 전부로부터 △W들의 랜덤 서브세트들을 이용할 수도 있다. 다른 양태들에서, 중앙 서버는 수신된 업데이트들의 일부를 드롭할 수도 있다.

중앙 서버로부터 디바이스들로

모델 업데이트들을 디바이스들에 배포 또는 푸시 아웃하는 것은 또한 많은 양의 대역폭을 소비할 수도 있다. 대역폭을 감소시키기 위해 구현될 수도 있는 여러 접근법들이 존재한다.

하나의 접근법은 모델이 모든 사용자들에 공통이기 때문에 가중치 업데이트들을 사용자들에 브로드캐스트 또는 멀티-캐스트하는 것이다. 예를 들어, 하나의 구성에서, 가중치 업데이트들은 오버헤드 채널들, 이를 테면 셀룰러 단문 메시지 서비스 (SMS) 채널들, 브로드캐스트 채널들, 또는 오버헤드 로케이션들에서 배포될 수도 있다.

다른 접근법은 이전 모델 가중치 값들에 기초하여 알고리즘을 이용하여 모델 가중치 업데이트들을 압축하는 것이다. 예를 들어, 모델 Wk+1 에 대해, 중앙 서버는 Wk+1-Wk 를 컴퓨팅한 후 결과의 벡터에 대해 표준 압축 프로세스를 이용할 수도 있으며, 이는 모델 업데이트를 전송하기 위해 작은 값들을 가져야 한다. 사용자 (디바이스) 가 업데이트를 수신할 때, 디바이스는 그것을 압축해제하고 그것을 이전 모델에 추가할 수도 있다. 대안적으로, 허프만 (Huffman) 압축은 p(Wk+1|Wk) 의 추정된 확률들에 기초하여 이용될 수도 있다.

추가적으로, 운동량을 이용하여 DNN 에서 발생할 수도 있는 바와 같이, 가중치 업데이트들에서 상관이 존재하면, 서버는 가중치 업데이트들의 이중 차이 (double difference) 를 컴퓨팅할 수도 있다:

이중 차이는 모델 업데이트들에 대해 압축 및 전송될 수도 있다. 일부 양태들에서, 확률에 기초한 압축에는

가 이용될 수도 있다.

또 다른 접근법에서, 중앙 서버는 사용자 디바이스들이 현재 반복을 위해 초점을 맞출 (예를 들어, 업데이트) 주어진 모델 층 또는 가중치들의 세트를 표시할 수도 있다. 이 경우에, 서버는 현재의 모델 업데이트 반복을 위해 타겟팅되는 가중치들의 세트를 표시할 수도 있다. 디바이스들은 타겟팅된 세트의 가중치들에만 관련된 가중치 업데이트들을 추적할 수도 있다. 상기와 유사하게, 디바이스들은 이 타겟팅된 세트의 가중치들의 랜덤 서브세트들을 추가로 선택할 수도 있다. 디바이스들은 그들의 모델 가중치 업데이트들은 반복의 마지막에 중앙 서버로 전송할 수도 있다. 서버는 차례로, 이 가중치들의 세트에 대한 업데이트된 모델을 컴퓨팅하고 이들 업데이트된 가중치들만을 다음 모델 업데이트를 위해 보낼 수도 있다. 일부 양태들에서, 시간의 경과에 따른 반복들은 학습을 위해 상이한 가중치 세트들을 타겟팅할 수도 있다.

상기 접근법의 확장으로서, 중앙 서버는 일부 양태들에서, 상이한 서브세트들의 사용자들에 반복을 위해 상이한 층들 또는 서브세트들의 가중치들을 타겟팅하도록 지시할 수도 있다. 중앙 서버는 또한, 어느 층 또는 모델 서브세트가 성능에 가장 큰 영향을 주고 단지 그 업데이트들을 푸시 아웃할지를 체크하기 위해 검증 체크 페이즈를 이용할 수도 있다.

공통 피처들에 대한 커스텀화된 분류자

본 개시의 양태들은 공통 피처 함수들에 대한 커스텀화된 분류자에 추가로 관련된다. 사용자가 야생 버섯을 그들의 겉모습에 의해 식별하길 원하고 사용자는 이 능력을 위해 지불 의사가 있다는 것을 가정한다. 하나 이상의 버섯 전문가들이 그들의 직업에 대해 보상받을 수 있는 바와 같은 방식으로 이들 전문가들이 그들의 지식을 사용자 및 다른 버섯 채취자들에게 전달하는 효율적인 방식은 무엇인가? 버섯들 외에도, 전문가 라벨링으로 이익을 얻을 수 있는 오브젝트들의 클래스들의 다른 예들은 자동차들, 동물들, 순수 미술의 직업들, 의료 진단 이미지들 등을 포함한다.

본 개시의 양태들에 따르면, 머신 학습의 파워를 레버리징하는 분류자가 개시된다. 일 세트의 엔티티들 (예를 들어, 지정된 사용자들 또는 전문가들) 은 중앙 서버 또는 "모델 스토어" 에 라벨링된 예들의 코퍼스들을 제공할 수도 있다. 이 중앙 서버는 특정한 감각 양상 (또는 양상들의 조합) 에 관련 있는 통계적 피처들의 세트를 또한 포함할 수도 있다. 이들 피처들은 자율 방식으로 학습될 수도 있다. 서버는 분류자를 컴퓨팅하기 위해 라벨링된 예들의 전문가-제공 세트와 학습된 피처들 양자를 이용할 수도 있다. 서버는 컴퓨팅된 분류자의 파라미터들을, 사용자들이 그들이 직면하는 다양한 오브젝트들의 클래스를 컴퓨팅하는 것을 허용할 디바이스들에 배포할 수도 있다.

분류자의 파라미터들을 저장하는데 소비된 메모리는 통상적으로 풀 트레이닝 코퍼스보다 더 작은 수 십배수 (many orders of magnitude) 일 것이다. 이 클라이언트-서버 아키텍처는 또한, 2 개의 트레이닝 코퍼스들의 연접 (concatenation) 에 대해 단일의 분류자를 트레이닝하는 가능성을 허용하여, 별개의 또는 오버랩핑 도메인들 중 어느 하나에서 다수의 전문가들로부터의 분류 지식을 병합하는 능력을 사용자에게 기부할 수도 있다.

정확한 분류를 구현하기 위해, 디바이스들이 적절한 세트의 피처들, 분류자 파라미터들을 저장하는 능력, 및 이들 파라미터들을 전개하는 능력을 지니고 있는 것을 보장하도록, 서버측 및 사용자의 디바이스측 양자에 인프라스트럭처가 제공될 수도 있다. 이에 따라, 본 개시의 양태에서, 잠재적으로 매우 많은 수의 사용자들 간에 하나 이상의 지정된 사용자들 또는 전문가들의 분류 전문지식을 공유하기 위한 프로세스가 개시된다. 하나 이상의 사용자들은 감각 데이터를 수집하고, 일부 경우들에서 이들 데이터를 의미있는 라벨들로 분류하기 위해 모바일 디바이스들을 이용하길 원할 수도 있다 (예를 들어, 버섯 타입을 식별하기 위하여 카메라로 버섯을 뷰잉한다). 라벨링된 데이터 코퍼스들의 형태일 수도 있는 "전문지식" 은 하나 이상의 서버들에 공급될 수도 있고, 그 하나 이상의 서버들은 라벨링된 데이터 코퍼스들을 이전에 학습된 피처들의 세트와 결합하여 그 피처들에 대한 분류자를 컴퓨팅할 수도 있다. 서버는 그 후 임의의 관심 있어 하는 사용자들의 디바이스들에 분류자를 배포할 수도 있다. 서버들보다 사용자들이 훨씬 더 많을 수도 있다.

도 12 는 본 개시의 양태들에 따른 분류자를 생성하기 위한 일 예시적인 데이터 플로우 (1200) 를 예시하는 플로우차트이다. 도 12 를 참조하면, 블록 1202 에서, 서버는 하나 이상의 사용자들에 피처들 (F) 의 세트를 배포할 수도 있다.

일부 양태들에서, 사용자들은 입력 데이터로부터 동일한 피처들을 컴퓨팅하기 위한 메커니즘을 각각 가질 수도 있다. 모든 사용자들이 동일한 입력 피처들을 공유하는 것을 보장하기 위한 하나의 방식은 서버가 버전 넘버와 함께, 이들 피처들을 모든 사용자들에게 푸시 또는 배포하는 것일 것이다. 예를 들어, 하나 이상의 층들을 가진 인공 뉴럴 네트워크 (ANN) 는 피처들을 컴퓨팅할 수도 있고, 따라서 서버는 이 ANN 의 연결 가중치들을 모든 사용자들에게 전송함으로써 데이터 플로우의 이 부분을 수행할 수 있다. 이들 피처들은 또한, 분산 자율 학습을 이용하여 집합적으로 학습될 수 있다.

사용자들의 세트에 분류자들을 제공하는데 관심있는 엔티티, 전문가 또는 다른 지정된 사용자는 서버에 라벨링된 데이터를 제공할 수도 있다. 이 라벨링된 데이터의 코퍼스는 입력 피처들이 변화한 이벤트에서 분류자들을 재트레이닝할 수 있도록 서버에 이용가능한 상태일 수도 있다. 블록 1204 에서, 예를 들어, 전문가는 데이터 D 및 라벨들 L 을 포함하는 라벨링된 예들 E 의 코퍼스를 서버로 전송할 수도 있다. 예를 들어, 라벨링된 예들의 코퍼스는 이미지들의 세트 (및 각각의 이미지에 대한 고유한 라벨들의 세트) 의 형태일 수도 있다.

블록 1206 에서, 서버는 예들 E 의 코퍼스에서 각각의 라벨링된 데이텀 Di 및 그 대응하는 전문가-제공 라벨 Li 사이의 맵핑을 학습하는 분류자를 구축 또는 학습할 수도 있다. 가능한 분류자들 및 학습 방법들의 많은 선택들이 있을 수도 있다. 예를 들어, 하나의 양태에서, ANN 은 분류자를 위해 이용될 수도 있고 트레이닝은 역전파를 이용하여 수행될 수도 있다.

일부 양태들에서, 다수의 전문가들의 트레이닝 세트들에 포함된 지식을 결합하는 분류자 (예를 들어, 이미지들에서 버섯과 나비 양자를 식별할 수 있는 분류자) 가 또한 구성될 수도 있다. 이 결합된 분류자는 예를 들어, 2 개의 트레이닝 코퍼스들의 혼합을 이용하여 트레이닝을 수행함으로써 구성될 수도 있다.

추가적인 양태들에서, 분류자 파라미터들은 아키텍처 파라미터들 (예를 들어, ANN 의 경우에, 층에서의 유닛들의 수) 을 포함할 수도 있다. 이것은 제안된 또는 표시된 주어진 코퍼스의 복잡성이 더 높은 용량 및 그에 따른 주어진 층에서의 더 많은 유닛들을 가진 분류자를 이용하는 경우에 유용할 수도 있다.

하나의 양태에서, 트레이닝은 고정된 피처들 F(d) 의 위에 분류자를 트레이닝하는 것을 수반할 수도 있거나, 또는 그것은 예를 들어, 피처 층들 뿐만 아니라 상부 분류 층들을 통하여 역전파함으로써 피처들을 미세-튜닝하는 것을 수반할 수도 있다. 다른 양태에서, 업데이트된 F(d) 및/또는 고정된 피처들 F(d) 로부터의 가중치 델타들은 사용자 디바이스들로 보내질 수도 있다. 다른 양태에서, 트레이닝은 동일한 공유된 피처들 F(d) 의 위에 2 개의 전문가 트레이닝 세트들에 대한 2 개의 별도의 분류자들을 트레이닝하는 것을 포함할 수도 있다.

추가로, 분류자는 또한, 분류자가 상부 또는 일반적인 레벨 뿐만 아니라 보다 특정의 분류자들을 갖도록 계층적 방식으로 구성 또는 조직화될 수도 있다. 예를 들어, 상부-레벨 분류자는 이미지를 자동차로서 분류할 수도 있는 한편, 보다 특정의 분류자들은 자동차의 타입 (예를 들어, 세단, 스포츠 유틸리티 카, 스포츠카 등) 을 분류할 수도 있다. 특정의 분류자들의 다수의 층들이 또한 제공될 수도 있다. 예를 들어, 하나의 특정 층은 이미지를 1958 페라리 GT 캘리포니아 스파이더로서 분류할 수도 있다.

일부 양태들에서, 분류자는 데이터 세트에 적용되고 상부-레벨 분류를 수행하도록 구성될 수도 있다. 상부-레벨 분류에 기초하여, 분류자는 서버로부터 하나 이상의 추가적인 분류자들을 요청할 수도 있다. 하나 이상의 추가적인 분류자들의 수신 시에, 데이터 세트에 대한 보다 특정의 분류들이 수행될 수도 있다.

블록 1208 에서, 사용자는 서버 (예를 들어, "모델 스토어") 를 통해 선택들의 중앙 세트로부터 분류자 또는 지식의 바디 (body) 를 선택할 수도 있다. 사용자는 어느 분류자를 다운로드하길 원하는지에 대한 선택을 서버에 표시할 수도 있다. 이것은 예를 들어, 다운로드에 대해 이용가능한 모든 분류자들을 디스플레이하는 온라인 스토어의 형태를 취할 수도 있다. 이 스토어는 분류자에 더하여, 사용자들에게 분류자를 컴퓨팅하기 위해 로우-레벨 피처들을 다운로드하는 옵션을 제공할 수도 있다 (예를 들어, 버섯 분류자의 경우에, 사용자는 자연 이미지들에 대한 로우-레벨 시각적 피처들의 세트를 먼저 다운로드할 수도 있다). 사용자는 또한, 다수의 분류자들이 결합된 분류자로서 다운로드되도록 특정할 수도 있다.

게다가, 사용자는 원하는 분류자들의 계층구조에서 층을 특정할 수도 있다. 예를 들어, 사용자는 사과와 같은 과일을 분류하기 위한 일반적인 분류자, 또는 사과들의 타입들 (예를 들어, 그래니 스미스, 핑크 레이디, 후지, 갈라 등) 간을 추가로 구별할 수도 있는 보다 특정의 분류자를 원할 수도 있다.

블록 1210 에서, 서버는 사용자에게 분류자 C 를 기술하는 파라미터들의 형태로 요청된 지식을 제공할 수도 있다. 일단 사용자가 구축 및/또는 다운로드할 하나 이상의 분류자들을 특정했다면, 서버는 이 분류자의 파라미터들을 사용자의 디바이스에 배포 또는 푸시할 수도 있다. ANN-기반 분류자의 경우에, 이들 파라미터들은 예를 들어, 연결 가중치들 및 바이어스 항들을 포함할 수도 있다.

일부 인스턴스들에서, 서버는 소정의 분류자의 파라미터들 또는 분류자들의 계층구조의 층을 사용자에게 자동적으로 푸시할 수도 있다. 이것은 예를 들어, 사용자를 통해 제공된 감각 정보에 기초할 수도 있다 (예를 들어, 사용자는 스포츠 카들의 다수의 이미지들을 갖는다 - 보다 특정의 분류자가 사용자가 캡처된 스포츠카 이미지들을 추가로 분류하는 것을 가능하게 하기 위해 제공될 수도 있다).

블록 1212 에서, 사용자는 데이터 d 를 수집할 수도 있다 (예를 들어, 그녀의 스마트폰으로 버섯의 픽처를 촬영한다). d 에 대한 피처들 F(d) 는 예를 들어, 피처들 F 의 이전에 제공된 세트를 이용하여 로컬로 컴퓨팅될 수도 있다. 분류자 C 는 알려지지 않은 자극에 대한 추정된 전문가의 라벨 (예를 들어, 버섯의 타입) 을 컴퓨팅하기 위해 이들 피처들에 적용될 수도 있다.

일단 일 세트의 피처들 F 및 다운로드된 분류자 C 를 가지고 있으면, 사용자는 데이터 세트 d (예를 들어, 버섯의 이미지) 를 수집하고, 그 피처들 F(d) 을 추출하고, 이들을 분류자에 피딩하여 분류 C(F(d)) 를 획득할 수도 있다. 이들 피처들에 대한 분류자의 출력은 전문가가 이전에 제공한 라벨링된 코퍼스 E 와 부합하는 이 관측의 클래스의 전문가의 의견을 나타낼 수도 있다. 본 개시의 양태들에 따르면, 많은 분류자들 (예를 들어, 상대적으로 섈로우 (shallow) ANN들) 은 상대적으로 빠르게 컴퓨팅될 수도 있다. 이것은 분류가 데이터를 획득하자마자 일어날 수도 있고 데이터 획득 프로세스의 일부로서 바로 사용자에게 제시될 수도 있다는 것을 의미한다. 예를 들어, 사용자의 스마트폰 카메라 뷰파인더는 실시간으로 이미지 자체의 위에 버섯의 추정된 타입을 디스플레이할 수도 있다.

대안적으로, 분류자가 복잡하다면, 사용자의 데이터 d 의 분류는 먼저 디바이스 상에서 피처들 F(d) 을 컴퓨팅하고 그 피처들을 서버로 전송함으로써 서버 상에서 다시 수행될 수도 있다. 서버는 그 후 분류 C(F(d)) 를 컴퓨팅하고 그 결과를 다시 사용자의 디바이스로 전송할 수도 있다.

사용자 피드백

사용자들이 그들의 디바이스 상에서 데이터를 분류하는 것이 가능할 때, 그들은 옵션적으로는 시스템에 관련된 피드백을 제공하길 원할 수도 있다. 이러한 피드백은 예를 들어, 다음의 형태를 취할 수도 있다:

타입 1 : 사용자가 분류자가 주어진 입력에 대해 부정확한 라벨을 생성했다고 생각하고 정확한 라벨이 무엇인지 알고 있는 경우에, 새로운 라벨;

타입 2 : 사용자가 분류자가 주어진 입력에 대해 부정확한 라벨을 생성했다고 생각하지만 정확한 라벨이 무엇인지 알고 있지 않은 경우에, "잘못된 라벨" 메시지; 또는

타입 3 : 분류자의 초기 결과들에 기초하여, 사용자가 동일한 데이터에 대해 보다 전문화된 분류자를 적용하길 원하는 경우에, 상이한 분류자를 로딩하기 위한 요청.

피드백은 사용자의 디바이스, 서버, 전문가 또는 지정된 사용자, 또는 사용자 또는 다른 엔티티의 그룹에 제공될 수도 있다. 일부 양태들에서, 타입 1 피드백은 프라이빗 분류자를 구축하는데 이용될 수도 있다. 예를 들어, 프라이빗 분류자는 사용자가 추가적인 라벨링된 예들을 제공할 수 있는 전문가-제공 분류자로부터 유도될 수도 있다. 타입 2 피드백은 네거티브 라벨링된 예들을 제공함으로써 분류자를 재트레이닝하기 위해 별개로 또는 바람직하게는 다른 사용자들로부터의 피드백과 조합하여 이용될 수도 있다.

타입 3 피드백은 다른 분류자들에 대한 오브젝트 클래스들 간의 연관성들의 데이터베이스를 구축하는데 이용될 수 있다. 예를 들어, 광범위한 오브젝트 분류를 위해 분류자를 이용하는 누군가는 사과를 이미징하고, 라벨 "사과" 를 수신한 후 특정 품종의 사과를 결정하기 위하여 사과들에 대한 보다 특정의 분류자로 스위칭할 수도 있다. 이 액션은 라벨 "사과" 를 공급하는 다른 분류자들이 또한 사용자들에게 동일한 특정의 사과 분류자로 스위칭하기 위한 옵션을 자동적으로 제공할 수 있도록 피드백 형태로 캡처될 수도 있다. 이러한 타입 3 피드백을 누적함으로써, 시스템은 분류자들의 계층구조로 다수의 분류자들을 순서화 또는 조직화하고 콘텍스트-의존적인 방식으로 보다 특정의 분류자들로의 자동 스위칭을 제공할 수도 있다. 하나의 분류자로부터 보다 특정의 분류자로 스위칭하기 위한 판정은 자동화되고 예를 들어, 사용자가 소정의 오브젝트 상에 얼마나 오랫동안 드웰링하는지, 또는 클래스의 얼마나 많은 인스턴스들이 단일의 이미지에 존재하는지에 기초할 수 있다 (예를 들어, 이미지에 많은 "사과들" 이 존재하면, 예를 들어 사과들의 보다 특정의 분류자가 유용할 수도 있다).

모델 스토어

이들 분류자들 및 전문가 모델들에 대한 전단 클리어링 플레이스가 모델 스토어일 수도 있다. 모델 스토어는 소정의 사용자들 (예를 들어, 전문가들) 이 그들의 라벨링된 데이터 세트들을 업로드하고 그들의 데이터 세트들을 이용하여 구축된 분류자들에 대한 가격을 설정하는 것을 허용할 수도 있다. 모델 스토어는 또한, 사용자들이 모델들을 트레이닝하고 공유된 피처들의 효율을 재사용하기 위해 상기 설명된 백엔드 프로세스로 모델들을 구매하는 것을 허용할 수도 있다.

모델 스토어에서의 프라이싱은 각각의 전문가 라벨링된 데이터 세트에 대한 원-오프 (one-off) 프라이싱을 허용할 수도 있거나, 또는 콤비네이션 프라이싱을 허용할 수도 있다. 콤비네이션 프라이싱의 일 예는 주어진 피처 세트 상의 제 1 분류자에 대해 더 높은 가격 그리고 동일한 피처 세트로 구축된 후속 분류자들에 대해 감소된 가격을 포함할 수도 있다. 대안적으로, 콤비네이션 프라이싱은 제 1 버섯 분류자에 대해 주어진 가격 및 다른 전문가들로부터의 후속 버섯 분류자들에 대해 할인된 프라이싱을 포함할 수 있다.

백엔드는 증분적 가격을 결정하는 것을 돕기 위해 추가적인 전문가 라벨링된 데이터를 추가하는 증분적 향상을 위해 일부 조인트 성능 스코어들을 컴퓨팅할 수도 있다. 모델 스토어는 또한, 분류 정확성들, 라벨링된 이미지들의 수 등과 같이, 어느 전문가의 데이터 세트들을 구매할지의 사용자 선택을 돕기 위한 메트릭들을 디스플레이할 수도 있다.

모델 스토어는 또한, 사용자가 예를 들어, 어느 버섯 분류자가 그들의 데이터에 가장 적합한지를 평가하기 위해 그들의 폰 상에서 획득된 버섯의 몇몇 이미지들로부터 피처들 F(d) 를 업로드하는 것을 허용할 수도 있다. 사용자로부터의 샘플 이미지들에 대해 가장 높은 분류 정확성을 달성하는 모델이 구매할 모델일 것이다.

다른 예시적인 사용 케이스들

일부 양태들에서, 사용자는 피처들의 공통 세트와 조합하여 작용하는 "앱 스토어" 또는 다른 애플리케이션 판매점으로부터 특정의 분류자를 구매할 수도 있다.

하나의 양태에서, 과일들 및 야채들의 코어스 분류자는 사용자의 디바이스에 의해 감지되는 오브젝트를 사과로서 식별할 수도 있다. 게다가, 오브젝트 위에 드웰링 및 호버링함으로써, 분류자는 사용자에게 그들이 그래니 스미스 사과를 보고 있다는 것을 말하기 위해 (동일한 공통 피처 함수들에 대해 트레이닝된) 사과들의 보다 특정의 분류자를 로딩할 수도 있다. 일부 양태들에서, 분류자는 오브젝트를 추가로 분류할 수도 있는 하나 이상의 다른 분류자들을 식별할 수도 있다.

다른 양태에서, 트레인들에 관해 많이 알고 있는 사용자는 전문가의 트레인 분류자를 구입하고 그것을 그들 자신의 지식으로 늘릴 수 있다.

또 다른 양태에서, 구글 글라스를 착용하고 다보스 (Davos) 로 여행하는 사용자는 2 개의 전문가 분류자들 - 유명인의 얼굴 및 치즈 - 을 헤즈-업 (heads-up) 디스플레이를 위한 하나의 결합된 라벨러로 병합하는 커스텀화된 분류자를 생성할 수도 있다.

또 다른 양태에서, 위험 장소에 카메라들 또는 다른 센서들을 구비한 로봇들 떼가 그들의 카메라들 (또는 다른 센서들) 및 자율 학습을 이용하여 그들의 환경 (자갈, 잔디, 진흙, 고무) 에서 텍스처들을 나타내기 위한 훌륭한 시각적 피처들을 발견할 수도 있다. 또한, 가속도기들 및 주행기록계들을 이용하면, 몇몇 스카우트 로봇들은 로봇이 이 종류의 지역에 걸쳐 순방향 진행을 행할 수 있는지 여부에 기초하여 상이한 텍스처들에 "패서블 (passable)" 및 "임패서블 (impassable)" 의 라벨들을 할당할 수도 있다. 로봇들은 또한, 이들 피처들에 대한 커스텀 분류자를 학습할 수도 있다. 커스텀 분류자들은 그 후, 그 떼의 나머지와 공유될 수도 있다.

본 개시의 양태들은 스파이킹 뉴런들 및 스파이킹 뉴런 모델들을 설명했지만, 이것은 단지 예시적일 뿐이며 넌-스파이킹 뉴런들 및 뉴런 모델들이 또한 이용될 수도 있다. 더욱이, 본 명세서에서 개시된 개념들 및 기법들은 스파이킹 및 넌-스파이킹 양자의 분산 학습을 위해 이용될 수도 있다.

도 13 은 본 개시의 양태들에 따른 모델을 학습하기 위한 방법 (1300) 을 예시한다. 블록 1302 에서, 프로세스는 하나 이상의 사용자들로부터 하나 이상의 모델 업데이트들을 수신한다. 블록 1304 에서, 프로세스는 이전 모델 및 모델 업데이트들에 기초하여 업데이트된 모델을 컴퓨팅한다. 더욱이, 블록 1306 에서, 프로세스는 업데이트된 모델에 기초하여 업데이트된 모델의 서브세트에 관련된 데이터를 하나 이상의 사용자들에 송신한다.

일부 양태들에서, 업데이트된 모델은 성능 메트릭들 및/또는 모델 용량에 기초하여 검증될 수도 있다.

일부 양태들에서, 업데이트된 모델은 모델 업데이트들의 비교 분석에 기초하여 이상치들을 검출하는 것에 기초하여 컴퓨팅될 수도 있다.

일부 양태들에서, 업데이트된 모델은 모델 아키텍처 및/또는 학습 레이트의 변화를 포함할 수도 있다. 아키텍처 및/또는 학습 레이트는 검증 데이터 및/또는 가중치 업데이트들의 희박성에 대한 모델 성능에 기초하여 결정된다.

일부 양태들에서, 서브세트는 모델들의 단지 새롭게 트레이닝된 층들을 포함할 수도 있다. 일부 양태들에서, 서브세트는 모델들의 랜덤 서브세트를 포함할 수도 있다.

도 14 는 본 개시의 양태들에 따른 모델을 학습하기 위한 방법 (1400) 을 예시한다. 블록 1402 에서, 프로세스는 공유된 추론 모델에 기초하여 서버로부터 데이터를 수신한다. 블록 1404 에서, 프로세스는 수신된 데이터에 기초하여 하나 이상의 모델 파라미터들을 포함하는 모델을 생성한다. 블록 1406 에서, 프로세스는 모델에 기초하여 추론을 컴퓨팅한다. 블록 1408 에서, 프로세스는 추론에 기초하여 하나 이상의 모델 파라미터 업데이트들을 컴퓨팅한다. 더욱이, 블록 1410 에서, 프로세스는 서버에 모델 파라미터 업데이트(들)에 기초하여 데이터를 송신한다.

일부 양태들에서, 프로세스는 로컬로 캐시된 트레이닝 예들을 이용하여 분류자를 트레이닝하는 것을 더 포함한다.

일부 양태들에서, 데이터는 현재 모델 업데이트와 이전 모델 업데이트 사이의 차이에 기초하여 송신될 수도 있다. 예를 들어, 그 차이는 운동량 모델에서 압축 또는 이용될 수 있다.

일부 양태들에서, 모델 파라미터 업데이트(들)를 컴퓨팅하고 및/또는 그 모델 파라미터 업데이트(들)에 기초하여 데이터를 송신하는 것은 컴퓨팅 및/또는 전송할 모델 파라미터들의 랜덤 서브세트를 선택하는 것을 포함한다.

도 15 는 본 개시의 양태들에 따른 분류자들의 세트를 업데이트하기 위한 방법 (1500) 을 예시한다. 블록 1502 에서, 프로세스는 데이터의 제 1 세트에 분류자들의 제 1 세트를 적용한다. 데이터는 센서 데이터 또는 사용자 디바이스 상에 저장된 다른 데이터를 포함할 수도 있다. 더욱이, 블록 1504 에서, 프로세스는 원격 디바이스로부터, 분류자들의 제 1 세트의 출력 및/또는 분류자들의 제 1 세트의 적용의 성능 측정에 기초하여 분류자 업데이트를 요청한다.

일부 양태들에서, 요청은 콘텍스트 정보에 기초할 수도 있다. 콘텍스트 정보는 예를 들어, 사용자 입력 정보, 주어진 시간 주기 (예를 들어, 하루, 일주일, 한 달 등) 동안의 관측들의 수, 로케이션, 활동도, 가속도계들, 잔여 배터리 수명 (예를 들어, 배터리 수명이 낮다면, 낮은 복잡성 분류자가 표시될 수도 있다) 을 포함할 수도 있다. 추가적인 양태들에서, 요청은 컴퓨테이션 로드에 기초할 수도 있다. 예를 들어, 컴퓨테이션 로드가 높은 경우 (예를 들어, 미리결정된 임계치를 상회), 보다 낮은 복잡성 분류자가 표시될 수도 있다. 다른 한편으로는, 컴퓨테이션 로드가 낮은 경우 (예를 들어, 미리결정된 임계치를 하회), 보다 복잡한 분류자가 이용될 수도 있다.

일부 양태들에서, 성능 측정은 분류자들의 정확성 또는 신뢰성, 다수의 분류자들의 합의의 표시, 분류자들의 컴퓨테이션의 속도 및/또는 등등을 포함할 수도 있다.

도 16 은 본 개시의 양태들에 따른 분류자 모델을 생성하기 위한 방법 (1600) 을 예시한다. 블록 1602 에서, 프로세스는 사용자들에 공통 피처 모델을 배포한다. 블록 1604 에서, 프로세스는 공통 피처 모델의 위에 분류자들을 트레이닝한다. 더욱이, 블록 1606 에서, 프로세스는 제 1 사용자에 제 1 분류자를 그리고 제 2 사용자에 제 2 분류자를 배포한다.

일부 양태들에서, 분류자들 중 하나 이상은 엔티티로부터 획득된 라벨링된 데이터의 세트 상에 트레이닝될 수도 있다. 엔티티는 사용자, 소정의 지정된 사용자 또는 다른 엔티티들을 포함할 수도 있다. 메트릭은 엔티티로부터 획득된 라벨링된 데이터의 세트 상에 트레이닝된 분류자들의 각각에 대해 제공될 수도 있다. 메트릭은 예를 들어, 분류 정확성 또는 라벨링된 이미지들의 수에 관한 정보를 포함할 수도 있다.

일부 양태들에서, 프로세스는 원격 디바이스 상의 데이터로부터 컴퓨팅된 하나 이상의 피처들을 수신한다. 추가로, 프로세스는 하나 이상의 피처들에 기초하여 원격 디바이스 상의 데이터를 분류하기 위한 하나 이상의 식별자들을 결정한다. 차례로, 프로세스는 원격 디바이스에 하나 이상의 분류자들의 표시를 배포한다.

일부 양태들에서, 프로세스는 원격 디바이스 상의 데이터로부터 컴퓨팅된 피처를 수신한다. 프로세스는 또한, 수신된 피처에 기초하여 분류를 컴퓨팅한다. 게다가, 프로세스는 원격 디바이스에 분류를 송신한다.

일부 양태들에서, 프로세스는 제 1 분류자와 제 2 분류자를 결합하여 결합된 분류자를 생성한다. 결합된 분류자는 라벨링된 데이터의 하나 이상의 세트들과 연관된 클래스들에 대한 분류들을 행하도록 구성될 수도 있다. 프로세스는 또한 사용자들 중 하나 이상에 결합된 분류자를 배포한다.

도 17 은 본 개시의 양태들에 따른 분류자 모델을 생성하기 위한 방법 (1700) 을 예시한다. 블록 1702 에서, 프로세스는 제 1 분류자 모델을 학습하기 위해 제 1 지정된 사용자로부터의 라벨링된 예들의 제 1 코퍼스들에 공통 피처 맵들의 세트를 적용한다. 블록 1704 에서, 프로세스는 제 2 분류자 모델을 학습하기 위해 제 2 지정된 사용자로부터의 라벨링된 예들의 제 2 코퍼스들에 공통 피처 맵들의 세트를 적용한다. 더욱이, 블록 1706 에서, 프로세스는 제 1 분류자 모델 및 제 2 분류자 모델을 포함하는 분류자 모델을 하나 이상의 사용자들에 배포한다.

일부 양태들에서, 결합된 분류자가 생성될 수도 있다. 결합된 분류자는 공통 피처 함수들의 제 1 세트 및 공통 피처 함수들의 제 2 세트를 이용하는 것 및 라벨링된 예들의 추가적인 코퍼스들, 라벨링된 예들의 코퍼스들에 기초하여 생성될 수도 있다. 이로써, 결합된 분류자는 라벨링된 예들의 하나 이상의 코퍼스들 및 추가적인 코퍼스들과 연관된 클래스들에 대한 분류들을 행하도록 구성될 수도 있다.

상기 설명된 방법들의 다양한 동작들은 대응하는 기능들을 수행하는 것이 가능한 임의의 적합한 수단에 의해 수행될 수도 있다. 수단은 회로, 주문형 집적 회로 (ASIC), 또는 프로세서를 포함하지만 이들에 제한되지는 않는 다양한 하드웨어 및/또는 소프트웨어 컴포넌트(들) 및/또는 모듈(들)을 포함할 수도 있다. 일반적으로, 도면들에 예시된 동작들이 존재하는 경우, 그 동작들은 유사한 넘버링을 갖는 대응하는 상대 수단-플러스-기능 컴포넌트들을 가질 수도 있다.

본 명세서에서 사용한 바와 같이, 용어 "결정하는 것" 은 매우 다양한 액션들을 포괄한다. 예를 들어, "결정하는 것" 은 계산하는 것, 컴퓨팅하는 것, 프로세싱하는 것, 유도하는 것, 조사하는 것, 룩업하는 것 (예를 들어, 테이블, 데이터베이스 또는 다른 데이터 구조에서 룩업하는 것), 확인하는 것 등을 포함할 수도 있다. 추가적으로, "결정하는 것" 은 수신하는 것 (예를 들어, 정보를 수신하는 것), 액세스하는 것 (예를 들어, 메모리에서의 데이터에 액세스하는 것), 등을 포함할 수도 있다. 더욱이, "결정하는 것" 은 해결하는 것, 선택하는 것, 선정하는 것, 확립하는 것 등을 포함할 수도 있다.

본 명세서에서 사용한 바와 같이, 아이템들의 리스트 "중 적어도 하나" 를 지칭하는 어구는 단일 멤버들을 포함하여, 그 아이템들의 임의의 조합을 지칭한다. 일 예로서, "a, b, 또는 c 중 적어도 하나" 는: a, b, c, a-b, a-c, b-c, 및 a-b-c 를 커버하도록 의도된다.

본 개시와 관련하여 설명된 다양한 예시적인 논리 블록들, 모듈들 및 회로들은 본 명세서에서 설명된 기능들을 수행하도록 설계된 범용 프로세서, 디지털 신호 프로세서 (DSP), 주문형 집적 회로 (ASIC), 필드 프로그래밍가능 게이트 어레이 신호 (FPGA) 또는 다른 프로그래밍가능 로직 디바이스 (PLD), 이산 게이트 또는 트랜지스터 로직, 이산 하드웨어 컴포넌트들 또는 그 임의의 조합으로 구현 또는 수행될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안으로, 프로세서는 임의의 상업적으로 입수가능한 프로세서, 제어기, 마이크로제어기 또는 상태 머신일 수도 있다. 프로세서는 또한 컴퓨팅 디바이스들의 조합, 예를 들어, DSP 와 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 결합된 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성으로서 구현될 수도 있다.

본 개시와 관련하여 설명된 방법 또는 알고리즘의 단계들은 직접 하드웨어에서, 프로세서에 의해 실행된 소프트웨어 모듈에서, 또는 이 둘의 조합에서 구체화될 수도 있다. 소프트웨어 모듈은 당업계에 알려져 있는 임의의 형태의 저장 매체에 상주할 수도 있다. 사용될 수도 있는 저장 매체들의 일부 예들은 랜덤 액세스 메모리 (RAM), 판독 전용 메모리 (ROM), 플래시 메모리, 소거가능한 프로그래밍가능 판독 전용 메모리 (EPROM), 전기적으로 소거가능한 프로그래밍가능 판독 전용 메모리 (EEPROM), 레지스터들, 하드 디스크, 착탈식 디스크, CD-ROM 등을 포함한다. 소프트웨어 모듈은 단일 명령, 또는 다수의 명령들을 포함할 수도 있고, 여러 상이한 코드 세그먼트들을 통해, 상이한 프로그램들 사이에 및 다수의 저장 매체들에 걸쳐 분산될 수도 있다. 저장 매체는 프로세서가 저장 매체로부터 정보를 판독하고 저장 매체에 정보를 기록할 수 있도록 프로세서에 커플링될 수도 있다. 대안으로, 저장 매체는 프로세서와 일체형일 수도 있다.

본 명세서에서 개시된 방법들은 설명된 방법을 달성하기 위한 하나 이상의 단계들 또는 액션들을 포함한다. 방법 단계들 및/또는 액션들은 청구항들의 범위로부터 벗어남 없이 서로 상호교환될 수도 있다. 다시 말해서, 단계들 또는 액션들의 특정 순서가 특정되지 않는다면, 특정 단계들 및/또는 액션들의 순서 및/또는 사용은 청구항들의 범위로부터 벗어남 없이 수정될 수도 있다.

설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그 임의의 조합으로 구현될 수도 있다. 하드웨어로 구현되면, 일 예의 하드웨어 구성은 디바이스에 프로세싱 시스템을 포함할 수도 있다. 프로세싱 시스템은 버스 아키텍처로 구현될 수도 있다. 버스는 프로세싱 시스템의 특정 애플리케이션 및 전체 설계 제약들에 의존하여 임의의 수의 상호접속 버스들 및 브릿지들을 포함할 수도 있다. 버스는 프로세서, 머신 판독가능 매체들, 및 버스 인터페이스를 포함하는 다양한 회로들을 함께 링크할 수도 있다. 버스 인터페이스는 다른 것들 중에서도 네트워크 어댑터를 버스를 통해 프로세싱 시스템에 연결하는데 이용될 수도 있다. 네트워크 어댑터는 신호 프로세싱 기능들을 구현하는데 이용될 수도 있다. 소정의 양태들에 대해, 사용자 인터페이스 (예를 들어, 키패드, 디스플레이, 마우스, 조이스틱 등) 는 또한 버스에 연결될 수도 있다. 버스는 또한 타이밍 소스들, 주변기기들, 전압 레귤레이터들, 전력 관리 회로들 등과 같은 다양한 다른 회로들을 링크할 수도 있는데, 이들은 당업계에 잘 알려져 있기 때문에 더 이상 추가 설명되지 않을 것이다.

프로세서는 버스를 관리하는 것 및 머신 판독가능 매체들 상에 저장된 소프트웨어의 실행을 포함하는 일반적인 프로세싱을 담당할 수도 있다. 프로세서는 하나 이상의 범용 및/또는 특수-목적 프로세서들로 구현될 수도 있다. 예들은 마이크로프로세서들, 마이크로제어기들, DSP 프로세서들, 및 소프트웨어를 실행할 수 있는 다른 회로를 포함한다. 소프트웨어는 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 기술 언어, 또는 다른 것으로 지칭되든 간에, 명령들, 데이터, 또는 그 임의의 조합을 의미하는 것으로서 폭넓게 해석되어야 한다. 머신 판독가능 매체들은 일 예로, 랜덤 액세스 메모리 (RAM), 플래시 메모리, 판독 전용 메모리 (ROM), 프로그래밍가능 판독 전용 메모리 (PROM), 소거가능한 프로그래밍가능 판독 전용 메모리 (EPROM), 전기적으로 소거가능한 프로그래밍가능 판독 전용 메모리 (EEPROM), 레지스터들, 자기 디스크들, 광 디스크들, 하드 드라이브들, 또는 임의의 다른 적합한 저장 매체, 또는 그 임의의 조합을 포함할 수도 있다. 머신 판독가능 매체들은 컴퓨터 프로그램 제품에서 구체화될 수도 있다. 컴퓨터 프로그램 제품은 패키징 재료들을 포함할 수도 있다.

하드웨어 구현에서, 머신 판독가능 매체들은 프로세서와는 별개인 프로세싱 시스템의 일부일 수도 있다. 그러나, 당업자들이 쉽게 인식할 바와 같이, 머신 판독가능 매체들, 또는 그 임의의 조합은 프로세싱 시스템의 외부에 있을 수도 있다. 일 예로, 머신 판독가능 매체들은 전부가 버스 인터페이스를 통하여 프로세서에 의해 액세스될 수도 있는, 송신 라인, 데이터에 의해 변조된 캐리어파, 및/또는 디바이스와는 별개인 컴퓨터 제품을 포함할 수도 있다. 대안적으로, 또는 추가로, 머신 판독가능 매체들, 또는 그 임의의 부분은 프로세서에 통합될 수도 있으며, 그러한 경우에는 캐시 및/또는 일반 레지스터 파일들과 함께 있을 수도 있다. 논의된 다양한 컴포넌트들은 로컬 컴포넌트와 같은 특정 로케이션을 갖는 것으로서 설명될 수도 있지만, 그들은 또한, 분산 컴퓨팅 시스템의 일부로서 구성되는 소정의 컴포넌트들과 같이, 다양한 방식들로 구성될 수도 있다.

프로세싱 시스템은 프로세싱 기능성을 제공하는 하나 이상의 마이크로프로세서들 및 머신 판독가능 매체들의 적어도 일부를 제공하는 외부 메모리를 가진 범용 프로세싱 시스템으로서 구성될 수도 있고, 이들 전부는 외부 버스 아키텍처를 통하여 다른 지원 회로와 함께 링크된다. 대안적으로, 프로세싱 시스템은 뉴런 모델들 및 본 명세서에서 설명된 뉴럴 시스템들의 모델들을 구현하기 위한 하나 이상의 뉴로모픽 프로세서들을 포함할 수도 있다. 다른 대안으로서, 프로세싱 시스템은 단일 칩에 통합된 프로세서, 버스 인터페이스, 사용자 인터페이스, 지원 회로, 및 머신 판독가능 매체들의 적어도 일부를 가진 주문형 집적 회로 (ASIC) 로, 또는 하나 이상의 필드 프로그래밍가능 게이트 어레이들 (FPGA들), 프로그래밍가능 로직 디바이스들 (PLD들), 제어기들, 상태 머신들, 게이티드 로직, 이산 하드웨어 컴포넌트들, 또는 임의의 다른 적합한 회로, 또는 본 개시 전반에 걸쳐 설명된 다양한 기능성을 수행할 수 있는 회로들의 임의의 조합으로 구현될 수도 있다. 당업자들은, 전체 시스템에 부과된 전체 설계 제약들 및 특정한 애플리케이션에 의존하여 프로세싱 시스템에 대한 설명된 기능성을 가장 잘 구현하는 방법을 인지할 것이다.

머신 판독가능 매체들은 다수의 소프트웨어 모듈들을 포함할 수도 있다. 소프트웨어 모듈들은 프로세서에 의해 실행될 때, 프로세싱 시스템으로 하여금, 다양한 기능들을 수행하게 하는 명령들을 포함한다. 소프트웨어 모듈들은 송신 모듈 및 수신 모듈을 포함할 수도 있다. 각각의 소프트웨어 모듈은 단일 저장 디바이스에 상주하거나 또는 다수의 저장 디바이스들에 걸쳐 분산될 수도 있다. 일 예로, 소프트웨어 모듈은 트리거링 이벤트가 발생할 때 하드 드라이브로부터 RAM 으로 로딩될 수도 있다. 소프트웨어 모듈의 실행 동안, 프로세서는 명령들의 일부를 캐시로 로딩하여 액세스 속도를 증가시킬 수도 있다. 하나 이상의 캐시 라인들은 그 후 프로세서에 의한 실행을 위해 일반 레지스터 파일로 로딩될 수도 있다. 이하에서 소프트웨어 모듈의 기능성을 참조할 때, 이러한 기능성은 그 소프트웨어 모듈로부터 명령들을 실행할 때 프로세서에 의해 구현된다는 것이 이해될 것이다.

소프트웨어로 구현되면, 기능들은 컴퓨터 판독가능 매체 상에 하나 이상의 명령들 또는 코드로서 저장되거나 또는 이를 통해 송신될 수도 있다. 컴퓨터 판독가능 매체들은 일 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체들 및 컴퓨터 저장 매체들 양자를 포함한다. 저장 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 이용가능한 매체일 수도 있다. 제한이 아닌 일 예로, 이러한 컴퓨터 판독가능 매체들은 RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지 또는 다른 자기 저장 디바이스들, 또는 원하는 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 운반 또는 저장하는데 이용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 추가로, 임의의 연결이 적절히 컴퓨터 판독가능 매체라 불리게 된다. 예를 들어, 소프트웨어가 웹사이트, 서버, 또는 다른 원격 소스로부터 동축 케이블, 광섬유 케이블, 트위스티드 페어, 디지털 가입자 회선 (DSL), 또는 적외선 (IR), 라디오, 및 마이크로파와 같은 무선 기술들을 이용하여 송신되면, 매체의 정의에는 동축 케이블, 광섬유 케이블, 트위스티드 페어, DSL, 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술들이 포함된다. 디스크 (disk) 및 디스크 (disc) 는 본 명세서에서 사용한 바와 같이, 콤팩트 디스크 (CD), 레이저 디스크, 광 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크, 및 블루-레이® 디스크를 포함하고, 여기서 디스크 (disk) 들은 보통 데이터를 자기적으로 재생하는 한편, 디스크 (disc) 들은 레이저들로 데이터를 광학적으로 재생한다. 따라서, 일부 양태들에서, 컴퓨터 판독가능 매체들은 비일시적 컴퓨터 판독가능 매체들 (예를 들어, 유형의 매체들) 을 포함할 수도 있다. 추가로, 다른 양태들의 경우, 컴퓨터 판독가능 매체들은 일시적 컴퓨터 판독가능 매체들 (예를 들어, 신호) 을 포함할 수도 있다. 상기의 조합들이 또한 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.

따라서, 소정의 양태들은 본 명세서에서 제시된 동작들을 수행하기 위한 컴퓨터 프로그램 제품을 포함할 수도 있다. 예를 들어, 이러한 컴퓨터 프로그램 제품은 명령들을 저장한 (및/또는 인코딩한) 컴퓨터 판독가능 매체를 포함할 수도 있고, 그 명령들은 본 명세서에서 설명된 동작들을 수행하기 위해 하나 이상의 프로세서들에 의해 실행가능하다. 소정의 양태들에 대해, 컴퓨터 프로그램 제품은 패키징 재료를 포함할 수도 있다.

게다가, 본 명세서에서 설명된 방법들 및 기법들을 수행하기 위한 모듈들 및/또는 다른 적절한 수단은 적용가능할 때 사용자 단말기 및/또는 기지국에 의해 다운로드되고 및/또는 다르게는 획득될 수 있다는 것이 인식되어야 한다. 예를 들어, 이러한 디바이스는 본 명세서에서 설명된 방법들을 수행하는 수단의 전송을 용이하게 하기 위해 서버에 커플링될 수 있다. 대안적으로, 본 명세서에서 설명된 다양한 방법들은 사용자 단말기 및/또는 기지국이 저장 수단을 디바이스에 커플링 또는 제공할 때 다양한 방법들을 획득할 수 있도록, 저장 수단 (예를 들어, RAM, ROM, 물리적 저장 매체, 이를 테면 콤팩트 디스크 (CD) 또는 플로피 디스크 등) 을 통해 제공될 수 있다. 더욱이, 본 명세서에서 설명된 방법들 및 기법들을 디바이스에 제공하기 위한 임의의 다른 적합한 기법이 활용될 수 있다.

청구항들은 상기 예시된 정확한 구성 및 컴포넌트들에 제한되지 않는다는 것이 이해될 것이다. 다양한 수정들, 변화들, 및 변형들이 청구항들의 범위로부터 벗어남 없이 상기 설명된 방법들 및 장치의 어레인지먼트, 동작, 및 상세들에서 이루어질 수도 있다.

Claims

분류자들의 세트를 업데이트하는 방법으로서,
데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하는 단계; 및
원격 디바이스로부터, 상기 분류자들의 제 1 세트의 출력 또는 상기 분류자들의 제 1 세트의 적용의 성능 측정 중 적어도 하나에 적어도 부분적으로 기초하여 분류자 업데이트를 요청하는 단계
를 포함하는, 분류자들의 세트를 업데이트하는 방법.
제 1 항에 있어서,
상기 요청하는 단계는 콘텍스트 정보에 적어도 부분적으로 기초하는, 분류자들의 세트를 업데이트하는 방법.
제 1 항에 있어서,
상기 성능 측정은 상기 분류자들의 정확성, 다수의 분류자들의 합의의 레벨, 또는 상기 분류자들의 컴퓨테이션의 속도를 포함하는, 분류자들의 세트를 업데이트하는 방법.
제 1 항에 있어서,
상기 분류자들의 제 1 세트 및 상기 분류자 업데이트는 동일한 피처 생성기 상에서 구축되는, 분류자들의 세트를 업데이트하는 방법.
제 1 항에 있어서,
상기 분류자들의 제 1 세트는 일반적인 분류자를 포함하고 상기 분류자 업데이트는 특정의 분류자를 포함하는, 분류자들의 세트를 업데이트하는 방법.
제 5 항에 있어서,
상기 특정의 분류자를 오브젝트에 적용하여 상기 오브젝트의 특정 클래스를 식별하는 단계를 더 포함하는, 분류자들의 세트를 업데이트하는 방법.
제 1 항에 있어서,
상기 원격 디바이스는 상기 분류자들의 제 1 세트를 적용하도록 구성되는, 분류자들의 세트를 업데이트하는 방법.
제 7 항에 있어서,
피처들을 컴퓨팅하고 컴퓨팅된 상기 피처들을 상기 원격 디바이스에 송신하는 단계를 더 포함하고,
상기 원격 디바이스는 컴퓨팅된 상기 피처들에 상기 분류자들의 제 1 세트를 적용하여 분류를 컴퓨팅하는, 분류자들의 세트를 업데이트하는 방법.
분류자들의 세트를 업데이트하기 위한 장치로서,
메모리; 및
상기 메모리에 커플링된 적어도 하나의 프로세서
를 포함하고, 상기 적어도 하나의 프로세서는 :
데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하고; 그리고
원격 디바이스로부터, 상기 분류자들의 제 1 세트의 출력 또는 상기 분류자들의 제 1 세트의 적용의 성능 측정 중 적어도 하나에 적어도 부분적으로 기초하여 분류자 업데이트를 요청하도록
구성되는, 분류자들의 세트를 업데이트하기 위한 장치.
제 9 항에 있어서,
상기 적어도 하나의 프로세서는 또한, 콘텍스트 정보에 적어도 부분적으로 기초하여 상기 분류자 업데이트를 요청하도록 구성되는, 분류자들의 세트를 업데이트하기 위한 장치.
제 9 항에 있어서,
상기 성능 측정은 상기 분류자들의 정확성, 다수의 분류자들의 합의의 레벨, 또는 상기 분류자들의 컴퓨테이션의 속도를 포함하는, 분류자들의 세트를 업데이트하기 위한 장치.
제 9 항에 있어서,
상기 분류자들의 제 1 세트 및 상기 분류자 업데이트는 동일한 피처 생성기 상에서 구축되는, 분류자들의 세트를 업데이트하기 위한 장치.
제 9 항에 있어서,
상기 분류자들의 제 1 세트는 일반적인 분류자를 포함하고 상기 분류자 업데이트는 특정의 분류자를 포함하는, 분류자들의 세트를 업데이트하기 위한 장치.
제 13 항에 있어서,
상기 적어도 하나의 프로세서는 또한, 상기 특정의 분류자를 오브젝트에 적용하여 상기 오브젝트의 특정 클래스를 식별하도록 구성되는, 분류자들의 세트를 업데이트하기 위한 장치.
제 9 항에 있어서,
상기 원격 디바이스는 상기 분류자들의 제 1 세트를 적용하도록 구성되는, 분류자들의 세트를 업데이트하기 위한 장치.
제 15 항에 있어서,
상기 적어도 하나의 프로세서는 또한 :
피처들을 컴퓨팅하고 컴퓨팅된 상기 피처들을 상기 원격 디바이스에 송신하도록 구성되고,
상기 원격 디바이스는 컴퓨팅된 상기 피처들에 상기 분류자들의 제 1 세트를 적용하여 분류를 컴퓨팅하는, 분류자들의 세트를 업데이트하기 위한 장치.
분류자들의 세트를 업데이트하기 위한 장치로서,
데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하는 수단; 및
원격 디바이스로부터, 상기 분류자들의 제 1 세트의 출력 또는 상기 분류자들의 제 1 세트의 적용의 성능 측정 중 적어도 하나에 적어도 부분적으로 기초하여 분류자 업데이트를 요청하는 수단
을 포함하는, 분류자들의 세트를 업데이트하기 위한 장치.
분류자들의 세트를 업데이트하기 위한, 프로그램 코드를 인코딩한 비일시적 컴퓨터 판독가능 매체를 포함하는 컴퓨터 프로그램 제품으로서,
상기 프로그램 코드는 :
데이터의 제 1 세트에 분류자들의 제 1 세트를 적용하기 위한 프로그램 코드; 및
원격 디바이스로부터, 상기 분류자들의 제 1 세트의 출력 또는 상기 분류자들의 제 1 세트의 적용의 성능 측정 중 적어도 하나에 적어도 부분적으로 기초하여 분류자 업데이트를 요청하기 위한 프로그램 코드
를 포함하는, 비일시적 컴퓨터 판독가능 매체를 포함하는 컴퓨터 프로그램 제품.