KR20150106954A - 생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(bci) 시스템 - Google Patents

생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(bci) 시스템 Download PDF

Info

Publication number
KR20150106954A
KR20150106954A KR1020157021945A KR20157021945A KR20150106954A KR 20150106954 A KR20150106954 A KR 20150106954A KR 1020157021945 A KR1020157021945 A KR 1020157021945A KR 20157021945 A KR20157021945 A KR 20157021945A KR 20150106954 A KR20150106954 A KR 20150106954A
Authority
KR
South Korea
Prior art keywords
user
brain
mental
brain activity
stimuli
Prior art date
Application number
KR1020157021945A
Other languages
English (en)
Other versions
KR101680995B1 (ko
Inventor
리차드 피. 크라우포드
글렌 제이. 앤더슨
데이비드 피. 쿤즈
피터 와이어트
Original Assignee
인텔 코포레이션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인텔 코포레이션 filed Critical 인텔 코포레이션
Priority to PCT/US2013/032037 priority Critical patent/WO2014142962A1/en
Publication of KR20150106954A publication Critical patent/KR20150106954A/ko
Application granted granted Critical
Publication of KR101680995B1 publication Critical patent/KR101680995B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • A61B5/0484
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/377Electroencephalography [EEG] using evoked responses
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7246Details of waveform analysis using correlation, e.g. template matching or determination of similarity
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/02Operational features
    • A61B2560/0223Operational features of calibration, e.g. protocols for calibrating sensors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/04Constructional details of apparatus
    • A61B2560/0475Special features of memory means, e.g. removable memory cards

Abstract

생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들에 기초하여 뇌-컴퓨터 인터페이스(BCI) 시스템을 제공하는 실시예들이 본 명세서에 전반적으로 기술되어 있다. 일부 실시예들에서, 자극들이 사용자에게 제공된다. 자극들을 사용자에게 제공하는 것에 응답하여 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들이 수집된다. 사용자 뇌 시그너처들을 식별하기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들이 상관된다. 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능이 수행된다.

Description

생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(BCI) 시스템{BRAIN COMPUTER INTERFACE (BCI) SYSTEM BASED ON GATHERED TEMPORAL AND SPATIAL PATTERNS OF BIOPHYSICAL SIGNALS}
통신 및 환경의 제어가 일상 생활에 중요하다. 상세하게는, 장애인들은 통신하기 위해 엄청난 노력을 한다. 뇌-컴퓨터 인터페이스(BCI; Brain Computer Interface)는 뇌와 컴퓨터 또는 전자 디바이스 간의 직접 통신을 가능하게 한다. BCI는 또한 기존의 통신 방법들이 단점들을 나타내고 있는 응용들에서, 예컨대, 잡음이 많은 산업 응용, 스텔스(stealth) 및 움직임이 제약되어 있는 군사 환경 등에서 적용될 수 있을 것이다. 소비자 시장에서, BCI는 게임 또는 엔터테인먼트 인터페이스로서 장점들을 제공할 수 있거나, 기존의 컴퓨터-사용자 상호작용의 속도를 높일 수 있거나 완전히 새로운 컴퓨터-사용자 상호작용을 가능하게 할 수 있다.
기능에 관계없이, 뇌의 각각의 부위는 뉴런이라고 불리우는 신경 세포들로 이루어져 있다. 전체로서, 뇌는 약 1000억 개의 뉴런들을 포함하는 밀집한 네트워크이다. 이들 뉴런 각각은 물리적 프로세스들을 조절하고 생각을 만들어내기 위해 수천 개의 다른 뉴런들과 통신한다. 뉴런은 전기 신호를 물리적 연결들을 통해 다른 뉴런으로 송신하는 것에 의해 또는 신경 전달 물질(neurotransmitter)이라고 불리우는 화학 물질(chemicals)을 교환하는 것에 의해 통신한다. 뉴런이 통신할 때, 뉴런은 뇌의 활성 영역들로의 증가된 혈류를 통해 보충되는 산소 및 포도당을 소비한다.
뇌 모니터링 기술의 진보는 뇌가 정보를 처리하거나 다양한 자극들에 반응할 때 전기적, 화학적, 유체적, 자기적, 기타 변화의 관찰을 가능하게 한다. 아주 다양한 사용자들 및 응용들을 위한 새로운 통신 및 제어 옵션들을 제공할 수 있을 BCI(brain computer interface) 시스템의 연구가 계속되고 있다. 뇌 활동 모니터링을 통해, 특성 멘탈 프로파일(characteristic mental profile)들의 데이터베이스가 수집될 수 있다.
디바이스 및 데이터 보안 위협들이 보편화되고, 고도로 정확하고 정밀한 인증 시스템 및 방법에 아주 높은 가치가 부여되어 왔다. 인증 시스템에서 몇 가지 형태의 생물학적으로 독특한 시그너처들 또는 생체 정보들(biologically distinct signatures or biometrics)이 이용되지만(지문, 망막 패턴, 음성 특성 등), 인증 기법으로서 뇌의 고유성(uniqueness)을 포함하는 것은 거의 개척되지 않았다.
일부 BCI 시스템들은 비교적 높은 시간 분해능을 특징으로 하지만 또한 비교적 낮은 공간 분해능을 특징으로 하는 EEG(electroencephalography)에 의존한다. 그의 신뢰성 있는 사용을 포함하는 많은 문제들 및 과제들을 해결하는 BCI 시스템의 추가적인 연구가 진행 중이다.
도 1은 일 실시예에 따른, 뇌 활동 유사성(brain activity similarities)들의 상관을 통해 심리학적 및 사회학적 정합을 제공하는 시스템을 나타낸 도면.
도 2는 일 실시예에 따른, 고유성의 확률을 식별하고 개인에 부여하기 위해 뇌 구조 및 활동을 기지의 정보 및 사전 기록된 시그너처와 비교하는 시스템을 나타낸 도면.
도 3은 일 실시예에 따른, BCI 입력을 수집하는 소비자 등급 웨어러블 시스템(consumer grade wearable system)을 나타낸 도면.
도 4a 내지 도 4c는 일 실시예에 따른, 신경 영상 디바이스(neuroimaging device)의 구성요소들을 나타낸 도면.
도 5는 일 실시예에 따른, 컴퓨팅 경험의 제어를 제공하는 방법의 플로우차트.
도 6a 및 도 6b는 일 실시예에 따른, 시각 검색(visual search)을 나타낸 도면.
도 7은 일 실시예에 따른, 텔레파시 검색(telepathic search)을 제공하는 BCI 시스템을 나타낸 도면.
도 8은 일 실시예에 따른, BCI 시스템을 사용하는 무선 텔레파시 통신을 나타낸 도면.
도 9는 일 실시예에 따른, 텔레파시 컨텍스트 검색(telepathic contextual search)을 수행하는 네트워크로 연결된 시스템(networked system)을 나타낸 도면.
도 10은 일 실시예에 따른, BCI 시스템을 사용하여 텔레파시 증강 현실(telepathic augmented reality)을 제공하는 플로우차트.
도 11a 내지 도 11d는 일 실시예에 따른, AR 제시 및 제어의 일례를 나타낸 도면.
도 12는 일 실시예에 따른, 텔레파시 증강 현실을 제공할 수 있는 시스템을 나타낸 도면.
도 13은 일 실시예에 따른, BCI 시스템에 의해 제공되는 멘탈 데스크톱 공간(mental desktop space)을 표현하는 데 사용되는 시각 공간(visual space)의 피질 표현을 나타낸 도면.
도 14는 일 실시예에 따른, 시각계의 다이어그램.
도 15는 일 실시예에 따른, 시각 공간의 생리학적으로 분리된 섹션들(physiologically segregated sections)을 나타낸 도면.
도 16은 일 실시예에 따른, BCI 시스템에 의해 이용되는 일차 운동 피질(primary motor cortex) 및 일차 감각 피질(primary sensory cortex)을 나타낸 대뇌 피질(human cortex)의 모델.
도 17은 대뇌 피질의 중심전회(pre-central gyrus) 상의 일차 운동 피질의 위상학적 구조(topographical organization)를 나타낸 모델.
도 18은 일 실시예에 따른, BCI 척도들 및 기타 모달리티(modality)들을 애플리케이션들에 할당하기 위한 사용자 인터페이스를 나타낸 도면.
도 19는 일 실시예에 따른, BCI 입력들 및 기타 모달리티 입력들을 받는 BCI 시스템을 나타낸 도면.
도 20은 일 실시예에 따른, 사용자 의도를 결정하는 방법의 플로우차트.
도 21은 일 실시예에 따른, 애플리케이션을 제어하기 위한 BCI 입력을 할당하는 방법의 플로우차트.
도 22는 일 실시예에 따른, BCI 시스템에 의해 컨텍스트 인자들을 조절하는 방법의 플로우차트.
도 23은 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들에 기초하여 BCI(brain computer interface) 시스템을 제공하는 예시적인 기계의 블록도.
본 명세서에 기술된 실시예들에 따르면, 자이리피케이션(gyrification), 피질 두께(cortical thickness), 두피 두께(scalp thickness) 등과 같은 뇌/두개골 해부학적 특성들이 식별/인증을 위해 사용될 수 있다. 측정된 자극/반응 뇌 특성들(예컨대, 해부학적 및 생리학적)이 식별 및/또는 인증을 위해 뇌를 분류하기 위한 특정의 패턴들로 변환될 수 있다. 사람들이 자극에 대한 뇌 활동의 유사성에 따라 상관될 수 있다. 다른 뇌 시그너처들에 관한 정보(예컨대, 해부학적 및 생리학적), 및 유사한 뇌들과의 비교가 새로운 자극에 대한 뇌 반응을 예측하기 위해 그리고 식별 및/또는 인증을 위해 사용될 수 있다. 뇌 식별 및/또는 인증 기법들이 다른 식별 및/또는 인증 기법들(예컨대, 패스워드, 기타 생체 측정 파라미터들)과 결합하여 신원 확인(identity)/인증 민감도 및 특이성(specificity)을 증가시키는 데 사용될 수 있다.
뇌 또는 뉴런 활동 신호를 감지하는 데 있어서의 더 최근의 기술적 진보는 더 정교한 BCI 사용 및 시스템을 생성할 기회를 제공한다. 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들에 기초하여, 사람의 심리학적 상태 또는 정신적 표현(mental representation)을 측정하고 식별하는 것이 이제 가능하다. 예를 들어, 생물 물리학적 신호들의 시간적 및 공간적 패턴들이 전기, 유체, 화학, 자기 센서들(이들로 제한되지 않음)을 통해 획득될 수 있다.
전기 신호를 수집하는 디바이스의 예는 EEG(electroencephalography)를 포함한다. EEG는 뇌에서의 활동에 의해 발생되는 약한(5 내지 100 μV) 전기 전위를 측정하기 위해 두피 상에 직접 배치된 전극들을 사용한다. 유체적 신호를 측정 및 감지하는 디바이스는 도플러 초음파(Doppler ultrasound)를 포함하고, 화학적 신호를 측정하는 디바이스는 fNIRS(functional near-infrared spectroscopy)를 포함한다. 도플러 초음파는 뇌에 공급하는 동맥들의 네트워크에서 CBFV(cerebral blood flow velocity)를 측정한다. 인지 활성화는 도플러 초음파를 사용하여 검출될 수 있는, 이들 동맥 내의 CBFV의 증가를 가져온다. fNIRS 기술은 근적외선을 두피의 표면으로부터 뇌 내로 투사하고 광이 표면에서 굴절되고 반사될 때 다양한 파장들에서의 광학적 변화들을 측정하는 것에 의해 동작한다. fNIRS는 대뇌 혈류 역학(cerebral hemodynamics)을 효과적으로 측정하고 국소화된 혈액량 및 산화(oxygenation) 변화를 검출한다. 뇌 활동과 연관된 조직 산화의 변화가 근적외선 광자의 흡수 및 산란을 변하는 양에 따라 변조시키기 때문에, fNIRS는 뇌 활동의 기능 지도(functional map)를 작성하는 데 사용될 수 있다. 자기 신호를 측정하는 디바이스는 MEG(magnetoencephalography)를 포함한다. MEG는 뇌의 전기적 활동에 의해 발생되는 자기장을 측정한다. MEG는 훨씬 더 깊은 영상 촬영을 가능하게 하고 두개골이 자기파에 실질적으로 투명하기 때문에 EEG보다 훨씬 더 민감하다.
사람의 심리학적 상태 또는 정신적 표현을 측정 및 식별하여 인지 부하(cognitive workload), 주의 집중/주의 분산, 기분, 사회학적 역학, 기억력 및 기타와 같은 정보를 알려주기 위해, 생물 물리학적 센서 디바이스의 사용을 통해, 앞부분 등에서 기술한 바와 같이, 생물 물리학적 신호들의 시간적 및 공간적 패턴들이 사용될 수 있다. 이들 데이터의 이용은 사람-기계 상호작용에서의 기회에 대한 새 지평을 열어준다.
기업, 정치 기관, 및 사회는 마케팅, 메시징, 및 소셜 네트워킹을 포함하는 목적들을 위해 생각이 비슷한 사람들을 찾아내는 데 높은 가치를 둔다. 생각이 비슷한(또는 이와 반대로, 생각이 서로 다른) 사람들을 식별하는 데 도움을 줄 수 있는 시스템 및 기법은 그에 따라 높은 가치를 지닐 것이다. 상이한 사람들 또는 사람들의 그룹들 간에 "정신적 유사성(mental similarity)"을 확인하고 점수를 매기기 위해, 뇌가 유사한 자극들에 어떻게 반응하는지에 관한 정보가 사용될 수 있다. 이것은 정합하는 평가에 대한 더 많은 정교함을 생성하기 위해 정신적, 성격, 또는 사회학적 특성들의 다른 척도들과 함께 사용될 수 있다.
사람들에 뇌 모니터링 디바이스를 설치하고 이어서 (임의의 상상된 감각 채널, 시각, 청각, 촉각 등을 통해) 일련의 상상된 또는 생각을 유발하는 경험을 거치게 하는 것에 의해, 얻어진 공간적 및 시간적 뇌 활동 패턴들이 포착되고 특성 분석될 수 있다. 상이한 사람들의 뇌 활동이 유사하게 반응하는 정도는 정신적 유사성의 척도를 제공할 것이다. 이와 달리, 사람들의 뇌 활동이 동일한 자극에 대해 다르게 반응하는 정도는 정신적 차이(mental dissimilarity)의 척도를 제공할 것이다. 일련의 자극들에 대한 반응들의 컬렉션(collection of responses to the set of stimuli)은 특성 멘탈 프로파일을 작성하는 데 사용될 수 있고, 성격 특성들을 특성 분석하기 위한 개념들[Meyers-Briggs® 또는 FFM(Five Factor Model) 등]과 동등하게 될 정신적 편애(mental predilection)의 모델을 확립하는 역할을 할 수 있다.
정신적 반응들의 특정의 유사성 또는 상관들이 더 나은 쌍 형성(pairings)에 기여한다는 이론에 기초하여 생물 물리학적 신호들의 시간적 및 공간적 패턴들 및 자극 반응 데이터를 사용하여 사람들의 정치적, 정신적, 또는 사회적 적합성(또는 부적합성)이 예측될 수 있다. 다른 것들과의 이러한 비교는 데이트 서비스(dating service)(예컨대, Match.com®)의 일부로서 사용될 웹-기반 시스템 및 인프라를 통해 행해질 수 있다.
이러한 착안이 유용한 것으로 판명될 수 있는 구체적인 예들은 멘탈 프로파일들을, 잠재적인 경력 정합(또는 부정합)을 식별하고 예측하는 데 도움을 주기 위한 직업 만족도 정보와, 잠재적 사회적 적합성(또는 부적합성)을 식별하고 예측하는 데 도움을 주기 위한 관계 만족도와, 정당 지지(또는 반대)를 식별하고 예측하는 데 도움을 주기 위한 정치적 성향과, 마케팅 대상을 식별하는 데 도움을 주기 위한 제품 사용, 만족도 또는 관심과 비교하는 것 등을 포함한다.
도 1은 일 실시예에 따른, 뇌 활동 유사성의 상관을 통해 심리학적 및 사회학적 정합을 제공하는 시스템(100)을 나타낸 것이다. 본 시스템은 BCI 시스템에의 입력을 규정하기 위해 공간 및 반구(hemispherical) 정보를 수집한다. 피험자(112, 114)에서의 뇌 활동을 끌어내기 위해 자극들(110)의 라이브러리가 제공된다. 자극들(110)의 라이브러리는 뇌를 관여시키도록 설계된 다양한 미디어(예컨대, 사진, 영화, 오디오 트랙, 서면 또는 구두 질문 또는 문제) 중 임의의 것을 포함하는 자극들의 세트들을 포함한다. 자극 옵션들은 수없이 많으며, 일반적인 것(예컨대, 감정의 민감성을 테스트하도록 설계됨)부터 아주 구체적인 것(예컨대, 가족 및 자녀 양육에 관한 태도)까지 있을 수 있는 특정의 자극들(110)의 라이브러리가 상상된다. 자극들이 피험자(112, 114)에 제시될 때 뇌 활동이 데이터 수집 및 기록 시스템(120, 122)에 의해 기록된다. 그 결과의 뇌 활성화 패턴들을 측정하는 신경 영상 디바이스는 EEG, fNIRS, MEG, MRI(magnetic resonance imaging), 초음파 등을 포함할 수 있다. 그렇지만, 실시예들은 본 명세서에서 구체적으로 언급된 측정 시스템들로 제한되지 않는 것으로 의도된다.
기록된 뇌 활동은 이어서 패턴 인식 및 분류 시스템(130)을 사용하여 처리된다. 패턴 인식 시스템(130)은 뇌 활성화 패턴을 특성 분석하고 분류하기 위해 기록된 뇌 활동을 처리한다. 분류, 클러스터링(clustering), 회귀, 카테고리별 시퀀스 라벨링(categorical sequence labeling), 실수값 시퀀스 라벨링(real-valued sequence labeling), 파싱, 베이지안 네트워크(Bayesian network), MRF(Markov random field), 앙상블 학습(ensemble learning) 등을 비롯한, 패턴 인식 분야로부터의 수많은 기법들 및 알고리즘들이 적용될 수 있다. 뇌 활동을 획득하거나 분석하기 위한 추가의 방법들: MBLL(modified Beer-Lambert Law), 이벤트 관련 성분(event-related component), 다중 복셀 패턴 분석(multi-voxel pattern analysis), 스펙트럼 분석, fNIRS에 대한 MVPA(multi-voxel pattern analysis)의 사용 등이 있다. 간단한 뇌 EEG 신호 특성 분석이 식별을 위해 사용될 수 있다. 범용 패턴 인식 기법들 및 알고리즘들이 구현될 수 있다. 피험자(112, 114)의 멘탈 프로파일 모델을 개발하기 위해, 패턴 및 분류 결과(132)가, 멘탈 프로파일 모델링 시스템(140)에서, 데이터베이스(150)로부터의 개인 데이터 및 기타 특성들과 결합된다. 멘탈 프로파일 모델링 시스템(140)은 이와 같이, 특정의 자극의 함수로서 멘탈 프로파일을 작성하기 위해, 뇌 패턴 인식 결과를 기타 개인 데이터 및 특성들(예컨대, 성별, 나이, 지리적 위치, 유전 정보 등)과 결합시키는 모델을 생성한다.
데이터베이스(150)로부터의 개인 데이터 및 기타 특성들은 설문지, 관찰 등을 통해 획득될 수 있고, 성격 특성 데이터베이스에 유지될 수 있다. 멘탈 프로파일 모델링 시스템(140)은 피험자의 멘탈 프로파일을 다른 멘탈 프로파일들의 데이터베이스와 비교하는 것에 의해 피험자의 멘탈 프로파일 정합을 생성한다. 멘탈 프로파일 분석 시스템(160)은 피험자들 간에 확률들을 상관시킨다. 멘탈 프로파일 분석 시스템(160)은 다양한 토픽들(예컨대, 사회적임, 문제 해결적임, 음악 장르를 좋아함, 재무 지향적임 등) 중 임의의 것에 대한 멘탈 정합의 통계 및 확률을 계산한다. 기지의 조건을 고려하여, 패턴 인식을 확률적 관계로 변환하기 위해 범용 통계 기법들이 사용될 수 있다.
그에 따라, 시스템(100)은 자극(110)에 대한 기록된 뇌 활동 패턴들을 그 자극에 대한 특성 멘탈 프로파일로 변환한다. 자극들(110)의 라이브러리가 각각의 개인에 대한 멘탈 프로파일들의 라이브러리로 변환된다. 멘탈 프로파일들은 또한 데이터베이스(150)로부터의 개인 데이터와 특성들의 통합을 포함한다. 멘탈 프로파일 분석 시스템(160)은 자극 또는 일련의 자극들에 대한 두 명의 사람 간의 패턴 정합 결과들의 유사성 또는 차이의 정도에 기초하여 멘탈 프로파일들의 유사성 또는 차이를 도출한다. 이 결과인, 멘탈 프로파일 정합 결과(170)는 "멘탈 정합"의 확률적 점수를 나타낸다.
BCI 시스템은 또한 뇌 시그너처를 사용하여 사용자 식별 및 인증을 제공하는 데 사용될 수 있다. 모든 사람은 식별 및 인증을 위해 이용될 수 있는 그의 유전적, 환경적, 및 상황적 영향의 함수인 고유의 뇌 구조 모델 및 생리학적 특성을 가진다.
도 2는 일 실시예에 따른, 고유성의 확률을 식별하고 개인에 부여하기 위해 뇌 구조 및 활동을 기지의 정보 및 사전 기록된 시그너처와 비교하는 시스템(200)을 나타낸 것이다. 그에 따라, 뇌 구조 모델 및 생리학적 고유성이 보안 및/또는 인증을 위해 사용될 수 있다. 도 2에서, 활동에 대한 뇌 반응에 기초한 교정 프로세스(202) 및 인증 프로세스(204)가 도시되어 있다. 교정 프로세스(202)에서, 자극들(210)이 제1 피험자(212)에 제공된다. 자극들(210)은 특정의 특성적 뇌 활동 반응을 유발하게 될, 사용자에게 제시되는 영상, 서술문, 또는 질문을 포함할 수 있다. 피험자의 반응이 데이터 수집 및 기록 시스템(220)에 의해 측정된다. 데이터 수집 및 기록 시스템(220)은 또한 뇌 구조 및 활동과 연관된 활동도 측정한다. 그 결과의 뇌 활성화 패턴들을 측정하는 신경 영상 디바이스는 EEG, fNIRS, MEG, MRI, 초음파 등을 포함할 수 있다.
뇌 구조 및 활동과 연관된 데이터가 패턴들을 식별하기 위해 뇌 구조 및 활동과 연관된 데이터를 분석하는 패턴 인식 디바이스(230)에 제공된다. 뇌의 해부학적 특성(예컨대, 자이리피케이션, 피질 두께 등)이 식별된다. 다시 말하지만, 분류, 클러스터링, 회귀, 카테고리별 시퀀스 라벨링, 실수값 시퀀스 라벨링, 파싱, 베이지안 네트워크, MRF(Markov random field), 앙상블 학습 등을 비롯한, 패턴 인식 분야로부터의 수많은 기법들 및 알고리즘들이 적용될 수 있다. 뇌 활동을 획득하거나 분석하기 위한 추가의 방법들: MBLL(modified Beer-Lambert Law), 이벤트 관련 성분, 다중 복셀 패턴 분석, 스펙트럼 분석, fNIRS에 대한 MVPA의 사용 등이 있다. 간단한 뇌 EEG 신호 특성 분석이 식별을 위해 사용될 수 있다. 범용 패턴 인식 기법들 및 알고리즘들이 구현될 수 있다.
뇌 측정들은 기억력 프로파일 메모리 시스템(memory profile memory system)(240)에 저장된다. 데이터베이스(250)는 모집단의 뇌 구조 및 활동 시그너처들의 컬렉션(collection of a population's brain anatomy and activity signatures)을 유지한다. 인증 프로세스(204) 동안, 자극들(270)이 제2 피험자(272)에 제공된다. 제2 피험자(272)는 제1 피험자(212) 또는 데이터베이스(250)에 유지된 데이터를 갖는 다른 피험자일 수 있다. 피험자의 반응이 데이터 수집 및 기록 시스템(274)에 의해 측정된다. 반응은 뇌 구조 및 활동과 연관된 데이터를 포함할 수 있다. 다시 말하지만, 뇌 구조가 초음파, 및/또는 EEG, fNIRS, MEG, MRI 등과 같은 기술을 사용하여 획득될 수 있다. 뇌 구조 및 활동과 연관된 데이터가 패턴들을 식별하기 위해 뇌 구조 및 활동과 연관된 데이터를 분석하는 패턴 인식 디바이스(276)에 제공된다. 다시 말하지만, 뇌의 해부학적 특성(예컨대, 자이리피케이션, 피질 두께 등)이 식별된다.
분석 디바이스(260)는 패턴 인식 디바이스로부터의 결과들, 이전에 처리된 뇌 측정들, 그리고 모집단의 뇌 구조 및 활동 시그너처의 컬렉션을 유지하는 데이터베이스로부터의 피험자와 연관된 예측 데이터를 수신한다. 분석 디바이스(260)는 인증되고 있는 피험자가 피험자의 이전에 처리된 뇌 측정들 및 예측 데이터와 상관되는지를 판정한다. 뇌 구조 및 활동 패턴들은 그에 따라 교정 세션 동안 수집된 기지의 또는 예측된 시그너처들, 이전의 시그너처 컬렉션들, 또는 '유사한' 뇌 시그너처들의 라이브러리로부터 선험적으로 예측된 시그너처들과 비교된다. 분석 디바이스(260)는 인증에 대한 진정성의 신뢰도(confidence of authenticity)를 할당한다. 인증에 대한 진정성의 신뢰도는 기지의 조건들을 고려하여 패턴 인식을 확률적 관계로 변환하는 통계 기법들에 기초할 수 있다.
분석 디바이스(260)가 피험자(272)로부터의 반응이 허용가능하지 않은 것으로 판정하는 경우, 피험자가 거부될 수 있다. 그렇지만, 인증되고 있는 피험자(272)의 뇌 측정들이 피험자의 이전에 처리된 뇌 측정들 및 예측 데이터와 상관되는 경우, 피험자가 허용될 수 있다. 인증 방법의 민감도 및 특이성을 향상시키기 위해 이들 뇌 시그너처 식별 기법이 다른 불확정적 인증 방법들(예컨대, 필기 인식(handwriting recognition))과 결합하여 사용될 수 있다.
그에 따라, 본 시스템은 고유성의 확률을 식별하고 할당하기 위해 뇌 구조 및 활동을 기지의 정보 및 사전 기록된 시그너처들과 비교하는 데 사용될 수 있다. 다른 대안으로서, 본 시스템은 일련의 기억된 생각들(예컨대, 자녀, 자동차, 폭포), 근육 활성화의 패턴들(예컨대, 점프, 테니스 공을 서비스하는 것, 피아노로 노래를 연주하는 것), 또는 사용자가 특정의 특성적 뇌 활동들을 유발하기 위해 정신적으로 수행할 상상된 활동들(예컨대, 고양이를 어루만지는 것, 식 13 x 14를 푸는 것, 바나나를 먹는 것)을 수반할 수 있는 어쩌면 더 구별력이 있고 안전한 방식을 사용할 수 있다.
다른 실시예에서, 사용자가 처리 디바이스(예를 들어, 컴퓨터, 랩톱, 휴대폰, 태블릿 컴퓨터, 스마트 텔레비전, 리모콘, 전자 레인지 등)를 제어할 수 있게 하기 위해 BCI 시스템이 사용될 수 있다. 정신적 조건들을 미디어 및 검색 서비스와 연관시키는 것에 의해 활동들을 수행하라고 디바이스에 지시하기 위해 BCI 시스템이 사용될 수 있다. 현재의 BCI 시스템들은 비교적 세밀한 시간 분해능을 특징으로 하지만 또한 비교적 낮은 공간 분해능을 특징으로 하는 EEG에 의존한다. 낮은 공간 분해능 한계는 상위 레벨 정보를 추출하는 데 유용한 것으로 나타난 특정의 분석 기법들과 호환되지 않는다. 기존의 기술들에 기초하여 오늘날 제작된 제품이 정밀 응용 분야에 충분히 양호하지 않을 수 있지만, 그 기술은 이미 엔터테인먼트 레벨 구현을 제공하는 데 이용가능하다.
도 3은 일 실시예에 따른, BCI 입력을 수집하는 웨어러블 시스템(300)의 일례를 나타낸 것이다. 웨어러블 뇌 시스템(300)은 헤드 밴드(312)로 이마에 맞닿게 되어 있는 EEG 센서(310)를 이용할 수 있다. EEG 센서(310)에 대한 대안으로서 또는 그에 부가하여, 웨어러블 시스템(300)은 EEG 신호를 검출하기 위해 사용자의 머리에 부착될 수 있는 몇 개의 전극들(316)을 포함할 수 있다. 웨어러블 뇌 영상 디바이스(300)는 뇌에서의 전기적 활동을 측정하는 것에 의해 사용자가 하나의 인자(예컨대, 소형 팬(small fan)이 출력하는 공기 압력의 레벨)를 총체적으로(grossly) 제어할 수 있게 할 수 있다. EEG의 특성은 공간 분해능을 두피 분포의 총체적인 통계적 추정치로 제한하고, 이는 통상적으로 BCI-EEG 디바이스로 하여금 EEG 신호 내에 포함된 고유의 주파수 대역들을 분석하여 얻어내기 위해 스펙트럼 분석을 이용하게 한다.
도 4a 내지 도 4c는 일 실시예에 따른, 신경 영상 디바이스(400)의 구성요소들을 나타낸 것이다. 훨씬 더 정교한 BCI 입력 센서들은 EEG로부터 MRI 또는 PET 스캔과 유사한 더 높은 공간 분해능을 제공하는 신경 영상 방식으로 넘어간다. 광학 뇌 영상 또는 심지어 광학과 EEG의 조합은 수백 또는 심지어 수천 개의 고유의 활성화 패턴들을 구별하기 위해 사용되는 공간 및 시간 분해능을 갖는 시스템을 제공한다. 도 4a에서, 복수의 센서들 및 소스들(412)을 포함하는 모자 또는 헬멧(410)이 피험자에게 제공된다. 센서들 및 소스들(412)은 피험자에 결합될 수 있는 처리 디바이스(420)에 제공된다. 도 4b는 신경 영상 디바이스(400)에서 사용되는 검출기(430) 및 소스(432)를 도시하고 있다. 센서들(432)은 EEG를 포함할 수 있다. NIRS(near-infrared spectroscopy) 검출기(430)도 사용될 수 있다. 도 4c는 제어 모듈(440)을 나타낸 것이다.
컴퓨팅 경험의 제어를 제공하기 위해 BCI 시스템을 사용하는 하나의 실시예는 텔레파시 검색을 포함한다. 사용자가 다양한 미디어(예컨대, 음악 또는 영상)에 노출되어 있는 동안 BCI 패턴들을 모니터링하는 것에 의해, BCI 시스템은 연관들의 데이터베이스를 생성할 수 있다. 그 후에, 사용자가 검색 모드에 있을 때, 정신적 심상은 검색을 보다 효율적으로 만드는 데 도움을 주기 위해 그 뇌 활동 패턴들을 재생성할 수 있다. 컴퓨팅 경험의 제어를 제공하는 다른 실시예는 텔레파시 통신을 포함한다. 뇌 활동 패턴들을 모니터링하는 동안, 동일한 세트의 미디어로 두 명 이상의 사용자를 훈련시키는 것에 의해, 본 시스템은 사용자들이 서로 통신하기 위해 사용할 수 있는 공통의 정신적 어휘(common mental vocabulary)를 생성할 수 있다. 컴퓨팅 경험의 제어를 제공하는 다른 실시예는 텔레파시 증강 현실을 포함한다. 사용자들은 특정의 동작들을 수행하기 위해 3D 모델들 및/또는 그 모델들의 애니메이션과 쌍을 이루는 정신적 심상을 훈련시킬 수 있다. 이와 같이, 모델에 관해 생각하는 것에 의해, 사용자는 AR 기능을 갖는 디바이스를 통해 보고 있는 동안 3D 모델 또는 애니메이션이 나타나게 할 수 있다.
도 5는 일 실시예에 따른, 컴퓨팅 경험의 제어를 제공하는 방법(500)의 플로우차트이다. 자극들이 사용자에게 제공되면서 그 사용자의 뇌 활동의 척도들이 기록된다(510). 더 신뢰성 있는 상관을 가능하게 하기 위해 자극들이 복합 자극(compound-stimuli)(소리와 쌍을 이루는 영상 등)일 수 있다. 특정의 자극들과 신뢰성 있는 상관을 가지는 하나 이상의 뇌 활동 척도들이 유도 검사(guided testing)를 사용하여 식별된다(520). 뇌 활동 척도들은 하나 이상의 유형들(예컨대, fNIRS 및 EEG)일 수 있다. 후보 뇌 활동-자극 쌍이 저장된다(530). 실제로 보는 것, 듣는 것, 만지는 것 등과 비교하여 사용자가 자극을 상상하고 있을 때 신뢰성 있는 상관을 가지는 뇌 활동-자극 쌍이 유도 검사를 통해 식별된다(540). 뇌 활동-상상된 자극 쌍의 목록이 저장된다(550). 텔레파시 검색, 텔레파시 통신, 및 텔레파시 AR을 가능하게 하기 위해, 상관된 뇌 활동 척도들이 검출될 때 자극이 검색되고 디스플레이된다(560). 유도 검사를 사용하여 뇌 활동-자극 쌍을 재검사하는 것에 의해 상관의 세기가 리프레시(refresh)된다(570).
텔레파시 검색과 관련하여, 사용자는 전형적으로 어떤 콘텐츠를 검색할 것인지를 알고 입력 검색어를 검색 도구에 제공한다. 예를 들어, 라이브러리에서 노래 "Song 1"을 검색하기 위해, 사용자는 노래 제목, 음악가, 앨범 타이틀, 장르 또는 기타와 중복하는 입력 검색어를 제공한다. 그렇지만, 사용자가 복잡한 검색에 대해 상이한 레벨의 검색 능력(search literacy)을 가질 수 있거나, 효과적인 검색을 너무 형편없게 규정하는 모호한 검색 요청의 개념을 가질 수 있다. 이것은 결과적으로 형편없는 검색 결과를 생성한다. 그렇지만, 일 실시예에 따라 수행되는 텔레파시 검색은 사용자가 사용자의 정신적 시각화(mental visualization)를 사용하여 영상 또는 음악 데이터베이스에 대해 핸즈프리 검색을 수행할 수 있게 한다. 일 실시예에 따른 텔레파시 검색은 영상 검색, 비디오 검색, 음악 검색, 또는 웹 검색과 같은 검색을 가능하게 한다. 텔레파시 검색은 또한 사용자가 실제 단어를 모르는 상태에서 검색을 수행할 수 있게 할 수 있다.
BCI 시스템은 고유의 생각 패턴들을 생각의 기본 요소들[예컨대, 움직임, 밝음/어두움 패턴, 주의 집중 설정(attentional setting) 등]에 응답하여 나타나는 사용자의 뇌 패턴들에 따라 분류되는 콘텐츠의 데이터베이스에 정합시키는 개념을 기반으로 한 것이다. 사용자의 뇌 패턴들이 기록되고 상관되면, BCI 시스템은 뇌 패턴들로부터만 생각을 재구성한다. 사용자가 검색을 개시할 때, 새로운 생각이 이전의 생각들로부터의 기지의 요소들 및 데이터베이스에 저장된 콘텐츠에 정합될 수 있다. 검색 결과가 데이터베이스 내의 콘텐츠와 연관된 것으로 알려진 요소들과 정합하는 새로운 생각에 있는 요소들의 수에 기초하여 가중될 수 있다. 사용자가 생각을 할 수 있고 BCI 시스템으로 하여금 그 생각과 정합하는 결과를 반환하는 텔레파시 검색을 수행하게 할 수 있다는 면에서 검색 결과가 텔레파시에 의한 것처럼 보일 것이다.
하나의 예는 사용자가 영상을 검색하고 있는 것을 포함할 수 있다. 기억이 단어들로 쉽게 변환될 수 있거나 그렇지 않을 수 있는 영상의 정신적 표현으로서 저장된다. 아마도, 영상은 도 6a에 나타낸 바와 같이 백색 비둘기와 뒤따라오는 흑색 비둘기의 사진(610)이다.
전술한 사진에 대한 인터넷 검색이 구두로는 "백색 비둘기와 뒤따라오는 흑색 비둘기"에 의해 검색될 수 있다. 순전히 시각적인 개념을 텍스트 검색으로 변환하는 것은, 도 6b에 도시된 바와 같이, 원치 않는 결과(620)를 산출한다. 구두 정보(verbal information)가 출력으로부터 텍스트 기반 검색으로 쉽게 변환되지 않는 경우, 시각화를 시각 검색으로 변환하는 것은 직관적일 뿐만 아니라, 더 효과적인 검색에 대한 잠재력을 가지고 있다.
텔레파시 검색이 비구두 검색(non-verbal search)에 대해 텍스트 기반 검색보다 우수한 결과를 산출하게 될 다른 예는 음악에 대한 검색을 포함한다. 예를 들어, 사용자는 Animation의 1984 명곡 "Obsession"을 원할 수 있지만, 음악가, 노래 제목, 앨범 또는 가사를 기억하지 못한다. 사용자는 그 노래의 소리(sound)를 생각할 수 있고, 텔레파시 검색을 수행하는 BCI 시스템은, 사용자가 텍스트 입력을 제공함이 없이, 뇌 활성화를 "Obsession"의 소리에 대한 사용자의 생각과 정합시키는 음악의 결과들을 제공한다. BCI 시스템은 학습 단계로부터의 그 뇌 활동 패턴들을 노래를 생각하는 것에 의해 생성되는 뇌 활성화와 정합시키는 것에 의해 이러한 검색을 수행할 수 있다.
인지 심리학은 뇌에서의 표현이 특정의 시간적 및 공간적 관계로 동시에 발생하는 분산된 뇌 활동의 패턴들로서 저장된다는 것을 제안하는 신경망 모델에 대한 강력한 지원을 제공한다. 예를 들어, 사진과 같은 특정의 입력에 대한 반응은 시간 및 뇌에서의 피질 공간 위치에서 특정의 패턴으로 뇌에 걸쳐 분산되어 있는 뉴런 활동의 분포를 가져오고, 이는 입력의 시각적 표현을 출력으로서 생성한다.
이와 동일한 맥락에서, 개개의 성분들이 뇌에서 신호되고 이어서 주의 집중 내에 속하는 요소들에 기초하여 재조립되는 자극 지각의 정신 물리학적 프로세스가 뇌에서 시작된다. 예를 들어, 보는 사람이 물체를 지각할 때, 색 정보, 형상 정보, 움직임 정보 등이 처음에 개별 성분으로서 뇌에 들어가고, 주의 집중 또는 다른 메커니즘이 요소들을 서로 연결시켜 일관성있는 지각을 형성한다. 이들 개념이 중요한 이유는, 자극이 물체 전체로서 또는 뇌의 단일의 통합된 부분에 표현되지 않기 때문이다.
일 실시예에 따른 텔레파시 검색은 MVPA(multi-voxel pattern analysis)와 같은 기법들을 사용하여 구현될 수 있다. MVPA는 자극들이 분산 방식으로 표현되고 그의 개별 요소들의 재구성으로서 지각된다는 이해에 기반하고 있다. MVPA는 시각적 자극을 지각하는 것, 청각적 자극을 지각하는 것, 세 개의 항목을 동시에 기억해내는 것, 물체의 한 차원에는 주의를 집중하면서 다른 차원에는 주의를 집중하지 않는 것 등과 같은 특정의 생각과 상관되는 분산된 뇌 활동의 패턴들을 식별하는 정량적 신경 영상 방법(quantitative neuroimaging methodology)이다. MVPA는 복잡한 정신적 표현 또는 상태를 식별해주는 뇌 전체에 걸쳐 분산되어 있는 활동의 공간적 및 시각적 패턴들을 식별한다. 정신적 표현은 청각적 자극을 비롯한 지각적 입력의 장기 기억 또는 표현을 검색하는 것과 같은, 기억 활동 등의 인지적 활동일 수 있다. MVPA는 종래에는 자극에 응답하여 또는 좁게 정의된 인지적 활동(예컨대, 장기 기억 검색)의 일부로서 주어진 순간에 활성으로 되는 체적 픽셀들(volumetric pixels), 즉, 복셀들(voxels)에서 측정되는 뇌 활동 간의 시간적 상관을 이용한다. 사람의 심리학적 상태 또는 정신적 표현을 측정 및 식별하여 인지 부하, 주의 집중/주의 분산, 기분, 사회학적 역학, 기억력 및 기타와 같은 정보를 알려주기 위해, 생물 물리학적 신호들의 시간적 및 공간적 패턴들이 또한 사용될 수 있다.
MVPA는 특정의 자극에 대한 사람의 고유의 활성화 패턴들을 식별하고, 이어서 뇌 활성화의 패턴으로부터만 그 자극을 재구성할 수 있다. 예를 들어, MVPA가 비디오로부터의 뇌 반응들을 학습하도록 훈련된 후에 사용자의 뇌 활성화로부터의 비디오가 재구성될 수 있다. 먼저, 사용자는 비디오 클립을 볼 수 있고, 이어서 각각의 비디오에 대한 각각의 사용자의 특유한 활동 패턴이 비디오의 요소들과 연관된 뇌 활동을 식별하기 위해 MVPA를 사용하여 분석될 수 있다. 학습 에피소드(learning episode) 후에, 뇌 활동을 데이터베이스에 저장된 비디오들의 요소들에 정합시키는 것에 의해 뇌 활동만으로 비디오로부터 재구성하기에 충분한 요소들을 식별할 수 있다.
그렇지만, MVPA는 MRI 신경 영상에 주로 적용된다. MRI가 강력한 신경 영상 기법이지만, 대규모의 초전도 자석에 의존하고, 이는 모바일 환경에서의 뇌 영상 디바이스를 실현불가능하게 만든다. fNIRS와 같은 광학 영상 기법은 비교적 초기 단계이지만, 아주 다양한 용도 및 응용으로 확장가능할 수 있는 저비용의 웨어러블 해결책에 대한 가능성을 제공한다.
일 실시예에 따르면, 수십 내지 어쩌면 수백의 뇌 활동 패턴들 간을 구별할 수 있는 신규의 BCI-소프트웨어 상호작용들 및 기능을 제공하기 위해 MVPA 및 fNIRS이 실현성 있는 웨어러블 디바이스에 의한 MVPA에서의 실현성 있는 분석 방식을 제공하도록 결합될 수 있다.
텔레파시 검색을 제공하는 BCI 시스템의 경우, 자극들에 응답하여 뇌 활성화 패턴들을 학습하기 위해 학습 단계가 사용되고, 정신적 표현을 검색가능 콘텐츠에 정합시키기 위해 검색 단계가 사용된다. 학습 단계에서, 본 시스템은 주어진 유형의 콘텐츠(예컨대, 비디오, 음악 등)에 응답하여 뇌 활동의 안정된 패턴들을 식별한다. 패턴들이 그 유형의 콘텐츠에 대해 관련성있는 방식(예컨대, 사진 또는 비디오에 대한 영상 특성)으로 분류된다. 다시 말하지만, 사용될 수 있는 신경 영상 디바이스는 fNIRS, EEG, MEG, MRI 등을 포함한다. 뇌 활동을 획득하거나 분석하기 위한 방법들은, 다시 말하지만, MBLL(modified Beer-Lambert Law), 이벤트 관련 성분, 다중 복셀 패턴 분석, 스펙트럼 분석, fNIRS에 대한 MVPA의 사용을 포함할 수 있다.
도 7은 일 실시예에 따른, 텔레파시 검색을 제공하는 BCI 시스템(700)을 나타낸 것이다. 도 7에서, BCI 추적 모듈(710)은 디스플레이(720) 상의 영상들 또는 단어들과 관련하여 뇌 활동 판독치들을 모니터링한다. BCI 검색 조정 모듈(730)은 사용자가 검색을 수행하는 데 관여되어 있는 동안 이전의 BCI-단어 연관들을 검색한다. 그 연관들은 검색 결과들을 가중하거나 정렬하는 데 사용된다. 훈련 시스템(740)은 사용자의 뇌 활동을 측정하면서 자극들(예컨대, 경치, 소리, 냄새, 촉각 등, 또는 그 조합)을 디스플레이하고, 따라서 BCI 측정들이 특정의 영상들 또는 단어들과 연관될 수 있게 한다.
도 8은 일 실시예에 따른, BCI 시스템(800)을 사용하는 무선 텔레파시 통신을 나타낸 것이다. 도 8에서, 두 명의 피험자들 - 제1 사용자(사용자1)(810) 및 제2 사용자(사용자2)(820) - 간에 무선 통신(802)이 제공된다. 일 실시예에 따른 BCI 시스템은 사용자들이 뇌파 및 기타 뇌 활동 척도들을 사용하여 단어들 및 심볼들을 주고 받을 수 있게 한다. 사용자들은 먼저, 예컨대, 텔레파시 검색과 관련하여 앞서 설명된 바와 같이, 동일한 자극들에 대한 반응에서의 뇌 활동 척도들의 공통의 세트에 대해 그의 BCI 시스템을 훈련시킨다. 이어서, 한 사용자가 그 자극에 관련된 생각 패턴들을 사용할 때, BCI 시스템은 그 동일한 자극을 디스플레이하는 것에 의해 다른 사용자에게 알려주며, 따라서 일종의 "독심술(mind reading)"을 가능하게 한다. 사용자 인터페이스는 간단한 단어들 및 심볼들을 갖는 문자 채팅 UI처럼 보일 수 있다. 사용자 인터페이스는 오디오 기반 또는 촉각 기반 시스템일 수 있다.
무선 통신은 비주얼(visual)(830) 및/또는 소리(sound)(850)를 포함할 수 있다. 비주얼의 경우, 사용자들은 동일한 영상들을 보면서 각각의 뇌 활동 척도들이 얻어진다(832). 제1 사용자(사용자1)(810)는 영상 X를 끌어내기 위해 생각을 한다(834). 제2 사용자(사용자2)(812)는 디스플레이되는 사용자1이 생각하고 있었던 영상 X를 본다(836).
소리의 경우, 사용자들은 동일한 소리들을 들으면서 각각의 뇌 활동 척도들이 얻어진다(852). 제1 사용자(사용자1)(810)는 소리 X를 끌어내기 위해 생각을 한다(854). 제2 사용자(사용자2)(812)는 사용자1(810)이 생각하고 있었던 소리 X를 헤드폰을 통해 듣는다(856). 송신측 사용자가 UI 상에서 식별될 수 있다. 사용자는 메시지의 수신자를 선택하기 위해 생각을 할 수 있을 것이다.
다시 말하지만, 사용될 수 있는 신경 영상 디바이스는 fNIRS, EEG, MEG, MRI 등을 포함한다. 뇌 활동을 획득하거나 분석하기 위한 방법들은, 다시 말하지만, MBLL(modified Beer-Lambert Law), 이벤트 관련 성분, 다중 복셀 패턴 분석, 스펙트럼 분석 등을 포함할 수 있다.
도 9는 일 실시예에 따른, 텔레파시 컨텍스트 검색을 수행하는 네트워크로 연결된 시스템(900)이다. 도 9에서, 네트워크로 연결된 BCI 모듈(910)은 다른 사용자의 BCI 시스템들(920)로부터의 무선 전송들을 모니터링한다. 채팅 인터페이스와 같은 UI(930)는 다른 사람으로부터의 뇌 활동 척도들과 연관된 자극들을 디스플레이한다. 자극들은 또한 소리, 단어, 촉각 등과 같은 다른 감각들 또는 조합들을 포함할 수 있다. 훈련 시스템(940)은 경치, 소리, 냄새, 촉각 등, 또는 조합과 같은 자극들을 사용자에게 디스플레이하고, 사용자의 뇌 활동이 측정된다. 이것은 뇌 활동 척도들이 특정의 영상들과 연관될 수 있게 한다. 자극들을 제공하고 뇌 활동 측정들을 획득하기 위해 생체 측정 및 환경 센서 어레이(950)가 사용될 수 있다. 걷기, 달리기, 및 어떤 사람과 대화하기와 같은 사용자 활동을 결정하는 컨텍스트 구성 블록(contextual building block)(960)이 개발될 수 있다. 센서 어레이(950)가 사용자의 머리에 탑재될 수 있다.
도 10은 일 실시예에 따른, BCI 시스템을 사용하여 텔레파시 증강 현실을 제공하는 플로우차트(1000)이다. BCI 시스템은 사용자들이 생각을 의식적으로 지향시키는 것에 의해 증강 현실(AR) 물체들을 보고, 듣고, 느낄 수 있게 한다. BCI 입력들을 모니터링하고 사용자가 의도적으로 불러일으키지 않을 수 있는 대응하는 AR 경험들을 제시하는 것에 의해 AR 물체들이 제시될 수 있다. 이전의 관련된 개시 내용에서 설명된 바와 같이, 뇌 활동 척도들을 특정의 영상들과 연관시키기 위해 BCI 시스템이 훈련되고, 따라서 사용자가 정합하는 뇌 활동 패턴을 생성하는 경우 영상이 나중에 디스플레이될 수 있게 한다.
도 10에서, BCI 시스템은 BCI 입력을 모니터링한다(1010). 패턴 정합이 검출되는지가 판정된다(1020). 아니오인 경우, 1022에서, 본 시스템은 계속하여 BCI 입력을 모니터링하고 정합이 있는지 BCI 입력을 분석한다. 패턴 정합이 검출되는 경우, 1024에서, BCI 시스템은 패턴 정합과 상관되는 AR을 반영하는 렌더링을 생성한다(1030). 본 시스템은 이어서 AR 경험을 재생한다(1040). 그 후에, BCI 프로세스가 복귀하여(1042), 계속 BCI 입력을 모니터링하고 정합이 있는지 BCI 입력을 분석할 수 있다.
BCI 시스템에 의한 모니터링의 결과로서 AR 경험이 시작된다. AR 경험이 비주얼, 오디오, 촉각, 또는 임의의 다른 감각 기반 경험일 수 있다. 게다가, 사용자들은 생각을 통해 AR 캐릭터들의 움직임을 지향시킬 수 있다. 이것은 사용자들이 움직이거나 경주를 하는 AR 캐릭터들을 제어하는 게임을 플레이할 수 있게 한다. 더욱이, BCI 시스템은 현재의 BCI 입력과 상호작용할 수 있는 단서가 있는지 환경을 모니터링할 수 있다. 예를 들어, 본 시스템은 물체 인식을 수행할 수 있을 것이고, 사용자가 만화와 관련되어 있는 뇌 활동 척도를 생성하는 경우, 식별된 물체의 만화 버전이 제시될 수 있다. 다른 실시예에서, 사용자는 물체의 위치에 관해 생각하는 것에 의해 물체의 3D 방향 전환(orienting)을 불러일으킬 수 있다. 간단한 시스템, 예컨대, MINDBENDER®은 사용자가 정신 집중(concentration)의 사용을 통해 물체들을 이동시킬 수 있다. 그렇지만, 이들 간단한 시스템은 AR 제시 또는 제어를 포함하지 않는다.
도 11a 내지 도 11d는 일 실시예에 따른, AR 제시 및 제어의 일례를 나타낸 것이다. 사용자가 도마뱀(1112)에 대응하는 뇌 활동 척도를 생성했을 때 도 11a의 AR(1110)이 제시될 수 있다. 이 예에서, 사용자는 마커들(1120)의 자취를 배치하고, 도마뱀(1112)과의 뇌 활동 정합을 생성하며, 이어서 AR 경험이 디스플레이될 때 바라본다. 도 11b에서, AR(1110)이 태블릿(1114)으로부터 마커들(1120)의 자취 상으로 이동하였다. 도 11c에서, AR(1110)이 마커들(1120)의 자취를 따라 랩톱(1140) 쪽으로 훨씬 더 멀리 이동한다. 도 11d에서, AR(1110)이 랩톱(1140)에 도달하였다. 도 11a 내지 도 11d의 디스플레이는 전화, 헤드 탑재형 디스플레이(head mounted display), 또는 다른 감각 모달리티(sensory modality)를 통할 수 있다.
도 12는 일 실시예에 따른, 텔레파시 증강 현실을 제공할 수 있는 시스템(1200)을 나타낸 것이다. 또다시 말하지만, 생체 측정 및 환경 센서 어레이(1212)와 함께, fNIRS, EEG, MEG, MBLL(modified Beer-Lambert Law), 이벤트 관련 성분 등과 같은 센서들 및 검출기들(1210)이 이용될 수 있다. 뇌 활동 센서 어레이가 사용자의 머리에 탑재될 수 있다. 일 실시예에서, AR 지원 컴퓨팅 디바이스(1220)가 듀얼 전방 카메라(1232)를 포함할 수 있는 미디어 시스템(1230)에서 사용될 수 있고, 그 중 하나가 상부 전방 카메라일 수 있다.
AR 렌더링 모듈(1240)은 자동으로 AR 캐릭터들이 확실한 방식으로 환경과 블렌딩하게 할 수 있다. 인식된 센서 입력들의 데이터베이스(1250)가 사용되고, AR 캐릭터 및 AR 환경 콘텐츠가 구현된다. 피험자의 얼굴을 식별하기 위해 얼굴 검출 서브시스템(1260)이 제공될 수 있다. 게다가, 비디오 분석(1270)은 물체 인식(1272), 투사 비콘 추적(projected beacon tracking)(1274), 및 환경 특성 인식(1276) - 예컨대, 바닥을 통해 지나가지 않도록 AR 캐릭터 동작들을 튀어오르게 하기 위해 수평 표면을 인식하는 것 - 을 포함할 수 있다. 매립된 태그들을 갖는 물체들을 스캔하기 위해 RFID 스캐너 시스템(1280)이 사용될 수 있다. 일체형 프로젝터(1234)가 또한 이용될 수 있다.
BCI 시스템(1200)은 BCI 미들웨어(1284)로부터 입력을 수신하여 AR 경험에 매핑하는 BCI-AR 매핑 모듈(BCI to AR mapping module)(1282)을 추가로 포함할 수 있다. 뇌 활동 패턴들의 데이터베이스(1286)는 AR 경험들에 대한 정합들을 제공한다. 이들 정합은 사용자들에 대해 일반적으로 "바로 사용가능(out of the box)"할 수 있거나, 정합 프로세스를 통해 생성될 수 있다. AR 제시 시스템(1288)은 BCI 센서들(1210)에 연결될 수 있고, 무선 또는 유선일 수 있다. 또한, 사용자가 AR 캐릭터들의 "정신 조종(mind control)"에서 경쟁할 수 있게 하는 게임 모듈(1290)이 구현될 수 있다.
도 13은 일 실시예에 따른, BCI 시스템(1300)에 의해 제공되는 멘탈 데스크톱 공간을 표현하는 데 사용되는 시각 공간의 피질 표현을 나타낸 것이다. BCI 시스템(1300)은 디지털 디바이스 및 콘텐츠 기능의 액세스, 탐색, 명령, 및 제어를 위해 멘탈 데스크톱을 사용하는 것을 가능하게 한다. 현재 이용가능한 인간-컴퓨터 인터페이스는 디지털 디바이스 및 콘텐츠에 액세스하여 제어하기 위한 상호작용적 플랫폼을 제공하기 위해 신체 감각(예컨대, 시력) 및 신체 움직임(예컨대, 마우스 또는 키보드를 제어하는 손)에 의존한다. 이들 신체적 및 지각적 입력 및 제어는 한계가 있고, 더 새롭고 효율적인 인간-컴퓨터 인터페이스의 잠재적 표현을 제한한다. 뇌-컴퓨터 인터페이스를 제공하는 기존의 시스템들은 EEG(electroencephalography) 기술에 기초하고, 출력들을 정의하고 입력들에 제약을 두지 않는 미리 결정된 라이브러리로부터의 기능들을 제어한다. 더욱이, 입력들이 전기적 활동의 스펙트럼 분석을 사용하여 제공되고, 이는 일 실시예에 따른 시각적 BCI 작업 공간에서 정신적 제스처가 사용한 공간 및 반구 정보의 사용과 본질적으로 상이하다.
도 13과 관련하여 기술된 실시예에 따르면, BCI 시스템(1300)은 사용자들이 정신 집중력을 시야의 상이한 섹션들에 집중시키는 것에 의해 컴퓨팅 디바이스들을 작동시킬 수 있게 한다. 이 시야는 "멘탈 데스크톱"이라고 지칭된다. 사용자들이 자신의 시야의 좌측 상부 사분역(quadrant)을 정신적으로 시각화하거나 그에 주의를 집중할 때, 연관된 명령이 실행될 수 있다. 그렇지만, 이것은 사용자가 눈의 초점을 그 구역으로 변경하는 것을 의미하지 않고, 그 구역에 관해 단지 생각(즉, 시각화)할 수 있는 것을 의미한다. 시야의 구역들은 뇌 활동 척도들에의 특히 강한 매핑을 갖는다.
도 13은 멘탈 데스크톱이 좌측 시야(left field)(1310) 및 우측 시야(right field)(1320)를 포함한다는 것을 도시하고 있다. 좌측 시야(1310)는 좌측의 좌측 상부 사분역(1312), 좌측의 우측 상부 사분역(1314), 좌측의 좌측 하부 사분역(1316) 및 좌측의 우측 하부 사분역(1318)을 포함하도록 구성되어 있다. 우측 시야(1320)는 우측의 좌측 상부 사분역(1322), 우측의 우측 상부 사분역(1324), 우측의 좌측 하부 사분역(1326) 및 우측의 우측 하부 사분역(1328)을 포함하도록 구성되어 있다.
망막으로부터의 시각 신호는 시신경(optic nerve)들이 부분적으로 교차(1332)하는 시신경 교차(optic chiasma)(1330)에 도달한다. 각각의 망막의 측면들에서의 이미지들은 시신경을 통해 시신경 교차(1330)에서 크로스오버(cross over)하여 뇌의 반대쪽으로 간다. 다른 한편으로, 측두 이미지(temporal image)는 동일한 쪽에 유지된다. 이것은 양눈으로부터의 시야의 어느 한쪽으로부터의 이미지가 뇌의 적절한 측면으로 전송될 수 있게 하여, 양측을 서로 결합시킨다. 이것은 우측 시야에 주의를 집중하는 양눈의 부위가 뇌의 좌측 시각계에서 그리고 그 반대로 처리될 수 있게 한다. 시각로(optic tract)는 좌측 슬상핵(geniculate nucleus)(1340) 및 우측 슬상핵(1360)에서 끝난다. 좌측 슬상핵(1340) 및 우측 슬상핵(1360)은 눈의 망막으로부터 수신된 시각 정보에 대한 일차 중계 센터이다. 좌측 슬상핵(1340) 및 우측 슬상핵(1360)은 시신경 교차(1330)로부터 시각로를 통해 그리고 망상 활성계(reticular activating system)로부터 정보를 수신한다. 좌측 슬상핵 및 우측 슬상핵으로부터의 신호는 일차 시각 피질(1390)로의 직접 통로로서 역할하는 시방사(optic radiation)(1370, 1372)를 통해 송신된다. 그에 부가하여, 좌측 슬상핵(1340) 및 우측 슬상핵(1360)은 일차 시각 피질로부터 많은 강한 피드백 연결을 수신한다. 마이어 루프(Meyer's loop)(1380, 1382)는, 각각, 좌측 외측 슬상핵(lateral geniculate nucleus)(1340) 및 우측 외측 슬상핵(1360)을 빠져나와 일차 시각 피질(1390)에 투사되는 시방사의 일부이다. 시각 피질(1390)은 시각 정보를 처리하는 일을 맡고 있다.
"멘탈 데스크톱"에 대해, 컴퓨터 인터페이스의 탐색 및 명령 및 제어를 수행하기 위해 눈 추적 기술이 사용될 수 있다. 그렇지만, 눈 추적 기술은 물리적 공간으로 제약되어 있고, 전형적인 운영 체제 모델과 동일한 한계를 겪는다. 예를 들어, 마우스 포인터를 그 영역으로 이동시키기 위해 위쪽을 보았다가 좌측을 보는 것이 사용되어 왔다.
컴퓨터 인터페이스는 컴퓨터 디스플레이 상에 물리적 공간으로 표현되는 디지털 데스크톱 공간을 이용한다. 이와 달리, 일 실시예에 따른 멘탈 데스크톱은 물리적 데스크톱을 정신적 작업 공간 - 즉, 작업 공간을 시각 반시야(visual hemifield)라고 지칭되는 개인의 시야의 영역들에 기초하여 시공간 영역들로 나누는 멘탈 데스크톱 - 으로 분리시킨다.
시각 정보는 좌안 및 우안은 물론, 좌안 및 우안 내의 상부 및 하부와, 좌측 및 우측 구획들에 의해 자연적으로 분리된다. 이들 구획은 각각이 대응하는 뇌 영역들에 표현되는 반시야들을 생성한다. 반시야들 주위의 뇌의 구조는 망막위상적 구조(retinotopic organization)라고 지칭되는데, 그 이유는 망막의 영역들이 대응하는 뇌 영역들에 표현되기 때문이다.
멘탈 데스크톱의 작업 공간은, 시각 공간에서의 영역을 쳐다보거나 정신적으로 시각화하는 것에 의해, 할당된 정보(예컨대, 애플리케이션 바로가기, 파일 또는 메뉴)의 액세스를 용이하게 한다. 요약하면, 멘탈 데스크톱은 사용자가 현재의 운영 체제에서의 디지털 데스크톱과 유사한 방식으로 사용할 가상적인 데스크톱 공간을 생성한다.
인간 일차 시각 피질에서의 망막위상적 구조를 통해 8개의 시각 반시야들을 추출하는 것에 의해, 멘탈 데스크톱이 BCI 시스템에 의해 구현될 수 있다. 도 14는 일 실시예에 따른, 시각계(1400)의 다이어그램이다. 도 14에서, 시신경(1410)은 눈(1412)으로부터 뇌의 후두엽(occipital lobe)에 있는 인간 일차 시각 피질(1420)까지 뻗어 있다.
시각 신호는 눈(1412)으로부터 시신경(1410)을 통해 시신경 교차로 전달된다. 예를 들어, 정중선(midline)의 우측에 있는 우측 상부 시야를 쳐다보거나 시각화하는 것은 우측 눈의 우측 상부에서의 동일한 반시야에 대응하는 시각 피질에서 수반되는 뇌 활동을 생성한다. 시각 피질의 망막위상적 구조는 멘탈 데스크톱이 뇌 활동으로부터 사용자가 액세스하고자 하는 영역을 식별하기 위해 사용가능한 정보로 디코딩된 시공간 정보를 사용하는 것을 가능하게 한다. 앞서 기술한 바와 같이, 각각의 망막의 측면들에서의 이미지들은 시신경(1410)을 통해 시신경 교차(1430)에서 크로스오버하여 뇌의 반대쪽으로 간다. 다른 한편으로, 측두 이미지는 동일한 쪽에 유지된다. 외측 슬상핵(1440)(좌측 및 우측)은 눈(1412)으로부터 수신되는 시각 정보에 대한 일차 중계 센터이다.
신호는 슬상핵(1440)으로부터 시방사(1450)를 통해 송신된다. 시방사(1450)는 일차 시각 피질(1420)로의 직접 경로이다. 무의식적 시각 입력은 곧바로 망막으로부터 상구(superior colliculus)(1460)로 간다.
표 1은 좌측 및 우측 시야 사분역들의 시신경 교차, 좌측 및 우측 슬상핵, 및 마이어 루프를 포함한 시방사를 통한 시각 피질에의 매핑을 나타내고 있다.
Figure pct00001
도 15는 일 실시예에 따른, 시각 공간(1500)의 생리학적으로 분리된 섹션들을 나타낸 것이다. BCI 시스템은 콘텐츠를 시각 공간의 생리학적으로 분리된 섹션들에 할당한다. 도 15에서, 시각 공간(1500)은 좌측 반시야(1510) 및 우측 반시야(1520)로 구성된다. 시각 공간(1500)은 또한 상부 반시야(1530) 및 하부 반시야(1540)로 구성된다. 이와 같이, 일 실시예에 따르면, 시각 공간(1500)은 사용자가 시각 공간(1500) 내의 적절한 구역의 시각화에 기초하여 구현할 수 있는 콘텐츠를 할당받을 수 있다. 콘텐츠는, 애플리케이션 바로가기, 파일 포인터, 파일 등과 같이, 무엇이라도 될 수 있다. 사용자는 시각 공간의 그 생리학적으로 분리된 섹션에 따라 보이거나 시각화되는 위치에 할당되는 콘텐츠가 무엇이든 그 콘텐츠에 액세스하기 위해 특정의 반시야를 단순히 쳐다보거나 시각화할 것이다. 시각 공간(1500)의 8개의 반시야 각각은 시각화 또는 반시야 공간에서의 임의의 활동을 통해 액세스되는 공간 내의 영역에 할당된 콘텐츠를 가질 수 있다. 예를 들어, 제1 애플리케이션 바로가기(1550)가 좌측의 좌측 상부 반시야에 할당될 수 있다. 파일 포인터(1552)가 좌측의 좌측 하부 반시야에 할당될 수 있다.
도 15의 각각의 개인의 시야를 시야의 영역들에 대응하는 시각 공간(1500)의 영역들을 규정하도록 매핑하기 위해 훈련 시스템이 이용될 수 있다. 멘탈 데스크톱의 예민성(acuity)이 시야에서의 공간 경계들에 의해 개선될 수 있다. 게다가, 사용자는 멘탈 데스크톱에서 이용가능한 시각 공간(1500)의 구획의 시각화를 용이하게 하기 위해 헤드 탑재형 디스플레이를 사용할 수 있다. 임의의 디바이스 상에서 멘탈 데스크톱 작업 공간을 인에이블시키기 위해 개인의 멘탈 데스크톱이 원격지(예컨대, 클라우드 저장소)에 저장될 수 있다.
도 16은 일 실시예에 따른, BCI 시스템에 의해 이용되는 일차 운동 피질(1610) 및 일차 감각 피질(1612)을 나타낸 대뇌 피질(1600)의 모델이다. 일차 운동 피질(1610) 및 일차 감각 피질(1612)은, 각각, 수직 슬라이스로 나타낸 중심구(central sulcus)(1630)에 대해 앞쪽 및 뒤쪽에 있다. 중심구(1630)는 두정엽(parietal lobe)(1640)과 전두엽(frontal lobe)(1650)을 그리고 일차 운동 피질(1610)과 일차 체감각 피질(primary somatosensory cortex)(1660)을 분리시키는 뇌의 중요한 경계 표시를 나타내는 대뇌 피질(cerebral cortex) 내의 주름(fold)이다.
일 실시예에 따르면, 정신적 제스처가, 인간 뇌에서 발견되는 일차 운동 피질 및/또는 일차 체감각 피질과 같은, 위상학적으로 구성된 뇌 영역들로부터 나오는 뇌 활동에 매핑된다. 이들 두 개의 뇌 구역 각각은 대응하는 신체 위치들을 제어하는 데 전용되어 있는 개별 구역들로 나누어지는 영역들을 가진다. 도 16에서, 보조 운동 피질(supplementary motor cortex)(1660)은 전두엽(1650)의 대략 정중선에 도시되어 있다. 보조 운동 피질(1660)은 운동의 제어에 기여하는 대뇌 피질(1600)의 일부이다. 일차 운동 피질(1610)은 전두엽(1650)의 뒤쪽 부분에 위치되어 있다. 일차 운동 피질(1610)은 운동을 계획하고 실행하는 것에 관여되어 있다. 후두정 피질(posterior parietal cortex)(1640)은 공간에서의 신체 및 외부 물체들의 위치를 파악하는 데 역할을 하는 3개의 감각계 - 시각계(visual system), 청각계(auditory system), 및 체감각계(somatosensory system) - 로부터 입력을 수신한다. 체감각계는 터치 - 즉, 피부와의 물리적 접촉 - 를 통해 외부 환경에 있는 물체들에 관한 정보를 제공하고, 근육 및 관절의 자극을 통해 신체 부위의 위치 및 움직임에 관한 정보를 제공한다. 차례로, 후두정 피질(1640)의 출력의 많은 부분은 정면의 운동 피질(frontal motor cortex)(1670)의 구역들로 간다. 전운동 피질(premotor cortex)(1670)은 전두엽(1650) 내에서 일차 운동 피질(1610) 바로 앞쪽에 있다. 전운동 피질(1670)은 사지 운동(limb movement)을 준비하고 실행하는 데 관여되어 있고, 적절한 운동을 선택하기 위해 다른 영역들과 조정한다.
물리적 또는 지각적 입력들을 이용하는 사용자 인터페이스는 미리 결정된 동작들을 수행하기 위해 일련의 프로토콜을 사용한다. 예를 들어, 키보드는 각각에 문자가 할당되어 있는 키들을 사용하거나, 마우스는 응답을 나타내기 위해 X-Y 위치 및 클릭을 사용한다. 이와 유사하게, BCI 시스템도 BCI 입력들의 널리 확산된 실제 사용을 확립하기 위한 토대를 필요로 한다. 일 실시예에 따르면, BCI 시스템은 기능들을 수행하거나 다른 유형의 입력을 제공하기 위해 정신적 제스처를 구현하고 처리한다. 정신적 제스처는 그의 출력에 대한 유연한 제어를 위해 키보드 상의 키들이 미리 결정된 입력을 제공하는 것과 동일한 방식으로 컴퓨터 입력으로서 사용될 뇌 활동으로부터 해석되는 생각 제스처들의 라이브러리이다.
예를 들어, 터치 기반 표면은 핀치(pinching), 쥐기(squeezing), 및 스와이프(swiping)와 같은 사전 설정된 제스처들을 가진다. 이들 터치 제스처는 터치 인터페이스 및 작업들에 걸친 사용을 구성하는 토대로서 역할한다. 이와 유사하게, 정신적 제스처는 작업들 및 심지어 플랫폼들에 걸친 사용을 가능하게 하기 위해 BCI 제스처들(즉, 정신적 제스처들)의 라이브러리를 통해 BCI 입력에 대한 토대를 확립하는 동일한 원리를 따른다.
정신적 제스처는 생각을 통해 실행가능하고 뇌 활동으로부터 직접 기록된다. 실제 움직임에 기초하는 터치 제스처와 달리, 정신적 제스처는 상상된 운동 움직임(motor movement)이다. 정신적 제스처들의 라이브러리와 터치와 같은 단일의 모달리티보다는 다양한 많은 수의 상상된 움직임들을 사용하는 것의 유연성의 조합은 BCI 시스템에 대한 아주 강력한 인터페이스의 가능성을 제시한다. 종래의 입력에 대한 정신적 제스처의 이점은 (1) 사용자가 임의의 정보를 물리적으로 입력할 필요가 없다는 것 - 사지가 없거나 그 사지를 조절할 수 없는 사람들이 동작을 수행할 수 있게 함 -, (2) 정신적 제스처가 물리적 입력으로서 실현가능하지 않을 임의의 상상된 운동 움직임(예컨대, 차는 것)으로부터 나올 수 있다는 것, (3) 가능한 정신적 제스처들의 범위가 수동 입력(manual input)에 의존하는 마우스, 키보드 및 트랙패드와 같은 종래의 입력보다 유연성 및 유용성을 확장시킨다는 것, 및 (4) 많은 뇌가 독립적인 운동 신호를 생성할 수 있는 좌우 편측성 뇌 반구(left and right lateralized brain hemisphere)를 가지기 때문에 정신적 제스처가 반구에 특정될 수 있다는 것을 포함한다.
정신적 제스처의 예는 한 손가락 움직임, 상이한 개수의 손가락 움직임(예컨대, 한 손가락, 두 손가락 또는 세 손가락 움직임), 손 흔들기, 차기, 발가락 움직임, 깜빡거리기, 고개 돌리기, 손 까딱거리기, 허리 굽히기 등을 포함하지만, 이들로 제한되지 않는다. 정신적 제스처에 의해 표현되는 움직임들은 각종의 컴퓨터 입력들과 연관되어 있을 수 있는 순전히 상상된 움직임이다. 예를 들어, 운영 체제는 기능을 한 손가락 움직임에 그리고 상이한 기능을 두 손가락 움직임에 할당할 수 있다. 다른 대안으로서, 미디어 플레이어는 그의 기능들[예컨대, 재생/일시 중지, 거꾸로 재생(reverse), 순서 섞기(shuffle) 등] 각각을 상이한 정신적 제스처들에 할당할 수 있다.
정신적 제스처의 하나의 가능한 구현은 개발자가 그의 소프트웨어 내의 독점적 기능들에 할당할 정신적 제스처들의 라이브러리를 갖는 SDK(software development kit)일 것이다. SDK는 시스템에 대한 애플리케이션들의 제작을 가능하게 하는 소프트웨어 개발 도구들의 세트이다. SDK는 개발자가 유연하고 제약이 없는(open-ended) 방식으로 사용될 수 있는 정신적 제스처들에 액세스할 수 있게 할 것이다. 예를 들어, 비디오 게임 개발자는 비디오 게임의 측면들에 대한 BCI 제어를 개발하기 위해 정신적 제스처 SDK를 사용할 수 있거나, 모바일 OEM(original equipment manufacturer)은 그의 모바일 디바이스 상의 독점적 기능들에 대한 정신적 제스처 제어를 개발하기 위해 정신적 제스처 SDK를 사용할 수 있다.
정신적 제스처는 또한 다수의 입력 소스들을 결합시킬 수 있는 다른 시스템에 대해서도 사용될 수 있다. 교차 양상(cross-modal) 지각 컴퓨팅 솔루션이 존재하는 경우, 정신적 제스처들은 다른 지각적 입력들과 결합될 부가의 입력 소스일 수 있다. 예를 들어, 좌외측(left-lateral) 또는 우외측(right-lateral) 정신적 제스처 입력에 기초하여 왼손잡이 또는 오른손잡이 에어 제스처(air gesture)에 대해 코딩하기 위해 에어 제스처가 정신적 제스처와 결합될 수 있다.
도 17은 대뇌 피질의 중심전회 상의 일차 운동 피질(1710)의 위상학적 구조를 나타낸 모델(1700)이다. 신체의 각각의 부위가 피질의 개별 구역들에 의해 표현되고, 피질의 양은 그의 각자의 신체 부위의 조절과 연관되어 있다. 도 17은 발(1720), 엉덩이(1722), 몸통(1724), 팔(1726), 손(1728), 얼굴(1730), 혀(1732), 및 후두(1734)의 움직임을 준비하고 실행하는 일을 맡고 있는 구역들을 나타낸 것이다.
이웃하는 구역들을 구분하기에 충분히 좁은 피질의 세그먼트로부터 신호들을 추출하기에 충분히 높은 공간 분해능을 갖는 임의의 뇌 영상 디바이스가 멘탈 데스크톱을 구현하는 데 사용될 수 있다. 현재 이용가능한 디바이스들 중 일부 예는 고밀도 전극 EEG, fNIRS, MRI, 또는 MEG를 포함한다.
뇌로부터의 각각의 신호에 대해, 반구(좌측 또는 우측), 공간 위치, 및 구역은 운동 신호(motor signal)의 소스에 대한 코드들을 맡고 있다. 예를 들어, 좌측 검지 손가락의 활동 또는 상상된 활동은 우측 반구에 있는 손가락 구역에서의 활동을 생성할 것이다. 정신적 제스처는 좌측 한 손가락 움직임에 대해 코딩할 것이고, 활성인 구역의 위치 및 양은 정확한 손가락 및 손가락의 개수(즉, 한 손가락, 두 손가락, 세 손가락 또는 네 손가락 제스처)에 대해 코딩할 것이다.
이와 같이, 일 실시예에 따른, 입력을 위해 정신적 제스처들을 사용하는 멘탈 데스크톱을 구현하는 시스템은 fNIRS, EEG, MEG, MRI, 초음파 등과 같은 신경 영상 디바이스를 포함할 수 있다. 뇌 활동을 획득하거나 분석하기 위한 방법들은 또한 MBLL(modified Beer-Lambert Law), 이벤트 관련 성분, 다중 복셀 패턴 분석, 스펙트럼 분석, fNIRS에 대한 MVPA의 사용을 포함할 수 있다.
일 실시예에 따르면, BCI 시스템은 컴퓨터 콘텐츠 및 기능들을 시야의 상이한 섹션들에 매핑하는 멘탈 데스크톱을 제공한다. BCI 시스템은 사용자들이 앞서 언급된 시스템의 적용에서 훈련될 수 있게 한다. 뇌 활동으로부터 해석되는 생각 제스처들의 라이브러리가 컴퓨터 탐색, 명령, 및 제어에 영향을 미치기 위해 사용될 수 있다. 게다가, 소프트웨어 개발자들이 정신적 제스처들을 이용할 수 있게 하기 위해 개발 시스템이 제공될 수 있다.
도 18은 일 실시예에 따른, BCI 척도들 및 기타 모달리티들을 애플리케이션들에 할당하기 위한 사용자 인터페이스(1800)를 나타낸 것이다. 도 18에, 애플리케이션들(1810)의 열이 좌측에 도시되어 있다. BCI 척도들 및 기타 모달리티들(1820)이 우측에 도시되어 있다. 기타 애플리케이션들(1810)은 물론 기타 BCI 척도들 및 기타 모달리티들(1820)이 구현될 수 있다. 좌측에 있는 애플리케이션들(1810) 중 적어도 하나에 할당하기 위해 BCI 척도들 및 기타 모달리티들(1820)이 선택될 수 있다. 이와 같이, 일 실시예에 따른 BCI 시스템은 멀티모달 시스템(multimodal system)에서 사용될 수 있다.
BCI를 다른 모달리티들(예컨대, 제스처, 음성, 눈 추적, 및 얼굴/얼굴 표정 추적)과 결합하는 것에 의해, 사용자가 전자 디바이스를 제어하는 새로운 사용자 경험들 및 방식들이 제공될 수 있다. 이와 같이, 일 실시예에 따른 BCI 시스템은 BCI 유형의 입력은 물론 기타 모달리티들도 인식한다. 그에 부가하여, 뇌 활동 끌어내기(brain activity elicitation)를 갖는 어떤 피드백 루프 접근법들이 구현될 수 있고, 컨텍스트 감지는 BCI 입력의 사용을 변경할 수 있다.
도 19는 일 실시예에 따른, BCI 입력들(1910) 및 기타 모달리티 입력들(1912)을 받는 BCI 시스템(1900)을 나타낸 것이다. 도 19에서, 애플리케이션들(1920)에 의한 구현을 위해 BCI 입력들(1910)이 BCI 시스템(1900)에 제공된다. 애플리케이션들(1920)에 의한 구현을 위해 부가의 모달리티들(1912)이 또한 BCI 시스템(1900)에 제공된다. 그렇지만, BCI 입력들(1910) 및 부가의 모달리티들(1912) 중 일부는 상호 배타적일 수 있는 반면, 일부는 함께 사용될 수 있다. 내추럴 UI 입력들 및 BCI 입력들이 어떻게 함께 동작하는지에 관한 휴리스틱(heuristics)을 유지하기 위해 지각 컴퓨팅 대 BCI 데이터베이스(perceptual computing to BCI database)(1930)가 사용될 수 있다. 조정 모듈(coordination module)(1940)은 BCI 입력들(1912), 부가의 입력 모달리티들(1912), 및 데이터베이스(1930)로부터의 지각 컴퓨팅 입력들로부터 입력을 수신하고, 이어서 결정된 사용자 의도에 관해 결정을 한다. 조정 모듈(1940)은 BCI 애플리케이션 조정 모듈(1970)로부터의 결과들에 기초하여 사용자 의도의 최종적인 결정을 하고, 최종 명령을 개시한다. UI(1960)는, 도 19에 도시된 바와 같이, BCI 입력들(1910) 및 부가의 모달리티 입력들(1912)을 애플리케이션들(1920)에 할당하기 위해 사용될 수 있다. 애플리케이션 연관 데이터베이스(1932)는 BCI/애플리케이션 연관들을 저장하기 위해 사용될 수 있다. BCI 애플리케이션 조정 모듈(1970)은 할당된 애플리케이션들이 실행 중인지를 모니터링하고, 관련 애플리케이션들에 대해 BCI 제어를 개시한다.
BCI 입력 품질 모듈(1972)은 센서 입력을 열화시키는 환경 신호들을 모니터링한다. BCI 시스템은 앞서 기술된 변수들 및 특정의 형태의 입력(1910, 1912)을 금지시키는 그들의 레벨들을 포함하는 인자 조건들의 인자 데이터베이스(1934)를 추가로 포함한다. 디렉터 모듈(director module)(1980)은 입력들(1910, 1912)을 수신하고, 그들을 인자 데이터베이스(1934)와 대조하여 가중시키며, 입력들(1910, 1912)이 어떻게 사용되는지(예컨대, 턴오프되는지, 턴온되는지, 어떤 척도들이 다른 것들보다 더 많이 가중되는지 등)를 제어하기 위해 명령들을 애플리케이션들(1920)로 송신한다. 컨텍스트 구성 블록 서브시스템(1982)은 환경 및 사용자 인자들을 측정한다. 있을 수 있는 간섭이 발생하고 있는지가 디렉터 모듈(1980)에 의해 판정된다. 간섭이 검출되는 경우, 디렉터 모듈(1980)은 BCI 입력(1910)을 조절한다.
손 제스처, 음성, 및 눈 추적과 같은 입력 모달리티들에서, 하나의 과제는 그 모달리티들 중 하나(예컨대, 음성 명령)를 통해 시스템에 긴박한 명령을 알려주는 것이다. 시스템이 실제 명령 이전 또는 이후의 부주의한 잡음 또는 움직임을 명령으로서 해석할 수 있다. 명령 직전의 사용자로부터의 BCI 패턴이 그 다음의 주요 센서 검출 이벤트가 명령으로서 해석될 수 있다는 것을 신호할 수 있다.
시스템이 하나 이상의 모달리티들로부터 동시에 입력을 받을 때, BCI 입력은 어느 모달리티가 우선순위를 가져야 하는지를 나타낼 수 있다. 교차 양상 BCI 입력의 사용의 하나의 예는 제스처가 오른손잡이 제스처 기반인지 왼손잡이 제스처 기반인지를 판정하기 위해 BCI 입력을 사용하는 것일 것이다. 다른 대안으로서, 입력 명령을 강화하기 위해 BCI 입력이 다른 모달리티와 동시에 사용될 수 있다. 예를 들어, 뇌 활동 패턴이 음성 명령과 동시에 측정될 수 있다. 시스템이 두 개의 유사하게 들리는 명령을 구분하는 데 도움을 주기 위해 뇌 활동 패턴이 사용될 수 있다.
착용자의 시점으로부터 오디오 및 비디오를 기록하는 라이프 블로깅(life blogging) 및 "완전 기억(total recall)" 시스템을 포함하는 일 실시예에 따른 BCI 시스템들이 인지 결손(cognitive deficit)이 있는 사람들을 돕는 데 사용될 수 있다. 센서 입력의 측면들을 결정하기 위해 소프트웨어 알고리즘들이 사용될 수 있다. 예를 들어, 기억 상실이 있는 노인이 이러한 디바이스를 착용할 수 있을 것이고, BCI가 전기적 패턴 및/또는 혈류를 통해 혼란스러운 상태를 검출할 때, 시스템은 사용자에게 눈에 보이는 사람들 및 물체들의 이름들을 생각나게 하는 오디오 정보를 이어폰으로 제공할 수 있다.
보고 생각하기(see and think) 명령 및 추적이 제공될 수 있다. 사용자는 목표를 선택하기 위해 눈 추적 입력을 사용하고, 그러고 나서 초점이 맞춰져 있는 목표에 작용할 입력을 제공하기 위해 BCI 시스템을 사용할 수 있다(예컨대, 사용자가 쳐다보고 있는 물체가 뇌 활동 패턴에 기초하여 색을 변경한다). 이 예는 또한 비주얼 미디어에 적용될 수 있다(예컨대, 사용자가 캐릭터에 초점을 맞출 수 있고, 사용자의 뇌 활동 패턴은 그 캐릭터를 보다 흥미로운 것으로 표시할 수 있다). 게다가, 사용자가 독서를 할 때, 텍스트가 이해되지 않는다는 것을 나타내기 위해 혼동이 검출될 수 있고, 이는 가르치는 데 도움이 될 수 있다.
교차 모달리티 중단(cross modality interruption)을 해결하기 위해 BCI 입력이 사용될 수 있다. 다른 모달리티에 응답하고 있는 시스템을 중단시키기 위해 BCI 입력이 사용될 수 있다. 예를 들어, 게임에서, 사용자는 캐릭터를 한 방향으로 움직이기 위해 에어 제스처를 사용하고, 이어서 캐릭터를 멈추게 하기 위해 BCI 입력의 변화를 사용할 수 있다. UI 피드백이 또한 BCI 입력과 함께 사용될 수 있다. 예를 들어, BCI 시스템은, 시스템이 BCI 입력을 식별할 때, 다양한 피드백을 사용자에게 제공할 수 있어, 사용자가 입력이 수신 및 확인되었다는 것을 알 수 있게 한다. BCI 피드백이 제스처와 같은 다른 모달리티 피드백과 함께 일어날 수 있다. 게다가, BCI 입력의 사용자 매핑을 위해 UI가 사용될 수 있다. 사용자 인터페이스는 사용자가 뇌 활동 패턴을 주어진 모달리티에 매핑할 수 있게 하고, 따라서 대응하는 BCI 패턴이 일어날 때 시스템은 그 모달리티에 대한 명령 기회 창(command window-of-opportunity)을 활성화시킨다. 사용자는 뇌 활동 패턴을 주어진 모달리티에 매핑할 수 있고, 따라서 감지된 입력들이 뇌 활동 패턴 및 다른 모달리티에 상관되기 때문에, 시스템은 명령을 인식하는 데 더 높은 신뢰성을 가진다. 사용자는 또한 상이한 모달리티들을 상이한 뇌 활동 패턴들에 매핑할 수 있고, 따라서 하나의 패턴은 상관하는 모달리티가 활성일 수 있다는 것을 의미할 것인 반면, 다른 패턴은 상이한 모달리티를 활성화시킨다.
BCI 입력은 또한 시스템 자원들을 활성화시키는 데 사용될 수 있다. 예를 들어, 사용자가 더 민감(alert)하게 될 때 시스템은 전원 상태로부터 나오라는 경보를 받을 수 있다. 이것은 사용자가 시각 디자인을 하고 있을 때 사용될 수 있다. BCI 시스템은 사용자가 브라우징 모드에 있을 때 프로세서가 슬립 상태로 갈 수 있게 할 것이다. 뇌 활동 패턴이 사용자가 편집을 하는 것과 같은 동작을 하려고 한다는 것을 나타낼 때, 시스템은 프로세서에 전원을 공급할 수 있고, 따라서 프로세서는 사용자가 동작을 시작할 때 보다 즉각적으로 반응한다.
일 실시예에 따르면, BCI 시스템(1900)은 사용자가 BCI 입력을 포커스를 갖지 않을 수 있는 하나의 애플리케이션에 할당할 수 있게 하고, 여기서 포커스는 현재 OS의 관심을 받고 있는 애플리케이션을 가리킨다. 사용자가 다른 것을 하고 있더라도, 애플리케이션은 이어서 BCI 입력에 응답할 것이다. UI는 사용자가 애플리케이션을 할당할 수 있게 한다.
실시예들의 다른 예는 사용자가 문서를 편집하고 있는 동안 제어를 위해 BCI 입력이 접수되는 음악 및 오디오 구현들을 포함할 수 있다. 사용자가 생산적(productive)인 동안, 통신 채널은 인스턴트 메시징(IM) 클라이언트를 통해 사용자의 상태(예컨대, 생각하느라 바쁨)를 나타낼 수 있다. 특정의 뇌 영역들은 작업들 간의 전환을 용이하게 하고, 음악을 변경하는 BCI 입력은 작업들 간의 전환을 용이하게 할 수 있다. 뇌의 작업 전환 부분이 활성으로 될 때마다, 새로운 작업으로의 전환을 용이하게 하기 위해 음악 플레이어가 다음 트랙으로 건너뛰도록, BCI 시스템이 음악 플레이어에 매핑될 수 있다. 그에 부가하여, 자율 차량은 운전자가 차량에서의 비운전 활동들을 즐기기 위해 운전의 요구로부터 벗어날 수 있게 할 것이다. 그렇지만, 운전의 임무가 운전자에게 돌아올 때, 비운전 활동들이 철회된다. BCI 시스템은 특정의 작업 부하 레벨에 도달될 때 엔터테인먼트 특징들을 스위치 오프(switch off)시키기 위해 차량용 인포테인먼트 시스템(in-vehicle infotainment system)의 엔터테인먼트 특징들을 인지적 작업부하에 매핑할 수 있다.
BCI 시스템은 또한 주어진 때에 다양한 BCI 입력들이 사용될 수 있게 하기 위해 사용자 컨텍스트에 관한 결정을 할 수 있다. 상태 지시자는 BCI 입력이 입력으로서 이용가능할 때를 사용자에게 보여줄 수 있다. 일 실시예에 따른 BCI 시스템에 의해 기타 컨텍스트 결정들이 제공될 수 있다. 예를 들어, 사용자의 활동이 심박수, 호흡, 움직임으로서 측정하는 생체 측정 센서들에 의해, 가속도계 및 자이로스코프에 의해, 그리고 사용자 자세(예컨대, 서 있는 것 대 누워 있는 것)에 의해 결정될 수 있다. 특정의 활동 레벨에서, 신뢰할 수 없는 BCI 입력이 시스템에 의해 사용되지 못하도록 할 수 있거나, 시스템이 변하는 상황에 따라 조절할 수 있다. BCI 시스템은 사용자가 대화에 참여하고 있는지를 결정할 수 있고, 그 정보가 BCI 입력으로서 사용될 수 있다. 컨텍스트 결정을 하기 위한 BCI 입력은 또한 소리, 시각적 자극, 예기치 못한 소음, 냄새, 재생되는 미디어, 및 기타 인자들을 비롯한 사용자 주의 분산을 야기시키는 신뢰성 있는 BCI 입력을 금지시키는 환경 조건들 그리고 자기장과 같은 전기적 간섭, 주변 온도, 및 기타 환경 인자들로 인해 정확한 측정을 못하게 할 수 있는 환경 조건들을 포함할 수 있다.
상이한 유형의 뇌 활동 센서들은 사용자가 하고 있는 주어진 작업에 대해 상이한 장점들 및 이점들을 가진다. 예를 들어, 더 높은 공간 분해능이 요망되는 경우에, 본 시스템은 더 낮은 공간 분해능을 가지는 EEG보다는 fNIRS 입력을 선택할 수 있다. 다른 경우들에서, 고속 피드백이 요망될 수 있고, 따라서 시스템은 EEG 또는 더 높은 시간 분해능을 또한 가지는 다른 기술을 선택할 수 있다. 환경 센서들은 어느 BCI 입력이 최상인지에 영향을 주기 위해 사용자 활동들을 결정할 수 있다. 전자기 에너지와 같은 환경 인자들은 EEG에 의해 검출가능한 것으로 알려져 있다. EM(electromagnetic) 에너지가 EEG 기록을 방해하는 경우에, BCI 시스템은 우세한 입력 소스로 전환할 수 있다.
도 20은 일 실시예에 따른, 사용자 의도를 결정하는 방법(2000)의 플로우차트를 나타낸 것이다. BCI 시스템은 사용자 의도를 결정한다(2010). 지각 컴퓨팅 시스템은 사용자 입력을 해석한다(2020). 조정 모듈은 이어서 사용자 의도의 최종 결정을 하고 최종 명령을 개시한다(2030).
도 21은 일 실시예에 따른, 애플리케이션을 제어하기 위한 BCI 입력을 할당하는 방법(2100)의 플로우차트이다. 사용자는 BCI 입력을 애플리케이션과 정합시킨다(2110). BCI 애플리케이션 조정 모듈은 애플리케이션 사용이 있는지 모니터링한다(2120). 애플리케이션이 사용 중인지가 판정된다(2130). 애플리케이션이 사용 중이 아닌 경우(2132), 프로세스는 BCI 입력을 애플리케이션과 정합시키는 것으로 복귀한다. 애플리케이션이 사용 중인 경우(2134), 할당된 BCI 입력이 애플리케이션을 제어하는 데 사용된다(2140).
도 22는 일 실시예에 따른, BCI 시스템에 의해 컨텍스트 인자들을 조절하는 방법(2200)의 플로우차트이다. BCI 입력 서브시스템이 실행 중이다(2210). 컨텍스트 구성 블록 서브시스템이 환경 및 사용자 인자들을 측정한다(2220). 있을 수 있는 간섭들이 발생하고 있는지가 디렉터 모듈에 의해 판정된다(2230). 아니오인 경우, 2232에서, 프로세스가 프로세스의 시작으로 복귀한다. 있을 수 있는 간섭이 검출되는 경우(2234), 디렉터 모듈은 BCI 입력을 조절한다(2240). 프로세스는 시작으로 복귀할 수 있다(2242).
이와 같이, 본 명세서에 기술된 실시예들에 따르면, 자이리피케이션, 피질 두께, 두피 두께 등과 같은 뇌/두개골 해부학적 특성들이 식별/인증을 위해 사용될 수 있다. 측정된 자극/반응 뇌 특성들(예컨대, 해부학적 및 생리학적)이 식별/인증을 위해 뇌를 분류하기 위한 특정의 패턴들로 변환될 수 있다. 사용자의 신원 및 진정성을 결정하기 위해 해부학적 및 생리학적 뇌 데이터가 결합될 수 있다. 다른 뇌 시그너처들에 관한 정보(예컨대, 해부학적 및 생리학적), 및 유사한 뇌들과의 비교가 새로운 자극에 대한 뇌 반응을 예측하기 위해 그리고 식별 및/또는 인증을 위해 사용될 수 있다. 뇌 식별 및/또는 인증 기법들이 다른 식별 및/또는 인증 기법들(예컨대, 패스워드, 기타 생체 측정 파라미터들)과 결합하여 신원 확인/인증 민감도 및 특이성을 증가시키는 데 사용될 수 있다.
도 23은 본 명세서에서 논의된 기법들(예컨대, 방법들) 중 임의의 하나 이상이 수행될 수 있는, 일 실시예에 따른, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들에 기초하여 BCI(brain computer interface) 시스템을 제공하는 예시적인 기계(2300)의 블록도를 나타낸 것이다. 대안의 실시예들에서, 기계(2300)는 독립형 디바이스로서 동작할 수 있거나, 다른 기계들에 연결(예컨대, 네트워크로 연결)될 수 있다. 네트워크로 연결된 배치에서, 기계(2300)는 서버-클라이언트 네트워크 환경에서 서버 기계 및/또는 클라이언트 기계로서 동작할 수 있다. 한 예에서, 기계(2300)는 P2P(peer-to-peer)(또는 기타 분산) 네트워크 환경에서 피어 기계(peer machine)로서 기능할 수 있다. 기계(2300)는 PC(personal computer), 태블릿 PC, STB(set-top box), PDA(Personal Digital Assistant), 휴대 전화, 웹 가전 제품, 네트워크 라우터, 스위치 또는 브리지, 또는 기계에 의해 취해질 동작들을 지정하는 명령어들을 (순차적으로 또는 기타 방식으로) 실행할 수 있는 임의의 기계일 수 있다. 게다가, 단일의 기계가 예시되어 있지만, "기계"라는 용어는 또한 클라우드 컴퓨팅, SaaS(software as a service), 기타 컴퓨터 클러스터 구성들과 같은 본 명세서에서 논의된 방법들 중 임의의 하나 이상을 수행하기 위해 개별적으로 또는 결합하여 명령어들의 세트(또는 다수의 세트들)를 실행하는 기계들의 임의의 집합체를 포함하는 것으로 해석되어야 한다.
예들은, 본 명세서에 기술된 바와 같이, 로직 또는 다수의 컴포넌트들, 모듈들, 또는 메커니즘들을 포함할 수 있거나, 그에서 동작할 수 있다. 모듈은 명시된 동작들을 수행할 수 있는 유형적 엔터티(예컨대, 하드웨어)이고, 특정의 방식으로 구성 또는 배열될 수 있다. 한 예에서, 회로들이 (예컨대, 내부적으로 또는 다른 회로들과 같은 외부 엔터티들과 관련하여) 명시된 방식으로 모듈로서 배열될 수 있다. 한 예에서, 하나 이상의 컴퓨터 시스템들(예컨대, 독립형, 클라이언트 또는 서버 컴퓨터 시스템) 또는 하나 이상의 하드웨어 프로세서들(2302) 중 적어도 일부가 펌웨어 또는 소프트웨어(예컨대, 명령어들, 애플리케이션 부분, 또는 애플리케이션)에 의해 명시된 동작들을 수행하도록 동작하는 모듈로서 구성될 수 있다. 한 예에서, 소프트웨어는 적어도 하나의 기계 판독가능 매체에 존재할 수 있다. 한 예에서, 소프트웨어는, 모듈의 기본 하드웨어에 의해 실행될 때, 하드웨어로 하여금 명시된 동작들을 수행하게 한다.
그에 따라, "모듈"이라는 용어는 유형적 엔터티를 포괄하는 것으로 이해되고, 명시된 방식으로 동작하거나 본 명세서에 기술된 임의의 동작의 적어도 일부를 수행하도록 물리적으로 구성되거나, 구체적으로 구성되거나(예컨대, 하드와이어드(hardwired)되거나), 또는 일시적으로(예컨대, 임시적으로) 구성된(예컨대, 프로그램된) 엔터티이다. 모듈이 일시적으로 구성된 예를 생각해보면, 모듈이 어느 한 시점에서 인스턴스화될 필요는 없다. 예를 들어, 모듈이 소프트웨어를 사용하여 구성된 범용 하드웨어 프로세서(2302)를 포함하는 경우; 범용 하드웨어 프로세서는 상이한 때에 각자의 상이한 모듈로서 구성될 수 있다. 소프트웨어는, 그에 따라, 하드웨어 프로세서를, 예를 들어, 하나의 시간 인스턴스(one instance of time)에는 특정의 모듈이 되고 상이한 시간 인스턴스에는 상이한 모듈이 되도록 구성할 수 있다. "애플리케이션"이라는 용어 또는 그의 변형은 루틴, 프로그램 모듈, 프로그램, 컴포넌트 등을 포함하기 위해 본 명세서에서 널리 사용되고 있으며, 단일 프로세서 또는 다중 프로세서 시스템, 마이크로프로세서 기반 전자 장치, 단일 코어 또는 다중 코어 시스템, 이들의 조합 등을 비롯한 다양한 시스템 구성들에서 구현될 수 있다. 이와 같이, 애플리케이션이라는 용어는 본 명세서에 기술된 임의의 동작의 적어도 일부를 수행하도록 구성된 소프트웨어 또는 하드웨어의 일 실시예를 지칭하기 위해 사용될 수 있다.
기계(예컨대, 컴퓨터 시스템)(2300)는 하드웨어 프로세서(2302)[예컨대, CPU(central processing unit), GPU(graphics processing unit), 하드웨어 프로세서 코어, 또는 이들의 임의의 조합], 메인 메모리(2304), 및 정적 메모리(2306) - 이들 중 적어도 일부는 인터링크(interlink)(예컨대, 버스)(2308)를 통해 다른 것들과 통신할 수 있음 - 를 포함할 수 있다. 기계(2300)는 디스플레이 유닛(2310), 영숫자 입력 디바이스(2312)(예컨대, 키보드), 및 사용자 인터페이스(UI) 탐색 디바이스(2314)(예컨대, 마우스)를 추가로 포함할 수 있다. 한 예에서, 디스플레이 유닛(2310), 입력 디바이스(2312) 및 UI 탐색 디바이스(2314)는 터치 스크린 디스플레이일 수 있다. 기계(2300)는, 그에 부가하여, 저장 디바이스(예컨대, 드라이브 유닛)(2316), 신호 발생 디바이스(2318)(예컨대, 스피커), 네트워크 인터페이스 디바이스(2320), 및 GPS(global positioning system) 센서, 나침반, 가속도계, 또는 기타 센서와 같은 하나 이상의 센서들(2321)을 포함할 수 있다. 기계(2300)는 하나 이상의 주변 디바이스들(예컨대, 프린터, 카드 판독기 등)과 통신하거나 그를 제어하기 위해 직렬[예컨대, USB(universal serial bus)], 병렬, 또는 기타 유선 또는 무선[예컨대, IR(infrared)] 연결과 같은 출력 제어기(2328)를 포함할 수 있다.
저장 디바이스(2316)는 본 명세서에 기술된 기법들 또는 기능들 중 임의의 하나 이상을 구현되거나 그에 의해 이용되는 데이터 구조들 또는 명령어들(2324)(예컨대, 소프트웨어)의 하나 이상의 세트들이 저장되어 있는 적어도 하나의 기계 판독가능 매체(2322)를 포함할 수 있다. 명령어들(2324)은 또한, 적어도 부분적으로, 메인 메모리(2304), 정적 메모리(2306)와 같은 부가의 기계 판독가능 메모리에 또는 기계(2300)에 의한 그의 실행 동안 하드웨어 프로세서(2302) 내에 존재할 수 있다. 한 예에서, 하드웨어 프로세서(2302), 메인 메모리(2304), 정적 메모리(2306), 또는 저장 디바이스(2316) 중 하나 또는 그의 임의의 조합이 기계 판독가능 매체를 구성할 수 있다.
기계 판독가능 매체(2322)가 단일의 매체로서 예시되어 있지만, "기계 판독가능 매체"라는 용어는 하나 이상의 명령어들(2324)을 저장하도록 구성되어 있는 단일의 매체 또는 다수의 매체(예컨대, 중앙 집중식 또는 분산형 데이터베이스, 및/또는 연관된 캐시들 및 서버들)를 포함할 수 있다.
"기계 판독가능 매체"라는 용어는 기계(2300)에 의한 실행을 위한 명령어들을 저장하거나, 인코딩하거나, 담고 있을 수 있고 기계(2300)로 하여금 본 개시 내용의 기법들 중 임의의 하나 이상을 수행하게 하거나 이러한 명령어들에 의해 사용되거나 그와 연관되어 있는 데이터 구조들을 저장하거나, 인코딩하거나, 담고 있을 수 있는 임의의 매체를 포함할 수 있다. 비제한적인 기계 판독가능 매체 예는 고상 메모리 그리고 광 및 자기 매체를 포함할 수 있다. 한 예에서, 대용량 기계 판독가능 매체(massed machine readable medium)는 정지 질량(resting mass)을 갖는 복수의 입자들을 갖는 기계 판독가능 매체를 포함한다. 대용량 기계 판독가능 매체의 구체적인 예는 반도체 메모리 디바이스[예컨대, EPROM(Electrically Programmable Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory)] 및 플래시 메모리 디바이스와 같은 비휘발성 메모리; 내장형 하드 디스크 및 이동식 디스크와 같은 자기 디스크; 광자기 디스크; 그리고 CD-ROM 및 DVD-ROM 디스크를 포함할 수 있다.
명령어들(2324)은 또한 다수의 전송 프로토콜들[예컨대, 프레임 릴레이, IP(internet protocol), TCP(transmission control protocol), UDP(user datagram protocol), HTTP(hypertext transfer protocol) 등] 중 임의의 것을 이용하여 네트워크 인터페이스 디바이스(2320)를 통해 전송 매체를 사용하여 통신 네트워크(2326)를 거쳐 전송 또는 수신될 수 있다. 예시적인 통신 네트워크는 LAN(local area network), WAN(wide area network), 패킷 데이터 네트워크(예컨대, 인터넷), 이동 전화 네트워크[예컨대, CDMA(Code Division Multiple Access), TDMA(Time-division multiple access), FDMA(Frequency-division multiple access), 및 OFDMA(Orthogonal Frequency Division Multiple Access)를 비롯한 채널 액세스 방법 그리고 GSM(Global System for Mobile Communications), UMTS(Universal Mobile Telecommunications System), CDMA 2000 1x* 표준들 및 LTE(Long Term Evolution)와 같은 셀룰러 네트워크], POTS(Plain Old Telephone Service) 네트워크, 및 무선 데이터 네트워크[예컨대, IEEE(Institute of Electrical and Electronics Engineers) 802 계열의 표준들 - IEEE 802.11 표준(WiFi), IEEE 802.16 표준(WiMax®) 및 기타를 포함함], P2P(peer-to-peer) 네트워크, 또는 현재 공지되어 있거나 나중에 개발되는 다른 프로토콜들을 포함할 수 있다.
예를 들어, 네트워크 인터페이스 디바이스(2320)는 하나 이상의 물리적 잭(예컨대, 이더넷, 동축, 또는 전화 잭) 또는 통신 네트워크(2326)에 연결하기 위한 하나 이상의 안테나들을 포함할 수 있다. 한 예에서, 네트워크 인터페이스 디바이스(2320)는 SIMO(single-input multiple-output), MIMO(multiple-input multiple-output), 또는 MISO(multiple-input single-output) 기법들 중 적어도 하나를 사용하여 무선으로 통신하기 위해 복수의 안테나들을 포함할 수 있다. "전송 매체"라는 용어는 기계(2300)에 의한 실행을 위한 명령어들을 저장하거나, 인코딩하거나 담고 있을 수 있고 이러한 소프트웨어의 통신을 용이하게 하는 디지털 또는 아날로그 통신 신호들 또는 기타 무형적 매체를 포함하는 임의의 무형적 매체를 포함하는 것으로 해석되어야 한다.
부가의 주목할 점 및 예
예 1은 사용자에게 제공(provisioning)하기 위한 자극들의 라이브러리, 자극들의 라이브러리로부터의 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 데이터 수집 디바이스, 및 사용자의 뇌 시그너처(brain signature)를 식별하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키고 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 사용자의 뇌 시그너처에 기초한 프로세서 제어 기능을 수행하는 처리 디바이스를 포함하는 발명 요지(디바이스, 장치, 클라이언트 또는 시스템 등)를 포함할 수 있다.
예 2는 예 1의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 뇌 시그너처로부터 도출된 사용자의 멘탈 프로파일(mental profile)을 미리 결정된 모집단의 멘탈 프로파일들의 데이터베이스로부터의 멘탈 프로파일들과 비교한다.
예 3은 예 1 및 예 2 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 다양한 토픽들 중 임의의 것에 대한 사용자의 멘탈 프로파일의 정합의 통계 및 확률을 계산한다.
예 4는 예 1 내지 예 3 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들에 기초하여 자극들의 함수로서 사용자의 멘탈 프로파일을 작성한다.
예 5는 예 1 내지 예 4 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 뇌 시그너처를 데이터베이스로부터 획득된 개인 데이터 및 기타 특성들과 결합시켜 사용자의 멘탈 프로파일 모델을 개발한다.
예 6은 예 1 내지 예 5 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 피험자들 간에 확률들을 상관시키고 사용자의 멘탈 프로파일 모델과 적어도 하나의 다른 사용자의 멘탈 프로파일 모델들 간의 멘탈 정합(mental match)의 통계 및 확률을 계산한다.
예 7은 예 1 내지 예 6 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 식별 및 인증을 제공하고, 사용자의 멘탈 프로파일은 자극들의 라이브러리로부터의 자극들을 사용자에게 제시한 것에 기초하여 교정 스테이지(calibrating stage) 동안 처리 디바이스에 의해 생성되며, 처리 디바이스는 또한 인증되고 있는 사용자의 멘탈 프로파일이 교정 스테이지 동안 생성된 사용자의 멘탈 프로파일에 상관되어 있는지를 판정한다.
예 8은 예 1 내지 예 7 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 뇌-컴퓨터 인터페이스 시스템으로부터의 전송들을 모니터링하는 것, 사용자로부터의 뇌 활동 측정들과 연관된 자극들을 디스플레이하는 것, 뇌 활동 측정들과 연관된 검색 대상을 찾기 위해 뇌 활동 측정들을 검색하는 것, 및 연관된 뇌 활동 측정들과 상관되어 있는 검색 대상들과 뇌 활동 측정들 간의 정합에 기초하여 검색 결과들을 반환하는 것에 의해 텔레파시 컨텍스트 검색(telepathic contextual search)을 수행하도록 구성되어 있다.
예 9는 예 1 내지 예 8 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 뇌-컴퓨터 인터페이스(BCI) 센서들 및 검출기들과 생체 측정 및 환경 센서 어레이로부터 입력을 수신하는 것에 의해 텔레파시 증강 현실(telepathic augmented reality)을 제공하고, 처리 디바이스는 인식된 센서 입력들, AR 캐릭터 및 AR 환경 콘텐츠의 데이터베이스로부터 획득된 입력 및 데이터를 AR 경험에 매핑하도록 구성되어 있으며, 처리 디바이스는 뇌-컴퓨터 인터페이스(BCI) 센서들 및 검출기들과 생체 측정 및 환경 센서 어레이로부터의 입력으로부터 도출된 사용자 의도에 기초하여 AR 캐릭터들을 환경과 블렌딩(blending)하고 AR 경험을 사용자에게 제시한다.
예 10은 예 1 내지 예 9 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 좌우 양눈 각각에 대한 좌우 반시야(left and right hemifield)를 나타내는 멘탈 데스크톱(mental desktop)을 생성하고, 처리 디바이스는 또한 각각의 눈을 상부 구획(upper division) 및 하부 구획(lower division)으로 분리하며, 멘탈 데스크톱은 정보가 할당되어 있는 사용자의 시야의 8개의 구역들을 포함하고, 처리 디바이스는 멘탈 데스크톱에서 영역의 정신적 시각화(mental visualization)를 검출하고 정신적으로 시각화된 영역에 할당된 정보에 따라 기능을 구현한다.
예 11은 예 1 내지 예 10 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들 및 애플리케이션들에서 구현하기 위해 수신된 부가의 입력 모달리티들을 포함하는 입력들, 그리고 지각 컴퓨팅 대 BCI 데이터베이스(perceptual computing to BCI database)로부터의 지각 컴퓨팅 입력들을 수신하고 분석하도록 구성되어 있고, 처리 디바이스는 입력들 그리고 지각 컴퓨팅 데이터베이스로부터 획득된 입력들 및 인자 데이터베이스로부터 획득된 인자들과 연관된 상호 관련성 데이터(interrelatedness data)에 기초하여 사용자의 의도를 결정하도록 추가로 구성되어 있으며, 처리 디바이스는 결정된 사용자 의도에 기초하여 명령을 개시한다.
예 12는 예 1 내지 예 11 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 처리 디바이스는 간섭이 일어나고 있는지를 판정하도록 그리고 간섭을 참작하기 위해 사용자의 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 조절하도록 구성되어 있다.
예 13은 예 1 내지 예 12 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들 및 부가의 모달리티 입력들을 애플리케이션들에 할당하는 사용자 인터페이스를 추가로 포함한다.
예 14는 예 1 내지 예 13 중 임의의 하나의 예의 발명 요지를 포함할 수 있거나, 그와 선택적으로 결합될 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 사용자 뇌 시그너처들을 식별하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것을 위한 발명 요지(동작들을 수행하는 방법 또는 수단 등)를 포함한다.
예 15는 예 14의 발명 요지를 선택적으로 포함할 수 있고, 프로세서 제어 기능은 사용자의 식별된 패턴들과 사용자 그룹에 공통인 패턴들 간의 적어도 하나의 유사성을 결정하는 것을 포함한다.
예 16은 예 14 또는 예 15 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자에게 뇌 모니터링 디바이스를 제공하는 것 및 사용자에게 자극들과 연관된 일련의 경험들을 하게 하는 것을 추가로 포함하고, 수집된 시간적 및 공간적 패턴들을 상관시키는 것은 사용자 뇌 시그너처들을 식별하기 위해 수집된 공간적 및 시간적 뇌 활동 패턴들을 특성 분석하는 것을 포함한다.
예 17은 예 14 내지 예 16 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 프로세서 제어 기능을 수행하는 것은 사용자 뇌 시그너처들에 기초하여 사용자의 특성 멘탈 프로파일(characteristic mental profile)을 작성하는 것, 정신적 편애(mental predilection) 및 성격 특성들의 모델들을 확립하는 것, 및 확립된 모델들을 사용하여 사람들의 연관에 의해 사용자의 기호(affinity)를 예측하는 것을 추가로 포함한다.
예 18은 예 14 내지 예 17 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것은 자극들에 대한 기록된 뇌 활동 패턴들을 자극들과 연관된 특성 멘탈 프로파일로 변환하는 것, 각각의 개인의 자극들에 대한 멘탈 프로파일들을 데이터베이스에 유지하는 것, 개인 데이터 및 특성들을 멘탈 프로파일들에 통합시키는 것, 자극들에 대한 사용자의 멘탈 프로파일과 자극들과 연관된 다른 사용자들의 적어도 하나의 멘탈 프로파일 간의 멘탈 정합을 식별하는 것, 및 멘탈 정합의 확률 또는 퍼센트 점수를 제공하는 것을 추가로 포함한다.
예 19는 예 14 내지 예 18 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 및 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것은 자극들에 기초하여 사용자의 뇌 시그너처를 교정하고, 현재 측정된 뇌 시그너처와 교정된 뇌 시그너처를 비교하는 것에 의해, 사용자를 인증하는 것을 추가로 포함한다.
예 20은 예 14 내지 예 19 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자의 뇌 시그너처를 교정하는 것은 뇌 활동 반응들을 유발시키기 위해 일련의 자극들을 사용자에게 제시하는 것, 제시된 일련의 자극들에 대한 뇌 구조 및 활동을 측정하는 것, 사용자의 뇌 시그너처를 생성하기 위해 뇌 구조 및 활동의 측정들의 패턴 인식을 수행하는 것, 생성된 뇌 시그너처를 저장하는 것, 및 저장된 뇌 시그너처를 미리 결정된 모집단의 해부학적 및 생리학적 뇌 시그너처들의 데이터베이스에 추가하는 것을 포함한다.
예 21은 예 14 내지 예 20 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 일련의 자극들을 제시하는 것은 특정의 특성 뇌 활동들을 유발시키기 위해 사용자에게 생각들을 하게 하는 것을 추가로 포함한다.
예 22는 예 14 내지 예 21 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자에게 생각들을 하게 하는 것은 사용자에게 일련의 기억하고 있는 생각들, 근육 활성화의 패턴들 및 상상된 활동들로 이루어진 그룹 중에서 선택된 것을 하게 하는 것을 포함한다.
예 23은 예 14 내지 예 22 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 뇌 구조 및 활동을 측정하는 것은 fNIRS(functional near infrared spectroscopy), EEG(electroencephalography), MEG(magnetoencephalography), MRI(magnetic resonance imaging) 및 초음파 중 적어도 하나를 사용하여 뇌 구조 및 활동을 측정하는 것을 포함한다.
예 24는 예 14 내지 예 23 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 뇌 구조 및 활동을 측정하는 것은 해부학적 특성들을 측정하는 것을 포함한다.
예 25는 예 14 내지 예 24 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 해부학적 특성들을 측정하는 것은 자이리피케이션(gyrification), 피질 두께, 및 두피 두께 중 적어도 하나를 측정하는 것을 포함한다.
예 26은 예 14 내지 예 25 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 뇌 구조 및 활동의 측정들의 패턴 인식을 수행하는 것은 MBLL(modified Beer-Lambert Law), 이벤트 관련 성분(event-related component), MVPA(multi-voxel pattern analysis), 스펙트럼 분석, fNIRS에 대한 MVPA 중 적어도 하나에 기초하여 패턴 인식을 수행하는 것을 추가로 포함한다.
예 27은 예 14 내지 예 26 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 뇌 구조 및 활동의 측정들의 패턴 인식을 수행하는 것은 해부학적 및 생리학적 측정들을 식별 및 인증을 위해 뇌를 분류하는 데 사용될 수 있는 특정의 패턴들로 변환하는 것을 추가로 포함한다.
예 28은 예 14 내지 예 27 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자를 인증하는 것은 뇌 활동 반응들을 유발시키기 위해 이전에 적용된 일련의 자극들을 사용자에게 제시하는 것, 이전에 적용된 일련의 자극들에 기초하여 사용자의 뇌 구조 및 활동을 측정하는 것, 사용자의 뇌 시그너처를 생성하기 위해 뇌 구조 및 활동의 측정들의 패턴 인식을 수행하는 것, 및 사용자의 뇌 시그너처와 사용자의 교정된 뇌 시그너처를 비교하는 것에 의해 패턴 인식을 수행하는 것을 통해 획득된 사용자의 뇌 시그너처를 분석하는 것을 포함한다.
예 29는 예 14 내지 예 28 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자의 뇌 시그너처를 분석하는 것은 뇌 시그너처를 미리 결정된 모집단의 해부학적 및 생리학적 뇌 시그너처들과 비교하는 것을 포함한다.
예 30은 예 14 내지 예 29 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자의 뇌 시그너처를 분석하는 것은 식별 및 인증 기법들의 민감도 및 특이성을 증가시키기 위해 뇌 시그너처를 부가의 식별 및 인증 기법들과 비교하는 것을 포함한다.
예 31은 예 14 내지 예 30 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 뇌 시그너처를 부가의 식별 및 인증 기법들과 비교하는 것은 뇌 시그너처를 필기 인식 결과, 패스워드 질의 및 부가의 생체 측정 파라미터 중 적어도 하나와 비교하는 것을 포함한다.
예 32는 예 14 내지 예 31 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들에 응답하여 기능을 수행하라고 디바이스에 지시하는 것을 포함한다.
예 33은 예 14 내지 예 32 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 일련의 자극들을 사용자에게 제시하는 것, 사용자의 BCI(brain-computer interface) 측정들을 획득하는 것, 미리 결정된 자극들과 신뢰성 있는 상관을 가지는 BCI 측정으로부터 후보 뇌 활동-자극 쌍을 식별하는 것, 후보 뇌 활동-자극 쌍을 저장하는 것, 사용자가 자극들을 상상하고 있을 때 신뢰성있는 상관을 가지는 뇌 활동-자극 쌍을 결정하는 것, 사용자가 자극들을 상상하고 있을 때 신뢰성있는 상관을 가지는 뇌 활동-자극 쌍을 저장하는 것, 및 텔레파시 컴퓨터 제어를 수행하기 위해 상관된 BCI 측정이 검출될 때 자극들을 검색하고 디스플레이하는 것을 추가로 포함한다.
예 34는 예 14 내지 예 33 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 일련의 자극들을 사용자에게 제시하는 것은 상관 신뢰성을 증가시키기 위해 복합 자극들을 사용자에게 제시하는 것을 추가로 포함한다.
예 35는 예 14 내지 예 34 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 검색 대상과 연관된 BCI 척도(measure)와 쌍을 이루는 자극의 정신적 심상(mental imagery)을 재생성하는 것에 의해 사용자에 의해 수행되는 텔레파시 검색(telepathic search)을 포함한다.
예 36은 예 14 내지 예 35 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 검색은 검색 결과들을 생성하기 위해 사용자의 생각 패턴들을 생각 패턴과 연관된 뇌 활동 측정들에 응답하여 개발된 사용자의 뇌 패턴들로 분류되는 콘텐츠의 데이터베이스에 정합시키는 것 및 데이터베이스 내의 콘텐츠와 연관되어 있는 것으로 알려진 요소들과 정합하는 생각 패턴들에서의 요소들의 수에 기초하여 검색 결과들을 가중시키는 것에 의해 수행된다.
예 37은 예 14 내지 예 36 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 검색은 영상의 검색 - 사용자는 검색의 대상인 영상을 생각함 -, 및 뇌 활동-자극 쌍을 영상에 대한 사용자의 생각들에 정합시키는 영상들의 결과들을 제공하는 것을 포함한다.
예 38은 예 14 내지 예 37 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 검색은 음악 작품의 검색 - 사용자는 음악 작품과 연관된 소리를 생각함 -, 및 뇌 활동-자극 쌍을 음악 작품과 연관된 소리에 대한 사용자의 생각들에 정합시키는 음악의 결과들을 제공하는 것을 포함한다.
예 39는 예 14 내지 예 38 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 검색은 특정의 생각과 상관된 분산 뇌 활동의 패턴들을 식별하기 위해 MVPA(multi-voxel pattern analysis) 및 fNIRS(functional near infrared spectroscopy)의 조합을 사용하여 수행되는 텔레파시 검색을 포함한다.
예 40은 예 14 내지 예 39 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 텔레파시 통신(telepathic communication)을 포함하고, 공통의 정신적 어휘(mental vocabulary)로 훈련된 적어도 두 명의 사용자들은 뇌 활동-자극 쌍에 기초하여 서로 통신하기 위해 공통의 정신적 어휘를 사용한다.
예 41은 예 14 내지 예 40 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 송신측 사용자는 수신측 사용자의 사용자 인터페이스 상에서 식별되고, 송신측 사용자는 메시지를 송신할 수신측 사용자를 선택하기 위해 수신측 사용자를 생각한다.
예 42는 예 14 내지 예 41 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 정신적 심상과 미리 결정된 동작을 수행하는 모델을 연관시키는 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 수행되는 텔레파시 증강 현실(AR)을 포함한다.
예 43은 예 14 내지 예 42 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 미리 결정된 동작은 뇌 활동-자극 쌍과 연관된 AR 물체에 의해 생성되는 감각 신호들을 사용자에게 제시하는 것을 포함하고, 감각 신호들은 시각, 오디오, 및 촉각 신호들을 포함한다.
예 44는 예 14 내지 예 43 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 미리 결정된 동작은 BCI 입력들의 모니터링을 통해 사용자가 의도적으로 불러일으키지 않는 AR 경험을 제시하는 것을 포함한다.
예 45는 예 14 내지 예 44 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 미리 결정된 동작은 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 AR 캐릭터들의 움직임을 지시하는 것을 포함한다.
예 46은 예 14 내지 예 45 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 미리 결정된 동작은 모니터링된 환경 단서들을 갖는 뇌 활동-자극 쌍을 사용하여 개시되는 동작을 포함한다.
예 47은 예 14 내지 예 46 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자가 정신 집중력을 사용자의 시야의 상이한 섹션들에 집중시키는 것에 의해 컴퓨팅 디바이스들을 동작시키는 것을 포함한다.
예 48은 예 14 내지 예 47 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 시야의 영역들에 기초하여 멘탈 데스크톱 작업 공간을 시공간 영역들로 분할하는 것, 사용자의 시야를 사용자의 일차 시각 피질(primary visual cortex)의 영역들에 매핑하기 위해 사용자를 훈련시키는 것 - 일차 시각 피질의 영역들은 시공간 영역들 중 하나에 대응함 -, 시공간 영역들에 의해 표현되는 시야의 생리학적으로 분리된 섹션들에 콘텐츠를 할당하는 것, 및 시각화된 시공간 영역에 할당된 콘텐츠에 액세스하기 위해 시공간 영역들 중 하나를 정신적으로 시각화하는 것에 의해 할당된 정보에 액세스하는 것을 추가로 포함한다.
예 49는 예 14 내지 예 48 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 시공간 영역들은 좌안 및 우안 각각에 대한 좌우 반시야를 포함하고, 각각의 반시야는 상부 구획 및 하부 구획으로 나누어진다.
예 50은 예 14 내지 예 49 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자가 컴퓨터 입력을 제공하는 것과 연관된 신체 위치의 움직임들을 상상하는 것, 대응하는 신체 위치의 움직임들을 제어하는 데 전용되어 있는 위상학적으로 구성된(topographically organized) 뇌 영역으로부터 나오는 뇌 활동을 기록하는 것, 위상학적으로 구성된 뇌 영역에서의 기록된 뇌 활동을 대응하는 신체 위치의 움직임과 상관시키는 것, 위상학적으로 구성된 뇌 영역에서의 활동을 생성하기 위해 신체 위치의 움직임을 시각화하는 것에 의해 정신적 제스처(mental gesture)를 수행하는 것, 기록된 뇌 활동에 대응하는 뇌 활동을 검출하는 것, 및 기록된 뇌 활동에 대응하는 뇌 활동의 검출에 응답하여 대응하는 신체 위치의 움직임과 연관된 컴퓨터 입력을 수행하는 것을 추가로 포함한다.
예 51은 예 14 내지 예 50 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것을 추가로 포함하고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 의도를 결정하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 지각 컴퓨팅 입력과 상관시키는 것, 및 결정된 사용자 의도에 기초하여 전자 디바이스들을 제어하는 명령을 개시하는 것을 포함한다.
예 52는 예 14 내지 예 51 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것은 제스처, 음성, 눈 추적 및 얼굴 표정 입력을 수신하는 것을 포함한다.
예 53은 예 14 내지 예 52 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것은 제스처, 음성, 눈 추적 또는 얼굴 표정 입력 중 적어도 하나를 수신하는 것을 포함한다.
예 54는 예 14 내지 예 53 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것은 다음의 센서 검출된 이벤트(next sensor-detected event)가 명령이라는 것을 나타내는 명령을 개시하기 전에 사용자로부터의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들에 대한 패턴을 식별하는 것을 추가로 포함한다.
예 55는 예 14 내지 예 54 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것을 추가로 포함하고, 프로세서 제어 기능을 수행하는 것은 우선순위를 가지는 지각 컴퓨팅 입력들 및 뇌 활동으로부터의 모달리티를 나타내는 것을 추가로 포함한다.
예 56은 예 14 내지 예 55 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것과 동시에 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 측정하는 것, 및 입력 명령을 강화하기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 동시적인 시간적 및 공간적 패턴들과 수신된 지각 컴퓨팅 입력을 사용하는 것을 추가로 포함한다.
예 57은 예 14 내지 예 56 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 측정하는 것, 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 측정된 시간적 및 공간적 패턴들에 기초하여 사용자의 상태를 결정하는 것, 및 결정된 상태에 기초하여 사용자에게 응답을 제공하는 것을 추가로 포함한다.
예 58은 예 14 내지 예 57 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것을 추가로 포함하고, 지각 컴퓨팅 입력은 목표를 선택하기 위해 눈 추적을 포함하며, 사용자의 생물 물리학적 신호들의 시간적 및 공간적 패턴들은 목표에 작용하기 위해 사용된다.
예 59는 예 14 내지 예 58 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 다른 모달리티에 응답하여 시스템을 중단시키기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 사용하는 것을 추가로 포함한다.
예 60은 예 14 내지 예 59 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들이 식별되고 수신될 때 사용자에게 피드백을 제공하기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 사용하는 것을 추가로 포함한다.
예 61은 예 14 내지 예 60 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것에 기초하여 사용자의 상태의 변화가 변경된 것으로 판정될 때 시스템에 상태를 변경하라고 알려주는 것을 추가로 포함한다.
예 62는 예 14 내지 예 61 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 뇌 활동이 일어날 때 사용자의 뇌 활동을 명령 기회 창의 활성화에 매핑하는 것을 추가로 포함한다.
예 63은 예 14 내지 예 62 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 획득하는 것, 지각 컴퓨팅 입력들과 사용자의 생물 물리학적 신호들의 시간적 및 공간적 패턴들이 어떻게 상호 관련되는지에 관한 휴리스틱을 유지하도록 구성된 데이터베이스로부터 데이터를 수집하는 것, 사용자 의도를 결정하기 위해 사용자의 생물 물리학적 신호들의 시간적 및 공간적 패턴들, 지각 컴퓨팅 입력들, 및 데이터베이스로부터의 입력을 분석하는 것, 및 결정된 사용자 의도에 기초하여 명령을 발생시키는 것을 추가로 포함한다.
예 64는 예 14 내지 예 63 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 환경 및 사용자 인자들을 측정하는 것, 있을 수 있는 간섭을 결정하는 것, 및 결정된 있을 수 있는 간섭에 기초하여 사용자의 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 조절하는 것을 추가로 포함한다.
예 65는 예 14 내지 예 64 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 프로세서 제어 기능은 정신적 심상과 미리 결정된 동작을 수행하는 모델을 연관시키는 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 텔레파시 증강 현실(AR)을 수행하는 것, BCI 입력들의 모니터링을 통해 사용자가 의도적으로 불러일으키지 않는 AR 경험을 제시하는 것, 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 AR 캐릭터들의 움직임을 지시하는 것, 및 모니터링된 환경 단서들을 갖는 뇌 활동-자극 쌍을 사용하여 개시되는 동작으로 이루어진 동작들의 그룹 중에서 선택된 것을 포함한다.
예 66은 예 1 내지 예 65 중 임의의 하나의 예의 발명 요지를 포함할 수 있거나, 그와 선택적으로 결합될 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 사용자 뇌 시그너처들을 식별하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것을 포함하는 발명 요지(동작을 수행하는 수단 또는, 기계에 의해 실행될 때, 기계로 하여금 동작들을 수행하게 하는 명령어들을 포함하는 기계 판독가능 매체 등)를 포함한다.
예 67은 예 66의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 및 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것은 자극들에 기초하여 사용자의 뇌 시그너처를 교정하고, 현재 측정된 뇌 시그너처와 교정된 뇌 시그너처를 비교하는 것에 의해, 사용자를 인증하는 것을 추가로 포함한다.
예 68은 예 66 또는 예 67 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자의 뇌 시그너처를 교정하는 것은 뇌 활동 반응들을 유발시키기 위해 일련의 자극들을 사용자에게 제시하는 것, 제시된 일련의 자극들에 대한 뇌 구조 및 활동을 측정하는 것, 사용자의 뇌 시그너처를 생성하기 위해 뇌 구조 및 활동의 측정들의 패턴 인식을 수행하는 것, 생성된 뇌 시그너처를 저장하는 것, 및 저장된 뇌 시그너처를 미리 결정된 모집단의 해부학적 및 생리학적 뇌 시그너처들의 데이터베이스에 추가하는 것을 포함한다.
예 69는 예 66 내지 예 68 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자를 인증하는 것은 뇌 활동 반응들을 유발시키기 위해 이전에 적용된 일련의 자극들을 사용자에게 제시하는 것, 이전에 적용된 일련의 자극들에 기초하여 사용자의 뇌 구조 및 활동을 측정하는 것, 사용자의 뇌 시그너처를 생성하기 위해 뇌 구조 및 활동의 측정들의 패턴 인식을 수행하는 것, 및 사용자의 뇌 시그너처와 사용자의 저장된 뇌 시그너처를 비교하는 것에 의해 패턴 인식을 수행하는 것을 통해 획득된 사용자의 뇌 시그너처를 분석하는 것을 포함한다.
예 70은 예 66 내지 예 69 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 뇌 활동과 연관된 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들에 응답하여 기능을 수행하라고 디바이스에 지시하는 것을 포함한다.
예 71은 예 66 내지 예 70 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 일련의 자극들을 사용자에게 제시하는 것, 사용자의 BCI(brain-computer interface) 측정들을 획득하는 것, 미리 결정된 자극들과 신뢰성 있는 상관을 가지는 뇌 활동 측정으로부터 후보 뇌 활동-자극 쌍을 식별하는 것, 후보 뇌 활동-자극 쌍을 저장하는 것, 사용자가 자극들을 상상하고 있을 때 신뢰성있는 상관을 가지는 뇌 활동-자극 쌍을 결정하는 것, 사용자가 자극들을 상상하고 있을 때 신뢰성있는 상관을 가지는 뇌 활동-자극 쌍을 저장하는 것, 및 텔레파시 컴퓨터 제어를 수행하기 위해 상관된 뇌 활동 측정이 검출될 때 자극들을 검색하고 디스플레이하는 것을 추가로 포함한다.
예 72는 예 66 내지 예 71 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 검색 대상과 연관된 BCI 척도와 쌍을 이루는 자극의 정신적 심상을 재생성하는 것에 의해 사용자에 의해 수행되는 텔레파시 검색을 포함한다.
예 73은 예 66 내지 예 72 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 검색은 검색 결과들을 생성하기 위해 사용자의 생각 패턴들을 생각 패턴들과 연관된 뇌 활동 측정들에 응답하여 개발된 사용자의 뇌 패턴들로 분류되는 콘텐츠의 데이터베이스에 정합시키는 것 및 데이터베이스 내의 콘텐츠와 연관되어 있는 것으로 알려진 요소들과 정합하는 생각 패턴들에서의 요소들의 수에 기초하여 검색 결과들을 가중시키는 것에 의해 수행된다.
예 74는 예 66 내지 예 73 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 텔레파시 통신을 포함하고, 공통의 정신적 어휘로 훈련된 적어도 두 명의 사용자들은 뇌 활동-자극 쌍에 기초하여 서로 통신하기 위해 공통의 정신적 어휘를 사용한다.
예 75는 예 66 내지 예 74 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 송신측 사용자는 수신측 사용자의 사용자 인터페이스 상에서 식별된다.
예 76은 예 66 내지 예 75 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 송신측 사용자는 메시지를 송신할 수신측 사용자를 선택하기 위해 수신측 사용자를 생각한다.
예 77은 예 66 내지 예 76 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 정신적 심상과 미리 결정된 동작을 수행하는 모델을 연관시키는 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 수행되는 텔레파시 증강 현실(AR)을 포함한다.
예 78은 예 66 내지 예 77 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자가 정신 집중력을 사용자의 시야의 상이한 섹션들에 집중시키는 것에 의해 컴퓨팅 디바이스들을 동작시키는 것을 포함한다.
예 79는 예 66 내지 예 78 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 시야의 영역들에 기초하여 멘탈 데스크톱 작업 공간을 시공간 영역들로 분할하는 것, 사용자의 시야를 사용자의 일차 시각 피질의 영역들에 매핑하기 위해 사용자를 훈련시키는 것 - 일차 시각 피질의 영역들은 시공간 영역들 중 하나에 대응함 -, 시공간 영역들에 의해 표현되는 시야의 생리학적으로 분리된 섹션들에 콘텐츠를 할당하는 것, 및 시각화된 시공간 영역에 할당된 콘텐츠에 액세스하기 위해 시공간 영역들 중 하나를 정신적으로 시각화하는 것에 의해 할당된 정보에 액세스하는 것을 추가로 포함한다.
예 80은 예 66 내지 예 79 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것을 추가로 포함하고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 의도를 결정하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 지각 컴퓨팅 입력과 상관시키는 것, 및 결정된 사용자 의도에 기초하여 전자 디바이스들을 제어하는 명령을 개시하는 것을 포함한다.
예 81은 예 66 내지 예 80 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것은 제스처, 음성, 눈 추적 및 얼굴 표정 입력을 수신하는 것을 포함한다.
예 82는 예 66 내지 예 81 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것은 제스처, 음성, 눈 추적 또는 얼굴 표정 입력 중 적어도 하나를 수신하는 것을 포함한다.
예 83은 예 66 내지 예 82 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것은 다음의 센서 검출된 이벤트가 명령이라는 것을 나타내는 명령을 개시하기 전에 사용자로부터의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들에 대한 패턴을 식별하는 것을 추가로 포함한다.
예 84는 예 66 내지 예 83 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것을 추가로 포함하고, 프로세서 제어 기능을 수행하는 것은 우선순위를 가지는 지각 컴퓨팅 입력들 및 뇌 활동으로부터의 모달리티를 나타내는 것을 추가로 포함한다.
예 85는 예 66 내지 예 84 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것과 동시에 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 측정하는 것, 및 입력 명령을 강화하기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 동시적인 시간적 및 공간적 패턴들 및 수신된 지각 컴퓨팅 입력을 사용하는 것을 추가로 포함한다.
예 86은 예 66 내지 예 85 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 자극들을 사용자에게 제공하는 것, 자극들을 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 것, 생물 물리학적 신호들의 수집된 시간적 및 공간적 패턴들을 상관시키는 것, 및 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 측정하는 것, 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 측정된 시간적 및 공간적 패턴들에 기초하여 사용자의 상태를 결정하는 것, 및 결정된 상태에 기초하여 사용자에게 응답을 제공하는 것을 추가로 포함한다.
예 87은 예 66 내지 예 86 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 지각 컴퓨팅 입력을 수신하는 것을 추가로 포함하고, 지각 컴퓨팅 입력은 목표를 선택하기 위해 눈 추적을 포함하며, 사용자의 생물 물리학적 신호들의 시간적 및 공간적 패턴들은 목표에 작용하기 위해 사용된다.
예 88은 예 66 내지 예 87 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 다른 모달리티에 응답하여 시스템을 중단시키기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 사용하는 것을 추가로 포함한다.
예 89는 예 66 내지 예 88 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 텔레파시 컴퓨터 제어는 검색 대상과 연관된 BCI 척도와 쌍을 이루는 자극의 정신적 심상을 재생성하는 것에 의해 사용자에 의해 수행되는 텔레파시 검색; 텔레파시 통신 - 공통의 정신적 어휘로 훈련된 적어도 두 명의 사용자들은 뇌 활동-자극 쌍에 기초하여 서로 통신하기 위해 공통의 정신적 어휘를 사용함 -; 및 정신적 심상과 미리 결정된 동작을 수행하는 모델을 연관시키는 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 수행되는 텔레파시 증강 현실(AR)로 이루어진 제어들의 그룹 중에서 선택된 것을 포함한다.
예 90은 예 66 내지 예 89 중 임의의 하나 이상의 예의 발명 요지를 선택적으로 포함할 수 있고, 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것은 검출된 정신 집중력을 사용자의 시야의 상이한 섹션들에 집중시키는 것에 의해 컴퓨팅 디바이스들을 동작시키는 것; 사용자의 시야의 영역들에 기초하여 멘탈 데스크톱 작업 공간을 시공간 영역들로 분할하는 것에 의해 멘탈 데스크톱을 제공하는 것, 사용자의 시야를 사용자의 일차 시각 피질의 영역들에 매핑하기 위해 사용자를 훈련시키는 것 - 일차 시각 피질의 영역들은 시공간 영역들 중 하나에 대응함 -, 시공간 영역들에 의해 표현되는 시야의 생리학적으로 분리된 섹션들에 콘텐츠를 할당하는 것, 및 시각화된 시공간 영역에 할당된 콘텐츠에 액세스하기 위해 시공간 영역들 중 하나를 정신적으로 시각화하는 것에 의해 할당된 정보에 액세스하는 것; 사용자의 의도를 결정하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 지각 컴퓨팅 입력과 상관시키는 것, 및 결정된 사용자 의도에 기초하여 전자 디바이스들을 제어하는 명령을 개시하는 것; 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 측정하는 것, 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 측정된 시간적 및 공간적 패턴들에 기초하여 사용자의 상태를 결정하는 것, 및 결정된 상태에 기초하여 사용자에게 응답을 제공하는 것에 의해 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 것; 및 다른 모달리티에 응답하여 시스템을 중단시키기 위해 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 사용하는 것으로 이루어진 기능들의 그룹 중에서 선택된 것을 포함한다.
이상의 상세한 설명은 상세한 설명의 일부를 형성하는 첨부 도면에 대한 참조를 포함한다. 도면들은, 실시될 수 있는 구체적인 실시예들을 예시로서 도시하고 있다. 이 실시예들은 또한 본 명세서에서 "예들"이라고도 지칭된다. 이러한 예들은 도시되거나 기술된 것들 이외의 요소들을 포함할 수 있다. 그렇지만, 도시되거나 기술된 요소들을 포함하는 예들도 생각된다. 더욱이, 특정의 예(또는 그의 하나 이상의 양태들)와 관련하여 또는 본 명세서에 도시되거나 기술된 다른 예들(또는 그의 하나 이상의 양태들)과 관련하여, 도시되거나 기술된 그 요소들의 임의의 조합 또는 치환을 사용하는 예들(또는 그의 하나 이상의 양태들)도 생각되고 있다.
본 문서에서 참조되는 간행물, 특허, 및 특허 문서는, 참조 문헌으로서 개별적으로 포함된 것처럼, 그 전체가 참조 문헌으로서 본 명세서에 포함된다. 본 문서와 참조 문헌으로서 그와 같이 포함된 그 문서들 간에 모순되는 사용의 경우에, 포함된 참조 문헌(들)에서의 사용은 본 문서의 사용에 보충적인 것이며, 양립할 수 없는 모순에 대해서는, 본 문서에서의 사용이 우선한다.
본 문서에서, 용어 "한" 또는 "어떤"은, 특허 문서들에서 통상적인 것처럼, "적어도 하나의" 또는 "하나 이상의"의 임의의 다른 사례 또는 용법과 관계없이, 하나 또는 둘 이상을 포함하기 위해 사용된다. 본 문서에서, 용어 "또는"은 비배타적 논리합(nonexclusive or)을 지칭하는 데 사용되고, 따라서, 달리 언급하지 않는 한, "A 또는 B"는 "B가 아니라 A", "A가 아니라 B" 및 "A 및 B"를 포함한다. 첨부된 청구범위에서, 용어 "포함하는(including)" 및 "여기서(in which)"는 각자의 용어 "포함하는(comprising)" 및 "여기서(wherein)"의 평이한 동등어(plain-English equivalents)로서 사용된다. 또한, 이하의 청구 범위에서, 용어 "포함하는(including 및 comprising)"은 개방형(open-ended)이다 - 즉, 청구항에서 이러한 용어 이후에 열거되는 것들 이외의 요소들을 포함하는 시스템, 디바이스, 물품, 또는 프로세스가 여전히 그 청구항의 범주 내에 속하는 것으로 생각된다. 더욱이, 이하의 청구 범위에서, 용어 "제1", "제2", 및 "제3" 등은 단순히 수식어로서 사용되고, 그의 대상물들에 대한 수치적 순서를 암시하기 위한 것이 아니다.
이상의 설명은 제한하는 것이 아니라 예시적인 것으로 의도되고 있다. 예를 들어, 앞서 기술한 예들(또는 그의 하나 이상의 양태들)은 다른 예들과 결합하여 사용될 수 있다. 이상의 설명을 검토할 시에 통상의 기술자 등에 의해 다른 실시예들이 사용될 수 있다. 요약서는, 예를 들어, 미국에서 37 C.F.R. §1.72(b)에 부합하기 위해, 읽는 사람이 기술적 개시 내용의 본질을 신속하게 확인할 수 있게 해주기 위한 것이다. 요약서는 청구항들의 범주 또는 의미를 해석하거나 제한하는 데 사용되지 않는다는 이해 하에 제공된다. 또한, 이상의 발명을 실시하기 위한 구체적인 내용에서, 본 개시 내용을 간소화하기 위해 다양한 특징들이 함께 그룹화될 수 있다. 그렇지만, 실시예들이 상기 특징들의 서브셋을 포함할 수 있기 때문에, 청구범위는 본 명세서에 개시된 특징들을 기재하지 않을 수 있다. 게다가, 실시예들은 특정의 예에 개시된 것들보다 더 적은 특징들을 포함할 수 있다. 따라서, 이하의 청구항들은 이에 따라 발명을 실시하기 위한 구체적인 내용에 포함되며, 청구항은 그 자체로서 개별적인 실시예로서의 지위를 갖는다. 따라서, 본 명세서에 개시된 실시예들의 범주는, 첨부된 청구범위의 자격을 가지는 등가물들의 전체 범주와 함께, 이러한 청구범위를 참조하여 결정되어야만 한다.

Claims (30)

  1. 뇌-컴퓨터 인터페이스(brain computer interface)를 제공하는 시스템으로서,
    사용자에게 제공하기 위한 자극들의 라이브러리(a library of stimuli);
    상기 자극들의 라이브러리로부터의 자극들을 상기 사용자에게 제공하는 것에 응답하여 뇌 활동(brain activity)과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들(temporal and spatial patterns of biophysical signals)을 수집하는 데이터 수집 디바이스; 및
    상기 사용자의 뇌 시그너처(brain signature)를 식별하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키고 뇌 활동과 연관된 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 상기 사용자의 상기 뇌 시그너처에 기초한 프로세서 제어 기능(processor controlled function)을 수행하는 처리 디바이스
    를 포함하는, 시스템.
  2. 제1항에 있어서, 상기 처리 디바이스는 상기 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 상기 시간적 및 공간적 패턴들에 기초하여 상기 자극들의 함수로서 상기 사용자의 멘탈 프로파일(mental profile)을 작성하는, 시스템.
  3. 제1항 또는 제2항에 있어서, 상기 처리 디바이스는 사용자의 식별 및 인증을 제공하고, 사용자의 멘탈 프로파일은 상기 자극들의 라이브러리로부터의 자극들을 상기 사용자에게 제시한 것에 기초하여 교정 스테이지(calibrating stage) 동안 상기 처리 디바이스에 의해 생성되며, 상기 처리 디바이스는 인증되고 있는 사용자의 멘탈 프로파일이 상기 교정 스테이지 동안 생성된 상기 사용자의 상기 멘탈 프로파일에 상관되어 있는지를 추가로 판정하는, 시스템.
  4. 제1항 또는 제2항에 있어서, 상기 처리 디바이스는 사용자의 뇌-컴퓨터 인터페이스 시스템으로부터의 전송들을 모니터링하는 것, 상기 사용자로부터의 뇌 활동 측정들(brain activity measurements)과 연관된 자극들을 디스플레이하는 것, 상기 뇌 활동 측정들과 연관된 검색 대상을 찾기 위해 상기 뇌 활동 측정들을 검색하는 것, 및 상기 연관된 뇌 활동 측정들과 상관되어 있는 검색 대상들과 상기 뇌 활동 측정들 간의 정합에 기초하여 검색 결과들을 반환하는 것에 의해 텔레파시 컨텍스트 검색(telepathic contextual search)을 수행하도록 구성되어 있는, 시스템.
  5. 제1항 또는 제2항에 있어서, 상기 처리 디바이스는 뇌-컴퓨터 인터페이스 센서들 및 검출기들과 생체 측정 및 환경 센서 어레이로부터 입력을 수신하는 것에 의해 텔레파시 증강 현실(telepathic augmented reality)을 제공하고, 상기 처리 디바이스는 인식된 센서 입력들, 증강 현실 캐릭터 및 증강 현실 환경 콘텐츠의 데이터베이스로부터 획득된 입력 및 데이터를 증강 현실 경험에 매핑하도록 구성되어 있으며, 상기 처리 디바이스는 상기 뇌-컴퓨터 인터페이스 센서들 및 검출기들과 상기 생체 측정 및 환경 센서 어레이로부터의 입력으로부터 도출된 사용자 의도에 기초하여 증강 현실 캐릭터들을 상기 환경과 블렌딩(blending)하고 상기 증강 현실 경험을 사용자에게 제시하는, 시스템.
  6. 제1항 또는 제2항에 있어서, 상기 처리 디바이스는 사용자의 좌우 양눈 각각에 대한 좌우 반시야(left and right hemifield)를 나타내는 멘탈 데스크톱(mental desktop)을 생성하고, 상기 처리 디바이스는 각각의 눈을 상부 구획(upper division) 및 하부 구획(lower division)으로 추가로 분리하며, 상기 멘탈 데스크톱은 정보가 할당되어 있는 상기 사용자의 시야의 8개의 구역들을 포함하고, 상기 처리 디바이스는 상기 멘탈 데스크톱에서 영역의 정신적 시각화(mental visualization)를 검출하고 상기 정신적으로 시각화된 영역에 할당된 정보에 따라 기능을 구현하는, 시스템.
  7. 제1항 또는 제2항에 있어서, 상기 처리 디바이스는 지각 컴퓨팅 입력들, 상기 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들 그리고 상기 지각 컴퓨팅 입력들과 상기 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 상기 시간적 및 공간적 패턴들의 상호 관련성(interrelatedness)에 기초하여 상기 사용자의 의도를 결정하도록 구성되어 있고, 상기 처리 디바이스는 상기 결정된 사용자 의도에 기초하여 명령을 개시하는, 시스템.
  8. 뇌-컴퓨터 인터페이스(BCI)를 제공하는 방법으로서,
    자극들을 사용자에게 제공하는 단계;
    상기 자극들을 상기 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 단계;
    사용자 뇌 시그너처들을 식별하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 단계; 및
    뇌 활동과 연관된 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 상기 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 단계
    를 포함하는, 방법.
  9. 제8항에 있어서, 상기 프로세서 제어 기능은 상기 사용자의 식별된 패턴들과 사용자 그룹에 공통인 패턴들 간의 적어도 하나의 유사성(similarity)을 결정하는 것을 포함하는, 방법.
  10. 제8항에 있어서, 상기 자극들을 사용자에게 제공하는 단계, 상기 자극들을 상기 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 단계 및 상기 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 단계는 상기 자극들에 기초하여 사용자의 뇌 시그너처를 교정(calibrating)하는 단계, 및 현재 측정된 뇌 시그너처와 상기 교정된 뇌 시그너처를 비교하는 것에 의해 상기 사용자를 인증하는 단계를 추가로 포함하는, 방법.
  11. 제10항에 있어서, 상기 사용자를 인증하는 단계는,
    뇌 활동 반응들(brain activity responses)을 유발시키기 위해 이전에 적용된 일련의 자극들을 사용자에게 제시하는 단계;
    상기 이전에 적용된 일련의 자극들에 기초하여 상기 사용자의 뇌 구조 및 활동을 측정하는 단계;
    상기 사용자의 뇌 시그너처를 생성하기 위해 뇌 구조 및 활동의 상기 측정들의 패턴 인식을 수행하는 단계; 및
    상기 사용자의 상기 뇌 시그너처와 상기 사용자의 상기 교정된 뇌 시그너처를 비교하는 것에 의해 상기 패턴 인식을 수행하는 것을 통해 획득된 상기 사용자의 상기 뇌 시그너처를 분석하는 단계를 포함하는, 방법.
  12. 제11항에 있어서, 상기 사용자의 상기 뇌 시그너처를 분석하는 단계는 상기 뇌 시그너처를 미리 결정된 모집단의 해부학적 및 생리학적 뇌 시그너처들과 비교하는 단계를 포함하는, 방법.
  13. 제8항에 있어서, 상기 프로세서 제어 기능은 검색 대상과 연관된 뇌-컴퓨터 인터페이스 척도(brain computer interface measure)와 쌍을 이루는 자극의 정신적 심상(mental imagery)을 재생성하는 것에 의해 상기 사용자에 의해 수행되는 텔레파시 검색(telepathic search)을 포함하는, 방법.
  14. 제13항에 있어서, 상기 텔레파시 검색은 검색 결과들을 생성하기 위해 사용자의 생각 패턴들을 상기 생각 패턴들과 연관된 뇌 활동 측정들에 응답하여 개발된 상기 사용자의 뇌 패턴들로 분류되는 콘텐츠의 데이터베이스에 정합시키는 것, 및 상기 데이터베이스 내의 콘텐츠와 연관되어 있는 것으로 알려진 요소들과 정합하는 상기 생각 패턴들에서의 요소들의 수에 기초하여 상기 검색 결과들을 가중시키는 것에 의해 수행되는, 방법.
  15. 제8항에 있어서, 상기 프로세서 제어 기능은 텔레파시 통신(telepathic communication)을 포함하고, 공통의 정신적 어휘(mental vocabulary)로 훈련된 적어도 두 명의 사용자들은 뇌 활동-자극 쌍(brain activity-stimuli pairings)에 기초하여 서로 통신하기 위해 상기 공통의 정신적 어휘를 사용하는, 방법.
  16. 제8항에 있어서, 상기 프로세서 제어 기능은 정신적 심상과 미리 결정된 동작을 수행하는 모델을 연관시키는 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 텔레파시 증강 현실을 수행하는 것, 뇌-컴퓨터 인터페이스 입력들의 모니터링을 통해 상기 사용자가 의도적으로 불러일으키지 않는 증강 현실 경험을 제시하는 것, 뇌 활동-자극 쌍에 관해 생각하는 것에 의해 증강 현실 캐릭터들의 움직임을 지시하는 것, 및 모니터링된 환경 단서들을 갖는 상기 뇌 활동-자극 쌍을 사용하는 것으로 이루어진 동작들의 그룹 중에서 선택된 것을 포함하는, 방법.
  17. 제8항에 있어서, 상기 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 단계는 검출된 정신 집중력을 상기 사용자의 시야의 상이한 섹션들에 집중시키는 것에 의해 컴퓨팅 디바이스들을 동작시키는 단계를 포함하는, 방법.
  18. 제8항에 있어서, 상기 자극들을 사용자에게 제공하는 단계, 상기 자극들을 상기 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 단계, 상기 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 단계, 및 상기 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 단계는,
    사용자의 시야의 영역들에 기초하여 멘탈 데스크톱 작업 공간을 시공간 영역들로 분할하는 단계;
    상기 사용자의 시야를 상기 사용자의 일차 시각 피질(primary visual cortex)의 영역들에 매핑하기 위해 사용자를 훈련(training)시키는 단계 - 상기 일차 시각 피질의 영역들은 상기 시공간 영역들 중 하나에 대응함 -;
    상기 시공간 영역들에 의해 표현되는 상기 시야의 생리학적으로 분리된 섹션들에 콘텐츠를 할당하는 단계; 및
    상기 시각화된 시공간 영역에 할당된 콘텐츠에 액세스하기 위해 상기 시공간 영역들 중 하나를 정신적으로 시각화하는 것에 의해 할당된 정보에 액세스하는 단계를 추가로 포함하는, 방법.
  19. 제8항에 있어서, 상기 자극들을 사용자에게 제공하는 단계, 상기 시간적 및 공간적 패턴들을 수집하는 단계, 상기 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 단계, 및 상기 사용자 뇌 시그너처들에 기초한 프로세서 제어 기능을 수행하는 단계는,
    사용자가, 컴퓨터 입력을 제공하는 것과 연관된 신체 위치의 움직임들을 상상하는 단계;
    상기 대응하는 신체 위치의 움직임들을 제어하는 데 전용되어 있는 위상학적으로 구성된(topographically organized) 뇌 영역으로부터 나오는 뇌 활동을 기록하는 단계;
    상기 위상학적으로 구성된 뇌 영역에서의 상기 기록된 뇌 활동을 상기 대응하는 신체 위치의 움직임과 상관시키는 단계;
    상기 위상학적으로 구성된 뇌 영역에서의 활동을 생성하기 위해 상기 신체 위치의 움직임을 시각화하는 것에 의해 정신적 제스처(mental gesture)를 수행하는 단계;
    상기 기록된 뇌 활동에 대응하는 뇌 활동을 검출하는 단계; 및
    상기 기록된 뇌 활동에 대응하는 상기 뇌 활동의 검출에 응답하여 상기 대응하는 신체 위치의 움직임과 연관된 컴퓨터 입력을 수행하는 단계를 추가로 포함하는, 방법.
  20. 기계에 의해 실행될 때, 상기 기계로 하여금 제8항 내지 제19항 중 어느 한 항의 방법을 구현하게 하는 명령어들을 포함하는 적어도 하나의 기계 판독가능 매체.
  21. 뇌-컴퓨터 인터페이스를 제공하는 시스템으로서,
    자극들을 사용자에게 제공하는 수단;
    상기 자극들을 제공하는 수단으로부터의 자극들을 상기 사용자에게 제공하는 것에 응답하여 뇌 활동과 연관된 생물 물리학적 신호들의 시간적 및 공간적 패턴들을 수집하는 수단; 및
    상기 사용자의 뇌 시그너처를 식별하기 위해 뇌 활동과 연관된 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키고, 뇌 활동과 연관된 생물 물리학적 신호들의 상기 수집된 시간적 및 공간적 패턴들을 상관시키는 것을 통해 식별된 상기 사용자의 상기 시그너처에 기초한 프로세서 제어 기능을 수행하는 수단
    을 포함하는, 시스템.
  22. 제21항에 있어서, 상기 상관시키는 수단은 상기 사용자의 상기 뇌 시그너처로부터 도출된 상기 사용자의 멘탈 프로파일을 미리 결정된 모집단의 멘탈 프로파일들의 데이터베이스로부터의 멘탈 프로파일들과 비교하는, 시스템.
  23. 제21항 또는 제22항에 있어서, 상기 상관시키는 수단은 다양한 토픽들(topics) 중 임의의 토픽에 대한 상기 사용자의 멘탈 프로파일의 정합의 통계 및 확률을 계산하는, 시스템.
  24. 제21항에 있어서, 상기 상관시키는 수단은 상기 사용자의 뇌 활동과 연관된 생물 물리학적 신호들의 상기 시간적 및 공간적 패턴들을 개인 데이터 및 특성들과 결합시켜 상기 자극들의 함수로서 상기 사용자의 멘탈 프로파일을 작성하는, 시스템.
  25. 제21항 또는 제24항에 있어서, 상기 상관시키는 수단은 상기 사용자의 상기 뇌 시그너처를 데이터베이스로부터 획득된 개인 데이터 및 기타 특성들과 결합시켜 상기 사용자의 멘탈 프로파일 모델을 개발하는, 시스템.
  26. 제25항에 있어서, 상기 상관시키는 수단은 피험자들 간에 확률들을 상관시키고 상기 사용자의 상기 멘탈 프로파일 모델과 적어도 하나의 다른 사용자의 멘탈 프로파일 모델들 간의 멘탈 정합(mental match)의 통계 및 확률을 계산하는, 시스템.
  27. 제21항 또는 제24항에 있어서, 상기 상관시키는 수단은 사용자의 식별 및 인증을 제공하고, 사용자의 멘탈 프로파일은 상기 자극들을 제공하는 수단으로부터의 자극들을 상기 사용자에게 제시한 것에 기초하여 교정 스테이지 동안 상기 상관시키는 수단에 의해 생성되며, 상기 상관시키는 수단은 인증되고 있는 사용자의 멘탈 프로파일이 상기 교정 스테이지 동안 생성된 상기 사용자의 상기 멘탈 프로파일에 상관되어 있는지를 추가로 판정하는, 시스템.
  28. 제21항 또는 제24항에 있어서, 상기 상관시키는 수단은 사용자의 뇌-컴퓨터 인터페이스 시스템으로부터의 전송들을 모니터링하는 것, 상기 사용자로부터의 뇌 활동 측정들과 연관된 자극들을 디스플레이하는 것, 상기 뇌 활동 측정들과 연관된 검색 대상을 찾기 위해 상기 뇌 활동 측정들을 검색하는 것, 및 상기 연관된 뇌 활동 측정들과 상관되어 있는 검색 대상들과 상기 뇌 활동 측정들 간의 정합에 기초하여 검색 결과들을 반환하는 것에 의해 텔레파시 컨텍스트 검색을 수행하도록 구성되어 있는, 시스템.
  29. 제21항 또는 제24항에 있어서, 상기 상관시키는 수단은 뇌-컴퓨터 인터페이스 센서들 및 검출기들과 생체 측정 및 환경 센서 어레이로부터 입력을 수신하는 것에 의해 텔레파시 증강 현실을 제공하고, 상기 상관시키는 수단은 인식된 센서 입력들, 증강 현실 캐릭터 및 증강 현실 환경 콘텐츠의 데이터베이스로부터 획득된 입력 및 데이터를 증강 현실 경험에 매핑하며, 상기 상관시키는 수단은 상기 뇌-컴퓨터 인터페이스 센서들 및 검출기들과 상기 생체 측정 및 환경 센서 어레이로부터의 입력으로부터 도출된 사용자 의도에 기초하여 증강 현실 캐릭터들을 상기 환경과 블렌딩하고 상기 증강 현실 경험을 사용자에게 제시하는, 시스템.
  30. 제21항 또는 제24항에 있어서, 상기 상관시키는 수단은 사용자의 좌우 양눈 각각에 대한 좌우 반시야를 나타내는 멘탈 데스크톱을 생성하고, 상기 상관시키는 수단은 각각의 눈을 상부 구획 및 하부 구획으로 추가로 분리하며, 상기 멘탈 데스크톱은 정보가 할당되어 있는 상기 사용자의 시야의 8개의 구역들을 포함하고, 상기 상관시키는 수단은 상기 멘탈 데스크톱에서 영역의 정신적 시각화를 검출하고 상기 정신적으로 시각화된 영역에 할당된 정보에 따라 기능을 구현하는, 시스템.
KR1020157021945A 2013-03-15 2013-03-15 생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(bci) 시스템 KR101680995B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/US2013/032037 WO2014142962A1 (en) 2013-03-15 2013-03-15 Brain computer interface (bci) system based on gathered temporal and spatial patterns of biophysical signals

Publications (2)

Publication Number Publication Date
KR20150106954A true KR20150106954A (ko) 2015-09-22
KR101680995B1 KR101680995B1 (ko) 2016-11-29

Family

ID=51537329

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157021945A KR101680995B1 (ko) 2013-03-15 2013-03-15 생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(bci) 시스템

Country Status (6)

Country Link
US (1) US20160103487A1 (ko)
EP (1) EP2972662A4 (ko)
JP (1) JP6125670B2 (ko)
KR (1) KR101680995B1 (ko)
CN (1) CN105051647B (ko)
WO (1) WO2014142962A1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101939611B1 (ko) * 2017-07-11 2019-01-17 연세대학교 산학협력단 뇌기능 정합 방법 및 장치
KR102029760B1 (ko) 2018-10-17 2019-10-08 전남대학교산학협력단 사용자 감정 분석을 이용한 이벤트 탐지 시스템 및 방법
WO2021158276A1 (en) * 2020-02-04 2021-08-12 Hrl Laboratories, Llc System and method for asynchronous brain control of one or more tasks
US11145219B2 (en) 2016-06-23 2021-10-12 Sony Corporation System and method for changing content based on user reaction

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9405366B2 (en) * 2013-10-02 2016-08-02 David Lee SEGAL Systems and methods for using imagined directions to define an action, function or execution for non-tactile devices
US10069867B2 (en) * 2013-11-29 2018-09-04 Nokia Technologies Oy Method and apparatus for determining privacy policy for devices based on brain wave information
CA2940238A1 (en) 2014-02-21 2015-08-27 Trispera Dental Inc. Augmented reality dental design method and system
WO2016019526A1 (zh) * 2014-08-06 2016-02-11 中国科学院自动化研究所 脑活动检测方法和系统
US20170039473A1 (en) * 2014-10-24 2017-02-09 William Henry Starrett, JR. Methods, systems, non-transitory computer readable medium, and machines for maintaining augmented telepathic data
US20160148529A1 (en) * 2014-11-20 2016-05-26 Dharma Systems Inc. System and method for improving personality traits
JP6373402B2 (ja) * 2014-11-21 2018-08-15 国立研究開発法人産業技術総合研究所 脳波による認証装置、認証方法、認証システム及びプログラム
US9577992B2 (en) 2015-02-04 2017-02-21 Aerendir Mobile Inc. Data encryption/decryption using neuro and neuro-mechanical fingerprints
US10357210B2 (en) 2015-02-04 2019-07-23 Proprius Technologies S.A.R.L. Determining health change of a user with neuro and neuro-mechanical fingerprints
US9590986B2 (en) 2015-02-04 2017-03-07 Aerendir Mobile Inc. Local user authentication with neuro and neuro-mechanical fingerprints
US9836896B2 (en) 2015-02-04 2017-12-05 Proprius Technologies S.A.R.L Keyless access control with neuro and neuro-mechanical fingerprints
IL239191D0 (en) * 2015-06-03 2015-11-30 Amir B Geva Image sorting system
US9507974B1 (en) * 2015-06-10 2016-11-29 Hand Held Products, Inc. Indicia-reading systems having an interface with a user's nervous system
EP3333671B1 (en) * 2015-08-05 2020-12-30 Seiko Epson Corporation Mental image playback device
US10373143B2 (en) 2015-09-24 2019-08-06 Hand Held Products, Inc. Product identification using electroencephalography
US9672760B1 (en) * 2016-01-06 2017-06-06 International Business Machines Corporation Personalized EEG-based encryptor
US10169560B2 (en) * 2016-02-04 2019-01-01 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Stimuli-based authentication
JP6668811B2 (ja) * 2016-02-23 2020-03-18 セイコーエプソン株式会社 訓練装置、訓練方法、プログラム
US10044712B2 (en) * 2016-05-31 2018-08-07 Microsoft Technology Licensing, Llc Authentication based on gaze and physiological response to stimuli
EP3472828A4 (en) * 2016-06-20 2020-02-26 Magic Leap, Inc. DISPLAY SYSTEM FOR ADVANCED REALITY TO ASSESS AND MODIFY NEUROLOGICAL DISEASES, INCLUDING VISUAL PROCESSING AND PERCEPTION DISEASES
US10694946B2 (en) * 2016-07-05 2020-06-30 Freer Logic, Inc. Dual EEG non-contact monitor with personal EEG monitor for concurrent brain monitoring and communication
US10706134B2 (en) * 2016-07-11 2020-07-07 Arctop Ltd Method and system for providing a brain computer interface
US10621636B2 (en) 2016-08-17 2020-04-14 International Business Machines Corporation System, method and computer program product for a cognitive monitor and assistant
KR101798640B1 (ko) 2016-08-31 2017-11-16 주식회사 유메딕스 뇌파 획득 장치 및 이를 이용한 행동 패턴 실험 장치
US20200356171A1 (en) * 2017-11-21 2020-11-12 Daniel Furman Interactive Electronic Content Delivery in Coordination with Rapid Decoding of Brain Activity
US10582316B2 (en) 2017-11-30 2020-03-03 Starkey Laboratories, Inc. Ear-worn electronic device incorporating motor brain-computer interface
CN108108603A (zh) * 2017-12-04 2018-06-01 阿里巴巴集团控股有限公司 登录方法及装置和电子设备
US10671164B2 (en) 2017-12-27 2020-06-02 X Development Llc Interface for electroencephalogram for computer control
US10952680B2 (en) 2017-12-27 2021-03-23 X Development Llc Electroencephalogram bioamplifier
CN108056774A (zh) * 2017-12-29 2018-05-22 中国人民解放军战略支援部队信息工程大学 基于视频刺激材料的实验范式情绪分析实现方法及其装置
WO2019133997A1 (en) 2017-12-31 2019-07-04 Neuroenhancement Lab, LLC System and method for neuroenhancement to enhance emotional response
WO2019144025A1 (en) * 2018-01-22 2019-07-25 Hrl Laboratories, Llc Neuro-adaptive body sensing for user states framework (nabsus)
US10901508B2 (en) * 2018-03-20 2021-01-26 X Development Llc Fused electroencephalogram and machine learning for precognitive brain-computer interface for computer control
US10682099B2 (en) * 2018-03-23 2020-06-16 Abl Ip Holding Llc Training of an electroencephalography based control system
US10682069B2 (en) * 2018-03-23 2020-06-16 Abl Ip Holding Llc User preference and user hierarchy in an electroencephalography based control system
US10551921B2 (en) * 2018-03-23 2020-02-04 Abl Ip Holding Llc Electroencephalography control of controllable device
US10866638B2 (en) * 2018-03-23 2020-12-15 Abl Ip Holding Llc Neural control of controllable device
US11364361B2 (en) 2018-04-20 2022-06-21 Neuroenhancement Lab, LLC System and method for inducing sleep by transplanting mental states
US20190336024A1 (en) * 2018-05-07 2019-11-07 International Business Machines Corporation Brain-based thought identifier and classifier
JPWO2019235458A1 (ja) * 2018-06-04 2021-07-29 国立大学法人大阪大学 想起画像推定装置、想起画像推定方法、制御プログラム、記録媒体
US20210155958A1 (en) 2018-06-13 2021-05-27 Cornell University Bioluminescent markers of neural activity
US10999066B1 (en) 2018-09-04 2021-05-04 Wells Fargo Bank, N.A. Brain-actuated control authenticated key exchange
US20210390366A1 (en) * 2018-10-25 2021-12-16 Arctop Ltd Empathic Computing System and Methods for Improved Human Interactions With Digital Content Experiences
EP3651038A1 (en) * 2018-11-12 2020-05-13 Mastercard International Incorporated Brain activity-based authentication
US20200170524A1 (en) * 2018-12-04 2020-06-04 Brainvivo Apparatus and method for utilizing a brain feature activity map database to characterize content
WO2020132941A1 (zh) * 2018-12-26 2020-07-02 中国科学院深圳先进技术研究院 识别方法及相关装置
US20200257787A1 (en) * 2019-02-08 2020-08-13 Arm Limited Authentication system, device and process
RU2704497C1 (ru) * 2019-03-05 2019-10-29 Общество с ограниченной ответственностью "Нейроботикс" Способ формирования системы управления мозг-компьютер
CN110192861A (zh) * 2019-06-14 2019-09-03 广州医科大学附属肿瘤医院 一种智能辅助脑功能实时检测系统
US10684686B1 (en) 2019-07-01 2020-06-16 INTREEG, Inc. Dynamic command remapping for human-computer interface
CN110824979B (zh) * 2019-10-15 2020-11-17 中国航天员科研训练中心 一种无人设备控制系统和方法
WO2021231609A1 (en) * 2020-05-12 2021-11-18 California Institute Of Technology Decoding movement intention using ultrasound neuroimaging
CN111752392B (zh) * 2020-07-03 2022-07-08 福州大学 脑机接口中精准视觉刺激控制方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2002240192A1 (en) * 2001-01-30 2002-08-12 R. Christopher Decharms Methods for physiological monitoring, training, exercise and regulation
JP2002236096A (ja) * 2001-02-08 2002-08-23 Hitachi Ltd 光トポグラフィ装置とデータ生成装置
JP2004248714A (ja) * 2003-02-18 2004-09-09 Kazuo Tanaka 生体信号を用いた認証方法および認証装置
JP2005160805A (ja) * 2003-12-03 2005-06-23 Mitsubishi Electric Corp 個人認識装置および属性判定装置
JP2006072606A (ja) * 2004-09-01 2006-03-16 National Institute Of Information & Communication Technology インターフェイス装置、インターフェイス方法及びその装置を用いた制御訓練装置
JP5150942B2 (ja) * 2006-02-03 2013-02-27 株式会社国際電気通信基礎技術研究所 活動補助システム
US8533042B2 (en) * 2007-07-30 2013-09-10 The Nielsen Company (Us), Llc Neuro-response stimulus and stimulus attribute resonance estimator
US8244475B2 (en) * 2007-12-27 2012-08-14 Teledyne Scientific & Imaging, Llc Coupling human neural response with computer pattern analysis for single-event detection of significant brain responses for task-relevant stimuli
US8542916B2 (en) * 2008-07-09 2013-09-24 Florida Atlantic University System and method for analysis of spatio-temporal data
US20100145215A1 (en) * 2008-12-09 2010-06-10 Neurofocus, Inc. Brain pattern analyzer using neuro-response data
JP2010257343A (ja) * 2009-04-27 2010-11-11 Niigata Univ 意思伝達支援装置
CN101571748A (zh) * 2009-06-04 2009-11-04 浙江大学 一种基于增强现实的脑机交互系统
CN101963930B (zh) * 2009-07-21 2013-06-12 纬创资通股份有限公司 自动化测试装置
US20110112426A1 (en) * 2009-11-10 2011-05-12 Brainscope Company, Inc. Brain Activity as a Marker of Disease
KR101070844B1 (ko) * 2010-10-01 2011-10-06 주식회사 바로연결혼정보 이상형을 연결시켜주기 위한 감성 매칭시스템 및 매칭방법
JP5816917B2 (ja) * 2011-05-13 2015-11-18 本田技研工業株式会社 脳活動計測装置、脳活動計測方法、及び脳活動推定装置
US9131889B2 (en) * 2011-05-31 2015-09-15 Nagoya Institute Of Technology Cognitive impairment determination apparatus, cognitive impairment determination system and program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11145219B2 (en) 2016-06-23 2021-10-12 Sony Corporation System and method for changing content based on user reaction
KR101939611B1 (ko) * 2017-07-11 2019-01-17 연세대학교 산학협력단 뇌기능 정합 방법 및 장치
KR102029760B1 (ko) 2018-10-17 2019-10-08 전남대학교산학협력단 사용자 감정 분석을 이용한 이벤트 탐지 시스템 및 방법
WO2021158276A1 (en) * 2020-02-04 2021-08-12 Hrl Laboratories, Llc System and method for asynchronous brain control of one or more tasks
US11237634B2 (en) 2020-02-04 2022-02-01 Hrl Laboratories, Llc System and method for asynchronous brain control of one or more tasks

Also Published As

Publication number Publication date
JP6125670B2 (ja) 2017-05-10
WO2014142962A1 (en) 2014-09-18
EP2972662A4 (en) 2017-03-01
CN105051647A (zh) 2015-11-11
EP2972662A1 (en) 2016-01-20
US20160103487A1 (en) 2016-04-14
CN105051647B (zh) 2018-04-13
JP2016513319A (ja) 2016-05-12
KR101680995B1 (ko) 2016-11-29

Similar Documents

Publication Publication Date Title
KR101680995B1 (ko) 생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(bci) 시스템
Dewan et al. Engagement detection in online learning: a review
Stöckli et al. Facial expression analysis with AFFDEX and FACET: A validation study
Tan et al. Brain-computer interfaces and human-computer interaction
JP2019513516A (ja) 人の視覚パフォーマンスを査定するために視覚データを入手し、集計し、解析する方法およびシステム
Chen et al. DeepFocus: Deep encoding brainwaves and emotions with multi-scenario behavior analytics for human attention enhancement
Gonçalves et al. Assessing users’ emotion at interaction time: a multimodal approach with multiple sensors
KR102277820B1 (ko) 반응정보 및 감정정보를 이용한 심리 상담 시스템 및 그 방법
Yang et al. Development of a neuro-feedback game based on motor imagery EEG
Schuller Acquisition of affect
Huang et al. Brainware: synergizing software systems and neural inputs
Yusuf et al. Evolving an emotion recognition module for an intelligent agent using genetic programming and a genetic algorithm
Xue et al. CEAP-360VR: A Continuous Physiological and Behavioral Emotion Annotation Dataset for 360 VR Videos
Karbauskaitė et al. Kriging predictor for facial emotion recognition using numerical proximities of human emotions
Bianchi-Berthouze et al. 11 Automatic Recognition of Affective Body Expressions
Cernea User-Centered Collaborative Visualization
Pasquali et al. Detecting Lies is a Child (Robot)’s Play: Gaze-Based Lie Detection in HRI
Hamdy et al. Affective games: a multimodal classification system
El Mougy Character-IoT (CIoT): Toward Human-Centered Ubiquitous Computing
Karran et al. The drive to explore: physiological computing in a cultural heritage context
Soleymani Implicit and automated emotional tagging of videos
Arapakis Affect-Based information retrieval
Gao et al. User Experience Evaluation
Martínez Advancing Affect Modeling via Preference Learning and Unsupervised Feature Extraction
Hondrou et al. Affective Natural Interaction Using EEG: Technologies, Applications and Future Directions

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant