JP7330507B2 - 情報処理装置、プログラム、及び、方法 - Google Patents

情報処理装置、プログラム、及び、方法 Download PDF

Info

Publication number
JP7330507B2
JP7330507B2 JP2019225150A JP2019225150A JP7330507B2 JP 7330507 B2 JP7330507 B2 JP 7330507B2 JP 2019225150 A JP2019225150 A JP 2019225150A JP 2019225150 A JP2019225150 A JP 2019225150A JP 7330507 B2 JP7330507 B2 JP 7330507B2
Authority
JP
Japan
Prior art keywords
information
user
operation mode
processor
biological information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019225150A
Other languages
English (en)
Other versions
JP2021096497A (ja
Inventor
賢吾 得地
雅弘 佐藤
Original Assignee
株式会社Agama-X
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Agama-X filed Critical 株式会社Agama-X
Priority to JP2019225150A priority Critical patent/JP7330507B2/ja
Priority to US16/864,207 priority patent/US11868529B2/en
Priority to CN202010505254.4A priority patent/CN112987911A/zh
Publication of JP2021096497A publication Critical patent/JP2021096497A/ja
Application granted granted Critical
Publication of JP7330507B2 publication Critical patent/JP7330507B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B15/00Systems controlled by a computer
    • G05B15/02Systems controlled by a computer electric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/542Event management; Broadcasting; Multicasting; Notifications
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F24HEATING; RANGES; VENTILATING
    • F24FAIR-CONDITIONING; AIR-HUMIDIFICATION; VENTILATION; USE OF AIR CURRENTS FOR SCREENING
    • F24F11/00Control or safety arrangements
    • F24F11/62Control or safety arrangements characterised by the type of control or by internal processing, e.g. using fuzzy logic, adaptive control or estimation of values
    • F24F11/63Electronic processing
    • F24F11/64Electronic processing using pre-stored data
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F24HEATING; RANGES; VENTILATING
    • F24FAIR-CONDITIONING; AIR-HUMIDIFICATION; VENTILATION; USE OF AIR CURRENTS FOR SCREENING
    • F24F2120/00Control inputs relating to users or occupants

Description

本発明は、情報処理装置プログラム、及び、方法に関する。
脳波等の生体情報を用いて操作対象を操作することが考えられる。
特許文献1には、定常視覚刺激誘発電位(SSVEP)を利用したBMI装置が記載されている。
特許文献2には、使用者の脳波から脳波生体信号を検出し、使用者の表面筋電位から表面筋電位生体信号を検出し、両方の生体信号に基づいて制御信号を演算するBMI運動補助装置が記載されている。
特許文献3には、身体についての特定の動作を想起した場合に生じる脳波の条件である脳波条件を予め格納し、脳波情報を取得し、取得した脳波情報に含まれる脳波が、格納されている脳波条件を満たす場合、撮像装置が被写体を撮像する場合の条件である撮像条件を当該撮像装置に出力する撮像制御装置が記載されている。
特許文献4には、脳波信号と人の意思とを一致させる方法が記載されている。
特開2014-071825号公報 特開2015-211705号公報 特開2015-102650号公報 特開2002-166050号公報
ところで、生体情報を用いて操作対象を操作することができない場合がある。
本発明の目的は、生体情報を用いて操作対象を操作することができない場合に、生体情報を用いて操作対象を操作することができるようにユーザを補助することにある。
請求項1に係る発明は、プロセッサを有し、前記プロセッサは、ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作し、前記ユーザの生体情報が測定されている場合において、記ユーザの生体情報に基づいて前記第1操作モードに従って前記操作対象が操作されない場合、前記ユーザの生体情報に基づいて、前記第1操作モードとは異なる第2操作モードに従って前記操作対象を操作し、前記第1操作モードでは、前記ユーザの生体情報の特徴と前記操作対象の操作内容を示す生体情報である基準生体情報の特徴との相似又は類似の関係性に応じて前記操作対象を操作し、前記第2操作モードでは、前記相似又は類似の関係性が前記第1操作モードでの前記関係性よりも相似又は類似しない場合でも、前記操作対象を操作する、情報処理装置である。
請求項2に係る発明は、コンピュータに、ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作させ、前記ユーザの生体情報が測定されている場合において、前記ユーザの生体情報に基づいて前記第1操作モードに従って前記操作対象が操作されない場合、前記ユーザの生体情報に基づいて、前記第1操作モードとは異なる第2操作モードに従って前記操作対象を操作させ、前記第1操作モードでは、前記ユーザの生体情報の特徴と前記操作対象の操作内容を示す生体情報である基準生体情報の特徴との相似又は類似の関係性に応じて前記操作対象を操作させ、前記第2操作モードでは、前記相似又は類似の関係性が前記第1操作モードでの前記関係性よりも相似又は類似しない場合でも、前記操作対象を操作させる、プログラムである。
請求項3に係る発明は、コンピュータが、ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作し、前記ユーザの生体情報が測定されている場合において、前記ユーザの生体情報に基づいて前記第1操作モードに従って前記操作対象が操作されない場合、前記ユーザの生体情報に基づいて、前記第1操作モードとは異なる第2操作モードに従って前記操作対象を操作し、前記第1操作モードでは、前記ユーザの生体情報の特徴と前記操作対象の操作内容を示す生体情報である基準生体情報の特徴との相似又は類似の関係性に応じて前記操作対象を操作し、前記第2操作モードでは、前記相似又は類似の関係性が前記第1操作モードでの前記関係性よりも相似又は類似しない場合でも、前記操作対象を操作する、方法である。
請求項1,2,3に係る発明によれば、生体情報を用いて操作対象を操作することができない場合に、生体情報を用いて操作対象を操作することができるようにユーザを補助することができる。また、請求項1,2,3に係る発明によれば、第2操作モードでは、相似又は類似の関係性が第1操作モードでの関係性よりも相似又は類似しない場合であっても、操作対象を操作することができる。
本実施形態に係る情報処理システムの構成を示すブロック図である。 本実施形態に係る情報処理装置の構成を示すブロック図である。 本実施形態に係る情報処理装置による処理の流れを示すフローチャートを示す図である。 第1管理テーブルを示す図である。 第2管理テーブルを示す図である。 第1管理テーブルを示す図である。 第2管理テーブルを示す図である。 生体情報の時間変化を示すグラフを示す図である。 生体情報の波形を示す図である。 生体情報の時間変化を示すグラフを示す図である。 画面を示す図である。
図1を参照して、本実施形態に係る情報処理システムについて説明する。図1には、本実施形態に係る情報処理システムの構成の一例が示されている。
本実施形態に係る情報処理システムは、情報処理装置10と、1又は複数の生体情報測定装置12と、1又は複数の機器14とを含む。図1に示されている各装置の数は一例に過ぎない。情報処理システムは、図1に示されている装置以外の他の装置(例えば、端末装置やサーバ等)を含んでもよい。なお、機器14が用いられない場合、機器14は情報処理システムに含まれなくてもよい。
情報処理システムに含まれている各装置は、他の装置と通信するように構成されている。その通信は、ケーブルを利用する有線通信であってもよいし、無線通信であってもよい。つまり、各装置は、他の装置とケーブルによって物理的に接続されて、情報を互いに送受信してもよいし、無線通信によって互いに情報を送受信してもよい。無線通信として、例えば、近距離無線通信やWi-Fi(登録商標)等が用いられる。これら以外の規格の無線通信が用いられてもよい。近距離無線通信は、例えば、Bluetooth(登録商標)やRFID(Radio Frequency Identifier)やNFC等である。各装置は、LAN(Local Area Network)やインターネット等の通信経路を介して他の装置と通信してもよい。
情報処理装置10は、例えば、パーソナルコンピュータ(以下、「PC」と称する)、タブレットPC、スマートフォン、携帯電話、又は、その他の装置(例えば、サーバやロボットやその他の機器等)である。情報処理装置10は、人が携帯することが可能な端末装置(例えば、タブレットPCやスマートフォンや携帯電話等)であってもよいし、テーブル等に設置されて使用される装置であってもよいし、移動可能な装置(例えば自走式の装置)であってもよいし、作業を行う装置であってもよいし、人と対話することが可能な装置であってもよい。例えば、情報処理装置10は、通信機能とマイクとスピーカとを有するスマートスピーカであってもよいし、人と対話し、作業するロボットであってもよい。情報処理装置10は、人工知能(AI)を搭載した装置であってもよい。
生体情報測定装置12は、人の生体情報を測定するように構成されている装置である。例えば、生体情報測定装置12は、各種のセンサや電極等を有し、人の生体情報を測定する。複数の生体情報測定装置12が用いられる場合、各生体情報測定装置12は、異なる種類の生体情報を測定してもよい。複数の生体情報測定装置12の中の一部又は全部は、同じ種類の生体情報を測定してもよい。また、生体情報測定装置12は、1つの種類の生体情報を測定するように構成されてもよいし、複数の種類の生体情報を測定するように構成されてもよい。
生体情報測定装置12は、測定された生体情報を情報処理装置10に送信する。生体情報測定装置12は、生体情報を測定する度に生体情報を情報処理装置10に送信してもよいし、生体情報を記憶し、予め定められた時間間隔毎に生体情報を情報処理装置10に送信してもよいし、人が指定したタイミングで生体情報を情報処理装置10に送信してもよい。また、生体情報測定装置12は、他の生体情報測定装置12が測定した生体情報を当該他の生体情報測定装置12から受信し、自身が測定した生体情報と当該他の生体情報測定装置12が測定した生体情報とを情報処理装置10に送信してもよい。
生体情報測定装置12は、自装置又は他の生体情報測定装置が測定した生体情報を解析し、その解析の結果を示す情報を情報処理装置10に送信してもよい。例えば、生体情報測定装置12はプロセッサを含み、当該プロセッサが生体情報を解析してもよい。もちろん、その解析は情報処理装置10又は他の装置によって行われてもよい。
生体情報測定装置12は、バッテリを含み、当該バッテリから供給される電力によって駆動してもよいし、他の装置(例えば情報処理装置10等)から電力の供給を受けて駆動してもよい。
生体情報測定装置12は、人に設置されてもよい。例えば、生体情報測定装置12は、人に装着されて生体情報を測定するウェアラブル装置であってもよい。具体例を挙げると、生体情報測定装置12は、人の頭部(例えば額等)に装着される装置であってもよいし、人の耳に装着されるヒアラブル装置(例えば、イヤフォンやヘッドフォン等)であってもよいし、人の腕や手や手首や指等に装着される装置(例えば、スマートウォッチ等の腕時計型の装置等)であってもよいし、人の首に掛けられる装置であってもよいし、人の胴体(例えば腹部や胸部等)に装着される装置であってもよいし、人の下肢(例えば、大腿、下腿、膝、足、足首等)に装着される装置であってもよい。生体情報測定装置12は、人の腕や手や胴体や下肢に装着される健康器具等であってもよい。生体情報測定装置12は、これら以外の部位に装着されてもよい。また、複数の部位のそれぞれに生体情報測定装置12が装着されてもよい。
生体情報は、生体である人から発する様々な生理学的情報や解剖学的情報である。生体情報の概念の範疇には、例えば、脳の活動を示す情報(例えば、脳波、脳の血流量、脳磁場信号等)、脈拍数を示す情報、筋電波形等の筋電情報、唾液に関する情報(例えば唾液量を示す情報)、脈波を示す情報、血圧を示す情報、血流量を示す情報、脈拍を示す情報、心拍数を示す情報、心電波形を示す情報、眼球運動を示す情報、体温を示す情報、発汗量を示す情報、視線を示す情報、音声情報、及び、人の動きを示す情報等が含まれる。また、バイオマーカによって特定される情報が、生体情報として用いられてもよい。これら生体情報の一例に過ぎず、他の生理学的情報や解剖学的情報が生体情報として用いられてもよい。生体情報測定装置12は、これらの生体情報の中の1つの生体情報を測定してもよいし、複数の生体情報を測定してもよい。
また、生体情報の概念の範疇には、生体から測定される電位を示す生体電位情報が含まれる。生体電位情報の概念の範疇には、例えば、脳の活動に伴い発生する微小電流の測定結果である脳波、心臓の拍動に伴い発生する微小電流の測定結果である心電図、筋肉の活動に伴い発生する微小電流の測定結果である筋電図、皮膚に生じる微小電流の測定結果である皮膚電位等が含まれる。これらは生体電位情報の一例に過ぎず、これら以外の生体電位情報が用いられてもよい。
情報処理装置10は、生体情報測定装置12から生体情報を受け付けて、生体情報の解析、生体情報の記憶、生体情報の出力、生体情報の解析の結果を示す情報の記憶、及び、生体情報の解析の結果を示す情報の出力等を行う。もちろん、生体情報の解析は、生体情報測定装置12又は他の装置によって行われてもよい。生体情報を出力することは、例えば、生体情報を表示することや、生体情報を音声情報として出力すること等である。生体情報の解析の結果を示す情報を出力することは、例えば、解析の結果を示す情報を表示することや、解析の結果を音声情報として出力すること等である。情報処理装置10は、生体情報や解析の結果を示す情報を他の装置に送信してよい。
情報処理装置10は、1又は複数の生体情報測定装置12を含んでもよい。つまり、1又は複数の生体情報測定装置12は、情報処理装置10に組み込まれて、1つの装置が構成されてもよい。1又は複数の生体情報測定装置12を含む情報処理装置10全体が、人に装着されて生体情報を測定してもよい。つまり、情報処理装置10はウェアラブル装置であってもよい。例えば、情報処理装置10は、人の頭部(例えば額等)に装着される装置であってもよいし、人の耳に装着されるヒアラブル装置(例えば、イヤフォンやヘッドフォン等)であってもよいし、人の腕や手や手首や指等に装着される装置(例えば、スマートウォッチ等の腕時計型の装置等)であってもよいし、人の首に掛けられる装置であってもよいし、人の胴体(例えば腹部や胸部等)に装着される装置であってもよいし、人の下肢(例えば、大腿、下腿、膝、足、足首等)に装着される装置であってもよい。情報処理装置10は、人の腕や手や胴体や下肢に装着される健康器具等であってもよい。情報処理装置10は、これら以外の部位に装着されてもよい。
情報処理装置10と生体情報測定装置12は、別々の装置であってもよい。例えば、情報処理装置10は、ロボットやスマートスピーカやサーバ等の装置であり、生体情報測定装置12は、人に装着されるウェアラブル装置であってもよい。
機器14は、操作対象の一例である。機器14は、例えば、PC、タブレットPC、スマートフォン、携帯電話、ロボット(例えば、人型ロボット、人以外の動物型ロボット、掃除ロボット、及び、それら以外のロボット等)、プロジェクタ、液晶ディスプレイ等の表示装置、記録装置、再生装置、カメラ等の撮像装置、冷蔵庫、炊飯器、電子レンジ、コーヒーメーカー、掃除機、洗濯機、空調機、照明機器、時計、監視カメラ、自動車、二輪車、航空機(例えば無人航空機(例えばドローン))、ゲーム機、ガスレンジ、温水洗浄便座、換気扇、呼び鈴、玄関モニタ、エレベータ、ドア、窓、又は、各種のセンシング機器(例えば温度センサ、湿度センサ、電圧センサ、電流センサ等)等の装置である。機器14の概念の範疇には機器全般が含まれてもよい。例えば、情報機器、映像機器、音響機器、その他の機器も、本実施形態に係る機器14の範疇に含まれてもよい。
機器14は、通信インターフェースである通信装置、データを記憶する記憶装置、及び、当該機器14の動作を制御するプロセッサを有する。機器14は、ユーザインターフェースを有してもよい。機器14は、自装置である機器14を識別するための機器識別情報を情報処理装置10に送信してもよい。機器識別情報は、例えば、機器14のID、名称、型番、又は、アドレス(例えばMACアドレスやIPアドレス等)等である。
本実施形態においては、ユーザの生体情報に基づいて操作対象が操作される。例えば、情報処理装置10は、ユーザの生体情報を生体情報測定装置12から取得し、その取得した生体情報に基づいて操作対象を操作する。例えば、情報処理装置10は、ユーザの生体情報を生体情報測定装置12から取得し、その取得した生体情報に基づいて操作対象の操作内容を特定し、その特定した操作内容に従って操作対象を操作する。操作内容を特定する処理は、生体情報測定装置12又は他の装置(例えばサーバや機器14や端末装置等)によって行われてもよい。情報処理装置10以外の装置(例えばサーバや端末装置等)が、操作対象を操作してもよい。例えば、情報処理装置10が生体情報に基づいて操作内容を特定し、情報処理装置10以外の装置が、情報処理装置10によって特定された操作内容に従って操作対象を操作してもよい。
操作対象は、ハードウェアであってもよいし、ソフトウェアであってもよいし、ハードウェアとソフトウェアの両方であってもよい。
操作対象のハードウェアは特に限定されるものではなく、例えば、機器14、又は、機器14以外の装置(例えば、情報処理装置10、生体情報測定装置12又はサーバ等)である。複数のハードウェアが操作対象であってもよい。例えば、複数の機器14、情報処理装置10と1又は複数の機器14との組み合わせ、及び、機器14とサーバとの組み合わせ等が、操作対象のハードウェアの一例である。もちろん、これら以外のハードウェアや組み合わせが操作対象のハードウェアであってもよい。
操作対象のソフトウェアは特に限定されるものではなく、例えば、アプリケーションプログラムやOS(オペレーティングシステム)等である。操作対象のソフトウェアは、情報処理装置10にインストールされているソフトウェアであってもよいし、機器14にインストールされているソフトウェアであってもよいし、その他の装置(例えば、生体情報測定装置12、サーバ又は他の装置)にインストールされているソフトウェアであってもよいし、インターネット等の通信経路を介して提供されるソフトウェアであってもよい。複数のソフトウェアが操作対象であってもよい。複数のソフトウェアが操作対象である場合、各ソフトウェアは、同じハードウェアにインストールされていてもよいし、異なるハードウェアにインストールされていてもよい。
本実施形態においては、ユーザの生体情報に基づいて、第1操作モード又は第2操作モードに従って操作対象が操作される。
操作モードに従って操作対象を操作することは、ユーザの生体情報に基づいて操作対象を操作するための条件や基準に従って操作対象を操作すること、ユーザの生体情報の測定に関する条件や基準(例えば、検出の感度に関する条件や基準)に従って操作対象を操作すること、又は、ユーザの生体情報が測定される環境に関する条件や基準に従って操作対象を操作すること等である。
第1操作モードに従って操作対象を操作することは、ユーザの生体情報に基づいて操作対象を操作するための第1条件や第1基準に従って操作対象を操作すること、ユーザの生体情報の測定に関する第1条件や第1基準に従って操作対象を操作すること、又は、ユーザの生体情報が測定される環境に関する第1条件や第1基準に従って操作対象を操作すること等である。
第2操作モードに従って操作対象を操作することは、ユーザの生体情報に基づいて操作対象を操作するための第2条件や第2基準に従って操作対象を操作すること、ユーザの生体情報の測定に関する第2条件や第2基準に従って操作対象を操作すること、又は、ユーザの生体情報が測定される環境に関する第2条件や第2基準に従って操作対象を操作すること等である。
第1条件と第2条件は異なる条件である。第1基準と第2基準は異なる基準である。
例えば、操作モードが第1操作モードに設定されており、第1操作モードに従って操作対象が操作される場合において、ユーザの生体情報に基づいて操作対象が操作されない場合、操作モードが第1操作モードから第2操作モードに切り替わり、第2操作モードに従って操作対象が操作される。操作モードの具体例については後で詳しく説明する。
以下、図2を参照して、情報処理装置10の構成について詳しく説明する。図2には、情報処理装置10の構成の一例が示されている。
情報処理装置10は、例えば、通信装置16と、UI18と、記憶装置20と、プロセッサ22とを含む。情報処理装置10は、これら以外の構成を含んでもよい。
通信装置16は通信インターフェースであり、他の装置にデータを送信する機能、及び、他の装置から送信されてきたデータを受信する機能を有する。通信装置16は、無線通信機能を有してもよいし、有線通信機能を有してもよい。通信装置16は、例えば近距離無線通信を利用することで他の装置と通信してもよいし、LANやインターネット等の通信経路を介して他の装置と通信してもよい。例えば、通信装置16は、生体情報測定装置12から送信されてきた生体情報を受信する。通信装置16は、生体情報測定装置12の動作を制御するための制御情報を生体情報測定装置12に送信してもよい。また、通信装置16は、機器14の動作を制御するための制御情報を機器14に送信してもよいし、機器14から送信されてきた情報を受信してもよい。
UI18はユーザインターフェースであり、表示装置及び操作装置の中の少なくとも1つを含む。表示装置は、液晶ディスプレイやELディスプレイ等である。操作装置は、キーボードや入力キーや操作パネル等である。UI18は、表示装置と操作装置とを兼ね備えたタッチパネル等のUIであってもよい。
記憶装置20は、データを記憶する1又は複数の記憶領域を構成する装置である。記憶装置20は、例えば、ハードディスクドライブ、各種のメモリ(例えばRAMやDRAMやROM等)、その他の記憶装置(例えば光ディスク等)、又は、それらの組み合わせである。1又は複数の記憶装置20が情報処理装置10に含まれている。
記憶装置20には、例えば、第1管理情報と第2管理情報とが記憶されている。
第1管理情報と第2管理情報は、ユーザの生体情報に基づいて、操作対象の操作内容を特定するための情報である。
第1管理情報は、第1操作モードにて用いられる管理情報である。第2管理情報は、第2操作モードにて用いられる管理情報である。つまり、第1操作モードに従って操作対象が操作される場合、第1管理情報に基づいて操作内容が特定される。第2操作モードに従って操作対象が操作される場合、第2管理情報に基づいて操作対象が特定される。
別の例として、第1操作モードと第2操作モードのいずれにおいても、第1管理情報が用いられ、第2管理情報が用いられなくてもよい。つまり、第1操作モードに従って操作対象が操作される場合、第1管理情報に基づいて操作内容が特定される。第2操作モードに従って操作対象が操作される場合も、第2管理情報に基づいて操作対象が操作される。
例えば、予め定められた第1基準生体情報と、操作対象の操作内容を示す操作情報とが、予め紐付けられて第1管理情報に登録されている。第1基準生体情報は、当該第1基準生体情報に紐付けられている操作を行うユーザから発生すると推定される生体情報であってもよいし、当該操作の実行を要求するユーザから発生すると推定される生体情報であってもよい。第1基準生体情報は、操作対象の操作内容を示す生体情報であるともいえる。操作内容を示す操作情報は、当該操作内容に従って操作される操作対象を示す情報を含んでもよい。ユーザ毎に、第1基準生体情報と操作情報とが紐付けられて第1管理情報に登録されてもよい。
また、予め定められた第2基準生体情報と、操作対象の操作内容を示す操作情報とが、予め紐付けられて第2管理情報に登録されている。第2基準生体情報は、第1基準生体情報とは異なる生体情報である。
なお、第1管理情報及び第2管理情報の中の少なくとも1つの管理情報は、情報処理装置10に記憶されずに、又は、情報処理装置10に記憶されると共に、情報処理装置10以外の装置に記憶されてもよい。
プロセッサ22は、ユーザの生体情報を取得し、当該生体情報に基づいて操作対象を操作するように構成されている。
例えば、生体情報測定装置12によってユーザから生体情報が測定されると、当該生体情報は生体情報測定装置12から情報処理装置10に送信される。プロセッサ22は、当該生体情報を受け付け、当該生体情報に基づいて操作対象の操作内容を特定する。プロセッサ22は、その特定した操作内容に従って操作対象を操作する。プロセッサ22は、ユーザの生体情報に基づいて、操作対象と当該操作対象の操作内容とを特定してもよい。別の例として、操作対象は予め定められていてもよい。例えば、ユーザによって操作対象が指定されてもよい。この場合、プロセッサ22は、ユーザの生体情報に基づいて、その定められた操作対象の操作内容を特定する。
操作対象が機器14である場合、プロセッサ22は、特定した操作内容を示す操作情報を含む制御情報を機器14に送信することで、当該機器14を操作する。操作対象である機器14は、当該制御情報に従って動作する。機器14以外のハードウェアが操作対象である場合も同様である。
操作対象がソフトウェアである場合、プロセッサ22は、特定した操作内容に従ってソフトウェアを操作する。例えば、プロセッサ22は、ソフトウェアを起動したり、ソフトウェアを用いて処理を行ったりする。ソフトウェアが情報処理装置10にインストールされている場合、プロセッサ22は、情報処理装置10にインストールされているソフトウェアを操作する。ソフトウェアが情報処理装置10以外の装置にインストールされている場合、プロセッサ22は、操作内容を示す操作情報を含む制御情報を、ソフトウェアがインストールされている装置に送信することでソフトウェアを操作する。
例えば、操作モードが第1操作モードである場合、プロセッサ22は、ユーザの生体情報と、上記の第1管理情報に登録されている各第1基準生体情報とを比較し、当該生体情報との差異が許容範囲内に含まれる第1基準生体情報を検索する。プロセッサ22は、その検索された第1基準生体情報に紐付けられている、操作対象に対する操作内容を特定する。これにより、操作対象と当該操作対象の操作内容とが特定される。許容範囲は予め定められている。許容範囲はユーザによって変更されてもよい。許容範囲はユーザ毎に定められてもよい。
ユーザの生体情報との差異が許容範囲内に含まれる複数の第1基準生体情報が検索された場合、プロセッサ22は、当該複数の第1基準生体情報の中で、当該生体情報との差異が最小となる第1基準生体情報を特定し、特定した当該第1基準生体情報に紐付けられている操作内容を特定してもよいし、当該複数の第1基準生体情報のそれぞれに紐付けられている操作内容を特定してもよい。
第1基準生体情報は、生体情報の特徴的な成分を示す情報であってもよい。この場合、プロセッサ22は、ユーザの生体情報から特徴的な成分を抽出し、その抽出された成分との差異が許容範囲内に含まれる成分を有する第1基準生体情報を検索してもよい。例えば、生体情報として脳波が用いられる場合、プロセッサ22は、ユーザの脳波から特徴的な成分を抽出し、当該成分を解析することで、当該脳波が表す操作内容を推測してもよい。
第1基準生体情報が第1閾値として用いられてもよい。例えば、第1基準生体情報が波形を示している場合、その波形中のピークの振幅が第1閾値として用いられる。この場合、プロセッサ22は、ユーザの生体情報が示す波形に相似又は類似する波形を有する第1基準生体情報であって、ユーザの生体情報が第1閾値以上となる第1基準生体情報を検索し、検索した当該第1基準生体情報に紐付けられている操作内容を特定する。つまり、ユーザの生体情報が示す波形が、ある第1基準生体情報が示す波形に相似又は類似し、ユーザの生体情報が示す波形のピークの振幅が、当該第1基準生体情報が示す波形のピークの振幅である第1閾値以上である場合、プロセッサ22は、当該第1基準生体情報に紐付けられている操作内容を特定する。
操作モードが第2操作モードである場合、プロセッサ22は、ユーザの生体情報と、上記の第2管理情報に登録されている各第2基準生体情報とを比較し、当該生体情報との差異が許容範囲内に含まれる第2基準生体情報を検索する。プロセッサ22は、検索した第2基準生体情報に紐付けられている、操作対象に対する操作内容を特定する。これにより、操作対象と当該操作対象の操作内容とが特定される。許容範囲は予め定められている。許容範囲はユーザによって変更されてもよい。許容範囲はユーザ毎に定められてもよい。
ユーザの生体情報との差異が許容範囲内に含まれる複数の第2基準生体情報が検索された場合、プロセッサ22は、当該複数の第2基準生体情報の中で、当該生体情報との差異が最小となる第2基準生体情報を特定し、特定した基準生体情報に紐付けられている操作内容を特定してもよいし、当該複数の第2基準生体情報のそれぞれに紐付けられている操作内容を特定してもよい。
第1管理情報が用いられる場合と同様に、第2基準生体情報は、生体情報の特徴的な成分を示す情報であってもよい。
また、第2基準生体情報が第2閾値として用いられてもよい。例えば、第2基準生体情報が波形を示している場合、その波形中のピークの振幅が第2閾値として用いられる。この場合、プロセッサ22は、ユーザの生体情報が示す波形に相似又は類似する波形を有する第2基準生体情報であって、ユーザの生体情報が第2閾値以上となる第2基準生体情報を検索し、検索した第2基準生体情報に紐付けられている操作内容を特定する。つまり、ユーザの生体情報が示す波形が、ある第2基準生体情報が示す波形に相似又は類似し、ユーザの生体情報が示す波形のピークの振幅が、当該第2基準生体情報が示す波形のピークの振幅である第2閾値以上である場合、プロセッサ22は、当該第2基準生体情報に紐付けられている操作内容を特定する。
第2閾値は、第1閾値よりも小さい値である。つまり、第2基準生体情報が示す波形のピークの振幅は、第1基準生体情報が示す波形のピークの振幅よりも小さい。
なお、操作モードが第2操作モードである場合であっても、プロセッサ22は、第1管理情報を用いることで、操作対象の操作内容を特定してもよい。
脳の活動を示す情報を用いて操作対象を操作する場合、脳の活動を測定する生体情報測定装置12と情報処理装置10とによって、ブレイン・マシン・インターフェースが構築されてもよい。ブレイン・マシン・インターフェースの方式は、侵襲式であってもよいし、非侵襲式であってもよい。この場合、プロセッサ22は、ユーザの脳の活動(例えば脳波等)に基づいて操作対象を操作する。プロセッサ22は、操作対象を操作するために、脳波から特徴的な成分を抽出し、その抽出された成分に基づいて操作対象を操作してもよい。脳波から特徴的な成分を抽出するために、高速フーリエ変換(FFT:Fast Fourier Transform)や、ウェーブレット変換(WT:Wavelet Transform)、TFD(Time Frequency Distribution)、EM(Eigenvector Methods)、自己回帰モデル(ARM:Auto Regressive Method)等が用いられてもよい。また、特徴の抽出によって得られた特徴ベクトルを用いて、脳波と操作対象の操作内容とを結び付ける方法として、例えば、独立成分分析(ICA:Independent Component Analysis)、k平均法、サポートベクターマシン(SVM:Support Vector Machine)、畳み込みニューラルネットワーク等が用いられてもよい。
また、プロセッサ22は、操作対象から送信されてきた、当該操作対象の識別情報を受け付けて、当該操作対象を識別してもよい。例えば、プロセッサ22は、識別情報の取得の要求を操作対象に送信し、その要求に応じて操作対象から送信されてきた識別情報を取得する。また、情報処理装置10と接続される等して情報処理装置10と通信することが可能になったハードウェアから、当該ハードウェアの識別情報や、当該ハードウェアにインストールされているソフトウェアの識別情報が、情報処理装置10に送信されてもよい。プロセッサ22は、そのようにして送信されてきた識別情報を受け付ける。
プロセッサ22は、ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作する。ユーザの生体情報が測定されている場合において、予め定められた時間以上にわたって、当該ユーザの生体情報に基づいて第1操作モードに従って操作対象が操作されない場合、プロセッサ22は、当該ユーザの生体情報に基づいて、第2操作モードに従って操作対象を操作する。例えば、予め定められた時間以上にわたって、ユーザの生体情報に基づいて第1操作モードに従って操作内容が特定されない場合、プロセッサ22は、当該ユーザの生体情報に基づいて、第2操作モードに従って操作対象を操作する。以下、当該予め定められた時間を「第1時間」と称することとする。なお、第1時間はユーザによって変更されてもよいし、ユーザ毎に定められてもよい。
例えば、ユーザの生体情報の測定が開始された時点、生体情報の測定が開始した後の特定の時点、ユーザの生体情報を測定する生体情報測定装置12の電源がオンになった時点、又は、ユーザが生体情報測定装置12を装着した時点が、基準の時点として定められ、その基準の時点から第1時間以上にわたって、当該ユーザの生体情報に基づいて第1操作モードに従って操作対象が操作されない場合、プロセッサ22は、当該ユーザの生体情報に基づいて、第2操作モードに従って操作対象を操作する。当該特定の時点は、ユーザが指定してもよいし、予め定められてもよい。
ユーザの生体情報が測定されている場合において、基準の時点から第1時間未満内に、操作対象の操作内容を示す生体情報が当該ユーザから測定された場合、プロセッサ22は、当該ユーザの生体情報に基づいて第1操作モードに従って当該操作対象を操作してもよい。また、ユーザの生体情報が測定されている場合において、基準の時点から第1時間未満内に、操作対象の操作内容を示す生体情報が当該ユーザから測定されない場合、プロセッサ22は、当該ユーザの生体情報に基づいて第2操作モードに従って操作対象を操作してもよい。
操作モードが第1操作モードから第2操作モードに切り替えられた場合、プロセッサ22は、操作モードが第1操作モードから第2操作モードに切り替えられたことをユーザに通知してもよい。例えば、プロセッサ22は、操作モードが切り替えられたことを示す情報をUI18の表示装置に表示させてもよいし、当該情報を表す音声を発してもよい。
また、プロセッサ22は、情報処理装置10の各部の動作を制御するように構成されている。プロセッサ22は、メモリを含んでもよい。
なお、プロセッサ22による処理は、情報処理装置10以外の装置(例えば、端末装置、サーバ、生体情報測定装置12、機器14又はその他の装置等)によって実行されてもよい。また、処理の一部が情報処理装置10によって実行され、処理の別の一部が情報処理装置10以外の装置によって実行されてもよい。例えば、生体情報の解析(例えば操作内容を特定する処理)が、情報処理装置10以外の装置によって実行され、操作対象の操作が、情報処理装置10によって実行されてもよい。
以下、図3を参照して、情報処理装置10による処理の流れの一例について説明する。図3には、情報処理装置10による処理の流れの一例を示すフローチャートが示されている。
まず、プロセッサ22はユーザの生体情報を取得する(S01)。例えば、ユーザの生体情報が生体情報測定装置12によって測定され、当該生体情報が生体情報測定装置12から情報処理装置10に送信され、プロセッサ22は当該生体情報を取得する。
次に、プロセッサ22は、ユーザの生体情報に基づいて、第1操作モードに従って操作内容を特定する(S02)。例えば、プロセッサ22は、第1管理情報において、ユーザの生体情報との差異が許容範囲内に含まれる第1基準生体情報を検索し、当該第1基準生体情報に紐付けられている操作情報が示す操作内容を特定する。もちろん、プロセッサ22は、第1管理情報を用いる方法以外の方法によって操作内容を特定してもよい。
例えば、基準の時点から第1時間未満内に、第1操作モードに従って操作内容が特定された場合(S03,Yes)、プロセッサ22は、その特定された操作内容に従って操作対象を操作する(S04)。そして、処理はステップS01に戻る。例えば、ユーザの生体情報との差異が許容範囲内に含まれる第1基準生体情報が第1管理情報から検索された場合、操作内容が特定され、その操作内容に従って操作対象が操作される。
基準の時点から第1時間以上にわたって、第1操作モードに従って操作内容が特定されない場合(S03,No)、プロセッサ22は、ユーザの生体情報に基づいて、第2操作モードに従って操作内容を特定する(S05)。つまり、プロセッサ22は、操作モードを第1操作モードから第2操作モードに切り替える。例えば、基準の時点から第1時間以上にわたって、ユーザの生体情報との差異が許容範囲内に含まれる第1基準生体情報が第1管理情報から検索されない場合、第1操作モードに従って操作内容が特定されない。この場合、ステップS05の処理が実行される。例えば、プロセッサ22は、第2管理情報において、ユーザの生体情報との差異が許容範囲内に含まれる第2基準生体情報を検索し、当該第2基準生体情報に紐付けられている操作情報が示す操作内容を特定する。もちろん、プロセッサ22は、第2管理情報を用いる方法以外の方法によって操作内容を特定してもよい。
第2操作モードに従って操作内容が特定された場合(S06,Yes)、プロセッサ22は、その特定された操作内容に従って操作対象を操作する(S04)。そして、処理はステップS01に戻る。
例えば、ある時点から第2時間未満内に、第2操作モードに従って操作内容が特定された場合、プロセッサ22は、その特定された操作内容に従って操作対象を操作する。例えば、ある時点は、上記の基準の時点であってもよいし、操作モードが第1操作モードから第2操作モードに切り替えられた時点であってもよいし、その切り替えの時点から予め定められた時間が経過した時点であってもよい。プロセッサ22は、操作モードが第1操作モードから第2操作モードに切り替えられたことをユーザに通知してもよい。
操作モードが第1操作モードから第2操作モードに切り替えられて、ユーザの生体情報に基づいて操作対象が操作された場合、以降の処理においては、プロセッサ22は、第2操作モードに従って操作内容を特定して操作対象を操作してもよい。別の例として、第2操作モードに従って操作対象が操作され始めた時点、第2操作モードに従って操作対象が操作され始めた時点より後の特定の時点、又は、操作モードが第1操作モードから第2操作モードに切り替えられた時点から、予め定められた時間内に、操作モードが第2操作モードから第1操作モードに切り替えられてもよい。また、ユーザの指示に従って、操作モードが第2操作モードに維持されてもよいし、操作モードが第2操作モードから第1操作モードに切り替えられてもよい。
第2時間未満内に第2操作モードに従って操作内容が特定されない場合(S06,No)、ユーザの生体情報に基づいて操作対象は操作されず、処理はステップS01に戻る。例えば、ユーザの生体情報との差異が許容範囲内に含まれる第2基準生体情報が第2管理情報から検索されない場合、第2操作モードに従って操作内容が特定されない。この場合、操作対象は操作されない。プロセッサ22は、第2操作モードに従って操作内容が特定されないことをユーザに通知してもよい。以降の処理において、プロセッサ22は、第1操作モードに従って操作内容を特定して操作対象を操作してもよいし、第2操作モードに従って操作内容を特定して操作対象を操作してもよい。
以下、図4を参照して、第1管理情報の具体例について説明する。図4には、第1管理情報の一例である第1管理テーブルの一例が示されている。第1管理テーブルのデータは記憶装置20に記憶されている。第1管理テーブルのデータは、記憶装置20に記憶されずに、又は、記憶装置20に記憶されると共に、情報処理装置10以外の装置に記憶されてもよい。
第1管理テーブルにおいては、IDと、第1基準脳波と、操作対象の操作内容を示す操作情報とが、予め紐付けられている。第1基準脳波は、第1基準生体情報の一例である。ここでは一例として、第1基準生体情報の一例として脳波が用いられているが、脳波以外の生体情報が第1基準生体情報として用いられてもよい。
IDは、第1管理テーブルに登録されている情報を管理するための情報である。
第1基準脳波は、例えば、統計的な処理によって定められ、当該第1基準脳波に紐付けられている操作内容を行うユーザから一般的に発生すると推定される脳波、又は、当該操作内容の実行を要求するユーザから一般的に発生すると推定される脳波である。第1基準脳波は、特定の周波数帯の脳波であってもよいし、複数の周波数帯の脳波を含む脳波であってもよい。
操作情報は、操作対象を識別するための情報である識別情報と、当該操作対象に対して行われる操作内容を示す情報とを含む情報である。
例えば、ハードウェアの操作内容は、当該ハードウェアの電源をオン又はオフする操作であってもよいし、当該ハードウェアの機能レベルを設定する操作であってもよい。電源をオン又はオフする操作と機能レベルを設定する操作の両方が、操作内容として第1管理テーブルに登録されてもよい。
機能レベルは、例えば、ハードウェアの性能や出力に関するレベルである。具体例を挙げて説明すると、空調機の設定温度、空調機の風量、空調機の風向き、空調機の除湿機能の有無、表示装置の輝度、照明装置の輝度、スピーカの音量、自走可能な装置(例えばロボットや自走式の掃除機等)の移動速度、撮像装置や記録装置や再生装置等の装置の設定値、冷蔵庫や炊飯器や電子レンジ等の装置の設定値、及び、各種のセンシング機器の設定値等が、機器レベルの一例に相当する。これらは一例に過ぎず、これら以外の設定値等が機能レベルであってもよい。
例えば、ID「1」の第1基準脳波は、空調機の冷房をオンするという操作内容を示す脳波である。ID「2」の第1基準脳波は、空調機の冷房をオフするという操作内容を示す脳波である。
例えば、操作モードが第1操作モードである場合において、ID「1」の第1基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定された場合、プロセッサ22は、当該第1基準脳波に紐付けられている「空調機の冷房をオンする」という操作内容を特定する。そして、プロセッサ22は、「空調機の冷房をオンする」という操作内容を示す情報を含む制御情報を、当該空調機に送信する。当該空調機は当該制御情報に従って動作する。これにより、当該空調機の冷房がオンする。
以下、図5を参照して、第2管理情報の具体例について説明する。図5には、第2管理情報の一例である第1管理テーブルの一例が示されている。第1管理テーブルのデータは記憶装置20に記憶されている。第1管理テーブルのデータは、記憶装置20に記憶されずに、又は、記憶装置20に記憶されると共に、情報処理装置10以外の装置に記憶されてもよい。
第2管理テーブルにおいては、IDと、第2基準脳波と、操作対象の操作内容を示す操作情報とが、予め紐付けられている。第2基準脳波は、第2基準生体情報の一例である。ここでは一例として、第2基準生体情報の一例として脳波が用いられているが、脳波以外の生体情報が第2基準生体情報として用いられてもよい。
IDは、第2管理テーブルに登録されている情報を管理するための情報である。第2管理テーブルに登録されている操作情報は、第1管理テーブルに登録されている操作情報と同じ操作情報である。
第2基準脳波は、第1基準脳波を基準として振幅や特徴が変更された波形を有する脳波である。
例えば、第2基準脳波の振幅は、第1基準脳波の振幅よりも小さい。具体例を挙げて説明すると、ID「1」の第2基準脳波は、ID「1」の第1基準脳波と同じ数のピークを有する波形であるが、ID「1」の第2基準脳波の各ピークの振幅は、ID「1」の第1基準脳波の各ピークの振幅よりも小さい。例えば、第1基準脳波の各ピークの振幅が第1閾値として用いられ、第2基準脳波の各ピークの振幅が第2閾値としても用いられてもよい。別の例として、第2基準脳波の特徴量は、第1基準脳波の特徴量よりも少なくてもよい。特徴量は、例えば波形のピークの数である。
例えば、操作モードが第2操作モードである場合において、ID「1」の第2基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定された場合、プロセッサ22は、当該第2基準脳波に紐付けられている「空調機の冷房をオンする」という操作内容を特定する。そして、プロセッサ22は、「空調機の冷房をオンする」という操作内容を示す情報を含む制御情報を当該空調機に送信することで、当該空調機の冷房をオンする。
例えば、ユーザの生体情報が測定されている場合において、基準の時点から第1時間未満内に、第1管理テーブル中のID「1」の第1基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定された場合、プロセッサ22は、当該第1基準脳波に紐付けられている「空調機の冷房をオンする」という操作内容を特定し、当該空調機の冷房をオンする。
ユーザの生体情報が測定されている場合において、基準の時点から第1時間以上にわたって、第1管理テーブルに登録されている各第1基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定されない場合、プロセッサ22は、第2管理テーブルを用いることで操作内容を特定する。例えば、第2管理テーブル中のID「1」の第2基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定された場合、プロセッサ22は、当該第2基準脳波に紐付けられている「空調機の冷房をオンする」という操作内容を特定し、当該空調機の冷房をオンする。
ユーザ毎に、第1基準生体情報と操作情報とが紐付けられて第1管理テーブルに登録されてもよい。例えば、ユーザの生体情報が、当該ユーザの第1基準生体情報として第1管理テーブルに登録されてもよい。同様に、ユーザ毎に、第2基準生体情報と操作情報とが紐付けられて第2管理テーブルに登録されてもよい。第2基準生体情報は、第1基準生体情報を基準として振幅や特徴が変更された生体情報である。
図6には、個々のユーザの具体的な第1基準生体情報が登録されている第1管理テーブルの一例が示されている。図6に示されている第1管理テーブルにおいては、IDと、ユーザ情報と、第1基準生体情報の一例である第1基準脳波と、操作情報とが紐付けられている。ユーザ情報は、ユーザを識別するための情報(例えば、ユーザ名やユーザIDやユーザアカウント等)である。
ユーザ情報に紐付けられている第1基準脳波は、当該ユーザ情報が示すユーザが、当該第1基準脳波に紐付けられている操作内容を行うときに当該ユーザから測定された脳波、又は、当該ユーザが当該操作内容を要求するときに当該ユーザから測定された脳波である。各ユーザから測定された各第1基準脳波は、予め各ユーザから測定されて第1管理テーブルに登録される。
例えば、ユーザAが「空調機」の冷房を手動でオンしたときにユーザAの脳波が生体情報測定装置12によって測定され、その測定された脳波が、ユーザAが「空調機の冷房をオンする」という操作内容を表す第1基準脳波として、第1管理テーブルに登録される。
この場合、測定されたユーザAの当該第1基準脳波と、「空調機の冷房をオン」するという操作内容を示す操作情報と、ユーザAを識別するためのユーザ情報とが紐付けられて第1管理テーブルに登録される。その登録は、情報処理装置10を用いて行われてもよいし、他の装置を用いて行われてもよい。図6に示す例では、これらの情報はID「1」の情報として登録される。他の操作や他のユーザについても同様である。
なお、登録の作業を複数回行い、これによって測定された複数の脳波の平均を、第1基準脳波として登録してもよい。例えば、ユーザAが「空調機」の冷房を手動でオンし、そのときにユーザAから発生した脳波を生体情報測定装置12によって測定するという作業を、複数回行い、これによって測定された複数の脳波の平均を、ユーザAの第1基準脳波として第1管理テーブルに登録してもよい。
例えば、操作モードが第1操作モードである場合において、ユーザAが情報処理装置10にログインしている状態で、ユーザAから、ID「1」の第1基準脳波との差異が許容範囲内に含まれる脳波が測定された場合、プロセッサ22は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。より詳しく説明すると、ユーザAが情報処理装置10にログインしているときに、生体情報測定装置12によって脳波が測定されると、プロセッサ22は、ログインしているユーザAを識別するためのユーザ情報に紐付けられて管理テーブルに登録されている第1基準脳波を検索する。図6に示す例では、ID「1」の第1基準脳波とID「2」の第1基準脳波が、ユーザAの基準脳波として管理テーブルに登録されているため、これらの第1基準脳波が検索される。測定された脳波とID「1」の第1基準脳波との差異が許容範囲内である場合、プロセッサ22は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。測定された脳波とID「2」の第1基準脳波との差異が許容範囲内である場合、プロセッサ22は、ID「2」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオフする。
別の例として、操作モードが第1操作モードである場合において、操作対象を操作するユーザが「ユーザA」であることが情報処理装置10に設定されている状態で、ユーザAから、ID「1」の第1基準脳波との差異が許容範囲内に含まれる脳波が測定された場合、プロセッサ22は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンしてもよい。より詳しく説明すると、操作対象を操作するユーザが「ユーザA」であることが情報処理装置10に設定されている状態で、生体情報測定装置12によって脳波が測定されると、プロセッサ22は、操作対象を操作するユーザであるユーザAを識別するためのユーザ情報に紐付けられて管理テーブルに登録されている第1基準脳波を検索する。測定された脳波とID「1」の第1基準脳波との差異が許容範囲内である場合、プロセッサ22は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。操作対象を操作するユーザは、例えば、ユーザによって情報処理装置10に設定される。
ユーザA以外の他のユーザについても、ユーザAと同様に、各情報が第1管理テーブルに登録される。
図7には、個々のユーザの具体的な第2基準生体情報が登録されている第2管理テーブルの一例が示されている。図7に示されている第2管理テーブルにおいては、IDと、ユーザ情報と、第2基準生体情報の一例である第2基準脳波と、操作情報とが紐付けられている。
図5に示されている第2管理テーブルと同様に、第2基準脳波は、第1基準脳波を基準として振幅や特徴が変更された波形を有する脳波である。
例えば、第2基準脳波の振幅は、第1基準脳波の振幅よりも小さい。具体例を挙げて説明すると、ID「1」の第2基準脳波は、ID「1」の第1基準脳波と同じ数のピークを有する波形であるが、ID「1」の第2基準脳波の各ピークの振幅は、ID「1」の第1基準脳波の各ピークの振幅よりも小さい。別の例として、第2基準脳波の特徴量は、第1基準脳波の特徴量よりも少なくてもよい。特徴量は、例えば波形のピークの数である。
例えば、図6に示されている各第1基準脳波が加工されることで、図7に示されている各第2基準脳波が生成される。その加工は、情報処理装置10によって行われてもよいし、他の装置によって行われてもよい。
例えば、操作モードが第2操作モードである場合において、ユーザAが情報処理装置10にログインしている状態で、ユーザAから、ID「1」の第2基準脳波との差異が許容範囲内に含まれる脳波が測定された場合、プロセッサ22は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。
ユーザA以外の他のユーザについても、ユーザAと同様に、各情報が第2管理テーブルに登録される。
図4から図7には、ハードウェアの電源をオン又はオフする操作を示す操作情報が示されているが、ハードウェアの機能レベルの設定を示す操作情報が各管理テーブルに登録されてもよい。また、ソフトウェアの操作内容を示す操作情報が、各管理テーブルに登録されてもよい。ハードウェアの操作内容を示す操作情報とソフトウェアの操作内容を示す操作情報の両方が、各管理テーブルに登録されてもよい。
なお、第1管理テーブルに登録されている情報と第2管理テーブルに登録されている情報は、別々の管理テーブルに登録されずに、同じ管理テーブルに登録されてもよい。例えば、IDと第1基準脳波と第2基準脳波と操作情報とが、予め紐付けられて同じ管理テーブルに登録されてもよい。これらの情報にユーザ情報が更に紐付けられてもよい。
以下、各実施例について説明する。
(実施例1)
以下、図8を参照して、実施例1について説明する。図8には、生体情報の時間変化を示すグラフが示されている。横軸は時間を示しており、縦軸は振幅を示している。
実施例1においては、プロセッサ22は、第1操作モードでは、ユーザの生体情報と第1閾値との比較の結果に従って操作対象を操作する。また、プロセッサ22は、第2操作モードでは、ユーザの生体情報と、第1閾値とは異なる第2閾値との比較の結果に従って、操作対象を操作する。第2閾値は、第1閾値よりも小さい値である。以下、実施例1について詳しく説明する。
図8中の波形24は、ある操作内容Xを示す操作情報に紐付けられている第1基準生体情報の一例である。波形24の各ピークの振幅は、第1閾値として用いられる。波形26は、当該操作内容Xを示す操作情報に紐付けられている第2基準生体情報の一例である。波形26の各ピークの振幅は、第2閾値として用いられる。波形26の各ピークの振幅は、波形24の各ピークの振幅よりも小さい。つまり、第2閾値は第1閾値よりも小さい。
例えば、波形24,26は脳波である。波形24は、第1管理テーブルに登録されている第1基準脳波の一例である。波形26は、第2管理テーブルに登録されている第2基準脳波の一例である。波形24,26は共に、同じ操作内容Xを示す操作情報に紐付けられている基準脳波である。波形24,26は、脳波以外の生体情報であってもよい。
第1操作モードにおいては、プロセッサ22は、ユーザの生体情報(例えば脳波)が示す波形と波形24とを比較する。ユーザの生体情報が示す波形の形状が、波形24の形状に相似又は類似する波形であり、ユーザの生体情報が示す波形の各ピークの振幅が、波形24の各ピークの振幅以上である場合、プロセッサ22は、波形24に紐付けられている操作情報が示す操作内容Xを特定する。つまり、ユーザの生体情報が示す波形の各ピークの振幅が、波形24が示す第1閾値以上である場合、プロセッサ22は、波形24に紐付けられている操作情報が示す操作内容Xを特定する。プロセッサ22は、特定した操作内容Xを示す操作情報を含む制御情報に従って操作対象を操作する。
第2操作モードにおいては、プロセッサ22は、ユーザの生体情報(例えば脳波)が示す波形と波形26とを比較する。ユーザの生体情報が示す波形の形状が、波形26の形状に相似又は類似する波形であり、ユーザの生体情報が示す波形の各ピークの振幅が、波形26の各ピークの振幅以上である場合、プロセッサ22は、波形26に紐付けられている操作情報が示す操作内容Xを特定する。つまり、ユーザの生体情報が示す波形の各ピークの振幅が、波形26が示す第2閾値以上である場合、プロセッサ22は、波形26に紐付けられている操作情報が示す操作内容Xを特定する。プロセッサ22は、特定した操作内容Xを示す操作情報を含む制御情報に従って操作対象を操作する。
例えば、プロセッサ22は、基準の時点から第1時間未満内においては、第1操作モードに従って、ユーザの脳波と第1管理テーブルに登録されている各第1基準脳波とを比較する。ユーザの脳波が示す波形の形状が、波形24の形状に相似又は類似する波形であり、ユーザの脳波が示す波形の各ピークの振幅が、波形24の各ピークの振幅以上である場合、プロセッサ22は、波形24に紐付けられている操作情報が示す操作内容Xを特定する。
基準の時点から第1時間以上にわたって、第1操作モードに従って操作内容が特定されない場合、プロセッサ22は、第2操作モードに従って、ユーザの脳波と第2管理テーブルに登録されている各第2基準脳波とを比較する。ユーザの脳波が示す波形の形状が、波形26の形状に相似又は類似する波形であり、ユーザの脳波が示す波形の各ピークの振幅が、波形26の各ピークの振幅以上である場合、プロセッサ22は、波形26に紐付けられている操作情報が示す操作内容Xを特定する。
すなわち、基準の時点から第1時間以上にわたって、第1操作モードに従って操作内容が特定されない場合、プロセッサ22は、閾値を第1閾値から第2閾値に下げて、第2閾値を用いることで、ユーザの脳波に対応する操作内容を特定する。
例えば、生体情報測定装置12の電極やセンサ等の接触不良、操作対象を操作するための生体情報をどのようにして発生させるのかがユーザにおいて分からない、ユーザが生体情報をうまく発生させることが困難である、又は、ユーザがどのような事柄を想起すれば操作対象を操作することができるのか分からない等といった理由で、操作対象に操作を指示することができない事態が生じ得る。そのような場合、操作モードを第1操作モードから第2操作モードに切り替えることで、そのような事態の発生を抑制又は防止することができる。
なお、第1閾値及び第2閾値は、振幅以外のパラメータに関する閾値であってもよい。例えば、第1閾値及び第2閾値は、波形の周波数や周波数帯に関する閾値であってもよい。この場合、プロセッサ22は、ユーザの生体情報が示す波形の周波数や周波数帯と、閾値である周波数や周波数帯とを比較することで、操作内容を特定してもよい。
(実施例2)
以下、図9を参照して、実施例2について説明する。図9には、生体情報が示す波形の一例が示されている。
実施例2においては、プロセッサ22は、第2操作モードでは、ユーザの生体情報を測定するセンサ(例えば生体情報測定装置12)の感度を、第1操作モードでの感度よりも上げる。つまり、プロセッサ22は、第2操作モードにおける検出感度を、第1操作モードにおける検出感度よりも上げる。
波形28は、第1操作モードにおいて測定された生体情報が示す波形である。波形30は、第2操作モードにおいて測定された生体情報が示す波形である。第2操作モードでは、第1操作モードよりも検出感度が高くなっているため、波形30の振幅は、波形28の振幅よりも振幅ΔSの分だけ大きい。
実施例2では、第2管理テーブルは用いられず、第1管理テーブルが用いられる。つまり、プロセッサ22は、第1操作モード及び第2操作モードのいずれにおいても、第1管理テーブルを参照することで操作内容を特定する。
例えば、波形28,30が脳波を表しているものとする。プロセッサ22は、基準の時点から第1時間未満内においては、第1操作モードに従って、ユーザから測定された波形28と第1管理テーブルに登録されている各第1基準脳波とを比較することで操作内容を特定する。
基準の時点から第1時間以上にわたって、第1操作モードに従って操作内容が特定されない場合、プロセッサ22は、第2操作モードに従って、検出感度が上げられてユーザから測定された波形30と第1管理テーブルに登録されている各第1基準脳波とを比較することで操作内容を特定する。
例えば、ユーザの不慣れ等の理由で、操作対象を操作するために必要な強度(例えば振幅)を有する生体情報がユーザから測定されない事態が発生し得る。そのような場合、操作モードを第1操作モードから第2操作モードに切り替えることで、そのような事態の発生を抑制又は防止することができる。
(実施例3)
以下、図10を参照して、実施例3について説明する。図10には、生体情報の時間変化を示すグラフが示されている。横軸は時間を示しており、縦軸は振幅を示している。
波形32は、ある操作内容Xを示す操作情報に紐付けられている第1基準生体情報の一例である。波形32は、3つのピーク(例えばピーク32a,32b,32c)を有する波形である。ピーク32a,32b,32cは、波形32の特徴を表している。
波形34は、ユーザから測定された生体情報である。波形34は、2つのピーク(例えばピーク34b,34c)を有する波形である。ピーク34b,34cは、波形34の特徴を表している。
例えば、波形32,34は脳波である。波形32は、第1管理テーブルに登録されている第1基準脳波の一例である。波形34は、ユーザから測定された脳波である。波形32,34は、脳波以外の生体情報であってもよい。
第1操作モードにおいては、プロセッサ22は、ユーザの生体情報(例えば脳波)の特徴と第1基準生体情報の特徴との一致点に応じて操作対象を操作する。例えば、プロセッサ22は、ユーザの生体情報が示す波形が有するピークの数と、第1基準生体情報が示す波形が有するピークの数とを比較し、ユーザの生体情報が示す波形が有する各ピークの時間軸上の位置と、第1基準生体情報が示す波形が有する各ピークの時間軸上の位置とを比較する。
第2操作モードにおいて、プロセッサ22は、ユーザの生体情報の特徴と第1基準生体情報の特徴との一致点の数が第1操作モードでの一致点の数よりも少ない場合であっても、操作対象を操作する。
例えば、第1操作モードにおいては、ユーザの生体情報の特徴と第1基準生体情報の特徴との一致点の数が第3閾値以上である場合、プロセッサ22は、当該第1基準生体情報に紐付けられている操作情報が示す操作内容を特定する。
また、第2操作モードにおいては、ユーザの生体情報の特徴と第1基準生体情報の特徴との一致点の数が第4閾値以上である場合、プロセッサ22は、当該第1基準生体情報に紐付けられている操作情報が示す操作内容を特定する。第4閾値は、第3閾値よりも小さい値である。
例えば、プロセッサ22は、基準の時点から第1時間未満内においては、第1操作モードに従って、ユーザの脳波と第1管理テーブルに登録されている各第1基準脳波とを比較する。
例えば、第3閾値は「3」であるものとする。3つのピークを有する波形を示す脳波であって、各ピークの位置がピーク32a,32b,32cのそれぞれの位置に対応する波形を示す脳波が、ユーザから測定された場合、プロセッサ22は、波形32を示す第1基準脳波に紐付けられている操作情報が示す操作内容を特定する。つまり、特徴の一致点の数が第3閾値以上であるため、プロセッサ22は、波形32が示す第1基準脳波に紐付けられている操作情報が示す操作内容を特定する。
基準の時点から第1時間以上にわたって、第1操作モードに従って操作内容が特定されない場合、プロセッサ22は、第2操作モードに従って、ユーザの脳波と第1管理テーブルに登録されている各第1基準脳波とを比較する。
例えば、波形34がユーザから測定されたものとする。波形34のピーク34bは、波形32のピーク32bに対応するピークであり、波形34のピーク34cは、波形32のピーク32cに対応するピークである。特徴の一致点の数は「2」であり、第3閾値未満であるため、第1操作モードでは、波形34に基づいて操作内容は特定されない。第4閾値が「2」である場合、特徴の一致点の数は第4閾値以上であるため、プロセッサ22は、波形32が示す第1基準脳波に紐付けられている操作情報が示す操作内容を特定する。
また、プロセッサ22は、操作対象の操作内容を示す生体情報とユーザの生体情報とを並べてUI18の表示装置やユーザの端末装置の表示装置等に表示させてもよい。図10に示す例では、プロセッサ22は、波形32,34を並べて表示装置に表示させる。プロセッサ22は、波形32,34を重ねて表示装置に表示させてもよい。波形32は、操作対象を操作するための生体情報であり、ユーザが目標とすべき生体情報であるといえる。ユーザは、自分自身の生体情報である波形34と目標の波形である波形32とを比較しながら、生体情報の発生を制御することができる。
実施例3では、第2管理テーブルは用いられず、第1管理テーブが用いられる。つまり、プロセッサ22は、第1操作モード及び第2操作モードのいずれにおいても、第1管理テーブルを参照することで操作内容を特定する。
別の例として、特徴(例えばピーク)の数が第1基準脳波よりも少ない第2基準脳波が第2管理テーブルに登録され、第2操作モードでは、当該第2管理テーブルを用いることで操作内容が特定されてもよい。例えば、第2管理テーブルには、波形32よりもピークの数が1つ少ない波形が第2基準脳波として登録される。プロセッサ22は、第2操作モードにおいては、ユーザの脳波と第2管理テーブルに登録されている各第2基準脳波とを比較し、特徴の一致点の数が第4閾値以上となる第2基準脳波を検索し、当該第2基準脳波に紐付けられている操作情報が示す操作内容を特定する。
(実施例4)
以下、図11を参照して、実施例4について説明する。図11には、画面が示されている。
ユーザの生体情報が示す操作内容の候補が複数ある場合、プロセッサ22は、当該複数の候補をユーザに通知する。例えば、第1操作モード及び第2操作モードのそれぞれにおいて、ユーザの生体情報に基づいて複数の操作内容が特定された場合、プロセッサ22は、当該複数の操作内容をユーザに通知する。
例えば、図11に示すように、プロセッサ22は、画面36を、UI18の表示装置やユーザの端末装置の表示装置等に表示させる。図11に示す例では、「冷房をオンする」という操作内容や、「扇風機をオンする」という操作内容等が特定されており、それらを示す情報が表示される。なお、プロセッサ22は、画面36を表示すると共に、又は、画面36を表示せずに、特定された複数の操作内容を表す音声をスピーカから発してもよい。
プロセッサ22は、複数の操作内容がユーザに通知された後、生体情報以外の手法によってユーザから操作の指示を受けた場合、当該指示に従って操作対象を操作する。例えば、ユーザが画面36上にて操作内容を指定し、当該操作内容の実行を指示した場合(例えば「OK」ボタンを押した場合)、プロセッサ22は、当該指示を受けて、当該指示に従って操作対象を操作する。例えば、ユーザが画面36上で「冷房をオンする」という操作内容を指定し、当該操作内容の実行を指示した場合、プロセッサ22は、空調機の冷房をオンする。
プロセッサ22は、複数の操作内容がユーザに通知された後、予め定められた時間以内に、生体情報以外の手法によってユーザから指示を受けた場合、当該指示に従って操作対象を操作してもよい。プロセッサ22は、予め定められた時間が経過した後に、生体情報以外の手法によってユーザから指示を受けても、当該指示に従って操作対象を操作しない。
(実施例5)
以下、実施例5について説明する。
第2操作モードにおいては、プロセッサ22は、操作対象の操作内容を示す生体情報の発生を促すための処理を実行してもよい。例えば、プロセッサ22は、操作内容を示す生体情報がユーザから発生し易くなる環境を形成する。プロセッサ22は、操作内容を示す生体情報がユーザから発生することを妨げる原因を除去する処理を実行してもよい。
具体的には、プロセッサ22は、人がリラックスすると推定される音楽をスピーカから発してもよいし、照明を暗くする等して明るさを調整してもよいし、ノイズ音をキャンセルしてもよいし、ユーザの周囲の音を除去してもよい。例えば、生体情報測定装置12がヒアラブル装置である場合、プロセッサ22は、人がリラックスすると推定される音楽を流したり、ノイズ音をキャンセルしたり、周囲の音を除去したりする。
操作内容を示す生体情報の発生を促すための処理は、操作モードが第1操作モードから第2操作モードに切り替えられた後に、自動的に実行されてもよいし、ユーザの指示に従って実行されてもよい。
なお、上述した実施例1から実施例4においても、操作内容を示す生体情報の発生を促すための処理が実行されてもよい。
上述した各実施例において、第1操作モードでは、操作対象は、ユーザの生体情報のみに基づいて操作されてもよい。この場合において、プロセッサ22は、第2操作モードにでは、生体情報以外のユーザの操作に基づいて操作対象が操作されるように操作対象を制御してもよい。例えば、機器14は、第1操作モードでは、生体情報の一例である脳波のみに基づいて操作されてもよい。機器14は、脳波のみを受け付けて動作し、脳波以外の生体情報やユーザの指示を受け付けなくてもよい。プロセッサ22は、第2操作モードでは、脳波以外のユーザの操作を受け付けることを機器14に指示する。機器14は、当該指示に従って、脳波以外のユーザの操作を受け付けて動作する。例えば、ユーザは、端末装置を用いて機器14を操作してもよいし、機器14のUIを用いて機器14を操作してもよい。なお、操作対象は、機器14以外のハードウェアやソフトウェアであってもよい。
予め定められた時間以上にわたってユーザから脳波が測定されない場合、又は、操作内容を示す脳波が、予め定められた時間以上にわたってユーザから測定されない場合、プロセッサ22は、脳波以外のユーザの操作を受け付けることを機器14に指示してもよい。
上記各実施形態において、プロセッサとは広義的なプロセッサを指し、汎用的なプロセッサ(例えばCPU: Central Processing Unit、等)や、専用のプロセッサ(例えばGPU: Graphics Processing Unit、ASIC: Application Specific Integrated Circuit、FPGA: Field Programmable Gate Array、プログラマブル論理デバイス、等)を含むものである。また上記各実施形態におけるプロセッサの動作は、1つのプロセッサによって成すのみでなく、物理的に離れた位置に存在する複数のプロセッサが協働して成すものであってもよい。また、プロセッサの各動作の順序は上記各実施形態において記載した順序のみに限定されるものではなく、適宜変更してもよい。
10 情報処理装置、12 生体情報測定装置、14 機器、22 プロセッサ。

Claims (3)

  1. プロセッサを有し、
    前記プロセッサは、
    ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作し、
    前記ユーザの生体情報が測定されている場合において、記ユーザの生体情報に基づいて前記第1操作モードに従って前記操作対象が操作されない場合、前記ユーザの生体情報に基づいて、前記第1操作モードとは異なる第2操作モードに従って前記操作対象を操作し、
    前記第1操作モードでは、前記ユーザの生体情報の特徴と前記操作対象の操作内容を示す生体情報である基準生体情報の特徴との相似又は類似の関係性に応じて前記操作対象を操作し、
    前記第2操作モードでは、前記相似又は類似の関係性が前記第1操作モードでの前記関係性よりも相似又は類似しない場合でも、前記操作対象を操作する、
    情報処理装置。
  2. コンピュータに、
    ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作させ、
    前記ユーザの生体情報が測定されている場合において、記ユーザの生体情報に基づいて前記第1操作モードに従って前記操作対象が操作されない場合、前記ユーザの生体情報に基づいて、前記第1操作モードとは異なる第2操作モードに従って前記操作対象を操作させ
    前記第1操作モードでは、前記ユーザの生体情報の特徴と前記操作対象の操作内容を示す生体情報である基準生体情報の特徴との相似又は類似の関係性に応じて前記操作対象を操作させ、
    前記第2操作モードでは、前記相似又は類似の関係性が前記第1操作モードでの前記関係性よりも相似又は類似しない場合でも、前記操作対象を操作させる、
    プログラム。
  3. コンピュータが、
    ユーザの生体情報に基づいて第1操作モードに従って操作対象を操作し、
    前記ユーザの生体情報が測定されている場合において、前記ユーザの生体情報に基づいて前記第1操作モードに従って前記操作対象が操作されない場合、前記ユーザの生体情報に基づいて、前記第1操作モードとは異なる第2操作モードに従って前記操作対象を操作し、
    前記第1操作モードでは、前記ユーザの生体情報の特徴と前記操作対象の操作内容を示す生体情報である基準生体情報の特徴との相似又は類似の関係性に応じて前記操作対象を操作し、
    前記第2操作モードでは、前記相似又は類似の関係性が前記第1操作モードでの前記関係性よりも相似又は類似しない場合でも、前記操作対象を操作する、
    方法。
JP2019225150A 2019-12-13 2019-12-13 情報処理装置、プログラム、及び、方法 Active JP7330507B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019225150A JP7330507B2 (ja) 2019-12-13 2019-12-13 情報処理装置、プログラム、及び、方法
US16/864,207 US11868529B2 (en) 2019-12-13 2020-05-01 Information processing device and non-transitory computer readable medium
CN202010505254.4A CN112987911A (zh) 2019-12-13 2020-06-05 信息处理装置和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019225150A JP7330507B2 (ja) 2019-12-13 2019-12-13 情報処理装置、プログラム、及び、方法

Publications (2)

Publication Number Publication Date
JP2021096497A JP2021096497A (ja) 2021-06-24
JP7330507B2 true JP7330507B2 (ja) 2023-08-22

Family

ID=76316834

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019225150A Active JP7330507B2 (ja) 2019-12-13 2019-12-13 情報処理装置、プログラム、及び、方法

Country Status (3)

Country Link
US (1) US11868529B2 (ja)
JP (1) JP7330507B2 (ja)
CN (1) CN112987911A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11769595B2 (en) * 2020-10-01 2023-09-26 Agama-X Co., Ltd. Information processing apparatus and non-transitory computer readable medium
JP2022059140A (ja) * 2020-10-01 2022-04-13 株式会社Agama-X 情報処理装置及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002251234A (ja) 2001-02-23 2002-09-06 Fujitsu Ltd 複数のセンサによるヒューマンインタフェースシステム
JP2009199535A (ja) 2008-02-25 2009-09-03 Panasonic Corp 脳波識別方法の調整装置および方法
JP2014238695A (ja) 2013-06-07 2014-12-18 セイコーエプソン株式会社 電子機器及びタップ操作検出方法
US20150272496A1 (en) 2014-03-31 2015-10-01 United Video Properties, Inc. Methods and systems for selecting media guidance applications based on a position of a brain monitoring user device
WO2017094346A1 (ja) 2015-12-01 2017-06-08 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP2016051300A5 (ja) 2014-08-29 2017-09-07
WO2018008226A1 (ja) 2016-07-05 2018-01-11 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Family Cites Families (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2332547A1 (fr) * 1975-11-21 1977-06-17 Angenieux Pierre Variateur optique de grandissement d'image
DE69032645T2 (de) * 1990-04-02 1999-04-08 Koninkl Philips Electronics Nv Datenverarbeitungssystem mit auf Gesten basierenden Eingabedaten
US6850252B1 (en) * 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
JPH086708A (ja) * 1994-04-22 1996-01-12 Canon Inc 表示装置
US5765561A (en) * 1994-10-07 1998-06-16 Medical Media Systems Video-based surgical targeting system
DE69533870T2 (de) * 1994-10-19 2005-05-25 Matsushita Electric Industrial Co., Ltd., Kadoma Vorrichtung zur Bilddekodierung
US6181302B1 (en) * 1996-04-24 2001-01-30 C. Macgill Lynde Marine navigation binoculars with virtual display superimposing real world image
US5790104A (en) * 1996-06-25 1998-08-04 International Business Machines Corporation Multiple, moveable, customizable virtual pointing devices
JP4251673B2 (ja) * 1997-06-24 2009-04-08 富士通株式会社 画像呈示装置
US6064354A (en) * 1998-07-01 2000-05-16 Deluca; Michael Joseph Stereoscopic user interface method and apparatus
US6791580B1 (en) * 1998-12-18 2004-09-14 Tangis Corporation Supplying notifications related to supply and consumption of user context data
US7080322B2 (en) * 1998-12-18 2006-07-18 Tangis Corporation Thematic response to a computer user's context, such as by a wearable personal computer
US7046263B1 (en) * 1998-12-18 2006-05-16 Tangis Corporation Requesting computer user's context data
US6801223B1 (en) * 1998-12-18 2004-10-05 Tangis Corporation Managing interactions between computer users' context models
US7073129B1 (en) * 1998-12-18 2006-07-04 Tangis Corporation Automated selection of appropriate information based on a computer user's context
US7076737B2 (en) * 1998-12-18 2006-07-11 Tangis Corporation Thematic response to a computer user's context, such as by a wearable personal computer
US7225229B1 (en) * 1998-12-18 2007-05-29 Tangis Corporation Automated pushing of computer user's context data to clients
US6513046B1 (en) * 1999-12-15 2003-01-28 Tangis Corporation Storing and recalling information to augment human memories
US7107539B2 (en) * 1998-12-18 2006-09-12 Tangis Corporation Thematic response to a computer user's context, such as by a wearable personal computer
US7055101B2 (en) * 1998-12-18 2006-05-30 Tangis Corporation Thematic response to a computer user's context, such as by a wearable personal computer
US6771294B1 (en) * 1999-12-29 2004-08-03 Petri Pulli User interface
US6803928B2 (en) * 2000-06-06 2004-10-12 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Extended virtual table: an optical extension for table-like projection systems
US20020044152A1 (en) * 2000-10-16 2002-04-18 Abbott Kenneth H. Dynamic integration of computer generated and real world images
JP3779150B2 (ja) 2000-12-05 2006-05-24 株式会社テクノスジャパン 脳波のバイオフィードバックにより制御されるコンピュータゲーム装置
US6690960B2 (en) * 2000-12-21 2004-02-10 David T. Chen Video-based surgical targeting system
WO2002103466A2 (en) * 2001-01-19 2002-12-27 Engeneos, Inc. Methods and systems for designing machines including biologically-derived parts
JP2002362184A (ja) * 2001-06-11 2002-12-18 Honda Motor Co Ltd 車両用表示装置
US7206434B2 (en) * 2001-07-10 2007-04-17 Vistas Unlimited, Inc. Method and system for measurement of the duration an area is included in an image stream
US20040139156A1 (en) * 2001-12-21 2004-07-15 Matthews W. Donald Methods of providing direct technical support over networks
US20090143141A1 (en) * 2002-08-06 2009-06-04 Igt Intelligent Multiplayer Gaming System With Multi-Touch Display
JP4298407B2 (ja) * 2002-09-30 2009-07-22 キヤノン株式会社 映像合成装置及び映像合成方法
US20040068758A1 (en) * 2002-10-02 2004-04-08 Mike Daily Dynamic video annotation
JP4134785B2 (ja) * 2003-03-28 2008-08-20 株式会社デンソー 表示装置
US7369951B2 (en) * 2004-02-27 2008-05-06 Board Of Trustees Of Michigan State University Digital, self-calibrating proximity switch
AU2005229076B2 (en) * 2004-04-01 2011-09-15 Google Llc Biosensors, communicators, and controllers monitoring eye movement and methods for using them
US20110077548A1 (en) * 2004-04-01 2011-03-31 Torch William C Biosensors, communicators, and controllers monitoring eye movement and methods for using them
JP2008067219A (ja) * 2006-09-08 2008-03-21 Sony Corp 撮像装置、撮像方法
JP6046439B2 (ja) 2012-10-01 2016-12-14 トヨタ自動車株式会社 ブレイン・マシン・インターフェース
WO2014107795A1 (en) * 2013-01-08 2014-07-17 Interaxon Inc. Adaptive brain training computer system and method
US9420856B2 (en) * 2013-03-04 2016-08-23 Hello Inc. Wearable device with adjacent magnets magnetized in different directions
JP2015102650A (ja) 2013-11-25 2015-06-04 株式会社ニコン 撮像制御装置および撮像装置
JP6340528B2 (ja) 2014-05-01 2018-06-13 公益財団法人ヒューマンサイエンス振興財団 Bmi運動補助装置
JP6417794B2 (ja) 2014-08-29 2018-11-07 オムロンヘルスケア株式会社 動作情報測定装置、機能制御方法、及びプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002251234A (ja) 2001-02-23 2002-09-06 Fujitsu Ltd 複数のセンサによるヒューマンインタフェースシステム
JP2009199535A (ja) 2008-02-25 2009-09-03 Panasonic Corp 脳波識別方法の調整装置および方法
JP2014238695A (ja) 2013-06-07 2014-12-18 セイコーエプソン株式会社 電子機器及びタップ操作検出方法
US20150272496A1 (en) 2014-03-31 2015-10-01 United Video Properties, Inc. Methods and systems for selecting media guidance applications based on a position of a brain monitoring user device
JP2016051300A5 (ja) 2014-08-29 2017-09-07
WO2017094346A1 (ja) 2015-12-01 2017-06-08 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
WO2018008226A1 (ja) 2016-07-05 2018-01-11 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Also Published As

Publication number Publication date
CN112987911A (zh) 2021-06-18
US20210181843A1 (en) 2021-06-17
US11868529B2 (en) 2024-01-09
JP2021096497A (ja) 2021-06-24

Similar Documents

Publication Publication Date Title
JP2023129585A (ja) 情報処理方法、情報処理装置、及び情報処理プログラム
JP7330507B2 (ja) 情報処理装置、プログラム、及び、方法
JP2024045281A (ja) 情報処理方法
JP7359437B2 (ja) 情報処理装置、プログラム、及び、方法
JP7303544B2 (ja) 情報処理装置、プログラム、及び方法
US11636392B2 (en) Information processing device and non-transitory computer readable medium
US11635816B2 (en) Information processing apparatus and non-transitory computer readable medium
JP7296626B2 (ja) 情報処理装置及びプログラム
JP7343168B2 (ja) 情報処理装置、プログラム、及び、方法
JP7254346B2 (ja) 情報処理装置及びプログラム
JP7254345B2 (ja) 情報処理装置及びプログラム
US20210165488A1 (en) Information processing apparatus and non-transitory computer readable medium
JP7411209B2 (ja) 情報処理装置及びプログラム
JP2023152840A (ja) 情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210322

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20210416

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210507

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230725

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230802

R150 Certificate of patent or registration of utility model

Ref document number: 7330507

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150