JP2021089635A - 情報処理装置及びプログラム - Google Patents

情報処理装置及びプログラム Download PDF

Info

Publication number
JP2021089635A
JP2021089635A JP2019220278A JP2019220278A JP2021089635A JP 2021089635 A JP2021089635 A JP 2021089635A JP 2019220278 A JP2019220278 A JP 2019220278A JP 2019220278 A JP2019220278 A JP 2019220278A JP 2021089635 A JP2021089635 A JP 2021089635A
Authority
JP
Japan
Prior art keywords
information
user
biometric information
operation content
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019220278A
Other languages
English (en)
Inventor
佐藤 雅弘
Masahiro Sato
雅弘 佐藤
賢吾 得地
Kengo Tokuchi
賢吾 得地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Business Innovation Corp filed Critical Fujifilm Business Innovation Corp
Priority to JP2019220278A priority Critical patent/JP2021089635A/ja
Priority to US16/839,792 priority patent/US11636392B2/en
Priority to CN202010376241.1A priority patent/CN112925408A/zh
Publication of JP2021089635A publication Critical patent/JP2021089635A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/01Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/0205Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
    • A61B5/02055Simultaneously evaluating both cardiovascular condition and temperature
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/369Electroencephalography [EEG]
    • A61B5/372Analysis of electroencephalograms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/04Constructional details of apparatus
    • A61B2560/0487Special user inputs or interfaces
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7465Arrangements for interactive communication between patient and care services, e.g. by using a telephone network
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7475User input or interface means, e.g. keyboard, pointing device, joystick
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Abstract

【課題】ユーザの生体情報を用いて機器を操作する場合において、ユーザの意図した機器の操作の指示を反映させる。【解決手段】プロセッサは、特定の条件を満たす、ユーザの生体情報が取得された場合において、当該取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせ、当該問い合わせに応じてユーザによって指定された操作内容と当該取得された生体情報とを紐付ける。【選択図】図1

Description

本発明は、情報処理装置及びプログラムに関する。
脳波等の生体情報を用いて機器を操作することが考えられる。
引用文献1には、使用者の脳波から脳波生体信号を検出し、使用者の表面筋電位から表面筋電位生体信号を検出し、両生体信号に基づいて制御信号を演算する装置が記載されている。
引用文献2には、使用者の脳波を取得し、その脳波を分析することで得られた分析結果に従って複数の被操作装置を選択的に操作する装置が記載されている。
特開2015−211705号公報 特開2016−67922号公報
ところで、生体情報を用いて機器を正確に操作できるとは限らない。
本発明の目的は、ユーザの生体情報を用いて機器を操作する場合において、ユーザの意図した機器の操作の指示を反映させることにある。
請求項1に係る発明は、プロセッサを有し、前記プロセッサは、特定の条件を満たす、ユーザの生体情報が取得された場合において、前記取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせ、前記問い合わせに応じてユーザによって指示された操作内容と前記取得された生体情報とを紐付ける、情報処理装置である。
請求項2に係る発明は、前記特定の条件を満たす生体情報は、予め定められたフィルタリングに従って除去されない生体情報である、ことを特徴とする請求項1に記載の情報処理装置である。
請求項3に係る発明は、前記特定の条件を満たす生体情報は、トリガーである特定の情報がユーザから測定された時点から予め定められた時間内に取得された生体情報である、ことを特徴とする請求項1に記載の情報処理装置である。
請求項4に係る発明は、前記特定の条件を満たす生体情報は、予め定められた回数以上の操作が機器に対して行われた後に取得された生体情報である、ことを特徴とする請求項1に記載の情報処理装置である。
請求項5に係る発明は、前記プロセッサは、機器に対する1つの操作内容が特定されない場合、前記取得された生体情報の特徴に最も近い特徴を有する生体情報に紐付けられている操作内容をユーザに問い合わせる、ことを特徴とする請求項1から請求項4のいずれか一項に記載の情報処理装置である。
請求項6に係る発明は、前記プロセッサは、前記問い合わせに応じてユーザから操作内容が指示されない場合、前記取得された生体情報に操作内容を紐付けない、ことを特徴とする請求項1から請求項5のいずれか一項に記載の情報処理装置である。
請求項7に係る発明は、前記プロセッサは、更に、前記問い合わせに応じてユーザによって指示された操作内容に別の生体情報が紐付けられている場合、前記別の生体情報に代えて、前記取得された生体情報をユーザによって指示された操作内容に紐付ける、ことを特徴とする請求項1から請求項6のいずれか一項に記載の情報処理装置である。
請求項8に係る発明は、前記プロセッサは、前記特定の条件を満たす生体情報に関連する特定の環境下で、前記特定の条件を満たす生体情報が取得された場合において、前記取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせる、ことを特徴とする請求項1から請求項7のいずれか一項に記載の情報処理装置である。
請求項9に係る発明は、コンピュータに、特定の条件を満たす、ユーザの生体情報が取得された場合において、前記取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせさせ、前記問い合わせに応じてユーザによって指定された操作内容と前記取得された生体情報とを紐付けさせる、プログラムである。
請求項1,9に係る発明によれば、ユーザの生体情報を用いて機器を操作する場合において、ユーザの意図した機器の操作の指示を反映させることができる。
請求項2に係る発明によれば、フィルタリングによって除去される生体情報が取得された場合に、操作内容をユーザに問い合わせることが行われなくなる。
請求項3に係る発明によれば、特定の情報がユーザから測定された時点から予め定められた時間外に生体情報が取得された場合に、操作内容をユーザに問い合わせることが行われなくなる。
請求項4に係る発明によれば、予め定められた回数以上の操作が機器に対して行われた後に、操作内容をユーザに問い合わせることが行われる。
請求項5に係る発明によれば、ある操作内容を特定してユーザに問い合わせることができる。
請求項6に係る発明によれば、ユーザが操作内容を指示しない場合に、取得された生体情報と操作内容とが紐付けられることを防止することができる。
請求項7に係る発明によれば、生体情報に紐付けられている操作内容を更新することができる。
請求項8に係る発明によれば、特定の条件を満たす生体情報に関連する特定の環境以外の環境下で、特定の条件を満たす生体情報が取得された場合に、操作内容をユーザに問い合わせることが行われなくなる。
本実施形態に係る情報処理システムの構成を示すブロック図である。 本実施形態に係る情報処理装置の構成を示すブロック図である。 本実施形態に係る情報処理装置による処理を示すフローチャートを示す図である。 管理テーブルを示す図である。 管理テーブルを示す図である。 生体情報の波形を示す図である。 管理テーブルを示す図である。 管理テーブルを示す図である。 管理テーブルを示す図である。
図1を参照して、本実施形態に係る情報処理システムについて説明する。図1には、本実施形態に係る情報処理システムの構成の一例が示されている。
本実施形態に係る情報処理システムは、情報処理装置10と、1又は複数の生体情報測定装置と、1又は複数の環境情報測定装置14と、1又は複数の機器16とを含む。図1に示す例では、情報処理システムは、生体情報測定装置12A,12Bを含むが、これは一例に過ぎない。以下では、生体情報測定装置12A,12Bを区別する必要がない場合には、生体情報測定装置12A,12Bを「生体情報測定装置12」と称することとする。なお、図1に示されている各装置の数は一例に過ぎず、各装置の数が、図1に示されている各装置の数に限定されるものではない。また、情報処理システムは、図1に示されている装置以外の他の装置(例えばサーバ等の外部装置)を含んでもよい。
情報処理装置10、生体情報測定装置12、環境情報測定装置14、及び、機器16は、他の装置等と通信するように構成されている。その通信は、ケーブルを利用する有線通信であってもよいし、無線通信であってもよい。つまり、各装置は、他の装置等とケーブルによって物理的に接続されて、情報を互いに送受信してもよいし、無線通信によって互いに情報を送受信してもよい。無線通信として、例えば、近距離無線通信やWi−Fi(登録商標)等が用いられる。これら以外の規格の無線通信が用いられてもよい。近距離無線通信は、例えば、Bluetooth(登録商標)やRFID(Radio Frequency Identifier)やNFC等である。各装置は、LAN(Local Area Network)やインターネット等の通信経路を介して他の装置や他のセンサ等と通信してもよい。
情報処理装置10は、例えば、パーソナルコンピュータ(以下、「PC」と称する)、タブレットPC、スマートフォン、携帯電話、又は、その他の装置である。情報処理装置10は、ユーザが携帯することが可能な端末装置(例えば、タブレットPCやスマートフォンや携帯電話等)であってもよいし、テーブル等に設置されて使用される装置であってもよい。情報処理装置10は、通信機能とマイクとスピーカとを有するスマートスピーカであってもよい。情報処理装置10は、屋内(例えば、部屋の床、天井、テーブル等)に設置されてもよいし、屋外に設置されてもよい。また、情報処理装置10は、移動可能な装置(例えば自走式の装置)でもよい。
生体情報測定装置12は、センサや電極等を有し、ユーザの生体情報を測定するように構成されている。各生体情報測定装置12は、異なる種類の生体情報を測定してもよい。もちろん、すべての生体情報測定装置12の中の一部又は全部は、同じ種類の生体情報を測定するように構成されてもよい。また、各生体情報測定装置12は、1つの種類の生体情報を測定するように構成されてもよいし、複数の種類の生体情報を測定するように構成されてもよい。
生体情報測定装置12は、自装置で測定した生体情報を情報処理装置10に送信する。生体情報測定装置12は、生体情報を測定する度に生体情報を情報処理装置10に送信してもよいし、生体情報を記憶し、予め定められた時間間隔毎に生体情報を情報処理装置10に送信してもよいし、ユーザが指定したタイミングで生体情報を情報処理装置10に送信してもよい。また、生体情報測定装置12は、他の生体情報測定装置12が測定した生体情報を当該他の生体情報測定装置12から受信し、自装置が測定した生体情報と当該他の生体情報測定装置12が測定した生体情報とを情報処理装置10に送信してもよい。
生体情報測定装置12は、自装置又は他の生体情報測定装置が測定した生体情報を分析し、その分析結果を示す情報を情報処理装置10に送信してもよい。例えば、生体情報測定装置12はプロセッサを含み、当該プロセッサが生体情報を分析してもよい。もちろん、その分析は情報処理装置10にて行われてもよい。
生体情報測定装置12は、バッテリを含み、当該バッテリから供給される電力によって駆動してもよいし、情報処理装置10から電力の供給を受けて駆動してもよい。
生体情報測定装置12は、生体情報測定装置12全体がユーザに装着されて生体情報を測定するウェアラブル装置であってもよい。例えば、生体情報測定装置12は、ユーザの頭部に装着される装置であってもよいし、ユーザの耳に装着されるヒアラブル装置であってもよいし、ユーザの腕や手や手首や指等に装着される装置(例えば腕時計型の装置等)であってもよいし、ユーザの首に掛けられる装置であってもよいし、ユーザの胴体や足等に装着される装置であってもよい。
生体情報は、生体であるユーザから発する様々な生理学的情報や解剖学的情報である。生体情報の概念の範疇には、例えば、脳の活動を示す情報(例えば、脳波、脳の血流量、脳磁場信号等)、脈拍数、血圧、心拍数、心電波形、筋電波形、眼球運動、体温、発汗量、視線、音声、及び、ユーザの動き等が含まれる。これら生体情報の一例に過ぎず、他の生理学的情報や解剖学的情報が生体情報として用いられてもよい。生体情報測定装置12は、これらの生体情報の中の1つの生体情報を測定してもよいし、複数の生体情報を測定してもよい。
また、生体情報の概念の範疇には、生体から測定される電位を示す生体電位情報が含まれる。生体電位情報の概念の範疇には、例えば、脳の活動に伴い発生する微小電流の測定結果である脳波、心臓の拍動に伴い発生する微小電流の測定結果である心電図、筋肉の活動に伴い発生する微小電流の測定結果である筋電図、皮膚に生じる微小電流の測定結果である皮膚電位等が含まれる。これらは生体電位情報の一例に過ぎず、これら以外の生体電位情報が用いられてもよい。
情報処理装置10は、生体情報測定装置12から生体情報を受け付けて、生体情報の分析、生体情報の記憶、生体情報の出力、生体情報の分析結果を示す情報の記憶、及び、生体情報の分析結果を示す情報の出力等を行う。もちろん、生体情報の分析は生体情報測定装置12によって行われてもよい。生体情報を出力することは、例えば、生体情報を表示することや、生体情報を音声情報として出力すること等である。生体情報の分析結果を示す情報を出力することは、例えば、分析結果を示す情報を表示することや、分析結果を音声情報として出力すること等である。情報処理装置10は、生体情報や分析結果を示す情報を他の装置に送信してよい。
情報処理装置10は、1又は複数の生体情報測定装置12を含んでもよい。つまり、1又は複数の生体情報測定装置12は、情報処理装置10に組み込まれて、1つの装置が構成されてもよい。1又は複数の生体情報測定装置12を含む情報処理装置10全体が、ユーザに装着されて生体情報を測定してもよい。つまり、情報処理装置10はウェアラブル装置であってもよい。例えば、情報処理装置10は、ユーザの頭部に装着される装置であってもよいし、ユーザの耳に装着されるヒアラブル装置であってもよいし、ユーザの腕や手や手首や指等に装着される装置(例えば腕時計型の装置)であってもよいし、ユーザの首に掛けられる装置であってもよいし、ユーザの胴体や足等に装着される装置であってもよい。
情報処理装置10と生体情報測定装置12は、別々の装置であってもよい。例えば、情報処理装置10はスマートスピーカであり、生体情報測定装置12は、ユーザに装着されるウェアラブル装置であってもよい。
環境情報測定装置14は、ユーザや当該環境情報測定装置14の周囲の環境に関する環境情報を測定するように構成されている。例えば、環境情報測定装置14は、撮影装置であるカメラ、集音するマイク、温度を測定する温度センサ、湿度を測定する湿度センサ、匂いを測定する臭気センサ、明るさを測定する照度センサ、赤外線センサ、又は、人感センサ等である。これらのセンサの中の1又は複数のセンサが、環境情報測定装置14として情報処理システムに含まれてもよい。
例えば、情報処理装置10の周囲やその他の場所がカメラによって撮影されて、当該周囲を表す画像データやその他の場所を表す画像データが生成される。画像データは、動画像データであってもよいし、静止画像データであってもよい。カメラによって撮影された画像データは、カメラの撮影範囲に含まれている環境に関する環境情報の一例に相当する。また、カメラによってユーザが撮影されることで生成された、当該ユーザを表す画像データは、当該ユーザの生体情報の一例に相当する。例えば、当該画像データから検知される当該ユーザの動きや当該ユーザの体型等は、当該ユーザの生体情報の一例に相当する。その意味で、カメラは、当該ユーザの生体情報を測定する生体情報測定装置12の一例に相当する。
また、マイクの周囲の音(例えば、人の音声やその他の音)がマイクに入力されて、マイクによって音データが生成される。マイクに入力された音を表す音データは、マイクの周囲の環境に関する環境情報の一例に相当する。また、マイクに入力されたユーザの音声を表す音データは、当該ユーザの生体情報の一例に相当する。その意味で、マイクは、当該ユーザの生体情報を測定する生体情報測定装置12の一例に相当する。
また、温度センサ、湿度センサ、臭気センサ、照度センサ、赤外線センサ、及び、人感センサ等によって測定されたデータは、環境情報の一例に相当する。また、これらのセンサによってユーザから測定されたデータは、当該ユーザの生体情報の一例に相当する。その意味で、これらのセンサは、当該ユーザの生体情報を測定する生体情報測定装置12の一例に相当する。
環境情報は、ユーザがいる部屋の大きさを示す情報や、機器16が設置されている部屋の大きさを示す情報や、部屋に設けられている窓の数を示す情報等を含む情報であってもよい。
なお、1又は複数の環境情報測定装置14が、情報処理装置10に含まれてもよい。
機器16は、例えば、PC、タブレットPC、スマートフォン、携帯電話、ロボット(例えば、人型ロボット、人以外の動物型ロボット、掃除ロボット、及び、それら以外のロボット等)、プロジェクタ、液晶ディスプレイ等の表示装置、記録装置、再生装置、カメラ等の撮像装置、冷蔵庫、炊飯器、電子レンジ、コーヒーメーカー、掃除機、洗濯機、空調機、照明機器、時計、監視カメラ、自動車、二輪車、航空機(例えば無人航空機(例えばドローン))、ゲーム機、ガスレンジ、温水洗浄便座、換気扇、呼び鈴、玄関モニタ、エレベータ、ドア、窓、又は、各種のセンシング機器(例えば温度センサ、湿度センサ、電圧センサ、電流センサ等)等の装置である。機器16の概念の範疇には機器全般が含まれてもよい。例えば、情報機器、映像機器、音響機器、その他の機器も、本実施形態に係る機器16の範疇に含まれてもよい。
機器16は、通信インターフェースである通信装置、データを記憶する記憶装置、及び、当該機器16の動作を制御するプロセッサを有する。機器16は、ユーザインターフェースを有してもよい。機器16は、自装置である機器16を識別するための機器識別情報を情報処理装置10に送信してもよい。機器識別情報は、例えば、機器16のID、名称、型番、又は、アドレス(例えばMACアドレスやIPアドレス等)等である。
以下、図2を参照して、情報処理装置10の構成について詳しく説明する。図2には、情報処理装置10の構成の一例が示されている。
情報処理装置10は、例えば、通信装置18と、UI20と、記憶装置22と、プロセッサ24とを含む。情報処理装置10は、これら以外の構成を含んでもよい。
通信装置18は通信インターフェースであり、他の装置にデータを送信する機能、及び、他の装置から送信されてきたデータを受信する機能を有する。通信装置18は、無線通信機能を有してもよいし、有線通信機能を有してもよい。通信装置18は、例えば近距離無線通信を利用することで他の装置と通信してもよいし、LANやインターネット等の通信経路を介して他の装置と通信してもよい。例えば、通信装置18は、生体情報測定装置12から送信されてきた生体情報を受信する。通信装置18は、生体情報測定装置12の動作を制御するための制御情報を生体情報測定装置12に送信してもよい。また、通信装置18は、環境情報測定装置14から送信されてきた環境情報を受信する。通信装置18は、環境情報測定装置14の動作を制御するための制御情報を環境情報測定装置14に送信してもよい。また、通信装置18は、機器16の動作を制御するための制御情報を機器16に送信する。通信装置18は、機器16から送信されてきた情報を受信してもよい。
UI20はユーザインターフェースであり、表示装置と操作装置とを含む。表示装置は、液晶ディスプレイやELディスプレイ等である。操作装置は、キーボードや入力キーや操作パネル等である。UI20は、表示装置と操作装置とを兼ね備えたタッチパネル等のUIであってもよい。また、マイクがUI20に含まれてもよいし、音を発するスピーカがUI20に含まれてもよい。
記憶装置22は、各種のデータを記憶する1又は複数の記憶領域を構成する装置である。記憶装置22は、例えば、ハードディスクドライブ、各種のメモリ(例えばRAMやDRAMやROM等)、その他の記憶装置(例えば光ディスク等)、又は、それらの組み合わせである。1又は複数の記憶装置22が情報処理装置10に含まれている。
記憶装置22には、管理情報が記憶されている。管理情報は、ユーザから測定された生体情報に基づいて、機器16の操作内容を特定するための情報である。例えば、予め定められた基準生体情報と、機器16の操作内容を示す操作情報とが、予め紐付けられて管理情報に登録されている。基準生体情報は、当該基準生体情報に紐付けられている操作を行うユーザから発生すると想定される生体情報であってもよいし、当該操作の実行を要求するユーザから発生すると想定される生体情報であってもよい。基準生体情報は、機器16の操作内容に対応する生体情報であるともいえる。ユーザ毎に、基準生体情報と操作情報とが紐付けられて管理情報に登録されてもよい。
管理情報には、機器16の電源の操作内容に関する操作情報が登録されてもよいし、機器16の機能レベルの操作内容に関する操作情報が登録されてもよいし、電源の操作内容に関する操作情報と機能レベルの操作内容に関する操作情報の両方が登録されてもよい。
機器16の電源の操作内容は、機器16の電源をオン又はオフする操作である。電源の操作内容に関する操作情報は、機器16の電源をオン又はオフする操作を示す情報である。電源の操作内容に関する操作情報に紐付けらえている生体情報は、機器16の電源のオン又はオフに対応する生体情報であるといえる。ユーザ毎に、機器16の電源の操作内容に関する操作情報と基準生体情報とが紐付けられて管理情報に登録されてもよい。
機器16の機能レベルの操作内容は、機器16の機能レベルを設定する操作である。機能レベルの操作内容に関する操作情報は、機器16の機能レベルを設定する操作を示す情報である。機能レベルの操作内容に関する操作情報に紐付けられている生体情報は、機器16の機能レベルに対応する生体情報であるといえる。ユーザ毎に、機器16の機能レベルの操作内容に関する操作情報と基準生体情報とが紐付けられて管理情報に登録されてもよい。
機能レベルは、例えば、機器16の性能や出力に関するレベルである。具体例を挙げて説明すると、空調機の設定温度、空調機の風量、空調機の風向き、空調機の除湿機能の有無、表示装置の輝度、照明装置の輝度、スピーカの音量、自走可能な装置(例えばロボットや自走式の掃除機等)の移動速度、撮像装置や記録装置や再生装置等の装置の設定値、冷蔵庫や炊飯器や電子レンジ等の装置の設定値、及び、各種のセンシング機器の設定値等が、機器レベルの一例に相当する。これらは一例に過ぎず、これら以外の設定値等が機能レベルであってもよい。
プロセッサ24は、ユーザの生体情報を取得し、当該生体情報に従って、機器16を操作する指示を出力するように構成されている。
例えば、生体情報測定装置12によってユーザから生体情報が測定されると、当該生体情報は生体情報測定装置12から情報処理装置10に送信される。プロセッサ24は、当該生体情報を受け付け、当該生体情報に基づいて機器16の操作内容を把握する。プロセッサ24は、その把握した操作内容を示す操作情報を含む制御情報を機器16に送信することで、当該機器16を操作する。当該制御情報を受信した当該機器16は、当該制御情報に従って動作する。
例えば、プロセッサ24は、ユーザから測定された生体情報と、上記の管理情報に登録されている各基準生体情報とを比較し、当該生体情報との差異が許容範囲内に含まれる基準生体情報を検索する。プロセッサ24は、その検索された基準生体情報に紐付けられている、機器16の操作内容を特定する。これにより、操作される機器16が把握され、当該機器16の操作内容が把握される。許容範囲は予め定められている。許容範囲はユーザによって変更されてもよい。許容範囲はユーザ毎に定められてもよい。
ユーザから測定された生体情報との差異が許容範囲内に含まれる複数の基準生体情報が検索された場合、プロセッサ24は、当該複数の基準生体情報の中で、当該生体情報との差異が最小となる基準生体情報を特定する。プロセッサ24は、その特定された基準生体情報に紐付けられている、機器16の操作内容を特定する。
基準生体情報は、生体情報の特徴的な成分を示す情報であってもよい。この場合、プロセッサ24は、ユーザから測定された生体情報から特徴的な成分を抽出し、その抽出された成分との差異が許容範囲内に含まれる成分を有する基準生体情報を検索してもよい。例えば、生体情報として脳波が用いられる場合、プロセッサ24は、測定された脳波から特徴的な成分を抽出し、当該成分を分析することで、当該脳波が表す操作内容を推測してもよい。
例えば、脳の活動を測定する生体情報測定装置12と情報処理装置10とによって、ブレイン・マシン・インターフェースが構築されてもよい。ブレイン・マシン・インターフェースの方式は、侵襲式であってもよいし、非侵襲式であってもよい。この場合、プロセッサ24は、ユーザの脳の活動(例えば脳波等)に基づいて機器16を操作する。プロセッサ24は、機器16を操作するために、脳波から特徴的な成分を抽出し、その抽出された成分に基づいて機器16を操作してもよい。脳波から特徴的な成分を抽出するために、高速フーリエ変換(FFT:Fast Fourier Transform)や、ウェーブレット変換(WT:Wavelet Transform)、TFD(Time Frequency Distribution)、EM(Eigenvector Methods)、自己回帰モデル(ARM:Auto Regressive Method)等が用いられてもよい。また、特徴の抽出によって得られた特徴ベクトルを用いて、脳波と機器16の操作内容とを結び付ける方法として、例えば、独立成分分析(ICA:Independent Component Analysis)、k平均法、サポートベクターマシン(SVM:Support Vector Machine)、畳み込みニューラルネットワーク等が用いられてもよい。
また、プロセッサ24は、機器16から送信されてきた機器識別情報を受け付けて当該機器16を識別するように構成されてもよい。例えば、プロセッサ24は、機器識別情報の取得要求を機器16に送信し、その取得要求に応じて当該機器16から送信されてきた機器識別情報を取得する。また、情報処理装置10と接続される等して情報処理装置10と通信することが可能になった機器16から機器識別情報が情報処理装置10に送信され、プロセッサ24は、そのようにして送信されてきた機器識別情報を受け付けてもよい。
また、プロセッサ24は、情報処理装置10の各部の動作を制御するように構成されている。プロセッサ24は、メモリを含んでもよい。
また、プロセッサ24は、特定の条件を満たす、ユーザの生体情報が取得された場合において、当該取得された生体情報に紐付く、機器16に対する1つの操作内容が特定されない場合、当該機器16によって実行されるべき操作内容をユーザに問い合わせる。プロセッサ24は、その問い合わせに応じてユーザによって指示された操作内容を示す操作情報と当該取得された生体情報とを紐付けて、上記の管理情報に登録する。当該生体情報は基準生体情報として登録される。例えば、プロセッサ24は、ユーザ毎に、ユーザによって指示された操作内容を示す操作情報と当該ユーザから測定された生体情報とを紐付けて、上記の管理情報に登録する。当該生体情報は、当該ユーザの基準生体情報として登録される。
例えば、ユーザから測定された生体情報との差異が許容範囲内に含まれる基準生体情報が上記の管理情報に登録されていない場合、プロセッサ24は、機器16によって実行されるべき操作内容をユーザに問い合わせる。
プロセッサ24は、その問い合わせのメッセージをUI20に表示させてもよいし、当該メッセージを音声として出力してもよい。プロセッサ24は、「何ですか?」等のように操作内容を特定しないで操作内容をユーザに問い合わせてもよいし、「操作αですか?」等のように操作内容を特定して操作内容をユーザに問い合わせてもよい。
問い合わせを受けたユーザは、音声によって操作内容を示す操作情報を情報処理装置10に入力してもよいし、UI20を操作して操作内容を示す操作情報を情報処理装置10に入力してもよい。プロセッサ24は、ユーザによって入力された操作情報を受けて、当該操作情報とユーザから測定された生体情報とを紐付けて、上記の管理情報に登録する。
ユーザによって入力された操作情報に、ユーザから測定された生体情報を基準生体情報として紐付ける運用を続けると、1つの操作情報に複数の基準生体情報が紐付けられたり、複数の操作情報に1又は複数の基準生体情報が紐付けられたりすることが発生し得る。
操作情報に複数の基準生体情報が紐付けられた場合、当該複数の基準生体情報は、同じ種類の生体情報であってもよいし、異なる種類の生体情報であってもよい。例えば、複数の基準生体情報の中の1つの基準生体情報が脳波であり、別の基準生体情報が体温を示す情報であってもよい。つまり、操作情報に、当該操作情報が示す操作内容を表す脳波である基準脳波と、当該操作内容を表す体温である基準体温を示す情報とが紐付けられてもよい。この場合、プロセッサ24は、当該基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定された場合、当該基準脳波に紐付けられている操作内容を特定し、その操作内容を示す操作情報を含む制御情報を機器16に送信する。また、プロセッサ24は、当該基準体温との差異が許容範囲内に含まれる体温がユーザから測定された場合、当該基準体温に紐付けられている操作内容を特定し、その操作内容を示す操作情報を含む制御情報を機器16に送信する。別の例として、プロセッサ24は、当該基準脳波との差異が許容範囲内に含まれる脳波と、当該基準体温との差異が許容範囲内に含まれる体温とがユーザから測定された場合、当該基準脳波と当該基準体温とに紐付けられている操作内容を特定し、その操作内容を示す操作情報を含む制御情報を機器16に送信してもよい。脳波や体温は生体情報の一例に過ぎず、他の生体情報が基準生体情報として生体情報に紐付けられてもよい。
例えば、ユーザが生体情報を用いて機器16を操作することに慣れてくると、ユーザは、管理情報に予め登録されている基準生体情報との差異が許容範囲内に含まれない生体情報を発することで、機器16を操作しようとすることが考えられる。つまり、ユーザの慣れや状況等によって、ユーザが機器16の操作を意図したときに当該ユーザから発せられる生体情報が徐々に変化し、その変化した生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていないことが考えられる。この場合、プロセッサ24は、操作内容をユーザに問い合わせ、その問い合わせに応じてユーザから指示された操作内容を示す操作情報に、ユーザから測定された生体情報を基準生体情報として紐付ける。こうすることで、ユーザから測定された生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていない場合であっても、次の測定から、当該生体情報が測定された場合に、当該生体情報に従って機器16を操作することができる。
例えば、上記の特定の条件を満たす生体情報は、予め定められたフィルタリングによって除去されない生体情報である。フィルタリングによって除去される生体情報は、例えばノイズとして処理される。フィルタリングによって除去されない生体情報は、操作内容を表す生体情報である可能性がある。したがって、当該生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていない場合、プロセッサ24は、操作内容をユーザに問い合わせる。例えば、生体情報が波形で表される場合、閾値以上の振幅を有する生体情報が、特定の条件を満たす生体情報である。具体例を挙げて説明すると、脳波(例えば特定の周波数帯の脳波)の振幅が閾値以上である場合、当該脳波は特定の条件を満たす生体情報である。
別の例として、上記の特定の条件を満たす生体情報は、トリガーである特定の情報がユーザから測定された時点から予め定められた時間内にユーザから測定された生体情報である。予め定められた時間は、ユーザによって変更されてもよい。以下、トリガーである特定の情報を「トリガー情報」と称することとする。トリガー情報は、操作内容を表す生体情報が測定される前の時点で、ユーザから測定されると想定される情報である。例えば、トリガー情報は、ユーザがこれから操作内容を表す生体情報を発することを表す特定の音声や特定の脳波等である。これら以外の特定の生体情報がトリガー情報として用いられてもよい。また、ストレスや不快等のようなユーザの状態や感情を表す生体情報が、トリガー情報として用いられてもよい。例えば、ストレスや不快等を表す生体情報がユーザから測定された後に、機器16の操作内容を表す生体情報がユーザから測定されることがあるため、ストレスや不快等を表す生体情報が、トリガー情報として用いられてもよい。プロセッサ24は、トリガー情報が測定された時点から予め定められた時間内に測定された生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていない場合、操作内容をユーザに問い合わせる。
また、上記の特定の条件を満たす生体情報は、トリガー情報が測定された時点から予め定められた時間内に測定され、予め定められたフィルタリングによって除去されない生体情報であってもよい。当該生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていない場合、プロセッサ24は、操作内容をユーザに問い合わせてもよい。
更に別の例として、上記の特定の条件を満たす生体情報は、予め定められた回数以上の操作が同一の機器16に対して行われた後にユーザから測定された生体情報である。予め定められた回数以上の操作が同一の機器16に対して行われた後にユーザから測定された生体情報は、予め定められた回数以上の操作が同一の機器16に対して行われた後に初めてユーザから測定された生体情報であってもよいし、予め定められた回数以上の操作が同一の機器16に対して行われた時点から予め定められた時間内にユーザから測定された生体情報であってもよい。予め定められた回数は、ユーザによって変更されてもよい。例えば、プロセッサ24は、予め定められた回数以上の操作が同一の機器16に対して行われた後にユーザから測定された生体情報と、当該機器16の操作内容を示す操作情報に紐付けられている各基準操作情報とを比較する。当該生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていない場合、プロセッサ24は、操作内容をユーザに問い合わせる。
また、上記の特定の条件を満たす生体情報は、予め定められた回数以上の操作が同一の機器16に対して行われた後に測定された、予め定められたフィルタリングによって除去されない生体情報であってもよい。
更に別の例として、上記の特定の条件を満たす生体情報は、特定の時点から予め定められた時間が経過した後に測定された生体情報である。特定の時点は、例えば、ユーザの生体情報を測定し始めた時点、生体情報測定装置12の電源がオンにされた時点、機器16の電源がオンにされた時点、ユーザのアカウントが情報処理装置10や機器16に登録された時点、又は、機器16が初めて操作された時点等である。当該生体情報は、当該予め定められた時間が経過した後に初めてユーザから測定された生体情報であってもよいし、当該予め定められた時間が経過した時点から予め定められた別の時間内にユーザから測定された生体情報であってもよい。予め定められた時間は、ユーザによって変更されてもよい。
操作内容をユーザに問い合わせる場合、プロセッサ24は、ユーザから測定された生体情報の特徴に最も近い特徴を有する基準生体情報に紐付けられている操作内容をユーザに問い合わせてよい。例えば、ユーザから測定された生体情報の特徴に最も近い特徴を有する基準生体情報は、ユーザから測定された生体情報との間の類似度が最も高い基準生体情報である。なお、当該基準生体情報は、ユーザから測定された生体情報との間の類似度が最も高い基準生体情報ではあるが、ユーザから測定された生体情報との差異が許容範囲内に含まれない基準生体情報である。
ユーザが問い合わせに応じて操作内容を指示しない場合、プロセッサ24は、ユーザから測定された生体情報に操作内容を示す操作情報を紐付けない。この場合、ユーザから測定された生体情報は管理情報に登録されない。例えば、プロセッサ24が操作内容をユーザに問い合わせた時点から予め定められた時間内に、ユーザが操作内容を指示しない場合、プロセッサ24は、ユーザから測定された生体情報に操作情報を紐付けない。
問い合わせに応じてユーザによって指示された操作内容を示す操作情報に別の基準生体情報が既に紐付けられて管理情報に登録されている場合、プロセッサ24は、当該別の基準生体情報に代えて、当該ユーザから測定された生体情報を当該操作情報に紐付けてもよい。例えば、ユーザから測定された生体情報A1との差異が許容範囲に含まれる基準生体情報が管理情報に登録されていない場合において、ユーザによって指定された操作内容αを示す操作情報に基準生体情報A2が既に紐付けられて管理情報に登録されているものとする。この場合、プロセッサ24は、基準生体情報A2に代えて、生体情報A1を新たな基準生体情報として、操作内容αを示す操作情報に紐付ける。別の例として、プロセッサ24は、基準生体情報A2と共に、生体情報A1を新たな基準生体情報として、操作内容αを示す操作情報に紐付けてもよい。この場合、操作内容αを示す操作情報に、基準生体情報A1,A2が紐付けられることになる。基準生体情報A1との差異が許容範囲内に含まれる生体情報、又は、基準生体情報A2との差異が許容範囲内に含まれる生体情報がユーザから測定された場合、プロセッサ24は、操作内容αを示す操作情報を含む制御情報を機器16に送信する。
なお、問い合わせに応じてユーザによって入力された操作情報に、ユーザから測定された生体情報を基準生体情報として紐付ける運用を続けると、1つの基準生体情報に複数の操作情報が紐付けられることが発生し得る。例えば、この運用を続けると、ある操作内容αに紐付けられて管理情報に登録される基準生体情報が、時間の経過と共に、生体情報A1,A2,A3,・・・,Anのように次々の変更されることが考えられる。そして、操作内容αに紐付けられるようになった生体情報Anが、別の操作内容βにも紐付けられることが考えられる。この場合、プロセッサ24は、複数の操作情報に紐付けられている生体情報を、当該複数の操作情報の中のいずれの操作情報に紐付けるのかをユーザに問い合わせてもよい。上記の例では、プロセッサ24は、生体情報Anを操作内容α又は操作内容βのいずれに紐付けるのかをユーザに問い合わせる。例えば、ユーザが、操作内容αを生体情報Anの紐付け先として指示した場合、プロセッサ24は、操作内容αを示す操作情報に生体情報Anを基準生体情報として紐付け、操作内容βを示す操作情報に生体情報Anを紐付けない。
また、操作内容αに紐付けられている基準生体情報A1の許容範囲と、操作内容βに紐付けられている基準生体情報A2の許容範囲とが重複する場合、その重複範囲に含まれる生体情報A3がユーザから測定された場合、生体情報A3に紐付けられている1つの操作内容を特定することができない。この場合、プロセッサ24は、生体情報A3に紐付ける操作内容をユーザに問い合わせてもよい。例えば、本実施形態に係る運用を続けることで、操作内容αに紐付けられている基準生体情報が徐々に変更されて、操作内容αに紐付けられるようになった基準生体情報A1の許容範囲と、操作内容βに紐付けられている基準生体情報A2の許容範囲とは重複することが考えられる。操作内容βに紐付けられている基準生体情報が変更される場合も、同様の事態が発生することが考えられる。この場合、プロセッサ24は、ユーザから測定された生体情報A3を操作内容α又は操作内容βのいずれに紐付けるのかをユーザに問い合わせる。ユーザが、操作内容αを生体情報A3の紐付け先として指示した場合、プロセッサ24は、操作内容αを示す操作情報に生体情報A3を基準生体情報として紐付け、操作内容βを示す操作情報に生体情報A3を紐付けない。
特定の条件を満たす生体情報に関連する特定の環境下で、当該特定の条件を満たす生体情報がユーザから測定された場合において、当該生体情報に紐付く、機器16に対する1つの操作内容が特定されない場合、プロセッサ24は、機器16によって実行されるべき操作内容をユーザに問い合わせてもよい。
特定の環境は、機器16の操作内容を示す操作情報が測定されると想定される環境である。そのような特定の環境下で、特定の条件を満たす生体情報がユーザから測定されて、当該生体情報に紐づく1つの操作内容が特定されない場合、プロセッサ24は、操作内容をユーザに問い合わせる。特定の環境は、例えば、ユーザが置かれている環境であってもよいし、ユーザ自身のことであってもよい。具体例を挙げると、特定の環境は、ユーザがいる部屋の室温、湿度、気圧、風量、部屋の大きさ、部屋に設置されている窓の数、明るさ、音量、匂い、ユーザの体温、ユーザの血圧、ユーザの運動量、又は、ユーザの発汗量等である。特定の環境を示す環境情報は、環境情報測定装置14によって測定されてもよいし、生体情報測定装置12によって測定されてもよい。例えば、ユーザの体温が閾値以上である場合において、ユーザから測定された生体情報に紐付く1つの操作内容が特定されない場合、プロセッサ24は、「冷房の設定温度を下げますか?」等といった操作内容をユーザに問い合わせる。別の例として、ユーザから測定された生体情報が、冷房の設定温度を下げる操作内容に紐付けられている基準生体情報に類似する生体情報である場合、プロセッサ24は、「冷房の設定温度を下げますか?」等といった操作内容をユーザに問い合わせてもよい。
以下、図3を参照して、情報処理装置10による処理の流れについて説明する。図3には、情報処理装置10による処理の流れを示すフローチャートが示されている。
生体情報測定装置12によって、ユーザの生体情報が測定される。生体情報測定装置12によって測定された生体情報は情報処理装置10に送信され、プロセッサ24は当該生体情報を取得する(S01)。なお、環境情報測定装置14によって環境情報が測定されてもよい。環境情報測定装置14によって測定された環境情報は情報処理装置10に送信され、プロセッサ24は当該環境情報を取得する。
次に、ステップS01にて取得された生体情報が、特定の条件を満たす生体情報である場合、プロセッサ24は、当該生体情報と管理情報に登録されている各基準生体情報とを比較する(S02)。プロセッサ24は、その比較に基づいて、ステップS01にて取得された生体情報に紐付く1つの操作内容が特定されるか否かを判断する。
例えば、ステップS01にて取得された生体情報との差異が許容範囲内に含まれる1つの基準生体情報が管理情報に登録されている場合、当該生体情報に紐付く1つの操作内容が特定される(S03,Yes)。この場合、プロセッサ24は、当該基準生体情報に紐付けられて管理情報に登録されている操作情報が示す操作内容を、機器16の操作内容として決定する(S04)。
次に、プロセッサ24は、ステップS04にて決定された操作内容を示す操作情報を含む制御情報を、機器16に送信する(S05)。当該制御情報を受信した機器16は、当該制御情報に従って動作する。このようにして、プロセッサ24は機器16を操作する。
ステップS01にて取得された生体情報との差異が許容範囲内に含まれる基準生体情報が管理情報に登録されていない場合、当該生体情報に紐付く1つの操作内容が特定されない(S03,No)。この場合、プロセッサ24は、機器16によって実行されるべき操作内容をユーザに問い合わせる(S06)。
また、ステップS01にて取得された生体情報との差異が許容範囲内に含まれる複数の基準生体情報が管理情報に登録されている場合、当該生体情報に紐付く1つの操作内容が特定されない(S03,No)。この場合、プロセッサ24は、機器16によって実行されるべき操作内容をユーザに問い合わせる(S06)。なお、プロセッサ24は、ユーザから測定された生体情報の特徴に最も近い特徴を有する基準生体情報に紐付けられている操作内容をユーザに問い合わせてもよい。
問い合わせに応じてユーザが操作内容を指示した場合、プロセッサ24は、ステップS01にて取得された生体情報と当該操作内容を示す操作情報とを紐付けて管理情報に登録する(S07)。当該生体情報は、基準生体情報として操作情報に紐付けられる。
そして、処理はステップS04に移行する。プロセッサ24は、ユーザによって指示された操作内容を、機器16の操作内容として決定し(S04)、その操作内容を示す操作情報を含む制御情報を機器16に送信する(S05)。
以下、管理情報の具体例について説明する。
図4には、管理情報の一例である管理テーブルの一例が示されている。管理テーブルのデータは記憶装置22に記憶されている。管理テーブルのデータは、記憶装置22に記憶されずに、サーバ等の外部装置に記憶されてもよい。
管理テーブルにおいては、IDと、基準脳波と、機器16の操作内容を示す操作情報とが、予め紐付けられている。基準脳波は基準生体情報の一例である。ここでは、基準生体情報の一例として脳波が用いられているが、脳波以外の生体情報が基準生体情報として用いられてもよい。
IDは、管理テーブルに登録されている情報を管理するための情報である。
基準脳波は、例えば、統計的な処理によって定められ、当該基準脳波に紐付けられている操作内容を行うユーザから一般的に発生すると想定される脳波、又は、当該操作内容の実行を要求するユーザから一般的に発生すると想定される脳波である。
基準脳波は、特定の周波数帯の脳波であってもよいし、複数の周波数帯の脳波を含む脳波であってもよい。
操作情報は、操作される機器16を識別するための機器識別情報と、当該機器16に対して行われる操作内容を示す情報とを含む情報である。例えば、操作内容は、機器16の電源をオン又はオフする操作であってもよいし、機器16の機能レベルを設定する操作であってもよい。
例えば、ID「1」の基準脳波は、空調機の冷房をオンするという操作内容を表す脳波である。ID「2」の基準脳波は、空調機の冷房をオフするという操作内容を表す脳波である。
例えば、ID「1」の基準脳波との差異が許容範囲内に含まれる脳波がユーザから測定された場合、プロセッサ24は、当該基準脳波に紐付けられている「空調機の冷房をオンする」という操作内容を特定する。そして、プロセッサ24は、「空調機の冷房をオンする」という操作内容を示す情報を含む制御情報を、当該空調機に送信する。当該空調機は当該制御情報に従って動作する。これにより、当該空調機の冷房がオンする。
また、プロセッサ24は、ユーザから測定された脳波と基準脳波との間の類似度を算出し、その類似度が閾値以上であるか否かを判断してもよい。閾値は許容範囲に対応する値である。ユーザから測定された脳波と基準脳波との間の類似度が閾値以上である場合、プロセッサ24は、ユーザから測定された脳波と基準脳波とは類似していると判断する。つまり、プロセッサ24は、ユーザから測定された脳波と基準脳波との差異が許容範囲内に含まれると判断する。プロセッサ24は、ID「1」の基準脳波との間の類似度が閾値以上となる脳波がユーザから測定された場合、「空調機の冷房をオンする」という操作内容を特定する。
ユーザ毎に、基準生体情報と操作情報とが紐付けられて管理テーブルに登録されてもよい。例えば、ユーザから測定された生体情報が、当該ユーザの基準生体情報として管理テーブルに登録されてもよい。
図5には、個々のユーザの具体的な基準生体情報が登録されている管理テーブルの一例が示されている。図5に示されている管理テーブルにおいては、IDと、基準生体情報の一例である基準脳波と、操作情報と、ユーザ情報とが紐付けられている。ユーザ情報は、ユーザを識別するための情報(例えば、ユーザ名やユーザID等)である。
ユーザ情報に紐付けられている基準脳波は、当該ユーザ情報が示すユーザが、当該基準脳波に紐付けられている操作内容を行うときに当該ユーザから測定された脳波、又は、当該ユーザが当該操作内容を要求するときに当該ユーザから測定された脳波である。各ユーザから測定された各基準脳波は、予め各ユーザから測定されて管理テーブルに登録される。
例えば、ユーザAが「空調機」の冷房を手動でオンしたときにユーザAの脳波が生体情報測定装置12によって測定され、その測定された脳波が、ユーザAが「空調機の冷房をオンする」という操作内容を表す基準脳波として、管理テーブルに登録される。
この場合、測定されたユーザAの当該基準脳波と、「空調機の冷房をオン」するという操作内容を示す操作情報と、ユーザAを識別するためのユーザ情報とが紐付けられて管理テーブルに登録される。その登録は、情報処理装置10を用いて行われてもよいし、他の装置を用いて行われてもよい。図5に示す例では、これらの情報はID「1」の情報として登録される。他の操作や他のユーザについても同様である。
なお、登録の作業を複数回行い、これによって測定された複数の脳波の平均を、基準脳波として登録してもよい。例えば、ユーザAが「空調機」の冷房を手動でオンし、そのときにユーザAから発生した脳波を生体情報測定装置12によって測定するという作業を、複数回行い、これによって測定された複数の脳波の平均を、ユーザAの基準脳波として管理テーブルに登録してもよい。
例えば、ユーザAが情報処理装置10にログインしている状態で、ユーザAから、ID「1」の基準脳波との差異が許容範囲内に含まれる脳波が測定された場合、プロセッサ24は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。より詳しく説明すると、ユーザAが情報処理装置10にログインしているときに、生体情報測定装置12によって脳波が測定されると、プロセッサ24は、ログインしているユーザAを識別するためのユーザ情報に紐付けられて管理テーブルに登録されている基準脳波を検索する。図5に示す例では、ID「1」の基準脳波と、ID「3」の基準脳波が、ユーザAの基準脳波として管理テーブルに登録されているため、これらの基準脳波が検索される。測定された脳波とID「1」の基準脳波との差異が許容範囲内である場合、プロセッサ24は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。測定された脳波とID「3」の基準脳波との差異が許容範囲内である場合、プロセッサ24は、ID「3」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオフする。
別の例として、機器16を操作するユーザが「ユーザA」であることが情報処理装置10に設定されている状態で、ユーザAから、ID「1」の基準脳波との差異が許容範囲内に含まれる脳波が測定された場合、プロセッサ24は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンしてもよい。より詳しく説明すると、機器16を操作するユーザが「ユーザA」であることが情報処理装置10に設定されている状態で、生体情報測定装置12によって脳波が測定されると、プロセッサ24は、機器16を操作するユーザであるユーザAを識別するためのユーザ情報に紐付けられて管理テーブルに登録されている基準脳波を検索する。測定された脳波とID「1」の基準脳波との差異が許容範囲内である場合、プロセッサ24は、ID「1」の操作情報を含む制御情報を「空調機」に送信することで、「空調機」の冷房をオンする。機器16を操作するユーザは、例えば、ユーザによって情報処理装置10に設定される。
ユーザA以外の他のユーザについても、ユーザAと同様に、各情報が管理テーブルに登録される。例えば、ID「2」に紐付けられている各情報は、ユーザBが「空調機」の冷房をオンしたときの操作に関する情報である。ID「3」に紐付けられている各情報は、ユーザAが「空調機」の冷房をオフにしたときの操作に関する情報である。
図4及び図5に示されている管理テーブルには、機器16の電源をオン又はオフする操作を示す操作情報が登録されているが、機器16の機能レベルを示す操作情報が管理テーブルに登録されてもよい。
以下、図6を参照して、特定の条件を満たす生体情報について詳しく説明する。図6には、生体情報の一例である脳波の一例が示されている。横軸は時間を示し、縦軸は脳波の振幅を示す。生体情報の一例として脳波を例に挙げて説明するが、脳波以外の生体情報が用いられてもよい。
例えば、特定の条件を満たす脳波は、予め定められたフィルタリングによって除去されない生体情報である。具体的には、閾値Ath以上の振幅を有する脳波が、特定の条件を満たす脳波である。例えば、波形26のピークは、閾値Ath以上の振幅を有するため、波形26は、特定の条件を満たす脳波である。波形26に紐付く、機器16に対する1つの操作内容が特定されない場合、プロセッサ24は、機器16によって実行されるべき操作内容をユーザに問い合わせる。例えば、波形26との差異が許容範囲内に含まれる基準脳波が、図4に示されている管理テーブルに登録されていない場合、プロセッサ24は、操作内容をユーザに問い合わせる。また、波形26がユーザAから測定された場合において、ユーザAを示すユーザ情報に紐付けられている基準脳波であって波形26との差異が許容範囲内に含まれ基準脳波が、図5に示されている管理テーブルに登録されていない場合、プロセッサ24は、操作内容をユーザAに問い合わせる。ユーザA以外のユーザについても同様である。
別の例として、特定の条件を満たす脳波は、トリガー情報がユーザから測定された時点から予め定められた時間ΔT内にユーザから測定された脳波である。例えば、波形28が、トリガー情報の一例である。時間ΔTは、ユーザによって変更されてもよい。波形28は、ユーザがこれから操作内容を表す脳波を発することを表す特定の脳波であってもよいし、ストレスや不快等のようなユーザの状態や感情を表す脳波であってもよい。トリガー情報である波形28が測定された時点は、例えば、波形28のピークが測定された時点であってもよいし、予め定められた振幅以上の振幅を有する波形が測定された時点であってもよい。波形26は、波形28が測定された時点から時間ΔT内にユーザから測定されている。したがって、波形26は、特定の条件を満たす脳波である。トリガー情報である波形28が測定された時点から時間ΔT内に測定された脳波であって、閾値Ath以上の振幅を有する脳波が、特定の条件を満たす脳波であってもよい。例えば、波形26は、その条件を満たす。
以下、図7を参照して、ユーザから測定された生体情報と操作情報とを紐付ける処理について詳しく説明する。ここでは、ユーザ毎に生体情報と操作情報とを紐付ける処理について説明する。図7には、管理テーブルの一例が示されている。図7に示されている管理テーブルは、図5に示されている管理テーブルと同様に、ユーザ毎に基準脳波と操作情報とが紐付けられて登録されている管理テーブルである。
ID「1」〜「3」のそれぞれに紐付けられている情報は、図5に示されている情報と同じである。ID「4」に紐付けられている情報は、図5に示されている管理テーブルに対して新たに追加された情報である。図5に示されている管理テーブルは、ID「4」に紐付けられている情報が登録される前の管理テーブルであり、図7に示されている管理テーブルは、ID「4」に紐付けられている情報が新たに登録された管理テーブルである。
ID「4」に紐付けられている情報が管理テーブルに登録される前は、図5に示されている管理テーブルが用いられる。この状況で、ID「4」の脳波がユーザAから測定され、当該脳波は特定の条件を満たす脳波であるものとする。この場合、プロセッサ24は、ユーザAから測定された当該脳波と、図5に示されている管理テーブルに登録されている各基準脳波であってユーザAを示すユーザ情報に紐付けられている各基準脳波とを比較する。ID「4」の脳波との差異が許容範囲内に含まれる基準脳波が、ユーザAを示すユーザ情報に紐付けられて管理テーブルに登録されていない場合、プロセッサ24は、操作内容をユーザAに問い合わせる。ユーザAが、その問い合わせに応じて、「空調機の冷房をオフする」という内容の操作内容を指示した場合、プロセッサ24は、当該操作内容を示す操作情報に、ユーザAから測定された脳波を基準脳波として紐付ける。また、プロセッサ24は、当該基準脳波と当該操作情報とにユーザAを示すユーザ情報を紐付ける。そして、図7に示すように、プロセッサ24は、これらの情報をID「4」に紐付けられた情報として管理テーブルに登録する。このようにして、管理テーブルが、図5に示されている管理テーブルから図7に示されている管理テーブルに更新される。以後、プロセッサ24は、図7に示されている管理テーブルを用いて、ユーザから測定された脳波に基づいて操作内容を特定する。
図7に示すように、ユーザAを示すユーザ情報と「空調機の冷房をオフする」という操作内容を示す操作情報とには、ID「3」の基準脳波とID「4」の基準脳波とが紐付けられている。つまり、ID「3」の基準脳波との差異が許容範囲内に含まれる脳波、又は、ID「4」の基準脳波との差異が許容範囲内に含まれる脳波が、ユーザAから測定された場合、プロセッサ24は、「空調機の冷房をオフする」という操作内容を、機器16に対する操作内容として特定し、当該操作内容を示す操作情報を、機器16の一例である空調機に送信する。このように、複数の基準脳波が1つの操作内容を示す操作情報に紐付けられることがある。
図8には、別の例の管理テーブルが示されている。図8に示されている管理テーブルは、ユーザ毎に基準生体情報と操作情報とが紐付けられて登録されている管理テーブルである。図8に示す例では、一例として、脳波と体温とが基準生体情報として用いられている。したがって、管理テーブルには、IDと、基準生体情報の一例である基準脳波と、基準生体情報の一例である基準体温と、操作情報と、ユーザ情報とが紐付けられている。
例えば、ID「1」の基準脳波との差異が許容範囲内に含まれる脳波がユーザAから測定され、かつ、閾値以上の体温がユーザAから測定された場合、プロセッサ24は、ID「1」の操作情報が示す操作内容を、機器16に対する操作内容として特定する。
ユーザAから測定された脳波及び体温の中の少なくとも1つが特定の条件を満たす場合において、ユーザAから測定された脳波と体温とに基づいて、機器16に対する1つの操作内容が特定されない場合、プロセッサ24は、機器16に対する操作内容をユーザAに問い合わせる。プロセッサ24は、その問い合わせに応じてユーザAが指示した操作内容を示す操作情報と、ユーザAから測定された脳波と体温とを紐付けて管理テーブルに登録する。また、プロセッサ24は、ユーザAを示すユーザ情報をこれらの情報に紐付ける。当該脳波は基準脳波として管理テーブルに登録され、当該体温は基準体温として管理テーブルに登録される。なお、基準体温は、ユーザから測定された体温を基準として予め定められた範囲を有する値であってもよい。
図9には、更に別の管理テーブルが示されている。図9に示されている管理テーブルは、ユーザ毎に基準脳波と基準環境情報と操作情報とが紐付けられて登録されている管理テーブルである。基準生体情報の一例として基準脳波が用いられているが、別の生体情報が基準生体情報として用いられてもよい。
基準環境情報は、当該基準環境情報に紐付けられている基準脳波が測定されると想定される環境を示す情報である。基準環境情報として室温が用いられているが、別の環境情報が基準環境情報として用いられてもよい。
例えば、ID「1」の基準脳波との差異が許容範囲内に含まれる脳波がユーザAから測定され、かつ、当該脳波が測定されたときの室温が28℃以上である場合、プロセッサ24は、ID「1」の操作情報が示す操作内容を、機器16に対する操作内容として特定する。このように、ユーザから測定された脳波と、当該脳波が測定されたときの室温とに基づいて、機器16に対する操作内容が特定される。
ユーザAから測定された脳波が特定の条件を満たしている場合において、ユーザAから測定された脳波に基づいて、機器16に対する1つの操作内容が特定されない場合、プロセッサ24は、機器16に対する操作内容をユーザに問い合わせる。プロセッサ24は、その問い合わせに応じてユーザが指示した操作内容を示す情報と、ユーザAから測定された脳波と、当該脳波が測定されたときの室温と、ユーザAを示すユーザ情報とを紐付けて管理テーブルに登録する。当該脳波は基準脳波として管理テーブルに登録され、当該室温は基準環境情報として管理テーブルに登録される。なお、基準環境情報が示す室温は、当該脳波が測定されたときの室温を基準として予め定められた範囲を有する値であってもよい。
また、ユーザAから測定された脳波が特定の条件を満たしており、当該脳波が測定されたときの室温が28℃以上である場合において、ユーザAから測定された脳波に基づいて、機器16に対する1つの操作内容が特定されない場合、プロセッサ24は、室温が28℃以上であることを示す基準環境情報とユーザAを示すユーザ情報とに紐付けられている操作情報が示す操作内容を、ユーザAに問い合わせてもよい。図9に示す例では、室温が28℃以上であることを示す基準環境情報と、ユーザAを示すユーザ情報とは、ID「1」に紐付けられている情報である。したがって、プロセッサ24は、「空調機の冷房をオンしますか?」という操作内容をユーザに問い合わせる。ユーザは、その問い合わせに対して、「はい」又は「いいえ」等のような内容を回答してもよいし、具体的な操作内容を指示してもよい。例えば、ユーザが「はい」と回答した場合、プロセッサ24は、ユーザAから測定された脳波と、上記の基準環境情報と、「空調機の冷房をオンする」という操作内容を示す操作情報と、ユーザAを示すユーザ情報とを紐付けて管理テーブルに登録する。当該脳波は基準脳波として管理テーブルに登録される。また、ユーザが具体的な操作内容を指示した場合、プロセッサ24は、ユーザAから測定された脳波と、上記の基準環境情報と、当該操作内容を示す操作情報と、ユーザAを示すユーザ情報とを紐付けて管理テーブルに登録する。
なお、上記の実施形態において、プロセッサ24による処理が、情報処理装置10以外の他の装置(例えばサーバ等の外部装置)によって実行され、その処理の結果を示す情報が、UI20に表示されたり、音声情報として出力されたりしてもよい。
上記各実施形態において、プロセッサとは広義的なプロセッサを指し、汎用的なプロセッサ(例えばCPU: Central Processing Unit、等)や、専用のプロセッサ(例えばGPU: Graphics Processing Unit、ASIC: Application Specific Integrated Circuit、FPGA: Field Programmable Gate Array、プログラマブル論理デバイス、等)を含むものである。また上記各実施形態におけるプロセッサの動作は、1つのプロセッサによって成すのみでなく、物理的に離れた位置に存在する複数のプロセッサが協働して成すものであってもよい。また、プロセッサの各動作の順序は上記各実施形態において記載した順序のみに限定されるものではなく、適宜変更してもよい。
10 情報処理装置、12A,12B 生体情報測定装置、14 環境情報測定装置、16 機器、24 プロセッサ。

Claims (9)

  1. プロセッサを有し、
    前記プロセッサは、
    特定の条件を満たす、ユーザの生体情報が取得された場合において、前記取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせ、
    前記問い合わせに応じてユーザによって指示された操作内容と前記取得された生体情報とを紐付ける、
    情報処理装置。
  2. 前記特定の条件を満たす生体情報は、予め定められたフィルタリングに従って除去されない生体情報である、
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記特定の条件を満たす生体情報は、トリガーである特定の情報がユーザから測定された時点から予め定められた時間内に取得された生体情報である、
    ことを特徴とする請求項1に記載の情報処理装置。
  4. 前記特定の条件を満たす生体情報は、予め定められた回数以上の操作が機器に対して行われた後に取得された生体情報である、
    ことを特徴とする請求項1に記載の情報処理装置。
  5. 前記プロセッサは、
    機器に対する1つの操作内容が特定されない場合、前記取得された生体情報の特徴に最も近い特徴を有する生体情報に紐付けられている操作内容をユーザに問い合わせる、
    ことを特徴とする請求項1から請求項4のいずれか一項に記載の情報処理装置。
  6. 前記プロセッサは、
    前記問い合わせに応じてユーザから操作内容が指示されない場合、前記取得された生体情報に操作内容を紐付けない、
    ことを特徴とする請求項1から請求項5のいずれか一項に記載の情報処理装置。
  7. 前記プロセッサは、更に、
    前記問い合わせに応じてユーザによって指示された操作内容に別の生体情報が紐付けられている場合、前記別の生体情報に代えて、前記取得された生体情報をユーザによって指示された操作内容に紐付ける、
    ことを特徴とする請求項1から請求項6のいずれか一項に記載の情報処理装置。
  8. 前記プロセッサは、
    前記特定の条件を満たす生体情報に関連する特定の環境下で、前記特定の条件を満たす生体情報が取得された場合において、前記取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせる、
    ことを特徴とする請求項1から請求項7のいずれか一項に記載の情報処理装置。
  9. コンピュータに、
    特定の条件を満たす、ユーザの生体情報が取得された場合において、前記取得された生体情報に紐づく、機器に対する1つの操作内容が特定されない場合、機器によって実行されるべき操作内容をユーザに問い合わせさせ、
    前記問い合わせに応じてユーザによって指定された操作内容と前記取得された生体情報とを紐付けさせる、
    プログラム。
JP2019220278A 2019-12-05 2019-12-05 情報処理装置及びプログラム Pending JP2021089635A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019220278A JP2021089635A (ja) 2019-12-05 2019-12-05 情報処理装置及びプログラム
US16/839,792 US11636392B2 (en) 2019-12-05 2020-04-03 Information processing device and non-transitory computer readable medium
CN202010376241.1A CN112925408A (zh) 2019-12-05 2020-05-07 信息处理装置及计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019220278A JP2021089635A (ja) 2019-12-05 2019-12-05 情報処理装置及びプログラム

Publications (1)

Publication Number Publication Date
JP2021089635A true JP2021089635A (ja) 2021-06-10

Family

ID=76163258

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019220278A Pending JP2021089635A (ja) 2019-12-05 2019-12-05 情報処理装置及びプログラム

Country Status (3)

Country Link
US (1) US11636392B2 (ja)
JP (1) JP2021089635A (ja)
CN (1) CN112925408A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11769595B2 (en) * 2020-10-01 2023-09-26 Agama-X Co., Ltd. Information processing apparatus and non-transitory computer readable medium
JP2022059140A (ja) 2020-10-01 2022-04-13 株式会社Agama-X 情報処理装置及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009057260A1 (ja) * 2007-10-29 2009-05-07 Panasonic Corporation 脳波インタフェースシステムのための起動装置、方法およびコンピュータプログラム
JP4630382B2 (ja) * 2007-10-29 2011-02-09 パナソニック株式会社 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム
US20170199570A1 (en) * 2014-05-27 2017-07-13 Lg Electronics Inc. Mobile terminal and control method therefor

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014102722A1 (en) * 2012-12-26 2014-07-03 Sia Technology Ltd. Device, system, and method of controlling electronic devices via thought
WO2014138925A1 (en) * 2013-03-15 2014-09-18 Interaxon Inc. Wearable computing apparatus and method
JP6340528B2 (ja) 2014-05-01 2018-06-13 公益財団法人ヒューマンサイエンス振興財団 Bmi運動補助装置
KR101585150B1 (ko) 2014-09-25 2016-01-14 서울대학교산학협력단 뇌 연결성에 기반한 멀티모드 뇌-컴퓨터 인터페이스 시스템
US10678502B2 (en) * 2016-10-20 2020-06-09 Qualcomm Incorporated Systems and methods for in-ear control of remote devices
CN107291230B (zh) * 2017-06-19 2019-08-16 京东方科技集团股份有限公司 脑电波控制方法及装置、显示装置
CN107277075A (zh) * 2017-08-18 2017-10-20 京东方科技集团股份有限公司 认证装置和认证方法
US11435737B2 (en) * 2019-05-21 2022-09-06 Honda Motor Co., Ltd. System and method for various vehicle-related applications

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009057260A1 (ja) * 2007-10-29 2009-05-07 Panasonic Corporation 脳波インタフェースシステムのための起動装置、方法およびコンピュータプログラム
JP4630382B2 (ja) * 2007-10-29 2011-02-09 パナソニック株式会社 脳波インタフェースシステムに組み込まれる補正装置、方法およびコンピュータプログラム
US20170199570A1 (en) * 2014-05-27 2017-07-13 Lg Electronics Inc. Mobile terminal and control method therefor

Also Published As

Publication number Publication date
CN112925408A (zh) 2021-06-08
US20210174251A1 (en) 2021-06-10
US11636392B2 (en) 2023-04-25

Similar Documents

Publication Publication Date Title
JP2023129585A (ja) 情報処理方法、情報処理装置、及び情報処理プログラム
JP2021089635A (ja) 情報処理装置及びプログラム
JP2024045281A (ja) 情報処理方法
JP7330507B2 (ja) 情報処理装置、プログラム、及び、方法
JP7303544B2 (ja) 情報処理装置、プログラム、及び方法
US20210063971A1 (en) Information processing apparatus and non-transitory computer readable medium storing program
JP7343168B2 (ja) 情報処理装置、プログラム、及び、方法
JP7254346B2 (ja) 情報処理装置及びプログラム
US11687049B2 (en) Information processing apparatus and non-transitory computer readable medium storing program
US20210165488A1 (en) Information processing apparatus and non-transitory computer readable medium
JP7411209B2 (ja) 情報処理装置及びプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210322

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20210416

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210507

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231023

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240130