JP2018044977A - 疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム - Google Patents

疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム Download PDF

Info

Publication number
JP2018044977A
JP2018044977A JP2016177508A JP2016177508A JP2018044977A JP 2018044977 A JP2018044977 A JP 2018044977A JP 2016177508 A JP2016177508 A JP 2016177508A JP 2016177508 A JP2016177508 A JP 2016177508A JP 2018044977 A JP2018044977 A JP 2018044977A
Authority
JP
Japan
Prior art keywords
user
simulated experience
biological information
pseudo
intensity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016177508A
Other languages
English (en)
Other versions
JP6838902B2 (ja
Inventor
松田 進
Susumu Matsuda
進 松田
渡 白木
Wataru Shiraki
渡 白木
仁志 井面
Hitoshi Inomo
仁志 井面
亨輔 高橋
Kiyousuke Takahashi
亨輔 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SANTOKU SHOJI KK
SANTOKU TRADING CO Ltd
Kagawa University NUC
Original Assignee
SANTOKU SHOJI KK
SANTOKU TRADING CO Ltd
Kagawa University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SANTOKU SHOJI KK, SANTOKU TRADING CO Ltd, Kagawa University NUC filed Critical SANTOKU SHOJI KK
Priority to JP2016177508A priority Critical patent/JP6838902B2/ja
Publication of JP2018044977A publication Critical patent/JP2018044977A/ja
Application granted granted Critical
Publication of JP6838902B2 publication Critical patent/JP6838902B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】バーチャルリアリティを用いた訓練効果を安定化する技術を提供する。【解決手段】疑似体験提供装置100において、選択部111は、疑似体験提供装置100の利用者に設定された刺激強度に基づいて、利用者に提示する疑似体験を構成するシーンを選択する。提示部112は、選択部111が選択したシーンを利用者に提示する。生体情報取得部113は、利用者の生体情報を計測する計測装置が計測した生体情報を取得する。強度調整部114は、生体情報取得部113が取得した生体情報に基づいて刺激強度を再設定する。【選択図】図3

Description

本発明は、疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラムに関し、特にVR(Virtual Reality;バーチャルリアリティ)技術を用いた訓練を提供するための技術に関する。
近年、ゲームや訓練を目的とするVR技術が急速に発達してきている。例えば特許文献1には、VRの中でリアルタイムで模擬訓練を行うことができる仮想現実シミュレータが開示されている。
特開2000−122520号公報
VRを用いることにより、再現が難しい環境や危険な環境を、訓練のために簡便かつ安全に再現することができる。一方で、VRを用いて提示される仮想的な環境から受ける刺激には個人差があり、同一の模擬訓練であっても利用者によって訓練効果が異なることが起こりうる。仮想的な環境から受ける刺激が弱すぎると訓練効果が低くなり、強すぎると訓練の継続が困難となりかねない。
そこで、本発明はこれらの点に鑑みてなされたものであり、バーチャルリアリティを用いた訓練効果を安定化する技術を提供することを目的とする。
本発明の第1の態様は、疑似体験提供装置である。この疑似体験提供装置は、前記疑似体験提供装置の利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択する選択部と、前記選択部が選択したシーンを前記利用者に提示する提示部と、前記利用者の生体情報を計測する計測装置が計測した生体情報を取得する生体情報取得部と、前記生体情報取得部が取得した生体情報に基づいて前記刺激強度を再設定する強度調整部と、を備える。
前記選択部は、前記強度調整部が前記刺激強度を再設定した場合、再設定後の刺激強度に基づいて前記利用者に提示する疑似体験を構成するシーンを選択してもよい。
前記疑似体験提供装置は、前記利用者に関する先見情報に基づいて、前記刺激強度の初期値を設定する設定部をさらに備えてもよい。
前記疑似体験提供装置は、前記疑似体験提供装置を利用した複数の利用者のそれぞれが前記疑似体験提供装置の利用前に作成したアンケートの結果及び利用後に作成した前記疑似体験に関する評価結果と、前記疑似体験提供装置の利用中に前記複数の利用者それぞれに設定した前記刺激強度とに基づいて、前記アンケートの結果及び前記評価結果と、前記刺激強度との関係を対応づけて格納する刺激強度データベースを生成するデータベース生成部をさらに備えてもよく、前記設定部は、前記疑似体験提供装置の利用前に前記利用者が回答したアンケートの結果に基づいて前記データベースを参照することにより、前記刺激強度の初期値を設定してもよい。
前記生体情報取得部は、前記計測装置が計測した前記利用者の血流量を取得してもよく、前記強度調整部は、前記血流量の変化に基づいて前記利用者に設定する刺激強度を変更してもよい。
本発明の第2の態様は、疑似体験提供方法である。この方法は、疑似体験提供装置の利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択するステップと、選択した前記シーンを前記利用者に提示するステップと、前記利用者の生体情報を計測する計測装置が計測した生体情報を取得するステップと、取得した前記生体情報に基づいて前記刺激強度を再設定するステップと、をプロセッサが実行する。
本発明の第3の態様は、プログラムである。このプログラムは、コンピュータに、疑似体験提供装置の利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択する機能と、選択した前記シーンを前記利用者に提示する機能と、前記利用者の生体情報を計測する計測装置が計測した生体情報を取得する機能と、取得した前記生体情報に基づいて前記刺激強度を再設定する機能と、を実現させる。
本発明の第4の態様は、疑似体験提供システムである。このシステムは、1又は複数の利用者のそれぞれに疑似体験を提供する1又は複数の疑似体験提供装置と、前記1又は複数の利用者のそれぞれに装着させる1又は複数のヘッドマウントディスプレイと、前記1又は複数の利用者のそれぞれの生体情報を計測する1又は複数の計測装置と、を含む。前記1又は複数の疑似体験提供装置のそれぞれは、前記利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択する選択部と、前記選択部が選択したシーンを前記利用者に提示する提示部と、前記計測装置が計測した生体情報を取得する生体情報取得部と、前記生体情報取得部が取得した生体情報に基づいて前記刺激強度を再設定する強度調整部と、を備える。
前記疑似体験を構成するシーンのそれぞれは、前記刺激強度に対応する複数の表現形態を含んでもよく、前記選択部は、前記刺激強度に基づいて前記利用者に提示するシーンの表現形態を選択してもよい。
前記選択部は、(1)前記疑似体験提供システムの利用者が1人の場合、前記刺激強度に基づいて前記利用者に提示するシーンの順序を変更し、(2)前記疑似体験提供システムの利用者が複数の場合においてそれぞれの利用者に共通する疑似体験を同時に提供する場合、前記刺激強度に基づく前記シーンの順序変更を禁止してもよい。
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。
本発明によれば、バーチャルリアリティを用いた訓練効果を安定化することができる。
本発明の実施の形態に係る疑似体験提供システムの概要を示す図である。 本発明の実施の形態に係る疑似体験提供システムの構成例を模式的に示す図である。 本発明の実施の形態に係る疑似体験提供装置の機能構成を模式的に示す図である。 利用者に関する事前情報であるアンケート結果と利用者に設定する訓練強度の初期値との対応関係を表形式で示す初期値設定表の一例を示す図である。 刺激強度に基づくシーンの組み合わせを表形式で示す図である。 刺激強度に基づくシナリオのフローを示す図である。 本発明の実施の形態に係る疑似体験提供システムが実現する主要機能の関係を示す図である。 本発明の実施の形態に係る強度調整部の機能構成を模式的に示す図である。 本発明の実施の形態に係る疑似体験提供システムが実行する疑似体験提供処理の流れを説明するためのフローチャートである。
<実施の形態の概要>
本発明の実施の形態の概要を述べる。実施の形態に係る疑似体験提供システムは、事故の状況等の危険な環境をVR技術を用いて仮想的に再現し、被験者である利用者に提示するためのシステムである。映像や音声等を用いて状況を再現するため、利用者の安全を確保しつつ被験者に種々の状況を追体験させることができる。特に、HMD(Head Mounted Display)等を用いて映像を提示することによって利用者に強い没入感を与えることができるので、危険な状況の学習や回避の訓練効果を高めることが期待できる。
本願の発明者は、VR技術を用いた仮想的な状況の再現は、同じ映像及び音声を提示した場合であっても、利用者によって感じる刺激の強さが異なることを見いだした。ある利用者が疑似体験から感じる刺激が弱い場合は、強い場合よりも訓練の効果が低くなる傾向にある。一方、利用者が疑似体験から感じる刺激が強すぎる場合、訓練の継続に支障を来すことも起こりうる。
そこで実施の形態に係る疑似体験提供システムは、疑似体験を提示中の利用者の生体情報を取得する。ここで「生体情報」とは、疑似体験の提示を受けている利用者を計測することによって得られる利用者の生体信号の時間変化を示す情報である。「生体信号」は、例えば利用者の血流量、脈拍、血圧、心拍、体温、発汗量、瞳孔の動き、脳波、脳磁波、心電図、及び筋電位のうちの少なくとも一つである。一般に、利用者の心理状態が退屈の状態、通常の状態、及び緊迫感を感じている状態では、それぞれ生体信号が異なる。
実施の形態に係る疑似体験提供システムは、利用者を計測して取得した生体情報に基づいて、利用者に提示する疑似体験の刺激強度を変更する。これにより、実施の形態に係る疑似体験提供システムは、利用者に提示する疑似体験の刺激強度を、利用者の心理状態に応じて変更することができる。結果として、利用者に合った刺激強度で疑似体験を提供できるので、利用者によらず訓練効果を安定化することができる。
図1は、本発明の実施の形態に係る疑似体験提供システム1の概要を示す図である。以下図1を参照して、実施の形態に係る疑似体験提供システム1の動作の概要を説明する。
図1に示す疑似体験提供システム1の例は、疑似体験提供装置100、ヘッドマウントディスプレイ200、計測装置300、姿勢検知センサ400、カメラ500、及びモニタ600を含む。
疑似体験提供装置100は、利用者Uに設定された刺激強度に基づいて、利用者Uに疑似体験を提示するための装置である。疑似体験提供装置100は、例えばPC(Personal Computer)やサーバ等であり、CPU(Central Processing Unit)やGPU(Graphical Processing Unit)等のプロセッサやメモリ等の各種計算リソースを備える電子機器である。
以下、処理の手順を(1)、(2)、(3)及び(4)で説明するが、その説明は図1中の(1)、(2)、(3)及び(4)と対応する。
(1)疑似体験提供装置100はまず、利用者U毎に設定されている刺激強度を選択する。(2)疑似体験提供装置100は、選択した刺激強度に基づく疑似体験を利用者Uに提示する。より具体的には、疑似体験提供装置100は利用者Uが装着するヘッドマウントディスプレイ200と有線又は無線で接続しており、疑似体験を表現する映像及び音声をヘッドマウントディスプレイ200に再生させる。図1は利用者Uに交通事故の疑似体験を提示する場合の例を示している。ヘッドマウントディスプレイ200を装着する利用者Uには、自動車が利用者Uに向かって進行している状況を体験することができる。
利用者Uは、利用者Uの生体情報を計測するための計測装置300を装着している。(3)計測装置300は、疑似体験を提示されている利用者Uの生体情報を計測し疑似体験提供装置100に送信する。(4)疑似体験提供装置100は、計測装置300が計測した利用者Uの生体情報に基づいて、刺激強度を調整する。以上を繰り返すことにより、疑似体験提供装置100は利用者Uに疑似体験を提示している間に、刺激強度を柔軟に変更することができる。
なお、図1に示す疑似体験提供装置100の例では、ヘッドマウントディスプレイ200を用いて利用者Uに疑似体験を提示する。そこで利用者Uの姿勢を検知するための姿勢検知センサ400と、利用者Uを撮影するカメラ500とも備えている。疑似体験提供装置100は、姿勢検知センサ400が検出した利用者Uの姿勢に応じて、利用者Uに提示する映像を変更することができる。すなわち、利用者Uのリアクションに応じて利用者Uに提示する映像自体やその提示順序を変更することができる。
また、ヘッドマウントディスプレイ200を装着した利用者Uは視界が遮蔽されるため、物体が接近しても利用者Uは気づくことが難しい。そこで疑似体験提供装置100はカメラ500が撮像した映像を解析し、利用者Uが物体に接近した場合にそのことを利用者Uに通知することができる。結果として、疑似体験提供装置100による訓練の安全性を高めることができる。
疑似体験提供システム1はさらに、利用者Uに提示している映像を表示するためのモニタ600も備えている。モニタ600はまた、疑似体験提供装置100が提示する疑似体験を制御するためのGUI(Graphical User Interface)も表示することができる。疑似体験提供装置100のオペレータはモニタ600を見ながら手動で刺激強度を変更したり、疑似体験を変更したり、疑似体験を中断したりすることができる。
<疑似体験提供システム1の構成>
図2は、本発明の実施の形態に係る疑似体験提供システム1の構成例を模式的に示す図である。図2は、図1に示す疑似体験提供システム1の例とは異なり、複数の疑似体験提供装置100を連携させて複数の利用者Uに疑似体験を提示するシステムを図示している。
図2に示す疑似体験提供システム1の例では、第1疑似体験提供装置100aと第2疑似体験提供装置100bとの2つの疑似体験提供装置100が、中継装置800を介して互いに通信可能な態様で接続している。なお、疑似体験提供システム1は2つ以上の疑似体験提供装置100を互いに通信可能な態様で接続することもできる。
第1疑似体験提供装置100aは第1利用者U1に疑似体験を提供し、第2疑似体験提供装置100bは第2利用者U2に疑似体験を提供する。このため、第1疑似体験提供装置100aには第1ヘッドマウントディスプレイ200a、第1計測装置300a、第1姿勢検知センサ400a、第1カメラ500a、及び第1モニタ600aが接続されている。また、第1疑似体験提供装置100aは第1利用者U1が装着するための第1聴覚再現装置250aも接続されている。
第2疑似体験提供装置100bも第1疑似体験提供装置100aと同様であり、第2ヘッドマウントディスプレイ200b、第2聴覚再現装置250b、第2計測装置300b、第2姿勢検知センサ400b、第2カメラ500b、及び第2モニタ600bが接続されている。
図2に示す疑似体験提供システム1の例では、疑似体験として映像及び音声に加えて、触覚刺激を利用者Uに提示することもできる。このため疑似体験提供システム1は、第1利用者U1に触覚刺激を提示するための第1触覚再現装置700aと、第2利用者U2に触覚刺激を提示するための第2触覚再現装置700bとも備える。
なお、第1聴覚再現装置250a及び第2聴覚再現装置250bは、それぞれ例えばヘッドフォンを用いて実現される。また第1触覚再現装置700aと第2触覚再現装置700bとは、それぞれ例えば振動発生装置や放電装置によって実現できる。
このように、疑似体験提供システム1は複数の疑似体験提供装置100が協働して複数の利用者Uに疑似体験を提示することができる。これにより、疑似体験提供システム1は複数の利用者Uが協働して同じ疑似体験を体験する機会を提供することができ、より実用的な訓練を提供することができる。
図2に示す疑似体験提供システム1はさらに、疑似体験の提示を緊急停止するための停止スイッチも備える。より具体的には、疑似体験提供システム1は、第1疑似体験提供装置100aによる疑似体験の提示をオペレータが停止するための第1停止スイッチ900aを備える。同様に、疑似体験提供システム1は、第2疑似体験提供装置100bによる疑似体験の提示をオペレータが停止するための第2停止スイッチ900bを備える。
以下本明細書において、第1疑似体験提供装置100aと第2疑似体験提供装置100b、第1ヘッドマウントディスプレイ200aと第2ヘッドマウントディスプレイ200b、第1聴覚再現装置250aと第2聴覚再現装置250b、第1計測装置300aと第2計測装置300b、第1姿勢検知センサ400aと第2姿勢検知センサ400b、第1カメラ500aと第2カメラ500b、第1モニタ600aと第2モニタ600b、第1触覚再現装置700aと第2触覚再現装置700b、第1停止スイッチ900aと第2停止スイッチ900b、及び第1利用者U1と第2利用者U2とを特に区別する場合を除いて、それぞれ単に疑似体験提供装置100、ヘッドマウントディスプレイ200、聴覚再現装置250、計測装置300、姿勢検知センサ400、カメラ500、モニタ600、触覚再現装置700、停止スイッチ900、及び利用者Uと記載する。
<疑似体験提供装置100の機能構成>
図3は、本発明の実施の形態に係る疑似体験提供装置100の機能構成を模式的に示す図である。疑似体験提供装置100は、制御部110と記憶部120とを備える。制御部110は、選択部111、提示部112、生体情報取得部113、強度調整部114、設定部115、及びデータベース生成部116を備える。また記憶部120は、シナリオ格納部121、刺激強度格納部122、及び刺激強度データベース123を備える。
図3は、実施の形態に係る疑似体験提供装置100を実現するための機能構成を示しており、その他の構成は省略している。図3において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、CPU、メインメモリ、その他のLSI(Large Scale Integration)で構成することができる。またソフトウェア的には、メインメモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、又はそれらの組み合わせによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
疑似体験は、複数の「シーン」の組み合わせによって構成される。「シーン」は1以上の動画フレーム、動画フレームと連動して再生される音声データ、及び触覚再現装置700に再現させるべき刺激の情報が含まれる。疑似体験提供システム1は複数のシーンを順番に利用者Uに提示することで利用者Uに疑似体験を提供する。
疑似体験を構成するシーンが異なれば、利用者Uに与える刺激も異なる。例えば交通事故防止訓練の疑似体験において、車が実際に人に当たる様子を描いたシーンと、車が人に当たる前で停止したシーンとでは、前者の方が後者よりも利用者Uに与える刺激は強い。
また、疑似体験を構成するシーンの組み合わせが同じ場合であっても、各シーンを提示する順序が異なれば、利用者Uに与える刺激が異なりうる。例えば、疑似体験の冒頭において遠くにある車が徐々に近づいてきて人に衝突する場合と、疑似体験の開始直後に車が人に衝突するシーンが再現され、その後その前段が提示される場合とでは、前者の方が後者よりも利用者Uに与える刺激は弱いと考えられる。前者の場合、利用者Uはどのような疑似体験が提示されるかを予想できるからである。
そこで選択部111は、疑似体験提供装置100の利用者Uに設定された刺激強度に基づいて、利用者Uに提示する疑似体験を構成するシーンを選択する。具体的には、シナリオ格納部121は、疑似体験を構成するシーンを刺激強度と対応づけて格納している。選択部111は、利用者Uに設定された刺激強度に適合するシーンをシナリオ格納部121から選択する。なお、利用者Uに設定された刺激強度は、刺激強度格納部122に格納されている。また、刺激強度に基づくシーンの選択の詳細は後述する。
提示部112は、選択部111が選択したシーンを利用者Uに提示する。具体的には、提示部112はヘッドマウントディスプレイ200、聴覚再現装置250、又は触覚再現装置700に再現させる情報を生成してヘッドマウントディスプレイ200、聴覚再現装置250、又は触覚再現装置700に再現させる。
生体情報取得部113は、利用者Uの生体情報を計測する計測装置300が計測した生体情報を取得する。限定はしないが、計測装置300は利用者Uの血流量を計測し、生体情報取得部113は、計測装置300が計測した利用者Uの血流量を取得する。
強度調整部114は、生体情報取得部113が取得した生体情報の変化に基づいて刺激強度を変更し、刺激強度格納部122に格納する。なお、強度調整部114は、複数の利用者Uに対して種々の刺激強度におけるシーンを提示したときに計測された生体情報に関してディープラーニング等の既知の機械学習手法を用いて学習することによって得られた刺激強度選択識別器を用いることで、利用者Uに再設定すべき刺激強度を取得する。この刺激強度選択識別器は、利用者Uから計測された生体情報を入力とし、その利用者Uに設定すべき刺激強度を出力とするものである。
選択部111は、強度調整部114が刺激強度を再設定した場合、刺激強度格納部122に格納された再設定後の刺激強度に基づいて、利用者Uに提示する疑似体験を構成するシーンをシナリオ格納部121から選択する。これにより、疑似体験提供システム1は、疑似体験を提示された利用者Uの心理状態の変化に応じて疑似体験の刺激強度を調整することができる。
<刺激強度の初期値の設定>
ここで、疑似体験の刺激強度の初期設定について説明する。
実施の形態に係る疑似体験提供システム1は、利用者Uの生体情報に基づいて利用者Uに提示する疑似体験の刺激強度を選択する。このため、利用者Uに疑似体験を提示する前は利用者Uの生体情報が取得できないので、疑似体験提供システム1は疑似体験の刺激強度を選択できない。そこで、疑似体験提供システム1は、利用者Uに関する先見情報に基づいて、刺激強度の初期値を設定する設定部115を備えている。
より具体的には、設定部115は、疑似体験提供システム1から疑似体験の提示を受ける前に利用者Uが作成したアンケートの結果に基づいて、刺激強度データベース123を参照して刺激強度を取得し、刺激強度格納部122に格納する。
ここで「アンケート」とは、利用者Uの刺激強度を決定するために設定部115が参照する利用者Uの事前情報であり、複数の質問事項及びそれに対する利用者Uの回答によって構成されている。アンケートの質問事項の例としては、「いわゆるVR酔いを経験したことがあるか否か」、「高所が苦手か否か」、「電気的な刺激が苦手か否か」等、疑似体験提供システム1が利用者Uに提示する疑似体験に直接又は間接的に関連する質問である。
図4は、利用者Uに関する事前情報であるアンケート結果と利用者Uに設定する訓練強度の初期値との対応関係を表形式で示す初期値設定表の一例を示す図である。図4の初期値設定表は、利用者Uのアンケート結果を100点満点で点数化した場合における、点数と刺激強度との関係を示している。
図4に示す初期値設定表においては、刺激強度は1〜10までの10段階で表される。ここで刺激強度を示す数値が大きいほど、疑似体験が利用者Uに与える刺激が強いことを表す。初期値設定表は、刺激強度格納部122に格納されている。設定部115は、疑似体験提供システム1の利用前に利用者Uが回答したアンケートの結果に基づいて刺激強度データベース123に格納された初期値設定表を参照することにより、刺激強度の初期値を設定する。これにより、設定部115は、利用者Uの回答事項に基づくいわば利用者Uの主観評価に基づいて定められる刺激強度を選択することができる。
刺激強度データベース123は、疑似体験提供システム1を利用した複数の利用者Uのそれぞれが疑似体験提供システム1の利用前に作成したアンケートの結果及び利用後に作成した疑似体験に関する評価結果と、疑似体験提供システム1の利用中に複数の利用者Uそれぞれに設定した刺激強度との関係を対応づけた評価データベースを記憶している。
ここで「疑似体験に関する評価」には、上述のアンケートと同様の質問に対する各利用者Uの回答が含まれる。データベース生成部116は、疑似体験提供システム1を利用した利用者Uによる評価結果を取得し、刺激強度データベース123が格納する評価データベースを生成及び更新する。データベース生成部116はまた、評価データベースに基づいて、刺激強度格納部122が格納する初期値設定表も更新する。
このように、データベース生成部116が刺激強度データベースと初期値設定表とを維持管理することにより、疑似体験提供システム1を実際に利用した利用者Uの評価を初期値設定表に反映することができる。これにより、初期値設定表の精度が向上し、疑似体験提供システム1は利用者Uにより適した疑似体験を利用者Uに提供することができる。
<刺激強度に基づくシーンの選択>
続いて、選択部111が実行する刺激強度に基づくシーンの選択について説明する。
図5は、刺激強度に基づくシーンの組み合わせを表形式で示す図である。以下本明細書においては、疑似体験提供システム1が利用者Uに提示する疑似体験の主題を「シナリオ」と記載する。例えば図5は、交通安全訓練を主題とする「シナリオ1」を構成するシーンを図示している。図5に示す表は、シナリオ格納部121に格納されている。
図5に示す例では、シナリオ1は、シーン1からシーン5までの5つのシーンによって構成されている。また、同じシーンであっても刺激強度によって、複数の種類がある。例えばシーン1は、シーン1−1からシーン1−4までの4種類存在し、この順序で刺激強度が強くなる。
図5に示す例にしたがう場合、選択部111は、利用者Uに設定された刺激強度が1の場合「シーン1−1」、「シーン2−1」、「シーン3−1」、「シーン4−1」、及び「シーン5−1」から構成されたシナリオ1を選択する。また利用者Uに設定された刺激強度が10の場合、選択部111は「シーン1−4」、「シーン2−4」、「シーン3−4」、「シーン4−4」、及び「シーン5−4」から構成されたシナリオ1を選択する。
図6(a)−(b)は、刺激強度に基づくシナリオのフローを示す図である。具体的には、図6(a)は、各シナリオについて刺激強度とシナリオのフローのタイプとの対応関係を表形式で示す図である。また図6(b)は、タイプ毎のシナリオのフローを模式的に示す図である。図6(a)に示す表形式の対応関係と図6(b)に示すフローとはともに、シナリオ格納部121に格納されている。
図6(a)に示す例では、シナリオ1のフローはタイプ1からタイプ4までの4種類が存在する。例えば刺激強度が1及び2のときは、ともにタイプ1のフローが割り当てられている。一方、刺激高度が10の場合、シナリオ1にはタイプ4のフローが割り当てられている。
図6(b)に示すように、フローのタイプが異なる場合、シナリオを構成するシーンを提示する順番が異なる。例えば図6(b)に示す例では、タイプ1のフローではシナリオを構成するシーンはシーン1からシーン5まで順番に出現する。また利用者Uの判断によっては、シーン3が出現しない場合もありうる。一方タイプ4のフローでは冒頭でシーン5が出現し、続いてシーン4も出現する。利用者Uの判断によってシーンの出現の順序は変わるものの、全体としては全てのシーンが提示される。
このように、疑似体験を構成するシーンのそれぞれは、利用者Uに設定された刺激強度に対応する複数の表現形態を含んでいる。選択部111は、Uに設定された刺激強度に基づいて利用者Uに提示するシナリオの表現形態を選択する。
より具体的には、選択部111は、刺激強度格納部122から利用者Uに設定された刺激強度を取得する。選択部111は、取得した刺激強度に基づいて、シナリオ格納部121を参照してシナリオを構成するシーンを取得する。続いて選択部111は、取得した刺激強度に基づいて、シナリオ格納部121を参照してシナリオのフローのタイプ及びそのタイプに対応するシナリオのフローを取得する。提示部112は、選択部111が取得したシナリオのフローにしたがって、疑似体験を利用者Uに提示する。これにより、疑似体験提供システム1は利用者Uに設定された刺激強度に基づいたシーンを利用者Uに提示することができる。
<刺激強度の更新>
図7は、本発明の実施の形態に係る疑似体験提供システム1が実現する主要機能の関係を示す図であり、刺激強度の更新を説明するための図である。具体的には、疑似体験提供システム1は、設定部115が主に実行する刺激強度初期値設定機能F0、選択部111及び提示部112が主に実行する疑似体験提示機能F1、生体情報取得部113が主に実行する生体情報計測機能F2、及び強度調整部114が主に実行する刺激強度調整機能F3と緊急停止機能F4を少なくとも有する。
疑似体験提供システム1は、ひとたび刺激強度初期値設定機能F0を実行した後は、疑似体験提示機能F1、生体情報計測機能F2、及び刺激強度調整機能F3を並行して実行する。疑似体験提供システム1が疑似体験提示機能F1を実行すると利用者Uに疑似体験が提示され、その刺激の強度による利用者Uの生体情報の変化を疑似体験提供システム1の生体情報計測機能F2が計測する。疑似体験提供システム1の生体情報計測機能F2が計測した利用者Uの生体情報に基づいて、疑似体験提供システム1の刺激強度調整機能F3はその時点において利用者Uに設定すべき最適な刺激強度を調整する。
<疑似体験の緊急停止>
図8は、本発明の実施の形態に係る強度調整部114の機能構成を模式的に示す図であり、特に疑似体験の提示を緊急停止するための機能構成を示す図である。強度調整部114は、生体情報解析部1140、停止閾値記憶部1141、比較部1142、及び論理和演算部1143を備える。
生体情報解析部1140は、生体情報取得部113から取得した利用者Uの生体情報を解析する。具体的には、生体情報解析部1140は、取得した生体情報を解析して利用者Uが感じている心理的ストレスを、例えばストレスレベル1からストレスレベル10までの10段階に分類する。なお、ストレスレベルはその値が大きいほど利用者Uは強いストレスを感じていることを示している。
停止閾値記憶部1141は、利用者Uに対する疑似体験の提示を停止するか否かを判定するために強度調整部114が参照する停止閾値を記憶する。停止閾値記憶部1141は、例えばストレスレベル8を示す情報を記憶している。これは、生体情報解析部1140が解析した利用者Uのストレスレベルが停止閾値以上である場合、利用者Uに対する疑似体験の提示を停止することを意味する。なお、停止閾値はストレスレベル8に限られず、疑似体験の種類や利用者Uのアンケート結果等を勘案して決定すればよい。
比較部1142は、生体情報解析部1140が解析した利用者Uのストレスレベルと、停止閾値記憶部1141に格納されている停止閾値とを比較する。比較部1142は、比較結果を論理和演算部1143に出力する。より具体的には、比較部1142は、生体情報解析部1140が解析した利用者Uのストレスレベルが停止閾値以上である場合は1を出力し、そうでない場合は0を出力する。
論理和演算部1143は、停止スイッチ900の出力と比較部1142の出力との論理和を計算して提示部112に出力する。ここで停止スイッチ900は、オペレータによって押下された場合は1を出力し、そうでない場合は0を出力するように構成されている。このため、論理和演算部1143は、停止スイッチ900が押下された場合、あるいは生体情報解析部1140が解析した利用者Uのストレスレベルが停止閾値以上である場合の少なくともいずれか一方のとき1を出力する。また論理和演算部1143は、停止スイッチ900が押下されず、かつ生体情報解析部1140が解析した利用者Uのストレスレベルが停止閾値未満である場合は0を出力する。
提示部112は、論理和演算部1143の出力が1の場合、利用者Uに提示している疑似体験を停止する。この意味で、論理和演算部1143が出力する1の信号は、緊急停止信号として機能する。このように、オペレータによる人為的な判断、又は利用者Uの生体情報を解析することによる機械的な判断によって、疑似体験提供装置100は利用者Uに提示している疑似体験を停止する。これにより、利用者Uに不必要な心理的ストレスを与えることを抑制することができる。
以上の疑似体験提示機能F1、生体情報計測機能F2、及び刺激強度調整機能F3のサイクルを継続することにより、疑似体験提供システム1は利用者Uが感じる刺激に応じて利用者Uに合った刺激強度をリアルタイムに調整することができる。結果として疑似体験提供システム1が提供する疑似体験による利用者Uの訓練効果を高めることができる。また、利用者Uに提示する疑似体験の刺激が強すぎて疑似体験を停止すべき場合には、強度調整部114によって疑似体験の提示が停止されるため、利用者Uに与える心理的な負荷を軽減することもできる。
<疑似体験提供システム1が実行する疑似体験提供処理の処理フロー>
図9は、本発明の実施の形態に係る疑似体験提供システム1が実行する疑似体験提供処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば疑似体験提供装置100の電源が投入されたときに開始する。
設定部115は、利用者Uに提示する疑似体験の刺激強度の初期値を設定する(S2)。選択部111は、刺激強度に基づいて、利用者Uに提示する疑似体験のシナリオを構成するシーンを選択する(S4)。
提示部112は、選択部111が選択したシーンを利用者Uに提示する(S6)。利用者Uに提示するシナリオが継続している間(S8のNo)、生体情報取得部113は、計測装置300が計測した利用者Uの生体情報を取得する(S10)。強度調整部114は、生体情報取得部113が取得した利用者Uの生体情報に基づいて、疑似体験の刺激強度を再設定する(S12)。その後制御部110はステップS4に戻って上記の処理を継続する。
利用者Uに提示するシナリオが終了した場合(S8のYes)、本フローチャートにおける処理は終了する。
以上説明したように、実施の形態に係る疑似体験提供システム1によれば、VRを用いた訓練効果を安定化することができる。
特に、疑似体験提供システム1は疑似体験の提示を受けている利用者Uの生体情報に基づいて利用者Uに提示する疑似体験の刺激強度をリアルタイムに変更するため、訓練を通して適切な刺激強度で利用者Uに疑似体験を提示することができる。
また、訓練の開始前に利用者Uが回答したアンケートに基づいて疑似体験提供システム1は利用者Uの刺激強度を設定するため、訓練の開始時点から利用者Uに適した刺激強度で利用者Uに疑似体験を提示することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。そのような変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
<第1の変形例>
例えば疑似体験提供システム1は、上記のような交通安全訓練の他、構造理解・機能説明、学習用マニュアル、施設保守・保全管理、危険予知予防学習、対応手順学習、セキュリティー訓練、技能向上・対処訓練等、種々の訓練学習に利用可能である。
<第2の変形例>
上記では、疑似体験提供システム1の利用者Uが1人の場合について主に説明した。すなわち、疑似体験提供システム1の利用者Uが1人の場合、選択部111は、利用者Uに設定された刺激強度に基づいて利用者Uに提示するシーンの順序を変更する場合について説明した。
第2の変形例に係る疑似体験提供システム1は、疑似体験提供システム1を複数の利用者Uが利用することが想定されており、各利用者Uに共通する疑似体験を同時に提供する。疑似体験提供システム1を複数の利用者Uが利用する場合、複数の利用者Uのそれぞれに設定された刺激強度が互いに異なることが起こりうる。このため、複数の利用者Uのうちのいずれかの利用者Uの刺激強度に応じて利用者Uに提示されるシーンの順序を変更すると各利用者Uに共通する疑似体験を同時に提供することができなくなる。
そこで選択部111は、疑似体験提供システム1の利用者Uが複数の場合においてそれぞれの利用者Uに共通する疑似体験を同時に提供する場合には、刺激強度に基づくシーンの順序変更を禁止する。これにより、一つの共通するシナリオを複数の利用者Uに対して同時に提供することができる。
<第3の変形例>
上記では、利用者Uの生体情報に基づいて強度調整部114が刺激強度を調整する場合について主に説明した。これに加えて、疑似体験提供システム1のオペレータがモニタ600に表示される利用者Uの生体情報や表情等を観察して、手動で刺激強度を調整したり、提示するシーンの順序を変更したりしてもよい。これは例えば疑似体験提供装置100に接続されたキーボードやポインティングデバイス等の図示しないユーザインタフェースを介し、疑似体験提供システム1のオペレータが提示部112や設定部115を操作することができるようにすることで実現できる。
1・・・疑似体験提供システム
100・・・疑似体験提供装置
110・・・制御部
111・・・選択部
112・・・提示部
113・・・生体情報取得部
114・・・強度調整部
115・・・設定部
116・・・データベース生成部
120・・・記憶部
121・・・シナリオ格納部
122・・・刺激強度格納部
123・・・刺激強度データベース
200・・・ヘッドマウントディスプレイ
250・・・聴覚再現装置
300・・・計測装置
400・・・姿勢検知センサ
500・・・カメラ
600・・・モニタ
700・・・触覚再現装置
800・・・中継装置
900・・・停止スイッチ
1140・・・生体情報解析部
1141・・・停止閾値記憶部
1142・・・比較部
1143・・・論理和演算部

Claims (10)

  1. 疑似体験提供装置であって、
    前記疑似体験提供装置の利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択する選択部と、
    前記選択部が選択したシーンを前記利用者に提示する提示部と、
    前記利用者の生体情報を計測する計測装置が計測した生体情報を取得する生体情報取得部と、
    前記生体情報取得部が取得した生体情報に基づいて前記刺激強度を再設定する強度調整部と、
    を備える疑似体験提供装置。
  2. 前記選択部は、前記強度調整部が前記刺激強度を再設定した場合、再設定後の刺激強度に基づいて前記利用者に提示する疑似体験を構成するシーンを選択する、
    請求項1に記載の疑似体験提供装置。
  3. 前記利用者に関する先見情報に基づいて、前記刺激強度の初期値を設定する設定部をさらに備える、
    請求項1又は2に記載の疑似体験提供装置。
  4. 前記疑似体験提供装置を利用した複数の利用者のそれぞれが前記疑似体験提供装置の利用前に作成したアンケートの結果及び利用後に作成した前記疑似体験に関する評価結果と、前記疑似体験提供装置の利用中に前記複数の利用者それぞれに設定した前記刺激強度とに基づいて、前記アンケートの結果及び前記評価結果と、前記刺激強度との関係を対応づけて格納する刺激強度データベースを生成するデータベース生成部をさらに備え、
    前記設定部は、前記疑似体験提供装置の利用前に前記利用者が回答したアンケートの結果に基づいて前記刺激強度データベースを参照することにより、前記刺激強度の初期値を設定する、
    請求項3に記載の疑似体験提供装置。
  5. 前記生体情報取得部は、前記計測装置が計測した前記利用者の血流量を取得し、
    前記強度調整部は、前記血流量の変化に基づいて前記利用者に設定する刺激強度を変更する、
    請求項1から4のいずれか一項に記載の疑似体験提供装置。
  6. 疑似体験提供装置の利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択するステップと、
    選択した前記シーンを前記利用者に提示するステップと、
    前記利用者の生体情報を計測する計測装置が計測した生体情報を取得するステップと、
    取得した前記生体情報に基づいて前記刺激強度を再設定するステップと、
    をプロセッサが実行する疑似体験提供方法。
  7. コンピュータに、
    疑似体験提供装置の利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択する機能と、
    選択した前記シーンを前記利用者に提示する機能と、
    前記利用者の生体情報を計測する計測装置が計測した生体情報を取得する機能と、
    取得した前記生体情報に基づいて前記刺激強度を再設定する機能と、
    を実現させるプログラム。
  8. 1又は複数の利用者のそれぞれに疑似体験を提供する1又は複数の疑似体験提供装置と、
    前記1又は複数の利用者のそれぞれに装着させる1又は複数のヘッドマウントディスプレイと、
    前記1又は複数の利用者のそれぞれの生体情報を計測する1又は複数の計測装置と、
    を含む疑似体験提供システムであって、
    前記1又は複数の疑似体験提供装置のそれぞれは、
    前記利用者に設定された刺激強度に基づいて、前記利用者に提示する疑似体験を構成するシーンを選択する選択部と、
    前記選択部が選択したシーンを前記利用者に提示する提示部と、
    前記計測装置が計測した生体情報を取得する生体情報取得部と、
    前記生体情報取得部が取得した生体情報に基づいて前記刺激強度を再設定する強度調整部と、を備える、
    疑似体験提供システム。
  9. 前記疑似体験を構成するシーンのそれぞれは、前記刺激強度に対応する複数の表現形態を含み、
    前記選択部は、前記刺激強度に基づいて前記利用者に提示するシーンの表現形態を選択する、
    請求項8に記載の疑似体験提供システム。
  10. 前記選択部は、(1)前記疑似体験提供システムの利用者が1人の場合、前記刺激強度に基づいて前記利用者に提示するシーンの順序を変更し、(2)前記疑似体験提供システムの利用者が複数の場合においてそれぞれの利用者に共通する疑似体験を同時に提供する場合、前記刺激強度に基づく前記シーンの順序変更を禁止する、
    請求項9に記載の疑似体験提供システム。
JP2016177508A 2016-09-12 2016-09-12 疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム Active JP6838902B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016177508A JP6838902B2 (ja) 2016-09-12 2016-09-12 疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016177508A JP6838902B2 (ja) 2016-09-12 2016-09-12 疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム

Publications (2)

Publication Number Publication Date
JP2018044977A true JP2018044977A (ja) 2018-03-22
JP6838902B2 JP6838902B2 (ja) 2021-03-03

Family

ID=61693063

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016177508A Active JP6838902B2 (ja) 2016-09-12 2016-09-12 疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム

Country Status (1)

Country Link
JP (1) JP6838902B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109615968A (zh) * 2019-01-07 2019-04-12 福建华众互联网科技有限公司 一种vr模拟教学实训体验系统
WO2019230426A1 (ja) * 2018-05-31 2019-12-05 株式会社デンソー 感情データ取得装置および感情操作装置
JP2020091366A (ja) * 2018-12-04 2020-06-11 ミライズ株式会社 警備業務研修システム
JP2021018260A (ja) * 2019-07-17 2021-02-15 富士通株式会社 表示制御装置および表示制御方法
KR20230079555A (ko) * 2021-11-29 2023-06-07 주식회사 큐에스 고소 작업자의 산업 안전 교육을 위한 콘텐츠 제공 방법 및 장치

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003162213A (ja) * 2001-11-27 2003-06-06 Mitsubishi Heavy Ind Ltd 模擬環境実現装置および模擬環境実現方法
JP2004234016A (ja) * 2004-03-22 2004-08-19 Namco Ltd 体験学習提供システム、方法及びプログラム
JP2007206386A (ja) * 2006-02-02 2007-08-16 Tohoku Otas Kk 産業事故防止対策支援用教育装置
JP2007264055A (ja) * 2006-03-27 2007-10-11 Central Res Inst Of Electric Power Ind 訓練システムおよび訓練方法
JP2009237104A (ja) * 2008-03-26 2009-10-15 Fujitsu Ltd 運転シミュレーション装置、運転シミュレーション方法、およびプログラム
JP2016091020A (ja) * 2014-10-29 2016-05-23 キヤノンマーケティングジャパン株式会社 プログラム、処理方法、および情報処理装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003162213A (ja) * 2001-11-27 2003-06-06 Mitsubishi Heavy Ind Ltd 模擬環境実現装置および模擬環境実現方法
JP2004234016A (ja) * 2004-03-22 2004-08-19 Namco Ltd 体験学習提供システム、方法及びプログラム
JP2007206386A (ja) * 2006-02-02 2007-08-16 Tohoku Otas Kk 産業事故防止対策支援用教育装置
JP2007264055A (ja) * 2006-03-27 2007-10-11 Central Res Inst Of Electric Power Ind 訓練システムおよび訓練方法
JP2009237104A (ja) * 2008-03-26 2009-10-15 Fujitsu Ltd 運転シミュレーション装置、運転シミュレーション方法、およびプログラム
JP2016091020A (ja) * 2014-10-29 2016-05-23 キヤノンマーケティングジャパン株式会社 プログラム、処理方法、および情報処理装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
篠原克也・石黒辰雄: "[第II章]バーチャルリアリティ最新事情、(1) 仮想ゲレンデでスキーの練習", バーチャルリアリティ, JPN6019019740, 8 April 1994 (1994-04-08), pages 27 - 32, ISSN: 0004318843 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019230426A1 (ja) * 2018-05-31 2019-12-05 株式会社デンソー 感情データ取得装置および感情操作装置
JP2020091366A (ja) * 2018-12-04 2020-06-11 ミライズ株式会社 警備業務研修システム
CN109615968A (zh) * 2019-01-07 2019-04-12 福建华众互联网科技有限公司 一种vr模拟教学实训体验系统
JP2021018260A (ja) * 2019-07-17 2021-02-15 富士通株式会社 表示制御装置および表示制御方法
KR20230079555A (ko) * 2021-11-29 2023-06-07 주식회사 큐에스 고소 작업자의 산업 안전 교육을 위한 콘텐츠 제공 방법 및 장치
KR102593967B1 (ko) 2021-11-29 2023-10-25 주식회사 큐에스 고소 작업자의 산업 안전 교육을 위한 콘텐츠 제공 방법 및 장치

Also Published As

Publication number Publication date
JP6838902B2 (ja) 2021-03-03

Similar Documents

Publication Publication Date Title
CN110167421B (zh) 整体地测量视觉功能的临床参数的系统
JP6838902B2 (ja) 疑似体験提供装置、疑似体験提供方法、疑似体験提供システム、及びプログラム
CA2683728C (en) Vision cognition and coordination testing and training
US11130064B2 (en) Systems and methods for biofeedback gameplay
JP2020502603A (ja) 頭部装着ディスプレイにおける仮想現実(vr)コンテンツの視野(fov)絞り
US10832483B2 (en) Apparatus and method of monitoring VR sickness prediction model for virtual reality content
CA2767654A1 (en) Visualization testing and/or training
US20210045628A1 (en) Methods, systems, and computer readable media for testing visual function using virtual mobility tests
CN111248851B (zh) 一种视功能自测方法
EP3867925A1 (en) Medical condition sensor
TWI753428B (zh) 基於生理量測之延展實境調整技術
CN115191018A (zh) 通过测量生理数据对人员或系统进行的评估
CN116133594A (zh) 基于声音的注意力状态评价
US20240256042A1 (en) Information processing apparatus, information processing method, and program
KR20210063856A (ko) 가상 현실 트레이닝 관련 추가 정보 제공 방법 및 장치
US20220254115A1 (en) Deteriorated video feed
Suchalova et al. The Research on Controlling Virtual Reality by EEG Sensor
Chakraborty et al. Distance estimation with social distancing: a mobile augmented reality study
WO2020031949A1 (ja) 情報処理装置、情報処理システム、情報処理方法、および、コンピュータプログラム
US10839290B2 (en) System and method to evaluate decision-making
US10992984B2 (en) Multiple data sources of captured data into single newly rendered video feed
CN216876342U (zh) 乘车状态的检测系统
TWI796222B (zh) 以沉浸式虛擬實境設備評估具視覺空間特異性之反應時間評估系統與方法
Moraes et al. Analysing Listener Behaviour Through Gaze Data and User Performance during a Sound Localisation Task in a VR Environment
WO2024047341A1 (en) Emotion-based experience

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20180620

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180620

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210212

R150 Certificate of patent or registration of utility model

Ref document number: 6838902

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250