JPWO2017175867A1 - 触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム - Google Patents

触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム Download PDF

Info

Publication number
JPWO2017175867A1
JPWO2017175867A1 JP2018510679A JP2018510679A JPWO2017175867A1 JP WO2017175867 A1 JPWO2017175867 A1 JP WO2017175867A1 JP 2018510679 A JP2018510679 A JP 2018510679A JP 2018510679 A JP2018510679 A JP 2018510679A JP WO2017175867 A1 JPWO2017175867 A1 JP WO2017175867A1
Authority
JP
Japan
Prior art keywords
tactile
sensation
vibration
unit
tactile information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018510679A
Other languages
English (en)
Other versions
JP6875010B2 (ja
Inventor
▲すすむ▼ 舘
▲すすむ▼ 舘
正史 仲谷
正史 仲谷
克成 佐藤
克成 佐藤
孝太 南澤
孝太 南澤
裕之 梶本
裕之 梶本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Science and Technology Agency
Original Assignee
Japan Science and Technology Agency
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Science and Technology Agency filed Critical Japan Science and Technology Agency
Publication of JPWO2017175867A1 publication Critical patent/JPWO2017175867A1/ja
Application granted granted Critical
Publication of JP6875010B2 publication Critical patent/JP6875010B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/02Hand grip control means
    • B25J13/025Hand grip control means comprising haptic means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • B25J13/081Touching devices, e.g. pressure-sensitive
    • B25J13/084Tactile sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03543Mice or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0383Signal control means within the pointing device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0414Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using force sensing means to determine a position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K17/00Electronic switching or gating, i.e. not by contact-making and –breaking
    • H03K17/94Electronic switching or gating, i.e. not by contact-making and –breaking characterised by the way in which the control signals are generated
    • H03K17/96Touch switches
    • H03K17/9618Touch switches using a plurality of detectors, e.g. keyboard
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K2217/00Indexing scheme related to electronic switching or gating, i.e. not by contact-making or -breaking covered by H03K17/00
    • H03K2217/94Indexing scheme related to electronic switching or gating, i.e. not by contact-making or -breaking covered by H03K17/00 characterised by the way in which the control signal is generated
    • H03K2217/96Touch switches
    • H03K2217/96062Touch switches with tactile or haptic feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Dermatology (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Manipulator (AREA)

Abstract

電気、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、提示目的とする触感に応じて、物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の触感を提示するための触覚情報を作成し、作成された触覚情報を出力部側に出力することを特徴とする。

Description

本発明は、触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラムに関する。
従来、現実または仮想の物体について利用者に触覚を提示する触覚提示デバイスが開発されている。
例えば、特許文献1では、ペン型の力覚提示装置であって、利用者が把持する際に指先が接触する可動部において、往復動、搖動、傾動、回転等の動きをさせることによって、指先に固有受容感覚を提示することが開示されている。
また、非特許文献1では、圧力、振動、温度を要素触覚として、触覚マップを作成し、それら要素触覚を合成して任意の触覚を提示する触覚提示装置について開示されている。
また、非特許文献2では、実環境下における指なぞり動作時に、爪側に設けた振動子を振動させて、仮想的な凹凸感を提示することが開示されている。
特開2010−287221号公報
近井学「新しい触角提示装置の研究」長岡技術科学大学博士論文、国立大学法人長岡技術科学大学、2014年3月25日、13102甲第702号、URL:http://hdl.handle.net/10649/719
安藤英由樹、渡邊淳司、稲見昌彦、杉本麻樹、前田太郎「Augmented Realityのための爪装着型触覚ディスプレイの研究」、電子情報通信学会論文誌、電子情報通信学会、2004年11月1日、Vol.J87−D2、No.11、pp.2025−2033
しかしながら、従来の触覚提示デバイスは、それぞれの触感を提示するために特化したアドホックの技術であり、例えばオノマトペで表現されるような任意の触感を選択して出力できるものではない、という問題があった。
例えば、特許文献1では、往復動、搖動、傾動、回転等の動きにより固有受容感覚を提示できるものの、これらの組合せでは多様な皮膚感覚や触感を提示することができない、という問題点があった。また、非特許文献1では、圧力と温度と振動の3軸で触覚マップを作成して任意の触覚を提示しようとするものであるが、これらの組合せではネバネバ感やモチモチ感などの触感を提示することは原理的にできない、という問題があった。また、非特許文献2では、物体の指なぞり時に爪上から振動刺激を加えることによって、指腹部に適切なインパルス刺激を生成させて凹凸のエッジ知覚を再現できるものの、皮膚触覚情報のうち凹凸覚に特化した提示方法であって、多様な触感を提示することができない、という問題点があった。
本発明は上記の問題点に鑑みてなされたものであり、任意の触感を提示またはセンシングして汎用的に用いることができる、触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラムを提供するものである。
このような目的を達成するため、本発明の触覚情報変換装置は、少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置であって、前記制御部は、提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成部と、前記作成部により作成された前記触覚情報を前記出力部側に出力する出力制御部と、を備えたことを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記物理量のうちの電気の出力は、触受容器の電気刺激提示であることを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記触感は、心理質感であることを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記作成部は、力の時間変化による触感を提示する場合、少なくとも電気および時空間の前記物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成することを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記作成部は、非接触状態から接触状態への遷移過程または身体の変位過程において、硬表面の場合よりも強い電気、力、もしくは振動の刺激、または、硬表面の場合よりも広い面積の電気、力、もしくは振動の刺激が与えられるように前記触覚情報を作成し、前記出力制御部は、前記作成部により作成された前記触覚情報に基づいて、柔らかい心理質感を提示することを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記作成部は、接触状態から非接触状態への遷移過程または身体の変位過程において、硬表面の場合よりも強い電気、力、もしくは振動の刺激、または、硬表面の場合よりも広い面積の電気、力もしくは振動の刺激が与えられるように前記触覚情報を作成し、前記出力制御部は、前記作成部により作成された前記触覚情報に基づいて、粘つく心理質感を提示することを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記身体は、指であることを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記心理質感は、人体の複数の異なる触覚受容器で得られる情報から脳内で統合的に認知される心理量であることを特徴とする。
また、本発明の入力装置は、上記の触覚情報変換装置を備えたことを特徴とする。
また、本発明の入力装置は、上記の入力装置において、表層に、多点分布型圧覚計測センサと、中間層に、温冷感計測センサと、下層に、振動感計測センサと、を少なくとも備えたことを特徴とする。
また、本発明の送信装置は、上記の触覚情報変換装置を備えたことを特徴とする。
また、本発明の記憶装置は、上記の触覚情報変換装置を備えたことを特徴とする。
また、本発明のサーバ装置は、上記の触覚情報変換装置を備えたことを特徴とする。
また、本発明の受信装置は、上記の触覚情報変換装置を備えたことを特徴とする。
また、本発明の出力装置は、上記の触覚情報変換装置を備えたことを特徴とする。
また、本発明の出力装置は、上記の出力装置において、表層に、多点電気触覚刺激による分布型圧力提示部と、中間層に、ペルチェ素子による高速駆動型温冷感提示部と、下層に、広周波数域の振動提示部と、を少なくとも備えたことを特徴とする。
また、本発明のインタラクション操作システムは、上記の触覚情報変換装置を備えた、操作者が操作するロボット教示装置を用いてロボットに動作を教示するインタラクション操作システムにおいて、前記ロボットは、物体を把持するための手指部、前記物体または前記物体の性状を検出し、物体検出情報を生成する物体検出部であって、前記手指部に配置される物体検出部、前記ロボットを駆動させるロボット駆動装置、を有し、前記ロボット教示装置は、前記ロボットから伝送された前記物体検出情報に基づき前記触覚情報変換装置により変換された触覚情報に応じて、対応する触感を前記操作者に提供する物体検知感覚提供部、を有すること、を特徴とする。
また、本発明の触覚提示方法は、少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置において実行される触覚情報変換方法であって、前記制御部において実行される、提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成ステップと、前記作成ステップにて作成された前記触覚情報を前記出力部側に出力する出力制御ステップと、を含むことを特徴とする。
また、本発明の触覚情報変換プログラムは、少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、コンピュータに実行させるためのプログラムであって、提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成ステップと、前記作成ステップにて作成された前記触覚情報を前記出力部側に出力する出力制御ステップと、をコンピュータに実行させることを特徴とする。
また、本発明の触覚情報変換装置は、電気、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置であって、前記制御部は、提示目的とする触感に応じて、前記物理量のうち少なくとも一つの物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成部と、前記作成部により作成された前記触覚情報を前記出力部側に出力する出力制御部と、を備え、前記作成部は、前記提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けて、前記物理量を選択することを特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記作成部は、触感が既知のサンプルに対して前記検出部により検出された前記物理量と、当該触感とを、前記少なくとも2軸のマップ上に対応付けて更新することにより学習を行うことを特徴とする。
また、本発明の触覚情報変換装置は、触覚情報を得るため、検出部と制御部を少なくとも備えた触覚情報変換装置であって、前記検出部は、力、温度、振動、および/または、時空間を含む物理量を検出可能であり、前記制御部は、前記検出部により検出された前記物理量に基づいて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けることにより、対応する触感を提示するための前記触覚情報を取得すること、を特徴とする。
また、本発明の触覚情報変換装置は、上記の触覚情報変換装置において、前記制御部は、触感が既知のサンプルに対して前記検出部により検出された前記物理量と、当該触感とを対応付けた前記少なくとも2軸のマップを更新することにより学習を行うことを特徴とする。
本発明によれば、提示目的とする触感に応じて、少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を基底として触覚情報を作成し、出力可能な出力部側へ触覚情報を与えるため、作成された触覚情報を出力するので、任意の触感を提示して汎用的に用いることができる、という効果を奏する。特に、駆動部による往復動や回転運動等では再現できない皮膚感覚や、圧力と温度と振動によっては再現できないモチモチ感やネバネバ感などの心理質感など、多様な触感を提示することができる、という効果を奏する。
また、本発明によれば、提示目的とする触感に応じて、電気、力、温度、振動、および/または、時空間を含む物理量を基底として触覚情報を作成する場合に、出力可能な出力部側へ触覚情報を与えるため、提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けて、物理量を選択するので、例えばオノマトペ地図上の様々な任意の触感を提示して汎用的に用いることができる、という効果を奏する。また、反対に出力と入力を入れ替えて、検出部による物理量に基づいて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けることにより、例えばオノマトペ地図上の様々な触感をセンシングすることも可能となる。
図1は、指を接触させて物体の上を滑らせる、もしくは静止させてから離した際の各細胞の反応を示す模式図である。 図2は、「力」、「振動」および「温度」の3基底を合成して、生理空間の触覚7基底を刺激する第二の方法を模式的に示した図である。 図3は、粗さ軸、硬さ軸、湿り軸の3軸のマップに様々なオノマトペを位置付けた心理質感マップの一例を示す図である。 図4は、物理空間において、「力」、「振動」、「温度」、および「電気」の4基底に基づいて合成し、心理空間の様々な触感を再現する本実施形態の方法を模式的に示した図である。 図5は、本発明の実施形態にかかる触覚情報変換装置を含む触感提示システムの構成の一例を示すブロック図である。 図6は、触原色原理に基づく一体型触覚計測モジュールの構造を示す斜視図である。 図7は、触原色原理に基づく一体型触覚伝送モジュールの構造を示す斜視図である。 図8は、ファントムセンセーション錯覚による知覚点を示す図である。 図9は、本願発明者らが開発した上述のTELESAR Vと呼ぶテレイグジスタンスロボットの指装着型センサ/アクチュエータの外観を示す図である 図10は、本願発明者らが開発した上述のTELESAR Vと呼ぶテレイグジスタンスロボットの指装着型センサ/アクチュエータの装着時の外観を示す図である。 図11は、本実施形態の触感提示システムにおける触覚情報変換処理の一例を示すフローチャートである。 図12は、本実施形態の触感提示システムの触覚情報変換装置100における多点刺激処理の一例を示すフローチャートである。 図13は、本実施形態の触感提示システムにおける遠隔触感伝送処理の一例を示すフローチャートである。 図14は、機械学習等により取得したカテゴリー情報の変換テーブル等に基づいて、センサ等の入力情報を触感カテゴリー情報に分類し、分類した触感カテゴリー情報に基づいて、複数の物理量を合成して提示出力する場合の機能概念構成を示す図である。 図15は、硬表面、軟表面、粘表面を触った場合の接触面や圧力の変化を模式的に示した図である。 図16は、硬表面、軟表面、粘表面を触ったときに大変形が生じた場合の接触面や圧力の変化を模式的に示した図である。 図17は、指の変位量に対する硬表面、軟表面、粘表面の接触面積の変化を示す図である。 図18は、本実施例1の実験1で用いた実験装置の構成を指先側から模式的に示した図である。 図19は、本実施例1の実験1で用いた実験装置を指に装着する前の状態と装着後の状態を示した写真図である。 図20は、本実施例1の実験1にて、柔らか感を提示するために用いた実験条件(Press条件)を示す図である。 図21は、本実施例1の実験1にて、粘つき感を提示するために用いた実験条件(Release条件)を示す図である。 図22は、本実施例1の実験1による主観評価実験結果を示す図である。 図23は、本実施例1の実験2で用いた実験装置を指に装着した状態を示す写真図である。 図24は、本実施例1の実験2の実験条件(Press条件)を示す図である。 図25は、本実施例1の実験例2の実験条件(Release条件)を示す図である。 図26は、本実施例1の実験2による主観評価実験結果を示す図である。 図27は、電気刺激マトリックスと機械刺激マトリクスを組み合わせた高密度提示デバイスの構成例を示す図である。 図28は、上述したオノマトペ地図(図3)における実施例1(軸1)の範囲を示す図である。 図29は、水平方向の抵抗力により示される触感表現の範囲を示す図である。 図30は、実験に用いたデバイスを示す図である。実験デバイス等の詳細は、先行知見(Kajimoto, et al. 1999, Sato et al. 2010)を参照されたい。 図31は、「ざらざら感」「ごつごつ感」「かさかさ感」の再現実験の結果を示す図である。 図32は、抵抗力と温度によって再現する触覚表現の範囲を示す図である。 図33は、実験に用いたデバイスと振動波形を示す図である。 図34は、「すべすべ」「つるつる」「ぬめぬめ」「ぬるぬる」の再現実験の結果を示す図である。 図35は、心理空間を示すオノマトペ地図と、力と振動と温度の3軸で表される物理空間の刺激マップを示す図である。 図36は、本実施例2の実験装置(ペルチェ素子)の構成を示す図である。 図37は、本実施例2の実験環境と、ペルチェ素子の装着例を示す図である。 図38は、指先側から指を見た場合の温度刺激(Thermal stimulus)を与える位置を模式的に示した図である。 図39は、本実施例2の実験結果を示すグラフ図である。 図40は、本実施例2の実験2の実験装置を示す図である。 図41は、指先側から指を見た場合の温度刺激(Thermal stimulus)を与える位置を模式的に示した図である。 図42は、温刺激の場合の本実施例2の実験2の実験結果を示したグラフ図である。 図43は、冷刺激の場合の本実施例2の実験2の実験結果を示したグラフ図である。 図44は、本実験3(a.接触の有無+温度刺激)により接触に対する温度感覚のずれを示した図である。 図45は、本実験3(b.振動刺激の有無+温度刺激)により振動に対する温度感覚のずれを示した図である。
以下に、本発明の本実施形態にかかる触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム、並びに、記録媒体の実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態により本発明が限定されるものではない。例えば、以下の実施の形態においては本発明にかかる触覚情報変換装置の機能を、センサ等の入力部や、触覚刺激等を出力する出力部に接続した例について説明することがあるが、本発明はこれに限られず、例えば入力部や出力部には直接接続されない独立したサーバ装置等の機能として構成してもよい。このほか、本発明を、入力装置、送信装置、記憶装置、受信装置、もしくは、出力装置等の一部として、または、これらの装置間に設置される変換装置として構成してもよいものである。
[本実施形態の概要]
以下、本発明の実施形態の概要を説明するために、まず本発明の実施形態を考案するに至った背景および概要について説明し、その後、本実施形態の構成および処理等について詳細に説明する。なお、本実施形態の概要は、本発明の実施形態を考案するに至った背景および概要を示すものであり、本発明を限定するものではない。
本発明の実施形態が考案された背景として、従来、人間の感覚は、「特殊感覚」と「体性感覚」とに分けられることが知られていた。特殊感覚(specific sensation)とは、視覚であれば眼球、聴覚であれば耳などのように、対応した特別な感覚器が存在する感覚のことを指す。例えば、「加速度」という感覚は、耳、特に、耳の中の前庭である三半規管と卵形曩・球形曩という感覚器に対応しているという意味で特殊感覚に分類される。
一方、体性感覚(somatic sensation)とは、体分節性の感覚という意味であり、大きく分けると、皮膚に由来する皮膚感覚(cutaneous sensation)と、内部の筋や腱に由来する姿勢や運動の感覚である固有受容感覚(proprioception)とに分かれる。なお、固有受容感覚は自己受容感覚とも呼ばれている。
広義の「触覚」とは、これら皮膚感覚と固有受容感覚という体性感覚の全体を意味しており、本実施形態において「触覚」と呼ぶ場合は、広義の触覚を指す。なお、狭義の「触覚」は、本来的には、温・冷・痛などの多様な感覚も含まれる皮膚感覚のうちの、接触覚や圧覚のみを意味している。この接触覚や圧覚は、皮膚の中にあるメルケル細胞、マイスナー小体、パチニ小体やルフィニ終末などの感覚器に対応している。そして、皮膚全体がへこんだり引っ張られたりした場合には、その変形や振動が感覚器に伝わり感覚が生じる。
また、能動的触覚といって、自ら体を動かして触れることで、皮膚だけでなく、筋の筋紡錘、腱のゴルジ受容体などの感覚受容器が刺激されて起きる固有受容感覚との総合的な感覚もある。したがって、広い意味での触覚は、一つの感覚器に対応した、触れているか否かといった単純な感覚のみならず、固有受容感覚まで含めた、幅広い感覚の総合ともいえる。一例として、人間が広義の触覚によって、ある物体、例えば鉄の玉を認識するプロセスについて説明する。まず触れることで、人間は形状を知るのであるが、直に指で触らず、指に厚手の手袋をはめて、それを介して鉄の玉に触れても、腕、手、指の関節がどう動いて、どのような形になったという情報から、「球」と推測することができる。このことからも推測できるように、大まかな形状の認識は、皮膚ではなく、筋紡錘やゴルジ受容器などの固有受容感覚によっている。また大まかな形状に加え、硬さとか、バネのような反撥力を感じたり、水の中で腕を動かしたりするときの抵抗感などの感覚なども、固有受容感覚に由来する。
皮膚感覚は、もっと細かい「テクスチャ」(質感)と呼ばれる表面の細かい形状パターンを認識するものである。この感覚は、厚い手袋をした状態では生じず、皮膚で直に触ることが重要である。この感覚は、先述した能動的触覚によって更に認識精度が向上する。なお、この固有受容と皮膚感覚が一体となった運動をともなう触覚は、ハプティクス(触運動知覚:haptic perception, haptics)と呼ばれている。持って触れることだけでは鉄とまでは判別できないが、それが金属だろうと認識できるのは、テクスチャに加えて、温冷を感じる皮膚感覚によるところが大きい。なお、以下の本実施形態の説明において、触覚とは、特に皮膚感覚を指す場合があるが、これに限られず、固有受容感覚をも含んでもよい。
人間が直接ある物体を指の表面で触った時の感覚を伝えるために、人間の指の表面に、実際の物体と全く同じ物体を再現しなければならければ触覚をメディアとして扱うことは難しい。例えば、視覚の場合、物体の色は実際のスペクトルと異なっていても、人間のRGBの3原色のそれぞれを担う錐体細胞が同一の発火をすれば同じ色に見えるので、この原理を用いて、今日のテレビやカラー写真やカラーの印刷物に応用されている。
本願発明者らは、もしも光の三原色と同様に、触覚についても触原色が存在しているならば、視覚の場合と同様に触覚を情報メディア化できるはずであると考えた。触原色の存在を裏付ける事実として、人間の触覚において、明確に異なる種類の皮膚感覚器が存在していることが挙げられる。すなわち、3原色に対応するRGBの錐体細胞と同様に、触覚にも触原色に対応する、メルケル細胞、マイスナー小体、パチニ小体、ルフィニ終末などが存在する。また、温冷痛に反応する自由神経終末も存在する。従来の神経生理学研究の成果として、メルケル細胞とルフィニ終末は圧力と剪断力、マイスナー小体は低周波振動、パチニ小体は高周波振動を検知することが知られている。ここで、図1は、指を接触させて物体の上を滑らせる、もしくは静止させてから離した際の各細胞の反応を示す模式図である。横軸は時間であり、各細胞について縦軸は励起状態を示している。
図1に示すように、物体に接触した際には、メルケル細胞が圧力、マイスナー小体が低周波振動、パチニ小体が高周波振動を検知することにより、メルケル細胞で変位、マイスナー小体で速度、パチニ小体で加速度に意味づけして知覚することができる。図示のような平坦面に限らず、実物体には、凹凸形状、摩擦、熱、弾性といった多くの物理特性がある。皮膚感覚が生じる状況を考察すれば、物体を触ると皮膚表面に力と振動と温度変化等が生じ、それが皮膚の内側に伝わって、上述の感覚器が反応して触覚が生じる。そのため、本願発明者らは、物体の凹凸形状、摩擦、熱、弾性といった物理特性の如何にかかわらず、各感覚器に、その物体を触った場合と同様の反応を起こすことができれば、実際の物体に触れているかのように同じ触覚が人間に生じると考えた。すなわち、触覚も視覚と同様に触原色に対応する細胞を反応させることができれば、実物体を再現して提示するまでもなく、その触覚のみを再現して視覚と同様に情報メディアとすることができると本願発明者らは考えた。
この場合、感覚器に同一の発火を引き起こすには大別して二つの方法がある。第一の方法は、生理空間に基底を求め、電気刺激で基底となる感覚器そのものを選択的に発火させるという方法である。ここで、本実施形態において、「基底」とは、構成単位や要素といった意味である。電極をすべての感覚器の場所に埋め込んで刺激するという侵襲的な方法は実用的でないため、皮膚表面からの経皮電気刺激で、かつ、選択的に感覚器(例えば触受容器)を刺激する方法が考えられる(例えば本願発明者による特許第3543097号参照)。この方法は、本願発明者により開発されたものであり、例えば陽極刺激によってマイスナー小体のみを選択刺激可能であり、陰極の電気刺激で皮膚電極を介してメルケル細胞を刺激して、圧覚に似た感覚を伝えることが可能である。しかしながら、パチニ小体を選択的に刺激することはできず、また、温冷も選択的に刺激できないという問題があった。また、逆に本来は痛覚を生じないような刺激でも、電気刺激により痛覚を伴ってしまうことがある。したがって、第一の方法は、生理空間の基底となる細胞を直接選択的に刺激する方法として、汎用的な刺激を与えられるまでに至っていない。
第二の方法は、視覚のRGBを基底とする方法と等価な方法で、物理空間で基底を選択する方式である。ここで、図2は、「力」、「振動」および「温度」の3基底を合成して、生理空間の触覚7基底を刺激する第二の方法を模式的に示した図である。メルケル細胞とルフィニ終末が圧力と剪断力、マイスナー小体が低周波振動、パチニ小体が高周波振動、自由神経終末は、温、冷、痛に応答することから、実物体を触ったときの人間の皮膚表面での、圧力と剪断力、すなわちベクトル力としての「力」、低周波から高周波までの「振動」と、「温度」とが、実際に触っていなくとも同様に提示することができれば、人間は、実際と同じ感覚を得ることになる。力や振動などは、人間の能動的な運動により変化していく場合が多いが、その場合は人間の動きに追従して再現すればよい。これは、視覚において、光のすべてのスペクトラムを再現せず、RGBに対応したスペクトラムのみを基底として用いて、その基底に基づく合成で、殆ど全ての視覚情報を再現している方式と類似の方式といえる。すなわち、物体の有する凹凸形状、摩擦、熱、弾性といった物理特性をすべて再現するのではなく、その物体との接触によって皮膚表面に生じ、受容器の細胞が捉えられる、「力」、「振動」、「温度」の三つの物理量のみを基底として、それらの時間変化を記録し、伝送して、それらの基底を基に合成すればよいと本願発明者らは考えた。すなわち、本願発明者らは、この第二の方法を触原色原理の基本形として開発を進めた。
ここで、「力」、「振動」、「温度」を基底とする方法には、小型化にむけて問題が残されており、更なる鋭意検討の必要があると本願発明者らは考えた。すなわち、「力」の提示は、力という物理量のもつ特性から、力を加える点とは別の場所に、力を及ぼすための固定場所(接地)を用意する必要がある。例えば、指腹に力を加えるためには、指の甲などの部分に接地させ、そこから力を加えなければならない。これでは、提示装置そのものを作製する際に、その刺激部位の付近にのみに装置を収めきれない。したがって、必然的に比較的大きな空間を要し、デバイスを小型化する際の大きな制約となる。また、一般的な皮膚表面への力提示では、押す方向への圧力は提示可能でも、引く方向への力が提示できない、という問題も残る。引く方向の力が提示できなければ、例えばネチョネチョ感などのオノマトペで表現される多様な心理質感の提示が難しくなる。ここで、図3は、粗さ軸、硬さ軸、湿り軸の3軸のマップに様々なオノマトペを位置付けた心理質感マップの一例を示す図である。
本発明にかかる一実施形態は、上述した様々な問題に鑑み、本願発明者らにより鋭意検討の結果、考案されたものであって、「力」、「振動」、「温度」の3基底に加えて、「電気」を基底に含めることで解決を図る。すなわち、第一の方法と第二の方法とを組み合わせ、互いにデメリットが補完されるように構成する。ここで、図4は、物理空間において、「力」、「振動」、「温度」、および「電気」の4基底に基づいて合成し、心理空間の様々な触感を再現する本実施形態の方法を模式的に示した図である。
なお、本実施形態は、「力」を全て「電気」で置き換え、4基底のうちの「力」の関与を零として、3基底に基づいて合成してもよい。また、本実施形態は、これに限られず、更に「時間」および/または「空間」の時空間的要素を基底に加えてもよい。電気は実際の通常の物体との接触では、静電気を感じたりする特別の場合を除いては生じないが、れっきとした物理量であることから、物理空間の基底である。
この電気刺激が、圧覚や振動覚、さらには痛覚なども生じさせることから、電気刺激の与え方によって、心理空間における5基底の触感へ効果を及ぼすことが本実施形態の大きな特徴である。すなわち、物理空間の基底に基づいて生理空間の7基底の触覚を刺激するアプローチではなく、本実施形態は、電気を含む物理空間の複数の基底を合成して、心理空間の5基底に基づく多様な触感を再現するアプローチである。例えば、電気を含む物理空間の複数の基底を適切に選択するとともに、選択された物理量に基づいて、所定の触感を提示するための触覚情報を作成することにより、オノマトペで表現されるような心理質感、言い換えれば、人体の複数の異なる触覚受容器で得られる情報から脳内で統合的に認知される心理量、を再現することができる。これにより、単に触覚を刺激する従来の手法とは異なり、マルチモーダル(多感覚形式)に基づく触知性に働きかける触感提示を行うことができる。オノマトペで表現されるような心理質感を提示する具体的手法については後述する。
本発明の一実施形態によれば、特に、硬柔、乾湿などの感覚を与えて、従来の力、振動、温度のみで提示できる感覚の範囲を大幅に広めることができる。また、力を提示しにくい場合には、力の提示を電気によって代替して行うことができるので、小型化のマルチモーダル(多感覚形式)のデバイスを作ることが可能になる。この電気を含む物理空間の複数の基底に基づいて合成して触感を提示することが本実施形態の大きな特徴の一つである。
なお、本発明にかかる別の実施形態としては、必ずしも電気を用いる必要はない。すなわち、本発明の別の形態によれば、提示目的とする触感に応じて、電気、力、温度、振動、および/または、時空間(例えば、電気、力、温度、振動の時間的および/または空間的な変化)を含む物理量を基底として触覚情報を作成する場合に、出力可能な出力部側へ触覚情報を与えるため、提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けて、物理量を選択する。これにより、例えばオノマトペ地図上の様々な任意の心理触感を再現することができる。なお、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上のマップを用いれば、検出部により検出される力や振動や温度などの物理量から、対応する心理触感をセンシングすることも可能となる。
以上が本実施形態の概要である。つづいて、上述した本発明の実施形態を実現するための装置構成や処理の詳細な例について、以下に詳しく説明する。
[触感提示システムの構成]
触覚情報変換装置を含む触感提示システムの構成について図面を参照しながら説明する。図5は、本発明の実施形態にかかる触覚情報変換装置を含む触感提示システムの構成の一例を示すブロック図であり、該構成のうち本発明に関係する部分のみを概念的に示している。
図5に示すように、本実施形態において、触感提示システムは、触覚情報変換装置100と、各種センサ等の外部入力装置120と、物理量を出力可能な外部出力装置140と、サーバ等の外部機器200とを、ネットワーク300を介して接続して構成される。なお、図5では、触覚情報変換装置100、外部入力装置120、外部出力装置140、および、外部機器200は、各一台が触感提示システムに備えられた例が図示されているが、これに限られず、触感提示システムは、各装置を複数台備えてもよい。ここで、触覚情報変換装置100は、パーソナルコンピュータや、サーバ用コンピュータ、携帯情報端末(タブレット型コンピュータ等)などである。ネットワーク300は、触覚情報変換装置100と外部入力装置120と外部出力装置140と外部機器200とを相互に接続する機能を有し、例えば、有線または無線のLANやインターネット等である。
ここで、図5において、外部入力装置120は、各種のセンサ等の入力手段である。例えば、力センサや、振動センサ、温度センサであってもよく、更には、凹凸センサ、表面あらさセンサ、引き貼りセンサ、摩擦センサ、湿潤センサ、熱伝導センサ、粘弾性センサ、加速度センサ等であってもよい。その理由として、対象物は、凹凸形状、表面あらさ、摩擦、熱伝導率、粘性、弾性、慣性、湿潤などの物理特性を持っている。しかし、人間の皮膚感覚器が関知するのは、基本的に、人間が対象物を自分の手などを動かすことにより対象物と触れて、その時生じる手などに生じる力(皮膚の変形)、振動、温度変化であり、これにより触感を得ている。したがって、最適なセンサとしては、それらを直接的にセンシングする力センサ、振動センサ、温度センサである。しかし、ロボットハンドには、必ずしも、それらのセンサがない場合もある。その場合には、例えば、加速度センサから、力情報や振動情報に変換したり、表面あらさセンサから振動情報に変換したり、あるいは、各種のセンサの組み合わせにより演算して力、振動、温度に変換することをしてもよい。これらの変換は、センサ側で行って通信は、標準的なものにすることが最適であるが、そのまま通信して、触覚情報変換で行ってもよい。
ここで、外部入力装置120は、カメラや、タッチパネル、モーションセンサ等の、利用者の動きや物体を認識する認識装置であってもよい。具体的には、外部入力装置120は、カメラや圧力センサ等の任意の検出手段によって、人物の身体の動きを認識してもよい。例えば、外部入力装置120は、公知のジェスチャー認識技術や、公知のモーションセンサ等を用いて利用者の身体の動きを検出してもよい。ジェスチャーは、物理空間における利用者の位置および動きから得ることができ、腕や脚の動き、または静止姿勢というような、動的または静的な、任意の利用者の動きを含むことができる。
本実施の形態の一例として、外部入力装置120において、カメラのようなキャプチャー・デバイスが、ユーザー画像データを取り込み、このユーザー画像データから、利用者のジェスチャー(1つまたは複数)を認識してもよい。より具体的には、外部入力装置120は、コンピュータ環境を使用して、利用者の三次元物理空間において利用者によって行われたジェスチャーを認識および分析し、解釈した利用者の動作データや解析前ローデータ等を、触覚情報変換装置100に送信してもよい。一例として、外部入力装置120は、手指の形状や身体の姿勢、接触箇所、接触面積、圧力、振動等を検出する装着型センサであってもよい。例えば、本願発明者らにより開発された指先への反力や温度を伝えられるテレイグジスタンスシステムであるTELESARシステムのグローブ型センサ等のセンシング技術を用いてもよい。ここで、後述する一体型触覚計測モジュール等のように、外部入力装置120は、2次元配置された複数の力検出センサや、振動発生源と振動検出センサ、温度センサ、タイマー等を備えてもよい。公知のモーション認識手段の一例として、マイクロソフト社製Kinectセンサや、インテル社製RealSenseセンサ等を用いてもよい。これら公知のセンシング技術によれば、全身や手指のスケルトン動作データや接触データ等のモーションデータを得ることができる。なお、公知のモーションセンサでは、センサ内蔵の制御手段を用いて人物の動きが解析されるか、あるいは、接続されたコンピュータの制御手段にて人物の動きや属性が解析されるが、本実施の形態はいずれであってもよく、例えば、これら解析機能を、外部入力装置120の制御手段(プロセッサ等)により実現してもよく、解析前ローデータを受信した触覚情報変換装置100の制御手段により実現してもよく、あるいは両者の制御手段により分散して解析機能を実現してもよい。このほか、非特許文献2等に記載の公知のフィルム圧力センサ等を用いてもよい。
上述のように外部入力装置120は、カメラ等で撮像した画像から物体を認識して、認識した物体に応じた触感を提示目的とするために用いてもよく、外部入力装置120は、利用者の身体の姿勢や動きに応じて、然るべきタイミングで触覚刺激を提示するために用いてもよい。このほか、外部入力装置120は、力や振動や温度や、それらの時間的変化や空間的分布といった時空間的変化量等の物理量、触覚あるいは触感そのものを検出して、検出した物理量、触感あるいは、検出した触覚情報から学習結果に基づいて認識された触感を提示するために用いてもよく、検出した触覚や触覚に基づいて実際の触感が提示されるように感覚量との誤差を補完するための基礎データとして用いてもよい。ここで、図6は、触原色原理に基づく一体型触覚計測モジュールの構造を示す斜視図である。また、図7は、触原色原理に基づく一体型触覚伝送モジュールの構造を示す斜視図である。
触原色原理では、触覚を、圧覚/剪断力(メルケル細胞・ルフィニ終末により知覚)/低周波振動覚(マイスナー小体により知覚)/高周波振動覚(パチニ小体により知覚)/冷覚/温覚/痛覚(それぞれ自由神経終末により知覚)の各要素間の時空間的関係性からの合成として捉え、触覚の分解と合成を実現する。図6および図7に示すように、本願発明者らは、この触原色原理に基づいて、力・振動覚・冷温覚の各要素を一体的に取得し提示できるモジュールを開発した。いずれも長さ24mm、幅12mm、高さ6mmであり、指腹部に接触させるのに適したサイズである。
図6に外部入力装置120の一例として示す一体型触覚計測モジュールでは、表層に32点分布型圧覚計測センサ120aを配し、その下位の中間層には体温提示機能を有する温冷感計測センサ120bを配し、さらなる下層に広周波数域の振動感計測センサ120cを配している。
また、図7に外部出力装置140の一例として示す一体型触覚提示モジュールでは、表層に32点電気触覚刺激による分布型圧力提示部140aを配し、その下位の中間層にはペルチェ素子4枚のマトリクスによる高速駆動型温冷感提示部140bを配している。さらなる下層に広周波数域(HiFi)の振動提示部140cを配置している。
これにより、これまで個別の物理特性として捉えられ、その伝送には多数の素子を組み合わせることが要求された力・振動・温度を時空間的に統合し、高い臨場感を有する触覚の伝送を実現することができる。従来、小型の触覚伝送モジュールを実現するにあたってはいくつかの技術的課題が存在していた。まず、従来、圧覚および低周波振動覚の提示には、一般的にはモータや空気圧等のアクチュエータを利用し、皮膚に物理的な力を発生させるが、このような方法では一定以上の小型化は望めなかった。そこで、本実施形態では、経皮電気刺激による触覚受容器の選択的刺激を利用し、圧覚を知覚するメルケル細胞、および低周波振動覚を知覚するマイスナー小体に繋がる神経を、皮膚上から電気的に刺激することで、物理的な刺激なしに圧覚および低周波振動覚を自在に生み出すことができる。刺激パターンを変化させることで、圧覚/低周波振動覚それぞれを選択的に刺激できることが示される。また、刺激電極ついては、フレキシブルプリント基板を用いた薄型・高密度の電気触覚ディスプレイを用いる。
人の触知覚特性上、圧覚の提示に関しては最も細かい2点弁別閾をもつ指先でも2mmピッチで十分であることが示されている。本実施形態の一体型触覚計測モジュールでは、フレキシブル基板を用いて、一体型触覚提示モジュールの電気触覚ディスプレイに対応した多点計測を可能とする薄型圧覚センサを用いて、高密度・多点の圧覚を取得し提示する薄型のセンサおよびディスプレイを構成する。すなわち、分布型圧覚計測センサ120aおよび分布型圧力提示部140aは、3mm以内の間隔で4行8列の32点の、精度の高い圧覚提示と圧覚計測が実現できる。なお、このモジュールは、小型化一体化することで、指先に限らず、人間の体表のどの部分にも適用可能である。また、触原色の原理に基づくエンコーディングをしているため、汎用的な使用が可能となる。
高周波振動覚の提示については、従来、多くの振動アクチュエータが開発されているが、そのほとんどが200Hz前後の人が最も知覚しやすい周波数帯に共振周波数を設定して設計されている。これは、低い消費電力で強い刺激を提示するには有効だが、一方で、自然な触動作において発生する多様な振動周波数を含む繊細な触感の提示には適さない、という問題があった。そのため、一体型触覚提示モジュールの振動提示部140cでは、振動覚提示に最適な振動アクチュエータを実現するため、1Hz〜1000Hzの広い振動周波数帯において、フラットな特性での振動覚の提示を可能とする小型の振動アクチュエータを用いる。触覚の生理学的知見として、高周波振動を主に知覚するパチニ小体は、1〜2cm程度の大きな受容野をもつことが知られており、このことから、振動アクチュエータのサイズを2cmとして設計した。なお、振動感測定部120cによる振動覚の取得については、振動マイクを用いて広い周波数帯の振動を取得する技術が確立しており、これを適用した。
冷温覚の提示について、触原色原理において、絶対的な温度を再現するのではなく、人の皮膚と接触対象との間の熱移動を再現することが必要であることが知られている。そのため、温冷感計測センサ120bおよび温冷感提示部140bは、冷温覚の取得と提示における双方向性、すなわち冷温覚を取得するセンサが、人と同等の体温を再現するディスプレイとしての機能を有する。また、従来の冷温覚伝送においては時間応答性が低いことが課題とされているが、人の冷温覚知覚特性を活用し、複数の温度提示素子をマトリクス状に配置し制御することで1Hz程度の温度変化を可能とする高速冷温覚提示手法により、時空間的に変化する温冷感の伝送を可能とする。
再び図5に戻り、上記の一体型触覚提示モジュールに限られず、外部出力装置140は、電気、力、温度、振動、時空間などを含む物理量を出力可能な出力部である。例えば、外部出力装置140は、電気刺激子や、力提示アクチュエータ、ペルチェ素子、振動素子などを、マトリックス状に配置して時空間的に出力可能な出力デバイスであってもよい。振動子は、ボイスコイル型振動子、ピエゾ素子、または、バイブレーションモータであってもよい。このほか、外部出力装置140は、公知の電気出力手段、力提示手段、温度提示手段、振動提示手段、時空間配置手段を用いて、上述の物理量を出力してもよい。一例として、外部出力装置140は、上述した一体型触覚提示モジュール等のように、二次元配置された複数の押圧手段、振動発生手段、発熱手段、タイマー、受信装置等を備えてもよい。例えば、本願発明者らにより開発された指先への反力や温度を伝えられるテレイグジスタンスシステムであるTELESARシステムの物体検知感覚提供技術を用いてもよい(例えば特開2013−91114号公報参照)。
なお、触覚情報変換装置100が、外部入力装置120や外部出力装置140とリアルタイムに触覚等の入出力を行わない場合、常時、ネットワーク300に接続される必要はない。例えば、触覚情報変換装置100は、接続を確立した際に、外部入力装置120に記憶された入力データや、外部入力装置120からサーバ等の外部機器200等に記憶された入力データを取得してもよい。同様に、外部出力装置140は、触感提示を行う場合に、触覚情報変換装置100や、触覚情報がアップロードされた外部機器200に接続して、触覚情報を取得してもよいものである。
[触覚情報変換装置100の構成]
つづいて、本実施の形態の触覚情報変換装置100の構成について詳細に説明する。再び図5に戻り、図示は、本実施の形態が適用される触覚情報変換装置100の構成の一例を示すブロック図を示しており、該構成のうち本実施の形態に関係する部分を中心に概念的に示している。なお、本実施の形態において、触覚情報変換装置100は、入力部112や出力部114等を備えた例について説明するが、これに限られず、入力部112や出力部114等を備えることなく、外部から要求に応じて触覚情報を作成して出力送信するサーバ等として機能してもよいものである。
図5において、触覚情報変換装置100は、概略的に、触覚情報変換装置100の全体を統括的に制御するプロセッサ(例えばCPU)等の制御部102、通信回線等に接続されるルータ等の通信装置(図示せず)に接続される通信制御インターフェイス部104、入力部112や出力部114に接続される入出力制御インターフェイス部108、および、各種のデータベースやテーブルなどを格納する記憶部106を備えて構成されており、これら各部は任意の通信路を介して通信可能に接続されている。なお、各部は、入力部112や出力部114による入出力の必要に応じて、一時的に任意の通信路を介して通信可能に接続される構成となっていてもよい。例えば、USBメモリ等の記録媒体で、一時的に各部が触覚情報を授受できるように構成されてもよい。
記憶部106に格納される各種のデータベースやテーブル(例えば、触覚定義ファイル106a、物体触感データベース106b等)は、SRAM(Static Random Access Memory)等を用いて構成される小容量高速メモリ(例えば、キャッシュメモリ)等や、HDD(Hard Disk Drive)やSSD(Solid State Drive)等の固定ディスク装置等のストレージ手段であり、各種処理に用いる各種のプログラムやテーブルやファイルやデータベースやウェブページ等を格納する。
このうち、触覚定義ファイル106aは、提示する二以上の複数の触覚刺激の種類を定義する触覚定義手段である。なお、触覚定義ファイル106aは、第一刺激点との時間的および/または空間的な閾値を記憶してもよい。例えば、触覚定義ファイル106aは、第一の種類の触覚刺激と第二の種類の触覚刺激を定義してもよい。より具体的には、触覚定義ファイル106aは、第二の種類の触覚刺激として、第一の種類の触覚刺激よりも、時間的または空間的に生理的弁別が難しい種類の触覚刺激を定義してもよい。これにより、後述する出力制御部102cの処理により、第二の種類の触覚刺激を第一刺激点に知覚させることができる。また、触覚定義ファイル106aは、第一の種類の触覚刺激として、第二の種類の触覚刺激よりも、時間的または空間的に、生理的弁別が難しい種類の触覚刺激を定義してもよい。これにより、後述する出力制御部102cの処理により、第一の種類の触覚刺激を第二刺激点に知覚させることができる。一般に、力(特に圧力)、電気、振動、温度の順で時空間的に弁別が難しくなると考えられる。
一例として、触覚定義ファイル106aは、第一の種類の触覚刺激として力提示を定義し、振動、温度、および、電気刺激のうちの一つまたは複数を、第二の種類の触覚刺激として定義してもよい。これにより、振動、温度、および/または、電気刺激を、力提示の刺激点に定位して知覚させることができる。なお、触覚定義ファイル106aが、振動、温度、および、電気刺激のうちの一つまたは複数を、第一の種類の触覚刺激として定義し、第二の種類の触覚刺激として力提示を定義することによっても同様の効果が得られる。
他の例として、触覚定義ファイル106aは、第一の種類の触覚刺激として振動提示を定義し、第二の種類の触覚刺激として温度刺激を定義してもよい。これにより、温度刺激を、振動提示の刺激点に定位して知覚させることができる。なお、触覚定義ファイル106aが、第一の種類の触覚刺激として温度刺激を定義し、第二の種類の触覚刺激として振動提示を定義することによっても同様の効果が得られる。
他の例として、触覚定義ファイル106aは、第一の種類の触覚刺激として電気刺激提示を定義し、振動および/または温度を、第二の種類の触覚刺激として定義してもよい。これにより、振動および/または温度の刺激を、力提示の刺激点に定位して知覚させることができる。なお、触覚定義ファイル106aが、振動および/または温度を、第一の種類の触覚刺激として定義し、第二の種類の触覚刺激として電気刺激提示を定義することによっても同様の効果が得られる。
つづいて、物体触感データベース106bは、物体と触感を対応付けて記憶した物体触感蓄積手段である。例えば、物体触感データベース106bは、公知の物体認識手法により現実世界の中で物体が認識された場合に、あるいは拡張現実空間や仮想空間中の仮想の物体について、その物体に応じて、提示すべき触感を定義している。ここで、物体触感データベース106bは、提示すべき触感として、人体の複数の異なる触覚受容器で得られる情報から脳内で統合的に認知される心理量などのように、心理触感を定義してもよい。物体触感データベース106bは、上述した図3で示した心理触感マップ(オノマトペ地図)のように、素材や物体などを、所定の定量軸上に位置付けたマップを用いて、物体ないし素材に対応する触感を定義してもよい。
ここで、一例として、物体触感データベース106bは、以下の表のように、対象物や触感に応じて、電気を基底として含まない入力用の触覚情報から、電気を基底として含む出力用の触覚情報へと変換する変換テーブルを記憶してもよい。この変換テーブルを用いることによって、例えば、一般的な皮膚表面への力提示では、押す方向への圧力は提示可能でも、引く方向への力が提示できない、という問題等を解決し、電気を含む刺激提示によって引く方向の力を再現して、例えばネチョネチョ感などのオノマトペで表現される多様な心理質感の提示ができるようになる。
また、物体触感データベース106bは、力による粗滑軸、振動による硬柔軸、および/または、温度による乾湿軸上のパラメータに、オノマトペなどの心理触感等の触感を対応付けて記憶してもよい。例えば、物体触感データベース106bは、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの2軸〜3軸で構成されるマップ上に、触感を対応付けた物理空間マップ等を記憶してもよい。なお、物体触感データベース106bが定義する触感と物理量の関係は、予め記憶されたものであってもよく、作成部102b等により新たに作成されるか更新されるものであってもよい。例えば、後述する作成部102bの学習処理により、触感が既知のサンプルに対して入力部112により検出された物理量と当該触感とを、上記少なくとも2軸のマップ上に対応付けて更新されるマップを物体触感データベース106bは記憶してもよい。なお、上述した物体触感データベース106bに、物体とその触感の対応関係が記憶されている場合は、サンプルの触感が既知として、サンプルの触感の教師データとして機械学習等に用いてもよい。
ここで、触覚定義ファイル106aや物体触感データベース106b等に記憶される情報は、外部機器200等から定期的にあるいは都度ダウンロードしてもよく、記憶部106は、ダウンロードした情報を一時的にあるいは非一時的に記憶してもよい。
また、図5において、入出力制御インターフェイス部108は、各種センサ等の入力部112や、物理量等を出力可能な出力部等の出力部114の制御を行う。各種センサ等の入力部112としては、上述した外部入力装置120と同様の機能を備えてもよい。また、物理量等を出力可能な出力部等の出力部114としては、上述した外部出力装置140と同様の機能を備えてもよい。このほか、出力部114としては、モニタ(家庭用テレビやタッチスクリーンモニタ等を含む)等を用いることができる。また、入力部112としては、タッチパネル、音声マイク、キーボードなどを用いることができる。一例として、入力部112および出力部114は、液晶パネル等の出力部114と、タッチ位置入力装置等の入力部112とを組み合わせたタッチパネル等の入出力手段であってもよい。また、入出力制御インターフェイス部は、USBメモリ等の記録媒体と接続してデータを授受する制御を行ってもよい。なお、以下の実施の形態においては、入力手段として、入力部112を用いても外部入力装置120を用いても、いずれであってもよく、この場合に、まとめて入力手段112,120と呼ぶ場合がある。同様に、出力手段としては、出力部114を用いても外部出力装置140を用いても、いずれであってもよく、まとめて出力手段114,140ないしは出力部114,140と呼ぶ場合がある。
また、図5において、制御部102は、OS(Operating System)等の制御プログラム、各種の処理手順等を規定したプログラム、および所要データを格納するための内部メモリを有し、これらのプログラム等により、種々の処理を実行するための情報処理を行うCPU等のプロセッサである。制御部102は、機能概念的に、提示触感設定部102a、作成部102b、および、出力制御部102cを備えて構成されている。
このうち、提示触感設定部102aは、提示目的とする触感を設定する提示触感設定手段である。例えば、提示触感設定部102aは、予め定められた触感を提示目的として設定してもよい。他の例として、提示触感設定部102aは、外部入力装置120や入力部112から得られたモーションデータに基づいて、身体の動きに対応する触感を、提示目的として設定してもよい。また、提示触感設定部102aは、外部入力装置120や入力部112から得られた実物体の物体認識により認識された物体または仮想の物体に関する情報に基づいて、物体触感データベース106bから当該物体に対応する触感を取得することにより、提示目的とする触感を設定してもよい。このほか、提示触感設定部102aは、外部入力装置120や入力部112等を介して、利用者に提示目的とする触感を設定させてもよい。一例として、提示触感設定部102aは、上述のように入力手段120,112のフレキシブル基板を用いて時間軸に多点計測を行い、この時間軸を加味した接触面積や圧力分布の変化等から、粘つく感覚やもちもち感などの触感を判定してもよい。なお、判定した触感から提示する触覚情報への変換は、上述した表などの変換テーブルを用いて制御部102により変換されてもよい。
ここで、提示触感設定部102aは、上述したTELESARシステム等のロボットの手指部の触覚センサ(力センサ、振動センサ、温度センサなどの入力手段120,112)の情報を取得し、機械学習などの方法によって、複数のオノマトペなどの触感に関するカテゴリー情報に分類し、カテゴリー情報で表現される触感と、触覚ディスプレイ(力、電気、振動、温度などの刺激を提示する出力手段140,114)の時空間的な組み合わせとを対応付けて、物体触感データベース106bに格納してもよい。これにより、離隔した場所にある物体の触感を、触覚センサの情報から推測することができ、推測した触感を、別の場所にいる利用者に多感覚形式で提示することができるようになる。一例として、提示触感設定部102aは、入力部112や外部入力装置120により検出された物理量に基づいて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸のマップや2軸の変換テーブル上に対応付けることにより、対応する触感(心理触感等)を検出してもよい。なお、提示触感設定部102aは、公知の手法等で入力手段120,112や出力手段140,114のキャリブレーションを行ってもよい。例えば、提示触感設定部102aは、外部出力装置140に対して、初期動作信号を送信し、外部出力装置140が初期動作信号に応じて出力を行うことにより、様々なキャリブレーションを実行してもよい。
また、作成部102bは、提示目的とする触感に応じて、少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の触感を提示するための触覚情報を作成する作成部102bである。なお、本実施の形態において、一例として、複数の物理量を基底として合成するため、作成部102bは、提示目的とする触感に応じて、少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の触感を提示するための触覚情報を作成してもよい。一例として、物理量は、少なくとも電気を含み、力、温度、振動、および/または、それら電気や力や温度や振動等の時空間的変化を含む物理量であって、作成部102bは、このうち少なくとも二つ以上の複数の物理量を選択して触覚情報を作成してもよい。他の例として、作成部102bは、提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けることにより、物理量を選択してもよい。なお、作成部102bは、力の時間変化による触感を提示する場合、少なくとも電気および時空間の物理量を選択して触覚情報を作成してもよい。ここで、作成部102bは、触覚定義ファイル106aにて定義された第一および第二の種類の触覚刺激を、複数の物理量として選択してもよい。作成部102bは、上述した提示触感設定部102aにより設定された触感を提示目的として、複数の物理量を選択して触覚情報を作成してもよい。一例として、作成部102bは、物体触感データベース106bを参照して、入力手段120,112から得られた触覚センサの情報に対応する触感を判断し、当該触感を提示するため電気刺激等の複数の物理量に基づく触覚情報を作成してもよい。
ここで、作成部102bによる複数の物理量の合成を伴うエンコーディングについて説明する。例えば、手に「柔らかい」触感を提示しようとするとき、上述した触覚提示モジュール単体で「柔らかさ」を提示可能な触覚信号は存在せず、手が物体をどの程度押し込んだか、という運動情報(モーションデータ等)に応じて、触原色の各触覚要素において提示する触覚信号を時空間的に変化させる必要がある。また、外部入力装置120や入力部112により、身体的経験を記録する場面と、外部出力装置140や出力部114により、それを体験する場面において、利用者の身体運動が完全に一致するとは限らず、異なる運動状態下で同じ触覚制御信号を提示するのでは、異なる触感として知覚されてしまう。そのため、触覚情報変換装置100は、単純に記録した触覚情報をそのまま提示するのではなく、身体運動の差異に応じた適切な変換を行うことが重要である。
図4を用いて上述したように、人が感性的に感じる触感を触覚の心理空間、その触感を構成する神経パルスを生じさせる触覚受容器等の生理学的要素を触覚の生理空間、触覚受容器を活動させる物理的な刺激を触覚の物理空間と定義する。本実施形態の触覚伝送モジュール120,112は、電気刺激によるメルケル細胞とマイスナー小体の生理空間における刺激と、振動と温度の物理空間における刺激と、のハイブリッドな構成であると捉えられる。そのため、触覚伝送モジュール120,112を用いて任意の触感を提示するには、心理空間上の任意の「触感」を、触覚提示モジュール140,114の各感覚要素に分解し、身体運動に応じてインタラクティブに選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成するアルゴリズム、及びそれを触覚情報変換装置100にて実行可能なソフトウェア環境の構築が必要不可欠となる。そこで、触覚情報変換装置100の制御部102が、作成部102bや出力制御部102c等の処理により、実世界から記録した情報を編集・加工して任意の触覚情報を創造し、体験中の身体運動に併せて適切な触覚制御信号に変換するアルゴリズム、および、実世界から記録した触覚情報を異なる身体運動に対応した新たな触覚情報に変換するアルゴリズムを実行し、触原色エンコーダとして機能する。
再び図5に戻り、作成部102bによる複数の物理量の合成の具体的アルゴリズムについて述べる。例えば、柔らかい心理質感を提示する場合、言い換えれば「もちもち感」を提示する場合、作成部102bは、非接触状態から接触状態への遷移過程または身体の変位過程において、硬表面の場合よりも強い電気、力、もしくは振動の刺激、または、硬表面の場合よりも広い面積の電気、力、もしくは振動の刺激が与えられるように複数の物理量により合成してもよい。一例として、作成部102bは、硬表面に対して指等を接触させた場合に受ける触覚刺激の強さよりも、強い電気刺激、力、もしくは振動の刺激を与えてもよい。また、作成部102bは、硬表面に対して指等を接触させた場合に受ける触覚刺激の接触面積よりも広い面積の電気、力、もしくは振動の刺激を与える触覚情報を作成してもよい。なお、指等の非接触状態から接触状態への遷移過程や、その動きを示す身体の変位過程は、上述した外部入力装置120や入力部112により受信されるモーションデータに基づいて判定することができる。
他の例として、粘つく心理質感を提示する場合、言い換えれば「ねばねば感(stick feeling)」を提示する場合、作成部102bは、接触状態から非接触状態への遷移過程または身体の変位過程において、硬表面の場合よりも強い電気、力、もしくは振動の刺激、または、硬表面の場合よりも広い面積の電気、力もしくは振動の刺激が与えられるように複数の物理量により合成してもよい。一例として、作成部102bは、同じ圧力で硬表面から指等を接触状態から離す場合に受ける触覚刺激の強さよりも、強い電気刺激、力、もしくは振動の刺激を与えてもよい。また、作成部102bは、同じ指等の動きで硬表面から指等を離す場合に受ける触覚刺激の接触面積よりも広い面積の電気刺激、力刺激、もしくは振動刺激を与える触覚情報を作成してもよい。なお、指等の接触状態から非接触状態への遷移過程や、その動きを示す身体の変位過程は、上述した外部入力装置120や入力部112により受信されるモーションデータに基づいて判定することができる。
なお、作成部102bは、触感から物理量へ変換することに限られず、物理量から触感へ変換する処理を行ってもよいものである。例えば、上記では、作成部102bは、提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けて、物理量を選択することについて記載したが、これに限られず逆の処理を行ってもよい。すなわち、作成部102bは、入力部112等により検出された物理量に基づいて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けて、対応する触感の情報を得てもよい。すなわち、物理量と触感との間の変換テーブル等が記憶部106に記憶されていれば、作成部102bは、両者の変換をどちらか一方からでも行うことができる。
また、出力制御部102cは、外部出力装置140や出力部114等の出力部側に触覚情報を出力する出力制御手段である。具体的には、出力制御部102cは、作成部102bにより作成された触覚情報を出力手段140,114側に出力する。例えば、出力制御部102cは、触覚情報を外部出力装置140に送信してもよく、入出力制御インターフェイス部108を介して出力部114に出力してもよい。ここで、図5に示すように、出力制御部102cは、更に、第一刺激部102dと第二刺激部102eを備えてもよい。
第一刺激部102dは、第一の種類の触覚刺激が生じる第一刺激点を判定する、または、出力部140,114を介して第一の種類の触覚刺激を第一刺激点に発生させる第一刺激手段である。すなわち、第一刺激部102dは、出力部140,114を介して第一の種類の触覚刺激を能動的に第一刺激点に発生させてもよく、利用者が物体に対して相対的に動くことにより生じた第一の種類の触覚刺激の第一刺激点を判定してもよい。ここで、刺激点は、時間における時点および/または空間における位置点(一次元線上の位置、二次元平面上の位置、三次元空間上の位置等)を意味する。一方、第二刺激部102eは、第一刺激部102dにより判定または発生される第一の種類の触覚刺激の第一刺激点から、時間的および/または空間的に所定の閾値内で離隔した第二刺激点において、出力部140,114を介して第二の種類の触覚刺激を発生させる第二刺激手段である。時間的な所定の閾値や、空間的な所定の閾値は、提示目的とする触覚刺激に応じて異なり、予め記憶部106(触覚定義ファイル106a等)に記憶されていてもよい。なお、時間的および/または空間的に所定の閾値として、公知の二点弁別閾(空間的二点弁別閾や時間的二点弁別閾等)を用いてもよい。
力提示の刺激点に他の刺激を定位して知覚させる場合、一例として、第一刺激部102dは、第一の種類の触覚刺激として力提示を、判定または発生させ、第二刺激部102eは、振動、温度、および、電気刺激のうちの一つまたは複数を、第二の種類の触覚刺激として第二刺激点に発生させてもよい。他の例として、第一刺激部102dは、振動、温度、および、電気刺激のうちの一つまたは複数を、第一の種類の触覚刺激として、判定または発生させ、第二刺激部102eは、第二の種類の触覚刺激として力提示を、第二刺激点に発生させることによっても、同様の効果を奏することができる。
また、振動提示の刺激点に他の刺激を定位して知覚させる場合、一例として、第一刺激部102dは、第一の種類の触覚刺激として振動提示を、判定または発生させ、第二刺激部102eは、温度刺激を、第二の種類の触覚刺激として第二刺激点に発生させてもよい。他の例として、第一刺激部102dは、第一の種類の触覚刺激として温度提示を、判定または発生させ、第二刺激部102eは、振動刺激を、第二の種類の触覚刺激として第二刺激点に発生させることによっても、同様の効果を奏することができる。
また、電気刺激提示の刺激点に他の刺激を定位して知覚させる場合、第一刺激部102dは、第一の種類の触覚刺激として電気刺激提示を、判定または発生させ、第二刺激部102eは、振動および/または温度を、第二の種類の触覚刺激として第二刺激点に発生させてもよい。他の例として、第一刺激部102dは、振動および/または温度を、第一の種類の触覚刺激として、判定または発生させ、第二刺激部102eは、第二の種類の触覚刺激として電気刺激提示を、第二刺激点に発生させることによっても、同様の効果を奏することができる。
ここで、第一刺激点および第二刺激点の刺激点は、ファントムセンセーション錯覚による知覚点であってもよい。ここで、図8は、ファントムセンセーション錯覚による知覚点を示す図である。実際に人間が実世界の物体を指の腹で触った場合には、指の腹の皮膚表面に加わる、力、振動、温度の4刺激の作用点は同一である。しかしながら、人に提示する触覚提示装置において、各種素子の配置の都合上、力、振動、温度、電気の作用点を一致させることは、一般に困難である。
一方、人間の感覚を調べると、作用点が異なっていても同一の感覚を生じさせることができる。また、作用点とは、別のところに感覚を生じさせることも可能である。後者の好例が、ファントムセンセーションである。図8の白丸は、刺激部位を表し、斜線の丸印は、ファントムセンセーションによる知覚点を表している。ファントムセンセーションは、von Bekesyによって確認された両耳聴による音の定位と同様な皮膚感覚の現象である。ファントムセンセーションでは、ある条件のもとで、2部位に刺激を加えることにより、刺激像を2部位間の刺激部位とは異なる部位に与えることができる。しかも、図8(a)に示すように3以上の部位に刺激を加えることで、その内側に刺激像を定位させることができる。さらに、図8(b)に示すように、複数の刺激部位の刺激の強度差によって、その像の位置を制御することができる。これは、振動刺激に対しても、また電気刺激に対しても生じることが知られている(谷江 和雄、 舘 ▲すすむ▼、 小森谷 清、 阿部 稔「電気パルス刺激における強度差ファントムセンセーション像の位置弁別特性」,計測自動制御学会論文集, Vol.15, No.4, p.505−512 (1979.8)、および、Susumu Tachi, Kazuo Tanie, Kiyoshi Komoriya and Minoru Abe: Electrocutaneous Communication in a Guide Dog Robot (MELDOG), IEEE Transactions on Biomedical Engineering, Vol.BME−32, No.7, pp.461−469 (1985)参照)。
このファントムセンセーション現象の存在は、振動刺激を、直接刺激部位でない部位に感じることができることを意味している。図9および図10は、本願発明者らが開発した上述のTELESAR Vと呼ぶテレイグジスタンスロボットの指装着型センサ/アクチュエータと、指装着時の外観を示す図である(装置構成等の詳細について特開2013−91114号公報参照)。このTELESAR Vのハンドで計測した圧覚情報と振動情報を、手袋に仕込んだ図示の提示装置で提示する際に、指腹には、圧力と剪断力を加え、指の横両側から振動を提示したところ、圧覚を感じる指腹に振動刺激も感じることが確かめられた。ファントムセンセーションにより振動刺激が中央に感じられたと考えられる。さらに、圧覚を与えた場所に、刺激を感じやすくなっている効果もあると見られる。なお、後述する検証実験においても、(1)両側を同時に刺激した場合と、片側だけの場合における刺激を感じる部位を比較し、(2)圧を加えないで、振動刺激を与えた時と、圧を加えて振動刺激を加えた時の、振動刺激の生じる部位を比較して調べている。
そのため、力の提示部分を、電気刺激にかえても、同様に、電気刺激部分に振動刺激をファントムセンセーションによって提示可能である。また、そのファントムセンセーション像は、電気刺激により、より鮮明に定位する。そのため、ファントムセンセーションによって、例えば、振動刺激を力、および電気刺激の部位に定位させ、なおかつ、力提示や電気提示によって、振動刺激のファントムセンセーション像を鮮明に、力や電気刺激を提示した部位に定位させることができる。
また、温度提示についても、温度刺激を、側面から加えた場合、片側だけでは、指腹には定位しないが、振動刺激を指腹に提示すると、その部位に定位する。左右から加えると中心に定位するファントムセンセーションが、この場合もあるかを実験にて検証した。温度の場合、素子の特性と熱の性質から、提示に遅れが生じる。この遅れを、補正するために、センサに接触型の温度センサに加え、非接触の温度センサを組み込むことができる。
ここで、触覚情報変換装置100は、外部入力装置120や外部出力装置140のほか、触覚情報や閾値等を記憶するデータベースや、触覚情報変換プログラム等の外部プログラム等を提供する外部機器200と、ネットワーク300を介して通信可能に接続して構成されてもよい。また、この触覚情報変換装置100は、ルータ等の通信装置および専用線等の有線または無線の通信回線を介して、ネットワーク300に通信可能に接続されてもよい。
また、図5において、通信制御インターフェイス部104は、触覚情報変換装置100とネットワーク300(またはルータ等の通信装置)との間における通信制御を行う装置である。すなわち、通信制御インターフェイス部104は、他の端末または局と、通信回線(有線、無線を問わない)を介してデータを通信する機能を有する。本実施の形態において、通信制御インターフェイス部104は、外部入力装置120や、外部出力装置140、外部機器200等との通信制御を行う。
ここで、外部機器200は、ネットワーク300を介して、触覚情報変換装置100、外部入力装置120、および、外部出力装置140と相互に接続され、各端末に対して触感定義ファイルや物体触感データベース等に記憶される閾値や変換テーブル等のほかキャリブレーションに関する外部データベースや、触覚情報変換プログラムやエンコーディングプログラム等の外部プログラム等を実行するウェブサイトを提供する機能を有する。
ここで、外部機器200は、例えば、パーソナルコンピュータや、サーバ用のコンピュータなどのハードウェア要素と、オペレーティングシステム、アプリケーションプログラム、その他のデータなどのソフトウェア要素とで実現されてもよい。例えば、外部機器200は、WEBサーバやASPサーバ等として構成していてもよく、そのハードウェア構成は、一般に市販されるワークステーション、パーソナルコンピュータ等の情報処理装置およびその付属装置により構成していてもよい。また、外部機器200の各機能は、外部機器200のハードウェア構成中のCPU等のプロセッサ、ディスク装置、メモリ装置、入力装置、出力装置、通信制御装置等およびそれらを制御するプログラム等により実現される。
以上で、本実施形態の触感提示システムの各構成の説明を終える。なお、上述の構成例では、触覚情報変換装置100が、入力部120,112や、出力部140,114、サーバ等の外部機器200とは別筐体として構成された例について説明を行ったが、本実施の形態はこれに限られない。例えば、触覚情報変換装置100は、入力装置と一体として構成されてもよく、送信装置と一体として構成されてもよく、記憶装置と一体として構成されてもよく、サーバ装置と一体として構成されてもよく、受信装置と一体として構成されてもよく、あるいは、出力装置と一体として構成されてもよい。
[触感提示システムの処理]
次に、このように構成された本実施形態における触感提示システムの処理の一例について、以下に図11〜図13を参照して詳細に説明する。
(触感提示処理)
図11は、本実施形態の触感提示システムにおける触覚情報変換処理の一例を示すフローチャートである。
図11に示すように、まず、本触感提示システムの入力部120,112は、利用者の身体運動を検出し、触覚情報変換装置100は、作成部102bの処理により、モーションデータ等の身体運動情報を取得する(ステップSA−1)。一例として、入力部120,112は、タッチ検出を行ってもよく、接触面積を検出してもよく、あるいは、指の変位を検出してもよい。なお、外部出力装置120が例えば身体運動情報を取得した場合は、触覚情報変換装置100に身体運動情報を送信し、触覚情報変換装置100が身体運動情報を受信する。
そして、本触感提示システムの触覚情報変換装置100は、作成部102bの処理により、提示目的の触感に応じて、電気、力、温度、振動、時空間の物理量のうち、少なくとも二以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の触感を提示するための触覚情報を作成する(ステップSA−2)。例えば、作成部102bは、力の時間変化による触感を提示する場合、少なくとも電気および時空間の物理量により合成してもよい。ここで、作成部102bは、触覚定義ファイル106aにて第一および第二の種類の触覚刺激が定義されている場合、第一および第二の種類の触覚刺激に基づいて複数の物理量として合成してもよい。
そして、本触感提示システムの触覚情報変換装置100は、外部出力装置140や出力部114等の出力部側に触覚情報を出力する(ステップSA−3)。具体的には、出力制御部102cは、作成部102bにより作成された触覚情報を出力部140,114側に出力する。なお、出力先が外部出力装置140の場合、触覚情報変換装置100は、出力制御部102cの制御により、触覚情報を外部出力装置140に送信する。ここで、出力制御部102cは、第一刺激部102dと第二刺激部102eによる処理を実行してもよい(処理について後述する)。
そして、本触覚提示システムの出力部140,114は、触覚情報に基づいて出力部140,114からマルチモーダル(多感覚形式)な出力を行い、利用者の触知性に働きかける触感を提示する(ステップSA−4)。
以上が、本触感提示システムの触感提示処理の一例である。つづいて、本触感提示システムの多点刺激処理の一例について以下に説明する。
(多点刺激処理)
図12は、本実施形態の触感提示システムの触覚情報変換装置100における多点刺激処理の一例を示すフローチャートである。
図12に示すように、まず、触覚情報変換装置100の出力制御部102cは、触覚定義ファイル106aを参照して、定義された第一の種類の触覚刺激と第二の種類の触覚刺激を設定する(ステップSB−1)。
そして、触覚情報変換装置100の出力制御部102cは、第一刺激部102dの処理により、第一の種類の触覚刺激が生じる第一刺激点を判定する(ステップSB−2)。より具体的には、出力制御部102cは、利用者が物体に対して接触等を行うことにより生じた第一の種類の触覚刺激の時点や位置点等を判定してもよい。あるいは、出力制御部102cは、第一刺激部102dの処理により、出力部140,114を介して第一の種類の触覚刺激を第一刺激点に発生させる刺激情報を出力してもよい。
そして、触覚情報変換装置100の出力制御部102cは、第二刺激部102eの処理により、第一刺激部102dにより判定または発生される第一の種類の触覚刺激の第一刺激点から、時間的および/または空間的に所定の閾値内で離隔した第二刺激点を設定する(ステップSB−3)。ここで、出力制御部102cは、第二刺激部102eの処理により、触覚定義ファイル106aに予め記憶された閾値を参照して、第二刺激点を設定してもよい。
そして、触覚情報変換装置100の出力制御部102cは、第二刺激部102eの処理により、ステップSB−3にて設定された第二刺激点において、出力部140,114を介して第二の種類の触覚刺激を発生させる触覚情報を出力する(ステップSB−4)。
以上の処理により、電気、力、温度、振動の全て、あるいは、それらの任意の組み合わせの提示素子を、人間の皮膚上の別の部位に配置しながら、一箇所に刺激を感じるように触感を提示することができる。その手段の一例として、ファンムセンセーションによる提示方法や他の方法を用いることで、物理的には別の場所に配しているが、感覚としては一カ所に感じるように提示することが可能となる。
例えば、力提示を刺激の作用点に配し、振動、温度、電気刺激のいずれか、あるいは任意の組み合わせの刺激子を物理的に離れた場所に配して、ファントムセンセーションにより、その刺激の感覚を、力の作用点に定位させることができる。また、力の提示により、ファントムセンセーションによる定位像を鮮明化することにより、力・電気・振動・温度の触原色の提示部位を一致させることができる。
他の具体例として、力提示を刺激の作用点に配し、振動、温度のいずれか、あるいは両者の刺激子を物理的に離れた場所に配して、ファントムセンセーションにより、その刺激の感覚を、力の作用点に定位させることや、力の提示によりファントムセンセーションによる定位像を鮮明化することにより、力・振動・温度の触原色の提示部位を一致させることができる。
また、本実施形態によれば、電気刺激提示を刺激の作用点に配し、振動、温度のいずれか、あるいは両者を物理的に離れた場所に配して、ファントムセンセーションにより力の作用点に定位させることができる。また電気刺激の提示によりファントムセンセーションによる定位像を鮮明化することにより、電気・振動・温度の触原色の提示部位を一致させることも可能となる。
また、本実施形態によれば、振動提示を刺激の作用点に配し、温度を物理的に離れた場所に配して、ファントムセンセーションにより振動の作用点に定位させることができる。また、振動の提示によりファントムセンセーションによる定位像を鮮明化することにより、振動と温度の触原色の提示部位を一致させることができる。
(遠隔触感伝送処理)
ここで、図13は、本実施形態の触感提示システムにおける遠隔触感伝送処理の一例を示すフローチャートである。なお、本触感提示システムの一部機能として、上述したTELESARシステムを用いてもよい(例えば特開2013−91114号公報参照)。
図13に示すように、まず、本触感提示システムにおいて、提示触感設定部102aは、上述したTELESARシステム等のロボットの手指部の触覚センサ(力センサ、振動センサ、温度センサなどの入力手段120,112)の情報を取得する(ステップSC−1)。
そして、本触感提示システムの提示触感設定部102aは、触覚センサからの情報と、カメラ等で認識された物体の触感に関する教師データ等に基づいて、機械学習を行う(ステップSC−2)。ここで、触覚情報変換装置100のオペレータが、キーボード等の入力部112を介して物体や触感に関する教師データを入力してもよい。
そして、本触感提示システムの提示触感設定部102aは、機械学習等の結果として、触覚センサの情報の特徴(時空間的な変動パターンなど)を、オノマトペなどの触感カテゴリー情報(オノマトペ地図等)に分類する(ステップSC−3)。
そして、本触感提示システムの提示触感設定部102aは、分類した触感カテゴリー情報と、本実施形態の触感提示手法とを、対応付けて物体触感データベース106bに格納する(ステップSC−5)。ここで、触覚ディスプレイ(力、電気、振動、温度などの刺激を提示する外部出力装置140)の時空間的な組み合わせと対応付けて、物体触感データベース106bに格納してもよい。なお、以上のステップSC−1〜SC−4の処理は、前処理として予め実行され、その処理結果が予め記憶部106に格納されてもよい。
つづいて、本触感提示システムにおいて、TELESARシステム等を用いて、リアルタイムで、ロボット教示装置の利用者の手の運動に追従して、ロボットの手指部を動かし、物体とのインタラクションにより得られる触覚センサ情報を取得し、物体触感データベース106bを参照して、対応する触感カテゴリーに分類する(ステップSC−6)。ここで、TELESARシステムのロボット側の手指部と物体検出部を、外部出力装置140と外部入力装置120と考えることができる。また、TELESARシステムのロボット教示装置側の手の運動の検出手段と触覚刺激手段を、入力部112と出力部114と考えることができる。
そして、本触感提示システムの作成部102bおよび出力制御部102cは、触感カテゴリーに応じて、複数の物理量を選択して触覚情報を作成し出力部114に出力する(ステップSC−7)。
これにより、離隔した場所にある物体の触感を、触覚センサの情報から推測し、推測した触感を、利用者に、電気刺激などの多感覚形式で提示することができる(ステップSC−8)。
以上が、本実施形態の触感提示システムの処理の説明である。ここで、上述のように、提示触感設定部102aは、TELESARシステム等のロボットの手指部の触覚センサ(力センサ、振動センサ、温度センサなどの入力手段120,112)の情報を取得し、機械学習などの方法によって、複数のオノマトペなどの触感に関するカテゴリー情報に分類し、カテゴリー情報で表現される触感と、触覚ディスプレイ(力、電気、振動、温度などの刺激を提示する出力手段140,114)の時空間的な組み合わせとを対応付けて、物体触感データベース106bに格納してもよい。なお、カテゴリーの中心にある、互いに、最も離れた信号を、そのカテゴリーの代表信号として登録し、それを、触感提示に使用してもよい。ここで、図14は、機械学習等により取得したカテゴリー情報の変換テーブル等に基づいて、センサ等の入力情報を触感カテゴリー情報に分類し、分類した触感カテゴリー情報に基づいて、複数の物理量を合成して提示出力する場合の機能概念構成を示す図である。
図14に示すように、予め、触覚情報変換装置100は、ロボットのハンド等に配した触覚センサ(力センサ112−1、振動センサ112−2、温度センサ112−3)の情報を、機械学習などの方法によって、変換テーブル等を構築し、複数のオノマトペなどのカテゴリー情報に分類できるようにしておく。なお、図中の触覚センサ以外にも、他の物理量のセンサから、上記のセンサ情報に変換することもできる。ここで、学習は、例えば、振動センサ情報を短時間フーリエ変換して、周波数情報を縦軸、横軸は時間として、温度や力も同様に変換して二次元の画像として、文字認識などで利用されているstacked auto−encoderなどを用いて深層学習させてもよい。そのとき、オノマトペが分かっているサンプルを教師信号として利用してもよい。
そして、触覚情報変換装置100は、識別装置102b´の処理により、触覚センサ(力センサ112−1、振動センサ112−2、温度センサ112−3)からの各種触覚信号(力情報や振動情報や温度情報等)から、学習結果である変換テーブル等を用いて、オノマトペなどの触感のカテゴリー情報へ分類する。
そして、触覚情報変換装置100は、識別装置102b´および調整装置102c´の処理により、分類した触感カテゴリー情報から、触感と物理量の対応関係テーブル等を用いて、調整信号へ加工する。例えば、振動であればフィルターで周波数特性を変化させたり、マルコフ過程の周波数を変えたりすることで実現される。触感と物理量の対応関係テーブル等を得るための学習は、例えば、深層学習で、調整装置102c´から出力される信号を分類し、その正答率が、調整装置102c´を通す前よりも上がるように調整装置102c´を学習させてもよい。より具体的には、識別装置102b´は、提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けることにより、最適な物理量が選択されるよう学習させてもよい。
このように、触覚情報変換装置100は、入力された力センサ112−1や、振動センサ112−2、温度センサ112−3等の情報を、オノマトペなどのカテゴリー情報で表現される触感となるように加工する仕組みを、機械学習などの方法で作り出しておくことができる。これにより、上記の学習が終了したところで、触覚情報変換装置100は、リアルタイムで、ロボットのハンド等を、使用者の手などの運動に追従して動かし、そのときに物体とのインタラクションにより得られる触覚センサ情報から、リアルタイムに、各種センサからの信号をそれぞれ識別装置102a´〜調整装置102c´を介して対応する触覚ディスプレイ(力ディスプレイ114−1、電気ディスプレイ114−2、振動ディスプレイ114−3、温度ディスプレイ114−4)で提示することができる。なお、同時に、識別装置102aにも、同じ信号を入力することができ、例えば、斥力などの力ディスプレイ114−1では提示しにくい触覚を、電気ディスプレイ114−2を用いて提示するよう調整信号に加工することができる。このほか、エンコーディングによって、力情報と振動情報の両方を、あるいは、振動のみを、電気に変換してもよい。
なお、本実施形態において、識別装置102a´,b´が触感を識別するまでは、調整装置102c´は、何も出力せず、触覚センサ112−1〜4からの情報をそのまま出力する。そして、識別装置102a´,b´により触感が識別されると、その識別結果の触感の分類に従って、調整装置102c´が信号を加工し、利用者は、実際に則した更に分かり易い触感を得ることができる。すなわち、触覚情報を触感情報に変換することで、リアルタイムにオノマトペなどのカテゴリー情報で表される触感を得ることができる。
[実施例1]
ここで、本実施形態の触感提示システムの効果を実証した実施例1について以下に説明する。実施例1では、ねばねば感など本来、吸着力を必要とする触感の提示を、電子刺激で代替して提示できることを実験により確かめた。
従来、数多くの触感提示装置が開発されているが、「ねばねば」等のオノマトペに代表される粘着感の提示に関しては実用的な手法は提案されていなかった。これまで、実際の粘着物に触れた際の皮膚の観察から、押しこみ動作時には力と接触面積の関係は、粘着性の有無と関係がないが、引き剥がし時に大きな違いが見られるとの報告があった(Masaaki Yamaoka,Akio Yamamoto,Toshiro Higuchi “Basic Analysis of Stickiness Sensation for Tactile Displays” EuroHaptics2008(日本語:山岡VRSJ2007, VRSJ2008)URL:http://link.springer.com/chapter/10.1007/978−3−540−69057−3_56)
また、空気吸引穴からの吸引で粘着感を提示するデバイス「Vacuum Touch」が開発されている(http://dl.acm.org/citation.cfm?id=2557252)。しかしながら、いずれもエアを用いて物理的に吸引、吸着力を生じさせるものであり、特定の触感を提示するために特化したアドホックな技術であり、実用性に欠ける。
そこで、本実施の形態の実施例1では、電気触覚または機械提示との組合せにより、粘着感等の触感を提示することを目的とする。ここで、図15は、硬表面、軟表面、粘表面を触った場合の接触面や圧力の変化を模式的に示した図である。図は、指先側から体軸方向に指を見た場合を表しており、両矢印は、接触面の幅を示している。
図15に示すように、軟表面を押下する時には、硬表面の場合よりも広い面積で接触することとなる。そのため、押下時に、硬表面よりも強い刺激または、硬表面よりも大面積の刺激を与えることで、柔らかい触感を提示できると本願発明者らは考えた。なお、一般に、軟表面の場合は、押下時に刺激が低減すると思われがちだが、指の同一変位に対しては正しくとも、同一力に対してはそうならない。
また、図15に示すように、粘表面を引き上げる時には、硬表面の場合よりも広い面積で接触する。そのため、引き上げ時に、硬表面よりも強い刺激または、硬表面よりも大面積の刺激を与えることで粘つき感を提示できると本願発明者らは考えた。図15は変形が微小な場合であるが、ここで、より大変形の場合を考える。図16は、硬表面、軟表面、粘表面を触ったときに大変形が生じた場合の接触面や圧力の変化を模式的に示した図である。
図16に示すように、軟表面では、大変形すると多くの場合、塑性変形し、完全には元に戻らない。そのため、本願発明者らは、一度押下して引き上げた時に、ヒステリシスを設けることで柔らかさを感じるとの仮説を立てた。また、粘表面では、引き上げ時に、硬表面の場合より広い面積で接触が生じる。そのため、本願発明者らは、一度押下して引き上げた時に、ヒステリシスを設けることで粘つきを感じるとの仮説を立てた。
すなわち、本実施例の実験1では、指先の「力」に対して刺激を変化させることで粘つきを提示できるか実験を行った。例えば、柔表面では、押下時に、硬表面の場合よりも広い面積で接触するので、押下時により強い刺激を与えることで柔らさを感じるとの仮説を立て実験を行った。一方、粘表面では、引き上げ時に、硬表面の場合よりも広い面積で接触するので、引き上げ時に、より強い刺激を与えることで粘つき感を提示できるか実験を行った。
また、本実施例の実験2では、指先の「変位」に対して刺激を変化させることで粘つきを提示できるか実験を行った。ここで、図17は、指の変位量に対する硬表面、軟表面、粘表面の接触面積の変化を示す図である。例えば、軟表面では、大変形する軟平面は、多くの場合、塑性変形し、接触面積が減少するが、一度押下して引き上げた時に、ヒステリシスを設けることで柔らかさを感じるか実験を行った。また、粘表面では、引き上げ時に、硬表面の場合より広い面積で接触するが、一度押下して引き上げた時に、ヒステリシスを設けることで粘つきを感じるか実験を行った。ここで、図18は、本実施例1の実験1で用いた実験装置の構成を指先側から模式的に示した図である。また、図19は、本実施例1の実験1で用いた実験装置を指に装着する前の状態と装着後の状態を示した写真図である。
図18および図19に示すように、本実施例1の実験1では、入力部112として、フィルム状の力センサを用いた。また、出力部114としては、4×5マトリックス、2mm間隔で電気刺激子を配した、1.4mm直径の電気触覚ディスプレイを用いた。また、図示のように、電気刺激のための電極と皮膚の接触を保つために指固定具を用いた。本実験では、特記しない限り全て電気刺激の極性は、陰極刺激を使用した。また、電極を1つずつ、20電極全てをパルス周期60pps(pulses per sec)で刺激した。ここで、図20は、本実施例1の実験1にて、柔らか感を提示するために用いた実験条件(Press条件)を示す図である。また、図21は、本実施例1の実験1にて、粘つき感を提示するために用いた実験条件(Release条件)を示す図である。
所望の触感提示ができることを確かめるため、7段階の主観評価実験を行った。目標押下圧は、1Hzで0g〜500g間を正弦波状に変化させる。画面に目標押下圧と現在の押下圧が表示されおり、被験者には、これに合わせて指を板に押し当てる力を変化させてもらい、電気刺激の刺激を明瞭に感じるように調整した。そして、このとき感じた柔らかさ感を、「全く感じない」〜「明瞭に感じる」までの主観7段階で回答してもらった。同様に、粘つき感についても、主観7段階で回答してもらった。被験者は6名とした。図22は、本実施例1の実験1による主観評価実験結果を示す図である。縦軸は、7段階の主観評価の数値を示している。また、横軸は、左から順に、Press条件での柔らか感の主観評価結果、Press条件で粘つき感の主観評価結果、Release条件での柔らか感の主観評価結果、および、Release条件での粘つき感の主観評価結果を示す。
図22に示すように、Press条件では、期待通り柔らかさ感を明瞭に提示することができ、粘つき感は生じなかった。また、Release条件では、柔らかさ感よりも粘つき感を感じる結果が得られた。柔らかさ感は、Press条件の方がRelease条件よりも感じ、粘つき感はRelease条件の方がPress条件よりも感じる結果が得られた。したがって、柔らかさ感、粘つき感ともに、押下力に応じた電気刺激による皮膚感覚提示によって提示可能であることが示された。すなわち、実験1において、指先の力に対して刺激を変化させることで粘つきを提示できるかという仮説に対し、指先の「力」に対して刺激を変化させることで粘つきを提示できることが確かめられた。
つづいて、本実施例の実験2において、指先の「変位」に対して刺激を変化させることで粘つきを提示できるか実験を行った。図23は、本実施例1の実験2で用いた実験装置を指に装着した状態を示す写真図である。図23に示すように、実験1の装置構成とは異なり、加速度センサを設けている。これにより、指の傾きを計測することができ、空中での指の動きで刺激を変化させることができる。なお、実験1の机および圧力センサは使用しない。ここで、図24は、本実施例1の実験2の実験条件(Press条件)を示す図である。また、図25は、本実施例1の実験例2の実験条件(Release条件)を示す図である。
図24に示すように、Press条件では、押しこみ動作時に、鉛直下向きからの角度100度以下で、持ち上げ動作を行ってもらい、角度80度以上で、ボリュームで調整された一定電流値で刺激を行った。一方、図25に示すように、Release条件では、押しこみ動作時は鉛直下向きからの角度100度以下で、持ち上げ動作時は角度80度以上で、ボリュームで調整された一定電流値で刺激を行った。結果として、Press条件では押しこみ動作時の刺激範囲が持ち上げ動作時よりも大きくなり、Release条件では逆に持ち上げ動作時の刺激範囲が押しこみ動作時よりも大きくなるので、ヒステリシス特性を模擬しているといえる。
所望の触感提示ができることを確かめるため、7段階の主観評価実験を行った。指の角度は1.5秒周期で60度〜120度の間を正弦波状に変化させる。画面に目標押下圧と現在の押下圧が表示されおり、被験者には、これに合わせて空中で指を動かしてもらい、電気刺激の刺激を明瞭に感じるように調整した。そして、このとき感じた柔らかさ感を、「全く感じない」〜「明瞭に感じる」までの主観7段階で回答してもらった。同様に、粘つき感についても、主観7段階で回答してもらった。なお、被験者は6名とした。図26は、本実施例1の実験2による主観評価実験結果を示す図である。縦軸は、7段階の主観評価の数値を示している。また、横軸は、左から順に、Press条件での柔らか感の主観評価結果、Press条件で粘つき感の主観評価結果、Release条件での柔らか感の主観評価結果、および、Release条件での粘つき感の主観評価結果を示す。
図26に示すように、Press条件では柔らかさ感を明瞭に感じ、粘つき感は感じないという結果が得られた。Release条件では、柔らかさ感と粘つき感の差がほぼなかった。粘つき感はRelease条件の方がPress条件よりも感じる結果となった。結論として、空中での運動における電気刺激で、動きに対する刺激にヒステリシスを設けることで粘つき感を提示できることが確かめられた。
以上の通り、本実施例1では、実験1において、指先を対象物に押し当てた状況で、指先の力に対して電気刺激を変化させる手法により、押下時により強い刺激を与えることで柔らかさ感を提示することができた。また、引き上げ時に、より強い刺激を与えることで粘つき感を提示できることがわかった。また、実験2において、指先を空中で動かす状況において、指先の変位に対して電気刺激を変化させる手法により、押下時よりも引き上げ時により長い刺激を与えるというヒステリシスを設けることで粘つき感を提示できることが確かめられた。
機械的ピンマトリクス等による刺激よりも電気刺激が優れているメリットとして次のことが挙げられる。粘つきが生じている時、本来は指を上に持ち上げているのに圧覚を生じるという状況を再現しなければならないが、機械刺激では再現が難しい。据え置き型(卓上型)の触覚ディスプレイの場合は、上下運動するピンマトリクス刺激では、各ピンから皮膚への反力の総量は指の押下力と常に等しくなるため、刺激の総量を変化させることができないという問題がある。電気刺激を用いることで、指の押下力とは独立に刺激の総量を変化させることができ、機械刺激の問題点を解消させることができる。また、装着型(wearable)の触覚ディスプレイの場合、上下運動するピンマトリクス刺激では、各ピンから皮膚への反力の総量は装着する指サック内部で反力を生じるため、指腹のみに刺激を与えたい場合でも指背側に反作用の力を生じてしまう問題がある。電気刺激を用いることで指腹に独立に刺激を与えることができる。
なお、機械刺激か電気刺激かの二者択一ではなく、両者の特徴を活かした出力デバイスを構成してもよい。ここで、図27は、電気刺激マトリックスと機械刺激マトリクスを組み合わせた高密度提示デバイスの構成例を示す図である。電気刺激は、長時間の刺激では感覚の安定性や感覚の質の課題がある。しかし、電気刺激は、短時間のパルス提示であればごく自然な感覚を出せるという利点もある。また、電気刺激は、時間分解能の高い刺激(振動感覚等)を出力できるという利点もある。一方、機械刺激は、特にマトリクス提示のように小型化する場合、時間応答性が悪いという課題がある。そして、時間応答性を高める場合、共振をもたせる設計となるため一定の周波数でしか提示できない課題がある。しかし、一定の圧力を提示し続けることは容易で、圧覚提示は容易であるという利点もある。したがって、図27に示すように、両者の得失を組み合わせることで、電気触覚ディスプレイで触覚の変動成分を提示し、機械刺激で触覚の圧力分布成分を提示する手法を用いることができる。本構成例では、機械刺激マトリクス、電気刺激マトリクスを、それぞれ3mm間隔とし、機械刺激マトリクスは、KGS社製ドットマトリクスディスプレイを使用した。電極サイズは、直径2.4mmである。ここで、図28は、上述したオノマトペ地図(図3)における実施例1(軸1)の範囲を示す図である。
以上の実施例により、図28の太枠の範囲に示すように、垂直方向の力による表現を行うことができることが示された。この領域は、垂直方向の力の継続時間で表現できる領域といえる。すなわち、この領域は、指の「押込み、引き上げ」動作中に、上方向ほど長時間の垂直方向の力を提示することで表現することができる。例えば、オノマトペ地図上の「もちもち」、「べたべた」の触感は、垂直方向の力の継続時間によって区別して表現することできる。なお、上述の実施例では、垂直方向の力について示したが、本願発明者らの先行知見(Kajimoto et al. 1999)を応用すれば、陰極性電気刺激で圧覚を選択的に生起させ、この陰極電気刺激(圧覚提示)を、広範囲に提示し、水平に移動させつつ刺激を強めると、水平方向の力として感じさせることもできる(Sato et al. 2010)。例えば、水平方向に指を滑らせた場合の抵抗力(Frictional Force)を表現することも可能となる。図29は、水平方向の抵抗力により示される触感表現の範囲を示す図である。
この粗滑軸の粗側のオノマトペを提示するためには抵抗力を提示する必要がある(例えば、ざらざら感とかさかさ感の違い)。なお、抵抗力の多くは水平力であるが、一部のオノマトペは、上述のように垂直方向の力が関与する。
図29に示す、粗−滑軸の左下側の領域は、主に抵抗力と振動の組み合わせによって表現することができる。ただし、右下の一部の領域(すべすべ、つるつる等)は、温度が関与していると考えられる。この領域は、図の左上方向ほど強い抵抗力を提示し、左下方向ほど低い中心周波数の振動を提示することで表現することができると考えられた。例えば、「ざらざら」、「ごつごつ」、「かさかさ」は、抵抗力の強さと振動の成分によって区別して表現できる。ごつごつは、ざらざらよりも低い周波数で表現され、かさかさは、ざらざらよりも弱い抵抗力で表現することができると考えられる。
そこで、電気による水平力表現と振動を組み合わせて、「ざらざら」「ごつごつ」「かさかさ」の区別を表現できるか実験を行った。図30は、実験に用いたデバイスを示す図である。実験デバイス等の詳細は、先行知見(Kajimoto, et al. 1999,、Sato et al. 2010)を参照されたい。
実験条件として、電気刺激による水平力の提示を、有/無の2条件とし、振動刺激の提示方法は、ホワイトノイズ(高)、ピンクノイズ(低)、無の3条件とした。そして、被験者12名に、各条件に対して、「ざらざら感」「ごつごつ感」「かさかさ感」のリアルさを回答してもらった。図31は、「ざらざら感」「ごつごつ感」「かさかさ感」の再現実験の結果を示す図である。
図31に示すように、ざらざら感は振動全般で、ごつごつ感はピンクノイズで、かさかさ感はホワイトノイズで生じることがわかった。また、ざらざら感、ごつごつ感は、電気刺激(水平力表現)によってリアルさが増加していることが分かった。かさかさ感は、逆に電気刺激(水平力表現)が無い方がリアルに感じられた。以上の結果により、ざらざら、ごつごつ、かさかさは、振動−力平面中で区別して表現可能であることが証明された。
つづいて、抵抗力と温度による表現について実験を行った。図32は、抵抗力と温度によって再現する触覚表現の範囲を示す図である。図中の縦の点線よりも右の領域は、主に抵抗力と温度の組み合わせによって表現できると考えた。乾−湿軸は、温度低下によって表現可能であり、本願発明者の先行研究でも、布の湿り気を温度低下によって表現している(佐藤他、2016)。逆に、湿度そのものを知覚する受容器は存在しない。なお、硬−柔軸は、主として振動によって表現可能であり、図中の軸に沿って、左下の領域は振動の中心周波数が低い(例:ごつごつ)が、右上に進むに従い中心周波数が高くなる(例:ざらざら、かさかさ)。
図32の太枠で示す領域は、図の右方向ほどおおきな温度低下を提示し、左上方向(抵抗力の軸に沿った方向)ほど強い抵抗力、ないしは長時間の抵抗力を提示することで表現できると考えられる。これにより、例えば「ぬめぬめ」、「ぬるぬる」、「つるつる」、「すべすべ」を区別して表現できるか実験を行った。領域の右に移動するにつれて大きな温度低下が必要となると考えられる(例:ぬめぬめ v.s ぬるぬる)。一方、領域の外側の左側は、温度低下は関与していない。温度低下は材質も表すため人間にも区別は難しい(例:金属に触れた際の温度低下)。このためこの軸の名称は仮に乾湿軸としているが、材質感の表現も含まれる(例:つるつる v.s.さらさら)。
一例として、「つるつる」は、抵抗力なし、温度低下あり、「すべすべ」は、抵抗力なし、温度低下なし、「ぬめぬめ」は、抵抗力あり、温度低下なし、「ぬるぬる」は、抵抗力あり、温度低下ありの表現によって再現可能であると考えた。図33は、実験に用いたデバイスと振動波形を示す図である。
ここでは、予備的検討のため電気刺激ではなく実際の水平皮膚変形提示による表現を行った。指の動きに対し、「遅延(0、 100、 200ms)」と「刺激の持続時間(50、 250、 450ms)」を変えて水平力提示を行った。そして、3x3=9条件に対し、被験者9名に、「すべすべ」「つるつる」「ぬめぬめ」「ぬるぬる」のリアルさを回答してもらった。図34は、「すべすべ」「つるつる」「ぬめぬめ」「ぬるぬる」の再現実験の結果を示す図である。
図34に示すように、ぬめぬめ感、ぬるぬる感とも、刺激の継続時間が長くなるにつれて強く生じることがわかった。すべすべ感、つるつる感は、変化なく一定の低い値であった。すなわち、「ぬめぬめ、ぬるぬる」は、抵抗力提示によって、「すべすべ、つるつる」と区別して表現できることがわかった。なお、予備検討では、つるつるとすべすべは温度低下によって区別して回答する傾向が見られた。ここで、図35は、心理空間を示すオノマトペ地図と、力と振動と温度の3軸で表される物理空間の刺激マップを示す図である。
以上の実験から、「垂直方向の力の継続時間で表現できる領域」(図中の「実験1」)、「抵抗力と振動の組み合わせで表現できる領域」(図中の「実験2」)、「抵抗力と温度の組み合わせで表現できる領域」(図中の「実験3」)の3つで、オノマトペ地図の全体の領域において触感の表現が可能であることが示された。この心理軸は、オノマトペ地図に示すように、主として粗滑軸、硬柔軸、乾湿軸に分けることができ、図の右側に示すように、物理刺激として、「力」による粗−滑の表現、「振動」による硬−柔の表現、「温度」による乾−湿の表現を組み合わせることで、心理空間(オノマトペ地図)で表現される触感を物理空間(物理量の組み合わせ)で表現できることが示された。
換言すれば、抵抗力(水平力、垂直力)、振動、温度によって、オノマトペ地図の粗−滑軸、硬−柔軸、乾−湿軸を表現できることが実験により検証された。触感の心理空間は、多種の素材を触った際に表現される「オノマトペ」の解析から、主として粗滑軸、硬柔軸、乾湿軸によって表現できることがわかった。特に、電気刺激による垂直、水平方向の力提示手段を用いると、機械刺激と比較して、コンパクトさだけでなく、生起感覚の空間分布の自然さのメリットをもつことできた。
具体的には、垂直力によってべとべとやもちもちが表現でき、水平力と振動の組み合わせによってごつごつ、かさかさ、ざらざらが表現でき、水平力と温度の組み合わせによってすべすべ、つるつる、ぬめぬめ、ぬるぬるが提示できるので、抵抗力(水平力、垂直力)、振動、温度によって、オノマトペマップの粗−滑軸、硬−柔軸、乾−湿軸を表現できることが分かった。
[実施例2]
ここで、本実施形態の触感提示システムによる実施例2について以下に説明する。
温度提示は、素子の特性と熱の性質から提示に遅れが生じやすい。また、人間の生理学的特性から、温度刺激の時間的・空間的な二点弁別閾が大きく、知覚しにくいという問題もある。実施例2では、主に温度提示について、時空間的に知覚点を鮮明化できることを実験により確かめた。
すなわち、本実施例2の目的として、指腹部が物体と接触すると同時に指側面部に温冷刺激を提示することで、物体から得られる温冷感を変化させ、温冷感の拡張現実感を感得させうるかを確認した。被験者は、18歳〜21歳女性9名とした。なお、全員実験の仮説について予備知識を与えていない。また、指腹部の皮膚温は、32度に調整したのち実験を行った。ここで、図36は、本実施例2の実験装置(ペルチェ素子)の構成を示す図であり、図37は、本実施例2の実験環境と、ペルチェ素子の装着例を示す図である。
図36および図37(b)に示すように、指側面(a,b,c,dの箇所)にペルチェ素子を装着させた。また、図37(a)に示すように、皮膚温度は、ホットプレートにより調整した。ホットプレート上には、触対象のペルチェ素子と、休憩用のアルミ板(Platform)を配置した。
本実施例2の実験の方法として、合図と同時に触対象に触れることを、インターバル30秒として実施した。被験者には、触対象に触れたときの、ランダムに選択される刺激を2秒間感じてもらい、指腹部に感じた刺激強度を、標準刺激に対する知覚強度を100として数値で回答してもらった。各条件3試行ずつ実施し、平均値をその被験者の知覚強度として採用した。
本実施例2の条件として、刺激の種類を温・冷の2通りとした。また、刺激提示部位を、図38に示すように、Both(側面と腹部)、Pad(腹部のみ)、Side(側面のみ)の3通りとした。図38は、指先側から指を見た場合の温度刺激(Thermal stimulus)を与える位置を模式的に示した図である。腹部と側面は、それぞれペルチェ素子を2つずつ使用し、刺激強度2通り(温・強4℃/s、温・弱3℃/s、冷・強3℃/s、冷・弱2℃/s)とした。なお、Pad(腹部のみ)への強い刺激を標準刺激として使用し、標準刺激の強度は6試行毎に確認した。
図39は、本実施例2の実験結果を示すグラフ図である。図39(a)は温刺激、(b)は冷刺激の場合を示しており、p<0.05(ANOVAおよびライアン法による多重比較)とし、Pad(指腹部のみ)との有意差のみ図示している。
その結果、図39に示すように、Both(側面と腹部)とPad(腹部のみ)では、温・冷ともに、Bothの方がPadより強く知覚された。また、Pad(腹部のみ)とSide(側面のみ)では、温刺激でPad弱と、Side強とを同等の強度に知覚した。また、冷刺激でも同等の強度に知覚された。
本実施例2の本実験1の考察として、指腹部が物体と接触する瞬間に指側面部へ温冷刺激を行うことで、指腹部の温度が実際に変化した場合と同等の指冷感を知覚させることが可能であることが確かめられた。
つづいて、本実施例2の実験2として、温冷刺激の提示位置および圧・振動刺激の有無について検討を行った。本実験2の目的は、指腹部が予め物体と接していた場合あるいは物体と接していない場合に、指腹部と側面それぞれに知覚する温冷感を評価すること、すなわち圧刺激の有無によって温冷感がどのように影響を受けるかを実験で確かめた。
物体に接している場合は、側面部における温冷刺激の提示位置(片側と両側)の影響と、振動刺激の有無の影響を評価した。被験者は、19歳〜21歳の女性12名とし、全員実験の仮説について予備知識を与えなかった。また、予め指腹部の皮膚温は32度に調整した。
図40は、本実施例2の実験2の実験装置を示す図である。実験1と同様に、指側面にペルチェ素子を装着させ、皮膚温度はホットプレートにより調整した。図40に示すように、ホットプレート上には、触対象のペルチェ素子(e,bの箇所)と、休憩用のアルミ板を配置した。ペルチェ素子の下には振動子(TECHTILE Toolkit)を設けた。
本実施例2の実験2の実験方法として、合図と同時に触対象に触れてもらうか、もしくは指を空中に留めることを、インターバル30秒で実施してもらった。そして、ランダムに選択される刺激を2秒間感じてもらい、指の腹部と側面部に感じた刺激強度を、標準刺激に対する知覚強度を100として数値で回答してもらった。実験は各条件1試行ずつ実施した。
本実施例2の実験2の実験条件として、刺激の種類は、温・冷の2通りとした。また、刺激提示条件は、図41に示すように、None(腹部接触なし)、Pad(腹部のみ)、Side(側面のみ、振動無し)、Vib(側面のみ、振動あり)の4通りとした。図41は、指先側から指を見た場合の温度刺激(Thermal stimulus)を与える位置を模式的に示した図である。図41に示すように、腹部と側面はそれぞれペルチェ素子を2つずつ使用している。また、刺激強度は、温・強4℃/s、温・弱3℃/s、冷・強3℃/s、冷・弱2℃/sの2通りとした。振動刺激は、温冷刺激の直前に、指腹部に対し200Hz、0.1秒間与えた。なお、Pad(指腹部)への強い刺激を標準刺激として使用し、標準刺激の強度は8試行毎に確認した。
図42は、温刺激の場合の本実施例2の実験2の実験結果を示したグラフ図である。図43は、冷刺激の場合の本実施例2の実験2の実験結果を示したグラフ図である。図39と同様に、強い刺激を濃い棒グラフで、弱い刺激を淡い棒グラフで示している。
図42に示すように、温刺激の場合、側面部への刺激が片側・両側ともに、接触なしでは腹部に温感は知覚されなかった。また、指腹部のみに刺激を行った場合も、側部に若干の温感を知覚した。腹部の知覚強度において、側面部への刺激位置、振動刺激の有無、刺激強度を要因とする分散分析を行った結果、刺激強度の主効果にのみ有意差あった(F(1,95)=10.16, p<.01)。一方、刺激位置と振動刺激の有無の主効果は有意差がなかった(F(1,95)=0.80, p=0.39.F(1,95)=1.131, p<0.31)。
側部の知覚強度においては、位置と強度の交互作用に有意差があり(F(1,95)=4.85, p<.05)、多重比較の結果、片側刺激の場合に強度間に有意差あった(p<.05)。
図43に示すように、冷刺激の場合、側面部への刺激が片側・両側ともに、接触なしでも腹部に若干の冷感を知覚する場合があった。一方、指腹部のみに刺激を行った場合は、側部には冷感が知覚されなかった。腹部の知覚強度において、側面部への刺激位置、振動刺激の有無、刺激強度を要因とする分散分析の結果、振動刺激の有無と刺激強度の主効果にのみ有意差があった(F(1,95)=5.55, p<.05,F(1,95)=7.74, p<.05)。なお、刺激位置の主効果は有意差がなかった(F(1,95)=0.76, p<0.40)。また、側部の知覚強度においては、強度の主効果に有意差があった(F(1,95)=10.45 p<.01)。
以上の実験2により、指腹部への温冷感提示において指腹部の触刺激は重要であることが分かった。また、圧刺激のみの場合も、腹部に温冷感を提示可能であることが分かった。また、側面部片側への刺激の場合であっても、腹部に温冷感を提示可能であることが分かった。すなわち、片側と両側に差がなく、また接触なしの場合は腹部に温冷感が生じなかったことから、これは、ファントムセンセーション現象ではなく、サーマルリファレルに近い現象が生じたと思われた。ただし、冷刺激の場合は接触なしでも腹部に冷覚が知覚される場合があったことから、サーマルリファレルとも異なる全く新しい現象の可能性ある。
本実施例2の予備実験(実験3)として、以下の3項目について基礎的な確認を行った。
a.接触の有無+温度刺激
b.振動刺激の有無+温度刺激
c.圧刺激+振動刺激+温度刺激
ここで、被験者は、19歳女性2名とし、指の皮膚温は32度に調整した。実験装置は、上述の図36に示したように、指側面にペルチェ素子を装着し、刺激強度を約3.5℃/s、刺激時間:2秒間とした。振動刺激は、TECHTILE Toolkit使用し、周波数200Hzとした。
本実施例2の実験3(a.接触の有無+温度刺激)の実験方法として、アラームが鳴ったら直ぐに対象物体(プラスチック樹脂)に触れてもらい、アラーム前後の特定の時間に温度刺激を開始した(−2秒〜+2秒まで、0.5秒刻みの9種類)。そして、指腹部に感じた温度感覚を数値で回答してもらった(冷たい:−3点〜+3点:温かい)。各条件で2回ずつ試行した。
図44は、本実験3(a.接触の有無+温度刺激)により接触に対する温度感覚のずれを示した図である。図44に示すように、±2秒程度ずれると、指腹部の温度感覚は生じないことが分かった。温かい感覚の場合は、温度刺激を振動刺激よりも早く、冷たい感覚の場合は温度刺激を振動刺激と同時に提示することが望ましい。心理物理学的知見から、温かい感覚のほうが遅れて感じることが知られており、それが影響している可能性も考えられた。また、主観的な印象として、接触と同時に皮膚の温度が変わった場合に最も強く感じ、温かい(または冷たい)プラスチック樹脂に触れている、という感覚になった。
つづいて、本実験3(b.振動刺激の有無+温度刺激)により振動に対する温度感覚のずれについて実験を行った。実験方法は、プラスチック樹脂に触れた状態で待機させ、プラスチックを振動させ刺激を提示した。振動刺激前後の特定の時間に温度刺激を開始した(−2秒〜+2秒まで、0.5秒刻みの9種類)。そして、指腹部に感じた温度感覚を数値で回答してもらった(冷たい:−3点〜+3点:温かい)。各条件で2回ずつ試行した。
図45は、本実験3(b.振動刺激の有無+温度刺激)により振動に対する温度感覚のずれを示した図である。実験の結果、実験aに比べ、時間差による温度感覚の変化は小さかった。振動子との接触圧の影響により、振動刺激の有無に関わらず、ある程度の温度感覚が生じてしまう可能性があった。温刺激は早く、冷刺激は同時に提示した場合に強い感覚が得られることは、実験aと同様であった。
つづいて、本実験3(c.圧刺激+振動刺激+温度刺激)により、圧刺激と振動刺激の組合せによる温度知覚のずれについて検討を行った。実験方法として、プラスチック樹脂に約20g重、約100g重、約250g重のいずれかの力で触れさせ、プラスチックを振動させ刺激を提示した。また、振動刺激前後の特定の時間に、温度刺激を開始した(−2秒〜+2秒まで、0.5秒刻みの9種類)。そして、指腹部に感じた温度感覚を数値で回答してもらった(冷たい:−3点〜+3点:温かい)。各条件で1回試行した。
表2は、冷刺激の場合で、圧刺激と振動刺激の組合せによる温度知覚のずれを示した表である。また、表3は、温刺激の場合で、圧刺激と振動刺激の組合せによる温度知覚のずれを示した表である。接触圧による影響はわずかであり、接触圧が弱いほど温度感覚を得やすい可能性もあった。実験aやbと同様に、温刺激は早めに提示しても感覚はそれほど弱くならないと考えられた。
以上の実施例2により、以下の知見が得られた。本実施例2により、触刺激に対し冷刺激のタイミングをずらすことで得られる感覚は弱くなることが分かった。また、±2秒程度ずらした場合は、感覚が得られにくくなることが分かった。触刺激に対する熱刺激のタイミングは、熱刺激を知覚するまでにかかる時間に依存する可能性があり、温刺激の場合は、同時よりもタイミングを早めたほうが得られる感覚が強くなることが分かった。ただし、振動子と常に接触状態にある状態で振動刺激を行う場合は、少なからず感覚は生じてしまう。振動が開始すると物体との接触が生じたという文脈を与える必要性が考えられた。圧刺激の強さは、得られる感覚に影響しなかった。
以上、本実施例2を含む本実施形態によれば、電気、力、温度、振動のすべて、あるいは、それらの任意の組み合わせの提示素子を、人間の皮膚上の別の部位に配置しながら、効果としては、一箇所に刺激を感じるようにした触覚提示装置を構成することができる。
また、本実施形態によれば、力提示を刺激の作用点に配し、振動、温度、電気刺激のいずれか、あるいは任意の組み合わせの刺激子を物理的に離れた場所に配して、ファントムセンセーション等の現象により、その刺激の感覚を、力の作用点に定位させることができる。また、力の提示によりファントムセンセーション等による定位像を鮮明化することにより、力・電気・振動・温度の触原色の提示部位を一致させることが可能である。
また、本実施形態によれば、力提示を刺激の作用点に配し、振動、温度のいずれか、あるいは両者の刺激子を物理的に離れた場所に配して、ファントムセンセーション等により、その刺激の感覚を、力の作用点に定位させることが可能となる。また、力の提示により、ファントムセンセーション等による定位像を鮮明化することにより、力・振動・温度の触原色の提示部位を一致させることができる。
また、本実施形態によれば、電気刺激提示を刺激の作用点に配し、振動、温度のいずれか、あるいは両者を物理的に離れた場所に配して、ファントムセンセーション等により力の作用点に定位させることができる。また、電気刺激の提示によりファントムセンセーション等による定位像を鮮明化することにより、電気・振動・温度の触原色の提示部位を一致させることができる。
また、本実施形態によれば、振動提示を刺激の作用点に配し、温度を物理的に離れた場所に配して、ファントムセンセーション等により振動の作用点に定位させることができる。また、振動の提示によりファントムセンセーション等による定位像を鮮明化することにより、振動と温度の触原色の提示部位を一致させることができる。
以上で、本実施例1,2を含む本実施形態の説明を終える。
[他の実施の形態]
さて、これまで本発明の実施の形態について説明したが、本発明は、上述した実施の形態以外にも、特許請求の範囲に記載した技術的思想の範囲内において種々の異なる実施の形態にて実施されてよいものである。
例えば、触覚情報変換装置100において、入力部112や出力部114を備えて構成された例について説明したが、これに限られず、入力部112や出力部114を備えず、独立した筐体として構成してもよいものである。その場合、触覚情報変換装置100は、外部機器200等のクライアント端末からの要求に応じて処理を行い、その処理結果を当該クライアント端末に返却してもよい。
また、実施の形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。
このほか、上記文献中や図面中で示した処理手順、制御手順、具体的名称、各処理の登録データや検索条件等のパラメータを含む情報、画面例、データベース構成については、特記する場合を除いて任意に変更することができる。
また、触感提示システムに関して、図示の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。
例えば、触覚情報変換装置100の各装置が備える処理機能、特に制御部102にて行われる各処理機能については、その全部または任意の一部を、CPU(Central Processing Unit)などのプロセッサおよび当該プロセッサにて解釈実行されるプログラムにて実現してもよく、また、ワイヤードロジックによるハードウェアプロセッサとして実現してもよい。尚、プログラムは、後述する、コンピュータに本発明に係る方法を実行させるためのプログラム化された命令を含む、一時的でないコンピュータ読み取り可能な記録媒体に記録されており、必要に応じて触覚情報変換装置100や外部機器200に機械的に読み取られる。すなわち、ROMまたはHDD(Hard Disk Drive)などの記憶部106などには、OS(Operating System)と協働してCPUに命令を与え、各種処理を行うためのコンピュータプログラムが記録されている。このコンピュータプログラムは、RAMにロードされることによって実行され、CPUと協働して制御部を構成する。
また、このコンピュータプログラムは、触覚情報変換装置100や外部機器200や外部入力装置120や外部出力装置140に対して任意のネットワーク300を介して接続されたアプリケーションプログラムサーバに記憶されていてもよく、必要に応じてその全部または一部をダウンロードすることも可能である。
また、本発明に係るプログラムを、コンピュータ読み取り可能な記録媒体に格納してもよく、また、プログラム製品として構成することもできる。ここで、この「記録媒体」とは、メモリーカード、USBメモリ、SDカード、フレキシブルディスク、光磁気ディスク、ROM、EPROM、EEPROM、CD−ROM、MO、DVD、および、Blu−ray(登録商標)Disc等の任意の「可搬用の物理媒体」を含むものとする。
また、「プログラム」とは、任意の言語や記述方法にて記述されたデータ処理方法であり、ソースコードやバイナリコード等の形式を問わない。なお、「プログラム」は必ずしも単一的に構成されるものに限られず、複数のモジュールやライブラリとして分散構成されるものや、OS(Operating System)に代表される別個のプログラムと協働してその機能を達成するものをも含む。なお、実施の形態に示した各装置において記録媒体を読み取るための具体的な構成、読み取り手順、あるいは、読み取り後のインストール手順等については、周知の構成や手順を用いることができる。プログラムが、一時的でないコンピュータ読み取り可能な記録媒体に記録されたプログラム製品として本発明を構成してもよい。
記憶部106に格納される各種のデータベース等(触覚定義ファイル106a、物体触感データベース106b等)は、RAM、ROM等のメモリ装置、ハードディスク等の固定ディスク装置、フレキシブルディスク、および、光ディスク等のストレージ手段であり、各種処理やウェブサイト提供に用いる各種のプログラム、テーブル、データベース、および、ウェブページ用ファイル等を格納する。
また、触覚情報変換装置100や外部機器200や外部入力装置120や外部出力装置140は、既知のパーソナルコンピュータ、ワークステーション等の情報処理装置として構成してもよく、また、該情報処理装置に任意の周辺装置を接続して構成してもよい。また、触覚情報変換装置100や外部機器200や外部入力装置120や外部出力装置140は、該情報処理装置に本発明の方法を実現させるソフトウェア(プログラム、データ等を含む)を実装することにより実現してもよい。
更に、装置の分散・統合の具体的形態は図示するものに限られず、その全部または一部を、各種の付加等に応じて、または、機能負荷に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。すなわち、上述した実施形態を任意に組み合わせて実施してもよく、実施形態を選択的に実施してもよい。
(付記1)
少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置であって、
前記制御部は、
提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成部と、
前記作成部により作成された前記触覚情報を前記出力部側に出力する出力制御部と、
を備えたことを特徴とする、触覚情報変換装置。
(付記2)
付記1に記載の触覚情報変換装置において、
前記物理量のうちの電気の出力とは、触受容器の電気刺激提示であることを特徴とする、触覚情報変換装置。
(付記3)
付記1または2に記載の触覚情報変換装置において、
前記触感は、心理質感であることを特徴とする、触覚情報変換装置。
(付記4)
付記1乃至3のいずれか一つに記載の触覚情報変換装置において、
前記作成部は、
力の時間変化による触感を提示する場合、少なくとも電気および時空間の前記物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成することを特徴とする、触覚情報変換装置。
(付記5)
付記1乃至4のいずれか一つに記載の触覚情報変換装置であって、
前記作成部は、
非接触状態から接触状態への遷移過程または身体の変位過程において、硬表面の場合よりも強い電気、力、もしくは振動の刺激、または、硬表面の場合よりも広い面積の電気、力、もしくは振動の刺激が与えられるように前記触覚情報を作成し、
前記出力制御部は、
前記作成部により作成された前記触覚情報に基づいて、柔らかい心理質感を提示すること
を特徴とする、触覚情報変換装置。
(付記6)
付記1乃至5のいずれか一つに記載の触覚情報変換装置であって、
前記作成部は、
接触状態から非接触状態への遷移過程または身体の変位過程において、硬表面の場合よりも強い電気、力、もしくは振動の刺激、または、硬表面の場合よりも広い面積の電気、力もしくは振動の刺激が与えられるように前記触覚情報を作成し、
前記出力制御部は、
前記作成部により作成された前記触覚情報に基づいて、粘つく心理質感を提示すること
を特徴とする、触覚情報変換装置。
以上詳述に説明したように、本発明によれば、任意の触感を提示して汎用的に用いることができる、触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム、ならびに、記録媒体を提供することができ、産業上の有用性がある。
例えば、本発明を用いることにより、例えば遠隔地のロボットを自分の分身として動かし体感することで遠隔作業・遠隔就労分野、介護・ヘルス分野、熟練技術の伝達・学習分野、メディア・放送技術、バーチャルスポーツ、エンターテインメント分野、モバイル、ウェアラブル分野等の産業分野で用いることができる。
100 触覚情報変換装置
102 制御部
102a 提示触感設定部
102b 作成部
102c 出力制御部
102d 第一刺激部
102e 第二刺激部
104 通信制御インターフェイス部
106 記憶部
106a 触覚定義ファイル
106b 物体触感データベース
108 入出力制御インターフェイス部
112 入力部
114 出力部
120 外部入力装置
120a 分布型圧覚計測センサ
120b 温冷感計測センサ
120c 振動感計測センサ
140 外部出力装置
140a 分布型圧力提示部
140b 温冷感提示部
140c 振動提示部
200 外部機器

Claims (20)

  1. 少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置であって、
    前記制御部は、
    提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成部と、
    前記作成部により作成された前記触覚情報を前記出力部側に出力する出力制御部と、
    を備えたことを特徴とする、触覚情報変換装置。
  2. 請求項1に記載の触覚情報変換装置において、
    前記物理量のうちの電気の出力は、触受容器の電気刺激提示であることを特徴とする、触覚情報変換装置。
  3. 請求項1または2に記載の触覚情報変換装置において、
    前記触感は、心理質感であることを特徴とする、触覚情報変換装置。
  4. 請求項1乃至3のいずれか一つに記載の触覚情報変換装置において、
    前記身体は、指であることを特徴とする、触覚情報変換装置。
  5. 請求項3に記載の触覚情報変換装置において、
    前記心理質感は、
    人体の複数の異なる触覚受容器で得られる情報から脳内で統合的に認知される心理量であることを特徴とする、触覚情報変換装置。
  6. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えた入力装置。
  7. 請求項6に記載の入力装置において、
    表層に、多点分布型圧覚計測センサと、
    中間層に、温冷感計測センサと、
    下層に、振動感計測センサと、
    を少なくとも備えた入力装置。
  8. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えた送信装置。
  9. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えた記憶装置。
  10. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えたサーバ装置。
  11. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えた受信装置。
  12. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えた出力装置。
  13. 請求項12に記載の出力装置において、
    表層に、多点電気触覚刺激による分布型圧力提示部と、
    中間層に、ペルチェ素子による高速駆動型温冷感提示部と、
    下層に、広周波数域の振動提示部と、
    を少なくとも備えた出力装置。
  14. 請求項1乃至5のいずれか一つに記載の触覚情報変換装置を備えた、操作者が操作するロボット教示装置を用いてロボットに動作を教示するインタラクション操作システムにおいて、
    前記ロボットは、
    物体を把持するための手指部、
    前記物体または前記物体の性状を検出し、物体検出情報を生成する物体検出部であって、前記手指部に配置される物体検出部、
    前記ロボットを駆動させるロボット駆動装置、
    を有し、
    前記ロボット教示装置は、
    前記ロボットから伝送された前記物体検出情報に基づき前記触覚情報変換装置により変換された触覚情報に応じて、対応する触感を前記操作者に提供する物体検知感覚提供部、
    を有すること、
    を特徴とするインタラクション操作システム。
  15. 少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置において実行される触覚情報変換方法であって、
    前記制御部において実行される、
    提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成ステップと、
    前記作成ステップにて作成された前記触覚情報を前記出力部側に出力する出力制御ステップと、
    を含むことを特徴とする、触覚情報変換方法。
  16. 少なくとも電気を含み、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、コンピュータに実行させるためのプログラムであって、
    提示目的とする触感に応じて、前記物理量のうち少なくとも二つ以上の複数の物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成ステップと、
    前記作成ステップにて作成された前記触覚情報を前記出力部側に出力する出力制御ステップと、
    をコンピュータに実行させるための触覚情報変換プログラム。
  17. 電気、力、温度、振動、および/または、時空間を含む物理量を出力可能な出力部側へ触覚情報を与えるため、制御部を少なくとも備えた触覚情報変換装置であって、
    前記制御部は、
    提示目的とする触感に応じて、前記物理量のうち少なくとも一つの物理量を選択するとともに、選択された物理量に基づいて、所定の前記触感を提示するための触覚情報を作成する作成部と、
    前記作成部により作成された前記触覚情報を前記出力部側に出力する出力制御部と、
    を備え、
    前記作成部は、
    前記提示目的とする触感に応じて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けて、前記物理量を選択すること
    を特徴とする、触覚情報変換装置。
  18. 請求項17に記載の触覚情報変換装置において、
    前記作成部は、
    触感が既知のサンプルに対して前記検出部により検出された前記物理量と、当該触感とを、前記少なくとも2軸のマップ上に対応付けて更新することにより学習を行うことを特徴とする、触覚情報変換装置。
  19. 触覚情報を得るため、検出部と制御部を少なくとも備えた触覚情報変換装置であって、
    前記検出部は、
    力、温度、振動、および/または、時空間を含む物理量を検出可能であり、
    前記制御部は、
    前記検出部により検出された前記物理量に基づいて、力による粗滑軸、振動による硬柔軸、および、温度による乾湿軸のうちの少なくとも2軸上に対応付けることにより、対応する触感を提示するための前記触覚情報を取得すること、
    を特徴とする、触覚情報変換装置。
  20. 請求項19に記載の触覚情報変換装置において、
    前記制御部は、
    触感が既知のサンプルに対して前記検出部により検出された前記物理量と、当該触感とを対応付けた前記少なくとも2軸のマップを更新することにより学習を行うことを特徴とする、触覚情報変換装置。
JP2018510679A 2016-04-07 2017-04-07 触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム Active JP6875010B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016077692 2016-04-07
JP2016077692 2016-04-07
PCT/JP2017/014570 WO2017175867A1 (ja) 2016-04-07 2017-04-07 触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム

Publications (2)

Publication Number Publication Date
JPWO2017175867A1 true JPWO2017175867A1 (ja) 2019-02-21
JP6875010B2 JP6875010B2 (ja) 2021-05-19

Family

ID=60000417

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018510679A Active JP6875010B2 (ja) 2016-04-07 2017-04-07 触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム

Country Status (5)

Country Link
US (2) US10739858B2 (ja)
JP (1) JP6875010B2 (ja)
KR (1) KR20180112847A (ja)
CN (1) CN108885500A (ja)
WO (1) WO2017175867A1 (ja)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101853706B1 (ko) * 2016-11-30 2018-05-02 (주)슈팅스 손가락 마디 간 착용형 반지 타입의 사용자 조작 센싱 장치
JPWO2018143021A1 (ja) * 2017-02-06 2019-07-04 アルプスアルパイン株式会社 触覚呈示装置
WO2018143015A1 (ja) * 2017-02-06 2018-08-09 アルプス電気株式会社 触覚呈示装置
US10627906B2 (en) * 2017-06-02 2020-04-21 International Business Machines Corporation Tactile display using microscale electrostatic accelerators
CN108153020B (zh) * 2018-01-02 2020-08-11 京东方科技集团股份有限公司 触控结构,触控面板及其制备方法、触控显示装置
US10795446B2 (en) * 2018-04-25 2020-10-06 Seventh Sense OÜ Portable electronic haptic vision device
JP2019198939A (ja) * 2018-05-18 2019-11-21 Telexistence株式会社 触覚センサ
JP7020998B2 (ja) * 2018-05-22 2022-02-16 京セラ株式会社 測定装置及び測定装置の制御方法
JP7000253B2 (ja) * 2018-05-31 2022-01-19 国立大学法人東海国立大学機構 力覚視覚化装置、ロボットおよび力覚視覚化プログラム
KR102094002B1 (ko) * 2018-07-10 2020-04-24 주식회사 콜라비팀 인공 신경망 기반 알고리즘을 이용한 디바이스 모니터링 방법 및 시스템
KR20210031916A (ko) * 2018-08-08 2021-03-23 소니 주식회사 복호 장치, 복호 방법, 프로그램
WO2020072915A1 (en) * 2018-10-05 2020-04-09 Ctrl-Labs Corporation Use of neuromuscular signals to provide enhanced interactions with physical objects in an augmented reality environment
CN109710059A (zh) * 2018-11-27 2019-05-03 南京恩诺网络科技有限公司 感官信息还原方法、装置及系统
CN109447038A (zh) * 2018-11-27 2019-03-08 南京恩诺网络科技有限公司 触觉信息估算方法及装置、系统
CN109710058A (zh) * 2018-11-27 2019-05-03 南京恩诺网络科技有限公司 触觉信息录制方法及装置、系统
CN109739345A (zh) * 2018-11-27 2019-05-10 南京恩诺网络科技有限公司 触觉还原方法、装置及系统
JP7127513B2 (ja) * 2018-11-30 2022-08-30 トヨタ自動車株式会社 センサシステムおよびロボットハンド
CN109782950B (zh) * 2019-01-04 2022-05-17 Oppo(重庆)智能科技有限公司 触摸电极控制方法、装置、存储介质及电子设备
WO2020145386A1 (ja) * 2019-01-11 2020-07-16 ダイキン工業株式会社 環境条件記憶装置、環境条件記憶方法、操作装置、及び環境認識装置
JP7415139B2 (ja) * 2019-01-11 2024-01-17 ダイキン工業株式会社 環境条件記憶装置、環境条件記憶方法、操作装置、及び環境認識装置
US11633847B2 (en) * 2019-04-11 2023-04-25 Massachusetts Institute Of Technology Sensing and control systems
KR102265399B1 (ko) * 2019-06-12 2021-06-15 주식회사 씨케이머티리얼즈랩 스테레오 촉각 제공 장치
CN110297546B (zh) * 2019-07-08 2022-05-03 合肥工业大学 一种用于采集腕部-手指动作同步信号的装置及其标注方法
JP7337579B2 (ja) * 2019-07-24 2023-09-04 トヨタ紡織株式会社 情報処理装置
CH716787B1 (it) * 2019-11-13 2022-10-14 Wintecare Sa Manipolo attuatore per un dispositivo di stimolazione neuromuscolare e relativo dispositivo di stimolazione neuromuscolare.
US20210382545A1 (en) * 2020-06-06 2021-12-09 Battelle Memorial Institute High-definition electrical stimulation garment for evoking realistic somatosensation
EP4182908A1 (en) * 2020-06-06 2023-05-24 Battelle Memorial Institute High-definition electrical stimulation for enhanced spatial awareness and target alignment in weapon aiming applications
JP7380439B2 (ja) * 2020-06-18 2023-11-15 日本電信電話株式会社 触覚提示物、触覚提示装置、触覚提示方法、プログラム
WO2022046340A1 (en) * 2020-08-31 2022-03-03 Sterling Labs Llc Object engagement based on finger manipulation data and untethered inputs
US20220374649A1 (en) * 2021-05-20 2022-11-24 Disney Enterprises, Inc. Face swapping with neural network-based geometry refining
WO2023037431A1 (ja) * 2021-09-08 2023-03-16 豊田合成株式会社 触感提示装置
TWI805134B (zh) * 2021-12-17 2023-06-11 長庚大學 感光觸覺系統及其感光方法
JPWO2023119582A1 (ja) * 2021-12-23 2023-06-29
CN114637397B (zh) * 2022-03-07 2024-07-16 北京中物汇智科技有限公司 一种手感增强技能实训方法、装置和系统
EP4250060A1 (en) * 2022-03-25 2023-09-27 Nokia Technologies Oy Apparatus, systems, methods and computer programs for transferring sensations
JP2023150609A (ja) * 2022-03-31 2023-10-16 株式会社栗本鐵工所 出力制御装置、出力制御プログラム及び出力制御方法
WO2024101689A1 (ko) * 2022-11-10 2024-05-16 삼성전자주식회사 햅틱 피드백을 출력하기 위한 전자 장치 및 그 방법
US11751799B1 (en) * 2023-02-08 2023-09-12 Lanny Leo Johnson Methods and systems for diagnosing cognitive conditions

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011086068A (ja) * 2009-10-14 2011-04-28 Chugoku Electric Power Co Inc:The 状態再現システム
WO2012073733A1 (ja) * 2010-12-03 2012-06-07 日本電気株式会社 提示装置、コミュニケーションシステム、および感性提示方法
JP2013091114A (ja) * 2011-10-05 2013-05-16 Kyokko Denki Kk インタラクション操作システム
JP2015219887A (ja) * 2014-05-21 2015-12-07 日本メクトロン株式会社 電気触覚提示装置

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6016385A (en) * 1997-08-11 2000-01-18 Fanu America Corp Real time remotely controlled robot
US6126373A (en) * 1997-12-19 2000-10-03 Fanuc Usa Corporation Method and apparatus for realtime remote robotics command
JP2002132432A (ja) * 2000-10-30 2002-05-10 Toshiba Corp 多次元触覚入出力装置
US20020133264A1 (en) * 2001-01-26 2002-09-19 New Jersey Institute Of Technology Virtual reality system for creation of design models and generation of numerically controlled machining trajectories
AT7035U1 (de) * 2002-03-06 2004-07-26 Accelate Business Launch And E Einrichtung zum codieren, übertragen und/oder empfangen von signalen
US20040077975A1 (en) * 2002-10-22 2004-04-22 Zimmerman Jeffrey C. Systems and methods for motion analysis and feedback
JP4171046B2 (ja) * 2004-05-25 2008-10-22 株式会社ソニー・コンピュータエンタテインメント 入力装置及び方法、文字入力方法
US9900669B2 (en) * 2004-11-02 2018-02-20 Pierre Touma Wireless motion sensor system and method
US20060106369A1 (en) * 2004-11-12 2006-05-18 Desai Jaydev P Haptic interface for force reflection in manipulation tasks
CN101021745A (zh) * 2006-12-14 2007-08-22 东南大学 基于多维刺激的彩色射流触觉图文显示装置及显示方法
CN102016759A (zh) * 2008-05-09 2011-04-13 皇家飞利浦电子股份有限公司 用于传送情绪的方法和系统
US8390438B2 (en) * 2008-09-24 2013-03-05 St. Jude Medical, Atrial Fibrillation Division, Inc. Robotic catheter system including haptic feedback
JP2010102560A (ja) * 2008-10-24 2010-05-06 National Institute Of Information & Communication Technology 把持感覚提示装置
JP2010287221A (ja) 2009-05-11 2010-12-24 Univ Of Tokyo 力覚提示装置
KR101746453B1 (ko) * 2010-04-12 2017-06-13 삼성전자주식회사 실감 효과 처리 시스템 및 방법
WO2012174406A1 (en) * 2011-06-15 2012-12-20 University Of Washington Methods and systems for haptic rendering and creating virtual fixtures from point clouds
US9026250B2 (en) * 2011-08-17 2015-05-05 Harris Corporation Haptic manipulation system for wheelchairs
CN102609094A (zh) * 2012-02-24 2012-07-25 东南大学 电振双模多维触觉刺激器
KR102161723B1 (ko) * 2013-05-07 2020-10-06 삼성디스플레이 주식회사 햅틱 패널 및 이를 포함하는 표시 장치
KR102171873B1 (ko) * 2013-05-08 2020-10-29 삼성전자주식회사 햅틱 글로브 및 수술로봇 시스템
AU2015220546A1 (en) * 2014-02-20 2016-06-09 Mark Oleynik Methods and systems for food preparation in a robotic cooking kitchen
US9330547B2 (en) 2014-05-20 2016-05-03 Immersion Corporation Haptic effect authoring tool based on a haptification model
US9971406B2 (en) * 2014-12-05 2018-05-15 International Business Machines Corporation Visually enhanced tactile feedback
GB2533572A (en) * 2014-12-22 2016-06-29 Nokia Technologies Oy Haptic output methods and devices
US10296086B2 (en) * 2015-03-20 2019-05-21 Sony Interactive Entertainment Inc. Dynamic gloves to convey sense of touch and movement for virtual objects in HMD rendered environments
US20160321880A1 (en) * 2015-04-28 2016-11-03 Immersion Corporation Systems And Methods For Tactile Guidance
US20170144312A1 (en) * 2015-11-25 2017-05-25 Umm Al-Qura University Robotic surgical finger and controller with tactile feedback and robotic hand using the same

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011086068A (ja) * 2009-10-14 2011-04-28 Chugoku Electric Power Co Inc:The 状態再現システム
WO2012073733A1 (ja) * 2010-12-03 2012-06-07 日本電気株式会社 提示装置、コミュニケーションシステム、および感性提示方法
JP2013091114A (ja) * 2011-10-05 2013-05-16 Kyokko Denki Kk インタラクション操作システム
JP2015219887A (ja) * 2014-05-21 2015-12-07 日本メクトロン株式会社 電気触覚提示装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KASUNARI SATO ET.AL: "Electrotactile Display for Integration with Kinethetic Display", THE 16TH IEEE INTERNATIONAL SYMPOSIUM ON ROBOT AND HUMAN INTARACTIVE COMMUNICATION, JPN6021009413, 26 August 2007 (2007-08-26), US, ISSN: 0004466612 *

Also Published As

Publication number Publication date
CN108885500A (zh) 2018-11-23
US20190064927A1 (en) 2019-02-28
US10739858B2 (en) 2020-08-11
US20200356176A1 (en) 2020-11-12
US11281296B2 (en) 2022-03-22
JP6875010B2 (ja) 2021-05-19
WO2017175867A1 (ja) 2017-10-12
KR20180112847A (ko) 2018-10-12

Similar Documents

Publication Publication Date Title
JP6875010B2 (ja) 触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム
JP6703688B2 (ja) 触覚情報変換装置、触覚情報変換方法、および、触覚情報変換プログラム、並びに、素子配置構造体
Jones Haptics
Klatzky et al. The Skin and Its Receptors 148 Pathways to Cortex and Major Cortical Areas 150
KR101680995B1 (ko) 생물 물리학적 신호의 수집된 시간적 및 공간적 패턴에 기초한 뇌-컴퓨터 인터페이스(bci) 시스템
Tan et al. Methodology for maximizing information transmission of haptic devices: A survey
Horvath et al. FingerSight: Fingertip haptic sensing of the visual environment
Asamura et al. Necessary spatial resolution for realistic tactile feeling display
Caldwell et al. Tactile perception and its application to the design of multi-modal cutaneous feedback systems
Hu et al. Stereopilot: A wearable target location system for blind and visually impaired using spatial audio rendering
Brydges et al. Surface exploration using laparoscopic surgical instruments: The perception of surface roughness
Ortiz Brain-computer interfaces: Where human and machine meet
Caldwell et al. Multi-modal cutaneous tactile feedback
Eid et al. Soa thresholds for the perception of discrete/continuous tactile stimulation
Wilson Using pressure input and thermal feedback to broaden haptic interaction with mobile devices
Sawada Tactile display using the micro-vibration of shape-memory alloy wires and its application to tactile interaction systems
Suchalova et al. The Research on Controlling Virtual Reality by EEG Sensor
Schmidmaier Sensory substitution systems
Faugloire et al. Spatiotemporal influences on the recognition of two-dimensional vibrotactile patterns on the abdomen.
Kahol et al. Neuro-cognitively inspired haptic user interfaces
CN113220117B (zh) 一种用于人-计算机交互的装置
Snyder et al. Assessment of surface rendering with 1 DoF vibration
Lederman et al. TUTORIAL REVIEW haptic perception: a tutorial
ガイアーアンドレアス Development and Implementation of a Tactile Feedback System Using End-to-end Tactile Sensor Data Projections for Wearable Human-Robot Interaction
Dandu Engineering Haptic Technologies for Interaction in Virtual and Augmented Reality

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210323

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210415

R150 Certificate of patent or registration of utility model

Ref document number: 6875010

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250