JP2004021820A - 画像・触覚情報入力装置、画像・触覚情報入力方法および画像・触覚情報入力プログラム - Google Patents
画像・触覚情報入力装置、画像・触覚情報入力方法および画像・触覚情報入力プログラム Download PDFInfo
- Publication number
- JP2004021820A JP2004021820A JP2002178626A JP2002178626A JP2004021820A JP 2004021820 A JP2004021820 A JP 2004021820A JP 2002178626 A JP2002178626 A JP 2002178626A JP 2002178626 A JP2002178626 A JP 2002178626A JP 2004021820 A JP2004021820 A JP 2004021820A
- Authority
- JP
- Japan
- Prior art keywords
- information
- image
- tactile
- tactile information
- input device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/014—Hand-worn input/output arrangements, e.g. data gloves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
Abstract
【解決手段】画像・触覚情報入力装置1は、対象物を電子画像として撮像し、その対象物の画像情報を取り込むカメラ2と、対象物の少なくとも一部に接触し、その接触の感覚である触覚情報を取り込む触覚グローブ3とを有している。カメラ2では、撮像された対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、画像情報と、触覚情報とを関連付ける関連付け情報を生成し、前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成する。
【選択図】図1
Description
【発明の属する技術分野】
本発明は、画像・触覚情報入力装置、画像・触覚情報入力方法および画像・触覚情報入力プログラムに関するものである。
【0002】
【従来の技術】
例えば、特許番号第2933023号には、画像情報を入力し、画像情報からその画像に対応する触覚情報を求めて出力する装置が開示されている。
【0003】
しかしながら、前記の装置では、触覚情報を画像情報から求めるので、その触覚情報を正確に求めることができないという欠点がある。
【0004】
【発明が解決しようとする課題】
本発明の目的は、対象物の画像情報と触覚情報とを、互いに関連付け、かつ正確に取得し得る画像・触覚情報入力装置、画像・触覚情報入力方法および画像・触覚情報入力プログラムを提供することにある。
【0005】
【課題を解決するための手段】
このような目的は、下記(1)〜(16)の本発明により達成される。
【0006】
(1) 対象物を電子画像として撮像し、該対象物の画像情報を取り込む画像情報取込手段と、
前記対象物の少なくとも一部に接触し、該接触の感覚である触覚情報を取り込む触覚情報取込手段と、
前記対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける関連付け情報を生成する関連付け情報生成手段とを備え、
前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成するよう構成されていることを特徴とする画像・触覚情報入力装置。
【0007】
(2) 前記触覚情報を取り込む際、前記対象物における前記触覚情報を取り込む部位の位置を求め、
前記求めた位置情報に基づいて、前記関連付け情報を生成するよう構成されている上記(1)に記載の画像・触覚情報入力装置。
【0008】
(3) 前記触覚情報を取り込む際、前記画像情報取込手段により、前記触覚情報取込手段および前記対象物を電子画像として撮像し、前記触覚情報取込手段および前記対象物の画像情報に基づいて、前記対象物における前記触覚情報を取り込む部位の位置を求め、
前記求めた位置情報に基づいて、前記関連付け情報を生成するよう構成されている上記(1)に記載の画像・触覚情報入力装置。
【0009】
(4) 前記触覚情報取込手段は、該触覚情報取込手段の所定の位置を示す少なくとも1つの位置マーカを有しており、
前記位置マーカを利用して前記対象物における前記触覚情報を取り込む部位の位置を求めるよう構成されている上記(2)または(3)に記載の画像・触覚情報入力装置。
【0010】
(5) 前記触覚情報取込手段は、前記対象物に接触したときの圧力を検出する複数の圧力センサを有する上記(1)ないし(4)のいずれかに記載の画像・触覚情報入力装置。
【0011】
(6) 前記触覚情報取込手段は、前記対象物に接触したときの温度を検出する複数の温度センサを有する上記(5)に記載の画像・触覚情報入力装置。
【0012】
(7) 前記触覚情報取込手段は、手に装着する手袋状の装着手段を有する上記(1)ないし(6)のいずれかに記載の画像・触覚情報入力装置。
【0013】
(8) 前記触覚情報には、圧力情報が含まれる上記(1)ないし(7)のいずれかに記載の画像・触覚情報入力装置。
【0014】
(9) 前記触覚情報には、さらに温度情報が含まれる上記(8)に記載の画像・触覚情報入力装置。
【0015】
(10) 前記触覚情報には、さらに摩擦情報が含まれる上記(8)または(9)に記載の画像・触覚情報入力装置。
【0016】
(11) 前記画像情報と、前記触覚情報とが別々に取り込まれるよう構成されている上記(1)ないし(10)のいずれかに記載の画像・触覚情報入力装置。
【0017】
(12) 前記触覚情報付き画像情報は、前記画像情報と、前記触覚情報と、前記関連付け情報とが合成されたものである上記(1)ないし(11)のいずれかに記載の画像・触覚情報入力装置。
【0018】
(13) 前記触覚情報付き画像情報には、前記画像情報と、前記触覚情報と、前記関連付け情報とが、別々に含まれている上記(1)ないし(11)のいずれかに記載の画像・触覚情報入力装置。
【0019】
(14) 前記触覚情報付き画像情報を記録する記録手段を有する上記(1)ないし(13)のいずれかに記載の画像・触覚情報入力装置。
【0020】
(15) 対象物を電子画像として撮像し、該対象物の画像情報を取り込む工程と、
前記対象物の少なくとも一部に接触し、該接触の感覚である触覚情報を取り込む工程と、
前記対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける関連付け情報を生成する工程と、
前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成する工程とを有すことを特徴とする画像・触覚情報入力方法。
【0021】
(16) コンピュータを、
対象物を電子画像として撮像し、該対象物の画像情報を取り込む画像情報取込手段、
前記対象物の少なくとも一部に接触し、該接触の感覚である触覚情報を取り込む触覚情報取込手段、
前記対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける関連付け情報を生成する関連付け情報生成手段、
前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成する手段、
として機能させるための画像・触覚情報入力プログラム。
【0022】
【発明の実施の形態】
以下、本発明の画像・触覚情報入力装置、画像・触覚情報入力方法および画像・触覚情報入力プログラムを添付図面に示す好適実施形態に基づいて詳細に説明する。
【0023】
図1は、本発明の画像・触覚情報入力装置の実施形態を示す斜視図、図2は、図1に示す画像・触覚情報入力装置のカメラの構成例を示す斜視図、図3は、図1に示す画像・触覚情報入力装置のカメラの回路構成例を示すブロック図、図4は、図1に示す画像・触覚情報入力装置の触覚グローブの構成例を示す斜視図、図5は、図1に示す画像・触覚情報入力装置の触覚グローブの回路構成例を示すブロック図、図6は、図1に示す画像・触覚情報入力装置の触覚グローブの手の平側を模式的に示す図、図7は、図1に示す画像・触覚情報入力装置の触覚グローブの各センサおよびその近傍を模式的に示す図である。
【0024】
これらの図に示す画像・触覚情報入力装置1は、対象物の画像情報(画像データ)と、対象物の少なくとも一部の触覚情報(触覚データ)とを取り込み、前記画像情報と、前記触覚情報と、これら画像情報と触覚情報とを関連付ける関連付け情報(関連付けデータ)とを有する触覚情報付き画像情報(触覚データ付き画像データ)を生成する装置である。
【0025】
前記関連付け情報は、電子画像として撮像(撮影)された対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける情報(位置情報)である。
【0026】
また、触覚は、対象物に接触したときの感覚であり、その触覚としては、例えば、質感、形状、圧力(接触強度)の分布、温度の分布、摩擦の分布等が挙げられる。
【0027】
この画像・触覚情報入力装置1で生成された触覚情報付き画像情報は、例えば、図示しない画像・触覚表示装置に入力され、その画像・触覚表示装置は、前記触覚情報付き画像情報に基づいて、前記対象物の画像と、前記対象物の触覚とを、それぞれ再現する。
【0028】
前記触覚情報付き画像情報には、画像情報と触覚情報とを関連付ける関連付け情報が含まれているので、対象物の画像と、その対象物の触覚とを、正確かつ確実に対応させることができ、対象物の画像および触覚を正確に再現することができる。
【0029】
なお、画像・触覚情報入力装置1で生成された触覚情報付き画像情報は、画像・触覚情報入力装置1から前記画像・触覚表示装置へ、例えば、無線または有線で送信されるようになっていてもよく、また、着脱自在の記録媒体を介して入力されるようになっていてもよく、また、前記の両方が可能なようになっていてもよい。
【0030】
すなわち、画像・触覚情報入力装置1は、例えば、前記画像・触覚表示装置等に対し、無線または有線で信号の送信や受信(通信)を行うことができる通信機能(通信手段)を有していてもよく、また、着脱自在の記録媒体(例えば、メモリカード、光ディスク、光磁気ディスク、磁気ディスク等)に対して情報(データ)の記録(記憶)や再生(読み出し)が可能なように構成されていてもよく(記録手段を有していてもよく)、また、前記の両方であってもよい。
【0031】
図1に示すように、画像・触覚情報入力装置1は、対象物を電子画像として撮像(撮影)し、その対象物の画像情報を取り込むカメラ(デジタルカメラ)2と、対象物の少なくとも一部に接触し、その接触の感覚(接触した手、指での感覚)である触覚情報を取り込む触覚グローブ(触覚情報取込手段)3とを有している。なお、前記カメラ2により、画像情報取込手段と、画像情報と触覚情報とを関連付ける関連付け情報を生成する関連付け情報生成手段とが構成される。
【0032】
この画像・触覚情報入力装置1、すなわち、カメラ2および触覚グローブ3は、カメラ2と触覚グローブ3との間で、無線で信号の送信および受信(無線通信)を行うことができる無線通信機能(無線通信手段)を有している。
【0033】
なお、前記無線に限らず、例えば、カメラ2と触覚グローブ3との間で有線通信を行う構成とされていてもよい。
【0034】
図1および図2に示すように、カメラ2は、ボディー20を有し、ボディー20の前面(正面)には、撮像レンズ(撮像レンズ群)41が、ボディー20の背面には、モニタ(表示手段)28が、ボディー20の上面には、撮像スイッチ(レリーズスイッチ)42が、ボディー20の側面には、メモリスロット(メモリ装填部)43が、それぞれ設置されている。
【0035】
メモリスロット43には、メモリカード(メモリを有するカード状の記録媒体)44が着脱自在に装填される。メモリスロット43にメモリカード44が装填されているときは、そのメモリカード44に対し、情報(データ)の書き込み(記憶)および読み出しが可能になる。
【0036】
また、図3に示すように、カメラ2は、CCD(撮像素子)21と、画像取込回路部22と、画像処理・制御部23と、メモリ(例えば、ROM、EEPROM、フラッシュメモリ、RAM等)24と、触覚データ受信部25と、スキャン要求・停止信号発生部26と、ユーザインタフェース制御部27と、各部(各回路)へ電力を供給する電源供給回路部29とを有している。
【0037】
画像処理・制御部23は、例えば、マイクロコンピュータ(CPU)を有しており、画像処理の他、露出演算、自動露出、自動焦点合わせ(AF)、シーケンス制御等、カメラ2全体の制御を行う。
【0038】
なお、前記メモリ24、メモリスロット43、メモリカード44等により、触覚情報付き画像情報を記録する記録手段が構成される。
【0039】
図4に示すように、触覚グローブ3の全体形状は、手袋状をなしている。すなわち、触覚グローブ3は、その装着者である使用者(操作者)の手(指から手首まで)に装着する手袋状の装着手段として、手袋38を有している。
【0040】
使用者は、この手袋38により、触覚グローブ3の装着および取り外しを容易かつ確実に行うことができる。
【0041】
また、この触覚グローブ3には、手袋38の手首に対応する部分に、コントロールユニット30が設けられている。
【0042】
図5に示すように、コントロールユニット30は、スキャン要求・停止信号受信部31と、センサスキャン制御部32と、触覚データ送信部35と、センサデータ処理部36と、各部(各回路)へ電力を供給する電源供給回路部37とを有している。
【0043】
このコントロールユニット30の配置を前記のようにすることにより、触覚グローブ3の指先側(先端側)の重量を軽く(慣性を小さく)することができ、これにより、使用者は、動作(操作)を容易に行うことができる。
【0044】
センサスキャン制御部32は、例えば、マイクロコンピュータ(CPU)を有しており、センサスキャン処理の他、触覚グローブ3全体の制御を行う。
【0045】
また、図5に示すように、触覚グローブ3は、対象物に接触したときの触覚を検出する検出手段として、対象物に接触したときの圧力を検出する複数の圧力センサ33と、対象物に接触したときの温度を検出する複数の温度センサ34とを有しており、これら圧力センサ33のセンサ群(以下、単に「圧力センサ33」とも言う)および温度センサ34のセンサ群(以下、単に「温度センサ34」とも言う)を用いて、触覚情報(触覚データ)として、圧力情報(圧力データ)および温度情報(温度データ)を取り込むようになっている。
【0046】
図6に示すように、これら圧力センサ33および温度センサ34は、それぞれ、手袋38の手の平側、本実施形態では、各指の指先側の腹側(指腹)に対応する部位にそれぞれ設けられている。
【0047】
なお、圧力センサ33および温度センサ34を設ける部位は、図示の部位に限定されず、例えば、圧力センサ33および温度センサ34を、手袋38の各指の腹側前面に設けてもよく、また、手袋38の手の平側全面に設けてもよい。
【0048】
図7に示すように、触覚グローブ3の手袋38、特に、圧力センサ33および温度センサ34が設けられている部分は、例えば、樹脂製のフィルム381と、比較的軟らかい高分子ゲルの層382と、比較的硬い高分子ゲルの層383との積層体で構成することができる。
【0049】
この場合、対象物に触れる側を外側としたとき、外側から内側に向って、樹脂製のフィルム381と、比較的軟らかい高分子ゲルの層382と、比較的硬い高分子ゲルの層383とをこの順序で配置し、前記圧力センサ33および温度センサ34を、それぞれ、前記比較的軟らかい高分子ゲルの層382の中、すなわち、前記比較的硬い高分子ゲルの層383上に設置する。
【0050】
各圧力センサ33および各温度センサ34は、それぞれ、信号線51を介して、センサスキャン制御部32に接続されている。
【0051】
ここで、圧力センサ33や温度センサ34等のセンサの単位面積当りの数(密度)を、人間の皮膚にある温点や冷点、触点等の受容体の単位面積当りの数(密度)と同じか、またはそれより大きくするのが好ましい。
【0052】
すなわち、圧力センサ33の単位面積当りの数(密度)を、人間の皮膚にある触点の単位面積当りの数(密度)と同じか、またはそれより大きくするのが好ましく、また、温度センサ34の単位面積当りの数(密度)を、人間の皮膚にある温点および冷点の単位面積当りの数(密度)と同じか、またはそれより大きくするのが好ましい。
【0053】
これにより、人間の感覚により近い触覚を検出することができ、適正な触覚情報を取り込むことができる。
【0054】
なお、図7中では、圧力センサ33および温度センサ34が行列状(マトリックス状)に配置されているが、本発明では、圧力センサ33および温度センサ34の配置は、これに限定されるものではない。
また、本発明では、例えば、前記温度センサ34を省略してもよい。
【0055】
また、本発明では、例えば、前記温度センサ34に換えて、または、前記圧力センサ33および温度センサ34に加えて、触覚グローブ3に、対象物に接触したときの摩擦を検出する複数の摩擦センサを設け、その摩擦センサを用いて、摩擦情報(摩擦データ)を取り込むように構成してもよい。
【0056】
また、本発明では、用いるセンサは、圧力センサ、温度センサ、摩擦センサには限定されない。すなわち、取り込む触覚情報は、圧力情報、温度情報、摩擦情報には限定されない。
【0057】
図4に示すように、触覚グローブ3の手袋38の手の甲側には、位置を示す複数の位置マーカ、本実施形態では、6つの位置マーカ391、392、393、394、395および396が設けられている。
【0058】
位置マーカ391、392、393、394および395は、それぞれ、手袋38の親指、人差し指、中指、薬指および小指の指先に対応する位置に、それぞれ設けられ、位置マーカ396は、手袋38の手の甲の中央部に対応する位置に設けられている。
【0059】
各位置マーカ391〜396は、それぞれ、各々を識別(検出)し得るパターンや色を有しており、各位置マーカ391〜396を検出することにより、それぞれ、各々が設けられている位置を検出することができるようになっている。
【0060】
一方、各位置マーカ391〜396が設けられている位置と、各圧力センサ33および各温度センサ34が設けられている位置との関係(位置関係)は、予め判っているので、その位置関係と、検出された各位置マーカ391〜396の位置とに基づいて、各圧力センサ33および各温度センサ34の位置をそれぞれ求めることができる。
【0061】
次に、画像・触覚情報入力装置1の作用(動作)を説明する。
ここでは、使用者(操作者)が、画像・触覚情報入力装置1を使用して、対象物として、赤ちゃんの画像情報およびその赤ちゃんの手や腕の触覚情報を取り込む(入力する)場合を代表的に説明する。
【0062】
まず、使用者は、例えば、モニタ28を見つつ、構図を決め、カメラ2で、対象物である赤ちゃん(例えば、赤ちゃんの寝姿)を電子画像として撮像(撮影)する。
【0063】
これにより、CCD21で撮像がなされ、CCD21から信号が出力され、その信号に対し、画像取込回路22および画像処理・制御部23で所定の信号処理や画像処理が施され、メモリ24に、前記撮像された電子画像のデータ、すなわち、デジタルデータである画像情報(例えば、赤ちゃんの寝姿の画像情報)が記憶される。
【0064】
次に、使用者は、触覚グローブ3を手に装着し、その触覚グローブ3で赤ちゃんの例えば手や腕に触れる。この場合、触れるだけでなく、なぜてもよい。
【0065】
そして、使用者は、例えば、モニタ28を見つつ、構図を決め、カメラ2で、触覚グローブ3で赤ちゃんの手や腕に触れているときの状態(触覚グローブ3および赤ちゃんの手や腕)を電子画像として撮像する。
【0066】
これにより、CCD21で撮像がなされ、CCD21から信号が出力され、その信号に対し、画像取込回路22および画像処理・制御部23で所定の信号処理や画像処理が施され、メモリ24に、前記撮像された電子画像のデータ、すなわち、触覚グローブ3で赤ちゃんの手や腕に触れているときの状態(触覚グローブ3および赤ちゃんの手や腕)の画像情報が記憶される。
【0067】
一方、触覚グローブ3では、センサスキャン制御部32の制御により、各圧力センサ33および各温度センサ34で、順次、赤ちゃんの手や腕に触れた(またはなぜた)ときの圧力および温度が検出される。すなわち、圧力情報および温度情報が取り込まれる。この圧力情報および温度情報は、各値(データ)が、それぞれ、いずれの圧力センサ33、いずれの温度センサ34からのものであるかが判るようになっている。
【0068】
なお、前記触覚グローブ3で赤ちゃんの手や腕に触れているときの触覚グローブ3および赤ちゃんの手や腕の撮像は、この圧力情報および温度情報を取り込む際になされる。
【0069】
前記各圧力センサ33および各温度センサ34で検出された圧力の検出値のデータおよび温度の検出値のデータは、センサデータ処理部36で処理された後、触覚データ送信部35からカメラ2へ送信される。すなわち、前記圧力情報および温度情報は、触覚グローブ3の触覚データ送信部35からカメラ2へ送信される。
【0070】
前記圧力情報および温度情報は、カメラ2の受信部25で受信され、画像処理部23を介してメモリ24に記憶される。
【0071】
そして、カメラ2の画像処理・制御部23では、赤ちゃんの所定の部位の画像(電子画像)上の位置と、その位置における圧力および温度(触覚)とが対応するように、赤ちゃんの画像情報と、圧力情報および温度情報(触覚情報)とを関連付ける関連付け情報を生成し、赤ちゃんの画像情報と、圧力情報および温度情報と、関連付け情報とを有する触覚情報付き画像情報を生成する。
【0072】
この場合、画像処理・制御部23は、まず、前記触覚グローブ3で赤ちゃんの手や腕に触れているときの触覚グローブ3および赤ちゃんの手や腕の画像情報に基づいて、赤ちゃんの手や腕における圧力情報および温度情報を取り込む部位の位置を求め、前記求めた位置情報に基づいて、関連付け情報を生成する。
【0073】
前記触覚グローブ3で赤ちゃんの手や腕に触れているときの触覚グローブ3および赤ちゃんの手や腕の画像には、位置マーカ391〜396の画像があり、前述したように、各位置マーカ391〜396から各圧力センサ33および各温度センサ34の位置をそれぞれ求めることができ、また、圧力情報および温度情報は、各値(データ)が、それぞれ、いずれの圧力センサ33、いずれの温度センサ34からのものであるかが判るようになっており、これらから、前記関連付け情報を生成することができる。
【0074】
そして、画像処理・制御部23は、赤ちゃんの画像情報と、圧力情報および温度情報と、関連付け情報とを有する触覚情報付き画像情報を、例えば、前記画像情報と、前記圧力情報および温度情報と、前記関連付け情報とを合成(データ上、赤ちゃんの所定の部位の画像上の位置と、その位置における圧力および温度とが対応するように合成)することで、生成し、その触覚情報付き画像情報をメモリ24およびメモリカード44に記憶する。
【0075】
なお、前記触覚情報付き画像情報には、例えば、画像情報と、圧力情報および温度情報(触覚情報)と、関連付け情報とが、別々に含まれていてもよく、また、例えば、画像情報と、圧力情報および温度情報(触覚情報)と、関連付け情報とのうちの任意の2つを合成してもよい。
【0076】
また、本実施形態では、画像情報の取り込みを行った後、触覚情報の取り込みを行うようになっているが、本発明では、触覚情報の取り込みを行った後、画像情報の取り込みを行うようになっていてもよい。
【0077】
ここで、本発明では、触覚情報の取り込みにおいて、触覚グローブ3で対象物へ触れる回数や触れ方等は、特に限定されず、例えば、触覚グローブ3で対象物を1回触れ、それをカメラ2で撮像するように構成されていてもよく、また、触覚グローブ3で対象物を複数回触れ、その度にカメラ2で撮像するように構成されていてもよい。
【0078】
次に、図8に示すフローチャートを参照して、画像・触覚情報入力装置1の動作をさらに詳細に説明する。
【0079】
ここで、このフローチャートに記述されている各機能を実現するためのプログラムは、コンピュータに読み取り可能なプログラムコードの形態でカメラ2のメモリ(記録媒体)24や触覚グローブ3の図示しない記録媒体(例えば、ROM、フラッシュメモリ、EEPROMのような不揮発性メモリ等)に格納(記録)されており、カメラ2(画像処理・制御部23)や触覚グローブ3(センサスキャン制御部32)は、このプログラムコードにしたがった動作を逐次実行する。
【0080】
なお、前記プログラムは、例えば、カメラ2側にのみ格納されていてもよく、また、触覚グローブ3側のみに格納されていてもよく、また、カメラ2側と触覚グローブ3側とに格納されていてもよい。
【0081】
図8は、画像情報および触覚情報を取り込む際の画像・触覚情報入力装置1の動作の一例を示すフローチャートである。図8中左側は、カメラ2側の処理を示し、図8中右側は、触覚グローブ3側の処理を示す。
【0082】
まず、使用者は、カメラ2で対象物(例えば、赤ちゃん等)を電子画像として撮像する。この場合、使用者は、例えば、モニタ28で対象物の電子画像を見つつ、構図を決め、撮像スイッチ42をオン操作する。
【0083】
図8に示すように、まず、カメラ2側において、一次画像取り込み要求がなされたか否かを判断し(ステップS101)、一次画像取り込み要求がなされたと判断した場合には、一次画像の撮像を行う(ステップS102)。
【0084】
なお、カメラ2の撮像スイッチ42がオンすることにより、前記一次画像取り込み要求がなされる。
【0085】
次いで、撮像した前記一次画像データをメモリ24に記憶する(ステップS103)。
【0086】
次に、使用者は、触覚グローブ3で対象物に接触しつつ、カメラ2でその対象物および触覚グローブ3を電子画像として撮像する。この場合、使用者は、例えば、モニタ28で対象物および触覚グローブ3の電子画像を見つつ、構図を決め、撮像スイッチ42をオン操作する。
【0087】
次いで、カメラ2側において、二次画像取り込み要求がなされたか否かを判断し(ステップS104)、二次画像取り込み要求がなされたと判断した場合には、センサスキャン開始要求を行う(ステップS105)。
【0088】
なお、カメラ2の撮像スイッチ42がオンすることにより、前記二次画像取り込み要求がなされる。
【0089】
前記ステップS105では、ユーザインターフェース制御部27を介し、スキャン要求・停止信号発生部26で、スキャン要求信号を発生し、そのスキャン要求信号を、スキャン要求・停止信号発生部26から触覚グローブ3側へ送信する。
【0090】
このスキャン要求信号は、触覚グローブ3のスキャン要求・停止信号受信部31で受信され、センサスキャン制御部32へ入力される。
【0091】
センサスキャン制御部32は、前記スキャン要求信号の入力があると、圧力センサ33および温度センサ34のセンサスキャンを開始し(ステップS201)、接触の検出を行い(ステップS202)、センサデータの処理を行い(ステップS203)、触覚データを送信する(ステップS204)。
【0092】
前記ステップS201〜S204では、前述したように、センサスキャン制御部32の制御により、各圧力センサ33および各温度センサ34で、順次、圧力および温度を検出し、検出された圧力の検出値のデータおよび温度の検出値のデータの処理をセンサデータ処理部36で行い、得られた圧力データおよび温度データで構成される触覚データ(以下、単に「触覚データ」と言う)を触覚データ送信部35からカメラ2へ送信する。
【0093】
前記触覚データは、カメラ2の触覚データ受信部25で受信され(ステップS106)、画像処理・制御部23へ入力される。
次いで、二次画像の撮像を行う(ステップS107)。
【0094】
次いで、センサスキャン停止要求を行う(ステップS108)。
前記ステップS108では、ユーザインターフェース制御部27を介し、スキャン要求・停止信号発生部26で、スキャン停止信号を発生し、そのスキャン停止信号を、スキャン要求・停止信号発生部26から触覚グローブ3側へ送信する。
【0095】
このスキャン停止信号は、触覚グローブ3のスキャン要求・停止信号受信部31で受信され、センサスキャン制御部32へ入力される。
【0096】
センサスキャン制御部32は、前記スキャン停止信号の入力があると、センサスキャンを停止する(ステップS205)。これにより、触覚グローブ3側の処理は、終了する。
【0097】
一方、カメラ2側では、前記ステップS108の後、ステップS109へ進み、位置マーカ391〜396が含まれている前記二次画像データに基づいて、触覚データを取り込んだ対象物の各位置を求め、前記求めた位置情報に基づいて、関連付け情報を生成する、触覚データ位置算出処理を行う(ステップS109)。
【0098】
次いで、一次画像データと、触覚データと、関連付け情報とを合成する処理を行う(ステップS110)。
【0099】
これにより、一次画像データと、触覚データと、関連付け情報とを合成してなる触覚データ付き画像データが得られる。
【0100】
次いで、触覚情報付き画像情報をメモリ24およびメモリカード44に記憶する(ステップS111)。
以上で、このプログラムを終了する。
【0101】
以上説明したように、この画像・触覚情報入力装置1、画像・触覚情報入力方法および画像・触覚情報入力プログラムによれば、対象物の画像情報と触覚情報とを、互いに関連付けて、取得することができる。
【0102】
また、対象物を電子画像として撮像して対象物の画像情報を取り込むので、画像情報を正確に取得することができる。
【0103】
また、対象物に接触して触覚情報を取り込むので、触覚情報を正確に取得することができる。
【0104】
また、この画像・触覚情報入力装置1で生成された触覚情報付き画像情報に基づいて、所定の画像・触覚表示装置で、対象物の画像と、対象物の触覚とを、それぞれ再現する場合、前記触覚情報付き画像情報には、画像情報と触覚情報とを関連付ける関連付け情報が含まれているので、対象物の画像と、対象物の触覚とを、正確かつ確実に対応させることができ、対象物の画像および触覚を正確に再現することができる。
【0105】
以上、本発明の画像・触覚情報入力装置、画像・触覚情報入力方法および画像・触覚情報入力プログラムを、図示の実施形態に基づいて説明したが、本発明はこれに限定されるものではなく、各部の構成は、同様の機能を有する任意の構成のものに置換することができる。
【0106】
なお、前記実施形態では、触覚情報取込手段は、対象物に接触した手、指での感覚(触覚情報)を取り込むようになっているが、本発明では、これに限らず、例えば、対象物に接触した足等、他の部位での感覚(触覚情報)を取り込むようになっていてもよい。
【0107】
また、前記実施形態では、対象物は、赤ちゃん(生体)であるが、本発明では、対象物は、生体に限らず、物等、あらゆるものであってよい。
【0108】
【発明の効果】
以上説明したように、本発明によれば、対象物の画像情報と触覚情報とを、互いに関連付け、かつ正確に取得することができる。
【0109】
そして、得られた触覚情報付き画像情報に基づいて、所定の画像・触覚表示装置で、対象物の画像と、対象物の触覚とを、それぞれ再現する場合、前記触覚情報付き画像情報には、画像情報と触覚情報とを関連付ける関連付け情報が含まれているので、対象物の画像と、対象物の触覚とを、正確かつ確実に対応させることができ、対象物の画像および触覚を正確に再現することができる。
【図面の簡単な説明】
【図1】本発明の画像・触覚情報入力装置の実施形態を示す斜視図である。
【図2】図1に示す画像・触覚情報入力装置のカメラの構成例を示す斜視図である。
【図3】図1に示す画像・触覚情報入力装置のカメラの回路構成例を示すブロック図である。
【図4】図1に示す画像・触覚情報入力装置の触覚グローブの構成例を示す斜視図である。
【図5】図1に示す画像・触覚情報入力装置の触覚グローブの回路構成例を示すブロック図である。
【図6】図1に示す画像・触覚情報入力装置の触覚グローブの手の平側を模式的に示す図である。
【図7】図1に示す画像・触覚情報入力装置の触覚グローブの各センサおよびその近傍を模式的に示す図である。
【図8】画像情報および触覚情報を取り込む際の図1に示す画像・触覚情報入力装置の動作の一例を示すフローチャートである。
【符号の説明】
1・・・画像・触覚情報入力装置、2・・・カメラ、20・・・ボディー、21・・・CCD、22・・・画像取込回路部、23・・・画像処理・制御部、24・・・メモリ、25・・・触覚データ受信部、26・・・スキャン要求・停止信号発生部、27・・・ユーザインタフェース制御部、28・・・モニタ、29・・・電源供給回路部、3・・・触覚グローブ、30・・・コントロールユニット、31・・・スキャン要求・停止信号受信部、32・・・センサスキャン制御部、33・・・圧力センサ、34・・・温度センサ、35・・・触覚データ送信部、36・・・センサデータ処理部、37・・・電源供給回路部、38・・・手袋、381・・・フィルム、382、383・・・層、391〜396・・・位置マーカ、41・・・撮像レンズ、42・・・撮像スイッチ、43・・・メモリスロット、44・・・メモリカード、51・・・信号線、S101〜S111・・・ステップ、S201〜S205・・・ステップ
Claims (16)
- 対象物を電子画像として撮像し、該対象物の画像情報を取り込む画像情報取込手段と、
前記対象物の少なくとも一部に接触し、該接触の感覚である触覚情報を取り込む触覚情報取込手段と、
前記対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける関連付け情報を生成する関連付け情報生成手段とを備え、
前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成するよう構成されていることを特徴とする画像・触覚情報入力装置。 - 前記触覚情報を取り込む際、前記対象物における前記触覚情報を取り込む部位の位置を求め、
前記求めた位置情報に基づいて、前記関連付け情報を生成するよう構成されている請求項1に記載の画像・触覚情報入力装置。 - 前記触覚情報を取り込む際、前記画像情報取込手段により、前記触覚情報取込手段および前記対象物を電子画像として撮像し、前記触覚情報取込手段および前記対象物の画像情報に基づいて、前記対象物における前記触覚情報を取り込む部位の位置を求め、
前記求めた位置情報に基づいて、前記関連付け情報を生成するよう構成されている請求項1に記載の画像・触覚情報入力装置。 - 前記触覚情報取込手段は、該触覚情報取込手段の所定の位置を示す少なくとも1つの位置マーカを有しており、
前記位置マーカを利用して前記対象物における前記触覚情報を取り込む部位の位置を求めるよう構成されている請求項2または3に記載の画像・触覚情報入力装置。 - 前記触覚情報取込手段は、前記対象物に接触したときの圧力を検出する複数の圧力センサを有する請求項1ないし4のいずれかに記載の画像・触覚情報入力装置。
- 前記触覚情報取込手段は、前記対象物に接触したときの温度を検出する複数の温度センサを有する請求項5に記載の画像・触覚情報入力装置。
- 前記触覚情報取込手段は、手に装着する手袋状の装着手段を有する請求項1ないし6のいずれかに記載の画像・触覚情報入力装置。
- 前記触覚情報には、圧力情報が含まれる請求項1ないし7のいずれかに記載の画像・触覚情報入力装置。
- 前記触覚情報には、さらに温度情報が含まれる請求項8に記載の画像・触覚情報入力装置。
- 前記触覚情報には、さらに摩擦情報が含まれる請求項8または9に記載の画像・触覚情報入力装置。
- 前記画像情報と、前記触覚情報とが別々に取り込まれるよう構成されている請求項1ないし10のいずれかに記載の画像・触覚情報入力装置。
- 前記触覚情報付き画像情報は、前記画像情報と、前記触覚情報と、前記関連付け情報とが合成されたものである請求項1ないし11のいずれかに記載の画像・触覚情報入力装置。
- 前記触覚情報付き画像情報には、前記画像情報と、前記触覚情報と、前記関連付け情報とが、別々に含まれている請求項1ないし11のいずれかに記載の画像・触覚情報入力装置。
- 前記触覚情報付き画像情報を記録する記録手段を有する請求項1ないし13のいずれかに記載の画像・触覚情報入力装置。
- 対象物を電子画像として撮像し、該対象物の画像情報を取り込む工程と、
前記対象物の少なくとも一部に接触し、該接触の感覚である触覚情報を取り込む工程と、
前記対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける関連付け情報を生成する工程と、
前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成する工程とを有すことを特徴とする画像・触覚情報入力方法。 - コンピュータを、
対象物を電子画像として撮像し、該対象物の画像情報を取り込む画像情報取込手段、
前記対象物の少なくとも一部に接触し、該接触の感覚である触覚情報を取り込む触覚情報取込手段、
前記対象物の所定の部位の画像上の位置と、その位置における触覚とが対応するように、前記画像情報と、前記触覚情報とを関連付ける関連付け情報を生成する関連付け情報生成手段、
前記画像情報と、前記触覚情報と、前記関連付け情報とを有する触覚情報付き画像情報を生成する手段、
として機能させるための画像・触覚情報入力プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002178626A JP4029675B2 (ja) | 2002-06-19 | 2002-06-19 | 画像・触覚情報入力装置 |
US10/463,230 US20050099503A1 (en) | 2002-06-19 | 2003-06-17 | Image/tactile information input device, image/tactile information input method, and image/tactile information input program |
EP03013386A EP1376317A3 (en) | 2002-06-19 | 2003-06-18 | Image/tactile information input device, image/tactile information input method, and image/tactile information input program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002178626A JP4029675B2 (ja) | 2002-06-19 | 2002-06-19 | 画像・触覚情報入力装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004021820A true JP2004021820A (ja) | 2004-01-22 |
JP4029675B2 JP4029675B2 (ja) | 2008-01-09 |
Family
ID=29717492
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002178626A Expired - Fee Related JP4029675B2 (ja) | 2002-06-19 | 2002-06-19 | 画像・触覚情報入力装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20050099503A1 (ja) |
EP (1) | EP1376317A3 (ja) |
JP (1) | JP4029675B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006058973A (ja) * | 2004-08-17 | 2006-03-02 | Sony Corp | 触覚情報作成装置及び触覚情報作成方法 |
JP2006163579A (ja) * | 2004-12-03 | 2006-06-22 | Sony Corp | 情報処理システム、情報処理装置及び情報処理方法 |
JP2007034439A (ja) * | 2005-07-22 | 2007-02-08 | Advanced Telecommunication Research Institute International | 触力覚検索システムおよび触力覚検索プログラム |
KR20170083588A (ko) * | 2015-08-31 | 2017-07-18 | 시아오미 아이엔씨. | 역치 설정 방법 및 장치 |
JP2019160036A (ja) * | 2018-03-15 | 2019-09-19 | 東京瓦斯株式会社 | 触感情報システム、触感情報処理装置およびプログラム |
US20210035274A1 (en) * | 2019-08-01 | 2021-02-04 | Siemens Healthcare Gmbh | Method and system for generating an enriched image of a target object and corresponding computer program and computer-readable storage medium |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007053116A1 (en) * | 2005-10-31 | 2007-05-10 | National University Of Singapore | Virtual interface system |
EP2069889A2 (fr) * | 2006-08-03 | 2009-06-17 | France Telecom | Dispositif de capture d'images et de saisie haptique |
US8072432B2 (en) | 2008-01-15 | 2011-12-06 | Sony Ericsson Mobile Communications Ab | Image sense tags for digital images |
US8001620B2 (en) * | 2008-03-04 | 2011-08-23 | Denise Lynn Merkle | Temperature sensing glove for automotive applications |
US20150250398A1 (en) * | 2014-03-06 | 2015-09-10 | Medsense Inc. | Sensor module for simultaneously measuring ecg and pulse signal |
US20160054645A1 (en) * | 2014-08-21 | 2016-02-25 | Paul Contino | External camera for a portable electronic device |
CN104636099B (zh) * | 2014-10-20 | 2017-11-03 | 东南大学 | 一种视、触觉文件格式转换装置及其方法 |
US9870717B2 (en) * | 2016-03-30 | 2018-01-16 | Hcl Technologies Limited | Assisting a visually impaired user to grip an object |
US10996754B2 (en) * | 2018-10-12 | 2021-05-04 | Aurora Flight Sciences Corporation | Manufacturing monitoring system |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2411603A2 (fr) * | 1977-12-19 | 1979-07-13 | Zarudiansky Alain | Dispositif et procede d'enregistrement de restitution et de synthese de sensations tactiles |
US5354162A (en) * | 1991-02-26 | 1994-10-11 | Rutgers University | Actuator system for providing force feedback to portable master support |
JP3199130B2 (ja) * | 1992-03-31 | 2001-08-13 | パイオニア株式会社 | 3次元座標入力装置 |
US5459329A (en) * | 1994-09-14 | 1995-10-17 | Georgia Tech Research Corporation | Video based 3D tactile reconstruction input device having a deformable membrane |
US20020036617A1 (en) * | 1998-08-21 | 2002-03-28 | Timothy R. Pryor | Novel man machine interfaces and applications |
US6388657B1 (en) * | 1997-12-31 | 2002-05-14 | Anthony James Francis Natoli | Virtual reality keyboard system and method |
AU2001233019A1 (en) * | 2000-01-28 | 2001-08-07 | Intersense, Inc. | Self-referenced tracking |
US6786863B2 (en) * | 2001-06-07 | 2004-09-07 | Dadt Holdings, Llc | Method and apparatus for remote physical contact |
-
2002
- 2002-06-19 JP JP2002178626A patent/JP4029675B2/ja not_active Expired - Fee Related
-
2003
- 2003-06-17 US US10/463,230 patent/US20050099503A1/en not_active Abandoned
- 2003-06-18 EP EP03013386A patent/EP1376317A3/en not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006058973A (ja) * | 2004-08-17 | 2006-03-02 | Sony Corp | 触覚情報作成装置及び触覚情報作成方法 |
JP2006163579A (ja) * | 2004-12-03 | 2006-06-22 | Sony Corp | 情報処理システム、情報処理装置及び情報処理方法 |
JP2007034439A (ja) * | 2005-07-22 | 2007-02-08 | Advanced Telecommunication Research Institute International | 触力覚検索システムおよび触力覚検索プログラム |
KR20170083588A (ko) * | 2015-08-31 | 2017-07-18 | 시아오미 아이엔씨. | 역치 설정 방법 및 장치 |
KR101950626B1 (ko) | 2015-08-31 | 2019-02-20 | 시아오미 아이엔씨. | 역치 설정 방법 및 장치 |
JP2019160036A (ja) * | 2018-03-15 | 2019-09-19 | 東京瓦斯株式会社 | 触感情報システム、触感情報処理装置およびプログラム |
US20210035274A1 (en) * | 2019-08-01 | 2021-02-04 | Siemens Healthcare Gmbh | Method and system for generating an enriched image of a target object and corresponding computer program and computer-readable storage medium |
US11816821B2 (en) * | 2019-08-01 | 2023-11-14 | Siemens Healthcare Gmbh | Method and system for generating an enriched image of a target object and corresponding computer program and computer-readable storage medium |
Also Published As
Publication number | Publication date |
---|---|
EP1376317A2 (en) | 2004-01-02 |
EP1376317A3 (en) | 2005-11-30 |
US20050099503A1 (en) | 2005-05-12 |
JP4029675B2 (ja) | 2008-01-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4029675B2 (ja) | 画像・触覚情報入力装置 | |
JP4134435B2 (ja) | 電子透かし機能を有する電子撮影装置及び使用者登録機能を有する電子撮影装置 | |
US11615642B2 (en) | Gesture recognition system employing thermal sensor and image sensor | |
CN110456938A (zh) | 一种曲面屏的防误触方法及电子设备 | |
JP2017085204A (ja) | メタデータの登録制御 | |
JP6310597B2 (ja) | 撮像装置及び対象物確認方法 | |
JP2007013287A (ja) | 撮像装置 | |
JP2015033007A (ja) | 画像処理装置 | |
CN107317986A (zh) | 终端装置、信息取得系统及其信息取得方法 | |
US9307142B2 (en) | Imaging method and imaging apparatus | |
JP5750693B2 (ja) | 撮影機器 | |
JP5633679B2 (ja) | 撮像装置およびプログラム | |
JP2001320569A (ja) | 画像記録装置および方法及び記憶媒体 | |
JP7191592B2 (ja) | 電子機器、電子機器の制御方法、プログラム、および記録媒体 | |
JP2010268127A (ja) | 制御装置、撮像装置、撮像システム、画像取得方法、及びプログラム | |
JP6507281B2 (ja) | 報知装置及び報知方法 | |
JP7393464B2 (ja) | 挿管困難判定システム、挿管困難判定装置、および挿管困難判定プログラム | |
TW201106297A (en) | Image extraction auto-adjusting system and method thereof | |
JP5171989B2 (ja) | 撮像装置 | |
WO2023112930A1 (ja) | 画像処理装置、端末、モニター方法 | |
JP2001094847A (ja) | 電子撮像方法および電子撮像装置 | |
JP4032344B2 (ja) | デジタルカメラ | |
JP6595292B2 (ja) | 記録装置、記録装置の制御方法、記録システム、装着型情報処理装置、及びプログラム | |
JP2023094294A (ja) | 撮像システム、制御方法、記録媒体、撮像装置および制御装置 | |
WO2012026485A1 (ja) | 撮像装置及び撮像システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040922 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060807 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061006 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070925 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071008 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101026 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101026 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111026 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121026 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121026 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131026 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |