JP5181853B2 - ガイダンス方法、その装置、そのプログラム及び機器 - Google Patents

ガイダンス方法、その装置、そのプログラム及び機器 Download PDF

Info

Publication number
JP5181853B2
JP5181853B2 JP2008154459A JP2008154459A JP5181853B2 JP 5181853 B2 JP5181853 B2 JP 5181853B2 JP 2008154459 A JP2008154459 A JP 2008154459A JP 2008154459 A JP2008154459 A JP 2008154459A JP 5181853 B2 JP5181853 B2 JP 5181853B2
Authority
JP
Japan
Prior art keywords
guidance
evaluation
information
mode
pulse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008154459A
Other languages
English (en)
Other versions
JP2009297235A (ja
Inventor
晃一朗 笠間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2008154459A priority Critical patent/JP5181853B2/ja
Priority to US12/390,723 priority patent/US8905941B2/en
Publication of JP2009297235A publication Critical patent/JP2009297235A/ja
Application granted granted Critical
Publication of JP5181853B2 publication Critical patent/JP5181853B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Description

本発明は、指等の生体からの取得情報を評価する評価機能を有する機器のガイダンスに関し、特に、指の画像情報から脈拍振幅を取得する際の指の位置等、指から得られた画像情報の取得状態を評価し、その評価結果からユーザに修正操作を促すガイダンス方法、その装置、そのプログラム及び機器に関する。
従来、指から取得した画像情報から脈拍(脈拍振幅)を採取することが知られている。この画像情報は指の近赤外線等の透過光を撮像することにより得られるが、適正な画像情報の取得には指が適正な状態に維持されて撮像することが不可欠である。
脈拍の採取に関し、特許文献1には、指先を押し当てる押圧部材とともに、この押圧部材に押し当てられた指先位置を安定的に保持する指先位置安定化手段や、押圧部材をほぼ均等な指圧で移動自在とする指圧均等化手段を備え、指先位置の安定的な保持や、押圧部材から指先に加わる押圧力の均等化により、指先の撮影範囲や血流への影響を防止し、安定的に脈波を採取し得ることが開示されている。
特許文献2には、指の押圧を圧力センサで検出し、その検出出力の直流成分を求め、これを圧力レベルと対応づけて、校正テーブルへと格納し、この後、圧力レベルの最大値と校正テーブルに基づいて感覚をグレーディングする際の基準となる閾値を算出して閾値テーブルに格納し、次に、物を把持する指の血流量を検出し、その検出出力の直流成分を求め、これを閾値テーブルにある閾値と比較し、押圧の程度を表す感覚情報を表示することが開示されている。
特開2007−244600公報(要約、図1等) 特開平10−155754公報(要約、図5等)
ところで、指から画像情報を取得する場合、撮像する指の位置や押圧等、指の置き方が撮像精度に影響し、指の置き方が適切でない場合には、画像情報から採取される脈波精度が低下する不都合がある。このため、適切な指の置き方をユーザに会得させる必要がある。
また、指以外の身体の一部から画像情報を取得する場合にも、同様に手の置き方等、入力状態をユーザに会得させる必要がある。
斯かる要求や課題について、特許文献1、2にはその開示や示唆はなく、それを解決する構成等についての開示や示唆はない。
そこで、本発明の目的は、評価機能を有する機器のガイダンスに関し、評価機能を利用して適切な指の置き方等に対して修正操作を促すことにある。
また、本発明の他の目的は、適切なガイダンスにより、測定結果の精度を高めることにある。
上記目的を達成するため、本発明は、指の画像情報から取得した脈拍情報を段階的な基準により評価する第1の評価モードと、この第1の評価モードとは基準を異ならせて評価する第2の評価モードとが設定される。画像情報より脈拍情報が取得できない場合に、ガイダンスを出力する。脈拍情報を取得できる場合、取得した脈拍情報に対し、第1の評価モードの適用前に第2の評価モードを適用し、その評価結果を出力させる。ユーザは、現在の指の置き方でその評価結果が得られていることを認識する。第2の評価モードから時間経過の後、第1の評価モードが適用されると、第1の評価モードでの評価結果が得られる。第2の評価モードから第1の評価モードに遷移したことで、評価結果に変化を生じれば、ユーザは、その評価結果から指の置き方が適正でないことを感覚的に再認識し、指の位置の修正操作が促される。これにより、ユーザは適切な指の置き方を会得し、習熟することになる。この場合、第2の評価モードから第1の評価モードに遷移しても、その評価結果に変化が生じなければ、指の置き方が当初より適切である。
上記目的を達成するため、本発明は、取得した情報に対する評価結果によりガイダンスをするガイダンス方法であって、指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得するステップと、前記画像情報に応じてガイダンス内容を選択するステップと、前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けるステップと、前記画像情報より前記脈拍情報が取得できない場合に、選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記画像情報より取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用の前に前記第2の評価モードを適用し、その評価結果を出力するステップと、前記第2の評価モードの適用の後、前記第1の評価モードに遷移し、その評価結果を出力するステップとを含む構成である。
斯かる構成によれば、第1及び第2の評価モードでは異なる基準により評価するので、取得情報を第1の評価モードを適用する前に第2の評価モードを適用し、その後、第1の評価モードに遷移すれば、異なる評価結果が得られる。例えば、指から画像情報を取得する場合、その画像情報から取得した脈拍情報第2の評価モードを適用して得られる評価結果から、第1の評価モードに遷移すれば、その評価結果が第1の評価モードの基準に基づく評価となり、その評価結果に変化が生じれば、ユーザは指の置き方に対して修正操作が促される。この結果、その評価結果に対応した指の置き方を会得し、習熟させることができる。上記目的が達成される。
上記目的を達成するためには、上記ガイダンス方法において、好ましくは、前記第2の評価モードから前記第1の評価モードへの遷移は、前記第2の評価モードの開始から所定時間の経過後である構成としてもよい。斯かる構成によれば、所定の時間経過を待って第2の評価モードから第1の評価モードに遷移するので、評価結果の変化を以て指の置き方等、取得情報に対し、ユーザに修正等を促すガイダンスをすることができ、上記目的が達成される。
上記目的を達成するため、本発明は、取得した情報に対する評価結果によりガイダンスするガイダンス装置であって、指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得する情報取得手段と、前記画像情報とガイダンス内容を関係付けたガイダンステーブルと、前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けた評価テーブルとを記憶する記憶手段と、前記画像情報より前記脈拍情報が取得できない場合に、前記ガイダンステーブルから選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記情報取得手段の取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用前に前記第2の評価モードを適用し、その評価結果を出力し、前記第2の評価モードの適用から前記第1の評価モードに遷移し、前記第1の評価モードでの評価結果を出力する制御手段とを含む構成である。斯かる構成によっても、上記目的が達成される。
上記目的を達成するため、本発明は、取得した情報に対する評価結果によりガイダンスをするための処理をコンピュータに実行させるガイダンスプログラムであって、指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得するステップと、前記画像情報に応じてガイダンス内容を選択するステップと、前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けるステップと、前記画像情報より前記脈拍情報が取得できない場合に、選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記画像情報より取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用の前に前記第2の評価モードを適用し、その評価結果を出力するステップと、前記第2の評価モードの適用から前記第1の評価モードに遷移し、その評価結果を出力するステップとを含む構成である。斯かる構成によっても、上記目的が達成される。
上記目的を達成するため、本発明は、取得した情報に対する評価結果によりガイダンスをするガイダンス機能を備える機器であって、指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得する情報取得手段と、前記画像情報とガイダンス内容を関係付けたガイダンステーブルと、前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けた評価テーブルとを記憶する記憶手段と、前記画像情報より前記脈拍情報が取得できない場合に、前記ガイダンステーブルから選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記情報取得手段の取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用前に前記第2の評価モードを適用し、その評価結果を出力し、前記第2の評価モードの適用から前記第1の評価モードに遷移し、前記第1の評価モードでの評価結果を出力する制御手段とを含む構成である。斯かる構成によっても、上記目的が達成される。
本発明によれば、次のような効果が得られる。
(1) 評価基準を異ならせた第1及び第2の評価モードを設定し、これら評価モードの遷移により、異なる評価結果及びその遷移をユーザに認識させ、ユーザに評価結果が得られた状態からより高い評価に向けての修正を促すことができる。
(2) 自動的に評価モードを遷移させ、その評価結果も自動的に遷移させることができ、その評価結果が異なれば、ユーザはその遷移を認識でき、適切な状態への修正が促され、ユーザに適切な状態に速やかな修正を行わせることができる。
そして、本発明の他の目的、特徴及び利点は、添付図面及び各実施の形態を参照することにより、一層明確になるであろう。
〔第1の実施の形態〕
第1の実施の形態について、図1及び図2を参照する。図1は、第1の実施の形態に係るガイダンス装置を示す図、図2は、脈拍算出処理部を示す図である。図1及び図2の構成は一例であって、斯かる構成に本発明が限定されるものではない。
このガイダンス装置2は、指の画像情報から脈拍(脈拍振幅)を採取する際に、指の置き方を取得情報の評価結果に基づいてガイダンスするガイダンス手段であって、具体的には撮像機能を備えるカメラ等の機器に搭載され、指を透過した近赤外線等の透過光を撮像し、その画像情報から脈拍(脈拍振幅)を採取する際に、指からの取得情報を評価し、その評価結果によって指の位置や押圧を適切な位置や押圧状態にガイドする。そこで、このガイダンス装置2は、図1に示すように、カメラモジュール部4と、静止画/動画カメラアプリ部6と、脈拍算出処理部8と、脈拍アプリ部10とを備えており、各機能部の機能及び処理内容は以下の通りである。
カメラモジュール部4は、指の撮像手段であるカメラデバイス16を所定の動作モードに制御し、カメラデバイス16から画像情報を取得する手段であって、カメラデバイス16の制御、画像情報の取得等の処理を実行する。カメラデバイス16の制御では、カメラモジュール部4が、静止画/動画カメラアプリ部6、又は脈拍アプリ部10の通知処理部14からのカメラ起動モード要求を受け取り、予めモード毎にセットされたカメラ設定通りにカメラデバイス16を動作させる。また、画像情報の取得では、カメラモジュール部4がカメラデバイス16から画像情報を取得し、その画像情報を脈拍算出処理部8又は静止画/動画カメラアプリ部6に提供する。カメラ設定は、フレームレート、オートホワイトバランス、自動輝度調整、データ取得形式等である。カメラデバイス16から取得した画像情報は、例えば、脈拍測定モードの場合、12fps(Frame Per Second)、AWB(Auto White Balance):OFF、AE(Auto Exposure ):ON、YUV形式の画像データを取得し、この画像データを脈拍算出処理部8又は静止画/動画カメラアプリ部6に渡す。fpsは、動画の滑らかさを表す指標であって、一分間あたりの画像数を表し、12fpsは、一分間あたりの画像数が12枚であることを表している。AWBは色調補正を表し、AWB:OFFは、色調補正無しを表している。AEは自動露出であり、YUVにおいて、Yは輝度信号、Uは輝度信号Yと色差成分の差、Vは輝度信号Yと赤色成分の差である。
静止画/動画カメラアプリ部6は、カメラ動作モードの通知とともに画像情報の受取りを行う手段であって、カメラ動作モード通知及び画像情報取得を行う。このカメラ動作モード通知及び画像情報取得では、静止画/動画カメラアプリ部6は、カメラモジュール部4に対して、カメラ動作モードが静止画モードか動画モードか等を通知し、そのモードに応じたカメラ設定でカメラモジュール部4が得た画像情報を受け取る。
脈拍算出処理部8は、指の画像情報から脈拍を算出する脈拍算出手段であって、図2に示すように、画像データ取得部802、血流量変化算出部804、ピーク/脈拍振幅算出部806、ヒストグラム生成部808を備え、画像情報からの血流情報の採取、血流情報から脈拍情報の算出、脈拍情報、指の画像情報の取得等の処理により脈拍数の算出を行う。
画像データ取得部802は、指の画像情報の取得手段であって、脈拍アプリ部10のガイダンス処理部12から通知された脈拍測定モードにおいて、カメラモジュール部4からカメラ動作モードが通知され、その設定モードに応じたカメラ設定により、カメラモジュール部4で得た画像データを受け取る。
血流量変化算出部804は、画像情報からの血流情報の取得手段であって、画像情報として取得された例えば、YUV形式の画像データの輝度情報(Y情報) を血流量と見做し、カメラモジュール部4から12fpsでY情報の変化から血流量の変化を算出し、その血流量を表す変化情報を保持する。その際、Y情報が持つ輝度に対し、輝度を評価する段階的な基準値として、複数の異なるしきい値Bref1、Bref2、Bref3(Bref1<Bref2<Bref3)を設定し、しきい値Bref1以下の場合は「暗い」、しきい値Bref2以上の場合は「明るい」、さらに大きいしきい値Bref3以上の場合は「指が置かれていない」と判断し、その画像状態を通知する。
一般的には、生体に対する照射光は血流中のヘモグロビンで吸収されるので、指等の生体の通過光の輝度と血流量とは、生体の血流量が多い場合にその輝度を低下させ、血流量が少ない場合にその輝度を低下させない関係を持っている。その結果、血流量の変化が通過光の輝度に表れるから、輝度情報(血流情報)から血流量変化を算出できる。
ピーク/脈拍振幅算出部806は、血流情報から脈拍情報を算出する算出手段であって、算出された血流量変化からその極大値、極小値を算出し、極大値は脈拍の鼓動(ピーク)と見做し、脈拍情報としてピーク/脈拍振幅を算出する。
ヒストグラム生成部808は、脈拍情報から脈拍数を算出する算出処理手段であって、算出されたピーク(/脈拍振幅)を用いて、一定時間内(例えば、最大20秒程度の時間) におけるピーク間隔(時間) のヒストグラム(図15)を生成する。このヒストグラムから、一定の確率以下のピーク間隔を取り除き、そのピーク間隔のサンプルから所定時間当たり例えば、1分間当りの脈拍数が算出される。
脈拍アプリ部10(図1)は、脈拍算出処理部8から受け取った画像情報に基づきガイダンス出力を生成し、そのガイダンス出力を通知する処理手段であって、既述のガイダンス処理部12と、通知処理部14とを備えている。
ガイダンス処理部12は、画像情報に基づきガイダンス出力を生成するガイダンス生成手段であって、画像状態の取得、ガイダンス内容の決定、レベルゲージ値の決定、画像情報の受取り等の処理を行う。
画像状態の取得では、ガイダンス処理部12がガイダンス内容を決定するための情報として、脈拍算出処理部8から通知される脈拍振幅情報及び画像状態を取得する。ガイダンス内容の決定では、ガイダンス処理部12が脈拍算出処理部8から取得した画像状態から、適切な画像状態を得るためのガイダンス内容をガイダンステーブル(図16)を参照して決定する。
また、レベルゲージ値の決定には、画像情報から脈拍振幅情報が得られている場合、ガイダンステーブル(図16)からレベルゲージガイダンステーブル(図17)を参照する。このガイダンステーブルは、インカメラ部24(図3)又はアウトカメラ部26(図3)に対する指の置き方をレベルゲージによってガイダンスするものであり、その指の置き方を評価するモードとして、第1の評価モードである難(hard)モードと、第2の評価モードである易(easy) モードが設定されている。難モード及び易モードは、評価レベルを難易(difficulty)で表現したものであり、難モード(第1の評価モード)は、指の置き方を厳正に判断する標準的なモードであり、易モード(第2の評価モード)は、指の置き方が多少劣っていてもその評価を高くし、ユーザに対して指の置き方を習熟させる等の予備的モードである。
そこで、難モードでは第1のレベルゲージ値L1 、易モードでは第2のレベルゲージ値L2 を設定し、レベルゲージ値L1 は段階的な第1の基準レベルであって、標準的な値であり、レベルゲージ値L2 は、第2の基準レベルであって、レベルゲージ値L1 とは異なる値に設定されている。
この場合、レベルゲージガイダンスは、使用開始から所定時間例えば、1分間は易のレベルゲージ値L2 を用い、1分間を超えると、難のレベルゲージ値L1 に遷移させる。即ち、第1の評価モードの前に第2の評価モードを適用し、所定時間後に第1の評価モードを適用し、ユーザに対し、指の置き方の修正を促し、又は現在の指の置き方が適切であることを通知する。
画像情報の受取りでは、ガイダンス処理部12がカメラモジュール部4に対して、カメラ動作モードを通知し、その動作モードに応じたカメラ設定によりカメラモジュール部4が取得した画像データを受け取る。
通知処理部14は、処理内容の通知及び画像情報の受取りの手段であって、通知処理、画像情報の受取りを実行する。通知処理では、通知処理部14がガイダンス処理部12から通知されたガイダンス内容又はレベルゲージの値をユーザに通知する。ガイダンス内容は、レベルゲージのデータ表示、メッセージ表示又は音声によって行い、レベルゲージの値は、ゲージ表示又は数値によって表示する。レベルゲージのデータ表示、メッセージ表示、ゲージ表示又は数値は、ガイダンス表示手段である表示部18に表示される。
また、画像情報の受取りでは、通知処理部14がカメラモジュール部4に対してカメラ動作モードを通知し、モードに応じたカメラ設定でカメラモジュール部4が取得した画像データを受け取る。この場合、画像データはガイダンス処理部12を通して取得する。
次に、ガイダンス装置を搭載した携帯機器について、図3、図4及び図5を参照する。図3は、携帯端末装置のハードウェア構成を示す図、図4は、開状態の携帯端末装置の外観構成を示す図、図5は、閉状態の携帯端末装置の外観構成を示す図である。図3、図4及び図5に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
携帯端末装置20は、ガイダンス装置2が搭載された機器の一例であって、電話機能、撮像機能及び情報処理機能を備えている。この携帯端末装置20は、図3に示すように、CPU(Central Processing Unit )22、インカメラ部24、アウトカメラ部26、記憶部28、RAM(Random-Access Memory)30、メイン表示部182、サブ表示部184、操作入力部36、音声入出力部38を備えている。
CPU22は、記憶部28にあるOS(Operating System)やガイダンスプログラム等の各種プログラムを実行するとともに、撮像やガイド出力等の制御を行う。インカメラ部24、アウトカメラ部26は、撮像手段の一例であって、通常の撮像機能を備えているとともに、指の画像情報を取得する手段を構成している。
記憶部28は、プログラムや撮像データを格納する記録手段の一例であって、記録媒体として例えば、フラッシュメモリで構成され、プログラム記憶部40及びデータ記憶部42を備えている。プログラム記憶部40は、既述のOSやガイダンスプログラム等を記憶し、データ記憶部42は、各種データを記憶し、後述のガイダンステーブル(図16)やレベルゲージガイダンステーブル(図17)が構成されている。
メイン表示部182及びサブ表示部184は、ガイダンス表示手段である既述の表示部18の一例であって、例えば、LCD(Liquid Crystal Display)表示器で構成され、レベルゲージ表示等に用いられ、メイン表示部182及びサブ表示部184は選択的又は同時に用いられる。
操作入力部36は、入力手段の一例であって、例えば、文字キーやカーソルキー等を備え、設定入力や表示切替え等に用いられる。音声入出力部38は、音声の入出力手段の一例であって、通話音声の入出力に用いられるとともに、例えば、スピーカ44L、44Rを備え、ガイダンス表示の一例であるガイダンス音声の出力に用いられる。
この携帯端末装置20は、図4及び図5に示すように、折畳み可能な筐体46を備えており、この筐体46は第1の筐体部として固定側筐体部48と、第2の筐体部として可動側筐体部50とをヒンジ部52によって連結し、開閉可能に構成されている。
固定側筐体部48には、操作入出力部36及びスピーカ44L、44Rが設置され、可動側筐体部50には、インカメラ部24及びメイン表示部182が設置され、また、可動側筐体部50の背面部にはアウトカメラ部26及びサブ表示部184が設置されている。
この実施の形態において、インカメラ部24及びアウトカメラ部26の設置位置は一例であって、筐体46のどのような位置に設置されてもよいし、指の脈拍検知専用のカメラを設置してもよい。
次に、カメラに対する指の置き方について、図6、図7、図8及び図9を参照する。図6〜図9は、指の置き方の一例を示す図である。図6〜図9に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
脈拍測定には、右手、左手、親指、人指し指等何れの指を用いてもよく、インカメラ部24又はアウトカメラ部26の何れを用いてもよい。インカメラ部24を用いて人指し指の画像情報を取得するには、図6に示すように、筐体46を開いてテーブルに設置したり、一方の手で支える等して筐体46を固定状態に維持するとともに、インカメラ部24上に人指し指の指先54を置けばよい。
また、インカメラ部24を用いて親指の画像情報を取得するには、図7に示すように、筐体46の固定側筐体部48を手で握って固定状態に維持し、インカメラ部24上に親指の指先54を置けばよい。
また、アウトカメラ部26を用いて人指し指の画像情報を取得するには、図8に示すように、筐体46を閉じて可動側筐体部50を上にしてテーブルに設置したり、一方の手で支える等して筐体46を固定状態に維持するとともに、アウトカメラ部26上に人指し指の指先54を置けばよい。
また、アウトカメラ部26を用いて親指の画像情報を取得するには、図9に示すように、筐体46の可動側筐体部50を上に手で握って固定状態に維持し、アウトカメラ部26上に親指の指先54を置けばよい。
次に、カメラ部について、図10を参照する。図10は、カメラ部の一例を示す図である。図10に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。図10において、図3、図4、図5と同一部分には同一符号を付してある。
インカメラ部24又はアウトカメラ部26は、指先54から画像情報を取得する撮像手段の一例であって、図10に示すように、可動側筐体部50に内蔵された回路基板56の上面にカメラデバイス16が設置され、カメラデバイス16の対物レンズ側を覆う可動側筐体部50には窓部58が形成され、この窓部58には導光部材60が取り付けられている。導光部材60は、導光部材60上に載置された指先54を通過した光62をカメラデバイス16に導くとともに、指先54を載置する載置部材、窓部58を塞ぐ遮蔽部材を構成し、ガラス板等で構成される。カメラデバイス16はフォーカス機構等の光学系及び撮像素子が含まれ、撮像素子には例えば、CCD(Charge Coupled Device )素子が用いられる。図中、Oは光軸を示している。
次に、指の置き方とカメラ部の撮像態様について、図11、図12、図13を参照する。図11及び図12は、指の置き方とカメラ部の撮像態様の一例を示す図、図13は、カメラ部に対する指先の押圧面積及び位置と画像レベルを示す図である。図11、図12及び図13に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。図11、図12及び図13において、図3、図4、図5及び図10と同一部分には同一符号を付してある。
指先54が窓部58の導光部材60に強く押し付けられると、図11Aに示すように、指先54が偏平に変形し、うっ血状態となる。このうっ血状態では血液の流れが遮られるので、カメラデバイス16に到達する光62の光量が低下する。即ち、血液中のヘモグロビンに吸収される光62が増加するためである。
指先54が窓部58の導光部材60から離れると、図11Bに示すように、窓部58には指先54を通過しない光62が通過し、カメラデバイス16に到達する光62の光量が増大する。即ち、指先54の血流に依存しない光62が増加することになる。
また、指先54が窓部58からずれると、図11Cに示すように、窓部58には指先54を通過しない光62が通過することになり、同様に、カメラデバイス16には指先54の血流に依存しない光62が増加することになる。
そして、指先54が窓部58の導光部材60に適当に押し付けられ、その位置が適切である場合には、図12Aに示すように、指先54が僅かに変形して窓部58を塞ぎ、うっ血状態にない指先54を通過した光62は、血液の流れに応じたレベルでカメラデバイス16に到達する。
また、図12Bに示すように、指先54が窓部58の導光部材60に僅かに接した程度では、指先54の側部から侵入した光62がカメラデバイス16に到達することになり、血流に依存しない光62を含む画像情報が得られることになる。
指先の押圧面積及び位置と画像レベルについて、図13A、図13B、図13C、図13D、図13E及び図13Fを参照すると、S0 、S1 、S2 、S3 、S4 、S5 は、カメラ部の窓部58(図10)を塞ぐ指先54の押圧面積及び位置を表す状態(=脈拍振幅情報の状態)、Pはその押圧中心を表し、S0 、S1 、S2 、S3 、S4 、S5 の大きさはその程度を示している。これをレベルゲージ値L1 で示すと、S0 =「0」、S1 =「1」、S2 =「2」、S3 =「3」、S4 =「4」、S5 =「5」であり、レベルゲージ値L2 で示すと、S0 =「0」、S1 =「3」、S2 =「3」、S3 =「3」、S4 =「4」、S5 =「5」である。この場合、押圧面積及び位置の状態と脈拍振幅情報とは密接な関係を持っており、指先54の押圧や位置が適切であれば、適切な脈拍振幅情報が得られるが、指先54の押圧や位置が多少ずれていても、即ち、押圧中心Pがカメラデバイス16の光軸Oとずれていても、適切な脈拍振幅情報が得られる場合があるので、脈拍振幅情報をレベルゲージ値とすればよい。
次に、脈拍振幅、脈拍及びヒストグラムについて、図14及び図15を参照する。図14は、脈拍振幅及び脈拍を示す図、図15はピーク間隔のヒストグラムを示す図である。図14及び図15は一例であって、斯かる構成に本発明が限定されるものではない。
カメラデバイス16が取得した画像情報がカメラモジュール部4(図1)を通して画像データ取得部802(図2)に取り込まれ、血流量変化検出部804では、その画像情報から血流量変化が算出される。この血流量変化から、図14Aに示すように、脈拍振幅(波形)Mが算出される。既述したように、血液中のヘモグロビンに光が吸収されるため、指先54を通過する血流量が多い場合には、光の輝度が小さく、その血流量が少ない場合にはその輝度が大きくなる。この脈拍振幅はその輝度に応じた振幅レベルとなる。
この脈拍振幅Mはピーク/脈拍振幅算出部806に加えられ、ピーク/脈拍振幅算出部806では、その脈拍振幅からの極大値、極小値が算出され、その極大値を脈拍のピークと見做し、図14Bに示すように、脈拍のピーク(鼓動)Nが算出される。
ヒストグラム生成部808では、一定時間として例えば、最大20秒程度の時間窓を持つピーク間隔(時間)のヒストグラム(図15)が生成され、一定の確率以下のピーク間隔を除いたピーク間隔のサンプルから単位時間(例えば、1分間)当たりの脈拍数が算出される。
そして、ヒストグラム生成部808で生成されるヒストグラムは、図15に示すように、ピーク/脈拍振幅算出部806で算出されたピーク間隔を用いて作成される。この場合、このヒストグラムでは、一定時間内として既述の例えば、最大20秒程度の時間のピーク間隔で形成されており、ピーク間隔「10」で最頻値が得られている。
次に、ガイダンステーブルについて、図16を参照する。図16は、ガイダンステーブルの構成例を示す図である。図16に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
このガイダンステーブル64は、画像状態に対応するガイダンス内容を記録するデータテーブルであって、データ記憶部42に格納され、ガイダンス方法やガイダンスプログラムの実行により参照される。このガイダンステーブル64は、図16に示すように、カメラデバイス16で取得された画像状態66に対するガイダンス内容68として、「画像が暗い」場合には「指をユーザ側にずらせる」、「画像が明るい」場合には「カメラを指で覆わせる」」、「指が置かれてない」場合には「カメラに指を置かせる」、「その他」の場合には「レベルゲージガンダンステーブルに従う」等である。
次に、レベルゲージガイダンステーブル及びレベルゲージについて、図17及び図18を参照する。図17は、レベルゲージガイダンステーブルの構成例を示す図、図18は、脈拍振幅とレベルゲージとの関係を示す図である。図17及び図18に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
このレベルゲージガイダンステーブル70は、脈拍振幅情報に対応するレベルゲージを記録するデータテーブルであって、データ記憶部42に格納され、ガイダンス方法やガイダンスプログラムの実行により参照される。このレベルゲージガイダンステーブル70は、図17に示すように、カメラデバイス16で取得された脈拍振幅情報72に対するレベルゲージ74が設定され、レベルゲージ74には難モードのレベルゲージ値L1 と、易モードのレベルゲージ値L2 とが設定されている。
画像から脈拍振幅が得られない場合、即ち、振幅=0では、L1 =L2 =0、振幅=1(微少)では、L1 =1であるの対し、L2 =3、振幅=2(小)では、L1 =2であるの対し、L2 =3、振幅=3(中)では、L1 =L2 =3、振幅=4(大)では、L1 =L2 =4、振幅=5(特大)では、L1 =L2 =5に設定されている。
このレベルゲージガイダンステーブル70の設定によれば、振幅=0であれば、共にレベルゲージの出力はL1 =L2 =0となるが、振幅=1(微少)では、レベルゲージ値L1 を設定した場合にはL1 =1となるが、レベルゲージ値L2 を設定すれば、L2 =3となり、振幅=2(小)では、レベルゲージ値L1 を設定した場合にはL1 =2となるが、レベルゲージ値L2 を設定すれば、L2 =3となるので、振幅が小さくても、そのレベルゲージ値を大きくしている。
これらの関係をグラフに示すと、レベルゲージ値L1 では、図18Aに示すように、脈拍振幅Mに対してレベルが一様に増加する一次関数であるのに対し、レベルゲージ値L2 は、図18Bに示すように、M=1、2、3の脈拍振幅に対してレベルゲージ値L2 =3となっている。
次に、レベルゲージ表示及び脈拍表示について、図19及び図20を参照する。図19は、メイン表示部によるレベルゲージ表示及び脈拍表示を示す図、図20は、サブ表示部によるレベルゲージ表示及び脈拍表示を示す図である。図19及び図20に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。図19及び図20において、図3、図4及び図5と同一部分には同一符号を付してある。
携帯端末装置20が図6及び図7に示すように、開いて用いられる場合には、図19に示すように、メイン表示部182による表示モードとなる。この状態で、脈拍測定を行えば、メイン表示部182にその測定結果が表示される。
この脈拍測定は特定の時間単位例えば、1秒単位で行われ、脈拍測定が完了すると、脈拍数通知がONに移行し、メイン表示部182には表示画面80が表示される。この表示画面80には、カレンダ及び時刻82とともにタイトル84として「脈拍鼓動表示」が表示され、その下側に設定されたレベルゲージ表示部86にはレベル88が表示されるとともに、脈拍表示部90には現在の脈拍数として「脈拍はXXX」と表示される。
血流量変化から求めた極大値の脈拍のピーク/脈拍振幅の算出は特定の時間単位例えば、0.1〔秒〕単位で実行され、メイン表示部182の表示画面80は1秒周期で更新されることになる。
この表示画面80の表示は脈拍測定の停止まで繰り返し実行され、脈拍数の通知がなければその表示は停止され、脈拍数通知待ちとなり、脈拍数の通知に基づき、脈拍鼓動表示の表示内容が更新される。図中、複数の表示画面80は、表示内容の更新処理を示している。
このようなメイン表示部182に対し、携帯端末装置20が図8及び図9に示すように、閉じて用いられる場合には、図20に示すように、サブ表示部184による表示モードに切り換えられる。この状態で、脈拍測定を行えば、サブ表示部184にその測定結果が表示される。
サブ表示部184の表示画面92はメイン表示部182の表示画面80より表示面積が小さいので、その表示内容が簡略されている。この場合、レベルゲージ表示部86には簡略されたレベル88が表示されている。その他の表示内容は略同様であるので、同一符号を付し、その説明を省略する。
次に、ガイダンス表示について、図21を参照する。図21は、ガイダンス表示を示す図である。図21に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
このガイダンス表示はガイダンス方法又はそのプログラムの一例であって、ガイダンステーブル(図16)の画像状態及びガイダンス内容に対応する。
カメラ部24、26に指が置かれていなければ、外光がカメラデバイス16に到達し、画像状態は単に明るい状態を呈することになる。この場合、この状態から指が置かれていないことが検知されるので、図21Aに示すように、メイン表示部182又はサブ表示部184の表示画面80又は表示画面92にガイダンス表示94として例えば、「カメラに指を置いて下さい」を表示し、ユーザにカメラに指を置くことを促す。
カメラ部24、26に指が置かれていても、外光がカメラデバイス16に到達し、画像状態が明るい場合には、この状態から指で窓部58(図12B)が覆われていないことが検知されるので、図21Bに示すように、メイン表示部182又はサブ表示部184の表示画面80又は表示画面92にガイダンス表示96として例えば、「カメラを指で覆って下さい」を表示し、ユーザにカメラに適切に指を置くことを促す。
カメラ部24、26に指が置かれていても、画像状態が暗い場合には、この指の置き方が適切でないことが検知されるので、図21Cに示すように、メイン表示部182又はサブ表示部184の表示画面80又は表示画面92にガイダンス表示98として例えば、「指をずらして下さい」を表示し、ユーザに指の置き方が適切でないこと、その修正を促す。
次に、脈拍測定について、図22を参照する。図22は、脈拍測定の処理手順を示すフローチャートである。図22に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
この処理手順は、ガイダンス方法又はガイダンスプログラムの一例であって、脈拍測定の処理手順、ガイダンステーブル64(図16)によるガイダンス処理、レベルゲージガイダンステーブル70(図17)によるガイダンス処理を含んでいる。
この処理手順では、図22に示すように、メニューから脈拍測定モードを選択して移行させると、脈拍アプリ部10(通知処理部14/ガイダンス処理部12) の起動時に、脈拍算出処理部8経由でカメラモジュール部4にカメラ動作モード(脈拍測定モード)を通知する(ステップS11)。
カメラモジュール部4は通知されたカメラ動作モードに応じて予めモード毎にセットされたカメラ設定の通りにカメラデバイス16を動作させる(ステップS12)。この場合、カメラモジュール部4は1フレーム毎にカメラデバイス16から画像データを取得し、この画像データは脈拍算出処理部8に渡される(ステップS13)。
取得した画像情報である画像データ(YUV形式)にあるY情報を血流量と見做し、カメラモジュール部4から例えば、12〔fps〕でY情報の変化から血流量の変化を算出し、情報を保持する(ステップS14)。
脈拍算出処理部8では、Y情報の値がしきい値に応じて「暗い」、「明るい」、「指が置かれていない」の画像状態を判断し、ガイダンス処理部12に通知する(ステップS15)。
また、脈拍算出処理部8では、算出された血流量変化から鼓動(ピーク)と脈拍振幅を検出するために、極大値と極小値を算出し、極大値を脈拍の鼓動(ピーク)と見做し、極大値−極小値の値を脈拍振幅と見做し、ピークと脈拍振幅をガイダンス処理部12に通知する(ステップS16)。
算出されたピークを用いて、一定時間内として例えば、最大20秒程度の時間窓を持ったピーク間隔(時間)のヒストグラム(図15)を生成する(ステップS17)。一定の確率以下のピーク間隔を取り除いた状態のピーク間隔のサンプルから例えば、1分間当りの脈拍数を算出し、ガイダンス処理部12に通知する(ステップS18)。
画像状態からガイダンス内容をガイダンステーブル64(図16)に従って決定し、通知処理部14に内容を通知する(ステップS19)。画像状態がガイダンステーブル64(図16)のその他の場合に該当する場合、脈拍振幅情報を参照し、レベルゲージガイダンステーブル70(図17)に従ってレベルゲージ値を決定し、通知処理部14にそのガイダンス内容を通知する(ステップS20)。ガイダンス処理部12から通知されたガイダンス内容又はレベルゲージ値をユーザに通知する(ステップS21)。この通知は、表示部18による表示の他、スピーカ44L、44Rによって行う。
このような処理手順に従えば、ユーザは指の置き方が適切な位置にガイドされるとともに、適切な位置への修正が促され、その結果、精度の高い脈拍測定が行え、信頼性の高い測定結果が得られる。
次に、レベルゲージによるガイダンスについて、図23、図24、図25及び図26を参照する。図23は、レベルゲージによるガイダンスの処理手順を示すフローチャート、図24、図25及び図26は、ガイダンス内容の推移を示す図である。図23ないし図26に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。図24及び図25において、図19又は図20と同一部分には同一符号を付してある。
この処理手順は、易モードから難モードによる表示を推移させることにより、レベルゲージ表示によるガイダンスを行い、ユーザに適切な位置への修正を促す処理であり、ステップS21(図22)のサブルーティンである。この処理手順では易モードの動作から難モードへの遷移を所定時間で制御している。この所定時間がユーザに対する指の置き方を適切な位置に導くためのティーチング(Teaching)期間を構成し、易モードから難モードへの評価切替えに伴う表示がユーザに指の置き方を修正させる契機を与えている。
この処理手順は、図23に示すように、ガイダンス処理部12からガイダンス内容及びレベルゲージの値の通知を契機にレベルゲージガイダンステーブル70(図17)の易モードが動作する(ステップS31)。この易モードによるレベルゲージ表示が開始されると、例えば、その開始時点から経時が行われ、その動作時間Tが所定時間Tref として例えば、20〔秒〕以上であるか否かが判定される(ステップS32)。その動作時間Tが所定時間Tref に到達するまで易モードが継続し、その表示が行われる。
易モードでの動作時間Tが所定時間Tref に到達すると、即ち、動作時間Tが所定時間Tref 以上(ステップS32のYES)であれば、レベルゲージガイダンステーブル70の難モードで動作し(ステップS33)、メインルーティン(図22)に戻る。
このようなレベルゲージによるガイダンスでは、易モードが先行する。この場合、易モードの実行により、振幅=1であると、レベルゲージ値L2 =3となるので(図17)、図24の(A)に示すように、メイン表示部182の表示画面80のレベルゲージ表示部86にはその値を表すレベル88が表示される。
この易モードの表示から所定時間Tref として例えば、20〔秒〕が経過すると、易モードから難モードの動作に遷移し、振幅=1であるとすれば、レベルゲージ値L1 =1となるので(図17)、図24の(B)に示すように、メイン表示部182の表示画面80のレベルゲージ表示部86にはその値を表すレベル88が表示される。このレベルは、易モードより低いレベルに遷移する。
このようなレベルゲージの表示変化はユーザに指の置き方が適切でないことを示し、表示変化により適切な位置への修正を促すことになる。
このようなガイダンス表示に基づき、ユーザが指の置き方を修正し、適切な位置であれば、図24の(C)に示すように、難モードでのレベルゲージ値L1 =4に移行させることができる。この結果、適切な指の置き方により、精度の高い脈拍測定が行え、信頼性の高い測定結果が得られる。
この場合、易モードの実行により、振幅=3であれば、レベルゲージ値L2 =3となるので(図17)、図25の(A)に示すように、メイン表示部182の表示画面80のレベルゲージ表示部86にはその値を表すレベル88が表示される。この易モードの表示から所定時間Tref が経過すると、易モードから難モードの動作に遷移するが、振幅=3であれば、レベルゲージ値L1 =3となるので(図17)、図25の(B)に示すように、メイン表示部182の表示画面80のレベルゲージ表示部86のレベル88は同一となる。即ち、この場合、レベルゲージ表示の変化はない。このようなレベルゲージ表示であれば、脈拍測定は可能であるが、レベルゲージ値L1 =3は中間値であることから、ユーザはより高いレベルの表示への心理的な作用が働き、この表示により適切な位置への修正が促される。この結果、適切な指の置き方により、精度の高い脈拍測定が行え、信頼性の高い測定結果が得られることになる。
このようなレベルゲージ表示について、図26の(C)に示すように、レベルゲージ表示の後、メイン表示部182の表示画面80には、ガイダンス表示に切り替え、ガイダンス表示98として例えば、「指をずらして下さい」なる表示を行い、現在の指の置き方が適切な位置でないことをユーザに通知してもよい。図26の(A)、(B)及び(D)は、図24の(A)、(B)及び(C)と同様であるので、同一符号を付してその説明を省略する。また、図24ないし図26では、メイン表示部182の表示画面80におけるレベルゲージ表示について述べているが、サブ表示部184の表示画面92に同様のレベルゲージ表示を行ってもよい。
以上説明した第1の実施の形態について、特徴事項や利点を以下に列挙する。
(1) 上記実施の形態によれば、カメラデバイス16への指の適切な置き方について、脈拍振幅を用いることにより、簡単かつ即座にレベルゲージ表示を行い、ユーザにガイドすることができる。
(2) 上記実施の形態によれば、カメラデバイス16への指の適切な置き方について、脈拍振幅や脈拍数信頼度情報を用いることにより、簡単かつ即座にレベルゲージ表示を行い、ユーザにガイドすることができる。
(3) カメラデバイス16から得られる画像データにより検出した脈拍の振幅情報に基づき、指を適切に置くことをガイダンスすることができる。
(4) 指置きガイダンスの際に、ユーザが安易に適切な指の押圧をガイダンスによって会得ないし習熟させることができる。
〔第2の実施の形態〕
第2の実施の形態について、図27、図28、図29及び図30を参照する。図27、図28、図29及び図30は、第2の実施の形態に係るモード切替えを示すフローチャートである。図27、図28、図29及び図30に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
第1の実施の形態では、易モードから難モードへの切替えを易モードの動作時間Tの経過を切替え基準に設定しているが、使用回数Nを切替え基準に設定した処理(図27)、使用時間Tm を切替え基準を設定した処理(図28)、難モードで連続して動作した回数Nh を切替え基準に設定した処理(図29)、難モードで連続して動作した時間Th を切替え基準に設定した処理(図30)としてもよい。この実施の形態においても、既述のガイダンス装置2(図1、図2)、携帯端末装置20(図3)等、第1の実施の形態と同様の構成を用いるものである。
使用回数Nを切替え基準とする処理手順では、図27に示すように、使用回数Nが所定回数Nref として例えば、10回以上であるか否かが判定される(ステップS41)。ステップS41において、N<Nref 即ち、10回未満(ステップS41のNO)であれば、ユーザの習熟度が低いものと見なし、レベルガイダンステーブル70(図17)の易モードで動作し(ステップS42)、その表示が行われる。また、使用回数NがN≧Nref 即ち、10回以上(ステップS41のYES)であれば、ユーザの習熟度が高いものと見なし、レベルガイダンステーブル70の難モードで動作し(ステップS43)、その表示が行われる。
使用時間Tm を切替え基準とする処理手順では、図28に示すように、使用時間Tm が所定時間Tmrefとして例えば、60分間以上であるか否かが判定される(ステップS51)。ステップS51において、Tm <Tmref即ち、60分間未満(ステップS51のNO)であれば、ユーザの習熟度が低いものと見なし、レベルガイダンステーブル70(図17)の易モードで動作し(ステップS52)、その表示が行われる。また、使用時間Tm がTm ≧Tmref即ち、60分間以上(ステップS51のYES)であれば、ユーザの習熟度が高いものと見なし、レベルガイダンステーブル70の難モードで動作し(ステップS53)、その表示が行われる。
難モードで連続した動作回数Nh を切替え基準とする処理手順では、図29に示すように、動作回数Nh が所定回数Nhrefとして例えば、10回以上であるか否かが判定される(ステップS61)。ステップS61において、Nh <Nhref即ち、10回未満(ステップS61のNO)であれば、ユーザの習熟度が低いものと見なし、レベルガイダンステーブル70(図17)の易モードで動作し(ステップS62)、その表示が行われる。また、動作回数Nh がNh ≧Nhref即ち、10回以上(ステップS61のYES)であれば、ユーザの習熟度が高いものと見なし、レベルガイダンステーブル70の難モードで動作し(ステップS63)、その表示が行われる。
難モードで連続した動作時間Th を切替え基準とする処理手順では、図30に示すように、動作時間Th が所定時間Threfとして例えば、60分間以上であるか否かが判定される(ステップS71)。ステップS71において、Th <Thref即ち、60分間未満(ステップS71のNO)であれば、ユーザの習熟度が低いものと見なし、レベルガイダンステーブル70(図17)の易モードで動作し(ステップS72)、その表示が行われる。また、動作時間Th がTh ≧Thref即ち、60分間以上(ステップS71のYES)であれば、ユーザの習熟度が高いものと見なし、レベルガイダンステーブル70の難モードで動作し(ステップS73)、その表示が行われる。
このように使用回数、使用時間、難モードでの連続動作回数又は連続動作時間が基準値に到達したか否かで易モードと難モードとの切替えを行うことにより、ユーザの指の置き方を適切な位置に誘導することができ、適切な位置での脈拍測定が行え、測定精度を向上させることができる。
〔第3の実施の形態〕
第3の実施の形態について、図31及び図32を参照する。図31は、第3の実施の形態に係るレベルゲージガイダンステーブルを示す図、図32は、脈拍振幅とレベルゲージとの関係を示す図である。図31及び図32に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
この実施の形態では、既述の難モードを標準モードとし、易モードに代える他のモードとして超難モードを設定している。この場合、レベルゲージガイダンステーブル700は、図31に示すように、カメラデバイス16で取得された脈拍振幅情報72に対するレベルゲージ74が設定され、レベルゲージ74には標準モードに相当するレベルゲージ値L1 と、超難モードのレベルゲージ値L3 とが設定されている。
画像から脈拍振幅が得られない場合、即ち、振幅=0では、L1 =L3 =0、振幅=1(微少)では、L1 =1であるの対し、L3 =0、振幅=2(小)では、L1 =2であるの対し、L3 =0、振幅=3(中)では、L1 =L3 =3、振幅=4(大)では、L1 =L3 =4、振幅=5(特大)では、L1 =L3 =5に設定されている。このレベルゲージガイダンステーブル700の設定によれば、振幅=0〜5の増加において、標準モードのレベルゲージ値はL1 =0〜5に段階的に増加しているのに対し、超難モードのレベルゲージ値L3 は、振幅=0〜2でL3 =0となるが、振幅=3〜5でL3 =3、4、5に段階的に増加している。
これらの関係をグラフに示すと、レベルゲージ値L1 では、脈拍振幅Mに対してレベルが一様に増加する一次関数であるのに対し、図32に示すように、レベルゲージ値L3 は、M=1、2の脈拍振幅に対してレベルゲージ値L3 =0、M=3〜5の脈拍振幅に対してレベルゲージ値L3 は、レベルゲージ値L1 と同様の増加となっている。
このような標準モード(難モード)及び超難モードを用いるとともに、例えば、超難モードを先行させて評価し、標準モードに移行させれば、ユーザは当初のレベルゲージ表示が劣悪であるために慎重な操作の後、適切な位置に指を修正することにより、標準モードでの高い評価レベルが得られ、適切な指の位置に誘導されることになる。その結果、適切な位置での脈拍測定が行え、測定精度を向上させることができる。
〔第4の実施の形態〕
第4の実施の形態について、図33及び図34を参照する。図33及び図34は、第4の実施の形態に係る音声ガイダンスを示す図である。図33及び図34に示す構成は一例であって、斯かる構成に本発明が限定されるものではない。
第1の実施の形態では、表示画面80へのレベルゲージ表示によってガイダンスを行っているが、このガイダンスを音によって行ってもよく、周波数fの断続音の周期のレベルゲージ値による変化(図33)又はレベルゲージ値に対応した周波数変化(図34)により、ガイダンスを行ってもよい。
周波数fの断続音の周期のレベルゲージ値による変化では、易モードの実行により、振幅=1であると、レベルゲージ値L2 =3となるので(図17)、図33の(A)に示すように、一定周波数fの断続音Saの発音間隔をレベルゲージ値L2 =3に対応する間隔T1 に設定してスピーカ44L、44Rから発音させる。
この易モードの表示から所定時間Tの後、易モードから難モードの動作に遷移すると、そのとき、振幅=1であるとすれば、レベルゲージ値L1 =1となるので(図17)、図33の(B)に示すように、断続音Saの発音間隔をレベルゲージ値L1 =1に対応する間隔T2 に設定してスピーカ44L、44Rから発音させる。T2 は、T2 <T1 であるから、その発音間隔が狭まって発音されることにより、ユーザは指の置き方が適切でないことを認識し、指の位置の修正が促される。
このようなガイダンス表示に基づき、ユーザが指の置き方を修正し、適切な位置であれば、図33の(C)に示すように、断続音Saの発音間隔が間隔T3 に変化し、この間隔T3 はレベルゲージ値L1 =5に対応した間隔である。この場合、T3 >T1 >T2 であるから、その断続音Saの間隔T3 への移行により、ユーザは指の置き方が適切であることを認識し、精度の高い脈拍測定が行え、信頼性の高い測定結果が得られる。
レベルゲージ値に対応した周波数変化では、易モードの実行により、振幅=1であると、レベルゲージ値L2 =3となるので(図17)、図34の(A)に示すように、連続音Sbの周波数をレベルゲージ値L2 =3に対応する周波数f1 に設定してスピーカ44L、44Rから発音させる。
この易モードの表示から所定時間Tref の後、易モードから難モードの動作に遷移すると、そのとき、振幅=1であるとすれば、レベルゲージ値L1 =1となるので(図17)、図34の(B)に示すように、連続音Sbの周波数をレベルゲージ値L1 =1に対応する周波数f2 に設定してスピーカ44L、44Rから発音させる。f2 は、f2 >f1 であるから、その高い周波数の発音となり、ユーザは指の置き方が適切でないことを認識し、指の位置の修正が促される。
このようなガイダンス表示に基づき、ユーザが指の置き方を修正し、適切な位置であれば、図34の(C)に示すように、連続音Sbが周波数f3 に変化し、この周波数f3 はレベルゲージ値L1 =5に対応した周波数である。この場合、f3 <f1 <f2 であるから、その連続音Sbの周波数f3 への移行により、ユーザは指の置き方が適切であることを認識し、精度の高い脈拍測定が行え、信頼性の高い測定結果が得られる。
〔他の実施の形態〕
(1) 上記実施の形態では、ガイダンス装置、そのガイダンス装置が搭載された機器、脈拍を指等から測定する機器として携帯端末装置20を例示したが、本発明は、携帯情報端末機(PDA:Personal Digital Assistant)(図35)、パーソナルコンピュータ(PC)(図36)、脈拍計(図37)等の機器に適用することができ、上記実施の形態に限定されるものではない。PDA200(図35)、PC300(図36)及び脈拍計400(図37)において、上記実施の形態と共通部分には同一符号を付し、その説明を省略する。
(2) 上記実施の形態では、ガイダンス方法として脈拍測定のカメラ部への指の置き方をガイダンスする場合について説明したが、本発明は、指紋認証の指の操作、静脈認証の際の掌の置き方等、習熟度が必要とされるユーザ操作に関する機器等に適用されるものであり、上記脈拍測定に限定されるものではない。
(3) 上記実施の形態では、易モードの動作時間Tの所定時間Tref として例えば、20〔秒〕を例示したが、この所定時間Tref は20〔秒〕未満でもよく、20〔秒〕を超えた時間であってもよく、また、任意に加減可能に設定してもよい。
次に、以上述べた本発明の実施の形態から抽出される技術的思想を請求項の記載形式に準じて付記として列挙する。本発明に係る技術的思想は上位概念から下位概念まで、様々なレベルやバリエーションにより把握できるものであり、以下の付記に本発明が限定されるものではない。
(付記1) 取得した情報に対する評価結果によりガイダンスをするガイダンス方法であって、
取得情報を段階的な第1の基準により評価する第1の評価モードと、この第1の評価モードとは異なる第2の基準によって評価する第2の評価モードとが設定され、第1の評価モードの適用の前に第2の評価モードを適用し、その評価結果を出力するステップと、
第2の評価モードの適用の後、第1の評価モードに遷移し、その評価結果を出力するステップと、
を含むことを特徴とするガイダンス方法。
(付記2) 付記1のガイダンス方法において、
前記第2の評価モードから前記第1の評価モードへの遷移は、前記第2の評価モードの開始から所定時間の経過後であることを特徴とするガイダンス方法。
(付記3) 付記1のガイダンス方法において、
前記取得情報は、指から取得した画像情報、又は該画像情報から採取された脈拍情報であることを特徴とするガイダンス方法。
(付記4) 付記1のガイダンス方法において、
前記第2の評価モードは、前記第1の評価モードの前記第1の基準により得られる評価レベルより高く又は低いレベルとしたことを特徴とするガイダンス方法。
(付記5) 付記1のガイダンス方法において、
前記評価結果は、段階的なレベルを表すレベルゲージ出力、又はレベルゲージ表示であることを特徴とするガイダンス方法。
(付記6) 付記1のガイダンス方法において、
前記第1の評価モード又は前記第2の評価モードの評価結果に応じ、ガイド音声、ガイド表示、発音間隔の異なる断続音又は周波数の異なる連続音によって修正を促すステップを含むことを特徴とするガイダンス方法。
(付記7) 取得した情報に対する評価結果によりガイダンスするガイダンス装置であって、
情報を取得する情報取得手段と、
前記情報取得手段の取得情報を段階的な第1の基準により評価する第1の評価モードと、この第1の評価モードとは異なる第2の基準によって評価する第2の評価モードとが設定され、第1の評価モードの適用前に第2の評価モードを適用し、その評価結果を出力し、第2の評価モードの適用から第1の評価モードに遷移し、第1の評価モードでの評価結果を出力する制御手段と、
を含むことを特徴とするガイダンス装置。
(付記8) 取得した情報に対する評価結果によりガイダンスをするための処理をコンピュータに実行させるガイダンスプログラムであって、
取得情報を段階的な第1の基準により評価する第1の評価モードと、この第1の評価モードとは異なる第2の基準によって評価する第2の評価モードとが設定され、第1の評価モードの適用の前に第2の評価モードを適用し、その評価結果を出力するステップと、
第2の評価モードの適用から第1の評価モードに遷移し、その評価結果を出力するステップと、
を含むことを特徴とするガイダンスプログラム。
(付記9) 取得した情報に対する評価結果によりガイダンスをするガイダンス機能を備える機器であって、
情報を取得する情報取得手段と、
前記情報取得手段の取得情報を段階的な第1の基準により評価する第1の評価モードと、この第1の評価モードとは異なる第2の基準によって評価する第2の評価モードとが設定され、第1の評価モードの適用前に第2の評価モードを適用し、その評価結果を出力し、第2の評価モードの適用から第1の評価モードに遷移し、第1の評価モードでの評価結果を出力する制御手段と、
を含むことを特徴とする機器。
(付記10) 付記9の機器において、
前記第2の評価モードから前記第1の評価モードへの遷移は、前記第2の評価モードの開始から所定時間の経過後であることを特徴とする機器。
(付記11) 付記9の機器において、
前記取得情報は、指から取得した画像情報、又は該画像情報から採取された脈拍情報であることを特徴とする機器。
(付記12) 付記9の機器において、
前記情報取得手段は、撮像手段であることを特徴とする機器。
(付記13) 付記9の機器において、
前記第2の評価モードは、前記第1の評価モードの前記第1の基準により得られる評価レベルより高く又は低いレベルとしたことを特徴とする機器。
(付記14) 付記9の機器において、
前記評価結果は、段階的なレベルを表すレベルゲージ出力、又はレベルゲージ表示であることを特徴とする機器。
(付記15) 付記9の機器において、
前記取得情報は、指の押圧又は位置の何れか一方又は双方を表す画像情報又は該画像情報から抽出された脈拍情報であることを特徴とする機器。
(付記16) 付記9の機器において、
前記第1の評価モード又は前記第の評価モードによる評価結果に応じ、ガイド音声、ガイド表示、発音間隔の異なる断続音又は周波数の異なる連続音によって修正を促す出力手段を備えたことを特徴とする機器。
以上説明したように、本発明の最も好ましい実施の形態等について説明したが、本発明は、上記記載に限定されるものではなく、特許請求の範囲に記載され、又は発明を実施するための最良の形態に開示された発明の要旨に基づき、当業者において様々な変形や変更が可能であることは勿論であり、斯かる変形や変更が、本発明の範囲に含まれることは言うまでもない。
本発明は、指等の生体からの取得情報を評価する評価機能を有する機器のガイダンスに関し、評価基準を異ならせた第1及び第2の評価モードを設定し、これら評価モードの遷移により、異なる評価結果及びその遷移をユーザに認識させ、ユーザを評価結果が得られた状態からより高い評価に向けての修正を促すことができ、ユーザを適切な状態に導くことができ、有用である。
第1の実施の形態に係るガイダンス装置を示す図である。 脈拍算出処理部を示す図である。 携帯端末装置のハードウェア構成を示す図である。 携帯端末装置を開いた状態の外観構成を示す図である。 携帯端末装置を閉じた状態の外観構成を示す図である。 指の置き方の一例を示す図である。 指の置き方の一例を示す図である。 指の置き方の一例を示す図である。 指の置き方の一例を示す図である。 カメラ部の一例を示す図である。 指の置き方とカメラ部の撮像態様の一例を示す図である。 指の置き方とカメラ部の撮像態様の一例を示す図である。 カメラ部に対する指先の押圧面積及び位置と画像レベルを示す図である。 脈拍振幅及び脈拍を示す図である。 脈拍数算出に利用するピーク間隔のヒストグラムを示す図である。 ガイダンステーブルの構成例を示す図である。 レベルゲージガイダンステーブルの構成例を示す図である。 脈拍振幅とレベルゲージとの関係を示す図である。 メイン表示部によるレベルゲージ表示及び脈拍表示を示す図である。 サブ表示部によるレベルゲージ表示及び脈拍表示を示す図である。 ガイダンス表示を示す図である。 脈拍測定の処理手順を示すフローチャートである。 レベルゲージによるガイダンスの処理手順を示すフローチャートである。 ガイダンス内容の推移を示す図である。 ガイダンス内容の推移を示す図である。 ガイダンス内容の推移を示す図である。 第2の実施の形態に係るモード切替えを示すフローチャートである。 モード切替えを示すフローチャートである。 モード切替えを示すフローチャートである。 モード切替えを示すフローチャートである。 第3の実施の形態に係るレベルゲージガイダンステーブルを示す図である。 脈拍振幅とレベルゲージとの関係を示す図である。 第4の実施の形態に係る音声ガイダンスを示す図である。 音声ガイダンスを示す図である。 他の実施の形態に係る携帯情報端末機を示す図である。 他の実施の形態に係るパーソナルコンピュータを示す図である。 他の実施の形態に係る脈拍計を示す図である。
符号の説明
2 ガイダンス装置
4 カメラモジュール部
6 静止画/動画カメラアプリ部
8 脈拍算出処理部
802 画像データ取得部
804 血流量変化算出部
806 ピーク/脈拍振幅算出部
808 ヒストグラム生成部
10 脈拍アプリ部
12 ガイダンス処理部
14 通知処理部
16 カメラデバイス
18 表示部
20 携帯端末装置
22 CPU
24 インカメラ部
26 アウトカメラ部
28 記憶部
30 RAM
182 メイン表示部
184 サブ表示部
36 操作入力部
38 音声入出力部
40 プログラム記憶部
42 データ記憶部
44L、44R スピーカ
46 筐体
48 固定側筐体部
50 可動側筐体部
52 ヒンジ部
54 指先
56 回路基板
58 窓部
60 導光部材
62 光
64 ガイダンステーブル
66 画像状態
68 ガイダンス内容
70 レベルゲージガイダンステーブル
72 脈拍振幅情報
74 レベルゲージ
80 表示画面
82 カレンダ及び時刻
84 タイトル
86 レベルゲージ表示部
88 レベル
90 脈拍表示部
92 表示画面
94、96、98 ガイダンス表示

Claims (5)

  1. 取得した情報に対する評価結果によりガイダンスをするガイダンス方法であって、
    指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得するステップと、
    前記画像情報に応じてガイダンス内容を選択するステップと、
    前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けるステップと、
    前記画像情報より前記脈拍情報が取得できない場合に、選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記画像情報より取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用の前に前記第2の評価モードを適用し、その評価結果を出力するステップと、
    前記第2の評価モードの適用の後、前記第1の評価モードに遷移し、その評価結果を出力するステップと、
    を含むことを特徴とするガイダンス方法。
  2. 請求項1のガイダンス方法において、
    前記第2の評価モードから前記第1の評価モードへの遷移は、前記第2の評価モードの開始から所定時間の経過後であることを特徴とするガイダンス方法。
  3. 取得した情報に対する評価結果によりガイダンスするガイダンス装置であって、
    指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得する情報取得手段と、
    前記画像情報とガイダンス内容を関係付けたガイダンステーブルと、前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けた評価テーブルとを記憶する記憶手段と、
    前記画像情報より前記脈拍情報が取得できない場合に、前記ガイダンステーブルから選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記情報取得手段の取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用前に前記第2の評価モードを適用し、その評価結果を出力し、前記第2の評価モードの適用から前記第1の評価モードに遷移し、前記第1の評価モードでの評価結果を出力する制御手段と、
    を含むことを特徴とするガイダンス装置。
  4. 取得した情報に対する評価結果によりガイダンスをするための処理をコンピュータに実行させるガイダンスプログラムであって、
    指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得するステップと、
    前記画像情報に応じてガイダンス内容を選択するステップと、
    前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けるステップと、
    前記画像情報より前記脈拍情報が取得できない場合に、選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記画像情報より取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用の前に前記第2の評価モードを適用し、その評価結果を出力するステップと、
    前記第2の評価モードの適用から前記第1の評価モードに遷移し、その評価結果を出力するステップと、
    を含むことを特徴とするガイダンスプログラム。
  5. 取得した情報に対する評価結果によりガイダンスをするガイダンス機能を備える機器であって、
    指の押圧又は位置の何れか一方又は双方を表す画像情報、又は該画像情報から脈拍情報を取得する情報取得手段と、
    前記画像情報とガイダンス内容を関係付けたガイダンステーブルと、前記脈拍情報と段階的な第1の基準及び該第1の基準と異なる第2の基準とを関係付けた評価テーブルとを記憶する記憶手段と、
    前記画像情報より前記脈拍情報が取得できない場合に、前記ガイダンステーブルから選択されたガイダンスを出力し、前記脈拍情報が取得できる場合に、前記情報取得手段の取得した前記脈拍情報を前記第1の基準により評価する第1の評価モードと、前記第2の基準によって評価する第2の評価モードとが設定され、前記第1の評価モードの適用前に前記第2の評価モードを適用し、その評価結果を出力し、前記第2の評価モードの適用から前記第1の評価モードに遷移し、前記第1の評価モードでの評価結果を出力する制御手段と、
    を含むことを特徴とする機器。
JP2008154459A 2008-06-12 2008-06-12 ガイダンス方法、その装置、そのプログラム及び機器 Expired - Fee Related JP5181853B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008154459A JP5181853B2 (ja) 2008-06-12 2008-06-12 ガイダンス方法、その装置、そのプログラム及び機器
US12/390,723 US8905941B2 (en) 2008-06-12 2009-02-23 Guidance method, apparatus thereof, recording medium storing program thereof, and device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008154459A JP5181853B2 (ja) 2008-06-12 2008-06-12 ガイダンス方法、その装置、そのプログラム及び機器

Publications (2)

Publication Number Publication Date
JP2009297235A JP2009297235A (ja) 2009-12-24
JP5181853B2 true JP5181853B2 (ja) 2013-04-10

Family

ID=41415422

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008154459A Expired - Fee Related JP5181853B2 (ja) 2008-06-12 2008-06-12 ガイダンス方法、その装置、そのプログラム及び機器

Country Status (2)

Country Link
US (1) US8905941B2 (ja)
JP (1) JP5181853B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150046095A1 (en) * 2012-03-07 2015-02-12 Seiko Epson Corporation Pulse monitor and program
JP6160022B2 (ja) * 2012-03-27 2017-07-12 セイコーエプソン株式会社 脈拍計及びプログラム
KR101390090B1 (ko) * 2012-09-18 2014-05-27 한국과학기술원 카메라를 이용한 사용자 단말 센싱장치, 이를 이용한 센싱방법 및 제어방법
US9489123B2 (en) * 2013-01-25 2016-11-08 Wilus Institute Of Standards And Technology Inc. Method for sensing touch pressure and digital device using the same
JP6251969B2 (ja) * 2013-03-28 2017-12-27 セイコーエプソン株式会社 脈拍計及びプログラム
JP6142664B2 (ja) * 2013-05-14 2017-06-07 富士通株式会社 脈波検出装置、脈波検出プログラム、脈波検出方法及びコンテンツ評価システム
US9665213B2 (en) * 2013-08-30 2017-05-30 Maxim Integrated Products, Inc. Detecting pressure exerted on a touch surface and providing feedback
US20150335293A1 (en) * 2013-08-30 2015-11-26 Maxim Integrated Products, Inc. Systems and techniques to determine whether a signal is associated with a periodic biologic function
JP6991022B2 (ja) * 2017-09-12 2022-02-03 オムロンヘルスケア株式会社 表示制御装置およびプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3873359B2 (ja) 1996-10-03 2007-01-24 セイコーエプソン株式会社 触覚検出装置、触覚再現装置、触覚伝送システム、脈診装置、脈診教育装置および脈診情報伝送システム
WO1998043538A1 (fr) * 1997-03-28 1998-10-08 Seiko Epson Corporation Capteur tactile, unite de notification tactile, unite d'entree de donnees, unite de reproduction tactile, systeme de transmission tactile, unite de consultation par ondes d'impulsion, unite d'apprentissage de consultations par ondes d'impulsion, systeme de transmission des informations de consultation par ondes d'impulsion
JP3317686B2 (ja) * 1999-09-03 2002-08-26 コナミ株式会社 歌唱伴奏システム
JP2003330523A (ja) * 2002-05-15 2003-11-21 Sharp Corp 生産ロス削減システム、生産ロス削減方法、およびコンピュータが読取可能な記録媒体
JP4572848B2 (ja) * 2006-03-14 2010-11-04 株式会社ニコン 頭部装着型ディスプレイ
JP2007244600A (ja) 2006-03-15 2007-09-27 Fujitsu Ltd 脈波検出方法及び装置
JP2007319246A (ja) * 2006-05-30 2007-12-13 Sharp Corp 電子機器及び電子機器を用いた脈拍検出方法
JP4935249B2 (ja) * 2006-08-31 2012-05-23 カシオ計算機株式会社 生体情報測定装置
JP5032180B2 (ja) * 2007-03-31 2012-09-26 渉 堀川 エコドライブ支援装置、カーナビゲーションシステム及びエコドライブ支援プログラム

Also Published As

Publication number Publication date
US8905941B2 (en) 2014-12-09
US20090312654A1 (en) 2009-12-17
JP2009297235A (ja) 2009-12-24

Similar Documents

Publication Publication Date Title
JP5181853B2 (ja) ガイダンス方法、その装置、そのプログラム及び機器
RU2643460C2 (ru) Способ и устройство для реализации сенсорной кнопки и идентификации отпечатка пальца, а также терминальное устройство
US10282586B2 (en) Method and apparatus for realizing touch button and fingerprint identification, and terminal device using same
US10119612B2 (en) Method and device for prompting bicycle gear shifting
RU2605361C2 (ru) Способ и устройство воспроизведения мультимедиа
RU2637475C2 (ru) Способ и устройство для регулирования отображения страницы
CN105744133B (zh) 视频补光方法及装置
CN113452836B (zh) 控制终端振动的方法及装置
CN110555333A (zh) 指纹识别方法、电子设备和存储介质
TW200917186A (en) Input device, storage medium, information input method, and electronic apparatus
CN106971704B (zh) 一种音频处理方法及移动终端
US20120268408A1 (en) Method and terminal for displaying picture/interface
US20180238748A1 (en) Pressure detection method and apparatus, and storage medium
CN106873834A (zh) 识别按键被触发的方法及装置和移动终端
US10854200B2 (en) Voice input device, translation device, voice input method, and recording medium
CN111131952A (zh) 耳机组件的控制方法、耳机组件和计算机可读存储介质
US10498874B2 (en) Display apparatus having ability of voice control and method of instructing voice control timing
CN114040309B (zh) 风噪检测方法、装置、电子设备及存储介质
CN105472092A (zh) 通话控制方法、装置及移动终端
CN105933775A (zh) 视频播放进度调整方法、装置和终端设备
JP2014109885A (ja) 表示装置及び通知方法
KR102265583B1 (ko) 음원의 음량 표준화 방법, 장치 및 이의 작동 및 표시방법
WO2023245320A1 (zh) 一种指纹模组的校准方法、装置及存储介质
JP2019175129A (ja) 情報提供装置、情報提供方法およびプログラム
CN101009894A (zh) 显示关于便携式终端的条件的信息的方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121231

R150 Certificate of patent or registration of utility model

Ref document number: 5181853

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees