JP2017073020A - 振動解析システム、ユーザーインターフェースシステム、振動解析データ生成方法および記憶媒体 - Google Patents

振動解析システム、ユーザーインターフェースシステム、振動解析データ生成方法および記憶媒体 Download PDF

Info

Publication number
JP2017073020A
JP2017073020A JP2015200121A JP2015200121A JP2017073020A JP 2017073020 A JP2017073020 A JP 2017073020A JP 2015200121 A JP2015200121 A JP 2015200121A JP 2015200121 A JP2015200121 A JP 2015200121A JP 2017073020 A JP2017073020 A JP 2017073020A
Authority
JP
Japan
Prior art keywords
index
vibration
frequency
profile
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015200121A
Other languages
English (en)
Other versions
JP6533141B2 (ja
Inventor
栄治 馬場
Eiji Baba
栄治 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MegaChips Corp
Original Assignee
MegaChips Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MegaChips Corp filed Critical MegaChips Corp
Priority to JP2015200121A priority Critical patent/JP6533141B2/ja
Publication of JP2017073020A publication Critical patent/JP2017073020A/ja
Application granted granted Critical
Publication of JP6533141B2 publication Critical patent/JP6533141B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Telephone Function (AREA)
  • Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】第1の物体を第2の物体で擦ることによって発生する振動をユーザーインターフェースに応用するための技術を提供する。【解決手段】振動解析システムは、時間周波数解析部と、指標生成部とを含む。時間周波数解析部は、第1の物体を第2の物体で擦ることによって発生する振動を所定の時間周波数表現で表現した時間周波数分布データを生成する。所定の時間周波数表現は、第1の物体と第2の物体との組み合わせの相違に基づいて決まる、振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有している。指標生成部は、時間周波数分布データによって提供される時間周波数分布において分布形状の指標となる地点である指標スポットSPを決定する指標決定処理を行い、1つ以上の指標スポットSPの周波数成分値を含んだ指標プロファイルを生成する。【選択図】図14

Description

本発明は、振動の波形を解析することによって、振動をユーザーインターフェースに応用するための技術に関する。
特許文献1は、携帯電話機に接続されたイヤホンマイク本体またはその近傍を指で叩くことによって、携帯電話機を操作する技術を開示している。具体的には、叩いた際に発生する振動を、イヤホンマイクに内蔵された加速度センサによって、検出する。検出信号は増幅され、その後、特有の周波数成分だけが選択される。
そして、叩く動作1回に対して、所定幅のパルスが1つ生成される。連続して叩くことによって生成されるパルスの間隔および個数に応じて、符号列が生成される。具体的には、パルス立ち上がり間隔が第1の時間以下であれば“0”を割り当て、パルス立ち上がり間隔が第1の時間よりも長く第2の時間以下であれば“1”を割り当てる。これにより生成された符号列を、携帯電話機の操作コマンドとして利用する。例えば、符号列“1101”はオフフックのコマンドに割り当てられ、当該符号列“1101”が携帯電話機に送られると携帯電話機はオフフック状態になる。
特開2003−143683号公報 米国特許第7035744号明細書
上記のように特許文献1では、叩く間隔および回数に応じてコマンドが生成され、携帯電話機が操作される。その際、叩く動作は、振動の有無によって判断される。このため、振動の検出は、振動の有無を判断するためだけに利用される。
これに対し、本発明は、振動の波形を解析することによって、振動をユーザーインターフェースに応用するための技術を提供することを目的とする。特に本発明では、第1の物体(例えば入力受付部材)を第2の物体(例えばユーザーの指)で擦ることによって発生する振動を利用する。
本発明の一態様によれば、第1の物体を第2の物体で擦ることによって発生する振動を所定の時間周波数表現で表現した時間周波数分布データを生成する、時間周波数解析部を備え、前記所定の時間周波数表現は、前記第1の物体と前記第2の物体との組み合わせの相違に基づいて決まる、前記振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有し、前記時間周波数分布データによって提供される前記時間周波数分布において分布形状の指標となる地点である指標スポットを決定する指標決定処理を行い、1つ以上の指標スポットの周波数成分値を含んだ指標プロファイルを生成する、指標生成部をさらに備える、振動解析システムが提供される。
上記一態様によれば、第1の物体を第2の物体で擦ることによって発生する振動(擦り振動)を、指標プロファイルという新たなデータ形式によって管理する。
指標プロファイルは、擦り振動の時間周波数分布において分布形状の指標となる地点である指標スポットを利用して構成される。したがって、指標プロファイルによれば、時間周波数分布の全範囲のデータを用いる場合に比べて少ないデータ量によって、擦り振動を管理できる。このため、例えば2つの擦り振動を比較する際に、演算時間、メモリ容量、等を削減できる。
また、指標スポットの起源となる時間周波数分布のデータは、所定の時間周波数表現によって生成される。特に、当該所定の時間周波数表現は、第1の物体と第2の物体との組み合わせの相違に基づいて決まる、擦り振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有している。このため、指標スポットの発現位置(具体的には指標スポットの周波数成分)によって、換言すれば指標スポットの周波数成分値を含んだ指標プロファイルによって、擦り振動の相違を管理できる。
本発明の目的、特徴、局面、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。
振動波形の例を示す図である。 図1の波形の周波数分布を示す図である。 図1の波形に対してSTFT(Short Time Fourier Transform)を行って得られた時間周波数分布を示す図である。 図1の波形に対してCWD(Choi-Williams Distribution)を行って得られた時間周波数分布を示す図である。 実施の形態1について、電気機器を説明するハーウェアブロック図である。 実施の形態1について、振動解析システムの第1例を説明する機能ブロック図である。 実施の形態1について、解析期間の例を示す図である。 図7中の解析期間AP1について時間周波数分布(CWD)を示す図である。 図7中の解析期間AP2について時間周波数分布(CWD)を示す図である。 図7中の解析期間AP3について時間周波数分布(CWD)を示す図である。 図7中の解析期間AP4について時間周波数分布(CWD)を示す図である。 実施の形態1について、時間周波数解析部を説明するフローチャートである。 実施の形態1について、指標生成部を説明するフローチャートである。 実施の形態1について、指標スポットの第1例を説明する図である。 実施の形態1について、指標スポットの第2例を説明する図である。 実施の形態1について、指標スポットの第3例を説明する図である。 実施の形態1について、指標スポットの第4例を説明する図である。 実施の形態1について、指標スポットの第5例を説明する図である。 実施の形態1について、指標プロファイルの第1例を説明する図である。 実施の形態1について、指標プロファイルの第2例を説明する図である。 実施の形態1について、指標プロファイルに含まれる指標スポットを時間周波数平面に示した模式図である。 実施の形態1について、ユーザーインターフェースシステムを説明するフローチャートである。 実施の形態1について、指標プロファイルに含まれる指標スポットを時間周波数平面に示した模式図である(遅く擦った場合)。 実施の形態1について、速度判別処理を説明するフローチャートである。 実施の形態1について、指標プロファイルの第3例を説明する図である。 実施の形態2について、指標プロファイルの第4例を説明する図である。 実施の形態2について、指標プロファイルの第5例を説明する図である。 実施の形態2について、強度判別処理を説明するフローチャートである。 実施の形態3について、ユーザーインターフェースシステムを説明するハードウェアブロック図である。 実施の形態3について、属性が異なる入力受付部材について指標スポットの相違を説明する図である。 実施の形態3について、振動解析システムの第2例を説明する機能ブロック図である。 実施の形態3について、データベースを説明する図である。 実施の形態3について、属性が異なる入力受付部材について、擦る方向と指標スポットとの関係を説明する図である。 実施の形態3について、属性が異なる入力受付部材について、擦る方向と指標スポットとの関係を説明する図である。 実施の形態3について、属性が異なる入力受付部材について、擦る方向と指標スポットとの関係を説明する図である。 実施の形態3について、属性が異なる入力受付部材について、擦る方向と指標スポットとの関係を説明する図である。 実施の形態4について、振動解析システムの第3例を説明する機能ブロック図である。 実施の形態4について、指標プロファイルが格納された記憶媒体を説明する図である。 実施の形態4について、指標プロファイルのデータベースが格納された記憶媒体を説明する図である。 実施の形態4について、振動解析システムの第4例を説明する機能ブロック図である。
<概略>
本発明の具体的な実施の形態を説明する前に、本発明の概略を説明する。
或る物体を指で擦ると(すなわち、指を或る物体に接触させつつ移動させると)、振動が発生する。この擦り振動は、擦られる物体の属性(材質、表面の凹凸形状、等)に応じて異なる。このことは、例えば、目の粗さが異なる紙ヤスリ上で指を移動させると、異なる音(より具体的には周波数が異なる音)が聞こえるという経験から、理解できる。
かかる点に鑑み、本願発明者は、擦り振動の違いを判別してユーザーインターフェースに利用することに想到した。
図1に、或る物体を指で直線的かつ一方向に擦った場合に発生する振動の波形図の一例を示す。図1は、時間領域の波形図であり、振動強度の時間変化を示している。すなわち、図1において、横軸は時間を示し、縦軸は振動の強度を示している。
なお、図1の縦軸の数値は、振動を捕捉するマイクロフォンの出力信号レベルに由来し、強度についての一般的な表記に倣って任意に正規化されている。また、横軸の数値は、マイクロフォンの出力信号をアナログデジタル変換(AD変換)した際のサンプリングに由来し、サンプリング周期で正規化されている。ここではサンプリング周波数を16kHzとしたので、サンプリング周期は1/16kHz=62.5μsである。このため、横軸の数値は、62.5μsをかけることによって、実時間に換算できる。例えば、1.0×10×62.5μs=0.625sである。
図2に、図1の波形全体に対してFFT(Fast Fourier Transform)を行って、周波数を解析した波形図を示す。図2は、周波数領域の波形図であり、周波数分布を示している。すなわち、図2において、横軸は周波数を示し、縦軸は分布強度(例えばスペクトル密度)を示している。なお、横軸の数値は実周波数を示し、縦軸の数値は任意に正規化されている。
図1だけまたは図2だけを見ると、擦り振動は、音声とは異なり明確な特徴(フォルマント等)を有さず、ホワイトノイズ、ピンクノイズ等の雑音に近い。つまり、擦り振動を特徴付ける情報を抽出するのは難しい。
そこで本願発明者はさらに、時間周波数表現(Time-Frequency Representation)を用いた解析、すなわち時間周波数解析(Time-Frequency Analysis)を利用することに想到した。なお、時間周波数表現は「TFR」とも呼ばれ、時間周波数解析は「TFA」とも呼ばれる。
まず、図3に、図1の波形に対して、代表的なTFAであるSTFT(Short Time Fourier Transform)を行って得られた時間周波数分布を示す。図3において、交差する2つの横軸は時間および周波数をそれぞれ示し、縦軸は分布強度(例えばスペクトル密度)を示している。なお、時間軸の数値は図1と同様にサンプリング周期で正規化され、周波数軸の数値はサンプリング周波数で正規化されている。縦軸の数値は任意に正規化されている。
図3によれば、低い周波数領域に大きなスペクトル密度があるように見える。しかし、分解能が小さいので、特徴的な成分をほとんど見出せない。つまり、STFTによっても、通常のホワイトノイズに近い特性しか見られない。なお、STFTの分解能が低いことは、時間と周波数との間にトレードオフ、換言すれば不確定性原理が存在するからである。
分解能を向上させるために様々な手法が提案されており、その1つの手法としてWVD(Wigner-Ville Distribution)が知られている。WVDは、STFTと同様に演算コストを低くできるという利点もある。しかし、WVDは、演算内容に起因した干渉成分が発生しやすい。なお、干渉成分は干渉波、クロス項、または、アーティファクトと呼ばれることもある。
STFTおよびWVDによる考察の結果から、本願発明者は、分解能がSTFTよりも高く且つ干渉成分がWVDよりも小さい時間周波数表現が有用であること、および、そのような時間周波数表現として公知のCWD(Choi-Williams Distribution)を利用可能であること、という知見に至った。
図4に、図1の波形全体をCWDによって解析した波形図を示す。図4の時間周波数分布において2つの横軸および縦軸は、図3のSTFTと同様に、時間、周波数および分布強度をそれぞれ示している。図4によれば、大きなスペクトル密度が或る領域に集中していること、および、それらのスペクトル密度が時間軸に沿って変化していること、が分かる。これは、擦られる物体が持つ基本的な振動周波数に、時間的変化(ドップラシフト)が発生しているものと考えられる。
上記のように、擦られる物体の属性に応じて、擦り振動の周波数が異なる。このため、CWDによる時間周波数分布において大きなスペクトル密度が発現する周波数成分(より実際的には、ある程度の幅を持つ周波数域)は、擦られる物体の属性に依存する。特に上記知見からCWDによれば、STFTおよびWVDに比べて、その発現位置の相違を顕在化できる。したがって、CWDによる時間周波数分布の分布形状を比較することによって、物体の属性が同じか否か、換言すれば同じ属性を有する物体を擦ったか否かを、精度よく判別できる。
ここで、最も単純には、時間周波数分布の全範囲を比較することが考えられる。
しかし、本発明では、指標スポットという新たな概念を導入し、これを利用する。指標スポットとは、時間周波数分布(ここではCWDによって得られた分布)において分布形状の指標となる地点のことである。換言すれば、指標スポットは分布形状を特徴付ける代表地点である。指標スポットとして、例えばピーク地点を利用できる。指標スポットについては後述する。時間周波数分布の全範囲を比較するのに比べて、指標スポットの分布を比較した方が、比較するデータ量を削減できる。その結果、演算時間、メモリ容量、等を削減できる。
以下に、実施の形態1〜4およびそれらの変形例を通して、本発明をより具体的に説明する。
<実施の形態1>
<構成概略>
図5に、実施の形態1に係る電気機器10を説明するハードウェアブロック図を示す。電気機器10の種類、用途、等は特に限定されない。図5の例によれば、電気機器10は、主処理部11と、記憶部12と、情報入力部13と、情報出力部14と、外部接続部15と、ユーザーインターフェースシステム20とを含んでいる。図5ではこれらの要素11〜15,20がバス16に接続されているが、他の接続形態を採用してもよい。
主処理部11は、電気機器10に関する全般的な処理を行う。主処理部11は例えば1つまたは複数のマイクロプロセッサによって構成され、記憶部12に格納されているプログラムを実行する。これにより、主処理部11が各種の機能ブロックとして動作する。すなわち、各種の機能がソフトウェアによって実現される。但し、一部または全部の機能を、専用回路によって、換言すればハードウェアによって実現してもよい。
記憶部12は、各種の情報(プログラム、データ等)を格納する記憶媒体である。記憶部12は、例えば半導体メモリ(以下、メモリとも呼ぶ)で構成され、ハードディスク装置を含んでもよい。メモリとして、RAM(Random Access Memory)、ROM(Read Only Memory)、書き換え可能な不揮発性メモリ、等を利用可能である。なお、RAMは、各種の情報を格納するだけでなく、主処理部11がプログラムを実行するためのワーキングエリアを提供する。
情報入力部13は、ユーザーから電気機器10への情報の入力を受け付ける。情報入力部13は例えば、各種ボタン、タッチパネル、キーボード、マウス、マイクロフォン、または、それらの組み合わせによって構成される。情報出力部14は、電気機器10からユーザーへ情報を出力する。情報入力部13は例えば、情報を視覚的に出力する表示装置、情報を聴覚的に出力する音響装置、または、それらの組み合わせによって、構成される。
外部接続部15は、電気機器10と外部装置とを有線通信または無線通信によって接続する。電気機器10と外部装置とは、直接接続されてもよいし、インターネット等を経由して接続されてもよい。外部装置として外付けの記憶媒体(半導体メモリ、ハードディスク装置、光ディスク、等)が接続された場合、かかる外付けの記憶媒体を記憶部12および後述の記憶部52の一部または全部として利用することも可能である。
ユーザーインターフェースシステム20は、入力受付部材30と、振動センサ40と、振動解析システム50とを含んでいる。
入力受付部材30は、ユーザーが指で擦るための物体である。入力受付部材30の属性は、特有の振動が発生するように設計されている。例えば、特有の振動が発生するように表面の凹凸形状が設計されている。入力受付部材30として、例えば電気機器10の筐体の一部または全部を利用可能である。あるいは、電気機器10の筐体に貼付された部材、または、電気機器10の筐体から離れて設けられた部材を、入力受付部材30として利用することも可能である。
振動センサ40は、入力受付部材30を擦ることによって発生する振動を捕捉できるように配置されている。より具体的には、振動センサ40は振動捕捉装置(マイクロフォン、加速度センサ、等)を含んでおり、振動捕捉装置が振動を捕捉できるように配置されている。振動捕捉装置は物理的な振動を電気信号に変換する。なお、複数の振動捕捉装置を設けてもよい。
振動センサ40は、振動捕捉装置が出力するアナログの電気信号を、振動解析システム50で処理可能な形式であるデジタルの電気信号に変換する。そして、振動センサ40は、変換後のデジタル信号、換言すれば振動波形のデジタルデータを出力する。そのために振動センサ40は、アンプ、アナログデジタル変換器(AD変換器)、フィルタ、等も含むものとする。
なお、図5の例とは違えて、振動センサ40はバス16経由で振動解析システム50に接続されてもよい。
振動解析システム50は、振動センサ40の出力信号を解析する。図5の例では、振動解析システム50は、処理部51と、記憶部52とを含んでいる。なお、処理部51および記憶部52を解析処理部51および解析記憶部52と呼んでもよい。
処理部51は、振動解析に関する後述の処理を行う。処理部51は、振動解析用に特化されたマイクロプロセッサによって構成される。すなわち、処理部51によって提供される各種機能が、ハードウェアによって実現される。但し、処理部51の機能の一部または全部を、汎用のマイクロプロセッサにプログラムを実行させることによって、換言すればソフトウェアによって実現してもよい。
記憶部52は、処理部51が振動解析の際に利用する記憶媒体である。記憶部52は記憶部12と同様に構成可能である。図5では記憶部52を記憶部12とは別個のハードウェアとして図示しているが、記憶部12の一部の記憶領域を記憶部52として利用してもよい。
なお、図5の構成は適宜、変更可能である。例えば、情報入力部13と情報出力部14と外部接続部15とのうち1つまたは複数は、必要無ければ、省略してもよい。逆に、図5に不図示の要素が追加されてもよい。
<振動解析システム50>
図6に、振動解析システム50の機能ブロック図を示す。図6の例によれば、振動解析システム50は、時間周波数解析部110と、指標生成部120と、判別部130とを含んでいる。
<時間周波数解析部110>
時間周波数解析部110には、振動センサ40(図5参照)の出力信号が入力され、それにより時間周波数解析部110は、捕捉された振動の波形データD1を取得する。そして、時間周波数解析部110は、振動波形データD1から、捕捉された振動をCWDで表現した時間周波数分布データ(時間周波数解析データと呼んでもよい)D2を生成する。図6の例では、時間周波数解析部110は、前処理部111と、CWD処理部112とを含んでいる。
前処理部111はCWDの前処理を行う。すなわち、CWDは複素信号の一種である解析信号(Analytic Signal)を扱うので、前処理部111は、実信号(Real part Signal)である振動センサ40の出力信号を、解析信号に変換する。かかる信号変換には例えば、次式(1)で表される公知のヒルベルト変換が利用される。但し、他のアルゴリズムによる信号変換を利用してもよい。
CWD処理部112は、前処理部111から出力される解析信号について、CWDによる時間周波数分布を求める。CWDは例えば、公知の次式(2)で表される。式(2)の解析信号z(s)として、式(1)のx(n)が適用される。式(2)において、tは時間を示し、νは周波数を示す。
ここでは一般的な手法に倣い、式(2)によって得られたCW(t,ν)の大きさの2乗、いわゆるスペクトル密度を、時間周波数分布の各点の分布強度とする。但し、CW(t,ν)に相関する各種の値(例えば、スペクトル密度を所定の手法で正規化した値)を、分布強度としてもよい。
なお、式(1),(2)における各種パラメータは、例えば公知の値を参考にして、指標スポットの顕在化に適うように、事前のシミュレーション等によって調整されているものとする。
時間周波数解析部110は、1回の擦り動作に対して解析期間を離散的に設定し、解析期間についてのみ時間周波数分布データD2を生成する。図7に、図1の振動波形データD1に対して解析期間AP(より具体的には解析期間AP1〜AP4)を設定した例を示す。また、図8に、図7中の解析期間AP1について求められた時間周波数分布データD2によって提供される時間周波数分布を示す。同様に、図9〜図11に、図7中の解析期間AP2〜AP4についての時間周波数分布をそれぞれ示す。なお、図8〜図11の時間周波数分布において、横軸および縦軸は時間および周波数をそれぞれ示し、横軸および縦軸の数値はサンプリング周期およびサンプリング周波数でそれぞれ正規化されている。また、図8〜図11において分布強度は、図4とは異なり、濃淡によって示している。すなわち、分布強度が大きいほど濃く色付けされている。
図12に、時間周波数解析部110の動作例についてフローチャートを示す。図12の時間周波数解析処理S210によれば、時間周波数解析部110は擦り動作(すなわち入力動作)の開始を待ち、擦り動作の開始が検出されると、時間周波数解析部110は(したがって振動解析システム50は)休止モードから解析モードに移行する(ステップS211)。例えば、時間周波数解析部110が、振動センサ40の出力信号の強度が所定の解析モード開始閾値を超えたことを検出すると、時間周波数解析部110は擦り動作が開始されたと判別する。
解析モードにおいて、時間周波数解析部110は、解析期間APを開始し(ステップS212S)、解析期間APがタイムアップするまで(ステップS212E)、振動センサ40から送られてくる振動波形データD1に対して前処理(ステップS213)およびCWD処理(ステップS214)を実行する。なお、振動波形データD1を解析期間APの間、蓄積しておき、解析期間APの終了後にその蓄積データに対して前処理およびCWD処理を実行してもよい。
その後、時間周波数解析部110は、所定の待ち時間の後、上記ステップS212Sに戻って次の解析期間APを開始する。但し、待ち時間の間に擦り動作が終了したならば(ステップS215)、時間周波数解析部110は、次の解析期間APを開始せずに、解析モードから休止モードに移行する。すなわち、時間周波数解析処理S210が終了する。例えば、時間周波数解析部110が、振動センサ40の出力信号の強度が所定の解析モード終了閾値を下回る状態が所定時間続いたことを検出した場合、時間周波数解析部110は擦り動作が終了したと判別する。
解析期間APの長さおよび解析期間APの間隔は、予め設定されているものとする。ここでは、各解析期間APの長さが同じであり、解析期間APの間隔が同じであるものとする。但し、この例に限定されるものではない。また、1回の擦り動作に対する解析期間APの数は、図7に例示された4個に限定されるものではない。例えば、解析期間APの長さの設定値、擦る速度、等によっては、1回の擦り動作の全体に対して解析期間APが1つだけ設定される場合もある。
なお、解析期間APを離散的に設定せずに、常に、擦り動作の全体に対して1つの解析期間APに設定してもよい。しかし、特に擦り動作が長く続く場合、離散的な解析期間APによれば、演算するデータ量を削減できる。その結果、演算時間、メモリ容量、等を削減できる。
<指標生成部120>
図13に、指標生成部120の動作例についてフローチャートを示す。図13の指標生成処理S220によれば、指標生成部120は、指標決定処理S221と、指標プロファイル生成処理S222とを行う。
<指標決定処理S221>
指標生成部120は、時間周波数解析部110によって生成された時間周波数分布データD2を取得する。そして、指標生成部120は、指標決定処理S221によって、時間周波数分布データD2に基づいて指標スポットを決定する。指標スポットは上記のように、時間周波数分布データD2によって提供される時間周波数分布において分布形状の指標となる地点である。
図14〜図17に指標スポットの概念図を示す。図14〜図17では、分布強度を棒グラフによって示し、指標スポットSPを黒丸で示している。また、図14〜図17では下段に、指標スポットSPを時間周波数平面に投影した図、換言すれば指標スポットSPを時間成分および周波数成分によって表現した図を示している。
図14に示す第1例によれば、指標スポットSPは、時間周波数分布におけるピーク地点である。例えば、指標生成部120は、時間tおよび周波数νの値の組み合わせを順次変更することによって、時間周波数分布において注目地点を順次設定する。そして、指標生成部120は、注目地点の分布強度が当該注目地点を囲む所定範囲の地点の分布強度に比べて大きいことを検出した場合、当該注目地点をピーク地点、すなわち指標スポットSPとして決定する。
図15に示す第2例によれば、指標スポットSPは、時間周波数分布において分布強度が所定閾値を超える地点である。例えば、指標生成部120は、上記と同様にして注目地点を順次設定し、注目地点の分布強度が所定閾値を超えることを検出した場合、当該注目地点を指標スポットSPとして決定する。
図16に示す第3例は、第1例と第2例の組合せである。すなわち、第3例では、指標スポットSPは、時間周波数分布において所定閾値を超える分布強度を有するピーク地点である。図16では、まずピーク地点を抽出し、抽出したピーク地点の分布強度を所定閾値と比較することによって、指標スポットSPを決定している。これとは逆に、分布強度が所定閾値を超える地点をまず抽出し、抽出した地点を対象にしてピーク地点を抽出してもよい。なお、処理順序が異なることによって、抽出される指標スポットSPが異なる場合がある。
ここで、図8〜図11を参照すると、時間周波数分布データD2は画像として可視化できる。これに鑑み、本願発明者は、時間周波数分布データD2を画像データとして扱い、画像処理技術を応用することによって指標スポットSPを決定することに想到した。例えばエッジ抽出処理(エッジ強調処理とも呼ばれる)を利用できる。なお、エッジを輪郭または境界と理解してもよい。
エッジ抽出処理の一例として、画素値が大きく変化する部分をエッジとして抽出する処理が知られている。これを応用した第4例を図17に示す。第4例では、注目地点の分布強度が、当該注目地点を囲む所定範囲の地点の分布強度と比べて、所定閾値を超える変化量を有する場合、当該注目地点を指標スポットSPとして決定する。なお、変化量に代えて、変化率を用いてもよい。
エッジ抽出処理は、例えば指標生成部120が時間周波数分布データD2に対してエッジ抽出フィルタを適用することによって、実行可能である。エッジ抽出フィルタの処理内容は上記第4例に限定されるものではない。例えば、画像処理分野で知られている様々なエッジ抽出フィルタのうちから、所望の仕様を有するフィルタを選ぶことができる。
ここで、第1例から第4例の指標決定処理は、所定の抽出条件を満足する地点を指標スポットSPとして抽出する処理(第1の指標決定処理と呼ぶことにする)として、一般化できる。一方、上記の所定の抽出条件の具体的内容に応じて、第1例から第4例は次のように分類できる。
すなわち、第1例の抽出条件は、ピーク地点であるという条件(第1の条件と呼ぶことにする)である。第2例の抽出条件は、分布強度が所定閾値を超えるという条件(第2の条件と呼ぶことにする)である。第3例の抽出条件は、第1の条件と第2の条件の両方を満足することを要求する。第1例から第3例の抽出条件は、第1の条件と第2の条件とのうちの少なくとも一方を含む条件(第1の抽出条件と呼ぶことにする)として纏められる。
第4例の抽出条件は、時間周波数分布データD2に対してエッジ抽出処理を行うことによって抽出された地点であるという条件(第2の抽出条件と呼ぶことにする)である。
ところで、いくつかの指標スポットSPを纏めてもよい。具体的には、指標決定処理は、所定の抽出条件を満足する地点を指標スポットSP用の候補地点として抽出し、複数の候補地点を代表する地点を指標スポットSPとして決定する処理(第2の指標決定処理と呼ぶことにする)であってもよい。候補地点の抽出条件として例えば、第1例から第4例のいずれかの抽出条件を利用可能である。
これを第5例として図18に示す。なお、図18では、図面の煩雑化を避けるため、図14〜図17の下段と同様の時間周波数平面のみを示している。図18によれば、11個の候補地点SQ(白抜き丸印で示す)が抽出されたものとし、これらの候補地点SQの平均地点を代表地点、すなわち指標スポットSPに決定している。より具体的には、指標生成部120は、11個の候補地点SQの周波数成分の平均値を算出し、同様に時間成分および分布強度の平均値を算出し、それらの平均値の組み合わせによって特定される地点を指標スポットSPに決定する。
代表地点は、平均地点に限定されるものではない。例えば、代表地点は中央値地点(メジアン地点)であってもよい。中央値地点は、複数の候補地点SQの各成分の中央値(メジアン)の組み合わせによって特定される地点である。
また、どの候補地点SQを纏めるかについての条件は、予め規定しておけばよい。例えば、所定の時間幅および周波数幅の区画ごとに、1つの代表地点、すなわち1つの指標スポットSPを決定する。
なお、指標決定処理の具体的内容は、上記例に限定されるものではない。
<指標プロファイル生成処理S222>
指標プロファイル生成処理S222(図13参照)では、指標生成部120は、指標決定処理S221によって決定した指標スポットSPに基づいて、振動解析データとしての指標プロファイルデータD3を生成する。なお、指標プロファイルデータを、指標プロファイルと呼ぶ場合もある。
図19に、指標プロファイルD3の構成の第1例を示す。指標プロファイルD3は、1つ以上の指標スポットSPのデータを含んでいる。図19の例によれば、指標プロファイルD3は、各指標スポットSPの周波数成分値および時間成分値を含んでいる。周波数成分値は、指標スポットSPの実周波数値で与えられてもよいし、あるいは実周波数値を所定の正規化によって変換した値で与えられてもよい。時間成分値についても同様である。なお、図19の例では指標スポットSPを区別するための番号が記録されているが、この情報は省略することも可能である。
図20に、指標プロファイルD3の構成の第2例を示す。上記のように、時間周波数分布データD2は画像データとして把握できる。これに鑑みると、指標プロファイルD3も画像データと同様に構成できる。具体的に図20の例では、指標スポットSPであることを“1”で表し、指標スポットSPでないことを“0”で表した、いわゆるビットマップデータによって、指標プロファイルD3が構成されている。なお、図20のビットマップでは、図8〜図11に合わせて、最も左下のビット位置が時間周波数平面の原点に最も近いものとし、横方向が時間軸に対応し、縦方向が周波数軸に対応するものとする。
図20の例では、指標プロファイルD3は、ビットマップデータの属性データも含んでいる。具体的には、指標プロファイルD3は、周波数成分関連データおよび時間成分関連データを含んでいる。
周波数成分関連データは、例えば、ビットマップデータがどのような周波数範囲に関するのかを示す周波数範囲データと、ビットマップデータの各ビットがどのような周波数間隔で規定されているのかを示す周波数間隔データとを含む。
同様に、時間成分関連データは、例えば、ビットマップデータがどのような時間範囲に関するのかを示す時間範囲データと、ビットマップデータの各ビットがどのような時間間隔で規定されているのかを示す時間間隔データとを含む。
周波数成分関連データと、時間成分関連データと、ビットマップデータにおける指標スポットSPの位置とから、指標スポットSPの周波数成分値および時間成分値を算出可能である。すなわち、ビットマップデータ形式であっても、指標プロファイルD3は指標スポットSPの周波数成分値および時間成分値を含むことができる。
なお、ビットマップデータは、時間周波数解析部110によって生成された時間周波数分布データD2の全範囲(図8〜図11参照)について生成してもよいし、あるいは、指標スポットSPの発現位置を含む限定的範囲について生成してもよい。後者によれば、データサイズを小さくできる。
なお、図19および図20の指標プロファイルD3の内容に鑑みると、第2の指標決定処理(複数の候補地点を代表する地点を指標スポットSPとして決定する。図18参照)では、指標スポットSPの強度分布値の算出を省略してもよい。
指標プロファイルD3は、1回の擦り動作において(すなわち擦り動作の開始から終了までの期間において)得られた指標スポットSPのデータを1つの指標プロファイルD3に含めるものとする。この場合、1回の擦り動作に対して複数の解析期間APが設定された場合(図7参照)、当該複数の解析期間APについて得られた指標スポットが1つの指標プロファイルD3に記録される。なお、指標スポットの時間成分値は、全ての解析期間APに対して統一的な原点(例えば1番目の解析期間APの開始時間)を基準して表現されるものとする。一方、1回の擦り動作に対して解析期間APが1つだけ設定された場合、指標プロファイルD3は当該1つの解析期間APの指標スポットSPで構成される。
これに対し、解析期間APごとに指標プロファイルD3を生成してもよい。但し、例えば解析期間APが短いと、1つの指標プロファイルD3に記録される指標スポットSPの個数が少なくなる。後述の判別処理において精度を確保するためには、ある程度の個数の指標スポットSPが指標プロファイルD3に含まれることが、より好ましい。かかる点に鑑みると、指標プロファイルD3が上記のように1回の擦り動作の全体における指標スポットSPを含むことが、より好ましい。
<判別部130>
図6に戻り、判別部130は、指標生成部120によって生成された指標プロファイルD3を、判別対象として取得する。そして、判別部130は、判別対象の指標プロファイルD3(判別対象プロファイルD3とも呼ぶ)が、登録済みの指標プロファイルD3(基準プロファイルD3とも呼ぶ)と同一性を有するか否かを判別する同一性判別処理を行う。基準プロファイルD3は、入力受付部材30を擦った際に発生する振動について予め生成され、振動解析システム50の記憶部52(図5参照)に予め格納されているものとする。
ここで、図21に、指標プロファイルD3に含まれる指標スポットSPを時間周波数平面に示した模式図を示す。図21から分かるように、指標プロファイルD3に含まれる指標スポットSPは、周波数成分値が近似している。このことは図8〜図11からも理解できる。特に、指標スポットSPが集中する周波数(より実際的には、ある程度の幅を持つ周波数域)は、入力受付部材30の属性に依存する。これは、上記のように、指標スポットSPの起源となる擦り振動が、入力受付部材30の属性に応じて異なるからである。
かかる点に鑑み、判別部130は、判別対象プロファイルD3に含まれる周波数成分値が、基準プロファイルD3に含まれる周波数成分値と同一性を有するか否かを判別する。すなわち、周波数成分値が同一性を有することが、判別対象プロファイルD3が基準プロファイルD3と同一性を有することに対応する。
同一性の判別は、より実際的であることが好ましい。すなわち、判別対象プロファイルD3に含まれる周波数成分値の分布が、基準プロファイルD3に含まれる周波数成分値の分布と、所定の許容誤差の範囲の下で類似する場合に、当該2つの指標プロファイルD3は同一性を有すると判別するのがより実際的である。そのような判別は例えば、公知の類似判別技術またはデータマッチング技術によって実現可能である。
判別対象プロファイルD3が基準プロファイルD3と同一性を有すると判別した場合、判別部130は判別結果情報D4を出力する。判別結果情報D4は、例えば、所定のデータ、または、所定の信号によって、具現化できる。
なお、判別対象プロファイルD3が基準プロファイルD3と同一性を有さないと判別した場合、そのことを示す判別結果情報D4を出力してもよい。例えば、判別結果情報D4のデータ内容または信号レベルを、判別対象プロファイルD3が基準プロファイルD3と同一性を有するか否かに応じて異ならせればよい。
上記のように、基準プロファイルD3は、入力受付部材30を擦った際に発生する振動に関する。このため、判別対象プロファイルD3が基準プロファイルD3と同一性を有することは、入力受付部材30が擦られたことを示す。したがって、判別部130は入力受付部材30が擦られたか否かを判別する、と理解してもよい。
<ユーザーインターフェースシステム20>
図22に、ユーザーインターフェースシステム20の全体動作の例についてフローチャートを示す。図22の入力判別処理S200によれば、時間周波数解析部110が既述の時間周波数解析処理S210(図12参照)を実行する。これにより、振動センサ40から送られてくる振動波形データD1から、時間周波数分布データD2が生成される。
次に、指標生成部120が既述の指標生成処理S220(図13参照)を実行する。これにより、時間周波数分布データD2に基づいて指標スポットSPが決定され(ステップS221)、得られた指標スポットSPから指標プロファイルD3が生成される(ステップS222)。
そして、指標判別処理S230において判別部130が、上記のように、指標生成部120によって生成された指標プロファイルD3が、登録済みの指標プロファイルD3(入力受付部材30を擦った際に発生する振動に関する)と同一性を有するかを判別する。これにより、入力受付部材30が擦られたか否かが判別される。
判別結果情報D4は、主処理部11(図5参照)に送られ、主処理部11による処理に利用される。判別結果情報D4が入力受付部材30が擦られたことを示す場合、例えば主処理部11は電気機器10の音量を下げる。この例によれば、判別結果情報D4は音量調整用のコマンドとして機能する。なお、判別結果情報D4の利用は音量調整に限定されるものではない。
<速度判別>
ここで、図21の例に比べて入力受付部材30を遅く擦った場合の指標プロファイルD3を、図23に示す。図23を図21と比較すれば分かるように、擦る速度が遅いほど、同じ時間幅内に含まれる指標スポットSPの個数が少なくなる。かかる点に鑑み、判別部130は、所定時間当たりに含まれる指標スポットSPの個数に応じて、擦り動作の相対的な速度を判別する。
図24に、速度判別処理の一例についてフローチャートを示す。図24の速度判別処理S250によれば、判別部130は、判別対象プロファイルD3(指標生成部120から取得)について、所定時間当たりの指標スポットSPの個数を取得する(ステップS251)。所定時間の長さは予め設定されているものとする。また、当該所定時間は例えば、最も早い時間成分値を有する指標スポットSPから起算できる。但し、所定時間の設定位置はこの例に限定されるものではない。
同様に、判別部130は、基準プロファイルD3について、同じ長さの所定時間当たりの指標スポットSPの個数を取得する(ステップS252)。ステップS251,S252は逆順で実行されてもよい。
なお、基準プロファイルD3は速度判別処理S250の開始前に既知であるので、基準プロファイルD3については、所定時間当たりの指標スポットSPの個数を予めカウントしておくことができる。また、予めカウントした値を基準プロファイルD3に記録しておくことができる。このため、ステップS252を、予めカウントしておいた個数を基準プロファイルD3から読み出すことによって、実行してもよい。
次に、判別部130は、判別対象プロファイルD3および基準プロファイルD3のそれぞれから取得した指標スポットSPの個数を比較する(ステップS253)。
比較の結果、判別対象プロファイルD3から取得した指標スポットSPの方がより多い場合、判別部130は、入力速度は基準速度よりも速いことを示す速度判別結果情報を生成する(ステップSS254)。なお、入力速度は、判別対象プロファイルD3の起源となった擦り動作の速度である。また、基準速度は基準動作の速度であり、基準動作は基準プロファイルD3の起源となった擦り動作である。
一方、判別対象プロファイルD3から取得した指標スポットSPの方がより少ない場合、判別部130は、入力速度は基準速度よりも遅いことを示す速度判別結果情報を生成する(ステップSS255)。
また、指標スポットSPが同数である場合、判別部130は、入力速度は基準速度と同じであることを示す速度判別結果情報を生成する(ステップSS256)。
ここで、ステップS253における指標スポットSPの個数の比較は、ステップS251,S252で取得した値を厳密に比較することによって実行できる。あるいは、所定の許容誤差範囲を導入してもよい。例えば、指標スポットSPの個数の差が所定値以内である場合には、指標スポットSPの個数は同じであると判別してもよい。
速度判別処理S250は、指標判別処理S230(図22参照)において実行されるが、判別対象プロファイルD3が基準プロファイルD3と同一性を有すると判別された後に行われるのが好ましい。それが効率的だからである。速度判別結果情報は、判別対象プロファイルD3が基準プロファイルD3と同一性を有すると判別した場合に、判別結果情報D4に含められる。
速度判別結果情報は例えば、電気機器10の音量の調整量に反映される。具体的には、速度判別結果情報が入力速度は基準速度と同じであることを示す場合、主処理部11(図5参照)は、基準の調整量で以て音量を下げる。これに対し、速度判別結果情報が入力速度は基準速度よりも速いことを示す場合、主処理部11は、基準の調整量よりも大きい調整量で以て音量を下げる。逆に、速度判別結果情報が入力速度は基準速度よりも遅いことを示す場合、主処理部11は、基準の調整量よりも小さい調整量で以て音量を下げる。
なお、速度判別を利用しない場合、図25に示すように、指標プロファイルD3から時間成分値を省略してもよい。
<効果>
振動解析システム50によれば、擦り振動を、指標プロファイルD3という新たなデータ形式によって管理する。
指標プロファイルD3は、擦り振動の時間周波数分布において分布形状の指標となる地点である指標スポットSPを利用して構成される。したがって、指標プロファイルD3によれば、時間周波数分布の全範囲のデータを用いる場合に比べて少ないデータ量によって、擦り振動を管理できる。このため、2つの擦り振動を比較する処理(指標判別処理S230参照)において、演算時間、メモリ容量、等を削減できる。
また、指標スポットSPの決定に利用する時間周波数分布データD2は、CWDによって生成される。特に、CWDは、擦り振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有している。このため、指標スポットSPの発現位置(具体的には指標スポットSPの周波数成分)によって、換言すれば指標スポットSPの周波数成分値を含んだ指標プロファイルD3によって、擦り振動の相違を管理できる。
このように指標プロファイルD3によって擦り振動を適切に管理できるので、擦り振動を利用したユーザーインターフェースシステム20を提供することができる。
また、上記のように、擦り動作の相対的な速度も判別する場合には、擦り動作の有無だけを判別する場合に比べて、より多くの操作を1回の擦り動作に割り当てることができる。
ここで、特許文献1の技術では、叩く動作の回数および間隔を携帯電話機の操作に利用する。叩く間隔は叩く速度によって決まるので、動作の速度を利用する点においてユーザーインターフェースシステム20と共通するように見えるかもしれない。しかし、特許文献1の技術では、叩く間隔の長さすなわち叩く速度を変えることによって、“0”と“1”の発生を制御しなければならない。このため、ユーザーは速度の違いを意識しながら叩かなければならないので、煩わしさを感じるかもしれない。叩く回数が多くなれば、なおさらである。
これに対し、ユーザーインターフェースシステム20によれば、入力動作は1回の擦り動作で済む。しかも、1回の擦り動作中に擦る速度を意識的に変化させる必要がない。このため、特許文献1の技術に比べて、高い利便性を提供できる。
ところで、上記では、分解能がSTFTよりも高く且つ干渉成分がWVDよりも小さい時間周波数表現として、CWDを利用した。分解能がSTFTよりも高く且つ干渉成分がWVDよりも小さい時間周波数表現は、CWD以外にも在る。例えば、BJ(Born-Jordan)、ZAM(Zhao-Atlas-Marks)、BD(B-Distribution)、MBD(Modified B-Distribution)、および、KCS(Kernels Compact Support)も利用可能である。これらの時間周波数表現は技術論文等によって公知である。例えば、CWDよりも良好な特性が期待されるKCSは、特許文献2に紹介されている。
<実施の形態2>
図26に、指標プロファイルD3の構成の第4例を示す。図19との比較から分かるように、図26の指標プロファイルD3は、各指標スポットSPの周波数成分値と時間成分値と分布強度値とを含んでいる。分布強度値は、CWDによる解析結果値で与えられてもよいし、あるいは解析結果値を所定の正規化によって変換した値で与えられてもよい。
図27に、指標プロファイルD3の構成の第5例を示す。図20との比較から分かるように、図27のビットマップデータでは、指標スポットSPでないことが“0”で表わされ、指標スポットSPであることが“0”以外の数値で表わされている。特に指標スポットSPの数値は分布強度値を示しており、図27では8段階の分布強度値が例示されている。
指標プロファイルD3が分布強度値も含む場合、判別対象プロファイルD3に含まれる分布強度値を、基準プロファイルD3に含まれる分布強度値と比較することによって、擦り動作の相対的な強度を判別できる。
図28に、強度判別処理の一例についてフローチャートを示す。図28の強度判別処理S270によれば、判別部130は、判別対象プロファイルD3に含まれる分布強度値と、基準プロファイルD3に含まれる分布強度値とを比較する(ステップS271)。指標プロファイルD3が複数の分布強度値を含む場合(すなわち複数の指標スポットSPを含む場合)、例えば当該複数の分布強度値のうちの最大値どうしを比較する。最大値に代えて、平均値、中央値(メジアン)、等の各種値を利用してもよい。
なお、基準プロファイルD3は強度判別処理S270の開始前に既知であるので、基準プロファイルD3については、比較に用いる分布強度値(最大値等)を予め求めて基準プロファイルD3に記録しておくことができる。
ステップS271による比較の結果、判別対象プロファイルD3に含まれる分布強度値の方が大きい場合、判別部130は、入力強度は基準強度よりも大きいことを示す強度判別結果情報を生成する(ステップSS272)。なお、入力強度は、判別対象プロファイルD3の起源となった擦り動作の強度である。また、基準強度は基準動作の強度であり、基準動作は基準プロファイルD3の起源となった擦り動作である。
一方、判別対象プロファイルD3に含まれる分布強度値の方が小さい場合、判別部130は、入力強度は基準強度よりも小さいことを示す強度判別結果情報を生成する(ステップSS273)。
また、判別対象プロファイルD3に含まれる分布強度値が基準プロファイルD3に含まれる分布強度値と同じである場合、判別部130は、入力強度は基準強度と同じであることを示す強度判別結果情報を生成する(ステップSS274)。
ここで、ステップS271では、分布強度値を厳密に比較することができる。あるいは、所定の許容誤差範囲を導入してもよい。例えば、分布強度値の差が所定値以内である場合には、分布強度値は同じであると判別してもよい。
強度判別処理S270は、指標判別処理S230(図22参照)において実行されるが、判別対象プロファイルD3が基準プロファイルD3と同一性を有すると判別された後に行われるのが好ましい。それが効率的だからである。強度判別結果情報は、判別対象プロファイルD3が基準プロファイルD3と同一性を有すると判別した場合に、判別結果情報D4に含められる。
強度判別結果情報は例えば、電気機器10の音量の調整量に反映される。具体的には、強度判別結果情報が入力強度は基準強度と同じであることを示す場合、主処理部11(図5参照)は、基準の調整量で以て音量を下げる。これに対し、強度判別結果情報が入力強度は基準強度よりも大きいことを示す場合、主処理部11は、基準の調整量よりも大きい調整量で以て音量を下げる。逆に、強度判別結果情報が入力強度は基準強度よりも小さいことを示す場合、主処理部11は、基準の調整量よりも小さい調整量で以て音量を下げる。
このように、擦り動作の強度も判別することによって、擦り動作の有無だけを判別する場合に比べて、より多くの操作を1回の擦り動作に割り当てることができる。また、実施の形態1で述べたのと同様に、特許文献1の技術に比べて、高い利便性を提供できる。
なお、強度判別処理と速度判別処理との両方を利用してもよい。その場合、擦り動作を、強度と速度との組み合せに応じて、4種類に分類できる。その結果、電気機器10の最大4種類の操作を、1回の擦り動作で使い分けることができる。
なお、速度判別を利用しない場合、図26の指標プロファイルD3から時間成分値を省略してもよい(図25参照)。
<実施の形態3>
図29に、実施の形態3に係るユーザーインターフェースシステム20Bのハードウェアブロック図を示す。ユーザーインターフェースシステム20Bは、上記ユーザーインターフェースシステム20に代えて、電気機器10に適用可能である(図5参照)。
図29によれば、ユーザーインターフェースシステム20Bは、2種類の入力受付部材30を含んでいる。2種類の入力受付部材30を符号30B,30Cによって区別する場合もある。なお、3種類以上の入力受付部材30を設ける場合についても、以下の説明から十分に理解できる。
2種類の入力受付部材30B,30Cは、異なる振動が発生するように属性が調整されている。例えば、電気機器10の筐体において表面の凹凸形状が異なる部分を設けることによって、それらの部分を入力受付部材30B,30Cとして利用できる。属性の相違により、図30に例示するように、周波数成分が異なる指標スポットSPが発現する。
ユーザーインターフェースシステム20Bにおいて、振動センサ40は、入力受付部材30Bを擦ることによって発生する振動と、入力受付部材30Cを擦ることによって発生する振動との両方を捕捉できるように配置されている。
ユーザーインターフェースシステム20Bは、上記振動解析システム50に代えて、振動解析システム50Bを含んでいる。振動解析システム50,50Bは、ハードウェア構成において同様であるが、機能において相違がある。図31に、振動解析システム50Bの機能ブロック図を示す。図31の例によれば、振動解析システム50Bは、図6の振動解析システム50にデータベース140を追加した構成を有している。データベース140は、振動解析システム50Bの記憶部52に予め格納されているものとする。
図32に、データベース140の構成例を示す。図32に示すように、データベース140は、入力受付部材30B用の基準プロファイルD3(すなわち、入力受付部材30Bを擦った際に発生する振動についての指標プロファイルD3)と、入力受付部材30C用の基準プロファイルD3とを含んでいる。2つの基準プロファイルD3にはそれぞれ識別情報が付与されている。すなわち、データベース140によって、2つの基準プロファイルD3が識別情報によって区別可能な状態で管理されている。ここでは識別情報は3桁の数字とするが、他の形式の識別情報を採用してもよい。
振動解析システム50Bは基本的には、実施の形態1,2と同様に動作する。但し、判別部130は、指標判別処理S230(図22参照)において、指標生成部120から取得した判別対象プロファイルD3を、データベース140内の基準プロファイルD3と照合する。
より具体的には、判別部130は、判別対象プロファイルD3と同一性を有すること(すなわち、判別対象プロファイルD3に含まれる周波数成分値と同一性を有すること)を検索条件として、データベース140内の基準プロファイルD3を検索する。そして、当該検索条件を満足する基準プロファイルD3が見つかった場合、判別部130は、その見つかった基準プロファイルD3の識別情報を取得し、その識別情報を判別結果情報D4として出力する。
ここでは、検索条件を満足する基準プロファイルD3が見つからなかった場合、判別部130は判別結果情報D4を出力しないものとする。但し、検索条件を満足する基準プロファイルD3が見つからなかったことを示す判別結果情報D4を出力してもよい。
判別結果情報D4は、主処理部11(図5参照)において利用される。具体的には、判別結果情報D4が“0001”である場合(すなわち入力受付部材30Bが擦られたと判別された場合)、例えば主処理部11は電気機器10の音量を下げる。一方、判別結果情報D4が“0002”である場合(すなわち入力受付部材30Cが擦られたと判別された場合)、例えば主処理部11は電気機器10の音量を上げる。
上記では、2種類の入力受付部材30B,30Cを単独で擦る場合を説明した。これに対し、2種類の入力受付部材30B,30Cを連続的に擦ると、周波数成分が異なる指標スポットSPが時系列で発現する。さらに、その発現順序は擦る順序に依存する。これを図33〜図34に示す。図33は、太線矢印で示すように、先に入力受付部材30Bを擦り、その後、入力受付部材30Cを擦った場合を示している。図34は、図33とは逆の順序で、換言すれば逆方向に擦った場合を示している。
ここで、図33〜図34では、入力受付部材30B,30Cがすき間無く配列されている。この場合、入力受付部材30B,30Cを一体的な部材として形成できる。また、連続的に擦ることが容易になる。なお、配列の方向および順序は、図33〜図34の例に限定されるものではない。
これに対し、入力受付部材30B,30Cは離れていても構わない。すなわち、図12のステップS215について述べたように、例えば、振動センサ40の出力信号の強度が所定の解析モード終了閾値を下回る状態が所定時間続いた場合、擦り動作が終了したと判別される。換言すれば、振動センサ40の出力信号の強度が所定の解析モード終了閾値を下回っても、その継続時間が所定時間よりも短ければ、擦り動作が終了したとは判別されない。これに鑑みると、指を一方の入力受付部材30から他方の入力受付部材30へ素早く移動させれば、2つの入力受付部材30を連続的に擦る動作は、1回の擦り動作として認識される。仮に指の移動中に指が入力受付部材30から離れたとしても、同様である。
図33〜図34の例によれば、擦る方向(換言すれば擦る順序)の相違に応じて別々の基準プロファイルD3を作成し、その2種類の基準プロファイルD3をデータベース140に登録しておけばよい。
あるいは、入力受付部材30B用および入力受付部材30C用の基準プロファイルD3を別々に作成し、その2種類の基準プロファイルD3をデータベース140に登録してもよい。その場合、判別対象プロファイルD3を部分的にデータベース140に照合することによって、指標スポットSPの周波数成分の時系列変化を判別することができる。すなわち、擦る方向を特定できる。
図33および図34には一方向に擦る動作を示したが、図35および図36に示すように往復で擦る動作も判別可能である。図35は、入力受付部材30Bから入力受付部材30Cを通り入力受付部材30Bに戻るように擦った場合を示している。図36は、図35とは逆の順序で往復する場合を示している。
なお、入力受付部材30B,30Cがすき間無く配列されている場合であっても、一方の入力受付部材30だけを擦る動作も可能である。また、3種類以上の入力受付部材30によれば、直線状の配列だけでなく、マトリクス状、円グラフ状等の配列も採用できる。さらに、そのような3種類以上の入力受付部材30の一部または全部を利用することによって、円形、U字形、Z字形、N字形等の多彩な軌跡の擦る動作を採用できる。
ところで、上記では入力受付部材30を指で擦るものとした。しかし、入力受付部材30を擦るための入力具は、指に限定されるものではない。例えばペンを入力具として用いることができる。なお、ペンは、ユーザーインターフェースシステム20,20Bに専用のペンであってもよいし、あるいは汎用のペンであってもよい。
ここで、入力受付部材30が同じであっても、入力具の属性が異なれば、発生する振動が異なる。このことは、例えば、目の粗さが同じ紙ヤスリ上で指を移動させる場合と、指よりも硬いペンを移動させる場合とで、異なる音が聞こえるという経験から、理解できる。同様に、属性(例えば材質)の異なるペンは、異なる振動を発生させる。
かかる点に鑑みると、入力受付部材30を1つだけ設け、入力具の種類ごとの基準プロファイルD3(例えば指用およびペン用の基準プロファイルD3)を、データベース140に登録してもよい。また、複数種類の入力受付部材30を設け、一部または全部の入力受付部材30について入力具の種類ごとの基準プロファイルD3をデータベース140に登録してもよい。
このように、複数の基準プロファイルD3をデータベース化することによって、より多くの擦り動作を判別することができる。その結果、より多くの操作を実現できる。
さて、入力受付部材30を第1の物体と呼び、入力具を第2の物体と呼び、属性が異なる入力受付部材30は異なる第1の部材に対応するものとし、属性が異なる入力具は異なる第2の部材に対応するものとする。この場合、第1の物体を第2の物体で擦ることによって発生する振動の周波数成分は、第1の物体と第2の物体との組み合わせに応じて異なる、と一般化できる。すなわち、擦り振動の周波数成分の相違は、第1の物体と第2の物体との組み合わせの相違に基づいて決まる。
擦り振動の周波数成分の相違は、指標スポットSPの周波数成分の相違によって判別される。このため、指標スポットSPには、周波数成分に関して分解能が求められる。かかる点に関しては、分解能がSTFTよりも高く且つ干渉成分がWVDよりも小さい時間周波数表現(CWD、BJ、ZAM、BD、MBD、KCS等)によれば、指標スポットSPの起源となる時間周波数分布の形状において、擦り振動の周波数成分の相違を顕在化できる仕様を提供可能である。
なお、第1の物体と第2の物体と組み合わせは、ユーザーインターフェースシステム20,20Bの仕様上、予め決まっている。したがって、指標スポットSPの周波数成分の分解能(換言すれば、指標スポットSPの起源となる時間周波数分布の分解能)は、予め決められた1種類の組み合わせ、または、予め決められた複数種類の組み合わせを判別可能な程度であればよい。そのような性能は、上記時間周波数表現(CWD、BJ、ZAM、BD、MBD、KCS等)によって、実現可能である。
<実施の形態4>
図37に、実施の形態4に係る振動解析システム50Cの機能ブロック図を示す。振動解析システム50Cは、図6の振動解析システム50から判別部130を除いた構成を有している。振動解析システム50Cは、振動解析システム50と同様のハードウェア構成によって実現可能である。
振動解析システム50Cは例えば、基準プロファイルD3を生成するための専用システム(換言すれば、ユーザーインターフェースシステム20,20Bとは別個のシステム)として利用できる。具体的には、振動解析システム50Cは、振動波形データD1を、振動センサ40または振動波形データD1を予め格納している記憶部から取得し、振動解析システム50と同様に指標プロファイルD3を生成する。
そして、振動解析システム50Cは、生成した指標プロファイルD3を、図38に示すように記憶媒体60に記録する。あるいは、複数の指標プロファイルD3が、図39に示すようにデータベース140として記憶媒体60に記録されてもよい。
記憶媒体60は、例えば振動解析システム50Cの記憶部52(図5参照)を構成する記憶媒体である。
あるいは、記憶媒体60は振動解析システム50Cに外付けされた記憶媒体であってもよい。この場合、指標プロファイルD3は、記憶部52を介さずに記憶媒体60に記録されてもよいし、記憶部52から記憶媒体60に転送されてもよい。外付けの記憶媒体60は例えば、複数のシステムに同じ基準プロファイルD3を供給するためのオリジナル媒体として利用できる。
ここで、解析システム50Cの構成(図37参照)は、上記振動解析システム50,50B(図5および図31参照)にも含まれている。このため、振動解析システム50,50Bに、基準プロファイルD3を生成する機能を付与してもよい。
ここでは、振動解析システム50B(図31参照)にその機能を付与した例を、図40に示す。図40の振動解析システム50Dによれば、指標生成部120が指標プロファイルD3をデータベース140へ出力できる。より具体的には、指標生成部120は、判別モードの場合、生成した指標プロファイルD3を判別部130に供給する。一方、登録モードの場合、指標生成部120は、生成した指標プロファイルD3をデータベース140に登録する。判別モードと登録モードとの切り替えは、ユーザーが情報入力部13(図5参照)またはユーザーインターフェースシステム20,20Bの不図示の入力部を使って指示するものとする。
振動解析システム50C,50Dおよび記憶媒体60は、基準プロファイルD3またはそれのデータベース140をユーザーインターフェースシステム20,20Bにインストールする作業において有用である。また、基準プロファイルD3を追加または更新する作業においても利用可能である。
<実施の形態1〜4の変形例>
上記では振動解析システム50,50B〜50Dの各種機能が1つの機器(例えば電気機器10)内に収容されているものとした。しかし、振動解析システム50,50B〜50Dの各種機能を、例えば通信ネットワークで接続された複数の機器に分散していてもよい。
本発明は詳細に説明されたが、上記した説明は、すべての局面において、例示であって、本発明がそれに限定されるものではない。例示されていない無数の変形例が、本発明の範囲から外れることなく想定され得るものと解される。
20,20B ユーザーインターフェースシステム
30,30B,30C 入力受付部材
40 振動センサ
50,50B〜50D 振動解析システム
60 記憶媒体
110 時間周波数解析部
120 指標生成部
130 判別部
140 データベース
AP,AP1〜AP4 解析期間
D1 振動波形データ
D2 時間周波数分布データ
D3 指標プロファイル(振動解析データ)
D4 判別結果情報
SP 指標スポット
SQ 候補地点
S210 時間周波数解析処理
S220 指標生成処理
S221 指標決定処理
S222 指標プロファイル生成処理
S230 判別処理
S250 速度判別処理
S270 強度判別処理

Claims (17)

  1. 第1の物体を第2の物体で擦ることによって発生する振動を所定の時間周波数表現で表現した時間周波数分布データを生成する、時間周波数解析部
    を備え、
    前記所定の時間周波数表現は、前記第1の物体と前記第2の物体との組み合わせの相違に基づいて決まる、前記振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有し、
    前記時間周波数分布データによって提供される前記時間周波数分布において分布形状の指標となる地点である指標スポットを決定する指標決定処理を行い、1つ以上の指標スポットの周波数成分値を含んだ指標プロファイルを生成する、指標生成部
    をさらに備える、振動解析システム。
  2. 請求項1に記載の振動解析システムであって、
    前記指標プロファイルは、前記1つ以上の指標スポットの時間成分値と分布強度値とのうちの少なくとも一方をさらに含む、振動解析システム。
  3. 請求項1または2に記載の振動解析システムであって、
    前記指標決定処理は、
    所定の抽出条件を満足する地点を前記指標スポットとして抽出する第1の指標決定処理、
    または、
    前記所定の抽出条件を満足する前記地点を前記指標スポット用の候補地点として抽出し、複数の候補地点を代表する地点を前記指標スポットとして決定する、第2の指標決定処理
    である、振動解析システム。
  4. 請求項3に記載の振動解析システムであって、
    前記所定の抽出条件は、
    ピーク地点であるという第1の条件と分布強度値が所定閾値を超えるという第2の条件とのうちの少なくとも一方を含む第1の抽出条件、
    または、
    前記時間周波数分布データに対してエッジ抽出処理を行うことによって抽出された地点であるという第2の抽出条件
    である、振動解析システム。
  5. 請求項1〜4のうちのいずれか1つに記載の振動解析システムであって、
    前記時間周波数解析部は、1回の擦り動作に対して解析期間を離散的に設定し、前記解析期間についてのみ前記時間周波数分布データを生成する、振動解析システム。
  6. 請求項5に記載の振動解析システムであって、
    前記指標生成部は、前記1回の擦り動作における複数の解析期間について得られた前記指標スポットのデータを1つの指標プロファイルに含める、振動解析システム。
  7. 請求項1〜6のうちのいずれか1つに記載の振動解析システムであって、
    判別対象とする前記指標プロファイルである判別対象プロファイルに含まれる前記周波数成分値が、登録済みの前記指標プロファイルである基準プロファイルに含まれる前記周波数成分値と同一性を有するか否かを判別する、判別部をさらに備える、振動解析システム。
  8. 請求項7に記載の振動解析システムであって、
    前記判別部は、前記判別対象プロファイルに含まれる前記指標スポットの所定時間当たりの個数を、前記基準プロファイルに含まれる前記指標スポットの前記所定時間当たりの個数と比較することによって、前記判別対象プロファイルに対応する擦り動作の相対的な速度を判別する、振動解析システム。
  9. 請求項7または8に記載の振動解析システムであって、
    前記指標プロファイルは、前記1つ以上の指標スポットの分布強度値をさらに含み、
    前記判別部は、前記判別対象プロファイルに含まれる前記分布強度値を、前記基準プロファイルに含まれる前記分布強度値と比較することによって、前記判別対象プロファイルに対応する擦り動作の相対的な強度を判別する、
    振動解析システム。
  10. 請求項7〜9のうちのいずれか1つに記載の振動解析システムであって、
    複数の基準プロファイルが識別情報によって区別可能な状態で管理されているデータベースをさらに備え、
    前記判別部は、前記判別対象プロファイルに含まれる前記周波数成分値と同一性を有することを検索条件として前記複数の基準プロファイルを検索し、前記検索条件を満足する前記基準プロファイルの前記識別情報を取得する、
    振動解析システム。
  11. 請求項1〜10のうちのいずれか1つに記載の振動解析システムであって、
    前記所定の時間周波数表現の分解能はSTFT(Short Time Fourier Transform)よりも高く、前記所定の時間周波数表現の干渉成分はWVD(Wigner-Ville Distribution)よりも小さい、振動解析システム。
  12. 少なくとも1種類の入力受付部材と、
    前記少なくとも1種類の入力受付部材を入力具で擦ることによって発生する振動を捕捉するように配置された振動センサと、
    前記振動センサから前記振動の波形データを取得し、前記波形データから、前記振動を所定の時間周波数表現で表現した時間周波数分布データを生成する、時間周波数解析部と
    を備え、
    前記所定の時間周波数表現は、前記入力受付部材と前記入力具との組み合わせの相違に基づいて決まる、前記振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有し、
    前記時間周波数分布データによって提供される前記時間周波数分布において分布形状の指標となる地点である指標スポットを決定する指標決定処理を行い、1つ以上の指標スポットの周波数成分値を含んだ指標プロファイルを生成する、指標生成部と、
    判別対象とする前記指標プロファイルである判別対象プロファイルに含まれる前記周波数成分値が、登録済みの前記指標プロファイルである基準プロファイルに含まれる前記周波数成分値と同一性を有するか否かを判別する、判別部と
    をさらに備える、ユーザーインターフェースシステム。
  13. 請求項12に記載のユーザーインターフェースシステムであって、
    複数の基準プロファイルが識別情報によって区別可能な状態で管理されているデータベースをさらに備え、
    前記判別部は、前記判別対象プロファイルに含まれる前記周波数成分値と同一性を有することを検索条件として前記複数の基準プロファイルを検索し、前記検索条件を満足する前記基準プロファイルの前記識別情報を取得する、
    ユーザーインターフェースシステム。
  14. (a)第1の物体を第2の物体で擦ることによって発生する振動を所定の時間周波数表現で表現した時間周波数分布データを生成するステップ
    を備え、
    前記所定の時間周波数表現は、前記第1の物体と前記第2の物体との組み合わせの相違に基づいて決まる、前記振動の周波数成分の相違を、時間周波数分布の形状において顕在化できる仕様を有し、
    (b)前記時間周波数分布データによって提供される前記時間周波数分布において分布形状の指標となる地点である指標スポットを決定する指標決定処理を行い、1つ以上の指標スポットの周波数成分値を含んだ指標プロファイルを生成するステップ
    をさらに備える、振動解析データ生成方法。
  15. 第1の物体を第2の物体で擦ることによって発生する振動に関するデータが記録された、マイクロプロセッサが読み取り可能な記憶媒体であって、
    前記振動に関する前記データは、1つ以上の指標スポットのデータを含んだ指標プロファイルであり、
    前記指標スポットは、前記振動を所定の時間周波数表現で表現した時間周波数分布において分布形状の指標となる地点であり、
    前記所定の時間周波数表現は、前記第1の物体と前記第2の物体との組み合わせの相違に基づいて決まる、前記振動の周波数成分の相違を、前記時間周波数分布の形状において顕在化できる仕様を有し、
    前記指標プロファイルは、前記1つ以上の指標スポットの周波数成分値を含む、
    記憶媒体。
  16. 請求項15に記載の記憶媒体であって、
    前記指標プロファイルは、前記1つ以上の指標スポットの時間成分値と分布強度値とのうちの少なくとも一方をさらに含む、記憶媒体。
  17. 請求項15または16に記載の記憶媒体であって、
    複数の指標プロファイルが識別情報によって区別可能な状態で記録されている、記憶媒体。
JP2015200121A 2015-10-08 2015-10-08 振動解析システム、ユーザーインターフェースシステムおよび振動解析データ生成方法 Expired - Fee Related JP6533141B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015200121A JP6533141B2 (ja) 2015-10-08 2015-10-08 振動解析システム、ユーザーインターフェースシステムおよび振動解析データ生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015200121A JP6533141B2 (ja) 2015-10-08 2015-10-08 振動解析システム、ユーザーインターフェースシステムおよび振動解析データ生成方法

Publications (2)

Publication Number Publication Date
JP2017073020A true JP2017073020A (ja) 2017-04-13
JP6533141B2 JP6533141B2 (ja) 2019-06-19

Family

ID=58538746

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015200121A Expired - Fee Related JP6533141B2 (ja) 2015-10-08 2015-10-08 振動解析システム、ユーザーインターフェースシステムおよび振動解析データ生成方法

Country Status (1)

Country Link
JP (1) JP6533141B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115904112A (zh) * 2021-09-29 2023-04-04 广州众远智慧科技有限公司 一种交互装置及其触控反馈方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7035744B2 (en) * 2001-05-02 2006-04-25 Socovar, S.E.C. Method and system for measuring the energy of a signal
JP2006234785A (ja) * 2005-01-26 2006-09-07 Nsk Ltd 機械設備の異常診断装置及び異常診断方法
JP2007206037A (ja) * 2006-02-06 2007-08-16 Nippon Telegr & Teleph Corp <Ntt> 信号測定分析装置
JP2008008708A (ja) * 2006-06-28 2008-01-17 Omron Corp 判定知識作成装置、判定知識作成方法、プログラムおよび記録媒体
JP2009160139A (ja) * 2007-12-28 2009-07-23 Kao Corp 毛髪表面特性センサー
JP2012226080A (ja) * 2011-04-19 2012-11-15 Sony Corp 楽曲検索装置および方法、プログラム、並びに記録媒体
US20140230555A1 (en) * 2012-12-20 2014-08-21 Zapadoceska Univerzita V Plzni Method of detecting and localizing partial rotor-stator rubbing during the operation of a turbine
JP2015018368A (ja) * 2013-07-10 2015-01-29 住友電気工業株式会社 感圧式タッチ入力部材付き表示装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7035744B2 (en) * 2001-05-02 2006-04-25 Socovar, S.E.C. Method and system for measuring the energy of a signal
JP2006234785A (ja) * 2005-01-26 2006-09-07 Nsk Ltd 機械設備の異常診断装置及び異常診断方法
JP2007206037A (ja) * 2006-02-06 2007-08-16 Nippon Telegr & Teleph Corp <Ntt> 信号測定分析装置
JP2008008708A (ja) * 2006-06-28 2008-01-17 Omron Corp 判定知識作成装置、判定知識作成方法、プログラムおよび記録媒体
JP2009160139A (ja) * 2007-12-28 2009-07-23 Kao Corp 毛髪表面特性センサー
JP2012226080A (ja) * 2011-04-19 2012-11-15 Sony Corp 楽曲検索装置および方法、プログラム、並びに記録媒体
US20140230555A1 (en) * 2012-12-20 2014-08-21 Zapadoceska Univerzita V Plzni Method of detecting and localizing partial rotor-stator rubbing during the operation of a turbine
JP2015018368A (ja) * 2013-07-10 2015-01-29 住友電気工業株式会社 感圧式タッチ入力部材付き表示装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115904112A (zh) * 2021-09-29 2023-04-04 广州众远智慧科技有限公司 一种交互装置及其触控反馈方法

Also Published As

Publication number Publication date
JP6533141B2 (ja) 2019-06-19

Similar Documents

Publication Publication Date Title
EP3723080A1 (en) Music classification method and beat point detection method, storage device and computer device
KR101678549B1 (ko) 표면 음향 신호를 이용한 유저 인터페이스 제공 장치 및 방법, 유저 인터페이스를 구비한 디바이스
JP5998603B2 (ja) 音検出装置、音検出方法、音特徴量検出装置、音特徴量検出方法、音区間検出装置、音区間検出方法およびプログラム
CN105989836B (zh) 一种语音采集方法、装置及终端设备
US8865993B2 (en) Musical composition processing system for processing musical composition for energy level and related methods
KR101724939B1 (ko) 뇌파를 이용한 사용자 의도 예측 시스템 및 그 방법
KR101952552B1 (ko) 스펙트로그램 추출을 위한 레이더 신호 처리 장치 및 그 방법
EP4250291A1 (en) Audio detection method and apparatus, computer device and readable storage medium
CN107210029B (zh) 用于处理一连串信号以进行复调音符辨识的方法和装置
JPWO2020013296A1 (ja) 精神・神経系疾患を推定する装置
AU2013204156A1 (en) Classification apparatus and program
JP6367691B2 (ja) 報知音感知・識別装置、報知音感知・識別方法、報知音感知・識別プログラム
JP2021536596A (ja) 正規化を介して音響信号をフィンガープリンティングするための方法及び装置
JP6533141B2 (ja) 振動解析システム、ユーザーインターフェースシステムおよび振動解析データ生成方法
CN107005609B (zh) 基于吹气动作操作移动终端的方法和移动终端
CN110390160B (zh) 一种时序信号的周期检测方法、装置及相关设备
JP5351835B2 (ja) 音信号区間抽出装置及び音信号区間抽出方法
KR101625304B1 (ko) 음향 정보에 기초한 사용자 다수 행위 인식 방법
JP2016070701A (ja) 信号処理装置、検出装置、およびプログラム
JP2015029696A (ja) 類似度算出装置、類似度算出方法、類似度算出プログラム、及び、情報処理装置
Turchet Hard real-time onset detection of percussive sounds.
JP2021519122A (ja) 呼吸障害のある被験者の検出
JP2015099194A (ja) 情報処理プログラム、情報処理装置、情報処理システム、および、音判定方法
JP6036242B2 (ja) 心音情報処理装置、心音情報処理方法およびプログラム
CN113495974B (zh) 一种声音分类处理方法、装置、设备及介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190523

R150 Certificate of patent or registration of utility model

Ref document number: 6533141

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees