JP2012227865A - Electronic device, synthesis method, and synthesis program - Google Patents
Electronic device, synthesis method, and synthesis program Download PDFInfo
- Publication number
- JP2012227865A JP2012227865A JP2011095986A JP2011095986A JP2012227865A JP 2012227865 A JP2012227865 A JP 2012227865A JP 2011095986 A JP2011095986 A JP 2011095986A JP 2011095986 A JP2011095986 A JP 2011095986A JP 2012227865 A JP2012227865 A JP 2012227865A
- Authority
- JP
- Japan
- Prior art keywords
- pattern
- unit
- electronic device
- synthesis
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
Description
本発明は、電子装置、合成方法および合成プログラムに関する。 The present invention relates to an electronic device, a synthesis method, and a synthesis program.
従来、音曲のリズムを抽出する方法が知られている。例えば、特許文献1では、人体に取付けられ取付け個所の動きを検出するセンサ手段と、センサ手段により検出された検出値の検出テンポを抽出するテンポ抽出手段と、音曲を出力する音曲出力手段と、音曲のリズムを抽出するリズム抽出手段と、テンポ抽出手段により抽出された検出テンポがリズム抽出手段により抽出された音曲リズムに同期しているかを評価する評価手段とを備えるビデオゲーム装置が示されている。
Conventionally, a method for extracting the rhythm of a musical piece is known. For example, in
従来、電子装置は、自装置が備える加速度センサなどの動きを検出するセンサから検出された信号からテンポを抽出し、そのテンポを示す情報を表示装置に表示させることができる。しかしながら、そのテンポは、操作者の動きという情報のみしか反映していないので、表現のバリエーションが少ないという問題があった。 Conventionally, an electronic device can extract a tempo from a signal detected from a sensor that detects a motion such as an acceleration sensor included in the device, and display information indicating the tempo on a display device. However, since the tempo reflects only the information of the operator's movement, there is a problem that there are few variations in expression.
そこで本発明は、上記問題に鑑みてなされたものであり、検出された情報を豊かに表現することを可能とする技術を提供することを課題とする。 Therefore, the present invention has been made in view of the above problems, and an object of the present invention is to provide a technique capable of expressing detected information richly.
上記の課題を解決するために、本発明の一態様である電子装置は、検出の対象から該対象の特徴を示す複数の信号を検出する複数の検出部と、前記複数の検出部により検出された複数の信号から、繰り返し現れる該信号のパターンをそれぞれ抽出する抽出部と、前記抽出された各パターンを合成する合成部と、を備えることを特徴とする。 In order to solve the above problems, an electronic device according to one embodiment of the present invention is detected by a plurality of detection units that detect a plurality of signals indicating characteristics of the target from the detection target, and the plurality of detection units. In addition, an extraction unit that extracts each signal pattern that repeatedly appears from a plurality of signals, and a synthesis unit that synthesizes the extracted patterns are provided.
また、本発明の一態様である合成方法は、検出の対象から該対象の特徴を示す複数の信号を検出する複数の検出手順と、前記複数の検出手順により検出された複数の信号から、繰り返し現れる該信号のパターンをそれぞれ抽出する抽出手順と、前記抽出された各パターンを合成する合成手順と、を有することを特徴とする。 Further, the synthesis method according to one aspect of the present invention includes a plurality of detection procedures for detecting a plurality of signals indicating characteristics of the target from the detection target, and a plurality of signals detected by the plurality of detection procedures. It has an extraction procedure for extracting each pattern of the signal that appears, and a synthesis procedure for synthesizing the extracted patterns.
また、本発明の一態様である合成プログラムは、複数の検出部により検出された複数の信号を示す情報が記憶されている記憶部を備えるコンピュータに、前記記憶部から複数の信号を示す情報を読み出し、該読み出された複数の信号を示す情報から繰り返し現れる該信号のパターンをそれぞれ抽出する抽出ステップと、前記抽出された各パターンを合成する合成ステップと、を実行させるための合成プログラムである。 In addition, a synthesis program that is one embodiment of the present invention provides information indicating a plurality of signals from the storage unit to a computer including a storage unit that stores information indicating a plurality of signals detected by the plurality of detection units. A synthesis program for executing an extraction step for extracting each of the signal patterns that repeatedly appear from information indicating the plurality of read signals and a synthesis step for synthesizing the extracted patterns. .
本発明によれば、検出された情報を豊かに表現することができる。 According to the present invention, it is possible to express the detected information richly.
以下、本発明の実施形態について、図面を参照して詳細に説明する。図1は、本実施形態における電子装置1のブロック構成図である。
電子装置1は、検出部10と、制御部20と、パターン記憶部25と、出力部30とを備える。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram of an
The
まず、本実施形態の電子装置1の概要について説明する。電子装置1は、自装置が操作者により握られて振られているときに、自装置の動きと自装置の側面に加えられる圧力を検出し、検出された動きを示す信号と圧力を示す信号から、繰り返し現れるそれらの信号のパターンをそれぞれ抽出し、抽出された各パターンを合成する。これにより、電子装置1は、複数のパターンを合成することにより合成されたパターンのバリエーションを増やすことができ、その合成されたパターンを出力部30を介して外部に報知するようにするので、自装置により検出された情報を豊かに表現することができる。
First, the outline | summary of the
以下、各部の処理について説明する。検出部10は、検出の対象(例えば、自装置)から該対象の特徴(例えば、自装置の動き、自装置の側面にかかる圧力)を示す複数の信号を検出する。ここで、検出部10は、動き検出部11と圧力検出部12とを備える。
動き検出部11は、自装置の動きを検出し、検出した動きを示す信号をパターン抽出部23に供給する。具体的には、例えば、動き検出部11は、自装置が操作者により握られて動かされているときの自装置の動きを検出する。動き検出部11としては、例えば、加速度センサが設けられている。
Hereinafter, processing of each unit will be described. The
The
圧力検出部12は、電子装置1の側面に配置され、側面に加えられる圧力を検出し、検出した圧力を示す信号をパターン抽出部23に出力する。具体的には、例えば、圧力検出部12は、自装置が操作者により握られて動かされているときに、自装置に側面に加えられる圧力を所定の段階(例えば、256段階)で検出する。例えば、圧力検出部12が5点に分割されているとすると、圧力検出部12は5点で、圧力を検出することができる。圧力検出部12としては、例えば、静電容量型の圧力感知センサが設けられている。
The
動き検出部11と圧力検出部12の処理を、図2の具体例を用いて説明する。
図2は、電子装置1が自装置の操作者(ユーザ)により握られて振られる方向について説明するための図である。同図におけるxyz座標系において、電子装置1が振られる方向41が示され、電子装置1がz軸方向に振られることが示されている。また、電子装置1の側面には、圧力検出部22が設けられている。
The processing of the
FIG. 2 is a diagram for explaining a direction in which the
同図の例において、例えば、動き検出部11は、3次元加速度センサを備え、3軸(x、y、z軸)の加速度を検出する。動き検出部11は、3軸の加速度を示す信号を制御部20の後述するパターン抽出部23に出力する。
圧力検出部12は、操作者(ユーザ)により自装置が握られたときの、自装置の側面にかかる圧力を検出し、検出した圧力を示す信号をパターン抽出部23に出力する。
In the example of the figure, for example, the
The
図1に戻って、制御部20は、抽出部21と合成部26とを備える。抽出部21は、複数の検出部(本実施形態では、動き検出部11と圧力検出部12)により検出された複数の信号から、繰り返し現れる該信号のパターンをそれぞれ抽出する。ここで、抽出部21は、パターン抽出部23と正規化部24とを備える。
Returning to FIG. 1, the
続いて、パターン抽出部23による処理の概要について説明する。パターン抽出部23は、動きを示す信号と圧力を示す信号とから、繰り返し現れるパターンをそれぞれ動きのパターンと圧力のパターンとして抽出する。パターン抽出部23は、抽出した動きのパターンを示す情報と圧力のパターンを示す情報とを正規化部24に出力する。
Next, an outline of processing by the
上記パターン抽出部23の処理の例について、図3を用いて説明する。図3は、パターン抽出部23の処理を説明するための図である。ここでは、自装置が操作者(ユーザ)によりz軸方向に一定のパターンで繰り返し振られている場合を想定する。また、本実施形態では、説明を分かりやすくするために、z軸方向の加速度についてのみ説明する。
An example of processing of the
同図の上側には、動き検出部11によって検出されたz軸方向の加速度の時間変化を表す曲線W42が示されている。また、曲線W42は、破線により3つの時間領域に分けられ、1つの時間領域における正規化後の加速度の時間変化が繰り返されていることが示されている。
同図の下側には、パターン抽出部23により抽出されたパターンを示す曲線W43が示されている。同図の例において、パターン抽出部23は、動きを示す信号から、繰り返し現れる時間変化を動きのパターンとして抽出する。
On the upper side of the figure, there is shown a curve W42 representing the time change of acceleration in the z-axis direction detected by the
A curve W43 indicating a pattern extracted by the
続いて、パターン抽出部23によるパターン抽出の処理の詳細について説明する。図4は、パターン抽出部23に入力される動きを示す信号の別の一例とパターン抽出部23により算出される自己相関関数とが示された図である。図4(a)には、パターン抽出部23に入力される動きを示す信号の別の一例を示す曲線W51が示されている。ここで、縦軸は振幅、横軸はサンプル数である。
Next, details of pattern extraction processing by the
図4(b)には、パターン抽出部23によって、曲線W51を構成する各点から算出される自己相関関数を示す曲線W52の一例が示されている。ここで、縦軸は自己相関関数の値、横軸はサンプル数である。また、自己相関関数の極大値であるピークP53と、1番目のサンプルからピークP53のサンプルまでが1周期τであることが示されている。
FIG. 4B shows an example of a curve W52 indicating an autocorrelation function calculated from each point constituting the curve W51 by the
例えば、図4(a)に示されたパターン抽出部23に入力されるn項からなる入力データAが、下記の式(1)で表される。
For example, input data A composed of n terms input to the
また、図4(a)に示された入力データAの配列の一部であるm項(m=n/2)の配列A´は、下記の式(2)で表される(nは2以上の偶数、mは正の整数)。 An array A ′ of m terms (m = n / 2), which is a part of the array of input data A shown in FIG. 4A, is expressed by the following equation (2) (n is 2). The above even numbers, m is a positive integer).
ここで、A´は固定である。また、図4(a)に示された入力データAの配列をt(0≦t≦n/2)だけずらしたm項の配列Bは、下記の式(3)で表される。 Here, A ′ is fixed. Further, an array B of m terms obtained by shifting the array of the input data A shown in FIG. 4A by t (0 ≦ t ≦ n / 2) is expressed by the following equation (3).
ここで、Bは可変である。 Here, B is variable.
パターン抽出部23は、このずらし幅tによって得られる配列A´と配列Bによる自己相関関数を、以下の式(4)に従って算出する。
The
ここで、iは各配列の要素のインデックスである。また、配列A´と配列Bの各要素が所定の間隔で描画された波形が似ているほど値は1に近づくこととなる。
パターン抽出部23は、自己相関関数R(t)上で、上に凸の頂点のデータ(ピーク値)を抽出する。そして、パターン抽出部23は、抽出したピーク値が所定の閾値を越えている場合、そのピーク値をとるサンプル番号(または時刻)を抽出する。パターン抽出部23は、ピーク値をとるサンプル間隔(または時間間隔)を周期τとして抽出する。
Here, i is an index of an element of each array. In addition, the value approaches 1 as the waveforms of the elements of the arrays A ′ and B that are drawn at a predetermined interval are more similar.
The
パターン抽出部23は、入力データAを自己相関関数で求めた周期τで1周期ごとに分割する。そして、繰り返し回数numとすると、パターン抽出部23は、1周期平均データave(n)を、以下の式(5)に従って算出する。
The
ここで、kは整数である。1周期平均データave(n)は、パターン抽出部23の出力データであり、図3の曲線W43に相当する。パターン抽出部23は、算出した1周期平均データave(n)を動きのパターンを示す情報として正規化部24に出力する。同様に、パターン抽出部23は、圧力についても、1周期平均データave(n)を算出し、算出した1周期平均データave(n)を圧力のパターンを示す情報として正規化部24に出力する。
Here, k is an integer. The one-cycle average data ave (n) is output data of the
正規化部24は、動きのパターンを示す情報と圧力のパターンを示す情報とを並列で、所定の範囲の値(例えば、−1から1までの値)に正規化し、正規化後の動きのパターンを示す情報と正規化後の圧力のパターンを示す情報とをパターン記憶部25に記憶させる。
The normalizing
上記正規化部24の処理の例について、図5を用いて説明する。図5は、正規化部の処理を説明するための図である。同図の上側には、パターンを示す曲線W43が示されている。縦軸はz軸方向の加速度であり、横軸は時刻である。同図の下側には、z軸方向の加速度が−1から1までの値に正規化された後の加速度の時間変化を示す曲線W44が示されている。縦軸は正規化された後の加速度であり、横軸は時刻である。
同図の例において、正規化部24は、3軸の加速度を示す信号のうち、z軸方向の加速度を示す信号を−1から1までの値に正規化する。
An example of the processing of the
In the example shown in the figure, the
また、本実施形態では、正規化部24は、動きを示す信号と圧力を示す信号とを並列に正規化したが、これに限ったものではなく、順番に正規化してもよい。その場合、正規化部24は、動きを示す信号と圧力を示す信号とのいずれかの信号を正規化部24が備える遅延素子により、遅延させることにより、ハードウェアのみで構成してもよい。また、正規化部24は、動きを示す信号と圧力を示す信号とのいずれかの信号をデジタル信号に変換し、変換したデジタル信号を正規化部24が備えるバッファに一時的に保存し、順次保存されたデジタル信号を読み出して、読み出したデジタル信号を正規化してもよい。
In the present embodiment, the
合成部26は、バターン記憶部25から正規化後の動きのパターンを示す情報と正規化後の圧力のパターンを示す情報とを読み出す。合成部26は、各パターンの振幅がいずれも所定の閾値(例えば、0.5)よりも大きくなっている場合、各パターンの振幅に基づいて、合成により得られるパターンの振幅を決定し、各パターンを合成する。
The synthesizing
図6を用いて、上記合成部26の処理の一例について説明する。図6は、合成部26の処理について説明するための図である。同図において、縦軸は正規化された振幅であり、横軸は時刻である。同図において、正規化後の動きのパターンを示す曲線W51と、正規化後の圧力のパターンを示す曲線W52と、正規化後の動きのパターンと正規化後の圧力のパターンとが合成部26により合成された後の合成信号を示す曲線W53とが示されている。
An example of the processing of the
例えば、合成部26は、正規化後の動きのパターンの曲線W51上の値0.6と、正規化後の圧力のパターンの曲線W52上の値0.8とを加算し、加算により得られた値1.4に、各パターンの振幅の組み合わせ(0.6と0.8)に応じた係数0.8を乗じた値1.12を、合成信号を示す曲線W53上のピークP54の振幅とする。
For example, the
同様に、例えば、合成部26は、正規化後の動きのパターンの曲線W51上の値0.8と、正規化後の圧力のパターンの曲線W52上の値0.8とを加算し、加算により得られた値1.6に、各パターンの振幅の組み合わせ(0.8と0.8)に応じた係数0.85を乗じた値1.36を、合成信号を示す曲線W53上のピークP55の振幅とする。
同様に、例えば、合成部26は、正規化後の動きのパターンの曲線W51上の値1.0と、正規化後の圧力のパターンの曲線W52上の値0.8とを加算し、加算により得られた値1.8に各パターンの振幅の組み合わせ(1.0と0.8)に応じた係数0.9を乗じた値1.62を、合成信号を示す曲線W53上のピークP56の振幅とする。
Similarly, for example, the
Similarly, for example, the
合成部26は、合成後のパターンに基づく画像データを出力部30の後述する表示部31に出力する。また、合成部26は、合成後のパターンに基づいて電気信号を生成し、電気信号を音声出力部32に出力する。
The combining
出力部30は、合成部26により合成されたパターンに基づいて自装置の外部に報知する。ここで、出力部30は、表示部31と音声出力部32とを備える。
表示部31は、合成部26から入力されたに基づく画像データを表示する。
音声出力部32は、合成部26から供給された電気信号に基づき、音声を外部に出力する。
The
The
The
図7は、第1の実施形態の電子装置1の処理の流れを示したフローチャートである。まず、検出部10は、自装置の動きと自装置の側面にかかる圧力とを検出する(ステップS101)。次に、パターン抽出部23は、動きのパターンを抽出する(ステップS102)。それと並行して、パターン抽出部23は、圧力のパターンを抽出する(ステップS103)。
FIG. 7 is a flowchart illustrating a processing flow of the
次に、正規化部24は、動きのパターンを正規化する(ステップS104)。それと並行して、正規化部24は、圧力のパターンを正規化する(ステップS105)。次に、合成部26は、動きのパターンと圧力のパターンを合成する(ステップS106)。次に、表示部31は、合成したパターンに基づく画像を表示する(ステップS107)。次に、音声出力部32は、合成したパターンに基づく音声を出力する(ステップS108)。以上で、本フローチャートの処理を終了する。
Next, the
以上、本実施形態の電子装置1は、自装置が操作者により握られて振られているときに、自装置の動きと自装置の側面に加えられる圧力を検出し、検出された動きを示す信号と圧力を示す信号から、繰り返し現れる当該信号のパターンをそれぞれ抽出する。そして、電子装置1は、抽出された各パターンを正規化し、正規化された各パターンを、それぞれの振幅に基づいて合成する。
As described above, the
これにより、電子装置1は、複数のパターンを合成することにより合成されたパターンのバリエーションを増やすことができ、その合成されたパターンに基づいて、出力部30により外部に報知できるので、自装置により検出された情報を豊かに表現することができる。
Thereby, the
<第2の実施形態>
続いて、第2の実施形態における通信システム2について説明する。図8は、第2の実施形態における通信システム2の構成例である。通信システム2は、複数の電子装置100を備える。
図8(A)には、通信システムの構成例として、電子装置100−2が、自装置の検出部により検出された信号のパターンを示す情報を電子装置100−1に送信する場合の構成例が示されている。
<Second Embodiment>
Next, the
In FIG. 8A, as a configuration example of the communication system, a configuration example in which the electronic device 100-2 transmits information indicating a signal pattern detected by the detection unit of the own device to the electronic device 100-1. It is shown.
また、図8(B)には、通信システムの別の構成例として、複数の電子装置100−2、100−3、100−4が電子装置100−1に、自装置の検出部により検出された信号のパターンを示す情報を送信する場合の構成例が示されている。図8に示されているように、電子装置100−1は、1つ又は複数の他の電子装置から、自装置の検出部により検出された信号のパターンを示す情報を受信する。 In FIG. 8B, as another configuration example of the communication system, a plurality of electronic devices 100-2, 100-3, and 100-4 are detected in the electronic device 100-1 by the detection unit of the own device. A configuration example in the case of transmitting information indicating a signal pattern is shown. As illustrated in FIG. 8, the electronic device 100-1 receives information indicating the pattern of the signal detected by the detection unit of the own device from one or more other electronic devices.
図9は、第2の実施形態における電子装置100−I(Iは正の整数)のブロック構成図である。なお、図1と共通する要素には同一の符号を付し、その具体的な説明を省略する。
図9の電子装置100−Iの構成は、図1の電子装置1の構成に対して、検出部10が検出部10bに変更され、制御部20が制御部20bに変更され、雰囲気データ記憶部28と通信部40とが追加されたものになっている。
検出部10bは、図1の検出部10の構成に対して、圧力検出部12が除かれ、イメージセンサ13が追加されたものになっている。
FIG. 9 is a block diagram of the electronic device 100-I (I is a positive integer) in the second embodiment. Elements common to those in FIG. 1 are denoted by the same reference numerals, and detailed description thereof is omitted.
The configuration of the electronic device 100-I in FIG. 9 is different from the configuration of the
The
イメージセンサ13は、被写体を撮像する。具体的には、例えば、1つ又は複数の他の電子装置100が、それぞれ1人または複数の操作者により所定の方向に振られている場合を想定すると、イメージセンサ13は、当該1つ又は複数の他の電子装置100―J(JはI以外の正の整数)を被写体として撮像する。
イメージセンサ13は、撮像により得られた映像信号を抽出部21bの後述するデータ抽出部22に供給する。イメージセンサ13としては、例えば、CCDイメージセンサが設けられている。
The
The
制御部20bは、図1の制御部20の構成に対して、抽出部21が抽出部21bに変更され、合成部26が合成部26bに変更され、動き映像合成部27と、照合部29とが追加されたものになっている。
抽出部21bは、データ抽出部22と、正規化部23bと、パターン抽出部24bとを備える。
The
The
データ抽出部22は、イメージセンサ13から供給された映像信号から、フレームの対角線上の画素に相当する信号を抽出する。そして、データ抽出部22は、抽出した信号(抽出映像信号)をパターン抽出部に出力する。
The
上記、データ抽出部22の処理について図10を用いて説明する。図10は、データ抽出部22の処理について説明するための図である。同図の向かって左側に、p−1番目のフレームの画像(pは整数)と、p番目のフレームの画像と、p+1番目のフレームの画像とが示されている。また、各フレームにおいて、左上の画素と右下の画素を結ぶ対角線上の画素が示されている。
The processing of the
同図の向かって右側に、データ抽出部22により抽出されたフレーム内の対角線上の画素の輝度値から構成される抽出映像信号を示す曲線W122が示されている。この曲線W122を構成する各点は、同図の向かって左側の各フレームにおける左上の画素と右下の画素を結ぶ対角線上の画素の輝度信号をフレームの順に並べたものである。
同図の例において、データ抽出部22は、各フレームにおいて、左上の画素と右下の画素を結ぶ対角線上の画素の輝度値を抽出し、抽出した輝度値のデータ列を抽出映像信号としてパターン抽出部23bに出力する。
On the right side of the figure, a curve W122 indicating an extracted video signal composed of luminance values of pixels on diagonal lines in the frame extracted by the
In the example of the figure, the
図9に戻って、パターン抽出部23bは、第1の実施形態のパターン抽出部23と同様に、動き検出部11から供給された動きを示す信号から自己相関関数R(t)を算出し、算出した自己相関関数R(t)に基づいて、動きのパターンを算出する。そして、パターン抽出部23bは、算出した動きのパターンを示す情報を正規化部24bに出力する。
Returning to FIG. 9, the
また、パターン抽出部23bは、第1の実施形態のパターン抽出部23と同様の方法により、データ抽出部22から供給された抽出映像信号から自己相関関数R(t)を算出し、算出した自己相関関数R(t)に基づいて、映像のパターンを算出する。そして、パターン抽出部23bは、算出した映像のパターンを示す情報を正規化部24bに出力する。
The
正規化部24bは、第1の実施形態の正規化部24と同様に、パターン抽出部23bから入力された動きのパターンを示す情報を−1から1までの値に正規化する。そして、正規化部24bは、正規化後の動きのパターンを示す情報Rm_Iをパターン記憶部25に記憶させる。
Similar to the
また、正規化部24bは、パターン抽出部23bから入力された映像のパターンを示す情報を−1から1までの値に正規化する。そして、正規化部24bは、正規化後の映像のパターンを示す情報Rvをパターン記憶部25に記憶させる。
Further, the
制御部20bは、パターン記憶部25から正規化後の動きのパターンを示す情報Rm_Iを読み出し、読み出した正規化後の動きのパターンを示す情報Rm_Iを通信部40に出力する。そして、制御部20bは、正規化後の動きのパターンを示す情報Rm_Iを通信部40から他の電子装置100−J(JはI以外の整数)に送信するよう制御する。
The
通信部40は、有線または無線方式で、他の電子装置100−Jと通信可能に構成されている。通信部40は、他の電子装置100−Jの正規化後の動きのパターンを示す情報Rm_Jを他の電子装置100−Jから受信し、受信した正規化後の動きのパターンを示す情報Rm_Jを合成部26bに出力する。
The
合成部26bは、第1の実施形態の合成部26と同様に、パターン記憶部25から正規化後の動きのパターンを示す情報Rm_Iを読み出す。また、合成部26bは、第1の実施形態における合成部26と同様の方法により、読み出した正規化後の動きのパターンを示す情報Rm_Iと、通信部40により入力された正規化後の動きのパターンを示す情報Rm_Jとを、各振幅値に応じて合成する。
The synthesizing
これにより、合成部26bは、自装置の動きのパターンと他の電子装置100−Jの動きのパターンを合成したパターンを生成することができる。
そして、合成部26bは、合成により得られたパターンを集合の動きのパターンを示す情報Raとして動き映像合成部27に出力する。
Thereby, the synthetic |
Then, the synthesizing
動き映像合成部27は、パターン記憶部25から正規化後の映像のパターンを示す情報Rvを読み出す。動き映像合成部27は、合成部26bにより合成された集合の動きのパターンと、抽出された映像のパターンとを合成する。具体的には、動き映像合成部27は、合成部26bから入力された集合の動きのパターンを示す情報Raと、読み出した正規化後の映像のパターンを示す情報Rvとを、それらの振幅に応じて合成する。
The motion
図11を用いて、上記、動き映像合成部27の処理について説明する。図11は、動き映像合成部27の処理について説明するための図である。同図において、縦軸は正規化された振幅であり、横軸は時刻である。同図において、集合の動きパターンを示す曲線W121と、正規化後の映像のパターンを示す曲線W122と、動き映像合成部27により合成された合成パターンを示す曲線W123とが示されている。
The process of the motion
例えば、動き映像合成部27は、集合の動きパターンを示す曲線W121上の値0.6と、正規化後の映像のパターンを示す曲線W122上の値0.8とを加算し、加算により得られた値1.4に各パターンの振幅の組み合わせ(0.6と0.8)に応じた係数0.8を乗じることにより得られる値1.12を、合成パターンを示す曲線W123上のピークP124の振幅とする。
図1に戻って、動き映像合成部27は、合成により得られた合成パターンを場のパターンを示す情報Rpとして照合部29に出力する。
For example, the motion
Returning to FIG. 1, the motion
雰囲気データ記憶部28は、場のパターンを示す情報Rpと、雰囲気を示す情報Aとが関連付けられて記憶されている。図12は、雰囲気データ記憶部28に記憶されているテーブルT1の一例が示された図である。
テーブルT1には、場のパターン固有の識別情報(ID)と、場のパターンと、雰囲気とが関連付けられている。例えば、IDが1の場合、場のパターン(0.1、0.3、…、0.1)に対して、明るい雰囲気が関連付けられている。
The atmosphere
In the table T1, identification information (ID) unique to the field pattern, the field pattern, and the atmosphere are associated. For example, when the ID is 1, a bright atmosphere is associated with the field pattern (0.1, 0.3,..., 0.1).
図9に戻って、照合部29は、動き映像合成部27から入力された場のパターンを示す情報Rpに対応する雰囲気を示す情報Aをデータ記憶部28から読み出す。そして、照合部29は、読み出した雰囲気を示す情報Aを表示部31に出力する。また、照合部29は、雰囲気を示す情報Aに基づく電気信号を音声出力部32に出力する。
Returning to FIG. 9, the
なお、照合部29は、場のパターンを示す情報Rpに対応する雰囲気を示す情報Aがデータ記憶部28のレコードに存在しない場合、当該場のパターンを示す情報Rpに最も近い場のパターンを抽出し、抽出した場のパターンに対応する雰囲気を示す情報Aをデータ記憶部28から読み出してもよい。
When the information A indicating the atmosphere corresponding to the information Rp indicating the field pattern does not exist in the record of the
表示部31は、照合部29から入力された雰囲気を示す情報Aに基づいて、雰囲気を示す情報を表示する。また、音声出力部32は、照合部29から入力された電気信号に基づいて、音声を出力する。
The
図13は、第2の実施形態の電子装置100―Iの処理の流れを示したフローチャートである。まず、検出部10bは、自装置の動きを検出し、並行して他の電子装置100―Jを被写体とする映像を取得する(ステップS201)。
次に、パターン抽出部23bは、自装置の動きから動きのパターンを抽出する(ステップS202)。パターン抽出部23bは、並行して、取得された映像のパターンを抽出する(ステップS203)。
FIG. 13 is a flowchart illustrating a processing flow of the electronic device 100-I according to the second embodiment. First, the
Next, the
次に、正規化部24bは、抽出された動きのパターンを正規化する(ステップS204)。正規化部24bは、並行して、抽出された映像のパターンを正規化する(ステップS205)。
Next, the normalizing
次に、通信部40は、正規化後の他の電子装置の動きのパターンを示す情報を他の電子装置から受信する(ステップS206)。次に、合成部26bは、正規化後の自装置の動きのパターンと、正規化後の他の電子装置の動きのパターンとを合成した集合の動きパターンを生成する(ステップS207)。
Next, the
次に、動き映像合成部27は、集合の動きパターンと映像のパターンとを合成する(ステップS208)。照合部29は、動き映像合成部27により合成された場のパターンに対応する雰囲気を示す情報を読み出す(ステップS209)。次に、表示部31は、読み出した雰囲気を示す情報を表示する(ステップS210)。次に、音声出力部32は、雰囲気を示す情報に基づく音声を出力する(ステップS211)。以上で、本フローチャートの処理を終了する。
Next, the motion
以上、第2の実施形態における電子装置100―Iは、個々の電子装置100―Iの動きから動きのパターンを抽出する。そして、電子装置100―Iは、自装置の動きパターンと、他の電子装置100―Jの動きパターンを合成して、集合の動きパターンを生成する。電子装置100―Iは、生成した集合の動きパターンと、被写体である他の電子装置100―Jを撮像した映像から得られる輝度変化に基づく映像パターンとを更に合成することにより、被写体が存在するその場のパターンを生成する。そして、電子装置100―Iは、雰囲気データ記憶部28からその場のパターンに対応する雰囲気を示す情報を読み出す。
As described above, the electronic device 100-I according to the second embodiment extracts the movement pattern from the movements of the individual electronic devices 100-I. Then, the electronic device 100-I combines the motion pattern of the own device and the motion pattern of the other electronic device 100-J to generate a set motion pattern. The electronic device 100-I further synthesizes the generated motion pattern of the set and the video pattern based on the luminance change obtained from the video obtained by imaging the other electronic device 100-J, which is the subject, so that the subject exists. Generate an in-situ pattern. Then, the electronic device 100 -I reads out information indicating the atmosphere corresponding to the pattern on the spot from the atmosphere
これにより、電子装置100―Iは、その場を撮像した映像信号と、自装置および他の電子装置100―Jの動きを示す情報とから、その場のパターンを生成することができる。その結果、電子装置100―Iは、生成されたその場のパターンからその場の雰囲気を推定することができる。 Thereby, the electronic device 100-I can generate a pattern of the spot from the video signal obtained by imaging the spot and the information indicating the movement of the own apparatus and the other electronic device 100-J. As a result, the electronic device 100-I can estimate the in-situ atmosphere from the generated in-situ pattern.
なお、本実施形態において、電子装置100―Iは、自装置の動きのパターンと他の電子装置の動きのパターンを合成したが、これに限ったものではない。例えば、電子装置100―Iは、自装置の側面にかかる圧力のパターンと、他の電子装置100―Jの側面にかかる圧力のパターンを合成してもよい。 In the present embodiment, the electronic device 100-I combines the movement pattern of its own device and the movement pattern of another electronic device, but this is not a limitation. For example, the electronic device 100-I may combine the pressure pattern applied to the side surface of the device itself and the pressure pattern applied to the side surface of the other electronic device 100-J.
本実施形態において、動き映像合成部27は、各パターンの振幅がいずれも所定の閾値よりも大きくなっている場合、各パターンの振幅に基づいて、合成により得られるパターンの振幅を決定したが、これに限ったものではない。動き映像合成部27は、各パターンの平均値を、合成により得られるパターンの振幅としてもよい。
In the present embodiment, the motion
また、全ての実施形態において、合成部(26、26b)は、各パターンの振幅がいずれも所定の閾値よりも大きくなっている場合、各パターンの振幅に基づいて、合成により得られるパターンの振幅を決定したが、これに限ったものではない。合成部(26、26b)は、各パターンの平均値を、合成により得られるパターンの振幅としてもよい。 In all the embodiments, the synthesis unit (26, 26b) determines the amplitude of the pattern obtained by synthesis based on the amplitude of each pattern when the amplitude of each pattern is larger than a predetermined threshold. However, it is not limited to this. The synthesis unit (26, 26b) may use the average value of each pattern as the amplitude of the pattern obtained by synthesis.
全ての実施形態において、出力部30は、画像と音声とを用いて外部に報知したがこれに限らず、光または振動によって、外部に報知するようにしてもよい。
In all the embodiments, the
また、本実施形態の制御部(20、20b)の各処理を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、当該記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、制御部(20、20b)に係る上述した種々の処理を行ってもよい。その場合、記録媒体には、複数の検出部により検出された複数の信号を示す情報が記憶されているものとする。 Further, a program for executing each process of the control unit (20, 20b) of the present embodiment is recorded on a computer-readable recording medium, and the program recorded on the recording medium is read into a computer system and executed. By doing so, you may perform the various process mentioned above which concerns on a control part (20, 20b). In this case, it is assumed that information indicating a plurality of signals detected by a plurality of detection units is stored in the recording medium.
なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。 Here, the “computer system” may include an OS and hardware such as peripheral devices. Further, the “computer system” includes a homepage providing environment (or display environment) if a WWW system is used. The “computer-readable recording medium” means a flexible disk, a magneto-optical disk, a ROM, a writable nonvolatile memory such as a flash memory, a portable medium such as a CD-ROM, a hard disk built in a computer system, etc. This is a storage device.
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。 Further, the “computer-readable recording medium” refers to a volatile memory (for example, DRAM (Dynamic) in a computer system serving as a server or a client when a program is transmitted via a network such as the Internet or a communication line such as a telephone line. Random Access Memory)) that holds a program for a certain period of time is also included. The program may be transmitted from a computer system storing the program in a storage device or the like to another computer system via a transmission medium or by a transmission wave in the transmission medium. Here, the “transmission medium” for transmitting the program refers to a medium having a function of transmitting information, such as a network (communication network) such as the Internet or a communication line (communication line) such as a telephone line. The program may be for realizing a part of the functions described above. Furthermore, what can implement | achieve the function mentioned above in combination with the program already recorded on the computer system, and what is called a difference file (difference program) may be sufficient.
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。 As mentioned above, although embodiment of this invention was explained in full detail with reference to drawings, the concrete structure is not restricted to this embodiment, The design etc. of the range which does not deviate from the summary of this invention are included.
1、100−I 電子装置
2 通信システム
10、10b 検出部
11 動き検出部
12 圧力検出部
13 イメージセンサ
21、21b 抽出部
22 データ抽出部
23 パターン抽出部
24 正規化部
25 パターン記憶部
26、26b 合成部
27 動き映像合成部
28 雰囲気データ記憶部
29 照合部
30 出力部
31 表示部
32 音声出力部
40 通信部
DESCRIPTION OF
Claims (9)
前記複数の検出部により検出された複数の信号から、繰り返し現れる該信号のパターンをそれぞれ抽出する抽出部と、
前記抽出された各パターンを合成する合成部と、
を備えることを特徴とする電子装置。 A plurality of detection units for detecting a plurality of signals indicating the characteristics of the target from the detection target;
An extraction unit that extracts patterns of the signal repeatedly appearing from the plurality of signals detected by the plurality of detection units;
A synthesis unit that synthesizes the extracted patterns;
An electronic device comprising:
前記検出部により検出された信号から、繰り返し現れる該信号のパターンを抽出する抽出部と、
他の電子装置により検出された信号のパターンを示す情報を受信する通信部と、
前記通信部により受信されたパターンと、前記抽出部により抽出されたパターンとを合成する合成部と、
を備えることを特徴とする電子装置。 A detection unit for detecting a signal indicating the feature of the target from the target of detection;
An extraction unit for extracting a pattern of the signal repeatedly appearing from the signal detected by the detection unit;
A communication unit that receives information indicating a pattern of a signal detected by another electronic device;
A synthesis unit that synthesizes the pattern received by the communication unit and the pattern extracted by the extraction unit;
An electronic device comprising:
前記抽出部は、前記検出された動きから自装置の動きのパターンを抽出し、
前記通信部は、他の電子装置により検出された他の電子装置の動きのパターンを示す情報を受信し、
前記合成部は、自装置の動きのパターンと、他の電子装置の動きのパターンとを合成することを特徴とする請求項2に記載の電子装置。 The detection unit detects the movement of the device itself,
The extraction unit extracts a motion pattern of the device from the detected motion,
The communication unit receives information indicating a movement pattern of another electronic device detected by the other electronic device;
The electronic device according to claim 2, wherein the synthesizing unit synthesizes a motion pattern of the own device and a motion pattern of another electronic device.
前記抽出部は、前記検出部による撮影により得られた映像から映像のパターンを抽出し、
前記合成部により合成された動きのパターンと、前記抽出された映像のパターンとを合成する動き映像合成部を備えることを特徴とする請求項6に記載の電子装置。 The detection unit photographs a subject,
The extraction unit extracts a video pattern from a video obtained by photographing by the detection unit,
The electronic apparatus according to claim 6, further comprising a motion video synthesis unit that synthesizes the motion pattern synthesized by the synthesis unit and the extracted video pattern.
前記複数の検出手順により検出された複数の信号から、繰り返し現れる該信号のパターンをそれぞれ抽出する抽出手順と、
前記抽出された各パターンを合成する合成手順と、
を有することを特徴とする合成方法。 A plurality of detection procedures for detecting a plurality of signals indicating the characteristics of the target from the target of detection;
An extraction procedure for extracting a pattern of the signal repeatedly appearing from the plurality of signals detected by the plurality of detection procedures;
A synthesis procedure for synthesizing the extracted patterns;
A synthesis method characterized by comprising:
前記記憶部から複数の信号を示す情報を読み出し、該読み出された複数の信号を示す情報から繰り返し現れる該信号のパターンをそれぞれ抽出する抽出ステップと、
前記抽出された各パターンを合成する合成ステップと、
を実行させるための合成プログラム。 A computer including a storage unit storing information indicating a plurality of signals detected by a plurality of detection units,
An extraction step of reading information indicating a plurality of signals from the storage unit, and extracting each pattern of the signal repeatedly appearing from the information indicating the plurality of read signals,
A synthesis step of synthesizing the extracted patterns;
A synthesis program for running
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011095986A JP2012227865A (en) | 2011-04-22 | 2011-04-22 | Electronic device, synthesis method, and synthesis program |
PCT/JP2012/057134 WO2012133028A1 (en) | 2011-03-25 | 2012-03-21 | Electronic apparatus, selection method, acquisition method, electronic device, combination method and combination program |
US14/029,421 US20140098992A1 (en) | 2011-03-25 | 2013-09-17 | Electronic divice, selection method, acquisition method, electronic appratus, synthesis method and synthesis program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011095986A JP2012227865A (en) | 2011-04-22 | 2011-04-22 | Electronic device, synthesis method, and synthesis program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012227865A true JP2012227865A (en) | 2012-11-15 |
Family
ID=47277539
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011095986A Withdrawn JP2012227865A (en) | 2011-03-25 | 2011-04-22 | Electronic device, synthesis method, and synthesis program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012227865A (en) |
-
2011
- 2011-04-22 JP JP2011095986A patent/JP2012227865A/en not_active Withdrawn
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6904963B2 (en) | Techniques for directing audio in augmented reality systems | |
JP5260705B2 (en) | 3D augmented reality provider | |
US9664772B2 (en) | Sound processing device, sound processing method, and sound processing program | |
JP6464449B2 (en) | Sound source separation apparatus and sound source separation method | |
CN112165590B (en) | Video recording implementation method and device and electronic equipment | |
JP2018524072A (en) | System and method for spoof detection and liveness analysis | |
WO2012133028A1 (en) | Electronic apparatus, selection method, acquisition method, electronic device, combination method and combination program | |
JP2021526698A (en) | Image generation methods and devices, electronic devices, and storage media | |
EP3549030A1 (en) | Distributed audio capturing techniques for virtual reality (vr), augmented reality (ar), and mixed reality (mr) systems | |
JP6216169B2 (en) | Information processing apparatus and information processing method | |
US20130194402A1 (en) | Representing visual images by alternative senses | |
KR20050100646A (en) | Method and device for imaged representation of acoustic objects, a corresponding information program product and a recording support readable by a corresponding computer | |
JP2011033993A (en) | Information presenting apparatus and method for presenting information | |
KR101095360B1 (en) | Image generating apparatus and program | |
CN109887494B (en) | Method and apparatus for reconstructing a speech signal | |
JP2016103806A (en) | Imaging apparatus, image processing apparatus, imaging system, image processing method, and program | |
US20170215005A1 (en) | Audio refocusing methods and electronic devices utilizing the same | |
JP2009239348A (en) | Imager | |
KR101976937B1 (en) | Apparatus for automatic conference notetaking using mems microphone array | |
JP6249754B2 (en) | IMAGING DEVICE, IMAGING SYSTEM, COMMUNICATION DEVICE, IMAGING METHOD, AND IMAGING PROGRAM | |
CN113744750A (en) | Audio processing method and electronic equipment | |
JP2012227865A (en) | Electronic device, synthesis method, and synthesis program | |
WO2013008869A1 (en) | Electronic device and data generation method | |
KR101155610B1 (en) | Apparatus for displaying sound source location and method thereof | |
JP2010245886A (en) | Image processing apparatus, program and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140701 |