JP5888013B2 - ニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法 - Google Patents
ニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法 Download PDFInfo
- Publication number
- JP5888013B2 JP5888013B2 JP2012052328A JP2012052328A JP5888013B2 JP 5888013 B2 JP5888013 B2 JP 5888013B2 JP 2012052328 A JP2012052328 A JP 2012052328A JP 2012052328 A JP2012052328 A JP 2012052328A JP 5888013 B2 JP5888013 B2 JP 5888013B2
- Authority
- JP
- Japan
- Prior art keywords
- rnn
- circuit
- vibration system
- output
- discrete value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Complex Calculations (AREA)
- Feedback Control In General (AREA)
Description
本発明は、物理モデルに適用可能なニューラルネットワークを設計するニューラルネットワーク設計方法、コンピュータにニューラルネットワークを設計させるプログラム、及びデジタルアナログフィッティング方法に関する。本発明は、このようなプログラムを格納したコンピュータ読み取り可能な記憶媒体にも関する。
リカレントニューラルネットワーク(RNN:Recurrent Neural Network)は、ロボットの動作などに適用するために開発されたニューラルネットワークであるが、ロボットの動作のみならず、歩数計や音声解析装置などの様々な電子装置などの物理モデルに対して適用可能である。RNN自体は、例えば非特許文献1などにて提案されている。
RNNは、ニューロンと結線からなるネットワークであり、ニューロンと入出力の結線との関係式は図1のように与えられる。図1において、εiは遅れパラメータ、yi, yjはニューロンの状態量、Cijは重み係数、tは時間を表し、ニューロンの状態量を表すyiをニューロンと同一視する場合もある。
図1の関係式の拡張として、図2のような関係式も考えられる。図2は、図1の構成に加え、値giがニューロンyiに入力されることを示し、値giはこのRNN回路のニューロン以外で求められた値である。
図3は、RNN回路の一例を説明する図である。図3は、2つのニューロンと5つの結線を有するRNN回路を示す。図3において、εi=1であり、結線に添えられた「1」なる値は重み係数を表す。図3の右上に、このRNN回路の微分方程式を表し、この微分方程式を解くと図3の右下の解が求められる。このような微分方程式を解くことは、物理的には例えば加速度g(t)が与えられたときの軌道(移動距離)y1(t)を求めることに対応している。従って、図3に示すRNN回路は、加速度から軌道を求めることができ、RNN回路の入出力は連続時間tの関数として表されるため、アナログでの概念となっていることがわかる。
これに対し、加速度センサは、例えば図4に示すように、単位時間毎に値を出力する構成になっており、出力値は離散値(デジタルデータ)である。図4は、加速度センサの出力値の一例を示す図である。図4中、縦軸は加速度センサの出力値を任意単位で示し、横軸は時間を任意単位で示す。図4は、時間t0〜t10における出力値y1〜y10を示す。このため、離散値である加速度センサの出力値を加速度として図3のRNN回路に代入しようとしても、RNN回路がアナログ対応であるためにRNN回路に入力できない。
図4に示す如き離散値を、図3のRNN回路に代入するためには、例えば図5に示すように、離散値にフィッティングするアナログ曲線を作成することができれば良い。図5は、離散値にフィッティングするアナログ曲線の一例を示す図である。図5中、図4と同一部分には同一符号を付し、その説明は省略する。離散値にフィッティングするアナログ曲線を作成するには、例えば各離散値を線分でつないだり、スプライン曲線でフィッティングを実現する方法などがある。
そこで、離散値を入力すると、フィッティング曲線が出力されるRNN回路が実現できれば、このようなRNN回路と例えば図3のようなRNN回路を接続することで、より多くのバリエーションの出力が生成可能となる。図6は、離散値の入力からフィッティング曲線を出力するRNN回路のイメージを示す図である。例えば、図6に示す如きデジタル/アナログ変換を行うRNN回路と図3のRNN回路を接合すれば、加速度センサの離散値から軌道を出力できるようになる。しかし、離散値の入力に基づいて、各離散値を線分でつないだ曲線やスプライン曲線を出力するRNN回路を実現することは困難であることは、以下の理由から容易に理解されよう。
つまり、各離散値を線分でつないだ曲線は、離散値の点で微分不可能であるが、RNN回路の出力として得られる全ての曲線は、離散値の点で微分可能であるため、RNN回路の出力として得ることはできない。
一方、スプライン曲線は、各離散点を多項式曲線で接続し、多項式曲線はRNN回路の出力で得ることができる。しかし、各離散点間で多項式曲線を変更するため、各離散点間でRNN回路の結線の重み係数を変更しなければならず、処理が非常に複雑になる。
永嶋史朗、「双線形時間遅れニューラルネットワークによるロボットソフトウェアシステム」、日本ロボット学会誌、Vol.24, No.6, pp.53-64, 2006
従来技術では、離散値の入力に基づいてフィッティング曲線を出力するRNN回路を実現することは難しい。
そこで、本発明は、離散値の入力に基づいてフィッティング曲線を出力するRNN回路を実現可能なニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法を提供することを目的とする。
本発明の一観点によれば、コンピュータによるニューラルネットワーク設計方法であって、設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順を前記コンピュータに実行させることを特徴とするニューラルネットワーク設計方法が提供される。
本発明の一観点によれば、コンピュータによるニューラルネットワークを設計させるプログラムであって、設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順を前記コンピュータに実行させることを特徴とするプログラムが提供される。
本発明の一観点によれば、リカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路によるデジタル/アナログフィッティング方法であって、離散値データを固有振動を出力する複数の振動系RNN回路に入力して前記複数の振動系RNN回路から出力される振動系の関数を計算する第1の処理と、前記複数の振動系RNN回路から出力される振動系の関数を加算回路で加算して前記離散値データに対するフィッティング曲線を計算する第2の処理をコンピュータに実行させることを特徴とするデジタル/アナログフィッティング方法が提供される。
開示のニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法によれば、離散値の入力に基づいてフィッティング曲線を出力するRNN回路を実現することができる。
開示のニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法では、リカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する。また、複数の振動系RNN回路に離散値データを入力し、加算回路から出力される離散値データに対するフィッティング曲線を計算する。これにより、RNN回路を用いたデジタル/アナログフィッティングを実現できる。
以下に、開示のニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法の各実施例を図面と共に説明する。
例えば図6に示す如きRNN回路が実現でき、このRNN回路が離散値の入力に基づいてフィッティング曲線を出力できたとしても、フィッティング曲線は、例えば次式(1)で表される平均処理を満足することが望ましい。
一方、本発明者は、上記の式(1)の条件を満たしていれば、フィッティング曲線y(t)の積分を直接計算しなくても、元の離散点を足し合わせた結果(即ち、離散点の平均)で、y(t)の積分(即ち、y(t)の平均)が求まることになり、計算量が大幅に減少して計算処理の負荷が軽減されて計算時間も短縮されることを見出した。
そこで、開示のニューラルネットワーク設計方法及びプログラムの一実施例では、元の離散値に対するフィッティング曲線が出力され、さらにこのフィッティング曲線が上記の式(1)のような平均処理を満足するようにするために、RNN回路を、固有振動を出力する複数の振動系RNN回路と、これら複数の振動系RNN回路の出力の和を求める加算回路を含むように構成する。
図7は、一実施例で用いるRNN回路の一例を示す図である。図7において、RNN回路10は、固有振動を出力する複数の振動系RNN回路11−1〜11−N(Nは、2以上の自然数)と、これら複数の振動系RNN回路11−1〜11−Nの出力の和を求める加算回路12とを含むように形成されている。
図8は、一実施例におけるニューラルネットワーク設計方法を、離散値の入力に基づいてフィッティング曲線を出力する場合について示すブロック図である。図8示すパーソナルコンピュータ(PC:Personal Computer)20には入力データINが入力され、PC20からは出力データOUTが出力される。PC20は、汎用コンピュータの一例である。入力データINは、例えば加速度センサ(図示せず)が出力する離散値データである。一方、出力データOUTは、例えば図7に示すRNN回路10、または、RNN回路10と図3に示す如き他のRNN回路との組み合わせにより、入力データINに対して生成される加速度フィッティング曲線または軌道曲線である。この例では、PC20はプロセッサの一例であるCPU(Central Processing Unit)21と、記憶部の一例であるメモリ22を有する。PC20に入力される入力データINは、入力データファイルとしてメモリ22に格納されても良く、PC20から出力される出力データOUTは、出力データファイルとしてメモリ22に格納されても良い。なお、RNN回路10と図3に示す如き他のRNN回路との組み合わせでは、例えばRNN回路10の出力が他のRNN回路に入力される。
メモリ22は、PC20への入力データIN及びPC20からの出力データOUTを格納すると共に、RNN回路のプログラムを格納する。RNN回路のプログラムは、CPU21にRNN回路10またはRNN回路10と図3に示す如き他のRNN回路との組み合わせの処理を実行させる。CPU21は、メモリ22に格納されたプログラムと入力データINに基づいて、加速度フィッティング曲線または軌道曲線を計算する。計算された加速度フィッティング曲線または軌道曲線は、出力データOUTとして出力するためにメモリ22に格納される。CPU21から出力される出力データOUTの応用例としては、例えば出力データOUT(軌道曲線)をロボット(図示せず)に入力して、ロボットにその軌道曲線上を走行させることも可能である。
離散値データである入力データINをPC20に入力する際、データ長を設定する必要があるが、図9に示すように実際のデータ長が奇数2n−1(nは2以上の自然数)であれば、入力データINのデータ長を実際のデータ長より長い偶数2nに設定する。つまり、RNN回路10を形成する際に、入力データINの実際のデータ長が奇数2n−1(即ち、奇数個のデータ)であれば、データ長を2n−1より長い偶数2n(即ち、偶数個のデータ)に設定する。図9は、離散値データの一例を示す図であり、縦軸は離散値を任意単位で示し、横軸は時間を任意単位で示す。また、端点y0とy2nは、y0=0とy2n=0に設定しておく。
次に、離散値データy0=0, y1,..., y2n-1, y2n=0から次式(2)のa0, a1,..., a2n-1, b1,..., b2n-1を計算し、メモリ22に格納する。
また、式(2)で得られたa0, a1,..., a2n-1, b1,..., b2n-1は、時間tによらない固定値である。そして、これらの固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って、フィッティング曲線を次式(3)のように定義する。
次に、上記の式(3)で定義されたフィッティング曲線を出力するためのRNN回路について説明する。図11は、振動系RNN回路の一例を示す図である。上記の式(5)は、図11の振動系RNN回路11の処理を微分方程式で表したものに相当し、上記の式(6)が振動系RNN回路11から出力される微分方程式の解に相当する。図11の振動系RNN回路11によって、cos(qπt/n), sin(qπt/n)を得ることができる。
図13は、コンピュータシステムの一例を示すブロック図である。図13に示すコンピュータシステム100は、CPU101、記憶部102、インタフェース(I/F)103、入力装置104、及び表示部105がバス106により接続された構成を有する。CPU101は、記憶部102に格納されたプログラムを実行することによりコンピュータシステム100全体を制御する。記憶部102は、半導体記憶装置、磁気記録媒体、光記録媒体、光磁気記録媒体などで形成可能であり、上記のプログラムや各種データを格納すると共に、CPU101が実行する演算の中間結果や演算結果などを一時的に格納する一時メモリとしても機能する。記憶部102は、コンピュータシステム100への入力データ及びコンピュータシステム100からの出力データを格納しても良い。CPU101及び記憶部102は、図8に示すCPU21及びメモリ22に相当する。
I/F103は、記憶部102に格納するプログラムやデータをネットワーク(図示せず)から受信することができる。入力装置104は、キーボードなどにより形成可能である。表示部105は、ディスプレイなどにより形成可能である。入力装置104及び表示部105は、タッチパネルのように入力装置と表示部の両方の機能を有する入出力装置で形成しても良い。
CPU101は、記憶部102に格納されたプログラムを実行することにより、コンピュータシステム100をニューラルネットワークを設計する装置として機能させる。プログラムは、CPU101に少なくともニューラルネットワークの設計処理の手順を実行させるものであっても良く、記憶部102を含む適切なコンピュータ読み取り可能な記憶媒体に格納されていても良い。この場合、プログラムは、RNN回路を、少なくとも図7または図12に示すように固有振動を出力する複数の振動系RNN回路11−1〜11−N(または、11−(2n−1))と、これら複数の振動系RNN回路11−1〜11−N(または、11−(2n−1))の出力の和を求める加算回路12をとを含むように形成する処理をCPU101に実行させる。
また、プログラムは、CPU101に少なくとも図7または図12に示すように固有振動を出力する複数の振動系RNN回路11−1〜11−N(または、11−(2n−1))と、これら複数の振動系RNN回路11−1〜11−N(または、11−(2n−1))の出力の和を求める加算回路12を含むRNN回路10、または、RNN回路10と図3に示す如き他のRNN回路との組み合わせの処理を実行させるものであっても良い。つまり、CPU101に少なくとも離散値のフィッティング曲線を生成するRNN回路10の処理を実行させるプログラムは、CPU101にニューラルネットワークの設計処理の手順を実行させるプログラムに対してプラグイン可能な構成としても良い。この場合、CPU101に少なくともRNN回路10の処理を実行させるプログラムは、CPU101を離散値にフィッティングするアナログ曲線を出力させるデジタル/アナログフィッティング方法を実行する回路または装置として動作させる。
RNN回路10の出力(フィッティング曲線)は、例えば表示部105に表示しても、I/F103を介してコンピュータシステム100の外部に出力されても良い。
次に、フィッティング曲線のフィルタリングについて、図14と共に説明する。図14は、フィッティング曲線のフィルタリングを説明するブロック図である。
デジタルデータのノイズを低減するために、デジタルフィルタが用いられる。ここで、デジタルデータである離散値データy0=0,y1,...,y2n-1,y2n=0が与えられており、y-1= y2n-1, y-2= y2n-2,...と離散値データを拡張するとき、長さmのローパスフィルタを次式(7)のように定義し、長さmのハイパスフィルタを次式(8)のように定義する。
これに対し、上記式(3)で定義されたフィッティング曲線y(t)のフィルタリングを、次のように定義する。具体的には、長さmのローパスフィルタを次式(9)のように定義し、長さmのハイパスフィルタを次式(10)のように定義する。
このように、デジタルデータのフィルタリングを行ってからフィッティング曲線を求めることで、デジタルデータに対するフィッティング曲線のフィルタリングを実現する場合の応用例を説明する。この場合、例えばy0,y1,...,y2n-1,y2nが周期mの周期関数となるとき、長さmのローパスフィルタによりzi=0となる。この結果を上記式(13)に代入することにより、任意のtの値でzm(t)=0 となり、y(t)も周期mの周期関数となることがわかる。
プログラムは、上記CPU101に少なくとも上記の如く求めた入力離散値データに対するフィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力する処理を実行させるものであっても良い。この場合の処理は、入力離散値データにフィルタリングを施すことにより得られる離散値データに対するフィッティング曲線を、同じ入力離散値データに対するフィッティング曲線にフィルタリングを施すことにより得られるフィルタリングされたフィッティング曲線として出力するものであっても良い。CPU101に少なくともフィルタリングされたフィッティング曲線を出力する処理を実行させるプログラムは、CPU101にニューラルネットワークの設計処理の手順を実行させるプログラムに対してプラグイン可能な構成としても良い。この場合、CPU101に少なくともフィルタリングされたフィッティング曲線を出力する処理を実行させるプログラムは、CPU101を離散値データにフィッティングするアナログ曲線がフィルタリングされた結果を出力させるデジタル/アナログフィッティング方法を実行する回路または装置として動作させる。また、入力離散値データのフィルタリングを行うフィルタ処理自体は、ハードウェア(即ち、デジタルフィルタ)で行っても、CPU101により行っても良い。
なお、上記実施例では、RNN回路の応用例としてロボットを説明したが、開示の方法で設計されるRNN回路はロボットの駆動回路などに限定されず、各種装置の制御回路や音声解析回路などを含む各種物理モデルに対して適用可能であることは言うまでもない。
以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)
コンピュータによるニューラルネットワーク設計方法であって、
設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、
前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順
を前記コンピュータに実行させることを特徴とする、ニューラルネットワーク設計方法。
(付記2)
前記形成手順は、前記離散値データの実際のデータ長が奇数2n−1(nは2以上の自然数)であると、前記離散値データのデータ長を前記実際のデータ長より長い偶数2nに設定することを特徴とする、付記1記載のニューラルネットワーク設計方法。
(付記3)
前記離散値のデータは加速度データであり、前記フィッティング曲線は加速度フィッティング曲線または軌道曲線である、付記1または2記載のニューラルネットワーク設計方法。
(付記4)
前記計算手順は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
ここで、上記の式中のΨ(x)はガンマ関数の対数の2階微分で定義されるトリガンマ関数(Trigamma Function)であり、a0, a1,..., a2n-1, b1,..., b2n-1は時間tによらない固定値であり、
前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
上記の式中、cos(qπt/n), sin(qπt/n)は振動系の関数であり前記複数の振動系のRNN回路から出力されることを特徴とする、付記1乃至3のいずれか1項記載のニューラルネットワーク設計方法。
(付記5)
前記複数の振動系RNN回路の各々の処理は次式の微分方程式で表され、
前記複数の振動系RNN回路の各々から出力される前記微分方程式の解は
で表されることを特徴とする、付記4記載のニューラルネットワーク設計方法。
(付記6)
前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ手順
を前記コンピュータにさらに実行させ、
前記フィルタ手順は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、付記1乃至5のいずれか1項記載のニューラルネットワーク設計方法。
(付記7)
コンピュータによるニューラルネットワークを設計させるプログラムであって、
設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、
前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順
を前記コンピュータに実行させることを特徴とする、プログラム。
(付記8)
前記形成手順は、前記離散値データの実際のデータ長が奇数2n−1(nは2以上の自然数)であると、前記離散値データのデータ長を前記実際のデータ長より長い偶数2nに設定することを特徴とする、付記7記載のプログラム。
(付記9)
前記離散値のデータは加速度データであり、前記フィッティング曲線は加速度フィッティング曲線または軌道曲線である、付記7または8記載のプログラム。
(付記10)
前記計算手順は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
ここで、上記の式中のΨ(x)はガンマ関数の対数の2階微分で定義されるトリガンマ関数(Trigamma Function)であり、a0, a1,..., a2n-1, b1,..., b2n-1は時間tによらない固定値であり、
前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
上記の式中、cos(qπt/n), sin(qπt/n)は振動系の関数であり前記複数の振動系のRNN回路から出力されることを特徴とする、付記7乃至9のいずれか1項記載のプログラム。
(付記11)
前記複数の振動系RNN回路の各々の処理は次式の微分方程式で表され、
前記複数の振動系RNN回路の各々から出力される前記微分方程式の解は
で表されることを特徴とする、付記10記載のプログラム。
(付記12)
前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ手順
を前記コンピュータにさらに実行させ、
前記フィルタ手順は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、付記7乃至11のいずれか1項記載のプログラム。
(付記13)
リカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路によるデジタル/アナログフィッティング方法であって、
離散値データを固有振動を出力する複数の振動系RNN回路に入力して前記複数の振動系RNN回路から出力される振動系の関数を計算する第1の処理と、
前記複数の振動系RNN回路から出力される振動系の関数を加算回路で加算して前記離散値データに対するフィッティング曲線を計算する第2の処理
をコンピュータに実行させることを特徴とする、デジタル/アナログフィッティング方法。
(付記14)
前記第1の処理は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
ここで、上記の式中のΨ(x)はガンマ関数の対数の2階微分で定義されるトリガンマ関数(Trigamma Function)であり、a0, a1,..., a2n-1, b1,..., b2n-1は時間tによらない固定値であり、
前記第2の処理は、前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
上記の式中、cos(qπt/n), sin(qπt/n)は振動系の関数であり前記複数の振動系のRNN回路から出力されることを特徴とする、付記13記載のデジタル/アナログフィッティング方法。
(付記15)
前記複数の振動系RNN回路の各々の処理は次式の微分方程式で表され、
前記複数の振動系RNN回路の各々から出力される前記微分方程式の解は
で表されることを特徴とする、付記14記載のデジタル/アナログフィッティング方法。
(付記16)
前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ処理
を前記コンピュータにさらに実行させ、
前記フィルタ処理は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、付記13乃至15のいずれか1項記載のデジタル/アナログフィッティング方法。
(付記1)
コンピュータによるニューラルネットワーク設計方法であって、
設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、
前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順
を前記コンピュータに実行させることを特徴とする、ニューラルネットワーク設計方法。
(付記2)
前記形成手順は、前記離散値データの実際のデータ長が奇数2n−1(nは2以上の自然数)であると、前記離散値データのデータ長を前記実際のデータ長より長い偶数2nに設定することを特徴とする、付記1記載のニューラルネットワーク設計方法。
(付記3)
前記離散値のデータは加速度データであり、前記フィッティング曲線は加速度フィッティング曲線または軌道曲線である、付記1または2記載のニューラルネットワーク設計方法。
(付記4)
前記計算手順は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
(付記5)
前記複数の振動系RNN回路の各々の処理は次式の微分方程式で表され、
(付記6)
前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ手順
を前記コンピュータにさらに実行させ、
前記フィルタ手順は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、付記1乃至5のいずれか1項記載のニューラルネットワーク設計方法。
(付記7)
コンピュータによるニューラルネットワークを設計させるプログラムであって、
設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、
前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順
を前記コンピュータに実行させることを特徴とする、プログラム。
(付記8)
前記形成手順は、前記離散値データの実際のデータ長が奇数2n−1(nは2以上の自然数)であると、前記離散値データのデータ長を前記実際のデータ長より長い偶数2nに設定することを特徴とする、付記7記載のプログラム。
(付記9)
前記離散値のデータは加速度データであり、前記フィッティング曲線は加速度フィッティング曲線または軌道曲線である、付記7または8記載のプログラム。
(付記10)
前記計算手順は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
(付記11)
前記複数の振動系RNN回路の各々の処理は次式の微分方程式で表され、
(付記12)
前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ手順
を前記コンピュータにさらに実行させ、
前記フィルタ手順は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、付記7乃至11のいずれか1項記載のプログラム。
(付記13)
リカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路によるデジタル/アナログフィッティング方法であって、
離散値データを固有振動を出力する複数の振動系RNN回路に入力して前記複数の振動系RNN回路から出力される振動系の関数を計算する第1の処理と、
前記複数の振動系RNN回路から出力される振動系の関数を加算回路で加算して前記離散値データに対するフィッティング曲線を計算する第2の処理
をコンピュータに実行させることを特徴とする、デジタル/アナログフィッティング方法。
(付記14)
前記第1の処理は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
前記第2の処理は、前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
(付記15)
前記複数の振動系RNN回路の各々の処理は次式の微分方程式で表され、
(付記16)
前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ処理
を前記コンピュータにさらに実行させ、
前記フィルタ処理は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、付記13乃至15のいずれか1項記載のデジタル/アナログフィッティング方法。
以上、開示のニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法を実施例により説明したが、本発明は上記実施例に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能であることは言うまでもない。
10 RNN回路
11−1〜11−N 振動系RNN回路
12 加算回路
20 PC
21,101 CPU
22 メモリ
52 デジタルフィルタ
102 記憶部
104 入力装置
105 表示装置
11−1〜11−N 振動系RNN回路
12 加算回路
20 PC
21,101 CPU
22 メモリ
52 デジタルフィルタ
102 記憶部
104 入力装置
105 表示装置
Claims (6)
- コンピュータによるニューラルネットワーク設計方法であって、
設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、
前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順
を前記コンピュータに実行させることを特徴とする、ニューラルネットワーク設計方法。 - コンピュータによるニューラルネットワークを設計させるプログラムであって、
設計対象となるリカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路を、固有振動を出力する複数の振動系RNN回路と、前記複数の振動系RNN回路の出力の和を求める加算回路とを含むように形成する形成手順と、
前記複数の振動系RNN回路に離散値データを入力し、前記加算回路から出力される前記離散値データに対するフィッティング曲線を計算する計算手順
を前記コンピュータに実行させることを特徴とする、プログラム。 - 前記計算手順は、
離散値データy0=0, y1,..., y2n-1, y2n=0から次式のa0, a1,..., a2n-1, b1,..., b2n-1を計算して記憶部に格納し、
前記固定値a0, a1,..., a2n-1, b1,..., b2n-1を使って次式で定義されるフィッティング曲線を計算して前記記憶部に格納し、
- 前記フィッティング曲線にフィルタリングを施したのと同等の、フィルタリングされたフィッティング曲線を出力するフィルタ手順
を前記コンピュータにさらに実行させ、
前記フィルタ手順は、前記離散値データにフィルタリングを施すことにより得られる離散値データを前記複数の振動系RNN回路に入力することを特徴とする、請求項2乃至4のいずれか1項記載のプログラム。 - リカレントニューラルネットワーク(RNN:Recurrent Neural Network)回路によるデジタル/アナログフィッティング方法であって、
離散値データを固有振動を出力する複数の振動系RNN回路に入力して前記複数の振動系RNN回路から出力される振動系の関数を計算する第1の処理と、
前記複数の振動系RNN回路から出力される振動系の関数を加算回路で加算して前記離散値データに対するフィッティング曲線を計算する第2の処理
をコンピュータに実行させることを特徴とする、デジタル/アナログフィッティング方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012052328A JP5888013B2 (ja) | 2012-01-25 | 2012-03-08 | ニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012013485 | 2012-01-25 | ||
JP2012013485 | 2012-01-25 | ||
JP2012052328A JP5888013B2 (ja) | 2012-01-25 | 2012-03-08 | ニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013175143A JP2013175143A (ja) | 2013-09-05 |
JP5888013B2 true JP5888013B2 (ja) | 2016-03-16 |
Family
ID=49267972
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012052328A Active JP5888013B2 (ja) | 2012-01-25 | 2012-03-08 | ニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9015095B2 (ja) |
JP (1) | JP5888013B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6347190B2 (ja) | 2013-12-20 | 2018-06-27 | 富士通株式会社 | 情報処理装置、プログラム及び方法 |
JP6834180B2 (ja) * | 2016-06-01 | 2021-02-24 | 富士通株式会社 | 歩数学習方法、歩数学習プログラム、情報処理装置、歩行データ処理方法、歩行データ処理プログラムおよび歩行データ処理装置 |
US10853724B2 (en) | 2017-06-02 | 2020-12-01 | Xerox Corporation | Symbolic priors for recurrent neural network based semantic parsing |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5517595A (en) | 1994-02-08 | 1996-05-14 | At&T Corp. | Decomposition in noise and periodic signal waveforms in waveform interpolation |
JPH0973440A (ja) | 1995-09-06 | 1997-03-18 | Fujitsu Ltd | コラム構造の再帰型ニューラルネットワークによる時系列トレンド推定システムおよび方法 |
US6202049B1 (en) | 1999-03-09 | 2001-03-13 | Matsushita Electric Industrial Co., Ltd. | Identification of unit overlap regions for concatenative speech synthesis system |
JP2002024795A (ja) * | 2000-07-04 | 2002-01-25 | Sony Corp | 情報処理装置および方法、並びに記録媒体 |
JP4093076B2 (ja) * | 2003-02-19 | 2008-05-28 | 富士重工業株式会社 | 車両運動モデルの生成装置および車両運動モデルの生成方法 |
JP4710931B2 (ja) * | 2008-07-09 | 2011-06-29 | ソニー株式会社 | 学習装置、学習方法、およびプログラム |
US9092726B2 (en) * | 2011-08-11 | 2015-07-28 | Greenray Industries, Inc. | Neural network frequency control |
-
2012
- 2012-03-08 JP JP2012052328A patent/JP5888013B2/ja active Active
- 2012-10-12 US US13/650,928 patent/US9015095B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US9015095B2 (en) | 2015-04-21 |
JP2013175143A (ja) | 2013-09-05 |
US20130268473A1 (en) | 2013-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Betsch et al. | Constrained integration of rigid body dynamics | |
Giftthaler et al. | Automatic differentiation of rigid body dynamics for optimal control and estimation | |
TWI591490B (zh) | 類神經網路處理器中之向量運算單元 | |
Ha et al. | Numerical method for shape optimization using T-spline based isogeometric method | |
JP5349478B2 (ja) | 逆運動学 | |
JP5701374B2 (ja) | 画像拡大装置及び方法 | |
JP5888013B2 (ja) | ニューラルネットワーク設計方法、プログラム及びデジタルアナログフィッティング方法 | |
Wang et al. | A noise-suppressing Newton-Raphson iteration algorithm for solving the time-varying Lyapunov equation and robotic tracking problems | |
Turk et al. | Identification of linear parameter-varying systems: A reweighted ℓ2, 1-norm regularization approach | |
JP2016218767A (ja) | シミュレーション方法、シミュレーションプログラム、及びシミュレーション装置 | |
JP6347190B2 (ja) | 情報処理装置、プログラム及び方法 | |
JPS62216073A (ja) | デ−タ処理装置 | |
JP5653184B2 (ja) | 画像処理装置及び方法 | |
JP2012113676A (ja) | 制御器の構成方法、システム及びプログラム | |
Bastos et al. | Analysis of open-loop control design and parallel computation for underactuated manipulators | |
CN114310874B (zh) | 协作机器人关节力矩控制方法、系统及计算机设备 | |
JP6065543B2 (ja) | ニューラルネットワーク設計方法、フィッティング方法、及びプログラム | |
JP5141098B2 (ja) | 姿勢データフィルタ装置、姿勢データフィルタリング方法および姿勢データフィルタプログラム。 | |
Zhang et al. | Eight‐node conforming straight‐side quadrilateral element with high‐order completeness (QH8‐C1) | |
JP6536162B2 (ja) | 移動情報計算方法、移動情報計算装置、及び移動情報計算プログラム | |
Brüls et al. | A model reduction method for the control of rigid mechanisms | |
JP2020181312A (ja) | 訓練装置、推定装置、訓練方法、推定方法及びプログラム | |
CN113204892A (zh) | 质心轨迹生成方法、装置、计算机可读存储介质及机器人 | |
WO2020075834A1 (ja) | シミュレーション装置、シミュレーション方法及びシミュレーションプログラム | |
JP4743700B2 (ja) | 制御装置、制御方法及び制御プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160119 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160201 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5888013 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |