JP2012203566A - 状態推定装置、電子機器及びプログラム - Google Patents
状態推定装置、電子機器及びプログラム Download PDFInfo
- Publication number
- JP2012203566A JP2012203566A JP2011066398A JP2011066398A JP2012203566A JP 2012203566 A JP2012203566 A JP 2012203566A JP 2011066398 A JP2011066398 A JP 2011066398A JP 2011066398 A JP2011066398 A JP 2011066398A JP 2012203566 A JP2012203566 A JP 2012203566A
- Authority
- JP
- Japan
- Prior art keywords
- error covariance
- fixed
- point position
- state estimation
- arithmetic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Landscapes
- Position Fixing By Use Of Radio Waves (AREA)
Abstract
【課題】 カルマンフィルターの演算において、固定小数点数を用い、固定小数点位置を調整しながら演算を行うことにより、計算量を抑えつつ、演算の破綻を回避できる状態推定装置等の提供。
【解決手段】 状態推定装置100は、カルマンフィルターの演算処理を行う演算部120と、演算部120を制御する制御部140と、演算結果を記憶する記憶部160と、を含む。そして、演算部120は、演算処理の中で、固定小数点数として表現される誤差共分散の演算処理を行う。制御部140は、過去の演算結果に基づいて、現在の誤差共分散の固定小数点位置の決定処理を行う。
【選択図】 図1
【解決手段】 状態推定装置100は、カルマンフィルターの演算処理を行う演算部120と、演算部120を制御する制御部140と、演算結果を記憶する記憶部160と、を含む。そして、演算部120は、演算処理の中で、固定小数点数として表現される誤差共分散の演算処理を行う。制御部140は、過去の演算結果に基づいて、現在の誤差共分散の固定小数点位置の決定処理を行う。
【選択図】 図1
Description
本発明は、状態推定装置、電子機器及びプログラム等に関係する。
カルマンフィルターにおいて、内部状態変数の演算処理を行う方法として、内部状態変数や観測量を固定小数点数により表現して演算を行う手法と、内部状態変数や観測量を浮動小数点数により表現して演算を行う手法が考えられる。
固定小数点数により表現して演算を行う手法では、小数点位置を固定的に決めておき、表現可能な範囲の値を用いて演算を行う。例えば、32ビットにより表現される固定小数点数において、2の補数表現で符号ビットを考慮し、固定小数点位置がビット番号30と31の間であるとする場合には、[−1,+1)の範囲の値が表現できる。この時、最小分解能は、1/231である。
また、適応フィルターの演算処理において、固定小数点数を用いる発明としては特許文献1に記載される従来技術がある。
カルマンフィルターにおいて、内部状態変数や観測量を固定小数点数により表現して演算を行う手法には、演算中にオーバーフローが発生し、演算結果が不定値となり、演算が破綻する場合があるという問題点がある。
一方、内部状態変数や観測量を浮動小数点数により表現して演算を行う手法では、演算を破綻させずに行うことはできるものの、計算量が増大してしまうという問題点がある。
本発明の幾つかの態様によれば、カルマンフィルターの演算において、固定小数点数を用い、固定小数点位置を調整しながら演算を行うことにより、計算量を抑えつつ、演算の破綻を回避できる状態推定装置、電子機器及びプログラム等を提供できる。
本発明の一態様は、カルマンフィルターの演算処理を行う演算部と、前記演算部を制御する制御部と、カルマンフィルターの演算処理の演算結果を記憶する記憶部と、を含み、前記演算部は、前記演算処理として、固定小数点数として表現される誤差共分散の演算処理を行い、前記制御部は、過去の前記演算結果に基づいて、現在の前記誤差共分散の固定小数点位置の決定処理を行うことを特徴とする状態推定装置に関係する。
本発明の一態様では、過去の演算結果に基づいて、現在の誤差共分散の固定小数点位置の決定処理を行う。よって、誤差共分散の固定小数点位置を調整しつつ、カルマンフィルターの演算処理を行うことが可能となる。
本発明の一態様では、前記制御部は、前記誤差共分散についての過去の前記演算結果に基づいて、現在の前記誤差共分散の前記固定小数点位置についての前記決定処理を行ってもよい。
これにより、過去の誤差共分散の演算結果に基づいて、現在の誤差共分散の固定小数点位置を調整し、カルマンフィルターの演算処理を行うこと等が可能になる。
また、本発明の一態様では、前記制御部は、過去の前記誤差共分散の絶対値における上位ビットに基づいて、現在の前記誤差共分散の前記固定小数点位置についての前記決定処理を行ってもよい。
これにより、過去の誤差共分散の絶対値における上位ビットに基づいて、現在の誤差共分散の固定小数点位置を調整し、カルマンフィルターの演算処理を行うこと等が可能になる。
また、本発明の一態様では、前記制御部は、過去の前記誤差共分散の絶対値における前記上位ビットにより表される値が、第一の閾値以上である場合には、前記決定処理として、前記誤差共分散の前記固定小数点位置を算術右シフトにより変更するために用いられるシフト量である右シフト量を決定する処理を行い、前記右シフト量を前記演算部に通知し、前記演算部は、前記制御部から前記右シフト量を通知された場合に、前記右シフト量に基づき、前記誤差共分散を算術右シフトしてもよい。
これにより、過去の誤差共分散の絶対値における上位ビットにより表される値が第一の閾値を超えている場合には、誤差共分散を算術右シフトし、カルマンフィルターの演算処理中にオーバーフローが発生しないように固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記制御部は、過去の前記誤差共分散の絶対値における前記上位ビットにより表される値が、第二の閾値以下である場合には、前記決定処理として、前記誤差共分散の前記固定小数点位置を算術左シフトにより変更するために用いられるシフト量である左シフト量を決定する処理を行い、前記左シフト量を前記演算部に通知し、前記演算部は、前記制御部から前記左シフト量を通知された場合に、前記左シフト量に基づき、前記誤差共分散を算術左シフトしてもよい。
これにより、過去の誤差共分散の絶対値における上位ビットにより表される値が第二の閾値以下である場合には、誤差共分散を算術左シフトし、カルマンフィルターの演算処理の正確度を高めるように固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記制御部は、過去の前記誤差共分散の正負判断を行い、過去の前記誤差共分散の正負に応じて、過去の前記誤差共分散に任意のビット列を加算し、前記ビット列の加算によって得られるオーバーフローフラグの値に基づいて、現在の前記誤差共分散の前記固定小数点位置についての前記決定処理を行ってもよい。
これにより、誤差共分散の絶対値を求めずに、誤差共分散の正負の判断を行い、任意のビット列を加算して、その際のオーバーフローフラグの値に基づいて、誤差共分散の固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記演算部は、飽和演算命令により、前記誤差共分散の前記演算処理を行い、前記制御部は、前記演算処理において、飽和が発生したと判断する場合には、前記誤差共分散の前記固定小数点位置を変更するためのシフト量を決定し、前記シフト量を演算部に通知し、前記演算部は、前記制御部から通知された前記シフト量に基づいて、前記演算処理前の前記誤差共分散を算術シフトし、前記固定小数点位置を変更してもよい。
これにより、カルマンフィルターの演算処理を飽和演算により行い、演算処理中に飽和が発生したか否かによって、固定小数点位置を変更する否かを決定し、固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記演算部は、前記誤差共分散が行列で表される場合に、前記演算処理の中で、固定小数点数として各要素を表現される誤差共分散行列の演算処理を行い、前記制御部は、前記誤差共分散が行列で表される場合に、過去の前記誤差共分散行列の各要素に基づいて、現在の前記誤差共分散行列の各要素についての前記固定小数点位置の前記決定処理を行うってもよい。
これにより、誤差共分散が行列で表される場合に、誤差共分散行列の各要素の値に基づいて、誤差共分散行列の各要素についての固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記制御部は、前記誤差共分散が行列で表される場合に、過去の前記誤差共分散行列の対角要素に基づいて、現在の前記誤差共分散行列の各要素についての前記固定小数点位置の前記決定処理を行ってもよい。
これにより、誤差共分散が行列で表される場合に、誤差共分散行列の対角要素の値に基づいて、誤差共分散行列の各要素についての固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記演算部は、前記誤差共分散及び状態推定値の予測処理と観測更新を行い、前記制御部は、前記予測処理における前記誤差共分散の前記固定小数点位置の前記決定処理を行い、前記観測更新における前記誤差共分散の前記固定小数点位置の前記決定処理を行ってもよい。
これにより、観測更新と予測処理のそれぞれについて、誤差共分散の固定小数点位置を調整すること等が可能になる。
また、本発明の一態様では、前記制御部は、P=FPFT+Qの演算処理により、前記誤差共分散Pを求める場合に、FPFT及びQの前記固定小数点位置を、前記誤差共分散Pの前記固定小数点位置と同じ位置とする前記決定処理を行ってもよい。
これにより、P=FPFT+Qの演算処理により、誤差共分散Pを求める場合に、FPFT及びQの固定小数点位置を、誤差共分散Pの固定小数点位置と同じ位置とする決定処理を行い、計算量を増加させずに、FPFT及びQの固定小数点位置の調整すること等が可能になる。
また、本発明の一態様では、前記制御部は、S=HPHT+Rの演算処理により、観測残差の共分散Sを求める場合に、HPHT及びRの前記固定小数点位置を、前記誤差共分散Pの前記固定小数点位置と同じ位置とする前記決定処理を行ってもよい。
これにより、S=HPHT+Rの演算処理により、観測残差の共分散Sを求める場合に、HPHT及びRの固定小数点位置を、誤差共分散Pの固定小数点位置と同じ位置とする決定処理を行い、計算量を増加させずに、HPHT及びRの固定小数点位置の調整すること等が可能になる。
また、本発明の他の態様では、前記状態推定装置を含むことを特徴とする電子機器に関係する。
また、本発明の他の態様では、上記各部としてコンピューターを機能させるプログラム、又は該プログラムを記憶したコンピューター読み取り可能な情報記憶媒体に関係する。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.概要
本実施形態では、カルマンフィルターの演算において、観測量や内部状態変数などを固定小数点数として扱い、演算を行う。これにより、内部状態変数等を浮動小数点数として演算を行う場合と比較して、計算量の削減を図ることができる。
本実施形態では、カルマンフィルターの演算において、観測量や内部状態変数などを固定小数点数として扱い、演算を行う。これにより、内部状態変数等を浮動小数点数として演算を行う場合と比較して、計算量の削減を図ることができる。
また、本実施形態では、カルマンフィルターの演算において、オーバーフローが発生しないように、誤差共分散の固定小数点位置を動的に変更する。誤差共分散は、カルマンフィルターの演算の中で、最もダイナミックレンジが広いと考えられるためである。これにより、誤差共分散の演算中にオーバーフローが発生し、演算結果が不定値となり、演算が破綻することを防ぐことができる。
さらに、本実施形態では、誤差共分散以外の内部状態変数の一部又は全てについて、固定小数点位置を誤差共分散の固定小数点位置と一致させる。これにより、状態推定値や観測残差等の内部状態変数の固定小数点位置を、計算量を増加させずに、オーバーフローが発生しないように調整することができる。
以下、本実施形態のシステム構成例を説明し、その後、フローチャートを用いて本実施形態の処理の詳細について説明する。
2.システム構成例
次に、図1に本実施形態の状態推定装置及びこれを含む電子機器の構成例を示す。
次に、図1に本実施形態の状態推定装置及びこれを含む電子機器の構成例を示す。
状態推定装置100は、演算部120と、制御部140と、記憶部160と、を含む。また、状態推定装置100を含む電子機器の例としては、センサーや外部制御部や操作部や表示部などを含む携帯端末などが挙げられる。なお、状態推定装置100及びこれを含む電子機器は、図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
次に各部で行われる処理について説明する。
演算部120は、カルマンフィルターの演算処理を行う。制御部140は、演算部120を制御する。記憶部160は、カルマンフィルターの演算処理の演算結果を記憶する。
ここで、カルマンフィルターの概要を簡単に説明する。
カルマンフィルターは、直接観測不可能な値を、観測可能な値を用いて精度良く推定する際に用いられる状態推定器である。
例えば、ある時刻tkにおいて、あるシステムの観測不可能な状態量Xkを求めたい場合を考える。Xkは直接観測できない値であるが、逆にXkを用いれば、観測可能な値である観測量Zkを、(1)式で表せることが分かっている。
(1)式において、kはステップ数、Xkは時刻tkにおけるシステムの状態推定値、Zkは時刻tkにおいて入力される観測量、Hkは観測行列、Vkは観測雑音を示している。なお、Hkは物理法則や測定等によって予め確定した行列である。(1)式を観測方程式という。
また、時刻tkにおけるシステムの状態量Xkは、1ステップ前の時刻tk-1の状態量Xk-1をもとに、次のように表現されることが分かっているとする。
(2)式において、Xk-1は時刻tk-1におけるシステムの状態量、Fkは状態遷移行列、Bkは駆動行列、Ukは制御入力、Wkはシステム雑音(白色雑音)を示している。なお、Fk及びBkは、物理法則や測定等によって予め確定した行列である。(2)式を状態方程式という。
ここで、(1)式に観測により得られた観測量Zkを代入すれば、真の状態量Xkが求められるようにも思えるが、観測雑音Vkが不明であるため、(1)式から直接に真の状態量Xkを求めることはできない。
そこで、まず、(2)式において、システム雑音Wkがないと仮定した場合を考え、その場合の(2)式に相当する(3)式により、状態推定値Xk|k-1を求める。
(3)式において、Xk|k-1は時刻tk-1において推定した時刻tkのシステムの状態推定値であり、Xk-1|k-1は時刻tk-1において推定した時刻tk-1のシステムの状態推定値である。
次に、(1)式において、観測誤差がないと仮定した場合を考え、その場合の(1)式に相当する(4)式により、観測誤差がないと仮定した場合の観測量の予測値Zk,eを求める。(4)式のXk|k-1は(3)式により求められたものである。
そして、実際に観測により得られた観測量Zk,rとZk,eとの差をとる。
Δkを観測残差という。観測残差は、以下の3値に起因する値である。一つ目の値は、雑音がないとした場合における、状態推定値から求めた観測量の推定値(観測推定量)と、実際の観測量との誤差である。そして、二つ目の値は、観測雑音Vkであり、三つ目の値は、システム雑音Wkである。
さらに、観測残差Δkの共分散Skを算出する。観測残差Δkの共分散Skは、システムの状態推定値Xkから求められた観測推定量の確からしさと、観測雑音とシステム雑音がどの程度含まれているかを表すものである。つまり、観測残差Δkの共分散Skをできるだけ小さくすることができれば、観測雑音とシステム雑音を抑圧しつつ、観測推定量を確からしいものにすることができる。さらに、観測推定量の正確性が担保されれば、観測推定量を求める際に参照された状態推定値の正確さも期待できる。
したがって、観測残差Δkの共分散Skをできるだけ小さくするように制御すれば、システムの状態推定値も確からしいものとなる。
カルマンフィルターでは、以上の原理を基に、観測更新と予測処理との2つの処理を繰り返し行う。観測更新とは、外部から与えられる(実際に観測した)観測量Zk,rを利用して1ステップ前に予測した状態推定値Xk|k-1及び誤差共分散Pk|k-1を更新する処理である。一方、予測処理とは、更新した状態推定値Xk|k及び誤差共分散Pk|kから次のステップの状態推定値Xk+1|k及び誤差共分散Pk+1|kを予測する処理である。そして、カルマンフィルターは、この2つの処理を繰り返すことにより、尤もらしい状態推定値Xkを推定する。
まず、観測更新は、次式(6)〜(9)で定式化される。
なお、(6)〜(9)において、Skは、上述した観測残差Δkの共分散である。Pk|k-1は、時刻tk-1において推定した時刻tkのシステムの状態推定値Xk|k−1と、時刻tkの実際の状態量Xkとの差の共分散(誤差共分散)である。また、観測行列Hkは、状態推定値Xkの次元を観測量Zkの次元に変換するための変換行列として用いられる。観測行列Hkを1ステップ前に予測された状態推定値Xk|k-1に作用させることで、観測量の予測値Zk,eが得られる。さらに、Kkはカルマンゲインと呼ばれる補正係数である。カルマンゲインKkは、予測された状態推定値Xk|k-1を重視するか、Zk,rとZk,eとの差Δkを重視するかを決定付けるパラメーター値として用いられる。カルマンゲインKkは、観測誤差Rkの大きさによって決定付けられる。観測誤差Rkは、観測量Zkに含まれる想定誤差の大きさを表すパラメーター(想定誤差パラメーター)である。観測誤差Rkは、期待値(平均値)を“0”とする正規分布型のホワイトノイズと仮定して設定される。なお、Iは単位行列である。
式(8)は、Zk,rとZk,eとの差Δkを用いて、状態推定値Xk|kを更新することを表している。
また、式(9)は、1ステップ前に予測された誤差共分散Pk|k-1とカルマンゲインKkと観測行列Hkとを用いて、誤差共分散Pk|kを更新することを表している。
一方、予測処理は、次式(10)及び(11)で定式化される。
なお、(11)式において、Qkはシステム雑音と呼ばれ、システムのモデル誤差を表す正規分布に従う誤差行列として定義される。状態遷移行列Fkは、観測更新で更新された状態推定値Xk|kから次のステップの状態推定値Xk+1|kへの遷移を表す行列として定義される。
(3)式〜(11)式にて、表される値等をまとめて、カルマンフィルターの内部状態変数と呼ぶ。
以上がカルマンフィルターの概要である。なお、カルマンフィルターは拡張カルマンフィルターであってもよい。
以上の本実施形態では、カルマンフィルターの演算処理を行う演算部120と、演算部120を制御する制御部140と、カルマンフィルターの演算処理の演算結果を記憶する記憶部160と、を含む。そして、演算部120は、演算処理として、固定小数点数として表現される誤差共分散の演算処理を行い、制御部140は、過去の演算結果に基づいて、現在の誤差共分散の固定小数点位置の決定処理を行う。
固定小数点数とは、コンピューターにおける実数の近似値の表現方式の一つである。固定小数点数では整数部分に用いるビット数と小数部分に用いるビット数をあらかじめ固定して表現する。具体的な例を図2に示す。図2では、32ビットの固定小数点数により、誤差共分散Pを表現しており、FPが固定小数点である。
また、固定小数点位置とは、固定小数点の位置のことをいい、図2においては、ビット番号25と26の間が固定小数点位置となる。なお、固定小数点位置はビット番号0〜31の範囲内である必要はなく、例えばビット番号16〜47の範囲内で調整するものであってもよい。
本実施形態の一態様では、過去の演算結果に基づいて、現在の誤差共分散の固定小数点位置の決定処理を行う。よって、誤差共分散の固定小数点位置を調整しつつ、カルマンフィルターの演算処理を行うことが可能となる。
これにより、浮動小数点数によりカルマンフィルターの演算処理を行う場合に対して、少ない計算量で、演算処理を行うことができる。また、オーバーフローを発生させないように、固定小数点位置を調整して、演算することができる。
また、制御部140は、誤差共分散についての過去の演算結果に基づいて、現在の誤差共分散の固定小数点位置についての決定処理を行ってもよい。
これにより、過去の誤差共分散の演算結果に基づいて、現在の誤差共分散の固定小数点位置を調整し、カルマンフィルターの演算処理を行うこと等が可能になる。
また、制御部140は、過去の誤差共分散の絶対値における上位ビットに基づいて、現在の誤差共分散の固定小数点位置についての決定処理を行ってもよい。
上位ビットとは、誤差共分散を固定小数点数により表した場合のMSB(Most Significant Bit)側に位置する任意の数のビットのことである。例えば、図2においては、上位ビット数を4とし、HBを上位ビットとしている。
これにより、過去の誤差共分散の絶対値における上位ビットに基づいて、現在の誤差共分散の固定小数点位置を調整し、カルマンフィルターの演算処理を行うこと等が可能になる。
また、制御部140は、過去の誤差共分散の絶対値における上位ビットにより表される値が、第一の閾値以上である場合には、決定処理として、誤差共分散の固定小数点位置を算術右シフトにより変更するために用いられるシフト量である右シフト量を決定する処理を行い、右シフト量を演算部120に通知し、演算部120は、制御部140から右シフト量を通知された場合に、右シフト量に基づき、誤差共分散を算術右シフトしてもよい。
上位ビットにより表される値とは、具体的に図2においては、2進数で0001、10進数では1となる。
また、第一の閾値とは、算術右シフトを行うか否かを判断するための閾値である。
さらに、シフト量とは、算術シフトを行う際のビット移動量のことをいう。また、LSB(Least Significant Bit)側に算術シフトすることを算術右シフトといい、MSB側に算術シフトすることを算術左シフトという。シフト量の中で、算術右シフトをする際のシフト量のことを右シフト量といい、算術左シフトをする際のシフト量のことを左シフト量という。
これにより、過去の誤差共分散の絶対値における上位ビットにより表される値が第一の閾値を超えている場合には、誤差共分散を算術右シフトし、カルマンフィルターの演算処理中にオーバーフローが発生しないように固定小数点位置を調整すること等が可能になる。
具体例を図3(A)、図3(B)に示す。図3(A)においては、誤差共分散Pを浮動小数点数により表している。図3(A)においては、固定小数点がFP1であり、Pの整数部分がIP1、小数部分がDP1に相当する。さらに、第一の閾値を10進数で3としている。この場合においては、上位ビットにより表される値が7であり、第一の閾値以上であるため、算術右シフトを行うことが決定される。なお、この例では、右シフト量を一律1と設定している。
一方、図3(B)には、算術右シフト後の誤差共分散Pを表している。算術右シフト後には、Pの整数部分がIP2、小数部分がDP2となる。その結果、整数部分がIP1からIP2へと拡大され、オーバーフローが発生しにくくなる。
また、制御部140は、過去の誤差共分散の絶対値における上位ビットにより表される値が、第二の閾値以下である場合には、決定処理として、誤差共分散の固定小数点位置を算術左シフトにより変更するために用いられるシフト量である左シフト量を決定する処理を行い、左シフト量を演算部に通知し、演算部120は、制御部140から左シフト量を通知された場合に、左シフト量に基づき、誤差共分散を算術左シフトしてもよい。
第二の閾値とは、算術左シフトを行うか否かを判断するための閾値である。
これにより、過去の誤差共分散の絶対値における上位ビットにより表される値が第二の閾値以下である場合には、誤差共分散を算術左シフトし、カルマンフィルターの演算処理の正確度を高めるように固定小数点位置を調整すること等が可能になる。
具体例を図3(A)、図3(B)と同様に、図4(A)、図4(B)に示す。図4(A)においては、固定小数点がFP3であり、Pの整数部分がIP3、小数部分がDP3に相当する。さらに、第二の閾値を10進数で0としている。この場合においては、上位ビットにより表される値が0であり、第二の閾値以下であるため、算術左シフトを行うことが決定される。なお、この例では、左シフト量を一律1と設定している。
一方、図4(B)には、算術左シフト後の誤差共分散Pを表している。算術左シフト後には、Pの整数部分がIP4、小数部分がDP4となる。その結果、小数部分がDP3からDP4へと拡大され、より正確度の高い演算処理を行うことができるようになる。
また、制御部140は、過去の誤差共分散の正負判断を行い、過去の誤差共分散の正負に応じて、過去の誤差共分散に任意のビット列を加算し、ビット列の加算によって得られるオーバーフローフラグの値に基づいて、現在の誤差共分散の固定小数点位置についての決定処理を行ってもよい。
任意のビット列とは、誤差共分散について演算処理を行う場合に、オーバーフローが発生するか否かを擬似的に判定するために用いるビット列のことをいう。具体例については後述する。
また、オーバーフローフラグとは、ステータスレジスターの中のフラグビットの一つであり、カルマンフィルターの演算において、オーバーフローが発生したか否かをビットの状態によって判別することができるフラグのことをいう。なお、オーバーフローフラグをゼロフラグなどの他のフラグビットに置き換えて、同様の機能を実現する実施形態も本発明に含まれるのものとする。
具体例を図5(A)〜図8(D)を用いて説明する。
図5(A)〜図6(D)は、誤差共分散Pの値が正である場合を示している。
図5(A)は、固定小数点がFP5である正の誤差共分散Pを示しており、図5(B)は任意のビット列Mを示している。このビット列Mは、誤差共分散が正の場合において、誤差共分散を算術右シフトして、整数部分を拡大させるか否かの判断をするために用いられる。本例では、誤差共分散Pの上位4ビットにより表される値が10進数で3以上であれば、オーバーフローが発生する可能性が高いと仮定し、その際には算術右シフトを行い、誤差共分散Pの整数部分を拡大させる。そこで、この判断を行う際に、図5(B)に示すビット列Mを用い、整数部分を拡大する必要があるかを判断する。この判断は、図5(C)に示すように、誤差共分散Pに任意のビット列Mを加算したビット列P&Mを求め、この時、オーバーフローフラグOFが1であるか否かを判断することによって行われる。この例においては、オーバーフローフラグが1であるので、上位4ビットにより表される値が3以上であると判断し、右シフト量を1とする算術右シフトを行う。その様子を示しているのが図5(D)であり、固定小数点がFP5からFP6に移動している。これにより、整数部分が拡大し、オーバーフローが発生しにくくなっている。一方、上位4ビットにより表される値が3よりも小さい場合には、何もしない。
次に、図6(A)は、固定小数点がFP7である正の誤差共分散Pを示しており、図6(B)は任意のビット列Mを示している。このビット列Mは誤差共分散が正の場合において、誤差共分散を算術左シフトして、小数部分を拡大させるか否かの判断をするために用いられる。つまり、誤差共分散Pが正である場合、負である場合のそれぞれにおいて、算術右シフトをするか否かを判断するビット列と、算術左シフトをするか否かを判断するビット列の2種類のビット列をあらかじめ設定しておく。本例では、誤差共分散Pの上位4ビットにより表される値が10進数で0であれば、演算処理の正確度が低下する可能性が高いと仮定し、その際には算術左シフトを行い、誤差共分散Pの小数部分を拡大させる。そこで、この判断を行う際に、図6(B)に示すビット列Mを用い、小数部分を拡大する必要があるかを判断する。この判断は、図6(C)に示すように、誤差共分散Pに任意のビット列Mを加算したビット列P&Mを求め、この時、オーバーフローフラグOFが0であるか否かを判断することによって行われる。この例においては、オーバーフローフラグが0であるので、上位4ビットにより表される値が0であると判断し、左シフト量を1とする算術左シフトを行う。その様子を示しているのが図6(D)であり、固定小数点がFP7からFP8に移動している。これにより、小数部分が拡大し、演算処理の正確度の向上を期待することができる。一方、上位4ビットにより表される値が0よりも大きい場合には、何もしない。
図7(A)〜図8(D)は、誤差共分散Pの値が負である場合を示している。
誤差共分散Pの値が負である場合にも、同様に2種類のビット列を用意しておく。その一例として、図7(B)に示す任意のビット列Mは、Pの上位4ビットにより表される値が−3以下であるかを判断するために用いられる。一方、図8(B)に示す任意のビット列Mは、Pの上位4ビットにより表される値が−1であるかを判断するために用いられる。
例えば、図7(C)に示すように、誤差共分散Pに任意のビット列Mを加算した結果、オーバーフローフラグが0であるので、上位4ビットにより表される値が−3以下であると判断し、右シフト量を1とする算術右シフトを行う。その様子を示しているのが図7(D)であり、固定小数点がFP9からFP10に移動している。これにより整数部分が拡大される。一方、上位4ビットにより表される値が−3よりも小さい場合、すなわちオーバーフローフラグが1である場合には、何もしない。
同様に、図8(C)に示すように、誤差共分散Pに任意のビット列Mを加算した結果、オーバーフローフラグが1であるので、上位4ビットにより表される値が−1であると判断し、左シフト量を1とする算術左シフトを行う。その様子を示しているのが図8(D)であり、固定小数点がFP11からFP12に移動している。これにより小数部分が拡大される。一方、上位4ビットにより表される値が−1よりも小さい場合、すなわちオーバーフローフラグが0である場合には、何もしない。
このように、誤差共分散の絶対値を求めずに、誤差共分散の正負の判断を行い、任意のビット列を加算して、その際のオーバーフローフラグの値に基づいて、誤差共分散の固定小数点位置を調整すること等が可能になる。
また、演算部120は、飽和演算命令により、誤差共分散の演算処理を行い、制御部140は、演算処理において、飽和が発生したと判断する場合には、誤差共分散の固定小数点位置を変更するためのシフト量を決定し、シフト量を演算部120に通知し、演算部120は、制御部140から通知されたシフト量に基づいて、演算処理前の誤差共分散を算術シフトし、固定小数点位置を変更してもよい。
飽和演算とは、サチュレート演算ともいい、数値の上限と下限が決まっており、演算結果がその値を超えた場合は上限値又は下限値になる演算をいう。
これにより、カルマンフィルターの演算処理を飽和演算により行い、演算処理中に飽和が発生したか否かによって、固定小数点位置を変更する否かを決定し、固定小数点位置を調整すること等が可能になる。
また、演算部120は、誤差共分散が行列で表される場合に、演算処理の中で、固定小数点数として各要素を表現される誤差共分散行列の演算処理を行い、制御部140は、誤差共分散が行列で表される場合に、過去の誤差共分散行列の各要素に基づいて、現在の誤差共分散行列の各要素についての固定小数点位置の決定処理を行ってもよい。
行列の各要素の固定小数点位置が異なると、積和の度に固定小数点位置の整合性を取る必要があるため、一つの行列内では同じ固定小数点位置で表現することとする。
具体的には、誤差共分散が行列で表される場合というのは、観測量Zが行列である場合である。この場合には、(6)式、(9)式、(11)式における誤差共分散Pも行列で表される。なお、それに伴い(4)式から(11)式における各項(例えば、X、H、Sなど)も行列で表される。
ここで、状態推定値Xについての誤差共分散は、Xを計算した時の確からしさを意味する。
また、状態推定値Xが(12)式で表すような行列であり、
Xについての誤差共分散Pが(13)式で表すような行列である場合に、
誤差共分散の要素pijは、xiの値を計算した時のxjの値の確からしさを表す。
本実施形態によれば、例えば、誤差共分散の要素の絶対値の中で最も大きい値pklの値に基づき、誤差共分散行列の各要素についての固定小数点位置を調整すること等が可能になる。
また、制御部140は、誤差共分散が行列で表される場合に、過去の誤差共分散行列の対角要素に基づいて、現在の誤差共分散行列の各要素についての固定小数点位置の決定処理を行ってもよい。
対角要素は、行列の対格線上にある要素のことをいい、(13)式の例でいうと、pii等ことである。piiは、xiの値を計算した時のxi自身の確からしさ、いわゆる自己相関を表す。そのため、xiの値の確からしさを知りたい場合には最も有用な情報となる。
これにより、誤差共分散が行列で表される場合に、誤差共分散行列の対角要素の値に基づいて、誤差共分散行列の各要素についての固定小数点位置を調整すること等が可能になる。
また、演算部120は、誤差共分散及び状態推定値の予測処理と観測更新を行い、制御部140は、予測処理における誤差共分散の固定小数点位置の決定処理を行い、観測更新における誤差共分散の固定小数点位置の決定処理を行ってもよい。
これにより、観測更新と予測処理のそれぞれについて、誤差共分散の固定小数点位置を調整すること等が可能になる。
また、制御部140は、(11)式に示すP=FPFT+Qの演算処理により、誤差共分散Pを求める場合に、FPFT及びQの固定小数点位置を、誤差共分散Pの固定小数点位置と同じ位置とする決定処理を行ってもよい。
内部状態変数の加算時において、固定小数点位置の余計な調整を行わなずに、そのまま加算を行うためには、加算する内部状態変数の固定小数点位置をあらかじめ揃えておく必要がある。
例えば、(11)式のP=FPFT+Qの演算を考える。この場合、FPFTとQの固定小数点位置が、左辺のPと同じ固定小数点位置であれば、固定小数点位置の調整をせずに加算を行うことができる。つまり、Pと、FPFT、Qの固定小数点位置を全て同一にすればよい。
これにより、P=FPFT+Qの演算処理により、誤差共分散Pを求める場合に、FPFT及びQの固定小数点位置を、誤差共分散Pの固定小数点位置と同じ位置とする決定処理を行い、計算量を増加させずに、FPFT及びQの固定小数点位置の調整すること等が可能になる。
また、制御部140は、(6)式に示すS=HPHT+Rの演算処理により、観測残差の共分散Sを求める場合に、HPHT及びRの固定小数点位置を、誤差共分散Pの固定小数点位置と同じ位置とする決定処理を行ってもよい。
例えば、(6)式のS=HPHT+Rの演算を考える。この場合、HPHTとRの固定小数点位置が、左辺のSと同じ固定小数点位置であれば、固定小数点位置の調整をせずに加算を行うことができる。つまり、Sと、HPHT、Rの固定小数点位置を全て同一にすればよい。さらに、HPHTの固定小数点位置を、Pの固定小数点位置と同一にすれば、Pと、FPFT、HPHT、Q、S、Rの固定小数点位置を全て同一にすることができ、演算量のさらなる削減を図ることができる。
これにより、S=HPHT+Rの演算処理により、観測残差の共分散Sを求める場合に、HPHT及びRの固定小数点位置を、誤差共分散Pの固定小数点位置と同じ位置とする決定処理を行い、計算量を増加させずに、HPHT及びRの固定小数点位置の調整すること等が可能になる。
なお本実施形態の状態推定装置等は、プログラムにより実現してもよい。この場合には、CPU等のプロセッサーがプログラムを実行することで、本実施形態の状態推定装置等が実現される。具体的には情報記憶媒体に記憶されたプログラムが読み出され、読み出されたプログラムをCPU等のプロセッサーが実行する。ここで、情報記憶媒体(コンピューターにより読み取り可能な媒体)は、プログラムやデータなどを格納するものであり、その機能は、光ディスク(DVD、CD等)、HDD(ハードディスクドライブ)、或いはメモリー(カード型メモリー、ROM等)などにより実現できる。そしてCPU等のプロセッサーは、情報記憶媒体に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体には、本実施形態の各部としてコンピューター(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピューターに実行させるためのプログラム)が記憶される。
3.処理の流れ
以下では、図9と図10のフローチャートを用いて、本実施形態の処理の流れについて説明する。
以下では、図9と図10のフローチャートを用いて、本実施形態の処理の流れについて説明する。
3.1 固定小数点位置を調整しながらカルマンフィルターの演算を行う処理の詳細
図9のフローチャートに示すように、まず、一定期間が経過しているかを判断する(S1)。一定期間が経過している場合には、固定小数点位置の調整を行う(S2)。固定小数点位置の調整後、または一定期間が経過していないと判断する場合には、カルマンフィルターの観測更新処理を行う(S3)。そして、最後に予測処理を行う(S4)。
図9のフローチャートに示すように、まず、一定期間が経過しているかを判断する(S1)。一定期間が経過している場合には、固定小数点位置の調整を行う(S2)。固定小数点位置の調整後、または一定期間が経過していないと判断する場合には、カルマンフィルターの観測更新処理を行う(S3)。そして、最後に予測処理を行う(S4)。
以上の処理を一定周期で行う。
3.1.1 固定小数点位置を調整する処理の詳細
図10のフローチャートに示すように、前回の誤差共分散行列の各要素の絶対値のうち最大となる値を特定する(S10)。次に、特定した値に上位4ビットにより表される値を特定する(S11)。そして、この上位4ビットにより表される値が第一の閾値より大きいかを判断する(S12)。第一の閾値以上であると判断する場合には、右シフト量を決定する(S13)。一方、第一の閾値以下であると判断する場合には、上位4ビットにより表される値が第二の閾値以下であるかを判断する(S14)。第二の閾値以下であると判断する場合には、左シフト量を決定する(S15)。右シフト量又は左シフト量が決定された場合には、シフト量に基づいて誤差共分散Pを算術シフトする(S16)。最後に、算術シフト後、または、上位ビットにより表される値が第二の閾値以下であると判断する場合には、FPFT、HPHT、Q、S、Rの固定小数点位置を、全てPの固定小数点位置と同一にする(S17)。
図10のフローチャートに示すように、前回の誤差共分散行列の各要素の絶対値のうち最大となる値を特定する(S10)。次に、特定した値に上位4ビットにより表される値を特定する(S11)。そして、この上位4ビットにより表される値が第一の閾値より大きいかを判断する(S12)。第一の閾値以上であると判断する場合には、右シフト量を決定する(S13)。一方、第一の閾値以下であると判断する場合には、上位4ビットにより表される値が第二の閾値以下であるかを判断する(S14)。第二の閾値以下であると判断する場合には、左シフト量を決定する(S15)。右シフト量又は左シフト量が決定された場合には、シフト量に基づいて誤差共分散Pを算術シフトする(S16)。最後に、算術シフト後、または、上位ビットにより表される値が第二の閾値以下であると判断する場合には、FPFT、HPHT、Q、S、Rの固定小数点位置を、全てPの固定小数点位置と同一にする(S17)。
以上のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また状態推定装置及びこれを含む電子機器の構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
100 状態推定装置、120 演算部、140 制御部、160 記憶部
Claims (14)
- カルマンフィルターの演算処理を行う演算部と、
前記演算部を制御する制御部と、
前記カルマンフィルターの演算処理の演算結果を記憶する記憶部と、
を含み、
前記演算部は、
前記演算処理として、固定小数点数として表現される誤差共分散の演算処理を行い、
前記制御部は、
過去の前記演算結果に基づいて、現在の前記誤差共分散の固定小数点位置の決定処理を行うことを特徴とする状態推定装置。 - 請求項1において、
前記制御部は、
前記誤差共分散についての過去の前記演算結果に基づいて、現在の前記誤差共分散の前記固定小数点位置についての前記決定処理を行うことを特徴とする状態推定装置。 - 請求項2において、
前記制御部は、
過去の前記誤差共分散の絶対値における上位ビットに基づいて、現在の前記誤差共分散の前記固定小数点位置についての前記決定処理を行うことを特徴とする状態推定装置。 - 請求項3において、
前記制御部は、
過去の前記誤差共分散の絶対値における前記上位ビットにより表される値が、第一の閾値以上である場合には、前記決定処理として、前記誤差共分散の前記固定小数点位置を算術右シフトにより変更するために用いられるシフト量である右シフト量を決定する処理を行い、前記右シフト量を前記演算部に通知し、
前記演算部は、
前記制御部から通知された前記右シフト量に基づき、前記誤差共分散を算術右シフトすることを特徴とする状態推定装置。 - 請求項3又は4において、
前記制御部は、
過去の前記誤差共分散の絶対値における前記上位ビットにより表される値が、第二の閾値以下である場合には、前記決定処理として、前記誤差共分散の前記固定小数点位置を算術左シフトにより変更するために用いられるシフト量である左シフト量を決定する処理を行い、前記左シフト量を前記演算部に通知し、
前記演算部は、
前記制御部から通知された前記左シフト量に基づき、前記誤差共分散を算術左シフトすることを特徴とする状態推定装置。 - 請求項2において、
前記制御部は、
過去の前記誤差共分散の正負判断を行い、過去の前記誤差共分散の正負に応じて、過去の前記誤差共分散に任意のビット列を加算し、前記ビット列の加算によって得られるオーバーフローフラグの値に基づいて、現在の前記誤差共分散の前記固定小数点位置についての前記決定処理を行うことを特徴とする状態推定装置。 - 請求項2において、
前記演算部は、
飽和演算命令により、前記誤差共分散の前記演算処理を行い、
前記制御部は、
前記演算処理において、飽和が発生したと判断する場合には、前記誤差共分散の前記固定小数点位置を変更するためのシフト量を決定し、前記シフト量を演算部に通知し、
前記演算部は、
前記制御部から通知された前記シフト量に基づいて、前記演算処理前の前記誤差共分散を算術シフトし、前記固定小数点位置を変更することを特徴とする状態推定装置。 - 請求項2乃至7のいずれかにおいて、
前記演算部は、
前記誤差共分散が行列で表される場合に、前記演算処理として、固定小数点数として各要素を表現される誤差共分散行列の演算処理を行い、
前記制御部は、
過去の前記誤差共分散行列の各要素に基づいて、現在の前記誤差共分散行列の各要素についての前記固定小数点位置の前記決定処理を行うことを特徴とする状態推定装置。 - 請求項8において、
前記制御部は、
過去の前記誤差共分散行列の対角要素に基づいて、現在の前記誤差共分散行列の各要素についての前記固定小数点位置の前記決定処理を行うことを特徴とする状態推定装置。 - 請求項1乃至9のいずれかにおいて、
前記演算部は、
前記誤差共分散及び状態推定値の予測処理と観測更新を行い、
前記制御部は、
前記予測処理における前記誤差共分散の前記固定小数点位置の前記決定処理を行い、前記観測更新における前記誤差共分散の前記固定小数点位置の前記決定処理を行うことを特徴とする状態推定装置。 - 請求項10において、
前記制御部は、
P=FPFT+Qの演算処理により、前記誤差共分散Pを求める場合に、FPFT及びQの前記固定小数点位置を、前記誤差共分散Pの前記固定小数点位置と同じ位置とする前記決定処理を行うことを特徴とする状態推定装置。 - 請求項10又は11において、
前記制御部は、
S=HPHT+Rの演算処理により、観測残差の共分散Sを求める場合に、HPHT及びRの前記固定小数点位置を、前記誤差共分散Pの前記固定小数点位置と同じ位置とする前記決定処理を行うことを特徴とする状態推定装置。 - 請求項1乃至12のいずれかに記載の状態推定装置を含むことを特徴とする電子機器。
- カルマンフィルターの演算処理を行う演算部と、
前記演算部を制御する制御部と、
前記カルマンフィルターの演算処理の演算結果を記憶する記憶部として、
コンピューターを機能させ、
前記演算部は、
前記演算処理として、固定小数点数として表現される誤差共分散の演算処理を行い、
前記制御部は、
過去の前記演算結果に基づいて、現在の前記誤差共分散の固定小数点位置の決定処理を行うことを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011066398A JP2012203566A (ja) | 2011-03-24 | 2011-03-24 | 状態推定装置、電子機器及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011066398A JP2012203566A (ja) | 2011-03-24 | 2011-03-24 | 状態推定装置、電子機器及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012203566A true JP2012203566A (ja) | 2012-10-22 |
Family
ID=47184535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011066398A Withdrawn JP2012203566A (ja) | 2011-03-24 | 2011-03-24 | 状態推定装置、電子機器及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012203566A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017032825A (ja) * | 2015-08-03 | 2017-02-09 | 株式会社タムラ製作所 | 音符号化システム |
WO2018139266A1 (ja) | 2017-01-30 | 2018-08-02 | 富士通株式会社 | 演算処理装置、情報処理装置、方法、およびプログラム |
EP3474132A1 (en) | 2017-10-17 | 2019-04-24 | Fujitsu Limited | Arithmetic processor, arithmetic processing apparatus including arithmetic processor, information processing apparatus including arithmetic processing apparatus, and control method for arithmetic processing apparatus |
EP3657397A1 (en) | 2018-11-07 | 2020-05-27 | Fujitsu Limited | Training program, training method, and information processing apparatus |
EP3716043A1 (en) | 2019-03-29 | 2020-09-30 | Fujitsu Limited | Information processor, information processing method, and program |
JP2020201646A (ja) * | 2019-06-07 | 2020-12-17 | 富士通株式会社 | 演算処理装置、制御方法、及び制御プログラム |
US10936939B2 (en) | 2018-02-27 | 2021-03-02 | Fujitsu Limited | Operation processing apparatus, information processing apparatus and information processing method |
EP3798929A1 (en) | 2019-09-30 | 2021-03-31 | Fujitsu Limited | Information processing apparatus, information processing method, and information processing program |
JP2022502724A (ja) * | 2019-08-28 | 2022-01-11 | 上海寒武紀信息科技有限公司Shanghai Cambricon Information Technology Co., Ltd | データを処理するための方法、装置、および関連製品 |
-
2011
- 2011-03-24 JP JP2011066398A patent/JP2012203566A/ja not_active Withdrawn
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017032825A (ja) * | 2015-08-03 | 2017-02-09 | 株式会社タムラ製作所 | 音符号化システム |
WO2018139266A1 (ja) | 2017-01-30 | 2018-08-02 | 富士通株式会社 | 演算処理装置、情報処理装置、方法、およびプログラム |
US11137981B2 (en) | 2017-01-30 | 2021-10-05 | Fujitsu Limited | Operation processing device, information processing device, and information processing method |
US10891109B2 (en) | 2017-10-17 | 2021-01-12 | Fujitsu Limited | Arithmetic processor, arithmetic processing apparatus including arithmetic processor, information processing apparatus including arithmetic processing apparatus, and control method for arithmetic processing apparatus |
EP3474132A1 (en) | 2017-10-17 | 2019-04-24 | Fujitsu Limited | Arithmetic processor, arithmetic processing apparatus including arithmetic processor, information processing apparatus including arithmetic processing apparatus, and control method for arithmetic processing apparatus |
US10936939B2 (en) | 2018-02-27 | 2021-03-02 | Fujitsu Limited | Operation processing apparatus, information processing apparatus and information processing method |
EP3657397A1 (en) | 2018-11-07 | 2020-05-27 | Fujitsu Limited | Training program, training method, and information processing apparatus |
US11593620B2 (en) | 2018-11-07 | 2023-02-28 | Fujitsu Limited | Training program, training method, and information processing apparatus |
EP3716043A1 (en) | 2019-03-29 | 2020-09-30 | Fujitsu Limited | Information processor, information processing method, and program |
US11551087B2 (en) | 2019-03-29 | 2023-01-10 | Fujitsu Limited | Information processor, information processing method, and storage medium |
JP2020201646A (ja) * | 2019-06-07 | 2020-12-17 | 富士通株式会社 | 演算処理装置、制御方法、及び制御プログラム |
JP7272121B2 (ja) | 2019-06-07 | 2023-05-12 | 富士通株式会社 | 演算処理装置、制御方法、及び制御プログラム |
JP2022502724A (ja) * | 2019-08-28 | 2022-01-11 | 上海寒武紀信息科技有限公司Shanghai Cambricon Information Technology Co., Ltd | データを処理するための方法、装置、および関連製品 |
JP7034336B2 (ja) | 2019-08-28 | 2022-03-11 | 上海寒武紀信息科技有限公司 | データを処理するための方法、装置、および関連製品 |
EP3798929A1 (en) | 2019-09-30 | 2021-03-31 | Fujitsu Limited | Information processing apparatus, information processing method, and information processing program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2012203566A (ja) | 状態推定装置、電子機器及びプログラム | |
JP4861087B2 (ja) | 演算プログラム変換装置、演算プログラム変換プログラム、演算プログラム変換方法 | |
JP4500358B2 (ja) | 演算処理装置および演算処理方法 | |
KR101913094B1 (ko) | 부동 소수점 값을 정수의 부동 소수점 값으로 라운드하는 장치 및 방법 | |
US20130246496A1 (en) | Floating-point vector normalisation | |
US10725742B2 (en) | Transcendental function evaluation | |
JP3178746B2 (ja) | 浮動小数点数のためのフォーマット変換装置 | |
US20160139882A1 (en) | Accuracy-conserving floating-point value aggregation | |
US8751555B2 (en) | Rounding unit for decimal floating-point division | |
US10019232B2 (en) | Apparatus and method for inhibiting roundoff error in a floating point argument reduction operation | |
KR101786280B1 (ko) | 자기 센서를 동적으로 교정하기 위한 디바이스, 방법 및 매체 | |
US20090049417A1 (en) | Method of designing a circuit for optimizing output bit length and integrated circuit therefor | |
US7194394B2 (en) | Method and apparatus for detecting and correcting inaccuracies in curve-fitted models | |
KR100847934B1 (ko) | 스케일링된 정수를 사용하는 부동 소수점 연산 | |
JP2019212112A (ja) | 演算処理装置、演算処理装置の制御プログラム及び演算処理装置の制御方法 | |
EP3748491A1 (en) | Arithmetic processing apparatus and control program | |
WO2006022048A1 (ja) | 演算方法および装置 | |
WO2022212313A1 (en) | Ml-based discrepancy surrogate for digital twin simulation | |
JP2007279393A (ja) | Parcor係数算出装置、parcor係数算出方法、そのプログラムおよびその記録媒体 | |
CN110880037A (zh) | 神经网络运算模块及方法 | |
CN113076826B (zh) | 一种传感器的滤波方法和装置 | |
Talaš et al. | Predictive control adapting to fractional values of time delay | |
CN113111998A (zh) | 信息处理设备、计算机可读存储介质和神经网络计算方法 | |
KR101084581B1 (ko) | 고정 소수점 지수함수 연산 방법, 장치 및 기록매체 | |
JP7428288B1 (ja) | プラント応答推定装置、プラント応答推定方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140603 |