JPH08212184A - 認識装置および欠損値推定/学習方法 - Google Patents

認識装置および欠損値推定/学習方法

Info

Publication number
JPH08212184A
JPH08212184A JP7015271A JP1527195A JPH08212184A JP H08212184 A JPH08212184 A JP H08212184A JP 7015271 A JP7015271 A JP 7015271A JP 1527195 A JP1527195 A JP 1527195A JP H08212184 A JPH08212184 A JP H08212184A
Authority
JP
Japan
Prior art keywords
sensor information
learning
model
error
missing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP7015271A
Other languages
English (en)
Inventor
Takashi Kimoto
隆 木本
Yoshinori Yaginuma
義典 柳沼
Hiroshi Yamakawa
宏 山川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP7015271A priority Critical patent/JPH08212184A/ja
Publication of JPH08212184A publication Critical patent/JPH08212184A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Abstract

(57)【要約】 【目的】 対象のモデルと適切な内部表現の獲得と、不
完全なセンサ情報による学習/認識の可能な認識装置お
よび欠損値の推定/学習方法を提供すること。 【構成】 観測対象毎に欠損値推定/学習手段4a,4
b,4cをそれぞれ対応づけ、観測対象1をさまざまな
視点から観測したセンサ情報3により、複数の観測対象
に対応した欠損値推定/学習手段4a,4b,4cを学
習させる。欠損値推定/学習手段4a,4b,4cは砂
時計モデルを具備し、iterative inversion 法と誤差逆
伝搬により、不完全なセンサ情報の欠損値を推定しモデ
ル獲得を行う。欠損値推定/学習手段4a,4b,4c
を学習させたのち、センサ2により観測した観測対象1
のセンサ情報3を複数の欠損値推定/学習手段4a,4
b,4cに与え、最小値誤差選択手段5により誤差が最
小となる欠損値推定/学習手段を選択し、センサ2によ
り観測された観測対象の認識を行う。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ニューラルネット等の
学習モデルを用いた認識装置および欠損値推定/学習方
法に関し、特に本発明は、ロボット、産業装置、視聴覚
認識等に用いられるセンシング技術、複数のセンサ情報
を統合処理するセンサフュージョン技術等に適用するの
に好適な認識装置および欠損値推定/学習方法に関する
ものである。
【0002】
【従来の技術】人間のような多種多様なセンサ情報を融
合した情報処理機構を工学的に実現するためには、異種
センサ情報の同種の情報への段階的な変換/融合、モデ
ル/内部表現の自動獲得、センサ情報のあいまい性を許
容できる柔軟性、認識と運動の相互関係の記述を可能と
する枠組みが必要である。
【0003】これまでに、内部表現とセンシング対象の
センサ情報の対応関係を学習した順方向の階層形ネット
ワークと誤差逆伝搬により入力ユニットの値を修正する
手法(iterative inversion 法)を用いて、認識系と運
動系の情報交換やトップダウン情報を利用した認識問題
の不良設定性の回避などが可能な認識モデルが知られて
いる。
【0004】図11は従来のニューラルネットワークに
よるパターン認識を示す図である。同図に示したニュー
ラルネットワークは、複数の入力ユニットUi と中間層
ユニットUm と出力ユニットUoから構成され、周知な
ように、予め、ニューラルネットに学習データを与えて
学習させたのち、入力ユニットUi にセンサ情報を与え
て物体A,B,Cを識別するものである。
【0005】ここで、上記ニューラルネットワークにお
いて、センサ情報等に欠損があり、入力データが不完全
であると、物体を正しく認識することができない。前記
したiterative inversion 法は、上記ニューラルネット
ワークにおいて、入力データが不完全な場合、出力ユニ
ットUo の値と教師信号を比較して、誤差を求める。そ
して求めた誤差を逆伝搬しながら、出力ユニットUo の
値と教師信号が一致するように入力ユニットUiの値を
修正することにより、不完全な入力データを復元するよ
うにしたものである(その詳細については、例えば、特
開平6−96047号公報、特開平6−96220号公
報等を参照されたい)。
【0006】上記したニューラルネットワークはパター
ン認識の手法や3次元物体のモデル表現方法の観点から
も、従来の記号処理、数式、幾何モデルなどの手法と比
較して、センサ情報の誤差や曖昧性の吸収と適切な補間
が可能な柔軟性を備えている。しかしながら、図11の
ニューラルネットワークは、観測したセンサ情報に欠
損値が生ずると、上記したようにその値を復元しなけれ
ば適切な認識処理ができない、学習に物体を識別する
ための教師信号が必要、識別する物体の種別の増加に
伴い学習データが大幅に増加し、膨大な学習時間を必要
とする、という問題があった。
【0007】このため、ニューラルネットを実世界のセ
ンサ情報の認識や統融合の手段として使うための課題と
して、センサ情報の不完全性への対応、自律的な学習、
学習時間の高速化が上げられている。特に、実環境にお
いては、オクルージョンや照明条件などのさまざまな不
完全性の影響によりセンシング対象のすべてのセンサ情
報を常に観測できることは極めてまれであり、完全なセ
ンサ情報を仮定することは非現実的な条件である。ま
た、3次元物体を対象にした場合、視線方向に依存して
観測できる物体のセンサ情報が変化するセルフオクルー
ジョンの問題があり、一般に不完全なセンサ情報しか獲
得できない。
【0008】これまでに、不完全データの問題に対し
て、Jordanらによる統計的な視点から不完全なデータか
ら学習するための統計的アルゴリズム(EMアルゴリズ
ム)が知られている〔Jordan,Ghahramani,Z and Jordan
MI(1994)"Supervised learnigfrom incomplete data v
ia an EM approach" To appear in Cowan,JD.,Tesauro,
G.,and Alspector,J.(eds).Advances in Neural Inform
ation Processing System 6. Morgan Kaufmann Publish
ers,San Francisco,CA,1994. 〕。
【0009】一方、Cottrell等によりニューラルネット
ワークによる情報圧縮の手法として提案された砂時計形
のニューラルネットワークモデル(以下、砂時計モデル
とよぶ)〔Cottell,G.W.,Muno,P.,and Zipper,D.,"Imag
e Compression by Back Propagation. An Example of E
xtension Programmins",ICS Report 8702,Institutefor
Cognitive Science,UCSD,1987 〕は未知の対象のモデ
ルと適切な内部表現の自動的な獲得を実現する枠組みと
して着目され、モデル獲得/物体認識や情報の統融合に
砂時計モデルを応用する研究が盛んになってきた。
【0010】Cottell 等は砂時計モデルを用いて画像情
報からの人の性別、表情などの識別に充分な特徴が抽出
できることを示した〔Cottell,G.W.and Metcalfe,J.,"E
MPATH:Face,Emotion,and Gender Recognition Using Ho
lons" ,NIPS3,pp.564-572,1991. および DeMers,D.and
Cottell,G.W.,"Non-Linear Dimensionality Reductio
n",NIPS5,pp.580-587,1993. 〕。
【0011】ATRの鈴木、安藤等は、砂時計モデルを
3次元物体のモデル表現に適用する手法を提案し、Jord
an等のモジュール構造形ネットワークと組み合わせて、
複数の3次元物体の射影像を与えるだけで、認識・識別
が自動的に行われることを示した〔鈴木、安藤、”モジ
ュール学習による3次元物体の識別と類別”、信学技
報、NC93-62 、pp.59-66、1993. 〕。
【0012】さらに、コンパクトな内部表現を自動的に
獲得する手法として、砂時計モデルの中間層ユニットの
個数を自動的に調整する過負荷学習法が野田らにより提
案されている〔野田、" 過負荷学習を用いた恒等写像学
習による内部表現獲得”、日本神経回路学会5回全国大
会講演論文集、pp.80-81,1994.〕。図12は前記した従
来の鈴木、安藤らによる砂時計モデルの認識識別方法を
簡略化して示したものである。
【0013】同図において、N1〜N3は砂時計モデル
であり、砂時計モデルは、図13に示すように、同一個
数の入出力ユニットを持ち、中間層のユニット数を入出
力ユニット層のユニット数より絞った階層形ネットワー
クである。そして、砂時計モデルの入力と出力に同一の
データを与え、恒等写像を学習させる。ここで、絞り込
まれた中間層ユニットの出力値を学習データの内部表現
と考えると、砂時計モデルは、同図に示すように、学習
データの本質的な情報を表す内部表現、学習データから
の内部表現への逆モデル部(情報圧縮)、内部表現から
学習データへの順モデル部(情報復元)を学習により同
時に獲得するものと考えることができる。
【0014】図12において、物体の認識は次のように
行われる。まず、対象物体毎に一つの砂時計モデルを対
応づけ、対象物体をさまざまな視点から観測したセンサ
情報により複数の物体対応の砂時計モデルを学習する。
図12においては、砂時計モデルN1を物体Aに、砂時
計モデルN2を物体Bに、さらに、砂時計モデルN3を
物体Cに対応付け、それぞれの砂時計モデルに物体A,
B,Cについて観測したセンサ情報を与え学習させてい
る。
【0015】これにより、各々の砂時計モデルは、学習
した対象物体の内部表現とセンサ情報と内部表現の順/
逆モデルを獲得し、恒等写像を実現する。ここで、砂時
計モデルは学習した物体のセンサ情報に対しては恒等写
像を実現するが、学習していない物体に対しては、入力
したセンサ情報と異なったセンサ情報を出力する。この
特徴を利用して、入力したセンサ情報と出力ユニットの
誤差を比較することにより物体認識を行うことができ
る。
【0016】図12において、未知物体のセンサ情報を
複数の砂時計モデルに入力すると、各々の砂時計モデル
はセンサ情報の変換を行い、入力されたセンサ情報を復
元することを試みる。全ての砂時計モデルの出力値と入
力値の誤差が計算され、誤差が最も少ない砂時計モデル
に対応した物体を対象物体とみなすことにより、物体の
識別が可能となる。もし、どの砂時計モデルも充分に誤
差が小さくならなければ、未知物体であると判定する。
なお、上記図12に示した砂時計モデルにおいては、入
力センサ情報に欠損があると、砂時計モデルは入力され
たセンサ情報を復元することができず、物体を識別する
ことはできない。
【0017】
【発明が解決しようとする課題】本発明は、従来のニュ
ーラルネットを実世界のセンサ情報の認識や統融合の手
段として使うための課題であった、センサ情報の不完全
性への対応、自律的な学習、学習時間の高速化を実現す
るためになされたものであって、本発明の目的は、前記
した砂時計モデルとiterative inversion 法を融合し、
対象のモデルと適切な内部表現の自律的な獲得と、不完
全なセンサ情報による学習/認識の可能な認識装置およ
び欠損値の推定/学習方法を提供することである。
【0018】
【課題を解決するための手段】図1、図2は本発明の原
理を説明する図であり、図1は本発明の認識装置の原理
構成図、図2は本発明における欠損値推定/学習方法の
原理を示している。図1において、1は認識の対象とな
る観測対象であり、例えば、物体の形状、人の表情、物
体や人/動物の動き等が本発明の観測対象となる。2は
該観測対象の画像、観測対象が発生する音、観測対象の
触覚等を検出するセンサ、3はセンサ情報であり、セン
サ情報3はセンサ2により検出された画像情報、音情報
等、および、それらから抽出された特徴量を含む。
【0019】4a〜4cは、本発明の欠損値推定/学習
手段である。欠損値推定/学習手段4a〜4cは図2
(a)(b)に示すように砂時計モデルを具備し、不完
全なセンサ情報を推定し、不完全なセンサ情報により認
識/学習を行う機能を備えている。5は最小誤差選択手
段であり、上記欠損値推定/学習手段4a〜4cが出力
する誤差の内、最小のものを選択し、認識結果を出力す
る。
【0020】図2において、図2(a)は本発明におけ
る欠損値推定方法の原理を示す図であり、同図に示すよ
うに、砂時計モデル40の出力データとセンサ情報の誤
差を誤差逆伝搬手段41によりセンサ情報が欠損した入
力ユニットに逆伝搬して、入力ユニット更新手段42に
より入力値の修正を行う。図2(b)は本発明における
学習方法の原理を示す図であり、同図に示すように、砂
時計モデル40の出力データとセンサ情報の誤差を誤差
逆伝搬手段41によりセンサ情報が欠損した入力ユニッ
トに逆伝搬し、入力ユニット更新手段42により入力値
の修正を行うとともに、重み更新手段43により砂時計
モデルの重みを更新する。
【0021】前記課題を解決するため、本発明の請求項
1の発明は、図1、図2(a)に示すように、センシン
グ対象のセンサ情報の恒等写像を学習することにより、
センシング対象のモデルを獲得する複数のニューラルネ
ットワーク等のモデル学習装置から構成され、未知のセ
ンシング対象のセンサ情報に対して恒等写像に近い出力
を生成したモデル学習装置を選択することによりセンシ
ング対象を認識する認識装置であって、上記モデル学習
装置の出力とセンサ情報との誤差を逆伝搬する誤差逆伝
搬手段と、入力ユニット更新手段とを備え、一部が欠損
したセンサ情報に対して、上記誤差逆伝搬手段により上
記誤差を欠損した値に対応する入力ユニットに逆伝搬
し、上記入力ユニット更新手段により恒等写像を実現す
るように欠損した値を更新し、値の欠損したセンサ情報
の認識を行うように構成したものである。
【0022】本発明の請求項2の発明は、図1、図2
(b)に示すように、センシング対象のセンサ情報の恒
等写像を学習することにより、センシング対象のモデル
を獲得する複数のニューラルネットワーク等のモデル学
習装置から構成され、未知のセンシング対象のセンサ情
報に対して恒等写像に近い出力を生成したモデル学習装
置を選択することによりセンシング対象を認識する認識
装置であって、上記モデル学習装置の出力とセンサ情報
との誤差を逆伝搬する誤差逆伝搬手段と、上記モデル学
習装置の重みを更新する重み更新手段と、入力ユニット
更新手段とを備え、一部が欠損したセンサ情報に対し
て、上記誤差逆伝搬手段により上記誤差を欠損した値に
対応する入力ユニットに逆伝搬し、恒等写像を実現する
ように上記入力ユニット更新手段により欠損した値を更
新しながら、上記重み更新手段により重みを更新し学習
を行うように構成したものである。
【0023】本発明の請求項3の発明は、請求項1また
は請求項2の発明において、上記誤差逆伝搬手段が、上
記誤差を中間層ユニットに逆伝搬し、モデル学習装置の
中間層ユニットから出力層への部分のみを用いて誤差を
逆伝搬して中間層ユニットの値を修正することにより、
値の欠損したセンサ情報の認識を行うようにしたもので
ある。
【0024】本発明の請求項4の発明は、請求項1,2
または請求項3の発明において、2次元または3次元物
体の特徴量をセンサ情報として与え、物体のモデル獲得
/認識を行うようにしたものである。本発明の請求項5
の発明は、センシング対象のセンサ情報の恒等写像を学
習することにより、センシング対象のモデルを獲得する
ニューラルネットワーク等のモデル学習装置におけるセ
ンサ情報の欠損値推定方法において、図2(a)に示す
ように、一部が欠損したセンサ情報に対して、モデル学
習装置の出力とセンサ情報との誤差を欠損した値に対応
する入力ユニットに逆伝搬し、恒等写像を実現するよう
に欠損した値を修正することにより、値の欠損したセン
サ情報を推定するようにしたものである。
【0025】本発明の請求項6の発明は、センシング対
象のセンサ情報の恒等写像を学習することにより、セン
シング対象のモデルを獲得するニューラルネットワーク
等のモデル学習装置におけるセンサ情報の欠損値推定方
法において、センシング対象のセンサ情報を学習したモ
デル学習装置の中間層ユニットから出力層ユニットへの
部分のみを用いて、センサ情報と出力との誤差を逆伝搬
して中間層ユニットの値を修正することにより、値の欠
損したセンサ情報を推定するようにしたものである。
【0026】本発明の請求項7の発明は、請求項5また
は請求項6の発明において、欠損した値に対応した出力
ユニットに対して出力の誤差計算を省略するようにした
ものである。本発明の請求項8の発明は、センシング対
象のセンサ情報の恒等写像を学習することにより、セン
シング対象のモデルを獲得するニューラルネットワーク
等のモデル学習装置における学習方法において、図2
(b)に示すように、一部が欠損したセンサ情報に対し
て、モデル学習装置の出力とセンサ情報との誤差を欠損
した値に対応する入力ユニットに逆伝搬し、欠損した値
を修正することによりセンサ情報を推定しながら、モデ
ル学習装置の重みを更新し学習を行うようにしたもので
ある。
【0027】本発明の請求項9の発明は、請求項8の発
明において、欠損した値に対応する出力ユニットからの
誤差逆伝搬を省略することにより値の欠損したセンサ情
報から学習するようにしたものである。本発明の請求項
10の発明は、請求項8または請求項9の発明におい
て、欠損した値に対応する入力ユニットに結合した重み
を変更しないようにしたものである。
【0028】本発明の請求項11の発明は、請求項5,
6,7,8,9または請求項10の発明において、入力
ユニットの更新定数を学習データの個数および欠損ユニ
ットの個数の関数により決定するようにしたものであ
る。本発明の請求項12の発明は、請求項5,6,7,
8,9,10または請求項11の発明において、学習デ
ータから統計的に推定される平均値や中間値などを欠損
した値の初期値として設定するようにしたものである。
【0029】本発明の請求項13の発明は、請求項5,
6,7,8,9,10,11または請求項12の発明に
おいて、モデル学習装置の中間層ユニットの個数を入力
センサ情報の次元より小さくし、中間層ユニットからセ
ンサ情報の因子を抽出するようにしたものである。本発
明の請求項14の発明は、請求項13の方法により抽出
された因子を入力として、モデル学習装置により教師付
き学習を行うようにしたものである。
【0030】
【作用】本発明は、オクルージョンや照明条件などの影
響により、対象物体のすべてのセンサ情報が観測できず
一部が欠損している場合でも物体認識とモデル獲得を実
現できるモデル学習装置を提供する。以下、本発明によ
る不完全データによる認識、および、不完全データによ
る学習方法について説明する。 (1)不完全データによる認識 まず、センサ情報の一部が欠損した不完全データに対し
て、学習済みの砂時計モデルが欠損したセンサ情報を推
定することにより物体認識を実現する手法について説明
する。
【0031】図2(a)は順モデルを用いた誤差逆伝搬
などの最急降下法に基づく反復アルゴリズム(前記した
iterative inversion 法)を適用した砂時計モデルによ
る不完全データに対する認識動作の概略を説明する図で
ある。同図において、砂時計モデル40の入力層には一
部の特徴量が欠損したセンサ情報が与えられる。また、
同一のセンサ情報が砂時計モデル40の出力側に与えら
れ、出力データとの誤差が求められ誤差逆伝搬手段41
により入力ユニット更新手段42に逆伝搬される。
【0032】同図において不完全なセンサ情報による認
識を行う場合には、まず、一部が欠損している入力デー
タの値に適当な初期値を入力し、前向き処理により出力
データを出力する。ここで、上記初期値として、学習デ
ータから統計的に推定される平均値や中間値などを用い
ることにより欠損値の推定動作を短時間で収束させるこ
とができる。
【0033】この段階では、欠損している入力データに
正しい値が代入されていないので、一般に砂時計モデル
は入力データを正しく復元することはできず、恒等写像
は実現できない。そこで、出力データとセンサ情報間の
誤差を計算し、前記したiterative inversion 法を適用
し、入力ユニット更新手段42により反復的に入力ユニ
ットの値を更新していく。
【0034】その結果、欠損した入力値に対応した入力
ユニットの値は、観測されたセンサ情報の誤差を最小化
するように適切な欠損値の推定が行われ、砂時計モデル
は恒等写像を実現するようになる。ここで、欠損した入
力データに対応する出力ユニットに対しては誤差計算を
省略することができ、これにより、欠損値に影響される
ことなく、適切な欠損値推定を行うことができる。
【0035】上記入力ユニットの更新は次のように行わ
れる。学習データ(=入力データ)をPとし、Cp =
{センサ情報が観測された入出力ユニットのインデック
スの集合}、MP ={センサ情報が欠損した入出力ユニ
ットのインデックスの集合}、学習データ(=入力デー
タ)Pに対する出力ユニットiの出力Opi、教師信号
(=入力データ)をSpiとし、エネルギー関数を次の
(1)式のように定義する。
【0036】さらに、入力ユニットの誤差(∂Emissng
/∂Sj )により以下の(2)(3)式のようにして欠
損値に対応した入力ユニットを更新する。
【0037】
【数1】
【0038】上記式において、(∂Emissng/∂Sj )
は入力データに対するエネルギー関数の変化率を示し、
また、εmissing は更新定数であり、欠損値を含む入力
データの場合には、上記(2)式に示すように、欠損値
に対応した入力ユニットの値を、エネルギー関数の変化
率(∂Emissng/∂Sj )に更新定数εmissing を掛け
た値で更新する。また、入力データが欠損値を含まない
場合には、上記(3)式に示すように入力ユニットの値
を更新しない。
【0039】なお、上記更新定数εmissing は、予め与
えられる所定値であり、学習データの個数および欠損ユ
ニットの個数の関数により決定することができる。すな
わち、mを欠損値ユニット数とすると、ε'missing=f
(εmissing ,m) なる関数で入力ユニットを更新する。
例えば、ε'missing=εmissing /m とすることによ
り、欠損値ユニット数に応じた更新定数を定めることが
できる。同様に、学習データの個数もしくは学習データ
の個数と上記欠損値ユニット数に基づき更新定数を定め
ることもできる。
【0040】上記式に基づき、欠損値に対応した入力ユ
ニットの値を繰り返し更新していき、出力データと入力
データ間の誤差が所定値以内になったときの欠損値に対
応した入力ユニットもしくは出力ユニットの値により欠
損値の推定を行う。なお、上記説明では、誤差逆伝搬を
行って入力ユニットの値を更新しているが、図2(a)
の破線で示すように、中間層ユニットから出力層への部
分のみを用いて誤差逆伝搬し、中間層ユニットの値を修
正するようにしてもよい。これにより、処理量を減少さ
せ処理速度を向上させることができる。
【0041】また、前記したように、砂時計モデルにお
ける中間層ユニットの値はセンサ情報(学習データ)を
圧縮した内部表現と考えることができるので、中間層ユ
ニットの値を取り出すことにより、センサ情報の因子を
抽出することができる。これを利用してニューラルネッ
トワークにより教師付き学習を行えば、ニューラルネッ
トワーク等のモデル学習装置の入力ユニットの個数を減
少させることができ、実行速度の向上を図ることができ
る。 (2)不完全データによる学習 図2(b)は砂時計モデルによる不完全データによる学
習動作の概略を説明する図であり、欠損値を含む不完全
データにより砂時計モデルを学習させるには、、同図に
示すように、学習による重みの更新と上記iterative in
version 法による入力値の更新を並行して動作させる。
【0042】同図において欠損値を持つ不完全データか
ら学習させる際には、まず、欠損値に適当な初期値を代
入した学習データ(入力データ)を用いて、エネルギー
関数Emissngを最小化するように、通常の誤差逆伝搬法
により学習を行う。すなわち、同図に示すように、出力
データと入力データの誤差を誤差逆伝搬手段41により
逆伝搬し、重み更新手段43により砂時計モデルの重み
を更新する。なお、ここでも、前記したように、欠損値
に対応した出力ユニットの誤差計算を省略することがで
き、これにより、欠損値に影響されることなく、適切な
欠損値推定を行うことができる。また、欠損した値に対
応する入力ユニットに結合した重みを変更しないように
することができ、これにより、欠損値に影響されること
なく、学習を行うことができる。
【0043】さらに、エネルギー関数Emissngを最小化
するように前記iterative inversion 法による入力ユニ
ットの更新を並行して動作させる。そして、更新した入
力ユニットの値に基づいて、新たな学習データ(入力デ
ータ)自体を得て、欠損値を推定しながら学習を進めて
いく。すなわち、重みが更新された砂時計モデルに、更
新された学習データ(入力データ)を与えて砂時計モデ
ルの重みを更新し、重みが更新された砂時計モデルに前
記(2)(3)式を適用して欠損値に対応した入力デー
タを得て、該入力データを学習データとして砂時計モデ
ルに与える動作を繰り返し、砂時計モデルの重みを更新
しながら、欠損値に対応した入力ユニットの値を更新す
る。 (3)センシング対象の認識 上記(1)(2)で説明した欠損値推定/学習手段を用
い、前記図12と同様にして、センシング対象となる物
体等の認識を行うことができる。
【0044】すなわち、観測対象毎に図1に示す欠損値
推定/学習手段4a,4b,4cをそれぞれ対応づけ、
観測対象1をさまざまな視点から観測したセンサ情報3
により、複数の観測対象に対応した欠損値推定/学習手
段4a,4b,4cを学習させる。ここで、前記したよ
うに、オクルージョンや照明条件などの影響により、セ
ンサ情報3の一部が欠損している場合があるが、上記
(1)(2)で説明した欠損値推定/学習手段を用いる
ことにより、不完全情報の欠損値の推定およびモデル獲
得を実現することができる。
【0045】上記のように、欠損値推定/学習手段4
a,4b,4cを学習させたのち、センサ2により観測
した観測対象1のセンサ情報3を複数の欠損値推定/学
習手段4a,4b,4cに与え、最小値誤差選択手段5
により誤差が最小となる欠損値推定/学習手段を選択
し、センサ2により観測された観測対象の認識を行う。
その際、上記したように、センサ情報3の一部が欠損し
ていても、上記(1)(2)で説明した欠損値推定/学
習手段を用いることにより、欠損したセンサ情報を推定
し、観測対象を正しく認識することができる。
【0046】本発明は上記原理に基づき、観測対象の認
識、欠損値の推定/モデル学習を行うようにしたもので
あり、本発明の請求項1の発明においては、図1、図2
(a)に示すように、センシング対象のセンサ情報の恒
等写像を学習することにより、センシング対象のモデル
を獲得する複数のニューラルネットワーク等のモデル学
習装置と、その出力とセンサ情報との誤差を逆伝搬する
誤差逆伝搬手段と、入力ユニット更新手段とを設け、一
部が欠損したセンサ情報に対して、上記誤差逆伝搬手段
により上記誤差を欠損した値に対応する入力ユニットに
逆伝搬し、上記入力ユニット更新手段により恒等写像を
実現するように欠損した値を更新し、未知のセンシング
対象のセンサ情報に対して恒等写像に近い出力を生成し
たモデル学習装置を選択することによりセンシング対象
を認識するようにしたので、センサ情報に欠損値がある
場合であっても、観測対象を正しく認識することができ
る。
【0047】本発明の請求項2の発明においては、図
1、図2(b)に示すように、センシング対象のセンサ
情報の恒等写像を学習することにより、センシング対象
のモデルを獲得する複数のニューラルネットワーク等の
モデル学習装置と、その出力とセンサ情報との誤差を逆
伝搬する誤差逆伝搬手段と、上記モデル学習装置の重み
を更新する重み更新手段と、入力ユニット更新手段とを
設け、一部が欠損したセンサ情報に対して、上記誤差逆
伝搬手段により上記誤差を欠損した値に対応する入力ユ
ニットに逆伝搬し、恒等写像を実現するように上記入力
ユニット更新手段により欠損した値を更新しながら、上
記重み更新手段により重みを更新し学習を行い、未知の
センシング対象のセンサ情報に対して恒等写像に近い出
力を生成したモデル学習装置を選択することによりセン
シング対象を認識するようにしたので、センサ情報に欠
損値がある場合であっても、学習を行って観測対象を正
しく認識することができるようになる。
【0048】本発明の請求項3の発明においては、請求
項1または請求項2の発明において、上記誤差逆伝搬手
段が、上記誤差を中間層ユニットに逆伝搬し、モデル学
習装置の中間層ユニットから出力層への部分のみを用い
て誤差を逆伝搬して中間層ユニットの値を修正すること
により、値の欠損したセンサ情報の認識を行うようにし
たので、少ない処理量で欠損値の推定を行うことができ
る。
【0049】本発明の請求項4の発明おいては、請求項
1,2または請求項3の発明において、2次元または3
次元物体の特徴量をセンサ情報として与え、物体のモデ
ル獲得/認識を行うようにしたので、2次元または3次
元物体を正確に識別することができる。本発明の請求項
5の発明においては、図2(a)に示すように、一部が
欠損したセンサ情報に対して、モデル学習装置の出力と
センサ情報との誤差を欠損した値に対応する入力ユニッ
トに逆伝搬し、恒等写像を実現するように欠損した値を
修正するようにしたので、値の欠損したセンサ情報の欠
損値を適切に推定することができる。
【0050】本発明の請求項6の発明においては、セン
シング対象のセンサ情報を学習したモデル学習装置の中
間層ユニットから出力層ユニットへの部分のみを用い
て、センサ情報と出力との誤差を逆伝搬して中間層ユニ
ットの値を修正するようにしたので、少ない処理量で値
の欠損したセンサ情報を推定することができる。本発明
の請求項7の発明においては、請求項5または請求項6
の発明において、欠損した値に対応した出力ユニットに
対して出力の誤差計算を省略するようにしたので、欠損
したデータの値に影響されることなく、適切な欠損値推
定を行うことができる。
【0051】本発明の請求項8の発明においては、図2
(b)に示すように、一部が欠損したセンサ情報に対し
て、モデル学習装置の出力とセンサ情報との誤差を欠損
した値に対応する入力ユニットに逆伝搬し、欠損した値
を修正することによりセンサ情報を推定しながら、モデ
ル学習装置の重みを更新し学習を進めて行くようにした
ので、欠損値推定を行うことができるとともに、不完全
な学習データで、モデル学習を行うことができる。
【0052】本発明の請求項9の発明においては、請求
項8の発明において、欠損した値に対応する出力ユニッ
トからの誤差逆伝搬を省略することにより値の欠損した
センサ情報から学習するようにしたので、欠損値に影響
されることなく、適切な欠損値推定/学習を行うことが
できる。本発明の請求項10の発明においては、請求項
8または請求項9の発明において、欠損した値に対応す
る入力ユニットに結合した重みを変更しないようにした
ので、欠損値に影響されることなく、適切な学習を行う
ことができる。
【0053】本発明の請求項11の発明においては、請
求項5,6,7,8,9または請求項10の発明におい
て、入力ユニットの更新定数(前記したεmissing )を
学習データの個数および欠損ユニットの個数の関数によ
り決定するようにしたので、例えば、学習データの個数
および欠損ユニットの個数が増加したとき、それに応じ
て更新定数を小さくするなど、更新定数を適切な値に定
めることができる。
【0054】本発明の請求項12の発明においては、請
求項5,6,7,8,9,10または請求項11の発明
において、学習データから統計的に推定される平均値や
中間値などを欠損した値の初期値として設定するように
したので、欠損値の推定動作を短時間で収束させること
ができ、処理速度を速くすることができる。本発明の請
求項13の発明においては、請求項5,6,7,8,
9,10,11または請求項12の発明において、モデ
ル学習装置の中間層ユニットの個数を入力センサ情報の
次元より小さくし、センサ情報の因子を中間層ユニット
から抽出するようにしたので、センサ情報を圧縮し、そ
の因子を解析することができる。
【0055】本発明の請求項14の発明においては、請
求項13の方法により抽出された因子を入力として、モ
デル学習装置により教師付き学習を行うようにしたの
で、ニューラルネットワーク等のモデル学習装置の入力
ユニットの個数を減少させることができ、ネットワーク
の規模を小さくすることによる実行速度の向上を図るこ
とができる。
【0056】
【実施例】以下、本発明の実施例を説明する。 (1)本発明の欠損値推定/学習方法による3次元物体
認識のシミュレーション本発明の欠損値推定/学習方法
により、以下のように3次元物体認識の計算機シミュレ
ーションを行い、砂時計モデルによる物体認識の有効性
を検証した。 (a) 3次元物体認識 図3(a)に示すように、世界座標系の原点を向いた視
覚センサ11が3次元物体を観測し、その2次元投影像
の特徴点座標から物体を認識する問題を考える。
【0057】視覚センサ11は原点中心に視線の方向
(φ,θ)を変更でき、様々な投影像を収集できるもの
とする。ここで、視覚センサ21と世界座標系の原点間
の距離は常に一定であり、2次元投影上での特徴点の対
応関係は完全に分かっているとした。図3(b)は認識
対象物体を示す図であり、学習した3次元物体Aと評価
に用いた未学習の3次元物体B,Cを示しており、同図
に示すように、物体は4つの特徴点により表現され、各
特徴点の2次元投影の視覚座標系での座標値がセンサ情
報12として得られるものとする。
【0058】図4は本シミュレーション・システムの構
成を示す図であり、同図において、10は認識対象とな
る物体、11は視覚センサ、12はセンサ情報、13は
前記図2に示した欠損値推定/学習手段、14は誤差計
算手段である。欠損値推定/学習手段13は前記したよ
うに砂時計モデル13aを具備し、本シミュレーション
においては、砂時計モデル13aとして、入力層ユニッ
ト8、中間層第1ユニット8、中間層第2ユニット2、
中間層第3ユニット8、出力層ユニット8の5層の階層
ユニット(8−8−2−8−8)を用いて認識対象の物
体Aの学習を行った。
【0059】そして、誤差計算手段14により上記欠損
値推定/学習手段13の出力データとセンサ情報の自乗
誤差を求めて認識結果を評価した。学習データとして
は、視覚センサ11の視点を0≦φ<360°,0≦θ
<60°の範囲で30°毎に変更し、物体Aを様々な視
点方向から観測した2次元のセンサ情報を36種類収集
した。これらのセンサ情報を、0.1〜0.9の範囲に
正規化し、各特徴点の視覚座標系での位置のx,y座標
を砂時計モデルの入出力ユニットに対応づけた。
【0060】そして、誤差逆伝搬による重み更新定数ε
=0.139(5.0/学習パターン数)、α=0.4
としてバッチ型の学習を行った。100,000回の学
習により、砂時計モデル13aは物体Aのセンサ情報の
恒等写像を学習し、物体Aのモデルとその内部表現を獲
得した。次に、物体Aを学習した砂時計モデルの認識能
力を以下の3種類の評価データにより評価した。 (i) 物体Aを学習データと異なる視線方向から観測した
センサ情報 視覚センサ11の視点を15≦φ<360°,15≦θ
<45°の範囲で30°毎に変更し、学習データの中間
の視線方向から物体Aを観測した24種類のセンサ情
報。 (ii)物体Bのセンサ情報 物体Aの学習データと同様に、視覚センサ11の視点を
0≦φ<360°,0≦θ<60°の範囲で30°毎に
変更し、物体Bを観測した36種類のセンサ情報。 (iii) 物体Cのセンサ情報 物体Cを物体Bと同様に観測したセンサ情報。
【0061】図5は上記評価結果を示す図である。同図
は、縦軸に砂時計モデルの出力と入力データとの自乗誤
差を示し、横軸は評価データを表し、各種別毎に自乗誤
差の小さいデータから昇順に並べている。この結果か
ら、砂時計モデルは、物体の2次元投影写像による見え
方による一般化したモデルを獲得し、未学習の視線方向
からの見え方に対しても適切な補間ができていることが
わかる。特に、物体Aと形状の異なる物体Cに対しては
大多数のセンサ情報に対して誤差が大きくなる結果が得
られており、ほとんどの視線方向から物体Aと識別する
ことができることがわかる。
【0062】物体Bは視線方向によっては物体Aに近い
見え方を持つが、同様に多くのセンサ情報に対して誤差
が大きくなっており、視線方向を適切に選択することに
より物体Aとの識別が可能であることがわかる。 (b) 不完全データによる認識 センサ情報の一部が欠損している場合でも、前記iterat
ive inversion 法を砂時計モデルに適用することによっ
て、適切な認識ができることをシミュレーションにより
検証した。
【0063】上記(a) の物体Aのデータで学習した砂時
計モデルと同様の評価データを用いて、図3の各物体の
特徴点4が欠損している場合の評価を行った。図6は上
記評価結果を示す図であり、図中で+の記号は欠損して
いる値に適当な初期値(0.5)を設定した場合の砂時
計モデルの誤差、○はiterative inversion 法により欠
損値の初期値を100回修正した場合の誤差を示す。
【0064】同図から明らかなように、欠損値の推定を
行わない場合には(同図の+の点参照)、全ての物体に
対しての誤差が大きくなってしまい適切な物体認識がで
きない。しかし、前記したiterative inversion 法によ
り欠損値の推定を行うことにより、学習物体Aの誤差を
完全なデータが得られた場合と同じ程度にすることがで
き(同図の○の点参照)、適切な認識を達成することが
できる。 (c) 不完全データによる学習 次に、誤差逆伝搬法による重みの更新とiterative inve
rsion 法による入力ユニットの更新を併用することによ
り、不完全なデータから適切な学習ができることをシミ
ュレーションにより検証した。
【0065】ここでは、前記(a) の物体認識のシミュレ
ーションの物体Aの学習データに以下の条件で欠損値が
生じているとして、これを砂時計モデルに学習させた。 特徴点1が欠損 φ=0,30、θ=0,30,60の6つの視線方向か
ら見たときに特徴点1が観測できない。 特徴点2が欠損 φ=60,θ=0,30,60の3つの視線方向から特
徴点2が観測できない。
【0066】この9つの欠損値を持つ学習データの欠損
値として0.5を与え、前記図2(b)で説明した学習
方法を含めた以下の3種類の学習を行った結果と欠損値
を持たない学習データにより学習した結果を表1に示
す。表1は100,000回学習後の自乗誤差の数値を
示し、同表の「欠陥値=0.5」は下記(i) により学習
した場合の自乗誤差を示し、「誤差計算なし」は下記(i
i)により学習した場合の自乗誤差を示し、「iterative
inversion 」は下記(iii) により学習した場合の自乗誤
差を示し、さらに、「完全データ」は欠損値がない学習
データにより学習した場合の自乗誤差を示している。
【0067】本シミュレーションにおいても、前記(a)
で説明した物体認識のシミュレーションと同様の構成の
砂時計モデルを用い、学習定数も同様な値とした。
【0068】
【表1】
【0069】(i) 学習データをそのまま学習 欠損値に0.5を与えた学習データに対して誤差逆伝搬
により次式(4)を最小化する(欠損値に対応した出力
ユニットの誤差計算も行ったエネルギー関数Ecomplete
を最小化)。 (ii)欠損値に対応した出力ユニットの誤差計算省略 欠損値に0.5を与えた学習データに対して誤差逆伝搬
により次式(5)を最小化する(欠損値に対応した出力
ユニットの誤差計算を省略したエネルギー関数Emissin
g を最小化)。 (iii) iterative inversion 法による入力ユニットの更
新。
【0070】上記(ii)のように欠損値に対応した出力ユ
ニットの誤差計算を省略し、かつ、iterative inversio
n 法により、入力ユニット値を更新する。ここでは、入
力ユニットの更新定数εmissing =0.1とした。
【0071】
【数2】
【0072】上記表1に示す学習結果から、エネルギー
関数Emissing により誤差逆伝搬を行い学習することに
より、欠損値を持たない学習データにより学習した場合
と比較しても、より高速かつ小さな誤差に収束している
ことがわかる。さらに、iterative inversion 法による
入力ユニットの更新と欠損値の推定を併用することによ
り、より高速の学習と誤差の低減を実現することができ
る。
【0073】一例として、図7にφ=30、θ=30の
ときに、前記物体の特徴点1が欠損した場合の砂時計モ
デルの出力値と教師データの関係を示す。同図におい
て、点線(i) は上記(i) により学習した場合の砂時計モ
デルの出力値を示し、太実線(iii) は上記(iii) により
学習した場合の砂時計モデルの出力値を示し、また、実
線(iv)は教師信号を示している。
【0074】以上のように、本発明の欠損値推定/学習
方法を用いることにより、欠損値の推定と観測された特
徴点の正しい復元が行われており、本発明の有効性が確
認された。したがって、上記欠損値推定/学習手段を用
いて前記図1に示す認識装置を構成し、上記物体A,
B,C毎に図1に示す欠損値推定/学習手段4a,4
b,4cをそれぞれ対応づけて、欠損値推定/学習手段
4a,4b,4cを学習させ、上記物体A,B,Cを観
測したセンサ情報を上記欠損値推定/学習手段4a,4
b,4cに与えることにより、物体A,B,Cを正しく
認識することができるようになる。また、その際、セン
サ情報に欠損値があっても、欠損値の推定およびモデル
獲得を行うことができる。
【0075】なお、上記例では、3次元物体の認識につ
いてのシミュレーションについて示したが、本発明は人
間の表情/動作/ジェスチャーなどの画像情報を入力と
して人間の行動を認識することもでき、ヒューマンイン
タフェース装置に適用することができる。 (2)センサ情報の因子の抽出および抽出された因子を
入力信号としたニューラルネットワークの学習 前記したように、砂時計モデルにおける中間層ユニット
の値はセンサ情報(学習データ)を圧縮した内部表現と
考えることができ、中間層ユニットの値を取り出すこと
により、センサ情報の因子を抽出し解析することができ
る。
【0076】例えば、前記図3に示した物体Aのセンサ
情報を学習した砂時計モデルは、センサ情報の変動要因
であるθ,φを表現する内部表現、センサ情報から内部
表現への変換を行う逆モデル、内部表現からセンサ情報
を復元する物体の不変的なモデルを学習した順モデルか
ら構成されていると考えることができる。図4におい
て、視覚センサ11の視点を0≦φ<360、0≦θ<
60の範囲で5°毎に変更し物体Aを観測してセンサ情
報を生成し、物体Aで学習したニューラルネットワーク
に入力してその内部表現を解析すると、図8に示すよう
になる。同図は、中間層ユニット1の出力をx軸、中間
層ユニット2の出力をy軸としたときの各センサ情報に
対する中間層出力を示したものである。
【0077】同図から、センサ情報の変動要因である
θ,φが、θを反時計周りの回転、φを半径方向への増
加とする極座標表現のような形で表現された明確な内部
表現が得られていることがわかる。図9は、欠損値を持
つセンサ情報からセンサ情報の因子を抽出する実施例を
示している。
【0078】同図において、まず、砂時計モデル13a
の入力層に欠損値を持つセンサ情報12を入力し、iter
ative inversion 法により出力層ユニットの出力値とセ
ンサ情報12の誤差が小さくなるように入力層の欠損値
に対応する入力ユニットの値を修正し、欠損したセンサ
情報を推定する。ついで、中間層ユニットからセンサ情
報の因子を抽出する。
【0079】以上のように、本発明においては、欠損値
を持つセンサ情報に対しても、砂時計モデルの中間層ユ
ニットからセンサ情報の因子を獲得することができる。
なお、砂時計モデルの順モデル部は、上記内部表現から
センサ情報を復元し恒等写像を実現できるので、観測対
象の完全な順モデルを獲得していると考えられる。さら
に、恒等写像を学習する砂時計モデルはiterative inve
rsion のための教師信号が得られることと、内部表現の
次元(上記図8の場合は2次元)と比較して、欠損して
いない出力ユニットの個数が十分大きいために内部表現
をユニークに決定できることから欠損値の適切な推定が
可能になっていると考えられる。
【0080】ところで、上記した中間層ユニットから抽
出した因子を入力信号として、ニューラルネットワーク
を学習させることができる。教師信号としては、一般の
ニューラルネットワークと同様に任意のものを使うこと
ができる。図10はニューラルネットワークとして階層
型ニューラルネットワークを用い、上記抽出した因子に
より誤差逆伝搬法で学習する実施例を示している。
【0081】まず、前記図9に示した砂時計モデル13
aによりセンサ情報を絞り込んだ因子23を得て、これ
を図10に示すように、階層型ニューラルネットワーク
20に入力する。そして、教師信号21とニューラルネ
ットワーク20の出力データとの誤差を計算して、誤差
逆伝搬により重みを更新してニューラルネットワークを
学習させる。
【0082】図10のように、抽出した因子を入力する
ことにより、階層型ニューラルネットワークの入力ユニ
ット数を削減することができる。このため、ネットワー
クの規模を小さくすることができ実行速度の高速化が可
能となる。また、図9に示したように、欠損したセンサ
情報の推定を実現することができるので、欠損値を持つ
センサ情報から教師付き学習が可能となる。
【0083】
【発明の効果】以上説明したように、本発明において
は、以下の効果を得ることができる。 (1)これまでのニューラルネットワークにおいては、
対象物体の増加に伴いネットワークの規模と学習時間が
指数的に増大するといった問題があった。本発明におい
ては、砂時計モデルにより物体認識を行い、物体対応に
ネットワークを学習させるため、個々のネットワークの
学習データは物体の個数にかかわらず一定になり、上記
した従来のニューラルネットワークの問題点を解消する
ことができる。 (2)砂時計モデルとiterative inversion 法を融合し
ているので、対象のモデルと適切な内部表現の自律的な
獲得と、不完全なセンサ情報による学習/認識が可能と
なる。
【0084】また、3次元物体のモデル表現方法として
みても、従来の記号処理、数式、幾何モデルなどの手法
と比較して、センサ情報の誤差や曖昧性の吸収と適切な
補間が可能な柔軟性を備えている。 (3)入力としてセンサ情報の全ての観測値が必要であ
った従来のニューラルネットワークの問題点を解決する
ことにより、情報統合、センサフュージョン技術、3次
元物体認識などの実世界のセンサ情報処理への応用を広
げることが期待できる。
【図面の簡単な説明】
【図1】本発明の認識装置の原理構成図である。
【図2】本発明における欠損値推定/学習方法の原理を
示す図である。
【図3】シミュレーションにおける視覚センサの視点と
対象物体を示す図である。
【図4】本発明の実施例のシミュレーション・システム
の構成を示す図である。
【図5】3次元物体認識の評価結果を示す図である。
【図6】不完全データによる3次元物体認識の評価結果
を示す図である。
【図7】砂時計モデルの出力値の一例を示す図である。
【図8】砂時計モデルの内部表現の一例を示す図であ
る。
【図9】欠損値を持つセンサ情報から因子を抽出する実
施例を示す図である。
【図10】抽出した因子によるニューラルネットの学習
を示す図である。
【図11】従来のニューラルネットワークによるパター
ン認識を示す図である。
【図12】砂時計モデルによる物体認識を示す図であ
る。
【図13】砂時計モデルを示す図である。
【符号の説明】
1 観測対象 2 センサ 3 センサ情報 4a〜4c 欠損値推定/学習手段 5 最小誤差選択手段 10 認識対象となる物体 11 視覚センサ 12 センサ情報 13 欠損値推定/学習手段 13a 砂時計モデル 14 誤差計算手段 20 階層型ニューラルネットワーク 40 砂時計モデル 41 誤差逆伝搬手段 42 入力ユニット更新手段 43 重み更新手段

Claims (14)

    【特許請求の範囲】
  1. 【請求項1】 センシング対象のセンサ情報の恒等写像
    を学習することにより、センシング対象のモデルを獲得
    する複数のニューラルネットワーク等のモデル学習装置
    から構成され、 未知のセンシング対象のセンサ情報に対して恒等写像に
    近い出力を生成したモデル学習装置を選択することによ
    りセンシング対象を認識する認識装置であって、 上記モデル学習装置の出力とセンサ情報との誤差を逆伝
    搬する誤差逆伝搬手段と、 入力ユニット更新手段とを備え、 一部が欠損したセンサ情報に対して、上記誤差逆伝搬手
    段により上記誤差を欠損した値に対応する入力ユニット
    に逆伝搬し、 上記入力ユニット更新手段により恒等写像を実現するよ
    うに欠損した値を更新し、値の欠損したセンサ情報の認
    識を行うことを特徴とする認識装置。
  2. 【請求項2】 センシング対象のセンサ情報の恒等写像
    を学習することにより、センシング対象のモデルを獲得
    する複数のニューラルネットワーク等のモデル学習装置
    から構成され、 未知のセンシング対象のセンサ情報に対して恒等写像に
    近い出力を生成したモデル学習装置を選択することによ
    りセンシング対象を認識する認識装置であって、 上記モデル学習装置の出力とセンサ情報との誤差を逆伝
    搬する誤差逆伝搬手段と、 上記モデル学習装置の重みを更新する重み更新手段と、 入力ユニット更新手段とを備え、 一部が欠損したセンサ情報に対して、上記誤差逆伝搬手
    段により上記誤差を欠損した値に対応する入力ユニット
    に逆伝搬し、恒等写像を実現するように上記入力ユニッ
    ト更新手段により欠損した値を更新しながら、上記重み
    更新手段により重みを更新し学習を行うことを特徴とす
    る認識装置。
  3. 【請求項3】 上記誤差逆伝搬手段が、上記誤差を中間
    層ユニットに逆伝搬するものであり、 モデル学習装置の中間層ユニットから出力層への部分の
    みを用いて誤差を逆伝搬して中間層ユニットの値を修正
    することにより、値の欠損したセンサ情報の認識を行う
    ことを特徴とする請求項1または請求項2の認識装置。
  4. 【請求項4】 2次元または3次元物体の特徴量をセン
    サ情報として与え、物体のモデル獲得/認識を行うこと
    を特徴とする請求項1,2または請求項3の認識装置。
  5. 【請求項5】 センシング対象のセンサ情報の恒等写像
    を学習することにより、センシング対象のモデルを獲得
    するニューラルネットワーク等のモデル学習装置におけ
    るセンサ情報の欠損値推定方法において、 一部が欠損したセンサ情報に対して、モデル学習装置の
    出力とセンサ情報との誤差を欠損した値に対応する入力
    ユニットに逆伝搬し、 恒等写像を実現するように欠損した値を修正することに
    より、値の欠損したセンサ情報を推定することを特徴と
    する欠損値推定方法。
  6. 【請求項6】 センシング対象のセンサ情報の恒等写像
    を学習することにより、センシング対象のモデルを獲得
    するニューラルネットワーク等のモデル学習装置におけ
    るセンサ情報の欠損値推定方法において、 センシング対象のセンサ情報を学習したモデル学習装置
    の中間層ユニットから出力層ユニットへの部分のみを用
    いて、センサ情報と出力との誤差を逆伝搬して中間層ユ
    ニットの値を修正することにより、値の欠損したセンサ
    情報を推定することを特徴とする欠損値推定方法。
  7. 【請求項7】 欠損した値に対応した出力ユニットに対
    して出力の誤差計算を省略することを特徴とする請求項
    5または請求項6の欠損値推定方法。
  8. 【請求項8】 センシング対象のセンサ情報の恒等写像
    を学習することにより、センシング対象のモデルを獲得
    するニューラルネットワーク等のモデル学習装置におけ
    る学習方法において、 一部が欠損したセンサ情報に対して、モデル学習装置の
    出力とセンサ情報との誤差を欠損した値に対応する入力
    ユニットに逆伝搬し、 欠損した値を修正することによりセンサ情報を推定しな
    がら、モデル学習装置の重みを更新し学習を行うことを
    特徴とする学習方法。
  9. 【請求項9】 欠損した値に対応する出力ユニットから
    の誤差逆伝搬を省略することにより値の欠損したセンサ
    情報から学習することを特徴とする請求項8の学習方
    法。
  10. 【請求項10】 欠損した値に対応する入力ユニットに
    結合した重みを変更しないことを特徴とする請求項8ま
    たは請求項9の学習方法。
  11. 【請求項11】 入力ユニットの更新定数を学習データ
    の個数および欠損ユニットの個数の関数により決定する
    ことを特徴とする請求項5,6,7,8,9または請求
    項10の欠損値推定/学習方法。
  12. 【請求項12】 学習データから統計的に推定される平
    均値や中間値などを欠損した値の初期値として設定する
    ことを特徴とする請求項5,6,7,8,9,10また
    は請求項11の欠損値推定/学習方法。
  13. 【請求項13】 モデル学習装置の中間層ユニットの個
    数を入力センサ情報の次元より小さくし、中間層ユニッ
    トからセンサ情報の因子を抽出することを特徴とする請
    求項5,6,7,8,9,10,11または請求項12
    の欠損値推定/学習方法。
  14. 【請求項14】 請求項13の欠損値推定/学習方法に
    より抽出された因子を入力として、モデル学習装置によ
    り教師付き学習を行うことを特徴とする学習方法。
JP7015271A 1995-02-01 1995-02-01 認識装置および欠損値推定/学習方法 Withdrawn JPH08212184A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7015271A JPH08212184A (ja) 1995-02-01 1995-02-01 認識装置および欠損値推定/学習方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7015271A JPH08212184A (ja) 1995-02-01 1995-02-01 認識装置および欠損値推定/学習方法

Publications (1)

Publication Number Publication Date
JPH08212184A true JPH08212184A (ja) 1996-08-20

Family

ID=11884206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7015271A Withdrawn JPH08212184A (ja) 1995-02-01 1995-02-01 認識装置および欠損値推定/学習方法

Country Status (1)

Country Link
JP (1) JPH08212184A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001000421A (ja) * 1999-06-22 2001-01-09 Pola Chem Ind Inc 表情のシミュレート法
JP2006163517A (ja) * 2004-12-02 2006-06-22 Petroleum Energy Center 異常検知装置
KR101348817B1 (ko) * 2013-01-11 2014-01-08 연세대학교 산학협력단 인공신경망을 이용한 오류 계측값 추정 방법 및 시스템
JPWO2018047655A1 (ja) * 2016-09-06 2019-02-28 日本電信電話株式会社 時系列データ特徴量抽出装置、時系列データ特徴量抽出方法及び時系列データ特徴量抽出プログラム
JP2020052915A (ja) * 2018-09-28 2020-04-02 日本電信電話株式会社 データ処理装置、データ処理方法、及びプログラム
KR20200052420A (ko) * 2018-10-25 2020-05-15 주식회사 인공지능연구원 딥러닝 기반 3차원 원형 예측 장치
JP2020077155A (ja) * 2018-11-07 2020-05-21 日本電信電話株式会社 データ分析システム、学習装置、方法、及びプログラム
WO2020202734A1 (ja) * 2019-03-29 2020-10-08 株式会社ワコム ペン状態検出回路、システム及び方法
WO2021090473A1 (ja) * 2019-11-08 2021-05-14 日本電気株式会社 物体検知装置、学習方法、及び、記録媒体

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001000421A (ja) * 1999-06-22 2001-01-09 Pola Chem Ind Inc 表情のシミュレート法
JP2006163517A (ja) * 2004-12-02 2006-06-22 Petroleum Energy Center 異常検知装置
JP4635194B2 (ja) * 2004-12-02 2011-02-16 財団法人石油産業活性化センター 異常検知装置
KR101348817B1 (ko) * 2013-01-11 2014-01-08 연세대학교 산학협력단 인공신경망을 이용한 오류 계측값 추정 방법 및 시스템
US11449732B2 (en) 2016-09-06 2022-09-20 Nippon Telegraph And Telephone Corporation Time-series-data feature extraction device, time-series-data feature extraction method and time-series-data feature extraction program
JPWO2018047655A1 (ja) * 2016-09-06 2019-02-28 日本電信電話株式会社 時系列データ特徴量抽出装置、時系列データ特徴量抽出方法及び時系列データ特徴量抽出プログラム
JP2020052915A (ja) * 2018-09-28 2020-04-02 日本電信電話株式会社 データ処理装置、データ処理方法、及びプログラム
KR20200052420A (ko) * 2018-10-25 2020-05-15 주식회사 인공지능연구원 딥러닝 기반 3차원 원형 예측 장치
JP2020077155A (ja) * 2018-11-07 2020-05-21 日本電信電話株式会社 データ分析システム、学習装置、方法、及びプログラム
WO2020202734A1 (ja) * 2019-03-29 2020-10-08 株式会社ワコム ペン状態検出回路、システム及び方法
JPWO2020202734A1 (ja) * 2019-03-29 2021-11-25 株式会社ワコム ペン状態検出回路、システム及び方法
WO2020202352A1 (ja) * 2019-03-29 2020-10-08 株式会社ワコム ペン状態検出回路及びペン状態検出方法
US11604521B2 (en) 2019-03-29 2023-03-14 Wacom Co., Ltd. Pen state detection circuit, system, and method
US11841999B2 (en) 2019-03-29 2023-12-12 Wacom Co., Ltd. Pen state detection circuit, system, and method
WO2021090473A1 (ja) * 2019-11-08 2021-05-14 日本電気株式会社 物体検知装置、学習方法、及び、記録媒体
JPWO2021090473A1 (ja) * 2019-11-08 2021-05-14

Similar Documents

Publication Publication Date Title
Wang et al. Graspness discovery in clutters for fast and accurate grasp detection
Sorokin et al. People helping robots helping people: Crowdsourcing for grasping novel objects
Sminchisescu et al. BM³E: Discriminative Density Propagation for Visual Tracking
Yu et al. Human motion based intent recognition using a deep dynamic neural model
KR102494659B1 (ko) 6d 포즈 추정 장치 및 방법
Núñez et al. Multiview 3D human pose estimation using improved least-squares and LSTM networks
Chen et al. Visuo-tactile transformers for manipulation
JPH08212184A (ja) 認識装置および欠損値推定/学習方法
CN113254927A (zh) 一种基于网络防御的模型处理方法、装置及存储介质
Luo et al. Human pose estimation in 3-D space using adaptive control law with point-cloud-based limb regression approach
Zhu et al. Diff-lfd: Contact-aware model-based learning from visual demonstration for robotic manipulation via differentiable physics-based simulation and rendering
Adhikari et al. A Novel Machine Learning-Based Hand Gesture Recognition Using HCI on IoT Assisted Cloud Platform.
Xu et al. Tackling small data challenges in visual fire detection: a deep convolutional generative adversarial network approach
Lang et al. Computationally efficient rigid-body gaussian process for motion dynamics
Alizadeh Kolagar et al. NAO robot learns to interact with humans through imitation learning from video observation
Aiman et al. Angle based hand gesture recognition using graph convolutional network
Yao et al. A type-2 fuzzy logic based system for linguistic summarization of video monitoring in indoor intelligent environments
Kim et al. Tracking human-like natural motion by combining two deep recurrent neural networks with Kalman filter
Koskinopoulou et al. Speed adaptation in learning from demonstration through latent space formulation
Tripathi et al. High dimensional neural networks and applications
CN112507940A (zh) 一种基于差分指导表示学习网络的骨骼动作识别方法
Angeleas et al. Neural networks as classification mechanisms of complex human activities
CN113077512B (zh) 一种rgb-d位姿识别模型训练方法及系统
Lee et al. Adaptive integration of multiple cues for contingency detection
Wong et al. Learning behavioral memory representations from observation

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20020402