WO2016181474A1 - パターン認識装置、パターン認識方法およびプログラム - Google Patents

パターン認識装置、パターン認識方法およびプログラム Download PDF

Info

Publication number
WO2016181474A1
WO2016181474A1 PCT/JP2015/063531 JP2015063531W WO2016181474A1 WO 2016181474 A1 WO2016181474 A1 WO 2016181474A1 JP 2015063531 W JP2015063531 W JP 2015063531W WO 2016181474 A1 WO2016181474 A1 WO 2016181474A1
Authority
WO
WIPO (PCT)
Prior art keywords
dictionary
recognition
feature vector
pattern recognition
subspace
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2015/063531
Other languages
English (en)
French (fr)
Inventor
聡一郎 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Digital Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Solutions Corp filed Critical Toshiba Corp
Priority to PCT/JP2015/063531 priority Critical patent/WO2016181474A1/ja
Priority to CN201580078069.9A priority patent/CN107533672B/zh
Publication of WO2016181474A1 publication Critical patent/WO2016181474A1/ja
Priority to US15/709,771 priority patent/US10366312B2/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/14Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • G06F18/2193Validation; Performance evaluation; Active pattern learning techniques based on specific statistical tests
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/29Graphical models, e.g. Bayesian networks
    • G06F18/295Markov models or related models, e.g. semi-Markov models; Markov random fields; Networks embedding Markov models
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Definitions

  • Embodiments described herein relate generally to a pattern recognition apparatus, a pattern recognition method, and a program.
  • HMM Hidden Markov Model
  • conditional random fields etc.
  • This method has the disadvantage that it can simultaneously perform the determination and recognition of the separation of the recognition target, but requires a lot of calculation time to collate the internal state model with the feature vector. Therefore, it is desired to provide a new technique capable of performing high-accuracy recognition in a short time for an input signal whose recognition unit break is not clear.
  • the problem to be solved by the present invention is to provide a pattern recognition apparatus, a pattern recognition method, and a program capable of performing high-accuracy recognition in a short time for an input signal whose recognition unit break is not clear.
  • the pattern recognition apparatus of the embodiment performs pattern recognition of an input signal by converting the input signal into a feature vector and collating the feature vector with a recognition dictionary.
  • the recognition dictionary converts a dictionary subspace base vector expressing a dictionary subspace having a dimension smaller than the number of dimensions of the feature vector, and a similarity calculated from the feature vector and the dictionary subspace into likelihood.
  • the pattern recognition apparatus includes a recognition unit.
  • the recognizing unit calculates the similarity by a quadratic polynomial of the inner product value of the feature vector and the dictionary subspace basis vector, and calculates the likelihood by an exponential function of a linear sum of the similarity and the probability parameter. To do.
  • the recognition dictionary is learned by an expected value maximization method using a constraint condition between the plurality of probabilistic parameters.
  • FIG. 1 is a conceptual diagram illustrating the replacement of an HMM state model with a probabilistic subspace model.
  • FIG. 2 is a block diagram illustrating a functional configuration of the pattern recognition apparatus according to the embodiment.
  • FIG. 3 is a flowchart illustrating an example of a processing procedure performed by the pattern recognition apparatus according to the embodiment.
  • FIG. 4 is a block diagram illustrating a hardware configuration example of the pattern recognition apparatus according to the embodiment.
  • a model for calculating the likelihood L (x) of the feature vector x as shown in the following equation (1) by introducing a probability parameter that converts the similarity in the former into a probability scale such as the likelihood used in the latter is considered.
  • P ′ in the equation (1) is a matrix calculated by the following equation (2) from the orthonormal dictionary subspace basis vectors u 1 ,..., U k , and q and w are the stochastic parameters. is there.
  • s represented by the following formula (3) is the similarity of the feature vector x.
  • the model that performs the calculation of Expression (1) is referred to as a “probabilistic subspace model”.
  • the HMM is constituted by a plurality of states as schematically shown in FIG.
  • the input of the HMM is a series of feature vectors.
  • Each state is a statistical model of a single feature vector, and usually a mixed Gaussian distribution model (GMM: Gaussian Mixture Model) as schematically shown in FIG. 1B is used (see Non-Patent Document 1). ).
  • GMM Gaussian Mixture Model
  • the state model of the HMM is replaced with a probabilistic subspace model as schematically shown in FIG. Since the probabilistic subspace model performs an operation in a subspace having a smaller number of dimensions than the dimension number of the feature vector, the amount of calculation is smaller than that of the GMM. Therefore, as shown in FIG. 1D, the HMM state model is replaced with the probabilistic subspace model from the GMM, and the feature vector matching operation is performed, thereby enabling high-precision recognition in a short time. Become.
  • the Viterbi algorithm for calculating the likelihood of the HMM does not depend on the likelihood calculation method in each state model (see Non-Patent Document 1). Even if it is replaced, the Viterbi algorithm can be used as it is.
  • the learning data x 1, ..., with x N, the probability parameter q, w and subspace basis vector u 1 is a parameter of the stochastic subspace model, ..., updates u k Think about it.
  • the burden ratio of x 1 ,..., X n is ⁇ 1 ,..., ⁇ n
  • the log likelihood of all learning data assumes the independence of the learning data, and the following equation (4) It can be expressed as In the EM method, the parameters are maximized so as to maximize the log likelihood represented by the equation (4), but P ′ is the same as in the principal component analysis (see Non-Patent Document 1).
  • the equation (5) is diagonalized, and the eigenvectors corresponding to the top k eigenvalues are taken in order as the dictionary subspace basis vectors u 1 ,..., U k .
  • FIG. 2 is a block diagram showing a functional configuration of the pattern recognition apparatus of the present embodiment.
  • the pattern recognition apparatus of this embodiment includes a signal input unit 1, a feature extraction unit 2, a recognition unit 3, and a dictionary update unit 4.
  • the signal input unit 1 receives an input of a signal to be recognized.
  • Signals to be recognized are, for example, characters and character strings represented as images, other images, audio signals represented as waveforms, various sensor signals, and the like. These digital information, or two as necessary. Digital information subjected to preprocessing such as valuation is input to the signal input unit 1.
  • the feature extraction unit 2 converts the signal input to the signal input unit 1 into a set of feature vectors having a certain number of dimensions. Specifically, the feature extraction unit 2 first extracts a partial signal in the window range by applying a window to the signal input to the signal input unit 1. Next, the feature extraction unit 2 performs preprocessing such as normalizing the length and quantization level for each of the extracted signal portions. Then, the feature extraction unit 2 outputs a feature vector whose component is a value after the pre-processing, or a value after further performing a filtering process such as a Gaussian filter or a transformation process such as a Fourier transform on the pre-processed signal. Then, a set of feature vectors corresponding to the signal input to the signal input unit 1 is generated.
  • preprocessing such as normalizing the length and quantization level for each of the extracted signal portions.
  • the feature extraction unit 2 outputs a feature vector whose component is a value after the pre-processing, or a value after further performing a filtering process such as
  • Reference Document 3 J. A. Rodriguez and F. Perronin, “Local Gradient Histogram Features for Word Spotting in Unconstrained Handwritten Documents”, Proc. ICFHR2008, 2008
  • the recognition unit 3 evaluates the set of feature vectors generated by the feature extraction unit 2 using the recognition dictionary 10 and outputs a recognition result representing the class or set of classes to which the signal input to the signal input unit 1 belongs. To do.
  • the recognition dictionary 10 is a database including models corresponding to the respective classes handled by the pattern recognition apparatus of the present embodiment as signal classification destinations, and is held inside or outside the pattern recognition apparatus of the present embodiment.
  • Each class model held by the recognition dictionary 10 is composed of a plurality of states like the HMM, and each state is the above-described stochastic subspace model. That is, the recognition dictionary 10 holds dictionary subspace basis vectors u 1 ,..., U k corresponding to each state of the model for each class, and the stochastic parameters q, w.
  • the dictionary subspace basis vectors u 1 ,..., U k are parameters that represent a dictionary subspace having a dimension smaller than the number of dimensions of the feature vector, and the stochastic parameters q and w are the feature vector and the dictionary subspace. This is a parameter for converting the similarity calculated from the above into likelihood.
  • the recognition unit 3 combines the models included in the recognition dictionary 10 to search for an optimum correspondence with the set of feature vectors generated by the feature extraction unit 2, and outputs a set of model labels.
  • the recognition unit 3 performs the feature vector and the dictionary subspace basis vector u 1 ,... With respect to one or a plurality of feature vectors in the set of feature vectors in each state of each model included in the recognition dictionary 10. .., U k calculates the similarity with a quadratic polynomial of the inner product value, and calculates the likelihood with an exponential function of the linear sum of the similarity and the probabilistic parameters q and w. Then, a combination of models that maximizes the data likelihood L as a whole is selected, and the label set is output.
  • Data likelihood L the element x 1 of the set of feature vectors, ..., x T dictionary subspace U 1, respectively, ..., model M 1 with U t, ..., corresponding to the M T Is obtained as the following formula (6).
  • the probability P (M 1 ,..., M T ) that the model sequence is M 1 ,..., M T is determined by a probabilistic language model such as N-gram (see Reference 4 below).
  • a probabilistic language model such as N-gram
  • f (q, w) 0 between the probabilistic parameters q and w.
  • the dictionary update unit 4 updates the dictionary subspace basis vectors u 1 ,..., U k as described above and the probability parameters q and w for each state model used for recognition by the recognition unit 3. Update. Thereby, whenever the recognition is performed, the recognition dictionary 10 is automatically learned, and the recognition accuracy is improved.
  • FIG. 3 is a flowchart illustrating an example of a processing procedure performed by the pattern recognition apparatus according to the present embodiment.
  • the signal input unit 1 receives an input of a signal to be recognized (step S101).
  • the signal input to the signal input unit 1 is passed to the feature extraction unit 2.
  • the feature extraction unit 2 receives the signal input in step S101 from the signal input unit 1, and generates a set of feature vectors from this signal by the method described above (step S102). A set of feature vectors generated by the feature extraction unit 2 is passed to the recognition unit 3.
  • the recognition unit 3 receives the set of feature vectors generated in step S102 from the feature extraction unit 2, evaluates the set of feature vectors using the recognition dictionary 10, and the signal input in step S101 belongs. A recognition result representing a class or a set of classes is output (step S103). At this time, the recognition unit 3 performs the above-described feature vector similarity calculation and likelihood calculation in each state of each model included in the recognition dictionary 10, and the data likelihood L as a whole is maximized. Select a combination of models and output the label set. After this recognition processing, the set of feature vectors input to the recognition unit 3 and the label set output from the recognition unit 3 are passed to the dictionary update unit 4.
  • the dictionary update unit 4 receives the set of feature vectors input to the recognition unit 3 and the label set output from the recognition unit 3, and the above-described method for each state model used for recognition by the recognition unit 3
  • the dictionary subspace basis vector and the stochastic parameter are updated (step S104).
  • the constraint condition between the probability parameters described above is used.
  • the pattern recognition apparatus uses the above-described stochastic subspace model as a state model of a model for each class.
  • the recognition dictionary 10 holds dictionary subspace basis vectors and probability parameters corresponding to each state model.
  • the recognizing unit 3 calculates a similarity to the set of feature vectors generated from the input signal by using a quadratic polynomial of the inner product value of each feature vector and the dictionary subspace basis vector, and the obtained similarity
  • the likelihood is calculated by the exponential function of the linear sum of the probability parameter and the model combination that maximizes the overall data likelihood is selected, and the label set is output as the recognition result.
  • the dictionary update unit 4 updates the recognition dictionary 10 using a set of feature vectors generated from the input signal.
  • the dictionary update unit 4 learns the recognition dictionary 10 by the expected value maximization method using the constraint condition between the probabilistic parameters. Therefore, according to the pattern recognition apparatus of this embodiment, high-accuracy recognition can be performed in a short time for an input signal whose recognition unit break is not clear.
  • condition that the effective dimension of the state model is kept constant is used as the constraint condition between the probabilistic parameters.
  • the usable constraint condition is not limited to this.
  • a condition that the following expression (14) is kept constant in each state of the model that is, a condition represented by the following expression (15) may be used.
  • Equation (1) an example in which the HMM state model is replaced with the probabilistic subspace model expressed by Equation (1) is assumed, but the present invention is not limited to this.
  • a model that takes time to calculate likelihood may be replaced with a probabilistic subspace model.
  • a model having the same function, that is, another model for calculating the similarity by the subspace method and calculating the likelihood from the similarity is used. You may do it.
  • the dictionary update unit 4 may be provided outside the pattern recognition device.
  • the dictionary update unit 4 provided outside the pattern recognition device performs the update process of the recognition dictionary 10 described above while communicating with the pattern recognition device, for example.
  • the pattern recognition apparatus of the present embodiment includes a processor such as a CPU (Central Processing Unit) 101, a storage device such as a ROM (Read Only Memory) 102 and a RAM (Random Access Memory) 103, an HDD ( It is possible to adopt a hardware configuration using a normal computer including an auxiliary storage device such as (Hard Disk Drive) 104, a communication I / F 105 that communicates by connecting to a network, and a bus 106 that connects each unit. . In this case, each functional component described above can be realized by executing a predetermined pattern recognition program on the computer.
  • a processor such as a CPU (Central Processing Unit) 101
  • a storage device such as a ROM (Read Only Memory) 102 and a RAM (Random Access Memory) 103
  • an HDD It is possible to adopt a hardware configuration using a normal computer including an auxiliary storage device such as (Hard Disk Drive) 104, a communication I / F 105 that communicates by connecting to a network,
  • This pattern recognition program is an installable or executable file in CD-ROM (Compact Disk Read Only Memory), flexible disk (FD), CD-R (Compact Disk Recordable), DVD (Digital Versatile Disc)
  • CD-ROM Compact Disk Read Only Memory
  • FD flexible disk
  • CD-R Compact Disk Recordable
  • DVD Digital Versatile Disc
  • the program is recorded on a computer-readable recording medium such as a computer program product.
  • the pattern recognition program may be provided by being stored on another computer connected to a network such as the Internet and downloaded via the network.
  • the pattern recognition program may be provided or distributed via a network such as the Internet.
  • this pattern recognition program may be provided by being incorporated in advance in the ROM 102 or the like.
  • This pattern recognition program has a module configuration including each processing unit (the signal input unit 1, the feature extraction unit 2, the recognition unit 3, and the dictionary update unit 4) of the pattern recognition apparatus according to the present embodiment.
  • the CPU 101 processor
  • the CPU 101 reads out the program from the recording medium and executes the program, whereby each processing unit described above is loaded onto the RAM 103 (main memory), and each processing unit described above is loaded into the RAM 103 (main memory).
  • the pattern recognition apparatus of this embodiment implement
  • ASIC Application Specific Integrated Circuit
  • FPGA Field-ProgrammableGate Array

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Probability & Statistics with Applications (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Algebra (AREA)
  • Image Analysis (AREA)

Abstract

実施形態のパターン認識装置は、入力された信号を特徴ベクトルに変換し、該特徴ベクトルを認識辞書と照合することにより、入力された信号のパターン認識を行う。認識辞書(10)は、特徴ベクトルの次元数よりも少ない次元の辞書部分空間を表現する辞書部分空間基底ベクトルと、特徴ベクトルと辞書部分空間から計算される類似度を尤度に変換するための複数の確率化パラメータと、を有する。パターン認識装置は、特徴ベクトルと辞書部分空間基底ベクトルの内積の値の二次多項式により類似度を計算し、該類似度と確率化パラメータの線形和の指数関数により尤度を計算する認識部(3)を備える。認識辞書(10)は、複数の確率化パラメータ間の拘束条件を利用した期待値最大化法により学習される。

Description

パターン認識装置、パターン認識方法およびプログラム
 本発明の実施形態は、パターン認識装置、パターン認識方法およびプログラムに関する。
 パターン認識の分野では、音声信号や文字列画像などのように認識単位の区切りが明らかでない入力信号に対して認識を行う方法として、隠れマルコフモデル(HMM:Hidden Markov Model)や条件付き確率場とその派生形が多く用いられている。この方法は、認識対象の区切り判定と認識を同時に行うことができる一方、内部の状態モデルと特徴ベクトルの照合に多くの計算時間を要するという欠点がある。このため、認識単位の区切りが明らかでない入力信号に対し、短時間で高精度な認識を行うことができる新たな技術の提供が望まれている。
C.M.ビショップ、「パターン認識と機械学習(上・下)」(村田昇監訳)、シュプリンガー・ジャパン、2007年 F.Camastra et al."Machine Learning for Audio,Image and Video Analysis:Theory and Applications"、Springer-Verlag、2007 高村大也ほか、「言語処理のための機械学習入門」(自然言語処理シリーズ1)、コロナ社、2010年
 本発明が解決しようとする課題は、認識単位の区切りが明らかでない入力信号に対し、短時間で高精度な認識を行うことができるパターン認識装置、パターン認識方法およびプログラムを提供することである。
 実施形態のパターン認識装置は、入力された信号を特徴ベクトルに変換し、該特徴ベクトルを認識辞書と照合することにより、入力された信号のパターン認識を行う。前記認識辞書は、前記特徴ベクトルの次元数よりも少ない次元の辞書部分空間を表現する辞書部分空間基底ベクトルと、前記特徴ベクトルと前記辞書部分空間から計算される類似度を尤度に変換するための複数の確率化パラメータと、を有する。パターン認識装置は、認識部を備える。認識部は、前記特徴ベクトルと前記辞書部分空間基底ベクトルの内積の値の二次多項式により前記類似度を計算し、該類似度と前記確率化パラメータの線形和の指数関数により前記尤度を計算する。前記認識辞書は、前記複数の確率化パラメータ間の拘束条件を利用した期待値最大化法により学習される。
図1は、HMMの状態モデルを確率的部分空間モデルに置き換えることを説明する概念図である。 図2は、実施形態のパターン認識装置の機能的な構成を示すブロック図である。 図3は、実施形態のパターン認識装置による処理手順の一例を示すフローチャートである。 図4は、実施形態のパターン認識装置のハードウェア構成例を示すブロック図である。
 以下、実施形態のパターン認識装置、パターン認識方法およびプログラムを、図面を参照しながら説明する。
 まず、本実施形態の基本概念について説明する。本実施形態では、認識単位の区切りが明らかでない入力信号に対し、短時間で高精度な認識を行えるようにするために、認識対象の区切り判定と認識を同時に行う従来の方法において多くの計算時間を要していた内部の状態モデルと特徴ベクトルの照合の演算を、部分空間法やその派生形による類似度の演算で置き換えることを考える。部分空間法やその派生形は、単一の特徴ベクトルに対する認識に用いられる方法として知られており(下記の参考文献1を参照)、処理時間に比して高い認識精度を得られる利点がある。
<参考文献1>E.オヤ、「パターン認識と部分空間法」(小川英光、佐藤誠訳)、産業図書、1986年
 部分空間法やその派生形による類似度の演算は、認識対象の区切り判定と認識を同時に行う従来の方法における状態モデルと特徴ベクトルの照合の演算と同一の目的であり、実際、前者は後者を近似したものとみなすことができる(下記の参考文献2を参照)。
<参考文献2>黒沢由明、“球面ガウス分布から導出される部分空間法”信学論(D-2)、J81-D2(6)、pp.1205-1212、1998
 そこで、前者における類似度を後者において用いる尤度などの確率尺度に変換する確率化パラメータを導入し、特徴ベクトルxの尤度L(x)を下記式(1)のように計算するモデルを考える。
Figure JPOXMLDOC01-appb-M000001
 ただし、式(1)におけるP’は、正規直交する辞書部分空間基底ベクトルu,・・・,uから下記式(2)で計算される行列であり、q,wは確率化パラメータである。
Figure JPOXMLDOC01-appb-M000002
 また、このとき、下記式(3)で示されるsは、特徴ベクトルxの類似度である。
Figure JPOXMLDOC01-appb-M000003
 以下では、式(1)の計算を行うモデルを「確率的部分空間モデル」と呼ぶ。
 ここで、図1を参照しながら、隠れマルコフモデル(HMM)の状態モデルを、確率的部分空間モデルに置き換える例を説明する。HMMは、図1(a)に模式的に示すように、複数の状態により構成される。HMMの入力は、特徴ベクトルの系列である。各状態は、単独の特徴ベクトルの統計モデルであり、通常は、図1(b)に模式的に示すような混合ガウス分布モデル(GMM:Gaussian Mixture Model)が用いられる(非特許文献1を参照)。HMMの学習時には、状態および状態間のパラメータがそれぞれ独立に学習される。
 HMMの状態モデルとして用いられるGMMは、単独の特徴ベクトルのモデルとしては、認識精度の割に計算量が多い。そこで、HMMの状態モデルを、通常用いられるGMMから、図1(c)に模式的に示すような確率的部分空間モデルに置き換える。確率的部分空間モデルは、特徴ベクトルの次元数よりも小さい次元数の部分空間で演算を行うため、GMMに比べて計算量が少ない。したがって、図1(d)に示すように、HMMの状態モデルをGMMから確率的部分空間モデルに置き換えて特徴ベクトルの照合演算を行うことにより、短時間で高精度な認識を行うことが可能になる。
 このとき、認識においては、HMMの尤度を計算するViterbiアルゴリズムは各状態モデルにおける尤度計算の方法に依存しないので(非特許文献1を参照)、HMMの状態モデルを確率的部分空間モデルに置き換えても、Viterbiアルゴリズムをそのまま用いることができる。
 一方、確率的部分空間モデルの学習時には、これをHMMの学習に用いるBaum-Welchアルゴリズム(非特許文献1を参照)と同様に、期待値最大化法(EM法)により行うこととすると、各状態への負担率(非特許文献1を参照)は状態モデルの形によらないので、Baum-Welchアルゴリズムと同様に計算できる。
 そこで、学習データx,・・・,xを用いて、確率的部分空間モデルのパラメータである確率化パラメータq,wおよび辞書部分空間基底ベクトルu,・・・,uを更新することを考える。このときx,・・・,xの負担率をγ,・・・,γとすると、全学習データの対数尤度は学習データの独立性を仮定して、下記式(4)のように表すことができる。
Figure JPOXMLDOC01-appb-M000004
 EM法においては、式(4)で表される対数尤度を最大化するようにパラメータを最大化するが、P’については主成分分析(非特許文献1を参照)と同様であり、下記式(5)を対角化し、上位k個の固有値に対応する固有ベクトルを順番にとって、辞書部分空間基底ベクトルu,・・・,uとすればよい。
Figure JPOXMLDOC01-appb-M000005
 ところが、確率化パラメータq,wについては問題が生じる。後述の式(6)の形から明らかなように、データ尤度Lはq,wについて単調であり、データ尤度Lを確率化パラメータq,wについて最大化することは不可能である。実際、wを小さく、またqを大きくとれば、Lを任意に大きくすることができてしまい、これは認識モデルとしては不適切である。
 そこで、本実施形態では、確率化パラメータq,wの間に適当な拘束条件f(q,w)=0を導入することにより、確率的部分空間モデルを適切に学習させることを可能にする。これにより、HMMの状態モデルなどを確率的部分空間モデルに置き換えた新規な方法により、認識単位の区切りが明らかでない入力信号に対して短時間で高精度な認識を行うことができるパターン認識装置を実現可能とする。
 図2は、本実施形態のパターン認識装置の機能的な構成を示すブロック図である。図1に示すように、本実施形態のパターン認識装置は、信号入力部1、特徴抽出部2、認識部3、および辞書更新部4を備える。
 信号入力部1は、認識対象となる信号の入力を受け付ける。認識対象となる信号は、例えば、画像として表される文字や文字列、その他の画像、波形として表される音声信号や各種のセンサ信号などであり、これらのディジタル情報、または必要に応じて二値化などの前処理を施したディジタル情報が、信号入力部1に入力される。
 特徴抽出部2は、信号入力部1に入力された信号を、一定の次元数の特徴ベクトルの集合に変換する。具体的には、特徴抽出部2は、まず信号入力部1に入力された信号に窓をかけて窓の範囲の部分信号を抽出する。次に、特徴抽出部2は、抽出した信号部分のそれぞれに対して、長さや量子化レベルを正規化するなどの前処理を施す。そして、特徴抽出部2は、その前処理後の値や、前処理後の信号にさらにガウシアンフィルタなどのフィルタ処理やフーリエ変換などの変換処理を施した後の値を成分とする特徴ベクトルを出力し、信号入力部1に入力された信号に対応する特徴ベクトルの集合を生成する。具体例としては、下記の参考文献3に記載の技術を用いることができる。
<参考文献3>J.A.Rodriguez and F.Perronin、“Local Gradient Histogram Features for Word Spotting in Unconstrained Handwritten Documents”、Proc.ICFHR2008、2008
 認識部3は、認識辞書10を用いて、特徴抽出部2により生成された特徴ベクトルの集合を評価し、信号入力部1に入力された信号が属するクラスまたはクラスの集合を表す認識結果を出力する。
 認識辞書10は、本実施形態のパターン認識装置が信号の分類先として扱うそれぞれのクラスに対応するモデルを含むデータベースであり、本実施形態のパターン認識装置の内部または外部に保持される。認識辞書10が保持する各クラスのモデルは、HMMのように複数の状態により構成され、それぞれの状態が上述した確率的部分空間モデルである。つまり、認識辞書10は、クラスごとのモデルの各状態に対応する辞書部分空間基底ベクトルu,・・・,uと、確率化パラメータq,wとを保持している。辞書部分空間基底ベクトルu,・・・,uは、特徴ベクトルの次元数よりも少ない次元の辞書部分空間を表現するパラメータであり、確率化パラメータq,wは、特徴ベクトルと辞書部分空間から計算される類似度を尤度に変換するためのパラメータである。
 認識部3は、認識辞書10に含まれるモデルを組み合わせて、特徴抽出部2により生成された特徴ベクトルの集合との最適な対応を探索し、モデルのラベル集合を出力する。このとき、認識部3は、認識辞書10に含まれる各モデルの各状態において、特徴ベクトルの集合のうちの1つまたは複数の特徴ベクトルに対し、特徴ベクトルと辞書部分空間基底ベクトルu,・・・,uの内積の値の二次多項式により類似度を計算し、その類似度と確率化パラメータq,wの線形和の指数関数により尤度を計算する。そして、全体としてのデータ尤度Lが最大となるモデルの組み合わせを選び、そのラベル集合を出力する。
 データ尤度Lは、特徴ベクトルの集合の要素x,・・・,xがそれぞれ辞書部分空間U,・・・,Uを持つモデルM,・・・,Mに対応するとき、下記式(6)として得られる。
Figure JPOXMLDOC01-appb-M000006
 このとき、モデル列がM,・・・,Mとなる確率P(M,・・・,M)は、Nグラム(下記の参考文献4を参照)などの確率的言語モデルによって決定することができ、通常はバイグラムを用いてBaum-Welchアルゴリズムにより学習される(非特許文献1を参照)。
<参考文献4>北研二、「確率的言語モデル」(言語と計算5)、東京大学出版会、1999年
 辞書更新部4は、認識部3による処理が終了した後、入力信号から生成された特徴ベクトルの集合を用いて認識辞書10を更新する。この際、辞書更新部4は、確率化パラメータq,w間の拘束条件f(q,w)=0を利用した期待値最大化法により、認識辞書10の学習を行う。以下、認識辞書10を更新する方法の具体例を説明する。
 ある状態モデルに入力された特徴ベクトルをx,・・・,xとし、その負担率がγ,・・・,γと書けるとき、まず、下記式(7)を計算し、Kの上位k個の固有値に対応する固有ベクトルをu,・・・,uとして、その状態モデルにおける辞書部分空間基底ベクトルを更新する。
Figure JPOXMLDOC01-appb-M000007
 そして、確率化パラメータq,w間の拘束条件f(q,w)=0に対し、下記式(8)に示す方程式の解をqとし、さらにその解をf(q,w)=0に代入して得られる解をwとする。
Figure JPOXMLDOC01-appb-M000008
 ただし、μは認識時の類似度を1から引いたものの重み付き平均であり、下記式(9)のように表される。
Figure JPOXMLDOC01-appb-M000009
 確率化パラメータq,w間の拘束条件としては、例えば、下記式(10)で表される状態モデルの実効次元を一定に保つとの条件、すなわち、下記式(11)で示される条件が挙げられる。
Figure JPOXMLDOC01-appb-M000010
 このとき、上記式(8)は下記式(12)、すなわちE/2w=μとなるから、これを解いてw=E/2μが得られる。
Figure JPOXMLDOC01-appb-M000011
 さらに、w=E/2μを上記式(10)に代入して、下記式(13)が得られる。これらの値で、確率化パラメータq,wを更新すればよい。
Figure JPOXMLDOC01-appb-M000012
 辞書更新部4は、認識部3での認識に用いた各状態モデルそれぞれについて、以上のような辞書部分空間基底ベクトルu,・・・,uの更新と、確率化パラメータq,wの更新を行う。これにより、認識を行うたびに認識辞書10が自動学習されて、認識精度が向上する。
 次に、本実施形態のパターン認識装置による処理の概要について、図3に沿って説明する。図3は、本実施形態のパターン認識装置による処理手順の一例を示すフローチャートである。
 まず、信号入力部1が、認識対象となる信号の入力を受け付ける(ステップS101)。信号入力部1に入力された信号は、特徴抽出部2に渡される。
 次に、特徴抽出部2が、ステップS101で入力された信号を信号入力部1から受け取り、上述した方法によって、この信号から特徴ベクトルの集合を生成する(ステップS102)。特徴抽出部2により生成された特徴ベクトルの集合は、認識部3に渡される。
 次に、認識部3が、ステップS102で生成された特徴ベクトルの集合を特徴抽出部2から受け取り、認識辞書10を用いて特徴ベクトルの集合を評価して、ステップS101で入力された信号が属するクラスまたはクラスの集合を表す認識結果を出力する(ステップS103)。このとき、認識部3は、認識辞書10に含まれる各モデルの各状態において、上述した特徴ベクトルの類似度の計算および尤度の計算を行って、全体としてのデータ尤度Lが最大となるモデルの組み合わせを選び、そのラベル集合を出力する。この認識処理の後、認識部3に入力された特徴ベクトルの集合と認識部3が出力したラベル集合が、辞書更新部4に渡される。
 次に、辞書更新部4が、認識部3に入力された特徴ベクトルの集合と認識部3が出力したラベル集合を受け取り、認識部3での認識に用いた各状態モデルそれぞれについて、上述した方法により、辞書部分空間基底ベクトルおよび確率化パラメータの更新を行う(ステップS104)。この際、特に確率化パラメータの更新には、上述した確率化パラメータ間の拘束条件を利用する。
 以上、具体的な例を挙げながら説明したように、本実施形態のパターン認識装置では、クラスごとのモデルの状態モデルとして、上述した確率的部分空間モデルを用いる。認識辞書10は、各状態モデルのそれぞれに対応する辞書部分空間基底ベクトルと、確率化パラメータとを保持している。そして、認識部3は、入力信号から生成された特徴ベクトルの集合に対し、それぞれの特徴ベクトルと辞書部分空間基底ベクトルの内積の値の二次多項式により類似度を計算し、得られた類似度と確率化パラメータの線形和の指数関数により尤度を計算して、全体としてのデータ尤度が最大となるモデルの組み合わせを選び、そのラベル集合を認識結果として出力する。また、認識部3による処理が終了すると、辞書更新部4が、入力信号から生成された特徴ベクトルの集合を用いて認識辞書10を更新する。この際、辞書更新部4は、確率化パラメータ間の拘束条件を利用した期待値最大化法により、認識辞書10の学習を行う。したがって、本実施形態のパターン認識装置によれば、認識単位の区切りが明らかでない入力信号に対して短時間で高精度な認識を行うことができる。
 なお、以上の説明では、確率化パラメータ間の拘束条件として、状態モデルの実効次元を一定に保つとの条件を用いたが、利用可能な拘束条件はこれに限らない。例えば、モデルの各状態において下記式(14)を一定に保つとの条件、すなわち、下記式(15)で示される条件を用いてもよい。
Figure JPOXMLDOC01-appb-M000013
 このとき、上記式(8)は下記式(16)となるから、これを上記式(14)に代入して、下記式(17)が得られる。これらの値で、確率化パラメータq,wを更新すればよい。
Figure JPOXMLDOC01-appb-M000014
 また、以上の説明では、HMMの状態モデルを式(1)で表される確率的部分空間モデルに置き換える例を想定したが、これに限らない。認識対象の区切り判定と認識を同時に行う他の方法において、尤度の計算に時間がかかるモデルを確率的部分空間モデルに置き換えるようにしてもよい。さらに、式(1)で表される確率的部分空間モデルに代えて、同様の機能を有するモデル、つまり部分空間法により類似度を計算し、類似度から尤度を計算する他のモデルを用いるようにしてもよい。
 また、以上の説明では、辞書更新部4をパターン認識装置の内部に備えた例を想定したが、辞書更新部4は、パターン認識装置の外部に設けてもよい。この場合、パターン認識装置の外部に設けられた辞書更新部4は、例えば、パターン認識装置と通信しながら上述した認識辞書10の更新の処理を行う。
 本実施形態のパターン認識装置は、例えば図4に示すように、CPU(Central Processing Unit)101などのプロセッサ、ROM(Read Only Memory)102やRAM(Random Access Memory)103などの記憶装置、HDD(Hard Disk Drive)104などの補助記憶装置、ネットワークに接続して通信を行う通信I/F105、各部を接続するバス106などを備えた、通常のコンピュータを利用したハードウェア構成を採用することができる。この場合、上述した各機能的な構成要素は、コンピュータ上で所定のパターン認識プログラムを実行することによって実現することができる。
 このパターン認識プログラムは、インストール可能な形式または実行可能な形式のファイルでCD-ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD-R(Compact Disk Recordable)、DVD(Digital Versatile Disc)等のコンピュータで読み取り可能な記録媒体に記録されてコンピュータプログラムプロダクトとして提供される。
 また、このパターン認識プログラムを、インターネットなどのネットワークに接続された他のコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、このパターン認識プログラムをインターネットなどのネットワーク経由で提供または配布するように構成してもよい。
 また、このパターン認識プログラムを、ROM102等に予め組み込んで提供するように構成してもよい。
 このパターン認識プログラムは、本実施形態のパターン認識装置の各処理部(信号入力部1、特徴抽出部2、認識部3、および辞書更新部4)を含むモジュール構成となっており、実際のハードウェアとしては、例えば、CPU101(プロセッサ)が上記記録媒体からプログラムを読み出して実行することにより、上述した各処理部がRAM103(主記憶)上にロードされ、上述した各処理部がRAM103(主記憶)上に生成されるようになっている。なお、本実施形態のパターン認識装置は、上述した各処理部の一部または全部を、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)などの専用のハードウェアを用いて実現することも可能である。
 以上、本発明の実施形態を説明したが、ここで説明した実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。ここで説明した新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。ここで説明した実施形態やその変形は、発明の範囲や要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。

Claims (6)

  1.  入力された信号を特徴ベクトルに変換し、該特徴ベクトルを認識辞書と照合することにより、入力された信号のパターン認識を行うパターン認識装置であって、
     前記認識辞書は、前記特徴ベクトルの次元数よりも少ない次元の辞書部分空間を表現する辞書部分空間基底ベクトルと、前記特徴ベクトルと前記辞書部分空間から計算される類似度を尤度に変換するための複数の確率化パラメータと、を有し、
     前記特徴ベクトルと前記辞書部分空間基底ベクトルの内積の値の二次多項式により前記類似度を計算し、該類似度と前記確率化パラメータの線形和の指数関数により前記尤度を計算する認識部を備え、
     前記認識辞書は、前記複数の確率化パラメータ間の拘束条件を利用した期待値最大化法により学習されることを特徴とするパターン認識装置。
  2.  前記確率化パラメータ間の拘束条件を利用した期待値最大化法により前記認識辞書の学習を行う辞書更新部をさらに備えることを特徴とする請求項1に記載のパターン認識装置。
  3.  前記認識辞書は、複数の状態により構成されるモデルをクラスごとに有し、前記モデルの各状態のそれぞれに対応する前記辞書部分空間基底ベクトルおよび前記確率化パラメータを有し、
     前記認識部は、前記モデルの各状態において、前記特徴ベクトルのうちの1つまたは複数に対し、前記類似度の計算および前記尤度の計算を行うことを特徴とする請求項1または2に記載のパターン認識装置。
  4.  前記拘束条件は、前記複数の確率化パラメータに対応する前記状態の実効次元を一定に保つとの条件であることを特徴とする請求項3に記載のパターン認識装置。
  5.  入力された信号を特徴ベクトルに変換し、該特徴ベクトルを認識辞書と照合することにより、入力された信号のパターン認識を行うパターン認識装置において実行されるパターン認識方法であって、
     前記認識辞書は、前記特徴ベクトルの次元数よりも少ない次元の辞書部分空間を表現する辞書部分空間基底ベクトルと、前記特徴ベクトルと前記辞書部分空間から計算される類似度を尤度に変換するための複数の確率化パラメータと、を有し、
     前記パターン認識装置が、前記特徴ベクトルと前記辞書部分空間基底ベクトルの内積の値の二次多項式により前記類似度を計算するステップと、
     前記パターン認識装置が、前記類似度と前記確率化パラメータの線形和の指数関数により前記尤度を計算するステップと、を含み、
     前記認識辞書は、前記複数の確率化パラメータ間の拘束条件を利用した期待値最大化法により学習されることを特徴とするパターン認識方法。
  6.  コンピュータを、入力された信号を特徴ベクトルに変換し、該特徴ベクトルを認識辞書と照合することにより、入力された信号のパターン認識を行うパターン認識装置として機能させるためのプログラムであって、
     前記認識辞書は、前記特徴ベクトルの次元数よりも少ない次元の辞書部分空間を表現する辞書部分空間基底ベクトルと、前記特徴ベクトルと前記辞書部分空間から計算される類似度を尤度に変換するための複数の確率化パラメータと、を有し、
     前記コンピュータに、
     前記特徴ベクトルと前記辞書部分空間基底ベクトルの内積の値の二次多項式により前記類似度を計算する機能と、
     前記類似度と前記確率化パラメータの線形和の指数関数により前記尤度を計算する機能とを実現させ、
     前記認識辞書は、前記複数の確率化パラメータ間の拘束条件を利用した期待値最大化法により学習されることを特徴とするプログラム。
PCT/JP2015/063531 2015-05-11 2015-05-11 パターン認識装置、パターン認識方法およびプログラム Ceased WO2016181474A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/JP2015/063531 WO2016181474A1 (ja) 2015-05-11 2015-05-11 パターン認識装置、パターン認識方法およびプログラム
CN201580078069.9A CN107533672B (zh) 2015-05-11 2015-05-11 模式识别装置、模式识别方法以及记录介质
US15/709,771 US10366312B2 (en) 2015-05-11 2017-09-20 Pattern recognition device, pattern recognition method, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/063531 WO2016181474A1 (ja) 2015-05-11 2015-05-11 パターン認識装置、パターン認識方法およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US15/709,771 Continuation US10366312B2 (en) 2015-05-11 2017-09-20 Pattern recognition device, pattern recognition method, and computer program product

Publications (1)

Publication Number Publication Date
WO2016181474A1 true WO2016181474A1 (ja) 2016-11-17

Family

ID=57249122

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/063531 Ceased WO2016181474A1 (ja) 2015-05-11 2015-05-11 パターン認識装置、パターン認識方法およびプログラム

Country Status (3)

Country Link
US (1) US10366312B2 (ja)
CN (1) CN107533672B (ja)
WO (1) WO2016181474A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115659210A (zh) * 2022-12-28 2023-01-31 西北工业大学 一种基于字典匹配度的目标类别识别方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10043101B2 (en) * 2014-11-07 2018-08-07 Adobe Systems Incorporated Local feature representation for image recognition
JP6857332B2 (ja) * 2018-03-13 2021-04-14 オムロン株式会社 演算装置、演算方法、及びそのプログラム
US11531848B2 (en) * 2019-07-26 2022-12-20 Hitachi High-Tech Corporation Data processing apparatus, data processing method and semiconductor manufacturing apparatus
CN115630289B (zh) * 2022-12-21 2023-09-26 白杨时代(北京)科技有限公司 一种基于证据理论的目标识别方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001125593A (ja) * 1999-10-29 2001-05-11 Sharp Corp 音声認識装置、音声認識方法および音声認識プログラムを記録した媒体
JP2014153763A (ja) * 2013-02-05 2014-08-25 Toshiba Corp パターン認識装置、パターン認識方法、及びパターン認識プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2739950B2 (ja) * 1988-03-31 1998-04-15 株式会社東芝 パターン認識装置
JP3135594B2 (ja) 1991-02-13 2001-02-19 株式会社東芝 パターン認識装置およびパターン認識方法
US5920644A (en) * 1996-06-06 1999-07-06 Fujitsu Limited Apparatus and method of recognizing pattern through feature selection by projecting feature vector on partial eigenspace
JP2007233873A (ja) 2006-03-02 2007-09-13 Toshiba Corp パターン認識装置及びその方法
JP5621787B2 (ja) * 2010-01-14 2014-11-12 日本電気株式会社 パターン認識装置、パターン認識方法及びパターン認識用プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001125593A (ja) * 1999-10-29 2001-05-11 Sharp Corp 音声認識装置、音声認識方法および音声認識プログラムを記録した媒体
JP2014153763A (ja) * 2013-02-05 2014-08-25 Toshiba Corp パターン認識装置、パターン認識方法、及びパターン認識プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115659210A (zh) * 2022-12-28 2023-01-31 西北工业大学 一种基于字典匹配度的目标类别识别方法
CN115659210B (zh) * 2022-12-28 2025-06-20 西北工业大学 一种基于字典匹配度的目标类别识别方法

Also Published As

Publication number Publication date
CN107533672B (zh) 2021-01-12
US10366312B2 (en) 2019-07-30
US20180012108A1 (en) 2018-01-11
CN107533672A (zh) 2018-01-02

Similar Documents

Publication Publication Date Title
US12182720B2 (en) Pattern recognition apparatus, pattern recognition method, and computer-readable recording medium
JP7031686B2 (ja) 画像認識システム、方法およびプログラム、並びにパラメータ学習システム、方法およびプログラム
CN105981008A (zh) 学习深度人脸表示
US10373028B2 (en) Pattern recognition device, pattern recognition method, and computer program product
CN101076851B (zh) 口语识别系统以及用于训练和操作该系统的方法
CN112632226A (zh) 基于法律知识图谱的语义搜索方法、装置和电子设备
CN113762005B (zh) 特征选择模型的训练、对象分类方法、装置、设备及介质
Dreuw et al. RWTH OCR: A large vocabulary optical character recognition system for Arabic scripts
US10366312B2 (en) Pattern recognition device, pattern recognition method, and computer program product
Bahari Speaker age estimation using Hidden Markov Model weight supervectors
JP5989576B2 (ja) パターン識別装置、パターン識別方法、プログラム、学習装置および学習方法
CN109446334A (zh) 一种实现英文文本分类的方法及相关设备
CN119790395A (zh) 用于段落检索的基于转换器的文本编码器
Grosz et al. Investigating wav2vec2 context representations and the effects of fine-tuning, a case-study of a Finnish model
JP6577900B2 (ja) 音素誤り獲得装置、音素誤り獲得方法、およびプログラム
Kumar et al. A Bayesian approach to script independent multilingual keyword spotting
Kumar et al. Bayesian background models for keyword spotting in handwritten documents
Su et al. Discriminative transformation for multi-dimensional temporal sequences
JP5980142B2 (ja) 学習データ選択装置、識別的音声認識精度推定装置、学習データ選択方法、識別的音声認識精度推定方法、プログラム
JP6313062B2 (ja) パターン認識装置、パターン認識方法およびプログラム
CN112084944A (zh) 一种动态演化表情的识别方法与系统
CN118570557A (zh) 基于全局和局部内容匹配的小样本图像分类方法及装置
JP6235368B2 (ja) パターン認識装置、パターン認識方法およびプログラム
Kumar et al. Bayesian active learning for keyword spotting in handwritten documents
Anju et al. TrA-MHWR: Transformer-Enhanced Feature Extraction with Attention-Based Recognition for Offline Handwritten Malayalam Words

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15891800

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15891800

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP