JP4017748B2 - 発話速度計測システム、方法および記録媒体 - Google Patents
発話速度計測システム、方法および記録媒体 Download PDFInfo
- Publication number
- JP4017748B2 JP4017748B2 JP16379698A JP16379698A JP4017748B2 JP 4017748 B2 JP4017748 B2 JP 4017748B2 JP 16379698 A JP16379698 A JP 16379698A JP 16379698 A JP16379698 A JP 16379698A JP 4017748 B2 JP4017748 B2 JP 4017748B2
- Authority
- JP
- Japan
- Prior art keywords
- lips
- movement
- mora
- change
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は、発話された音声の発話速度を計測する発話計測システム、方法および記録媒体に関する。
【0002】
【従来の技術】
従来、発話速度計測システムとしては音声認識の手法を使用して発話速度を測定するシステム(特開平7−295588号公報)が提案されている。このシステムでは入力音声中の母音を音声認識により検出し、所望の時間区間内に検出した母音数を音節数に換算する。その音節数を時間区間の値で除した値を発話速度の計測値としている。
【0003】
【発明が解決しようとする課題】
しかしながら、計測対象の音声が発声されている環境下に雑音や他人の音声、音響が混入すると、音声のS/N比が音声認識にとって良好なものとならない場合がある。さらに曖昧に発声された場合なども音声認識を行うことが困難となる。このような状態では極端な場合、発話速度を測定することが困難となる。
【0004】
そこで、本発明の目的は、このような点に鑑みて、映像の唇の動きから発話速度を計測することにより音声の発声環境に影響されない発話速度計測システム、方法および記録媒体を提供することにある。
【0005】
【課題を解決するための手段】
このような目的を達成するために、請求項1の発明は、発話時の唇の動きを撮影した映像をカラーの映像信号の形態で入力する入力手段と、当該入力されたカラーの映像信号を輝度信号に変換して供給する信号処理手段と、該信号処理手段から供給された前記発話時の唇の動きを撮影した前記映像の中の、前記唇上の特徴点の移動量を時系列的に検出する位置検出手段と、該位置検出手段により検出された隣接の2つの時点の移動量の変化を算出し、当該算出結果が予め定めた範囲を超える時点をモーラの変化の時点として検出するモーラ検出手段と、該モーラの検出手段によりモーラの変化が検出される所定時間内での回数を計数する計数手段と、該計数手段により計数された計数結果を発話速度に換算する演算処理手段とを具えたことを特徴とする。
【0007】
請求項2の発明は、請求項1に記載の発話速度計測システムにおいて、前記唇の特徴点は前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点であることを特徴とする。
【0008】
請求項3の発明は、請求項1に記載の発話速度計測システムにおいて、前記特徴点は、水平方向および垂直方向の移動量の検出のために当該水平方向および垂直方向に対応して各別に計2つ用意されていることを特徴とする。
【0009】
請求項4の発明は、発話時の唇の動きを撮影した映像をカラーの映像信号の形態で入力し、当該入力されたカラーの映像信号を輝度信号に変換し、前記変換された前記発話時の唇の動きを撮影した前記映像の中の、前記唇上の特徴点の移動量を時系列的に検出し、隣接の2つの時点について当該検出された移動量の変化を算出し、当該算出結果が予め定めた範囲を超える時点をモーラの変化の時点として検出し、該モーラの変化が検出される所定時間内での回数を計数し、当該計数された計数結果を発話速度に換算することを特徴とする。
【0011】
請求項5の発明は、請求項4に記載の発話速度計測方法において、前記唇の特徴点は前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点であることを特徴とする。
【0012】
請求項6の発明は、請求項4に記載の発話速度計測方法において、前記特徴点は、水平方向および垂直方向の移動量の検出のために当該水平方向および垂直方向に対応して各別に計2つ用意されていることを特徴とする。
【0013】
請求項7の発明は、コンピュータにより実行するプログラムを記録した記録媒体において、前記プログラムは、発話時の唇の動きを撮影した映像をカラーの映像信号の形態で入力するステップと、当該入力されたカラーの映像信号を輝度信号に変換するステップと、前記変換された前記発話時の唇の動きを撮影した前記映像の中の、前記唇上の特徴点の移動量を時系列的に検出するステップと、隣接の2つの時点について当該検出された移動量の変化を算出するステップと、当該算出結果が予め定めた範囲を超える時点をモーラの変化の時点として検出するステップと、該モーラの変化が検出される所定時間内での回数を計数するステップと、当該計数された計数結果を発話速度に換算するステップとを具えたことを特徴とする。
【0015】
請求項8の発明は、請求項7に記載の記録媒体において、前記唇の特徴点は前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点であることを特徴とする。
【0016】
請求項9の発明は、請求項7に記載の記録媒体において、前記特徴点は、水平方向および垂直方向の移動量の検出のために当該水平方向および垂直方向に対応して各別に計2つ用意されていることを特徴とする。
【0017】
【発明の実施の形態】
以下、図面に示す実施例に基づいて本発明の実施形態を詳細に説明する。
【0018】
図1は本発明を適用した発話速度計測システムのシステム構成を示す。発話音声にあわせて撮影する映像はハイビジョン、NTSC、PAL等の各方向に適応可能であるが、ここでは、ハイビジョンについての場合を示す。
【0019】
図1において、A/D変換部1はハイビジョンテレビ信号をデジタル処理可能なデジタル信号にアナログ/デジタル変換する。
【0020】
動きベクトル検出部10は、後述の前処理部2、画像抜きだし部3、動き検出部4および発話検出部5を有する。モーラ数カウンター部6は、動きベクトル検出部10により検出されたモーラの所定時間あたりの個数を計数する。
【0021】
動きベクトル検出部10の各構成部2〜5およびモーラ数カウンター6の処理は情報処理装置がプログラムを実行することにより実現される。情報処理装置としては、パーソナルコンピュータ等の汎用コンピュータや、メモリとデジタルプロセッサ等を有するデジタル回路等を使用することができる。
【0022】
このようなシステム構成におけるシステム動作を次に説明する。
【0023】
(a)唇の動きを撮影した映像(例えば、ニュースなどのようなバストショットで撮影された映像の)を外部から発明速度計測システムに入力する。
【0024】
(b)映像をRGB4:4:4フォーマットでA/D変換部1においてA/D変換する。
【0025】
(c)変換された映像から、唇の動きベクトルを検出するための前処理を前処理部2で行う。具体的には映像(信号)からマトリクスによる動きベクトル検出用の照度信号に変換する。
【0026】
(d)前処理部2で前処理されて転送され、唇の動きを伴った映像から、唇の近傍の画像を画像抜きだし部3において、抜きだす。
【0027】
(e)例えば、勾配法に基づく初期偏位ベクトル(例えば、候補ベクトル:8種、ブロックサイズ:8画素、8ライン)を用いた反復勾配法(例えば、最大反復回数:2回、ブロックサイズ:8画素、8ライン、特願平9−249134号、テレビジョン学会誌Vol.48,No.1,pp84−94(1994)、NHK技研R&D,No.26,1993年9月参照)により、唇の近傍の動きベクトルを動き検出部4において求める。
【0028】
(f)発話検出部5において、唇の上下方向の動きベクトル、および左右方向の動きベクトルのベクトルを検出する。上下方向の動きベクトル、および左右方向の動きベクトルがある一定値以上の変化を示した場合、1モーラを発生したことになる。発話検出部5では、左右、上下方向の動きベクトルを取得すると共にしきい値を比較し、唇の動きから1モーラ毎の発声を検出する。(唇の上下方向の動きベクトルの定義内容を図2に、左右方向の動きベクトルの定義内容を図3に示す。また、唇の上下方向、および左右方向の動きベクトルの変化例を図4に示す。)
(g)発話検出部5により1モーラの発声を検出する毎にモーラ数カウンター6にてモーラ数を計数する。一定単位時間毎にモーラ数カウンター6の計数結果を不図示の除算器により単位時間(例えば、秒)当たりで除算し、単位時間(例えば、秒)当たり平均和速(例えば、モーラ/秒)に換算する。
【0029】
図2に、唇の上下(垂直)方向の動きベクトルの定義方法を示す。無音状態(何も発声せず、口を結んでいる状態)の場合の唇の中央部あるいは上端部を始点とし、この点(上唇)が上に上がる(開いた)方向のベクトルを「上下方向の動きベクトル」とし、aaであらわす。このベクトルaaは始点を0ベクトルとして、上方向が(+)のベクトルである。
【0030】
図3に、唇の左右(水平)方向の動きベクトルの定義方法を示す。無音状態(何も発声せず、口を結んでいる状態)における、唇の左端(もしくは右端)を始点として、この点が、外側へ延びる方向を「左右方向の動きベクトル」とし、bbであらわす。このベクトルbbは、始点を0ベクトルとして、外側方向が(+)のベクトルであり、内側方向が(−)のベクトルである。
【0031】
図4は、“あいうえお”と連続で発声した場合、唇の上下方向の動きベクトル量(上の図)と左右方向の動きベクトル(下の図)の関係を示した例である。
【0032】
このグラフで、
(1)無音(何も発声していない状態)の場合の唇の上下方向の動きベクトルをaa0 、左右方向の動きベクトルをbb0 とする。
【0033】
(2)/あ/と発声した場合の唇の上下方向の動きベクトルをaa1 とする。このときの、左右方向の動きベクトルをbb1 とする。この場合、全体の唇の変位SS1 を
【0034】
【数1】
SS1 =aa1 +bb1
と定義する。
【0035】
(3)同様に、/い/と発声した場合の唇の上下方向の動きベクトルをaa2 とする。このときの、左右方向の動きベクトルをbb2 とする。この場合、全体の唇の変位SS2 は、
【0036】
【数2】
SS2 =aa2 +bb2
(4)ここで、n番目に発声された単音節における、唇の変動:MMn 、
【0037】
【数3】
MMn =SSn −SSn-1
と定義すると、発声が、/あ/から/い/に変化する場合の、唇の変動:MM2 は、
【0038】
【数4】
MMn =SS2 −SS1
となる。
【0039】
ここで、MM2 がある閾値より大きい場合、1モーラを発声したことになる。この閾値は唇の動きを撮した映像や、個人差によって差があり、事前に設定する。発話検出に際し、唇の上下方向の動きベクトルに加え、左右方向の動きベクトルも勘案することにより、例えば、/い//う/と発声した場合、唇の上下方向の動きベクトルは、aa2 、aa3 となり、
【0040】
【数5】
【0041】
の関係があり、発話を検出しにくいが、左右方向の動きベクトル(bb)も、発話検出のパラメータとして導入することにより、正確に発話検出が可能となる。
【0042】
上述の発話速度計測処理をコンピュータで実行するための具体的処理内容を説明しておく。映像発生源、たとえば、テレビジョン、ビデオテープレコーダ、ビデオカメラ等で撮影された発話者の唇の映像は、デジタル変換された後、コンピュータ内のメモリあるいはハードディスク記憶装置に取り込まれる。映像ここでは動画像は、複数のフレーム(1画面の静止画像)から構成されるので、各静止画像の唇の特徴点、本実施形態では、無音状態の唇の端点位置を検出する。唇の映像は、たとえば輪郭部を検出したり、背景を除去する画像処理により得られるので、このようにして取得した唇の上記特徴点の画面上の位置を検出する。各静止画面から検出された特徴点の位置情報はメモリに一時格納される。この位置情報に基づき上述の反復勾配法等の画像分析手法により、唇の特徴点の動きベクトルを計算する。発話の内容(モーラ)が異なると、唇の特徴点の移動軌跡が大きく変化するので、図4に示すように上下、左右方向の動きベクトルも変化する。そこで、現時点の動きベクトルの値と、隣接する過去の時点の動きベクトルの値の差分値(この場合、移動量についての差)を取得し、その差分値をしきい値と比較する。発話内容が変化した場合には、上記差分値は閾値よりも大きくなるので、この時点をたとえば、これまで発声された音節の終わりおよびこれから発声されようとする音節の始まりと決定することができる。この音節の区切れが検出される回数を計数することが上述のモーラの個数を計数することになる。一定時間(たとえば、1秒)毎にモーラの個数を計数すると計数値は0(ゼロ)にリセットされて、以後、計数処理は繰り返し行われる。計数されたモーラ数を上記一定時間の値で除すと単位時間当たりのモーラ数、すなわち、発話速度が得られる。
【0043】
以上の処理を汎用コンピュータにより実現するためには構成部2〜6の機能毎の処理ステップを規定したプログラムを用意しておけばよく、当業者であれば、本明細書に基づき容易にプログラムを作成できるであろう。
【0044】
このプログラムは発話速度計測システムのハード構成に好適な記録媒体に記録しておけばよい。発話速度計測システムを汎用コンピュータで実現する場合には、上記プログラムをCDROMやフロッピーディスクに記録しておき、汎用コンピュータのハードディスクに実装すればよい。また、発話速度計測システムを、単体(CPU,メモリ)等で構成する場合には、ROMなどの不揮発性メモリに記憶するとよい。
【0045】
本実施例の他に次の形態を実施することができる。
【0046】
1)上述の実施形態では、映像のみで発話速度を計測する例であったが、音声に基づいて発話速度を計測するシステムと切り替え使用してもよい。この切り替えはキーボードからの手動により行ってもよいし、音声のS/N比の値に応じて自動切換えすることが考えられる。
【0047】
2)唇の動きを検出すために用意する特徴点は、上述の実施形態のように形状的に定まる点(端点、中央の点)の他に、最大輝度を有する点等の特徴点を使用することができる。
【0048】
3)上述の形態では、水平方向と垂直方向のそれぞれに特徴点を用意したが、唇の中央部や水平方向以外の特徴点を最大輝度により決定する場合には、特徴点は1つでよい。この場合には、移動方向と移動量のそれぞれについての許容範囲以上の変化の有無を検出することになる。
【0049】
4)話者を特定者に限定する場合には特徴点の移動量を、特徴点の位置の変化として取り扱うことができる。この場合には、ベクトルの変化(差分値)を閾値と比較する代わりに、特徴点の位置がある特定の位置から、他の特定の位置に移動したか否かを判定する。ただし、この場合には、不特定話者の唇の動きを分析できないという欠点がある。
【0050】
5)上述の実施形態では発話速度計測システムに入力する映像信号はアナログのカラー映像信号を説明したが、モノクロの映像信号でもよい。この場合には、カラー映像信号を輝度信号に変換する前処理は不要となる。さらに、デジタル映像信号の形態で入力を行ってもよく、映像信号の形態に好適な入力インターフェースを用意するとよい。
【0051】
6)本願出願人は、音声の発話速度を変更可能なシステムを提案しているが、本実施形態の発話速度計測システムと組み合わせると、映像から計測した発話速度がある範囲に到達した場合には、音声信号の発話速度を自動的に好適な速度に変更することも可能となる。
【0052】
【発明の効果】
以上、説明したように、請求項1、4、7の発明では、唇の映像上の特徴点の移動量、換言すると、特徴点の位置の軌跡に基づいて、モーラが変化する時点を検出し、変化するモーラの個数を計数することで発話速度を計測する。したがって、音声を分析することなく、映像信号のみで、発話速度を計測することが可能であり、音楽会場等雑音が混在する環境下での発話者の発話速度を精度よく、計測することができる。また、映像音声メディア、テレビ電話、テレビジョン中継の映像伝送媒体を介して発話者と離れた遠隔地でも発話速度を計測することができる。また、発声者が曖昧な発声を行なっても、上記発明では、モーラの変化を唇の変化で検出するので、曖昧な音声の影響を受けない。
【0053】
また、請求項1、4,7の発明では、映像をたとえば、NTSC等のどのカラーの映像信号の形態で入力することによりテレビ受像機、テープレコーダ、ビデオカメラ等既存のカラー映像発生源により取得した映像の発話速度を計測することができる。
【0054】
請求項2、5、8の発明では、唇の特徴点を前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点とすることにより、唇の形が変形しても、端点の位置の変化を追跡することで、唇の動きを検出することができる。また、画像処理上、端点は、画素位置の比較のみで簡単に検出できるので、計測処理自体の短縮化に寄与することができる。
【0055】
特徴点が1つの場合には特徴点の位置が2次元空間上の座標値で表されるので、移動量の計算が複雑になる。請求項3、6、9の発明では特徴点を、水平方向および垂直方向に対応して各別に計2つ用意することにより、1次元空間上の(直線上の)位置だけを取り扱えばよいので、計算量が減少し、計測処理が短縮化される。
【図面の簡単な説明】
【図1】本発明実施形態のシステム構成を示すブロック図である。
【図2】唇の上下方向の動きベクトルの定義を説明するための説明図である。
【図3】唇の左右方向の動きべクテルの定義を説明するための説明図である。
【図4】本発明実施例の動きベクトルの変化例を示す説明図である。
【符号の説明】
1 A/D変換器
2 前処理部
3 画像抜きだし部
4 動き検出部
5 発話検出部
6 モーラ数カウンター
10 動きベクトル検出部
Claims (9)
- 発話時の唇の動きを撮影した映像をカラーの映像信号の形態で入力する入力手段と、
当該入力されたカラーの映像信号を輝度信号に変換して供給する信号処理手段と、
該信号処理手段から供給された前記発話時の唇の動きを撮影した前記映像の中の、前記唇上の特徴点の移動量を時系列的に検出する位置検出手段と、
該位置検出手段により検出された隣接の2つの時点の移動量の変化を算出し、当該算出結果が予め定めた範囲を超える時点をモーラの変化の時点として検出するモーラ検出手段と、
該モーラの検出手段によりモーラの変化が検出される所定時間内での回数を計数する計数手段と、
該計数手段により計数された計数結果を発話速度に換算する演算処理手段と
を具えたことを特徴とする発話速度計測システム。 - 請求項1に記載の発話速度計測システムにおいて、前記唇の特徴点は前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点であることを特徴とする発話速度計測システム。
- 請求項1に記載の発話速度計測システムにおいて、前記特徴点は、水平方向および垂直方向の移動量の検出のために当該水平方向および垂直方向に対応して各別に計2つ用意されていることを特徴とする発話速度計測システム。
- 発話時の唇の動きを撮影した映像をカラーの映像信号の形態で入力し、
当該入力されたカラーの映像信号を輝度信号に変換し、
前記変換された前記発話時の唇の動きを撮影した前記映像の中の、前記唇上の特徴点の移動量を時系列的に検出し、
隣接の2つの時点について当該検出された移動量の変化を算出し、
当該算出結果が予め定めた範囲を超える時点をモーラの変化の時点として検出し、
該モーラの変化が検出される所定時間内での回数を計数し、
当該計数された計数結果を発話速度に換算する
ことを特徴とする発話速度計測方法。 - 請求項4に記載の発話速度計測方法において、前記唇の特徴点は前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点であることを特徴とする発話速度計測方法。
- 請求項4に記載の発話速度計測方法において、前記特徴点は、水平方向および垂直方向の移動量の検出のために当該水平方向および垂直方向に対応して各別に計2つ用意されていることを特徴とする発話速度計測方法。
- コンピュータにより実行するプログラムを記録した記録媒体において、前記プログラムは、
発話時の唇の動きを撮影した映像をカラーの映像信号の形態で入力するステップと、
当該入力されたカラーの映像信号を輝度信号に変換するステップと、
前記変換された前記発話時の唇の動きを撮影した前記映像の中の、前記唇上の特徴点の移動量を時系列的に検出するステップと、
隣接の2つの時点について当該検出された移動量の変化を算出するステップと、
当該算出結果が予め定めた範囲を超える時点をモーラの変化の時点として検出するステップと、
該モーラの変化が検出される所定時間内での回数を計数するステップと、
当該計数された計数結果を発話速度に換算するステップと
を具えたことを特徴とする記録媒体。 - 請求項7に記載の記録媒体において、前記唇の特徴点は前記唇の水平および垂直方向のそれぞれの方向について共通の1つの端点であることを特徴とする記録媒体。
- 請求項7に記載の記録媒体において、前記特徴点は、水平方向および垂直方向の移動量の検出のために当該水平方向および垂直方向に対応して各別に計2つ用意されていることを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP16379698A JP4017748B2 (ja) | 1998-06-11 | 1998-06-11 | 発話速度計測システム、方法および記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP16379698A JP4017748B2 (ja) | 1998-06-11 | 1998-06-11 | 発話速度計測システム、方法および記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11353468A JPH11353468A (ja) | 1999-12-24 |
JP4017748B2 true JP4017748B2 (ja) | 2007-12-05 |
Family
ID=15780876
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP16379698A Expired - Fee Related JP4017748B2 (ja) | 1998-06-11 | 1998-06-11 | 発話速度計測システム、方法および記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4017748B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4801251B2 (ja) * | 2000-11-27 | 2011-10-26 | 株式会社アサカ | 映像/音声ずれ補正方法及び装置 |
JP4075670B2 (ja) | 2003-04-09 | 2008-04-16 | トヨタ自動車株式会社 | 変化情報認識装置および変化情報認識方法 |
WO2018130273A1 (en) * | 2017-01-11 | 2018-07-19 | Telefonaktiebolaget Lm Ericsson (Publ) | Displaying text to a user of a computing device |
JP7021488B2 (ja) * | 2017-09-25 | 2022-02-17 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置、及びプログラム |
-
1998
- 1998-06-11 JP JP16379698A patent/JP4017748B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11353468A (ja) | 1999-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7542600B2 (en) | Video image quality | |
JP4971413B2 (ja) | 視聴覚を結合した動作認識システムおよびその認識方法 | |
US6545699B2 (en) | Teleconferencing system, camera controller for a teleconferencing system, and camera control method for a teleconferencing system | |
US7477289B2 (en) | Image processing apparatus and method, and image pickup apparatus | |
KR100820141B1 (ko) | 음성 구간 검출 장치 및 방법 그리고 음성 인식 시스템 | |
JP4715738B2 (ja) | 発話検出装置及び発話検出方法 | |
US20100302401A1 (en) | Image Audio Processing Apparatus And Image Sensing Apparatus | |
US20110050939A1 (en) | Image processing apparatus, image processing method, program, and electronic device | |
US7221778B2 (en) | Image processing apparatus and method, and image pickup apparatus | |
JP2012003326A (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2013122695A (ja) | 情報提示装置、情報提示方法、情報提示プログラム、及び情報伝達システム | |
US7130464B2 (en) | Image processing device | |
JP2005012798A (ja) | 動きベクトルの生成装置及び方法 | |
JPWO2005079061A1 (ja) | 画像処理装置と画像処理方法およびプログラム | |
JPH0916783A (ja) | 客体の輪郭映像検知/細線化装置及びその方法 | |
Yoshinaga et al. | Audio-visual speech recognition using lip movement extracted from side-face images | |
US7352917B2 (en) | Image processing apparatus and method, and image pickup apparatus | |
US20040022448A1 (en) | Image processor | |
JP4281338B2 (ja) | 画像検出装置及び画像検出方法 | |
JP4017748B2 (ja) | 発話速度計測システム、方法および記録媒体 | |
US7181080B2 (en) | Image processing apparatus and method, and image pickup apparatus | |
JP3377463B2 (ja) | 映像/音声ずれ補正システム、方法および記録媒体 | |
JP2011071925A (ja) | 移動体追尾装置および方法 | |
JP2795084B2 (ja) | 口形状画像合成方法及び装置 | |
JP4801251B2 (ja) | 映像/音声ずれ補正方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040408 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070615 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070814 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070814 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070907 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070919 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100928 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110928 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120928 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120928 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130928 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140928 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |