JP2008205957A - 受音装置及びその方法 - Google Patents
受音装置及びその方法 Download PDFInfo
- Publication number
- JP2008205957A JP2008205957A JP2007041289A JP2007041289A JP2008205957A JP 2008205957 A JP2008205957 A JP 2008205957A JP 2007041289 A JP2007041289 A JP 2007041289A JP 2007041289 A JP2007041289 A JP 2007041289A JP 2008205957 A JP2008205957 A JP 2008205957A
- Authority
- JP
- Japan
- Prior art keywords
- sound
- initialization
- receiving device
- lock
- sound receiving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/005—Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
Landscapes
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Otolaryngology (AREA)
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Circuit For Audible Band Transducer (AREA)
- Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
- Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
Abstract
【解決手段】マイクロホン101−1〜Mと、筐体105の姿勢情報を入力する入力端子102と、ロック情報が入力する入力端子103と、ロック情報が入力したときの姿勢情報を記憶する姿勢情報記憶部104と、姿勢情報と初期化方向に基づき目的音方向を算出する目的音方向算出部106と、目的音方向に基づき指向方向を決定する指向方向算出部107と、この指向方向に基づき複数のマイクロホンの信号を処理し指向方向の信号を強調出力する指向性形成部108から構成される。
【選択図】 図1
Description
大賀他著、「音響システムとディジタル処理」,電子情報通信学会,1995
本発明の第1の実施形態に係わる受音装置100について図1、図6、図7に基づいて説明する。
図1は、本実施形態に係わる受音装置100の構成を示すブロック図である。
次に、受音装置100の動作について述べる。
(3−1)第1の具体例
本実施形態の第1の具体例を図6を用いて説明する。
T=RL*t
=RLz*RLy*RLx*t (1)
と変換する。なお、「*」は積を表す。ここで、RLはロック時の端末座標からワールド座標への3x3の変換行列で、x,y,z軸に関する回転行列、
t=inv(R)*T
=inv(Rz*Ry*Rx)*T
=inv(Rx)*inv(Ry)*inv(Rz)*T (5)
と求める。但し、Rは端末座標系からワールド座標系への変換行列、inv(R)はその逆変換行列(つまりワールド座標系から端末座標系への変換行列)、Rx,Ry,Rzは各軸回りの回転行列であり、式(2)〜(4)の(φx,φy,φz)を現在の姿勢に対応する回転角(θx,θy,θz)に置き換えた行列である。
第2の具体例について説明する。上記第1の具体例では、目的音方向Tを記憶してこれを端末座標に変換した。しかし、ロック時からの受音装置100の筐体105の姿勢の差分を検出し、目的音方向Tを介さず目的音方向tを直接求めることも可能である。式で説明すると次のようになる。
R=RL*Rd
と表すことができる。但しRLは式(1)と同様にロック時の変換行列、Rdはロック時以降の姿勢の差分を表す変換行列である。Rをこのように分解して考えると目的音方向tは、
t=inv(R)T
=inv(RL*Rd)T
=inv(Rd)inv(RL)T
=inv(Rd)p
となり、ロック時の初期化方向pとそれ以降の姿勢の差分を表す変換行列Rdから直接求めることができる。
このように端末座標における目的音方向tとワールド座標での目的音方向Tとの関係を求める方法は複数あり、本実施形態はその方法を限定するものではない。
次に、図1の指向性形成部108の動作の例を述べる。
指向方向算出部107から端末座標系における現時点での目的音方向tが得られるので、既存のマイクロホンアレーの技術を用いてその方向に指向性(指向方向)を形成する。
w=inv(Mxx)c/cH*inv(Mxx)c
と求めることができる。但し、inv(Mxx)はマイクロホン間の相関行列Mxxの逆行列、cHはcの複素共役転置である。
w=c/cH*c
と求めることができる。これは、各マイクロホン101に対する信号の到達時間差が指向方向に対して0になるように信号を遅延させることと等価である。
w=(1,0)’or(0,1)’
のいずれか(’は転置)を用いる例を考えると、これは2つのマイクロホンからどちらかを選択することと等価となる。
b=wH*a
で得られる。但し、a=(a1,a2,・・・,aM)’,w=(w1,w’2,・・・,w’M)’であり、w’Hはw’の複素共役転置である。
また、目的音方向に対して一定の許容範囲(例えば±20度など)を設け、その範囲から到来した信号に対して強調動作をするという方法もある、
例えば、非特許文献(永田著、「話者追尾2チャネルマイクロホンアレーに関する検討」参照、電子情報通信学会論文誌A、J82-A、6、pp.860-866、1999)の方法は許容範囲内の信号の強調を、従来型のアルゴリズムを巧に組み合わせ目的信号を追尾することにより実現している。
図7に本実施形態の利用方法を模式的に表した図を示す。この例では2人の人が向かい合い、左側の人が受音装置100の筐体105を持っている。
本発明の第2の実施形態に係わる受音装置100について図2、図8、図11に基づいて説明する。
図2は、本実施形態に係わる受音装置100の構成を示すブロック図である。
図8を用いて具体的な利用方法を述べる。この利用方法では、受音装置100の筐体105は初期化方向として長辺方向と法線方向の2種類を備えている。
図11に処理方法のフローチャートを示す。
本実施形態のように複数の初期化方向を設けることで、話者は受音装置100の筐体105に対しほぼ180度方向に存在する場合でも、ロックするために受音装置100の筐体105を動かす角度は90度程度ですみ、使いやすさがより向上する。
本発明の第3の実施形態に係わる受音装置100について図3、図9、図11に基づいて説明する。
図3は、本実施形態に係わる受音装置100の構成を示すブロック図である。
次に本実施形態の動作を説明する。
図9に本実施形態の利用方法を模式的に表した図を示す。
本発明の第4の実施形態に係わる受音装置100について図4に基づいて説明する。
本発明の第5の実施形態に係わる受音装置100について図5、図10に基づいて説明する。
本発明の第6の実施形態に係わる翻訳装置200について図6と図12に基づいて説明する。本実施形態は、第1の実施形態の受音装置100を翻訳装置に適用した場合である。
本発明は上記各実施形態に限らず、その主旨を逸脱しない限り種々に変更することができる。
101 マイクロホン
102 入力端子
103 入力端子
104 姿勢情報記憶部
106 目的音方向算出部
107 指向方向算出部
108 指向性形成部
Claims (12)
- 筐体に設けられた複数の受音部と、
前記筐体の予め設定された初期化方向を、前記筐体を中心とした端末座標系で記憶する初期化方向記憶部と、
実空間に対応したワールド座標系における前記筐体の姿勢を表す姿勢情報を検出する姿勢情報検出部と、
受音を行うタイミングを表すロック情報を出力するロック情報出力部と、
前記ロック情報が入力した時の前記姿勢情報を、ロック姿勢情報として記憶する姿勢情報記憶部と、
前記ロック姿勢情報を用いて、前記端末座標系によって表された初期化方向を前記ワールド座標系における方向である目的音方向に変換する方向変換部と、
前記目的音方向に受音のための指向性を定めて、前記複数の受音部によって受音する指向性受音部と、
を有する受音装置。 - 前記初期化方向記憶部は、前記初期化方向を複数記憶し、
前記ロック姿勢情報に基づいて、いずれかの一つの初期化方向を選択する方向選択部を有する、
請求項1記載の受音装置。 - 受音の対象となる音源の方向を検出する音源方向検出部と、
前記筐体に対して予め設定された範囲である初期化範囲を記憶する初期化範囲記憶部と、
前記音源方向が、前記初期化範囲内である場合に、前記音源方向を前記初期化方向とする判定部と、
を有する請求項1記載の受音装置。 - 前記初期化範囲記憶部は、前記初期化範囲を複数記憶し、
前記ロック姿勢情報に基づいて、いずれかの一つの初期化範囲を選択する範囲選択部を有する、
請求項3記載の受音装置。 - 前記指向性受音部は、前記初期化方向に指向性を定める、
請求項1記載の受音装置。 - 前記ロック情報出力部は、前記筐体が特定の姿勢にある時に前記ロック情報を出力する、
請求項1記載の受音装置。 - 前記ロック情報出力部は、前記筐体が特定の姿勢にある時に前記ロック情報を出力する、
請求項5記載の受音装置。 - 前記ロック情報出力部は、ユーザの発話開始時に前記ロック情報を出力する、
請求項1記載の受音装置。 - 前記指向性受音部は、前記目的音方向を含む所定の追尾範囲に指向性を定める、
請求項1記載の受音装置。 - 前記指向性受音部は、前記目的音方向からの音声信号をより高い感度で受音できる前記一または複数の受音部を選択する、
請求項1記載の受音装置。 - 前記筐体の予め設定された初期化方向を、前記筐体を中心とした端末座標系で記憶し、
実空間に対応したワールド座標系における前記筐体の姿勢を表す姿勢情報を検出し、
受音を行うタイミングを表すロック情報を出力し、
前記ロック情報が入力した時の前記姿勢情報を、ロック姿勢情報として記憶し、
前記ロック姿勢情報を用いて、前記端末座標系によって表された初期化方向を前記ワールド座標系における方向である目的音方向に変換し、
前記目的音方向に受音のための指向性を定めて、前記筐体に設けられた複数の受音部によって受音する、
受音方法。 - 前記筐体の予め設定された初期化方向を、前記筐体を中心とした端末座標系で記憶する初期化方向記憶機能と、
実空間に対応したワールド座標系における前記筐体の姿勢を表す姿勢情報を検出する姿勢情報検出機能と、
受音を行うタイミングを表すロック情報を出力するロック情報出力機能と、
前記ロック情報が入力した時の前記姿勢情報を、ロック姿勢情報として記憶する姿勢情報記憶機能と、
前記ロック姿勢情報を用いて、前記端末座標系によって表された初期化方向を前記ワールド座標系における方向である目的音方向に変換する方向変換機能と、
前記目的音方向に受音のための指向性を定めて、前記筐体に設けられた複数の受音部によって受音する指向性受音機能と、
をコンピュータによって実現する受音プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007041289A JP4799443B2 (ja) | 2007-02-21 | 2007-02-21 | 受音装置及びその方法 |
US12/014,473 US8121310B2 (en) | 2007-02-21 | 2008-01-15 | Sound receiving apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007041289A JP4799443B2 (ja) | 2007-02-21 | 2007-02-21 | 受音装置及びその方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008205957A true JP2008205957A (ja) | 2008-09-04 |
JP4799443B2 JP4799443B2 (ja) | 2011-10-26 |
Family
ID=39706684
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007041289A Expired - Fee Related JP4799443B2 (ja) | 2007-02-21 | 2007-02-21 | 受音装置及びその方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8121310B2 (ja) |
JP (1) | JP4799443B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010161735A (ja) * | 2009-01-09 | 2010-07-22 | Xanavi Informatics Corp | 音再生装置および音再生方法 |
JP2010212845A (ja) * | 2009-03-09 | 2010-09-24 | Yamaha Corp | 音信号処理装置 |
JP2010283541A (ja) * | 2009-06-03 | 2010-12-16 | Fujitsu Ltd | 携帯型無線通信装置およびその制御方法 |
KR20110064397A (ko) * | 2009-12-08 | 2011-06-15 | 삼성전자주식회사 | 휴대용 단말기에서 블로우 방향을 인식하기 위한 장치 및 방법 |
JP2011135489A (ja) * | 2009-12-25 | 2011-07-07 | Fujitsu Ltd | マイクロホンの指向性制御装置 |
JP2014510430A (ja) * | 2011-01-13 | 2014-04-24 | クアルコム,インコーポレイテッド | モバイルプラットフォームでの可変ビーム形成 |
JP2015173502A (ja) * | 2011-02-23 | 2015-10-01 | クゥアルコム・インコーポレイテッドQualcomm Incorporated | 空間的選択音声拡張のためのシステム、方法、装置、およびコンピュータ可読媒体 |
JP2015194557A (ja) * | 2014-03-31 | 2015-11-05 | 株式会社東芝 | 電子機器および電子機器の制御方法 |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2781702C (en) * | 2009-11-30 | 2017-03-28 | Nokia Corporation | An apparatus for processing audio and speech signals in an audio device |
TW201208335A (en) * | 2010-08-10 | 2012-02-16 | Hon Hai Prec Ind Co Ltd | Electronic device |
GB2493327B (en) | 2011-07-05 | 2018-06-06 | Skype | Processing audio signals |
CN103024629B (zh) * | 2011-09-30 | 2017-04-12 | 斯凯普公司 | 处理信号 |
GB2495131A (en) | 2011-09-30 | 2013-04-03 | Skype | A mobile device includes a received-signal beamformer that adapts to motion of the mobile device |
GB2495472B (en) | 2011-09-30 | 2019-07-03 | Skype | Processing audio signals |
GB2495129B (en) | 2011-09-30 | 2017-07-19 | Skype | Processing signals |
GB2495130B (en) | 2011-09-30 | 2018-10-24 | Skype | Processing audio signals |
GB2495278A (en) | 2011-09-30 | 2013-04-10 | Skype | Processing received signals from a range of receiving angles to reduce interference |
GB2495128B (en) | 2011-09-30 | 2018-04-04 | Skype | Processing signals |
US9098069B2 (en) * | 2011-11-16 | 2015-08-04 | Google Technology Holdings LLC | Display device, corresponding systems, and methods for orienting output on a display |
GB2496660B (en) | 2011-11-18 | 2014-06-04 | Skype | Processing audio signals |
GB201120392D0 (en) | 2011-11-25 | 2012-01-11 | Skype Ltd | Processing signals |
GB2497343B (en) | 2011-12-08 | 2014-11-26 | Skype | Processing audio signals |
JP5865050B2 (ja) * | 2011-12-15 | 2016-02-17 | キヤノン株式会社 | 被検体情報取得装置 |
US9384737B2 (en) * | 2012-06-29 | 2016-07-05 | Microsoft Technology Licensing, Llc | Method and device for adjusting sound levels of sources based on sound source priority |
US9654868B2 (en) | 2014-12-05 | 2017-05-16 | Stages Llc | Multi-channel multi-domain source identification and tracking |
US9747367B2 (en) | 2014-12-05 | 2017-08-29 | Stages Llc | Communication system for establishing and providing preferred audio |
US20160165338A1 (en) * | 2014-12-05 | 2016-06-09 | Stages Pcs, Llc | Directional audio recording system |
US10609475B2 (en) | 2014-12-05 | 2020-03-31 | Stages Llc | Active noise control and customized audio system |
US9980075B1 (en) | 2016-11-18 | 2018-05-22 | Stages Llc | Audio source spatialization relative to orientation sensor and output |
US10945080B2 (en) | 2016-11-18 | 2021-03-09 | Stages Llc | Audio analysis and processing system |
US9980042B1 (en) | 2016-11-18 | 2018-05-22 | Stages Llc | Beamformer direction of arrival and orientation analysis system |
DK3477964T3 (da) | 2017-10-27 | 2021-05-25 | Oticon As | Høresystem, der er konfigureret til at lokalisere en mållydkilde |
EP3917160A1 (en) * | 2020-05-27 | 2021-12-01 | Nokia Technologies Oy | Capturing content |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01158374A (ja) * | 1987-12-16 | 1989-06-21 | New Japan Radio Co Ltd | ビデオカメラの被写体自動追尾装置 |
JPH09140000A (ja) * | 1995-11-15 | 1997-05-27 | Nippon Telegr & Teleph Corp <Ntt> | 会議用拡聴器 |
JPH10276417A (ja) * | 1997-03-31 | 1998-10-13 | Matsushita Electric Works Ltd | テレビ会議システム |
JP2004064741A (ja) * | 2002-06-05 | 2004-02-26 | Fujitsu Ltd | 移動端末用適応アンテナ装置 |
JP2004112701A (ja) * | 2002-09-20 | 2004-04-08 | Advanced Telecommunication Research Institute International | マイクロホンアレー座標系の逐次的補正方法、マイクロホンアレーにおけるマイクロホン受信信号の補正方法および補正装置 |
JP2004109361A (ja) * | 2002-09-17 | 2004-04-08 | Toshiba Corp | 指向性設定装置、指向性設定方法及び指向性設定プログラム |
JP2006333069A (ja) * | 2005-05-26 | 2006-12-07 | Hitachi Ltd | 移動体用アンテナ制御装置およびアンテナ制御方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6707487B1 (en) * | 1998-11-20 | 2004-03-16 | In The Play, Inc. | Method for representing real-time motion |
US8200775B2 (en) * | 2005-02-01 | 2012-06-12 | Newsilike Media Group, Inc | Enhanced syndication |
-
2007
- 2007-02-21 JP JP2007041289A patent/JP4799443B2/ja not_active Expired - Fee Related
-
2008
- 2008-01-15 US US12/014,473 patent/US8121310B2/en not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01158374A (ja) * | 1987-12-16 | 1989-06-21 | New Japan Radio Co Ltd | ビデオカメラの被写体自動追尾装置 |
JPH09140000A (ja) * | 1995-11-15 | 1997-05-27 | Nippon Telegr & Teleph Corp <Ntt> | 会議用拡聴器 |
JPH10276417A (ja) * | 1997-03-31 | 1998-10-13 | Matsushita Electric Works Ltd | テレビ会議システム |
JP2004064741A (ja) * | 2002-06-05 | 2004-02-26 | Fujitsu Ltd | 移動端末用適応アンテナ装置 |
JP2004109361A (ja) * | 2002-09-17 | 2004-04-08 | Toshiba Corp | 指向性設定装置、指向性設定方法及び指向性設定プログラム |
JP2004112701A (ja) * | 2002-09-20 | 2004-04-08 | Advanced Telecommunication Research Institute International | マイクロホンアレー座標系の逐次的補正方法、マイクロホンアレーにおけるマイクロホン受信信号の補正方法および補正装置 |
JP2006333069A (ja) * | 2005-05-26 | 2006-12-07 | Hitachi Ltd | 移動体用アンテナ制御装置およびアンテナ制御方法 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010161735A (ja) * | 2009-01-09 | 2010-07-22 | Xanavi Informatics Corp | 音再生装置および音再生方法 |
JP2010212845A (ja) * | 2009-03-09 | 2010-09-24 | Yamaha Corp | 音信号処理装置 |
JP2010283541A (ja) * | 2009-06-03 | 2010-12-16 | Fujitsu Ltd | 携帯型無線通信装置およびその制御方法 |
KR20110064397A (ko) * | 2009-12-08 | 2011-06-15 | 삼성전자주식회사 | 휴대용 단말기에서 블로우 방향을 인식하기 위한 장치 및 방법 |
KR101633380B1 (ko) * | 2009-12-08 | 2016-06-24 | 삼성전자주식회사 | 휴대용 단말기에서 블로우 방향을 인식하기 위한 장치 및 방법 |
JP2011135489A (ja) * | 2009-12-25 | 2011-07-07 | Fujitsu Ltd | マイクロホンの指向性制御装置 |
JP2014510430A (ja) * | 2011-01-13 | 2014-04-24 | クアルコム,インコーポレイテッド | モバイルプラットフォームでの可変ビーム形成 |
US9066170B2 (en) | 2011-01-13 | 2015-06-23 | Qualcomm Incorporated | Variable beamforming with a mobile platform |
JP2015167408A (ja) * | 2011-01-13 | 2015-09-24 | クアルコム,インコーポレイテッド | モバイルプラットフォームでの可変ビーム形成 |
JP2015173502A (ja) * | 2011-02-23 | 2015-10-01 | クゥアルコム・インコーポレイテッドQualcomm Incorporated | 空間的選択音声拡張のためのシステム、方法、装置、およびコンピュータ可読媒体 |
JP2015194557A (ja) * | 2014-03-31 | 2015-11-05 | 株式会社東芝 | 電子機器および電子機器の制御方法 |
Also Published As
Publication number | Publication date |
---|---|
US8121310B2 (en) | 2012-02-21 |
JP4799443B2 (ja) | 2011-10-26 |
US20080199025A1 (en) | 2008-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4799443B2 (ja) | 受音装置及びその方法 | |
US11831812B2 (en) | Conferencing device with beamforming and echo cancellation | |
US10979805B2 (en) | Microphone array auto-directive adaptive wideband beamforming using orientation information from MEMS sensors | |
US9191738B2 (en) | Sound enhancement method, device, program and recording medium | |
US10945080B2 (en) | Audio analysis and processing system | |
US8981994B2 (en) | Processing signals | |
US9591404B1 (en) | Beamformer design using constrained convex optimization in three-dimensional space | |
EP3217653B1 (en) | An apparatus | |
US10271135B2 (en) | Apparatus for processing of audio signals based on device position | |
KR101566649B1 (ko) | 근거리 널 및 빔 형성 | |
KR101555416B1 (ko) | 음향 삼각 측량에 의한 공간 선택적 사운드 취득 장치 및 방법 | |
US9414159B2 (en) | Beamforming pre-processing for speaker localization | |
US9020163B2 (en) | Near-field null and beamforming | |
EP1349419A2 (en) | Orthogonal circular microphone array system and method for detecting three-dimensional direction of sound source using the same | |
US20140093091A1 (en) | System and method of detecting a user's voice activity using an accelerometer | |
TW200904226A (en) | Enhanced beamforming for arrays of directional microphones | |
JP2001025082A (ja) | マイクロホンアレイ装置 | |
JPWO2004034734A1 (ja) | アレイ装置および携帯端末 | |
CN110140359B (zh) | 使用波束形成的音频捕获 | |
WO2015039439A1 (zh) | 音频信号处理方法及装置、差分波束形成方法及装置 | |
WO2014008253A1 (en) | Systems and methods for surround sound echo reduction | |
JP2015520884A (ja) | ユーザインターフェースを表示するためのシステムおよび方法 | |
JP2011139378A (ja) | 信号処理装置、マイクロホン・アレイ装置、信号処理方法、および信号処理プログラム | |
US20180146285A1 (en) | Audio Gateway System | |
JP2010091912A (ja) | 音声強調システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090326 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110411 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110419 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110609 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110705 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110802 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140812 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140812 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |