JP2006074333A - 双方向通信サービスシステムにおける品質推定方法および品質推定装置 - Google Patents
双方向通信サービスシステムにおける品質推定方法および品質推定装置 Download PDFInfo
- Publication number
- JP2006074333A JP2006074333A JP2004254061A JP2004254061A JP2006074333A JP 2006074333 A JP2006074333 A JP 2006074333A JP 2004254061 A JP2004254061 A JP 2004254061A JP 2004254061 A JP2004254061 A JP 2004254061A JP 2006074333 A JP2006074333 A JP 2006074333A
- Authority
- JP
- Japan
- Prior art keywords
- quality
- factor
- communication service
- way communication
- psychological
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
【解決手段】端末間の双方向通信サービスに際する品質劣化の要因として、映像ビットレートBr、フレームレートFr、映像無効パケット率Pν、音声無効パケット率Pa、遅延時間Dを監視する。これら品質劣化の要因に基づいてユーザが受ける品質に対する心理要因として美的感の因子得点S1と躍動感の因子得点S2を推定する。推定した美的感の因子得点S1および躍動感の因子得点S2を、A,B,Cを定数とする下記(1)式に代入して、総合的な品質の評価値MOSを求める。
MOS=A・S1+B・S2+C ・・・・(1)
【選択図】 図2
Description
なお、特許文献1には、音声品質と映像品質から総合品質を求める方法について記載されているが、テレビ放送のような片方向の音声および映像サービスを前提としており、テレビ電話/会議サービスなどのような音声および映像メディアを用いた双方向通信サービスには対応することができない。
すなわち、テレビ電話/会議サービスなどのような音声および映像メディアを用いた双方向通信サービスの場合には、各メディアの伝送遅延時間がサービスの品質を劣化させる原因となり得るが、特許文献1は片方向の音声および映像サービスを前提としており、各メディアの伝送遅延時間など双方向通信サービス特有の品質劣化の要因については考慮されていない。
MOS=A・S1+B・S2+C ・・・・(1)
心理要因得点推定部3−4において、美的感を示す第1の心理要因の得点S1を求める算出式としては、下記の(2)式を使用する。この(2)式において、V1(Br,Pν)は下記の(2−1)式を使用して求め、A1(Pa)は下記の(2−4)式を使用して求める。また、(2−1)式において、V11(Br)は下記の(2−2)式を使用して求め、V12(Pν)は下記の(2−3)式を使用して求める。なお、これらの式において、α1,β1,γ1,δ1,A1m,B1m,C1m(m=0〜3),D10は定数である。
V12(Pν)=A12・exp(−Pν/B12)+C12 ・・・・(2−3)
A1(Pa)=A13・exp(−Pa/B13)+C13 ・・・・(2−4)
V22(Br)=A22・exp(−Br/B22)+C22 ・・・・(3−3)
V23(Pν)=A23・exp(−Pν/B23)+C23 ・・・・(3−4)
D2(D)=A24・exp(−D/B24)+C24 ・・・・(3−5)
総合品質推定部3−5において、総合的な品質の評価値MOSを求める算出式としては、下記の(4)式を使用する。なお、この式において、A,B,Cは定数である。
MOS=A・S1+B・S2+C ・・・・(4)
1対1の対面会話を行うことができる双方向通信サービスを考え、利用目的を自由会話とし主観評価実験を行った。
パソコンを用いて1対1の対面会話を行うことができる評価実験系を構築した。音声/映像符号化方式にはG.722/MPEG4(画面解像度:VGA,劣化隠蔽処理:無)を用い、相手の映像を17インチのモニタに約10インチの大きさで表示させた。また、音声の入出力にはマイクとヘッドフォンを用いた。視聴条件は、視距離が50〜80cm、室内照度が約50lux、室内騒音が35dB(A)とした。
(2)評価パラメータ
主観評価実験では、図3に示す46種類の条件によって音声・映像品質を評価させて、総合品質および心理要因の評価を行った。音声と映像のパケット損失は共にランダム損失とし、片道の遅延時間は同期しているものとした。
双方向通信サービスの利用目的として自由会話を想定し、評価タスクとして自由会話に近い「名前当てタスク」を選定した。具体的には、60秒間の会話の中で、会話相手が思い浮かべる名前(日用品、食べ物など)を質疑によって当てるタスクとした。
(4)評価尺度
会話による音声・映像に対する総合品質を5段階品質尺度(図4参照)の平均オピニオン評点(MOS:Mean Opinion Score)で評価した。また、Osgoodによって提案され印象評価に幅広く使用されているSD法(Semantic Differential technique :非特許文献3参照)により、会話の中での音声・映像に対する印象を7段階比較尺度の形容詞25対(図5参照)で評価し、心理要因を抽出した。今回使用した評価尺度の例を図6に示す。主観評価実験により得られたデータを、各比較尺度の評点に印象の良い形容詞側がプラスになるように合わせ、+3〜−3を付し評点とした。
(5)被験者条件
被験者はインターネットを利用する20歳〜39歳までの男女計40名とした。
主観評価実験より得られたデータに因子分析を行い、主要な心理要因を抽出し、心理要因と品質劣化要因との対応関係を明確にする。
形容詞対の評点に因子分析を行い、因子の回転には、心理要因毎の因子負荷量の分散が最大となるようにVarimax 回転を用い心理要因を抽出した。抽出された各心理要因に対する因子負荷量が高い形容詞対を図7に示す。寄与率の高い第1因子(寄与率:54.3%,18対)は美的感,第2因子(寄与率:36.5%,7対)は躍動感を表す形容詞対から構成された。心理要因の意味づけはこれらの形容詞対に基づいて行った。2つの因子の累積寄与率は90.8%となったことから、双方向通信サービスから受ける印象は、美的感,躍動感の2つの心理要因で説明できることがわかった。
(2)心理要因と品質劣化要因の関係
抽出した美的感,躍動感の2つの心理要因から因子得点を推定することを試みた。因子得点の推定法には様々な解法が提案されているが、ここでは下記(5)式を用いて推定した(非特許文献4参照)。
抽出した美的感,躍動感の2つの心理要因を独立変数(S1,S2)、MOSを従属変数とし、重回帰分析を行い、下記の(6)式を得た。
MOS=0.61・S1+0.35・S2+2.45 ・・・・(6)
この(5)式が実測MOSを説明するのに十分であるかについて、分散分析を行い検定し、有意水準1%で重回帰式は有意となることを確認した。
これにより、双方向通信サービスにおける利用目的を自由会話としたときの総合品質は美的感と躍動感の2つの心理要因で説明できることが明らかとなった。総合品質推定部2−5において使用する(4)式は、この(6)式より導かれたものである。
抽出した美的感,躍動感の心理要因と品質劣化要因との関係を利用し因子得点の推定式を導出した。初めに、各品質劣化要因と因子得点の関係を定式化した(ステップ1)。次に、重回帰分析により、各メディアに対する因子得点を交互作用も考慮し、定式化した(ステップ2)。最後に、重回帰分析により、因子得点をメディア間の交互作用も考慮し定式化した(ステップ3)。
美的感の因子得点S1は、第1因子の美的感と関連が高い映像ビットレート(Br)、映像無効パケット率(Pν)、音声無効パケット率(Pa)を変数とし、上記ステップ1〜3の過程を経て、下記の(7)式として得られた。なお、下記の(7),(7−1)〜(7−4)式において、α1,β1,γ1,δ1,A1m,B1m,C1m(m=0〜3),D10は定数である。美的感の因子得点S1は、3つの品質劣化要因Br,Pν,Paでほゞ説明でき、分散分析の結果も有意水準1%を満たした。
V11(Br)=A11・exp(−Br/B11)+C11 ・・・・(7−2)
V12(Pν)=A12・exp(−Pν/B12)+C12 ・・・・(7−3)
A1(Pa)=A13・exp(−Pa/B13)+C13 ・・・・(7−4)
〔ステップ2〕
V1(Br,Pν)=A10・V11(Br)+B10・V12(Pν)+C10・V11(Br)・V12(Pν)+D10 ・・・・(7−1)
〔ステップ3〕
S1(Br,Pν,Pa)=α1・V1(Br,Pν)+β1・A1(Pa)+γ1・V1(Br,Pν)・A1(Pa)+δ1 ・・・・(7)
躍動感の因子得点S2は、第2因子の躍動感と関連が高いフレームレート(Fr)、遅延時間(D)および、多少影響を受ける映像ビットレート(Br)、映像無効パケット率(Pν)を変数とし、上記ステップ1〜3の過程を経て、下記の(8)式として得られた。なお、下記の(8),(8−1)〜(8−5)式において、α2,β2,γ2,δ2,A2m,B2m,C2m(m=0〜4),D20,E20,F20,G20,H20は定数である。躍動感の因子得点S2は、4つの品質劣化要因Fr,D,Br,Pνでほゞ説明でき、分散分析の結果も有意水準1%を満たした。
V21(Fr)=A21・exp(−Fr/B21)+C21 ・・・・(8−2)
V22(Br)=A22・exp(−Br/B22)+C22 ・・・・(8−3)
V23(Pν)=A23・exp(−Pν/B23)+C23 ・・・・(8−4)
D2(D)=A24・exp(−D/B24)+C24 ・・・・(8−5)
V2(Fr,Br,Pν)=A20・V21(Fr)+B20・V22(Br)+C20・V23(Pν)+D20・V21(Fr)・V22(Br)+E20・V21(Fr)・V23(Pν)+F20・V22(Br)・V23(Pν)+G20・V21(Fr)・V22(Br)・V23(Pν)+H20 ・・・・(8−1)
S2(Fr,Br,Pν,D)=α2・V2(Fr,Br,Pν)+β2・D2(D)+γ2・V2(Fr,Br,Pν)・D2(D)+δ2 ・・・・(8)
心理要因得点推定部3−4において使用する式(3)は上記(8)式に対応する。また、式(3−1)〜(3−5)は上記(8−1)〜(8−5)式に対応する。
今、図1において、ネットワーク4を介し、通信端末1と通信端末2との間で音声および映像メディアを用いた双方向通信が行われているものとする。ここで、一例として、サービス品質推定装置3において、通信端末2を利用するユーザMBが受ける総合的な品質を推定する場合の処理動作について説明する。
第1心理要因得点計算部3−4Aにおいて、映像ビットレートBrはV11計算部4A1へ与えられ、映像無効パケット率PνはV12計算部4A2へ与えられ、音声無効パケット率PaはA1計算部4A3へ与えられる。
V11計算部4A1は、前記(2−2)式を使用して、V11(Br)を算出する。V12計算部4A2は、前記(2−3)式を使用して、V12(Pν)を算出する。A1計算部4A3は、前記(2−4)式を使用して、A(Pa)を算出する。
S1計算部4A5は、V1計算部4A4が算出したV1(Br,Pν)とA1計算部4A3が算出したA1(Pa)を入力とし、前記(2)式を使用して、ユーザMBが受ける品質に対する美的感の因子得点S1(Br,Pν,Pa)を算出する。
第2心理要因得点計算部3−4Bにおいて、フレームレートFrはV21計算部4B1へ与えられ、映像ビットレートBrはV22計算部4B2へ与えられ、映像無効パケット率PνはV23計算部4B3へ与えられ、遅延時間DはD2計算部4B4へ与えられる。
V21計算部4B1は、前記(3−2)式を使用して、V21(Fr)を算出する。V22計算部4B2は、前記(3−3)式を使用して、V22(Br)を算出する。V23計算部4B3は、前記(3−4)式を使用して、V23(Pν)を算出する。D2計算部4B4は、前記(3−5)式を使用して、D2(D)を算出する。
S2計算部4B6は、V2計算部4B5が算出したV2(Fr,Br,Pν)とD2計算部4B4が算出したD2(D)を入力とし、前記(3)式を使用して、ユーザMBが受ける品質に対する躍動感の因子得点S2(Fr,Br,Pν,D)を算出する。
心理要因得点推定部3−4で算出された美的感の因子得点S1(Br,Pν,Pa)および躍動感の因子得点S2(Fr,Br,Pν,D)は総合品質推定部3−5へ与えられる。
総合品質推定部3−5において、AS1計算部3−5Aは、心理要因得点推定部3−4からの美的感の因子得点S1(Br,Pν,Pa)に定数Aを乗じ、A・S1(Br,Pν,Pa)としてMOS計算部3−5Cへ与える。
MOS計算部5−5Cは、AS1計算部3−5AからのA・S1(Br,Pν,Pa)とBS2計算部3−5BからのB・S2(Fr,Br,Pν,D)と定数Cを入力とし、前記(4)式を使用して、ユーザMBが受ける総合的な品質の評価値MOSを算出する。
Claims (8)
- 音声および映像メディアを用いネットワークを介して端末間の双方向通信サービスを行うシステムにおいて、
前記端末間の双方向通信サービスに際する品質劣化の要因を監視しメモリに記憶する第1ステップと、
前記メモリに記憶された品質劣化の要因に基づいて前記端末を利用するユーザが受ける品質に対する心理要因の大きさを推定する第2ステップと、
前記推定した心理要因の大きさに基づいて前記端末を利用するユーザが受ける総合的な品質を推定する第3ステップと
を備えることを特徴とする双方向通信サービスシステムにおける品質推定方法。 - 請求項1に記載された双方向通信サービスシステムにおける品質推定方法において、
前記第2ステップは、前記心理要因の大きさとして、美的感の因子得点S1と躍動感の因子得点S2を推定する
ことを特徴とする双方向通信サービスシステムにおける品質推定方法。 - 請求項2に記載された双方向通信サービスシステムにおける品質推定方法において、
前記第3ステップは、前記推定された美的感の因子得点S1および躍動感の因子得点S2を、A,B,Cを定数とする下記(1)式に代入して、前記総合的な品質の評価値MOSを求める
ことを特徴とする双方向通信サービスシステムにおける品質推定方法。
MOS=A・S1+B・S2+C ・・・・(1) - 請求項1〜3の何れか1項に記載された双方向通信サービスシステムにおける品質推定方法において、
前記第1ステップは、前記品質劣化の要因として、映像ビットレート、フレームレート、映像無効パケット率、音声無効パケット率および遅延時間を監視することを特徴とする双方向通信サービスシステムにおける品質推定方法。 - 音声および映像メディアを用いネットワークを介して端末間の双方向通信サービスを行うシステムにおける品質推定装置において、
前記端末間の双方向通信サービスに際する品質劣化の要因を監視しメモリに記憶する品質劣化要因監視手段と、
前記メモリに記憶された品質劣化の要因に基づいて前記端末を利用するユーザが受ける品質に対する心理要因の大きさを推定する心理要因推定手段と、
前記推定された心理要因の大きさに基づいて前記端末を利用するユーザが受ける総合的な品質を推定する総合品質推定手段と
を備えることを特徴とする双方向通信サービスシステムにおける品質推定装置。 - 請求項5に記載された双方向通信サービスシステムにおける品質推定装置において、
前記心理要因推定手段は、前記心理要因の大きさとして、美的感の因子得点S1と躍動感の因子得点S2を推定する
ことを特徴とする双方向通信サービスシステムにおける品質推定装置。 - 請求項6に記載された双方向通信サービスシステムにおける品質推定装置において、
前記総合品質推定手段は、前記推定された美的感の因子得点S1および躍動感の因子得点S2を、A,B,Cを定数とする下記(2)式に代入して、前記総合的な品質の評価値MOSを求める
ことを特徴とする双方向通信サービスシステムにおける品質推定装置。
MOS=A・S1+B・S2+C ・・・・(2) - 請求項5〜7の何れか1項に記載された双方向通信サービスシステムにおける品質推定装置において、
前記品質劣化要因監視手段は、前記品質劣化の要因として、映像ビットレート、フレームレート、映像無効パケット率、音声無効パケット率および遅延時間を監視することを特徴とする双方向通信サービスシステムにおける品質推定装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004254061A JP4365291B2 (ja) | 2004-09-01 | 2004-09-01 | 双方向通信サービスシステムにおける品質推定方法および品質推定装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004254061A JP4365291B2 (ja) | 2004-09-01 | 2004-09-01 | 双方向通信サービスシステムにおける品質推定方法および品質推定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006074333A true JP2006074333A (ja) | 2006-03-16 |
JP4365291B2 JP4365291B2 (ja) | 2009-11-18 |
Family
ID=36154482
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004254061A Expired - Fee Related JP4365291B2 (ja) | 2004-09-01 | 2004-09-01 | 双方向通信サービスシステムにおける品質推定方法および品質推定装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4365291B2 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007129422A1 (ja) * | 2006-05-09 | 2007-11-15 | Nippon Telegraph And Telephone Corporation | 映像品質推定装置、方法、およびプログラム |
WO2007129423A1 (ja) * | 2006-05-09 | 2007-11-15 | Nippon Telegraph And Telephone Corporation | 映像品質推定装置、方法、およびプログラム |
JP2008035357A (ja) * | 2006-07-31 | 2008-02-14 | Kddi Corp | 映像品質の客観評価装置 |
JP2009049708A (ja) * | 2007-08-20 | 2009-03-05 | Fujitsu Ltd | ネットワーク障害情報収集装置、システム、方法及びプログラム |
EP2106153A1 (en) * | 2008-03-28 | 2009-09-30 | Deutsche Telekom AG | Audio-visual quality estimation |
JP2010507324A (ja) * | 2006-10-19 | 2010-03-04 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | ビデオ画質の決定方法 |
US7965203B2 (en) | 2006-05-09 | 2011-06-21 | Nippon Telegraph And Telephone Corporation | Video quality estimation apparatus, method, and program |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170034024A1 (en) * | 2015-07-28 | 2017-02-02 | Futurewei Technologies, Inc. | Parametric model for video scoring |
-
2004
- 2004-09-01 JP JP2004254061A patent/JP4365291B2/ja not_active Expired - Fee Related
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7965203B2 (en) | 2006-05-09 | 2011-06-21 | Nippon Telegraph And Telephone Corporation | Video quality estimation apparatus, method, and program |
WO2007129423A1 (ja) * | 2006-05-09 | 2007-11-15 | Nippon Telegraph And Telephone Corporation | 映像品質推定装置、方法、およびプログラム |
JP4490483B2 (ja) * | 2006-05-09 | 2010-06-23 | 日本電信電話株式会社 | 映像品質推定装置、方法、およびプログラム |
JP2010252400A (ja) * | 2006-05-09 | 2010-11-04 | Nippon Telegr & Teleph Corp <Ntt> | 映像品質推定装置、方法、およびプログラム |
JPWO2007129422A1 (ja) * | 2006-05-09 | 2009-09-17 | 日本電信電話株式会社 | 映像品質推定装置、方法、およびプログラム |
US8154602B2 (en) | 2006-05-09 | 2012-04-10 | Nippon Telegraph And Telephone Corporation | Video quality estimation apparatus, method, and program |
WO2007129422A1 (ja) * | 2006-05-09 | 2007-11-15 | Nippon Telegraph And Telephone Corporation | 映像品質推定装置、方法、およびプログラム |
KR100935650B1 (ko) | 2006-05-09 | 2010-01-07 | 니폰덴신뎅와 가부시키가이샤 | 비디오 품질 추정 장치, 방법 및 프로그램을 기록한 컴퓨터 판독가능한 기록매체 |
JP4594389B2 (ja) * | 2006-05-09 | 2010-12-08 | 日本電信電話株式会社 | 映像品質推定装置、方法、およびプログラム |
JP2008035357A (ja) * | 2006-07-31 | 2008-02-14 | Kddi Corp | 映像品質の客観評価装置 |
US8457204B2 (en) * | 2006-07-31 | 2013-06-04 | Kddi Corporation | Objective perceptual video quality evaluation apparatus |
US8902782B2 (en) | 2006-10-19 | 2014-12-02 | Telefonaktiebolaget L M Ericsson (Publ) | Method of determining video quality |
US8339976B2 (en) | 2006-10-19 | 2012-12-25 | Telefonaktiebolaget Lm Ericsson (Publ) | Method of determining video quality |
JP2010507324A (ja) * | 2006-10-19 | 2010-03-04 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | ビデオ画質の決定方法 |
JP2009049708A (ja) * | 2007-08-20 | 2009-03-05 | Fujitsu Ltd | ネットワーク障害情報収集装置、システム、方法及びプログラム |
EP2106154A1 (en) * | 2008-03-28 | 2009-09-30 | Deutsche Telekom AG | Audio-visual quality estimation |
EP2106153A1 (en) * | 2008-03-28 | 2009-09-30 | Deutsche Telekom AG | Audio-visual quality estimation |
US8531531B2 (en) | 2008-03-28 | 2013-09-10 | Deutsche Telekom Ag | Audio-visual quality estimation |
Also Published As
Publication number | Publication date |
---|---|
JP4365291B2 (ja) | 2009-11-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4486130B2 (ja) | 映像コミュニケーション品質推定装置、方法、およびプログラム | |
EP2901669B1 (en) | Near-end indication that the end of speech is received by the far end in an audio or video conference | |
US9232190B1 (en) | Systems and methods for managing multimedia conference calls | |
US20140329511A1 (en) | Audio conferencing | |
JP4365291B2 (ja) | 双方向通信サービスシステムにおける品質推定方法および品質推定装置 | |
JP4510583B2 (ja) | 双方向マルチモーダルサービス品質推定装置および方法 | |
JP2007067626A (ja) | 映像品質推定装置、方法およびプログラム | |
Hayashi et al. | Multimedia quality integration function for videophone services | |
US20070253558A1 (en) | Methods and apparatuses for processing audio streams for use with multiple devices | |
JP4745721B2 (ja) | ネットワークコミュニケーションサービス満足度推定装置、方法、およびプログラム | |
JP2014520432A (ja) | 劣化したビデオ呼リンクを識別するためのシステム、方法、および媒体 | |
JP2008301026A (ja) | 映像品質推定方法、装置、およびプログラム | |
JP7334470B2 (ja) | 映像処理装置、ビデオ会議システム、映像処理方法、およびプログラム | |
Pornpongtechavanich et al. | Video telephony-quality of experience: a simple QoE model to assess video calls using subjective approach | |
JPH09307930A (ja) | ディジタル画像品質評価装置 | |
JP2007081837A (ja) | テレビ会議端末装置、テレビ会議システム、及びテレビ会議方法 | |
JP2004186870A (ja) | テレビ会議方法、利用者端末装置の処理方法、利用者端末装置、プログラム及び記録媒体 | |
US20070253557A1 (en) | Methods And Apparatuses For Processing Audio Streams For Use With Multiple Devices | |
US20230239525A1 (en) | Server, method and terminal | |
US9368127B2 (en) | Method and device for providing distributed telepresence service | |
JP4027330B2 (ja) | 音声・映像通信サービス品質推定方法及びその装置 | |
JP2004120460A (ja) | ビデオ会議システムとビデオ会議端末装置およびプログラム | |
Rimell et al. | The significance of cross-modal interaction in audio-visual quality perception | |
Rimell et al. | The influence of content, task and sensory interaction on multimedia quality perception | |
Myers | Predicting and measuring quality of service for mobile multimedia |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060718 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090514 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090526 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090727 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090818 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090820 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120828 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130828 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |