JP2000341653A - ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置 - Google Patents

ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置

Info

Publication number
JP2000341653A
JP2000341653A JP14761599A JP14761599A JP2000341653A JP 2000341653 A JP2000341653 A JP 2000341653A JP 14761599 A JP14761599 A JP 14761599A JP 14761599 A JP14761599 A JP 14761599A JP 2000341653 A JP2000341653 A JP 2000341653A
Authority
JP
Japan
Prior art keywords
information
phoneme
audio
program
phoneme information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP14761599A
Other languages
English (en)
Other versions
JP4167347B2 (ja
Inventor
Shunsuke Tanaka
俊介 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP14761599A priority Critical patent/JP4167347B2/ja
Publication of JP2000341653A publication Critical patent/JP2000341653A/ja
Application granted granted Critical
Publication of JP4167347B2 publication Critical patent/JP4167347B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Facsimiles In General (AREA)
  • Television Systems (AREA)

Abstract

(57)【要約】 【課題】 放送されたディジタル音声を受信側で様々に
処理するために、その音声の構成内容を示す音韻情報を
送受信して利用するディジタル放送用音韻情報送受信方
法およびそれに用いる受信装置を提供する。 【解決手段】 送信側から、番組の音声の構成内容を示
す音韻情報を、当該音声とは別個にパケット化し、該音
韻情報を識別するための付加情報を加えて多重化して伝
送し、受信側では、該付加情報に基づいて、音韻情報に
よって当該音韻情報が示す音声に施すことのできる音声
処理を判断し、該音声処理から任意の音声処理を選択す
るための画面を表示し、該音韻情報に従って当該音韻情
報が示す音声に対して、外部入力により任意に選択され
た音声処理を施して出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ディジタル放送に
おいて、放送された音声を受信側で様々に処理するにあ
たり、その音声の構成内容を取得するための方法等に関
する。
【0002】
【従来の技術】従来、テレビジョン放送により放送され
る番組の音声については、受信側で音量調節が可能なく
らいであったが、最近では、視聴者のニーズの多様性か
ら、種々の調節を行う提案がなされている。例えば、受
信した音声のうち人が発する言葉について、話を理解し
易くするため話速を遅くする話速変換や、言葉がはっき
り聴こえるように子音を強調する子音強調などの調節を
行うことが挙げられる。これらの調節を行うためには、
放送される音声を分析して、該音声の情報を正確に取得
する必要がある。すなわち、まず、放送される音声が言
葉であるか否かを見分け、言葉であれば、言葉が続けて
発せられている区間と切れ目の区間を把握することによ
って、切れ目の区間分だけその前に発せられた言葉の話
速を遅くすることができ、言葉の一つ一つの子音まで把
握して、子音強調を行うことができる。
【0003】ここで、ディジタル放送において放送され
る音声などは、ディジタルデータであるため、アナログ
放送による音声などと比べ、自由自在に処理して利用で
きる要素を有している。そこで、上記話速変換や子音強
調などの調節に限らず、放送される音声を様々に処理し
て利用することが期待される。この場合にも、上述のよ
うに、放送される音声を分析して、該音声の情報を正確
に取得することが必要不可欠である。
【0004】
【発明が解決しようとする課題】しかしながら、上記分
析がリアルタイムで行われなければ、放送される音声を
リアルタイムで処理して、放送される映像とともに出力
することができないが、リアルタイムで音声の音韻を正
確に把握することは、不可能に近い。ここで、ディジタ
ル放送においては、番組の映像および音声だけでなく、
該映像および音声を受信側で選択するなどのための付加
情報が伝送されている。そこで、送出側で、放送する音
声をあらかじめ分析した結果を付加情報として、音声と
ともに伝送することが考えられる。
【0005】本発明は、かかる問題点を解消するために
なされたもので、放送されたディジタル音声を受信側で
様々に処理するために、その音声の構成内容を示す音韻
情報を送受信して利用するディジタル放送用音韻情報送
受信方法およびそれに用いる受信装置を提供することを
目的とする。
【0006】
【課題を解決するための手段】上記課題を解決するため
に、本発明(請求項1)のディジタル放送用音韻情報送
受信方法は、送信側から番組の映像および音声を含むデ
ータをそれぞれパケット化して多重化した放送信号を伝
送し、受信側で該放送信号を受信して番組を表示するデ
ィジタル放送において、送信側は、上記音声の構成内容
を示す音韻情報を、当該音声とは別個にパケット化し
て、該音韻情報を識別するための付加情報を加えて多重
化した放送信号を伝送し、受信側は、該付加情報に基づ
いて、音韻情報によって当該音韻情報が示す音声に施す
ことのできる音声処理を判断し、該音声処理から任意の
音声処理を選択するための画面を表示し、該音韻情報に
従って当該音韻情報が示す音声に対して、外部入力によ
り任意に選択された音声処理を施して出力するものであ
る。
【0007】また、本発明(請求項2)のディジタル放
送用音韻情報送受信方法は、請求項1に記載のディジタ
ル放送用音韻情報送受信方法において、上記音韻情報
は、音声の音声区間の開始時刻および終了時刻を含むも
のであるものである。
【0008】また、本発明(請求項3)のディジタル放
送用音韻情報送受信方法は、請求項1に記載のディジタ
ル放送用音韻情報送受信方法において、上記音韻情報
は、音声を構成する音韻および各音韻の放送開始時刻を
含むものであるものである。
【0009】また、本発明(請求項4)のディジタル放
送用音韻情報送受信方法は、請求項1に記載のディジタ
ル放送用音韻情報送受信方法において、上記音韻情報
は、音声を構成する音韻,各音韻の放送開始時刻および
終了時刻,並びに子音部分を含む音韻における該子音部
分の放送終了時刻および当該音韻の母音部分の放送開始
時刻を含むものであるものである。
【0010】また、本発明(請求項5)のディジタル放
送用音韻情報送受信方法は、請求項1に記載のディジタ
ル放送用音韻情報送受信方法において、上記付加情報
は、ARIB(社団法人電波産業会)規格による番組配
列情報のコンポーネント記述子に記述するものであるも
のである。
【0011】また、本発明(請求項6)のディジタル放
送用音韻情報送受信方法は、請求項3に記載のディジタ
ル放送用音韻情報送受信方法において、上記音声処理
は、音声を構成する音韻を表示した字幕映像を当該音声
の放送に合わせて画面表示することを含むものであるも
のである。
【0012】また、本発明(請求項7)のディジタル放
送用音韻情報送受信方法に用いる受信装置は、番組の映
像および音声,該音声を構成内容を示す音韻情報,該音
韻情報を識別するための付加情報が多重化されて伝送さ
れたディジタル放送信号を受信するディジタル放送用音
韻情報送受信方法に用いる受信装置であって、ディジタ
ル放送信号を受信する受信手段と、受信したディジタル
放送信号から、映像信号,音声信号,音韻情報の信号,
及び付加情報の信号をそれぞれフィルタリングして分離
する信号分離手段と、分離された付加情報に基づいて、
音韻情報によって当該音韻情報が示す音声に施すことの
できる音声処理を判断し、該音声処理から任意の音声処
理を選択するための画面を作成し、外部入力によって選
択される番組および当該番組の音声に対して施す音声処
理を受け付ける付加情報処理手段と、分離された音韻情
報のうち、外部入力によって選択された番組の音声の構
成内容を示す音韻情報を抽出し、抽出した音韻情報に基
づいて選択された音声処理のための指示を出力する音韻
情報処理手段と、上記付加情報処理手段で作成された画
面を表示させたり、分離された映像信号から再生された
映像を表示させる映像合成手段と、分離された音声信号
から再生された音声に対して、選択された音声処理を施
して出力する音声処理手段とを備えたものである。
【0013】また、本発明(請求項8)のディジタル放
送用音韻情報送受信方法に用いる受信装置は、請求項7
に記載のディジタル放送用音韻情報送受信方法に用いる
受信装置において、上記音韻情報が、音声を構成する音
韻および各音韻の放送開始時刻を含むものであるとき、
上記付加情報処理手段は、音声処理として、音声を構成
する音韻を表示した字幕映像を当該音声の放送に合わせ
て画面表示する処理を判断し、上記音韻情報処理手段
は、上記付加情報処理手段で上記処理を受け付けたと
き、抽出した音韻情報に基づいて、音声を構成する音韻
を表示した字幕映像を作成する手段を含み、上記映像合
成手段は、作成された字幕映像を、分離された映像信号
から再生された映像に合成して表示させる手段を含むも
のであるものである。
【0014】
【発明の実施の形態】以下に、本発明の実施の形態につ
いて図面を参照しながら詳細に説明する。 (実施の形態1)本発明の実施の形態1においては、受
信側で、送信側からディジタル放送によって伝送された
音声を処理して利用するために、送信側から該音声とと
もに当該音声の構成内容を示す音韻情報を伝送する。な
お、本実施の形態1において受信側で処理する音声は、
送信側から伝送される音声信号のうちの人が発する音
(いわゆる音声であって音韻で構成される)であるもの
とする。
【0015】このとき、受信側で音声を処理するために
要求される音韻情報は、受信側での処理に応じて異な
る。例えば、受信側で話速変換処理を施す場合、音声が
発せられている区間(音声区間)の情報を要し、子音強
調処理を施す場合には、音声中、子音がどこにあるかの
情報や、より厳密な子音強調処理には、該子音が「か」
や「と」などのいずれの音韻の子音であるかの情報をも
要する。
【0016】したがって、音韻情報としては、音声が発
せられている区間(音声区間)の放送開始時刻および終
了時刻の情報、音声を構成する各音韻の放送時刻および
当該各音韻が何であるかの情報、音声を構成する各音韻
の子音あるいは母音部分の放送時刻および当該各部分が
子音あるいは母音のいずれであるかの情報などがそれぞ
れ伝送される。該音韻情報は、送信側において伝送する
音声を公知の方法で分析することによって作成する。
【0017】例えば、伝送する音声の音声区間は、音響
信号が存在するところを音声区間と仮定して音響信号を
音響パワーによって判定,パワースペクトルを計算して
音声に特有の周波数帯域のパワーの有無によって音声で
あるか否かを判定,あるいは,ケプストラム分析によっ
て判定し、判定した音声区間の放送開始時刻および終了
時刻を認識して、音韻情報とする。また、伝送する音声
を構成する音韻は、公知の音声認識手法において用いら
れる音声波形や周波数スペクトルを分析することによっ
て決定し、各音韻の放送時刻を認識して音韻情報とす
る。このとき、伝送する音声のセリフが分かれば、その
セリフを参照することによって音韻を正確に把握するこ
とができる。なお、音韻の放送時刻として、音韻の放送
開始時刻および終了時刻があればより好ましいが、放送
開始時刻だけであってもよい。同じ音声区間内にあって
次に放送される音韻の開始時刻を該音韻の前の音韻の終
了時刻と判断でき、音声区間の最後の音韻の終了時刻に
ついては、音韻の放送時間は約70〜80msecであ
るため、該最後の音韻の開始時刻から例えば75mse
cを終了時刻として、各音韻の終了時刻を判断できるか
らである。
【0018】図1は本実施の形態1において音韻情報が
伝送されるパケットのデータ構造の一例を示す図であ
る。ここで、該音韻情報が伝送されるパケットは、当該
音韻情報が特定する音声が伝送されるパケット,及び該
音声に対応する映像が伝送されるパケットと多重化して
1本のトランスポートストリームとする。図において、
11はPES(Packetized Elementary Stream)パケッ
トであり、MPEG2によって規定され、該PESパケ
ットによってオーディオ(音声)データ,ビデオ(映
像)データなども伝送される。12はヘッダ情報であ
り、当該PESパケットで伝送されるデータのパケット
長,PTS(Presentation Time Stamp ,再生出力の時
刻管理情報)などが含まれる。該PTSは、当該PES
パケットのデータに対応するオーディオのPESパケッ
トのデータをいつ再生出力すべきかを示す。13は音韻
データであり、当該PESパケットのストリームととも
に多重化されて伝送されるオーディオのPESパケット
のデータ(音声)を構成する各音韻が何であるかの情報
を記述している。
【0019】したがって、図1に示したパケットは、P
TSおよび音韻データ13の記述によって、音韻情報で
ある,音声を構成する各音韻の放送開始時刻および当該
各音韻が何であるかの情報を伝送する。また、音韻デー
タ13に、当該音韻の放送終了時刻の情報を追加すれ
ば、音韻情報として、各音韻の放送終了時刻の情報を含
むものを伝送することができる。さらに、音韻データ1
3に記述された音韻が子音部分を含む場合、該音韻デー
タ13に、当該音韻の放送終了時刻の情報に加え、当該
子音部分の放送終了時刻,及び当該音韻の母音部分の放
送開始時刻の情報を追加すれば、音韻情報として、音声
を構成する各音韻の子音または母音部分のそれぞれの放
送開始時刻および終了時刻の情報を含む情報を伝送する
ことができる。
【0020】図2は本実施の形態1において音韻情報が
伝送されるパケットのデータ構造のその他の例を示す図
である。図において、図1と同一符号は同一または相当
部分である。また、(a)に示す14は音韻部分データ
であり、当該PESパケットとともに多重化されて伝送
されるオーディオのPESパケットのデータ(音声)を
構成する各音韻の子音あるいは母音のいずれの部分であ
るかの情報が記述されている。該情報には、各子音が何
の音韻の子音であるかや、各母音が何であるかなどの情
報は含まない。(b)に示す15は音声区間データであ
り、当該PESパケットとともに多重化されて伝送され
るオーディオのPESパケットのデータ(音声)の一部
分の音声区間であるという情報,及び当該音声区間の終
了時刻の情報が記述されている。ちなみに、(a)のP
ESパケットのヘッダ情報のPTSには、当該PESパ
ケットの子音あるいは母音部分に対応するオーディオの
PESパケットのデータ(音声)の部分を再生出力すべ
き時刻が記述され、(b)のPESパケットのPTSに
は、当該PESパケットの音声区間に対応するオーディ
オのPESパケットのデータ(音声)の部分を再生出力
すべき時刻が記述される。
【0021】したがって、図2の(a)に示したパケッ
トは、PTSおよび音韻部分データ14の記述によっ
て、音韻情報である,音声を構成する各音韻の子音また
は母音部分の放送開始時刻および当該各部分が子音ある
いは母音のいずれであるかの情報を伝送する。また、図
2の(b)に示したパケットは、PTSおよび音声区間
データ15の記述によって、音韻情報である,音声区間
の放送開始時刻および終了時刻の情報を伝送する。
【0022】図3は本発明の実施の形態1によるディジ
タル放送用音韻情報送受信方法において用いる送信装置
の構成例を示すブロック図である。図において、21は
映像用符号器であり、番組の映像をディジタル映像信号
に変換する。22は音声用符号器であり、番組の音声を
ディジタル音声信号に変換する。23は音韻情報用符号
器であり、番組の音声の音韻情報をディジタル信号に変
換する。24は付加情報用符号器であり、付加情報,す
なわちARIB(電波産業会)規格のSI(Service I
nformation,番組配列情報)をディジタル信号に変換す
る。25は多重化部であり、複数の番組(4〜8つの番
組)の,ディジタル映像信号,ディジタル音声信号,及
び音韻情報のディジタル信号、並びに付加情報のディジ
タル信号を多重化して1本のトランスポートストリーム
とする。26はディジタル変調器であり、多重化部25
で多重化されたディジタル信号を搬送波に乗せて変調す
る。27はアップコンバータであり、ディジタル変調器
26で変調された低周波数の信号を衛星用高周波数の信
号に変換する。ここで、上記付加情報は、受信側で音韻
情報を利用する際、音韻情報が用意された音声か否かを
判断し,用意されている場合には、その音韻情報の種類
を判断するための情報を含む。すなわち、音韻情報は、
当該音韻情報が示す音声のPESパケットとは独立のP
ESパケットで伝送するため、音韻情報のPESパケッ
トが含まれていることを、SIのPMT(Program Map
Table )中のstream_type(ストリーム形式識別)の記
述によって示す。例えば、MPEG1の音声,MPEG
2の音声,及び音韻情報が別個に含まれているPESパ
ケットを、それぞれ0x03,0x04,及び0x05
とする。また、音韻情報には、図1,図2(a),及び
図2(b)に示したもののように、種々の内容のものが
あるため、これらを該PMT中のcomponent _descript
or(コンポーネント記述子)の記述によって区別する
(図4参照)。該付加情報によって、受信側では音韻情
報の種類に応じた音声処理を選択するための番組表など
を提示することができる。
【0023】なお、図には1つの多重化部および該多重
化部に対応するディジタル変調器からの信号をアップコ
ンバータで変換するように示したが、実際には、6〜8
つの多重化部および対応するディジタル変調器からの信
号を変換する。すなわち、4〜8本のトランスポートス
トリームで、最大64番組が同時に伝送される。
【0024】次に、本発明の実施の形態1によるディジ
タル放送用音韻情報送受信方法における送信側での動作
について、図1〜4により説明する。まず、ディジタル
放送のための番組が製作、すなわち、番組の映像および
音声が作成される。そして、該音声について分析をおこ
なって、音韻情報を作成する。また、上記番組と同じト
ランスポートストリームで伝送される他の番組や、該ト
ランスポートストリームと同時に別のトランスポートス
トリームで伝送される番組も製作される。
【0025】次いで、各トランスポートストリームごと
に多重化する付加情報であるSIを用意する。次いで、
映像用符号器21および音声用符号器22は、それぞれ
作成された映像および音声をディジタル信号に変換して
PESパケットのストリームとして出力する。また、音
韻情報用符号器23は、作成された音韻情報をディジタ
ル信号に変換して図1および2に示したようなPESパ
ケットのストリームとして出力する。さらに、付加情報
用符号器23は、用意したSIデータをディジタル信号
に変換してパケットストリームとして出力する。
【0026】次いで、多重化部25は、複数の番組に対
応する,映像用符号器21,音声用符号器22,及び音
韻情報用符号器23からの各PESパケットのストリー
ムと、付加情報用符号器24からのパケットストリーム
を多重化して1本のトランスポートストリームにして出
力する。このとき、音声のPESパケットのデータに対
応する音韻情報のPESパケットは、当該音声のPES
パケットより先に伝送するように多重化する。すなわ
ち、音声のPESパケットのPTSに記述された時刻と
同一の時刻がPTSに記述された音韻情報のPESパケ
ットが、その時刻より前の時刻がPTSに記述された音
声のPESパケットと多重化する。これにより、受信側
では、先に伝送される音韻情報を取得して音声処理の準
備をした後、当該音韻情報によって処理する音声が伝送
され、該音声を確実に処理することが可能となる。
【0027】次いで、ディジタル変調器25は、多重化
部24で多重化されたディジタル信号を搬送波に乗せて
変調して出力する。また、上記トランスポートストリー
ムと同時に別の複数のトランスポートストリームで伝送
される番組の映像および音声,並びに付加情報も、図示
しない別の複数の多重化部で、それぞれ多重化されて各
トランスポートストリームとして出力され、図示しない
別の複数の対応するディジタル変調器で変調して出力さ
れる。次いで、アップコンバータ26は、ディジタル変
調器25および図示しない別の複数のディジタル変調器
でそれぞれ変調された低周波数の信号を衛星用高周波数
の信号に変換して出力し、該信号を送出アンテナから衛
星に向けて放射する。
【0028】図5は本発明の実施の形態1による受信装
置の構成例を示すブロック図である。図において、31
は受信手段であり、アンテナから送り込まれる電波に重
畳されたディジタル放送信号の複数のトランスポンダの
うち1本を指定して復調する。32は信号分離手段であ
り、復調したトランスポートストリームから、付加情報
であるSIデータのストリームを抽出したり、外部入力
により選択された番組の映像および音声や、該音声の音
韻情報がそれぞれ含まれるストリームを抽出する。33
は付加情報処理手段であり、信号分離手段32からのS
Iデータに基づいて、あらかじめ用意された番組表作成
プログラムによって、通常の番組選択に加え、選択した
番組の音声についてする音声処理なども選択するための
番組表などを作成する。34はリモコン手段であり、外
部より視聴者が所望の番組や音声処理などを選択するた
めの入力手段である。35は音韻情報処理手段であり、
信号分離手段32からの音韻情報のストリームから、選
択された番組の音声の音韻情報を抽出して、選択された
音声処理を施すための指示を出す。36は音声信号再生
手段であり、信号分離手段32から出力されるオーディ
オストリームから外部入力によって選択された番組の音
声信号を再生する。37は映像信号再生手段であり、信
号分離手段32から出力されるビデオストリームから外
部入力によって選択された番組の映像信号を再生する。
38は音声処理手段であり、音韻情報処理手段35から
の指示に従って、あらかじめ用意された音声処理プログ
ラムによって、再生された音声信号に特定の音声処理を
施す。39は映像合成手段であり、再生された映像信号
の映像や、付加情報処理手段33で作成された番組表を
表示させる。
【0029】次に、本発明の実施の形態1による受信装
置の動作について、図1,2,4,及び5により説明す
る。まず、衛星を介して放出される電波をアンテナで受
けて、受信手段31で該電波に重畳されたディジタル放
送信号の複数のトランスポンダのうち1本を指定して復
調する。次いで、信号分離手段32は、復調されたトラ
ンスポートストリームのSIを抽出して出力する。ここ
で、視聴者がリモコン手段34を用いて番組表表示を選
択する。次いで、リモコン手段34は、番組表表示を指
示する入力があった旨を付加情報処理手段33に出力す
る。次いで、付加情報処理手段33は、信号分離手段3
2からの付加情報に基づいて、あらかじめ用意された番
組表作成プログラムによって、番組表を作成する。該番
組表は、通常の番組選択のための番組表であるととも
に、選択した番組の音声について、音声処理などを選択
するための番組表でもある。
【0030】より具体的には、付加情報であるSIのP
MT中のcomponent_descriptor(コンポーネント記述
子)より、各番組の音声とともに伝送される音韻情報の
種類を判断して、番組表作成プログラムによって、該音
韻情報の種類に応じて施せる音声処理を番組表中に示
す。
【0031】例えば、付加情報より、A番組,B番組,
及びC番組の音声とともにそれぞれ伝送される音韻情報
が、それぞれ上記図1,図2(a),及び図2(b)に
示したものであることが分かると、番組表作成プログラ
ムによって、各音韻情報に応じて施せる音声処理を示し
た番組表を作成する。すなわち、図1に示した音韻情報
によれば、話速変換処理,厳密な子音強調処理などを施
すことが可能であるが、図2および図3の音韻情報で
は、それぞれ厳密な子音強調処理および子音強調処理は
行うことができないので、該音声処理は示されない。
【0032】次いで、映像合成手段39は、音韻情報処
理手段35を介した付加情報処理手段33からの番組表
をディスプレイに表示させる。ここで、視聴者はリモコ
ン手段34を用いて表示された番組表上で任意の番組を
選択し、該番組の音声について可能な音声処理を選択す
る。次いで、リモコン手段34は、入力内容を出力す
る。次いで、付加情報処理手段33は、リモコン手段3
4からの入力内容を受けて、選択された番組の情報を信
号分離手段32,音声信号再生手段36,及び映像信号
再生手段37に出力するとともに、選択された番組およ
びその音声について選択された音声処理を音韻情報処理
手段35に出力する。
【0033】次いで、音韻情報処理手段35は、付加情
報処理手段33からの選択内容に従って、信号分離手段
32からの音韻情報のうち、選択された番組の音声につ
いてのものを抽出し、抽出した音韻情報に基づいて選択
された音声処理を施すための指示を音声処理手段に出力
する。次いで、受信手段31は、選択された番組が伝送
されるトランスポンダを指定し直して復調して出力す
る。次いで、信号分離手段32は、復調されたトランス
ポートストリームから選択された番組の音声および映像
がそれぞれ含まれるオーディオストリームおよびビデオ
ストリームを、それぞれ音声信号再生手段36および映
像信号再生手段37に出力する。
【0034】次いで、音声信号再生手段37は、付加情
報処理手段33からの情報に基づいて、信号分離手段3
2からのオーディオストリームから選択された番組の音
声信号を再生して出力する。同時に、映像信号再生手段
37は、付加情報処理手段33からの情報に基づいて、
信号分離手段32からのビデオストリームから選択され
た番組の映像信号を再生して出力する。次いで、映像合
成手段39は、再生された映像信号の映像をディスプレ
イに表示させる。同時に、音声処理手段38は、音韻情
報処理手段35からの指示に従って、あらかじめ用意さ
れた音声処理プログラムによって、再生された音声信号
について特定の音声処理を施し、処理した音声をスピー
カから出力する。
【0035】このように、本発明の実施の形態1による
ディジタル放送用音韻情報送受信方法は、送信側から、
番組の音声の構成内容を示す音韻情報を、当該音声とは
別個にパケット化し、該音韻情報を識別するための付加
情報を加えて多重化して伝送し、受信側では、該付加情
報に基づいて、音韻情報によって当該音韻情報が示す音
声に施すことのできる音声処理を判断し、該音声処理か
ら任意の音声処理を選択するための画面を表示し、該音
韻情報に従って当該音韻情報が示す音声に対して、外部
入力により任意に選択された音声処理を施して出力する
ものとしたから、受信側で容易に音声処理を施して、聴
力低下のある視聴者などに聴覚補償処理を施した音声を
提供することができ、視聴者は、表示画面から、選択し
た番組の音声に対して施せる音声処理を視覚的に容易に
把握して、該音声処理から任意の音声処理を選択して、
選択した音声処理を施した音声を聴くことができる。
【0036】また、上記音韻情報は、音声の音声区間の
開始時刻および終了時刻を含むものとしたから、受信側
では、視聴者が選択した番組の音声について、音声区間
を把握することができ、これを把握することによって施
すことのできる話速変換などの音声処理を、当該番組の
音声に施すことができる。
【0037】また、上記音韻情報は、音声を構成する音
韻および各音韻の放送開始時刻を含むものとしたから、
受信側では、視聴者が選択した番組の音声について、構
成する各音韻,及び該各音韻が放送される時刻を把握す
ることができ、これらを把握することによって施すこと
のできる種々の音声処理を、当該番組の音声に施すこと
ができる。
【0038】また、上記音韻情報は、音声を構成する音
韻,各音韻の放送開始時刻および終了時刻,並びに子音
部分を含む音韻における該子音部分の放送終了時刻およ
び当該音韻の母音部分の放送開始時刻を含むものとした
から、受信側では、視聴者が選択した番組の音声につい
て、構成する各音韻,及び該各音韻の子音および母音部
分が放送される時刻まで把握することができ、これらを
把握することによって施すことのできる子音強調などの
種々の音声処理を、当該番組の音声に施すことができ
る。
【0039】また、上記付加情報を、ARIB(社団法
人電波産業会)規格による番組配列情報のコンポーネン
ト記述子に記述するものとしたから、既存の規格に準じ
て上記付加情報を伝送でき、受信側でも既存の処理を応
用して上記付加情報を利用することができる。
【0040】また、本発明の実施の形態1によるディジ
タル放送用音韻情報送受信方法に用いる受信装置は、付
加情報処理手段において、信号分離手段で分離された付
加情報に基づいて、音韻情報によって当該音韻情報が示
す音声に施すことのできる音声処理を判断し、該音声処
理から任意の音声処理を選択するための画面を作成し、
外部入力によって選択される番組および当該番組の音声
に対して施す音声処理を受け付け、音韻情報処理手段で
は、外部入力によって選択された番組の音声の構成内容
を示す音韻情報に基づいて、選択された音声処理のため
の指示を出力し、音声処理手段で、分離された音声信号
から再生された音声に対して、選択された音声処理を施
して出力するものとしたから、容易に音声処理を施し
て、聴力低下のある視聴者などに聴覚補償処理を施した
音声を提供することができ、視聴者は、表示画面から、
選択した番組の音声に対して施せる音声処理を視覚的に
容易に把握して、該音声処理から任意の音声処理を選択
して、選択した音声処理を施した音声を聴くことができ
る。
【0041】(実施の形態2)本実施の形態2による受
信装置は、上記実施の形態1による受信装置と同様、送
信側から伝送される音韻情報を利用するが、音声を処理
するかわりに字幕映像を作成して表示させるものであ
る。作成される字幕映像は、外国語音声で放送される映
画などの画面に表示される字幕スーパー部分の映像のよ
うなものであり、放送される番組の音声に合わせて表示
されなければならない。そのための音韻情報として、本
実施の形態2においては、少なくとも音声を構成する各
音韻の放送開始時刻および当該各音韻が何であるかの情
報を含むものが伝送されなければならない。例えば、図
1に示したPESパケットで伝送される音韻情報であれ
ばよいが、図2の(a)および(b)に示したPESパ
ケットで伝送される音韻情報では、字幕映像を作成する
ことはできない。
【0042】次に、本実施の形態2による受信装置にお
ける動作について説明するが、当該受信装置の構成は、
実施の形態1による受信装置とほぼ同様であるため、図
4を参照して説明する。ただし、本実施の形態2におい
て、付加情報処理手段33にあらかじめ用意される番組
表作成プログラムによっては、通常の番組選択に加え、
選択した番組の音声に対応する字幕映像の表示を選択す
るための番組表などが作成される。また、音韻情報処理
手段35は抽出した音韻情報に基づいて字幕映像を作成
し、音声処理手段38は特に使用せず、映像合成手段3
9では、音韻情報処理手段35で作成された字幕映像を
再生された映像に合成して表示させる。まず、受信手段
31,信号分離手段32,リモコン手段34,付加情報
処理手段33,及び映像合成手段39において、上記実
施の形態1と全く同様に動作して、番組表を表示させ
る。
【0043】次に、視聴者はリモコン手段34を用いて
表示された番組表上で任意の番組を選択し、該番組の音
声に対応する字幕映像の表示を選択する。次いで、リモ
コン手段34は、入力内容を出力する。次いで、付加情
報処理手段33は、リモコン手段34からの入力内容を
受けて、選択された番組の情報を信号分離手段32,音
声信号再生手段36,及び映像信号再生手段37に出力
するとともに、選択された番組およびその音声に対応す
る字幕映像の表示が選択された旨を音韻情報処理手段3
5に出力する。次いで、音韻情報処理手段35は、付加
情報処理手段33からの選択内容に従って、信号分離手
段32からの音韻情報のうち、選択された番組の音声に
ついてのものを抽出し、抽出した音韻情報に基づいて字
幕映像を作成して出力する。
【0044】一方、受信手段31は、選択された番組が
伝送されるトランスポンダを指定し直して復調して出力
する。次いで、信号分離手段32は、復調されたトラン
スポートストリームから選択された番組の音声および映
像がそれぞれ含まれるオーディオストリームおよびビデ
オストリームを、それぞれ音声信号再生手段36および
映像信号再生手段37に出力する。
【0045】次いで、映像信号再生手段38は、付加情
報処理手段33からの情報に基づいて、信号分離手段3
2からのビデオストリームから選択された番組の映像信
号を再生して出力する。同時に、音声信号再生手段37
は、付加情報処理手段33からの情報に基づいて、信号
分離手段32からのオーディオストリームから選択され
た番組の音声信号を再生し、再生した音声をスピーカか
ら出力する。次いで、映像合成手段39は、映像信号再
生手段37からの再生された映像信号の映像に、音韻情
報処理手段35で作成された字幕映像を合成して、該字
幕映像に対応する音声がスピーカから出力されるタイミ
ングに合わせてディスプレイに表示させる。
【0046】このように、本発明の実施の形態2よるデ
ィジタル放送用音韻情報送受信方法は、送信側から、番
組の音声の構成内容を示す音韻情報であって、音声を構
成する音韻および各音韻の放送開始時刻を含むものを、
当該音声とは別個にパケット化し、該音韻情報を識別す
るための付加情報を加えて多重化して伝送し、受信側で
は、該付加情報に基づいて、音韻情報によって当該音韻
情報が示す音声に対して施すことのできる音声処理であ
って、音声を構成する音韻を表示した字幕映像を当該音
声の放送に合わせて画面表示する処理を含む音声処理を
判断し、該音声処理から任意の音声処理を選択するため
の画面を表示し、上記処理が選択されたとき、該音韻情
報に従って、当該音韻情報が示す音声の放送に合わせ
て、当該音声を構成する音韻を表示した字幕映像を画面
表示するものとしたから、音声を字幕映像で補完するサ
ービスを提供でき、聴力のない視聴者でも、該サービス
を表示画面から視覚的に容易に把握して選択し、番組の
音声の放送に合わせて画面表示される字幕映像を視て、
番組を観ることができる。
【0047】また、本発明の実施の形態2によるディジ
タル放送用音韻情報送受信方法に用いる受信装置は、付
加情報処理手段において、音韻情報が、音声を構成する
音韻および各音韻の放送開始時刻を含むものであると
き、信号分離手段で分離された付加情報に基づいて、該
音韻情報によって施すことのできる処理であって、音声
を構成する音韻を表示した字幕映像を当該音声の放送に
合わせて画面表示する音声処理を判断し、該音声処理か
ら任意の音声処理を選択するための画面を作成し、外部
入力によって選択される番組および当該番組の音声に対
して施す音声処理を受け付け、音韻情報処理手段では、
抽出した音韻情報に基づいて、字幕映像を作成し、映像
合成手段で、作成された字幕映像を、分離された映像信
号から再生された映像に合成して表示させるものとした
から、音声を字幕映像で補完するサービスを提供でき、
聴力のない視聴者でも、該サービスを表示画面から視覚
的に容易に把握して選択し、番組の音声の放送に合わせ
て画面表示される字幕映像を視て、番組を観ることがで
きる。
【0048】
【発明の効果】以上のように、本発明(請求項1)のデ
ィジタル放送用音韻情報送受信方法によれば、送信側か
ら、番組の音声の構成内容を示す音韻情報を、当該音声
とは別個にパケット化し、該音韻情報を識別するための
付加情報を加えて多重化して伝送し、受信側では、該付
加情報に基づいて、音韻情報によって当該音韻情報が示
す音声に施すことのできる音声処理を判断し、該音声処
理から任意の音声処理を選択するための画面を表示し、
該音韻情報に従って当該音韻情報が示す音声に対して、
外部入力により任意に選択された音声処理を施して出力
するものとしたから、受信側で容易に音声処理を施し
て、聴力低下のある視聴者などに聴覚補償処理を施した
音声を提供することができ、視聴者は、表示画面から、
選択した番組の音声に対して施せる音声処理を視覚的に
容易に把握して、該音声処理から任意の音声処理を選択
して、選択した音声処理を施した音声を聴くことができ
る効果がある。
【0049】また、本発明(請求項2)のディジタル放
送用音韻情報送受信方法によれば、請求項1に記載のデ
ィジタル放送用音韻情報送受信方法において、上記音韻
情報は、音声の音声区間の開始時刻および終了時刻を含
むものとしたから、受信側では、視聴者が選択した番組
の音声について、音声区間を把握することができ、これ
を把握することによって施すことのできる話速変換など
の音声処理を、当該番組の音声に施すことができる効果
がある。
【0050】また、本発明(請求項3)のディジタル放
送用音韻情報送受信方法によれば、請求項1に記載のデ
ィジタル放送用音韻情報送受信方法において、上記音韻
情報は、音声を構成する音韻および各音韻の放送開始時
刻を含むものとしたから、受信側では、視聴者が選択し
た番組の音声について、構成する各音韻,及び該各音韻
が放送される時刻を把握することができ、これらを把握
することによって施すことのできる種々の音声処理を、
当該番組の音声に施すことができる効果がある。
【0051】また、本発明(請求項4)のディジタル放
送用音韻情報送受信方法によれば、請求項1に記載のデ
ィジタル放送用音韻情報送受信方法において、上記音韻
情報は、音声を構成する音韻,各音韻の放送開始時刻お
よび終了時刻,並びに子音部分を含む音韻における該子
音部分の放送終了時刻および当該音韻の母音部分の放送
開始時刻を含むものとしたから、受信側では、視聴者が
選択した番組の音声について、構成する各音韻,及び該
各音韻の子音および母音部分が放送される時刻まで把握
することができ、これらを把握することによって施すこ
とのできる子音強調などの種々の音声処理を、当該番組
の音声に施すことができる効果がある。
【0052】また、本発明(請求項5)のディジタル放
送用音韻情報送受信方法によれば、請求項1に記載のデ
ィジタル放送用音韻情報送受信方法において、上記付加
情報を、ARIB(社団法人電波産業会)規格による番
組配列情報のコンポーネント記述子に記述するものとし
たから、既存の規格に準じて上記付加情報を伝送でき、
受信側でも既存の処理を応用して上記付加情報を利用す
ることができる。
【0053】また、本発明(請求項6)のディジタル放
送用音韻情報送受信方法によれば、請求項1に記載のデ
ィジタル放送用音韻情報送受信方法において、上記音声
処理は、音声を構成する音韻を表示した字幕映像を当該
音声の放送に合わせて画面表示することを含むものとし
たから、音声を字幕映像で補完するサービスを提供で
き、聴力のない視聴者でも、該サービスを表示画面から
視覚的に容易に把握して選択し、番組の音声の放送に合
わせて画面表示される字幕映像を視て、番組を観ること
ができる効果がある。
【0054】また、本発明(請求項7)のディジタル放
送用音韻情報送受信方法に用いる受信装置によれば、付
加情報処理手段において、信号分離手段で分離された付
加情報に基づいて、音韻情報によって当該音韻情報が示
す音声に施すことのできる音声処理を判断し、該音声処
理から任意の音声処理を選択するための画面を作成し、
外部入力によって選択される番組および当該番組の音声
に対して施す音声処理を受け付け、音韻情報処理手段で
は、外部入力によって選択された番組の音声の構成内容
を示す音韻情報に基づいて、選択された音声処理のため
の指示を出力し、音声処理手段で、分離された音声信号
から再生された音声に対して、選択された音声処理を施
して出力するものとしたから、容易に音声処理を施し
て、聴力低下のある視聴者などに聴覚補償処理を施した
音声を提供することができ、視聴者は、表示画面から、
選択した番組の音声に対して施せる音声処理を視覚的に
容易に把握して、該音声処理から任意の音声処理を選択
して、選択した音声処理を施した音声を聴くことができ
る効果がある。
【0055】また、本発明(請求項8)のディジタル放
送用音韻情報送受信方法に用いる受信装置によれば、請
求項7に記載のディジタル放送用音韻情報送受信方法に
用いる受信装置において、付加情報処理手段において、
音韻情報が、音声を構成する音韻および各音韻の放送開
始時刻を含むものであるとき、信号分離手段で分離され
た付加情報に基づいて、該音韻情報によって施すことの
できる処理であって、音声を構成する音韻を表示した字
幕映像を当該音声の放送に合わせて画面表示する音声処
理を判断し、該音声処理から任意の音声処理を選択する
ための画面を作成し、外部入力によって選択される番組
および当該番組の音声に対して施す音声処理を受け付
け、音韻情報処理手段では、抽出した音韻情報に基づい
て、字幕映像を作成し、映像合成手段で、作成された字
幕映像を、分離された映像信号から再生された映像に合
成して表示させるものとしたから、音声を字幕映像で補
完するサービスを提供でき、聴力のない視聴者でも、該
サービスを表示画面から視覚的に容易に把握して選択
し、番組の音声の放送に合わせて画面表示される字幕映
像を視て、番組を観ることができる効果がある。
【図面の簡単な説明】
【図1】実施の形態1において音韻情報が伝送されるパ
ケットのデータ構造の一例を示す図である。
【図2】実施の形態1において音韻情報が伝送されるパ
ケットのデータ構造のその他の例を示す図である。
【図3】実施の形態1において用いる送信装置の構成例
を示すブロック図である。
【図4】実施の形態1および2において用いるコンポー
ネント記述子の記述例を示す図である。
【図5】実施の形態1および2において用いる受信装置
の構成例を示すブロック図である。
【符号の説明】
11 PESパケット 12 ヘッダ情報 13 音韻データ 14 音韻部分データ 15 音声区間データ 21 映像用符号器 22 音声用符号器 23 音韻情報用符号器 24 付加情報用符号器 25 多重化部 26 ディジタル変調器 27 アップコンバータ 31 受信手段 32 信号分離手段 33 付加情報処理手段 34 リモコン手段 35 音韻情報処理手段 36 音声信号再生手段 37 映像信号再生手段 38 音声処理手段 39 映像合成手段

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 送信側から番組の映像および音声を含む
    データをそれぞれパケット化して多重化した放送信号を
    伝送し、受信側で該放送信号を受信して番組を表示する
    ディジタル放送において、 送信側は、上記音声の構成内容を示す音韻情報を、当該
    音声とは別個にパケット化して、該音韻情報を識別する
    ための付加情報を加えて多重化した放送信号を伝送し、 受信側は、該付加情報に基づいて、音韻情報によって当
    該音韻情報が示す音声に施すことのできる音声処理を判
    断し、該音声処理から任意の音声処理を選択するための
    画面を表示し、該音韻情報に従って当該音韻情報が示す
    音声に対して、外部入力により任意に選択された音声処
    理を施して出力することを特徴とするディジタル放送用
    音韻情報送受信方法。
  2. 【請求項2】 請求項1に記載のディジタル放送用音韻
    情報送受信方法において、 上記音韻情報は、音声の音声区間の開始時刻および終了
    時刻を含むものであることを特徴とするディジタル放送
    用音韻情報送受信方法。
  3. 【請求項3】 請求項1に記載のディジタル放送用音韻
    情報送受信方法において、 上記音韻情報は、音声を構成する音韻および各音韻の放
    送開始時刻を含むものであることを特徴とするディジタ
    ル放送用音韻情報送受信方法。
  4. 【請求項4】 請求項1に記載のディジタル放送用音韻
    情報送受信方法において、 上記音韻情報は、音声を構成する音韻,各音韻の放送開
    始時刻および終了時刻,並びに子音部分を含む音韻にお
    ける該子音部分の放送終了時刻および当該音韻の母音部
    分の放送開始時刻を含むものであることを特徴とするデ
    ィジタル放送用音韻情報送受信方法。
  5. 【請求項5】 請求項1に記載のディジタル放送用音韻
    情報送受信方法において、 上記付加情報は、ARIB(社団法人電波産業会)規格
    による番組配列情報のコンポーネント記述子に記述する
    ものであることを特徴とするディジタル放送用音韻情報
    送受信方法。
  6. 【請求項6】 請求項3に記載のディジタル放送用音韻
    情報送受信方法において、 上記音声処理は、音声を構成する音韻を表示した字幕映
    像を当該音声の放送に合わせて画面表示することを含む
    ものであることを特徴とするディジタル放送用音韻情報
    送受信方法。
  7. 【請求項7】 番組の映像および音声,該音声を構成内
    容を示す音韻情報,該音韻情報を識別するための付加情
    報が多重化されて伝送されたディジタル放送信号を受信
    するディジタル放送用音韻情報送受信方法に用いる受信
    装置であって、 ディジタル放送信号を受信する受信手段と、 受信したディジタル放送信号から、映像信号,音声信
    号,音韻情報の信号,及び付加情報の信号をそれぞれフ
    ィルタリングして分離する信号分離手段と、 分離された付加情報に基づいて、音韻情報によって当該
    音韻情報が示す音声に施すことのできる音声処理を判断
    し、該音声処理から任意の音声処理を選択するための画
    面を作成し、外部入力によって選択される番組および当
    該番組の音声に対して施す音声処理を受け付ける付加情
    報処理手段と、 分離された音韻情報のうち、外部入力によって選択され
    た番組の音声の構成内容を示す音韻情報を抽出し、抽出
    した音韻情報に基づいて選択された音声処理のための指
    示を出力する音韻情報処理手段と、 上記付加情報処理手段で作成された画面を表示させた
    り、分離された映像信号から再生された映像を表示させ
    る映像合成手段と、 分離された音声信号から再生された音声に対して、選択
    された音声処理を施して出力する音声処理手段とを備え
    たことを特徴とするディジタル放送用音韻情報送受信方
    法に用いる受信装置。
  8. 【請求項8】 請求項7に記載のディジタル放送用音韻
    情報送受信方法に用いる受信装置において、 上記音韻情報が、音声を構成する音韻および各音韻の放
    送開始時刻を含むものであるとき、 上記付加情報処理手段は、音声処理として、音声を構成
    する音韻を表示した字幕映像を当該音声の放送に合わせ
    て画面表示する処理を判断し、 上記音韻情報処理手段は、上記付加情報処理手段で上記
    処理を受け付けたとき、抽出した音韻情報に基づいて、
    音声を構成する音韻を表示した字幕映像を作成する手段
    を含み、 上記映像合成手段は、作成された字幕映像を、分離され
    た映像信号から再生された映像に合成して表示させる手
    段を含むことを特徴とするディジタル放送用音韻情報送
    受信方法に用いる受信装置。
JP14761599A 1999-05-27 1999-05-27 ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置 Expired - Fee Related JP4167347B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP14761599A JP4167347B2 (ja) 1999-05-27 1999-05-27 ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP14761599A JP4167347B2 (ja) 1999-05-27 1999-05-27 ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置

Publications (2)

Publication Number Publication Date
JP2000341653A true JP2000341653A (ja) 2000-12-08
JP4167347B2 JP4167347B2 (ja) 2008-10-15

Family

ID=15434339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14761599A Expired - Fee Related JP4167347B2 (ja) 1999-05-27 1999-05-27 ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置

Country Status (1)

Country Link
JP (1) JP4167347B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008085520A (ja) * 2006-09-27 2008-04-10 Kyushu Univ 放送装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008085520A (ja) * 2006-09-27 2008-04-10 Kyushu Univ 放送装置

Also Published As

Publication number Publication date
JP4167347B2 (ja) 2008-10-15

Similar Documents

Publication Publication Date Title
US5677739A (en) System and method for providing described television services
EP1246166B1 (en) Speech recognition based captioning system
US5900908A (en) System and method for providing described television services
KR20150021258A (ko) 디스플레이장치 및 그 제어방법
JPH09162821A (ja) 多重放送システムとこのシステムで使用される放送送信装置および放送受信装置
US20060106597A1 (en) System and method for low bit-rate compression of combined speech and music
JP2011091619A (ja) 送信装置、送信方法、受信装置、受信方法、プログラム、および放送システム
EP1903698A2 (en) Method and apparatus for generating digital audio signals including images
JP7218772B2 (ja) 受信装置および受信方法
JP2000138877A (ja) デジタル放送送信装置および受信装置
US20020069414A1 (en) Method for re-utilizing contents data for digital broadcasting and system therefor
JPH11177944A (ja) 電子番組案内
JP4167347B2 (ja) ディジタル放送用音韻情報送受信方法およびそれに用いる受信装置
JP4210595B2 (ja) ビデオデータストリーム及び/又はオーディオデータストリームの変換方法
WO2016041861A1 (en) Method of controlling the speed of subtitle display
JP2005176107A (ja) デジタル放送受信装置およびその制御方法、デジタル放送送信装置、ならびにデジタル放送受信システム
CN112055253B (zh) 独立字幕流的添加复用方法和装置
JP4167346B2 (ja) ディジタル放送用聴覚補償方法およびそれに用いる受信装置
JP4269840B2 (ja) デジタル放送対応受信端末装置
JP2004172864A (ja) 字幕表示制御装置
JP2009260685A (ja) 放送受信装置
JPH0832956A (ja) 番組情報送受信方式および装置
JP2008294722A (ja) 動画再生装置および動画再生方法
KR100298413B1 (ko) 디지털 티브이
JP2977855B2 (ja) 文字放送システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080708

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080801

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110808

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees