JP3689940B2 - 送信装置及び受信装置 - Google Patents

送信装置及び受信装置 Download PDF

Info

Publication number
JP3689940B2
JP3689940B2 JP21071295A JP21071295A JP3689940B2 JP 3689940 B2 JP3689940 B2 JP 3689940B2 JP 21071295 A JP21071295 A JP 21071295A JP 21071295 A JP21071295 A JP 21071295A JP 3689940 B2 JP3689940 B2 JP 3689940B2
Authority
JP
Japan
Prior art keywords
image information
information
signal
image
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP21071295A
Other languages
English (en)
Other versions
JPH0954568A (ja
Inventor
哲二郎 近藤
泰弘 藤森
秀雄 中屋
健治 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP21071295A priority Critical patent/JP3689940B2/ja
Publication of JPH0954568A publication Critical patent/JPH0954568A/ja
Application granted granted Critical
Publication of JP3689940B2 publication Critical patent/JP3689940B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Studio Circuits (AREA)
  • Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、ISDB放送システムなどに適用して好適な送信装置およびその受信装置に関する。詳しくは、主放送信号の他に特定の画像置換領域を定める補助信号を付加情報として送信できるようにし、受信側ではこの領域に人物などをすげ替えて映し出すことができるようにすることによって、好みのキャラクターで映像を楽しんだり、ユーザ自身の画像を当てはめてテレビショッピングなどを楽しむことができるようにしたものである。
【0002】
【従来の技術】
ディジタル技術の発展に伴い、放送界でも放送信号を含めた各種情報をディジタル化したインタラクティブ形式の統合ディジタル放送システム(ISDB(Integrated Services Digital Broadcasting)システムという)が研究・開発されている。
【0003】
具体的には、このISDBシステムとは現行の放送信号(標準テレビジョン信号、ハイビジョン信号)を始めとして、ソフトウエアやファクシミリなどのデータ、さらには音声、文字、図形、画像などのマルチメディア情報をそれぞれディジタル化(符号化)し、それらを統合多重化した上で、伝送形態に合致した変調処理を施して送信するようにした放送システムのことである。
【0004】
放送信号を含めた各種情報を統合多重化する場合、これらの情報の他に受信側での制御情報として使用する付加情報も同時に統合多重化されて送信することができる。統合化されたISDB用放送信号(ディジタル信号)は地上波、衛星波、光ケーブルなどを利用して送信される。
【0005】
受信端末側では、統合化されたISDB用放送信号を受信して目的の信号を弁別することによってそれをモニタに表示させて通常のテレビ放送として楽しむことができることは勿論、記録手段を用いて記録(保存)したり、他の端末に転送したりすることができる。さらに受信した付加情報を利用すれば、モニタ制御、記録制御さらにはモニタされた画像に対する加工制御など、ユーザの好みに応じて受信情報を利用できることになる。つまり、対話形式(インタラクティブ)の放送システムを構築できる。
【0006】
【発明が解決しようとする課題】
したがってこのISDBシステムを利用すれば、送信される付加情報が多種、多様になる程、ユーザに対するサービス内容が向上し、より双方向的な放送システムを構築できる。
【0007】
さて、現行の放送システムでは単に受信した放送信号を受信・復調しテレビモニタなどで視聴するだけであって、いわば受動的・一方的なシステムであるから、ユーザの楽しみが限定されたものとなる。例えば、テレビモニタしているドラマの画像の一部、主として俳優の顔の部分を別の人物の顔にすげ替えたりできれば、その放送を別の楽しみ方で楽しむことができることになる。
【0008】
あるいはまた、ISDBシステムでは多チャネル送信が可能であるので、テレビショッピング情報などを別チャネルで送信し、これをモニタで受信したり、一時的に保存すると共に、受信したファッション画像(洋服、コート、セータ、シャツなど)を見ながら、モデルの顔の部分をユーザの顔にすげ替えることができれば、自分の好みに合った品物を選ぶことができ、テレビを使用したお茶の間ショッピングが可能になるなどの楽しみ方ができる。
【0009】
そこで、この発明はこのような課題を達成できるようにしたものであって、画像置換領域を指定する補助信号を付加情報として主放送信号と共に送信し、受信側にあってはこの画像置換領域に予め用意した画像を置換してテレビモニタに映し出すことができるようにして、テレビ放送システムを多様に楽しむことができるようにしたものである。
【0010】
【課題を解決するための手段】
上述の課題を解決するため、請求項1に記載したこの発明に係る送信装置は、入力される画像情報を符号化する符号化手段と、画像情報の一部の領域に対応し、対象物をワイヤーでモデル化することにより生成され、当該画像情報の一部の領域内の画像情報を他の画像情報に置換する際に当該他の画像情報の変換処理に用いるワイヤーフレーム信号を含む補助信号を生成する補助信号生成手段と、少なくとも、符号化手段により符号化された符号化情報、及び補助信号生成手段により生成された補助信号を含む付加情報とを多重化して送信する送信手段とを備えたことを特徴とする。
【0011】
請求項2に記載した送信装置では、送信手段は、符号化情報をパケット化し、パケット化されたパケットデータ内のパケットヘッダに付加情報を挿入し、伝送フレーム単位で多重してビットストリーム化することを特徴とする。
【0012】
請求項3に記載した受信装置では、画像情報が符号化された符号化情報と付加情報とが多重化された特定の放送信号を選局する選局手段と、選局手段により選局された特定の放送信号を符号化情報及び付加情報に分離する信号分離手段と、符号化情報を復号し画像情報を出力する復号手段と、画像情報とは異なる他の画像情報を出力する出力手段と、付加情報に含まれる補助信号は、画像情報の一部の領域に対応し、対象物をワイヤーでモデル化したワイヤーフレーム信号を含み、他の画像情報を当該ワイヤーフレーム信号に基づいて変換して置換画像情報を生成し、復号手段から出力される画像情報の一部の領域内の画像情報を、当該変換された置換画像情報で置換するように合成してモニタに出力可能な映像制御部とを備えたことを特徴とする受信装置。
【0013】
請求項4に記載した受信装置では、出力手段は、他の画像情報を蓄積する蓄積手段を有することを特徴とする。
【0014】
請求項5に記載した受信装置では、出力手段は、外部から入力される画像信号を他の画像情報として蓄積手段に記録する手段を有することを特徴とする。
【0015】
請求項6に記載した受信装置では、付加情報に含まれる補助信号は、画像情報の一部の領域に対応し、人物をワイヤーでモデル化したワイヤーフレーム信号を含み、映像制御部は、他の画像情報としての人物画像情報を当該ワイヤーフレーム信号に基づいて変換して置換画像情報を生成し、復号手段から出力される画像情報の一部の領域内の画像情報を、当該変換された置換画像情報で置換するように合成してモニタに出力することを特徴とする。
【0016】
画像置換領域はメイン画像と共にテレビモニタに映し出される。これでユーザ(視聴者)はどの画像位置を置換できるかを認識できる。メイン画像はドラマなどの放送信号であっても、ファッション情報のような娯楽情報であってもよい。受信側に予め用意した画像を取り出し、これを元の画像と置換する(すげ替える)。置換画像は人物の顔であったり、家族のスナップ写真であったり、ユーザが用意した任意の画像である。
【0017】
すげ替える位置は升型のエリアで構成された領域指定信号であったり、ワイヤーフレーム信号である。ワイヤーフレーム信号は置換すべき画像を一旦ワイヤーフレーム信号に変換してこれを表示する。
【0018】
【発明の実施の形態】
続いて、この発明に係るISDB用送信装置およびその受信装置の実施の一形態を、図面を参照して詳細に説明する。
【0019】
図1はこの発明に係るISDB用送信装置10の一形態を示す要部の系統図であって、本例では説明の便宜上統合されて送信されるメイン情報としては、標準テレビジョン信号、ハイビジョン信号そして娯楽情報であるファッション情報信号であるものとする。そして、そのそれぞれには制御情報などの付加情報が付加されて多重化される。付加情報は多種多様な情報が考えられる。標準テレビジョン信号やハイビジョン信号に関してはタイムコードなどが考えられる。
【0020】
図1を参照すると、端子12aには標準テレビジョン信号のうち映像信号SVNが、端子12bにはそれに付随した音声信号SANが供給され、符号化部14で圧縮などを含めた適切な符号化処理が施される。この符号化処理に同期して付加情報発生手段16が動作して、制御情報などの付加情報が生成される。本例では付加情報としてタイムコードを例示するので、タイムコード発生部16として構成される。符号化された標準テレビジョン信号およびタイムコードTCは多重化部20に供給されて他の情報と共に多重化処理がなされる。
【0021】
端子22aにはハイビジョン信号のうち映像信号SVHが、端子22bにはそれに付随した音声信号SAHが供給され、符号化部24で圧縮などを含めた符号化処理が施される。この符号化処理に同期して付加情報発生手段としてのこの例ではタイムコード発生部26が起動されて所定のタイムコードが生成される。
【0022】
また、端子28aには娯楽情報としてのこの例ではファッション情報信号SDが供給され、これが符号化部30で符号化される。同時に補助信号生成手段32が起動されて送信すべきファッション情報に対する補助信号(ディジタル信号)が生成される。
【0023】
補助信号は指定したテレビモニタに画像置換領域を表示するためのもので、内部で生成される場合の他、外部から指定することによって生成される場合もある。外部からの指定は、一般的には編集オペレータが行なうもので、端子32aから供給される領域指定信号に基づいて例えば図2に示すような升状の補助信号(鎖線図示)が生成される。通常はモデルの顔の部分が置換領域として指定されるが、指定すべき場所は特に制限を受けない。
【0024】
内部で生成される補助信号としては画像輪郭表示を兼ね備えた信号であって、図3のようなワイヤーフレーム信号(二次元情報若しくは三次元情報)が挙げられる。ワイヤーフレームは人物などのモデルをワイヤーでモデル化したもので、例えば人物の顔は図3に示すように、顔や目、鼻、口などの輪郭が複数本のワイヤーでモデル化される。
【0025】
それぞれから得られた符号化情報や付加情報はそれぞれ図1に示す多重化部20において多重される。多重化部20では、例えば符号化情報のそれぞれに対してパケット化し、それに誤り訂正のための符号化を施したもの同士を伝送フレーム単位で多重してビットストリーム化するような処理が行なわれる。上述した付加情報やメイン情報の種類(識別子)などはパケット化するときそのヘッダ(パケットヘッダ)に挿入することができる。
【0026】
多重化したデータは送信部34で送信手段(例えば放送衛星)に適した送信形態となされたISDB用放送信号に変調されたのち、この例ではアップコンバータ36を経て送信アンテナ(パラボラアンテナ)38で放送衛星に向けて送信される。
【0027】
図4は上述したようなISDB用放送信号を受信するこの発明に係る受信装置40の一例を示す。
【0028】
受信アンテナ(パラボラアンテナ)42で受信した衛星波はダウンコンバータ44によって1GHz帯にダウンコンバートされ、その後ISDB用チューナ46に供給されて選局処理が行なわれる。そのため端子48よりの選局信号SCによって文字放送を含めた特定チャネルのISDB用放送信号が選局される。
【0029】
選局されたISDB用放送信号は信号分離手段50に供給されて、本来のメイン情報と付加情報に分離される。例えば標準テレビジョン信号のうち特定のチャネルが選局されたときには、標準テレビジョン信号とこの特定チャネルに付随する付加情報(タイムコードなど)とに分離される。分離された標準テレビジョン信号は復号部52において復号され、映像信号SVと音声信号SAとがそれぞれ復号され、これらは映像制御部53を介してモニタ(テレビモニタ:CRT,LCDなど)54に供給されて映像が映し出される。
【0030】
メイン情報としてファッション情報信号が選択されたときにはファッション情報信号がモニタ54に映し出される他、記録再生部55にも供給されてその内容が記録される。これは同一のファッション情報を繰り返し何度も映し出すことが必要であることを考慮したためである。記録再生部55としては半導体メモリ(RAMなど)や検索が速い光磁気ディスク記録再生部などを利用することができる。
【0031】
信号分離手段50で分離された付加情報のうちこの例ではファッション情報に関連する補助信号が復号部56に供給されて復号されたのち、映像制御部53を介してモニタ54に与えられてファッション画像と共に補助信号が表示される。その具体例を図2と図3に示す。
【0032】
受信装置40にはさらに視聴者が予め用意した置換画像の蓄積手段が設けられている。この例では記録再生部58が設けられ、端子58aからの画像信号が記録され、再生された画像信号が映像制御部53を経てモニタ54に供給されることによってその内容が映し出される。記録再生部58としてはVTR、光磁気ディスク記録再生装置、半導体メモリ手段(RAMなど)などを使用することができる。
【0033】
置換画像は例えば図5に示すように緑色の背景70を背にして被写体(人物など)の全身若しくは上半身をテレビカメラ74で撮像したものを利用することができる。記録再生部58ではテレビカメラ74からの映像信号を端子58aを通して直接記録することもできれば、ディスクやテープなどの記録媒体をソースとして使用することもできる。
【0034】
図4に示す受信装置40にはさらに映像制御部53や記録再生部55、58などを制御する手段が搭載されている。60はキー操作部であり、このキー操作部60からの制御信号やマウスなどの外部入力手段62からの制御信号がマイコンで構成された制御部64に供給される。
【0035】
制御部64では主として映像制御部53をコントロールための各種の制御信号が生成される。例えば、受信したメイン情報、補助信号、記録再生部55,58からの再生映像信号をそれぞれ単独でモニタ54に映し出したり、これらを適当に合成して映し出したり、補助信号で指定された領域に画像をすげ替えて映し出したりするための各種制御信号が生成される。画像を置換する場合にはその前提としてモニタ54に映し出される置換画像の大きさ、表示位置などを指定したり、記録再生部55の再生画像を任意のタイミングに出力したりする手順をそれぞれ指定するためのメニュー画面M用のデータ出力などがある。メニュー画面MはカーソルKによって選択できる。
【0036】
置換処理の具体例を次に説明する。ドラマなどのテレビ画像に例えば置換指定領域を表示して、その領域内にオリジナルな画像に代えて記録再生部58で再生された画像で置換する場合には、テレビ画像と置換指定領域を示す領域指定信号を合成して画面上に表示する(図2参照)。その状態で置換画像を画面に映し出してその大きさや位置が置換指定領域に合致するように調整する。そのような前処理が終了した段階で領域指定信号をウインドーパルスとして置換画像にすげ替える。そうすると、図6のような画像となる。したがってテレビドラマのような場合であっても、映し出されている俳優の顔を視聴者の顔や好みのキャラクターの顔の画像に置換して楽しむことができる。
【0037】
また、ファッション情報を利用する場合には、記録再生部55を制御して購入したい好みに合った洋服などを画面に映し出し、そのモデルの顔の部分を置換領域として、ここに視聴者の顔をすげ替えれば、その洋服が視聴者にマッチしたものかどうかを判断できる。気に入らなければ別の洋服を映し出して同じような置換処理を行なえば、視聴者の最も気に入った洋服を選ぶことができる。
【0038】
このように記録再生部55を制御し、映し出すべき洋服などを取り替えるだけでその洋服を試着したと同じような画像が得られるので、送信されるべき娯楽情報が多岐にわたれば、家庭内あるいはオフィス内テレビショッピングが可能になって、家庭やオフィスに居ながらにしてテレビショッピングを楽しむことができる。
【0039】
補助信号としてワイヤーフレーム信号を利用する場合には、置換画像がワイヤーフレームの表示位置にしたがった画像変換処理が施され、変換処理後の置換画像が画面上に映し出される(図7参照)。このワイヤーフレームを利用してもテレビショッピングを楽しめる。選択した洋服の種類などは記録再生部55若しくは58あるいは図示しないメモリ手段を利用して保存することもできる。
【0040】
テレビ画像の楽しみ方としての娯楽情報は種々のソースが考えられる。ゴルフ、ヨットなどのスポーツ、生け花などの情操教育などである。置換画像は静止画像に限らず、動画像でもよく、人物も写真のようなもの、人物以外にも動物など種々の画像が考えられる。ワイヤーフレーム信号を利用すれば3次元の立体置換画像を取り扱うこともできる。
【0041】
【発明の効果】
以上のように、この発明に係るISDB用送信装置および受信装置では、ISDB用放送信号にショッピングなどの娯楽情報信号を含めるとき、この娯楽情報信号に対して置換領域指定などの補助信号を付加情報として送信し、受信側では予め用意された置換画像で、オリジナル画像を置換できるように構成したものである。
【0042】
これによれば、ドラマの画像の一部、主として俳優の顔の部分を視聴者自身の顔にすげ替えたりできるので、その放送を別の楽しみ方ができるし、あるいはまたテレビショッピング情報などをモニタすると共に、送信されたファッション画像を見ながら、モデルの顔の部分をユーザの顔にすげ替えることができるので、自分の好みに合った品物を選ぶことができ、テレビを使用したお茶の間ショッピングが可能になるなどの楽しみ方ができるなどの特徴を有する。したがってこの発明はディジタル放送用のISDBシステムに適用して極めて好適である。
【図面の簡単な説明】
【図1】この発明に係るISDB用送信装置の実施の一形態を示す要部の系統図である。
【図2】領域指定例を示す図である。
【図3】ワイヤーフレームを使用したときの領域指定例を示す図である。
【図4】この発明に係るISDB用受信装置の実施の一形態を示す要部の系統図である。
【図5】置換画像の一例を示す図である。
【図6】置換画像の一例を示す図である。
【図7】置換画像の他の例を示す図である。
【符号の説明】
10 ISDB用送信装置
14,24,30 符号化部
16,26 タイムコード発生手段
20 多重化部
32 補助信号生成手段
46 ISDB用チューナ
52 復号部
53 画像制御部
54 モニタ
56 補助信号復号部
55,58 記録再生部
64 制御部

Claims (6)

  1. 入力される画像情報を符号化する符号化手段と、
    上記画像情報の一部の領域に対応し、対象物をワイヤーでモデル化することにより生成され、当該画像情報の一部の領域内の画像情報を他の画像情報に置換する際に当該他の画像情報の変換処理に用いるワイヤーフレーム信号を含む補助信号を生成する補助信号生成手段と、
    少なくとも、上記符号化手段により符号化された符号化情報、及び上記補助信号生成手段により生成された上記補助信号を含む付加情報とを多重化して送信する送信手段とを備えたことを特徴とする送信装置。
  2. 上記送信手段は、
    上記符号化情報をパケット化し、
    上記パケット化されたパケットデータ内のパケットヘッダに上記付加情報を挿入し、
    伝送フレーム単位で多重してビットストリーム化することを特徴とする請求項1に記載の送信装置。
  3. 画像情報が符号化された符号化情報と付加情報とが多重化された特定の放送信号を選局する選局手段と、
    上記選局手段により選局された上記特定の放送信号を上記符号化情報及び上記付加情報に分離する信号分離手段と、
    上記符号化情報を復号し上記画像情報を出力する復号手段と、
    上記画像情報とは異なる他の画像情報を出力する出力手段と、
    上記付加情報に含まれる補助信号は、上記画像情報の一部の領域に対応し、対象物をワイヤーでモデル化したワイヤーフレーム信号を含み、上記他の画像情報を当該ワイヤーフレーム信号に基づいて変換して置換画像情報を生成し、上記復号手段から出力される上記画像情報の一部の領域内の画像情報を、当該変換された置換画像情報で置換するように合成してモニタに出力可能な映像制御部とを備えたことを特徴とする受信装置。
  4. 上記出力手段は、上記他の画像情報を蓄積する蓄積手段を有することを特徴とする請求項に記載の受信装置。
  5. 上記出力手段は、外部から入力される画像信号を上記他の画像情報として上記蓄積手段に記録する手段を有することを特徴とする請求項に記載の受信装置。
  6. 上記付加情報に含まれる補助信号は、上記画像情報の一部の領域に対応し、人物をワイヤーでモデル化したワイヤーフレーム信号を含み、
    上記映像制御部は、上記他の画像情報としての人物画像情報を当該ワイヤーフレーム信号に基づいて変換して置換画像情報を生成し、
    上記復号手段から出力される上記画像情報の一部の領域内の画像情報を、当該変換された置換画像情報で置換するように合成してモニタに出力することを特徴とする請求項に記載の受信装置。
JP21071295A 1995-08-18 1995-08-18 送信装置及び受信装置 Expired - Lifetime JP3689940B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP21071295A JP3689940B2 (ja) 1995-08-18 1995-08-18 送信装置及び受信装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP21071295A JP3689940B2 (ja) 1995-08-18 1995-08-18 送信装置及び受信装置

Publications (2)

Publication Number Publication Date
JPH0954568A JPH0954568A (ja) 1997-02-25
JP3689940B2 true JP3689940B2 (ja) 2005-08-31

Family

ID=16593861

Family Applications (1)

Application Number Title Priority Date Filing Date
JP21071295A Expired - Lifetime JP3689940B2 (ja) 1995-08-18 1995-08-18 送信装置及び受信装置

Country Status (1)

Country Link
JP (1) JP3689940B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002335499A (ja) * 2001-05-08 2002-11-22 Sony Corp 放送受信装置
JP4136383B2 (ja) * 2002-01-28 2008-08-20 キヤノン株式会社 テレビ受信装置及びその制御方法

Also Published As

Publication number Publication date
JPH0954568A (ja) 1997-02-25

Similar Documents

Publication Publication Date Title
US10462530B2 (en) Systems and methods for providing a multi-perspective video display
KR100584772B1 (ko) 방송방법 및 방송 수신장치
KR101134926B1 (ko) 방송용 단말기 및 방송용 단말기의 진동 제어 방법
JPH09162821A (ja) 多重放送システムとこのシステムで使用される放送送信装置および放送受信装置
KR19990077749A (ko) 정보처리장치, 방법 및 컴퓨터 판독가능 매체
MXPA01000974A (es) Sistema de conmutacion de video sin restriccion de datos digitales comprimidos.
TW200830874A (en) Image information transmission system, image information transmitting apparatus, image information receiving apparatus, image information transmission method, image information transmitting method, and image information receiving method
KR101131856B1 (ko) 방송 신호 송신 장치 및 이를 이용한 방송 신호 송수신방법
JPH0965300A (ja) 情報送受信システムとこのシステムに用いられる送信情報生成装置及び受信情報再生装置
JP2004080476A (ja) ディジタル映像再生装置
JP3583717B2 (ja) 受信端末装置およびその制御方法並びにプログラムを記録した記録媒体
US20050183133A1 (en) Web-based television
JP3593883B2 (ja) 映像ストリーム送受信システム
JP2002218433A (ja) デジタルビデオシステム、ビデオ画像にリンクされた情報の取得方法、双方向視聴システム、双方向視聴装置、デコード装置、伝達媒体ならびに記録媒体。
JP2000138877A (ja) デジタル放送送信装置および受信装置
EP1014732B1 (en) Recording/reproduction device and method for digital broadcasting
JP2003259336A (ja) データ生成方法、データ生成装置、データ伝送方法、映像プログラム再生装置、映像プログラム再生方法、記録媒体
JP3689940B2 (ja) 送信装置及び受信装置
JP2003501965A (ja) 予め定められたテレビジョン番組のインターラクティブ再生を伴なうディジタルテレビジョン受信器/復号器
JP3882208B2 (ja) 送信装置および受信装置
JP2006217662A (ja) ディジタル放送受信装置
JPH0946305A (ja) Isdb用送信装置およびその受信装置
US20070288847A1 (en) Digital broadcast receiver and access restriction method for the same
JP4367970B2 (ja) 受信装置
JP2000269904A (ja) 電子番組ガイドの送信装置および受信装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050301

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050606

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080624

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090624

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090624

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100624

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100624

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110624

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120624

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120624

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130624

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term