JP2001333425A - 動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体 - Google Patents

動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体

Info

Publication number
JP2001333425A
JP2001333425A JP2000146942A JP2000146942A JP2001333425A JP 2001333425 A JP2001333425 A JP 2001333425A JP 2000146942 A JP2000146942 A JP 2000146942A JP 2000146942 A JP2000146942 A JP 2000146942A JP 2001333425 A JP2001333425 A JP 2001333425A
Authority
JP
Japan
Prior art keywords
data
moving image
information
unit
object data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000146942A
Other languages
English (en)
Other versions
JP2001333425A5 (ja
Inventor
Keiichi Iwamura
恵市 岩村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2000146942A priority Critical patent/JP2001333425A/ja
Priority to EP01301965A priority patent/EP1133190A1/en
Priority to US09/797,717 priority patent/US7106906B2/en
Publication of JP2001333425A publication Critical patent/JP2001333425A/ja
Priority to US11/129,417 priority patent/US7613350B2/en
Publication of JP2001333425A5 publication Critical patent/JP2001333425A5/ja
Pending legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】 シーン中に含まれる各オブジェクトの送
信の制御を行うと共に、このシーンを有するビットスト
リームを再生すること。 【解決手段】 コインを投入し(ステップS20
1)、ストーリーの選択を実行する(ステップS20
2)。そのストーリーに対するいくつかの背景や共演者
を選択する(ステップS203)。利用者の動きや音声
を動画像として取り込む(ステップS204)。そして
選択された前記背景、共演者、利用者の動きや音声をM
PEG−4により多重化し(ステップS205)、利用
者は各々のオブジェクトに対する著作権保護処理を行う
という旨の指示を入力する(ステップS207)。そし
て、著作権保護された再生すべきビットストリームを送
信する(ステップS208)。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、シーン中に含まれ
る各オブジェクトの出力の制御を行う動画像出力装置、
前記動画像出力装置から出力されたビットストリームを
再生する動画像再生装置、携帯端末及びそれらの制御方
法並びに記憶媒体に関するものである。
【0002】
【従来の技術】いわゆるプリントクラブ(登録商標)と
呼ばれる静止画像を対象とした画像の撮影・編集・印刷
システムがある。このシステムは特開平04−1045
72号公報または特開平04−506264号公報等に
示されるように基本的にはいくつかの背景画像を有し写
真を撮影するカメラと、その複数の背景画像から1つの
背景画像を選択し撮影画像と合成およびカメラの撮影お
よび後述の画像印刷を制御するコンピュータと、撮影画
像と選択された背景画像を合成した画像を印刷出力する
プリンタからなる。しかし、これらのシステムは動画像
を対象としていない。
【0003】また、これらのシステムを動画像的に拡張
したシステムが特開平10−115866号公報または
特開平10−117344号公報に示されている。しか
し、これらのシステムにおいて動画と呼ばれるものはプ
リンタによる印刷出力を想定した分割写真またはコマ割
り漫画的なものであり、上記の仕組みを用いて静止画像
を数枚組み合わせたものと言う方が適切である。よっ
て、これらのシステムも本来の動画像を対象としたもの
ではない。
【0004】
【発明が解決しようとする課題】以上のような従来のシ
ステムが動画像を対象としなかった理由、すなわち動画
像を対象としたシステムを構成する場合に考えられる課
題として以下のようなものが考えられる。
【0005】1)動画像は静止画像に比べ情報量が圧倒
的に多く、メモリや画像処理手段等の装置構成が効率的
に実現できない。
【0006】2)静止画像は背景画像と撮影画像の合成
などの画像処理が容易であるが、動画像を簡易に編集す
る手段は(TVや映画の編集装置等の高価な手段を除い
て)あまりない。
【0007】3)動画像は印刷画像として出力すること
が困難で、簡易に楽しむ手段として向かない。
【0008】4)印刷画像はシールとして出力すること
で友人と交換することができるが、動画像では情報量が
大きいこともあり困難である。
【0009】さらに、上記の問題が解決でき、例えばシ
ールの代わりに動画像をデジタルデータとして簡易に伝
送可能な手法が提案できたとしても、著作権に関する下
記のような問題が別に発生する。
【0010】5)出力が印刷物の場合、出力を不正にコ
ピーされることは少ない(カラーコピー等を用いても画
質が必ず劣化するため)が、出力がディジタルデータで
ある場合、品質を劣化させないコピーが容易であり、背
景や共演者に相当するデータに著作権がある場合、著作
権の保護が困難である。
【0011】6)著作権のない利用者の映像等であって
も、不正にコピーされ伝送される場合、その利用者の肖
像権やプライバシーの侵害になる。
【0012】7)出力がシール等の場合、固定枚数を1
セットとして課金されるが、ディジタルデータ出力で同
じことを実現する場合、コピー回数の制御が必要であ
り、できればコピー回数に応じた課金システムを構築す
る必要があり、新しい技術を必要とする。
【0013】本発明は上述の問題点に鑑みてなされたも
のであり、シーン中に含まれる各オブジェクトの出力の
制御を行うと共に、このシーンを有するビットストリー
ムを再生しようとする動画像出力装置、動画送再生装
置、携帯端末及びそれらの制御方法並びに記憶媒体を提
供しようとするものである。
【0014】
【課題を解決するための手段】本発明の目的を達成する
ために、例えば本発明の動画像出力装置は以下の構成を
備える。すなわち、各種のオブジェクトデータを記憶す
る記憶手段と、所定の撮像手段により撮像された動画像
データを入力する入力手段と、前記オブジェクトデータ
の利用条件に関する情報データを発生する情報発生手段
と、前記記憶手段に記憶されたオブジェクトデータと、
前記入力手段によって入力された動画像データと、前記
情報発生手段によって発生された情報データとを多重化
してストリームデータを出力する出力手段とを備える。
【0015】更に本発明の目的を達成するために、例え
ば本発明の動画像再生装置は以下の構成を備える。すな
わち、動画像出力装置からのストリームデータを再生す
る装置であって、前記ストリームデータを入力する入力
手段と、前記ストリームデータ中に含まれる各オブジェ
クトを合成して再生する再生手段とを備えることを特徴
とする動画像再生装置。
【発明の実施の形態】以下添付図面に従って、本発明を
好適な実施形態に従って詳細に説明する。
【0016】[第1の実施形態]本実施形態の動画像出
力装置のブロック図を図1に示し、図2にその動作フロ
ー図を示す。なお、図2のフローチャートに従ったプロ
グラムコードは後述する記憶部105に記憶されている
ものであり、動画像出力装置の動作時に不図示のRAM
にロードされ、実行されることになる。
【0017】まず、101の投入口にコインが投入され
る(ステップS201)。ただし、コインに限らず、ク
レジットカードまたは電子的に金銭の受け渡しを行う機
能を有するICカード、プリペイドカード等で対処して
もよい。
【0018】さて、コインの投入を検知すると、表示器
104に記憶部105(例えばハードディスクやMO,
CD,DVD等の記憶装置)に用意されているストーリ
ーが後述の処理部106を通していくつか表示画面にメ
ニューの項目として表示され、その選択を操作盤103
によって実行する(ステップS202)。
【0019】ストーリーが選択されると記憶部105に
記憶されているそのストーリーに対するいくつかの背景
や共演者等(オブジェクト)が処理部106を通して表
示器104に示され、それを操作盤103によって選択
する(ステップS203)。ここで、ストーリーや背景
等の表示はスピーカ(イヤホン等も可)107を用いた
音声を伴って行われることもでき、マイク108によっ
て選択を指示することも可能である。
【0020】ストーリー及び背景や共演者などが決まれ
ば、そのストーリーに合わせた利用者の動きや音声を動
画像としてカメラ102やマイク108を用いてディジ
タル情報として取り込む。このとき、取り込んだディジ
タル情報を処理部106によって切り取り圧縮する(ス
テップS204)。
【0021】この圧縮された撮影情報と選択した背景や
共演者を処理部106によって合成し、表示器104及
びスピーカ107を用いて再生する(ステップS20
5)。
【0022】その再生情報を利用者が確認し、利用者に
確認を促す。再度入力しなおしたい旨の指示が操作盤1
03より入力された場合、ステップS202,203又
は204の処理から繰り返すことができる(ステップS
206)。ただし、この繰返し処理は省略することがで
き、1度だけの処理とすることも可能である。または、
ステップS201にフィードバックして追加の金銭によ
って繰返し処理を選択することも可能である。
【0023】次に、利用者が再生情報を良いと確認した
場合、利用者は各々のオブジェクトに対する著作権保護
処理を行うという旨の指示を操作盤103より入力する
(ステップS207)。これは例えば、ステップS20
2,203で選択したストーリーやオブジェクトに予め
特別な著作権を保護する設定が行われていた場合、その
著作権に対する追加課金処理や、オブジェクトをコピー
したり送信することに対する前記追加課金に応じた回数
設定やオブジェクトの暗号化処理などである。著作権に
対する追加課金処理は著作権、及びその使用料などに関
する説明を表示器104等に表示し、使用者が支払うべ
き追加の金銭の額の計算を行い、使用者に追加料金の投
入を促す旨の指示を与えることで、使用者に投入口10
1から追加の金銭を投入させることにより実現される。
ここでは処理フローを簡単にするために、著作権保護関
連の処理をステップS207でまとめて行っているが、
ステップS201〜206,208の各処理に分散して
行うこともできる。
【0024】例えば、ステップS202,203のスト
ーリーやオブジェクト選択時に著作権が設定されている
という旨のメッセージの表示処理や追加課金処理を行う
こともできるし、ステップS201のコイン投入による
課金処理は最初に行わず、ここで一括して行うこともで
きる。また、著作権設定処理は著作権保護部100によ
って行われ、その具体例については後述する。最後に、
再生情報を通信部109によって送信する(ステップS
208)。
【0025】以上において100〜109の各部の制御
および図2に示した動作の制御はCPUやプログラムを
格納するROM・RAM等によって構成される制御部1
10によって実行される。
【0026】以下に、処理部106(制御部110)に
ついて詳述する。本実施形態における動画像出力装置で
は、ストーリーや背景、共演者および撮影した利用者の
動画像や音声などのデータ(ハードディスクやCDなど
の記憶媒体に予め記憶されている)は個々に圧縮された
オブジェクトとして扱われる。さらに、それらの各オブ
ジェクトはストーリーにそって圧縮伸長し合成・再生し
て利用される。このような処理を実現する仕組みとして
ISOにて標準化されつつあるMPEG−4(Moving Pi
cture Experts Group pahse4)を用いることが出来る。
【0027】MPEG−4は動画像や音声などのデータ
を符号化し、夫々の符号化データをオブジェクトとして
扱い、これらの所謂マルチメディアデータを組み合わせ
て単一のビットストリームとして伝送する手法であり、
データがオブジェクトとして扱われるという特性のため
に、受信したビットストリームを音声や映像、テキスト
等のオブジェクト毎に1つ1つバラバラにして再編成す
るといったことを行うことが可能である。これを模式的
に示すと図3のようになる。同図において、各オブジェ
クトを各部301〜305において符号化し、符号化さ
れた各オブジェクトを多重化する部分306が本実施形
態の装置に対応し、多重化したストリーム(最終的には
利用者の側の端末にファイルとして保存されることにな
る)を分離する部分307で分離し、それぞれのオブジ
ェクトを復号化する部分308〜312が利用者側の端
末のソフトウェアに対応することになる。
【0028】これらのオブジェクトを合成して、あるシ
ーンを合成するための情報としてVRML(Virtual Re
ality Modeling Language)を修正したBIFS(Binary
Format For Scenes)が存在する。このBIFSはシー
ン記述情報と呼ばれ、2値で記述されているもので、こ
のBIFSに従ってシーンが合成される。このようなシ
ーンの合成に必要な個々のオブジェクトは夫々、個別に
最適な符号化が行われて送信されることになるので、復
号側(利用者側の端末)でも個別に復号され、BIFS
の記述に従い、個々のデータの持つ時間軸を再生機内部
の時間軸に同期させてシーンを合成、出力することにな
る。
【0029】ここで、MPGE−4再生機ではオブジェ
クトデータに著作権が存在する場合には再生制限を行う
必要が生じる。MPEG−4ではこの著作権保護のため
にIPMP(Intellectual Property Management & Prot
ection)と呼ばれる後述のような仕組みが提案されてい
る。
【0030】図4にMPEG−4再生機の概略構成を示
す。伝送路401は各種ネットワーク、コンピュータバ
ス等のデータの路であり、MPEG−4ストリームが入
力されるネットワークである。ここで、伝送路401は
通信路の意味の他にCD−ROM,DVD−ROM,D
VD−RAMといった記録媒体装置と再生機とのインタ
ーフェースも意味する。再生機において、ネットワーク
から配信されたMPEG−4ストリームや記録媒体装置
から再生されたMPEG−4ストリームは、デマルチプ
レクサ402に入力される。ここでMPEG−4ストリ
ームはシーン記述データ、動画像(映像)オブジェクト
データ、音声オブジェクトデータ、オブジェクト記述デ
ータ等に分離された後、それぞれの同期レイヤ部(バッ
ファメモリ)403に入力される。ここで、音声オブジ
ェクトデータは例えば、周知のCELP(Code Excited
Linear Prediction)符号化や、変換領域重み付けインタ
ーリーブベクトル量子化(TWINVQ)符号化等の高
効率符号化が施されたデータであり、動画像オブジェク
トデータは例えば、周知のMPEG−2やH−263方
式にて高効率符号化が施されたデータである。
【0031】同期レイヤ部403の各オブジェクトデー
タはそれぞれの復号部404〜407へ入力される。復
号部404〜407において、上述のような高効率符号
化されたシーン記述データ、動画像オブジェクトデー
タ、音声オブジェクトデータ、オブジェクト記述データ
は復号される。尚、図4においては音声オブジェクトデ
ータ、動画像オブジェクトデータ、オブジェクト記述デ
ータについて夫々複数の互いに異なる種類のオブジェク
トがMPEG−4ストリーム内に存在しても復号可能な
装置を仮定しているため、同期レイヤ部403や復号部
404〜407は音声用、動画像用、オブジェクト記述
データ用に夫々複数用意しているが、システムに応じて
変更することができるのは明らかである。
【0032】そして、復号部405〜407において夫
々復号された音声オブジェクトデータ、動画像オブジェ
クトデータ、オブジェクト記述データはシーン記述復号
部404で復号されたシーン記述データに基づいて、シ
ーン合成部408にて合成/グラフィック処理が行われ
る。このようにして得られた最終的なデータ列はディス
プレイやプリンタ装置といった出力機器409に供給さ
れて可視・可聴化されることになる。
【0033】ここで、音声あるいは動画像などのシーン
を構成する個々のオブジェクトデータに対して、著作権
などの保護のために再生を実行させたり、再生を停止さ
せたりする制御が必要となる場合には、IPMP情報を
用いて制御を行う。該IPMP情報は、受信データスト
リームの構成要素であるIPMPストリームにて伝送さ
れる。IPMP制御部411はデマルチプレクサ402
からのIPMPストリームに含まれるIPMP情報に基
づき、必要に応じて制御ポイント410において各ビッ
トストリームを遮断したり、各復号部405〜407に
アクセスして、復号動作の停止を命令する。このためI
PMP情報等によりデータの視聴の権利が無いと判断さ
れた場合には、該データが復号されなくなるので、再生
が行われなくなる。このような制御を行うことで著作権
を有するデータの保護を行う。
【0034】よって、記憶部105に記憶されているス
トーリーは上記のBIFSによるシーン記述データに相
当し、背景や共演者等は各データ毎に圧縮されたオブジ
ェクトとして管理されている(シーン記述データも1つ
の圧縮されたオブジェクトとして管理されている)。
【0035】また、処理部106は図10のような構成
を持つ。図2における撮影・圧縮の処理(ステップS2
04)は画像切出し部1002と圧縮部1003によっ
て行われる。画像切出しの手法はMPEG−4では規定
されていないが、画像切り出し部1002は、例えば背
景を特定の色(ブルーバック等)にして、その色の画素
を物体外の画素として分離する公知のクロマキー分離法
を実現する手段などによって構成することができる。圧
縮部1003は例えば前述のMPEG−2の動画像符号
化やCELPによる音声符号化器等によって実現され、
各々映像オブジェクト、音声オブジェクトとして出力さ
れる。
【0036】また、合成・再生の処理(ステップS20
5)はシーン合成部1001によって行われる。このシ
ーン合成部1001は図4に示す403〜408の各部
によって構成される。すなわち、記憶部105に格納さ
れた各オブジェクト、及び圧縮された撮影動画は各々個
別に同期レイヤ部403に入力され、シーン記述や音
声、動画などの各々の符号化に対応する復号が404〜
407の各復号部で行われ、シーン合成部408でシー
ン合成され、表示器104やスピーカ107等の出力機
器409への信号として出力される。このとき、ストー
リー説明をするオブジェクトや選択できる背景や共演者
等を示すオブジェクトを用意しておけば、ストーリーや
オブジェクト選択(ステップS202,203)のため
の映像表示もシーン合成部1001によって実現できる
ことは明らかである。最後の送信処理(ステップS20
7)は、各オブジェクトを個別に送ることもできるが、
図10の1004のように図3の多重化部306を用い
ることにより、ストーリー及びそれに基づく複数のオブ
ジェクトを一連のMPEG−4ストリームとして伝送で
きるようにすることができる。
【0037】ここで、著作権保護部100による著作権
保護は以下のように行われる。上述の通り、再生される
各オブジェクトは前述のIPMP情報によって制御され
る。よって、著作権のあるオブジェクトはIPMP情報
によって保護できる。
【0038】さらに、各オブジェクトのコピー回数や送
信回数の制御は以下のようにして実現することができ
る。コピー回数や送信回数の制御はIPMP情報では現
在のところ標準化されていない。よって、以下のような
仕組みによって制御を行う。各オブジェクトにはIPM
P情報とは別に、コピー回数や送信回数を制御するCO
P(Copy & Output Protection)情報を付加し、オブジェ
クトを送信するときCOP情報によって通信部109を
制御する。例えば、COP情報に許可送信回数が記され
ており、それが0でない場合はオブジェクトを送信し、
その許可送信回数から1引いてCOP情報を更新する。
許可送信回数が0のときは通信部109の動作を停止す
るか、記憶部105を制御して記憶部105からのオブ
ジェクトの読み出しを停止する。また、多重化部306
を用いている場合には、多重化部306を制御して多重
化するオブジェクトにそのオブジェクトを含ませないこ
となどによって実現できる。COP情報の初期値や更新
値は、投入口101から入力した金銭を検知し、検知し
た金銭情報によって設定することができる。
【0039】よって、著作権保護部100は、図11に
示すように所定の書式に従ったIPMP情報とCOP情
報を生成する各部(IPMP情報生成部1101、CO
P情報生成部1102)から構成することができる。ま
た、今後、MPEG−4の標準化によってコピー回数や
再生情報が制御可能になった場合、その情報を用いて同
様の処理が実現できることは明らかである。又、IPM
P情報生成部1101、COP情報生成部1102の各
部は制御部110により制御されている。
【0040】また、著作権保護のためにオブジェクトの
暗号化を行うこともできる。この場合、著作権保護部1
00は暗号化部1104を有することで実現できる。暗
号化されたオブジェクトを復号する鍵情報は鍵情報生成
部1103により生成し、IPMP情報やCOP情報と
ともに管理され、送受信を行えばよい。
【0041】以上の動画像出力装置の構成及びその制御
方法により、著作権及び/又は肖像権を有するオブジェ
クトを保護すると共に、この保護されたオブジェクトを
含むシーンを生成することができる。
【0042】[第2の実施形態]本実施形態では、利用
者側の端末として携帯端末(動画像再生装置)を用いた
場合に、この携帯端末のブロック図を図5に示し、その
動作フローを図6に示す。なお、図6のスローチャート
に従ったプログラムコードは後述する記憶部505に記
憶されているものであり、携帯端末の動作時に不図示の
RAMにロードされ、実行されることになる。また、こ
の携帯端末は生成されたオブジェクトを通信したり、利
用者がそれを合成・再生して個別に楽しむ機能を有す
る。
【0043】この携帯端末はいくつかの処理メニューを
表示器504に表示でき、操作盤503を用いて処理メ
ニューから選択できる。その処理メニューの中にはオブ
ジェクトの送信・受信および動画像の合成・再生、オブ
ジェクトの変更等の処理を有する。ただし、そのメニュ
ーの中には著作権保護に関する項目を含むこともでき
る。
【0044】図6においてまず、処理を開始して(ステ
ップS601)、次に処理選択において(ステップS6
02)、送信・受信の処理(ステップS605)を選択
する場合を考える。これは通信部501を用いて第1の
実施形態における動画像出力装置又は他の携帯端末から
オブジェクトを受信したり、他の端末にオブジェクトを
送信する処理を意味する。
【0045】ここで、他の装置・端末で生成した各オブ
ジェクト(ストーリーに相当するBIFSも含む)を受
信する場合を考える。この送受信の指示は操作盤503
によって行い、通信部501を通して受信された各オブ
ジェクトは記憶部505に格納される(送信処理は表示
器504や操作盤503を用いて、記憶部505にある
指定したオブジェクトを通信部501によって他の携帯
端末に送信する処理である)。ただし、送受信されるオ
ブジェクトを確認するために、後述の処理部506を通
してその映像や音声を再生して、確認後に記憶したり、
通信してもよい。このような送受信を行う前には、示す
著作権保護処理(ステップS610)が行われる。この
著作権保護処理は送信するオブジェクトに著作権、特に
送信回数に関する制限がある場合、第1の実施形態で説
明したCOP情報によって制御される。すなわち、CO
P情報の許可送信回数が0でない場合送信され、その許
可送信回数から1引いてCOP情報が更新される。許可
送信回数が0のときは通信部501の動作を停止する
か、記憶部505を制御してその入力を停止するなどに
よって制御される。このCOP情報に関する著作権保護
に関する処理は著作権保護部508によって行われる。
【0046】次に、合成・再生の処理(ステップS60
4)を選択する場合を考える。これは、記憶部505に
記憶されているストーリーを構成する各オブジェクトを
処理部506を通して表示器504またはスピーカ50
2を用いて再生することを意味する。ここで、処理部5
06は図10のシーン合成部1001によって実現する
ことができる。ただし、再生するオブジェクトがIPM
P情報や暗号化などによって再生制御されている場合
は、著作権保護部508によって処理部506は制御さ
れる(ステップS609)。
【0047】次に、オブジェクト変更の処理(ステップ
S603)を選択する場合を考える。これは、ステップ
S605で行われた他の端末との通信等によって、オブ
ジェクトが追加されることなどの結果、記憶部505に
記憶している1つのストーリーの中のあるオブジェクト
を追加されたオブジェクトに変更したり、そのストーリ
ーの中にそのオブジェクトを追加するために行われる。
これはディスクリプタと呼ばれるオブジェクトの属性を
示す情報やBIFSに示されている情報を許可された範
囲内で書き換えることなどにより実現できる。このオブ
ジェクト変更もそのオブジェクトがIPMP等によって
制限されている場合は、上述の処理を行う処理部506
は、著作権保護部508によって制御される(ステップ
S608)。
【0048】次に、上述の一連の処理を終了するかどう
かを確認し、他の処理を繰り返すことができる(ステッ
プS606)。例えば、最初ステップS605の送信・
受信の処理によって第1の実施形態に示す動画像出力装
置や他の携帯端末からいくつかのオブジェクトを受信・
格納した後に処理を継続し、ステップS604の合成・
再生の処理を選択しそれを確認することができる。さら
に、ステップS603のオブジェクトの変更処理をしな
がらステップS604の合成・再生の処理を繰り返すこ
ともできる。そして最後に、処理を終了する。ただし、
ステップS608、609,610の著作権保護処理に
よって、処理が継続できないと判断された場合も、次の
処理に行かず、他の処理に行くためにステップS602
の処理選択に戻る。
【0049】ただし、動画像出力装置等からの受信情報
が図3の多重化部306によって多重化された一連のM
PEG−4ストリームである場合、処理部506はデマ
ルチプレクサ402を含めることが考えられる。ただ
し、このデマルチプレクサ402の出力は同期レイヤ部
403ではなく、記憶部505に出力される。また、5
01〜506の各部の制御および図6に示した動作の制
御はCPUやプログラムを格納するROM・RAM等に
よって構成される制御部507によって実行される。
【0050】著作権保護部508は図12に示すよう
に、COP情報の更新・制御を行うCCOP情報制御部
1202と、IPMP情報によってオブジェクトを制御
するIPMP制御部1201から構成される。ただし、
オブジェクトが暗号化されている場合は、COP情報や
IPMP情報とともに受信した鍵情報を用いて暗号化を
復号する復号部を有することもできる。
【0051】以上の携帯端末の構成及びその制御方法に
より、著作権及び/又は肖像権が保護されたオブジェク
トに対して、このオブジェクトを含むシーンの再生を行
うことができる。
【0052】また、第1の実施形態で示した動画像出力
装置と本実施形態で示した携帯端末(動画像再生装
置)、後述する機能を有するパーソナルコンピュータ
(以下、PC)のうちいくつかを用いて構成される動画
像処理システムを図7〜図9を用いて説明する。
【0053】図7に示す700〜710は、第1の実施
形態で示した100〜110の各部に各々対応し、この
各部により動画像出力装置は構成されており、同図はこ
の動画像出力装置の外形の一例を示す図である。ただ
し、700,705,706,710に相当する著作権
制御部、記憶部、処理部、制御部はその装置の中に内蔵
されている。
【0054】また、ボックス720はこの動画像出力装
置を格納しており、内装はブルーバックとなっており、
そのボックスに入る扉を有する。ブルーバックはオブジ
ェクト切り出しの1手法であり、このボックス内の利用
者はその動作を702のカメラによって撮影されること
によって、利用者以外を含まない1つのオブジェクトと
して取り込まれる。ただし、ボックス720は箱状の形
態でなくブルーバックのみを背景としたカーテン的な形
態等も含む。さらに、利用者は711〜718(各々、
本実施形態で示した501〜508の各部に相当する)
の各部で構成される携帯端末を有し、ケーブル721を
介して、動画像出力装置の通信部709と接続する。
【0055】以上の携帯端末及びその制御方法によっ
て、利用者は動画像出力装置で生成された各オブジェク
トを携帯端末に送信することができる。
【0056】また、本実施形態における動画像出力装置
はNCU719を有する事もでき、例えばインターネッ
トなどに接続されている。そしてNCU719をケーブ
ル721を介して通信部709と接続し、操作盤703
によってデータの送り先を指示することによって、利用
者は携帯端末がなくても生成したオブジェクトを送信す
ることができる。ただしここでは、ケーブル721を用
いた有線の接続を説明したが、無線による接続でも良
い。
【0057】次に、図8に示すように携帯端末801a
は上述で説明したように、他の携帯端末801bや後述
の処理が可能なPC802等と通信を行うことができ
る。このPC802は図6に示した処理が可能であれ
ば、携帯端末(801a,801b)と通信によるオブ
ジェクト交換や動画像の合成・再生等が可能であること
は明らかである。
【0058】さらに、このPC802によってオブジェ
クトやストーリーに相当するBIFSを新しく生成また
は編集することを可能にする場合も考えられる。このオ
ブジェクト生成・編集はCGやアニメーションのエディ
ター等によって実現でき、BIFSの生成・編集は通常
のエディタ等によって実現できる。しかし、オブジェク
トやBIFS等の簡易な生成・編集のためのツールをソ
フトウェアとしてまとめて、CDやダウンロード等によ
って配布することも考えられる。これによって、利用者
オリジナルのストーリーやオブジェクトを使った動画像
を楽しむことが出来る。その際には、このオリジナルの
ストーリーやオブジェクトに対する著作権をIPMP情
報やCOP情報などによって設定し、その使用に関する
料金を電子現金や電子クレジットなどの電子決済手段に
よって行うこともできる。
【0059】最後に、それら第1の実施形態で示した動
画像出力装置で生成したしたオブジェクトやPC等によ
って生成したオブジェクトを図9のようなシステムによ
って管理・運営することができる。901はサーバであ
り、902は上述の携帯端末であり、903は上記のP
Cである。これら各部はネットワーク(インターネット
含む)904を通してサーバ901と通信することがで
きる。サーバ901は各利用者が生成したオブジェクト
や交換可能な種々のオブジェクトを管理・販売してい
る。
【0060】例えば、PC903で生成したオリジナル
のオブジェクトをサーバ901に登録し、携帯端末90
2を有する利用者はサーバ901に登録されているオブ
ジェクトを検索して、気に入ったオブジェクトを携帯端
末902にダウンロードすることができる。また、サー
バ901はIPMP情報やCOP情報を管理し、その設
定や変更などを行うこともできる。このとき、所定の手
続きによる決済手段に、よってPC903においてオブ
ジェクトを生成した利用者は携帯端末902の利用者か
ら料金を得、サーバ901の利用者は、PC903にお
いてオブジェクトを生成した利用者及び/または携帯端
末902の利用者からオブジェクトの登録・管理費や販
売手数料等を得ることが出来る。
【0061】以上の動画像処理システム及びその制御方
法によって、例えばオブジェクトをシステム間で交換
し、交換先で編集し、又交換するなど、オブジェクトの
編集システムを構築することができる。
【0062】[第3の実施形態]第1、2の実施形態に
おける装置及びその制御方法による目的は、第1、2の
実施形態を実現するための装置及びその制御方法を組み
合わせて行う方法のみに限定されるものではなく、上記
システム又は装置内のコンピュータ(CPUあるいはM
PU)に、第1、2の実施形態を実現するためのソフト
ウエアのプログラムコードを供給し、このプログラムコ
ードに従って上記システムあるいは装置のコンピュータ
が上記各種デバイスを動作させることにより第1、2の
実施形態を実現する場合であってもよい。
【0063】またこの場合、前記ソフトウエアのプログ
ラムコード自体が第1、2の実施形態の機能を実現する
ことになり、そのプログラムコード自体、及びそのプロ
グラムコードをコンピュータに供給するための手段、具
体的には上記プログラムコードを格納した記憶媒体は第
1、2の実施形態の範疇に含まれる。
【0064】この様なプログラムコードを格納する記憶
媒体としては、例えばフロッピー(登録商標)ディス
ク、ハードディスク、光ディスク、光磁気ディスク、C
D−ROM、磁気テープ、不揮発性のメモリカード、R
OM等を用いることができる。
【0065】また、上記コンピュータが、供給されたプ
ログラムコードのみに従って各種デバイスを制御するこ
とにより、第1、2の実施形態の機能が実現される場合
だけではなく、上記プログラムコードがコンピュータ上
で稼働しているOS(オペレーティングシステム)、あ
るいは他のアプリケーションソフト等と共同して第1、
2の実施形態が実現される場合にもかかるプログラムコ
ードは第1、2の実施形態の範疇に含まれる。
【0066】更に、この供給されたプログラムコード
が、コンピュータの機能拡張ボードやコンピュータに接
続された機能拡張ユニットに備わるメモリに格納された
後、そのプログラムコードの指示に基づいてその機能拡
張ボードや機能格納ユニットに備わるCPU等が実際の
処理の一部または全部を行い、その処理によって第1、
2の実施形態が実現される場合も第1、2の実施形態の
範疇に含まれる。
【0067】上述の実施形態を上記記憶媒体に適用する
場合、その記憶媒体には、先に説明した(図2又は図6
に示す)フローチャートに対応するプログラムコードが
格納されることになる。
【0068】
【発明の効果】本発明によれば、利用者自身の動画像と
利用者が選択したオブジェクトを合成した動画像情報を
作成することが可能になる。
【0069】又、提供する情報は、MPEG−4を用い
ることにより、情報量を少なくでき、しかも、提供の仕
方としても利用者が有する端末、もしくはインターネッ
トなどのネットワークアドレス先に送信することで、利
用者が自由にその情報を活用することも可能になる。
【0070】又、提供する情報には、オブジェクトの利
用条件を示した情報を有するので、オブジェクトの著作
権保護、コピー回数などの利用の制限を行うことが可能
になる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態の動画像出力装置のブ
ロック図である。
【図2】本発明の第1の実施形態の動画像処理装置の動
作フローを示すフローチャートである。
【図3】MPEG−4を説明する概念図である。
【図4】MPEG−4の再生機のブロック図である。
【図5】本発明の第2の実施形態における携帯端末のブ
ロック図である。
【図6】本発明の第2の実施形態における形態端末の動
作フローを示すフローチャートである。
【図7】本発明の第3の実施形態における動画像処理シ
ステムを示す図である。
【図8】本発明の第3の実施形態における動画像処理シ
ステムを示す図である。
【図9】本発明の第3の実施形態における動画像処理シ
ステムを示す図である。
【図10】本発明による第1の実施例の処理手段のブロ
ック図である。
【図11】本発明による第1の実施例の著作権保護手段
のブロック図である。
【図12】本発明による第2の実施例の著作権保護手段
のブロック図である。
フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 7/18 H04N 7/167 Z 5C064 Fターム(参考) 5B050 AA10 BA06 BA11 CA04 CA07 DA01 DA10 EA10 EA19 EA24 FA02 FA10 5C023 AA17 AA27 AA28 BA12 CA03 DA04 DA08 EA03 5C053 FA04 FA15 FA23 FA27 GA11 GB06 GB08 GB11 GB37 HA33 JA03 LA06 LA11 LA15 5C054 AA01 AA05 CA04 CC02 CD03 CE16 CG08 DA08 EA05 EH01 FC12 FE14 FE22 GB02 GB14 GD03 HA16 5C059 KK37 MA00 MA04 MB01 MB24 PP04 PP28 RB06 RC12 RC19 RC32 RC35 RC37 SS11 SS20 TA73 TB04 TC45 TD18 UA02 UA03 UA05 5C064 CA14 CB01

Claims (30)

    【特許請求の範囲】
  1. 【請求項1】 各種のオブジェクトデータを記憶する記
    憶手段と、 所定の撮像手段により撮像された動画像データを入力す
    る入力手段と、 前記オブジェクトデータの利用条件に関する情報データ
    を発生する情報発生手段と、 前記記憶手段に記憶されたオブジェクトデータと、前記
    入力手段によって入力された動画像データと、前記情報
    発生手段によって発生された情報データとを多重化して
    ストリームデータを出力する出力手段とを備えることを
    特徴とする動画像出力装置。
  2. 【請求項2】 前記出力手段は、MPEG−4に従うこ
    とを特徴とする請求項1に記載の動画像出力装置。
  3. 【請求項3】 前記記憶手段に記憶されるオブジェクト
    には、背景の画像データ、共演者の画像データが含まれ
    ることを特徴とする請求項1又は2に記載の動画像出力
    装置。
  4. 【請求項4】 前記入力手段は、音声を入力する手段を
    含むことを特徴とする請求項1乃至3のいずれか1項に
    記載の動画像出力装置。
  5. 【請求項5】 前記出力手段で出力されるストリームデ
    ータは、BIFS(Binary Format For Scenes)で記述
    されていることを特徴とする請求項1乃至4のいずれか
    1項に記載の動画像出力装置。
  6. 【請求項6】 前記出力手段は、利用者が用意した情報
    端末に出力することを特徴とする請求項1乃至5のいず
    れか1項に記載の動画像出力装置。
  7. 【請求項7】 前記出力手段は、利用者が指定したネッ
    トワークアドレスに向けて出力することを特徴とする請
    求項1乃至5のいずれか1項に記載の動画像出力装置。
  8. 【請求項8】 前記入力手段によって入力される動画像
    データは、1フレーム中から抽出された所望のオブジェ
    クトに対応するデータであることを特徴とする請求項1
    乃至7のいずれか1項に記載の動画像出力装置。
  9. 【請求項9】 前記情報発生手段は、IPMP(Intell
    ectual Property Management & Protection)情報を生
    成することを特徴とする請求項1乃至8のいずれか1項
    に記載の動画像出力装置。
  10. 【請求項10】 前記ストリームデータの作成料金を通
    知する通知手段と、 入金に関する入金情報を検出する検出手段とを更に備え
    ることを特徴とする請求項1乃至9のいずれか1項に記
    載の動画像出力装置。
  11. 【請求項11】 前記情報発生手段は、COP(Copy &
    Output Protection)情報を生成することを特徴とする
    請求項10に記載の動画像出力装置。
  12. 【請求項12】 前記情報発生手段は、前記入金情報に
    応じて前記COP情報を生成することを特徴とする請求
    項11に記載の動画像出力装置。
  13. 【請求項13】 前記出力手段は、前記COP情報によ
    って制御されることを特徴とする請求項11又は12に
    記載の動画像出力装置。
  14. 【請求項14】 前記情報発生手段によって発生された
    情報に応じて前記オブジェクトデータを暗号化する暗号
    化手段を更に備えることを特徴とする請求項1乃至13
    のいずれか1項に記載の動画像出力装置。
  15. 【請求項15】 請求項1乃至14のいずれか1項に記
    載の動画像出力装置からのストリームデータを再生する
    装置であって、 前記ストリームデータを入力する入力手段と、 前記ストリームデータ中に含まれる各オブジェクトを合
    成して再生する再生手段とを備えることを特徴とする動
    画像再生装置。
  16. 【請求項16】 前記入力手段によって入力したストリ
    ームデータ中の所望とするオブジェクトを修正する手段
    を更に備えることを特徴とする請求項15に記載の動画
    像再生装置。
  17. 【請求項17】 請求項15又は16のいずれか1つに
    記載の動画像再生装置を備えることを特徴とする携帯端
    末。
  18. 【請求項18】 複数のオブジェクトデータを多重化し
    て生成されたストリームデータを入力する入力手段と、 前記ストリームデータから前記複数のオブジェクトデー
    タを分離する分離手段と、 前記分離手段によって分離されたオブジェクトデータを
    再生する再生手段と、 前記分離手段によって分離された各オブジェクトデータ
    のCOP(Copy & Output Protection)情報を検出する
    検出手段と、 前記検出手段の検出出力に応じて前記再生手段の再生動
    作を制御する制御手段とを備えることを特徴とする動画
    像再生装置。
  19. 【請求項19】 請求項18に記載の動画像再生装置を
    備えることを特徴とする携帯端末。
  20. 【請求項20】 各種のオブジェクトデータを記憶手段
    に記憶する記憶工程と、 所定の撮像手段により撮像された動画像データを入力す
    る入力工程と、 前記オブジェクトデータの利用条件に関する情報データ
    を発生する情報発生工程と、 前記記憶手段に記憶されたオブジェクトデータと、前記
    入力工程によって入力された動画像データと、前記情報
    発生工程によって発生された情報データとを多重化して
    ストリームデータを出力する出力工程とを備えることを
    特徴とする動画像出力装置の制御方法。
  21. 【請求項21】 請求項20に記載の動画像出力装置か
    らのストリームデータを再生する動画像再生装置の制御
    方法であって、 前記ストリームデータを入力する入力工程と、 前記ストリームデータ中に含まれる各オブジェクトを合
    成して再生する再生工程とを備えることを特徴とする動
    画像再生装置の制御方法。
  22. 【請求項22】 複数のオブジェクトデータを多重化し
    て生成されたストリームデータを入力する入力工程と、 前記ストリームデータから前記複数のオブジェクトデー
    タを分離する分離工程と、 前記分離工程によって分離されたオブジェクトデータを
    再生する再生工程と、 前記分離工程によって分離された各オブジェクトデータ
    のCOP(Copy & Output Protection)情報を検出する
    検出工程と、 前記検出工程の検出結果に応じて前記再生工程の再生動
    作を制御する制御工程とを備えることを特徴とする動画
    像再生装置の制御方法。
  23. 【請求項23】 ストリームデータを出力する動画像出
    力装置として機能するプログラムコードを格納する記憶
    媒体であって、 各種のオブジェクトデータを記憶手段に記憶する記憶工
    程のプログラムコードと、 所定の撮像手段によって撮像された動画像データを入力
    する入力工程のプログラムコードと、 前記オブジェクトデータの利用条件に関する情報データ
    を発生する情報発生工程のプログラムコードと、 前記記憶手段に記憶されたオブジェクトデータと、前記
    入力工程によって入力された動画像データと、前記情報
    発生工程によって発生された情報データとを多重化して
    ストリームデータを出力する出力工程のプログラムコー
    ドとを備えることを特徴とする記憶媒体。
  24. 【請求項24】 請求項23に記載の動画像出力装置か
    らのストリームデータを再生する動画像再生装置として
    機能するプログラムコードを格納する記憶媒体であっ
    て、 前記ストリームデータを入力する入力工程のプログラム
    コードと、 前記ストリームデータ中に含まれる各オブジェクトを合
    成して再生する再生工程のプログラムコードとを備える
    ことを特徴とする記憶媒体。
  25. 【請求項25】 ストリームデータを再生する動画像再
    生装置として機能するプログラムコードを格納する記憶
    媒体であって、 複数のオブジェクトデータを多重化して生成されたスト
    リームデータを入力する入力工程のプログラムコード
    と、 前記ストリームデータから前記複数のオブジェクトデー
    タを分離する分離工程のプログラムコードと、 前記分離工程によって分離されたオブジェクトデータを
    再生する再生工程のプログラムコードと、 前記分離工程によって分離された各オブジェクトデータ
    のCOP(Copy & Output Protection情報を検出する検
    出工程のプログラムコードと、 前記検出工程の検出出力に応じて前記再生工程の再生動
    作を制御する制御工程のプログラムコードとを備えるこ
    とを特徴とする記憶媒体。
  26. 【請求項26】 シーン中の各種のオブジェクトデータ
    を記憶する記憶手段と、 前記記憶手段に記憶された所望のオブジェクトデータの
    要求を示す要求データを入力する入力手段と、 前記要求データに応じて前記オブジェクトデータと、前
    記オブジェクトデータの利用条件に関する情報データと
    を出力する出力手段とを有することを特徴とする動画像
    出力装置。
  27. 【請求項27】 前記情報データは、IPMP(Intell
    ectual Property Management & Protection)情報であ
    ることを特徴とする請求項26に記載の動画像出力装
    置。
  28. 【請求項28】 前記情報データは、COP(Copy & O
    utput Protection)情報であることを特徴とする請求項
    26又は27に記載の動画像出力装置。
  29. 【請求項29】 シーン中の各種のオブジェクトデータ
    を記憶手段に記憶する記憶工程と、 前記記憶手段に記憶された所望のオブジェクトデータの
    要求を示す要求データを入力する入力工程と、 前記要求データに応じて前記オブジェクトデータと、前
    記オブジェクトデータの利用条件に関する情報データと
    を出力する出力工程とを備えることを特徴とする動画像
    出力装置の制御方法。
  30. 【請求項30】 オブジェクトデータを出力する動画像
    出力装置として機能するプログラムコードを格納する記
    憶媒体であって、 シーン中の各種のオブジェクトデータを記憶手段に記憶
    する記憶工程のプログラムコードと、 前記記憶手段に記憶された所望のオブジェクトデータの
    要求を示す要求データを入力する入力工程のプログラム
    コードと、 前記要求データに応じて前記オブジェクトデータと、前
    記オブジェクトデータの利用条件に関する情報データと
    を出力する出力工程のプログラムコードとを備えること
    を特徴とする記憶媒体。
JP2000146942A 2000-03-06 2000-05-18 動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体 Pending JP2001333425A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2000146942A JP2001333425A (ja) 2000-05-18 2000-05-18 動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体
EP01301965A EP1133190A1 (en) 2000-03-06 2001-03-05 Moving image generation apparatus, moving image playback apparatus, their control method, and storage medium
US09/797,717 US7106906B2 (en) 2000-03-06 2001-03-05 Moving image generation apparatus, moving image playback apparatus, their control method, and storage medium
US11/129,417 US7613350B2 (en) 2000-03-06 2005-05-16 Moving image generation apparatus, moving image playback apparatus, their control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000146942A JP2001333425A (ja) 2000-05-18 2000-05-18 動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体

Publications (2)

Publication Number Publication Date
JP2001333425A true JP2001333425A (ja) 2001-11-30
JP2001333425A5 JP2001333425A5 (ja) 2007-04-19

Family

ID=18653207

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000146942A Pending JP2001333425A (ja) 2000-03-06 2000-05-18 動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体

Country Status (1)

Country Link
JP (1) JP2001333425A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003284024A (ja) * 2001-12-04 2003-10-03 Microsoft Corp セキュアコンテンツを暗号的に保護する方法およびシステム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003284024A (ja) * 2001-12-04 2003-10-03 Microsoft Corp セキュアコンテンツを暗号的に保護する方法およびシステム
JP4522645B2 (ja) * 2001-12-04 2010-08-11 マイクロソフト コーポレーション セキュアコンテンツを暗号的に保護する方法およびシステム

Similar Documents

Publication Publication Date Title
US7613350B2 (en) Moving image generation apparatus, moving image playback apparatus, their control method, and storage medium
US7743426B2 (en) Information data and management data processing apparatus and method
US20070140307A1 (en) High Definition Media Storage Structure and Playback Mechanism
CN102867530A (zh) 用于提供数字电影合成播放列表中的辅助媒体的方法和装置
JP2009506475A (ja) 統合マルチメディアファイルフォーマット構造と、統合マルチメディアファイルフォーマット構造に基づくマルチメディアサービスシステム及び方法
JP3793009B2 (ja) コンテンツ再生装置
JP2002034014A (ja) 画像情報作成装置、画像通信端末、画像配信サーバ、及び画像情報提供システム。
US6643330B1 (en) Data processing method and apparatus for a data stream including object streams
EP1314313A2 (en) Method and system for active modification of video content responsively to processes and data embedded in a video stream
WO2001058157A1 (fr) Dispositif, systeme et procede pour le traitement de donnees, et support d'information
KR100432107B1 (ko) 정보 처리 장치 및 방법
US20030016744A1 (en) Data processing device, data processing method, computer readable recording medium, and data processing program to prevent illegal reproduction of information data
JP4387543B2 (ja) 動画像作成装置及びその制御方法及び記憶媒体
JP2001333425A (ja) 動画像出力装置、動画像再生装置、携帯端末、及びそれらの制御方法並びに記憶媒体
JP3880338B2 (ja) データ処理装置、データ処理方法、コンピュータ可読記録媒体及びデータ処理プログラム
JP2005345632A (ja) 印刷システム
JP2003018556A (ja) データ処理装置、データ処理方法、コンピュータ可読記録媒体及びデータ処理プログラム
CN100397904C (zh) 数据处理装置、数据处理系统以及数据处理方法
JP2001203991A (ja) データ処理方法及び装置
JP2001203683A (ja) データ処理装置及びその方法並びに記憶媒体
JP2001069457A (ja) データ処理方法及びその装置
Samčović CREATING DCP WORKFLOW FOR DIGITAL CINEMA SYSTEM.
JPH1138954A (ja) 画像表示装置、画像表示方法および画像表示プログラムを記録した媒体
JP2001217821A (ja) データ処理方法及び装置並びに記憶媒体
JP2003323347A (ja) 情報受信装置及び同装置に適用するカードモジュール

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070301

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070301

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20070301

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080814

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090918

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091211