JP2001292385A - Streaming video image reproducing method, streaming video image reproducing device and recording medium in which streaming video image reproduction programs is recorded - Google Patents

Streaming video image reproducing method, streaming video image reproducing device and recording medium in which streaming video image reproduction programs is recorded

Info

Publication number
JP2001292385A
JP2001292385A JP2000103875A JP2000103875A JP2001292385A JP 2001292385 A JP2001292385 A JP 2001292385A JP 2000103875 A JP2000103875 A JP 2000103875A JP 2000103875 A JP2000103875 A JP 2000103875A JP 2001292385 A JP2001292385 A JP 2001292385A
Authority
JP
Japan
Prior art keywords
information
streaming video
video
scenario
related auxiliary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000103875A
Other languages
Japanese (ja)
Other versions
JP4498531B2 (en
Inventor
Yasumasa Niikura
康巨 新倉
Takaaki Akimoto
高明 秋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2000103875A priority Critical patent/JP4498531B2/en
Publication of JP2001292385A publication Critical patent/JP2001292385A/en
Application granted granted Critical
Publication of JP4498531B2 publication Critical patent/JP4498531B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide technology to transmit sufficient information to a user even in the streaming video image with bad quality and to make a part which is desired to be viewed possible to be viewed SOLUTION: This streaming video image reproducing method reproduces the streaming video image transmitted via a network, displays the video image together with related supplementary information and is constituted so as to receive the streaming video image, to extract prescribed information to be included in the streaming video image and to change the related supplementary information according to a preliminarily given scenario, based on the prescribed information. In addition, when an operation is added to the related supplementary information, the streaming video image according to the operation is reproduced by using the scenario.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ネットワークを介
して映像を再生する際に、関連補助情報を用いて、映像
の内容理解を促進する技術に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a technique for promoting the understanding of the contents of a video by using related auxiliary information when reproducing the video via a network.

【0002】[0002]

【従来の技術】電子的なコンピュータネットワークの広
まりと、コンピュータの爆発的な普及と共に、多くの映
像が電子ネットワーク上を配信されている。特に、現在
もっとも普及しているインターネットと呼ばれるIPネッ
トワーク上で、次々と映像を伝送するためのいくつかの
システムが開発され、利用されている。例えば、Softwa
reVision(NTT )、RealSystem(Real Networks )、Me
diaTechnology (MicroSoft )、QickTime4.0 (Apple
)などがそれらの代表的なものである。
2. Description of the Related Art With the spread of electronic computer networks and the explosion of computers, many images are distributed on electronic networks. In particular, several systems for transmitting video one after another over the most popular IP network called the Internet have been developed and used. For example, Softwa
reVision (NTT), RealSystem (Real Networks), Me
diaTechnology (MicroSoft), QickTime4.0 (Apple
) Are representative of them.

【0003】しかし、現在普及しているインターネット
と呼ばれるIPネットワークはその構造上、容量が小さく
なりやすく、実時間通信が必ずしも保証されていないた
め、現状では、アナログTV放送の映像品質を満たしてい
ないものがほとんどである。従って、現状のIPネットワ
ーク上を配信する映像クオリティは、やむを得ずTV品質
と比較して、時間ないし空間の一方ないし、両方を犠牲
にしたものとなってしまい、TV放送品質を満たした映像
よりも低い映像情報しか伝達することができないことが
一般的である。また、劣悪なネットワーク条件において
は、映像の本質的特徴である実時間再生すら不可能な場
合も存在する。こうした問題は、現状では一般的であ
り、今後しばらくは多くの場面において、発生する問題
になると考えられる。
[0003] However, the IP network which is currently widely used, called the Internet, has a small capacity due to its structure, and real-time communication is not always guaranteed. Therefore, at present, it does not satisfy the video quality of analog TV broadcasting. Things are mostly. Therefore, the video quality delivered over the current IP network is compelled to sacrifice one or both of time and space compared to TV quality, and is lower than video that satisfies TV broadcast quality. Generally, only video information can be transmitted. Further, under poor network conditions, there are cases where even real-time reproduction, which is an essential feature of video, cannot be performed. These problems are common at the present time, and will be problems that will occur in many situations in the future.

【0004】また、映像は、その内容を理解するため
に、その時間長分だけ視聴することが必要であり、内容
を瞬時に把握し、必要なところだけ視聴したいという要
求を簡単に満たすことが困難なメディアである。これ
は、映像が視聴者に対して強い時間的拘束を強いるから
である。
In order to understand the contents of a video, it is necessary to watch the video for the length of time, and it is possible to easily grasp the contents and easily meet the demand for viewing only the necessary places. It is a difficult media. This is because the video imposes a strong time constraint on the viewer.

【0005】そこで映像の内容を簡単に把握し、かつ、
視聴しやすくするための一つの提案として、映像情報の
カメラのON/OFF に対応するカット点(ショットチェン
ジ)の情報を抽出し、カット点直後の映像を表示し、視
聴者の要望に応じて、ショットチェンジ直後の映像に対
応する映像区間を任意に再生するなどして、視聴を支援
する試みがあげられる。その一例が、Yukinobu Tanigu
chi 、Yoshinobu Tonomura、「PanoramaExcerpts:Extr
acting and packing Panoramas for Video Browsing 」
(1996 ACM Multimedia 97)である。この方法は、映像
の重要な意味を持つと考えられる複数の画像を自動的に
検出し、その一覧を視聴者に提示させて、視聴者の映像
内容の把握を支援し、視聴者が任意の映像区間を自由に
選択して視聴することを可能としている。
Therefore, the contents of the video can be easily grasped, and
One proposal to make viewing easier is to extract the information of the cut point (shot change) corresponding to the camera ON / OFF of the video information, display the video immediately after the cut point, and respond to the viewer's request. There is an attempt to support viewing by arbitrarily reproducing a video section corresponding to a video immediately after a shot change. One example is Yukinobu Tanigu
chi, Yoshinobu Tonomura, "PanoramaExcerpts: Extr
acting and packing Panoramas for Video Browsing ''
(1996 ACM Multimedia 97). This method automatically detects multiple images that are considered to have important meaning in the video, makes the viewer present a list of the images, helps the viewer understand the video content, Video sections can be freely selected for viewing.

【0006】また、映像情報を補完するものとして、地
図情報を利用したものも提案されている。たとえば、Ma
satoshi Arikawa, Tetsu Kamiyama, 「Spatial Browsi
ng for Video Databases」(1998、AMCP'98 )などがあ
げられる。この方法は、映像情報の中に収められている
風景の位置と地図情報を組み合わせたものであり、地図
上に映像が配置されており、地図情報に対して繰作を行
うと対応する映像を視聴できる。
[0006] As a complement to video information, there has also been proposed one using map information. For example, Ma
satoshi Arikawa, Tetsu Kamiyama, `` Spatial Browsi
ng for Video Databases "(1998, AMCP'98). This method combines the position of the scenery contained in the video information and the map information, and the video is arranged on the map. You can watch.

【0007】これら2 つの例は、映像の視聴を支援する
ことが目的であり、補助情報から映像にアクセスし、視
聴することが可能となっている。これらは、視聴者によ
る関連補助情報を介した映像再生の操作を受け取ること
で、映像を再生することは可能であるが、再生に伴う関
連情報が変化することはない。
The purpose of these two examples is to support viewing of a video, and it is possible to access and view the video from auxiliary information. These can reproduce the video by receiving the operation of reproducing the video via the related auxiliary information by the viewer, but the related information does not change with the reproduction.

【0008】これは、前述の2 例が、映像は高品位に実
時間再生され、十分な情報を伝送することが可能である
ことを前提としていることによる。映像が高品位であれ
ば、最終的に映像を再生することにより内容を伝達でき
るため、補助的な情報は再生を行うまでの手がかりとし
てのみ使用される。
This is because the above two examples are based on the premise that video is reproduced in high quality in real time and sufficient information can be transmitted. If the video is high-definition, the content can be transmitted by finally playing back the video, so the auxiliary information is used only as a clue until the video is reproduced.

【0009】[0009]

【発明が解決しようとする課題】しかしながら、ネット
ワーク上でのストリーミング映像においては、前述のよ
うに劣悪な条件下で映像を再生することが求められるた
め、時間的空間的解像度の制約をうけやすく、映像が高
品位に実時間再生されるということを前提とすることは
できない。
However, streaming video on a network is required to reproduce the video under poor conditions as described above. It cannot be assumed that the video will be played in high quality in real time.

【0010】従って、上述した従来技術のように補助的
な情報を再生を行うまでの手がかりとしてのみ使用した
だけではストリーミング映像の内容を十分に伝達するこ
とはできない。
[0010] Therefore, the content of the streaming video cannot be sufficiently transmitted only by using the auxiliary information as a clue until the reproduction is performed as in the above-described conventional technology.

【0011】本発明は上記の点に鑑みてなされたもので
あり、ネットワーク上におけるストリーミング映像の劣
悪な映像品質でも十分な情報が利用者に伝わるように
し、かつ、ストリーミング映像の内容を瞬時に把握し、
容易に見たいところを視聴可能とする枝術を提供するこ
とを目的とする。
SUMMARY OF THE INVENTION The present invention has been made in view of the above points, and enables sufficient information to be transmitted to a user even with poor video quality of a streaming video on a network, and instantaneously grasps the content of the streaming video. And
It is an object of the present invention to provide a branch technique that allows a user to easily view a desired place.

【0012】[0012]

【課題を解決するための手段】上記の目的を達成するた
めに本発明は次のように構成される。
To achieve the above object, the present invention is configured as follows.

【0013】請求項1に記載された発明は、ネットワー
クを介して伝送されたストリーミング映像を再生し、関
連補助情報と共に表示するストリーミング映像再生方法
であって、ストリーミング映像を受信する受信ステップ
と、該ストリーミング映像に含まれる所定の情報を抽出
する抽出ステップと、該所定の情報に基づき予め与えら
れたシナリオに従って前記関連補助情報を変化させる変
化ステップとを有するものである。
[0013] The invention described in claim 1 is a streaming video reproducing method for reproducing a streaming video transmitted through a network and displaying the streaming video together with related auxiliary information. The method includes an extracting step of extracting predetermined information included in the streaming video, and a changing step of changing the related auxiliary information according to a scenario given in advance based on the predetermined information.

【0014】請求項2に記載された発明は、上記構成に
おいて、前記所定の情報をストリーミング映像の再生時
間情報とし、前記シナリオを、前記関連補助情報におい
て映像再生時に表示する当該再生場面に対応する画像識
別名をストリーミング映像の再生時間に対応付けて記述
した情報を含むものとし、前記変化ステップは、前記抽
出ステップにおいて抽出された再生時間情報に対応する
前記画像識別名を前記シナリオから読み取るステップ
と、前記関連補助情報において、該再生時間情報に対応
する場面の非映像再生時に表示された画像を前記画像識
別名の画像に切替えるステップとを有するストリーミン
グ映像再生方法である。
According to a second aspect of the present invention, in the above configuration, the predetermined information is reproduction time information of a streaming video, and the scenario corresponds to the reproduction scene displayed at the time of video reproduction in the related auxiliary information. The image identification name shall include information described in association with the playback time of the streaming video, the changing step is a step of reading from the scenario the image identification name corresponding to the playback time information extracted in the extraction step, Switching the image displayed during non-video reproduction of the scene corresponding to the reproduction time information in the related auxiliary information to the image with the image identification name.

【0015】上記の発明によれば、所定の情報に基づき
シナリオに従って関連補助情報を変化させることとした
ため、ストリーミング映像と関連補助情報とは連動し、
利用者は、ネットワークを介して得られるストリーミン
グ映像を視聴することに加えて、ストリーミング映像に
連動する関連補助情報をあわせて視聴することが可能と
なり、関連補助情報がストリーミング映像の内容を伝達
するため、劣悪な条件に陥りやすいネットワーク上にお
いても十分な情報伝達を行うことが可能となる。
According to the above invention, the related auxiliary information is changed in accordance with the scenario based on the predetermined information.
In addition to viewing the streaming video obtained via the network, the user can also view the related auxiliary information linked to the streaming video, and the related auxiliary information conveys the content of the streaming video. In addition, it is possible to sufficiently transmit information even on a network that is likely to fall into a bad condition.

【0016】すなわち、映像の視聴を目的として他の情
報を用いるのではなく、伝達したい情報の内容を伝える
ために、映像と関連する補助的な情報を組み合わせて、
情報を提供する。映像を視聴するために、関連補助情報
を利用するのではなく、映像と関連する関連補助情報を
積極的に利用して、映像だけでは十分に伝わらない情報
を補完する目的で積極的に利用することによって、劣悪
な条件下でも、十分な情報を伝達することが可能にな
る。
That is, instead of using other information for the purpose of viewing a video, in order to convey the content of the information to be transmitted, auxiliary information related to the video is combined,
Provide information. Rather than using related auxiliary information to watch video, actively use related auxiliary information related to video and actively use it to supplement information that is not sufficiently conveyed by video alone This allows sufficient information to be transmitted even under adverse conditions.

【0017】請求項3に記載された発明は、上記の構成
において、前記関連補助情報に操作を加えた場合に、前
記シナリオを用いて該操作に応じたストリーミング映像
を再生する再生ステップを含むストリーミング映像再生
方法である。
According to a third aspect of the present invention, in the above configuration, when an operation is performed on the related auxiliary information, a streaming step of reproducing a streaming video corresponding to the operation using the scenario is performed. This is a video playback method.

【0018】請求項4に記載された発明は、上記構成に
おいて、前記所定の情報はストリーミング映像の再生時
間情報であり、前記シナリオは、前記関連補助情報にお
ける各部分の情報をストリーミング映像の再生時間情報
と対応付けて記述した情報を含み、前記再生ステップ
は、前記関連補助情報において操作の施された部分の情
報を取得するステップと、該部分の情報に対応する再生
時間情報を前記シナリオから読み取るステップと、該再
生時間情報に対応するストリーミング映像を再生するス
テップとを有するストリーミング映像再生方法である。
According to a fourth aspect of the present invention, in the above-mentioned configuration, said predetermined information is reproduction time information of a streaming video, and said scenario is that information of each part in said related auxiliary information is represented by a reproduction time of a streaming video. The information includes information described in association with information, and the reproducing step includes a step of obtaining information of a part operated in the related auxiliary information, and reading reproduction time information corresponding to the information of the part from the scenario. And a step of reproducing a streaming video corresponding to the reproduction time information.

【0019】上記の発明によれば、ストリーミング情報
と連動した関連補助情報の表示中に、関連補助情報に操
作を加えることによって所望のストリーミング映像を再
生することが可能となる。操作としては、例えば、マウ
スによって見たい部分をクリックする等がある。
According to the above invention, a desired streaming video can be reproduced by performing an operation on the related auxiliary information while the related auxiliary information linked with the streaming information is being displayed. The operation includes, for example, clicking a desired part with a mouse.

【0020】請求項5に記載された発明は、ネットワー
クを介して伝送されたストリーミング映像を再生し、関
連補助情報と共に表示するストリーミング映像再生装置
であって、ストリーミング映像を受信する受信手段と、
該ストリーミング映像に含まれる所定の情報を抽出する
抽出手段と、該所定の情報に基づき予め与えられたシナ
リオに従って前記関連補助情報を変化させる変化手段と
を有する。
According to a fifth aspect of the present invention, there is provided a streaming video reproducing apparatus which reproduces a streaming video transmitted via a network and displays the streaming video together with related auxiliary information.
An extracting unit for extracting predetermined information included in the streaming video; and a changing unit for changing the related auxiliary information according to a scenario given in advance based on the predetermined information.

【0021】請求項6に記載された発明は、上記構成に
おいて、前記所定の情報はストリーミング映像の再生時
間情報であり、前記シナリオは、前記関連補助情報にお
いて映像再生時に表示する当該再生場面に対応する画像
識別名をストリーミング映像の再生時間に対応付けて記
述した情報を含み、前記変化手段は、前記抽出手段にて
抽出された再生時間情報に対応する前記画像識別名を前
記シナリオから読み取る手段と、前記関連補助情報にお
いて、該再生時間情報に対応する場面の非映像再生時に
表示された画像を前記画像識別名の画像に切替える手段
とを有するストリーミング映像再生装置である。
According to the invention described in claim 6, in the above configuration, the predetermined information is reproduction time information of a streaming video, and the scenario corresponds to the reproduction scene displayed at the time of video reproduction in the related auxiliary information. Means for reading the image identifier corresponding to the playback time information extracted by the extraction means, from the scenario, including information describing the image identifier to be associated with the playback time of the streaming video. A means for switching an image displayed during non-video reproduction of a scene corresponding to the reproduction time information to the image with the image identification name in the related auxiliary information.

【0022】請求項7に記載された発明は、上記構成に
おいて、前記関連補助情報に操作を加えた場合に、前記
シナリオを用いて該操作に応じたストリーミング映像を
再生する再生手段を含むストリーミング映像再生装置で
ある。
According to a seventh aspect of the present invention, in the above configuration, when an operation is performed on the related auxiliary information, the streaming video includes a reproducing means for reproducing the streaming video corresponding to the operation using the scenario. It is a playback device.

【0023】請求項8に記載された発明は、上記構成に
おいて、前記所定の情報はストリーミング映像の再生時
間情報であり、前記シナリオは、前記関連補助情報にお
ける各部分の情報をストリーミング映像の再生時間情報
と対応付けて記述した情報を含み、前記再生手段は、前
記関連補助情報において操作の施された部分の情報を取
得する手段と、該部分の情報に対応する再生時間情報を
前記シナリオから読み取る手段と、該再生時間情報に対
応するストリーミング映像を再生する手段とを有するス
トリーミング映像再生装置である。
According to the invention described in claim 8, in the above configuration, the predetermined information is reproduction time information of a streaming video, and the scenario is that information of each part in the related auxiliary information is represented by a reproduction time of a streaming video. The reproducing means includes information described in association with information, wherein the reproducing means obtains information of a part operated in the related auxiliary information, and reads reproduction time information corresponding to the information of the part from the scenario. And a means for reproducing a streaming video corresponding to the reproduction time information.

【0024】請求項5〜8に記載された発明によれば、
請求項1〜4に記載のストリーミング映像再生方法に適
したストリーミング映像再生装置を提供でき、上記と同
様の効果を得ることができる。
According to the invention described in claims 5 to 8,
A streaming video playback device suitable for the streaming video playback method according to any one of claims 1 to 4 can be provided, and the same effects as described above can be obtained.

【0025】請求項9に記載された発明は、ネットワー
クを介して伝送されたストリーミング映像を再生し、関
連補助情報と共に表示する処理をコンピュータに実行さ
せるストリーミング映像再生プログラムを記録した記録
媒体であって、ストリーミング映像を受信する受信手順
と、該ストリーミング映像に含まれる所定の情報を抽出
する抽出手順と、該所定の情報に基づき予め与えられた
シナリオに従って前記関連補助情報を変化させる変化手
順とをコンピュータに実行させるストリーミング映像再
生プログラムを記録した記録媒体である。
According to a ninth aspect of the present invention, there is provided a recording medium which records a streaming video reproducing program for causing a computer to execute a process of reproducing a streaming video transmitted via a network and displaying it together with related auxiliary information. A receiving procedure for receiving a streaming video, an extracting procedure for extracting predetermined information included in the streaming video, and a changing procedure for changing the related auxiliary information according to a scenario given in advance based on the predetermined information. Is a recording medium on which a streaming video reproduction program to be executed by the user is recorded.

【0026】請求項10に記載された発明は、上記構成
において、前記所定の情報はストリーミング映像の再生
時間情報であり、前記シナリオは、前記関連補助情報に
おいて映像再生時に表示する当該再生場面に対応する画
像識別名をストリーミング映像の再生時間に対応付けて
記述した情報を含み、前記変化手順は、前記抽出手順に
おいて抽出された再生時間情報に対応する前記画像識別
名を前記シナリオから読み取る手順と、前記関連補助情
報において、該再生時間情報に対応する場面の非映像再
生時に表示された画像を前記画像識別名の画像に切替え
る手順とを有する。
In the invention described in claim 10, in the above configuration, the predetermined information is reproduction time information of a streaming video, and the scenario corresponds to the reproduction scene displayed at the time of video reproduction in the related auxiliary information. Including information describing the image identifier to be associated with the playback time of the streaming video, wherein the changing step is a step of reading the image identifier corresponding to the playback time information extracted in the extraction step from the scenario, Switching the image displayed during non-video reproduction of a scene corresponding to the reproduction time information to the image with the image identification name in the related auxiliary information.

【0027】請求項11に記載された発明は、上記構成
において、前記関連補助情報に操作を加えた場合に、前
記シナリオを用いて該操作に応じたストリーミング映像
を再生する再生手順を含むものである。
[0027] The invention described in claim 11 is the above-mentioned configuration, wherein, when an operation is performed on the related auxiliary information, a reproduction procedure for reproducing a streaming video according to the operation using the scenario is included.

【0028】請求項12に記載された発明は、上記構成
において、前記所定の情報はストリーミング映像の再生
時間情報であり、前記シナリオは、前記関連補助情報に
おける各部分の情報をストリーミング映像の再生時間情
報と対応付けて記述した情報を含み、前記再生手順は、
前記関連補助情報において操作の施された部分の情報を
取得する手順と、該部分の情報に対応する再生時間情報
を前記シナリオから読み取る手順と、該再生時間情報に
対応するストリーミング映像を再生する手順とを有する
ものである。
[0028] In the invention according to claim 12, in the above-mentioned configuration, the predetermined information is reproduction time information of a streaming video, and the scenario is a method of converting information of each part in the related auxiliary information into a reproduction time of a streaming video. The information includes information described in association with the information, and the reproduction procedure includes:
A step of obtaining information of a portion operated in the related auxiliary information, a step of reading reproduction time information corresponding to the information of the portion from the scenario, and a step of reproducing a streaming video corresponding to the reproduction time information And

【0029】請求項9〜12に記載された発明によれ
ば、請求項1〜4に記載された方法をコンピュータ上で
実行するプログラムを記録した記録媒体を提供でき、そ
のプログラムをコンピュータにインストールすることに
よって請求項5〜8に記載された装置と同様の作用効果
を有するコンピュータを提供することができる。
According to the ninth to twelfth aspects of the invention, it is possible to provide a recording medium on which a program for executing the method according to the first to fourth aspects on a computer is installed, and the program is installed in the computer. This makes it possible to provide a computer having the same functions and effects as the apparatus according to the fifth to eighth aspects.

【0030】[0030]

【発明の実施の形態】図1に本発明が適用されるシステ
ム構成図を示す。同図に示すように、ストリーミング映
像提供装置1がネットワーク3を介してストリーミング
映像情報連動再生装置5に映像を供給する。また、シナ
リオ及び関連補助情報を提供する補助情報提供装置7が
ネットワークを介してシナリオおよび関連補助情報をス
トリーミング映像情報連動再生装置5に供給する。な
お、ストリーミング映像提供装置1と補助情報提供装置
7を同一の装置とすることも可能である。また、シナリ
オや関連補助情報はストリーミング映像情報連動再生装
置5が生成してもよい。なお、ストリーミング映像情報
連動再生装置はストリーミング映像再生装置と称しても
よい。ここでは、ストリーミング映像の情報を使用して
関連補助情報との連動を行うことを明確にするためにス
トリーミング映像情報連動再生装置と称している。
FIG. 1 shows a system configuration diagram to which the present invention is applied. As shown in the figure, the streaming video providing apparatus 1 supplies a video to the streaming video information linked playback apparatus 5 via the network 3. Further, the auxiliary information providing device 7 for providing the scenario and the related auxiliary information supplies the scenario and the related auxiliary information to the streaming video information linked playback device 5 via the network. It should be noted that the streaming video providing device 1 and the auxiliary information providing device 7 can be the same device. The scenario and the related auxiliary information may be generated by the streaming video information linked playback device 5. The streaming video information linked playback device may be referred to as a streaming video playback device. Here, in order to clarify that the linkage with the related auxiliary information is performed using the information of the streaming video, it is referred to as a streaming video information linked playback device.

【0031】上記のストリーミング映像提供装置1が供
給するストリーミング映像は、再生時間情報などを再生
しながら出力することが可能なデジタル映像であり、視
聴者が利用している再生表示の手段に対して、ストリー
ミング映像データを保存することなく、再生するべき区
間のみネットワークから伝送することが可能な機能を有
することが必要である。すなわち、外部コマンド命令に
よって指定された時間区間を再生し、指定区間までを終
了する機能を実現可能なインタフェースを有することが
必要である。上述の従来技術の項で述べたシステムで提
供されるストリーミング映像例は、いずれも、この条件
を満たしている。
The streaming video supplied by the streaming video providing apparatus 1 is a digital video that can be output while reproducing the reproduction time information and the like. It is necessary to have a function capable of transmitting only the section to be reproduced from the network without storing the streaming video data. That is, it is necessary to have an interface capable of realizing a function of reproducing a time section specified by an external command command and ending the specified section. All of the streaming video examples provided by the system described in the section of the prior art described above satisfy this condition.

【0032】関連補助情報については、ストリーミング
映像の一部やそれらを加工して得られる情報であった
り、ストリーミング映像に関係が深い地図情報であった
り、ストリーミング映像に関連の深い別映像や別画像で
あったり、関係が深いテキストであっても良い。例え
ば、従来技術として説明したYukinobu Taniguchi 、Yo
shinobu Tonomura、「PanoramaExcerpts:Extracting a
nd packing Panoramas forVideo Browsing 」(1996 AC
M Multimedia 97)におけるショットチェンジ技術によ
る出力であるショットチェンジ情報とショットチェンジ
直後の画像をそれぞれシナリオと関連情報とすることが
できる。
The related auxiliary information is a part of the streaming video or information obtained by processing the streaming video, map information closely related to the streaming video, another video or another image closely related to the streaming video. Or a text that is closely related. For example, Yukinobu Taniguchi, Yo
shinobu Tonomura, “PanoramaExcerpts: Extracting a
nd packing Panoramas for Video Browsing "(1996 AC
The shot change information output by the shot change technique in M Multimedia 97) and the image immediately after the shot change can be used as scenario and related information, respectively.

【0033】また、映像上の風景と地図情報とを対応さ
せ、地図上の風景を表示するような場合、シナリオは映
像上の風景と地図上の風景との対応をとったものであ
る。これは、例えば、Masatoshi Arikawa, Tetsu Kami
yama, 「Spatial Browsing forVideo Databases」(199
8、AMCP'98 )に示されるように、GPSを利用して生
成できる。すなわち、GPSによれば撮影時刻と撮影し
た緯度と経度がわかるため、それにより、映像が撮影さ
れた場所と時間とを記録することができる。その他、シ
ナリオと関連補助情報は種々の方法で得ることが可能で
ある。
In the case where a scene on a video is associated with map information and a scene on a map is displayed, the scenario is a correspondence between the scene on the video and the scene on the map. This is, for example, Masatoshi Arikawa, Tetsu Kami
yama, "Spatial Browsing for Video Databases" (199
8, AMCP'98), can be generated using GPS. That is, since the shooting time and the latitude and longitude of the shooting can be known from the GPS, it is possible to record the place and time at which the video was shot. In addition, the scenario and the related auxiliary information can be obtained by various methods.

【0034】図2に本発明の一実施例におけるストリー
ミング映像情報連動再生装置5の構成を示す。同図に示
すように、本発明のストリーミング映像情報連動再生装
置5は、ストリーミング映像の再生及び制御を行うスト
リーミング映像再生制御手段9、ストリーミング映像の
再生表示を行う再生表示手段11、関連補助情報の制御
を行う関連補助情報制御手段13、関連補助情報の表示
を行う関連補助情報表示手段15、ストリーミング映像
再生制御手段9と関連補助情報制御手段13を連動させ
るための制御間通信手段17、関連補助情報に対して操
作の指示を与えるための関連補助情報指示手段19を有
する。また、前述したようにストリーミング映像情報連
動再生装置5はネットワーク3に接続され、ストリーミ
ング映像、シナリオ、関連補助情報を受信する。
FIG. 2 shows the configuration of the streaming video information linked playback device 5 in one embodiment of the present invention. As shown in the figure, a streaming video information linked playback device 5 of the present invention includes a streaming video playback control means 9 for playing and controlling streaming video, a playback display means 11 for playing and displaying streaming video, and a display of related auxiliary information. Related auxiliary information control means 13 for controlling, related auxiliary information display means 15 for displaying related auxiliary information, inter-control communication means 17 for linking the streaming video reproduction control means 9 and related auxiliary information control means 13, related auxiliary It has a related auxiliary information indicating means 19 for giving an operation instruction to the information. Also, as described above, the streaming video information linked playback device 5 is connected to the network 3 and receives streaming video, scenarios, and related auxiliary information.

【0035】ストリーミング映像は、ストリーミング映
像再生制御手段9にて、通常再生および、一時停止、早
送りなどのトリックプレイの制御を行われつつ、再生表
示手段11を介して、映像表示を行う。その結果、視聴
者4はストリーミング映像を視聴する。
The streaming video is displayed through the playback display means 11 while the streaming video reproduction control means 9 controls normal play and trick play such as pause and fast forward. As a result, the viewer 4 views the streaming video.

【0036】関連補助情報は、関連補助情報制御手段1
3を介して、通常の表示や、後述するようにストリーミ
ング映像と連動して変化を加えたものなどの特殊な表示
を行う制御がなされ、関連補助情報表示手段15にて、
関連補助情報表示が行われる。
The related auxiliary information is stored in the related auxiliary information control unit 1.
3, a control for performing a normal display or a special display such as a display changed in conjunction with the streaming video as described later is performed.
The related auxiliary information is displayed.

【0037】シナリオは、ネットワーク3を介して制御
間通信手段16に与えられている。この制御間通信手段
16は、ストリーミング映像再生制御手段9から得られ
る映像再生の時間情報を関連補助情報制御手段13に伝
送する。関連補助情報制御手段では、シナリオに記述さ
れたとおりに、与えられる時間情報と共に、関連補助情
報に対して、変化を加えていく。結果的に、視聴者は、
ストリーミング映像とシナリオにあわせて変化していく
関連補助制御情報を受け取る。
The scenario is given to the inter-control communication means 16 via the network 3. The inter-control communication unit 16 transmits the video reproduction time information obtained from the streaming video reproduction control unit 9 to the related auxiliary information control unit 13. The related auxiliary information control means changes the related auxiliary information together with the given time information as described in the scenario. As a result,
Receives related auxiliary control information that changes according to the streaming video and the scenario.

【0038】これに対し、視聴者は、関連補助情報指示
手段19を介して、関連補助情報制御手段13に対し
て、要求を送り、変化を起こさせることも可能である。
こうした関連補助情報に与えられる変化がシナリオに記
述されていればストリーミング映像に対して、何らかの
変化を与える。ストリーミング映像が変化を受けたら、
ストリーミング映像再生制御手段9は、先ほどと同様制
御間通信手段17を介して、関連補助情報制御手段13
に情報を伝送し、最終的に変化が与えられたストリーミ
ング映像の表示と、あわせて変化した関連補助情報表示
を視聴者に与える。
On the other hand, the viewer can send a request to the related auxiliary information control means 13 via the related auxiliary information instruction means 19 to cause a change.
If the change given to the related auxiliary information is described in the scenario, some change is given to the streaming video. If the streaming video changes,
The streaming video reproduction control means 9 communicates with the related auxiliary information control means 13 via the inter-control communication means 17 as before.
The information is transmitted to the viewer, and the viewer is given the display of the streaming video finally changed and the display of the related auxiliary information changed together.

【0039】次に、ストリーミング映像再生制御手段
9、関連補助情報制御手段13、制御間通信手段17に
関する動作について説明する。なお、ここでは概要を説
明する。詳細については具体例を用いて後述する。
Next, the operation of the streaming video reproduction control means 9, the related auxiliary information control means 13, and the inter-control communication means 17 will be described. Here, the outline will be described. Details will be described later using a specific example.

【0040】上述したようにストリーミング映像および
関連補助情報は、適宜ストリーミング映像再生制御手段
9と、関連補助情報制御手段13によって制御され、互
いに必要な情報を制御間通信手段17を介して同期を取
りつつ、再生表示手段および関連補助情報表示手段15
にて表示され、視聴者の目に触れられる。
As described above, the streaming video and the related auxiliary information are appropriately controlled by the streaming video reproduction control means 9 and the related auxiliary information control means 13, and necessary information is synchronized via the inter-control communication means 17. While the reproduction display means and the related auxiliary information display means 15
, And can be seen by the viewer.

【0041】この際に、ストリーミング映像再生制御手
段9は、時系列情報である映像情報から簡易に抽出でき
る情報として、例えば再生時間情報を抽出して制御間通
信手段17に送信する。その他、映像中の各画像につけ
られているテロップ、ショットチェンジ、ストリーミン
グ映像中の画像内容を解析して得られる情報、例えば、
人物、物体、色、明度、領域情報といった各種情報を抽
出して伝送してもかまわない。
At this time, the streaming video reproduction control means 9 extracts, for example, reproduction time information as information which can be easily extracted from the video information which is time-series information, and transmits the information to the inter-control communication means 17. In addition, telops attached to each image in the video, shot change, information obtained by analyzing the image content in the streaming video, for example,
Various information such as a person, an object, a color, brightness, and area information may be extracted and transmitted.

【0042】関連補助情報制御手段13は、ストリーミ
ング映像再生制御手段9から制御間通信手段17を介し
て送られてくる複数の情報から関連補助情報の制御に必
要な情報のみを抽出し、利用する。同様に、関連補助情
報制御手段13からは、制御間通信手段17を介してス
トリーミング映像再生制御手段9に繰作命令を与える。
例えば、映像の再生の開始、終了、一時停止、早送り、
スロー、逆送り、任意の区間へのジャンプといった特殊
再生だけでなく、明度の調節、特定領域の変化といった
ことに関する操作命令および必要な情報を転送する。
The related auxiliary information control means 13 extracts and uses only information necessary for controlling the related auxiliary information from a plurality of pieces of information sent from the streaming video reproduction control means 9 via the inter-control communication means 17. . Similarly, the related auxiliary information control means 13 gives a repetition command to the streaming video reproduction control means 9 via the inter-control communication means 17.
For example, start, end, pause, fast forward,
In addition to trick play such as slow, reverse, and jump to an arbitrary section, an operation command and necessary information relating to brightness adjustment, change of a specific area, and the like are transferred.

【0043】一方、視聴者は関連補助情報表示手段15
にて表示される関連補助情報に対しての操作を行うため
に、関連補助情報指示手段19を介して、関連補助情報
制御手段13に要求を与えることが可能である。関連補
助情報制御手段13では、この要求を受け取り、制御間
通信手段17を経てストリーミング映像再生制御手段9
に要求を出し、シナリオどおりにストリーミング映像と
関連補助情報とが連動し同期した状態を保ちつつ任意の
映像区間を再生し表示する。
On the other hand, the viewer can display the related auxiliary information display means 15.
It is possible to give a request to the related auxiliary information control means 13 via the related auxiliary information instructing means 19 in order to perform an operation on the related auxiliary information displayed by. The related auxiliary information control means 13 receives this request and sends the request to the streaming video reproduction control means 9 via the inter-control communication means 17.
And reproduces and displays an arbitrary video section while maintaining a synchronized state in which the streaming video and the related auxiliary information are linked in accordance with the scenario.

【0044】次に本発明のストリーミング映像情報連動
再生装置による画面表示例を図3、図4に示す。
Next, FIGS. 3 and 4 show examples of screen display by the streaming video information linked playback apparatus of the present invention.

【0045】図3はストリーミング映像の一部を関連補
助情報として利用している例を示す図である。この例
は、前述したショットチェンジ技術を用い、予めストリ
ーミング映像として用いられている映像コンテンツから
ショットチェンジ直後の画像を配置したものを関連補助
情報としている。このショットチェンジ直後の画像は、
次のショットチェンジ直後の画像までの映像区間を代表
した画像であるものとする。
FIG. 3 is a diagram showing an example in which a part of a streaming video is used as related auxiliary information. In this example, using the above-described shot change technique, information in which an image immediately after a shot change is arranged from video content previously used as a streaming video is used as related auxiliary information. The image right after this shot change is
It is assumed that the image represents a video section up to the image immediately after the next shot change.

【0046】図3(b)に示すように、ストリーミング
映像が再生されると、対応する映像区間を代表する画像
が強調表示される。この強調表示は、画像内容が反転し
ても良いし、周囲を囲っても良いし、他の画像よりも巨
大に表示するなど種々の表示が可能である。ここでは、
下線が引かれていくものとする。ストリーミング映像の
再生が進むと共に、下線部を引かれる画像が順次変化し
ていく。
As shown in FIG. 3B, when the streaming video is reproduced, the image representing the corresponding video section is highlighted. This highlighting can be performed in various ways, such as inverting the image content, surrounding the image, or displaying a larger image than other images. here,
It shall be underlined. As the reproduction of the streaming video advances, the underlined image changes sequentially.

【0047】一方、視聴者は、ストリーミング映像の任
意の個所を再生したい場合には、対応する映像区間に対
して命令を与えることでこれを実現する。一般には、コ
ンピュータディスプレイでこれらのインタフェースは実
現されており、マウス操作で選択することで任意のスト
リーミング映像を再生する。
On the other hand, when the viewer wants to reproduce an arbitrary portion of the streaming video, this is realized by giving a command to a corresponding video section. Generally, these interfaces are realized by a computer display, and an arbitrary streaming video is reproduced by selecting with a mouse operation.

【0048】次に、別の例を図4に示す。Next, another example is shown in FIG.

【0049】この例は、ストリーミング映像が撮影して
いる風景と対応する地図情報を関連補助情報に用いてい
る例である。ストリーミング映像の内容は刻々と変化
し、地図上のさまざまな個所を撮影しているものとす
る。図4(b)に示すように、ストリーミング映像の再
生に伴い、関連補助情報表示では、映像中に含まれる風
景と対応する地図上の位置を強調表示する。この強調表
示は、画像内容が反転しても良いし、周囲を囲っても良
いし、他の画像よりも巨大に表示されるなどさまざまな
ことが考えられる。ここでは、地図上の色が変化するも
のとする。従って、ストリーミング映像の再生と表示に
伴い、関連補助情報である地図情報は次々と色が変化し
ては戻りというプロセスを踏んでいく。
This example is an example in which map information corresponding to a landscape shot by a streaming video is used as related auxiliary information. The content of the streaming video changes every moment, and it is assumed that various places on the map are photographed. As shown in FIG. 4B, with the reproduction of the streaming video, in the related auxiliary information display, the position on the map corresponding to the scenery included in the video is highlighted. For the highlighting, various things can be considered, such as the image content may be inverted, the surroundings may be surrounded, or the image may be displayed larger than other images. Here, it is assumed that the color on the map changes. Therefore, as the streaming video is played back and displayed, the map information, which is related auxiliary information, goes through a process of successively changing colors and returning.

【0050】視聴者は、一方で、地図上の特定領域を撮
影している映像を見たい場合には、その特定領域をポイ
ンティングデバイスなどで、指定し、操作を行うこと
で、対応する領域を記録しているストリーミング映像の
該当区間を再生し、表示する。上述したようなストリー
ミング映像再生制御手段9及び関連補助情報制御手段1
3間の連動はストリーミング映像再生制御手段9及び関
連補助情報制御手段13の間を取り持つ制御間通信手段
17がシナリオを解釈することによって実現される。制
御間通信手段17は、常に、ストリーミング映像の状態
を監視している。一般には、映像が再生中か、停止中
か、一時停止中かを把握している。誰が、どこを撮影し
ているといった画像内部に踏み込んだ情報も可能であれ
ば取得する。
On the other hand, when the viewer wants to view a video image of a specific area on the map, the viewer designates the specific area with a pointing device or the like and performs an operation to specify the corresponding area. The corresponding section of the recorded streaming video is reproduced and displayed. Streaming video reproduction control means 9 and related auxiliary information control means 1 as described above
The interlocking between the three is realized by the inter-control communication unit 17 which manages between the streaming video reproduction control unit 9 and the related auxiliary information control unit 13 interpreting the scenario. The control communication means 17 constantly monitors the state of the streaming video. Generally, it is known whether the video is being reproduced, stopped, or paused. If possible, it is possible to obtain information on who has stepped into the image, such as who is photographing where.

【0051】ストリーミング映像が再生中であれば、再
生しているストリーミング映像の相対的な再生時間を取
得する。シナリオには映像の再生時間に応じて、関連情
報を切り替えることが明記されているので、関連補助情
報をシナリオ記述にしたがって変化させる。
If the streaming video is being reproduced, the relative reproduction time of the streaming video being reproduced is obtained. Since it is specified in the scenario that the related information is switched according to the video playback time, the related auxiliary information is changed according to the scenario description.

【0052】一方、制御間通信手段17は、視聴者から
関連補助情報に与えられる予め定められた操作について
も常に監視している。例えば、画像群上でクリックした
らそれに対応するストリーミング映像区間から再生を開
始するというルールによって、マウスクリックの位置を
確認し、ストリーミング映像に命令を与える。
On the other hand, the inter-control communication means 17 constantly monitors a predetermined operation given to the related auxiliary information from the viewer. For example, the position of the mouse click is confirmed according to the rule that when the user clicks on the image group, the reproduction is started from the corresponding streaming video section, and a command is given to the streaming video.

【0053】以下、関連補助情報として図5に示した例
を用いて、本発明の動作の一例をより具体的に説明す
る。図6に、図5の表示に対応するシナリオの例を示
す。
Hereinafter, an example of the operation of the present invention will be described more specifically using the example shown in FIG. 5 as the related auxiliary information. FIG. 6 shows an example of a scenario corresponding to the display of FIG.

【0054】図6中、「場所の名称」は関連補助情報の
各場所を示す。「START」はストリーム映像におい
て各場所の映像が開始する時刻(映像の開始からの相対
時間)を表し、「STOP」はその場所の映像が終了す
る時刻を表す。これらの時刻は実際のストリーム映像に
おける各場所の再生時間と対応する。
In FIG. 6, "place name" indicates each place of the related auxiliary information. “START” indicates the time at which the video of each location starts in the stream video (relative time from the start of the video), and “STOP” indicates the time at which the video of that location ends. These times correspond to the playback time of each location in the actual stream video.

【0055】「基本画像」は関連補助情報の各場所に対
応して表示させる画像を示し、この場合は画像ファイル
名が示されている。なお、図5には場所の名称とそれに
対応する基本画像が示されている。また、「マウスカー
ソルがのった場合」は、関連補助情報の表示画面の各場
所においてマウスカーソルがのった場合に表示する画像
のファイル名を示す。これにより、見たい映像の場所を
指定する場合にどこを指定しているかを明示できる。具
体的には、基本画像の色やトーンを変えた画像等種々の
形態の画像を使用できる。「映像を再生中の場合」は、
各場所のストリーミング映像を表示中に、関連補助情報
の表示における該当する場所に表示する画像を示す。図
4の例でも説明した通り、映像を再生中に対応する画像
は、画像内容を反転したもの、周囲を囲む、他の画像よ
りも巨大に表示する、色を変える等種々の形態の画像を
使用できる。
The "basic image" indicates an image to be displayed corresponding to each location of the related auxiliary information. In this case, the image file name is indicated. FIG. 5 shows a place name and a corresponding basic image. Further, “when the mouse cursor is placed” indicates a file name of an image to be displayed when the mouse cursor is placed at each location on the display screen of the related auxiliary information. This makes it possible to clearly indicate where the video to be viewed is specified. Specifically, various forms of images such as images in which the color and tone of the basic image are changed can be used. “When playing back video”
The figure shows the image displayed at the corresponding location in the display of the related auxiliary information while the streaming video of each location is being displayed. As described in the example of FIG. 4, the image corresponding to the image during the reproduction of the image is an image of various forms such as an inverted image content, a surrounding image, a larger display than other images, and a change in color. Can be used.

【0056】図7は映像再生に伴う関連補助情報の変化
を時系列で示した図である。図7を用いて前述したスト
リーミング映像再生制御手段9、制御間通信手段17及
び関連補助情報制御手段13の動作を詳細に説明する。
FIG. 7 is a diagram showing, in chronological order, changes in related auxiliary information accompanying video reproduction. The operations of the streaming video reproduction control means 9, the inter-control communication means 17, and the related auxiliary information control means 13 will be described in detail with reference to FIG.

【0057】同図に示すように、ストリーミング映像再
生制御手段9による映像再生が進むにつれ、関連補助情
報の中の画像が切り替わる。すなわち、制御間通信手段
17がストリーミング映像の再生時間情報を取得し、図
6に示したシナリオに記述された時刻情報と照合するこ
とによって該当する画像情報をシナリオから読み取って
関連補助情報制御手段13に通知し、関連補助情報制御
手段13はその画像情報を関連補助情報表示手段15に
表示させる。図7中、例えば、再生時刻が9400ミリ
秒になると、客間の基本画像kyakuma.gif はkyakuma _
click.gif に切り替わる。
As shown in the figure, as the video reproduction by the streaming video reproduction control means 9 proceeds, the images in the related auxiliary information are switched. That is, the inter-control communication means 17 obtains the reproduction time information of the streaming video, reads the corresponding image information from the scenario by comparing it with the time information described in the scenario shown in FIG. And the related auxiliary information control means 13 causes the related auxiliary information display means 15 to display the image information. In FIG. 7, for example, when the reproduction time reaches 9400 milliseconds, the basic image kyakuma.gif between the customers is kyakuma_.
Switch to click.gif.

【0058】また、食堂の再生の時間部分に示すよう
に、マウスを該当の場所に置くと、映像の状況にかかわ
らず、ポインタの位置に応じて「マウスカーソルがのっ
た場合」の画像を表示する。食堂の場合であればdining
_over.gifが表示される。その後、映像再生を指示する
ためにマウスをクリックすると、関連補助情報制御手段
13にその指示の情報が伝えられ、関連補助情報制御手
段13はポインタ位置を制御間通信手段17に送信し、
制御間通信手段17はそのポインタ位置から場所を把握
し、シナリオからその場所に対応する時間区間を読み取
ってストリーミング映像再生制御手段9に伝える。スト
リーミング映像再生制御手段9はその時間区間に対応す
る映像の再生命令を用いてストリーミング映像を再生す
る。なお、シナリオが時間区間に対応したポインタ位置
範囲の情報を有するようにしてもよい。
Also, as shown in the time section of the canteen, when the mouse is placed at the corresponding place, the image of "when the mouse cursor is placed" is displayed in accordance with the position of the pointer regardless of the state of the image. indicate. Dining for dining room
_Over.gif is displayed. Thereafter, when the mouse is clicked to instruct the video reproduction, the information of the instruction is transmitted to the related auxiliary information control means 13, and the relevant auxiliary information control means 13 transmits the pointer position to the inter-control communication means 17,
The inter-control communication means 17 grasps the location from the pointer position, reads a time section corresponding to the location from the scenario, and transmits it to the streaming video reproduction control means 9. The streaming video reproduction control means 9 reproduces the streaming video using a video reproduction command corresponding to the time section. Note that the scenario may include information on the pointer position range corresponding to the time section.

【0059】次に本発明のストリーミング映像連動再生
プログラムを記録した記録媒体について説明する。
Next, a recording medium on which the streaming video linked reproduction program of the present invention is recorded will be described.

【0060】ストリーミング映像連動再生装置の構成
は、図2で示した実施例の構成に限定されることなく、
各々の構成要素を上記で説明した処理を行う手順を有す
るソフトウェア(プログラム)で構築し、コンピュータ
システムにそのプログラムを実行させることにより一般
的なコンピュータシステムを本発明のストリーミング映
像連動再生装置とすることが可能である。
The configuration of the streaming video linked playback device is not limited to the configuration of the embodiment shown in FIG.
Each component is constructed by software (program) having a procedure for performing the processing described above, and a general computer system is set as the streaming video linked playback apparatus of the present invention by causing the computer system to execute the program. Is possible.

【0061】図8は上記コンピュータシステムのハード
ウェア構成の例を示すブロック図である。本コンピュー
タシステムは、処理を実行するCPU100、プログラ
ムやデータを記憶するメモリ101、メモリ101また
はCPU100で使用するプログラムやデータを蓄積す
る外部記憶装置102、データを表示するディスプレイ
103、データまたは命令を入力するキーボード10
4、ネットワークを介して他のコンピュータシステム等
と通信を行うための通信処理装置105から構成され
る。上記プログラムはメモリ101又は外部記憶装置1
02にインストールされCPU100により実行され
る。
FIG. 8 is a block diagram showing an example of the hardware configuration of the computer system. The computer system includes a CPU 100 that executes processing, a memory 101 that stores programs and data, an external storage device 102 that stores programs and data used by the memory 101 or the CPU 100, a display 103 that displays data, and inputs data or instructions. Keyboard 10
4. It comprises a communication processing device 105 for communicating with another computer system or the like via a network. The program is stored in the memory 101 or the external storage device 1
02 and is executed by the CPU 100.

【0062】本発明の記録媒体はメモリ101又は外部
記憶装置102に相当する。更に、電子メモリ、ハード
ディスク、又は、フロッピー(登録商標)ディスク、C
D−ROM、磁気テープ等の可搬記録媒体等も本発明の
記録媒体として使用可能である。本発明のストリーミン
グ映像連動再生プログラム記録媒体に記録されたプログ
ラムを、図8に示すような一般的なコンピュータシステ
ムにローディングすることにより、そのコンピュータ上
で本発明のストリーミング映像連動再生を実施すること
が可能となる。また、上記のプログラムはコンピュータ
にプレインストールすることもできる。
The recording medium of the present invention corresponds to the memory 101 or the external storage device 102. Furthermore, an electronic memory, a hard disk, or a floppy (registered trademark) disk, C
A portable recording medium such as a D-ROM and a magnetic tape can be used as the recording medium of the present invention. By loading the program recorded on the streaming video linked playback program recording medium of the present invention into a general computer system as shown in FIG. 8, the streaming video linked playback of the present invention can be executed on the computer. It becomes possible. Further, the above program can be preinstalled on a computer.

【0063】以上、本発明を実施例に基づき具体的に説
明したが、本発明は本実施例に限定されるものではな
く、本発明の主旨を逸脱しない範囲において種々変更可
能である。
Although the present invention has been described in detail with reference to the embodiments, the present invention is not limited to the embodiments and can be variously modified without departing from the gist of the present invention.

【0064】[0064]

【発明の効果】本発明によれば、シナリオを用いて関連
補助情報をストリーミング映像と連動して表示させるこ
とを可能としたため、インターネット上のストリーミン
グ映像のように低品質の映像であっても、関連補助情報
の補助によって映像による情報伝達を十分に行うことが
可能となる。すなわち、本発明によれば、関連補助情報
が欠落した情報を補完し、かつ、任意の映像を自由に視
聴することができるので、映像自体の品質が低い場合で
あっても、映像に含まれる情報を十分に把握することが
可能となる。更に、ストリーミング映像の内容を瞬時に
把握し、容易に見たいところを視聴可能とすることが可
能となる。
According to the present invention, the related auxiliary information can be displayed in conjunction with the streaming video using the scenario, so that even if the video is of low quality such as a streaming video on the Internet, With the assistance of the related auxiliary information, it is possible to sufficiently transmit information by video. That is, according to the present invention, since the related auxiliary information can be supplemented with the missing information and any video can be viewed freely, even if the quality of the video itself is low, it is included in the video. It is possible to grasp information sufficiently. Further, it is possible to instantly grasp the contents of the streaming video and easily view a desired place.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明のシステム構成図を示す図である。FIG. 1 is a diagram showing a system configuration diagram of the present invention.

【図2】本発明の一実施例におけるストリーミング映像
情報連動再生装置の構成を示す図である。
FIG. 2 is a diagram showing a configuration of a streaming video information linked playback device according to an embodiment of the present invention.

【図3】本発明の一実施例におけるストリーミング映像
情報連動再生装置による第1の画面表示例を示す図であ
る。
FIG. 3 is a diagram showing a first screen display example by the streaming video information linked playback device in one embodiment of the present invention.

【図4】本発明の一実施例におけるストリーミング映像
情報連動再生装置による第2の画面表示例を示す図であ
る。
FIG. 4 is a diagram showing a second screen display example by the streaming video information linked playback device in one embodiment of the present invention.

【図5】本発明の一実施例における関連補助情報を示す
図である。
FIG. 5 is a diagram showing related auxiliary information according to an embodiment of the present invention.

【図6】図5に対応するシナリオの例を示す図である。FIG. 6 is a diagram illustrating an example of a scenario corresponding to FIG. 5;

【図7】ストリーミング映像再生に伴う関連補助情報に
おける画像の変化を時系列で示した図である。
FIG. 7 is a diagram showing, in chronological order, changes in images in related auxiliary information associated with streaming video reproduction.

【図8】コンピュータの構成例を示す図である。FIG. 8 is a diagram illustrating a configuration example of a computer.

【符号の説明】[Explanation of symbols]

1 ストリーミング映像提供装置 3 ネットワーク 5 ストリーミング映像情報連動再生装置 7 補助情報提供装置 9 ストリーミング映像再生制御手段 11 再生表示手段 13 関連補助情報制御手段 15 関連補助情報表示手段 17 制御間通信手段 19 関連補助情報指示手段 100 CPU 101 メモリ 102 外部記憶装置 103 ディスプレイ 104 キーボード 105 通信処理装置 REFERENCE SIGNS LIST 1 streaming video providing device 3 network 5 streaming video information linked playback device 7 auxiliary information providing device 9 streaming video playback control means 11 playback display means 13 related auxiliary information control means 15 related auxiliary information display means 17 control communication means 19 related auxiliary information Instruction means 100 CPU 101 memory 102 external storage device 103 display 104 keyboard 105 communication processing device

───────────────────────────────────────────────────── フロントページの続き (72)発明者 秋本 高明 東京都千代田区内幸町一丁目1番6号 エ ヌ・ティ・ティ・コミュニケーションズ株 式会社内 Fターム(参考) 5C023 AA02 AA14 AA16 AA27 AA28 AA38 BA01 BA11 CA02 CA05 EA03 5C025 AA30 BA14 BA25 BA28 CA02 CA06 CA11 CA12 CB10 DA10 5C064 BA01 BB10 BC06 BC23 BD02 BD08 BD09 5E501 AA01 AC16 AC25 CA02 CB02 CB09 EA05 EA12 EA33 EB06 FA02 FA15 FA45  ────────────────────────────────────────────────── ─── Continued on the front page (72) Takaaki Akimoto Inventor F-term in NTT Communications Co., Ltd. 1-6-1 Uchisaiwaicho, Chiyoda-ku, Tokyo 5C023 AA02 AA14 AA16 AA27 AA28 AA38 BA01 BA11 CA02 CA05 EA03 5C025 AA30 BA14 BA25 BA28 CA02 CA06 CA11 CA12 CB10 DA10 5C064 BA01 BB10 BC06 BC23 BD02 BD08 BD09 5E501 AA01 AC16 AC25 CA02 CB02 CB09 EA05 EA12 EA33 EB06 FA02 FA15 FA45

Claims (12)

【特許請求の範囲】[Claims] 【請求項1】 ネットワークを介して伝送されたストリ
ーミング映像を再生し、関連補助情報と共に表示するス
トリーミング映像再生方法であって、 ストリーミング映像を受信する受信ステップと、 該ストリーミング映像に含まれる所定の情報を抽出する
抽出ステップと、 該所定の情報に基づき予め与えられたシナリオに従って
前記関連補助情報を変化させる変化ステップとを有する
ことを特徴とするストリーミング映像再生方法。
1. A streaming video playback method for playing back a streaming video transmitted over a network and displaying the streaming video together with related auxiliary information, comprising: a receiving step of receiving the streaming video; and a predetermined information included in the streaming video. And a changing step of changing the related auxiliary information according to a predetermined scenario based on the predetermined information.
【請求項2】 前記所定の情報はストリーミング映像の
再生時間情報であり、前記シナリオは、前記関連補助情
報において映像再生時に表示する当該再生場面に対応す
る画像識別名をストリーミング映像の再生時間に対応付
けて記述した情報を含み、 前記変化ステップは、 前記抽出ステップにおいて抽出された再生時間情報に対
応する前記画像識別名を前記シナリオから読み取るステ
ップと、 前記関連補助情報において、該再生時間情報に対応する
場面の非映像再生時に表示された画像を前記画像識別名
の画像に切替えるステップとを有する請求項1に記載の
ストリーミング映像再生方法。
2. The method according to claim 1, wherein the predetermined information is reproduction time information of a streaming video, and the scenario is such that, in the related auxiliary information, an image identifier corresponding to the reproduction scene displayed at the time of video reproduction corresponds to the reproduction time of the streaming video. Reading the image identifier corresponding to the reproduction time information extracted in the extraction step from the scenario; and in the related auxiliary information, corresponding to the reproduction time information. Switching the image displayed during non-video playback of a scene to be played back to the image with the image identification name.
【請求項3】 前記関連補助情報に操作を加えた場合
に、 前記シナリオを用いて該操作に応じたストリーミング映
像を再生する再生ステップを含む請求項1に記載のスト
リーミング映像再生方法。
3. The streaming video playback method according to claim 1, further comprising a playback step of playing back the streaming video according to the operation using the scenario when an operation is performed on the related auxiliary information.
【請求項4】 前記所定の情報はストリーミング映像の
再生時間情報であり、前記シナリオは、前記関連補助情
報における各部分の情報をストリーミング映像の再生時
間情報と対応付けて記述した情報を含み、 前記再生ステップは、 前記関連補助情報において操作の施された部分の情報を
取得するステップと、 該部分の情報に対応する再生時間情報を前記シナリオか
ら読み取るステップと、 該再生時間情報に対応するストリーミング映像を再生す
るステップとを有する請求項3に記載のストリーミング
映像再生方法。
4. The scenario, wherein the predetermined information is playback time information of a streaming video, and the scenario includes information describing information of each part in the related auxiliary information in association with the playback time information of the streaming video, A reproducing step of obtaining information of a part operated in the related auxiliary information; a step of reading reproduction time information corresponding to the information of the part from the scenario; a streaming video corresponding to the reproduction time information 4. The streaming video playback method according to claim 3, further comprising:
【請求項5】 ネットワークを介して伝送されたストリ
ーミング映像を再生し、関連補助情報と共に表示するス
トリーミング映像再生装置であって、 ストリーミング映像を受信する受信手段と、 該ストリーミング映像に含まれる所定の情報を抽出する
抽出手段と、 該所定の情報に基づき予め与えられたシナリオに従って
前記関連補助情報を変化させる変化手段とを有すること
を特徴とするストリーミング映像再生装置。
5. A streaming video reproducing apparatus which reproduces a streaming video transmitted via a network and displays the streaming video together with related auxiliary information, a receiving means for receiving the streaming video, and predetermined information included in the streaming video. And a changing means for changing the related auxiliary information according to a predetermined scenario based on the predetermined information.
【請求項6】 前記所定の情報はストリーミング映像の
再生時間情報であり、前記シナリオは、前記関連補助情
報において映像再生時に表示する当該再生場面に対応す
る画像識別名をストリーミング映像の再生時間に対応付
けて記述した情報を含み、 前記変化手段は、 前記抽出手段にて抽出された再生時間情報に対応する前
記画像識別名を前記シナリオから読み取る手段と、 前記関連補助情報において、該再生時間情報に対応する
場面の非映像再生時に表示された画像を前記画像識別名
の画像に切替える手段とを有する請求項5に記載のスト
リーミング映像再生装置。
6. The predetermined information is reproduction time information of a streaming video, and the scenario is such that, in the related auxiliary information, an image identifier corresponding to the reproduction scene displayed at the time of reproducing the video corresponds to the reproduction time of the streaming video. Means for reading from the scenario the image identifier corresponding to the reproduction time information extracted by the extraction means, wherein the associated auxiliary information includes 6. The streaming video reproduction apparatus according to claim 5, further comprising: means for switching an image displayed during non-video reproduction of a corresponding scene to an image having the image identification name.
【請求項7】 前記関連補助情報に操作を加えた場合
に、前記シナリオを用いて該操作に応じたストリーミン
グ映像を再生する再生手段を含む請求項5に記載のスト
リーミング映像再生装置。
7. The streaming video playback device according to claim 5, further comprising: a playback unit configured to play back a streaming video according to the operation using the scenario when an operation is performed on the related auxiliary information.
【請求項8】 前記所定の情報はストリーミング映像の
再生時間情報であり、前記シナリオは、前記関連補助情
報における各部分の情報をストリーミング映像の再生時
間情報と対応付けて記述した情報を含み、 前記再生手段は、 前記関連補助情報において操作の施された部分の情報を
取得する手段と、 該部分の情報に対応する再生時間情報を前記シナリオか
ら読み取る手段と、 該再生時間情報に対応するストリーミング映像を再生す
る手段とを有する請求項7に記載のストリーミング映像
再生装置。
8. The scenario, wherein the predetermined information is playback time information of a streaming video, and the scenario includes information describing information of each part in the related auxiliary information in association with the playback time information of the streaming video, Means for acquiring information of a portion operated in the related auxiliary information; means for reading playback time information corresponding to the information of the portion from the scenario; and streaming video corresponding to the playback time information. 8. The streaming video playback device according to claim 7, further comprising: means for playing back.
【請求項9】 ネットワークを介して伝送されたストリ
ーミング映像を再生し、関連補助情報と共に表示する処
理をコンピュータに実行させるストリーミング映像再生
プログラムを記録した記録媒体であって、 ストリーミング映像を受信する受信手順と、 該ストリーミング映像に含まれる所定の情報を抽出する
抽出手順と、 該所定の情報に基づき予め与えられたシナリオに従って
前記関連補助情報を変化させる変化手順とをコンピュー
タに実行させることを特徴とするストリーミング映像再
生プログラムを記録した記録媒体。
9. A recording medium for recording a streaming video reproducing program for causing a computer to execute a process of reproducing a streaming video transmitted over a network and displaying the streaming video together with related auxiliary information, and a receiving procedure for receiving the streaming video. And causing the computer to execute an extraction procedure for extracting predetermined information included in the streaming video, and a change procedure for changing the related auxiliary information according to a scenario given in advance based on the predetermined information. A recording medium on which a streaming video reproduction program is recorded.
【請求項10】 前記所定の情報はストリーミング映像
の再生時間情報であり、前記シナリオは、前記関連補助
情報において映像再生時に表示する当該再生場面に対応
する画像識別名をストリーミング映像の再生時間に対応
付けて記述した情報を含み、 前記変化手順は、 前記抽出手順において抽出された再生時間情報に対応す
る前記画像識別名を前記シナリオから読み取る手順と、 前記関連補助情報において、該再生時間情報に対応する
場面の非映像再生時に表示された画像を前記画像識別名
の画像に切替える手順とを有する請求項9に記載のスト
リーミング映像再生プログラムを記録した記録媒体。
10. The predetermined information is playback time information of a streaming video, and the scenario is such that, in the related auxiliary information, an image identifier corresponding to the playback scene displayed at the time of video playback corresponds to the playback time of the streaming video. The change procedure includes a step of reading the image identifier corresponding to the reproduction time information extracted in the extraction procedure from the scenario, and a step of corresponding to the reproduction time information in the related auxiliary information. 10. The recording medium according to claim 9, further comprising: a step of switching an image displayed during non-video reproduction of a scene to be reproduced to an image having the image identification name.
【請求項11】 前記関連補助情報に操作を加えた場合
に、前記シナリオを用いて該操作に応じたストリーミン
グ映像を再生する再生手順を含む請求項9に記載のスト
リーミング映像再生プログラムを記録した記録媒体。
11. A recording recording the streaming video reproduction program according to claim 9, further comprising a reproduction procedure of reproducing a streaming video corresponding to the operation using the scenario when an operation is performed on the related auxiliary information. Medium.
【請求項12】 前記所定の情報はストリーミング映像
の再生時間情報であり、前記シナリオは、前記関連補助
情報における各部分の情報をストリーミング映像の再生
時間情報と対応付けて記述した情報を含み、 前記再生手順は、 前記関連補助情報において操作の施された部分の情報を
取得する手順と、 該部分の情報に対応する再生時間情報を前記シナリオか
ら読み取る手順と、 該再生時間情報に対応するストリーミング映像を再生す
る手順とを有する請求項11に記載のストリーミング映
像再生プログラムを記録した記録媒体。
12. The predetermined information is playback time information of a streaming video, and the scenario includes information describing information of each part in the related auxiliary information in association with the playback time information of the streaming video, The reproduction procedure includes: a step of obtaining information of a part operated in the related auxiliary information; a step of reading reproduction time information corresponding to the information of the part from the scenario; and a streaming video corresponding to the reproduction time information. 12. A recording medium on which the streaming video reproduction program according to claim 11 is recorded.
JP2000103875A 2000-04-05 2000-04-05 Streaming video playback method, streaming video playback device, and recording medium recorded with streaming video playback program Expired - Lifetime JP4498531B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000103875A JP4498531B2 (en) 2000-04-05 2000-04-05 Streaming video playback method, streaming video playback device, and recording medium recorded with streaming video playback program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000103875A JP4498531B2 (en) 2000-04-05 2000-04-05 Streaming video playback method, streaming video playback device, and recording medium recorded with streaming video playback program

Publications (2)

Publication Number Publication Date
JP2001292385A true JP2001292385A (en) 2001-10-19
JP4498531B2 JP4498531B2 (en) 2010-07-07

Family

ID=18617508

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000103875A Expired - Lifetime JP4498531B2 (en) 2000-04-05 2000-04-05 Streaming video playback method, streaming video playback device, and recording medium recorded with streaming video playback program

Country Status (1)

Country Link
JP (1) JP4498531B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005333280A (en) * 2004-05-19 2005-12-02 Dowango:Kk Program link system

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09139913A (en) * 1995-11-16 1997-05-27 Matsushita Electric Ind Co Ltd Video display method and device therefor
JPH10108123A (en) * 1996-09-26 1998-04-24 Nikon Corp Image reproduction device
JPH1127609A (en) * 1997-06-30 1999-01-29 Minolta Co Ltd Image recording and reproducing system
JPH11205390A (en) * 1998-01-14 1999-07-30 Toshiba Corp Transmission system, terminal equipment, server system and storage medium
JPH11249951A (en) * 1998-03-05 1999-09-17 Fujitsu Ltd Information management system, local computer, server computer, computer readable recording medium with information acquisition program recorded, and computer readable storage medium with program for server recorded
JPH11296995A (en) * 1998-04-10 1999-10-29 Sony Corp Recording medium and reproducing device
JPH11331305A (en) * 1998-05-08 1999-11-30 Sony Corp Transmitter and transmitting method, receiver and receiving method and providing medium
JP2002513539A (en) * 1997-06-10 2002-05-08 フラッシュポイント テクノロジー インコーポレイテッド Method and system for speculative decompression of compressed image data in an image capture unit

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09139913A (en) * 1995-11-16 1997-05-27 Matsushita Electric Ind Co Ltd Video display method and device therefor
JPH10108123A (en) * 1996-09-26 1998-04-24 Nikon Corp Image reproduction device
JP2002513539A (en) * 1997-06-10 2002-05-08 フラッシュポイント テクノロジー インコーポレイテッド Method and system for speculative decompression of compressed image data in an image capture unit
JPH1127609A (en) * 1997-06-30 1999-01-29 Minolta Co Ltd Image recording and reproducing system
JPH11205390A (en) * 1998-01-14 1999-07-30 Toshiba Corp Transmission system, terminal equipment, server system and storage medium
JPH11249951A (en) * 1998-03-05 1999-09-17 Fujitsu Ltd Information management system, local computer, server computer, computer readable recording medium with information acquisition program recorded, and computer readable storage medium with program for server recorded
JPH11296995A (en) * 1998-04-10 1999-10-29 Sony Corp Recording medium and reproducing device
JPH11331305A (en) * 1998-05-08 1999-11-30 Sony Corp Transmitter and transmitting method, receiver and receiving method and providing medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005333280A (en) * 2004-05-19 2005-12-02 Dowango:Kk Program link system

Also Published As

Publication number Publication date
JP4498531B2 (en) 2010-07-07

Similar Documents

Publication Publication Date Title
EP1062598B1 (en) Apparatus and method for collaborative dynamic video annotation
US9584571B2 (en) System and method for capturing, editing, searching, and delivering multi-media content with local and global time
US11670339B2 (en) Video acquisition method and device, terminal and medium
JP5426008B2 (en) Content playback device
KR20040028760A (en) Flow control for multiple information sources
EP0469850A2 (en) Method and apparatus for pre-recording, editing and playing back presentations on a computer system
US20060109378A1 (en) Apparatus and method for storing and displaying broadcasting caption
CN105898571A (en) Video preview method and apparatus
US7831916B2 (en) Method, system, and program for creating, recording, and distributing digital stream contents
US7346692B2 (en) Information processing apparatus, information processing method, and program
JP2007036752A (en) System, method and program for reproducing contents
US20060218248A1 (en) Contents distribution system, contents distribution method, and computer-readable storage medium therefor
JP3968260B2 (en) Video-related information presentation device, method, program, and recording medium recording the program
JP2010010736A (en) Video content playback device
US8001576B2 (en) Information providing system, information processing apparatus and information processing method for transmitting sound and image data
EP3518550A1 (en) A live video rendering and broadcasting system
JP2004336289A (en) Shared white board history reproducing method, shared white board system, client, program and recording medium
US20030074405A1 (en) Information providing system, information providing apparatus, information providing method, information processing apparatus, information processing method, and program
US20230199138A1 (en) Information processing device, information processing program, and recording medium
JP4727908B2 (en) Content reproduction apparatus, computer program, and recording medium
JP2001292385A (en) Streaming video image reproducing method, streaming video image reproducing device and recording medium in which streaming video image reproduction programs is recorded
JP2008090526A (en) Conference information storage device, system, conference information display device, and program
JP2006279294A (en) Content reproduction system, content reproduction method, and computer program
WO2000010329A1 (en) Client-side digital television authoring system
JP4354082B2 (en) Streaming video information linked content creation support method and apparatus, and streaming video information linked content creation support program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090924

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100315

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100413

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100414

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130423

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4498531

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140423

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term