JP2000278622A - Caption program reception system - Google Patents

Caption program reception system

Info

Publication number
JP2000278622A
JP2000278622A JP11078324A JP7832499A JP2000278622A JP 2000278622 A JP2000278622 A JP 2000278622A JP 11078324 A JP11078324 A JP 11078324A JP 7832499 A JP7832499 A JP 7832499A JP 2000278622 A JP2000278622 A JP 2000278622A
Authority
JP
Japan
Prior art keywords
subtitle
presentation
sentence
caption
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11078324A
Other languages
Japanese (ja)
Other versions
JP4210724B2 (en
Inventor
Eiji Sawamura
英治 沢村
Takahiro Fukushima
孝博 福島
Terumasa Ebara
暉将 江原
Katsuhiko Shirai
克彦 白井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Telecommunications Advancement Organization
Japan Broadcasting Corp
NHK Engineering System Inc
Original Assignee
NEC Corp
Nippon Hoso Kyokai NHK
Telecommunications Advancement Organization
NHK Engineering Services Inc
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, Nippon Hoso Kyokai NHK, Telecommunications Advancement Organization, NHK Engineering Services Inc, Japan Broadcasting Corp filed Critical NEC Corp
Priority to JP07832499A priority Critical patent/JP4210724B2/en
Publication of JP2000278622A publication Critical patent/JP2000278622A/en
Application granted granted Critical
Publication of JP4210724B2 publication Critical patent/JP4210724B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To view a caption program following a caption sentence instruction system that a viewer selects by automatically setting the conversion of a caption sentence text into an instruction unit, the detection of timing information corresponding to it and a composite processing with a video. SOLUTION: The conversion of a caption sentence text into an instruction unit, the detection of timing information corresponding to it and a synthesis processing with a video are automatically set from a caption sentence text separated and taken out from a received broadcast radio wave and a caption instruction system that a viewer selects. In the system 11, a caption extraction/ accumulation/reading part 17, a function extracting an instruction unit caption sentence for two rows in a side as the unit, a function for once accumulating the extracted caption sentence and a function for adding the head timing of the respective units of the caption sentence at the time of accumulation are included. A function for reading the extracted/accumulated caption sentence with head timing information and a timing operation function are also included.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、現行字幕放送下で
あっても、視聴者側でその字幕提示形式を好みに応じて
選択可能な字幕番組受信システムに係り、特に、映像・
音声に伴って、提示すべき字幕の基となる字幕文テキス
トを含む放送電波が送られてくることを前提とし、受信
した放送電波から分離して取り出した字幕文テキスト
と、視聴者が選択した字幕提示形式とから、字幕文テキ
ストの提示単位への変換、それに対応するタイミング情
報の検出、及び映像との合成処理を自動設定し、選択し
た字幕提示形式に従う字幕番組を視聴可能とした字幕番
組受信システムに関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a subtitle program receiving system in which a viewer can select a subtitle presentation format according to his / her preference even under current subtitle broadcasting.
Assuming that the broadcast wave containing the caption text that is the basis of the caption to be presented is sent with the audio, the caption text extracted separately from the received broadcast wave and selected by the viewer Conversion of subtitle presentation format to subtitle sentence text presentation unit, detection of timing information corresponding thereto, and synthesis processing with video are automatically set, and a subtitle program that allows viewing of subtitle programs according to the selected subtitle presentation format Regarding the receiving system.

【0002】[0002]

【従来の技術】現代は高度情報化社会と一般に言われて
いるが、聴覚障害者は健常者と比較して情報の入手が困
難な状況下におかれている。
2. Description of the Related Art Today, it is generally referred to as an advanced information society, but hearing impaired persons are in a situation where it is difficult to obtain information as compared with healthy persons.

【0003】すなわち、例えば、情報メディアとして広
く普及しているTV放送番組を例示して、日本国内の全
TV放送番組に対する字幕番組の割合に言及すると、欧
米では33〜70%に達しているのに対し、わずか10
%程ときわめて低いのが現状である。
That is, for example, a TV broadcast program which is widely used as an information medium is exemplified, and when the ratio of a subtitle program to all TV broadcast programs in Japan is referred to, it reaches 33 to 70% in Europe and the United States. Only 10
At present, it is as low as about%.

【0004】[0004]

【発明が解決しようとする課題】上述した現状を打破し
て映像及び/又は音声に対して字幕を合成した字幕番組
を広く一般に普及させることを目的として、本発明者ら
は、あらゆる観点から字幕番組関連技術について鋭意研
究を進めているところである。
SUMMARY OF THE INVENTION In order to overcome the above-mentioned current situation and to widely disseminate subtitle programs in which subtitles are synthesized with video and / or audio, the present inventors have proposed subtitles from all viewpoints. We are working hard on program-related technology.

【0005】さて、こうした字幕番組を広く一般に普及
させるにあたり、字幕が読みやすく、かつ理解しやすい
ものであることがきわめて重要である。
[0005] In order to spread such subtitle programs widely and generally, it is extremely important that the subtitles be easy to read and understand.

【0006】そこで、本発明者らは、視聴者にとっての
字幕番組の理想像を探るべく、種々の字幕提示形式に従
う字幕番組について、字幕の読みやすさ、理解しやすさ
などを評価項目として評価実験を行った。
Therefore, the present inventors have evaluated subtitle programs conforming to various subtitle presentation formats in order to find the ideal image of the subtitle programs for the viewer, and to evaluate the readability and comprehension of the subtitles as evaluation items. An experiment was performed.

【0007】この評価結果として、表示行数、文字サイ
ズ、文字修飾、字幕転換法など基本的な字幕提示形式に
もその好みの個人差が大きくあらわれ、評価者によって
は特定の字幕提示形式を強く推挙する傾向もみられた。
[0007] As a result of this evaluation, there is a large difference in personal preference between basic caption presentation formats such as the number of display lines, character size, character modification, and caption conversion method. There was also a tendency to guess.

【0008】これは、字幕提示形式を視聴者側で選択可
能な字幕番組受信システムについての潜在ニーズがきわ
めて大きいことを暗示しており、換言すれば、視聴者が
選択した字幕提示形式に従う字幕番組を視聴可能とした
字幕番組受信システムを開発して提供すれば、広範な視
聴者の多様なニーズに応えることが可能となる結果とし
て、字幕番組を広く一般に普及させるといった所期の目
的達成を期待することができることを意味している。
[0008] This implies that there is an extremely large potential need for a subtitle program receiving system that allows the viewer to select a subtitle presentation format, in other words, a subtitle program that follows the subtitle presentation format selected by the viewer. If we develop and provide a closed-caption program receiving system that allows users to watch TV programs, we will be able to respond to the diverse needs of a wide range of viewers. It means you can do it.

【0009】本発明は、上述した実情に鑑みてなされた
ものであり、映像・音声に伴って、提示すべき字幕の基
となる字幕文テキストを含む放送電波が送られてくるこ
とを前提とし、受信した放送電波から分離して取り出し
た字幕文テキストと、視聴者が選択した字幕提示形式と
から、字幕文テキストの提示単位への変換、それに対応
するタイミング情報の検出、及び映像との合成処理を自
動設定し、視聴者が選択した字幕提示形式に従う字幕番
組を視聴可能とした字幕番組受信システムを提供するこ
とを課題とする。
The present invention has been made in view of the above-described circumstances, and is based on the premise that a broadcast radio wave including a caption sentence text serving as a base of a caption to be presented is transmitted along with video and audio. Conversion of subtitle text extracted from the received broadcast wave and subtitle presentation format selected by the viewer into presentation units of subtitle text, detection of corresponding timing information, and synthesis with video It is an object of the present invention to provide a subtitle program receiving system that automatically sets processing and enables viewing of a subtitle program according to a subtitle presentation format selected by a viewer.

【0010】[0010]

【課題を解決するための手段】上記課題を解決するため
に、請求項1の発明は、映像及び音声、並びにこれらと
所定のタイミングで送られてきた、提示すべき字幕の基
となる字幕文テキストを含む放送電波を受信するととも
に、当該受信した放送電波のなかから、映像、音声、及
び字幕文テキストを各々分離して取り出す受信手段と、
種々の字幕提示形式のなかから、所望の字幕提示形式を
選択的に指示入力する際に用いられる提示形式指示入力
手段と、前記受信手段で分離して取り出した字幕文テキ
ストと、前記提示形式指示入力手段で指示入力された字
幕提示形式とに基づいて、前記字幕文テキストのなかか
ら、所要範囲内の字幕文を抽出し、当該抽出した字幕文
を一旦蓄積するとともに、当該蓄積の際に、各字幕文の
文頭タイミング情報を付加しておき、前記抽出・蓄積し
た字幕文を、その文頭タイミング情報に伴って読み出す
字幕抽出・蓄積・読出手段と、当該字幕抽出・蓄積・読
出手段で読み出された字幕文を、当該字幕文、及び前記
提示形式指示入力手段で指示入力された字幕提示形式に
基づいて、この字幕提示形式に従う少なくとも1以上の
提示単位字幕文に変換する提示形式変換手段と、前記提
示形式変換手段で提示形式変換後の少なくとも1以上の
提示単位字幕文と、前記受信手段で分離して取り出した
映像とを合成する字幕合成手段と、を備えて構成される
ことを要旨とする。
In order to solve the above-mentioned problems, the invention according to claim 1 is directed to a video and audio, and a subtitle sentence which is transmitted at a predetermined timing and which is to be a subtitle to be presented. Receiving means for receiving broadcast radio waves including text, and separately extracting video, audio, and subtitle text from among the received broadcast radio waves,
Among various subtitle presentation formats, a presentation format instruction input unit used when selectively instructing and inputting a desired subtitle presentation format; a subtitle text text separated and taken out by the receiving unit; and the presentation format instruction Based on the subtitle presentation format instructed and input by the input means, the subtitle text within the required range is extracted from the subtitle text, and the extracted subtitle text is temporarily stored. The subtitle sentence timing information of each subtitle sentence is added, and the extracted and stored subtitle sentences are read out by the subtitle extraction / accumulation / reading means read out according to the heading timing information, and read out by the subtitle extraction / accumulation / reading means. Based on the subtitle sentence and the subtitle presentation format instructed and input by the presentation format instruction input means, into at least one or more presentation unit subtitle texts according to the subtitle presentation format. And a subtitle synthesizing unit for synthesizing at least one presentation unit subtitle sentence after the presentation format conversion by the presentation format converting unit and a video separated and taken out by the receiving unit. The gist is that it is composed of

【0011】請求項1の発明によれば、まず、受信手段
は、映像及び音声、並びにこれらと所定のタイミングで
送られてきた、提示すべき字幕の基となる字幕文テキス
トを含む放送電波を受信するとともに、当該受信した放
送電波のなかから、映像、音声、及び字幕文テキストを
各々分離して取り出す。
According to the first aspect of the present invention, first, the receiving means transmits the broadcast radio wave including the video and audio and the subtitle sentence text that is transmitted at a predetermined timing and is the basis of the subtitle to be presented. At the same time, video, audio, and caption text are separated and extracted from the received broadcast radio waves.

【0012】次に、字幕抽出・蓄積・読出手段は、受信
手段で分離して取り出した字幕文テキストと、提示形式
指示入力手段で指示入力された字幕提示形式とに基づい
て、字幕文テキストのなかから、所要範囲内の字幕文を
抽出し、抽出した字幕文を一旦蓄積するとともに、この
蓄積の際に、各字幕文の文頭タイミング情報を付加して
おき、前記抽出・蓄積した字幕文を、その文頭タイミン
グ情報に伴って読み出す。
Next, the subtitle extracting / accumulating / reading means, based on the subtitle sentence text separated and taken out by the receiving means and the subtitle presentation format instructed and input by the presentation format instruction inputting means, converts the caption text into text. Among them, a subtitle sentence within a required range is extracted, the extracted subtitle sentence is temporarily stored, and at the time of this accumulation, the head timing information of each subtitle sentence is added, and the extracted and stored subtitle sentence is , And is read out together with the sentence start timing information.

【0013】さらに、提示形式変換手段は、字幕抽出・
蓄積・読出手段で読み出された字幕文を、この字幕文及
び提示形式指示入力手段で指示入力された字幕提示形式
に基づいて、この字幕提示形式に従う少なくとも1以上
の提示単位字幕文に変換する。
Further, the presentation format conversion means includes a subtitle extraction /
The subtitle sentence read by the storage / reading unit is converted into at least one or more presentation unit subtitle sentences in accordance with the subtitle presentation format based on the subtitle sentence and the subtitle presentation format instructed and input by the presentation format instruction input unit. .

【0014】そして、字幕合成手段は、提示形式変換手
段で提示形式変換後の少なくとも1以上の提示単位字幕
文と、受信手段で分離して取り出した映像とを合成す
る。
The subtitle synthesizing unit synthesizes at least one or more presentation unit subtitle sentences after the presentation format conversion by the presentation format conversion unit and the video separated and taken out by the receiving unit.

【0015】このように、請求項1の発明によれば、映
像・音声に伴って、提示すべき字幕の基となる字幕文テ
キストを含む放送電波が送られてくることを前提とし、
受信した放送電波から分離して取り出した字幕文テキス
トと、視聴者が選択した字幕提示形式とから、字幕文テ
キストの提示単位への変換、それに対応するタイミング
情報検出、及び映像との合成処理を自動設定し、視聴者
が選択した字幕提示形式に従う字幕番組を視聴可能とな
る結果として、視聴者の要望をより満たすとともに、字
幕番組を広く一般に普及させるといった所期の目的達成
を期待することができる。
As described above, according to the first aspect of the present invention, it is assumed that a broadcast wave including a caption sentence text serving as a base of a caption to be presented is transmitted along with video and audio.
From the caption text extracted separately from the received broadcast radio wave and the caption presentation format selected by the viewer, conversion of the caption text to the presentation unit, corresponding timing information detection, and synthesis processing with the video are performed. As a result of the automatic setting and the ability to view subtitle programs that follow the subtitle presentation format selected by the viewer, it is possible to meet the viewer's demands and to achieve the intended purpose of disseminating the subtitle programs widely to the general public. it can.

【0016】また、請求項2の発明は、請求項1に記載
の字幕番組受信システムであって、前記字幕抽出・蓄積
・読出手段で読み出された字幕文を要約することでその
要約文を作成する要約手段をさらに備え、この場合、要
約手段で作成された要約文は、字幕文として前記提示形
式変換手段に与えられることを要旨とする。
According to a second aspect of the present invention, there is provided the subtitle program receiving system according to the first aspect, wherein the subtitle sentence read out by the subtitle extracting / accumulating / reading means is summarized to form a summary sentence. The present invention further comprises summarizing means for creating, and in this case, the summary is that the summary sentence created by the summarizing means is given to the presentation format converting means as a caption sentence.

【0017】請求項2の発明によれば、字幕抽出・蓄積
・読出手段で読み出された字幕文を要約することでその
要約文を作成する要約手段をさらに備え、この場合、要
約手段で作成された要約文は、字幕文として前記提示形
式変換手段に与えられるので、したがって、例えば、そ
のまま提示したのでは冗長若しくは文字数が多過ぎる字
幕文テキストが送られてきた場合であっても、これを適
宜要約した字幕文を提示可能となる結果として、好まし
い字幕文の提示環境を構築することができる。
According to the second aspect of the present invention, there is further provided a summarizing means for summarizing a caption sentence read by the caption extracting / accumulating / reading means to create a summary sentence. Since the summarized sentence is given to the presentation format conversion means as a caption sentence, therefore, even if a caption sentence text that is redundant or has too many characters if presented as it is, As a result, it is possible to present a caption sentence that is appropriately summarized, so that a preferable environment for presenting a caption sentence can be constructed.

【0018】さらに、請求項3の発明は、請求項1又は
2のうちいずれか一項に記載の字幕番組受信システムで
あって、前記提示形式変換手段は、区切り可能箇所情報
が付加されている字幕文を、前記字幕提示形式に従う少
なくとも1以上の提示単位字幕文に変換するにあたり、
当該字幕文を適宜分割することで提示単位字幕配列案を
作成し、前記区切り可能箇所情報を参照して、前記作成
された提示単位字幕配列案を最適化することで提示単位
字幕配列を確定することにより、字幕文を最適箇所で各
提示単位字幕文に分割するようにして、前記字幕文を、
前記字幕提示形式に従う提示単位字幕文に変換すること
を要旨とする。
[0018] Further, the invention according to claim 3 is the caption program receiving system according to any one of claims 1 and 2, wherein the presentation format conversion means is added with delimitable location information. In converting a subtitle sentence into at least one or more presentation unit subtitle sentences according to the subtitle presentation format,
A presentation unit subtitle arrangement plan is created by appropriately dividing the subtitle sentence, and the presentation unit subtitle arrangement plan is determined by optimizing the created presentation unit subtitle arrangement plan with reference to the delimitable place information. By dividing the subtitle sentence into each presentation unit subtitle sentence at the optimum position,
The gist of the present invention is to convert to a presentation unit subtitle sentence according to the subtitle presentation format.

【0019】請求項3の発明によれば、提示形式変換手
段は、区切り可能箇所情報が付加されている字幕文を、
字幕提示形式に従う少なくとも1以上の提示単位字幕文
に変換するにあたり、当該字幕文を適宜分割することで
提示単位字幕配列案を作成し、前記区切り可能箇所情報
を参照して、前記作成された提示単位字幕配列案を最適
化することで提示単位字幕配列を確定することにより、
字幕文を最適箇所で各提示単位字幕文に分割するように
して、前記字幕文を、前記字幕提示形式に従う提示単位
字幕文に変換するので、したがって、字幕文を字幕提示
形式に従う提示単位字幕文に変換するにあたり、区切り
可能箇所情報を適用することで、見やすく読みやすい最
適な提示形式変換を実現することができる。
According to the third aspect of the present invention, the presentation format conversion means converts the caption sentence to which delimitable portion information is added,
In converting into at least one or more presentation unit subtitle sentences according to the subtitle presentation format, a presentation unit subtitle arrangement plan is created by appropriately dividing the subtitle sentences, and the created presentation is referred to by referring to the delimitable portion information. By deciding the presentation unit subtitle arrangement by optimizing the unit subtitle arrangement plan,
Since the subtitle sentence is divided into each presentation unit subtitle sentence at the optimum position, and the subtitle sentence is converted into the presentation unit subtitle sentence according to the subtitle presentation format, therefore, the subtitle sentence is presented in the presentation unit subtitle sentence according to the subtitle presentation format. By applying the delimitable portion information in the conversion to the best presentation format, it is possible to realize an optimal presentation format conversion that is easy to see and read.

【0020】さらにまた、請求項4の発明は、請求項3
に記載の字幕番組受信システムであって、前記区切り可
能箇所情報を参照して、前記作成された提示単位字幕配
列案を最適化するにあたり、前記区切り可能箇所情報
は、前記字幕文に対する改行・改頁推奨箇所に係る改行
・改頁データを含んでおり、しかも、当該改行・改頁デ
ータで定義される改行・改頁推奨箇所は、第1に、直前
の改行・改頁点からN(提示する字幕一行の最大文字
数)−7とN文字の範囲にある句点、第2に、直前の改
行・改頁点からN−4とN文字の範囲にある読点、第3
に、「・」を挟む漢字・カナ文字がM個(N以下、N/
4以上)連続する箇所の先頭が、直前の改行・改頁点か
らN−M以上で、「・」位置がN以下の時は「・」の後
ろ、第4に、漢字・カナ文字・アラビア数字がM個(N
以下、N/4以上)連続する箇所の先頭が、直前の改行
・改頁点からN−M以上の時は先頭の前、第5に、直前
の改行・改頁点からN−3文字後、のうちいずれか1又
は複数の組み合わせを含んでおり、当該改行・改頁デー
タを適用するにあたっては、前記記述順の先頭から優先
的に適用することを要旨とする。
[0020] Further, the invention of claim 4 is the invention of claim 3
In the subtitle program receiving system according to the above, in optimizing the created presentation unit subtitle arrangement plan with reference to the delimitable part information, the delimitable part information, The line feed / page break recommended data that includes the line feed / page break data related to the page recommended position is defined as N (presentation) from the immediately preceding line feed / page break point. -7, the maximum number of characters in one line of subtitles, and punctuation marks in the range of N characters. Second, the punctuation marks in the range of N-4 and N characters from the immediately preceding line break / page break point, third.
, There are M kanji and kana characters (“N” or less, N /
4 or more) When the head of the continuous part is NM or more from the previous line feed / page break point and the "." Position is N or less, it is after ".". Fourth, Kanji / Kana / Arabic M numbers (N
(Hereinafter, N / 4 or more)) When the head of a continuous portion is NM or more from the previous line feed / page break point, before the head, fifthly, N-3 characters after the previous line feed / page break point. , And a combination of any one or more of the above. In applying the line feed / page break data, it is essential that the data be applied with priority from the head of the description order.

【0021】請求項4の発明によれば、区切り可能箇所
情報を参照して、作成された提示単位字幕配列案を最適
化するにあたり、字幕文に対する改行・改頁推奨箇所に
係る改行・改頁データで定義される改行・改頁推奨箇所
は、第1に、直前の改行・改頁点からN(一行の文字
数)−7とN文字の範囲にある句点、第2に、直前の改
行・改頁点からN−4とN文字の範囲にある読点、第3
に、「・」を挟む漢字・カナ文字がM個(N以下、N/
4以上)連続する箇所の先頭が、直前の改行・改頁点か
らN−M以上で、「・」位置がN以下の時は「・」の後
ろ、第4に、漢字・カナ文字・アラビア数字がM個(N
以下、N/4以上)連続する箇所の先頭が、直前の改行
・改頁点からN−M以上の時は先頭の前、第5に、直前
の改行・改頁点からN−3文字後、のうちいずれか1又
は複数の組み合わせを含んでおり、当該改行・改頁デー
タを適用するにあたっては、前記記述順の先頭から優先
的に適用するので、したがって、さらに実情に即して高
精度に最適化された提示形式変換を実現可能な字幕番組
受信システムを得ることができる。
According to the fourth aspect of the present invention, in optimizing the created presentation unit subtitle arrangement plan with reference to the delimitable portion information, a line feed / page break related to a recommended line feed / page break in a caption sentence is provided. The recommended line feed and page break defined by the data are as follows: first, a line break within the range of N (the number of characters in one line) -7 and N characters from the previous line feed / page break point; Reading point in the range of N-4 and N characters from the page break, third
, There are M kanji and kana characters ("N", N /
4 or more) When the head of the continuous part is NM or more from the previous line feed / page break point and the "." Position is N or less, it is after ".". Fourth, Kanji / Kana / Arabic M numbers (N
(Hereinafter, N / 4 or more)) When the head of a continuous portion is NM or more from the previous line feed / page break point, before the head, fifthly, N-3 characters after the previous line feed / page break point. , And one or a combination of the above, and when applying the line feed / page break data, the data is applied preferentially from the head of the description order. It is possible to obtain a subtitle program receiving system capable of realizing the presentation format conversion optimized for the subtitle.

【0022】しかも、請求項5の発明は、請求項3又は
4のうちいずれか一項に記載の字幕番組受信システムで
あって、前記作成された提示単位字幕配列案を最適化す
るにあたり、前記提示単位字幕配列案に対応する音声ア
ナウンス中に所定時間を超えるポーズが有る場合には、
このポーズ以前の字幕文から新たに提示単位字幕配列を
再変換することを要旨とする。
Further, the invention according to claim 5 is the caption program receiving system according to any one of claims 3 and 4, wherein, in optimizing the created presentation unit subtitle arrangement plan, If there is a pause exceeding a predetermined time during the audio announcement corresponding to the presentation unit subtitle arrangement plan,
The point is that the presentation unit subtitle array is newly converted from the subtitle sentences before this pause.

【0023】請求項5の発明によれば、前記作成された
提示単位字幕配列案を最適化するにあたり、前記提示単
位字幕配列案に対応する音声アナウンス中に所定時間を
超える比較的長いポーズが有る場合には、このポーズ以
前の字幕文から新たに提示単位字幕配列を再変換するの
で、したがって、提示単位字幕文に対応する音声アナウ
ンス中に所定時間を超えるポーズが存在するということ
は、この提示単位字幕文は、相互に時間的に離れてお
り、かつ内容的にも複数の相異なる場面に対応する字幕
文を含んで構成されているおそれがあり、これらの字幕
文を一つの提示単位字幕文とみなしたのでは好ましくな
いおそれがあるのに対し、一旦確定された提示単位字幕
文の妥当性を、対応するアナウンス音声の観点から再検
証可能となる結果として、好ましい提示単位字幕文の変
換確定に多大な貢献を果たすことができる。
According to the fifth aspect of the present invention, in optimizing the created presentation unit subtitle arrangement plan, there is a relatively long pause exceeding a predetermined time during a sound announcement corresponding to the presentation unit subtitle arrangement plan. In this case, the presentation unit subtitle array is re-converted from the subtitle sentence before this pause, so that the presence of a pause exceeding a predetermined time in the audio announcement corresponding to the presentation unit subtitle sentence means that The unit subtitle sentences may be temporally separated from each other, and may also include subtitle sentences corresponding to a plurality of different scenes in terms of content, and these subtitle sentences may be combined into one presentation unit subtitle. Although it may not be desirable to consider it as a sentence, the result that once confirmed the validity of the presentation unit subtitle sentence can be re-verified from the viewpoint of the corresponding announcement sound Te, can play a significant contribution to the conversion determination of the preferred presentation unit caption statement.

【0024】そして、請求項6の発明は、請求項1乃至
5のうちいずれか一項に記載の字幕番組受信システムで
あって、前記字幕合成手段は、前記提示形式変換手段で
提示形式変換後の少なくとも1以上の提示単位字幕文
と、前記受信手段で分離して取り出した映像とを、当該
両者間の時間同期を考慮しつつ合成するにあたり、前記
提示単位字幕文に対応する映像の提示タイミングを、当
該提示単位字幕文の提示タイミングと比較して時間的に
遅延させることにより、前記両提示タイミングを同期さ
せることを要旨とする。
According to a sixth aspect of the present invention, there is provided the subtitle program receiving system according to any one of the first to fifth aspects, wherein the subtitle synthesizing unit converts the presentation format after the presentation format conversion by the presentation format conversion unit. In synthesizing at least one or more of the presentation unit subtitle sentences and the video separated and taken out by the receiving unit while considering the time synchronization between the two, the presentation timing of the video corresponding to the presentation unit subtitle sentence The point is that the two presentation timings are synchronized by delaying the presentation timing in comparison with the presentation timing of the presentation unit subtitle sentences.

【0025】請求項6の発明によれば、字幕合成手段
は、提示形式変換手段で提示形式変換後の少なくとも1
以上の提示単位字幕文と、受信手段で分離して取り出し
た映像とを、当該両者間の時間同期を考慮しつつ合成す
るにあたり、前記提示単位字幕文に対応する映像の提示
タイミングを、当該提示単位字幕文が提示可能となるタ
イミングと比較して時間的に遅延させることにより、前
記両提示タイミングを同期させるので、したがって、前
記両提示タイミングが同期した望ましい字幕番組を提示
可能な字幕番組受信システムを実現することができる。
According to the sixth aspect of the present invention, the subtitle synthesizing means converts at least one of the presentation formats converted by the presentation format conversion means.
In synthesizing the presentation unit subtitle sentence and the video separated and taken out by the receiving unit while considering the time synchronization between the two, the presentation timing of the video corresponding to the presentation unit subtitle sentence is determined by the presentation timing. The two presentation timings are synchronized by delaying the time in comparison with the timing at which the unit caption text can be presented. Therefore, a subtitle program receiving system capable of presenting a desired subtitle program in which the two presentation timings are synchronized is provided. Can be realized.

【0026】[0026]

【発明の実施の形態】既述したように、映像及び/又は
音声に対して字幕を付与した字幕番組を広く一般に普及
させることを目的として、本発明者らは、あらゆる観点
から字幕番組関連技術について鋭意研究を進めていると
ころである。
DESCRIPTION OF THE PREFERRED EMBODIMENTS As described above, in order to widely and generally disseminate subtitled programs in which subtitles are added to video and / or audio, the present inventors have proposed subtitled program-related technologies from all viewpoints. We are working hard on research.

【0027】こうした字幕番組を広く一般に普及させる
にあたり、字幕が読みやすく、かつ理解しやすいもので
あることがきわめて重要である。
In order to spread such closed-captioned programs widely and generally, it is very important that the closed-captioned programs be easy to read and understand.

【0028】そこで、本発明者らは、視聴者にとっての
字幕番組の理想像を探るべく、種々の字幕提示形式に従
う字幕番組について、字幕の読みやすさ、理解しやすさ
などを評価項目として評価実験を行った。
In order to find an ideal image of a subtitle program for a viewer, the present inventors evaluate subtitle programs conforming to various subtitle presentation formats, such as readability and understandability of subtitles, as evaluation items. An experiment was performed.

【0029】この評価結果として、表示行数、文字サイ
ズ、文字修飾、字幕転換法など基本的な字幕提示形式に
もその好みの個人差が大きくあらわれ、評価者によって
は特定の字幕提示形式を強く推挙する傾向もみられた。
As a result of this evaluation, there is a large difference in personal preference between basic caption presentation formats such as the number of display lines, character size, character modification, and caption conversion method. There was also a tendency to guess.

【0030】これは、字幕提示形式を視聴者側で選択可
能な字幕番組受信システムについての潜在ニーズがきわ
めて大きいことを暗示しており、換言すれば、視聴者が
選択した字幕提示形式に従う字幕番組を視聴可能とした
字幕番組受信システムを開発して提供すれば、広範な視
聴者の多様なニーズに応えることが可能となる結果とし
て、視聴者の要望をより満たすとともに、字幕番組を広
く一般に普及させるといった所期の目的達成を期待する
ことができることを意味している。
This implies that there is a great potential need for a subtitle program receiving system that allows the viewer to select a subtitle presentation format, in other words, a subtitle program that follows the subtitle presentation format selected by the viewer. Developing and providing a closed-caption program receiving system that allows viewers to watch TV programs can meet the diverse needs of a wide range of viewers. This means that it is possible to expect to achieve the intended purpose.

【0031】そこで、本発明では、映像・音声に伴っ
て、提示すべき字幕の基となる字幕文テキストを含む放
送電波が放送局から送られてくることを前提とし、受信
した放送電波から分離して取り出した字幕文テキスト
と、視聴者が選択した字幕提示形式とから、字幕文テキ
ストの提示単位への変換、それに対応するタイミング情
報検出、及び映像との合成処理を自動設定し、視聴者が
選択した字幕提示形式に従う字幕番組を視聴可能とした
字幕番組受信システムを提供することを課題としてい
る。
Therefore, in the present invention, it is assumed that a broadcast radio wave including a caption sentence text which is a basis of a caption to be presented is transmitted from a broadcast station along with video and audio, and is separated from a received broadcast radio wave. Automatically set the conversion of subtitle text to presentation unit, detection of timing information corresponding to it, and synthesis processing with video from the subtitle text extracted and extracted and the subtitle presentation format selected by the viewer. It is an object of the present invention to provide a closed-caption program receiving system in which a closed-caption program according to a selected closed-caption presentation format can be viewed.

【0032】以下に、本発明に係る字幕番組受信システ
ムの一実施形態について、図に基づいて詳細に説明す
る。
Hereinafter, an embodiment of a subtitle program receiving system according to the present invention will be described in detail with reference to the drawings.

【0033】図1は、本発明に係る字幕番組受信システ
ムの機能ブロック構成図、図2は、第1の字幕提示形式
を適用した字幕番組受信システムにおける字幕番組構成
手順を表すフローチャート図、図3は、第2の字幕提示
形式を適用した字幕番組受信システムにおける字幕番組
構成手順を表すフローチャート図である。
FIG. 1 is a functional block diagram of a subtitle program receiving system according to the present invention. FIG. 2 is a flowchart showing a subtitle program configuration procedure in a subtitle program receiving system to which a first subtitle presentation format is applied. FIG. 7 is a flowchart showing a subtitle program configuration procedure in a subtitle program receiving system to which a second subtitle presentation format is applied.

【0034】本実施形態の説明に先立って、以下の説明
で使用する用語の定義付けを行うと、本実施形態の説明
において、提示対象となる字幕の全体集合を「字幕文テ
キスト」と言い、字幕文テキストのうち、句点で区切ら
れた文章単位の部分集合を「単位字幕文」と言い、ディ
スプレイの表示画面上における提示単位字幕の全体集合
を「提示単位字幕群」と言い、提示単位字幕群のうち、
個々の字幕を「提示単位字幕」と言い、提示単位字幕の
うちの任意の文字を表現するとき、これを「字幕文字」
と言うことにする。
Prior to the description of the present embodiment, terms used in the following description are defined. In the description of the present embodiment, the entire set of subtitles to be presented is called “subtitle sentence text”. In the caption text, a sub-set of text units separated by a period is called a "unit subtitle sentence", the entire set of presentation unit subtitles on the display screen of the display is called a "presentation unit subtitle group", and the presentation unit subtitles Out of the group
Individual subtitles are referred to as “subtitles for presentation”, and when expressing any character in the subtitles for presentation, this is referred to as “subtitle character”.
I will say.

【0035】さて、好ましい字幕提示形式に関する基礎
的な評価実験の結果、有用と考えられる字幕提示パラメ
ータとして、一行・二行・三行等の字幕行数、標準・横
2/3・縦2/3等の字幕文字サイズ、表示画面上にお
ける字幕の表示位置、字幕文字のフォント・色・厚み等
の字幕文字修飾、一括入れ換え・縦スクロール・横スク
ロール等の字幕転換形式、字幕専用領域の有無、などを
挙げることができる。これらの字幕提示パラメータのう
ち、所望の組み合せに係る字幕提示形式を、視聴者側で
選択可能な字幕番組受信システムを実現できれば、広範
な視聴者の多様なニーズに応えることができる。
Now, as a result of a basic evaluation experiment on a preferred subtitle presentation format, the number of subtitle lines such as one line, two lines, three lines, and standard / horizontal 2/3 / vertical 2 / Subtitle character size of 3 etc., display position of subtitle on display screen, subtitle character modification such as font, color, thickness of subtitle character, subtitle conversion format such as batch replacement, vertical scrolling, horizontal scrolling, presence or absence of subtitle exclusive area, And the like. If a viewer can select a subtitle presentation format according to a desired combination among these subtitle presentation parameters on the viewer side, a variety of needs of a wide range of viewers can be met.

【0036】上述した字幕転換形式について詳しく述べ
ると、字幕転換形式は、アナウンス音声や番組の進行に
伴って字幕を転換する際に用いられるものであり、提示
単位字幕群を提示単位毎に一括して総入れ換えする一括
総入れ換え形式、横書きの提示単位字幕群のうち、最古
の提示単位字幕文を消去する一方、最新の提示単位字幕
文を追加するようにして提示単位字幕文を行単位で縦方
向に送る縦スクロール形式、横書きの提示単位字幕文の
うち、最古の字幕文字を消去する一方、最新の字幕文字
を追加するようにして提示単位字幕文を文字単位で横方
向に送る横スクロール形式、などを例示することができ
る。
The above-described subtitle conversion format will be described in detail. The subtitle conversion format is used when subtitles are converted in accordance with the announcement sound or the progress of a program. The oldest presentation unit subtitle sentence is deleted from the group of presentation unit subtitles written horizontally, and the latest presentation unit subtitle sentence is added in units of lines. In the vertical scrolling format, which is sent in the vertical direction, the oldest subtitle character is deleted from the horizontal subtitle sentences, and the latest subtitle character is added, so that the presentation unit subtitle text is sent horizontally in character units. Examples include a scroll format.

【0037】なお、アナウンス音声や番組映像の進行に
同期して字幕を転換するにあたり、一括総入れ換え形式
では、通常提示単位字幕文毎にその始点/終点タイミン
グを定め、そのタイミングに応じて提示単位毎の字幕転
換を実行する。一方、縦スクロール又は横スクロール形
式では、この形式で用いる提示単位字幕文毎の始点及び
終点のタイミング、又は始点とスクロール速度を求めて
おき、所定タイミングで行単位又は文字単位毎の字幕転
換を実行する。
When the subtitles are converted in synchronization with the progress of the announcement sound or the program video, in the batch total replacement format, the start point / end point timing is usually determined for each presentation unit subtitle sentence, and the presentation unit is determined according to the timing. Perform subtitle conversion every time. On the other hand, in the vertical scrolling or horizontal scrolling format, the timing of the starting point and the ending point of each presentation unit subtitle sentence used in this format, or the starting point and the scrolling speed are obtained, and subtitle conversion is performed at a predetermined timing for each line or character unit. I do.

【0038】上述した種々の字幕提示形式のうち、本発
明では、例えば、三行の提示単位字幕文を提示単位とし
た提示単位字幕群を一括して総入れ換えする三行一括総
入れ換え形式を内容とした第1の字幕提示形式と、横書
き三行の提示単位字幕文を提示単位とした提示単位字幕
群のうち、最古の提示単位字幕文を消去する一方、最新
の提示単位字幕文を追加するようにして提示単位字幕文
を行単位で縦方向に入れ換える三行縦スクロール形式を
内容とした第2の字幕提示形式と、を例示して以下の説
明を行うことにする。
Among the various subtitle presentation formats described above, the present invention includes, for example, a three-line batch total replacement format for batch-replacement of presentation unit subtitle groups in which three lines of presentation unit subtitle sentences are presented as presentation units. The oldest presentation unit subtitle sentence is added while the latest presentation unit subtitle sentence is deleted from the presentation unit subtitles group that uses the first subtitle presentation format and the presentation unit subtitle sentence of three horizontal lines as the presentation unit The following description will be made by exemplifying a second subtitle presentation format having a three-line vertical scroll format in which presentation unit subtitle sentences are exchanged in the vertical direction on a line-by-line basis.

【0039】ところで、現行の字幕放送では、一行当た
り15文字を限度として、横二行の提示単位字幕文を提
示単位とした字幕提示形式を受信側が採択することを前
提としており、放送局からは横二行分の提示単位字幕が
その開始タイミングで送られてくる。そこで、二行提示
単位を前提として送られてきた字幕文テキストを、三行
提示単位とした字幕提示形式に変換する際には、番組映
像や音声との間で同期をとりながら、字幕提示形式に従
う提示単位字幕文を提示する必要がある。本発明では、
後述するタイミング演算処理や映像時間遅延手法を用い
てこの問題を解決している。
By the way, in the current closed-caption broadcasting, it is assumed that the receiving side adopts a closed-caption presentation format in which two horizontal lines of presentation unit subtitle sentences are provided as a presentation unit, with a limit of 15 characters per line. The presentation unit subtitles for two horizontal lines are sent at the start timing. Therefore, when converting subtitle sentence text sent on the premise of two-line presentation units to the subtitle presentation format using three-line presentation units, the subtitle presentation format is synchronized with the program video and audio. It is necessary to present the subtitle sentence according to the presentation unit. In the present invention,
This problem is solved by using a timing calculation process and a video time delay method described later.

【0040】次に、本発明に係る字幕番組受信システム
の構成及び動作について、図面に従って詳細に説明して
いく。
Next, the configuration and operation of the subtitle program receiving system according to the present invention will be described in detail with reference to the drawings.

【0041】まず、本発明に係る字幕番組受信システム
11の概略構成について、図1を参照して説明する。
First, a schematic configuration of the subtitle program receiving system 11 according to the present invention will be described with reference to FIG.

【0042】同図に示すように、字幕番組受信システム
11は、受信アンテナ13が接続された受信手段として
機能する字幕番組受信チューナ15と、字幕抽出・蓄積
・読出手段として機能する字幕抽出・蓄積・読出部17
と、必要に応じて適宜追加される要約手段として機能す
る要約部19と、提示形式指示入力手段として機能する
提示形式指示入力部21と、提示形式変換手段として機
能する提示形式変換部23と、NTSC変換器25と、
映像遅延部26と、映像処理部27と、字幕合成手段と
して機能する字幕合成処理部29と、を含んで構成され
ている。
As shown in the figure, a subtitle program receiving system 11 has a subtitle program receiving tuner 15 functioning as a receiving means to which a receiving antenna 13 is connected, and a subtitle extracting / accumulating function functioning as a subtitle extracting / accumulating / reading means. .Readout unit 17
A summarizing unit 19 that functions as a summarizing unit that is added as needed, a presentation format instruction input unit 21 that functions as a presentation format instruction input unit, and a presentation format conversion unit 23 that functions as a presentation format conversion unit. An NTSC converter 25;
It is configured to include a video delay unit 26, a video processing unit 27, and a subtitle synthesis processing unit 29 that functions as subtitle synthesis means.

【0043】字幕番組受信チューナ15は、放送局から
送られてきた映像及び音声、並びに提示すべき字幕の基
となる字幕文テキストを含む放送電波を、受信アンテナ
13を介して受信するとともに、受信した放送電波のな
かから、映像、音声、及び字幕文テキストを各々分離し
て取り出す機能を有している。
The subtitle program receiving tuner 15 receives, via the receiving antenna 13, the broadcast radio waves including the video and audio transmitted from the broadcasting station and the subtitle text which is the basis of the subtitle to be presented, and receives the same. It has a function of separately extracting video, audio, and caption text from each of the broadcast radio waves.

【0044】字幕抽出・蓄積・読出部17は、字幕番組
受信チューナ15で分離して取り出される字幕文テキス
トのうち、所要範囲内の字幕文、つまり、横二行分の提
示単位字幕文を単位として、少なくとも2単位分の字幕
文を抽出する抽出機能と、抽出した字幕文を一旦蓄積す
る蓄積機能と、この蓄積の際、字幕文の各単位の文頭タ
イミングを図示しないタイマを利用して付加する文頭タ
イミング情報付加機能と、抽出・蓄積機能を発揮するこ
とで抽出・蓄積した字幕文を、その文頭タイミング情報
に伴って読み出す読出機能と、後に詳述するタイミング
演算機能と、等を有している。
The subtitle extracting / accumulating / reading unit 17 uses the subtitle sentences within the required range, that is, the presentation unit subtitle sentences for two horizontal lines, among the subtitle texts separated and taken out by the subtitle program receiving tuner 15. An extraction function for extracting at least two units of subtitle sentences, a storage function for temporarily storing the extracted subtitle sentences, and, at the time of this storage, adding a head timing of each unit of the subtitle sentences using a timer (not shown). It has a sentence start timing information addition function, a readout function that reads out a subtitle sentence extracted and stored by exhibiting an extraction and storage function according to the start timing information, a timing calculation function described in detail later, and the like. ing.

【0045】要約部19は、必要に応じて追加される付
加的な機能ブロックであり、字幕抽出・蓄積・読出部1
7で読み出された字幕文からその要約文を作成する要約
機能を有し、さらに必要ならば、要約機能を発揮するこ
とで作成された要約文、すなわち字幕文に対し、字幕文
を区切る際に適切と考えられる区切り可能箇所に関する
区切り可能箇所情報を付加する情報付加機能も有してい
る。上述した要約機能は、字幕文字数を減らして字幕を
読みやすくしたい場合等に適用し、字幕文の文末を対象
とした簡略化や、字幕文中に含まれる特定の単語を出現
したとき、これを簡略化するものである。特定の単語の
簡略化例としては、例えば、「小渕内閣総理大臣は、
…」との字幕文が出現したとき、これを、「小渕総理
は、…」に簡略化する等を挙げることができる。ここ
で、本要約部19の要約機能は、本字幕番組受信システ
ムにとって必ずしも必須の機能ではなく、例えば、放送
局から送られてきた字幕文テキストをそのまま字幕とし
て使用するのが適当な番組においては、これを省略可能
であることを付言しておく。なお、区切り可能箇所情報
としては、受信した横二行分の提示単位字幕文の一行目
と二行目との間にある改行記号を利用することができる
ほか、例えば、必要に応じて文節データ付き形態素解析
データや、次述する改行・改頁データ(分割ルール)を
利用することもできる。
The summarizing section 19 is an additional function block added as necessary, and is a subtitle extracting / accumulating / reading section 1.
7 has a summarization function for creating a summary sentence from the caption sentence read out in step 7. If necessary, the caption sentence is separated from the summary sentence created by performing the summarization function, that is, the subtitle sentence. It also has an information addition function of adding delimitable portion information regarding delimitable portions considered appropriate to the above. The above-mentioned summarization function is applied to cases where the number of subtitle characters is to be reduced to make subtitles easier to read, etc., and simplification for the end of the subtitle sentence, or simplification when a specific word included in the subtitle sentence appears. It becomes something. A simplified example of a specific word is, for example, "Prime Minister Obuchi
When a caption sentence "..." appears, it can be simplified to "Prime Obuchi is ...". Here, the summarizing function of the summarizing section 19 is not necessarily an essential function for the present subtitle program receiving system. For example, in a program in which it is appropriate to use subtitle sentence text sent from a broadcast station as subtitles as it is, It should be noted that this can be omitted. As the delimitable portion information, a line feed symbol between the first line and the second line of the received presentation unit caption sentence of two horizontal lines can be used. It is also possible to use attached morphological analysis data and line feed / page break data (division rules) described below.

【0046】字幕文に対する改行・改頁推奨箇所に係る
改行・改頁データ(分割ルール)で定義される改行・改
頁推奨箇所としては、例えば、第1に、直前の改行・改
頁点からN(提示する字幕一行の最大文字数)−7とN
文字の範囲にある句点、第2に、直前の改行・改頁点か
らN−4とN文字の範囲にある読点、第3に、「・」を
挟む漢字・カナ文字がM個(N以下、N/4以上)連続
する箇所の先頭が、直前の改行・改頁点からN−M以上
で、「・」位置がN以下の時は「・」の後ろ、第4に、
漢字・カナ文字・アラビア数字がM個(N以下、N/4
以上)連続する箇所の先頭が、直前の改行・改頁点から
N−M以上の時は先頭の前、第5に、直前の改行・改頁
点からN−3文字後、などを挙げることができる。な
お、要約部19を使用する場合には、文節データを活用
してより適切な改行・改頁を行うことが可能である。
The recommended line feed / page break defined by the line feed / page break data (division rule) related to the recommended line feed / page break point for the caption text is, for example, firstly from the immediately preceding line feed / page break point. N (maximum number of characters in one line of subtitle to be presented)-7 and N
Secondly, the punctuation marks in the range of characters, secondly, the punctuation marks in the range of N-4 and N characters from the previous line feed / page break point, and thirdly, M kanji and kana characters sandwiching "." , N / 4 or more) The head of the continuous part is NM or more from the previous line feed / page break point, and when the "."
M Kanji / Kana / Arabic numerals (N or less, N / 4
Above) If the beginning of the continuous part is NM or more from the previous line feed / page break point, before the head, fifthly, N-3 characters after the previous line feed / page break point, etc. Can be. When the summarizing section 19 is used, more appropriate line breaks and page breaks can be performed by utilizing the phrase data.

【0047】提示形式指示入力部21は、例えば、ディ
スプレイのGUI(グラフィカル・ユーザー・インター
フェース)画面をみながら、複数の字幕提示パラメータ
の組み合わせに係る種々の字幕提示形式のなかから、視
聴者が所望の字幕提示形式を選択的に指示入力操作する
際に用いられる。ここで選択された字幕提示形式は、字
幕抽出・蓄積・読出部17、要約部19、提示形式変換
部23、映像遅延部26、映像処理部27、及び字幕合
成処理部29の各々で参照される。なお、ここで選択可
能な字幕提示形式としては、前述した複数の字幕提示パ
ラメータに加えて、映像時間遅延や映像圧縮等の映像処
理、又は字幕合成処理における処理パラメータや、要約
を使用する場合には要約手法やその程度の指定を含むも
のとする。
The presentation format instruction input section 21 allows the viewer to select a desired subtitle presentation format from among various subtitle presentation formats related to a combination of a plurality of subtitle presentation parameters while viewing a GUI (graphical user interface) screen of the display. The subtitle presentation format is used when the instruction input operation is selectively performed. The subtitle presentation format selected here is referred to by each of the subtitle extraction / accumulation / readout unit 17, the summarization unit 19, the presentation format conversion unit 23, the video delay unit 26, the video processing unit 27, and the subtitle synthesis processing unit 29. You. In addition, as a subtitle presentation format that can be selected here, in addition to a plurality of subtitle presentation parameters described above, when using processing parameters in video processing such as video time delay or video compression, or subtitle synthesis processing, or when using a summary. Shall include the summarization method and its degree specification.

【0048】提示形式変換部23は、字幕抽出・蓄積・
読出部17で読み出された字幕文若しくは必要に応じて
要約部19で要約された要約文を、この字幕文若しくは
要約文、これらに付加されている区切り可能箇所情報、
及び提示形式指示入力部31を介して指示入力された字
幕提示形式に基づいて、字幕提示形式に従う提示単位字
幕文に変換する提示形式変換機能を有している。
The presentation format conversion unit 23 extracts, stores,
The subtitle sentence read by the reading unit 17 or the summary sentence summarized by the summarization unit 19 as necessary is converted into the subtitle sentence or the summary sentence, delimitable portion information added thereto,
And a presentation format conversion function for converting into a presentation unit subtitle sentence according to the subtitle presentation format based on the subtitle presentation format instructed and input via the presentation format instruction input unit 31.

【0049】NTSC変換器25は、提示形式変換部2
3で提示形式変換後の提示単位字幕文に該当する字幕信
号に対してNTSC変換処理を施すことで字幕TV信号
を出力する機能を有している。
The NTSC converter 25 includes a presentation format converter 2
3 has a function of outputting a subtitle TV signal by performing NTSC conversion processing on a subtitle signal corresponding to a presentation unit subtitle sentence after presentation format conversion.

【0050】映像遅延部26は、字幕番組受信チューナ
15で分離して取り出された番組映像に対し、提示形式
指示入力部21からの提示形式指示に従って、時間遅延
処理を行う映像遅延機能を有しており、最終的に生成さ
れた提示単位字幕と映像間のタイミングを合わせるよう
にする。
The video delay unit 26 has a video delay function of performing a time delay process on the program video separated and taken out by the subtitle program receiving tuner 15 in accordance with the presentation format instruction from the presentation format instruction input unit 21. The timing between the finally generated presentation unit subtitles and the video is adjusted.

【0051】映像処理部27は、映像遅延部26で時間
遅延処理が施された番組映像に対し、提示形式指示入力
部21からの提示形式指示に従って、映像圧縮、又は字
幕が表示される映像領域のレベル制御等の映像処理を行
う機能を有している。
The video processing unit 27 compresses or compresses the video image of the program video subjected to the time delay processing by the video delay unit 26 in accordance with the presentation format instruction from the presentation format instruction input unit 21. It has a function of performing video processing such as level control of the image.

【0052】字幕合成処理部29は、提示形式指示入力
部21からの提示形式指示に従って、NTSC変換器2
5でNTSC変換処理後の字幕TV信号と、映像処理部
27で映像処理後の映像信号とを対象として、字幕キー
合成処理や混合処理を行うことで、番組映像に対して字
幕が合成された字幕番組を出力する機能を有している。
なお、字幕キー合成処理は、字幕TV信号をキーとし
て、字幕部分では字幕TV信号を、その他の部分では映
像信号を出力する合成法である。
The subtitle synthesizing section 29 responds to the presentation format instruction from the presentation format instruction input section 21 by using the NTSC converter 2.
5, the subtitles are synthesized with the program video by performing the subtitle key synthesizing process or the mixing process on the subtitle TV signal after the NTSC conversion process and the video signal after the video processing by the video processing unit 27. It has a function to output a subtitle program.
The subtitle key synthesizing process is a synthesizing method that outputs a subtitle TV signal in a subtitle portion and a video signal in other portions using a subtitle TV signal as a key.

【0053】次に、三行一括総入れ換え形式を内容とす
る第1の字幕提示形式を適用した字幕番組受信システム
における字幕番組構成手順について、図2に示すフロー
チャート図を参照して説明する。
Next, a subtitle program configuration procedure in a subtitle program receiving system to which a first subtitle presentation format having a three-line batch total exchange format is applied will be described with reference to a flowchart shown in FIG.

【0054】ステップS1において、提示形式指示入力
部31は、種々の字幕提示形式のなかから、視聴者の操
作指示入力に従う所望の字幕提示形式を選択的に入力す
る。本実施形態の例では、三行一括総入れ換え形式を内
容とする第1の字幕提示形式を選択的に入力する。
In step S1, the presentation format instruction input unit 31 selectively inputs a desired subtitle presentation format in accordance with a viewer's operation instruction input from various subtitle presentation formats. In the example of the present embodiment, the first subtitle presentation format having the three-line batch replacement format as the content is selectively input.

【0055】ステップS2乃至S4において、字幕抽出
・蓄積・読出部17は、字幕番組受信チューナ15で分
離して取り出された字幕文テキストのなかから、少なく
とも前記2単位分に相当する所定時間後までの範囲内の
字幕文を抽出し、抽出した字幕文を一旦蓄積するととも
に、この蓄積の際に、各単位の字幕文の文頭タイミング
情報をタイマを利用して付加しておき、抽出・蓄積機能
を発揮することで抽出・蓄積した字幕文を、その文頭タ
イミング情報に伴って読み出す。
In steps S2 to S4, the subtitle extracting / accumulating / reading unit 17 selects at least a predetermined time corresponding to the two units from the subtitle sentence text separated and extracted by the subtitle program receiving tuner 15. The subtitle sentences within the range are extracted, and the extracted subtitle sentences are temporarily stored. At the time of this accumulation, the head timing information of each unit of the subtitle sentences is added using a timer, and the extraction / storage function is performed. The subtitle sentence extracted and accumulated by displaying is read out along with the sentence head timing information.

【0056】ステップS5において、字幕抽出・蓄積・
読出部17は、読み出した字幕文とその文頭タイミング
情報とを入力として、タイミング演算機能を発揮するこ
とで、次の単位の字幕文との間のポーズの有無を検出す
る。実際には、対応するアナウンス音声中における例え
ば2秒以上等の所定時間を超える無音区間すなわちポー
ズの有無を検出する。ポーズの有無を検出するにあたっ
ては、当該字幕文の文字種、文字数、又は平均的な文字
読み速度などから、当該単位の字幕文相互間の文末タイ
ミングを求め、次単位の字幕文の文頭タイミングと比較
することでポーズの有無を検出する。ここで、ポーズの
有無を検出する趣旨は、このポーズの前後では、時間的
にも内容的にも相異なる字幕文となるのが通常であるた
め、したがって、ポーズの前と後の各字幕文を別の提示
単位字幕文として字幕文テキストの分割処理等を行うの
に使用する趣旨である。さて、字幕抽出・蓄積・読出部
17は、タイミング演算機能を発揮することで、さら
に、現行字幕放送下での二行目に相当する提示単位字幕
文の文頭タイミングも、必要に応じて演算で求めてい
る。その理由は、現行字幕放送の字幕文の1頁と、2頁
の一行目とから、新たな1頁目の三行提示字幕を生成し
たとすると、新たな2頁目の字幕は、現行2頁目の二行
目と、3頁目の一及び二行目とで構成することとなり、
この新たな2頁目の開始タイミングは、内容的には現行
2頁の二行目の開始タイミングでなければならないため
である。その求め方は、当該字幕文の一行目の文字種、
文字数、又は平均的な文字読み速度などから、一行目の
所要時間を演算し、文頭タイミング時間に加えるように
する。
In step S5, subtitle extraction / accumulation /
The reading unit 17 receives the read subtitle sentence and the sentence head timing information as inputs, and performs a timing calculation function to detect the presence or absence of a pause between the next unit of subtitle sentence. In practice, the presence or absence of a pause in the corresponding announcement sound that exceeds a predetermined time, for example, 2 seconds or more, that is, a pause is detected. To detect the presence or absence of a pause, calculate the end timing between subtitle sentences in the relevant unit based on the character type, number of characters, or average character reading speed of the relevant subtitle sentence, and compare it with the beginning timing of the next unit of subtitle sentences. To detect the presence or absence of a pause. Here, the purpose of detecting the presence / absence of a pause is that, before and after this pause, the caption sentences that are different in time and content are usually different. Is used as a separate presentation unit subtitle sentence to perform processing such as division of subtitle sentence text. By performing the timing calculation function, the caption extraction / accumulation / reading unit 17 further calculates the head timing of the presentation unit caption sentence corresponding to the second line under the current caption broadcast, as necessary. I'm asking. The reason is that if a new three-line presentation subtitle of the first page is generated from the first line of the subtitle text of the current subtitle broadcast and the first line of the second page, the new subtitle of the second page is It will consist of the second line of the page and the first and second lines of the third page,
This is because the start timing of the new second page must be the start timing of the second line of the current two pages. How to find it, the character type of the first line of the caption sentence,
The required time of the first line is calculated from the number of characters, the average character reading speed, and the like, and is added to the sentence start timing time.

【0057】ステップS6において、要約部19は、字
幕抽出・蓄積・読出部17で読み出された字幕文を対象
とした要約を行う。これは、字幕文字数を減らして字幕
を読みやすくしたい場合等に適用し、例えば字幕文の文
末を対象とした簡略化や、字幕文中に含まれる特定の単
語を出現したとき、これを簡略化するなどの手法によ
る。したがって、例えば、そのまま提示したのでは文字
数が多過ぎて読取りが困難又は冗長な字幕文テキストが
送られてきた場合であっても、これを適宜要約した字幕
文を提示可能となる結果として、好ましい字幕文の提示
環境を構築することができる。しかし、本ステップS6
は、本字幕番組受信システムにとって必ずしも必須の処
理要素ではなく、例えば、放送局から送られてきた字幕
文テキストをそのまま字幕として使用するのが適当な番
組等においては、提示形式指示による視聴者の提示でこ
れを省略可能である。本例では、要約が省略された形態
を例示して以下の説明を行う。
In step S 6, the summarizing section 19 summarizes the subtitle sentences read by the subtitle extracting / accumulating / reading section 17. This is applied to cases where it is desired to reduce the number of subtitle characters to make the subtitles easier to read.For example, simplification for the end of the subtitle sentence or simplification when a specific word included in the subtitle sentence appears Depending on the method. Therefore, for example, even if the text is sent as it is and the number of characters is too large to read or it is difficult to read the text, it is preferable as a result that the caption text that appropriately summarizes the text can be presented. It is possible to construct a subtitle sentence presentation environment. However, this step S6
Is not an essential processing element for the present subtitle program reception system.For example, in a program or the like in which it is appropriate to use subtitle sentence text sent from a broadcast station as it is as a subtitle, viewer This can be omitted in the presentation. In this example, the following description will be given by exemplifying a form in which the abstract is omitted.

【0058】ステップS7乃至S10において、提示形
式変換部35は、字幕抽出・蓄積・読出部17で読み出
された字幕文を、この字幕文、これに付加されている区
切り可能箇所情報、及び提示形式指示入力部31を介し
て指示入力された字幕提示形式に基づいて、字幕提示形
式に従う提示単位字幕文に変換する。
In steps S7 to S10, the presentation format conversion unit 35 converts the subtitle text read by the subtitle extraction / accumulation / readout unit 17 into the subtitle text, the delimitable location information added thereto, and the presentation. Based on the subtitle presentation format instructed through the format instruction input unit 31, the content is converted into a presentation unit subtitle sentence according to the subtitle presentation format.

【0059】詳しく述べると、提示形式変換部35は、
字幕抽出・蓄積・読出部17で読み出された、区切り可
能箇所情報が付加されている字幕文を、ステップS1で
指示入力された第1の字幕提示形式に従う提示単位字幕
文に変換するにあたり、字幕文を適宜分割することで提
示単位字幕配列案を作成し(ステップS7)、ステップ
S8で示す改行・改頁データ(分割ルール)を含む区切
り可能箇所情報を参照して、ステップS7で作成された
提示単位字幕配列案の改行・改頁点を最適化することで
提示単位字幕配列を確定(ステップS9乃至S10)す
ることにより、字幕文を最適箇所で三行の各提示単位字
幕文に分割するようにして、字幕文を、字幕提示形式に
従う提示単位字幕文に変換する。
More specifically, the presentation format conversion unit 35
In converting the caption text read by the caption extraction / accumulation / reading unit 17 to which the delimitable portion information is added into a presentation unit caption text in accordance with the first caption presentation format instructed and input in step S1, A presentation unit subtitle arrangement plan is created by appropriately dividing the subtitle sentence (step S7), and is created in step S7 with reference to delimitable place information including line feed / page break data (division rule) shown in step S8. By deciding the presentation unit subtitle array by optimizing the line feed / page break point of the proposed presentation unit subtitle array plan (steps S9 to S10), the subtitle sentence is divided into three lines of presentation unit subtitle sentences at the optimum location. Then, the subtitle text is converted into a presentation unit subtitle text according to the subtitle presentation format.

【0060】したがって、字幕文を字幕提示形式に従う
提示単位字幕文に変換するにあたり、区切り可能箇所情
報を参照することで、見やすく読みやすい最適な提示形
式変換を実現することができる。
Therefore, when converting a subtitle sentence into a presentation unit subtitle sentence in accordance with a subtitle presentation format, an optimum presentation format conversion that is easy to see and read can be realized by referring to the delimitable portion information.

【0061】具体的には、受信した字幕文に含まれる改
行記号を利用するとともに、文節データがあればこれも
利用する。そのほか、区切り可能箇所情報を参照して、
ステップS7で作成された提示単位字幕配列案を最適化
するにあたり、ステップS8で示す改行・改頁データ
(分割ルール)で定義される改行・改頁推奨箇所は、第
1に、直前の改行・改頁点からN(提示する字幕一行の
最大文字数)−7とN文字の範囲にある句点、第2に、
直前の改行・改頁点からN−4とN文字の範囲にある読
点、第3に、「・」を挟む漢字・カナ文字がM個(N以
下、N/4以上)連続する箇所の先頭が、直前の改行・
改頁点からN−M以上で、「・」位置がN以下の時は
「・」の後ろ、第4に、漢字・カナ文字・アラビア数字
がM個(N以下、N/4以上)連続する箇所の先頭が、
直前の改行・改頁点からN−M以上の時は先頭の前、第
5に、直前の改行・改頁点からN−3文字後、のうちい
ずれか1又は複数の組み合わせを含んでおり、この改行
・改頁データ(分割ルール)を適用するにあたっては、
前記記述順の先頭から優先的に適用するようにする。
Specifically, a line feed symbol included in the received caption text is used, and if there is phrase data, this is also used. In addition, refer to the delimitable location information,
In optimizing the presentation unit subtitle arrangement draft created in step S7, the recommended line feed / page break defined by the line feed / page break data (division rule) shown in step S8 is, first, the immediately preceding line feed / line feed. From the page break point, N (maximum number of characters in one line of subtitles to be presented)-7 and the punctuation in the range of N characters.
Third, the reading point in the range of N-4 and N characters from the previous line feed / page break point. Third, the beginning of the M (N or less, N / 4 or more) consecutive Kanji / Kana characters sandwiching "." But the line break
Fourth, M characters (N or less, N / 4 or more) of Kanji, Kana, or Arabic numerals after "-" when the position is N-M or more and "." The beginning of the
If it is more than NM from the previous line feed / page break point, it includes any one or more of the following: before the head, fifthly, N-3 characters after the previous line feed / page break point. When applying this line feed / page break data (division rule),
The application is preferentially applied from the head of the description order.

【0062】このようにすれば、さらに実情に即して高
精度に最適化された提示形式変換を実現することができ
る。
In this way, it is possible to realize a presentation format conversion that is optimized with high precision in accordance with the actual situation.

【0063】なお、ステップS10における提示単位字
幕配列確定処理において、提示単位字幕配列案に対応す
る音声アナウンス中におけるポーズの有無を、ステップ
S5におけるタイミング演算処理からの情報をもとに調
査し、この調査の結果、ポーズが有る場合にはポーズ以
前の字幕文から新たに提示単位字幕配列を再変換するよ
うにする。
In the presentation unit subtitle arrangement determination processing in step S10, the presence or absence of a pause during the audio announcement corresponding to the presentation unit subtitle arrangement plan is investigated based on information from the timing calculation processing in step S5. As a result of the investigation, if there is a pause, the presentation unit subtitle array is re-converted from the subtitle sentence before the pause.

【0064】ここで、ステップS10において提示単位
字幕配列、すなわち提示単位字幕文に対応する音声アナ
ウンス中におけるポーズの有無を調査する趣旨は、提示
単位字幕文に対応する音声アナウンス中に所定時間を超
えるポーズが存在するということは、この提示単位字幕
文は、相互に時間的に離れており、かつ内容的にも複数
の相異なる場面に対応する字幕文を含んで構成されてい
るおそれがあり、これらの字幕文を一つの提示単位字幕
文とみなしたのでは好ましくないおそれがあるからであ
る。これにより、ステップS10で一旦確定された提示
単位字幕文の妥当性を、対応するアナウンス音声の観点
から再検証可能となる結果として、好ましい提示単位字
幕文の変換確定に多大な貢献を果たすことができる。
Here, in step S10, the purpose of examining the presentation unit subtitle array, that is, the presence or absence of a pause during the audio announcement corresponding to the presentation unit subtitle sentence, exceeds a predetermined time during the audio announcement corresponding to the presentation unit subtitle sentence. The presence of the pause means that the presentation unit subtitle sentences may be temporally separated from each other and include subtitle sentences corresponding to a plurality of different scenes in terms of content, If these caption sentences are regarded as one presentation unit caption sentence, there is a possibility that it is not preferable. As a result, the validity of the presentation unit subtitle sentence once determined in step S10 can be re-verified from the viewpoint of the corresponding announcement sound. it can.

【0065】ステップS11乃至S15において、ステ
ップS10における提示単位字幕配列が確定すると、確
定した配列の先頭・最後の字幕文字が判るので、前記の
文頭に付加したタイミング情報や、ステップS5及びS
12におけるタイミング演算結果を利用することによっ
て、番組映像若しくは音声との間の相対時間同期を考慮
した提示開始・提示終了を行うことが可能となる。絶対
時間同期は、後述の時間遅延部26の設定で行う。な
お、ステップS12の終点タイム算出処理は、ステップ
S5のタイミング演算処理に含めることも可能である。
In steps S11 to S15, when the presentation unit subtitle arrangement in step S10 is determined, the first and last subtitle characters of the determined arrangement are known, so that the timing information added to the beginning of the sentence, the steps S5 and S5
By using the result of the timing calculation in step 12, it is possible to start and end the presentation in consideration of the relative time synchronization with the program video or audio. The absolute time synchronization is performed by setting a time delay unit 26 described later. Note that the end point time calculation processing in step S12 can be included in the timing calculation processing in step S5.

【0066】具体的には、字幕番組受信チューナ15か
ら分離して取り出された映像信号は、映像遅延部26に
おける映像の遅延処理や、映像処理部27における映像
の圧縮処理又は字幕が表示される映像領域のレベル制御
などの処理を施した後、字幕合成処理部29において、
NTSC変換器25から送出されるNTSC信号化字幕
信号との字幕キー合成や混合処理を施すことにより字幕
番組となる。2頁目以降の提示単位字幕についても、上
述と同様に行われる。このとき、映像処理や字幕合成処
理の処理内容も、当然提示形式指示に従って実行され
る。
More specifically, the video signal separated and taken out from the subtitle program receiving tuner 15 displays the video delay processing in the video delay section 26, the video compression processing in the video processing section 27 or the subtitle. After performing processing such as level control of the video area, the caption synthesis processing unit 29
A subtitle program is obtained by performing subtitle key synthesis and mixing with the NTSC signalized subtitle signal sent from the NTSC converter 25. The presentation unit subtitles for the second and subsequent pages are performed in the same manner as described above. At this time, the processing contents of the video processing and the subtitle synthesizing processing are naturally executed in accordance with the presentation format instruction.

【0067】次に、三行縦スクロール形式を内容とする
第2の字幕提示形式を適用した字幕番組受信システムに
おける字幕番組構成手順について、図3に示すフローチ
ャート図を参照して、上述した第1の字幕提示形式を適
用した字幕番組受信システムにおける字幕番組構成手順
との相違点を中心に説明すると、その相違点は、図3に
おけるステップS11乃至S15に示すように、所定時
間以上のポーズを切れ目としたスクロール提示単位字幕
文を作成し、この提示単位字幕文について、ステップS
5におけるタイミング演算からのタイミングに応じて表
示開始、スクロール開始、スクロール終了、表示終了を
行う点である。なお、スクロール終了タイミングは、固
定若しくはステップS5におけるタイミング演算からの
スクロール速度で代替可能である。また、提示単位とし
て選択した提示単位字幕群を三行縦スクロールさせる手
法は、周知の手法を適用すればよい。
Next, a subtitle program configuration procedure in a subtitle program receiving system to which a second subtitle presentation format having a three-line vertical scroll format is applied will be described with reference to the flowchart shown in FIG. The following describes mainly the differences from the subtitle program configuration procedure in the subtitle program receiving system to which the subtitle presentation format is applied, as shown in steps S11 to S15 in FIG. A scroll presentation unit subtitle sentence is created, and the presentation unit subtitle sentence is created in step S
5 is that display start, scroll start, scroll end, and display end are performed according to the timing from the timing calculation in 5. The scroll end timing can be fixed or replaced with a scroll speed obtained from the timing calculation in step S5. A well-known method may be applied to the method of vertically scrolling the presentation unit subtitle group selected as the presentation unit by three lines.

【0068】ここで、映像遅延部26における映像の時
間遅延処理を設けた趣旨を説明すると、例えば二行字幕
提示を前提にこの二行の開始点が映像・音声とタイミン
グが合った状態で送信されてきた字幕信号を、上述した
第1乃至第2の字幕提示形式に従う本実施形態のように
三行字幕提示に変換する場合には、二行目の字幕文を受
信してから、三行目の字幕文を受信するまでの間に時間
差を生じるので、少なくともこの時間差分だけ三行字幕
の提示は待たされることになる。したがって、この三行
字幕の一行目と二行目の字幕文は、映像・音声に対して
少なくともこの待ち時間分だけ遅れることになる。そこ
で、字幕処理に伴う映像・音声信号との間のタイミング
のずれは、映像遅延部26における映像信号の遅延時間
処理で解消するようにしている。このときの遅延時間
は、例えば3〜5秒程度である。
Here, the purpose of providing the image time delay processing in the image delay unit 26 will be described. For example, on the premise that two lines of subtitles are presented, the start points of these two lines are transmitted in a state where the timing matches with the video / audio. In the case where the subtitle signal is converted to the three-line subtitle presentation as in the present embodiment according to the above-described first or second subtitle presentation format, the three-line subtitle sentence is received after the second-line subtitle sentence is received. Since a time difference occurs until the caption sentence of the eye is received, the presentation of the three-line caption is awaited at least by the time difference. Therefore, the caption sentences on the first and second lines of the three-line caption are delayed by at least this waiting time with respect to the video and audio. Therefore, the timing difference between the video and audio signals due to the caption processing is eliminated by the video signal delay time processing in the video delay unit 26. The delay time at this time is, for example, about 3 to 5 seconds.

【0069】なお、字幕提示形式として一行字幕提示又
は二行字幕提示を選択した場合には、総入換え形式、又
は縦・横スクロール形式のいずれの場合であっても、構
成や処理は三行の場合と比較してはるかに簡単になる。
それは、提示すべき字幕文の開始タイミングが映像・音
声のタイミングと同一又はそれ以前であるので、本質的
に映像の遅延処理は不要であり、また、この場合、ステ
ップS5におけるタイミング演算での所定時間を越える
ポーズの検出、及び分割最適化は不要となるので、その
構成を簡易化することができる。しかし、一行字幕提示
では、受信した字幕文テキストの二行目タイミング演算
は必須である。
When one-line subtitle presentation or two-line subtitle presentation is selected as the subtitle presentation format, the configuration and processing are performed in three lines regardless of the total replacement format or the vertical / horizontal scroll format. Much easier than in the case.
Since the start timing of the caption sentence to be presented is the same as or earlier than the timing of the video / audio, the delay processing of the video is essentially unnecessary, and in this case, the predetermined timing in the timing calculation in step S5 Since the detection of the pause exceeding the time and the optimization of the division are not required, the configuration can be simplified. However, in the one-line caption presentation, the second-line timing calculation of the received caption text is indispensable.

【0070】以上述べたように、本発明に係る字幕番組
受信システムによれば、映像・音声に伴って、提示すべ
き字幕の基となる字幕文テキストを含む放送電波が放送
局から送られてくることを前提とし、受信した放送電波
から分離して取り出した字幕文テキストと、視聴者が選
択した字幕提示形式とから、字幕文テキストの提示単位
への変換、それに対応するタイミング情報検出、及び映
像との合成処理を自動設定し、視聴者が選択した字幕提
示形式に従う字幕番組を視聴可能となる結果として、視
聴者の要望をより満たすとともに、字幕番組を広く一般
に普及させるといった所期の目的達成を期待することが
できる。
As described above, according to the closed caption program receiving system of the present invention, the broadcast radio wave including the closed caption sentence text as the basis of the closed caption to be presented is transmitted from the broadcast station along with the video and audio. Assuming that the subtitle sentence text is separated and received from the received broadcast airwaves, and from the subtitle presentation format selected by the viewer, conversion of the subtitle sentence text into presentation units, corresponding timing information detection, and The intended purpose of automatically setting the process of synthesizing with the video and allowing the viewer to view the subtitle program that follows the subtitle presentation format selected by the viewer, thereby meeting the needs of the viewer more and disseminating the subtitle program to the general public. You can expect to achieve it.

【0071】なお、本発明は、上述した実施形態の例に
限定されることなく、請求の範囲内において適宜の変更
を加えることにより、その他の態様で実施可能であるこ
とは言うまでもない。
It is needless to say that the present invention is not limited to the above-described embodiment, but can be embodied in other forms by making appropriate changes within the scope of the claims.

【0072】[0072]

【発明の効果】以上詳細に説明したように、請求項1の
発明によれば、映像・音声に伴って、提示すべき字幕の
基となる字幕文テキストを含む放送電波が送られてくる
ことを前提とし、受信した放送電波から分離して取り出
した字幕文テキストと、視聴者が選択した字幕提示形式
とから、字幕文テキストの提示単位への変換、それに対
応するタイミング情報検出、及び映像との合成処理を自
動設定し、視聴者が選択した字幕提示形式に従う字幕番
組を視聴可能となる結果として、視聴者の要望をより満
たすとともに、字幕番組を広く一般に普及させるといっ
た所期の目的達成を期待することができる。
As described above in detail, according to the first aspect of the present invention, a broadcast radio wave including a caption sentence text as a base of a caption to be presented is transmitted along with a video / audio. Assuming that the subtitle text extracted separately from the received broadcast airwaves and the subtitle presentation format selected by the viewer, the conversion of the subtitle text to the presentation unit, the corresponding timing information detection, and the video As a result of automatically setting the synthesizing process of subtitles and allowing viewers to view subtitle programs that follow the subtitle presentation format selected by the viewer, the desired goal of satisfying the needs of viewers and disseminating subtitle programs widely to the general public is achieved. You can expect.

【0073】また、請求項2の発明によれば、例えば、
そのまま提示したのでは文字数が多過ぎて読取りが困難
又は冗長な字幕文テキストが送られてきた場合であって
も、これを適宜要約した字幕文を提示可能となる結果と
して、好ましい字幕文の提示環境を構築することができ
る。
According to the second aspect of the present invention, for example,
Even if it is difficult to read or redundant caption text is sent because the number of characters is too large to be presented as it is, it is possible to present a caption sentence that summarizes this appropriately, as a result, a preferable caption text is presented. An environment can be built.

【0074】さらに、請求項3の発明によれば、字幕文
を字幕提示形式に従う提示単位字幕文に変換するにあた
り、区切り可能箇所情報を適用することで、見やすく読
みやすい最適な提示形式変換を実現することができる。
Further, according to the third aspect of the present invention, in converting a subtitle sentence into a presentation unit subtitle sentence according to a subtitle presentation format, by applying delimitable portion information, an optimal presentation format conversion that is easy to read and read is realized. can do.

【0075】さらにまた、請求項4の発明によれば、さ
らに実情に即して高精度に最適化された提示形式変換を
実現可能な字幕番組受信システムを得ることができる。
Further, according to the fourth aspect of the present invention, it is possible to obtain a closed-caption program receiving system capable of realizing a presentation format conversion that is optimized with high precision in accordance with the actual situation.

【0076】しかも、請求項5の発明によれば、提示単
位字幕文に対応する音声アナウンス中に所定時間を超え
るポーズが存在するということは、この提示単位字幕文
は、相互に時間的に離れており、かつ内容的にも複数の
相異なる場面に対応する字幕文を含んで構成されている
おそれがあり、これらの字幕文を一つの提示単位字幕文
とみなしたのでは好ましくないおそれがあるのに対し、
一旦確定された提示単位字幕文の妥当性を、対応するア
ナウンス音声の観点から再検証可能となる結果として、
好ましい提示単位字幕文の変換確定に多大な貢献を果た
すことができる。
Further, according to the fifth aspect of the present invention, the fact that there is a pause exceeding a predetermined time in the audio announcement corresponding to the presentation unit subtitle sentence means that the presentation unit subtitle sentences are separated from each other in time. And may also be configured to include subtitle sentences corresponding to a plurality of different scenes in terms of content, and it may not be preferable to consider these subtitle sentences as one presentation unit subtitle sentence Whereas
As a result of being able to re-verify the validity of the presentation unit caption sentence once confirmed from the viewpoint of the corresponding announcement sound,
A great contribution can be made to the conversion of preferred presentation subtitle sentences.

【0077】そして、請求項6の発明によれば、提示単
位字幕文に対応する映像の提示タイミングと、この提示
単位字幕文の提示タイミングとが同期した望ましい字幕
番組を提示可能な字幕番組受信システムを実現すること
ができるというきわめて優れた効果を奏する。
According to the invention of claim 6, a subtitle program receiving system capable of presenting a desired subtitle program in which the presentation timing of the video corresponding to the presentation unit subtitle sentence and the presentation timing of the presentation unit subtitle sentence are synchronized. Can be realized.

【図面の簡単な説明】[Brief description of the drawings]

【図1】図1は、本発明に係る字幕番組受信システムの
機能ブロック構成図である。
FIG. 1 is a functional block configuration diagram of a subtitle program receiving system according to the present invention.

【図2】図2は、第1の字幕提示形式を適用した字幕番
組受信システムにおける字幕番組構成手順を表すフロー
チャート図である。
FIG. 2 is a flowchart illustrating a subtitle program configuration procedure in a subtitle program receiving system to which a first subtitle presentation format is applied;

【図3】図3は、第2の字幕提示形式を適用した字幕番
組受信システムにおける字幕番組構成手順を表すフロー
チャート図である。
FIG. 3 is a flowchart showing a subtitle program configuration procedure in a subtitle program receiving system to which a second subtitle presentation format is applied;

【符号の説明】[Explanation of symbols]

11 字幕番組受信システム 13 受信アンテナ 15 字幕番組受信チューナ(受信手段) 17 字幕抽出・蓄積・読出部(字幕抽出・蓄積・読出
手段) 19 要約部(要約手段) 21 提示形式指示入力部(提示形式指示入力手段) 23 提示形式変換部(提示形式変換手段) 25 NTSC変換器 26 映像遅延部 27 映像処理部 29 字幕合成処理部(字幕合成手段)
11 Closed Caption Program Receiving System 13 Receiving Antenna 15 Closed Caption Program Receiving Tuner (Receiving Means) 17 Closed Caption Extraction / Storing / Reading Unit (Caption Extracting / Storing / Reading Means) 19 Summarizing Unit (Summing Means) 21 Presentation Format Instruction Input Unit (Presentation Format) Instruction input means) 23 presentation format conversion unit (presentation format conversion means) 25 NTSC converter 26 video delay unit 27 video processing unit 29 subtitle synthesis processing unit (subtitle synthesis unit)

───────────────────────────────────────────────────── フロントページの続き (71)出願人 000004352 日本放送協会 東京都渋谷区神南2丁目2番1号 (72)発明者 沢村 英治 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 福島 孝博 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 江原 暉将 東京都港区芝2−31−19 通信・放送機構 内 (72)発明者 白井 克彦 東京都港区芝2−31−19 通信・放送機構 内 Fターム(参考) 5C023 AA04 AA18 AA38 CA05 DA01 5C025 BA25 BA27 BA28 CA10 CA12 DA05  ────────────────────────────────────────────────── ─── Continuation of front page (71) Applicant 000004352 Japan Broadcasting Corporation 2-2-1 Jinnan, Shibuya-ku, Tokyo (72) Inventor Eiji Sawamura 2-31-19 Shiba, Minato-ku, Tokyo 72) Inventor Takahiro Fukushima 2-31-19 Shiba, Minato-ku, Tokyo Communication and Broadcasting Corporation (72) Inventor Terumasa Ehara 2-31-19 Shiba in Minato-ku Tokyo, Japan Communication and Broadcasting Corporation (72) Inventor Shirai Katsuhiko F-term (reference) 2-31-19 Shiba, Minato-ku, Tokyo 5C023 AA04 AA18 AA38 CA05 DA01 5C025 BA25 BA27 BA28 CA10 CA12 DA05

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 映像及び音声、並びにこれらと所定のタ
イミングで送られてきた、提示すべき字幕の基となる字
幕文テキストを含む放送電波を受信するとともに、当該
受信した放送電波のなかから、映像、音声、及び字幕文
テキストを各々分離して取り出す受信手段と、 種々の字幕提示形式のなかから、所望の字幕提示形式を
選択的に指示入力する際に用いられる提示形式指示入力
手段と、 前記受信手段で分離して取り出した字幕文テキストと、
前記提示形式指示入力手段で指示入力された字幕提示形
式とに基づいて、前記字幕文テキストのなかから、所要
範囲内の字幕文を抽出し、当該抽出した字幕文を一旦蓄
積するとともに、当該蓄積の際に、各字幕文の文頭タイ
ミング情報を付加しておき、前記抽出・蓄積した字幕文
を、その文頭タイミング情報に伴って読み出す字幕抽出
・蓄積・読出手段と、 当該字幕抽出・蓄積・読出手段で読み出された字幕文
を、当該字幕文、及び前記提示形式指示入力手段で指示
入力された字幕提示形式に基づいて、この字幕提示形式
に従う少なくとも1以上の提示単位字幕文に変換する提
示形式変換手段と、 前記提示形式変換手段で提示形式変換後の少なくとも1
以上の提示単位字幕文と、前記受信手段で分離して取り
出した映像とを合成する字幕合成手段と、 を備えて構成されることを特徴とする字幕番組受信シス
テム。
1. A broadcast radio wave including video and audio, and a caption sentence text serving as a basis for a caption to be presented, which is transmitted at a predetermined timing together with the video and audio, and from among the received broadcast radio waves, Video, audio, and receiving means for separately extracting caption sentence text, and among various caption presentation formats, a presentation format instruction input means used when selectively instructing and inputting a desired subtitle presentation format, Subtitle sentence text separated and taken out by the receiving means,
A subtitle sentence within a required range is extracted from the subtitle sentence text based on the subtitle presentation format instructed and input by the presentation format instruction input means, and the extracted subtitle sentence is temporarily stored, and stored. In this case, the subtitle extraction / accumulation / reading means for adding the head timing information of each subtitle sentence and reading out the extracted / accumulated subtitle sentence along with the head timing information; Means for converting the subtitle sentence read by the means into at least one or more presentation unit subtitle sentences according to the subtitle presentation format based on the subtitle text and the subtitle presentation format instructed and input by the presentation format instruction input means. Format conversion means, and at least one of the presentation formats converted by the presentation format conversion means.
A subtitle program receiving system, comprising: a subtitle synthesizing unit that synthesizes the above-described presentation unit subtitle sentence and a video separated and extracted by the receiving unit.
【請求項2】 請求項1に記載の字幕番組受信システム
であって、 前記字幕抽出・蓄積・読出手段で読み出された字幕文を
要約することでその要約文を作成する要約手段をさらに
備え、この場合、要約手段で作成された要約文は、字幕
文として前記提示形式変換手段に与えられることを特徴
とする字幕番組受信システム。
2. The subtitle program receiving system according to claim 1, further comprising: a summarizing unit for summarizing the subtitle sentences read by the subtitle extracting / accumulating / reading unit to create a summary sentence. In this case, the summary sentence created by the summarizing means is provided to the presentation format converting means as a caption sentence.
【請求項3】 請求項1又は2のうちいずれか一項に記
載の字幕番組受信システムであって、 前記提示形式変換手段は、 区切り可能箇所情報が付加されている字幕文を、前記字
幕提示形式に従う少なくとも1以上の提示単位字幕文に
変換するにあたり、 当該字幕文を適宜分割することで提示単位字幕配列案を
作成し、前記区切り可能箇所情報を参照して、前記作成
された提示単位字幕配列案を最適化することで提示単位
字幕配列を確定することにより、字幕文を最適箇所で各
提示単位字幕文に分割するようにして、前記字幕文を、
前記字幕提示形式に従う提示単位字幕文に変換すること
を特徴とする字幕番組受信システム。
3. The closed-caption program receiving system according to claim 1, wherein the presentation format conversion unit displays the closed-caption text to which delimitable location information has been added. In converting into at least one or more presentation unit subtitle sentences according to the format, a presentation unit subtitle arrangement plan is created by appropriately dividing the subtitle sentences, and the created presentation unit subtitles are referred to by referring to the delimitable portion information. By deciding the presentation unit subtitle arrangement by optimizing the arrangement plan, the subtitle sentence is divided into each presentation unit subtitle sentence at the optimum position,
A subtitle program receiving system, wherein the subtitle program is converted into a presentation unit subtitle sentence according to the subtitle presentation format.
【請求項4】 請求項3に記載の字幕番組受信システム
であって、 前記区切り可能箇所情報を参照して、前記作成された提
示単位字幕配列案を最適化するにあたり、 前記区切り可能箇所情報は、前記字幕文に対する改行・
改頁推奨箇所に係る改行・改頁データを含んでおり、し
かも、当該改行・改頁データで定義される改行・改頁推
奨箇所は、第1に、直前の改行・改頁点からN(提示す
る字幕一行の最大文字数)−7とN文字の範囲にある句
点、第2に、直前の改行・改頁点からN−4とN文字の
範囲にある読点、第3に、「・」を挟む漢字・カナ文字
がM個(N以下、N/4以上)連続する箇所の先頭が、
直前の改行・改頁点からN−M以上で、「・」位置がN
以下の時は「・」の後ろ、第4に、漢字・カナ文字・ア
ラビア数字がM個(N以下、N/4以上)連続する箇所
の先頭が、直前の改行・改頁点からN−M以上の時は先
頭の前、第5に、直前の改行・改頁点からN−3文字
後、のうちいずれか1又は複数の組み合わせを含んでお
り、 当該改行・改頁データを適用するにあたっては、前記記
述順の先頭から優先的に適用することを特徴とする字幕
番組受信システム。
4. The closed caption program receiving system according to claim 3, wherein, in referring to the delimitable location information and optimizing the created presentation unit subtitle arrangement plan, the delimitable location information is , Line feed for the caption sentence
The line feed / page break recommended data includes the line feed / page break data related to the recommended line feed / page break data, and the line feed / page break recommended part defined by the line feed / page break data is first N (N ( (Maximum number of characters in one line of subtitles to be presented) -7 and punctuation marks in the range of N characters, secondly, reading marks in the range of N-4 and N characters from the previous line break / page break point, and thirdly, "." The beginning of a portion where M (K is N or less, N / 4 or more) consecutive Kanji / Kana characters
"-" Position is N or more than N-M from the previous line feed / page break point
In the following cases, after the ".", Fourthly, the beginning of the portion where M kanji / kana characters / Arabic numerals are consecutive (N or less, N / 4 or more) is N- When the number is M or more, any one or a plurality of combinations before the head and fifthly, N-3 characters after the previous line feed / page break point are included, and the relevant line feed / page break data is applied. In this case, the subtitle program receiving system is applied with priority from the head of the description order.
【請求項5】 請求項3又は4のうちいずれか一項に記
載の字幕番組受信システムであって、 前記作成された提示単位字幕配列案を最適化するにあた
り、 前記提示単位字幕配列案に対応する音声アナウンス中に
所定時間を超えるポーズが有る場合には、このポーズ以
前の字幕文から新たに提示単位字幕配列を再変換するこ
とを特徴とする字幕番組受信システム。
5. The closed-caption program receiving system according to claim 3, wherein, in optimizing the created presentation unit subtitle arrangement plan, the presentation unit subtitle arrangement plan corresponds to the presentation unit subtitle arrangement plan. A subtitle program receiving system characterized by re-converting a presentation unit subtitle array from a subtitle sentence before the pause when a pause exceeding a predetermined time is present during a sound announcement to be made.
【請求項6】 請求項1乃至5のうちいずれか一項に記
載の字幕番組受信システムであって、 前記字幕合成手段は、 前記提示形式変換手段で提示形式変換後の少なくとも1
以上の提示単位字幕文と、前記受信手段で分離して取り
出した映像とを、当該両者間の時間同期を考慮しつつ合
成するにあたり、 前記提示単位字幕文に対応する映像の提示タイミング
を、当該提示単位字幕文の提示タイミングと比較して時
間的に遅延させることにより、前記両提示タイミングを
同期させることを特徴とする字幕番組受信システム。
6. The closed-caption program receiving system according to claim 1, wherein the closed-caption synthesizing unit is configured to convert at least one of the closed captions after the presentation format conversion by the presentation format conversion unit.
In synthesizing the presentation unit subtitle sentence and the video separated and taken out by the receiving unit while considering the time synchronization between the two, the presentation timing of the video corresponding to the presentation unit subtitle sentence is A subtitle program receiving system, characterized in that the two presentation timings are synchronized by delaying the presentation timing of the presentation unit subtitle sentences with respect to time.
JP07832499A 1999-03-23 1999-03-23 Subtitle program reception system Expired - Fee Related JP4210724B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP07832499A JP4210724B2 (en) 1999-03-23 1999-03-23 Subtitle program reception system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP07832499A JP4210724B2 (en) 1999-03-23 1999-03-23 Subtitle program reception system

Publications (2)

Publication Number Publication Date
JP2000278622A true JP2000278622A (en) 2000-10-06
JP4210724B2 JP4210724B2 (en) 2009-01-21

Family

ID=13658792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP07832499A Expired - Fee Related JP4210724B2 (en) 1999-03-23 1999-03-23 Subtitle program reception system

Country Status (1)

Country Link
JP (1) JP4210724B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003505945A (en) * 1999-07-15 2003-02-12 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Method and apparatus for displaying multimedia information with a broadcast program
EP1434439A1 (en) * 2002-12-26 2004-06-30 Microsoft Corporation Synchronization mechanism for multimedia captioning and audio description
WO2004090859A1 (en) * 2003-04-01 2004-10-21 Sony Corporation Data synthesis device and data synthesis method
JP2007336478A (en) * 2006-06-19 2007-12-27 Sharp Corp Output method and output apparatus
US7356439B2 (en) 2002-11-27 2008-04-08 Samsung Electronics Co., Ltd. Motion detection apparatus and method
US7676737B2 (en) 2003-04-10 2010-03-09 Microsoft Corporation Synchronization mechanism and the implementation for multimedia captioning and audio descriptions

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102082923A (en) * 2009-11-30 2011-06-01 新奥特(北京)视频技术有限公司 Subtitle replacing method and device adopting subtitle templates
CN102752550A (en) * 2011-07-28 2012-10-24 新奥特(北京)视频技术有限公司 Method and system for generating caption formwork

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003505945A (en) * 1999-07-15 2003-02-12 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Method and apparatus for displaying multimedia information with a broadcast program
JP4991064B2 (en) * 1999-07-15 2012-08-01 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Method and apparatus for displaying multimedia information together with a broadcast program
US7356439B2 (en) 2002-11-27 2008-04-08 Samsung Electronics Co., Ltd. Motion detection apparatus and method
EP1434439A1 (en) * 2002-12-26 2004-06-30 Microsoft Corporation Synchronization mechanism for multimedia captioning and audio description
KR20040062369A (en) * 2002-12-26 2004-07-07 마이크로소프트 코포레이션 Synchronization mechanism for multimedia captioning and audio description
US7631326B2 (en) 2002-12-26 2009-12-08 Microsoft Corporation Synchronization mechanism for multimedia captioning and audio description
WO2004090859A1 (en) * 2003-04-01 2004-10-21 Sony Corporation Data synthesis device and data synthesis method
US7605869B2 (en) 2003-04-01 2009-10-20 Sony Corporation Data combining device and data combining method
KR101023453B1 (en) 2003-04-01 2011-03-24 소니 주식회사 Data synthesis device and data synthesis method
US7676737B2 (en) 2003-04-10 2010-03-09 Microsoft Corporation Synchronization mechanism and the implementation for multimedia captioning and audio descriptions
JP2007336478A (en) * 2006-06-19 2007-12-27 Sharp Corp Output method and output apparatus

Also Published As

Publication number Publication date
JP4210724B2 (en) 2009-01-21

Similar Documents

Publication Publication Date Title
US6295093B1 (en) Closed-caption broadcasting and receiving method and apparatus thereof suitable for syllable characters
US5963265A (en) Closed-caption broadcasting and receiving method and apparatus suitable for syllable characters
CA2374491C (en) Methods and apparatus for the provision of user selected advanced closed captions
US6256072B1 (en) Closed-caption broadcasting and receiving method and apparatus thereof suitable for syllable characters
JP2001507180A (en) Method and apparatus for generating a modulated scroll route for text display
JP2003348547A (en) Method for off-image data display
JP3402533B2 (en) Teletext broadcast special playback device and teletext broadcast special playback device
JP2000278622A (en) Caption program reception system
JPH10234016A (en) Video signal processor, video display device and recording and reproducing device provided with the processor
JP2000350117A (en) Method for converting presentation form of caption text and method for providing timing information to caption
JP3048779B2 (en) Caption decoder device
KR0169230B1 (en) Viewer selant type caption broadcasting method with dual words caption transmission function
JPH0946657A (en) Closed caption decoder
JP2009218741A (en) Content display, content display method, program and recording medium
JP2000253312A (en) Method and system for producing program with subtitle
JP2001309267A (en) Digital broadcasting receiver
KR100292358B1 (en) Method for controlling displaying caption signal according to limitation condition
KR100565726B1 (en) Method of caption data transmission of caption broadcasting system
JPH09266450A (en) Video display device
KR0181894B1 (en) Addition information transformation and icon display methode of viewer selecting caption broadcasting
KR100206146B1 (en) Method for receiving and caption broadcasting of televiewer option
KR100194224B1 (en) Selective subtitle broadcasting method and receiving method
JPH0951511A (en) Teletext broadcasting receiver
KR100296929B1 (en) Image broadcasting system providing multiple subtitle services
JPH10313447A (en) Television receiver

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040513

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040517

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060302

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080520

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080812

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080910

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131107

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees