JP5266035B2 - Sign language video display device, sign language video display method, and program - Google Patents

Sign language video display device, sign language video display method, and program Download PDF

Info

Publication number
JP5266035B2
JP5266035B2 JP2008320901A JP2008320901A JP5266035B2 JP 5266035 B2 JP5266035 B2 JP 5266035B2 JP 2008320901 A JP2008320901 A JP 2008320901A JP 2008320901 A JP2008320901 A JP 2008320901A JP 5266035 B2 JP5266035 B2 JP 5266035B2
Authority
JP
Japan
Prior art keywords
setting information
display setting
sign language
video
program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008320901A
Other languages
Japanese (ja)
Other versions
JP2010147649A (en
Inventor
雄三 大嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ASTEM, INC.
Original Assignee
ASTEM, INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ASTEM, INC. filed Critical ASTEM, INC.
Priority to JP2008320901A priority Critical patent/JP5266035B2/en
Publication of JP2010147649A publication Critical patent/JP2010147649A/en
Application granted granted Critical
Publication of JP5266035B2 publication Critical patent/JP5266035B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a sign language video display apparatus which displays a sign language video using memorized display setting information. <P>SOLUTION: The apparatus includes: a program video reception unit 11 which receives a program video which is a video of a program; a sign language video reception unit 12 which receives a sign language video which is a video of a sign language corresponding to the program video; a display setting information memory unit 14 which memorizes display setting information including position information which is information regarding to a position displaying the sign language video; a display setting information acquisition unit 15 which acquires display setting information from the display setting information memory unit 14; and a display unit 16 which displays the sign language video received by the sign language video reception unit 12, and the program video received by the program video reception unit 11 according to the display setting information acquired by the display setting information acquisition unit 15. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、番組映像と手話映像とを表示する手話映像表示装置等に関する。   The present invention relates to a sign language video display device that displays a program video and a sign language video.

従来、番組映像と、その番組映像に関する手話映像とを表示する場合があった。その場合に、手話映像の表示位置が決まっていることがあった(例えば、特許文献1参照)。
特開2006−135828号公報
Conventionally, there are cases where a program video and a sign language video related to the program video are displayed. In that case, the display position of the sign language image may be determined (see, for example, Patent Document 1).
JP 2006-135828 A

手話映像が番組映像の表示領域内に表示される場合(例えば、番組映像の右上の領域などに、番組映像よりも小さい大きさの手話映像を表示する場合など)であって、手話映像の表示位置が決まっている場合には、不都合が生じる場合などがある。例えば、その番組映像において重要な領域が、手話映像によって隠されてしまう場合などである。   When sign language video is displayed within the program video display area (for example, when a sign language video smaller than the program video is displayed in the upper right area of the program video) When the position is determined, inconvenience may occur. For example, an important area in the program video is hidden by a sign language video.

本発明は、このような課題を解決するためになされたものであり、記憶されている表示設定情報を用いて、手話映像を表示する手話映像表示装置等を提供することを目的とする。   The present invention has been made to solve such a problem, and an object of the present invention is to provide a sign language video display device that displays a sign language video using stored display setting information.

上記目的を達成するため、本発明による手話映像表示装置は、番組の映像である番組映像を受け付ける番組映像受付部と、前記番組映像に対応した手話の映像である手話映像を受け付ける手話映像受付部と、前記手話映像を表示する位置に関する情報である位置情報を含む表示設定情報が記憶される表示設定情報記憶部と、前記表示設定情報記憶部から表示設定情報を取得する表示設定情報取得部と、前記表示設定情報取得部が取得した表示設定情報に応じて、前記手話映像受付部が受け付けた手話映像と、前記番組映像受付部が受け付けた番組映像とを表示する表示部と、を備えたものである。   To achieve the above object, a sign language video display device according to the present invention includes a program video reception unit that receives a program video that is a video of a program, and a sign language video reception unit that receives a sign language video corresponding to the program video. A display setting information storage unit that stores display setting information including position information that is information related to a position at which the sign language video is displayed; a display setting information acquisition unit that acquires display setting information from the display setting information storage unit; A display unit for displaying the sign language video received by the sign language video receiving unit and the program video received by the program video receiving unit according to the display setting information acquired by the display setting information acquiring unit. Is.

このような構成により、表示設定情報で示される表示位置に手話映像を表示することができる。その結果、表示設定情報が適切に設定されることによって、番組映像の重要な領域を隠さないように手話映像を表示することができるようになる。   With such a configuration, a sign language image can be displayed at the display position indicated by the display setting information. As a result, when the display setting information is appropriately set, the sign language video can be displayed so as not to hide the important area of the program video.

また、本発明による手話映像表示装置では、前記表示設定情報は、前記手話映像を表示する大きさに関する情報である大きさ情報をも含んでいてもよい。
このような構成により、表示設定情報によって、手話映像の大きさをも設定することができるようになる。
In the sign language image display device according to the present invention, the display setting information may include size information that is information related to a size for displaying the sign language image.
With such a configuration, the size of the sign language video can be set by the display setting information.

また、本発明による手話映像表示装置では、前記番組映像受付部が受け付ける番組映像に関連する情報である番組関連情報を受け付ける番組関連情報受付部をさらに備え、前記表示設定情報記憶部において、前記表示設定情報は、番組関連情報に対応付けられて記憶されており、前記表示設定情報取得部は、前記番組関連情報受付部が受け付けた番組関連情報に対応する表示設定情報を取得してもよい。   The sign language video display device according to the present invention further includes a program related information receiving unit that receives program related information that is information related to a program video received by the program video receiving unit, and the display setting information storage unit includes the display The setting information may be stored in association with the program related information, and the display setting information acquisition unit may acquire display setting information corresponding to the program related information received by the program related information reception unit.

このような構成により、番組関連情報に応じて表示設定情報を変更することができうる。例えば、ニュースなどでは、アナウンサーの顔や、ニュースのタイトル等をできるだけ隠さないように、右下や、左下に手話映像が表示されるように表示設定情報を設定することもできうる。また、表示設定情報によって手話映像の大きさも設定できる場合には、例えば、ニュースでは、手話映像が大きく表示されるように設定し、ドラマでは、手話映像が小さく表示されるように設定してもよい。ニュースでは、アナウンサーの発話内容が重要であり、ドラマでは、俳優等の演技が重要であると考えられるからである。   With this configuration, the display setting information can be changed according to the program related information. For example, in news, display setting information can be set so that sign language images are displayed in the lower right and lower left so as not to hide the announcer's face and the title of the news as much as possible. In addition, when the size of the sign language video can also be set by the display setting information, for example, it may be set so that the sign language video is displayed large in news and the sign language video is displayed small in drama. Good. This is because the content of the announcer's utterance is important in the news, and acting such as an actor is considered important in the drama.

また、本発明による手話映像表示装置では、前記番組関連情報は、番組映像のジャンルを示す情報を含んでもよく、番組映像の名称を示す情報を含んでもよい。
このような構成により、番組のジャンルや名称に応じて、表示設定情報を設定することができうる。
In the sign language video display device according to the present invention, the program related information may include information indicating a genre of the program video or information indicating a name of the program video.
With such a configuration, display setting information can be set according to the genre and name of the program.

また、本発明による手話映像表示装置では、前記番組映像受付部が受け付けた番組映像から表示設定情報を生成し、前記表示設定情報記憶部に蓄積する表示設定情報生成部をさらに備えてもよい。   The sign language video display device according to the present invention may further include a display setting information generation unit that generates display setting information from the program video received by the program video reception unit and stores the display setting information in the display setting information storage unit.

このような構成により、手話映像が表示される番組映像に応じた適切な表示設定情報を用いて、手話映像を表示することができうる。その結果、番組映像の重要な領域を隠さないように手話映像を表示することができるようになりうる。   With such a configuration, it is possible to display a sign language video using appropriate display setting information corresponding to a program video on which a sign language video is displayed. As a result, the sign language video can be displayed so as not to hide the important area of the program video.

また、本発明による手話映像表示装置では、前記表示設定情報生成部は、前記番組映像受付部が受け付けた番組映像に対して動き検出を行い、動きのない領域に前記手話映像を表示する表示設定情報を生成してもよい。
このような構成により、「動きのある領域はユーザが見たい領域である」という仮定の基に、ユーザが見たい領域を隠さないように表示設定情報を生成することができうる。
Further, in the sign language video display device according to the present invention, the display setting information generation unit performs a motion detection on the program video received by the program video reception unit, and displays the sign language video in an area without motion. Information may be generated.
With such a configuration, the display setting information can be generated so as not to hide the area that the user wants to see based on the assumption that “the area where the motion is desired is the area that the user wants to see”.

また、本発明による手話映像表示装置では、前記手話映像によって覆われたくないオブジェクトを特定するための情報であるオブジェクト特定情報が記憶されるオブジェクト特定情報記憶部をさらに備え、前記表示設定情報生成部は、前記番組映像受付部が受け付けた番組映像に、前記オブジェクト特定情報で特定されるオブジェクトが存在する場合に、当該オブジェクトを覆わない領域に前記手話映像を表示する表示設定情報を生成してもよい。   The sign language video display apparatus according to the present invention further includes an object specification information storage unit that stores object specification information that is information for specifying an object that is not desired to be covered by the sign language video, and the display setting information generation unit If the program video received by the program video receiving unit includes an object specified by the object specifying information, display setting information for displaying the sign language video in an area that does not cover the object may be generated. Good.

このような構成により、ユーザが見たいと考えられるオブジェクトを、オブジェクト特定情報によって特定しておくことによって、ユーザが見たいオブジェクトを隠さないように表示設定情報を生成することができうる。   With such a configuration, the display setting information can be generated so as not to hide the object that the user wants to see by specifying the object that the user wants to see using the object specifying information.

また、本発明による手話映像表示装置では、前記表示設定情報取得部は、前記表示設定情報の取得を繰り返し、前記表示部は、前記表示設定情報取得部が表示設定情報を取得するごとに、最新の表示設定情報に応じて手話映像を表示してもよい。
このような構成により、表示設定情報が書き換えられる場合においても、その書き換えられた後の表示設定情報を用いて手話映像を表示することができるようになる。
In the sign language video display device according to the present invention, the display setting information acquisition unit repeatedly acquires the display setting information, and the display unit updates the display setting information every time the display setting information acquisition unit acquires the display setting information. The sign language image may be displayed according to the display setting information.
With this configuration, even when the display setting information is rewritten, the sign language video can be displayed using the display setting information after the rewriting.

また、本発明による手話映像表示装置では、前記表示設定情報取得部は、定期的に最新の表示設定情報を取得してもよく、前記表示設定情報記憶部に新たに生成された表示設定情報が記憶されるごとに、最新の表示設定情報を取得してもよい。   In the sign language video display device according to the present invention, the display setting information acquisition unit may periodically acquire the latest display setting information, and the newly generated display setting information is stored in the display setting information storage unit. Each time it is stored, the latest display setting information may be acquired.

このような構成により、定期的に、あるいは、新たな表示設定情報が記憶されるごとに、表示設定情報を取得することができ、その取得後の表示設定情報を用いて手話映像を表示することができる。   With such a configuration, display setting information can be acquired periodically or whenever new display setting information is stored, and a sign language image is displayed using the display setting information after the acquisition. Can do.

本発明による手話映像表示装置等によれば、記憶されている表示設定情報を用いて、手話映像を表示することができ、例えば、番組映像において重要な領域が、手話映像によって隠されないようにすることができうる。   According to the sign language video display device and the like according to the present invention, the sign language video can be displayed using the stored display setting information. For example, an important area in the program video is not hidden by the sign language video. Can be.

以下、本発明による手話映像表示装置について、実施の形態を用いて説明する。なお、以下の実施の形態において、同じ符号を付した構成要素及びステップは同一または相当するものであり、再度の説明を省略することがある。   Hereinafter, a sign language video display device according to the present invention will be described using embodiments. In the following embodiments, components and steps denoted by the same reference numerals are the same or equivalent, and repetitive description may be omitted.

(実施の形態1)
本発明の実施の形態1による手話映像表示装置について、図面を参照しながら説明する。本実施の形態による手話映像表示装置は、番組映像に関連する番組関連情報をも受け付け、その番組関連情報を用いて、手話映像の表示を行うものである。
(Embodiment 1)
A sign language image display apparatus according to Embodiment 1 of the present invention will be described with reference to the drawings. The sign language video display device according to the present embodiment also accepts program related information related to a program video, and displays sign language video using the program related information.

図1は、本実施の形態による手話映像表示装置1の構成を示すブロック図である。本実施の形態による手話映像表示装置1は、番組映像受付部11と、手話映像受付部12と、番組関連情報受付部13と、表示設定情報記憶部14と、表示設定情報取得部15と、表示部16とを備える。   FIG. 1 is a block diagram showing a configuration of a sign language video display device 1 according to the present embodiment. The sign language video display device 1 according to the present embodiment includes a program video reception unit 11, a sign language video reception unit 12, a program related information reception unit 13, a display setting information storage unit 14, a display setting information acquisition unit 15, And a display unit 16.

番組映像受付部11は、番組の映像である番組映像を受け付ける。番組映像は、例えば、ドラマや、映画、ニュース、ドキュメンタリー、スポーツ等の映像であり、そのジャンルを問わない。また、番組映像のデータ形式も問わない。例えば番組情報は、アナログのデータであってもよく、デジタルのデータであってもよい。後者の場合に、番組映像の形式は、例えば、MPEG(Moving Picture Experts Group)であってもよく、AVI(Audio Video Interleave)であってもよく、あるいは、その他の形式であってもよい。また、その番組映像が圧縮されている場合に、その圧縮形式も問わない。番組映像は、音声の情報を含んでいてもよく、あるいは、含んでいてもよい。   The program video reception unit 11 receives a program video that is a video of a program. The program video is, for example, a video of a drama, a movie, news, documentary, sports, etc., regardless of its genre. The data format of the program video is not limited. For example, the program information may be analog data or digital data. In the latter case, the format of the program video may be, for example, MPEG (Moving Picture Experts Group), AVI (Audio Video Interleave), or any other format. Further, when the program video is compressed, the compression format is not limited. The program video may include audio information or may include it.

番組映像受付部11は、例えば、カメラ等のデバイスから入力された番組映像を受け付けてもよく、有線もしくは無線の通信回線を介して送信された番組映像を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された番組映像を受け付けてもよい。本実施の形態では、放送された番組映像を受信する場合について説明する。なお、番組映像受付部11は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、番組映像受付部11は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。   For example, the program video receiving unit 11 may receive a program video input from a device such as a camera, or may receive a program video transmitted via a wired or wireless communication line, and a predetermined recording medium You may receive the program image | video read from (For example, an optical disk, a magnetic disc, a semiconductor memory, etc.). In the present embodiment, a case where a broadcast program video is received will be described. Note that the program video reception unit 11 may or may not include a device (for example, a modem or a network card) for reception. The program video reception unit 11 may be realized by hardware, or may be realized by software such as a driver that drives a predetermined device.

手話映像受付部12は、番組映像に対応した手話の映像である手話映像を受け付ける。この手話映像は、番組映像受付部11が受け付けた番組映像に対応するものである。したがって、聴覚障害者が番組映像と、その番組映像に対応した手話映像とを見ることによって、番組映像に対応する音声の情報を知ることができることになる。手話映像は、例えば、CG(Computer Graphics)の映像であってもよく、アニメーションの映像であってもよく、実写の映像であってもよい。この手話映像が生成される過程は問わない。例えば、放送局において、番組映像と、手話映像とが生成され、それらが同期されて放送されてもよく、番組映像(例えば、放送されたものでもよく、記録媒体から読み出されたものでもよい)に対応する手話通訳が手話通訳者によって行われ、その手話通訳者の映像を撮影することによって手話映像が生成されてもよく、番組映像に対応するテキスト情報(例えば、番組映像に対応する字幕情報であってもよく、番組映像に対応する音声情報を音声認識することによって得られたテキスト情報であってもよい)を用いて自動的に手話映像が生成されてもよく、その他の手法で生成されてもよい。   The sign language video reception unit 12 receives a sign language video that is a sign language video corresponding to the program video. This sign language video corresponds to the program video received by the program video receiving unit 11. Therefore, the hearing-impaired person can know the audio information corresponding to the program video by viewing the program video and the sign language video corresponding to the program video. The sign language video may be, for example, a CG (Computer Graphics) video, an animation video, or a live-action video. The process in which this sign language image is generated does not matter. For example, in a broadcasting station, a program video and a sign language video are generated and may be broadcast in synchronization with each other, or a program video (for example, broadcasted or read from a recording medium) may be used. ) May be generated by a sign language interpreter, and a sign language video may be generated by shooting the video of the sign language interpreter, and text information corresponding to the program video (for example, subtitles corresponding to the program video) Information, or text information obtained by recognizing audio information corresponding to a program video), or a sign language video may be automatically generated using other methods. May be generated.

手話映像受付部12は、例えば、カメラ等のデバイスから入力された手話映像を受け付けてもよく、有線もしくは無線の通信回線を介して送信された手話映像を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された手話映像を受け付けてもよい。なお、手話映像受付部12は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、手話映像受付部12は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。   For example, the sign language video reception unit 12 may receive a sign language video input from a device such as a camera, or may receive a sign language video transmitted via a wired or wireless communication line. For example, a sign language image read from an optical disk, a magnetic disk, a semiconductor memory, or the like may be received. Note that the sign language video reception unit 12 may or may not include a device (for example, a modem or a network card) for reception. Further, the sign language video reception unit 12 may be realized by hardware, or may be realized by software such as a driver that drives a predetermined device.

なお、番組映像受付部11が受け付ける番組映像と、手話映像受付部12が受け付ける手話映像とは、同期を取ることができるようになっている、すなわち、時間的な位置の対応が分かるようになっていることが好適である。例えば、時間的な位置が対応している番組映像と手話映像とのそれぞれが、番組映像受付部11と手話映像受付部12とにおいて同時に受け付けられてもよく、両者にタイムコードが含まれており、そのタイムコードを用いて両者の同期を取ることができるようになっていてもよい。   The program video received by the program video receiving unit 11 and the sign language video received by the sign language video receiving unit 12 can be synchronized, that is, the temporal position correspondence can be understood. It is suitable. For example, each of the program video and the sign language video corresponding to the temporal position may be received simultaneously by the program video receiving unit 11 and the sign language video receiving unit 12, both of which include a time code. The time code may be used to synchronize the two.

番組関連情報受付部13は、番組映像受付部11が受け付ける番組映像に関連する情報である番組関連情報を受け付ける。番組関連情報は、例えば、番組映像のジャンルを示す情報を含んでいてもよく、番組映像の名称を示す情報を含んでいてもよく、番組の内容に関する情報(例えば、番組のトピックや、番組に登場する俳優の氏名等であってもよい)を含んでいてもよく、番組についての説明の情報を含んでいてもよく、その他の情報を含んでいてもよい。また、番組関連情報は、EPG(Electronic Program Guide:電子番組ガイド)の情報そのものであってもよく、その情報の一部であってもよい。このEPGの情報は、例えば、SI情報(公式番組情報)と呼ばれることもある。   The program related information receiving unit 13 receives program related information that is information related to the program video received by the program video receiving unit 11. The program related information may include, for example, information indicating the genre of the program video, may include information indicating the name of the program video, and information related to the content of the program (for example, the program topic or the program). The name of the actor who appears may be included), information on the explanation of the program may be included, or other information may be included. Further, the program-related information may be EPG (Electronic Program Guide) information itself or may be a part of the information. This EPG information may be called, for example, SI information (official program information).

番組関連情報受付部13が番組関連情報を受け付ける過程は問わない。番組関連情報受付部13は、例えば、インターネット等のネットワーク上のサーバから番組関連情報を受信してもよく、放送された番組関連情報を受信してもよく、番組映像に重畳されている番組関連情報を受け付けてもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された番組関連情報を受け付けてもよい。本実施の形態では、番組関連情報受付部13は、番組映像に重畳されている番組関連情報を受け付けるものとする。なお、番組関連情報受付部13は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、番組関連情報受付部13は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。   The process in which the program relevant information reception part 13 receives program relevant information does not ask | require. The program-related information receiving unit 13 may receive program-related information from a server on a network such as the Internet, may receive broadcast-related program-related information, or may be related to a program-related information superimposed on a program video. Information may be received, and program-related information read from a predetermined recording medium (for example, an optical disk, a magnetic disk, a semiconductor memory, etc.) may be received. In the present embodiment, it is assumed that the program related information receiving unit 13 receives the program related information superimposed on the program video. Note that the program-related information reception unit 13 may or may not include a device (for example, a modem or a network card) for reception. The program related information receiving unit 13 may be realized by hardware, or may be realized by software such as a driver that drives a predetermined device.

表示設定情報記憶部14では、手話映像を表示する位置に関する情報である位置情報を含む表示設定情報が記憶される。この位置情報によって、番組映像の画面において手話映像が表示される位置が決定されることになる。この位置情報は、例えば、手話映像の画面が表示される番組映像の画面における座標値を示すもの(例えば、手話映像の左上の端点の座標値など)であってもよく、手話映像の画面が表示される複数の位置があらかじめ設定されている場合には、その位置を識別する情報(例えば、「右上」「左下」や、「表示位置01」「表示位置02」など)であってもよい。また、表示設定情報は、手話映像を表示する大きさに関する情報である大きさ情報をも含んでいてもよく、あるいは、そうでなくてもよい。この大きさ情報は、例えば、手話映像の画面の大きさそのものを示す情報(例えば、手話映像の画面の縦・横の長さを示す情報など)であってもよく、番組映像の画面に対する手話映像の画面の相対的な大きさを示す情報(例えば、面積や長さについて50%、30%など)であってもよく、手話映像の画面の複数の大きさがあらかじめ設定されている場合には、その大きさを識別する情報(例えば、「大」「中」「小」など)であってもよい。   The display setting information storage unit 14 stores display setting information including position information that is information related to the position where the sign language video is displayed. Based on this position information, the position where the sign language video is displayed on the screen of the program video is determined. This position information may be, for example, information indicating a coordinate value on a program video screen on which a sign language video screen is displayed (for example, a coordinate value of an upper left end point of a sign language video). When a plurality of positions to be displayed are set in advance, information for identifying the positions (for example, “upper right”, “lower left”, “display position 01”, “display position 02”, etc.) may be used. . Further, the display setting information may or may not include size information that is information related to the size for displaying the sign language video. This size information may be, for example, information indicating the size of the sign language video screen itself (for example, information indicating the vertical and horizontal lengths of the sign language video screen). It may be information indicating the relative size of the video screen (for example, 50%, 30%, etc. with respect to area and length), and when multiple sizes of the sign language video screen are preset. May be information for identifying the size (for example, “large”, “medium”, “small”, etc.).

また、表示設定情報記憶部14において、この表示設定情報は、番組関連情報に対応付けられて記憶されていてもよい。本実施の形態では、この場合について説明する。表示設定情報が番組関連情報に対応付けられているとは、番組関連情報から、表示設定情報を取得できればよいという意味である。したがって、表示設定情報記憶部14において、番組関連情報と、表示設定情報とを組として含む情報が記憶されていてもよく、番組関連情報と、表示設定情報とをリンク付ける情報が表示設定情報記憶部14において記憶されていてもよい。本実施の形態では、前者の場合について説明する。   Further, the display setting information storage unit 14 may store the display setting information in association with the program related information. In this embodiment, this case will be described. The display setting information associated with the program related information means that display setting information only needs to be acquired from the program related information. Therefore, the display setting information storage unit 14 may store information including the program related information and the display setting information as a set, and information for linking the program related information and the display setting information is stored in the display setting information storage. It may be stored in the unit 14. In the present embodiment, the former case will be described.

表示設定情報記憶部14に表示設定情報等が記憶される過程は問わない。例えば、記録媒体を介して表示設定情報等が表示設定情報記憶部14で記憶されるようになってもよく、通信回線等を介して送信された表示設定情報等が表示設定情報記憶部14で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された表示設定情報等が表示設定情報記憶部14で記憶されるようになってもよい。表示設定情報記憶部14での記憶は、RAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。表示設定情報記憶部14は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現されうる。   The process in which the display setting information is stored in the display setting information storage unit 14 does not matter. For example, display setting information or the like may be stored in the display setting information storage unit 14 via a recording medium, and display setting information or the like transmitted via a communication line or the like may be stored in the display setting information storage unit 14. Alternatively, the display setting information or the like input via the input device may be stored in the display setting information storage unit 14. Storage in the display setting information storage unit 14 may be temporary storage in a RAM or the like, or may be long-term storage. The display setting information storage unit 14 can be realized by a predetermined recording medium (for example, a semiconductor memory, a magnetic disk, an optical disk, etc.).

表示設定情報取得部15は、表示設定情報記憶部14から表示設定情報を取得する。特に本実施の形態では、表示設定情報取得部15は、番組関連情報受付部13が受け付けた番組関連情報に対応する表示設定情報を取得するものとする。厳密に言えば、表示設定情報取得部15は、番組関連情報受付部13が受け付けた番組関連情報であって、後述する表示部16が表示する番組映像に対応する番組関連情報に、表示設定情報記憶部14で対応付けられている表示設定情報を取得する。その表示設定情報は、後述する表示部16が表示する番組映像と共に表示される手話映像の表示のために用いられることになる。表示部16によって表示される番組映像に対応する番組関連情報を特定することができるように、番組映像と番組関連情報とが紐付けられていることが好適である。例えば、対応する番組映像と番組関連情報とが番組映像識別情報などによって紐付けられていてもよい。その場合には、表示設定情報取得部15は、表示部16によって表示される番組映像の番組映像識別情報を取得し、その番組映像識別情報に対応する番組関連情報を特定することによって、表示部16によって表示される番組映像に対応する番組関連情報を特定することができることになる。   The display setting information acquisition unit 15 acquires display setting information from the display setting information storage unit 14. Particularly in the present embodiment, the display setting information acquisition unit 15 acquires display setting information corresponding to the program related information received by the program related information receiving unit 13. Strictly speaking, the display setting information acquisition unit 15 displays the display setting information in the program related information received by the program related information receiving unit 13 and corresponding to the program video displayed by the display unit 16 described later. Display setting information associated with the storage unit 14 is acquired. The display setting information is used for displaying a sign language video displayed together with a program video displayed by the display unit 16 described later. It is preferable that the program video and the program related information are linked so that the program related information corresponding to the program video displayed by the display unit 16 can be specified. For example, the corresponding program video and program-related information may be linked by program video identification information or the like. In this case, the display setting information acquisition unit 15 acquires the program video identification information of the program video displayed by the display unit 16 and specifies the program related information corresponding to the program video identification information, thereby displaying the display unit. The program related information corresponding to the program video displayed by 16 can be specified.

表示部16は、表示設定情報取得部15が取得した表示設定情報に応じて、手話映像受付部12が受け付けた手話映像と、番組映像受付部11が受け付けた番組映像とを表示する。すなわち、表示部16は、表示設定情報取得部15が取得した表示設定情報に含まれる位置情報の示す位置に、手話映像の画面を表示するように、手話映像と番組映像とを表示する。また、表示設定情報取得部15が取得した表示設定情報に大きさ情報も含まれる場合には、表示部16は、その大きさ情報の示す大きさの手話映像と、番組映像とを表示する。なお、この表示によって、番組映像の画面(ウィンドウ)の上(すなわち、その画面の内側)に、その画面よりも小さい画面(ウィンドウ)で手話映像が表示されることになる。したがって、通常、番組映像が主となり、手話映像が従となるように表示がなされる。   The display unit 16 displays the sign language video received by the sign language video receiving unit 12 and the program video received by the program video receiving unit 11 according to the display setting information acquired by the display setting information acquiring unit 15. That is, the display unit 16 displays the sign language video and the program video so that the sign language video screen is displayed at the position indicated by the position information included in the display setting information acquired by the display setting information acquisition unit 15. When the display setting information acquired by the display setting information acquisition unit 15 includes size information, the display unit 16 displays a sign language video having a size indicated by the size information and a program video. By this display, the sign language video is displayed on a screen (window) smaller than the screen on the screen (window) of the program video (that is, inside the screen). Therefore, the display is usually performed such that the program video is the main and the sign language video is the subordinate.

なお、表示部16は、それらの表示を行う表示デバイス(例えば、CRTや液晶ディスプレイなど)を含んでもよく、あるいは含まなくてもよい。本実施の形態では、表示部16が外部のディスプレイに表示のための映像データを出力する場合について説明する。また、表示部16は、ハードウェアによって実現されてもよく、あるいは表示デバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。   Note that the display unit 16 may or may not include a display device (for example, a CRT or a liquid crystal display) that performs such display. In the present embodiment, a case where the display unit 16 outputs video data for display on an external display will be described. The display unit 16 may be realized by hardware, or may be realized by software such as a driver that drives a display device.

また、番組映像受付部11が受け付けた番組映像や、手話映像受付部12が受け付けた手話映像、番組関連情報受付部13が受け付けた番組関連情報などは、図示しない記録媒体において一時的に記憶されてもよいことは言うまでもない。   Further, the program video received by the program video receiving unit 11, the sign language video received by the sign language video receiving unit 12, the program related information received by the program related information receiving unit 13, and the like are temporarily stored in a recording medium (not shown). Needless to say.

次に、本実施の形態による手話映像表示装置1の動作について、図2のフローチャートを用いて説明する。   Next, the operation of the sign language video display device 1 according to the present embodiment will be described with reference to the flowchart of FIG.

(ステップS101)番組関連情報受付部13は、番組関連情報を受け付けたかどうか判断する。そして、番組関連情報を受け付けた場合には、ステップS102に進み、そうでない場合には、ステップS103に進む。   (Step S101) The program related information receiving unit 13 determines whether program related information has been received. If the program related information is received, the process proceeds to step S102. If not, the process proceeds to step S103.

(ステップS102)表示設定情報取得部15は、番組関連情報受付部13が受け付けた番組関連情報を図示しない記録媒体において一時的に記憶する。そして、ステップS101に戻る。   (Step S102) The display setting information acquisition unit 15 temporarily stores the program related information received by the program related information receiving unit 13 in a recording medium (not shown). Then, the process returns to step S101.

(ステップS103)番組映像受付部11は、番組映像を受け付けたかどうか判断する。そして、番組映像を受け付けた場合には、ステップS104に進み、そうでない場合には、ステップS105に進む。なお、番組映像受付部11は、番組映像を一フレームごとに受信してもよく、あるいは、連続する複数のフレームごとに受信してもよい。   (Step S103) The program video reception unit 11 determines whether a program video is received. If a program video is received, the process proceeds to step S104, and if not, the process proceeds to step S105. Note that the program video reception unit 11 may receive the program video for each frame, or may receive it for each of a plurality of consecutive frames.

(ステップS104)表示部16は、番組映像受付部11が受け付けた番組映像を表示する。そして、ステップS101に戻る。   (Step S104) The display unit 16 displays the program video received by the program video receiving unit 11. Then, the process returns to step S101.

(ステップS105)手話映像受付部12は、手話映像を受け付けたかどうか判断する。そして、手話映像を受け付けた場合には、ステップS106に進み、そうでない場合には、ステップS101に戻る。なお、手話映像受付部12は、手話映像を一フレームごとに受信してもよく、あるいは、連続する複数のフレームごとに受信してもよい。   (Step S105) The sign language image receiving unit 12 determines whether a sign language image has been received. If a sign language image is received, the process proceeds to step S106. If not, the process returns to step S101. The sign language video reception unit 12 may receive the sign language video for each frame, or may receive it for each of a plurality of consecutive frames.

(ステップS106)表示部16は、表示設定情報取得部15によって表示設定情報が取得されているかどうか判断する。そして、取得されている場合、すなわち、手話映像を表示するための表示設定情報が存在する場合には、ステップS108に進み、そうでない場合には、ステップS107に進む。なお、表示部16は、取得された表示設定情報が記憶されるべき領域に、表示設定情報が格納されているかどうかによって、表示設定情報が取得されているかどうか判断してもよい。この場合には、表示設定情報が格納されている場合に、表示設定情報が取得されていることになる。   (Step S <b> 106) The display unit 16 determines whether or not the display setting information is acquired by the display setting information acquisition unit 15. If acquired, that is, if there is display setting information for displaying a sign language image, the process proceeds to step S108, and if not, the process proceeds to step S107. The display unit 16 may determine whether the display setting information has been acquired based on whether the display setting information is stored in an area in which the acquired display setting information is to be stored. In this case, the display setting information is acquired when the display setting information is stored.

(ステップS107)表示設定情報取得部15は、一時的に記憶している番組関連情報に対応する表示設定情報を取得する。また、表示設定情報取得部15は、その取得した表示設定情報を図示しない記録媒体において一時的に記憶してもよい。   (Step S107) The display setting information acquisition unit 15 acquires display setting information corresponding to the program-related information temporarily stored. Further, the display setting information acquisition unit 15 may temporarily store the acquired display setting information in a recording medium (not shown).

(ステップS108)表示部16は、表示設定情報取得部15が取得した表示設定情報が示す位置や大きさで、手話映像受付部12が受け付けた手話映像を表示する。そして、ステップS101に戻る。   (Step S108) The display unit 16 displays the sign language image received by the sign language image receiving unit 12 at the position and size indicated by the display setting information acquired by the display setting information acquiring unit 15. Then, the process returns to step S101.

なお、このフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。また、このフローチャートでは、表示部16が、番組映像と手話映像とを別々に表示する場合について説明したが(ステップS104,S108)、表示部16は、番組映像と手話映像とを一緒に表示するようにしてもよい。例えば、表示部16は、番組映像のフレームの一部の領域に手話映像が表示されるフレームを構成し、その構成したフレームを表示してもよい。   Note that in this flowchart, the processing is ended by powering off or interruption for aborting the processing. In this flowchart, the case where the display unit 16 displays the program video and the sign language video separately has been described (steps S104 and S108), but the display unit 16 displays the program video and the sign language video together. You may do it. For example, the display unit 16 may configure a frame in which a sign language image is displayed in a partial area of the frame of the program image, and display the configured frame.

また、後述する具体例で説明するように、通常、番組関連情報に応じて表示設定情報が異なるため、新たな番組映像が受け付けられた場合には、その新たな番組映像に対応する番組関連情報が受け付けられることが好適であり、また、そのようにして受け付けられた新たな番組関連情報に対応する表示設定情報が取得されることが好適である。また、そのようにして取得された新たな表示設定情報を用いて手話映像が表示されることが好適である。   In addition, as will be described in a specific example described later, since display setting information usually differs depending on program-related information, when a new program video is accepted, program-related information corresponding to the new program video Is preferably received, and display setting information corresponding to the new program-related information received in this manner is preferably acquired. In addition, it is preferable that the sign language image is displayed using the new display setting information acquired as described above.

また、このフローチャートでは、手話映像の受け付けを行った後であって、表示設定情報が存在しないときに表示設定情報の取得を行う場合について説明したが、そうでなくてもよい。例えば、表示設定情報取得部15は、番組関連情報受付部13が番組関連情報を受け付けた際に、その番組関連情報に対応する表示設定情報を取得してもよく、その他のタイミングで表示設定情報を取得してもよい。   In this flowchart, the case where the display setting information is acquired when the sign setting image is received and the display setting information does not exist has been described. For example, when the program related information receiving unit 13 receives the program related information, the display setting information acquiring unit 15 may acquire the display setting information corresponding to the program related information, and the display setting information at other timings. May be obtained.

次に、本実施の形態による手話映像表示装置1の動作について、具体例を用いて説明する。
この具体例では、手話映像表示装置1が放送された番組映像、及び手話映像を受信し、その番組映像に重畳されている番組関連情報を用いて表示設定情報の取得が行われるものとする。したがって、番組映像に、その番組映像に対応する番組関連情報が重畳されていることによって、番組映像と番組関連情報との紐付けが行われていることになる。
Next, the operation of the sign language video display device 1 according to the present embodiment will be described using a specific example.
In this specific example, it is assumed that the sign language video display device 1 receives a broadcast program video and a sign language video, and obtains display setting information using program related information superimposed on the program video. Therefore, the program video and the program related information are linked by superimposing the program related information corresponding to the program video on the program video.

また、この具体例において、表示設定情報記憶部14では、図3で示される情報が記憶されているものとする。図3において、番組のジャンルを示す番組関連情報と、表示設定情報とが対応付けられている。表示設定情報は、手話映像の画面の左上の位置を示す位置情報と、手話映像の画面の幅及び高さを示す大きさ情報とを含んでいる。例えば、番組関連情報「ニュース」には、位置情報(X1,Y1)、大きさ情報(W1,H1)を含む表示設定情報が対応付けられている。したがって、ニュースの番組映像の場合には、手話映像の画面の左上が(X1,Y1)の座標値となり、その手話映像の画面の幅がW1となり、高さがH1となるように手話映像が表示されることになる。   In this specific example, it is assumed that the display setting information storage unit 14 stores information shown in FIG. In FIG. 3, the program related information indicating the genre of the program is associated with the display setting information. The display setting information includes position information indicating the upper left position of the sign language video screen and size information indicating the width and height of the sign language video screen. For example, the program-related information “news” is associated with display setting information including position information (X1, Y1) and size information (W1, H1). Therefore, in the case of a news program video, the upper left corner of the sign language video screen has a coordinate value of (X1, Y1), the width of the screen of the sign language video is W1, and the sign language video is such that the height is H1. Will be displayed.

まず、手話映像表示装置1のユーザが、手話映像表示装置1を操作することによって、ニュース番組を見るようにチャンネル設定を行ったとする。すると、番組映像受付部11において、そのチャンネルの番組映像が受信され(ステップS103)、その番組映像がディスプレイに表示される(ステップS104)。そのようにして表示された番組映像は、図4で示されるものであったとする。この番組映像受付部11による番組映像の受信と、表示部16による番組映像の表示とは、繰り返して実行されることになる。   First, it is assumed that the user of the sign language video display device 1 operates the sign language video display device 1 to set a channel so as to watch a news program. Then, the program video reception unit 11 receives the program video of the channel (step S103), and the program video is displayed on the display (step S104). It is assumed that the program video displayed in this way is the one shown in FIG. The reception of the program video by the program video reception unit 11 and the display of the program video by the display unit 16 are repeatedly executed.

なお、その番組映像の受信に応じて、その番組映像に重畳されている番組関連情報「ニュース」が番組映像受付部11によって抽出され、その抽出された番組関連情報が図示しない経路を介して番組関連情報受付部13に渡されたとする。番組関連情報受付部13は、その番組関連情報を受け付けると表示設定情報取得部15に渡す(ステップS101)。表示設定情報取得部15は、その受け取った番組関連情報「ニュース」を図示しない記録媒体において一時的に記憶する(ステップS102)。   In response to the reception of the program video, program-related information “news” superimposed on the program video is extracted by the program video reception unit 11, and the extracted program-related information is transmitted via a route (not shown). It is assumed that the information is passed to the related information receiving unit 13. When receiving the program related information, the program related information receiving unit 13 passes the program related information to the display setting information acquiring unit 15 (step S101). The display setting information acquisition unit 15 temporarily stores the received program related information “news” in a recording medium (not shown) (step S102).

手話映像受付部12は、番組映像のチャンネルと、その番組映像に対応した手話映像のチャンネルとを対応付ける情報を用いて、ユーザが設定した番組映像のチャンネルに対応する手話映像のチャンネルを特定し、そのチャンネルの手話映像を受信する(ステップS105)。その手話映像は、例えば、図5で示されるものであったとする。   The sign language video reception unit 12 specifies a channel of the sign language video corresponding to the channel of the program video set by the user, using information associating the channel of the program video with the channel of the sign language video corresponding to the program video, The sign language image of the channel is received (step S105). Assume that the sign language video is as shown in FIG.

次に、表示部16は、表示設定情報が記憶されるべき領域を参照し、そこに表示設定情報が格納されていないことを検知して(ステップS106)、表示設定情報取得部15に表示設定情報を取得する指示を出す。すると、表示設定情報取得部15は、図示しない記録媒体で記憶している番組関連情報「ニュース」を読み出し、その番組関連情報を検索キーとして図3の情報を検索する。そして、検索でヒットした図3の1番目のレコードから、位置情報(X1,Y1)、大きさ情報(W1,H1)を含む表示設定情報を取得し、それらを図示しない記録媒体に蓄積する(ステップS107)。   Next, the display unit 16 refers to an area where the display setting information is to be stored, detects that no display setting information is stored therein (step S106), and displays the display setting information in the display setting information acquisition unit 15. Give instructions to get information. Then, the display setting information acquisition unit 15 reads the program related information “news” stored in a recording medium (not shown), and searches the information of FIG. 3 using the program related information as a search key. Then, display setting information including position information (X1, Y1) and size information (W1, H1) is acquired from the first record of FIG. 3 that has been hit by the search, and is stored in a recording medium (not shown) ( Step S107).

表示部16は、そのようにして取得された表示設定情報を参照し、番組映像の(X1,Y1)の位置が左上の端点となり、幅がW1,高さがH1となるように手話映像受付部12が受け付けた手話映像の画面を表示する(ステップS108)。その結果、図6で示されるように、番組映像上に手話映像が表示されることになる。この手話映像受付部12による手話映像の受信と、表示部16による手話映像の表示とは、繰り返して時刻されることになる。このようにして、番組映像と手話映像との放送の受信が継続され、その番組映像と手話映像との表示が継続されることになる。   The display unit 16 refers to the display setting information thus acquired, and accepts the sign language video so that the position of (X1, Y1) of the program video is the upper left end, the width is W1, and the height is H1. The sign language video screen received by the unit 12 is displayed (step S108). As a result, as shown in FIG. 6, the sign language video is displayed on the program video. The reception of the sign language video by the sign language video reception unit 12 and the display of the sign language video by the display unit 16 are repeatedly timed. Thus, the reception of the broadcast of the program video and the sign language video is continued, and the display of the program video and the sign language video is continued.

この具体例では、表示設定情報が番組のジャンルを示す番組関連情報に対応付けられている場合について説明したが、前述のように、表示設定情報は、例えば、番組の名称やその他の情報を示す番組関連情報に対応付けられていてもよいことは言うまでもない。例えば、番組の名称を示す番組関連情報に表示設定情報が対応付けられていることによって、手話映像のより細かい表示位置の制御が可能となる。   In this specific example, the case where the display setting information is associated with the program related information indicating the genre of the program has been described. However, as described above, the display setting information indicates, for example, the name of the program and other information. Needless to say, it may be associated with the program-related information. For example, the display setting information is associated with the program related information indicating the name of the program, so that the display position of the sign language video can be controlled more finely.

以上のように、本実施の形態による手話映像表示装置1によれば、表示設定情報の示す位置や大きさで、手話映像を表示することができる。また、番組関連情報受付部13が受け付けた番組関連情報に対応する表示設定情報を用いることによって、例えば、番組のジャンルごとや、番組ごとに手話映像の表示位置や大きさを設定することができ、各番組においてできるだけ影響がないと考えられる位置に手話映像を表示することができるようになる。その結果、手話映像と番組映像とを見るユーザは、番組映像と手話映像との両方を、適切に見ることができるようになりうる。   As described above, according to the sign language video display device 1 according to the present embodiment, a sign language video can be displayed at the position and size indicated by the display setting information. Further, by using the display setting information corresponding to the program related information received by the program related information receiving unit 13, for example, the display position and size of the sign language video can be set for each program genre or for each program. The sign language video can be displayed at a position considered to have as little influence as possible in each program. As a result, the user who views the sign language video and the program video can appropriately view both the program video and the sign language video.

なお、本実施の形態では、番組関連情報に応じた表示設定情報を用いて手話映像を表示する場合について説明したが、そうでなくてもよい。番組関連情報を用いない場合には、手話映像表示装置1は、番組関連情報受付部13を備えていなくてもよい。また、表示設定情報記憶部14において、表示設定情報が番組関連情報に対応付けられていなくてもよい。   In the present embodiment, the case where the sign language video is displayed using the display setting information corresponding to the program related information has been described. When the program related information is not used, the sign language video display device 1 may not include the program related information receiving unit 13. In the display setting information storage unit 14, the display setting information may not be associated with the program related information.

(実施の形態2)
本発明の実施の形態2による手話映像表示装置について、図面を参照しながら説明する。本実施の形態による手話映像表示装置は、手話映像表示装置において表示設定情報を生成するものである。
(Embodiment 2)
A sign language video display apparatus according to Embodiment 2 of the present invention will be described with reference to the drawings. The sign language video display device according to the present embodiment generates display setting information in the sign language video display device.

図7は、本実施の形態による手話映像表示装置2の構成を示すブロック図である。本実施の形態による手話映像表示装置2は、番組映像受付部11と、手話映像受付部12と、表示設定情報記憶部14と、表示設定情報取得部15と、表示部16と、オブジェクト特定情報記憶部21と、表示設定情報生成部22とを備える。オブジェクト特定情報記憶部21、表示設定情報生成部22以外の構成及び動作は、表示設定情報取得部15が番組関連情報に対応する表示設定情報を取得するのではなく、表示設定情報記憶部14で記憶されている表示設定情報を単に取得する以外は、実施の形態1と同様であり、その説明を省略する。   FIG. 7 is a block diagram showing a configuration of the sign language video display device 2 according to the present embodiment. The sign language video display device 2 according to the present embodiment includes a program video reception unit 11, a sign language video reception unit 12, a display setting information storage unit 14, a display setting information acquisition unit 15, a display unit 16, and object specifying information. A storage unit 21 and a display setting information generation unit 22 are provided. Configurations and operations other than the object specifying information storage unit 21 and the display setting information generation unit 22 are not performed by the display setting information acquisition unit 15 but by the display setting information storage unit 14 instead of acquiring display setting information corresponding to the program related information. Except for simply acquiring the stored display setting information, it is the same as in the first embodiment, and a description thereof will be omitted.

オブジェクト特定情報記憶部21では、手話映像によって覆われたくないオブジェクトを特定するための情報であるオブジェクト特定情報が記憶される。例えば、野球の番組である場合には、点数やカウント(ストライク、ボール、アウトのカウント)であってもよく、ニュースの番組である場合には、アナウンサーの顔や、ニュースの概要を示す文字であってもよく、ドラマの番組である場合には、人物であってもよい。オブジェクト特定情報は、手話映像によって覆われたくないオブジェクトを特定するための情報であれば、その内容を問わない。例えば、パターンマッチングで用いるパターンの図形であってもよく、オブジェクトの属性を指定する情報であってもよい。例えば、オブジェクトが野球のカウントである場合には、オブジェクト特定情報は、「S」「B」「O」の文字が直線上に並んでいることであってもよい。このようなオブジェクト特定情報を用いることによって、縦一列や横一列に並ぶ「S」「B」「O」の文字の領域(この領域がカウントの領域に対応する)を特定することができる。また、例えば、オブジェクトが人物である場合には、オブジェクト特定情報は、肌色検出を行い、検出された肌色を含む領域を、輪郭抽出を行うことによって特定する手順を示す情報であってもよい。このようなオブジェクト特定情報を用いることによって、番組映像における人物の領域を特定することができる。なお、例えば、人物やその他のオブジェクトの領域を特定する方法としては、すでに多くの方法が知られており、それらに応じたオブジェクト特定情報がオブジェクト特定情報記憶部21で記憶されていてもよいことは言うまでもない。   The object specifying information storage unit 21 stores object specifying information that is information for specifying an object that is not desired to be covered with the sign language video. For example, in the case of a baseball program, it may be a score or a count (count of strike, ball, out), and in the case of a news program, it is an announcer's face or characters indicating an outline of the news. If it is a drama program, it may be a person. The object specifying information may be any content as long as it is information for specifying an object that is not desired to be covered with the sign language video. For example, it may be a pattern figure used in pattern matching, or information specifying an attribute of an object. For example, when the object is a baseball count, the object specifying information may be that characters “S”, “B”, and “O” are arranged on a straight line. By using such object specifying information, it is possible to specify the character areas of “S”, “B”, and “O” arranged in a single vertical line or horizontal line (this area corresponds to the counting area). For example, when the object is a person, the object specifying information may be information indicating a procedure for performing skin color detection and specifying a region including the detected skin color by performing contour extraction. By using such object specifying information, it is possible to specify an area of a person in a program video. Note that, for example, many methods are already known as a method for specifying the area of a person or other object, and object specifying information corresponding to them may be stored in the object specifying information storage unit 21. Needless to say.

オブジェクト特定情報記憶部21にオブジェクト特定情報が記憶される過程は問わない。例えば、記録媒体を介してオブジェクト特定情報がオブジェクト特定情報記憶部21で記憶されるようになってもよく、通信回線等を介して送信されたオブジェクト特定情報がオブジェクト特定情報記憶部21で記憶されるようになってもよく、あるいは、入力デバイスを介して入力されたオブジェクト特定情報がオブジェクト特定情報記憶部21で記憶されるようになってもよい。オブジェクト特定情報記憶部21での記憶は、RAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。オブジェクト特定情報記憶部21は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現されうる。   The process in which object specific information is memorize | stored in the object specific information storage part 21 does not ask | require. For example, the object specifying information may be stored in the object specifying information storage unit 21 via a recording medium, and the object specifying information transmitted via a communication line or the like is stored in the object specifying information storage unit 21. Alternatively, the object specifying information input via the input device may be stored in the object specifying information storage unit 21. Storage in the object specifying information storage unit 21 may be temporary storage in a RAM or the like, or may be long-term storage. The object specifying information storage unit 21 can be realized by a predetermined recording medium (for example, a semiconductor memory, a magnetic disk, an optical disk, etc.).

表示設定情報生成部22は、番組映像受付部11が受け付けた番組映像から表示設定情報を生成し、表示設定情報記憶部14に蓄積する。本実施の形態では、表示設定情報生成部22は、番組映像受付部11が受け付けた番組映像に対して動き検出を行い、動きのない領域に手話映像を表示する表示設定情報を生成する。ここで、「動きのない領域」とは、例えば、動きが全くない領域であってもよく、他の領域と比較して動きが少ない領域であってもよい。なお、動き検出の方法は、例えば、ブロックマッチング法や勾配法などがすでに知られており、その詳細な説明を省略する。   The display setting information generating unit 22 generates display setting information from the program video received by the program video receiving unit 11 and stores it in the display setting information storage unit 14. In the present embodiment, the display setting information generation unit 22 performs motion detection on the program video received by the program video reception unit 11 and generates display setting information for displaying a sign language video in an area without motion. Here, the “region without motion” may be, for example, a region where there is no motion, or may be a region where there is less motion compared to other regions. As the motion detection method, for example, the block matching method and the gradient method are already known, and detailed description thereof is omitted.

また、本実施の形態では、表示設定情報生成部22は、番組映像受付部11が受け付けた番組映像に、オブジェクト特定情報で特定されるオブジェクトが存在する場合に、そのオブジェクトを覆わない領域に手話映像を表示する表示設定情報を生成するものとする。例えば、表示設定情報生成部22は、『「S」「B」「O」の文字が直線上に並んでいること』を示すオブジェクト特定情報に応じて、番組映像上において文字認識を行い、「S」「B」「O」の文字が含まれるかどうか判断し、含まれる場合には、それらが直線上に並んでいるかどうか判断する。そして、直線上に並んでいる場合には、表示設定情報生成部22は、その「S」「B」「O」の文字の領域をオブジェクトとして特定する。また、例えば、表示設定情報生成部22は、人物を特定する情報であるオブジェクト特定情報に応じて、肌色検出等を行うことによって、人物の領域を特定してもよい。また、表示設定情報生成部22は、オブジェクトの領域よりもさらに広い領域を覆わないように手話映像を表示する表示設定情報を生成してもよい。オブジェクトの領域よりもさらに広い領域とは、例えば、オブジェクトと、オブジェクトの外周の領域(例えば、オブジェクトの最外縁の位置から、所定の長さだけオブジェクトから離れた位置までの範囲でもよい)とを含む領域であってもよい。また、表示設定情報生成部22は、オブジェクトの外縁の一部に手話映像の一部が表示されるように表示設定情報を生成してもよい。すなわち、オブジェクトの一部と手話映像の一部とが重なってもよい。オブジェクトの外縁のあたりは、オブジェクトの中心のあたりに比較して重要度が低いとも考えられるからである。   Further, in the present embodiment, the display setting information generation unit 22, in the program video received by the program video reception unit 11, has a sign language in an area that does not cover the object specified by the object specification information. It is assumed that display setting information for displaying video is generated. For example, the display setting information generation unit 22 performs character recognition on the program video in accordance with the object specifying information indicating “characters“ S ”,“ B ”, and“ O ”are arranged on a straight line”. It is determined whether or not the characters S, “B”, and “O” are included, and if included, it is determined whether they are aligned on a straight line. Then, if they are arranged on a straight line, the display setting information generation unit 22 identifies the character areas of “S”, “B”, and “O” as objects. Further, for example, the display setting information generation unit 22 may specify a person region by performing skin color detection or the like according to object specifying information that is information for specifying a person. Further, the display setting information generation unit 22 may generate display setting information for displaying a sign language video so as not to cover an area larger than the area of the object. The area wider than the object area is, for example, an object and an outer peripheral area of the object (for example, a range from the position of the outermost edge of the object to a position away from the object by a predetermined length). It may be an area to include. The display setting information generation unit 22 may generate display setting information so that a part of the sign language video is displayed on a part of the outer edge of the object. That is, a part of the object may overlap with a part of the sign language video. This is because the area around the outer edge of the object may be less important than the area around the center of the object.

なお、表示設定情報生成部22は、番組映像の表示領域を複数のブロックに分け、そのブロック単位で動き検出や、オブジェクトを覆うかどうかの判定等を行ってもよい。本実施の形態では、このようにブロック単位で動き検出等を行う場合について説明する。   The display setting information generation unit 22 may divide the display area of the program video into a plurality of blocks, and perform motion detection, determination of whether to cover the object, or the like for each block. In this embodiment, a case where motion detection or the like is performed in units of blocks will be described.

なお、本実施の形態では、表示設定情報取得部15は、表示設定情報の取得を繰り返して実行してもよい。前述のように、表示設定情報生成部22が新たな表示設定情報を表示設定情報記憶部14に蓄積するため、その新たな表示設定情報を取得し、その新たな表示設定情報に応じた表示を行うためである。表示設定情報取得部15は、例えば、定期的(例えば、1分ごと、5分ごと、30分ごとなど)に最新の表示設定情報を取得してもよく、表示設定情報記憶部14に新たに生成された表示設定情報が記憶されるごとに、表示設定情報記憶部14で記憶されている最新の表示設定情報を取得してもよい。表示設定情報生成部22が上書きで表示設定情報を表示設定情報記憶部14に蓄積する場合には、表示設定情報記憶部14で記憶されている表示設定情報が最新の表示設定情報となる。一方、表示設定情報生成部22が上書きしないで表示設定情報を表示設定情報記憶部14に蓄積する場合には、最後に蓄積された表示設定情報が最新の表示設定情報となる。   In the present embodiment, the display setting information acquisition unit 15 may repeatedly acquire display setting information. As described above, since the display setting information generation unit 22 accumulates new display setting information in the display setting information storage unit 14, the new display setting information is acquired and a display corresponding to the new display setting information is displayed. To do. The display setting information acquisition unit 15 may acquire the latest display setting information on a regular basis (for example, every minute, every five minutes, every 30 minutes, etc.), for example, and newly in the display setting information storage unit 14 Each time the generated display setting information is stored, the latest display setting information stored in the display setting information storage unit 14 may be acquired. When the display setting information generating unit 22 overwrites and stores the display setting information in the display setting information storage unit 14, the display setting information stored in the display setting information storage unit 14 becomes the latest display setting information. On the other hand, when the display setting information generation unit 22 stores the display setting information in the display setting information storage unit 14 without overwriting, the display setting information stored last becomes the latest display setting information.

また、表示部16は、表示設定情報取得部15が表示設定情報を取得するごとに、最新の表示設定情報に応じて手話映像を表示することになる。   The display unit 16 displays a sign language video according to the latest display setting information every time the display setting information acquisition unit 15 acquires the display setting information.

なお、表示設定情報記憶部14と、オブジェクト特定情報記憶部21とは、同一の記録媒体によって実現されてもよく、あるいは、別々の記録媒体によって実現されてもよい。前者の場合には、例えば、表示設定情報を記憶している領域が表示設定情報記憶部14となり、オブジェクト特定情報を記憶している領域がオブジェクト特定情報記憶部21となる。   The display setting information storage unit 14 and the object specifying information storage unit 21 may be realized by the same recording medium or may be realized by separate recording media. In the former case, for example, an area that stores display setting information is the display setting information storage unit 14, and an area that stores object specifying information is the object specifying information storage unit 21.

次に、本実施の形態による手話映像表示装置2の動作について、図8のフローチャートを用いて説明する。   Next, the operation of the sign language video display apparatus 2 according to the present embodiment will be described with reference to the flowchart of FIG.

(ステップS201)番組映像受付部11は、番組映像を受け付けたかどうか判断する。そして、番組映像を受け付けた場合には、ステップS202に進み、そうでない場合には、ステップS204に進む。なお、番組映像受付部11は、番組映像を一フレームごとに受信してもよく、あるいは、連続する複数のフレームごとに受信してもよい。   (Step S201) The program video receiving unit 11 determines whether a program video is received. If a program video is received, the process proceeds to step S202. If not, the process proceeds to step S204. Note that the program video reception unit 11 may receive the program video for each frame, or may receive it for each of a plurality of consecutive frames.

(ステップS202)表示部16は、番組映像受付部11が受け付けた番組映像を表示する。   (Step S202) The display unit 16 displays the program video accepted by the program video accepting unit 11.

(ステップS203)表示設定情報生成部22は、表示設定情報の生成のために、受け付けられた番組映像を一時的に記憶する。そして、ステップS201に戻る。   (Step S203) The display setting information generation unit 22 temporarily stores the received program video in order to generate display setting information. Then, the process returns to step S201.

(ステップS204)手話映像受付部12は、手話映像を受け付けたかどうか判断する。そして、手話映像を受け付けた場合には、ステップS205に進み、そうでない場合には、ステップS206に進む。なお、手話映像受付部12は、手話映像を一フレームごとに受信してもよく、あるいは、連続する複数のフレームごとに受信してもよい。   (Step S204) The sign language video receiving unit 12 determines whether or not a sign language video has been received. If a sign language image is accepted, the process proceeds to step S205. If not, the process proceeds to step S206. The sign language video reception unit 12 may receive the sign language video for each frame, or may receive it for each of a plurality of consecutive frames.

(ステップS205)表示部16は、表示設定情報取得部15が取得した表示設定情報が示す位置や大きさで、手話映像受付部12が受け付けた手話映像を表示する。そして、ステップS201に戻る。なお、このステップS205の処理が実行されるまでに、ステップS209での表示設定情報の取得が行われているものとする。   (Step S205) The display unit 16 displays the sign language image received by the sign language image receiving unit 12 at the position and size indicated by the display setting information acquired by the display setting information acquiring unit 15. Then, the process returns to step S201. It is assumed that the display setting information is acquired in step S209 before the process in step S205 is executed.

(ステップS206)表示設定情報生成部22は、表示設定情報を生成するかどうか判断する。そして、生成する場合には、ステップS207に進み、そうでない場合には、ステップS208に進む。表示設定情報生成部22は、例えば、定期的に(例えば、10秒ごと、30秒ごと、1分ごとなど)に、表示設定情報を生成すると判断してもよく、あらかじめ決められているイベントの発生(例えば、番組映像におけるシーンチェンジの発生でもよい。なお、シーンチェンジを検出する方法はすでに公知である)を契機として、表示設定情報を生成すると判断してもよく、あるいは、その他のタイミングで表示設定情報を生成すると判断してもよい。   (Step S206) The display setting information generation unit 22 determines whether to generate display setting information. And when producing | generating, it progresses to step S207, and when that is not right, it progresses to step S208. For example, the display setting information generation unit 22 may determine that the display setting information is generated periodically (for example, every 10 seconds, every 30 seconds, every minute, etc.). It may be determined that the display setting information is generated in response to the occurrence (for example, the occurrence of a scene change in the program video. The method for detecting the scene change is already known), or at other timing It may be determined that display setting information is generated.

(ステップS207)表示設定情報生成部22は、表示設定情報を生成する。この処理の詳細については、図9のフローチャートを用いて後述する。   (Step S207) The display setting information generation unit 22 generates display setting information. Details of this processing will be described later with reference to the flowchart of FIG.

(ステップS208)表示設定情報取得部15は、表示設定情報を取得するかどうか判断する。そして、表示設定情報を取得する場合には、ステップS209に進み、そうでない場合には、ステップS201に戻る。表示設定情報取得部15は、例えば、定期的に(例えば、10秒ごと、30秒ごと、1分ごとなど)に、表示設定情報を取得すると判断してもよく、あらかじめ決められているイベントの発生(例えば、新たな表示設定情報が表示設定情報記憶部14に蓄積されたことでもよい)を契機として、表示設定情報を取得すると判断してもよく、あるいは、その他のタイミングで表示設定情報を取得すると判断してもよい。   (Step S208) The display setting information acquisition unit 15 determines whether to acquire display setting information. If the display setting information is acquired, the process proceeds to step S209, and if not, the process returns to step S201. For example, the display setting information acquisition unit 15 may determine that the display setting information is acquired periodically (for example, every 10 seconds, every 30 seconds, every minute, etc.). It may be determined that the display setting information is acquired in response to occurrence (for example, new display setting information may be accumulated in the display setting information storage unit 14), or the display setting information may be obtained at other timings. You may judge that it acquires.

(ステップS209)表示設定情報取得部15は、表示設定情報記憶部14で記憶されている最新の表示設定情報を取得する。また、表示設定情報取得部15は、その取得した表示設定情報を図示しない記録媒体において一時的に記憶してもよい。そして、ステップS201に戻る。   (Step S209) The display setting information acquisition unit 15 acquires the latest display setting information stored in the display setting information storage unit 14. Further, the display setting information acquisition unit 15 may temporarily store the acquired display setting information in a recording medium (not shown). Then, the process returns to step S201.

なお、このフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。また、このフローチャートでは、表示部16が、番組映像と手話映像とを別々に表示する場合について説明したが(ステップS202,S205)、表示部16は、番組映像と手話映像とを一緒に表示するようにしてもよい。例えば、表示部16は、番組映像のフレームの一部の領域に手話映像が表示されるフレームを構成し、その構成したフレームを表示してもよい。   Note that in this flowchart, the processing is ended by powering off or interruption for aborting the processing. In this flowchart, the case where the display unit 16 displays the program video and the sign language video separately has been described (steps S202 and S205), but the display unit 16 displays the program video and the sign language video together. You may do it. For example, the display unit 16 may configure a frame in which a sign language image is displayed in a partial area of the frame of the program image, and display the configured frame.

図9は、図8のフローチャートにおける表示設定情報の生成(ステップS207)の処理の詳細を示すフローチャートである。なお、このフローチャートでは、番組映像を複数のブロックに分けて、そのブロックごとに処理する場合について説明する。   FIG. 9 is a flowchart showing details of the processing for generating display setting information (step S207) in the flowchart of FIG. In this flowchart, a case where a program video is divided into a plurality of blocks and processed for each block will be described.

(ステップS301)表示設定情報生成部22は、ブロックごとに動き検出を行う。   (Step S301) The display setting information generation unit 22 performs motion detection for each block.

(ステップS302)表示設定情報生成部22は、オブジェクト特定情報記憶部21で記憶されているオブジェクト特定情報を用いて、番組映像上のオブジェクトを特定し、そのオブジェクトを含むブロックを検出する。なお、このブロックの検出において、例えば、特定されたオブジェクトがブロックの面積の所定の割合(例えば、50%)以上を占める場合に、オブジェクトを含むブロックであるとしてもよい。   (Step S302) The display setting information generation unit 22 uses the object specification information stored in the object specification information storage unit 21 to specify an object on the program video and detects a block including the object. In this block detection, for example, when the specified object occupies a predetermined ratio (for example, 50%) or more of the block area, the block may include the object.

(ステップS303)表示設定情報生成部22は、ステップS302でオブジェクトを含むブロックが検出された場合には、そのオブジェクトを含むブロック以外のブロックであって、ステップS301で検出した動きの程度が小さい1以上のブロックを、手話映像を表示するブロックに決定する。なお、手話映像を表示するブロックの範囲は、あらかじめその大きさが決められていてもよく(例えば、2×2のブロックに決められていてもよい)、あるいは、そのブロックの最大値のみが決められていてもよい(例えば、ブロックの最大値が3×3のブロックに決められていてもよい)。前者の場合には、例えば、表示設定情報生成部22は、そのブロックの範囲を、特定されたオブジェクトを含まないブロックであって、動きの程度が最も小さくなるブロックの範囲に決定してもよい。後者の場合には、例えば、表示設定情報生成部22は、そのブロックの範囲を、特定されたオブジェクトを含まないブロックであって、動きの程度があらかじめ決められているしきい値以下となるブロックの範囲(ただし、全てのブロックの動きの程度がしきい値を超えている場合には、動きの程度が最も小さいブロック)に決定してもよい。   (Step S303) When a block including an object is detected in Step S302, the display setting information generation unit 22 is a block other than the block including the object, and the degree of motion detected in Step S301 is small 1 The above block is determined as a block for displaying a sign language video. Note that the size of the block range for displaying the sign language image may be determined in advance (for example, it may be determined as a 2 × 2 block), or only the maximum value of the block is determined. (For example, the maximum value of the block may be determined to be a 3 × 3 block). In the former case, for example, the display setting information generation unit 22 may determine the block range as a block range that does not include the specified object and has the smallest degree of movement. . In the latter case, for example, the display setting information generation unit 22 determines that the range of the block is a block that does not include the specified object and the degree of movement is equal to or less than a predetermined threshold value. (However, if the degree of motion of all the blocks exceeds the threshold value, the block having the smallest degree of motion) may be determined.

(ステップS304)表示設定情報生成部22は、ステップS303で決定したブロックの範囲に手話映像が表示されるように、表示設定情報を生成する。   (Step S304) The display setting information generation unit 22 generates display setting information so that the sign language video is displayed in the block range determined in step S303.

(ステップS305)表示設定情報生成部22は、その生成した表示設定情報を、表示設定情報記憶部14に蓄積する。そして、図8のフローチャートに戻る。   (Step S305) The display setting information generating unit 22 stores the generated display setting information in the display setting information storage unit 14. And it returns to the flowchart of FIG.

次に、本実施の形態による手話映像表示装置2の動作について、具体例を用いて説明する。
この具体例でも、手話映像表示装置2が放送された番組映像、及び手話映像を受信し、その番組映像に重畳されている番組関連情報を用いて表示設定情報の取得が行われるものとする。また、この具体例では、表示設定情報が位置情報のみを含む場合について説明する。また、この具体例では、表示設定情報生成部22は、10秒ごとに表示設定情報を生成するものとする。また、この具体例では、人物を特定するためのオブジェクト特定情報がオブジェクト特定情報記憶部21で記憶されているものとする。また、この具体例では、2×2のブロックが手話映像の表示領域として特定されるものとする。したがって、手話映像の表示の大きさは、その2×2のブロックの大きさにあらかじめ決められていることになる。また、表示設定情報取得部15は、表示設定情報が蓄積されたタイミングで、新たな表示設定情報を取得すると判断するものとする。
Next, the operation of the sign language video display device 2 according to the present embodiment will be described using a specific example.
Also in this specific example, it is assumed that the sign language video display device 2 receives the broadcast program video and the sign language video, and obtains the display setting information using the program related information superimposed on the program video. In this specific example, a case will be described in which the display setting information includes only position information. In this specific example, the display setting information generation unit 22 generates display setting information every 10 seconds. Further, in this specific example, it is assumed that object specifying information for specifying a person is stored in the object specifying information storage unit 21. In this specific example, it is assumed that a 2 × 2 block is specified as a display area for sign language video. Therefore, the display size of the sign language video is determined in advance by the size of the 2 × 2 block. In addition, the display setting information acquisition unit 15 determines to acquire new display setting information at the timing when the display setting information is accumulated.

また、この具体例では、図10で示されるように、番組映像を4×5のブロックに分けて、そのブロックごとに動き検出などを行うものとする。ブロック上の「B01」「B02」などは、ブロックを識別するブロックIDである。また、各ブロックの左上の端点の座標値があらかじめ図示しない記録媒体において記憶されているものとする。   In this specific example, as shown in FIG. 10, the program video is divided into 4 × 5 blocks, and motion detection is performed for each block. “B01”, “B02” and the like on the block are block IDs for identifying the blocks. Further, it is assumed that the coordinate value of the upper left end point of each block is stored in advance in a recording medium (not shown).

まず、手話映像表示装置2のユーザが、手話映像表示装置2を操作することによって、ニュース番組を見るようにチャンネル設定を行ったとする。すると、番組映像受付部11において、そのチャンネルの番組映像が受信され(ステップS201)、その番組映像がディスプレイに表示される(ステップS202)。そのようにして表示された番組映像は、図4で示されるものであったとする。また、その番組映像受付部11が受け付けた番組映像は、表示設定情報生成部22に渡され、その表示設定情報生成部22において一時的に記憶される(ステップS203)。   First, it is assumed that the user of the sign language video display device 2 performs channel setting so as to watch a news program by operating the sign language video display device 2. Then, the program video reception unit 11 receives the program video of the channel (step S201), and the program video is displayed on the display (step S202). It is assumed that the program video displayed in this way is the one shown in FIG. The program video received by the program video receiving unit 11 is transferred to the display setting information generation unit 22 and temporarily stored in the display setting information generation unit 22 (step S203).

手話映像受付部12は、番組映像のチャンネルと、その番組映像に対応した手話映像のチャンネルとを対応付ける情報を用いて、ユーザが設定した番組映像のチャンネルに対応する手話映像のチャンネルを特定し、そのチャンネルの手話映像を受信する(ステップS204)。その手話映像は、例えば、図5で示されるものである。表示部16は、表示設定情報取得部15がそれまでに取得している表示設定情報に応じて手話映像を表示する(ステップS205)。したがって、この場合の手話映像の表示は、番組映像に応じていない不適切なものとなりうる。この番組映像受付部11による番組映像の受信と、表示部16による番組映像の表示とは、繰り返して実行されることになる。   The sign language video reception unit 12 specifies a channel of the sign language video corresponding to the channel of the program video set by the user, using information associating the channel of the program video with the channel of the sign language video corresponding to the program video, The sign language image of the channel is received (step S204). The sign language image is, for example, as shown in FIG. The display unit 16 displays a sign language video according to the display setting information that the display setting information acquisition unit 15 has acquired so far (step S205). Therefore, the display of the sign language video in this case can be inappropriate depending on the program video. The reception of the program video by the program video reception unit 11 and the display of the program video by the display unit 16 are repeatedly executed.

次に、番組映像受付部11が第11フレーム目の番組映像を受信した時点で、表示設定情報生成部22は、表示設定情報の生成を行うと判断したとする(ステップS206)。そして、それらの番組映像を用いて、表示設定情報の生成が行われる(ステップS207)。具体的には、表示設定情報生成部22は、図10で示されるブロックごとに、動き検出を行う(ステップS301)。この動き検出は、各ブロックにおいて、時間的に隣接するフレーム間の類似度を算出することによって行うものとする。具体的には、第1フレームのブロックID「B01」で識別されるブロック(このブロックを「ブロックB01」と呼ぶことにする。他のブロックについても同様であるとする)について、第1フレームと、第2フレームとの間の類似度を算出する。その類似度が100%であれば、まったく変化がないことになり、動きのないブロックとなる。一方、その類似度が100%未満であれば、その類似度に応じた変化(動き)が存在したことになる。類似度が低いほど、変化(動き)が大きくなることは自明である。この具体例では、最新の10個の類似度の平均を用いて、動き検出を行うものとする。したがって、表示設定情報生成部22は、ブロックごとに、最新の10個の隣接するフレーム間の類似度を算出し、また、その算出した10個の類似度の平均を算出して、図11で示されるように、図示しない記録媒体に蓄積する。図11において、ブロックIDと、類似度の平均とが対応付けられている。例えば、ブロックB01の類似度の平均が100%であり、ブロックB01では、10フレームにわたって変化が全くなかったことが示されている。   Next, it is assumed that the display setting information generation unit 22 determines to generate display setting information when the program video reception unit 11 receives the program video of the eleventh frame (step S206). Then, display setting information is generated using those program videos (step S207). Specifically, the display setting information generation unit 22 performs motion detection for each block shown in FIG. 10 (step S301). This motion detection is performed by calculating the similarity between temporally adjacent frames in each block. Specifically, for the block identified by the block ID “B01” of the first frame (this block will be referred to as “block B01”; the same applies to the other blocks), The similarity between the second frame and the second frame is calculated. If the similarity is 100%, there will be no change at all, and the block will have no motion. On the other hand, if the similarity is less than 100%, it means that there is a change (movement) according to the similarity. Obviously, the lower the similarity, the greater the change (movement). In this specific example, motion detection is performed using the average of the latest 10 similarities. Therefore, the display setting information generation unit 22 calculates the similarity between the latest 10 adjacent frames for each block, and calculates the average of the calculated 10 similarities in FIG. As shown, it is stored in a recording medium (not shown). In FIG. 11, the block ID and the average similarity are associated with each other. For example, the average similarity of the block B01 is 100%, and the block B01 indicates that there is no change over 10 frames.

次に、表示設定情報生成部22は、人物を特定するオブジェクト特定情報を読み出し、番組映像の最新のフレームを用いて人物の特定を行う。そして、その特定した人物の領域を含むブロックIDを、図示しない記録媒体に蓄積する(ステップS302)。この場合には、ブロックID「B06」「B07」「B08」「B11」「B12」「B13」「B16」「B17」「B18」がオブジェクトを含むブロックのブロックIDとして蓄積され、一時的に記憶されるものとする。   Next, the display setting information generation unit 22 reads out object specifying information for specifying a person, and specifies the person using the latest frame of the program video. Then, the block ID including the identified person area is stored in a recording medium (not shown) (step S302). In this case, the block IDs “B06”, “B07”, “B08”, “B11”, “B12”, “B13”, “B16”, “B17”, and “B18” are accumulated as the block IDs of the blocks including the objects and temporarily stored. Shall be.

すると、表示設定情報生成部22は、その一時的に記憶されているオブジェクトを含むブロックIDで識別されるブロックを含まない2×2のブロックであって、その4個のブロックの類似度の合計が最も大きい2×2のブロックを特定する(ステップS303)。この場合には、ブロックB14,B15,B19,B20がそのようにして特定されたとする。   Then, the display setting information generation unit 22 is a 2 × 2 block that does not include the block identified by the block ID including the temporarily stored object, and the sum of the similarities of the four blocks. The 2 × 2 block having the largest is identified (step S303). In this case, it is assumed that the blocks B14, B15, B19, and B20 are specified in this way.

表示設定情報生成部22は、その2×2のブロックの左上の端点に対応する座標値(X101,Y101)を取得し(ステップS304)、その座標値を表示設定情報記憶部14に蓄積する(ステップS305)。その結果、図12で示される表示設定情報が表示設定情報記憶部14で記憶されるようになる。   The display setting information generation unit 22 acquires the coordinate values (X101, Y101) corresponding to the upper left end point of the 2 × 2 block (step S304), and accumulates the coordinate values in the display setting information storage unit 14 ( Step S305). As a result, the display setting information shown in FIG. 12 is stored in the display setting information storage unit 14.

新たな表示設定情報が蓄積されたため、表示設定情報取得部15は、表示設定情報を取得するタイミングであると判断し(ステップS208)、図12で示される表示設定情報を表示設定情報記憶部14から取得して、図示しない記録媒体に蓄積する(ステップS209)。その後、手話映像が表示される際には、図13で示されるように、ブロックB14,B15,B19,B20の領域に手話映像が表示されることになる(ステップS204,S205)。   Since the new display setting information has been accumulated, the display setting information acquisition unit 15 determines that it is time to acquire the display setting information (step S208), and displays the display setting information shown in FIG. And stored in a recording medium (not shown) (step S209). Thereafter, when the sign language image is displayed, as shown in FIG. 13, the sign language image is displayed in the areas of the blocks B14, B15, B19, and B20 (steps S204 and S205).

なお、この具体例では、表示設定情報生成部22が表示設定情報のうちの位置情報のみを生成する場合について説明したが、表示設定情報生成部22は、大きさ情報も生成してもよい。この具体例の場合には、その大きさ情報は、いつも同じ情報となる。   In this specific example, the case where the display setting information generation unit 22 generates only position information of the display setting information has been described, but the display setting information generation unit 22 may also generate size information. In this specific example, the size information is always the same information.

以上のように、本実施の形態による手話映像表示装置2によれば、動的に表示設定情報を生成することにより、各番組映像において最適な位置に手話映像を表示することができるようになる。動きのない領域に手話映像を表示することによって、ユーザが見たいであろう動きのある領域を手話映像によって隠すことを回避できうる。また、オブジェクト特定情報によって特定されるオブジェクトの領域を避けて手話映像を表示することによって、手話映像によって隠したくない領域が確実にユーザに見られるようにすることができる。   As described above, according to the sign language video display device 2 according to the present embodiment, the sign language video can be displayed at an optimum position in each program video by dynamically generating the display setting information. . By displaying the sign language video in the area without movement, it is possible to avoid hiding the area with the movement that the user wants to see with the sign language video. In addition, by displaying the sign language video while avoiding the object area specified by the object specifying information, it is possible to ensure that the user does not want to hide the area that is not hidden by the sign language video.

なお、本実施の形態では、オブジェクト特定情報で特定されるオブジェクトを覆わない領域に手話映像を表示する表示設定情報を生成する場合について説明したが、そうでなくてもよい。オブジェクト特定情報を用いた表示設定情報の生成を行わない場合には、手話映像表示装置2は、オブジェクト特定情報記憶部21を備えていなくてもよく、また、表示設定情報生成部22は、オブジェクト特定情報を用いた表示設定情報の生成を行わなくてもよい。   In the present embodiment, a case has been described in which display setting information for displaying a sign language video in a region that does not cover the object specified by the object specifying information is generated, but this need not be the case. When the display setting information is not generated using the object specifying information, the sign language video display device 2 may not include the object specifying information storage unit 21. The display setting information generating unit 22 may It is not necessary to generate display setting information using specific information.

また、本実施の形態では、動き検出を行って、動きのない領域に手話映像を表示する表示設定情報を生成する場合について説明したが、そうでなくてもよい。表示設定情報生成部22は、動き検出を行わないで表示設定情報を生成してもよい。その場合には、例えば、オブジェクト特定情報を用いた表示設定情報の生成を行ってもよい。   In the present embodiment, the case has been described where motion detection is performed to generate display setting information for displaying a sign language video in an area where there is no motion, but this need not be the case. The display setting information generation unit 22 may generate display setting information without performing motion detection. In that case, for example, display setting information using object specifying information may be generated.

また、上記各実施の形態の具体例において、まず番組映像が表示された後に、手話映像を含む番組映像が表示されるようになる場合について説明したが、番組映像のみが表示されている期間は、1,2フレーム程度であり、1/30〜2/30秒程度であるため、あまり影響はないと考えられる。一方、はじめから番組映像と手話映像とが同時に表示されるようにしてもよい。その場合には、手話映像を表示することができるようになるまで、すなわち、表示設定情報の取得等が行われるまで番組映像の表示を行わず、手話映像を表示できるようになってから、手話映像と番組映像とを表示するようにしてもよい。   Further, in the specific examples of the above embodiments, the case where the program video including the sign language video is displayed after the program video is first displayed is described. However, the period during which only the program video is displayed is as follows. Since it is about 1 or 2 frames and 1/30 to 2/30 seconds, it is considered that there is not much influence. On the other hand, the program video and the sign language video may be displayed simultaneously from the beginning. In that case, the sign language video can be displayed without displaying the program video until the sign language video can be displayed, that is, until the display setting information is acquired. A video and a program video may be displayed.

また、上記各実施の形態では、手話映像表示装置1,2がスタンドアロンである場合について説明したが、手話映像表示装置1,2は、スタンドアロンの装置であってもよく、サーバ・クライアントシステムにおけるサーバ装置であってもよい。後者の場合には、表示部や受付部は、通信回線を介して情報を表示したり、情報を受け付けたりしてもよい。   In each of the above embodiments, the sign language video display devices 1 and 2 are described as stand-alone. However, the sign language video display devices 1 and 2 may be stand-alone devices, or servers in a server / client system. It may be a device. In the latter case, the display unit or the reception unit may display information or receive information via a communication line.

また、上記各実施の形態において、各処理または各機能は、単一の装置または単一のシステムによって集中処理されることによって実現されてもよく、あるいは、複数の装置または複数のシステムによって分散処理されることによって実現されてもよい。   In each of the above embodiments, each processing or each function may be realized by centralized processing by a single device or a single system, or distributed processing by a plurality of devices or a plurality of systems. May be realized.

また、上記各実施の形態において、各構成要素が実行する処理に関係する情報、例えば、各構成要素が受け付けたり、取得したり、選択したり、生成したり、送信したり、受信したりした情報や、各構成要素が処理で用いるしきい値や数式、アドレス等の情報等は、上記説明で明記していない場合であっても、図示しない記録媒体において、一時的に、あるいは長期にわたって保持されていてもよい。また、その図示しない記録媒体への情報の蓄積を、各構成要素、あるいは、図示しない蓄積部が行ってもよい。また、その図示しない記録媒体からの情報の読み出しを、各構成要素、あるいは、図示しない読み出し部が行ってもよい。   Also, in each of the above embodiments, information related to processing executed by each component, for example, each component received, acquired, selected, generated, transmitted, or received Information and information such as threshold values, mathematical formulas, addresses, etc. used by each component in processing are retained temporarily or over a long period of time on a recording medium (not shown) even if not explicitly stated in the above description. May be. Further, the storage of information in the recording medium (not shown) may be performed by each component or a storage unit (not shown). Further, reading of information from the recording medium (not shown) may be performed by each component or a reading unit (not shown).

また、上記各実施の形態において、各構成要素等で用いられる情報、例えば、各構成要素が処理で用いるしきい値やアドレス、各種の設定値等の情報がユーザによって変更されてもよい場合には、上記説明で明記していない場合であっても、ユーザが適宜、それらの情報を変更できるようにしてもよく、あるいは、そうでなくてもよい。それらの情報をユーザが変更可能な場合には、その変更は、例えば、ユーザからの変更指示を受け付ける図示しない受付部と、その変更指示に応じて情報を変更する図示しない変更部とによって実現されてもよい。その図示しない受付部による変更指示の受け付けは、例えば、入力デバイスからの受け付けでもよく、通信回線を介して送信された情報の受信でもよく、所定の記録媒体から読み出された情報の受け付けでもよい。   In each of the above embodiments, when information used by each component, for example, information such as a threshold value, an address, and various setting values used by each component may be changed by the user Even if it is not specified in the above description, the user may be able to change the information as appropriate, or it may not be. If the information can be changed by the user, the change is realized by, for example, a not-shown receiving unit that receives a change instruction from the user and a changing unit (not shown) that changes the information in accordance with the change instruction. May be. The change instruction received by the receiving unit (not shown) may be received from an input device, information received via a communication line, or information read from a predetermined recording medium, for example. .

また、上記各実施の形態において、手話映像表示装置1,2に含まれる2以上の構成要素が通信デバイスや入力デバイス等を有する場合に、2以上の構成要素が物理的に単一のデバイスを有してもよく、あるいは、別々のデバイスを有してもよい。   In each of the above embodiments, when two or more constituent elements included in the sign language video display apparatuses 1 and 2 include a communication device, an input device, and the like, the two or more constituent elements are physically single devices. You may have, or you may have a separate device.

また、上記各実施の形態において、各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをCPU等のプログラム実行部が読み出して実行することによって、各構成要素が実現され得る。なお、上記実施の形態における手話映像表示装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、番組の映像である番組映像を受け付ける番組映像受付部、前記番組映像に対応した手話の映像である手話映像を受け付ける手話映像受付部、前記手話映像を表示する位置に関する情報である位置情報を含む表示設定情報が記憶される表示設定情報記憶部から表示設定情報を取得する表示設定情報取得部、前記表示設定情報取得部が取得した表示設定情報に応じて、前記手話映像受付部が受け付けた手話映像と、前記番組映像受付部が受け付けた番組映像とを表示する表示部、として機能させるためのものである。   In each of the above embodiments, each component may be configured by dedicated hardware, or a component that can be realized by software may be realized by executing a program. For example, each component can be realized by a program execution unit such as a CPU reading and executing a software program recorded on a recording medium such as a hard disk or a semiconductor memory. Note that the software that realizes the sign language video display apparatus in the above embodiment is the following program. In other words, this program causes a computer to receive a program video reception unit that receives a program video that is a video of a program, a sign language video reception unit that receives a sign language video that is a video of a sign language corresponding to the program video, and a position for displaying the sign language video. Display setting information acquisition unit that acquires display setting information from a display setting information storage unit that stores display setting information that includes position information that is information relating to the display setting information acquired by the display setting information acquisition unit, This is for functioning as a display unit for displaying the sign language video received by the sign language video receiving unit and the program video received by the program video receiving unit.

なお、上記プログラムにおいて、上記プログラムが実現する機能には、ハードウェアでしか実現できない機能は含まれない。例えば、情報を取得する取得部や、情報を受け付ける受付部、情報を表示する表示部などにおけるモデムやインターフェースカードなどのハードウェアでしか実現できない機能は、上記プログラムが実現する機能には少なくとも含まれない。   In the program, the functions realized by the program do not include functions that can be realized only by hardware. For example, functions that can be realized only by hardware such as a modem and an interface card in an acquisition unit that acquires information, a reception unit that receives information, and a display unit that displays information are included in at least the functions realized by the above program. Absent.

また、このプログラムは、サーバなどからダウンロードされることによって実行されてもよく、所定の記録媒体(例えば、CD−ROMなどの光ディスクや磁気ディスク、半導体メモリなど)に記録されたプログラムが読み出されることによって実行されてもよい。また、このプログラムは、プログラムプロダクトを構成するプログラムとして用いられてもよい。   Further, this program may be executed by being downloaded from a server or the like, and a program recorded on a predetermined recording medium (for example, an optical disk such as a CD-ROM, a magnetic disk, a semiconductor memory, or the like) is read out. May be executed by Further, this program may be used as a program constituting a program product.

また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。   Further, the computer that executes this program may be singular or plural. That is, centralized processing may be performed, or distributed processing may be performed.

図14は、上記プログラムを実行して、上記各実施の形態による手話映像表示装置1,2を実現するコンピュータの外観の一例を示す模式図である。上記各実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムによって実現されうる。   FIG. 14 is a schematic diagram showing an example of the external appearance of a computer that executes the program and realizes the sign language video display apparatuses 1 and 2 according to the above embodiments. Each of the above embodiments can be realized by computer hardware and a computer program executed thereon.

図14において、コンピュータシステム900は、CD−ROM(Compact Disk Read Only Memory)ドライブ905、FD(Floppy(登録商標) Disk)ドライブ906を含むコンピュータ901と、キーボード902と、マウス903と、モニタ904とを備える。   14, a computer system 900 includes a computer 901 including a CD-ROM (Compact Disk Read Only Memory) drive 905 and an FD (Floppy (registered trademark) Disk) drive 906, a keyboard 902, a mouse 903, a monitor 904, and the like. Is provided.

図15は、コンピュータシステム900の内部構成を示す図である。図15において、コンピュータ901は、CD−ROMドライブ905、FDドライブ906に加えて、MPU(Micro Processing Unit)911と、ブートアッププログラム等のプログラムを記憶するためのROM912と、MPU911に接続され、アプリケーションプログラムの命令を一時的に記憶すると共に、一時記憶空間を提供するRAM(Random Access Memory)913と、アプリケーションプログラム、システムプログラム、及びデータを記憶するハードディスク914と、MPU911、ROM912等を相互に接続するバス915とを備える。なお、コンピュータ901は、LANへの接続を提供する図示しないネットワークカードを含んでいてもよい。   FIG. 15 is a diagram showing an internal configuration of the computer system 900. In FIG. 15, in addition to the CD-ROM drive 905 and the FD drive 906, a computer 901 is connected to an MPU (Micro Processing Unit) 911, a ROM 912 for storing a program such as a bootup program, and the MPU 911. A RAM (Random Access Memory) 913 that temporarily stores program instructions and provides a temporary storage space, a hard disk 914 that stores application programs, system programs, and data, and an MPU 911 and a ROM 912 are interconnected. And a bus 915. The computer 901 may include a network card (not shown) that provides connection to the LAN.

コンピュータシステム900に、上記各実施の形態による手話映像表示装置1,2の機能を実行させるプログラムは、CD−ROM921、またはFD922に記憶されて、CD−ROMドライブ905、またはFDドライブ906に挿入され、ハードディスク914に転送されてもよい。これに代えて、そのプログラムは、図示しないネットワークを介してコンピュータ901に送信され、ハードディスク914に記憶されてもよい。プログラムは実行の際にRAM913にロードされる。なお、プログラムは、CD−ROM921やFD922、またはネットワークから直接、ロードされてもよい。   A program for causing the computer system 900 to execute the functions of the sign language image display apparatuses 1 and 2 according to the above embodiments is stored in the CD-ROM 921 or FD 922 and inserted into the CD-ROM drive 905 or FD drive 906. May be transferred to the hard disk 914. Instead, the program may be transmitted to the computer 901 via a network (not shown) and stored in the hard disk 914. The program is loaded into the RAM 913 when executed. The program may be loaded directly from the CD-ROM 921, the FD 922, or the network.

プログラムは、コンピュータ901に、上記各実施の形態による手話映像表示装置1,2の機能を実行させるオペレーティングシステム(OS)、またはサードパーティプログラム等を必ずしも含んでいなくてもよい。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいてもよい。コンピュータシステム900がどのように動作するのかについては周知であり、詳細な説明は省略する。   The program does not necessarily include an operating system (OS), a third party program, or the like that causes the computer 901 to execute the functions of the sign language video display apparatuses 1 and 2 according to the above embodiments. The program may include only a part of an instruction that calls an appropriate function (module) in a controlled manner and obtains a desired result. How the computer system 900 operates is well known and will not be described in detail.

また、本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。   Further, the present invention is not limited to the above-described embodiment, and various modifications are possible, and it goes without saying that these are also included in the scope of the present invention.

以上より、本発明による手話映像表示装置等によれば、記憶されている表示設定情報を用いて手話映像を表示することができ、手話映像を表示する装置等として有用である。   As described above, according to the sign language image display device and the like according to the present invention, the sign language image can be displayed using the stored display setting information, which is useful as an apparatus for displaying a sign language image.

本発明の実施の形態1による手話映像表示装置の構成を示すブロック図The block diagram which shows the structure of the sign language video display apparatus by Embodiment 1 of this invention. 同実施の形態による手話映像表示装置の動作を示すフローチャートThe flowchart which shows operation | movement of the sign language image display apparatus by the embodiment 同実施の形態における番組関連情報と表示設定情報との対応の一例を示す図The figure which shows an example of a response | compatibility with the program relevant information and display setting information in the embodiment 同実施の形態における番組映像の一例を示す図The figure which shows an example of the program image | video in the embodiment 同実施の形態における手話映像の一例を示す図The figure which shows an example of the sign language image | video in the embodiment 同実施の形態における手話映像と番組映像との表示の一例を示す図The figure which shows an example of a display of a sign language image and a program image in the embodiment 本発明の実施の形態2による手話映像表示装置の構成を示すブロック図The block diagram which shows the structure of the sign language video display apparatus by Embodiment 2 of this invention. 同実施の形態による手話映像表示装置の動作を示すフローチャートThe flowchart which shows operation | movement of the sign language image display apparatus by the embodiment 同実施の形態による手話映像表示装置の動作を示すフローチャートThe flowchart which shows operation | movement of the sign language image display apparatus by the embodiment 同実施の形態におけるブロックについて説明するための図The figure for demonstrating the block in the embodiment 同実施の形態におけるブロックIDと類似度の平均との対応の一例を示す図The figure which shows an example of a response | compatibility with block ID and the average of similarity in the embodiment 同実施の形態における表示設定情報の一例を示す図The figure which shows an example of the display setting information in the embodiment 同実施の形態における手話映像と番組映像との表示の一例を示す図The figure which shows an example of a display of a sign language image and a program image in the embodiment 同実施の形態におけるコンピュータシステムの外観一例を示す模式図Schematic diagram showing an example of the appearance of the computer system in the embodiment 同実施の形態におけるコンピュータシステムの構成の一例を示す図The figure which shows an example of a structure of the computer system in the embodiment

符号の説明Explanation of symbols

1、2 手話映像表示装置
11 番組映像受付部
12 手話映像受付部
13 番組関連情報受付部
14 表示設定情報記憶部
15 表示設定情報取得部
16 表示部
21 オブジェクト特定情報記憶部
22 表示設定情報生成部
DESCRIPTION OF SYMBOLS 1, 2 Sign language video display apparatus 11 Program video reception part 12 Sign language video reception part 13 Program related information reception part 14 Display setting information storage part 15 Display setting information acquisition part 16 Display part 21 Object specific information storage part 22 Display setting information generation part

Claims (12)

番組の映像である番組映像を受け付ける番組映像受付部と、
前記番組映像に対応した手話の映像である手話映像を受け付ける手話映像受付部と、
前記手話映像を表示する位置に関する情報である位置情報を含む表示設定情報が記憶される表示設定情報記憶部と、
前記表示設定情報記憶部から表示設定情報を取得する表示設定情報取得部と、
前記表示設定情報取得部が取得した表示設定情報に応じて、前記手話映像受付部が受け付けた手話映像と、前記番組映像受付部が受け付けた番組映像とを表示する表示部と、
前記番組映像受付部が受け付けた番組映像から表示設定情報を生成し、前記表示設定情報記憶部に蓄積する表示設定情報生成部と、
前記手話映像によって覆われたくないオブジェクトを特定するための情報であるオブジェクト特定情報が記憶されるオブジェクト特定情報記憶部と、を備え
前記表示設定情報生成部は、前記番組映像受付部が受け付けた番組映像に対して動き検出を行い、当該番組映像に前記オブジェクト特定情報で特定されるオブジェクトが存在する場合に、動きのない領域であり、当該オブジェクトを覆わない領域に前記手話映像を表示する表示設定情報を生成する、手話映像表示装置。
A program video reception unit for receiving a program video which is a video of the program;
A sign language image receiving unit that accepts a sign language image that is a sign language image corresponding to the program image;
A display setting information storage unit that stores display setting information including position information that is information regarding a position for displaying the sign language video;
A display setting information acquisition unit for acquiring display setting information from the display setting information storage unit;
A display unit for displaying the sign language video received by the sign language video receiving unit and the program video received by the program video receiving unit according to the display setting information acquired by the display setting information acquiring unit;
A display setting information generating unit that generates display setting information from the program video received by the program video receiving unit and stores the display setting information in the display setting information storage unit;
An object specifying information storage unit that stores object specifying information that is information for specifying an object that is not desired to be covered by the sign language video ,
The display setting information generation unit performs motion detection on the program video received by the program video reception unit, and in an area where there is no motion when the object specified by the object specification information exists in the program video. A sign language image display device that generates display setting information for displaying the sign language image in an area that does not cover the object .
前記オブジェクト特定情報は、パターンマッチングで用いるパターンの図形である、請求項1記載の手話映像表示装置。The sign language image display device according to claim 1, wherein the object specifying information is a figure of a pattern used in pattern matching. 前記表示設定情報生成部は、前記番組映像を複数のブロックに分け、ブロック単位での動き検出、及び前記オブジェクト特定情報で特定されるオブジェクトを含むブロックの検出を行い、当該オブジェクトを含むブロック以外の1以上のブロックであって、かつ、動きのない1以上のブロックの領域に前記手話映像を表示する表示設定情報を生成する、請求項1または請求項2記載の手話映像表示装置。The display setting information generation unit divides the program video into a plurality of blocks, performs motion detection in units of blocks, detects a block including an object specified by the object specifying information, and other than the block including the object The sign language image display device according to claim 1 or 2, wherein display setting information for displaying the sign language image in an area of one or more blocks which is one or more blocks and does not move is generated. 前記表示設定情報取得部は、前記表示設定情報の取得を繰り返し、
前記表示部は、前記表示設定情報取得部が表示設定情報を取得するごとに、最新の表示設定情報に応じて手話映像を表示する、請求項から請求項のいずれか記載の手話映像表示装置。
The display setting information acquisition unit repeatedly acquires the display setting information,
Wherein the display unit, each time the display setting information acquiring unit acquires the display setting information and displays the sign language image according to the latest display setting information, sign language video display according to any one of claims 1 to 3 apparatus.
前記表示設定情報取得部は、定期的に最新の表示設定情報を取得する、請求項記載の手話映像表示装置。 The sign language image display device according to claim 4 , wherein the display setting information acquisition unit periodically acquires the latest display setting information. 前記表示設定情報取得部は、前記表示設定情報記憶部に新たに生成された表示設定情報が記憶されるごとに、最新の表示設定情報を取得する、請求項記載の手話映像表示装置。 5. The sign language image display device according to claim 4 , wherein the display setting information acquisition unit acquires the latest display setting information every time display setting information newly generated is stored in the display setting information storage unit. 番組映像受付部と、手話映像受付部と、手話の映像である手話映像を表示する位置に関する情報である位置情報を含む表示設定情報が記憶される表示設定情報記憶部と、前記手話映像によって覆われたくないオブジェクトを特定するための情報であるオブジェクト特定情報が記憶されるオブジェクト特定情報記憶部と、表示設定情報生成部と、表示設定情報取得部と、表示部とを用いて処理される手話映像表示方法であって、
前記番組映像受付部が、番組の映像である番組映像を受け付ける番組映像受付ステップと、
前記手話映像受付部が、前記番組映像に対応した手話の映像である手話映像を受け付ける手話映像受付ステップと、
前記表示設定情報生成部が、前記番組映像受付ステップで受け付けた番組映像から表示設定情報を生成し、前記表示設定情報記憶部に蓄積する表示設定情報生成ステップと、
前記表示設定情報取得部が、前記表示設定情報記憶部から表示設定情報を取得する表示設定情報取得ステップと、
前記表示部が、前記表示設定情報取得ステップで取得した表示設定情報に応じて、前記手話映像受付ステップで受け付けた手話映像と、前記番組映像受付ステップで受け付けた番組映像とを表示する表示ステップと、を備え
前記表示設定情報生成ステップでは、前記番組映像受付ステップで受け付けた番組映像に対して動き検出を行い、当該番組映像に前記オブジェクト特定情報で特定されるオブジェクトが存在する場合に、動きのない領域であり、当該オブジェクトを覆わない領域に前記手話映像を表示する表示設定情報を生成する、手話映像表示方法。
A program video reception unit, a sign language video reception unit, a display setting information storage unit that stores display setting information including position information that is information about a position for displaying a sign language video as a sign language video, and is covered by the sign language video. Sign language processed using an object specification information storage unit that stores object specification information that is information for specifying an object that is not to be received, a display setting information generation unit, a display setting information acquisition unit, and a display unit An image display method,
A program video receiving step in which the program video receiving unit receives a program video that is a video of the program; and
A sign language image receiving step for receiving a sign language image that is a sign language image corresponding to the program image;
The display setting information generating unit generates display setting information from the program video received in the program video receiving step, and stores the display setting information in the display setting information storage unit;
The display setting information acquisition unit acquires display setting information from the display setting information storage unit; and
A display step for displaying the sign language video received in the sign language video reception step and the program video received in the program video reception step according to the display setting information acquired in the display setting information acquisition step; , equipped with a,
In the display setting information generating step, motion detection is performed on the program video received in the program video receiving step, and an object specified by the object specifying information exists in the program video in an area where there is no motion. A sign language image display method for generating display setting information for displaying the sign language image in an area that does not cover the object .
前記オブジェクト特定情報は、パターンマッチングで用いるパターンの図形である、請求項7記載の手話映像表示方法。The sign language image display method according to claim 7, wherein the object specifying information is a figure of a pattern used in pattern matching. 前記表示設定情報生成ステップでは、前記番組映像を複数のブロックに分け、ブロック単位での動き検出、及び前記オブジェクト特定情報で特定されるオブジェクトを含むブロックの検出を行い、当該オブジェクトを含むブロック以外の1以上のブロックであって、かつ、動きのない1以上のブロックの領域に前記手話映像を表示する表示設定情報を生成する、請求項7または請求項8記載の手話映像表示方法。In the display setting information generating step, the program video is divided into a plurality of blocks, motion detection is performed in units of blocks, and a block including an object specified by the object specifying information is detected, and a block other than the block including the object is detected. The sign language image display method according to claim 7 or 8, wherein display setting information for displaying the sign language image in an area of one or more blocks which are one or more blocks and do not move is generated. コンピュータを、
番組の映像である番組映像を受け付ける番組映像受付部、
前記番組映像に対応した手話の映像である手話映像を受け付ける手話映像受付部、
前記手話映像を表示する位置に関する情報である位置情報を含む表示設定情報が記憶される表示設定情報記憶部から表示設定情報を取得する表示設定情報取得部、
前記表示設定情報取得部が取得した表示設定情報に応じて、前記手話映像受付部が受け付けた手話映像と、前記番組映像受付部が受け付けた番組映像とを表示する表示部、
前記番組映像受付部が受け付けた番組映像から表示設定情報を生成し、前記表示設定情報記憶部に蓄積する表示設定情報生成部として機能させ
前記表示設定情報生成部は、前記番組映像受付部が受け付けた番組映像に対して動き検出を行い、当該番組映像に、前記手話映像によって覆われたくないオブジェクトを特定するための情報であるオブジェクト特定情報が記憶されるオブジェクト特定情報記憶部で記憶されているオブジェクト特定情報で特定されるオブジェクトが存在する場合に、動きのない領域であり、当該オブジェクトを覆わない領域に前記手話映像を表示する表示設定情報を生成する、プログラム。
Computer
A program video reception unit that receives a program video that is a video of the program,
A sign language image receiving unit for receiving a sign language image which is a sign language image corresponding to the program image;
A display setting information acquisition unit that acquires display setting information from a display setting information storage unit that stores display setting information including position information that is information relating to a position for displaying the sign language video;
A display unit for displaying the sign language video received by the sign language video receiving unit and the program video received by the program video receiving unit according to the display setting information acquired by the display setting information acquiring unit;
Generating display setting information from the program video received by the program video receiving unit , and functioning as a display setting information generating unit for storing in the display setting information storage unit ;
The display setting information generation unit performs object motion detection on the program video received by the program video reception unit, and specifies an object that is information for specifying an object that the program video does not want to be covered with the sign language video. When the object specified by the object specifying information stored in the object specifying information storage unit in which the information is stored exists, the display is a region that does not move and displays the sign language video in a region that does not cover the object A program that generates configuration information .
前記オブジェクト特定情報は、パターンマッチングで用いるパターンの図形である、請求項10記載のプログラム。The program according to claim 10, wherein the object specifying information is a figure of a pattern used for pattern matching. 前記表示設定情報生成部は、前記番組映像を複数のブロックに分け、ブロック単位での動き検出、及び前記オブジェクト特定情報で特定されるオブジェクトを含むブロックの検出を行い、当該オブジェクトを含むブロック以外の1以上のブロックであって、かつ、動きのない1以上のブロックの領域に前記手話映像を表示する表示設定情報を生成する、請求項10または請求項11記載のプログラム。The display setting information generation unit divides the program video into a plurality of blocks, performs motion detection in units of blocks, detects a block including an object specified by the object specifying information, and other than the block including the object The program according to claim 10 or 11, wherein display setting information for displaying the sign language video in an area of one or more blocks which are one or more blocks and do not move is generated.
JP2008320901A 2008-12-17 2008-12-17 Sign language video display device, sign language video display method, and program Expired - Fee Related JP5266035B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008320901A JP5266035B2 (en) 2008-12-17 2008-12-17 Sign language video display device, sign language video display method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008320901A JP5266035B2 (en) 2008-12-17 2008-12-17 Sign language video display device, sign language video display method, and program

Publications (2)

Publication Number Publication Date
JP2010147649A JP2010147649A (en) 2010-07-01
JP5266035B2 true JP5266035B2 (en) 2013-08-21

Family

ID=42567646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008320901A Expired - Fee Related JP5266035B2 (en) 2008-12-17 2008-12-17 Sign language video display device, sign language video display method, and program

Country Status (1)

Country Link
JP (1) JP5266035B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150154774A1 (en) * 2013-07-24 2015-06-04 Telefonaktiebolaget Lm Ericsson (Publ) Media rendering apparatus and method with widget control
JP6386933B2 (en) * 2015-02-19 2018-09-05 株式会社アステム Program output device, program and auxiliary information output method, and program
JP2019016206A (en) * 2017-07-07 2019-01-31 株式会社富士通ソーシアルサイエンスラボラトリ Sound recognition character display program, information processing apparatus, and sound recognition character display method

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001333335A (en) * 2000-05-24 2001-11-30 Minolta Co Ltd Video information device
JP4185790B2 (en) * 2003-03-12 2008-11-26 シャープ株式会社 Television broadcast receiver
JP4476723B2 (en) * 2004-07-14 2010-06-09 アルパイン株式会社 Image display device
JP2007266800A (en) * 2006-03-28 2007-10-11 Hitachi Ltd Information reproducing device
JP4871635B2 (en) * 2006-04-28 2012-02-08 キヤノン株式会社 Digital broadcast receiving apparatus and control method thereof

Also Published As

Publication number Publication date
JP2010147649A (en) 2010-07-01

Similar Documents

Publication Publication Date Title
US8730354B2 (en) Overlay video content on a mobile device
US8774592B2 (en) Media reproduction for audio visual entertainment
WO2017211250A1 (en) Image overlay display method and system
US8654131B2 (en) Video image processing apparatus and video image processing method
KR102246305B1 (en) Augmented media service providing method, apparatus thereof, and system thereof
US8045004B2 (en) Display signal control apparatus, and display signal control method
JP2011055270A (en) Information transmission apparatus and information transmission method
EP2893706A2 (en) Augmented reality for video system
TW201036437A (en) Systems and methods for providing closed captioning in three-dimensional imagery
KR20130127423A (en) Method of picture-in-picture for multimedia applications
CN106658030B (en) A kind of playback method and equipment of the composite video comprising SCVF single channel voice frequency multi-channel video
WO2014030405A1 (en) Display device, display method, television receiver, and display control device
JP5346797B2 (en) Sign language video synthesizing device, sign language video synthesizing method, sign language display position setting device, sign language display position setting method, and program
JP5266035B2 (en) Sign language video display device, sign language video display method, and program
EP2286592B1 (en) Signal processing device and method for tuning an audiovisual system to a viewer attention level.
CN111050204A (en) Video clipping method and device, electronic equipment and storage medium
EP2575358B1 (en) Display apparatus and control method thereof
JP5317710B2 (en) Image processing apparatus, control method therefor, program, and recording medium
US9875521B2 (en) Image output apparatus, image output method, and program
JP2004312208A (en) Device, method and program for displaying video
CN111698261B (en) Video playing method, device, equipment and storage medium based on streaming media
US20110304769A1 (en) Digital broadcast receiver apparatus and image display method
US20140047309A1 (en) Apparatus and method for synchronizing content with data
JP2012063547A (en) Image processing apparatus and image processing method
US7747130B2 (en) Apparatus and method for extracting representative still images from MPEG video

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130502

R150 Certificate of patent or registration of utility model

Ref document number: 5266035

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees