JP2007135078A - Data communication apparatus, data communication method, and data communication program - Google Patents

Data communication apparatus, data communication method, and data communication program Download PDF

Info

Publication number
JP2007135078A
JP2007135078A JP2005327754A JP2005327754A JP2007135078A JP 2007135078 A JP2007135078 A JP 2007135078A JP 2005327754 A JP2005327754 A JP 2005327754A JP 2005327754 A JP2005327754 A JP 2005327754A JP 2007135078 A JP2007135078 A JP 2007135078A
Authority
JP
Japan
Prior art keywords
data
communication
area
metadata
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005327754A
Other languages
Japanese (ja)
Other versions
JP4616153B2 (en
Inventor
Hiroshi Fujii
寛 藤井
Takeshi Sugiyama
武史 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2005327754A priority Critical patent/JP4616153B2/en
Publication of JP2007135078A publication Critical patent/JP2007135078A/en
Application granted granted Critical
Publication of JP4616153B2 publication Critical patent/JP4616153B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a data communication apparatus, a data communication method, and a data communication program which enable metadata to be buried in an arbitrary position of video. <P>SOLUTION: Metadata and coordinate data associated with each other are input to a flashing signal generation part 20. A pattern setting part 22 sets a flashing pattern relating to light emitting elements 111 or the like flashed in order to display metadata in an area on the display screen 110 of an image display device 100, which is specified by coordinate data, and a flashing speed. An output part 25 inputs a flashing signal including the flashing pattern to the image display device 100. The flashing pattern based on the flashing signal is displayed on the image display device 100 together with a video based on a video signal generated by a video signal generation part 10. This video is read by a camera or a photodetector, and when the flashing pattern of each area included in the image is decoded, metadata of each area can be extracted from the image. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、画像表示装置に映像と共にメタデータを埋め込むデータ通信装置、データ通信方法およびデータ通信プログラムに関するものである。   The present invention relates to a data communication device, a data communication method, and a data communication program for embedding metadata together with video in an image display device.

電子透かしとは、静止画や動画などの画像または音声に情報を埋め込む技術であり、電子透かしが施された画像や音声を撮影または収音してデジタルデータを取得すると、このデジタルデータから画像や音声に埋め込まれていたメタデータを抽出することができる(例えば、特許文献1、非特許文献1,2参照。)。ここで、メタデータとは、画像表示装置等に表示される映像に関連した情報のことである。近年では、画像や音声から抽出したメタデータを元に様々な機能やサービスを提供する技術が提案されている。   Digital watermarking is a technology that embeds information in images or sound such as still images and moving images. When digital data is acquired by capturing or collecting digital watermarked images or sound, images and sound are captured from this digital data. The metadata embedded in the voice can be extracted (see, for example, Patent Document 1, Non-Patent Documents 1 and 2). Here, the metadata is information related to video displayed on an image display device or the like. In recent years, techniques for providing various functions and services based on metadata extracted from images and sounds have been proposed.

例えば、画像の書誌情報や画像に関連する情報をメタデータとしてその画像に埋め込む画像情報提供サービス、画像に関連するURL(Uniform Resource Locators)をメタデータとしてその画像に埋め込む画像関連インターネットサイトへの接続サービス、コンテンツのIDなどの画像識別子の埋め込みによる画像同定サービスや画像情報提供サービス(例えば、特許文献2参照。)などが提案されている。これらのサービスは、主に雑誌やポスター等の紙面を対象に行われている。紙面は、デジタルカメラ、デジタルビデオカメラ、スキャナ、コピー機などにより画像を安定して読み取ることができるので、画像に埋め込まれたメタデータの取り出しを容易に行える。しかし、紙面では、物理的な限界や人の視覚に及ぼす影響が少ないことから、多人数への情報提供媒体としては訴求力が弱い。そこで、街頭の大型の画像表示装置など多人数への訴求力の高い情報提供媒体(例えば、非特許文献3参照。)に電子透かしを埋め込んだ画像を表示することが望まれている。ここで、従来の大画面の画像表示装置およびこの画像表示装置に映像信号を入力するデータ通信装置を図10,11に示す。   For example, an image information providing service that embeds bibliographic information of an image or information related to the image as metadata in the image, connection to an image related Internet site that embeds URL (Uniform Resource Locators) related to the image as metadata An image identification service or an image information providing service (for example, see Patent Document 2) by embedding an image identifier such as a service or content ID has been proposed. These services are mainly targeted at papers such as magazines and posters. Since the image can be stably read by a digital camera, a digital video camera, a scanner, a copier, or the like on the paper surface, the metadata embedded in the image can be easily taken out. However, on paper, it has little impact on physical limitations and human vision, so its appeal is weak as a medium for providing information to many people. Therefore, it is desired to display an image in which an electronic watermark is embedded in an information providing medium (for example, see Non-Patent Document 3) that has a high appealing power to a large number of people, such as a large image display device on the street. A conventional large screen image display device and a data communication device for inputting a video signal to the image display device are shown in FIGS.

図10に示すように、大型の画像表示装置100は、赤色、青色、緑色の何れかの色に発光するLEDなどの発光素子111をマトリックス状に配列した表示画面110を有する。このような大型の画像表示装置100は、ビル壁面などの屋内外でポスターと同様の広告表示や画像情報提供を行うものであり、静止画のみならず動画を表示することができる。   As shown in FIG. 10, the large-sized image display device 100 includes a display screen 110 in which light emitting elements 111 such as LEDs that emit light in any one of red, blue, and green are arranged in a matrix. Such a large-sized image display device 100 performs advertisement display and image information provision similar to a poster indoors and outdoors such as a building wall surface, and can display not only still images but also moving images.

図11に示すように、データ通信装置200は、復号器121とビデオメモリ122とからなるデコーダ120と、DAコンバータ130とからなる。このような信号処理装置200において、画像表示装置100の表示画面110に表示するデジタルデータからなる画像データは、デコーダ120により復号化され、DAコンバータ130により映像信号に変換されたあと、画像表示装置100に入力される。画像表示装置100は、入力された映像信号にしたがって発光素子111を発光させることにより、表示画面110に映像を表示する。   As shown in FIG. 11, the data communication apparatus 200 includes a decoder 120 including a decoder 121 and a video memory 122, and a DA converter 130. In such a signal processing device 200, image data composed of digital data displayed on the display screen 110 of the image display device 100 is decoded by the decoder 120, converted into a video signal by the DA converter 130, and then the image display device. 100 is input. The image display apparatus 100 displays an image on the display screen 110 by causing the light emitting element 111 to emit light in accordance with the input video signal.

このような大型の画像表示装置に電子透かしを施した画像を表示することにより、訴求力の高い各種サービスを提供することが可能となるが、従来の電子透かし技術では、画面表示装置の解像度やコントラスト、画面表示装置と観察者との距離など表示および読み取り環境の問題から、画像表示装置からの画像を安定して読み取ることが困難であった。そこで、近年では、表示および読み取り環境によらずに安定した画像の読み取りを可能とする技術が提案されている(例えば、特許文献3、非特許文献4参照。)。これは、可視光を用いた光通信の応用技術であり、画像に埋め込むメタデータを光の点滅として符号化し、画像表示装置の表示素子を画像表示時にメタデータを符号化したパタンで点滅させることにより、画像と同時にメタデータを表示するものである。このようなデータ通信装置を図3に示す。   By displaying an image with a digital watermark on such a large image display device, it becomes possible to provide various services with high appeal. However, with the conventional digital watermark technology, the resolution of the screen display device and Due to display and reading environment problems such as contrast and the distance between the screen display device and the observer, it has been difficult to stably read an image from the image display device. Thus, in recent years, a technique has been proposed that enables stable image reading regardless of the display and reading environment (see, for example, Patent Document 3 and Non-Patent Document 4). This is an application technology of optical communication using visible light, in which metadata to be embedded in an image is encoded as blinking light, and the display element of the image display device blinks in a pattern in which metadata is encoded during image display. Thus, metadata is displayed simultaneously with the image. Such a data communication apparatus is shown in FIG.

図12に示すように、データ通信装置300は、映像信号生成部310と、点滅信号生成部320と、合成部330とから構成される。映像信号生成部310は、図11を参照して説明したデータ通信装置200と同等の構成を有し、画像表示装置100に表示する画像データに基づいて映像信号を生成する。点滅信号生成部320は、画像表示装置100に表示するメタデータに基づいて点滅信号を生成する。合成部330は、映像信号生成部310により生成された映像信号と、点滅信号生成部320により生成された点滅信号とを合成して合成信号を生成し、画面表示装置100に入力する。一例として、任意の発光素子111に対応する映像信号の輝度変化を図13(a)、点滅信号の輝度変化を図13(b)とすると、合成部330は、それらを合成して図13(c)に示すような輝度変化の合成信号を生成する。このような合成信号を画像表示装置100に入力することにより、メタデータが埋め込まれた映像が表示画面110に表示される。この表示画面110に表示された映像をカメラや受光器で読み取り、その映像に含まれる点滅信号を解読することにより、その映像からメタデータを抽出することができる。   As illustrated in FIG. 12, the data communication apparatus 300 includes a video signal generation unit 310, a blinking signal generation unit 320, and a synthesis unit 330. The video signal generation unit 310 has a configuration equivalent to that of the data communication apparatus 200 described with reference to FIG. 11 and generates a video signal based on image data displayed on the image display apparatus 100. The blinking signal generation unit 320 generates a blinking signal based on the metadata displayed on the image display device 100. The combining unit 330 combines the video signal generated by the video signal generation unit 310 and the blinking signal generated by the blinking signal generation unit 320 to generate a combined signal, and inputs the combined signal to the screen display device 100. As an example, assuming that the luminance change of the video signal corresponding to an arbitrary light emitting element 111 is FIG. 13A and the luminance change of the blinking signal is FIG. 13B, the combining unit 330 combines them to generate FIG. A composite signal of luminance change as shown in c) is generated. By inputting such a composite signal to the image display device 100, a video in which metadata is embedded is displayed on the display screen 110. By reading the video displayed on the display screen 110 with a camera or a light receiver and decoding the blinking signal included in the video, metadata can be extracted from the video.

一般に、大型の画像表示装置のフレームレートは、例えば1/30秒程度であり、比較的低速で発光素子111の点灯制御を行う。一方、IrDA(Infrared Data Association)などの光通信は、例えば数MHz程度というフレームレートよりもはるかに高い周波数で発光素子111の点灯制御を行う。したがって、画像表示装置100において、映像を1フレーム表示する時間内に、映像とは異なる光通信のための点滅表示を行うことができる。この結果、一つの画像表示装置100上で、画像とメタデータとを同時に独立に表示することが可能となる。   In general, the frame rate of a large image display device is, for example, about 1/30 seconds, and lighting control of the light emitting element 111 is performed at a relatively low speed. On the other hand, in optical communication such as IrDA (Infrared Data Association), lighting control of the light emitting element 111 is performed at a frequency much higher than a frame rate of, for example, about several MHz. Therefore, in the image display apparatus 100, blinking display for optical communication different from the video can be performed within the time for displaying the video for one frame. As a result, it is possible to display an image and metadata simultaneously and independently on one image display device 100.

特許第3354880号公報Japanese Patent No. 3354880 特許第3383793号公報Japanese Patent No. 3383793 特開2004−72365号公報JP 2004-72365 A 入江,藤井,阪本、「電子透かしを利用したコンテンツIDのアプリケーション」、情報処理学会、電子化知的財産室・社会基盤研究会、2000-EIP-109、p.7〜14Irie, Fujii, Sakamoto, “Application of Content ID Using Digital Watermark”, Information Processing Society of Japan, Electronic Intellectual Property Office / Social Infrastructure Research Group, 2000-EIP-109, p. 7-14 中村,片山,宮地,山下,山室、「カメラ付き携帯電話機を用いたサービス仲介システムのための電子透かし検出方式」、情報処理学会・情報科学技術フォーラム2003、p.409〜410Nakamura, Katayama, Miyaji, Yamashita, Yamamuro, “Digital watermark detection method for service mediation system using mobile phone with camera”, Information Processing Society of Japan, Information Science and Technology Forum 2003, p. 409-410 三菱電機株式会社、“オーロラビジョン”、[online]、[平成17年10月27日検索]、インターネット、<URL:http://www.mitsubishielectric.co.jp/visual/aurora/index_b.html>Mitsubishi Electric Corporation, “Aurora Vision”, [online], [October 27, 2005 search], Internet, <URL: http://www.mitsubishielectric.co.jp/visual/aurora/index_b.html> 大前,カザウラ,松本,佐藤,他、「フル光接続無線システムの回線設計における一検討」、画像電子学会第33回年次大会予稿集、p.191,192Ohmae, Kazaura, Matsumoto, Sato, et al., “A Study on Circuit Design for Full Optical Access Wireless System”, Proceedings of the 33rd Annual Conference of the Institute of Image Electronics Engineers of Japan, p. 191,192

しかしながら、従来の方法では、映像全体にメタデータを埋め込んでおり、映像の所定の領域だけにメタデータを埋め込むということはできなかった。   However, in the conventional method, metadata is embedded in the entire video, and it has not been possible to embed metadata only in a predetermined area of the video.

そこで、本願発明は、上述したような課題を解決するためになされたものであり、映像の任意の場所にメタデータを埋め込むことができるデータ通信装置、データ通信方法、データ通信プログラムを提供することを目的とする。   Accordingly, the present invention has been made to solve the above-described problems, and provides a data communication device, a data communication method, and a data communication program capable of embedding metadata in an arbitrary place of a video. With the goal.

上述したような課題を解決するために、本発明にかかるデータ通信装置は、表示画面の特定の領域から通信データを発信させるデータ通信装置であって、通信データと、通信データに対応付けられた領域情報とを複数取得する取得手段と、通信データを領域情報により特定される表示画面上の領域からそれぞれ発信させる発信手段とを備えたことを特徴とする。   In order to solve the above-described problems, a data communication apparatus according to the present invention is a data communication apparatus that transmits communication data from a specific area of a display screen, and is associated with the communication data and the communication data. An acquisition means for acquiring a plurality of area information and a transmission means for transmitting communication data from the area on the display screen specified by the area information are provided.

上記データ通信装置において、発信手段は、通信データを順番に発信させるようにしてもよい。   In the data communication apparatus, the transmission means may transmit the communication data in order.

また、上記データ通信装置において、領域情報に基づいて、領域が隣接しない通信データ毎に通信データをグループ分けするグループ化手段と、発信手段は、所定時間間隔でグループ毎に通信データを発信させるようにしてもよい。ここで、グループ化手段は、領域情報が変化する毎にグループ分けを行うようにしてもよい。   In the data communication apparatus, the grouping means for grouping the communication data for each communication data in which the areas are not adjacent to each other based on the area information, and the transmitting means are configured to transmit the communication data for each group at a predetermined time interval. It may be. Here, the grouping means may perform grouping every time the area information changes.

また、上記データ通信装置において、通信データのデータ量に応じて通信データを継続して発信する継続時間を設定する継続時間設定手段をさらに備えるようにしてもよい。また、グループに含まれる通信データのうち、データ量が最大の通信データに基づいて継続時間を設定する継続時間設定手段をさらに備えるようにしてもよい。   The data communication apparatus may further include duration setting means for setting a duration for continuously transmitting the communication data according to the data amount of the communication data. Moreover, you may make it further provide the continuous time setting means which sets continuous time based on communication data with the largest data amount among the communication data contained in a group.

また、上記データ通信装置において、表示画面上に画像を表示させる画像表示手段をさらに備え、発信手段は、可視光による点滅パターンによって通信データを画像に重畳して発信させるようにしてもよい。   The data communication apparatus may further include image display means for displaying an image on the display screen, and the transmitting means may transmit the communication data superimposed on the image by a blinking pattern using visible light.

また、本発明にかかるデータ通信方法は、表示画面の特定の領域から通信データを発信させるデータ通信方法であって、通信データと、通信データに対応付けられた領域情報とを複数取得する取得ステップと、通信データを領域情報により特定される表示画面上の領域からそれぞれ発信させる発信ステップとを備えたことを特徴とする。   The data communication method according to the present invention is a data communication method for transmitting communication data from a specific area of a display screen, and obtains a plurality of communication data and area information associated with the communication data. And a transmission step for transmitting the communication data from the area on the display screen specified by the area information.

また、本発明にかかるデータ通信プログラムは、表示画面の特定の領域から通信データを発信させるデータ通信装置のデータ通信プログラムであって、コンピュータに、通信データと、通信データに対応付けられた領域情報とを複数取得する取得ステップと、通信データを領域情報により特定される表示画面上の領域からそれぞれ発信させる発信ステップとを実行させることを特徴とする   A data communication program according to the present invention is a data communication program of a data communication apparatus for transmitting communication data from a specific area of a display screen, and the computer transmits communication data and area information associated with the communication data. And a transmission step for transmitting communication data from an area on the display screen specified by the area information.

本発明によれば、複数の通信データを領域情報により特定され得表示画面上の領域からそれぞれ発信させることにより、複数の通信データを互いに干渉することなく発信させることができる。   According to the present invention, a plurality of communication data can be specified by the area information and transmitted from the area on the display screen, respectively, so that the plurality of communication data can be transmitted without interfering with each other.

以下、図面を参照して、本発明の実施の形態について詳細に説明する。図1は、本実施の形態にかかるデータ通信装置1の構成を示すブロック図である。なお、本実施の形態において、背景技術の欄で説明したのと同等の構成要素については、同じ名称および符号を付し、適宜説明を省略する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing the configuration of the data communication apparatus 1 according to the present embodiment. In the present embodiment, components equivalent to those described in the background art column are given the same names and reference numerals, and description thereof will be omitted as appropriate.

データ通信装置1は、映像信号生成部10と、点滅信号生成部20とから構成される。このようなデータ通信装置1は、CPU等の演算装置と、メモリ、HDD(Hard Disc Drive)等の記憶装置と、キーボード、マウス、ポインティングデバイス、ボタン、タッチパネル等の外部から情報の入力を検出する入力装置と、インターネット、LAN(Local Area Network)、WAN(Wide Area Network)等の通信回線を介して各種情報の送受信を行うI/F装置と、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)またはFED(Field Emission Display)等の表示装置を備えたコンピュータと、このコンピュータにインストールされたプログラムとから構成される。すなわちハードウェア装置とソフトウェアとが協働することによって、上記のハードウェア資源がプログラムによって制御され、上述した映像信号生成部10および点滅信号生成部20が実現される。なお、上記プログラムは、フレキシブルディスク、CD−ROM、DVD−ROM、メモリカードなどの記録媒体に記録された状態で提供されるようにしてもよい。   The data communication apparatus 1 includes a video signal generation unit 10 and a blinking signal generation unit 20. Such a data communication device 1 detects an input of information from the outside such as an arithmetic device such as a CPU, a storage device such as a memory or an HDD (Hard Disc Drive), and a keyboard, a mouse, a pointing device, a button, or a touch panel. An input device, an I / F device that transmits and receives various information via a communication line such as the Internet, LAN (Local Area Network), WAN (Wide Area Network), etc., CRT (Cathode Ray Tube), LCD (Liquid Crystal Display) ) Or FED (Field Emission Display), etc., and a program installed in the computer. That is, the hardware device and software cooperate to control the above hardware resources by a program, thereby realizing the video signal generation unit 10 and the blinking signal generation unit 20 described above. Note that the program may be provided in a state of being recorded on a recording medium such as a flexible disk, a CD-ROM, a DVD-ROM, or a memory card.

映像信号生成部10は、図11を参照して説明したデータ通信装置200と同等の構成を有し、外部から入力された画像データに対して復号化を行って映像信号を生成し、この映像信号を画像表示装置100に入力する演算処理部である。これにより、画像表示装置100には、画像データに基づく映像が表示される。ここで、画像データとは、例えば、MPEG(Moving Picture Experts Group)やJPEG(Joint Photographic Expert Group)等の公知の符号化方式により符号化された動画像データまたは静止画像データのことを意味する。なお、画像データとしては、例えば、NTSC(National Television System Committee)などのテレビ放送のアナログ信号であってもよい。この場合、映像信号生成部10は、そのアナログ信号に基づいて映像信号を生成する公知のアナログ機材であってもよい。   The video signal generation unit 10 has a configuration equivalent to that of the data communication apparatus 200 described with reference to FIG. 11, decodes image data input from the outside to generate a video signal, and generates the video signal. An arithmetic processing unit that inputs a signal to the image display apparatus 100. Thereby, a video based on the image data is displayed on the image display device 100. Here, the image data means moving image data or still image data encoded by a known encoding method such as MPEG (Moving Picture Experts Group) or JPEG (Joint Photographic Expert Group). The image data may be an analog signal of a television broadcast such as NTSC (National Television System Committee). In this case, the video signal generation unit 10 may be a known analog device that generates a video signal based on the analog signal.

点滅信号生成部20は、外部から入力されるメタデータと座標データから点滅信号を生成し、画像表示装置100に入力する演算処理部である。このような点滅信号生成部20は、受信部21と、パタン設定部22と、順序設定部23と、継続時間設定部24と、出力部25とから構成される。ここで、メタデータとは、画像表示装置100に表示される映像に埋め込むデジタルデータから構成される。また、座標データとは、メタデータを埋め込む画像表示装置100上の位置に関する情報であり、図2に示すように、画像表示装置100の表示画面110上の領域を指定するものである。この図2の例では、表示画面110上の領域が領域1〜4の4つに分割されており、それぞれの領域は座標データにより特定される。この座標データとしては、表示画面110上の位置を表す座標値やベクトル表現等により表される。このような座標データにより特定される表示画面110上の各領域には、それぞれ異なるメタデータが対応付けられる。   The blinking signal generation unit 20 is an arithmetic processing unit that generates a blinking signal from metadata and coordinate data input from the outside and inputs them to the image display device 100. Such a blinking signal generation unit 20 includes a reception unit 21, a pattern setting unit 22, an order setting unit 23, a duration setting unit 24, and an output unit 25. Here, the metadata is composed of digital data embedded in a video displayed on the image display device 100. The coordinate data is information regarding the position on the image display device 100 in which metadata is embedded, and designates an area on the display screen 110 of the image display device 100 as shown in FIG. In the example of FIG. 2, the area on the display screen 110 is divided into four areas 1 to 4, and each area is specified by coordinate data. The coordinate data is represented by a coordinate value representing a position on the display screen 110, a vector expression, or the like. Different areas on the display screen 110 specified by such coordinate data are associated with different metadata.

受信部21は、インターネット、WAN、LAN等の公知の通信回線、CD,DVD,ビデオテープ等の公知の記録媒体からメタデータと座標データとを受信するインターフェース部である。この受信部21により受信されたメタデータおよび座標データは、パタン設定部22、順序設定部23および継続信号設定部24に送出される。なお、受信部21は、バッファメモリ等の記憶手段を備え、受信したメタデータおよび座標データを記憶するようにしてもよい。これにより、メタデータおよび座標データをインターネット等の通信回線を介して受信する場合、輻輳等の通信障害に発生しても対応することが可能となる。   The receiving unit 21 is an interface unit that receives metadata and coordinate data from a known communication line such as the Internet, WAN, or LAN, or a known recording medium such as a CD, DVD, or video tape. The metadata and coordinate data received by the receiving unit 21 are sent to the pattern setting unit 22, the order setting unit 23, and the continuation signal setting unit 24. The receiving unit 21 may include storage means such as a buffer memory and store the received metadata and coordinate data. As a result, when metadata and coordinate data are received via a communication line such as the Internet, it is possible to cope with communication failures such as congestion.

パタン設定部22は、入力されたメタデータを、座標データにより特定される画像表示装置100の表示画面110上の領域に、画像表示装置100に表示された映像からそのメタデータを読み取るカメラや受光器等に読み取り可能な表示をするために、点滅させる発光素子111等や点滅速度に関する点滅パタンを設定するための演算を行う演算処理部である。なお、本実施の形態において、点滅とは、発光素子111を点灯または消灯したりすることのみならず、発光素子111の輝度を増加または減少させたり、発光素子111または複数の発光素子111で構成される画素の波長を変化させたりすることも意味する。   The pattern setting unit 22 receives the input metadata in a region on the display screen 110 of the image display device 100 specified by the coordinate data, a camera that reads the metadata from the video displayed on the image display device 100, or a light receiving device. This is an arithmetic processing unit that performs an operation for setting a flashing pattern related to a flashing light emitting element 111 and a flashing speed in order to display a readable display on a device. Note that in this embodiment mode, blinking not only means turning on or off the light-emitting element 111 but also increasing or decreasing the luminance of the light-emitting element 111, or includes the light-emitting element 111 or a plurality of light-emitting elements 111. It also means that the wavelength of the pixel to be changed is changed.

順序設定部23は、各領域のメタデータを点滅させる順序に関する順序信号を生成する演算処理部である。   The order setting unit 23 is an arithmetic processing unit that generates an order signal related to the order of blinking the metadata of each region.

継続時間設定部24は、メタデータを継続して表示する時間に関する継続信号を生成する演算処理部である。   The duration setting unit 24 is an arithmetic processing unit that generates a continuation signal relating to a time for continuously displaying metadata.

出力部25は、パタン設定部22により生成された点滅パタン、順序設定部23により生成された順序信号、および、継続時間設定部24により生成された継続信号に基づいて点滅信号を生成し、画像表示装置100に出力する演算処理部である。   The output unit 25 generates a blinking signal based on the blinking pattern generated by the pattern setting unit 22, the order signal generated by the order setting unit 23, and the continuation signal generated by the duration setting unit 24. An arithmetic processing unit that outputs to the display device 100.

上述したデータ通信装置1により生成された映像信号および点滅信号が画像表示装置100に入力されると、画像表示装置100は、映像信号に基づく映像を表示するとともに、その点滅信号に基づく点滅パタンに対応する画像表示装置100の発光素子111を点滅させる。このように表示される画像表示装置100の映像をカメラや受光器で読み取り、その映像に含まれる各領域の点滅パタンを解読することにより、その映像から各領域のメタデータを抽出することができる。点滅パタンの解読は、パタン設定部22によりメタデータを点滅パタンに変換したのと逆のアルゴリズムにしたがって行うことができる。   When the video signal and the flashing signal generated by the data communication device 1 described above are input to the image display device 100, the image display device 100 displays a video based on the video signal and displays a flashing pattern based on the flashing signal. The corresponding light emitting element 111 of the image display device 100 is blinked. By reading the video of the image display device 100 displayed in this way with a camera or a light receiver and decoding the blinking pattern of each area included in the video, the metadata of each area can be extracted from the video. . The decoding of the blinking pattern can be performed according to an algorithm reverse to that in which the metadata is converted into the blinking pattern by the pattern setting unit 22.

次に、図3を参照して、点滅信号生成部20による点滅信号の生成動作について詳細に説明する。図3は、点滅信号の生成動作を示すフローチャートである。なお、以下においては、画像データが静止画から構成される場合を例に説明する。   Next, the blinking signal generation operation by the blinking signal generation unit 20 will be described in detail with reference to FIG. FIG. 3 is a flowchart showing the flashing signal generation operation. In the following, a case where image data is composed of still images will be described as an example.

[点滅パタン生成動作]
まず、メタデータおよび座標データが入力されると、パタン設定部22は、領域毎の点滅パタンを生成する(ステップS301)。ここで、メタデータおよび座標データは、図4に示すように、メタデータと、このメタデータに対応する座標データとの組み合わせ毎に複数入力される。
[Blinking pattern generation operation]
First, when metadata and coordinate data are input, the pattern setting unit 22 generates a blinking pattern for each region (step S301). Here, as shown in FIG. 4, a plurality of metadata and coordinate data are input for each combination of metadata and coordinate data corresponding to the metadata.

座標データの構成の一例を図5に示す。図5を正面視したとき、画像表示装置100の表示画面110上における左から右方向をX軸、上から下方向をY軸とする。このとき、矩形状の領域Aの座標データは、左上と右下の2点の座標、すなわち{(x1,y1),(x2,y2)}で表される。   An example of the configuration of the coordinate data is shown in FIG. When FIG. 5 is viewed from the front, the left to right direction on the display screen 110 of the image display device 100 is the X axis, and the top to bottom direction is the Y axis. At this time, the coordinate data of the rectangular area A is represented by the coordinates of the upper left and lower right points, that is, {(x1, y1), (x2, y2)}.

パタン設定部22は、座標データにより指定される画像表示装置100の表示画面110上の領域に、その座標データに対応付けられたメタデータを表示するために、メタデータを表す点滅の時間的な順番、すなわち、点灯および消灯のタイミングを特定する点滅パタンを生成する。この点滅パタンは、入力された全てのメタデータに対して生成される。このとき、発光素子111を点滅させる速度も設定される。この速度としては、例えば数MHz程度に設定することができる。なお、座標データにより特定される領域に含まれる全ての発光素子を点滅させずに、点滅させる発光素子111を間引くようにしてもよい。点滅させる発光素子111の設定は、パタン設定部22により行われる。   The pattern setting unit 22 displays the metadata associated with the coordinate data in an area on the display screen 110 of the image display device 100 specified by the coordinate data in order to display the blinking time indicating the metadata. A blinking pattern that specifies the order, that is, the timing of turning on and off is generated. This blinking pattern is generated for all input metadata. At this time, the speed at which the light emitting element 111 blinks is also set. This speed can be set to about several MHz, for example. In addition, you may make it thin out the light emitting element 111 made to blink, without making all the light emitting elements contained in the area | region specified by coordinate data blink. The setting of the light emitting element 111 to be blinked is performed by the pattern setting unit 22.

[順序信号生成動作]
また、順序設定部23は、順序付けアルゴリズムに基づいて、順序信号を生成する(ステップS302)。順序信号は各種アルゴリズムに基づいて生成することができるが、その中でも代表的な2つの順序付けアルゴリズムについて以下に説明する。なお、順序信号は、以下に示す順序付けアルゴリズムのみならず、他のアルゴリズムに基づいて生成するようにしてもよい。
[Sequence signal generation operation]
Further, the order setting unit 23 generates an order signal based on the ordering algorithm (step S302). The order signal can be generated based on various algorithms, and two typical ordering algorithms among them will be described below. Note that the order signal may be generated based on other algorithms as well as the ordering algorithm described below.

(第1の順序付けアルゴリズム)
第1の順序付けアルゴリズムは、各領域の座標の大小関係から単純に順序付けを行うものである。画面表示装置100の表示画面110上の複数の領域にメタデータを埋め込む場合、カメラや受光器で可視光の点滅を読み取る際に、読み取り対象である領域のメタデータを現す発光素子111の点滅が、近隣の異なるメタデータを現す発光素子111点滅の干渉を受け、各領域のメタデータ読み取り時に雑音が発生し、結果として、メタデータを正確に読み取ることが困難となることがある。このため、第1の順序付けアルゴリズムでは、各領域に対して単純に順序付けを行い、同時に複数の領域でメタデータを表示しないことにより、メタデータ読み取り時の雑音を防ぐようにしたものである。
(First ordering algorithm)
The first ordering algorithm simply performs ordering based on the magnitude relation of the coordinates of each region. When embedding metadata in a plurality of areas on the display screen 110 of the screen display device 100, when reading blinking of visible light with a camera or a light receiver, the light emitting element 111 showing the metadata of the area to be read blinks. In some cases, the light emitting element 111 blinking interference indicating different metadata in the neighborhood causes noise when reading the metadata in each region, and as a result, it is difficult to read the metadata accurately. For this reason, in the first ordering algorithm, each region is simply ordered, and the metadata is not displayed in a plurality of regions at the same time, thereby preventing noise at the time of reading the metadata.

例えば、図5に示すように、座標データにより指定される画像表示装置100の表示画面110上の領域が矩形の形状を有する場合、順序設定部23は、左上の座標を各領域の代表点とし、この代表点の座標の値が小さい方から順番に順序付けを行う。本実施の形態では、Y方向の座標の値が小さい順に順序付けを行う。なお、Y方向の座標の値が同じ場合は、X方向の座標の値が小さい順に順序付けを行う。   For example, as shown in FIG. 5, when the area on the display screen 110 of the image display device 100 specified by the coordinate data has a rectangular shape, the order setting unit 23 sets the upper left coordinates as the representative points of the areas. The ordering is performed in order from the smallest coordinate value of the representative point. In the present embodiment, ordering is performed in ascending order of coordinate values in the Y direction. Note that when the values of the coordinates in the Y direction are the same, the ordering is performed in ascending order of the values of the coordinates in the X direction.

一例として、2つの領域r1,r2の代表点の座標が(x1,y1),(x2,y2)とした場合、y1<y2のときは、(x1,y1)<(x2,y2)となり、r1,r2の順番で順序付けが行われる。また、y1=y2でx1<x2のときは、(x1,y1)<(x2,y2)となり、r1,r2の順番で順序付けが行われる。   As an example, when the coordinates of the representative points of the two regions r1, r2 are (x1, y1), (x2, y2), when y1 <y2, (x1, y1) <(x2, y2). Ordering is performed in the order of r1 and r2. When y1 = y2 and x1 <x2, (x1, y1) <(x2, y2), and the ordering is performed in the order of r1 and r2.

したがって、順序がn番目の領域の集合をRn(n=1,2,…)とし、k番目に小さい代表点を持つ領域をr’k(k=1,2,…)とすると、Rn={r’k}となる。   Therefore, if the set of the nth region in the order is Rn (n = 1, 2,...) And the region having the kth smallest representative point is r′k (k = 1, 2,...), Rn = {R′k}.

(第2の順序付けアルゴリズム)
第2の順序付けアルゴリズムは、各領域をその位置に応じてグループ化し、このグループ毎に順序付けを行うものである。画面表示装置上の複数の領域にメタデータを埋め込む場合であっても、近接しない領域は他の領域のメタデータを現す点滅の干渉を受ける程度が低いので、それらの領域を同時に点滅させても同時にメタデータを読み取ることができる。このように、複数の領域で同時にメタデータを点滅させることにより、単位時間当たりより多くのメタデータを出力することができる。このような第2の順序付けアルゴリズムについて、図6を参照して説明する。
(Second ordering algorithm)
The second ordering algorithm groups each region according to its position and performs ordering for each group. Even when metadata is embedded in multiple areas on the screen display device, areas that are not close to each other are less susceptible to blinking interference that represents the metadata of other areas. The metadata can be read at the same time. In this way, more metadata can be output per unit time by blinking metadata simultaneously in a plurality of areas. Such a second ordering algorithm will be described with reference to FIG.

まず、順序設定部23は、画像表示装置100の表示画面110上に設定された全ての領域の集合をRA、任意の領域の集合をRとして設定する(ステップS601)。ここで、集合Rには、任意の値を設定しておく。   First, the order setting unit 23 sets a set of all regions set on the display screen 110 of the image display device 100 as RA and a set of arbitrary regions as R (step S601). Here, an arbitrary value is set in the set R.

RA,Rが設定されると、i番目の集合Rを設定するため、まずi=1と設定する(ステップS602)。また、Rを空集合として設定する(ステップS603)。   When RA and R are set, in order to set the i-th set R, first, i = 1 is set (step S602). Also, R is set as an empty set (step S603).

iおよびRが設定されると、順序設定部23は、RAの中から代表点の座標の値が最も小さい領域をRの要素として加える(ステップS604)。これにより、i番目の集合Rに含める領域の基準となる領域が設定される。例えば、RAに含まれる座標の値が最も小さい領域をr’11とすると、このr’11をRの要素として加える、すなわちR={r’11}とする。   When i and R are set, the order setting unit 23 adds an area having the smallest coordinate value of the representative point from among RA as an element of R (step S604). Thereby, a region serving as a reference for the region to be included in the i-th set R is set. For example, if the region having the smallest coordinate value included in RA is r′11, this r′11 is added as an element of R, that is, R = {r′11}.

RにRAの中から領域が加えられると、順序設定部23は、Q(R)の中から代表点の座標が最も小さい領域をRに加える(ステップS605)。ここで、Q(R)とは、Rに含まれる領域とは近接しない領域の集合のことを意味する。したがって、Rには、互いに近接しない領域が加えられることとなる。例えば、上述したR={r’11}の場合、Q(R)に含まれる座標の値が最も小さい領域をr’12とすると、順序設定部23は、そのr’12をRに加える、すなわちR={r’11,r’12}とする。   When an area is added from R to R, the order setting unit 23 adds an area having the smallest representative point coordinate from Q (R) to R (step S605). Here, Q (R) means a set of regions that are not close to the region included in R. Therefore, a region not adjacent to each other is added to R. For example, in the case of R = {r′11} described above, assuming that the region having the smallest coordinate value included in Q (R) is r′12, the order setting unit 23 adds the r′12 to R. That is, R = {r′11, r′12}.

RにQ(R)の中から領域が加えられると、順序設定部23は、Q(R)を再演算し(ステップS606)、Q(R)が空集合であるか否かを確認する(ステップS607)。Q(R)が空集合ではない場合(ステップS607:NO)、ステップS606の処理に戻る。Q(R)が空集合ではないということは、Rに含まれる領域に近接しない領域が、まだQ(R)に存在することを意味する。したがって、順序設定部23は、Rに含まれる領域に近接しない領域がQ(R)からなくなるまで、ステップS605〜607を繰り返す。   When a region is added to R from Q (R), the order setting unit 23 recalculates Q (R) (step S606), and checks whether Q (R) is an empty set (step S606). Step S607). If Q (R) is not an empty set (step S607: NO), the process returns to step S606. That Q (R) is not an empty set means that there is still a region in Q (R) that is not close to the region included in R. Therefore, the order setting unit 23 repeats steps S605 to 607 until there are no more regions in Q (R) that are not close to the region included in R.

一方、Q(R)が空集合である場合(ステップS607:YES)、順序設定部23は、Rに順序付けを行う、すなわち、Rをi番目の集合であるRiと設定する(ステップS608)。例えば、上述したR={r’11,r’12}の場合、1番目として順序付けを行ったR1と設定する。   On the other hand, when Q (R) is an empty set (step S607: YES), the order setting unit 23 orders R, that is, sets R as Ri, which is the i-th set (step S608). For example, in the case of R = {r′11, r′12} described above, R1 that has been ordered is set as the first.

任意の集合Rの順序付けが行われると、順序設定部23は、新たなRAを設定する(ステップS609)。具体的には、順序付けが行われたRiをRAから引いたRA−Riを新たなRAとする。   When the arbitrary set R is ordered, the order setting unit 23 sets a new RA (step S609). Specifically, RA-Ri obtained by subtracting the ordered Ri from RA is set as a new RA.

新たなRAが設定されると、順序設定部23は、RAが空集合であるか否かを確認する(ステップS610)。RAが空集合ではない場合(ステップS610:NO)、順序設定部23は、次の集合の順番を変更、すなわちi=i+1とし(ステップS611)、ステップS603の処理に戻る。RAが空集合ではないということは、まだ何れの集合Rにも含まれない領域が存在することを意味する。したがって、順序設定部23は、何れのRにも含まれない領域がなくなるまで、すなわちRAの要素がなくなるまで、上述したステップS603〜S611を繰り返す。   When a new RA is set, the order setting unit 23 checks whether or not the RA is an empty set (step S610). When RA is not an empty set (step S610: NO), the order setting unit 23 changes the order of the next set, that is, sets i = i + 1 (step S611), and returns to the process of step S603. That RA is not an empty set means that there is an area that is not included in any set R yet. Therefore, the order setting unit 23 repeats steps S603 to S611 described above until there is no region that is not included in any R, that is, until there is no RA element.

一方、RAが空集合である場合(ステップS610:YES)、順序設定部23は、順序付けアルゴリズムの演算を終了する。これにより、順序付けが行われ、かつ、何れも近接しない領域の集合の系列R1,R2,R3…が生成される。   On the other hand, when RA is an empty set (step S610: YES), the order setting unit 23 ends the calculation of the ordering algorithm. As a result, a sequence R1, R2, R3... Of a set of regions that are ordered and are not adjacent to each other is generated.

このような第2の順序付けアルゴリズムにおいて、Q(R)を演算する際に行う、各領域が隣接しているか否かの判定は、各種判定方法を用いることができるが、その中でも代表的な3つの方法について以下に示す。なお、領域が隣接しているか否かの判定方法は、以下に示す方法に限定されず、他の判定方法によって判定するようにしてもよい。   In such a second ordering algorithm, various determination methods can be used to determine whether or not each region is adjacent when calculating Q (R). One method is shown below. Note that the method for determining whether or not regions are adjacent to each other is not limited to the method described below, and may be determined by another determination method.

(1)基準となる領域rと辺または領域を共有する領域を、領域rに隣接していると判定する。(2)基準となる領域rの重心から、任意の領域r’の重心までの距離が所定の値cよりも小さいとき、領域r’は領域rに隣接していると判定する。(3)基準となる領域rの辺上の点と、任意の領域rの辺上の点との最小の距離が所定の値cよりも小さいとき、領域r’は領域rに隣接していると判定する。なお、本実施の形態において、「隣接する」とは、1の領域が他の領域と所定の値より近づくことを意味する。したがって、他の領域と接したり、他の領域と重なり合ったりする場合は、「隣接する」と判定する。 (1) A region sharing a side or region with the reference region r is determined to be adjacent to the region r. (2) When the distance from the center of gravity of the reference region r to the center of gravity of the arbitrary region r ′ is smaller than a predetermined value c, it is determined that the region r ′ is adjacent to the region r. (3) When the minimum distance between the point on the side of the reference region r and the point on the side of the arbitrary region r is smaller than the predetermined value c, the region r ′ is adjacent to the region r Is determined. In the present embodiment, “adjacent” means that one region is closer to another region than a predetermined value. Therefore, when it is in contact with another region or overlaps with another region, it is determined as “adjacent”.

上述した第1,2の順序付けアルゴリズムは、領域が重なり合っている場合についても順序づけを行うことができる。例えば、図7に示すように、表示画面110上に4つの領域A〜Dが存在する場合であっても、代表点の座標に基づいて順序づけを行うことができる。なお、図7において、領域Aと領域Dの代表点の座標は同一となっている。このような場合、代表点が同一の領域の順序は、ランダムに決定するようにしてもよい。また、例えば左下の座標など代表点の座標を変え、この座標に基づいて決定するようにしてもよい。このようにすることにより、代表点の座標が同一の領域に対しても順序づけを行うことが可能となる。   The first and second ordering algorithms described above can perform ordering even when the regions overlap. For example, as shown in FIG. 7, even when there are four areas A to D on the display screen 110, the ordering can be performed based on the coordinates of the representative points. In FIG. 7, the coordinates of the representative points of the area A and the area D are the same. In such a case, the order of regions having the same representative point may be determined randomly. Further, for example, the coordinates of the representative point such as the lower left coordinate may be changed, and the determination may be made based on this coordinate. By doing in this way, it becomes possible to order also to the area | region where the coordinate of a representative point is the same.

[継続信号生成動作]
また、継続時間設定部24は、点滅パタンの表示を継続する時間(以下、表示継続時間と呼ぶ)に関する継続信号を設定する(ステップS303)。この継続信号は、例えば、全ての領域の点滅パタンを同じ時間だけ点滅させるように設定してもよい。この場合、点滅パタンを点滅させる時間をtとすると、k番目の領域の集合における点滅パタンの表示継続時間Dkは下式(1)で表される。
[Continuous signal generation operation]
In addition, the duration setting unit 24 sets a continuation signal related to a duration for which the blinking pattern display is continued (hereinafter referred to as a display duration) (step S303). For example, the continuation signal may be set so that the blinking patterns of all the regions blink for the same time. In this case, if the time for blinking the blink pattern is t, the blink pattern display duration Dk in the set of the kth region is expressed by the following equation (1).

Dk=t ・・・(1) Dk = t (1)

また、データ量が大きい点滅パタンを有する領域は点滅時間が長くなるように継続信号を設定するようにしてもよい。例えば、k番目の集合Rkに含まれる領域から発信する各点滅パタンのうちデータ量が最大の点滅パタンのデータ量をBkとすると、このBkに比例した時間を表示継続時間Dkに割り当てる。すなわち、下式(2)で表される。この下式(2)において、t’は任意の単位時間を意味し、適宜自由に設定することができる。   Further, the continuation signal may be set so that the blinking time becomes longer in the area having the blinking pattern with a large data amount. For example, if the data amount of the blinking pattern having the maximum data amount among the blinking patterns transmitted from the area included in the k-th set Rk is Bk, a time proportional to this Bk is allocated to the display duration Dk. That is, it is represented by the following formula (2). In the following formula (2), t ′ means an arbitrary unit time, and can be set freely as appropriate.

Dk=Bk×t’ ・・・(2) Dk = Bk × t ′ (2)

[点滅信号生成動作]
各領域の点滅パタン、順序信号、継続信号が生成されると、出力部25は、それらに基づいて点滅信号を生成する(ステップS304)。この点滅信号とは、各領域における点滅パタンの表示開始時刻と表示終了時刻を特定するものである。このような点滅信号の生成動作について以下に示す。
[Flashing signal generation operation]
When the blinking pattern, sequence signal, and continuation signal for each area are generated, the output unit 25 generates a blinking signal based on them (step S304). This blinking signal specifies the display start time and display end time of the blinking pattern in each area. An operation for generating such a blinking signal will be described below.

一例として、表示画面110上にn個の領域r1,r2,…,rnが存在する場合について説明する。まず、出力部25は、順序信号に基づいて、それらの領域をm個の集合R1,R2,…,Rmの何れかに属するように分類する。このとき、第1の順序付けアルゴリズムにより順序信号が生成された場合は、領域の数量と集合の数量とは等しくなる、すなわち、領域rnはn個の集合Rnの何れかに分類される。   As an example, a case where n regions r1, r2,..., Rn exist on the display screen 110 will be described. First, the output unit 25 classifies these regions so as to belong to any of the m sets R1, R2,..., Rm based on the order signal. At this time, when the order signal is generated by the first ordering algorithm, the quantity of the region is equal to the quantity of the set, that is, the region rn is classified into one of the n sets Rn.

また、出力部25は、継続信号に基づいて、順序がk番目の領域の集合Rkの表示継続時間Dk(D1,D2,D3,…,Dm)を検出する。   Further, the output unit 25 detects the display continuation time Dk (D1, D2, D3,..., Dm) of the set Rk of the kth region in the order based on the continuation signal.

領域の集合の順序および表示継続時間の検出を行うと、出力部25は、次のように各領域の点滅パタンを点滅させる点滅信号を生成する。まず、集合R1に属する全ての領域を表示継続時間D1の間、それぞれの点滅パタンで点滅させる。次に、集合R2に属する全ての領域を表示継続時間D2の間、それぞれの点滅パタンで点滅させる。このように順次各集合の領域で点滅パタンを点滅させr、集合Rmに属する領域の点滅パタンの点滅が終了すると、再び集合R1に属する領域の点滅パタンを点滅させる。   When the order of the set of areas and the display duration time are detected, the output unit 25 generates a blinking signal for blinking the blinking pattern of each area as follows. First, all the areas belonging to the set R1 are blinked with respective blinking patterns during the display duration D1. Next, all the regions belonging to the set R2 are blinked with respective blinking patterns during the display duration D2. In this way, the blinking pattern is sequentially blinked in the area of each set r, and when the blinking of the blinking pattern in the area belonging to the set Rm is completed, the blinking pattern in the area belonging to the set R1 is blinked again.

このとき、各集合の点滅パタンの表示開始時刻および表示終了時刻は、以下に示すように決定される。例えば、画像表示装置100による点滅パタンの表示開始時刻をt0、1番目の集合R1に属する領域の表示継続時間をD1、2番目の集合R2に属する領域R2に属する領域の表示継続時間をD2、…、m番目の集合Rmに属する領域Rmの表示継続時間をDmとする。このとき、1番目の集合R1に属する領域の表示開始時刻はt0、表示終了時刻はt0+D1となる。また、2番目の集合R2に属する領域の表示開始時刻はt0+D1、表示終了時刻はt0+D1+D2となる。また、m番目の集合Rmに属する領域の表示開始時刻はt0+D1+D2+…+D(m−1)、表示終了時刻はt0+D1+D2+…+Dmとなる。   At this time, the display start time and display end time of the blink pattern of each set are determined as follows. For example, the display start time of the blinking pattern by the image display device 100 is t0, the display duration of the area belonging to the first set R1 is D1, the display duration of the area belonging to the area R2 belonging to the second set R2 is D2, ..., the display duration time of the region Rm belonging to the m-th set Rm is Dm. At this time, the display start time of the region belonging to the first set R1 is t0, and the display end time is t0 + D1. In addition, the display start time of the region belonging to the second set R2 is t0 + D1, and the display end time is t0 + D1 + D2. Further, the display start time of the area belonging to the mth set Rm is t0 + D1 + D2 +... + D (m−1), and the display end time is t0 + D1 + D2 +.

これにより、点滅パタン、この点滅パタンを点滅させる領域、各領域または各集合の領域の表示開始時刻と表示終了時刻とを特定する点滅信号が生成される。   As a result, a blinking signal that specifies the blinking pattern, the area where the blinking pattern blinks, the display start time and the display end time of each area or each set of areas is generated.

このように、本実施の形態によれば、座標データにより特定される画像表示装置100の表示画面110上の領域に、メタデータに基づく点滅パタンを表示させることにより、表示画面110に表示される映像の任意の場所にメタデータを埋め込むことができる。   As described above, according to the present embodiment, the blinking pattern based on the metadata is displayed in the area on the display screen 110 of the image display device 100 specified by the coordinate data, so that the display is performed on the display screen 110. Metadata can be embedded anywhere in the video.

また、本実施の形態によれば、映像に複数のメタデータを埋め込む場合、各領域を近接または隣接しない領域毎にグループ化し、このグループ化した集合毎に点滅パタンを表示させる。これにより、カメラや受光器で点滅パタンを読み取る際に、読み取り対象である領域のメタデータを現す発光素子の点滅が、近隣の異なるメタデータを現す点滅の干渉を受けることを防ぐことができる。これにより、領域の大きさや領域からの距離にかかわらず、メタデータを正確に読み取ることができる。   Further, according to the present embodiment, when a plurality of metadata is embedded in a video, each region is grouped into regions that are not adjacent or adjacent to each other, and a blinking pattern is displayed for each grouped set. Thus, when the blink pattern is read by the camera or the light receiver, it is possible to prevent the blinking of the light emitting element showing the metadata of the area to be read from receiving the interference of the blinking showing the different metadata nearby. As a result, the metadata can be read accurately regardless of the size of the region and the distance from the region.

また、本実施の形態によれば、画像表示装置100という可視光線を出力する装置を用いることにより、光が有する直進性や指向性という特性を有利に活用し、メタデータの受信に無線LANなどの電波を用いて表示機器付近に基地局を設置する場合と比べて、混信することなくメタデータを受信することができる。また、複数の近接した発光素子から混信することなくメタデータを受信することもできるので、表示画面上の複数領域から別々のメタデータを提供することが可能である。   In addition, according to the present embodiment, by using a device that outputs visible light, such as the image display device 100, the characteristics such as straightness and directivity of light are advantageously utilized, and a wireless LAN or the like is used for receiving metadata. Compared with the case where a base station is installed in the vicinity of a display device using radio waves, metadata can be received without interference. Further, since metadata can be received without interference from a plurality of adjacent light emitting elements, it is possible to provide separate metadata from a plurality of areas on the display screen.

また、本実施の形態によれば、点滅パタンを表示するタイミングを制御して近接する領域の点滅パタンの干渉をなくすため、例えば、図7で示したように、重なり合う複数の領域に対して異なるメタデータを割り当てることもできる。このように、本実施の形態では、メタデータを設定する領域を適宜自由に設定することができる。   Further, according to the present embodiment, in order to control the timing of displaying the blinking pattern and eliminate the interference of the blinking pattern in the adjacent area, for example, as shown in FIG. You can also assign metadata. As described above, in this embodiment, an area for setting metadata can be freely set as appropriate.

このため、例えば、表示画面上のオブジェクトに対してメタデータを設定して画面上の発光素子から送信する領域を設定する場合において、形が線上で領域設定が複雑であっても、領域の形や大きさを、他のオブジェクトに対応する領域を気にせずに受信側で読み取りが容易なように設定したり、領域定義が容易なように設定したりすることができる。また、画面全体に対するメタデータと、その中の領域やオブジェクトに対するメタデータを埋め込むこともできる。   For this reason, for example, when metadata is set for an object on the display screen and an area to be transmitted from the light emitting element on the screen is set, even if the shape is complicated and the area setting is complicated, the shape of the area And the size can be set so that the receiving side can easily read without worrying about the area corresponding to another object, or the area can be easily defined. It is also possible to embed metadata for the entire screen and metadata for areas and objects in the screen.

複数の領域から光の点滅によるメタデータの通信は、透かし読み取りをする場合と比較して、メタデータを抽出するための演算量が非常に少ない。したがって、透かしよりも大量のデータを短時間で送信することができる。これにより、例えば、画像と同時にその領域に存在する人物やオブジェクトに対応する音声データをメタデータとして送信することも可能となる。また、書誌データ、著作権データ、関連情報アドレスの他に、字幕データ、音声データなどの付加データも画像とともに点滅で提供することができる。これらも広義のメタデータと見なすことができる。   The communication of metadata by blinking light from a plurality of areas requires a very small amount of calculation for extracting metadata, compared to the case of watermark reading. Therefore, a larger amount of data than the watermark can be transmitted in a short time. As a result, for example, audio data corresponding to a person or object existing in the area can be transmitted as metadata simultaneously with the image. In addition to bibliographic data, copyright data, and related information addresses, additional data such as caption data and audio data can be provided in a blinking manner together with images. These can also be regarded as broad metadata.

なお、画像データが動画から構成される場合、上述した静止画の場合とは異なり、シーン変更等が存在するので、メタデータを表示する領域が時々刻々変化する。このため、適切に点滅パタンを点滅させるには、領域の設定やこの領域に埋め込むメタデータを動画の状況に応じて変化させなければならない。このような場合、座標データに点滅パタンの点滅開始および終了時間を加えることにより対応することができる。すなわち、画像表示装置100上の矩形領域を表現するデータに加えて、期間を表すデータを追加し、2つの空間座標と2つの時刻とからなるデータを座標データとする。ここで、2つの空間座標とは、画像表示装置100の表示画面110上の領域を表すものである。また、2つの時刻とは、動画の表示開始時刻から経過時間を表し、それぞれ領域の存在開始時刻と終了時刻を相対時間で表すものである。例えば、図8に示すように、画像表示装置100の表示画面110上の領域Bの矩形領域の空間座標を((x1,y1),(x2,y2))、領域Bが時刻t1から時刻t2まで存在する場合、座標データは((x1,y1),(x2,y2),(t1,t2))で表される。   Note that when the image data is composed of a moving image, unlike the above-described case of a still image, there is a scene change or the like, so the area for displaying metadata changes from moment to moment. For this reason, in order to appropriately blink the blinking pattern, it is necessary to change the setting of the area and the metadata embedded in this area according to the situation of the moving image. Such a case can be dealt with by adding blinking start and end times of the blinking pattern to the coordinate data. That is, in addition to data representing a rectangular area on the image display device 100, data representing a period is added, and data including two spatial coordinates and two times is used as coordinate data. Here, the two spatial coordinates represent an area on the display screen 110 of the image display apparatus 100. The two times represent the elapsed time from the display start time of the moving image, and represent the existence start time and end time of the area as relative times, respectively. For example, as shown in FIG. 8, the spatial coordinates of the rectangular area B on the display screen 110 of the image display device 100 are ((x1, y1), (x2, y2)), and the area B changes from time t1 to time t2. Coordinate data is represented by ((x1, y1), (x2, y2), (t1, t2)).

各領域については、上述したように座標データを設定することにより対応することができるが、全ての領域については、静止画と同様、近接する領域が同時に点滅パタンを表示させないよう、それぞれの領域における点滅パタンの表示開始時刻と表示継続時間を決定しなければならない。この場合、例えば、画像表示装置100の表示画面110上において、同一の領域の組み合わせが継続する期間について、静止画の場合と同等の方法を用いることにより対応することができる。   Each area can be dealt with by setting the coordinate data as described above, but for all areas, as in the case of a still image, the adjacent areas do not display a blinking pattern at the same time. The display start time and display duration of the blinking pattern must be determined. In this case, for example, a period in which the combination of the same areas continues on the display screen 110 of the image display device 100 can be handled by using a method equivalent to that for a still image.

例えば、動画開始時刻からの相対時刻0から始まる表示画面110上の領域が変化しない期間をT0(開始時刻0=t0、終了時刻t1)、相対時刻t1から始まる表示画面110上の領域が変化しない期間をT1(開始時刻t1、終了時刻t2)、…、相対時刻tkから始まる画面上の領域分割の仕方が変化しない最大期間をTk(開始時刻tk、終了時刻t(k+1))とする。このとき、各期間Tkにおいて、上述した静止画の場合と同等の方法で点滅パタン、順序信号および継続信号を生成し、これらに基づいて点滅信号を生成することにより、画像データが動画の場合であっても、メタデータを表示することができる。   For example, a period in which the area on the display screen 110 starting from the relative time 0 from the moving image start time does not change is T0 (start time 0 = t0, end time t1), and the area on the display screen 110 starting from the relative time t1 does not change. Let T1 (start time t1, end time t2),..., And Tk (start time tk, end time t (k + 1)) be the maximum period during which the region division method on the screen starting from relative time tk does not change. At this time, in each period Tk, a blinking pattern, an order signal, and a continuation signal are generated in the same manner as in the case of the above-described still image, and a blinking signal is generated based on these, so that the image data is a moving image. Even if it exists, metadata can be displayed.

また、本実施の形態では、表示画面110上の領域を2つの座標で表すようにしたが、領域を表す形態は2つの座標に限定されず、例えば、さらに多数の座標で表したり、ベクトルを用いて表すなど、適宜自由に設定することができる。同様に、領域の存在期間についても、2つの時刻のみらなず、例えば、開始時刻と継続時間など適宜自由に設定することができる。   In this embodiment, the area on the display screen 110 is represented by two coordinates. However, the form representing the area is not limited to two coordinates. For example, the area can be represented by a larger number of coordinates or a vector. It can be set freely as appropriate. Similarly, regarding the existence period of the region, not only two times but also a start time and a duration can be set as appropriate.

また、本実施の形態では、図1に示すように、映像信号生成部10により生成された映像信号と、点滅信号生成部20により生成された点滅信号とを別々に画像表示装置100に入力するようにしたが、図9に示すように、映像信号と点滅信号とを合成したものを画像表示装置100に入力するようにしてもよい。この図9に示すデータ通信装置2の場合、映像信号生成部10により生成された映像信号と、点滅信号生成部20により生成された点滅信号とは、合成部30により合成され、合成信号として画像表示装置100に入力される。このとき、合成部30は、映像信号のフレームレートを従来よりも高くし、これに点滅信号を合成するようにしてもよい。これにより、画像表示装置100には、フレームレートの高い映像信号に点滅信号が合成された合成信号が入力されるので、画像表示装置100がフレームレートの高い映像信号を出力可能な場合には、高画質の画像が出力される。   In the present embodiment, as shown in FIG. 1, the video signal generated by the video signal generation unit 10 and the blinking signal generated by the blinking signal generation unit 20 are separately input to the image display device 100. However, as shown in FIG. 9, a combination of the video signal and the blinking signal may be input to the image display device 100. In the case of the data communication apparatus 2 shown in FIG. 9, the video signal generated by the video signal generation unit 10 and the blinking signal generated by the blinking signal generation unit 20 are synthesized by the synthesis unit 30 and are combined into an image as a synthesized signal. Input to the display device 100. At this time, the synthesizing unit 30 may make the frame rate of the video signal higher than the conventional one and synthesize the blinking signal therewith. As a result, the image display device 100 receives a composite signal in which a blinking signal is combined with a video signal having a high frame rate. Therefore, when the image display device 100 can output a video signal having a high frame rate, A high-quality image is output.

本発明は、映像を表示する表示装置に適用することができる。   The present invention can be applied to a display device that displays video.

本発明にかかるデータ通信装置の構成を示すブロック図である。It is a block diagram which shows the structure of the data communication apparatus concerning this invention. 座標データにより特定される領域を説明するための図である。It is a figure for demonstrating the area | region specified by coordinate data. 点滅信号の生成動作を説明するフローチャートである。It is a flowchart explaining the production | generation operation | movement of a blink signal. メタデータと座標データのデータ構成を模式的に示す図である。It is a figure which shows typically the data structure of metadata and coordinate data. 座標データの一構成例を示す図である。It is a figure which shows one structural example of coordinate data. 順序設定部の動作を示すフローチャートである。It is a flowchart which shows operation | movement of an order setting part. 重なり合う領域を説明する図である。It is a figure explaining the area | region which overlaps. 画像データが動画から構成されるときの座標データを説明する図である。It is a figure explaining the coordinate data when image data is comprised from a moving image. 本発明にかかるデータ通信装置の他の構成を示すブロック図である。It is a block diagram which shows the other structure of the data communication apparatus concerning this invention. 画像表示装置の構成を模式的に示す図である。It is a figure which shows the structure of an image display apparatus typically. 従来のデータ通信装置の構成を示すブロック図である。It is a block diagram which shows the structure of the conventional data communication apparatus. 従来のデータ通信装置の他の構成を示すブロック図である。It is a block diagram which shows the other structure of the conventional data communication apparatus. (a)映像信号、(b)点滅信号、(c)合成信号の輝度変化を示す図である。It is a figure which shows the luminance change of (a) video signal, (b) blinking signal, and (c) synthetic | combination signal.

符号の説明Explanation of symbols

1,2…データ通信装置、10…映像信号生成部、20…点滅信号生成部、21…受信部、22…パタン設定部、23…順序設定部、24…継続時間設定部、25…出力部、100…画像処理装置、110…表示画面、111…発光素子。   DESCRIPTION OF SYMBOLS 1, 2 ... Data communication apparatus, 10 ... Video signal generation part, 20 ... Flashing signal generation part, 21 ... Reception part, 22 ... Pattern setting part, 23 ... Order setting part, 24 ... Duration setting part, 25 ... Output part , 100 ... an image processing apparatus, 110 ... a display screen, 111 ... a light emitting element.

Claims (9)

表示画面の特定の領域から通信データを発信させるデータ通信装置であって、
前記通信データと、前記通信データに対応付けられた領域情報とを複数取得する取得手段と、
前記通信データを前記領域情報により特定される前記表示画面上の領域からそれぞれ発信させる発信手段と
を備えたことを特徴とするデータ通信装置。
A data communication device for transmitting communication data from a specific area of a display screen,
An acquisition means for acquiring a plurality of the communication data and area information associated with the communication data;
Transmitting means for transmitting the communication data from the area on the display screen specified by the area information, respectively.
前記発信手段は、前記通信データを順番に発信させる
ことを特徴とする請求項1記載のデータ通信装置。
The data communication apparatus according to claim 1, wherein the transmission unit transmits the communication data in order.
前記領域情報に基づいて、前記領域が隣接しない前記通信データ毎に前記通信データをグループ分けするグループ化手段と、
前記発信手段は、所定時間間隔で前記グループ毎に前記通信データを発信させる
ことを特徴とする請求項1記載のデータ通信装置。
Grouping means for grouping the communication data for each communication data that is not adjacent to the area, based on the area information;
The data communication apparatus according to claim 1, wherein the transmission unit transmits the communication data for each group at a predetermined time interval.
前記グループ化手段は、前記領域情報が変化する毎にグループ分けを行う
ことを特徴とする請求項3記載のデータ通信装置。
The data communication apparatus according to claim 3, wherein the grouping means performs grouping every time the area information changes.
前記通信データのデータ量に応じて前記通信データを継続して発信する継続時間を設定する継続時間設定手段をさらに備える
ことを特徴とする請求項1乃至4の何れか1項に記載のデータ通信装置。
The data communication according to any one of claims 1 to 4, further comprising duration setting means for setting a duration for continuously transmitting the communication data according to a data amount of the communication data. apparatus.
前記グループに含まれる通信データのうち、データ量が最大の通信データに基づいて前記継続時間を設定する継続時間設定手段をさらに備える
ことを特徴とする請求項4記載のデータ通信装置。
The data communication apparatus according to claim 4, further comprising a duration setting unit configured to set the duration based on communication data having a maximum data amount among communication data included in the group.
前記表示画面上に画像を表示させる画像表示手段をさらに備え、
前記発信手段は、可視光による点滅パターンによって前記通信データを前記画像に重畳して発信させる
ことを特徴とする請求項1乃至6の何れか1項に記載のデータ通信装置。
Image display means for displaying an image on the display screen;
The data communication apparatus according to any one of claims 1 to 6, wherein the transmission unit transmits the communication data by superimposing the communication data on the image by a blinking pattern using visible light.
表示画面の特定の領域から通信データを発信させるデータ通信方法であって、
前記通信データと、前記通信データに対応付けられた領域情報とを複数取得する取得ステップと、
前記通信データを前記領域情報により特定される前記表示画面上の領域からそれぞれ発信させる発信ステップと
を備えたことを特徴とするデータ通信方法。
A data communication method for transmitting communication data from a specific area of a display screen,
An acquisition step of acquiring a plurality of the communication data and area information associated with the communication data;
A data communication method, comprising: a transmission step of transmitting the communication data from an area on the display screen specified by the area information.
表示画面の特定の領域から通信データを発信させるデータ通信装置のデータ通信プログラムであって、
コンピュータに、
前記通信データと、前記通信データに対応付けられた領域情報とを複数取得する取得ステップと、
前記通信データを前記領域情報により特定される前記表示画面上の領域からそれぞれ発信させる発信ステップと
を実行させることを特徴とするデータ通信プログラム。
A data communication program for a data communication device for transmitting communication data from a specific area of a display screen,
On the computer,
An acquisition step of acquiring a plurality of the communication data and area information associated with the communication data;
A data communication program, comprising: a transmission step of transmitting each of the communication data from an area on the display screen specified by the area information.
JP2005327754A 2005-11-11 2005-11-11 Data communication apparatus, data communication method, and data communication program Active JP4616153B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005327754A JP4616153B2 (en) 2005-11-11 2005-11-11 Data communication apparatus, data communication method, and data communication program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005327754A JP4616153B2 (en) 2005-11-11 2005-11-11 Data communication apparatus, data communication method, and data communication program

Publications (2)

Publication Number Publication Date
JP2007135078A true JP2007135078A (en) 2007-05-31
JP4616153B2 JP4616153B2 (en) 2011-01-19

Family

ID=38156357

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005327754A Active JP4616153B2 (en) 2005-11-11 2005-11-11 Data communication apparatus, data communication method, and data communication program

Country Status (1)

Country Link
JP (1) JP4616153B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101442836B1 (en) * 2008-01-07 2014-11-04 삼성전자주식회사 Method for providing additional information of video using visible communication and apparatus for the same

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003115803A (en) * 2001-10-09 2003-04-18 Nec Corp Light emitting device and communication system
JP2005094247A (en) * 2003-09-16 2005-04-07 Sony Corp Communication apparatus and method, program, and communication system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003115803A (en) * 2001-10-09 2003-04-18 Nec Corp Light emitting device and communication system
JP2005094247A (en) * 2003-09-16 2005-04-07 Sony Corp Communication apparatus and method, program, and communication system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101442836B1 (en) * 2008-01-07 2014-11-04 삼성전자주식회사 Method for providing additional information of video using visible communication and apparatus for the same
US9031376B2 (en) 2008-01-07 2015-05-12 Samsung Electronics Co., Ltd. Method and apparatus for providing additional information of video using visible light communication
US10271009B2 (en) 2008-01-07 2019-04-23 Samsung Electronics Co., Ltd. Method and apparatus for providing additional information of video using visible light communication

Also Published As

Publication number Publication date
JP4616153B2 (en) 2011-01-19

Similar Documents

Publication Publication Date Title
JP4980633B2 (en) Image display device, receiving device, image display control method, and data receiving method
JP5567942B2 (en) Free viewpoint video generation apparatus, method and program for displaying advertisement in free viewpoint video system
JP5544426B2 (en) Video bitstream transmission system
JP4882288B2 (en) Display control apparatus, system, and display control method
US20180192063A1 (en) Method and System for Virtual Reality (VR) Video Transcode By Extracting Residual From Different Resolutions
JP4948548B2 (en) Transmission device, viewing environment control device, and viewing environment control system
US20220256216A1 (en) Encoding device and method, reproduction device and method, and program
JP5111627B2 (en) Video processing apparatus and video processing method
EP2816564B1 (en) Method and apparatus for smart video rendering
JP5259519B2 (en) Digital broadcast receiver, transmitter and terminal device
JP2005500721A (en) VTV system
JPH09238367A (en) Television signal transmission method, television signal transmitter, television signal reception method, television signal receiver, television signal transmission/ reception method and television signal transmitter-receiver
CN110786016A (en) Audio driven visual area selection
JPWO2019050038A1 (en) Image generation method and image generation device
US7936936B2 (en) Method of visualizing a large still picture on a small-size display
CN102883170B (en) Image processing apparatus and image processing method
JP4616153B2 (en) Data communication apparatus, data communication method, and data communication program
WO2018078979A1 (en) Information processing device, transmission controller, and transmission control method
WO2021241190A1 (en) Media distribution device, media distribution method, and program
CN111445427B (en) Video image processing method and display device
JP2009230193A (en) Photographing device achieving function as pointing device, display device and information system
CN101212635B (en) Recording image processing method and system
JP2021033354A (en) Communication device and control method therefor
JP2001331246A (en) Picture associated data display device
US20240146981A1 (en) Encoding device and method, reproduction device and method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101019

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101021

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4616153

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131029

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250