JP2022086302A - Advertisement provision system and advertisement provision method - Google Patents

Advertisement provision system and advertisement provision method Download PDF

Info

Publication number
JP2022086302A
JP2022086302A JP2020198236A JP2020198236A JP2022086302A JP 2022086302 A JP2022086302 A JP 2022086302A JP 2020198236 A JP2020198236 A JP 2020198236A JP 2020198236 A JP2020198236 A JP 2020198236A JP 2022086302 A JP2022086302 A JP 2022086302A
Authority
JP
Japan
Prior art keywords
advertisement
image
area
degree
attraction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020198236A
Other languages
Japanese (ja)
Inventor
和夫 坂本
Kazuo Sakamoto
大地 佐藤
Daichi Sato
奈々江 道田
Nanae Michida
耕二 岩瀬
Koji Iwase
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2020198236A priority Critical patent/JP2022086302A/en
Publication of JP2022086302A publication Critical patent/JP2022086302A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

To provide an advertisement provision system and an advertisement provision method capable of providing an overlay advertisement without causing a viewer to be bothered.SOLUTION: An advertisement provision system S that provides an advertisement by using a program distribution company 4 that distributes a display image including an advertisement display area A on which advertisement information can be superimposed, and a monitor 31 that displays the distributed display image includes a first camera 32 that detects the line of sight of a user who sees the image displayed on the monitor 31, a meaningful area setting unit 41 that detects a meaningful area P that displays an important portion of the image in the image, and an advertisement synthesis unit 45 that controls a second image (advertisement information) superimposed on the advertisement display area A, and the advertisement synthesis unit 45 superimposes and displays the second image on the advertisement display area A when a visual object L does not exist in the meaningful area P.SELECTED DRAWING: Figure 1

Description

本発明は、広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された画像を表示する画像表示手段とを用いて広告情報を提供する広告提供システム及び広告提供方法に関する。 The present invention provides an advertisement that provides advertisement information by using an image management means that distributes an image including an advertisement posting area on which advertisement information can be superimposed, and an image display means that displays an image distributed from the image management means. Regarding the system and the method of providing advertisements.

従来より、映画等の映像情報(以下、第1画像という)の一部領域を構成する広告掲示領域、例えば、画像内の風景の一部として映し出された立て看板や街頭ビジョンのディスプレイ等、に現実の商品或いはサービスの広告情報(以下、第2画像という)を合成して新たな表示用画像である番組コンテンツを作成し、この番組コンテンツを視聴者(ユーザ)に提供する技術は知られている。 Conventionally, it has been used for advertisement display areas that form a part of video information (hereinafter referred to as the first image) such as movies, for example, standing signs projected as part of the landscape in the image, street vision displays, and the like. There is known a technique for synthesizing advertising information of an actual product or service (hereinafter referred to as a second image) to create a program content which is a new display image and providing this program content to a viewer (user). There is.

特許文献1のマッピングシステムは、受信した表示用画像を表示するディスプレイと、メタデータ等からなるベースデータストリーム(第1画像)を入力してディスプレイに送信するデータを作成するデータ制御手段と、広告等からなるコンポジットデータストリーム(第2画像)を入力して合成条件を設定する合成条件設定手段と、この合成条件設定手段によって設定されたコンポジットデータをベースデータの広告掲示領域に合成して新たな表示用画像(番組コンテンツ)を作成する合成手段とを備えている。 The mapping system of Patent Document 1 includes a display for displaying a received display image, a data control means for inputting a base data stream (first image) composed of metadata and the like to create data to be transmitted to the display, and an advertisement. A new compositing condition setting means for inputting a composite data stream (second image) consisting of the above and the like to set compositing conditions, and a new compositing condition setting means for compositing the composite data set by the compositing condition setting means with the advertisement display area of the base data. It is equipped with a compositing means for creating a display image (program content).

視聴者の視線が向かう対象物(視対象)は、視聴者の興味や認識の有無、更にはその程度等を反映していることから、視聴者の意思指標として用いられる傾向がある。
特許文献2のカーナビゲーションシステムは、運転者の視線を検出する視線検出手段と、進行方向の地図を表示する表示手段と、運転者に対して可聴式に方向を指示する可聴式指示手段と、これら各機器を制御する制御手段とを有し、制御手段は、運転者の視線が表示手段に向いているとき、地図を表示し、運転者の視線が表示手段に向いていないとき、運転者に方向情報を可聴式に提供する。
An object (visual object) to which the viewer's line of sight is directed tends to be used as a viewer's intention index because it reflects the viewer's interest, presence / absence of recognition, and the degree thereof.
The car navigation system of Patent Document 2 includes a line-of-sight detection means for detecting a driver's line of sight, a display means for displaying a map of a traveling direction, and an audible instruction means for instructing a driver in an audible manner. It has a control means for controlling each of these devices, and the control means displays a map when the driver's line of sight is directed to the display means, and the driver when the driver's line of sight is not directed to the display means. Providing audible direction information to.

特表2016-515327号Special table 2016-515327 特表2014-516181号Special table 2014-516181

特許文献1のマッピングシステムは、事前に表示予定が設定されている広告情報を所定の時刻、或いは所定周期で画面中の広告掲示領域内に合成することができ、視聴者が番組コンテンツを視聴しているタイミングにおいて、広告掲示領域に重畳された広告情報(以下、オーバーレイ広告という)を風景の一部として自然に表示することができる。
しかし、特許文献1の技術では、視聴者が番組コンテンツに集中しているときにオーバーレイ広告が表示されることがあるため、番組に視入っている視聴者がオーバーレイ広告に対して煩わしさを覚える虞がある。
The mapping system of Patent Document 1 can synthesize advertisement information scheduled to be displayed in advance in the advertisement display area on the screen at a predetermined time or at a predetermined cycle, and the viewer can watch the program content. At this timing, the advertisement information superimposed on the advertisement display area (hereinafter referred to as overlay advertisement) can be naturally displayed as a part of the landscape.
However, in the technique of Patent Document 1, the overlay advertisement may be displayed when the viewer is concentrating on the program content, so that the viewer who is watching the program feels annoyed by the overlay advertisement. There is a risk.

視聴者は、視覚情報から109Bit/sの速度で目立つ情報(ポップアップ対象)を選択するという凝視メカニズムを有している。そして、視聴者は、意識の集中状態に応じて、ボトムアップ型注意とトップダウン型注意とを無意識的(反射的)に選択している。
ボトムアップ型注意とは、視野の中で他の物体と明らかに区別される物理的特徴を持つことで目立つ物体を認識処理するプロセスによる受動的注意である。トップダウン型注意とは、自分の中で目標とする特徴を決め、その特徴に基づいて物体を意図的に選定して認識処理するプロセスによる能動的注意である。
The viewer has a gaze mechanism of selecting conspicuous information (pop-up target) from visual information at a speed of 109 Bit / s. The viewer unconsciously (reflexively) selects bottom-up attention and top-down attention according to the state of concentration of consciousness.
Bottom-up attention is passive attention by the process of recognizing and processing objects that stand out by having physical features that clearly distinguish them from other objects in the field of view. Top-down attention is active attention by the process of deciding a target feature within oneself and intentionally selecting and recognizing an object based on the feature.

それ故、例えば、視聴者が、スポーツ番組であるサッカー中継を集中して視聴している際、視聴者は、ボールやボールを操作するプレーヤにトップダウン型注意を向けている。
これに対し、フェンスに組み込まれた広告掲示領域に広告情報が表示された場合、視聴者は、突然現れたオーバーレイ広告に対して、反射的にボトムアップ型注意を向ける。
通常、広告は、誘目性(視覚的顕著性或いはサリエンシーともいう)が高い要素(輝度、色合い、方向等)で表示用画像が構成され、人間工学上、視野内で誘目性の高い領域は視聴者の視線を条件反射的に惹き付ける。それ故、一層ボトムアップ型注意が強くなる。
即ち、視聴者が煩わしさを覚えることなくオーバーレイ広告を提供することは容易ではない。
Therefore, for example, when a viewer concentrates on watching a soccer broadcast, which is a sports program, the viewer pays top-down attention to the ball or the player who operates the ball.
On the other hand, when the advertisement information is displayed in the advertisement display area embedded in the fence, the viewer reflexively pays bottom-up attention to the overlay advertisement that suddenly appears.
In an advertisement, an image for display is usually composed of elements (brightness, hue, direction, etc.) with high attractiveness (also referred to as visual prominence or salience), and an ergonomically highly attractive area is viewed. It attracts the person's line of sight in a conditioned reflexive manner. Therefore, bottom-up attention becomes stronger.
That is, it is not easy for the viewer to provide the overlay advertisement without being bothered.

本発明の目的は、視聴者が煩わしさを覚えることなくオーバーレイ広告を提供可能な広告提供システム及び広告提供方法等を提供することである。 An object of the present invention is to provide an advertisement providing system, an advertisement providing method, and the like capable of providing an overlay advertisement without causing the viewer to be bothered.

請求項1の発明は、広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された前記画像を表示する画像表示手段とを用いて広告を提供する広告提供システムにおいて、前記画像を視る視聴者の視線を検出する視線検出手段と、前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出手段と、前記広告掲示領域に重畳される広告情報を制御する広告表示制御手段とを有し、前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示することを特徴としている。 The invention of claim 1 provides an advertisement by using an image management means for delivering an image including an advertisement posting area on which advertisement information can be superimposed, and an image display means for displaying the image delivered from the image management means. In the advertisement providing system, a line-of-sight detecting means for detecting the line of sight of a viewer viewing the image, a meaningful area detecting means for detecting a meaningful area for displaying an important part of the image in the image, and the advertisement posting. The advertisement display control means has an advertisement display control means for controlling the advertisement information superimposed on the area, and the advertisement display control means superimposes the advertisement information on the advertisement display area when the line of sight of the viewer does not exist in the meaningful area. It is characterized by displaying.

この広告提供システムでは、前記画像を視る視聴者の視線を検出する視線検出手段を有するため、視聴者の視線を惹き付ける視対象を判定することができる。前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出手段を有するため、制作者側が視聴者に興味を持って視線を向けて欲しい意義的領域を検出することができ、視覚的に表示することができる。前記広告掲示領域に重畳される広告情報を制御する広告表示制御手段を有するため、画像を中断する広告表示時間を別途必要とすることなく、広告情報を表示することができる。前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示するため、視聴者が画像に対して散漫状態である低集中度のとき、視聴者の集中状態を阻害することなく広告情報を表示することができる。 Since this advertisement providing system has a line-of-sight detecting means for detecting the line of sight of the viewer who sees the image, it is possible to determine a line-of-sight target that attracts the line of sight of the viewer. Since it has a meaningful area detecting means for detecting a significant area displaying an important part of the image in the image, it is possible to detect a meaningful area that the creator wants the viewer to be interested in and look at. , Can be displayed visually. Since the advertisement display control means for controlling the advertisement information superimposed on the advertisement display area is provided, the advertisement information can be displayed without separately requiring an advertisement display time for interrupting the image. The advertisement display control means superimposes and displays the advertisement information on the advertisement display area when the line of sight of the viewer does not exist in the meaningful area, so that the viewer is in a distracted state with respect to the image and has a low concentration. At that time, the advertisement information can be displayed without disturbing the concentration state of the viewer.

請求項2の発明は、請求項1の発明において、前記意義的領域の誘目度を検出可能な誘目度検出手段を有し、前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在するとき、前記意義的領域の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴としている。
この構成によれば、視聴者の集中度に応じて広告情報の表示形態を変更することができる。
The invention of claim 2 has the attraction degree detecting means which can detect the degree of attraction of the said meaning area in the invention of claim 1, and the advertisement display control means has the said viewer's line of sight to the said meaning area. When present in the above, it is characterized in that the display form of the advertisement information superimposed and displayed is changed according to the degree of attraction of the meaning area.
According to this configuration, it is possible to change the display form of the advertisement information according to the degree of concentration of the viewer.

請求項3の発明は、請求項2の発明において、前記広告表示制御手段は、前記意義的領域の誘目度が所定の閾値よりも低いとき、前記重畳表示される広告情報の表示を禁止することを特徴としている。
この構成によれば、視聴者が画像に対して没頭状態である高集中度のとき、広告情報の表示を禁止するため、視聴者の集中状態を阻害しない。
According to a third aspect of the present invention, in the second aspect of the present invention, the advertisement display control means prohibits the display of the superimposed advertisement information when the degree of attraction of the meaningful area is lower than a predetermined threshold value. It is characterized by.
According to this configuration, when the viewer is immersed in the image and has a high concentration, the display of the advertisement information is prohibited, so that the viewer's concentration is not hindered.

請求項4の発明は、請求項1の発明において、前記表示された画像に関連付けて区分した領域毎に誘目度を検出可能な誘目度検出手段を有し、前記広告表示制御手段は、前記視聴者の視線が前記意義的領域から意義的領域外に移動したとき、前記移動した先の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴としている。
この構成によれば、広告情報の誘目度を視聴者の集中度に合わせて設定することができる。
The invention of claim 4 has the attraction degree detecting means which can detect the degree of attraction for each area divided in association with the displayed image in the invention of claim 1, and the advertisement display control means said | viewing | viewing. When the line of sight of the person moves from the meaningful area to the outside of the meaningful area, the display form of the superimposed display advertisement information is changed according to the degree of attraction of the moved destination.
According to this configuration, the degree of attraction of the advertising information can be set according to the degree of concentration of the viewer.

請求項5の発明は、請求項4の発明において、前記広告表示制御手段は、前記移動した先の誘目度が高いとき、移動した先の誘目度が低いときに比べて前記重畳表示される広告情報の誘目度を高くすることを特徴としている。
この構成によれば、移動した先の誘目度が高いとき、視線が誘目度に反射的に引き付けられて移動する漫然状態(低集中度)であるため、広告の誘目度を高くして視聴者の広告認識度を高くすることができる。移動した先の誘目度が低いとき、視線が意図的に意識対象に移動する集注状態(中集中度)であるため、広告の誘目度を低くして集中状態の阻害を回避することができる。
The invention of claim 5 is the invention of claim 4, wherein the advertisement display control means said the advertisement to be superimposed and displayed when the degree of attraction of the moved destination is high and the degree of attraction of the moved destination is low. It is characterized by increasing the degree of attraction of information.
According to this configuration, when the degree of attraction of the destination is high, the line of sight is reflexively attracted to the degree of attraction and the movement is in a dull state (low concentration). It is possible to increase the degree of advertisement recognition. When the degree of attraction of the destination is low, the line of sight intentionally moves to the conscious object (medium concentration), so that the degree of attraction of the advertisement can be lowered to avoid obstruction of the concentration state.

請求項6の発明は、広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された前記画像を表示する画像表示手段とを用いて広告を提供する広告提供方法において、前記画像を視る視聴者の視線を検出する視線検出ステップと、前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出ステップと、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示する広告表示ステップと、を有することを特徴としている。
この構成によれば、基本的に請求項1と同様の効果を奏することができる。
The invention of claim 6 provides an advertisement by using an image management means for delivering an image including an advertisement posting area on which advertisement information can be superimposed, and an image display means for displaying the image delivered from the image management means. In the method of providing an advertisement, a line-of-sight detection step for detecting the line of sight of a viewer viewing the image, a meaningful area detection step for detecting a meaningful area for displaying an important part of the image in the image, and the viewer. It is characterized by having an image display step of superimposing and displaying the image information on the advertisement display area when the line of sight of the above does not exist in the meaningful area.
According to this configuration, basically the same effect as that of claim 1 can be obtained.

本発明の広告提供システム及び広告提供方法によれば、視聴者の視線と誘目度に基づいて集中度を判定することにより、視聴者が煩わしさを覚えることなくオーバーレイ広告を提供することができる。 According to the advertisement providing system and the advertisement providing method of the present invention, by determining the concentration degree based on the line of sight and the degree of attraction of the viewer, the viewer can provide the overlay advertisement without being bothered.

実施例1に係る広告提供システムの機能構成を示すブロック図である。It is a block diagram which shows the functional structure of the advertisement providing system which concerns on Example 1. FIG. サッカー中継番組の画面例であって、(a)は、意義的領域が視対象である視線画像、(b)は、意義的領域が視対象でない視線画像を示している。In a screen example of a soccer broadcast program, (a) shows a line-of-sight image in which a meaningful area is a visual target, and (b) shows a line-of-sight image in which a meaningful area is not a visual target. 映画番組の画面例であって、(a)は、意義的領域が視対象である視線画像、(b)は、意義的領域が視対象でない視線画像を示している。In the screen example of a movie program, (a) shows a line-of-sight image in which a meaningful area is a visual target, and (b) shows a line-of-sight image in which a meaningful area is not a visual target. ニュース報道番組の画面例であって、(a)は、意義的領域が視対象である視線画像、(b)は、意義的領域が視対象でない視線画像を示している。In the screen example of a news news program, (a) shows a line-of-sight image in which a meaningful area is a visual target, and (b) shows a line-of-sight image in which a meaningful area is not a visual target. 広告表示制御処理のフローチャートである。It is a flowchart of advertisement display control processing. 誘目度と視線頻度との関係を示すグラフである。It is a graph which shows the relationship between the degree of attraction and the frequency of eyes. 誘目度と確率との関係を示すグラフである。It is a graph which shows the relationship between the degree of attraction and the probability.

以下、本発明の実施形態を図面に基づいて詳細に説明する。
以下の説明は、本発明を広告提供システムに適用したものを例示したものであり、本発明、その適用物、或いは、その用途を制限するものではない。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
The following description exemplifies the application of the present invention to an advertisement providing system, and does not limit the present invention, its application, or its use.

以下、本発明の実施例1について図1~図7に基づいて説明する。
図1に示すように、広告提供システムSは、映像制作会社1(画像管理手段)と、広告制作会社2と、ユーザ領域3と、番組配信会社4とを主な構成要素として構成され、ネットワーク5によって各々が相互通信可能に接続されている。
尚、以下の説明は、広告提供方法の説明を含むものである。
Hereinafter, Example 1 of the present invention will be described with reference to FIGS. 1 to 7.
As shown in FIG. 1, the advertisement providing system S is composed of a video production company 1 (image management means), an advertisement production company 2, a user area 3, and a program distribution company 4 as main components, and is a network. By 5, each is connected so as to be able to communicate with each other.
The following description includes a description of the advertisement providing method.

映像制作会社1は、クライアントの要求に基づき、スポーツ中継、映画、ドラマ、バラエティ、ニュース報道等の画像コンテンツである番組情報(以下、第1画像という)を制作してネットワーク5上に配信している。この映像制作会社1は、例えば、複数の第1画像を格納する記憶部11と、格納された複数の第1画像から指定された第1画像を記憶部11からリアルタイムに抽出すると共に抽出された第1画像に所定の加工を施して送信する映像制御部12等を備えている。 Based on the client's request, the video production company 1 produces program information (hereinafter referred to as the first image), which is image content such as sports broadcasts, movies, dramas, varieties, and news reports, and distributes it on the network 5. There is. The video production company 1 extracts, for example, a storage unit 11 for storing a plurality of first images and a first image designated from the stored first images in real time from the storage unit 11. It is provided with a video control unit 12 or the like that performs predetermined processing on the first image and transmits the first image.

広告制作会社2は、クライアントの要求に基づき、商品やサービスの購買意欲を惹起する画像コンテンツである静止画或いは動画広告情報(以下、第2画像という)を制作してネットワーク5上に配信している。この広告制作会社2は、例えば、複数の第2画像を格納する記憶部21と、格納された複数の第2画像から指定された第2画像を記憶部21からリアルタイムに抽出すると共に抽出された第2画像を送信する広告制御部22等を備えている。映像制作会社1と広告制作会社2は、夫々複数であっても良く、また、一方のみが複数であっても良い。 Based on the client's request, the advertisement production company 2 produces still image or video advertisement information (hereinafter referred to as the second image), which is image content that motivates the purchase of products and services, and distributes it on the network 5. There is. The advertisement production company 2 extracts, for example, a storage unit 21 for storing a plurality of second images and a second image designated from the stored second images in real time from the storage unit 21. It includes an advertisement control unit 22 and the like for transmitting a second image. The video production company 1 and the advertisement production company 2 may be plural, respectively, or only one of them may be plural.

ユーザ領域3は、例えば、視聴者であるユーザが普段生活する自宅(居所)である。
図1に示すように、このユーザ領域3は、ユーザが自宅で視聴するディスプレイモニタ31(画像表示手段)と、第1カメラ32と、第2カメラ33と、指向性スピーカ34と、コントローラ35を主な構成要素としている。
モニタ31は、番組配信会社4から配信された表示用画像(以下、番組コンテンツという)を表示可能な液晶ディスプレイパネル或いはプラズマディスプレイパネル等である。
The user area 3 is, for example, a home (location) where a user who is a viewer usually lives.
As shown in FIG. 1, the user area 3 includes a display monitor 31 (image display means) for the user to view at home, a first camera 32, a second camera 33, a directional speaker 34, and a controller 35. It is the main component.
The monitor 31 is a liquid crystal display panel, a plasma display panel, or the like capable of displaying a display image (hereinafter referred to as program content) distributed by the program distribution company 4.

第1カメラ32は、ユーザと向き合うようにモニタ31の表示面側に一体的に装着され、主にユーザの目を含む顔領域を撮像している。第2カメラ33は、ユーザの後方或いは側方に第1カメラ32とは独立して配設され、主にユーザ回りの周辺状況(居住環境)を撮像している。これら第1,第2カメラ32,33は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサである。指向性スピーカ34は、例えば、モニタ31の上面前方に配置した5個の無指向性ECM(Electret Condenser Microphone)によりビームフォーミング可能に構成されている。 The first camera 32 is integrally mounted on the display surface side of the monitor 31 so as to face the user, and mainly captures a face region including the user's eyes. The second camera 33 is arranged behind or to the side of the user independently of the first camera 32, and mainly captures the surrounding situation (living environment) around the user. The first and second cameras 32 and 33 are image sensors such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor). The directional speaker 34 is configured to be beamforming by, for example, five omnidirectional ECMs (Electret Condenser Microphones) arranged in front of the upper surface of the monitor 31.

コントローラ35は、第1,第2カメラ32,33が撮像した撮像情報を画像処理すると共に、撮像した撮像情報に基づいてユーザの視線画像とユーザの周辺画像等を作成している。このコントローラ35は、モニタ31及び指向性スピーカ34の作動を制御して番組配信会社4から配信された番組コンテンツをユーザに向かって表示している。
図1に示すように、コントローラ35は、視線演算部36と、表示制御部37等を有している。
The controller 35 processes the image pickup information captured by the first and second cameras 32 and 33, and creates a user's line-of-sight image, a user's peripheral image, and the like based on the captured image pickup information. The controller 35 controls the operation of the monitor 31 and the directional speaker 34 to display the program content distributed by the program distribution company 4 to the user.
As shown in FIG. 1, the controller 35 has a line-of-sight calculation unit 36, a display control unit 37, and the like.

視線演算部36は、第1カメラ32が撮像した撮像情報を画像処理してユーザの顔画像を作成し、また、第2カメラ33が撮像した撮像情報を画像処理してユーザの周辺画像を作成している。更に、視線演算部36は、ユーザの顔画像に基づきユーザの顔の向きと黒目(瞳孔)部分の方向を検出し、これらを基に視線方向を計算してユーザが現在視聴しているモニタ31の表示用画像(番組コンテンツ)にユーザの視線が向かう先(注視点)である視対象Lが合成された視線画像を作成している(図2~図4参照)。 The line-of-sight calculation unit 36 processes the image pickup information captured by the first camera 32 to create a user's face image, and processes the image pickup information captured by the second camera 33 to create a user's peripheral image. is doing. Further, the line-of-sight calculation unit 36 detects the direction of the user's face and the direction of the black eye (pupil) portion based on the user's face image, calculates the line-of-sight direction based on these, and monitors 31 currently being viewed by the user. A line-of-sight image is created in which the line-of-sight target L, which is the destination (gazing point) of the user's line of sight, is combined with the display image (program content) of the above (see FIGS. 2 to 4).

表示制御部37は、番組コンテンツを表示するようにモニタ31を制御している。
また、この表示制御部37は、後述する広告掲示領域Aに高誘目性広告を表示する場合、指向性スピーカ34を制御して、音声信号の位相を遅延器により広告掲示領域A方向の信号を強調することで音源定位可能に構成されている。この音源分離機能を用いてユーザの視線方向を高誘目性広告(広告掲示領域A)に誘導している。
The display control unit 37 controls the monitor 31 so as to display the program content.
Further, when the display control unit 37 displays a highly attractive advertisement in the advertisement display area A described later, the display control unit 37 controls the directional speaker 34 to set the phase of the audio signal by a delayer to transmit a signal in the advertisement display area A direction. It is configured so that the sound source can be localized by emphasizing it. This sound source separation function is used to guide the user's line-of-sight direction to a highly attractive advertisement (advertisement posting area A).

番組配信会社4は、第1画像と第2画像とを合成して番組コンテンツを作成すると共に、この番組コンテンツをユーザ領域3(コントローラ35)に逐次配信している。
また、この番組配信会社4は、所定のタイミングで配信するユーザ領域3の属性(例えば、国籍、住所、家族構成、ユーザの年代等)に対応した第2画像を広告制作会社2に要求すると共に要求に応じた第2画像を広告制作会社2から受信している。
The program distribution company 4 creates a program content by synthesizing the first image and the second image, and sequentially distributes the program content to the user area 3 (controller 35).
Further, the program distribution company 4 requests the advertisement production company 2 for a second image corresponding to the attributes of the user area 3 (for example, nationality, address, family structure, user's age, etc.) to be distributed at a predetermined timing. The second image corresponding to the request is received from the advertisement production company 2.

図1に示すように、番組配信会社4は、意義的領域設定部41(意義的領域検出手段)と、誘目度判定部42(誘目度検出手段)と、集中度判定部43と、広告仕様設定部44と、広告合成部45と、配信制御部46等を備えている。
尚、広告仕様設定部44と広告合成部45が、広告表示制御手段に相当している。
As shown in FIG. 1, the program distribution company 4 includes a meaningful area setting unit 41 (meaningful area detection means), an attraction degree determination unit 42 (attraction degree detection means), a concentration degree determination unit 43, and an advertisement specification. It includes a setting unit 44, an advertisement synthesis unit 45, a distribution control unit 46, and the like.
The advertisement specification setting unit 44 and the advertisement synthesis unit 45 correspond to the advertisement display control means.

意義的領域設定部41は、映像制作会社1から受信した第1画像において、その映像内の画像のうち重要部を表示する領域、所謂意義的領域P(P1,P2)を設定している。
意義的領域Pとは、制作者側が視聴者に興味を持って視線を向けて欲しい領域である。
それ故、意義的領域Pには、番組の属性により、自然発生的に形成された第1の意義的領域P1と、予め制作者によって意図的に作成された第2の意義的領域P2とが存在している。
The meaningful area setting unit 41 sets a so-called meaningful area P (P1, P2), which is a region for displaying an important part of the images in the video in the first image received from the video production company 1.
The meaningful area P is an area in which the creator wants the viewer to be interested and look at it.
Therefore, the meaningful area P includes a first meaningful area P1 spontaneously formed by the attributes of the program and a second meaningful area P2 intentionally created by the creator in advance. Existing.

第1の意義的領域P1は、出場者(出演者)の挙動により、その場で自然発生的に形成される。図2(a),図2(b)に示すように、例えば、サッカー中継番組の場合、ボール、ボールを操作するプレーヤ、ボールの近傍に滞在するプレーヤが意義的領域の設定条件に設定され、これらの条件を満足する人及び物が存在する空間領域が意義的領域P1として設定される。意義的領域P1の場合、視聴者に興味を持って視線を向けて欲しい領域が事前に判明していないため、時間経過と共に意義的領域が判定されている。
尚、図2(a)は、敵味方入り乱れてボールを取り合うシーンの視線画像、図2(b)は、コーナキックを待つシーンの視線画像である。図2(a)の意義的領域P1には、ユーザの視線が集中しているが、図2(b)の意義的領域P1には、ユーザの視線が集中していない。
The first significant region P1 is spontaneously formed on the spot by the behavior of the contestants (performers). As shown in FIGS. 2A and 2B, for example, in the case of a soccer broadcast program, the ball, the player who operates the ball, and the player who stays in the vicinity of the ball are set as the setting conditions of the meaningful area. A spatial region in which people and objects that satisfy these conditions exist is set as a significant region P1. In the case of the meaningful region P1, since the region in which the viewer is interested and wants to turn his / her gaze is not known in advance, the significant region is determined with the passage of time.
Note that FIG. 2A is a line-of-sight image of a scene in which an enemy and an ally are confused and fight for a ball, and FIG. 2B is a line-of-sight image of a scene waiting for a corner kick. The user's line of sight is concentrated in the meaningful area P1 of FIG. 2 (a), but the user's line of sight is not concentrated in the significant area P1 of FIG. 2 (b).

第2の意義的領域P2は、制作者の意思により予め意図的に作成されている。
図3(a),図3(b)に示すように、例えば、映画番組の場合、脚本家や監督の思惑によって視聴者に興味を持って視線を向けて欲しい領域が設定されているため、予め第1画像中に俳優の表情や動作からなる意義的領域P2が存在している。尚、図3(a)は、レストランでの会食シーンの視線画像、図3(b)は、傷心した俳優が項垂れるシーンの視線画像である。図3(a)の意義的領域P2には、ユーザの視線が集中しているが、図3(b)の意義的領域P2には、ユーザの視線が集中していない。
The second significant area P2 is intentionally created in advance by the intention of the creator.
As shown in FIGS. 3 (a) and 3 (b), for example, in the case of a movie program, an area is set in which the viewer is interested in and wants to look at the viewer due to the speculation of the scriptwriter or the director. A meaningful region P2 consisting of facial expressions and movements of an actor exists in the first image in advance. Note that FIG. 3A is a line-of-sight image of a dinner scene at a restaurant, and FIG. 3B is a line-of-sight image of a scene in which an injured actor hangs down. The user's line of sight is concentrated in the meaningful area P2 of FIG. 3 (a), but the user's line of sight is not concentrated in the significant area P2 of FIG. 3 (b).

図4(a),図4(b)に示すように、例えば、ニュース報道番組の場合、制作者側の思惑によってキャスターとモニタ画面からなる意義的領域P2が存在している。尚、図4(a)は、ユーザのお気に入りのキャスターが興味のあるニュースを解説するシーンの視線画像であり、図4(b)は、ユーザの興味がないキャスターが興味のないニュースを解説するシーンの視線画像である。図4(a)の意義的領域P2には、ユーザの視線が集中しているが、図4(b)の意義的領域P2には、ユーザの視線が集中していない。
以下、意義的領域P1と意義的領域P2を区別する必要がない場合、両者を総称して単に意義的領域Pとして説明する。
As shown in FIGS. 4 (a) and 4 (b), for example, in the case of a news news program, a meaningful area P2 consisting of a caster and a monitor screen exists at the discretion of the producer. Note that FIG. 4 (a) is a line-of-sight image of a scene where the user's favorite caster explains the news that the user is interested in, and FIG. 4 (b) explains the news that the caster who is not interested in the user is not interested in. It is a line-of-sight image of the scene. The user's line of sight is concentrated in the meaningful area P2 of FIG. 4 (a), but the user's line of sight is not concentrated in the significant area P2 of FIG. 4 (b).
Hereinafter, when it is not necessary to distinguish between the meaningful region P1 and the significant region P2, both will be collectively referred to as the significant region P.

誘目度判定部42は、映像制作会社1から受信した第1画像において、表示された画像に関連付けて区分した領域毎に誘目度を判定している。区分した領域とは、例えば、画像中の構造物領域、空間領域、或いは、意義的領域Pとそれ以外の領域等後の処理に関連する区分領域である。誘目度は、視覚的顕著性或いはサリエンシーとも言われ、物理的視覚刺激(輝度、色合い、エッジ方向等)のみによって規定されるユーザの注視の集め易さと定義されている。ユーザの興味や意図等の要因を考慮しなければ、人間工学上、視野内のうち誘目度の高い領域が自然に注視されている。 The attraction degree determination unit 42 determines the attraction degree for each area divided in association with the displayed image in the first image received from the video production company 1. The divided area is, for example, a structural area in an image, a spatial area, or a divided area related to post-processing such as a meaningful area P and other areas. The degree of attraction, also referred to as visual prominence or salience, is defined as the ease with which the user's gaze can be gathered, as defined solely by physical visual stimuli (brightness, hue, edge orientation, etc.). If factors such as the user's interests and intentions are not taken into consideration, the area of the visual field with a high degree of attraction is naturally watched in terms of ergonomics.

誘目度判定部42は、第1画像とユーザの周辺画像とについて、特徴に依存しない視覚刺激の誘目度をスカラー量として計算し、二次元の誘目度マップとして夫々表現している。この誘目度マップの作成方法は、公知の技術であるため、詳細な説明は省略する。 The attraction degree determination unit 42 calculates the attraction degree of the visual stimulus that does not depend on the feature as the scalar amount for the first image and the peripheral image of the user, and expresses them as a two-dimensional attraction degree map. Since this method of creating an attraction map is a known technique, detailed description thereof will be omitted.

集中度判定部43は、ユーザの精神状態を散漫状態、漫然状態、集注状態、没頭状態の4つの状態に分類し、これらの状態に基づき集中度を判定している。
この集中度判定部43は、コントローラ35から受信した視線画像と意義的領域設定部41が設定した意義的領域Pを用いて、集中度を判定している。
視対象L(ユーザの注視点)が意義的領域Pに存在しない場合、散漫状態であり、低集中度が判定される。具体的には、視対象Lが判定時間のうち意義的領域Pに滞在した時間割合(例えば、40%)以上を基準としており、視対象Lが意義的領域Pに滞在した時間が判定時間中40%未満の場合、視対象Lが意義的領域Pに滞在していないと判定している。
The concentration degree determination unit 43 classifies the mental state of the user into four states of a distracted state, a distracted state, a collecting state, and an immersed state, and determines the concentration degree based on these states.
The concentration degree determination unit 43 determines the concentration degree using the line-of-sight image received from the controller 35 and the meaning area P set by the meaning area setting unit 41.
When the visual object L (the user's gaze point) does not exist in the meaningful region P, it is in a distracted state and the low concentration is determined. Specifically, the time during which the visual object L stays in the significant region P is based on the time ratio (for example, 40%) or more of the visual target L staying in the significant region P in the determination time. If it is less than 40%, it is determined that the visual object L does not stay in the significant region P.

集中度判定部43は、意義的領域設定部41が設定した意義的領域Pと誘目度判定部42が判定した領域毎の誘目度を用いて、ユーザの集中度を判定している。
具体的には、視対象Lが滞在する意義的領域Pの第1誘目度が第1閾値以下の場合、没頭状態であり、高集中度が判定される。他の領域に比べて誘目度が低い意義的領域Pに敢えて視線を向けている場合、ユーザは番組に集中した没頭状態である。
The concentration degree determination unit 43 determines the degree of concentration of the user by using the significance area P set by the meaning area setting unit 41 and the degree of attraction for each area determined by the attraction degree determination unit 42.
Specifically, when the degree of first attraction of the significant region P in which the visual object L stays is equal to or less than the first threshold value, it is an immersive state and a high concentration degree is determined. When the user dares to look at the meaningful area P, which has a lower degree of attraction than the other areas, the user is in a state of being absorbed in the program.

散漫状態と没頭状態を除いた状態を更に細かく区分するため、集中度判定部43は、視線の移動先の誘目度(第2誘目度)に基づき、漫然状態と集注状態を判定している。
集中度判定部43は、ユーザの視線が意義的領域Pから意義的領域P以外に移動した場合、移動先の第2誘目度を用いて、ユーザの心理状態を判定している。視覚的注意とサッケード眼球運動は、ユーザの集中度に密接に関連しているからである。
In order to further subdivide the state excluding the distracted state and the immersive state, the concentration ratio determination unit 43 determines the distracted state and the injection collecting state based on the degree of attraction (second degree of attraction) of the destination of the line of sight.
When the user's line of sight moves from the meaningful area P to a place other than the meaningful area P, the concentration degree determination unit 43 determines the psychological state of the user by using the second degree of attraction of the destination. This is because visual attention and saccade eye movements are closely related to the user's concentration.

視対象L(注視点)が意義的領域Pに存在しても、ユーザの意識が向かう(興味がある)とは限らない。視対象Lであっても、意識対象ではないことがある。そこで、ユーザの視線が意義的領域Pから移動した際、直前までの状態を誘目度を用いて判定する。
具体的には、ユーザの視線が移動した移動先の第2誘目度が第2閾値(第1閾値<第2閾値)以下の場合、集注状態(中集中度)を判定している。敢えて、誘目度が低い対象を注視することは、ユーザが意思を持って意識対象に視線を向けたと推測される。
第2誘目度が第2閾値よりも大きい場合、漫然状態(低集中度)を判定している。
誘目度が高い対象を注視することは、移動前に無意識的に意義的領域Pへ視線を向けていたと推測される。
Even if the visual object L (gaze point) exists in the meaningful area P, the user's consciousness is not necessarily directed (interested). Even if it is a visual object L, it may not be a conscious object. Therefore, when the user's line of sight moves from the meaningful region P, the state up to immediately before is determined using the degree of attraction.
Specifically, when the second attraction degree of the destination to which the user's line of sight has moved is equal to or less than the second threshold value (first threshold value <second threshold value), the injection collection state (medium concentration degree) is determined. It is presumed that the user intentionally turned his or her gaze on the conscious object to pay attention to the object with a low degree of attraction.
When the second attraction degree is larger than the second threshold value, the involuntary state (low concentration degree) is determined.
It is presumed that gazing at a subject with a high degree of attraction unconsciously turned the line of sight to the meaningful area P before moving.

広告仕様設定部44は、第1画像に合成する第2画像の誘目度をユーザの集中度に応じて変更している。この広告仕様設定部44は、中集中度のとき、第2画像の誘目度を低誘目度にし、低集中度のとき、第2画像の誘目度を高誘目度にしている。
第2画像の誘目度を高誘目度にする場合、例えば、広告文字の輝度又は色の明るさを高くする、或いは広告の動きを大きくしている。低誘目度にする場合、上記の逆を行う。
これにより、中集中度のとき、ユーザの視聴の妨害を回避し、低集中度のとき、ユーザの視線をモニタ31に惹き付けつつユーザの購買意欲を促進している。尚、高集中度のとき、第2画像は第1画像に合成されないため、第2画像の誘目度は設定されない。
The advertisement specification setting unit 44 changes the degree of attraction of the second image to be combined with the first image according to the degree of concentration of the user. The advertisement specification setting unit 44 sets the degree of attraction of the second image to a low degree of attraction when the degree of concentration is medium, and sets the degree of attraction of the second image to a high degree of attraction when the degree of concentration is low.
When the degree of attraction of the second image is set to a high degree of attraction, for example, the brightness or the brightness of the color of the advertisement character is increased, or the movement of the advertisement is increased. If the degree of attraction is low, the reverse of the above is performed.
As a result, when the concentration is medium, the user's viewing is avoided, and when the concentration is low, the user's line of sight is attracted to the monitor 31 and the user's purchasing motivation is promoted. At the time of high concentration, the second image is not combined with the first image, so that the degree of attraction of the second image is not set.

広告合成部45は、誘目度が設定された第2画像に所定の加工を施し、第1画像の広告掲示領域Aに合成して表示用画像(番組コンテンツ)を生成する。
この広告合成部45は、 第1画像の一部領域を構成する広告掲示領域Aに、第1画像の一部として第2画像が重畳されたオーバーレイ広告を形成している。
図2(b),図3(b),図4(b)に示すように、広告掲示領域Aは、第1画像の一部領域を構成している。具体的には、広告掲示領域Aは、図2では、サッカー場の無地(緑色)フェンスであり、図3では、レストランの壁に装着された装飾用単色板であり、図4では、報道室の壁に設置された番組タイトルの表示板に設定されている。
配信制御部46は、広告合成部45で生成された番組コンテンツをコントローラ35(ユーザ領域3)に配信する。
The advertisement synthesizing unit 45 performs predetermined processing on the second image in which the degree of attraction is set, and synthesizes the second image with the advertisement posting area A of the first image to generate a display image (program content).
The advertisement synthesizing unit 45 forms an overlay advertisement in which a second image is superimposed as a part of the first image on the advertisement posting area A constituting a part area of the first image.
As shown in FIGS. 2 (b), 3 (b), and 4 (b), the advertisement posting area A constitutes a part of the first image. Specifically, the advertisement posting area A is a plain (green) fence of a soccer field in FIG. 2, a decorative monochromatic plate mounted on the wall of a restaurant in FIG. 3, and a news room in FIG. It is set on the display board of the program title installed on the wall of.
The distribution control unit 46 distributes the program content generated by the advertisement synthesis unit 45 to the controller 35 (user area 3).

次に、図5に示すフローチャートを参照しながら、広告表示制御処理の一例について説明する。尚、図中、Si(i=1,2,…)は、各ステップを示す。
まず、適宜、必要な情報を取り込み(S1)、S2に移行する。
S2では、ユーザが所定の番組コンテンツを視聴している状況において、ユーザの視線画像とユーザの周辺画像とを逐次作成して、S3に移行する。
Next, an example of the advertisement display control process will be described with reference to the flowchart shown in FIG. In the figure, Si (i = 1, 2, ...) Indicates each step.
First, necessary information is taken in (S1) as appropriate, and the process proceeds to S2.
In S2, in a situation where the user is viewing a predetermined program content, the user's line-of-sight image and the user's peripheral image are sequentially created, and the process proceeds to S3.

S3では、ユーザが視聴する表示用画像の意義的領域Pを設定して、S4に移行する。
S4では、ユーザが視聴する表示用画像とユーザの周辺画像の領域毎の誘目度を演算して、S5に移行する。
In S3, a meaningful area P of the display image to be viewed by the user is set, and the process proceeds to S4.
In S4, the degree of attraction for each area of the display image to be viewed by the user and the peripheral image of the user is calculated, and the process proceeds to S5.

S5では、所定の判定時間において、ユーザの視対象Lが意義的領域Pの外か否か判定する。S5の判定の結果、ユーザの視対象Lが意義的領域Pの外の場合、ユーザが番組コンテンツに興味がないため、S6に移行する。S5の判定の結果、ユーザの視対象Lが意義的領域Pに存在する場合、ユーザが番組コンテンツに興味があると推定されるため、S11に移行する。 In S5, it is determined whether or not the user's visual target L is outside the meaningful region P in a predetermined determination time. As a result of the determination in S5, when the user's visual target L is outside the meaningful area P, the user is not interested in the program content, so the process proceeds to S6. As a result of the determination in S5, when the visual object L of the user exists in the meaningful region P, it is presumed that the user is interested in the program content, so the process proceeds to S11.

S6では、前回もユーザの視対象Lが意義的領域Pの外か否か判定する。
S6の判定の結果、前回もユーザの視対象Lが意義的領域Pの外である場合、ユーザが続けて意義的領域Pの外を視ているため、ユーザは番組コンテンツに興味がなく、低集中度と判定する(S7)。S6の判定の結果、前回の視対象Lが意義的領域Pの内であり、今回初めて意義的領域Pの外に外れた場合、S10に移行する。
In S6, it is determined whether or not the user's visual target L is outside the meaningful region P in the previous time as well.
As a result of the determination of S6, when the user's visual target L is also outside the meaningful area P in the previous time, the user is not interested in the program content and is low because the user continues to look outside the meaningful area P. It is determined to be the degree of concentration (S7). As a result of the determination of S6, when the previous visual target L is inside the significant region P and is out of the significant region P for the first time this time, the process shifts to S10.

S10では、前回の視対象Lが意義的領域Pの内であって、今回、視線移動先の誘目度である第2誘目度が第2閾値よりも大きいか否か判定する。
S10の判定の結果、第2誘目度が第2閾値よりも大きいとき、意義的領域Pを漫然と視ていた視線が反射的に高い誘目度に誘導されたため、S7に移行する。
S10の判定の結果、第2誘目度が第2閾値よりも以下のとき、意義的領域Pを集注して視ていた視線が意識的に低い誘目度の意識対象に向けられたため、S12に移行する。
In S10, it is determined whether or not the previous visual target L is within the meaningful region P, and this time, the second attractiveness, which is the attractiveness of the line-of-sight movement destination, is larger than the second threshold value.
As a result of the determination of S10, when the second degree of attraction is larger than the second threshold value, the line of sight that was vaguely looking at the significant region P was reflexively guided to a higher degree of attraction, so that the process shifts to S7.
As a result of the determination of S10, when the second degree of attraction is less than or equal to the second threshold value, the line of sight focused on the meaningful area P is consciously directed to the conscious object with a lower degree of attraction, so the process shifts to S12. do.

図6に示すように、表示用画像全体の誘目度と一般ユーザの視線による頻度との関係は、上に突出した特性D1であり、意義的領域Pの誘目度と一般ユーザの視線による頻度との関係は、高誘目度領域において上に突出した特性D2である。
図7に、図6を誘目度と一般ユーザの視線確率との関係に変換したグラフを示す。
図7に示すように、意義的領域Pの特性D3は、高誘目度、例えば平均値+標準偏差以上の領域において、略7割以上の領域を占めている。これは、意義的領域P内では、輝度等の要素に加えて、動き等の要素が大きくなるためと推測される。従って、視対象Lが意義的領域P外に移動したとき、移動先の誘目度が低い場合、ユーザは興味対象に対して意識的に視線を向けている。
As shown in FIG. 6, the relationship between the degree of attraction of the entire display image and the frequency due to the line of sight of a general user is the characteristic D1 that protrudes upward, and the degree of attraction of the significant region P and the frequency due to the line of sight of a general user. The relationship is the characteristic D2 that protrudes upward in the high attractiveness region.
FIG. 7 shows a graph obtained by converting FIG. 6 into a relationship between the degree of attraction and the line-of-sight probability of a general user.
As shown in FIG. 7, the characteristic D3 of the significant region P occupies a region of about 70% or more in a region having a high degree of attraction, for example, an average value + a standard deviation or more. It is presumed that this is because, in the meaningful region P, in addition to the elements such as luminance, the elements such as movement become large. Therefore, when the visual object L moves out of the meaningful region P, if the degree of attraction of the destination is low, the user consciously directs the line of sight to the object of interest.

図5のフローチャートの説明に戻る。
S7の後、指向性スピーカ34の音源分離機能により音源定位してユーザの視線を広告掲示領域Aに誘導し(S8)、広告掲示領域Aに高誘目度の第2画像の広告を表示して(S9)、リターンする。ここで、ユーザが継続して意義的領域Pの外を視ている場合(S5,S6共にYES)、ユーザの視線をモニタ31に惹き付けるため、広告掲示領域Aに表示される第2画像の誘目度をユーザの周辺画像(家具やカーテン等を含む居住空間)の誘目度よりも高くなるように設定している。
Returning to the description of the flowchart of FIG.
After S7, the sound source is localized by the sound source separation function of the directional speaker 34 to guide the user's line of sight to the advertisement posting area A (S8), and the advertisement of the second image with a high degree of attraction is displayed in the advertisement posting area A. (S9), return. Here, when the user continues to look outside the meaningful area P (YES in both S5 and S6), the second image displayed in the advertisement posting area A in order to attract the user's line of sight to the monitor 31. The degree of attraction is set to be higher than the degree of attraction of the user's peripheral image (living space including furniture, curtains, etc.).

S11では、ユーザの視対象Lが存在する意義的領域Pの第1誘目度が第1閾値よりも大きいか否か判定する。S11の判定の結果、第1誘目度が第1閾値よりも大きい場合、ユーザが番組コンテンツに興味がある集注状態であるため、中集中度と判定する(S12)。S12の後、広告掲示領域Aに低誘目度の第2画像の広告を表示して(S13)、リターンする。集注状態のユーザの視聴を阻害しないように、広告表示する。 In S11, it is determined whether or not the first attraction degree of the meaningful region P in which the visual object L of the user exists is larger than the first threshold value. As a result of the determination in S11, when the first attraction degree is larger than the first threshold value, it is determined to be a medium concentration degree because the user is in a collecting and ordering state in which he / she is interested in the program content (S12). After S12, the advertisement of the second image having a low degree of attraction is displayed in the advertisement posting area A (S13), and the advertisement is returned. Display advertisements so as not to interfere with the viewing of users in the collection state.

S11の判定の結果、第1誘目度が第1閾値以下の場合、ユーザが番組コンテンツに集中した没頭状態であるため、高集中度と判定する(S14)。ユーザが完全に集中して番組コンテンツを視聴できる環境を整えるためである。
S14の後、広告掲示領域の広告表示を禁止して(S15)、リターンする。
As a result of the determination in S11, when the first attraction degree is equal to or less than the first threshold value, it is determined that the degree of concentration is high because the user is immersed in the program content (S14). This is to create an environment in which the user can completely concentrate and watch the program content.
After S14, the advertisement display in the advertisement posting area is prohibited (S15), and the product returns.

次に、上記広告提供システムSの作用、効果について説明する。
本広告提供システムSによれば、モニタ31に表示される画像を視るユーザの視線を検出する第1カメラ32を有するため、ユーザの視線を惹き付ける視対象L(ユーザの注視点)を判定することができる。画像内における画像の重要部を表示する意義的領域Pを検出する意義的領域設定部41を有するため、制作者側がユーザに興味を持って視線を向けて欲しい意義的領域Pを検出することができ、視覚的に表示することができる。
広告掲示領域Aに重畳される第2画像(広告情報)を制御する広告合成部45を有するため、画像を中断する広告表示時間を別途必要とすることなく、第2画像を表示することができる。広告合成部45は、視対象Lが意義的領域Pに存在しないとき、広告掲示領域Aに第2画像を重畳表示するため、ユーザが画像に対して散漫状態である低集中度のとき、ユーザの集中状態を阻害することなく第2画像を表示することができる。
Next, the operation and effect of the advertisement providing system S will be described.
According to the advertisement providing system S, since the first camera 32 that detects the line of sight of the user who sees the image displayed on the monitor 31, the line of sight target L (the user's gaze point) that attracts the line of sight of the user is determined. can do. Since it has a meaningful area setting unit 41 for detecting a meaningful area P that displays an important part of the image in the image, it is possible for the creator to detect the meaningful area P that the creator wants the user to be interested in and look at. It can be displayed visually.
Since the advertisement synthesis unit 45 that controls the second image (advertisement information) superimposed on the advertisement display area A is provided, the second image can be displayed without separately requiring an advertisement display time for interrupting the image. .. Since the advertisement synthesizing unit 45 superimposes and displays the second image on the advertisement posting area A when the visual object L does not exist in the meaningful area P, the user is in a distracted state with respect to the image and the user has a low concentration. The second image can be displayed without disturbing the concentration state of.

意義的領域Pの誘目度を検出可能な誘目度判定部42を有し、広告合成部45は、視対象Lが意義的領域Pに存在するとき、意義的領域Pの誘目度に応じて重畳表示される第2画像の表示形態を変更するため、ユーザの集中度に応じて第2画像の表示形態を変更することができる。 The advertisement synthesis unit 45 has an attraction degree determination unit 42 capable of detecting the attraction degree of the meaningful area P, and the advertisement synthesis unit 45 superimposes according to the attraction degree of the meaningful area P when the visual object L exists in the significant area P. Since the display form of the displayed second image is changed, the display form of the second image can be changed according to the degree of concentration of the user.

広告合成部45は、意義的領域Pの誘目度が所定の閾値よりも低いとき、第2画像の重畳を行わず第2画像の表示を禁止している。これにより、ユーザが画像に対して没頭状態である高集中度のとき、広告情報である第2画像の表示を禁止するため、ユーザの集中状態を阻害しない。 When the degree of attraction of the meaningful region P is lower than a predetermined threshold value, the advertisement synthesizing unit 45 prohibits the display of the second image without superimposing the second image. As a result, when the user is immersed in the image and has a high concentration, the display of the second image, which is the advertisement information, is prohibited, so that the concentration state of the user is not hindered.

表示された画像に関連付けて区分した領域毎に誘目度を検出可能な誘目度判定部42を有し、広告仕様設定部44は、視対象Lが意義的領域Pから意義的領域P外に移動したとき、移動した先の誘目度に応じて重畳表示される第2画像の表示形態を変更するため、第2画像の誘目度をユーザの集中度に合わせて設定することができる。 The advertisement specification setting unit 44 has an attraction degree determination unit 42 capable of detecting the degree of attraction for each area divided in association with the displayed image, and the visual target L moves from the meaningful area P to the outside of the meaningful area P. At that time, since the display form of the second image superimposed and displayed according to the degree of attraction of the moved destination is changed, the degree of attraction of the second image can be set according to the degree of concentration of the user.

広告仕様設定部44は、移動した先の誘目度が高いとき、移動した先の誘目度が低いときに比べて重畳表示される第2画像の誘目度を高くしている。
これにより、移動した先の誘目度が高いとき、視線が誘目度に反射的に引き付けられて移動する漫然状態(低集中度)であるため、第2画像の誘目度を高くしてユーザの広告認識度を高くすることができる。移動した先の誘目度が低いとき、視線が意図的に意識対象に移動する集注状態(中集中度)であるため、第2画像の誘目度を低くして集中状態の阻害を回避することができる。
The advertisement specification setting unit 44 increases the degree of attraction of the second image to be superimposed and displayed when the degree of attraction of the moved destination is high and the degree of attraction of the moved destination is low.
As a result, when the degree of attraction of the destination is high, the line of sight is reflexively attracted to the degree of attraction and the movement is in a dull state (low concentration). The degree of recognition can be increased. When the degree of attraction of the destination is low, the line of sight intentionally moves to the conscious object (medium concentration), so it is possible to reduce the degree of attraction of the second image to avoid obstruction of the concentration state. can.

本広告提供方法は、広告情報を重畳可能な広告掲示領域Aを含む画像を配信する番組配信会社4と、この番組配信会社4から配信された表示用画像を表示するモニタ31を用いて広告を提供する広告提供方法において、表示用画像を視るユーザの視線を検出する視線検出ステップと、表示用画像内における画像の重要部を表示する意義的領域Pを検出する意義的領域検出ステップと、視対象Lが意義的領域Pに存在しないとき、広告掲示領域Aに広告情報を重畳表示する広告表示ステップと、を有している。
本広告提供方法によれば、上記広告提供システムSと同様の効果を奏することができる。
This advertisement providing method uses a program distribution company 4 that distributes an image including an advertisement posting area A on which advertisement information can be superimposed, and a monitor 31 that displays a display image distributed from the program distribution company 4. In the provided advertisement providing method, a line-of-sight detection step for detecting the line of sight of the user who sees the display image, a meaning area detection step for detecting a meaning area P for displaying an important part of the image in the display image, and a meaning area detection step. When the visual object L does not exist in the meaningful area P, it has an advertisement display step of superimposing and displaying the advertisement information on the advertisement display area A.
According to this advertisement providing method, the same effect as that of the advertisement providing system S can be obtained.

次に、前記実施形態を部分的に変更した変形例について説明する。
1〕前記実施形態においては、画像管理手段が映像制作会社1である例を説明したが、映像制作会社1と番組配信会社4が一体である画像管理手段であっても良い。
また、映像制作会社1と広告制作会社2と番組配信会社4で画像管理手段を構成することも可能である。
Next, a modified example in which the embodiment is partially modified will be described.
1] In the above embodiment, the example in which the image management means is the video production company 1 has been described, but the image management means may be one in which the video production company 1 and the program distribution company 4 are integrated.
Further, it is also possible to configure the image management means by the video production company 1, the advertisement production company 2, and the program distribution company 4.

2〕前記実施形態においては、番組配信会社4が受信した第1画像と第2画像を予め合成し、番組配信会社4が合成した番組コンテンツをユーザ領域3のコントローラ35に配信する例を説明したが、映像制作会社1と広告制作会社2から第1,第2画像を直接的にユーザ領域3に送信しても良い。この場合、コントローラ35に、第1,第2画像の受信機能と、意義的領域設定部41、誘目度判定部42、集中度判定部43、広告仕様設定部44、広告合成部45等の機能を設ける。 2] In the above embodiment, an example has been described in which the first image and the second image received by the program distribution company 4 are combined in advance, and the program content synthesized by the program distribution company 4 is distributed to the controller 35 in the user area 3. However, the first and second images may be directly transmitted from the video production company 1 and the advertisement production company 2 to the user area 3. In this case, the controller 35 has a function of receiving the first and second images, and functions of a meaningful area setting unit 41, an attraction degree determination unit 42, a concentration ratio determination unit 43, an advertisement specification setting unit 44, an advertisement composition unit 45, and the like. Is provided.

3〕前記実施形態においては、番組配信会社4からユーザ領域3に番組コンテンツがネットワーク5を介して配信される例を説明したが、番組配信会社4からユーザ領域3に地上波(電波)を介して配信されるように構成しても良い。この場合、ユーザの視線画像とユーザの周辺画像は、ユーザ領域3から番組配信会社4に有線又は無線にて別途送信される。 3] In the above embodiment, the example in which the program content is distributed from the program distribution company 4 to the user area 3 via the network 5 has been described, but the program distribution company 4 has described the user area 3 via terrestrial waves (radio waves). It may be configured to be delivered. In this case, the user's line-of-sight image and the user's peripheral image are separately transmitted from the user area 3 to the program distribution company 4 by wire or wirelessly.

4〕前記実施形態においては、広告掲示領域Aに第1画像の一部として第2画像が重畳されたオーバーレイ広告が表示された例を説明したが、第2画像の重畳方法としてスーパーインポーズ法を用いて第2画像を重畳しても良い。 4] In the above embodiment, an example in which an overlay advertisement in which a second image is superimposed as a part of the first image is displayed in the advertisement posting area A has been described, but the superimpose method is used as a method of superimposing the second image. The second image may be superimposed using.

5〕その他、当業者であれば、本発明の趣旨を逸脱することなく、前記実施形態に種々の変更を付加した形態で実施可能であり、本発明はそのような変更形態も包含するものである。 5] In addition, a person skilled in the art can implement the embodiment in a form in which various modifications are added to the embodiment without departing from the spirit of the present invention, and the present invention also includes such modifications. be.

1 映像制作会社
4 番組配信会社
31 モニタ
32 第1カメラ
41 意義的領域設定部
42 誘目度判定部
44 広告仕様設定部
45 広告合成部
S 広告提供システム
P 意義的領域
L 視対象
1 Video production company 4 Program distribution company 31 Monitor 32 1st camera 41 Significant area setting unit 42 Invitation degree judgment unit 44 Advertising specification setting unit 45 Advertising composition unit S Advertising provision system P Significant area L Visual target

Claims (6)

広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された前記画像を表示する画像表示手段とを用いて広告を提供する広告提供システムにおいて、
前記画像を視る視聴者の視線を検出する視線検出手段と、
前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出手段と、
前記広告掲示領域に重畳される広告情報を制御する広告表示制御手段とを有し、
前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示することを特徴とする広告提供システム。
In an advertisement providing system that provides an advertisement by using an image management means for delivering an image including an advertisement posting area on which advertisement information can be superimposed and an image display means for displaying the image delivered from the image management means.
A line-of-sight detection means for detecting the line of sight of a viewer viewing the image,
Meaningful area detecting means for detecting a meaningful area for displaying an important part of an image in the image, and
It has an advertisement display control means for controlling the advertisement information superimposed on the advertisement display area.
The advertisement display control means is an advertisement providing system characterized in that advertisement information is superimposed and displayed on the advertisement display area when the line of sight of the viewer does not exist in the meaningful area.
前記意義的領域の誘目度を検出可能な誘目度検出手段を有し、
前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在するとき、前記意義的領域の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴とする請求項1に記載の広告提供システム。
It has an attractiveness detecting means capable of detecting the attractiveness of the significant region, and has an attractiveness detecting means.
The advertisement display control means is characterized in that when the line of sight of the viewer is present in the meaningful region, the display form of the superimposed display advertisement information is changed according to the degree of attraction of the significant region. The advertisement providing system according to claim 1.
前記広告表示制御手段は、前記意義的領域の誘目度が所定の閾値よりも低いとき、前記重畳表示される広告情報の表示を禁止することを特徴とする請求項2に記載の広告提供システム。 The advertisement providing system according to claim 2, wherein the advertisement display control means prohibits the display of the superimposed advertisement information when the degree of attraction of the meaningful area is lower than a predetermined threshold value. 前記表示された画像に関連付けて区分した領域毎に誘目度を検出可能な誘目度検出手段を有し、
前記広告表示制御手段は、前記視聴者の視線が前記意義的領域から意義的領域外に移動したとき、前記移動した先の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴とする請求項1に記載の広告提供システム。
It has an attraction degree detecting means capable of detecting the degree of attraction for each area divided in association with the displayed image.
The advertisement display control means changes the display form of the advertisement information to be superimposed and displayed according to the degree of attraction of the moved destination when the line of sight of the viewer moves from the meaningful area to the outside of the meaningful area. The advertisement providing system according to claim 1.
前記広告表示制御手段は、前記移動した先の誘目度が高いとき、移動した先の誘目度が低いときに比べて前記重畳表示される広告情報の誘目度を高くすることを特徴とする請求項4に記載の広告提供システム。 The claim is characterized in that the advertisement display control means increases the degree of attraction of the superimposed and displayed advertisement information when the degree of attraction of the moved destination is high and as compared with the case where the degree of attraction of the moved destination is low. The advertisement providing system described in 4. 広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された前記画像を表示する画像表示手段とを用いて広告を提供する広告提供方法において、
前記画像を視る視聴者の視線を検出する視線検出ステップと、
前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出ステップと、
前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示する広告表示ステップと、
を有することを特徴とする広告提供方法。
In an advertisement providing method for providing an advertisement by using an image management means for delivering an image including an advertisement posting area on which advertisement information can be superimposed and an image display means for displaying the image delivered from the image management means.
A line-of-sight detection step for detecting the line of sight of a viewer viewing the image, and
A meaningful area detection step for detecting a meaningful area for displaying an important part of an image in the image,
When the line of sight of the viewer does not exist in the meaningful area, the advertisement display step of superimposing the advertisement information on the advertisement display area and displaying the advertisement.
An advertisement providing method characterized by having.
JP2020198236A 2020-11-30 2020-11-30 Advertisement provision system and advertisement provision method Pending JP2022086302A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020198236A JP2022086302A (en) 2020-11-30 2020-11-30 Advertisement provision system and advertisement provision method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020198236A JP2022086302A (en) 2020-11-30 2020-11-30 Advertisement provision system and advertisement provision method

Publications (1)

Publication Number Publication Date
JP2022086302A true JP2022086302A (en) 2022-06-09

Family

ID=81893780

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020198236A Pending JP2022086302A (en) 2020-11-30 2020-11-30 Advertisement provision system and advertisement provision method

Country Status (1)

Country Link
JP (1) JP2022086302A (en)

Similar Documents

Publication Publication Date Title
EP3687645B1 (en) Virtual reality presentation of real world space
US11290681B2 (en) System and methods for facilitating virtual presence
US10455184B2 (en) Display device and information processing terminal device
JP6725038B2 (en) Information processing apparatus and method, display control apparatus and method, program, and information processing system
US9560416B2 (en) Method and apparatus for interfacing buyers with products depicted in a video
CN110764859B (en) Method for automatically adjusting and optimally displaying visible area of screen
WO2016009864A1 (en) Information processing device, display device, information processing method, program, and information processing system
KR102085129B1 (en) Method for providing virtual reality advertisement
JP2013513304A (en) System and method for determining proximity of media objects in a 3D media environment
KR101782582B1 (en) Method, Apparatus and System for Transmitting Video Based on Eye Tracking
KR102039402B1 (en) Method for providing virtual reality advertisement
US20240196025A1 (en) Computer program, server device, terminal device, and method
JP2004213486A (en) Image processor and processing method, storage medium, and program
US20130265488A1 (en) Multi-screen video playback system and related computer program product
KR20200041839A (en) Method for providing virtual reality userinterface for viewing broadcastand apparatus using the same
JP5941760B2 (en) Display control device, display control method, display system, program, and recording medium
KR20180025754A (en) Display apparatus and control method thereof
JP2014170330A (en) Virtual reality presentation system, virtual reality presentation method and virtual reality presentation device
JP2022086302A (en) Advertisement provision system and advertisement provision method
JP2005531249A (en) System for providing V channel for individuals
EP4080907A1 (en) Information processing device and information processing method
WO2021131326A1 (en) Information processing device, information processing method, and computer program
WO2002025940A1 (en) Picture-in-picture
CN110910508B (en) Image display method, device and system
JP6523038B2 (en) Sensory presentation device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230919