WO2017056230A1 - 情報処理装置、情報処理方法および情報処理装置用プログラム - Google Patents

情報処理装置、情報処理方法および情報処理装置用プログラム Download PDF

Info

Publication number
WO2017056230A1
WO2017056230A1 PCT/JP2015/077724 JP2015077724W WO2017056230A1 WO 2017056230 A1 WO2017056230 A1 WO 2017056230A1 JP 2015077724 W JP2015077724 W JP 2015077724W WO 2017056230 A1 WO2017056230 A1 WO 2017056230A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
area
information
additional content
moving image
Prior art date
Application number
PCT/JP2015/077724
Other languages
English (en)
French (fr)
Inventor
久範 山原
Original Assignee
楽天株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 楽天株式会社 filed Critical 楽天株式会社
Priority to JP2017542591A priority Critical patent/JP6446144B2/ja
Priority to PCT/JP2015/077724 priority patent/WO2017056230A1/ja
Publication of WO2017056230A1 publication Critical patent/WO2017056230A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering

Definitions

  • the present invention relates to a technical field of an information processing apparatus, an information processing method, and a program for an information processing apparatus that display other images in a moving image.
  • a service in which content provided by a content provider such as a video is registered in a content distribution site, and the content is distributed in response to a request from a viewing user on the content distribution site.
  • a content provider such as a video
  • an advertisement related to the distributed content is displayed so as to overlap a part of the content display area, and a reward is obtained in response to a click on the advertisement by a viewing user.
  • Patent Document 1 displays either a moving image or a still image in an area where the amount of motion of the image is small, and the other area in the other area.
  • a technique for displaying is disclosed.
  • Patent Literature 1 when the technology of Patent Literature 1 is applied to a service for distributing content, an object with a small amount of motion is used in a case of a moving image having a larger amount of motion such as a background than the amount of motion of an object in a moving image. There is a problem that the advertisement is displayed so as to overlap with the place where the is displayed, which hinders viewing by the viewing user.
  • the present invention has been made in view of such problems, and one example of the problem is that other images such as advertisements do not overlap with content objects such as moving images and do not hinder viewing by viewing users.
  • An object is to provide a service for generating an area as a new display area.
  • the invention according to claim 1 is an image frame for acquiring at least some of the image frames included in the moving image acquired from the moving image storage means for storing the moving image.
  • An acquisition unit and an object display area of an object displayed in the image frame for each acquired image frame are specified for each image frame, and the moving image is selected from areas not included in the object display area.
  • Display candidate area specifying means for specifying at least one display candidate area that is a candidate for the additional content display area for displaying the additional content to be added to the information, information about the specified display candidate area, and the additional content are displayed.
  • An additional content display area selecting means for selecting a content display area; and display information generating means for generating display information for displaying the additional content in the selected additional content display area.
  • the display candidate area that is a candidate for the additional content display area for displaying the additional content is specified from the area that is not included in the object display area, and information regarding the specified display candidate area and the additional content display are displayed.
  • Display information for displaying content in the additional content display area selected from the display candidate area is generated based on the conditions, so that other images such as advertising content do not overlap the content object.
  • the content display area can be generated as an area that does not hinder viewing by the viewing user.
  • the information regarding the display candidate area includes information on a size of a common area of the display candidate areas that is common in the plurality of image frames.
  • the additional content display area selecting means selects the additional content display area from the common area according to the size of the common area.
  • the common area of the display candidate areas in which the information regarding the display candidate area is common in the plurality of image frames is the
  • the additional content display area selection means selects the additional content display area from the common area in accordance with the integrated display quantity, including an integrated display quantity displayed by at least one of space and time in the moving image. It is characterized by that.
  • the additional content corresponding to the integrated display amount of the common area can be stably displayed at a fixed position in each image frame in an area that does not overlap the object in each image frame.
  • the display candidate area in which information related to the display candidate area is common in the plurality of image frames. Including the difference data amount of the image of the common region between the adjacent frames of the image frame, and the additional content display region selecting means is set by the difference data amount of the image of the common region A common area having a larger amount of difference data than a threshold value is selected as the additional content display area.
  • the amount of data when the moving image is compressed can be reduced by replacing the common area having a large amount of difference data with the additional content with little change in color or the like for each image frame.
  • the display candidate area in which information related to the display candidate area is common in the plurality of image frames is common in the plurality of image frames.
  • the common area selected according to the shape information is selected as the additional content display area.
  • the additional content can be displayed so as to match the shape of the common area without changing the shape of the additional content, the process of changing the shape of the additional content can be omitted.
  • the display information is obtained by simply allocating at least a part of the selected additional content display area. It includes a moving image masked with one color.
  • the color of the pixel in the area for displaying the additional content in the additional content display area A color for masking the area is determined for each pixel based on the color of the pixel of the additional content added to the area, and the display information includes a moving image in which the area is masked with the color determined for the pixel.
  • the area can be masked with an intermediate color for each corresponding pixel, a part of the image frame between the image frame before displaying the additional content and the image frame after displaying the additional content is a pixel. Since each intermediate color is masked, the amount of data when the moving image is compressed can be reduced.
  • the invention according to claim 8 is the information processing apparatus according to any one of claims 1 to 7, wherein the display candidate area specifying means is selected from areas not included in the object display area.
  • the display candidate area that matches the shape based on the additional content display condition is specified.
  • the display candidate area is limited to conform to the shape based on the additional content display condition before selecting the additional content display area, the number of display candidate areas does not increase and the processing can be reduced. .
  • the invention according to claim 9 is an image frame acquisition step in which the image frame acquisition means acquires at least some of the image frames included in the moving image acquired from the moving image storage means that stores the moving image.
  • the display candidate area specifying means specifies the object display area of the object displayed in the image frame for each of the acquired image frames for each of the image frames, and includes an area not included in the object display area.
  • the display candidate area specifying step for specifying at least one display candidate area that is a candidate for the additional content display area for displaying the additional content to be added to the video, and the additional content display area selecting means are specified.
  • An additional content display area selection step for selecting the additional content display area from the specified display candidate area based on display conditions, and display information generation means displays the additional content in the selected additional content display area
  • a display information generating step for generating display information to be performed.
  • the image frame acquiring means for acquiring at least some of the image frames included in the moving image acquired from the moving image storage means for storing the moving image, the acquisition For each image frame, an object display area of an object displayed in the image frame is specified for each image frame, and additional content to be added to the moving image is selected from areas not included in the object display area.
  • Display candidate area specifying means for specifying at least one display candidate area that is a candidate for the additional content display area to be displayed; information on the specified display candidate area; and additional content display conditions for displaying the additional content; Based on the specified display candidate area, the additional content display area Additional content display area selection means for selecting, and, characterized in that to function as the display information generating means for generating display information for displaying the additional content to the selected added contents display area.
  • FIG. 1 It is a figure which shows an example of the content registered into the database constructed
  • FIG. 1 is a schematic diagram illustrating an example of a schematic configuration of an information processing system 1 according to an embodiment.
  • the information processing system 1 includes a moving image distribution server device 10 that distributes moving image content to a viewing user, and a content provider device 20 that provides moving image content to the moving image distribution server device 10 as content. And an advertisement provider device 30 that provides additional content such as an advertisement that is desired to be registered in the moving image, and a viewing user terminal device 40 that is a viewing user who views the moving image.
  • a moving image is composed of a plurality of image frames.
  • the video distribution server device 10, the content providing device 20, the advertisement providing device 30, and the viewing user terminal device 40 are connected by the network 3, and data can be transmitted and received by a communication protocol (for example, TCP / IP). It has become.
  • the network 3 is constructed by, for example, the Internet, a dedicated communication line (for example, a CATV (Community Antenna Television) line), a mobile communication network (including the base station 5 and the like), a gateway, and the like.
  • the moving image distribution server device 10 and the content providing device 20 may be connected by a dedicated line for improving security.
  • the moving image distribution server device 10 registers the moving image provided from the content providing device 20, and distributes the moving image content from the viewing user terminal device 40 to the viewing user terminal device 40 in response to a request. In addition, when the moving image distribution server device 10 distributes moving image content to the viewing user terminal device 40 in response to a request from the viewing user terminal device 40, the moving image distribution server device 10 sends additional content such as advertisements regarding products or services to the viewing user terminal device 40. To deliver.
  • the content providers use the respective content providing devices 20 to transmit the moving images to the moving image distribution server device 10 in order to register the moving images provided by the content providers.
  • the advertisement providers use the respective advertisement providing devices 30 to transmit the additional contents such as advertisements to the video distribution server device 10 in order to register the additional contents such as advertisements provided by the advertisement providers.
  • advertisement there are two types of additional content: advertisement and non-advertisement.
  • a non-advertisement in addition to an advertisement for a product or service, a message, a video, or the like that an advertisement provider or the like wants to show for each viewing user as a moving image can be cited.
  • examples of the data format of the additional content include characters and images such as text and design characters, and combinations thereof.
  • examples of the video include still images, moving images, and combinations thereof.
  • the advertisement provider transmits information indicating the additional content display condition for displaying the additional content on the moving image to the moving image distribution server device 10 using each advertisement providing device 30.
  • the additional content display condition there is a shape of the additional content (for example, a rectangle, a circle, an ellipse, a star, etc.). Further, the aspect ratio (the ratio of the vertical length to the horizontal length of the advertisement) is used for a rectangle, and the ratio between the major axis and the minor axis is included for an ellipse. Further, the additional content display condition may be a reference display size (for example, the number of pixels indicating a horizontal or vertical length) of the additional content, or a minimum display size of the additional content.
  • the additional content display condition there is a display time of the additional content, and there are a plurality of group units, a display time when a plurality of frames that are continuously displayed in time are set as one group unit, There is a group total display time when these group units are combined.
  • the display time of additional content in these two cases there are total display time, minimum total display time, maximum total display time, minimum continuous display time, maximum continuous display time, average continuous display time, etc. .
  • the number of times of display of the additional content can be given.
  • There are a plurality of display times when a plurality of frames that are continuously displayed in time are set as one group unit, and a plurality of the group units.
  • the number of additional content displays in these two cases there are a total display count, a minimum total display count, a maximum total display count, a minimum continuous display count, a maximum continuous display count, an average display count, and the like.
  • the additional content display condition there is a display area of the additional content, and there are a plurality of display areas in which a plurality of frames that are continuously displayed in time are grouped as one group unit, There is a group total display area when these group units are combined.
  • the display area of the additional content in these two cases there are a minimum display area, a maximum display area, an average display area, a predetermined display area such as 1/10 of the image frame, and the like.
  • an integrated display amount displayed by integration of at least one of space and time in a moving image can be cited, and an integrated display amount in the case of one group unit in which display is temporally continuous, When there are a plurality of group units and the group units are added together, there is a group total integrated display amount.
  • the integrated display amounts in these two cases there are a minimum integrated display amount, a predetermined integrated display amount such as 5 seconds in an area of 1/10 of the image frame, and the like.
  • a display permission position (upper, lower, right, left, lower right, lower left, center, etc.) of an additional content in an image frame constituting a moving image
  • a display prohibited position for example, The position where the advertisement provider does not want to display the additional content in the image frame.
  • additional content display conditions conditions such as temporal display positions of moving images in which additional content display is permitted or prohibited (for example, display permission or prohibition in the first half / second half of the moving image, only predetermined chapters are permitted) Or prohibition, only allow / prohibit only the first / last 5 minutes).
  • a video category in which additional content display is permitted or prohibited (such as a video that includes a whitelist, blacklist, or specific keyword), or a video category in which additional content display is permitted or prohibited Etc.
  • the viewing user uses the viewing user terminal device 40 to search for a moving image provided in the moving image distribution server device service by using a search keyword or category selection, and selects a moving image to be viewed.
  • the viewing user terminal device 40 transmits a video distribution request corresponding to the user input or selection to the video distribution server device 10, receives a video corresponding to the distribution request from the video distribution server device 10, and receives the received video Play a video.
  • FIG. 2 is a block diagram illustrating an example of a schematic configuration of the moving image distribution server device 10 according to an embodiment.
  • 3 to 8 are diagrams illustrating examples of contents registered in a database constructed in the storage unit of the moving image distribution server device 10.
  • the moving image distribution server device 10 that functions as a computer includes a communication unit 11, a storage unit 12, an input / output interface unit 13, and a system control unit 14.
  • the system control unit 14 and the input / output interface unit 13 are connected via a system bus 15.
  • the communication unit 11 is connected to the network 3 and controls communication with the content provider device 20 of the video provider, the advertisement provider device 30 of the advertisement provider, the viewing user terminal device 40, and the like.
  • the storage unit 12 includes, for example, a hard disk drive, a silicon disk drive, and the like, and stores various programs such as an operating system and a server program, a moving image provided to a viewing user, and the like.
  • the various programs may be acquired from, for example, another server device via the network 3, or may be recorded on a recording medium and read via a drive device (not shown). Also good. Further, the distribution program or the like may be a program product.
  • the storage unit 12 also includes a moving image database 12a (hereinafter referred to as “moving image DB 12a”) that stores moving images acquired from the content providing device 20, and an advertisement database 12b that stores advertisements acquired from the content providing device 20 ( “Advertisement DB 12b” hereinafter) and an area not included in the object display area of the object displayed in each image frame constituting the moving image (for example, an area not including the object)
  • the frame / display candidate area information database 12c (in this case, information related to the display candidate area that is a candidate for the additional content display area (hereinafter referred to as “frame / display candidate area information”) (an example of information related to the display candidate area)) (Hereinafter referred to as “frame / display candidate area information DB 12c”)
  • the total display candidate area information database 12d (hereinafter referred to as “total display candidate area information DB 12d”) that stores information on the display candidate areas (an example of information related to the display candidate areas) and the addition of advertisements and the like to
  • the moving image DB 12a (an example of moving image storage means) information relating to distributable moving images is registered. Specifically, as shown in FIG. 3, in the moving image DB 12a, a category ID, a moving image title, a moving image recording time, moving image data, and the like are registered for each moving image in association with the moving image ID.
  • the moving image DB 12a may store the number of image frames constituting the moving image, the additional content display availability flag, the additional content display upper limit number, the additional content display upper limit time, and the like.
  • the moving image ID is identification information for identifying the moving image.
  • the moving image ID may be managed in association with the content provider ID for identifying the content provider.
  • the category ID is information for identifying the category to which the video corresponding to the video ID belongs.
  • a plurality of categories are defined, and each moving image belongs to at least one category.
  • Movie data is data for displaying a movie.
  • Video data formats include, for example, MPEG-1, MPEG-2, MPEG-4, MPEG-7, MPEG-21 and other MPEG formats, DivX formats, Xvid formats, Huffyuv formats, etc., AVI formats, MOV formats, A container format such as ASF format, Ogg format, Matroska format, etc. may be used.
  • advertisement DB 12b information related to advertisements that can be distributed is registered. Specifically, as shown in FIG. 4, in the advertisement DB 12b, advertisement display conditions, advertisement data, provided information URL (Uniform) Resource ⁇ Locator), and the like are registered for each advertisement in association with the advertisement ID.
  • URL Uniform Resource ⁇ Locator
  • the advertisement ID is identification information for identifying the advertisement.
  • the advertisement display condition is an example of an additional content condition, and is a condition for displaying advertisement information as additional content on a moving image.
  • Advertising data is data that is displayed in association with the distributed video.
  • the advertisement data includes character data, still image data, moving image data, and the like, and may be a combination of at least two types of data among these data.
  • the provided information URL is a URL of provided information associated with the advertisement indicated by the advertisement ID.
  • the frame / display candidate area information DB 12c information on display candidate areas that are candidates for the additional content display area for displaying the additional content is registered.
  • the frame / display candidate area DB 12 c includes frame / display candidate area information (video ID, frame ID of image frame, display candidate area ID, and display candidate area information ( An example of information regarding display candidate areas) is registered.
  • the frame ID of the image frame is identification information for identifying the image frame in the moving image.
  • the frame ID may be a serial number (frame number) sequentially assigned to each image frame.
  • the display candidate area ID is identification information for identifying the display candidate area extracted from the image frame. When it is determined that the objects extracted between different image frames are the same object, the same display candidate area ID is given.
  • the display candidate area is specified from an area other than the object extracted by image processing from each image frame constituting the moving image.
  • objects include buildings, signs, moving objects (vehicles, bicycles, people, animals, characters, etc.) displayed in image frames, trees, clothes worn by people and characters, bags, etc. Is mentioned.
  • the frame / display candidate area information As an example of the frame / display candidate area information, the shape of the display candidate area extracted in the image frame, the position information where the display candidate area exists in the image frame (for example, coordinates with the upper left corner of the image frame as the origin, the image frame Among the divided areas divided into given areas, there are areas that overlap the display candidate area, etc. Further, the center part such as the center of gravity of the display candidate area as a reference part when indicating the position of the display candidate area itself, Alternatively, there are information such as the area of the display candidate region in the image frame (which includes each end of the display candidate region, etc.), the coordinates of each pixel in the display candidate region or the outer edge, and pixel information such as color.
  • total display candidate area information DB 12d display candidate area information (an example of information related to display candidate areas) obtained by totaling the frame / display candidate area information of each image frame constituting the moving image is registered. Specifically, as illustrated in FIG. 6, a moving image ID, a display candidate area ID, aggregated display candidate area information, and the like are registered in the aggregate display candidate area information DB 12 d.
  • the number of appearances (display count) of each display candidate area in a moving image the average number of appearances in a plurality of display candidate areas that satisfy a given condition, and the maximum appearance of the display candidate area that appears most frequently Number, the minimum number of appearances of the display candidate area that appears the least, and the like.
  • the frame rate is generally 30 fps (frames per second) to 60 fps, but may be any frame rate such as 10 fps, 24 fps, and 25 fps.
  • the aggregated display candidate area information there are an accumulated display area, an average display area, a maximum display area, a minimum display area, and the like of each display candidate area in the moving image.
  • the aggregated display candidate area information the number of continuous appearances of display candidate areas continuously displayed in an image frame can be cited.
  • the aggregated display candidate area information is an example of an integrated display amount in which the display candidate area is displayed by integrating at least one of space and time in a moving image.
  • the aggregated display candidate area information the number of appearances, the average number of appearances, the maximum number of appearances, the minimum number of appearances, etc., of the common display candidate areas in a plurality of image frames may be used. Further, as an example of the aggregated display candidate area information, an integrated display area, an average display area, a maximum display area, a minimum display area, and the like of each common area in a moving image may be used. Further, as an example of the aggregated display candidate area information, the number of continuous appearances of common areas continuously displayed in an image frame may be used. Note that the aggregated display candidate area information is an example of an integrated display amount in which a common area of the display candidate areas common to the plurality of image frames is displayed by integration of at least one of space and time in the moving image.
  • a common area common to a plurality of image frames is an area where areas where objects are not displayed overlap each other between image frames, for example, an area where no objects are displayed between image frames. This is a region with common coordinates.
  • the shape of the common area As an example of the aggregated display candidate area information, the shape of the common area, the position information of the common area (for example, the center position of the common area such as the center of gravity, or the end of the common area with the upper left corner of the image frame as the origin) Position, etc.), the area of the common region, the coordinates of each pixel in the common region or the outer edge, and information such as pixel information such as color.
  • control information DB 12e control information for displaying an additional content such as an advertisement is registered in each image frame constituting the moving image. Specifically, as shown in FIG. 7, a moving image ID, control information, and the like are registered in the control information DB 12 e.
  • the control information includes information indicating a temporal position at which additional content is displayed in a moving image (for example, a frame ID of an image frame) and information indicating a position within an image frame at which additional content is displayed at the time (for example, coordinate information). ) Etc. Further, the control information may include information for identifying the additional content and data (for example, advertisement data) of the additional content.
  • the control information includes, for each frame ID, position information in an image frame to which the additional content is added, and a reduction rate or an enlargement rate of the additional content.
  • the control information includes, for each frame ID, position information (for example, coordinates with the upper left corner of the image frame as the origin) inside or in the outline of the additional content display area to which the additional content is added.
  • the control information includes, for each frame ID, image frame data of the additional content, position information in the image frame to which the additional content is added, a reduction rate or an enlargement rate of the additional content, and the like.
  • the control information includes, for each frame ID, image frame data of the additional content and position information of pixels inside or outside the additional content display area to which the additional content is added.
  • user information related to users registered as members in the information processing system 1 is registered for each user in association with the user ID.
  • user attributes such as a password, a nickname, and an e-mail address are registered as user information in association with the user ID.
  • the user ID is identification information for identifying the user.
  • the storage unit 12 further stores various data such as an HTML document, an XML (Extensible Markup Language) document, image data, text data, and an electronic document for displaying a web page.
  • the storage unit 12 stores various setting values, threshold values, reference values, specified values, constants, tables, and the like.
  • the input / output interface unit 13 performs interface processing between the communication unit 11 and the storage unit 12 and the system control unit 14.
  • the system control unit 14 includes a CPU 14a, a ROM (Read Only Memory) 14b, a RAM (Random Access Memory) 14c, and the like.
  • the CPU 14a is an example of a processor.
  • the present invention can also be applied to various processors different from the CPU.
  • Each of the storage unit 12, the ROM 14b, and the RAM 14c is an example of a memory.
  • the present invention can also be applied to various memories different from the hard disk, ROM, and RAM.
  • the moving image distribution server device 10 may be composed of a plurality of server devices.
  • a server device that registers a moving image of content provided from the content providing device 20 a server device that distributes moving image content, a server device that receives and stores advertisements from the advertisement providing device 30, and a server that manages a database Devices and the like may be connected to each other via a LAN or the like.
  • FIG. 9 is a diagram illustrating an example of functional blocks of the video distribution server device 10 according to an embodiment.
  • the moving image distribution server device 10 includes an image frame acquisition unit 10a, a display candidate region specifying unit 10b, an additional content display region selecting unit 10c, and a display information generating unit 10d.
  • the image frame acquisition unit 10a acquires at least a part of the plurality of image frames constituting the moving image from the moving image DB 12a that stores the moving image.
  • the display candidate area specifying unit 10b specifies, for each image frame, the object display area of the object displayed in the image frame for each image frame acquired by the image frame acquisition unit 10a, and is included in the object display area At least one display candidate area that is a candidate for the additional content display area for displaying the additional content to be added to the moving image is identified from the areas that are not included.
  • the additional content display area selection unit 10c selects the display candidate area specified based on the information related to the display candidate area specified by the display candidate area specifying unit 10b and the additional content display condition for displaying the additional content. Select the additional content display area.
  • the display information generating unit 10d generates display information for displaying the additional content in the additional content display area selected by the additional content display area selecting unit 10c.
  • FIG. 10 is a block diagram illustrating an example of a schematic configuration of the content providing apparatus 20.
  • the content providing apparatus 20 that functions as a computer is, for example, a personal computer or a server.
  • the content providing apparatus 20 includes a communication unit 21, a storage unit 22, a display unit 23, an operation unit 24, an input / output interface unit 25, and a system control unit 26.
  • the system control unit 26 and the input / output interface unit 25 are connected via a system bus 27.
  • the content providing device 20 may be a computer such as a smartphone or a tablet.
  • the communication unit 21 controls communication with the video distribution server device 10 and the like through the network 3.
  • the storage unit 22 includes, for example, a hard disk drive or the like, and stores programs such as an operating system.
  • the display unit 23 (an example of a display screen for each community) includes, for example, a liquid crystal display element or an EL (Electro Luminescence) element.
  • the operation unit 24 is composed of, for example, a keyboard and a mouse.
  • the input / output interface unit 25 is an interface between the communication unit 21, the storage unit 22, and the system control unit 26.
  • the system control unit 26 includes, for example, a CPU 26a, a ROM 26b, and a RAM 26c.
  • the CPU 26 a reads out and executes various programs stored in the ROM 26 b, the RAM 26 c, and the storage unit 22.
  • FIG. 11 is a block diagram illustrating an example of a schematic configuration of the advertisement providing apparatus 30. As illustrated in FIG.
  • the advertisement providing apparatus 30 that functions as a computer is, for example, a portable terminal such as a portable wireless telephone or a PDA including a personal computer or a smartphone.
  • the advertisement providing device 30 includes a communication unit 31, a storage unit 32, a display unit 33, an operation unit 34, an input / output interface unit 35, and a system control unit 36.
  • the system control unit 36 and the input / output interface unit 35 are connected via a system bus 47.
  • the configuration and function of the advertisement providing device 30 are substantially the same as the configuration and function of the content providing device 20, but the system control unit 36 displays an advertisement as advertisement information via the communication unit 31.
  • the advertisement display conditions, advertisement data, provided information URL, and the like are transmitted to the moving image distribution server device 10.
  • the display unit 33 displays an advertisement display condition input screen for inputting advertisement display conditions.
  • FIG. 12 is a block diagram illustrating an example of a schematic configuration of the viewing user terminal device 40.
  • the viewing user terminal device 40 that functions as a viewing user's computer is, for example, a portable terminal such as a portable wireless telephone or a PDA including a personal computer or a smartphone.
  • the viewing user terminal device 40 includes a communication unit 41, a storage unit 42, a display unit 43, an operation unit 44, an input / output interface unit 45, and a system control unit 46.
  • the system control unit 46 and the input / output interface unit 45 are connected via a system bus 47.
  • the configuration and function of the viewing user terminal device 40 are substantially the same as the configuration and function of the content providing device 20, but the system control unit 46 transmits the video from the video distribution server device 10 via the communication unit 41.
  • the content and the additional content are received and displayed on the display unit 43.
  • FIG. 13 is a schematic diagram illustrating an example of a frame number of an image frame in moving image data.
  • 14A to 14I are schematic diagrams illustrating an example of an image frame.
  • FIG. 15 is a flowchart illustrating an example of a moving image registration process of the system control unit 14 of the moving image distribution server apparatus 10 according to an embodiment.
  • each content providing device 20 uses the content provider to register for a moving image.
  • the video category ID, title, recording time, video data, and the like are transmitted to the video distribution server device 10 together with the content provider ID for identifying the content provider.
  • the information regarding the moving image to be registered is transmitted to the moving image distribution service after the content provider logs in, it is not necessarily transmitted together with the content provider ID.
  • the moving image data is composed of 18,000 image frames.
  • the image frames in the moving image data are arranged in the order of frame numbers.
  • an image frame 50 corresponds to each frame number (frame ID).
  • the moving image distribution server device 10 acquires moving image information (step S1). Specifically, the system control unit 14 of the moving image distribution server device 10 receives the moving image information transmitted from each content providing device 20.
  • the moving image distribution server device 10 issues a moving image ID to the acquired moving image (step S2). Specifically, when the system control unit 14 of the moving image distribution server device 10 receives moving image information from the content providing device 20, the moving image ID is generated for the moving image.
  • the video ID may be a number indicating the reception order or an ID obtained by combining the content provider ID with the reception time. Note that the timing of issuing the moving image ID is not limited to the time of acquisition, and may be when registering the acquired moving image in the moving image DB 12a in the next step S3.
  • the moving image distribution server device 10 stores the moving image information and the moving image ID in association with each other in the moving image DB 12a (step S3).
  • the system control unit 14 records the category ID, title, recording time, moving image data, and the like in the moving image DB 12a in association with the moving image ID.
  • the video distribution server device 10 receives video information from each content providing device 20 at any time, and registers the received video information along with the video ID in the video DB 12a.
  • the moving image distribution server device 10 may receive moving image information from the content providing device 20 and temporarily store the moving image information to some extent, and register the moving image information in the moving image DB 12a at a predetermined timing.
  • FIG. 16 is a flowchart illustrating an example of advertisement registration processing of the system control unit 14 of the video distribution server device 10 according to an embodiment.
  • each advertisement providing device 30 displays an advertisement as advertisement information in order to register an advertisement that the advertisement provider wants to display and display on a video on a site operated on the video distribution server device 10. Advertisement display conditions, advertisement data, provision information URL, and the like are transmitted to the moving image distribution server device 10 together with the advertisement provider ID.
  • the advertisement display conditions are input from the advertisement display condition input screen on the display unit 33 of the advertisement providing device 30, for example.
  • the moving image distribution server device 10 acquires advertisement information (step S4). Specifically, the system control unit 14 of the video distribution server device 10 receives advertisement display conditions, advertisement data, provision information URL, advertisement provider ID, and the like as advertisement information transmitted from each advertisement provision apparatus 30. .
  • the moving image distribution server device 10 issues an advertisement ID to the acquired advertisement (step S5). Specifically, when the system control unit 14 of the moving image distribution server device 10 receives an advertisement from the advertisement providing device 30, it generates an advertisement ID for the advertisement.
  • the advertisement ID may be a number indicating the order of reception or an ID obtained by combining the advertisement provider ID with the reception time.
  • the moving image distribution server device 10 associates and stores the advertisement information including the advertisement display condition and the advertisement ID in the moving image DB (step S6).
  • the system control unit 14 records advertisement display conditions, advertisement data, provided information URL, and the like in the advertisement DB 12b in association with the advertisement ID.
  • the video distribution server device 10 accepts advertisements from each advertisement providing device 30 as needed, and registers the received advertisement information in the advertisement DB 12b together with the advertisement ID.
  • FIG. 17 is a flowchart illustrating an example of a display candidate area specifying process of the system control unit of the video distribution server device according to the embodiment.
  • 18A to 18D are schematic diagrams illustrating an example of a feature point image of an image frame.
  • FIG. 19A to FIG. 19D are schematic diagrams illustrating an example of a region not included in the object display region in the image frame.
  • 20A to 20E are schematic diagrams illustrating examples of display candidate areas in an image frame.
  • the moving image distribution server device 10 acquires one moving image from among a plurality of moving images stored in the moving image DB 12a (step S10).
  • the system control unit 14 of the moving image distribution server device 10 refers to the moving image DB 12a by moving image ID of a moving image that has not yet been subjected to object identification processing, and moving image data of one moving image corresponding to the moving image ID. Is read.
  • the system control unit 14 may temporarily store the moving image data read from the moving image DB 12a in the RAM 14c or the storage unit 12 for work.
  • the moving image distribution server device 10 acquires at least one image frame among a plurality of image frames included in the acquired moving image (step S11). Specifically, the system control unit 14 extracts an image frame corresponding to the processing target frame ID, for example.
  • the moving image distribution server device 10 extracts and specifies an object included in the image frame from the acquired image frame (step S12). Specifically, the system control unit 14 extracts each object in the image frame from, for example, edge extraction by background difference method, differentiation processing, SIFT (Scale-invariant feature transform), or HoG (Histogram of Oriented Gradients). ) Etc. to extract and specify. Note that the object may be tracked by the particle filter method, and the object may be specified by the particle.
  • each object such as a building, a signboard, a moving body (vehicle, bicycle, person, animal, etc.), a tree, clothes, and the like that are reflected in the image frame 50 is specified, and each object has an object ID. Assigned.
  • a feature point image 51 such as an edge is obtained and an object is extracted on the image frame 50 by edge detection or the like.
  • the system control unit 14 specifies an object based on the feature point image 51. For example, the system control unit 14 determines the frame number “000,001” as shown in FIG. 14A based on the edge group ed1, ed2, ed3, ed4, ed5, ed6 of the feature point image 52 of the frame number “000,001” in FIG. Are extracted from the image frame 50 of the building, the object ob1 of the building, the object ob2, the object ob3 of the building, the bird object ob4, the tree object ob5, and the vehicle object ob6, and an object ID is assigned to each object. Is identified.
  • the other image frame May be assigned the same object ID as the object ID assigned to the object included in.
  • the same object ID is assigned to each of the objects ob1, ob2, ob3, ob4, ob5, and ob6 in FIG. 14A and the objects ob1, ob2, ob3, ob4, ob5, and ob6 in FIG. 14B.
  • the same object ID is assigned. You may do it.
  • the same object ID is assigned. It may be assigned.
  • the moving image distribution server device 10 may specify a plurality of objects displayed in the image frame for each acquired image frame. In addition, when the object cannot be specified, such as the object is too small, unclear, or unclear, the moving image distribution server device 10 may not specify the object. Moreover, the moving image distribution server apparatus 10 may specify an object with a given upper limit number as a limit. For example, the moving image distribution server device 10 may preferentially specify an object having a large display area in the image frame.
  • the moving image distribution server device 10 specifies an object display area including the specified object (step S13). Specifically, the system control unit 14 sets an object display area corresponding to the area in which the object is displayed according to the extracted feature points such as edges.
  • the system control unit 14 determines the outline of the objects ob1, ob2, ob3, ob4, ob5, ob6, that is, the objects ob1, ob2, ob3, ob4, ob5, ob6.
  • the object display areas ar1, ar2, ar3, ar4, ar5, ar6 having the outermost edge of the edge group ed1, ed1, ed2, ed3, ed4, ed5, ed6 are specified.
  • the system control unit 14 may set the object display area so that the shape of the object display area ar6 changes in accordance with the change of the object.
  • the system control unit 14 determines that, for example, the object parameters such as the position, color, shape, and size of the object are within a predetermined range between the objects in the image frames close in time. Are determined to be the same object. Objects that fall within a predetermined range with respect to the size of the object and are changing are determined to be the same object. Objects that fall within a predetermined range with respect to the shape of the object are determined to be the same object (for example, the coordinates of the contour of one object and the contours of other objects with respect to the center of the object). When the minimum coordinate and distance are within the specified range). Note that the system control unit 14 may weight each parameter. The system control unit 14 may change the predetermined range depending on the time difference between frames.
  • the system control unit 14 may change the size of the object display area in accordance with the change of the object.
  • the system control unit 14 may determine that the object display area ar3 and the object display area ar13 are the same object display area, or may be determined as separate object display areas.
  • step S12 may perform the process of step S12 and step S13 together. That is, the system control unit 14 may set the object itself extracted in step S12 as an object display area.
  • the moving image distribution server device 10 functions as an example of a specifying unit that specifies the object display area of the object displayed in the image frame for each of the acquired image frames.
  • the moving image distribution server device 10 specifies a display candidate area that is a candidate for an area for displaying additional content to be added to the moving image from areas not included in the object display area (step S14). Specifically, first, as shown in FIGS. 19A to 19D, the system control unit 14 performs the specified object display areas ar1, ar2, ar3, ar4, ar5, from the feature point image 52 in each image frame. By subtracting ar6, an area n-ar (an example of an area not included in the object display area) is generated.
  • the system control unit 14 generates a frame / display candidate area cnd-ar, which is a display candidate area for each image frame, from the area n-ar. For example, the system control unit 14 cuts the region n-ar based on a predetermined shape such as a rectangle, an ellipse, or a triangle. That is, the system control unit 14 sets a frame / display candidate area cnd-ar that is equal to or larger than a predetermined area (for example, the minimum display area of the limit advertisement that can be recognized by the viewer) so as to avoid the object display area. .
  • a predetermined area for example, the minimum display area of the limit advertisement that can be recognized by the viewer
  • the system control unit 14 fills the area n-ar with the frame / display candidate area cnd-ar as much as possible without a gap.
  • Each frame / display candidate region cnd-ar is calculated (for example, so that the area of the gap is reduced as much as possible by an optimization method). Therefore, the shape (aspect ratio, ratio of the major axis and minor axis of the ellipse, etc.), size, number, position, and the like of the frame / display candidate region cnd-ar in the image frame 53 may change. Further, the frame / display candidate region cnd-ar may be different depending on the optimization method or the optimization criterion.
  • the shape of the frame / display candidate region cnd-ar may be unified in advance such as a rectangle or an ellipse so as to be easily optimized, or may be a shape based on advertisement display conditions. As shown in FIG. 20E, the shape of the frame / display candidate region cnd-ar may be a mixture of various shapes such as a rectangle and an ellipse.
  • the system control unit 14 calculates the frame / display candidate area information of each frame / display candidate area cnd-ar.
  • coordinates (xy coordinates) serving as a reference of the display candidate area display area for example, when the display candidate area display area is a rectangle, the coordinates of any of the four corners of the rectangle, If there are coordinates of the center of the rectangle, coordinates of the center, etc., and the display candidate area display area is a circular shape such as an ellipse, for example, there are coordinates of the center of the circular shape and coordinates of the center of gravity, etc. Also, the coordinates of the pixel near the center / centroid of the object display area, the coordinates of the pixel in the center portion, and the like can be given.
  • the frame / display candidate area information the area and shape of the display candidate area, the coordinates of the pixels of the outline of the display candidate area, all the coordinates of the pixels included in the display candidate area, or the coordinates of a plurality of pixels, etc. Is mentioned.
  • the frame / display candidate area information includes the aspect ratio, the vertical length and the horizontal length when the display candidate area is rectangular, and the ratio between the long axis and the short axis when the shape is an ellipse, and the length of the long axis. It may also be the length of the short axis.
  • the frame / display candidate area information may include the color of the pixel in the display candidate area.
  • system control unit 14 may set the area n-ar as a display candidate area. That is, the system control unit 14 may set all areas n-ar in the image frame 50 where no object is displayed as display candidate areas.
  • the system control unit 14 refers to the advertisement DB 12b and extracts all the different advertisement shapes from the advertisement shapes based on the registered advertisement shape information.
  • the shape may be registered in the storage unit 12 (which may be constructed as a display candidate shape database) or the like.
  • the system control unit 14 selects only shapes having a relatively large number of registrations (predetermined number of registrations from the top) among the advertisement shapes registered in the advertisement DB 12b or the like as the display candidate area targets. It may be registered in a display candidate shape database or the like as a shape.
  • the system control unit 14 may specify, as the display candidate area, a range that matches at least one shape registered in the display candidate shape database or the like in the area n-ar.
  • the display candidate area that is a candidate for the additional content display area for displaying the additional content to be added to the video is selected from among the areas not included in the object display area by the video distribution server device 10. It functions as an example of a display candidate area specifying means for specifying one.
  • the moving image distribution server device 10 functions as an example of a display candidate area specifying unit that specifies the display candidate area that matches the shape based on the additional content display condition from areas not included in the object display area. To do.
  • the moving image distribution server device 10 stores the moving image ID, the frame ID that identifies the image frame, the information on the display candidate region, and the display candidate region ID that identifies the display candidate region in association with each other (step). S15). Specifically, the system control unit 14 associates the moving image ID, the frame ID, the information on each display candidate area (frame / display candidate area information), and the display candidate area ID, and sets the frame / display candidate. It memorize
  • the system control unit 14 associates the moving image ID, the frame ID, information about each display candidate area (frame / display candidate area information), and the display candidate area ID, and temporarily stores the information such as the RAM 14c. It may be stored in a cache memory.
  • the moving image distribution server device 10 determines whether or not all image frames have been processed (step S16). For example, when processing a moving image in order from the first image frame, the system control unit 14 determines whether the frame number that is the frame ID is the last frame number of the moving image. Note that the moving image distribution server device 10 may determine whether or not processing has been performed on a part (for example, half) of image frames.
  • step S16 the moving image distribution server device 10 returns to the processing of step S11 and acquires the next image frame 50.
  • the moving image distribution server device 10 functions as an example of an image frame acquisition unit that acquires at least some of the image frames included in the moving image acquired from the moving image storage unit that stores the moving image. To do.
  • step S16 When the processing has been performed on all the image frames (step S16; YES), the moving image distribution server device 10 ends the display candidate area specifying process.
  • the moving image distribution server device 10 performs the processing from step S10 to step S16 based on the moving image ID of another moving image, and constructs the frame / display candidate area information DB 12c.
  • FIG. 21 is a flowchart illustrating an example of control information generation processing of the system control unit of the video distribution server device according to the embodiment.
  • FIG. 22A to FIG. 22C are schematic diagrams illustrating an example of the aggregated display candidate areas.
  • 23A to 23D are schematic diagrams illustrating an example of an image frame to which an advertisement is added.
  • 24A to 24D are schematic diagrams illustrating an example of an image frame to which an advertisement is added.
  • FIG. 25 is a schematic diagram illustrating an example of an image frame partially masked.
  • the moving image distribution server device 10 extracts a moving image ID of a moving image that has not been subjected to the control information generation process.
  • the moving image distribution server device 10 refers to the frame / display candidate area information DB 12c, and displays the display based on information on display candidate areas of image frames having the same moving image ID and different frame IDs. Information for each candidate area is calculated (step S20).
  • the system control unit 14 searches the frame / display candidate area information DB 12c for the same moving image ID in the order of frame number (frame ID), and displays frame / display candidate area information for each display candidate area ID. And the total display candidate area information is calculated.
  • the system control unit 14 refers to the frame / display candidate area information DB 12c, and in each of the plurality of image frames, each frame / display candidate area cnd ⁇ Common areas co-ar1 and co-ar2 that are common to ar are generated.
  • the system control unit 14 calculates a common area.
  • the common area and the frame / display candidate area cnd-ar in each image frame are schematically described.
  • the system control unit 14 converts a plurality of image frames from, for example, a frame number “000,001” to a frame number “000,135”, a frame number “000,165” to a frame number “000,360”, or a frame number “000,001” to a frame number ”.
  • a common area may be generated by dividing up to 000,360 ”and the like.
  • the system control unit 14 generates a common area co-ar1 of the frame number “000,135” from the frame number “000,001” as shown in FIG. 22A, and the frame from the frame number “000,165” as shown in FIG. 22B.
  • a common area co-ar2 with the number “000,360” is generated.
  • the system control unit 14 assigns an accumulation display candidate area ID in order to identify each generated common area.
  • the system control unit 14 may generate the common area co-ar3 from the frame number “000,001” to the frame number “000,360”. As illustrated in FIG. 22C, the system control unit 14 may generate a common area co-ar3 of the common area co-ar1 and the common area co-ar2. As illustrated in FIG. 22C, the system control unit 14 calculates a common area co-ar1 and a common area co-ar1 and generates a common area co-ar3. As shown in FIG. 22C, in the image 54, the common area co-ar1, the common area co-ar2, and the common area co-ar3 are schematically described.
  • the system control unit 14 refers to the frame / display candidate area information DB 12c and reads out frame / display candidate area information of, for example, frame numbers “000,001” and frame numbers “000,002” based on the frame ID. From the coordinate information of each frame / display candidate area cnd-ar with frame number “000,001” and the coordinate information of each frame / display candidate area cnd-ar with frame number “000,002”, the system control unit 14 A common area common to the overlapping portions of the display candidate areas cnd-ar is calculated.
  • the system control unit 14 reads the frame / display candidate area information of the frame number “000,003” from the frame / display candidate area information DB 12c, and calculates the coordinate information of the common area and each frame / display candidate of the frame number “000,003”.
  • the next common area (common area from frame numbers “000,001” to “000,003”) is calculated from the coordinate information of the area cnd-ar.
  • the system control unit 14 repeats these processes up to the frame numbers “000, 135” to generate each common area co-ar1.
  • the system control unit 14 assigns a common area ID to each common area.
  • system control unit 14 may process the frame numbers within the range of the frame numbers for obtaining the common area in the reverse order or the random order without processing them in the above order.
  • the system control unit 14 When processing in the reverse order, the system control unit 14 refers to the frame / display candidate area information DB 12c, for example, the frame / display candidate area information of the frame number “000,135” and the frame number “000,134” based on the frame ID. read out. From the coordinate information of each frame / display candidate area cnd-ar of frame number “000,135” and the coordinate information of each frame / display candidate area cnd-ar of frame number “000,134”, the system control unit 14 A common area common to the overlapping portions of the display candidate areas cnd-ar is calculated.
  • the system control unit 14 reads the frame / display candidate area information of the frame number “000,133” from the frame / display candidate area information DB 12c, and the calculated coordinate information of the common area and each frame / display candidate of the frame number “000,133”. From the coordinate information of the area cnd-ar, the next common area (common area from frame numbers “000,135” to “000,133”) is calculated. The system control unit 14 repeats these processes up to the frame number “000,001” to generate each common area co-ar1.
  • the system control unit 14 refers to the frame / display candidate area information DB 12c and, based on the frame ID, for example, from frame number “000,001” to frame number “000,135”, for example, arbitrary Frame / display candidate area information of frame number “000,111” and frame number “000,077” is read out. From the coordinate information of each frame / display candidate area cnd-ar of frame number “000,111” and the coordinate information of each frame / display candidate area cnd-ar of frame number “000,077”, the system control unit 14 A common area common to the overlapping portions of the display candidate areas cnd-ar is calculated.
  • the system control unit 14 reads out the frame / display candidate area information of the frame number other than the frame numbers “000,111” and “000,077”, for example, the frame number “000,063” from the frame / display candidate area information DB 12c and calculates the frame number. From the coordinate information of the common area and the coordinate information of each frame / display candidate area cnd-ar of frame number “000,063”, the next common area (common area of frame numbers “000,111”, “000,077” and “000,063”) ) Is calculated. The system control unit 14 repeats these processes for all remaining frame numbers within the range of frame numbers for which a common area is obtained, and generates each common area co-ar1.
  • the system control unit 14 does not process all frame numbers within the range of frame numbers for which a common area is obtained, and processes each frame at a given interval (for example, 10 frames). Good.
  • the system control unit 14 sets the given interval according to difference data (motion vector or the like) between image frames. For example, the system control unit 14 determines a given interval according to the difference data amount and the given condition in all the image frames included in the frame number range for which the common area is obtained.
  • the given interval is a constant interval.
  • the larger the difference data amount for example, the longer the length of the motion vector
  • the system control unit 14 decreases the given interval.
  • the smaller the difference data amount the smaller the change in the object position between the image frames, and the system control unit 14 increases the given interval.
  • the difference data amount for each frame is calculated for all image frames included in the frame number range for obtaining the common area set in advance, and the difference data amount for each image frame is integrated from the first image frame. Then, an image frame that exceeds a predetermined threshold may be processed. In this case, the interval between image frames to be processed varies.
  • the system control unit 14 After the common area co-ar1 and the like are generated, the system control unit 14 performs the common area information (for example, each common area with respect to the common area co-ar1, the common area co-ar2, the common area co-ar3, and the like). Display area information is calculated from the area, shape, coordinates of positions included in the common area, coordinates of pixels on the outer edge, frame number range for which the common area is obtained, and the like. Since the common areas co-ar1, co-ar2, and co-ar3 are generated from a plurality of frame / display candidate areas, information on the common areas of the common areas co-ar1, co-ar2, and co-ar3 itself is also included. This is an example of accumulated display candidate area information.
  • the range of the frame number in which the common area is generated is the number of appearance of the common area (display count: number of display frames) (an example of accumulated display candidate area information).
  • the number of appearances of the common area is an example of an integrated display amount in which the common area is displayed by integrating at least one of space and time in the moving image.
  • the common area co-ar1 among the common areas co-ar1 having the frame numbers “000,001” to “000,135” has a frame number “000,135” as shown in FIG. 22A. “When the area is substantially the same as the common area of a certain section after that (for example, the overlapping ratio of the areas is high), the system control unit 14 may add the number of appearances.
  • the system control unit 14 may calculate the number of consecutive appearances of common areas that appear in consecutive image frames (an example of an integrated display amount). For example, when the system control unit 14 generates the common areas in the order of the frame numbers without skipping the frame numbers, the range of the frame numbers that generated the common areas is the number of consecutive appearances. In addition, when the system control unit 14 generates a common area by thinning out the frame number, the number of frames in the range between the maximum value and the minimum value of the frame number is expressed as the number of consecutive appearances (or the time is displayed continuously). It is good.
  • the appearance ratio may be calculated by dividing by the number of frames.
  • the system control unit 14 determines the shape of each common area, the position information of each common area, the area of each common area, the coordinates of each pixel in or outside each common area, Pixel information such as color may be calculated.
  • the system control unit 14 calculates the integrated display area (an example of the integrated display amount) by summing up the areas of the common areas for every common area for all or some of the frame numbers. Note that the system control unit 14 may calculate an average display area (an example of an integrated display amount) obtained by dividing the integrated display area by all or part of the number of frames. Further, the system control unit 14 may calculate the maximum and minimum display areas for each common region.
  • the system control unit 14 may total the frame / display candidate area information for each predetermined segmentation period, not the entire moving image. For example, the system control unit 14 aggregates the frame / display candidate area information by dividing it at chapter information or when the image is switched, and calculates the aggregated display candidate area information.
  • the system control unit 14 may calculate display candidate area information for each group by grouping a plurality of display candidate areas or common areas as an example of the integrated display amount. For example, the system control unit 14 determines whether the shape or the like (for example, aspect ratio) of each display candidate region or common region is the same or similar, and the display candidate region or common shape is the same or similar. The same group ID is assigned to each region. Then, the system control unit 14 counts the number of appearances in group units (counting when at least one display candidate region or common region belonging to the group appears, counting when at least a predetermined number or more appear), display area in groups (groups) The total display amount of the group unit is calculated, for example, by adding the areas of the display candidate areas or the common areas belonging to.
  • the system control unit 14 determines whether the shape or the like (for example, aspect ratio) of each display candidate region or common region is the same or similar, and the display candidate region or common shape is the same or similar. The same group ID is assigned to each region. Then, the system control unit 14 counts
  • the method for determining whether or not each display candidate area or common area is the same or similar is that the system control unit 14 performs, for example, a display candidate area between display candidate areas or common areas between temporally close image frames.
  • the display candidate area or common area parameters such as the position, color, shape, size, etc. of the common area
  • the display candidate areas or common areas within the predetermined range are the same or similar to each other. It is determined that it is a common area. Then, the system control unit 14 groups display candidate areas or common areas that are the same or similar.
  • system control unit 14 may calculate an integrated display amount in units of groups for each group of similar display candidate areas or common areas having the same or similar colors.
  • the system control unit 14 stores the aggregated display candidate area information in the aggregate display candidate area information DB 12d in association with the moving image ID and the integrated display candidate area ID. Further, the frame number or frame ID such as the frame number of the aggregated period, the frame number indicating the maximum display area of the common area, the frame number indicating the minimum display area of the common area, You may memorize
  • the system control unit 14 may also store the object shape, the aspect ratio in the case of a rectangle, and the ratio of the major axis and the minor axis in the case of an ellipse in the total display candidate area information DB 12d. Further, the system control unit 14 may store the coordinates of the most frequently appearing position of the object in the moving image and the coordinate information of the object of the average appearing position in the total display candidate area information DB 12d together with the object information.
  • the video distribution server device 10 selects an advertisement display area for displaying an advertisement based on the information for each display candidate area and the advertisement display condition set by the advertiser of the advertisement to be displayed (step S21).
  • the system control unit 14 refers to the aggregate display candidate area information DB 12d, collates the display candidate area information accumulated with the advertisement display conditions, and selects the common area as the advertisement display area.
  • the advertisement display condition of the advertisement “AD-a1” is that the advertisement is rectangular in shape
  • the display time is 3 seconds or more
  • the display area is a predetermined value or more
  • the user wants to display in the upper right of the screen FIG. 23D
  • the advertisement display area ad-ar1 corresponds.
  • the system control unit 14 refers to the total display candidate area information DB 12d and selects the common area co-ar at the upper right in the figure of the image frame 55 as the advertisement display area ad-ar1.
  • the advertisement display condition of the advertisement “AD-d1” is that the aspect ratio of the advertisement shape is long and narrow (for example, a bar shape with an aspect ratio of 5: 1) and the lower side of the screen is 10 seconds or longer.
  • the advertisement display area ad-ar4 is applicable.
  • the system control unit 14 makes a ratio (an enlargement rate or a ratio) between the advertisement display area to which the advertisement is added and the size of the reference advertisement in each image frame in which the advertisement is displayed. (Reduction rate) may be calculated and stored in the aggregate display candidate area information DB 12d or the like.
  • the system control unit 14 refers to the aggregate display candidate area information DB 12d, and the common area has a relatively large number of appearances among the appearances of each common area (the number of appearances is a predetermined number from the top). May be selected as the advertisement display area. In this case, the system control unit 14 may select the advertisement display area based on the advertisement display condition, or may select the advertisement display area based only on the accumulated display candidate area information without being based on the advertisement display condition. May be. When the system control unit 14 is also based on the advertisement display condition, the common area satisfying the advertisement display condition is selected from the common areas having a relatively large number of appearances.
  • the system control unit 14 refers to the aggregate display candidate area information DB 12d, and the average display area is relatively large among the average display areas of the common areas (the number of the average display areas is a predetermined number from the top). )
  • the common area may be selected as the advertisement display area.
  • the system control unit 14 may select the common area based on the advertisement display condition, or may select the common area only based on the accumulated display candidate area information without being based on the advertisement display condition. Good.
  • the system control unit 14 is also based on the advertisement display condition, the common area satisfying the advertisement display condition is selected from the common areas having a relatively large average display area.
  • the system control unit 14 refers to the total display candidate area information DB 12d, and among the integrated display numbers of each common area, the integrated display number is relatively large (the number of the integrated display numbers is a predetermined number from the top). )
  • the common area may be selected as the advertisement display area.
  • the system control unit 14 may select the common area based on the advertisement display condition, or may select the common area only based on the accumulated display candidate area information without being based on the advertisement display condition. Good.
  • the system control unit 14 is also based on the advertisement display condition, the common area that satisfies the advertisement display condition is selected from the common areas having a relatively large cumulative display number.
  • the system control unit 14 refers to the total display candidate area information DB 12d, and among the continuous appearance numbers of each common area, the continuous appearance number is relatively large (the number of consecutive appearance numbers is a predetermined number from the top). )
  • the common area may be selected as the advertisement display area.
  • the system control unit 14 may select the common area based on the advertisement display condition, or may select the common area only based on the accumulated display candidate area information without being based on the advertisement display condition. Good.
  • the system control unit 14 is also based on the advertisement display condition, the common area satisfying the advertisement display condition is selected from the common areas having a relatively large number of consecutive appearances.
  • the system control unit 14 may select a combination of areas having the largest accumulated display amount in a plurality of image frames as the advertisement display area among the common areas.
  • the common area co-ar1 (54a) is from frame number “000,001” to frame number “000,135”
  • the common area co-ar1 (54b1) is frame number “000,001”.
  • the system control unit 14 may select the common area when the difference data amount of the common area between the image frames is larger than a predetermined threshold as the advertisement display area.
  • the system control unit 14 sets a predetermined threshold based on the difference data amount of each common area. For example, in step S20, the system control unit 14 accumulates, for each common area, the compression ratio of the moving image (or the amount of data reduced when encoding the moving image) when each common area is separately painted with a single color. Calculate as display candidate area information. Then, in step S21, the system control unit 14 compares the compression rates of the common regions, and selects a common region having a relatively high compression rate (predetermined order from the common region compressed with the highest compression rate). May be.
  • the system control unit 14 may select the common area based on the advertisement display condition, or may select the common area only with the display candidate area information accumulated without being based on the advertisement display condition. .
  • the system control unit 14 is also based on the advertisement display condition, the common area that satisfies the advertisement display condition is selected from the common areas that are larger than the predetermined threshold.
  • the system control unit 14 converts the moving image content into distribution moving image data and compresses it using a predetermined encoding method.
  • a moving image coding method there is a coding method using a difference between frames, and inter-frame prediction is used in order to increase a compression rate.
  • the system control unit 14 encodes a predetermined image frame using a difference between a previous image frame and a predicted image frame from at least one image frame of the subsequent image frame.
  • the system control unit 14 also obtains a motion vector and encodes the motion vector. Difference information between one image frame and a predicted image frame, information on a motion vector, and the like are examples of difference data.
  • system control unit 14 may select at least two of the appearance number, the average display area, the integrated display amount, the continuous appearance number, and the difference data amount to select the common area as the advertisement display area.
  • the system control unit 14 may select the common area as the advertisement display area by combining at least two of the advertisement display conditions such as the advertisement display time, the advertisement display area, and the advertisement shape. Further, the system control unit 14 is a combination of at least two of the appearance number, the average display area, the integrated display amount, the continuous appearance number, the difference data amount, the advertisement display time, the advertisement display area, the advertisement shape, etc. The area may be selected as the advertisement display area.
  • the moving image distribution server device 10 displays the additional content display from the specified display candidate region based on the information related to the specified display candidate region and the additional content display condition for displaying the additional content. It functions as an example of additional content display area selection means for selecting an area. Further, the moving image distribution server device 10 functions as an example of an additional content display area selection unit that selects the additional content display area from the common area according to the size of the common area. Functions as an example. In addition, the moving image distribution server device 10 functions as an example of an additional content display area selection unit that selects the additional content display area from the common area according to the integrated display amount.
  • the moving image distribution server device 10 includes an additional content display area selection unit that selects, as the additional content display area, a common area having a larger difference data amount than a threshold set by the difference data amount of the image in the common area. It serves as an example.
  • the moving image distribution server device 10 selects the common area selected according to the shape information of the common area as the additional content display area so as to conform to the shape of the additional content. It functions as an example of selection means.
  • the moving image distribution server device 10 generates control information for displaying an advertisement in the selected advertisement display area (step S22).
  • the system control unit 14 refers to the aggregate display candidate area information DB 12d and, based on the accumulated display candidate area ID of the selected object, each frame ID for displaying an advertisement and advertisement display in these image frames Control information including each frame ID and coordinate information corresponding to these frame IDs is generated. For example, as illustrated in FIGS. 23A to 23D, the system control unit 14 generates control information so that a moving image including the image frames 55 is reproduced.
  • This control information is information for displaying an advertisement superimposed on an advertisement display area in the moving image when the moving image is played back.
  • the advertisement display area includes at least a part of the selected common area.
  • the system control unit 14 sets the advertisement display area ad-ar1 to match the common area co-ar3 selected for the advertisement “AD-a1” as shown in FIGS. 23A to 23D. May be.
  • the system control unit 14 may set the advertisement display area ad-ar2 within the common area co-ar3 selected for the advertisement “AD-b1” as shown in FIGS. 23A to 23D. Good. Further, the system control unit 14 sets the advertisement display area ad-ar2 in the common area co-ar3 so as to satisfy the advertisement display condition of the advertisement “AD-b1” as shown in FIGS. 23A to 23D. It may be set at the top of. Further, the system control unit 14 may change the advertisement “AD-b1” to the advertisement “AD-b2” in the advertisement display area ad-ar2 when the scene changes.
  • the system control unit 14 includes the advertisement display area ad-ar3 including a part of the common area co-ar3 selected for the advertisement “AD-c1” as shown in FIGS. 23A to 23D. You may set as follows. In this way, the shape of the advertisement “AD-c1” and the shape of the common area co-ar3 do not necessarily have to match. Further, the system control unit 14 may change the advertisement “AD-c1” to the advertisement “AD-c2” in the advertisement display area ad-ar3.
  • system control unit 14 sets the advertisement display area ad-ar4 in the common area co-ar3 so as to satisfy the advertisement display condition of the advertisement “AD-d1” as shown in FIGS. 23A to 23D. You may set to the lower part of.
  • the system control unit 14 changes the advertisement display area ad-ar5 of the advertisement “AD-e1” to the advertisement display area ad-ar6 of the advertisement “AD-e2”.
  • the shape of the advertisement display area may be changed.
  • the system control unit 14 sets the advertisement display area ad-ar5 of the advertisement “AD-e1” inside the common area co-ar3, and starts the advertisement display area ad of the advertisement “AD-e2” from a certain frame number.
  • -Ar6 may be set so that a part thereof protrudes from the common area co-ar3.
  • the system control unit 14 avoids the object ob13 and covers the moving image object ob12 in the advertisement display area ad-ar6. May be set.
  • the system control unit 14 can change the advertisement according to the change in the size of the common area.
  • the size of the advertisement display area may be changed from the display area ad-ar14 to the advertisement display area ad-ar24, and from the advertisement display area ad-ar17 to the advertisement display area ad-ar27.
  • the system control unit 14 changes the size of the advertisement “AD-f1” in accordance with the size of the advertisement display area.
  • the system control unit 14 displays an advertisement “AD-c1” that is displayed in the advertisement display area ad-ar3 according to the advertisement display condition.
  • the control information may be generated so that the advertisement “AD-c2” is changed.
  • the system control unit 14 changes the size and shape of the advertisement from the advertisement display area ad-ar5 to the advertisement display area ad-ar6 according to the advertisement display conditions. As such, control information may be generated.
  • control information may include coordinate information of the outer edge of the common area or one point inside the common area and information on the size of the common area, instead of coordinate information such as the outline of the common display area.
  • system control unit 14 may generate the control information so that the advertisement is deformed according to the size of the common area and the advertisement is displayed at a position including one point of the common area.
  • the advertisement data of the advertisement that meets the advertisement display condition may or may not be included in these control information.
  • advertisement data is included in the control information
  • the advertisement set in the control information can be flexibly displayed at the position of the selected common area at a timing according to the situation.
  • this control information does not include advertisement data
  • various advertisements corresponding to the situation of user information such as operation information of the viewing user and purchase history when the moving image is played on the viewing user terminal device 40 are displayed on the selected object. The position can be displayed flexibly.
  • the moving image distribution server device 10 functions as an example of display information generation means for generating display information for displaying the additional content in the selected additional content display area.
  • the moving image distribution server device 10 stores the generated control information in association with the moving image ID (step S23). Specifically, the system control unit 14 displays the advertisement ID to be displayed, each frame number of the image frame for displaying the advertisement, and the coordinate information of the advertisement display area or common area for displaying the advertisement corresponding to the frame number. Is registered in the control information DB 12e in association with the video ID.
  • the system control unit 14 masks a moving image composed of an image frame 53 in which all or part of the selected common area (mask areas ms1, ms2) is painted in a single color. Display information may be generated.
  • the system control unit 14 sets the mask area at a position where the advertisement is displayed so as to correspond to the selected common area.
  • the system control unit 14 generates display information composed of image frames in which the mask area is filled with the same color.
  • the system control unit 14 registers the masked display information in the moving image DB 12a or the like in association with the moving image ID.
  • system control unit 14 may change the size and shape of the mask area in accordance with the change in size and shape of the common area.
  • the masked display information is reduced in the amount of moving image data by the amount masked.
  • the compression rate when a moving image is compressed by a moving image encoding method during encoding is increased.
  • the masked display information is transmitted to the viewing user terminal device 40 together with the control information generated in step S22.
  • the viewing user terminal device 40 reproduces the masked display information, the viewing user terminal device 40 superimposes and displays an advertisement on the mask area based on the control information.
  • the advertisement set in the control information can be flexibly displayed in the mask area at a timing according to the situation.
  • this control information does not include advertisement data
  • various advertisements according to the situation of user information such as operation information of the viewing user and purchase history can be flexibly applied to the mask area when the moving image is played on the viewing user terminal device 40. Can be displayed.
  • the system control unit 14 determines the color to be set in the mask area according to the color of the common area, the background color around the common area, and the color of the advertisement to be added.
  • the system control unit 14 includes at least one of pixel color information in the common area, pixel color information in a predetermined range outside the boundary of the common area, and advertisement color information to be added.
  • pixel color information in the common area for example, the system control unit 14 is a color similar to the color of the pixel in the common area (for example, a difference between RGB values is within a predetermined range), a predetermined range outside the boundary of the common area
  • a color similar to the color of the pixel or a color similar to the color of the advertisement to be added is set.
  • the system control unit 14 may select an intermediate color between the color of the pixel in the common area and the color of the pixel in a predetermined range outside the boundary of the common area (for example, the common area RGB value between the RGB value and the RGB value of the background color), an intermediate color between the color of the pixel in the common area and the color of the advertising pixel, and a predetermined range of pixels outside the boundary of the common area An intermediate color between the color and the color of the advertisement pixel is set.
  • the colors set in the mask area are similar or intermediate colors
  • the color change between the image frames is reduced, and the moving image compression rate is increased.
  • the system control unit 14 may generate moving image data in which advertisements are embedded in advance as display information.
  • the system control unit 14 may delete an area in which an advertisement is embedded (for example, a common area) and insert advertisement data for each image frame instead. In this case, control information is unnecessary, and moving picture information is transmitted to the viewing user terminal device 40.
  • an advertisement for example, a common area
  • the system control unit 14 reads out the masked display information from the moving image DB 12a and the like, selects an advertisement according to the information such as the user information, and the mask.
  • An advertisement may be embedded in the mask area of the displayed display information to generate display information that is new moving image information. In this case, control information is unnecessary, and moving picture information is transmitted to the viewing user terminal device 40.
  • the system control unit 14 may select a common area when the difference data amount of the common area between image frames is larger than a predetermined threshold in step S21.
  • the system control unit 14 sets a predetermined threshold according to the difference data amount in the common area. For example, when each common area is replaced with a masked image frame, the system control unit 14 compares the compression ratios of moving pictures according to the moving picture encoding method, and determines the predetermined order from the common area that is compressed with the highest compression ratio. Up to the common area is selected as a common area to be masked.
  • FIG. 26 is a flowchart illustrating an example of a moving image distribution process of the system control unit of the moving image distribution server device according to the embodiment.
  • the moving image distribution server device 10 acquires the content condition of the moving image desired to be viewed from the viewing user terminal device 40 desired to view the moving image (step S30). Specifically, the system control unit 14 acquires information on moving image content conditions such as a search keyword (movie title, actor name, director name, etc.) and a moving image category from the viewing user terminal device 40.
  • a search keyword moving title, actor name, director name, etc.
  • the moving image distribution server device 10 extracts a moving image that satisfies the acquired content condition from the moving image DB 12a (step S31).
  • the system control unit 14 refers to the moving image DB 12a, performs a search based on the content condition, extracts moving images satisfying the content condition, and generates display information of the search results listed.
  • the moving image distribution server device 10 presents the extracted moving image to the viewing user terminal device 40 (step S32). Specifically, the system control unit 14 transmits display information of the generated search result to the viewing user terminal device 40.
  • the moving image distribution server device 10 acquires the selection of the moving image from the viewing user terminal device 40 (step S33).
  • the viewing user terminal device 40 transmits the moving image ID of the moving image selected by the viewing user from the search result list to the moving image distribution server device 10 together with the user ID and the moving image display request.
  • the system control unit 14 receives the moving image ID of the selected moving image from the viewing user terminal device 40.
  • the moving image distribution server device 10 provides the viewing user terminal device 40 with the moving image and the control information corresponding to the moving image (step S34). Specifically, the system control unit 14 searches the moving image DB 12a based on the received moving image ID, and acquires moving image data corresponding to the received moving image ID. Further, the system control unit 14 searches the control information DB 12e based on the received moving image ID, and acquires control information corresponding to the received moving image ID.
  • the system control unit 14 transmits the moving image information and control information of the moving image ID to the viewing user terminal device 40.
  • the moving image distribution server device 10 may transmit the entire data of the moving image with the moving image ID and control information corresponding to the moving image data to the viewing user terminal device 40 or for each chapter of the moving image. Alternatively, part of the moving image data of the moving image ID and control information corresponding to the moving image data may be transmitted to the viewing user terminal device 40 in a streaming manner.
  • FIG. 27 is a flowchart illustrating an example of the control information change process of the system control unit of the moving image distribution server device according to the embodiment.
  • FIG. 28 is a schematic diagram illustrating an example of skip or rewind in moving image data.
  • the moving image distribution server device 10 acquires operation information from the viewing user terminal device 40 (step S40). Specifically, the operation information for the moving image being reproduced on the display unit 43 of the viewing user terminal device 40 (for example, the frame ID of the image frame that has started skipping and the frame ID of the image frame that has been skipped, or rewinding)
  • the system control unit 14 acquires information on the frame ID of the image frame that has started and the frame ID of the image frame that has been rewound from the viewing user terminal device 40.
  • the viewing user terminal device 40 determines the skip start frame number “000,015” and the skip end.
  • Information of the frame number “000,135” is transmitted to the moving image distribution server device 10 as operation information together with the user ID.
  • the moving image distribution server device 10 calculates display candidate area information based on the operation information, the display candidate area information in the image frame corresponding to the operation information, and the display candidate area ID (step S41).
  • the system control unit 14 in the image frame excluding the image frame of the skipped frame number as in step S20, based on each frame / display candidate area information and the object ID, The information of the display candidate area for each display candidate area is re-aggregated.
  • the system control unit 14 uses each frame / display candidate area information, display candidate area ID, Based on the above, the information of the display candidate areas for each display candidate area is recalculated. That is, the system control unit 14 adds up the frame / display candidate area information of the display candidate area existing in the image frame of the frame number of the rewinded part.
  • the newly aggregated display candidate area information may be recorded in the aggregate display candidate area information DB 12d.
  • the video distribution server device 10 selects a display candidate area for displaying an advertisement based on the newly aggregated display candidate area information and the advertisement display condition set by the advertiser of the advertisement to be displayed (step S42). ).
  • the system control unit 14 refers to the aggregate display candidate area information DB 12d, searches for accumulated display candidate area information that meets the advertisement display conditions, and sets a common area for displaying an advertisement. Select as advertisement display area.
  • the moving image distribution server device 10 generates control information for displaying an advertisement so as to correspond to the selected display candidate area (step S43).
  • the system control unit 14 refers to the total display candidate area information DB 12d as in step S22 and displays an advertisement that meets the advertisement display condition based on the common area ID of the selected common area.
  • Each frame ID and coordinate information of a common area in these image frames are acquired, and control information including each frame ID and coordinate information corresponding to these frame IDs is generated.
  • this control information may be modified examples of various control information including display information described above.
  • the moving image distribution server device 10 provides control information to the viewing user terminal device 40 (step S44). Specifically, the system control unit 14 transmits the newly generated control information to the viewing user terminal device 40 as in step S34. In addition, in the case of newly generated control information compared to the previous control information, when the number of appearances of advertisements decreases and the advertisement display conditions are not satisfied, the system control unit 14 newly The generated control information may not be transmitted to the viewing user terminal device 40.
  • the viewing user terminal device 40 uses the advertisement ID of the advertisement “AD-a1” and the delete request as operation information. You may transmit to the moving image delivery server apparatus 10 with user ID. When an advertisement such as an advertisement “AD-a1” is clicked, the viewing user terminal device 40 uses the advertisement ID of the advertisement “AD-a1” and information indicating that the advertisement has been selected as operation information together with the user ID. Alternatively, it may be transmitted to the moving image distribution server device 10. Then, as in step S ⁇ b> 40, the system control unit 14 acquires operation information from the viewing user terminal device 40.
  • the system control unit 14 When the system control unit 14 receives the operation information for deleting the advertisement, the system control unit 14 generates display information including the control information in which the advertisement corresponding to the advertisement ID is deleted, or displays the display frequency and the display area of the advertisement corresponding to the advertisement ID. Display information including the reduced control information is generated, and the display information is updated.
  • the system control unit 14 When the system control unit 14 receives operation information indicating that an advertisement has been selected, it generates control information for opening a linked web page corresponding to the advertisement ID in another window, or deletes the advertisement corresponding to the advertisement ID.
  • the display information including the control information generated is generated, or the display information including the control information with the display count and display area of the advertisement corresponding to the advertisement ID reduced is generated to update the display information.
  • the operation information from the viewing user terminal device 40 may be information on an operation for changing the display size of a moving image reproduced on the display unit 43 of the viewing user terminal device 40.
  • the moving image delivery server apparatus 10 may update an advertisement according to the change operation of the display size of this moving image.
  • the display area of each display candidate area becomes smaller as the display size of the moving image is reduced. If the display area of each display candidate area becomes small, the advertisement display condition may not be satisfied, so the moving image distribution server device 10 performs a process of replacing with a new advertisement or a process of deleting the advertisement.
  • the display area of each display candidate area increases as the display size of the moving image increases. If the display area of each display candidate area becomes large, there is a possibility that there is an advertisement that satisfies the advertisement display condition higher than the currently displayed advertisement. Therefore, the video distribution server device 10 displays an advertisement rather than the current advertisement. If there is an advertisement with a high degree of satisfaction of the conditions, processing is performed to replace it with that advertisement.
  • step S40 the moving image distribution server device 10 acquires operation information for reducing or expanding the display size of the moving image and the frame ID of the operated image frame from the viewing user terminal device 40.
  • step S41 the moving image distribution server device 10 calculates information on display candidate areas after the operated image frame.
  • the information on the display candidate area includes information on the area of the display candidate area as the display size is reduced or enlarged.
  • step S42 the video distribution server device 10 selects a display candidate area for displaying an advertisement based on the newly calculated information on the display candidate area and the advertisement display condition set by the advertiser of the advertisement to be displayed. If there is no advertisement that satisfies the advertisement display condition, the advertisement may be deleted from the display candidate area. Further, with the change of the display size of the moving image, the currently displayed advertisement may be changed so as to be displayed in another display candidate area that satisfies the advertisement display condition.
  • the moving image distribution server device 10 If there is another advertisement satisfying the advertisement display condition in step S43, the moving image distribution server device 10 generates control information for displaying this advertisement.
  • the moving image distribution server apparatus 10 When there is another advertisement satisfying the advertisement display condition in step S44, the moving image distribution server apparatus 10 provides the viewing user terminal apparatus 40 with control information for displaying this other advertisement.
  • the display candidate area cnd-ar that is a candidate for the advertisement display area (ad-ar1, ad-ar2,%) That is an example of the additional content display area for displaying the additional content.
  • the advertisement selected from the display candidate area cnd-ar based on the information related to the specified display candidate area and the advertisement display condition Since display information for displaying content in the display area is generated, other images such as advertisement content do not overlap the content object (ob1, ob2,...), And the advertisement display area can be viewed. It can be generated as an area that does not hinder viewing by the user. Further, according to the position, shape, size, etc. of the advertisement display area, the advertisement can be displayed flexibly so as to meet the advertisement display conditions.
  • the information regarding the display candidate area includes information on the size of the common area (co-ar1, co-ar2, co-ar3) of the display candidate area cnd-ar that is common in the plurality of image frames 50, and the common area
  • the advertisement display area (ad-ar1, ad-ar2,...) Is selected from the common area (co-ar1, co-ar2, co-ar3) according to the size of the object, the object in each image frame In a region that does not overlap (ob1, ob2,...), An advertisement that matches the size of the common region (co-ar1, co-ar2, co-ar3) is stably placed at a fixed position in each image frame. Can be displayed.
  • Information related to the display candidate area is displayed as a common area (co-ar1, co-ar2, co-ar3) of the display candidate area cnd-ar that is common in the plurality of image frames 50 as an accumulation of at least one of space and time in the moving image.
  • the advertisement display area (ad-ar1, ad-ar2,...) Is selected from the common area (co-ar1, co-ar2, co-ar3) according to the accumulated display quantity.
  • an advertisement suitable for the integrated display amount of the common area can be stably displayed at a fixed position in each image frame in an area that does not overlap the object (ob1, ob2,...) In each image frame.
  • the information related to the display candidate area is a common area (co-ar1, co-ar2, co-ar3) of the display candidate area cnd-ar that is common in the plurality of image frames 50, and between the adjacent frames of the image frame 50. Threshold including the difference data amount of the image in the common area (co-ar1, co-ar2, co-ar3) and set by the difference data amount of the image in the common area (co-ar1, co-ar2, co-ar3) Accordingly, when a common area (co-ar1, co-ar2, co-ar3) having a large difference data amount is selected as the advertisement display area, the common areas (co-ar1, co-ar2, co-ar) having a large difference data amount are selected. ar3) is replaced with an advertisement that has little change in color or the like for each image frame, so that the video when the video is compressed by the video encoding method is compressed. It is possible to reduce the data amount.
  • the information regarding the display candidate area includes information on the shape of the common area (co-ar1, co-ar2, co-ar3) of the display candidate area cnd-ar that is common in the plurality of image frames 50, and the advertisement display condition is advertisement Common area (co-ar1, co-ar1, co-ar3) selected according to the shape information of the common area (co-ar1, co-ar2, co-ar3) so as to match the shape of the advertisement.
  • advertisement display area When ar2, co-ar3) is selected as the advertisement display area, the advertisement is displayed so as to match the shape of the common area (co-ar1, co-ar2, co-ar3) without changing the shape of the advertisement. Since this is possible, it is possible to omit the process of changing the shape of the advertisement.
  • the display information includes a moving image in which at least a part of the selected advertisement display area is masked with a single color
  • the data amount when the moving image is compressed can be reduced because it is masked with a single color.
  • the display candidate area cnd-ar that matches the shape based on the advertisement display condition is specified from the areas not included in the object display areas ar1, ar2,...,
  • the advertisement display area (ad-ar1, ad Before selecting -ar2,...)
  • the display candidate area cnd-ar is limited to conform to a shape (for example, a rectangle) based on the advertisement display condition.
  • the number of display candidate areas cnd-ar when the display candidate areas are combined does not increase, and the processing can be reduced.
  • FIG. 29 Next, a modification of the image frame partially masked will be described with reference to FIGS. 29 and 30.
  • FIG. 29 is a modification of the image frame partially masked.
  • FIG. 29 and FIG. 30 are schematic diagrams showing a modification of the mask for masking a part of the image frame.
  • the system control unit 14 may generate a mask image ms composed of intermediate colors for each pixel in the area from the advertisement display area ad-ar and the advertisement ad as shown in FIG. As shown in FIG. 30, for example, the system control unit 14 masks the advertisement display area ad-ar in the common area co-ar with a predetermined frame number and a partial area of the common area co-ar. Create an image frame in which the image ms is embedded. By displaying the image frame in which the mask image ms is embedded before the image frame in which the advertisement ad is embedded in a partial area of the common area co-ar, the partial area of the common area co-ar is displayed. , Change in image information is reduced.
  • the color for masking the area is determined for each pixel and displayed.
  • the information includes a moving image in which the area is masked with the color determined for each pixel, for example, the area can be masked with an intermediate color for each corresponding pixel, so that the advertisement is displayed before the image frame where the advertisement is displayed. Since a part of the image frame between the subsequent image frames is masked with an intermediate color for each pixel, the data amount when the moving image is compressed can be reduced.
  • the system control unit 14 may select the common area in step S21 based on information indicating permission or prohibition of display of the additional content on the object.
  • display information can be generated so as to satisfy the display conditions of the content provider.
  • the present invention is not limited to the above embodiments.
  • Each of the embodiments described above is an exemplification, and any configuration that has substantially the same configuration as the technical idea described in the claims of the present invention and has the same operational effects can be used. It is included in the technical scope of the present invention.
  • Information processing system 10 Moving image distribution server device 12: Storage unit 12a: Moving image DB (moving image storage means) 12b: Advertising DB 12c: Frame / display candidate area information DB 12d: Total display candidate area information DB 12e: Control information DB 14: System control unit 20: Content providing device 30: Advertisement providing device 40: Viewing user terminal device 50: Image frame

Abstract

動画を記憶する動画記憶手段(12a)から取得した動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレーム50を取得し(S11)、取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定し(S12)、特定された表示候補領域に関する情報と付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、特定された表示候補領域から付加コンテンツ表示領域を選択し(S21)、選択された付加コンテンツ表示領域に付加コンテンツを表示するための表示情報を生成する(S22)。

Description

情報処理装置、情報処理方法および情報処理装置用プログラム
 本発明は、動画内に他の画像を表示する情報処理装置、情報処理方法および情報処理装置用プログラムの技術分野に関する。
 動画等のコンテンツの提供者が提供したコンテンツをコンテンツ配信サイトに登録し、当該コンテンツ配信サイトにおいて視聴ユーザからの要求に応じてコンテンツを配信するサービスが知られている。上記サービスにおいては配信されたコンテンツに関連する広告をコンテンツ表示領域の一部に重ねて表示し、視聴ユーザによる当該広告へのクリックなどに応じて報酬を得ている。コンテンツ表示領域の一部に画像を重ねて表示する技術として、例えば、特許文献1には、画像の動き量が少ない領域に動画及び静止画の何れか一方を表示し、それ以外の領域に他方を表示する技術が開示されている。
特開2008-042326号公報
 しかしながら、特許文献1の技術を、コンテンツを配信するサービスに適用すると、動画の画像におけるオブジェクトの動き量と比べて背景などの動き量のほうが多い動画の画像などの場合に、動き量の少ないオブジェクトが表示されている場所に重なるように広告が表示されてしまい、視聴ユーザによる視聴の妨げとなってしまうという問題があった。
 本発明は、このような問題に鑑みてなされたものであり、その課題の一例は、動画等のコンテンツのオブジェクトに、広告等の他の画像が重ならず、視聴ユーザによる視聴を妨げとならない領域を新たな表示領域として生成するサービスを提供することを目的とする。
 上記課題を解決するために、請求項1に記載の発明は、動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得手段と、前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定手段と、前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段と、前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成手段と、を備えたことを特徴とする。
 この発明によれば、付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域が、オブジェクト表示領域に含まれない領域から特定され、特定された表示候補領域に関する情報と付加コンテンツ表示条件とに基づき、表示候補領域から選択された付加コンテンツ表示領域にコンテンツを表示するための表示情報が生成されるので、コンテンツのオブジェクトに、広告のコンテンツ等の他の画像が重ならず、付加コンテンツ表示領域を、視聴ユーザによる視聴を妨げとならない領域として生成できる。
 請求項2に記載の発明は、請求項1に記載の情報処理装置おいて、前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域の大きさの情報を含み、前記付加コンテンツ表示領域選択手段が、前記共通領域の大きさに応じて、前記共通領域から、前記付加コンテンツ表示領域を選択することを特徴とする。
 この場合、各画像フレームにおいてオブジェクトに重ならない領域で、各画像フレームにおける固定した位置に、共通領域の大きさに合った付加コンテンツを安定して表示できる。
 請求項3に記載の発明は、請求項1または請求項2に記載の情報処理装置おいて、前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域が前記動画において空間および時間の少なくとも一方の積算で表示される積算表示量を含み、前記付加コンテンツ表示領域選択手段が、前記積算表示量に応じて、前記共通領域から、前記付加コンテンツ表示領域を選択することを特徴とする。
 この場合、この場合、各画像フレームにおいてオブジェクトに重ならない領域で、各画像フレームにおける固定した位置に、共通領域の積算表示量に合った付加コンテンツを安定して表示できる。
 請求項4に記載の発明は、請求項1から請求項3のいずれか1項に記載の情報処理装置おいて、前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域であって、前記画像フレームの隣接するフレーム間における前記共通領域の画像の差分データ量を含み、前記付加コンテンツ表示領域選択手段が、前記共通領域の画像の差分データ量により設定される閾値より、前記差分データ量が大きい共通領域を、前記付加コンテンツ表示領域として選択することを特徴とする。
 この場合、差分データ量が大きい共通領域が、画像フレーム毎の色等の変化が少ない付加コンテンツと入れ替わることにより、動画を圧縮した際のデータ量を削減することができる。
 請求項5に記載の発明は、請求項1から請求項4のいずれか1項に記載の情報処理装置おいて、前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域の形状の情報を含み、前記付加コンテンツ表示条件が、前記付加コンテンツの形状の情報を含み、前記付加コンテンツ表示領域選択手段が、前記付加コンテンツの形状に適合するように、前記共通領域の形状の情報に応じて選択される前記共通領域を、前記付加コンテンツ表示領域として選択することを特徴とする。
 この場合、付加コンテンツの形状を変形することなく、共通領域の形状に合うように、付加コンテンツを表示できるので、付加コンテンツの形状を変形する処理を省くことができる。
 請求項6に記載の発明は、請求項1から請求項5のいずれか1項に記載の情報処理装置おいて、前記表示情報が、前記選択された前記付加コンテンツ表示領域の少なくとも一部を単一の色でマスクした動画を含むことを特徴とする。
 この場合、単一の色でマスクされるため、動画を圧縮した際のデータ量を削減できる。
 請求項7に記載の発明は、請求項1から請求項6のいずれか1項に記載の情報処理装置おいて、前記付加コンテンツ表示領域の前記付加コンテンツを表示する領域の画素の色と、当該領域に付加する付加コンテンツの画素の色に基づき、当該領域をマスクする色が画素毎に決定され、前記表示情報が、前記領域を当該画素毎に決定された色でマスクした動画を含むことを特徴とする。
 この場合、例えば、対応する画素毎の中間色で領域をマスクできるので、付加コンテンツを表示させる画像フレーム前と、付加コンテンツを表示させた後の画像フレームと、の間の画像フレームの一部を画素毎の中間色でマスクするので、動画を圧縮した際のデータ量を削減できる。
 請求項8に記載の発明は、請求項1から請求項7のいずれか1項に記載の情報処理装置おいて、前記表示候補領域特定手段が、前記オブジェクト表示領域に含まれない領域の中から、前記付加コンテンツ表示条件に基づいた形状に適合する前記表示候補領域を特定することを特徴とする。
 この場合、付加コンテンツ表示領域を選択する前に、表示候補領域が付加コンテンツ表示条件に基づいた形状に適合するように限定されているので、表示候補領域の数が増加しなく、処理を軽減できる。
 請求項9に記載の発明は、画像フレーム取得手段が、動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得ステップと、表示候補領域特定手段が、前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定ステップと、付加コンテンツ表示領域選択手段が、前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択ステップと、表示情報生成手段が、前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成ステップと、を含むことを特徴とする。
 請求項10に記載の発明は、コンピュータを、動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得手段、前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定手段、前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段、および、前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成手段として機能させることを特徴とする。
 本発明によれば、動画の画像内で視聴ユーザに違和感を与えない領域に広告等の他の画像を表示するサービスを提供できる。
一実施形態に係る情報処理システムの概要構成の一例を示す模式図である。 一実施形態に係る動画配信サーバ装置の概要構成の一例を示すブロック図である。 動画配信サーバ装置の記憶部に構築されたデータベースに登録される内容の一例を示す図である。 動画配信サーバ装置の記憶部に構築されたデータベースに登録される内容の一例を示す図である。 動画配信サーバ装置の記憶部に構築されたデータベースに登録される内容の一例を示す図である。 動画配信サーバ装置の記憶部に構築されたデータベースに登録される内容の一例を示す図である。 動画配信サーバ装置の記憶部に構築されたデータベースに登録される内容の一例を示す図である。 動画配信サーバ装置の記憶部に構築されたデータベースに登録される内容の一例を示す図である。 一実施形態に係る動画配信サーバ装置の機能ブロックの一例を示す図である。 図1のコンテンツ提供装置の概要構成の一例を示すブロック図である。 図1の広告提供装置の概要構成の一例を示すブロック図である。 図1の視聴ユーザ端末装置の概要構成の一例を示すブロック図である。 動画データにおける画像フレームのフレーム番号の一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 画像フレームの一例を示す模式図である。 一実施形態に係る動画配信サーバ装置のシステム制御部の動画登録処理の一例を示すフローチャートである。 一実施形態に係る動画配信サーバ装置のシステム制御部の広告登録処理の一例を示すフローチャートである。 一実施形態に係る動画配信サーバ装置のシステム制御部の表示候補領域特定処理の一例を示すフローチャートである。 画像フレームの特徴点画像の一例を示す模式図である。 画像フレームの特徴点画像の一例を示す模式図である。 画像フレームの特徴点画像の一例を示す模式図である。 画像フレームの特徴点画像の一例を示す模式図である。 画像フレームにおけるオブジェクト表示領域に含まれない領域の一例を示す模式図である。 画像フレームにおけるオブジェクト表示領域に含まれない領域の一例を示す模式図である。 画像フレームにおけるオブジェクト表示領域に含まれない領域の一例を示す模式図である。 画像フレームにおけるオブジェクト表示領域に含まれない領域の一例を示す模式図である。 画像フレームにおける表示候補領域の一例を示す模式図である。 画像フレームにおける表示候補領域の一例を示す模式図である。 画像フレームにおける表示候補領域の一例を示す模式図である。 画像フレームにおける表示候補領域の一例を示す模式図である。 画像フレームにおける表示候補領域の一例を示す模式図である。 一実施形態に係る動画配信サーバ装置のシステム制御部の制御情報生成処理の一例を示すフローチャートである。 集計された表示候補領域の一例を示す模式図である。 集計された表示候補領域の一例を示す模式図である。 集計された表示候補領域の一例を示す模式図である。 広告が付加された画像フレームの一例を示す模式図である。 広告が付加された画像フレームの一例を示す模式図である。 広告が付加された画像フレームの一例を示す模式図である。 広告が付加された画像フレームの一例を示す模式図である。 広告が付加された画像フレームの一例を示す模式図である。 広告が付加された画像フレームの一例を示す模式図である。 一部がマスクされた画像フレームの一例を示す模式図である。 一実施形態に係る動画配信サーバ装置のシステム制御部の動画配信処理の一例を示すフローチャートである。 一実施形態に係る動画配信サーバ装置のシステム制御部の制御情報変更処理の一例を示すフローチャートである。 動画データにおけるスキップまたは巻き戻しの一例を示す模式図である。 画像フレームの一部をマスクするマスクの変形例を示す模式図である。 画像フレームの一部をマスクするマスクの変形例を示す模式図である。
 以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下に説明する実施の形態は、情報処理システムに対して本発明を適用した場合の実施形態である。
[1.情報処理システムの構成および機能概要]
 まず、本実施形態に係る情報処理システム1の構成および機能概要について、図1を用いて説明する。図1は、一実施形態に係る情報処理システム1の概要構成の一例を示す模式図である。
 図1に示すように、情報処理システム1は、視聴ユーザに動画のコンテンツを配信する動画配信サーバ装置10と、動画配信サーバ装置10に動画をコンテンツとして提供するコンテンツ提供者のコンテンツ提供装置20と、動画に登録を希望する広告等の付加コンテンツを提供する広告提供者の広告提供装置30と、動画を視聴する視聴ユーザの視聴ユーザ端末装置40と、を備えている。なお、動画は、複数の画像フレームから構成される。
 動画配信サーバ装置10と、コンテンツ提供装置20と、広告提供装置30と、視聴ユーザ端末装置40とは、ネットワーク3により接続され、通信プロトコル(例えば、TCP/IP)により、データの送受信が可能になっている。なお、ネットワーク3は、例えば、インターネット、専用通信回線(例えば、CATV(Community Antenna Television)回線)、移動体通信網(基地局5等を含む)、および、ゲートウェイ等により構築されている。なお、動画配信サーバ装置10と、コンテンツ提供装置20とは、セキュリティ向上のため専用回線で接続されていてもよい。
 動画配信サーバ装置10(情報処理装置の一例)は、コンテンツ提供装置20から提供された動画を登録し、視聴ユーザ端末装置40から要求に応じて動画のコンテンツを視聴ユーザ端末装置40へ配信する。また、動画配信サーバ装置10は、視聴ユーザ端末装置40から要求に応じて動画のコンテンツを視聴ユーザ端末装置40へ配信する際に、商品またはサービスに関する広告等の付加コンテンツを視聴ユーザ端末装置40へ配信する。
 コンテンツ提供者はそれぞれのコンテンツ提供装置20を用いて、コンテンツ提供者が提供する動画を登録するために当該動画を動画配信サーバ装置10に送信する。
 広告提供者はそれぞれの広告提供装置30を用いて、広告提供者が提供する広告等の付加コンテンツを登録するために当該広告等の付加コンテンツを、動画配信サーバ装置10に送信する。
 なお、付加コンテンツの種別として、広告と非広告とはある。例えば、非広告として、商品またはサービスの広告以外に、広告提供者等が動画で視聴ユーザ毎に示したいメッセージや映像等が挙げられる。また、付加コンテンツのデータ形式として、テキスト、デザイン文字等の文字や画像、および、これらの組み合わせが挙げられる。また、映像として、静止画像と、動画像と、これらの組合せが挙げられる
 また、広告提供者はそれぞれの広告提供装置30を用いて、動画に付加コンテンツを表示するための付加コンテンツ表示条件を示す情報を動画配信サーバ装置10に送信する。
 ここで、付加コンテンツ表示条件の一例として、付加コンテンツの形状(例えば、矩形、円形、楕円形、星形等)が挙げられる。また、矩形であれば、アスペクト比(広告の横の長さに対する縦の長さの比率)、楕円であれば、長軸および短軸の比等も挙げられる。また、付加コンテンツ表示条件は、付加コンテンツの基準表示サイズ(例えば横または縦の長さを示すピクセル数)でもよいし、付加コンテンツの最小表示サイズでもよい。
 さらに、付加コンテンツ表示条件の一例として、付加コンテンツの表示時間が挙げられ、時間的に表示が連続する複数のフレームを1つのグループ単位とする場合の表示時間と、当該グループ単位が複数あって、これらのグループ単位を合算した場合のグループ合算表示時間と、がある。これら2つの場合の付加コンテンツの表示時間に関して、各々、合計表示時間、最小の合計表示時間、最大の合計表示時間、最小の連続表示時間、最大の連続表示時間、平均の連続表示時間等がある。
 また、付加コンテンツ表示条件の一例として、付加コンテンツの表示回数が挙げられ、時間的に表示が連続する複数のフレームを1つのグループ単位とする場合の表示回数と、当該グループ単位が複数あって、これらのグループ単位を合算した場合のグループ合算表示回数と、がある。これら2つの場合の付加コンテンツの表示回数に関して、各々、合計表示回数、最小の合計表示回数、最大の合計表示回数、最小の連続表示回数、最大の連続表示回数、平均の表示回数等がある。
 また、付加コンテンツ表示条件の一例として、付加コンテンツの表示面積が挙げられ、時間的に表示が連続する複数のフレームを1つのグループ単位の場合とする表示面積と、当該グループ単位が複数あって、これらのグループ単位を合算した場合のグループ合算表示面積と、がある。これら2つの場合の付加コンテンツの表示面積に関して、各々、最小の表示面積、最大の表示面積、平均の表示面積、画像フレームの1/10等の所定の表示面積等がある。
 また、付加コンテンツ表示条件の一例として、動画において空間および時間の少なくとも一方の積算で表示される積算表示量が挙げられ、時間的に表示が連続する1つのグループ単位の場合の積算表示量と、当該グループ単位が複数あって、これらのグループ単位を合算した場合のグループ合算積算表示量と、がある。これら2つの場合の積算表示量に関して、各々、最低積算表示量、画像フレームの1/10の面積で5秒間等の所定積算表示量等)等がある。
 また、付加コンテンツ表示条件の一例として、動画を構成する画像フレームにおける付加コンテンツの表示許可位置(上部、下部、右側、左側、右下、左下、中央部等)、または、表示禁止位置(例えば、広告提供者が画像フレームにおいて付加コンテンツを表示させたくない位置)等が挙げられる。
 また、付加コンテンツ表示条件の一例として、付加コンテンツの表示が許可または禁止される動画における時間的な表示位置等の条件(例えば、動画の前半/後半への表示許可または禁止、所定のチャプターのみ許可または禁止、最初/最後の5分のみ許可または禁止など)が挙げられる。
 また、付加コンテンツ表示条件の一例として、付加コンテンツの表示が許可または禁止される動画(ホワイトリストやブラックリストまたは特定キーワードを含む動画など)、または付加コンテンツの表示が許可または禁止される動画のカテゴリ等が挙げられる。
 視聴ユーザは視聴ユーザ端末装置40を用いて、動画配信サーバ装置サービスにおいて提供されている動画を、検索キーワードやカテゴリの選択などを用いて検索して、視聴したい動画を選択する。視聴ユーザ端末装置40は、ユーザの入力や選択に応じた動画の配信要求を動画配信サーバ装置10に送信し、当該配信要求に対応する動画を、動画配信サーバ装置10から受信し、当該受信した動画を再生する。
[2.各装置の構成および機能]
(2.1 動画配信サーバ装置10の構成および機能)
 次に、動画配信サーバ装置10の構成および機能について、図2から図9を用いて説明する。
 図2は、一実施形態に係る動画配信サーバ装置10の概要構成の一例を示すブロック図である。図3から図8は、動画配信サーバ装置10の記憶部に構築されたデータベースに登録される内容の一例を示す図である。
 図2に示すように、コンピュータとして機能する動画配信サーバ装置10は、通信部11と、記憶部12と、入出力インターフェース部13と、システム制御部14と、を備えている。そして、システム制御部14と入出力インターフェース部13とは、システムバス15を介して接続されている。
 通信部11は、ネットワーク3に接続して、動画提供者のコンテンツ提供装置20と、広告提供者の広告提供装置30と、視聴ユーザ端末装置40等との通信を制御するようになっている。
 記憶部12は、例えば、ハードディスクドライブやシリコンディスクドライブ等により構成されており、オペレーティングシステムおよびサーバプログラム等の各種プログラムや、視聴ユーザに提供する動画等を記憶する。
 なお、各種プログラムは、例えば、他のサーバ装置等からネットワーク3を介して取得されるようにしてもよいし、記録媒体に記録されてドライブ装置(図示せず)を介して読み込まれるようにしてもよい。また、配信プログラム等は、プログラム製品であってもよい。
 また、記憶部12には、コンテンツ提供装置20から取得した動画を記憶する動画データベース12a(以下「動画DB12a」とする。)と、コンテンツ提供装置20から取得した広告等を記憶する広告データベース12b(以下「広告DB12b」とする。)と、動画を構成する各画像フレームの中に表示されているオブジェクトのオブジェクト表示領域に含まれない領域(例えば、オブジェクトが含まれていない領域)の中から特定された、付加コンテンツ表示領域の候補となる表示候補領域に関する情報(以下「フレーム・表示候補領域情報」と称する)(表示候補領域に関する情報の一例)を記憶するフレーム・表示候補領域情報データベース12c(以下「フレーム・表示候補領域情報DB12c」とする。)と、動画毎に集計した表示候補領域の情報(表示候補領域に関する情報の一例)を記憶する集計表示候補領域情報データベース12d(以下「集計表示候補領域情報DB12d」とする。)と、動画に対して、広告等の付加コンテンツを表示させるための制御情報(表示情報の一例)を記憶する制御情報データベース12e(以下「制御情報DB12e」とする。)と、視聴ユーザに関する情報を記憶するユーザ情報データベース12f(以下「ユーザ情報DB12f」とする。)等が構築されている。
 なお、これらのデータベースは、同一のデバイスで構成されてもよいし、互いに異なるデバイスで構成されてもよい。
 動画DB12a(動画記憶手段の一例)には、配信可能な動画に関する情報が登録される。具体的に、動画DB12aには、図3に示すように、動画IDに対応付けて、カテゴリID、動画のタイトル、動画の収録時間、動画データ等が動画毎に登録される。なお、動画DB12aには、動画を構成する画像フレームのフレーム数、付加コンテンツ表示可否フラグ、付加コンテンツの表示上限数、付加コンテンツの表示上限時間などが記憶されていてもよい。
 動画IDは、動画を識別するための識別情報である。なお、動画IDは、コンテンツ提供者を識別するためのコンテンツ提供者IDと対応付けて管理されていてもよい。
 カテゴリIDは、動画IDに対応する動画が属するカテゴリを識別するための情報である。情報処理システム1においては、複数のカテゴリが定義されており、各動画は少なくともひとつのカテゴリに属している。
 動画データは、動画を表示するためのデータである。動画データの形式は、例えばMPEG-1、MPEG-2、MPEG-4,MPEG-7,MPEG-21などのMPEG形式、DivX形式、Xvid形式、Huffyuv形式等のコーデックや、AVI形式、MOV形式、ASF形式、Ogg形式、Matroska形式等のコンテナフォーマットであってもよい。
 広告DB12bには、配信可能な広告に関する情報が登録される。具体的に、図4に示すように、広告DB12bには、広告IDと対応付けて、広告表示条件、広告データ、提供情報URL(Uniform Resource Locator)等が広告毎に登録される。
 広告IDは、広告を識別するための識別情報である。
 広告表示条件は、付加コンテンツ条件の一例であり、付加コンテンツとしての広告の情報を動画に表示するための条件である。
 広告データは、配信される動画に対応つけて表示されるデータである。例えば、広告データとしては、文字データ、静止画データ、動画データ等があり、またこれらのデータのうち少なくとも2つの種類のデータの組み合わせであってもよい。提供情報URLは、広告IDが示す広告に関連付けられた提供情報のURLである。
 フレーム・表示候補領域情報DB12cには、付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域に関する情報が登録される。具体的に、図5に示すように、フレーム・表示候補領域DB12cには、動画ID、画像フレームのフレームID、表示候補領域ID、画像フレームに存在する表示候補領域に関するフレーム・表示候補領域情報(表示候補領域に関する情報の一例)等が登録される。
 画像フレームのフレームIDは、動画における画像フレームを識別するための識別情報である。例えば、フレームIDは、各画像フレームに順に割り振られたシリアル番号(フレーム番号)でもよい。
 表示候補領域IDは、画像フレームから抽出された表示候補領域を識別するための識別情報である。異なる画像フレーム間で抽出されたオブジェクト同士が同じオブジェクトであると判定された場合には、同じ表示候補領域IDが付与される。
 ここで、表示候補領域は、動画を構成する各画像フレームから画像処理により抽出されたオブジェクト以外の領域から特定される。また、オブジェクトの一例として、画像フレームの中に表示されている建造物、看板、移動体(車両、自転車、人物、動物、キャラクタ等)、樹木、人物およびキャラクタが身につけている衣服、カバン等が挙げられる。
 フレーム・表示候補領域情報の一例として、画像フレームにおいて抽出された表示候補領域の形状、画像フレームにおける表示候補領域が存在する位置情報(例えば、画像フレームの左上端を原点とする座標や、画像フレームを所与の領域に分割した分割領域のうち表示候補領域と重なる領域等がある。また、表示候補領域の自体の位置を示す際に基準となる部位として表示候補領域の重心等の中心部、または、表示候補領域の各端部等がある)画像フレームに占める表示候補領域の面積、表示候補領域内または外縁にある各画素の座標、色等の画素情報等の情報が挙げられる。
 集計表示候補領域情報DB12dには、動画を構成する各画像フレームのフレーム・表示候補領域情報を、集計した表示候補領域情報(表示候補領域に関する情報の一例)が登録される。具体的に、図6に示すように、集計表示候補領域情報DB12dには、動画ID、表示候補領域ID、集計された表示候補領域情報等が登録される。
 集計した表示候補領域情報の一例として、動画における各表示候補領域の出現数(表示回数)、所与の条件を満たす複数の表示候補領域における平均出現数、最も多く出現した表示候補領域の最大出現数、最も少なく出現した表示候補領域最小出現数等が挙げられる。また、出現数の代わりに、表示時間(=出現数/フレームレート)でもよい。フレームレートは、一般的に30fps(frames per second)から60fpsであるが、10fps、24fps、25fpsのように、どのようなフレームレートでもよい。
 また、集計した表示候補領域情報の一例として、動画における各表示候補領域の積算表示面積、平均表示面積、最大表示面積、最小表示面積等が挙げられる。また、集計した表示候補領域情報の一例として、画像フレームに連続して表示される表示候補領域の連続出現数等が挙げられる。なお、集計した表示候補領域情報は、表示候補領域が動画において空間および時間の少なくとも一方の積算で表示される積算表示量の一例である。
 また、集計した表示候補領域情報の一例として、複数の画像フレームにおいて共通する表示候補領域の共通領域の出現数、平均出現数、最大出現数、最小出現数等でもよい。また、集計した表示候補領域情報の一例として、動画における各共通領域の積算表示面積、平均表示面積、最大表示面積、最小表示面積等でもよい。また、集計した表示候補領域情報の一例として、画像フレームに連続して表示される共通領域の連続出現数等でもよい。なお、集計した表示候補領域情報は、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域が前記動画において空間および時間の少なくとも一方の積算で表示される積算表示量の一例である。
 ここで、複数の画像フレームにおいて共通する共通領域は、画像フレーム間において、オブジェクトが表示されていない領域が互いに重なり合っている領域で、例えば、画像フレーム間において、オブジェクトが表示されていない領域を示す座標が共通する領域である。
 また、集計した表示候補領域情報の一例として、共通領域の形状、共通領域の位置情報(例えば、画像フレームの左上端を原点とし、共通領域の重心等の中心位置、または、共通領域の端の位置等)、共通領域の面積、共通領域内または外縁にある各画素の座標、色等の画素情報等の情報が挙げられる。
 制御情報DB12eには、動画を構成する各画像フレームに、広告等の付加コンテンツを表示させるための制御情報が登録される。具体的に、図7に示すように、制御情報DB12eには、動画ID、制御情報等が登録される。
 制御情報は、動画において付加コンテンツを表示させる時間的な位置を示す情報(例えば、画像フレームのフレームID)と、当該時点において付加コンテンツを表示させる画像フレーム内の位置を示す情報(例えば、座標情報)などを含む。また、制御情報は、付加コンテンツを識別する情報や付加コンテンツのデータ(例えば、広告データ)を含んでもよい。
 付加コンテンツが静止画の場合、制御情報は、フレームID毎に、付加コンテンツを付加する画像フレームにおける位置情報、付加コンテンツの縮小率または拡大率を含む。または、制御情報は、フレームID毎に、付加コンテンツを付加する付加コンテンツ表示領域の内部または輪郭の画素の位置情報(例えば、画像フレームの左上端を原点とする座標)を含む。
 付加コンテンツが動画の場合、制御情報は、フレームID毎に、付加コンテンツの画像フレームデータ、付加コンテンツを付加する画像フレームにおける位置情報、付加コンテンツの縮小率または拡大率などを含む。または、制御情報は、フレームID毎に、付加コンテンツの画像フレームデータ、付加コンテンツを付加する付加コンテンツ表示領域の内部または外縁の画素の位置情報を含む。
 ユーザ情報DB12fには、情報処理システム1に会員登録しているユーザに関するユーザ情報が、ユーザIDと対応付けてユーザ毎に登録される。具体的に、図8に示すように、ユーザ情報DB12eには、ユーザIDと対応付けてパスワード、ニックネーム、電子メールアドレス等のユーザの属性などがユーザ情報として登録される。ユーザIDは、ユーザを識別するための識別情報である。
 また、記憶部12には、更にウェブページを表示するためのHTML文書、XML(Extensible Markup Language)文書、画像データ、テキストデータ、電子文書等の各種データが記憶されている。また、記憶部12には、各種の設定値、閾値、基準値、規定値、定数、テーブル等が記憶されている。
 入出力インターフェース部13は、通信部11および記憶部12とシステム制御部14との間のインターフェース処理を行うようになっている。
 システム制御部14は、CPU14a、ROM(Read Only Memory)14b、RAM(Random Access Memory)14c等により構成されている。CPU14aは、プロセッサの一例である。なお、本発明は、CPUと異なる様々なプロセッサに対しても適用可能である。記憶部12、ROM14bおよびRAM14cは、それぞれメモリの一例である。なお、本発明は、ハードディスク、ROMおよびRAMと異なる様々なメモリに対しても適用可能である。
 なお、動画配信サーバ装置10が複数のサーバ装置で構成されてもよい。例えば、コンテンツ提供装置20から提供されるコンテンツの動画を登録するサーバ装置、動画のコンテンツを配信するサーバ装置、広告提供装置30から広告を受け付けして保存するサーバ装置、および、データベースを管理するサーバ装置等が互いにLAN等で接続されてもよい。
 次に、動画配信サーバ装置の機能ブロックについて図9を用いて説明する。
 図9は、一実施形態に係る動画配信サーバ装置10の機能ブロックの一例を示す図である。
 図9に示すように、動画配信サーバ装置10は、画像フレーム取得部10aと、表示候補領域特定部10bと、付加コンテンツ表示領域選択部10cと、表示情報生成部10dとを含む。
 画像フレーム取得部10aは、動画を記憶する動画DB12aから取得された動画について当該動画を構成する複数の画像フレームのうち、少なくとも一部の画像フレームを取得する。
 表示候補領域特定部10bは、画像フレーム取得部10aによって取得された画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する。
 付加コンテンツ表示領域選択部10cは、表示候補領域特定部10bによって特定された表示候補領域に関する情報と、付加コンテンツを表示するための付加コンテンツ表示条件と、に基づいて、特定された表示候補領域の中から付加コンテンツ表示領域を選択する。
 表示情報生成部10dは、付加コンテンツ表示領域選択部10cによって選択された付加コンテンツ表示領域に付加コンテンツを表示するための表示情報を生成する。
(2.2 コンテンツ提供装置20の構成および機能)
 次に、コンテンツ提供装置20の構成および機能について、図10を用いて説明する。
 図10は、コンテンツ提供装置20の概要構成の一例を示すブロック図である。
 図10に示すように、コンピュータとして機能するコンテンツ提供装置20は、例えば、パーソナルコンピュータまたはサーバである。コンテンツ提供装置20は、通信部21と、記憶部22と、表示部23と、操作部24と、入出力インターフェース部25と、システム制御部26とを備えている。そして、システム制御部26と入出力インターフェース部25とは、システムバス27を介して接続されている。なお、コンテンツ提供装置20は、スマートフォンおよびタブレット等のコンピュータでもよい。
 通信部21は、ネットワーク3を通して、動画配信サーバ装置10等と通信を制御する。
 記憶部22は、例えば、ハードディスクドライブ等からなり、オペレーティングシステム等のプログラム等を記憶する。
 表示部23(各コミュニティ用の表示画面の一例)は、例えば、液晶表示素子またはEL(Electro Luminescence)素子等によって構成されている。
 操作部24は、例えば、キーボードおよびマウス等によって構成されている。
 入出力インターフェース部25は、通信部21および記憶部22とシステム制御部26とのインターフェースである。
 システム制御部26は、例えば、CPU26aと、ROM26bと、RAM26cとを有する。システム制御部26は、CPU26aが、ROM26bや、RAM26cや、記憶部22に記憶された各種プログラムを読み出して実行する。
(2.3 広告提供装置30の構成および機能)
 次に、広告提供装置30の構成および機能について、図11を用いて説明する。
 図11は、広告提供装置30の概要構成の一例を示すブロック図である。
 図11に示すように、コンピュータとして機能する広告提供装置30は、例えば、パーソナルコンピュータやスマートフォンを含む携帯型無線電話機やPDA等の携帯端末である。広告提供装置30は、通信部31と、記憶部32と、表示部33と、操作部34と、入出力インターフェース部35と、システム制御部36とを備えている。そして、システム制御部36と入出力インターフェース部35とは、システムバス47を介して接続されている。なお、広告提供装置30の構成および機能は、コンテンツ提供装置20の構成および機能とほぼ同じであるが、システム制御部36が、通信部31を介して、広告の情報として、広告を表示するための広告表示条件、広告データ、提供情報URL等を、動画配信サーバ装置10に送信する。また、表示部33には、広告表示条件を入力するための広告表示条件入力画面が表示される。
(2.4 視聴ユーザ端末装置40の構成および機能)
 次に、視聴ユーザ端末装置40の構成および機能について、図12を用いて説明する。
 図12は、視聴ユーザ端末装置40の概要構成の一例を示すブロック図である。
 図12に示すように、視聴ユーザのコンピュータとして機能する視聴ユーザ端末装置40は、例えば、パーソナルコンピュータやスマートフォンを含む携帯型無線電話機やPDA等の携帯端末である。視聴ユーザ端末装置40は、通信部41と、記憶部42と、表示部43と、操作部44と、入出力インターフェース部45と、システム制御部46とを備えている。そして、システム制御部46と入出力インターフェース部45とは、システムバス47を介して接続されている。なお、視聴ユーザ端末装置40の構成および機能は、コンテンツ提供装置20の構成および機能とほぼ同じであるが、システム制御部46が、動画配信サーバ装置10から、通信部41を介して、動画のコンテンツおよび付加コンテンツを受信して、表示部43にこれらのコンテンツを表示させる。
[3.情報処理システムの動作]
 次に、本発明の1実施形態に係る情報処理システム1の動作について図を用い説明する。
(3.1 動画登録処理の動作例)
 まず、動画配信サーバ装置10における動画登録処理の動作例について図13から図15を用いて説明する。
 図13は、動画データにおける画像フレームのフレーム番号の一例を示す模式図である。図14Aから図14Iは、画像フレームの一例を示す模式図である。図15は、一実施形態に係る動画配信サーバ装置10のシステム制御部14の動画登録処理の一例を示すフローチャートである。
 まず、動画配信サーバ装置10上で運営されるサイトの動画配信サービスに、配信対象となるコンテンツ(動画)を登録するために、各コンテンツ提供装置20が、コンテンツ提供者が登録を希望する動画についてと当該動画のカテゴリID、タイトル、収録時間、動画データなどを、コンテンツ提供者を識別するためのコンテンツ提供者IDと共に、動画配信サーバ装置10に送信する。なお、動画配信サービスに、コンテンツ提供者がログインした後に、登録対象となる動画に関する情報を送信する場合には、必ずしも、コンテンツ提供者IDと共に送信しなくてもよい。
 例えば、収録時間10分の動画で、フレームレートが30fpsの画像の場合、動画データは、18,000枚の画像フレームから構成される。図13に示すように、動画データにおける画像フレームは、フレーム番号順に並んでいる。図14Aから図14Iに示すように、各フレーム番号(フレームID)に画像フレーム50が対応している。
 ここで、各画像フレームの一例として、図14Aから図14Iに示すように、フレーム番号”000,001”、フレーム番号”000,015”、フレーム番号”000,060”、フレーム番号”000,120”、フレーム番号”000,135”、フレーム番号”000,165”、フレーム番号”000,240”、フレーム番号”000,330”、および、フレーム番号”000,360”の画像フレーム50が挙げられる。
 次に、図15に示すように、動画配信サーバ装置10は、動画の情報を取得する(ステップS1)。具体的には、動画配信サーバ装置10のシステム制御部14が、各コンテンツ提供装置20から送信された動画の情報を受信する。
 次に、動画配信サーバ装置10は、取得した動画に動画IDを発行する(ステップS2)。具体的には、動画配信サーバ装置10のシステム制御部14が、コンテンツ提供装置20から動画の情報を受信したとき、動画に対して動画IDを生成する。動画IDは、受信順を示す番号や、コンテンツ提供者IDに受信時刻等を組み合わせたIDでもよい。なお、動画IDを発行するタイミングは、取得時に限らず、次のステップS3における動画DB12aへの取得した動画を登録する時でもよい。
 次に、動画配信サーバ装置10は、動画の情報と動画IDとを対応付けて動画DB12aに記憶する(ステップS3)。具体的には、システム制御部14が、動画IDに紐付けて、カテゴリID、タイトル、収録時間、動画データ等を、動画DB12aに記録する。
 動画配信サーバ装置10は、随時、各コンテンツ提供装置20から動画の情報を受け付け、受け付けた動画の情報を、動画IDと共に、動画DB12aに登録する。なお、動画配信サーバ装置10は、コンテンツ提供装置20から動画の情報を受信して、ある程度一時的に蓄積しておいて、所定のタイミングで、動画の情報を動画DB12aに登録してもよい。
(3.2 広告登録処理の動作例)
 動画配信サーバ装置10における広告登録処理の動作例について図16を用いて説明する。
 図16は、一実施形態に係る動画配信サーバ装置10のシステム制御部14の広告登録処理の一例を示すフローチャートである。
 まず、動画配信サーバ装置10上で運営されるサイトに、広告提供者が動画に掲載とともに表示を希望する広告を登録するために、各広告提供装置30が、広告の情報として、広告を表示するための広告表示条件、広告データ、提供情報URL等を、広告提供者IDと共に、動画配信サーバ装置10に送信する。
 広告表示条件は、例えば、広告提供装置30の表示部33上において、広告表示条件入力画面にから、入力される。
 次に、図16に示すように、動画配信サーバ装置10は、広告の情報を取得する(ステップS4)。具体的には、動画配信サーバ装置10のシステム制御部14が、各広告提供装置30から送信された広告の情報として、広告表示条件、広告データ、提供情報URL、広告提供者ID等を受信する。
 次に、動画配信サーバ装置10は、取得した広告に広告IDを発行する(ステップS5)。具体的には、動画配信サーバ装置10のシステム制御部14が、広告提供装置30から広告を受信したとき、広告に対して広告IDを生成する。広告IDは、受信順を示す番号や、広告提供者IDに受信時刻等を組み合わせたIDでもよい。
 次に、動画配信サーバ装置10は、少なくとも広告表示条件を含む広告の情報と広告IDとを対応付けて動画DBに記憶する(ステップS6)。具体的には、システム制御部14が、広告IDに紐付けて、広告表示条件、広告データ、提供情報URL等を、広告DB12bに記録する。
 なお、動画配信サーバ装置10は、随時、各広告提供装置30から広告を受け付け、受け付けた広告の情報を、広告IDと共に、広告DB12bに登録する。
(3.3 表示候補領域特定処理の動作例)
 動画配信サーバ装置10における表示候補領域特定処理の動作例について図17から図20を用いて説明する。
 図17は、一実施形態に係る動画配信サーバ装置のシステム制御部の表示候補領域特定処理の一例を示すフローチャートである。図18Aから図18Dは、画像フレームの特徴点画像の一例を示す模式図である。図19Aから図19Dは、画像フレームにおけるオブジェクト表示領域に含まれない領域の一例を示す模式図である。図20Aから図20Eは、画像フレームにおける表示候補領域の一例を示す模式図である。
 図17に示すように、動画配信サーバ装置10は、動画DB12aに記憶されている複数の動画のうち1つの動画を取得する(ステップS10)。具体的には、動画配信サーバ装置10のシステム制御部14が、オブジェクト特定処理が未だ行われていない動画の動画IDにより、動画DB12aを参照して、動画IDに対応する1つの動画の動画データを読み出す。システム制御部14が、動画DB12aから読み出した動画データを、作業用に一時的に、RAM14cまたは記憶部12に保存してもよい。
 次に、動画配信サーバ装置10は、取得した動画に含まれる複数の画像フレームのうち、少なくとも1つの画像フレームを取得する(ステップS11)。具体的には、システム制御部14が、例えば、処理対象のフレームIDに対応する画像フレームを抽出する。
 次に、動画配信サーバ装置10は、取得した画像フレームから当該画像フレームに含まれるオブジェクトを抽出し、特定する(ステップS12)。具体的には、システム制御部14が、画像フレーム内の各オブジェクトを、例えば、背景差分法、微分処理等によるエッジの抽出、SIFT(Scale-invariant feature transform)、または、HoG(Histogram of Oriented  Gradients)等の手法により抽出し、特定する。なお、パーティクルフィルタ法により、オブジェクトを追跡し、パーティクルにより、オブジェクトを特定してもよい。
 ステップS12の処理により、画像フレーム50の中に写っている建造物、看板、移動体(車両、自転車、人物、動物等)、樹木、衣服等の各オブジェクトが特定され、各オブジェクトにオブジェクトIDが割り当てられる。
 なお、画像フレーム50上で、エッジ検出等により、図18Aから図18Dのいずれか1つに示すように、エッジ等の特徴点画像51が得られ、オブジェクトが抽出される。
 システム制御部14が、特徴点画像51に基づき、オブジェクトを特定する。例えば、システム制御部14が、図18Aのフレーム番号”000,001”の特徴点画像52のエッジ群ed1、ed2、ed3、ed4、ed5、ed6に基づき、図14Aに示すように、フレーム番号”000,001”の画像フレーム50から建物の看板のオブジェクトob1、建物のオブジェクトob2、立て看板のオブジェクトob3、鳥のオブジェクトob4、樹木のオブジェクトob5、車両のオブジェクトob6を抽出し、各オブジェクトにオブジェクトIDを割り当て、オブジェクトを特定する。
 なお、フレーム番号が所定範囲以内の他の画像フレームに含まれるオブジェクトとの比較に基づいて、当該他の画像フレームに含まれるオブジェクトと同じオブジェクトであると判定された場合に、当該他の画像フレームに含まれるオブジェクトに付与されたオブジェクトIDと同じオブジェクトIDを割り当ててもよい。
 例えば、図14Aのオブジェクトob1、ob2、ob3、ob4、ob5、ob6と、図14Bのオブジェクトob1、ob2、ob3、ob4、ob5、ob6とは、各々同じオブジェクトIDが割り当てられる。
 図14Eに示すように、オブジェクトob3と、図14Fに示すように、オブジェクトob13とが、オブジェクト追跡や、オブジェクトの形状の類似性等により、同じオブジェクトと判定された場合、同じオブジェクトIDが割り当てられるようにしてもよい。また、図14Eに示すように、オブジェクトob6と、図14Fに示すように、オブジェクトob16とが、オブジェクト追跡や、オブジェクトの形状の類似性等により、同じオブジェクトと判定された場合、同じオブジェクトIDが割り当てられるようにしてもよい。
 なお、動画配信サーバ装置10が、前記取得した画像フレーム毎に当該画像フレーム内に表示されている複数のオブジェクトを特定してもよい。また、オブジェクトが小さすぎる、不鮮明、形状が不明瞭等、オブジェクトが特定できない場合、動画配信サーバ装置10は、オブジェクトを特定してなくてもよい。また、動画配信サーバ装置10が、所与の上限数を限度としてオブジェクトを特定してもよい。例えば、動画配信サーバ装置10が、画像フレームにおける表示面積が大きいオブジェクトを、優先して特定してもよい。
 次に、動画配信サーバ装置10は、特定されたオブジェクトを含むオブジェクト表示領域を特定する(ステップS13)。具体的には、システム制御部14が、抽出したエッジ等の特徴点に従って、オブジェクトが表示されている領域に対応するオブジェクト表示領域を設定する。
 例えば、図18Aおよび図19Aに示すように、システム制御部14が、オブジェクトob1、ob2、ob3、ob4、ob5、ob6の輪郭、すなわち、オブジェクトob1、ob2、ob3、ob4、ob5、ob6のそれぞれのエッジ群ed1、ed1、ed2、ed3、ed4、ed5、ed6の最も外側を外縁とするオブジェクト表示領域ar1、ar2、ar3、ar4、ar5、ar6を特定する。
 また、動画におけるオブジェクトの大きさが、カメラのズーム機能によりカメラの視点に対する遠近により変化したり、図19Bまたは図19Cに示すように、他のオブジェクトに隠れて、オブジェクトの形状が変わったり、オブジェクト自体の形状が変化したりする場合、システム制御部14が、オブジェクトの変化に合わせて、オブジェクト表示領域ar6の形状が変化するようにオブジェクト表示領域を設定してもよい。
 具体的には、時間的に近い画像フレーム間におけるオブジェクト間で、システム制御部14が、例えば、オブジェクトの位置、色、形状、大きさ等のオブジェクトのパラメータにおいて、各パラメータが、所定の範囲内のオブジェクト同士を、同一のオブジェクトであると判定する。オブジェクトの大きさに関して所定の範囲に収まって、変化して行くオブジェクトが、同一のオブジェクトと判定される。オブジェクトの形状に関して所定範囲に収まって、変化して行くオブジェクトが、同一のオブジェクトと判定される(例えば、オブジェクトの中心を基準にして、1のオブジェクトの輪郭の座標と、他のオブジェクトの輪郭の座標と距離の最小値が、所定範囲内の場合)。なお、システム制御部14が、各パラメータに対して重みづけをしてもよい。システム制御部14が、所定の範囲を、フレーム間の時間差によって変えてもよい。
 また、図14Eから図14Fに示すように、画像を撮像しているカメラのズーム(倍率)の変化により、オブジェクトの大きさが変化する場合、図19Bから図19Cに示すように、システム制御部14が、オブジェクトの変化に合わせて、オブジェクト表示領域の大きさを変えてもよい。なお、システム制御部14が、オブジェクト表示領域ar3とオブジェクト表示領域ar13とが同じオブジェクト表示領域であると判定してもよいし、別々のオブジェクト表示領域であると判定してもよい。
 なお、ステップS12とステップS13の処理は、一緒に行ってもよい。すなわち、システム制御部14が、ステップS12で抽出されたオブジェクト自体を、オブジェクト表示領域にしてもよい。
 これらのように、動画配信サーバ装置10が、前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定する特定手段の一例として機能する。
 次に、動画配信サーバ装置10は、オブジェクト表示領域に含まれない領域の中から、動画に付加する付加コンテンツを表示する領域の候補となる表示候補領域を特定する(ステップS14)。具体的には、まず、図19Aから図19Dに示すように、システム制御部14が、各画像フレームにおいて、特徴点画像52から、特定されたオブジェクト表示領域ar1、ar2、ar3、ar4、ar5、ar6を差し引き、領域n-ar(オブジェクト表示領域に含まれない領域の一例)を生成する。
 そして、図20Aから図20Dに示すように、システム制御部14が、領域n-arから、画像フレーム毎の表示候補領域であるフレーム・表示候補領域cnd-arを生成する。例えば、システム制御部14が、矩形、楕円、三角形等の所定の形状に基づき、領域n-arを切り分ける。すなわち、システム制御部14が、オブジェクト表示領域を避けるように、所定の面積(例えば、視聴者が見分けることができる限界の広告の最低表示面積)以上のフレーム・表示候補領域cnd-arを設定する。
 図20Aから図20Dに示すように、オブジェクトが画像フレーム上を動きに合わせて、システム制御部14が、できるだけ、領域n-arを、フレーム・表示候補領域cnd-arで隙間が無く満たすように(例えば、最適化の手法により隙間の面積ができるだけ少なくなるように)、各フレーム・表示候補領域cnd-arを算出する。そのため、画像フレーム53におけるフレーム・表示候補領域cnd-arの形状(アスペクト比、および、楕円の長軸および短軸の比等)、大きさ、数、および、位置等が変化してもよい。また、最適化の手法、または、最適化の基準により、フレーム・表示候補領域cnd-arが異なってもよい。
 なお、フレーム・表示候補領域cnd-arの形状は、最適化しやすいように、予め全て矩形、または、楕円形等の統一しておいてもよいし、広告表示条件に基づいた形状でもよい。また、図20Eに示すように、フレーム・表示候補領域cnd-arの形状は、矩形、楕円形等の様々な形状が混合してもよい。
 そして、フレーム・表示候補領域cnd-arを設定が設定されたら、システム制御部14が、各フレーム・表示候補領域cnd-arのフレーム・表示候補領域情報を算出する。
 ここで、フレーム・表示候補領域情報の一例として、表示候補領域表示領域の基準になる座標(xy座標)、例えば、表示候補領域表示領域が矩形の場合、矩形の四隅のいずれかの座標や、矩形の中心の座標や中心の座標などがあり、表示候補領域表示領域が例えば楕円形などの円形状の場合、円形状の中心の座標や重心の座標などがあり、また何れかの形状の場合もオブジェクト表示領域の中心/重心付近の画素の座標、中心部分の画素の座標等が挙げられる。
 また、フレーム・表示候補領域情報の一例として、表示候補領域の面積、形状、表示候補領域の輪郭の画素の座標、表示候補領域に含まれる画素の全ての座標、または、複数の画素の座標等が挙げられる。
 また、フレーム・表示候補領域情報は、表示候補領域の形状が矩形の場合、アスペクト比、縦の長さおよび横の長さ、楕円の場合、長軸および短軸の比、長軸の長さおよび短軸の長さでもよい。
 また、フレーム・表示候補領域情報は、表示候補領域内の画素の色を含んでもよい。
 なお、システム制御部14が、領域n-arを表示候補領域としてもよい。すなわち、システム制御部14が、画像フレーム50におけるオブジェクトが表示されていない全ての領域n-arを表示候補領域としてもよい。
 また、システム制御部14が、広告DB12bを参照して、登録されている広告の形状の情報に基づき、広告の形状のうち、互いに異なるすべての広告の形状を抽出し、表示候補領域の対象となる形状として、記憶部12(表示候補形状データベースとして構築してもよい)等に登録しておいてもよい。また、システム制御部14が、広告DB12b等に登録されている広告の形状のうち登録数の相対的に多い(登録数の順位が上位から所定数個の)形状のみを表示候補領域の対象となる形状として表示候補形状データベース等に登録してもよい。そして、システム制御部14が、ステップS14において、領域n-arのうち、表示候補形状データベース等に登録されている少なくとも1つの形状に適合する範囲を、表示候補領域として特定してもよい。
 これらのように、動画配信サーバ装置10が、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定手段の一例として機能する。また、動画配信サーバ装置10が、前記オブジェクト表示領域に含まれない領域の中から、前記付加コンテンツ表示条件に基づいた形状に適合する前記表示候補領域を特定する表示候補領域特定手段の一例として機能する。
 次に、動画配信サーバ装置10は、動画IDと、画像フレームを識別するフレームIDと、表示候補領域の情報と、表示候補領域を識別する表示候補領域IDと、を対応付けて記憶する(ステップS15)。具体的には、システム制御部14が、動画IDと、フレームIDと、各表示候補領域の情報(フレーム・表示候補領域情報)と、表示候補領域IDと、を対応付けて、フレーム・表示候補領域情報DB12cに記憶する。
 なお、システム制御部14が、動画IDと、フレームIDと、各表示候補領域の情報(フレーム・表示候補領域情報)と、表示候補領域IDと、を対応付けて、一時的に、RAM14c等のキャッシュメモリに記憶してもよい。
 次に、動画配信サーバ装置10は、全ての画像フレームに対して処理を行ったか否かを判定する(ステップS16)。例えば、動画を先頭の画像フレームから順に処理する場合、システム制御部14が、フレームIDであるフレーム番号が、動画の最後のフレーム番号が否かを判定する。なお、動画配信サーバ装置10は、一部(例えば、半分)の画像フレームに対して処理を行ったか否かを判定してもよい。
 全ての画像フレームに対して処理を行っていない場合(ステップS16;NO)、動画配信サーバ装置10は、ステップS11の処理に戻り、次の画像フレーム50を取得する。
 このように、動画配信サーバ装置10が、動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得手段の一例として機能する。
 全ての画像フレームに対して処理を行った場合(ステップS16;YES)、動画配信サーバ装置10は、表示候補領域特定処理を終了する。
 次に、動画配信サーバ装置10は、他の動画の動画IDに基づき、ステップS10からステップS16の処理を行い、フレーム・表示候補領域情報DB12cを構築していく。
(3.4 制御情報生成処理の動作例)
 次に、動画配信サーバ装置10における制御情報生成処理の動作例について図21から図22を用いて説明する。
 図21は、一実施形態に係る動画配信サーバ装置のシステム制御部の制御情報生成処理の一例を示すフローチャートである。図22Aから図22Cは、集計された表示候補領域の一例を示す模式図である。図23Aから図23Dは、広告が付加された画像フレームの一例を示す模式図である。図24Aから図24Dは、広告が付加された画像フレームの一例を示す模式図である。図25は、一部がマスクされた画像フレームの一例を示す模式図である。
 まず、動画配信サーバ装置10は、制御情報生成処理が終わっていない動画の動画IDを抽出する。
 図21に示すように、動画配信サーバ装置10は、フレーム・表示候補領域情報DB12cを参照し、動画IDが一致し、かつ、フレームIDが異なる画像フレームの表示候補領域の情報に基づいて、表示候補領域毎の情報を算出する(ステップS20)。
 具体的には、システム制御部14が、フレーム・表示候補領域情報DB12cから、同じ動画IDに対して、フレーム番号(フレームID)順に検索して、表示候補領域ID毎にフレーム・表示候補領域情報を集計して、集計した表示候補領域情報を算出する。
 さらに具体的には、まず、図22Aおよび図22Bに示すように、システム制御部14が、フレーム・表示候補領域情報DB12cを参照して、複数の画像フレームにおいて、各フレーム・表示候補領域cnd-arで共通する共通領域co-ar1、co-ar2を生成する。特に、フレーム・表示候補領域cnd-arは、移動したり大きさが変化したりするオブジェクトの周りで、各画像フレームにおいて変化しやすいので、システム制御部14が、共通領域を算出することが好ましい。なお、図22Aおよび図22Bに示すように、画像54において、共通領域と、各画像フレームにおけるフレーム・表示候補領域cnd-arとが、模式的に記載されている。
 システム制御部14が、複数の画像フレームを、例えば、フレーム番号”000,001”からフレーム番号”000,135”まで、フレーム番号”000,165”からフレーム番号”000,360”、または、フレーム番号”000,001”からフレーム番号”000,360”まで等と区切って、共通領域を生成してもよい。例えば、システム制御部14が、図22Aに示すように、フレーム番号”000,001”からフレーム番号”000,135”の共通領域co-ar1を生成し、図22Bに示すように、フレーム番号”000,165”からフレーム番号”000,360”の共通領域co-ar2を生成する。システム制御部14が、生成した各共通領域を識別するために、集積表示候補領域IDを割り当てる。
 また、システム制御部14が、図22Cに示すように、フレーム番号”000,001”からフレーム番号”000,360”の共通領域co-ar3を生成してもよい。図22Cに示すように、システム制御部14が、共通領域co-ar1および共通領域co-ar2の共通領域co-ar3を生成してもよい。図22Cに示すように、システム制御部14が、各共通領域co-ar1および各共通領域co-ar1の重なっている領域を算出し、共通領域co-ar3を生成する。なお、図22Cに示すように、画像54において、共通領域co-ar1と、共通領域co-ar2と、共通領域co-ar3とが、模式的に記載されている。
 ここで、共通領域co-ar1を例に挙げて、共通領域の生成の一例について、説明する。
 まず、システム制御部14が、フレーム・表示候補領域情報DB12cを参照して、フレームIDに基づき、例えば、フレーム番号”000,001”およびフレーム番号”000,002”のフレーム・表示候補領域情報を読み出す。システム制御部14が、フレーム番号”000,001”の各フレーム・表示候補領域cnd-arの座標情報と、フレーム番号”000,002”の各フレーム・表示候補領域cnd-arの座標情報と、から、フレーム・表示候補領域cnd-arが重なる部分の共通する共通領域を算出する。システム制御部14が、フレーム番号”000,003”のフレーム・表示候補領域情報をフレーム・表示候補領域情報DB12cから読み出し、この算出した共通領域の座標情報と、フレーム番号”000,003”の各フレーム・表示候補領域cnd-arの座標情報と、から、次の共通領域(フレーム番号”000,001”から”000,003”の共通領域)を算出する。システム制御部14が、これらの処理をフレーム番号”000,135”まで繰り返し、各共通領域co-ar1を生成する。システム制御部14が、各共通領域に、それぞれ共通領域IDを割り当てる。
 なお、システム制御部14が、共通領域を求めるフレーム番号の範囲内のフレーム番号を、上記のような順に処理しなくても、逆順やランダムな順番で処理してよい。
 逆順で処理する場合、システム制御部14が、フレーム・表示候補領域情報DB12cを参照して、フレームIDに基づき、例えば、フレーム番号”000,135”およびフレーム番号”000,134”のフレーム・表示候補領域情報を読み出す。システム制御部14が、フレーム番号”000,135”の各フレーム・表示候補領域cnd-arの座標情報と、フレーム番号”000,134”の各フレーム・表示候補領域cnd-arの座標情報と、から、フレーム・表示候補領域cnd-arが重なる部分の共通する共通領域を算出する。システム制御部14が、フレーム番号”000,133”のフレーム・表示候補領域情報をフレーム・表示候補領域情報DB12cから読み出し、この算出した共通領域の座標情報と、フレーム番号”000,133”の各フレーム・表示候補領域cnd-arの座標情報と、から、次の共通領域(フレーム番号”000,135”から”000,133”の共通領域)を算出する。システム制御部14が、これらの処理をフレーム番号”000,001”まで繰り返し、各共通領域co-ar1を生成する。
 ランダムな順番で処理する場合、システム制御部14が、フレーム・表示候補領域情報DB12cを参照して、フレームIDに基づき、例えば、フレーム番号”000,001”からフレーム番号”000,135”のうち、例えば、任意のフレーム番号”000,111”およびフレーム番号”000,077”のフレーム・表示候補領域情報を読み出す。システム制御部14が、フレーム番号”000,111”の各フレーム・表示候補領域cnd-arの座標情報と、フレーム番号”000,077”の各フレーム・表示候補領域cnd-arの座標情報と、から、フレーム・表示候補領域cnd-arが重なる部分の共通する共通領域を算出する。システム制御部14が、フレーム番号”000,111”およびフレーム番号”000,077”以外のフレーム番号、例えば、フレーム番号”000,063”のフレーム・表示候補領域情報をフレーム・表示候補領域情報DB12cから読み出し、この算出した共通領域の座標情報と、フレーム番号”000,063”の各フレーム・表示候補領域cnd-arの座標情報と、から、次の共通領域(フレーム番号”000,111”、”000,077”および”000,063”の共通領域)を算出する。システム制御部14が、これらの処理を、共通領域を求めるフレーム番号の範囲内における残りの全てのフレーム番号に対して繰り返し、各共通領域co-ar1を生成する。
 なお、システム制御部14が、共通領域を求めるフレーム番号の範囲内のすべてのフレーム番号について処理をせずに、所与の間隔(例えば10個のフレーム)のフレーム毎を対象として処理してもよい。システム制御部14が、この所与の間隔を、画像フレーム間における差分データ(動きベクトル等)に応じて設定する。例えば、システム制御部14が、共通領域を求めるフレーム番号の範囲に含まれるすべての画像フレームにおける差分データ量と所与の条件とに応じて、所与の間隔を決定する。この場合、所与の間隔は一定間隔になる。所与の間隔は、差分データ量が大きいほど(例えば、動きベクトルの長さが長いほど)、画像フレーム間におけるオブジェクト位置の変化が多いので、システム制御部14が、所与の間隔を小さくする。一方、差分データ量が小さいほど、画像フレーム間におけるオブジェクト位置の変化が少ないので、システム制御部14が、所与の間隔を大きくする。
 なお、先に設定された共通領域を求めるフレーム番号の範囲に含まれるすべての画像フレームについて、フレーム毎の差分データ量を算出し、当該画像フレーム毎の差分データ量をひとつ目の画像フレームから積算して、所定の閾値を超えた画像フレームを処理対象としてもよい。この場合、処理対象となる画像フレームの間隔は変動する。
 共通領域co-ar1等が生成された後、システム制御部14が、共通領域co-ar1、共通領域co-ar2、共通領域co-ar3等に対して、共通領域の情報(例えば、各共通領域の面積、形状、共通領域に含まれる位置の座標、外縁の画素の座標、共通領域を求めたフレーム番号の範囲等)から、集計した表示候補領域情報を算出する。なお、共通領域co-ar1、co-ar2、co-ar3は、複数のフレーム・表示候補領域から生成されるので、共通領域co-ar1、co-ar2、co-ar3自体の共通領域の情報も、集積した表示候補領域情報の一例である。
 ここで、共通領域を生成したフレーム番号の範囲が、共通領域の出現数(表示回数:表示フレーム数)(集積した表示候補領域情報の一例)である。共通領域の出現数は、共通領域が動画において空間および時間の少なくとも一方の積算で表示される積算表示量の一例である。この積算表示量の一例として合計表示時間(=合計の出現数/フレームレート)でもよい。また、共通領域の出現数は、例えば、図22Aに示すように、フレーム番号”000,001”からフレーム番号”000,135”の共通領域co-ar1のうち、ある共通領域co-ar1が、フレーム番号”000,135”以降のある区間の共通領域と、ほぼ同じ領域にある場合(例えば、領域同士の重なりの割合が高い)、システム制御部14が、これらの出現数を加算してもよい。
 また、システム制御部14が、連続する画像フレームにおいて、出現した共通領域の連続出現数(積算表示量の一例)を算出してもよい。例えば、システム制御部14が、フレーム番号を飛ばすこと無く、フレーム番号順に共通領域を生成する場合、共通領域を生成したフレーム番号の範囲が、連続出現数である。また、システム制御部14が、フレーム番号を間引きして、共通領域を生成した場合、フレーム番号の最大値と最小値の差の範囲のフレーム数を連続出現数(または、時間を連続表示時間)としてもよい。
 また、システム制御部14が、共通領域の最大および最小連続出現数(連続出現数/フレームレート=連続表示時間)を算出してもよい。
 システム制御部14が、全てまたは一部のフレーム番号に対して合計したら、フレーム数で割って、出現割合を算出してもよい。
 また、集積した表示候補領域情報の一例として、システム制御部14が、各共通領域の形状、各共通領域の位置情報、各共通領域の面積、各共通領域内または外縁にある各画素の座標、色等の画素情報等を算出してもよい。
 システム制御部14が、全てまたは一部のフレーム番号に対して、共通領域毎に、共通領域の面積を合計して、積算表示面積(積算表示量の一例)を算出する。なお、システム制御部14が、積算表示面積を、全てまたは一部のフレーム数で割った平均表示面積(積算表示量の一例)を算出してもよい。また、システム制御部14が、共通領域毎の最大および最小の表示面積を算出してもよい。
 集計される期間が、動画全体でなく、所定の区切り毎に、システム制御部14が、フレーム・表示候補領域情報を集計してもよい。例えば、システム制御部14が、チャプター情報や、画像が切り替わる時点等で、区切ってフレーム・表示候補領域情報を集計し、集計した表示候補領域情報を算出する。
 また、システム制御部14が、積算表示量の一例として、複数の表示候補領域または共通領域をグルーピングして、グループ毎の表示候補領域情報を算出してもよい。例えば、システム制御部14が、各表示候補領域または共通領域の形状等(例えば、アスペクト比等)が同一または類似するか否かを判定して、形状等が同一または類似する表示候補領域または共通領域同士に同じグループIDを割り当てる。そして、システム制御部14が、グループ単位の出現回数(グループに属する表示候補領域または共通領域が少なくとも1つ出現したらカウントする、少なくとも所定数以上出現したらカウントする等)、グループ単位の表示面積(グループに属する表示候補領域または共通領域の面積を足し合わせる)等のグループ単位の積算表示量を算出する。
 なお、各表示候補領域または共通領域が同一または類似するか否かを判定方法は、時間的に近い画像フレーム間における表示候補領域または共通領域間で、システム制御部14が、例えば、表示候補領域または共通領域の位置、色、形状、大きさ等の表示候補領域または共通領域のパラメータにおいて、各パラメータが、所定の範囲内の表示候補領域または共通領域同士を、同一または類似する表示候補領域または共通領域であると判定する。そして、システム制御部14が、同一または類似する表示候補領域または共通領域同士をグルーピングする。
 なお、システム制御部14が、色が同一または類似する類似する表示候補領域または共通領域同士のグループ毎に、グループ単位の積算表示量を算出してもよい。
 次に、システム制御部14が、集計した表示候補領域情報を、動画IDおよび集積表示候補領域IDに関連付けて、集計表示候補領域情報DB12dに記憶する。また、システム制御部14が、集計された期間のフレーム番号、共通領域が最大の表示面積を示したフレーム番号、共通領域が最小の表示面積を示したフレーム番号等のフレーム番号またはフレームIDも、集計表示候補領域情報DB12dに記憶してもよい。また、システム制御部14が、オブジェクトの形状や、矩形の場合のアスペクト比、楕円形の場合の長軸短軸の比も、集計表示候補領域情報DB12dに記憶してもよい。また、システム制御部14が、動画におけるオブジェクトの最頻出の出現位置の座標、平均の出現位置の座標のオブジェクトの座標情報も、オブジェクト情報と共に、集計表示候補領域情報DB12dに記憶してもよい。
 次に、動画配信サーバ装置10は、表示候補領域毎の情報と表示する広告の広告主が設定した広告表示条件とに基づいて、広告を表示する広告表示領域を選択する(ステップS21)。具体的には、システム制御部14が、集計表示候補領域情報DB12dを参照して、広告表示条件と集積した表示候補領域情報を照合して共通領域を広告表示領域として選択する。
 例えば、広告”AD-a1”の広告表示条件が、広告の形状が矩形で、表示時間が3秒以上で、表示面積が所定値以上で、かつ画面の右上に表示したいという場合、図23Aから図23Dに示すように、広告表示領域ad-ar1が該当する。システム制御部14が、集計表示候補領域情報DB12dを参照して、画像フレーム55の図中右上の共通領域co-arを広告表示領域ad-ar1として選択する。
 例えば、広告”AD-d1”の広告表示条件が、広告の形状のアスペクト比が横に細長く(例えば、アスペクト比5:1のような棒形状)、画面の下側で、10秒以上という場合、図23Aから図23Dに示すように、広告表示領域ad-ar4が該当する。
 なお、広告を表示させる広告表示領域が選択されたら、システム制御部14が、広告を表示させる各画像フレームにおいて、広告を付加する広告表示領域と、基準の広告のサイズとの比(拡大率または縮小率)を、算出して、集計表示候補領域情報DB12d等に記憶してもよい。
 また、システム制御部14が、集計表示候補領域情報DB12dを参照して、各共通領域の出現数のうち、出現数が相対的に多い(出現数の順位が上位から所定数個の)共通領域を広告表示領域として選択してもよい。この場合、システム制御部14が、広告表示条件に基づいて、広告表示領域を選択してもよいし、広告表示条件に基づかないで、集積した表示候補領域情報のみで、広告表示領域を選択してもよい。システム制御部14が、広告表示条件にも基づく場合、出現数が相対的に多い共通領域のうち、広告表示条件を満たす共通領域を選択する。
 また、システム制御部14が、集計表示候補領域情報DB12dを参照して、各共通領域の平均表示面積のうち、平均表示面積が相対的に大きい(平均表示面積の順位が上位から所定数個の)共通領域を広告表示領域として選択してもよい。この場合、システム制御部14が、広告表示条件に基づいて、共通領域を選択してもよいし、広告表示条件に基づかないで、集積した表示候補領域情報のみで、共通領域を選択してもよい。システム制御部14が、広告表示条件にも基づく場合、平均表示面積が相対的に大きい共通領域のうち、広告表示条件を満たす共通領域を選択する。
 また、システム制御部14が、集計表示候補領域情報DB12dを参照して、各共通領域の積算表示数のうち、積算表示数が相対的に多い(積算表示数の順位が上位から所定数個の)共通領域を広告表示領域として選択してもよい。この場合、システム制御部14が、広告表示条件に基づいて、共通領域を選択してもよいし、広告表示条件に基づかないで、集積した表示候補領域情報のみで、共通領域を選択してもよい。システム制御部14が、広告表示条件にも基づく場合、積算表示数が相対的に多い共通領域のうち、広告表示条件を満たす共通領域を選択する。
 また、システム制御部14が、集計表示候補領域情報DB12dを参照して、各共通領域の連続出現数のうち、連続出現数が相対的に多い(連続出現数の順位が上位から所定数個の)共通領域を広告表示領域として選択してもよい。この場合、システム制御部14が、広告表示条件に基づいて、共通領域を選択してもよいし、広告表示条件に基づかないで、集積した表示候補領域情報のみで、共通領域を選択してもよい。システム制御部14が、広告表示条件にも基づく場合、連続出現数が相対的に多い共通領域のうち、広告表示条件を満たす共通領域を選択する。
 また、システム制御部14が、共通領域のうち、複数の画像フレームにおいて積算表示量が最も大きい領域の組み合わせを広告表示領域として選択してもよい。例えば、図22Aおよび図22Bに示すように、共通領域co-ar1(54a)がフレーム番号”000,001”からフレーム番号”000,135”までであり、共通領域co-ar1(54b1)が、フレーム番号”000,001”からフレーム番号”000,135”までであり、共通領域co-ar2(54b2)が、フレーム番号”000,136”からフレーム番号”000,360”までであり、共通領域(54a)の積算表示量<共通領域(54b1)の積算表示量+共通領域(54b2)の積算表示量の場合、システム制御部14が、共通領域(54a)でなく、共通領域(54b1)および、共通領域(54b2)を、広告表示領域として選択する。すなわち、システム制御部14が、フレーム番号”000,001”からフレーム番号”000,135”まで、共通領域(54b1)に広告を表示し、フレーム番号”000,136”からフレーム番号”000,360”まで、共通領域(54b2)に広告を表示するように、表示情報を生成する。    
 また、システム制御部14が、画像フレーム間における共通領域の差分データ量が、所定の閾値より大きい場合の共通領域を広告表示領域として選択してもよい。システム制御部14が、所定の閾値を、各共通領域の差分データ量により設定する。例えば、システム制御部14が、ステップS20において、各共通領域を別々に単一色で塗りつぶした場合における動画の圧縮率(または、動画のエンコード時のデータの減少量)を、共通領域毎の集積した表示候補領域情報として算出する。そして、システム制御部14が、ステップS21において、共通領域毎の圧縮率を比較して、圧縮率が相対的に高い(圧縮率が最も高く圧縮される共通領域から所定順位の)共通領域を選択してもよい。
 この場合、システム制御部14が、広告表示条件に基づいて、共通領域を選択してもよいし、広告表示条件に基づかないで集積した表示候補領域情報のみで、共通領域を選択してもよい。システム制御部14が、広告表示条件にも基づく場合、所定の閾値より大きい場合の共通領域を共通領域のうち、広告表示条件を満たす共通領域を選択する。
 ここで、配信のために、システム制御部14が、所定の符号化方式により、動画のコンテンツを配信用の動画データに変換して圧縮する。動画の符号化方式は、フレーム間の差分を利用した符号化方式があり、圧縮率を高めるために、フレーム間予測が用いられる。システム制御部14が、所定の画像フレームに対して、前の画像フレームおよび後の画像フレームの少なくとも1つの画像フレームからの予測画像フレームとの差分を利用して符号化する。さらに、画像フレーム間でのオブジェクト等の動きを補償する動き補償を行うためにシステム制御部14が、動きベクトルも求め、動きベクトルを符号化する。1つの画像フレームと予測画像フレームとの差分情報や、動きベクトルの情報等が、差分データの一例である。
 このように、差分データ量が、所定の閾値より大きい場合の共通領域が選択され、選択された共通領域が単一色で塗りつぶされた場合、情報量の多い共通領域が消されたことになり、動画の符号化方式による圧縮率が高くなり、データ量が減少する。
 なお、システム制御部14が、これら出現数、平均表示面積、積算表示量、連続出現数、差分データ量の少なくとも2つを組み合わせて、共通領域を広告表示領域として選択してもよい。
 また、システム制御部14が、広告表示条件である、広告の表示時間、広告の表示面積、広告の形状等の少なくとも2つを組み合わせて、共通領域を広告表示領域として選択してもよい。さらに、システム制御部14が、出現数、平均表示面積、積算表示量、連続出現数、差分データ量、広告の表示時間、広告の表示面積、広告の形状等の少なくとも2つを組み合わせて、共通領域を広告表示領域として選択してもよい。
 これら集積した表示候補領域情報および広告表示条件を組み合わせることにより、広告提供者の様々なニーズにあった広告表示領域を的確に選択できる。
 これらのように、動画配信サーバ装置10が、前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段の一例として機能する。また、動画配信サーバ装置10が、前記共通領域の大きさに応じて、前記共通領域から、前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段の一例として機能する。の一例として機能する。また、動画配信サーバ装置10が、前記積算表示量に応じて、前記共通領域から、前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段の一例として機能する。また、動画配信サーバ装置10が、前記共通領域の画像の差分データ量により設定される閾値より、前記差分データ量が大きい共通領域を、前記付加コンテンツ表示領域として選択する付加コンテンツ表示領域選択手段の一例として機能する。また、動画配信サーバ装置10が、前記付加コンテンツの形状に適合するように、前記共通領域の形状の情報に応じて選択される前記共通領域を、前記付加コンテンツ表示領域として選択する付加コンテンツ表示領域選択手段の一例として機能する。
 次に、動画配信サーバ装置10は、選択した広告表示領域に広告を表示するための制御情報を生成する(ステップS22)。具体的には、システム制御部14が、集計表示候補領域情報DB12dを参照して、選択したオブジェクトの集積表示候補領域IDに基づき、広告を表示する各フレームIDと、これらの画像フレームにおける広告表示領の座標情報を取得して、各フレームIDと、これらのフレームIDに対応する座標情報とを含む制御情報を生成する。例えば、図23Aから図23Dに示すように、画像フレーム55から構成される動画が再生されるように、システム制御部14が、制御情報を生成する。
 この制御情報は、動画の再生時に、動画における広告表示領域に重畳して広告を表示させるための情報である。
 広告表示領域は、選択された共通領域の少なくとも一部を含んでいる。例えば、システム制御部14が、広告表示領域ad-ar1を、図23Aから図23Dに示すように、広告”AD-a1”のために選択された共通領域co-ar3と一致するように設定してもよい。
 また、システム制御部14が、広告表示領域ad-ar2を、図23Aから図23Dに示すように、広告”AD-b1”のために選択された共通領域co-ar3の内部に設定してもよい。また、また、システム制御部14が、広告表示領域ad-ar2を、図23Aから図23Dに示すように、広告”AD-b1”の広告表示条件を満たすように、共通領域co-ar3の内部の上部に設定してもよい。また、システム制御部14が、広告表示領域ad-ar2において、広告”AD-b1”から広告”AD-b2”に、場面が変わった時点で変えてもよい。
 また、システム制御部14が、広告表示領域ad-ar3を、図23Aから図23Dに示すように、オブ、広告”AD-c1”のために選択された共通領域co-ar3の一部を含むように設定してもよい。このように、広告”AD-c1”の形状と、共通領域co-ar3の形状とが必ずしても一致していなくてもよい。また、システム制御部14が、広告表示領域ad-ar3において、広告”AD-c1”から広告”AD-c2”に変えてもよい。
 また、また、システム制御部14が、広告表示領域ad-ar4を、図23Aから図23Dに示すように、広告”AD-d1”の広告表示条件を満たすように、共通領域co-ar3の内部の下部に設定してもよい。
 また、システム制御部14が、図23Bから図23Cに示すように、広告”AD-e1”の広告表示領域ad-ar5から、広告”AD-e2”の広告表示領域ad-ar6のように、広告表示領域の形状を変化させてもよい。また、システム制御部14が、広告”AD-e1”の広告表示領域ad-ar5を共通領域co-ar3の内部に設定して、あるフレーム番号から、広告”AD-e2”の広告表示領域ad-ar6を共通領域co-ar3から一部がはみ出すように設定してもよい。コンテンツ提供者が、動画のオブジェクトob13に広告が重なることを禁止した条件を設定した場合、システム制御部14が、オブジェクトob13を避けて、動画のオブジェクトob12に被さるように、広告表示領域ad-ar6を設定してもよい。
 また、図24Aおよび図24Bに示すように、画像フレーム55における位置が比較的近くて対応する共通領域が変わっている場合、システム制御部14が、共通領域の大きさの変化に応じて、広告表示領域ad-ar14から広告表示領域ad-ar24、および、広告表示領域ad-ar17から広告表示領域ad-ar27のように、広告表示領域の大きさを変えてもよい。例えば、システム制御部14が、広告”AD-f1”の大きさを、広告表示領域の大きさに合わせて変化させる。
 また、共通領域に対する広告の表示に関して、図23Bおよび図23Cに示すように、システム制御部14が、広告表示条件に応じて、広告表示領域ad-ar3に表示する広告を広告”AD-c1”から広告”AD-c2”変えるように、制御情報を生成してもよい。また、図23Bおよび図23Cに示すように、システム制御部14が、広告表示条件に応じて、広告表示領域ad-ar5から広告表示領域ad-ar6のように、広告の大きさ、形状を変えるように、制御情報を生成してもよい。
 なお、制御情報に、共通表示領域の輪郭等の座標情報の代わりに、共通領域の外縁または内部の一点の座標情報および共通領域の大きさの情報が含まれていてもよい。この場合、システム制御部14が、共通領域の大きさに合わせて広告の大きさを変形させ、共通領域の一点を含む位置に、広告を表示させるように、制御情報を生成してもよい。
 なお、これらの制御情報に、広告表示条件に合う広告の広告データを含めてもよいし、含めなくてもよい。制御情報に、広告データを含めた場合、制御情報で設定された広告を、状況に応じたタイミングで、選択した共通領域の位置に柔軟に表示できる。この制御情報に、広告データを含めない場合、視聴ユーザ端末装置40における動画の再生時に、視聴ユーザの操作情報や購入履歴等のユーザ情報等の状況に応じた様々な広告を、選択したオブジェクトの位置に柔軟に表示できる。
 これらのように、動画配信サーバ装置10が、前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成手段の一例として機能する。
 次に、動画配信サーバ装置10は、生成された制御情報を動画IDと対応付けて記憶する(ステップS23)。具体的には、システム制御部14が、表示される広告IDと、広告を表示する画像フレームの各フレーム番号と、フレーム番号に対応した、広告を表示させる広告表示領域または共通領域の座標情報とを含む制御情報を、動画IDと対応付けて、制御情報DB12eに登録する。
 なお、図25に示すように、システム制御部14が、選択された共通領域の全体または一部(マスク領域ms1、ms2)を単一色に塗りつぶした画像フレーム53から構成される動画を、マスクされた表示情報として、生成してもよい。システム制御部14が、ステップS22において、選択した共通領域に対応するように、広告を表示する位置に、このマスク領域を設定する。システム制御部14が、マスク領域を同色に塗りつぶした各画像フレームから構成された表示情報を生成する。そして、システム制御部14が、ステップS22において、マスクされた表示情報を、動画IDと対応付けて、動画DB12a等に登録する。
 また、システム制御部14が、共通領域の大きさや形状の変化に合わせて、マスク領域の大きさや形状を変化させてもよい。
 マスクされた表示情報は、マスクされた分、動画のデータ量が削減されている。特に、エンコード時に動画を、動画の符号化方式により圧縮した際の圧縮率が高くなる。
 マスクされた表示情報を使用する場合、ステップS22において生成された制御情報と共に、マスクされた表示情報を視聴ユーザ端末装置40に送信する。視聴ユーザ端末装置40は、マスクされた表示情報を再生する時に、制御情報に基づき、マスク領域に広告を重畳して表示する。
 この制御情報に、広告データを含めた場合、制御情報で設定された広告を、状況に応じたタイミングで、マスク領域に柔軟に表示できる。この制御情報に、広告データを含めない場合、視聴ユーザ端末装置40における動画の再生時に、視聴ユーザの操作情報や購入履歴等のユーザ情報等の状況に応じた様々な広告を、マスク領域に柔軟に表示できる。
 なお、システム制御部14が、マスク領域に設定する色を、共通領域の色、共通領域の回りの背景色、付加する広告の色により、決定する。
 具体的には、システム制御部14が、共通領域の画素の色の情報、共通領域の境界から外の所定の範囲の画素の色の情報、および、付加する広告の色の情報の少なくとも1つを取得する。マスク領域に設定する色として、例えば、システム制御部14が、共通領域の画素の色に類似する色(例えば、RGBの各値の差が所定以内)、共通領域の境界から外の所定の範囲の画素の色に類似する色、または、付加する広告の色に類似する色等を設定する。または、マスク領域に設定する色として、例えば、システム制御部14が、共通領域の画素の色と共通領域の境界から外の所定の範囲の画素の色との中間の色(例えば、共通領域のRGBの値と、背景色のRGBの値との間にあるRGBの値)、共通領域の画素の色と広告の画素の色との中間色、共通領域の境界から外の所定の範囲の画素の色と広告の画素の色との中間色等を設定する。
 マスク領域に設定する色が、これら類似する色や中間色である場合、動画の符号化方式により動画を圧縮した際に、画像フレーム間での色の変化が少なくなり、動画の圧縮率が高くなる。
 また、図23Aから図23D、図24Aおよび図24Bに示すように、システム制御部14が、予め広告が埋め込まれた動画データを表示情報として生成しておいてもよい。
 例えば、システム制御部14が、広告を埋め込む領域(例えば、共通領域)を削除して、代わりに広告データを、画像フレーム毎に挿入しておいてもよい。この場合、制御情報が不要で、動画の情報を視聴ユーザ端末装置40に送信する。
 また、視聴ユーザ端末装置40への動画の配信時に、システム制御部14が、上記マスクされた表示情報を、動画DB12a等から読み出し、ユーザ情報等の情報等に応じて、広告を選択し、マスクされた表示情報のマスク領域に広告を埋め込み、新たな動画の情報である表示情報を生成してもよい。この場合、制御情報が不要で、動画の情報を視聴ユーザ端末装置40に送信する。
 なお、マスクする共通領域を選択する際に、システム制御部14が、ステップS21において、画像フレーム間における共通領域の差分データ量が、所定の閾値より大きい場合の共通領域を選択してもよい。システム制御部14が、所定の閾値を、共通領域の差分データ量により設定する。例えば、各共通領域がマスクされた画像フレームに置き換えた場合、システム制御部14が、動画の符号化方式による動画の圧縮率を比較して、圧縮率が最も高く圧縮される共通領域から所定順位の共通領域までを、マスクをかける共通領域として選択する。
(3.5 動画配信処理の動作例)
 まず、動画配信サーバ装置10における動画配信処理の動作例について図26を用いて説明する。
 図26は、一実施形態に係る動画配信サーバ装置のシステム制御部の動画配信処理の一例を示すフローチャートである。
 図26に示すように、動画配信サーバ装置10は、動画の視聴を希望する視聴ユーザ端末装置40から視聴を希望する動画のコンテンツ条件を取得する(ステップS30)。具体的には、システム制御部14が、視聴ユーザ端末装置40から、検索キーワード(映画のタイトル、俳優名、監督名等)、動画のカテゴリ等の動画コンテンツ条件の情報を取得する。
 次に、動画配信サーバ装置10は、取得したコンテンツ条件を満たす動画を、動画DB12aから抽出する(ステップS31)。具体的には、システム制御部14が、動画DB12aを参照して、コンテンツ条件に基づき検索を行い、コンテンツ条件を満たす動画を抽出し、リスト化した検索結果の表示情報を生成する。
 次に、動画配信サーバ装置10は、抽出した動画を視聴ユーザ端末装置40に提示する(ステップS32)。具体的には、システム制御部14が、生成した検索結果の表示情報を、視聴ユーザ端末装置40に送信する。
 次に、動画配信サーバ装置10は、視聴ユーザ端末装置40から動画の選択を取得する(ステップS33)。検索結果の一覧から視聴ユーザにより選択された動画の動画IDを、ユーザIDおよび動画表示要求と共に視聴ユーザ端末装置40が、動画配信サーバ装置10に送信する。システム制御部14が、視聴ユーザ端末装置40から、選択された動画の動画IDを受信する。
 次に、動画配信サーバ装置10は、動画と、動画に対応する制御情報と、を視聴ユーザ端末装置40に提供する(ステップS34)。具体的には、システム制御部14が、受信した動画IDに基づき、動画DB12aを検索して、受信した動画IDに対応する動画データを取得する。また、システム制御部14が、受信した動画IDに基づき、制御情報DB12eを検索して、受信した動画IDに対応する制御情報を取得する。
 システム制御部14が、動画IDの動画の情報および制御情報を視聴ユーザ端末装置40に送信する。
 なお、動画配信サーバ装置10は、動画IDの動画の全体のデータ、および、この動画のデータに対応した制御情報を、視聴ユーザ端末装置40にまとめて送信してもよいし、動画のチャプター毎に送信してもよいし、ストリーミング方式で、動画IDの動画のデータの一部および動画のデータに対応した制御情報を、視聴ユーザ端末装置40に送信してもよい。
(3.6 制御情報変更処理の動作例)
 次に、動画配信サーバ装置10における制御情報変更処理の動作例について図27および図28を用いて説明する。
 図27は、一実施形態に係る動画配信サーバ装置のシステム制御部の制御情報変更処理の一例を示すフローチャートである。図28は、動画データにおけるスキップまたは巻き戻しの一例を示す模式図である。
 図27に示すように、動画配信サーバ装置10は、視聴ユーザ端末装置40から操作情報を取得する(ステップS40)。具体的には、視聴ユーザ端末装置40の表示部43に再生されている動画に対する操作情報(例えば、スキップを開始した画像フレームのフレームIDおよびスキップが終了した画像フレームのフレームID、または、巻き戻しを開始した画像フレームのフレームIDおよび巻き戻しが終了した画像フレームのフレームID等)の情報を、システム制御部14が、視聴ユーザ端末装置40から取得する。
 図28に示すように、フレーム番号”000,015”からスキップを開始し、フレーム番号”000,135”でスキップを終了した場合、視聴ユーザ端末装置40は、スキップ開始のフレーム番号”000,015”および、スキップ終了のフレーム番号”000,135”の情報を、操作情報として、ユーザIDと共に、動画配信サーバ装置10に送信する。
 図28に示すように、フレーム番号”000,360”から巻き戻しを開始し、フレーム番号”000,165”で巻き戻しを終了した場合、視聴ユーザ端末装置40は、巻き戻し開始のフレーム番号”000,360”および、巻き戻し終了のフレーム番号”000,165”の情報を、操作情報として、ユーザIDと共に、動画配信サーバ装置10に送信する。
 次に、動画配信サーバ装置10は、操作情報と、操作情報に対応する画像フレームにおける表示候補領域の情報と、表示候補領域IDと、に基づいた表示候補領域の情報を算出する(ステップS41)。スキップした場合は、システム制御部14が、ステップS20のように、スキップした箇所のフレーム番号の画像フレームを除外した画像フレームにおいて、各フレーム・表示候補領域情報と、オブジェクトIDと、に基づいて、表示候補領域毎の表示候補領域の情報を再集計する。
 巻き戻した場合は、システム制御部14が、ステップS20のように、巻き戻した箇所のフレーム番号の画像フレームを重複した画像フレームにおいて、各フレーム・表示候補領域情報と、表示候補領域IDと、に基づいて、表示候補領域毎の表示候補領域の情報を再集計する。すなわち、システム制御部14が、巻き戻した箇所のフレーム番号の画像フレームに存在する表示候補領域のフレーム・表示候補領域情報を、余分に集計する。
 このように、新たに集計した表示候補領域情報は、集計表示候補領域情報DB12dに記録されてもよい。
 次に、動画配信サーバ装置10は、新たに集計した表示候補領域情報と、表示する広告の広告主が設定した広告表示条件と、基づいて、広告を表示する表示候補領域を選択する(ステップS42)。具体的には、システム制御部14が、ステップS21のように、集計表示候補領域情報DB12dを参照して、広告表示条件に合う集積した表示候補領域情報を検索し、広告を表示する共通領域を広告表示領域として選択する。
 次に、動画配信サーバ装置10は、選択した表示候補領域に対応するように、広告を表示するための制御情報を生成する(ステップS43)。具体的には、システム制御部14が、ステップS22のように、集計表示候補領域情報DB12dを参照して、選択した共通領域の共通領域IDに基づき、広告表示条件に合っている広告を表示する各フレームIDと、これらの画像フレームにおける共通領域の座標情報を取得して、各フレームIDと、これらのフレームIDに対応する座標情報を含む制御情報を生成する。なお、この制御情報は、上述した、表示情報を含む様々な制御情報の変形例でもよい。
 次に、動画配信サーバ装置10は、制御情報を視聴ユーザ端末装置40に提供する(ステップS44)。具体的には、システム制御部14が、ステップS34のように、新たに生成された制御情報を視聴ユーザ端末装置40に送信する。なお、以前の制御情報と比較して、新たに生成された制御情報の場合の方が、広告の出現数が減少して、広告表示条件等を満たさなくなる場合、システム制御部14は、新たに生成された制御情報を視聴ユーザ端末装置40に送信しなくてもよい。
 なお、図23Aに示すように、広告”AD-a1”の削除ボタンbtがクリックされた場合、視聴ユーザ端末装置40は、広告”AD-a1”の広告IDおよび削除要求を、操作情報として、ユーザIDと共に、動画配信サーバ装置10に送信してもよい。また、広告”AD-a1”等の広告がクリックされた場合、視聴ユーザ端末装置40は、広告”AD-a1”の広告IDおよび広告選択された旨の情報を、操作情報として、ユーザIDと共に、動画配信サーバ装置10に送信してもよい。そして、ステップS40のように、システム制御部14が、視聴ユーザ端末装置40から操作情報を取得する。
 システム制御部14が、広告の削除の操作情報を受信した場合、広告IDに対応する広告を削除した制御情報を含む表示情報を生成したり、広告IDに対応する広告の表示回数や表示面積を減少した制御情報を含む表示情報を生成したりして、表示情報の更新を行う。
 システム制御部14が、広告選択された旨の操作情報を受信した場合、広告IDに対応するリンク先のWebページを別のウィンドウに開く制御情報を生成したり、広告IDに対応する広告を削除した制御情報を含む表示情報を生成したり、広告IDに対応する広告の表示回数や表示面積を減少した制御情報を含む表示情報を生成したりして、表示情報の更新を行う。
 なお、視聴ユーザ端末装置40から操作情報として、視聴ユーザ端末装置40の表示部43に再生されている動画の表示サイズの変更操作の情報でもよい。そして、動画配信サーバ装置10が、この動画の表示サイズの変更操作に応じて広告を更新してもよい。
 動画の表示サイズの変更操作が、表示ウィンドウを縮小する操作の場合、動画の表示サイズの縮小に連れて、各表示候補領域(または共通領域)の表示面積が小さくなる。各表示候補領域の表示面積が小さくなると、広告表示条件を満たさなくなることがあるので、動画配信サーバ装置10は、新たな広告に置き換える処理、または、広告を消去する処理を行う。
 一方、動画の表示サイズの変更操作が、表示ウィンドウを拡大する操作の場合、動画の表示サイズの拡大に連れて、各表示候補領域の表示面積が大きくなる。各表示候補領域の表示面積が大きくなると、現在表示されている広告よりも広告表示条件を満足する度合いが高い広告がある可能性があるので、動画配信サーバ装置10は、現在広告よりも広告表示条件を満足する度合いが高い広告があれば、それの広告に置き換える処理を行う。
 動画配信サーバ装置10は、ステップS40で、これらのような動画の表示サイズの縮小または拡大の操作情報と、操作された画像フレームのフレームIDとを、視聴ユーザ端末装置40から取得する。
 動画配信サーバ装置10は、ステップS41で、操作された画像フレーム以降における表示候補領域の情報を算出する。この表示候補領域の情報には、表示サイズの縮小または拡大に伴う表示候補領域の面積の情報が含まれる。
 動画配信サーバ装置10は、ステップS42で、新たに算出した表示候補領域の情報と、表示する広告の広告主が設定した広告表示条件と、基づいて、広告を表示する表示候補領域を選択する。なお、広告表示条件を満たす広告がない場合、表示候補領域から広告が削除されてもよい。また、動画の表示サイズの変更に伴い、現在表示されている広告が、広告表示条件を満たす別の表示候補領域に表示されるように変更されてもよい。
 動画配信サーバ装置10は、ステップS43で、広告表示条件を満たした別の広告がある場合、この広告を表示するための制御情報を生成する。
 動画配信サーバ装置10は、ステップS44で、広告表示条件を満たした別の広告がある場合、この別の広告が表示される制御情報を視聴ユーザ端末装置40に提供する。
 以上、本実施形態によれば、付加コンテンツを表示するための付加コンテンツ表示領域の一例である広告表示領域(ad-ar1、ad-ar2、・・・)の候補となる表示候補領域cnd-arが、オブジェクト表示領域(ar1、ar2、・・・)に含まれない領域から特定され、特定された表示候補領域に関する情報と広告表示条件とに基づき、表示候補領域cnd-arから選択された広告表示領域にコンテンツを表示するための表示情報が生成されるので、コンテンツのオブジェクト(ob1、ob2、・・・)に、広告のコンテンツ等の他の画像が重ならず、広告表示領域を、視聴ユーザによる視聴を妨げとならない領域として生成できる。また、広告表示領域の位置、形状、大きさ等に合わせて、広告表示条件に合うように、柔軟に広告を表示させることができる。
 また、表示候補領域に関する情報が、複数の前記画像フレーム50において共通する表示候補領域cnd-arの共通領域(co-ar1、co-ar2、co-ar3)の大きさの情報を含み、共通領域の大きさに応じて、共通領域(co-ar1、co-ar2、co-ar3)から、広告表示領域(ad-ar1、ad-ar2、・・・)を選択する場合、各画像フレームにおいてオブジェクト(ob1、ob2、・・・)に重ならない領域で、各画像フレームにおける固定した位置に、共通領域(co-ar1、co-ar2、co-ar3)の大きさに合った広告を安定して表示できる。
 表示候補領域に関する情報が、複数の画像フレーム50において共通する表示候補領域cnd-arの共通領域(co-ar1、co-ar2、co-ar3)が動画において空間および時間の少なくとも一方の積算で表示される積算表示量を含み、積算表示量に応じて、共通領域(co-ar1、co-ar2、co-ar3)から、広告表示領域(ad-ar1、ad-ar2、・・・)を選択する場合、各画像フレームにおいてオブジェクト(ob1、ob2、・・・)に重ならない領域で、各画像フレームにおける固定した位置に、共通領域の積算表示量に合った広告を安定して表示できる。
 表示候補領域に関する情報が、複数の画像フレーム50において共通する表示候補領域cnd-arの共通領域(co-ar1、co-ar2、co-ar3)であって、画像フレーム50の隣接するフレーム間における共通領域(co-ar1、co-ar2、co-ar3)の画像の差分データ量を含み、共通領域(co-ar1、co-ar2、co-ar3)の画像の差分データ量により設定される閾値より、差分データ量が大きい共通領域(co-ar1、co-ar2、co-ar3)を、広告表示領域として選択する場合、差分データ量が大きい共通領域(co-ar1、co-ar2、co-ar3)が、画像フレーム毎の色等の変化が少ない広告と入れ替わることにより、動画の符号化方式による動画を圧縮した際のデータ量を削減することができる。
 表示候補領域に関する情報が、複数の画像フレーム50において共通する表示候補領域cnd-arの共通領域(co-ar1、co-ar2、co-ar3)の形状の情報を含み、広告表示条件が、広告の形状の情報を含み、広告の形状に適合するように、共通領域(co-ar1、co-ar2、co-ar3)の形状の情報に応じて選択される共通領域(co-ar1、co-ar2、co-ar3)を、広告表示領域として選択する場合、広告の形状を変形することなく、共通領域(co-ar1、co-ar2、co-ar3)の形状に合うように、広告を表示できるので、広告の形状を変形する処理を省くことができる。
 表示情報が、選択された広告表示領域の少なくとも一部を単一の色でマスクした動画を含む場合、単一の色でマスクされるため、動画を圧縮した際のデータ量を削減できる。
 オブジェクト表示領域ar1、ar2、・・・)に含まれない領域の中から、広告表示条件に基づいた形状に適合する表示候補領域cnd-arを特定する場合、広告表示領域(ad-ar1、ad-ar2、・・・)を選択する前に、表示候補領域cnd-arが広告表示条件に基づいた形状(例えば、矩形等)に適合するように限定されているので、矩形に楕円形等の表示候補領域を組み合わせたときの表示候補領域cnd-arの数が増加しなく、処理を軽減できる。
 次に、一部がマスクされた画像フレームの変形例について図29および図30を用いて説明する。
 図29および図30は、画像フレームの一部をマスクするマスクの変形例を示す模式図である。
 システム制御部14が、図29に示すように、広告表示領域ad-arと広告adとから、領域内の画素毎の中間色から構成されるマスク画像msを生成してもよい。図30に示すように、例えば、システム制御部14が、共通領域co-ar内の広告表示領域ad-arに対して、所定のフレーム番号に、共通領域co-arの一部の領域にマスク画像msを埋め込んだ画像フレームを作成する。共通領域co-arの一部の領域に広告adを埋め込んだ画像フレームの前に、マスク画像msを埋め込んだ画像フレームが表示されることにより、共通領域co-arの一部の領域に対して、画像情報の変化が軽減する。
 選択された共通領域co-arのオブジェクト情報に従った領域内の画素の色と、当該領域に付加する広告adの画素の色に基づき、当該領域をマスクする色が画素毎に決定され、表示情報が、領域を当該画素毎に決定された色でマスクした動画を含む場合、例えば、対応する画素毎の中間色で領域をマスクできるので、広告を表示させた画像フレーム前と、広告を表示させた後の画像フレームと、の間の画像フレームの一部を画素毎の中間色でマスクするので、動画を圧縮した際のデータ量を削減できる。
 なお、コンテンツ提供者が提供する動画に出現するオブジェクトに関して、オブジェクトに付加コンテンツの表示の許可または禁止の情報に基づき、システム制御部14が、ステップS21において、共通領域を選択してもよい。この場合、コンテンツ提供者の表示条件に満たすように、表示情報を生成できる。
 さらに、本発明は、上記各実施形態に限定されるものではない。上記各実施形態は、例示であり、本発明の特許請求の範囲に記載された技術的思想と実質的に同一な構成を有し、同様な作用効果を奏するものは、いかなるものであっても本発明の技術的範囲に包含される。
1:情報処理システム
10:動画配信サーバ装置
12:記憶部
12a:動画DB(動画記憶手段)
12b:広告DB
12c:フレーム・表示候補領域情報DB
12d:集計表示候補領域情報DB
12e:制御情報DB
14:システム制御部
20:コンテンツ提供装置
30:広告提供装置
40:視聴ユーザ端末装置
50:画像フレーム
 

Claims (10)

  1.  動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得手段と、
     前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定手段と、
     前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段と、
     前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成手段と、
     を備えたことを特徴とする情報処理装置。
  2.  請求項1に記載の情報処理装置おいて、
     前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域の大きさの情報を含み、
     前記付加コンテンツ表示領域選択手段が、前記共通領域の大きさに応じて、前記共通領域から、前記付加コンテンツ表示領域を選択することを特徴とする情報処理装置。
  3.  請求項1または請求項2に記載の情報処理装置おいて、
     前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域が前記動画において空間および時間の少なくとも一方の積算で表示される積算表示量を含み、
     前記付加コンテンツ表示領域選択手段が、前記積算表示量に応じて、前記共通領域から、前記付加コンテンツ表示領域を選択することを特徴とする情報処理装置。
  4.  請求項1から請求項3のいずれか1項に記載の情報処理装置おいて、
     前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域であって、前記画像フレームの隣接するフレーム間における前記共通領域の画像の差分データ量を含み、
     前記付加コンテンツ表示領域選択手段が、前記共通領域の画像の差分データ量により設定される閾値より、前記差分データ量が大きい共通領域を、前記付加コンテンツ表示領域として選択することを特徴とする情報処理装置。
  5.  請求項1から請求項4のいずれか1項に記載の情報処理装置おいて、
     前記表示候補領域に関する情報が、複数の前記画像フレームにおいて共通する前記表示候補領域の共通領域の形状の情報を含み、
     前記付加コンテンツ表示条件が、前記付加コンテンツの形状の情報を含み、
     前記付加コンテンツ表示領域選択手段が、前記付加コンテンツの形状に適合するように、前記共通領域の形状の情報に応じて選択される前記共通領域を、前記付加コンテンツ表示領域として選択することを特徴とする情報処理装置。
  6.  請求項1から請求項5のいずれか1項に記載の情報処理装置おいて、
     前記表示情報が、前記選択された前記付加コンテンツ表示領域の少なくとも一部を単一の色でマスクした動画を含むことを特徴とする情報処理装置。
  7.  請求項1から請求項6のいずれか1項に記載の情報処理装置おいて、
     前記付加コンテンツ表示領域の前記付加コンテンツを表示する領域の画素の色と、当該領域に付加する付加コンテンツの画素の色に基づき、当該領域をマスクする色が画素毎に決定され、
     前記表示情報が、前記領域を当該画素毎に決定された色でマスクした動画を含むことを特徴とする情報処理装置。
  8.  請求項1から請求項7のいずれか1項に記載の情報処理装置おいて、
     前記表示候補領域特定手段が、前記オブジェクト表示領域に含まれない領域の中から、前記付加コンテンツ表示条件に基づいた形状に適合する前記表示候補領域を特定することを特徴とする情報処理装置。
  9.  画像フレーム取得手段が、動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得ステップと、
     表示候補領域特定手段が、前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定ステップと、
     付加コンテンツ表示領域選択手段が、前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択ステップと、
     表示情報生成手段が、前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成ステップと、
     を含むことを特徴とする情報処理方法。
  10.  コンピュータを、
     動画を記憶する動画記憶手段から取得した前記動画に含まれる画像フレームのうち、少なくとも一部の複数の画像フレームを取得する画像フレーム取得手段、
     前記取得した画像フレーム毎に当該画像フレーム内に表示されているオブジェクトのオブジェクト表示領域を、前記画像フレーム毎に特定し、当該オブジェクト表示領域に含まれない領域の中から、前記動画に付加する付加コンテンツを表示するための付加コンテンツ表示領域の候補となる表示候補領域を少なくとも1つ特定する表示候補領域特定手段、
     前記特定された表示候補領域に関する情報と前記付加コンテンツを表示するための付加コンテンツ表示条件とに基づき、前記特定された表示候補領域から前記付加コンテンツ表示領域を選択する付加コンテンツ表示領域選択手段、および、
     前記選択された付加コンテンツ表示領域に前記付加コンテンツを表示するための表示情報を生成する表示情報生成手段として機能させることを特徴とする情報処理装置用のプログラム。
PCT/JP2015/077724 2015-09-30 2015-09-30 情報処理装置、情報処理方法および情報処理装置用プログラム WO2017056230A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017542591A JP6446144B2 (ja) 2015-09-30 2015-09-30 情報処理装置、情報処理方法および情報処理装置用プログラム
PCT/JP2015/077724 WO2017056230A1 (ja) 2015-09-30 2015-09-30 情報処理装置、情報処理方法および情報処理装置用プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/077724 WO2017056230A1 (ja) 2015-09-30 2015-09-30 情報処理装置、情報処理方法および情報処理装置用プログラム

Publications (1)

Publication Number Publication Date
WO2017056230A1 true WO2017056230A1 (ja) 2017-04-06

Family

ID=58422998

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/077724 WO2017056230A1 (ja) 2015-09-30 2015-09-30 情報処理装置、情報処理方法および情報処理装置用プログラム

Country Status (2)

Country Link
JP (1) JP6446144B2 (ja)
WO (1) WO2017056230A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111476273A (zh) * 2020-03-11 2020-07-31 西安万像电子科技有限公司 图像处理方法及装置
CN113596354A (zh) * 2021-07-23 2021-11-02 腾讯科技(深圳)有限公司 图像处理方法、装置、计算机设备及存储介质
JP2022088365A (ja) * 2020-02-06 2022-06-14 グリー株式会社 アクターの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画を配信する動画配信システム、動画配信方法及び動画配信プログラム
US11838603B2 (en) 2018-08-28 2023-12-05 Gree, Inc. Video distribution system for live distributing video containing animation of character object generated based on motion of distributor user, distribution method, and storage medium storing video distribution program

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001188525A (ja) * 1999-12-28 2001-07-10 Toshiba Corp 画像表示装置
JP2004282137A (ja) * 2003-03-12 2004-10-07 Sharp Corp テレビジョン放送受信機

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002032590A (ja) * 2000-06-22 2002-01-31 Internatl Business Mach Corp <Ibm> 広告方法、広告システム、広告枠の取引方法、広告枠の取引システムおよび記録媒体
JP2004102475A (ja) * 2002-09-06 2004-04-02 D-Rights Inc 広告情報重畳装置
JP5495386B2 (ja) * 2010-07-13 2014-05-21 Kddi株式会社 広告情報の提示方式を変更するコンテンツ再生方法、コンテンツ配信装置、端末及びプログラム
JP5992367B2 (ja) * 2013-06-19 2016-09-14 日本電信電話株式会社 メディアストレージシステムの制御方法、及びメディアストレージシステム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001188525A (ja) * 1999-12-28 2001-07-10 Toshiba Corp 画像表示装置
JP2004282137A (ja) * 2003-03-12 2004-10-07 Sharp Corp テレビジョン放送受信機

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11838603B2 (en) 2018-08-28 2023-12-05 Gree, Inc. Video distribution system for live distributing video containing animation of character object generated based on motion of distributor user, distribution method, and storage medium storing video distribution program
JP2022088365A (ja) * 2020-02-06 2022-06-14 グリー株式会社 アクターの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画を配信する動画配信システム、動画配信方法及び動画配信プログラム
JP7385689B2 (ja) 2020-02-06 2023-11-22 グリー株式会社 アクターの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画を配信する動画配信システム、動画配信方法及び動画配信プログラム
CN111476273A (zh) * 2020-03-11 2020-07-31 西安万像电子科技有限公司 图像处理方法及装置
CN113596354A (zh) * 2021-07-23 2021-11-02 腾讯科技(深圳)有限公司 图像处理方法、装置、计算机设备及存储介质
CN113596354B (zh) * 2021-07-23 2022-08-19 腾讯科技(深圳)有限公司 图像处理方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
JPWO2017056230A1 (ja) 2018-08-02
JP6446144B2 (ja) 2018-12-26

Similar Documents

Publication Publication Date Title
US20130223537A1 (en) Video Bit Stream Transmission System
JP6446144B2 (ja) 情報処理装置、情報処理方法および情報処理装置用プログラム
US20150082203A1 (en) Real-time analytics, collaboration, from multiple video sources
JP6446143B2 (ja) 情報処理装置、情報処理方法および情報処理装置用プログラム
KR101741352B1 (ko) 데이터 및 오디오/비디오 콘텐츠의 전달을 제어하는 관심도 평가
KR101839927B1 (ko) 미디어 데이터에 있는 아이템을 인식하고 이와 관련된 정보를 전달하기 위한 시스템 및 방법
US20120192226A1 (en) Methods and Systems for Customized Video Modification
US9224156B2 (en) Personalizing video content for Internet video streaming
US20190259423A1 (en) Dynamic media recording
US20150227780A1 (en) Method and apparatus for determining identity and programing based on image features
US9767463B2 (en) On demand product placement
US10911814B1 (en) Presenting content-specific video advertisements upon request
KR101699027B1 (ko) 컨텐츠 제공 방법, 장치 및 컴퓨터 프로그램
KR20140118604A (ko) 개인화된 증강 객체를 전송하는 서버 및 방법
JP2003250141A (ja) 映像配信サーバ
KR20180030565A (ko) 공통적인 미디어 세그먼트의 검출
US20140150017A1 (en) Implicit Advertising
KR101519047B1 (ko) 영상 처리 방법
US9060186B2 (en) Audience selection type augmented broadcasting service providing apparatus and method
JP4770875B2 (ja) 画像特徴データ生成装置、画像特徴判定装置および画像検索システム
US20150326892A1 (en) System and method for identifying target areas in a real-time video stream
US20230206632A1 (en) Computerized system and method for fine-grained video frame classification and content creation therefrom
KR102358181B1 (ko) Tv 광고영상을 실시간으로 분석하여 매칭되는 지역 광고를 호출하는 티커머스 경험 제공 방법
CN108769688B (zh) 视频编解码方法
US9560103B2 (en) Custom video content

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15905384

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2017542591

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15905384

Country of ref document: EP

Kind code of ref document: A1