WO2017168562A1 - コンテンツ投影制御装置、情報処理方法、プログラム - Google Patents

コンテンツ投影制御装置、情報処理方法、プログラム Download PDF

Info

Publication number
WO2017168562A1
WO2017168562A1 PCT/JP2016/060121 JP2016060121W WO2017168562A1 WO 2017168562 A1 WO2017168562 A1 WO 2017168562A1 JP 2016060121 W JP2016060121 W JP 2016060121W WO 2017168562 A1 WO2017168562 A1 WO 2017168562A1
Authority
WO
WIPO (PCT)
Prior art keywords
content
priority
deteriorated
component
projection
Prior art date
Application number
PCT/JP2016/060121
Other languages
English (en)
French (fr)
Inventor
宗 益子
Original Assignee
楽天株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 楽天株式会社 filed Critical 楽天株式会社
Priority to JP2018507879A priority Critical patent/JP6622387B2/ja
Priority to PCT/JP2016/060121 priority patent/WO2017168562A1/ja
Publication of WO2017168562A1 publication Critical patent/WO2017168562A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor

Definitions

  • the present invention relates to a content projection control device, an information processing method, and a program for realizing the content projection control device, and more particularly to processing for content projected on a projection region.
  • projector apparatuses that project content (visual information) onto a required projection target object such as a whiteboard or a wall of a room are widely used, and various techniques for supporting content projection performed by such a projector apparatus are available. Proposed.
  • Patent Document 1 discloses a technique for calibrating a deviation between a coordinate system of a virtual screen on which CG (Computer Graphics) is displayed and a coordinate system of a real environment visually recognized through the virtual screen by projective transformation or the like. Further, Patent Document 2 discloses a technique for preventing deterioration in image quality such as blurring of a virtual image formed by a projected image by adjusting the depth of focus of the projected image. Patent Document 3 discloses a technique for adjusting a projection region using an adjustment chart.
  • CG Computer Graphics
  • the conditions of the projection area for projecting the content are poor, for example, when the color or pattern of at least a part of the wall to be projected affects the display mode of the content, or an accessory such as a calendar or a clock May overlap the projection area, the visibility of the projected content may be reduced.
  • the present invention has been made in view of the above problems, and an object of the present invention is to suppress a reduction in the visibility of projected content even when the conditions of a projection area are bad.
  • a content projection control apparatus includes a content data acquisition unit that acquires content data indicating content including at least one component, a projection region data acquisition unit that acquires projection region data indicating a projection region, Based on the projection area data, a deteriorated part specifying unit that specifies a deteriorated part of the projection area where the projection condition is deteriorated, and a priority specifying part that specifies the priority of the component constituting the projected content
  • a component having a relatively high priority is deteriorated based on the position of the specified degraded portion in the projection region, the content data projected onto the projection region, and the priority of the component included in the content data.
  • the ratio of components having relatively lower priority than the ratio included in the portion is higher in the ratio included in the deteriorated portion.
  • a position determination unit that determines the position of the components included in the Ntsudeta are those comprising a.
  • the deteriorated portion specifying unit is configured to detect the deteriorated portion based on a captured image obtained by capturing the content indicated by the content data projected onto the projection area and the image of the content. Can be specified. As a result, it is possible to appropriately identify the component that needs to be corrected in the projected content.
  • the arrangement position determination unit includes a deterioration degree indicating a degree of deterioration calculated for each specified deterioration portion, and a threshold value according to the priority of the component. Based on the comparison, it is possible to determine the arrangement positions of the constituent elements included in the content data. As a result, the change of the arrangement position is not performed for all the constituent elements overlapping with the deteriorated portion, but can be selectively performed for the constituent elements selected based on the deterioration degree and priority of the constituent elements.
  • the arrangement position determination unit is configured to detect a difference in feature amount between a captured image obtained by projecting the content indicated by the content data projected onto the projection area and the image of the content. Based on this, it is possible to calculate the degree of deterioration. Thereby, based on the magnitude of the degree of deterioration in visibility, it is possible to appropriately specify the constituent element whose arrangement position is to be changed.
  • the arrangement position determination unit includes a deteriorated portion identified based on a captured image obtained by projecting the content indicated by the content data projected on the projection area and the content. It is possible to calculate the deterioration degree based on the magnitude of. Thereby, based on the size of the visibility-deteriorating portion, it is possible to appropriately specify the constituent element whose arrangement position is to be changed.
  • the arrangement position determination unit can determine the arrangement position in order from the constituent element having the highest priority. Thereby, it is possible to secure a good position in the display area for a component having a higher priority.
  • the arrangement position determination unit is configured to target only the component having a relatively high priority among the components included in the deteriorated portion. It is possible to determine the arrangement position so that the range included in is reduced. Thereby, since the arrangement
  • the priority specifying unit can specify the priority based on a feature amount of the component included in the content. Thereby, it is possible to set an appropriate priority according to the feature of the component.
  • the priority specifying unit can specify the priority based on the projection size of the component included in the content. Since it can be said that the importance of the component is higher as the projection size of the component is larger, according to the above configuration, it is possible to determine an appropriate arrangement position according to the importance of the component.
  • the priority specifying unit can specify the priority based on an attribute of the component included in the content. Since it can be said that the importance of the component is correlated with the attribute of the component, according to the above configuration, it is possible to determine an appropriate arrangement position according to the importance of the component. .
  • An information processing method includes a content data acquisition step for acquiring content data indicating content including at least one component, and a projection region data acquisition step for acquiring projection region data indicating a projection region.
  • a deteriorated part specifying step for specifying a deteriorated part in the projection area where the projection condition is deteriorated
  • a priority specifying for specifying the priority of the component constituting the projected content
  • a program according to the present invention is a program that causes an information processing apparatus to execute processing executed as the information processing method.
  • the present invention it is possible to suppress a reduction in the visibility of the content to be projected even when the condition of the region to be projected is bad.
  • FIG. 1st Embodiment It is a figure showing an example of a network system of a 1st embodiment concerning the present invention. It is the block diagram which showed the internal structure of the information processing apparatus as 1st Embodiment. It is the block diagram which showed the internal structure of the user terminal which comprises the network system of embodiment. It is the functional block diagram which showed the function which concerns on the degradation correction method of 1st Embodiment as a block. It is the figure which showed an example of the content and the projection area
  • First Embodiment> [1-1. Overview of network system] [1-2. Device configuration] [1-3. Deterioration correction method of first embodiment] [1-4. Processing procedure] [1-5. Modification 1] [1-6. Modification 2] [1-7. Modification 3] [1-8. Modification 4] [1-9. Modification 5] [1-10. Summary of First Embodiment] ⁇ 2. Second Embodiment> [2-1. Overview of network system] [2-2. Processing method for dealing with deterioration according to second embodiment] [2-3. Processing procedure] [2-4. Modification 1] [2-5. Modification 2] [2-6. Modification 3] [2-7. Modification 4] [2-8. Modification 5] [2-9. Modification 6] [2-10. Modification 7] [2-11. Summary of Second Embodiment] ⁇ 3. Program and Storage Medium>
  • FIG. 1 shows an example of a network system 1 assumed in the present embodiment.
  • the network system 1 includes, for example, a web server 3 that can communicate with each other via a network 2 as the Internet, a plurality of user terminals 4, 4,. Yes.
  • the user terminal 4 is configured as a computer device (information processing device) provided with a web browser.
  • Examples of the user terminal 4 include a high-function mobile phone (smart phone), a mobile phone, a mobile information terminal (tablet terminal, etc.), and the type of the user terminal 4 is not limited to these.
  • the user terminal 4 requests a web page or a predetermined process by transmitting an HTTP (Hypertext Transfer Protocol) request to the web server 3.
  • the user terminal 4 receives web page data (for example, HTML (HyperText Markup Language) data) sent in response to the HTTP request, and performs web page display processing. Thereby, the user can browse and operate a desired web page.
  • HTTP Hypertext Transfer Protocol
  • the user terminal 4 includes a projector unit 4a as a means for displaying visual content (hereinafter simply referred to as “content”), and the received web page data is included in the web page data received as described above. It is possible to project and display the content based on the projector unit 4a.
  • the web page is merely an example of “projected content” and is not limited to this.
  • the web server 3 is configured by a computer device and performs various processes based on the HTTP request transmitted from the user terminal 4. For example, the web page data of the requested web page is generated and transmitted.
  • the web server 3 can communicate with the assumed data DB 5 via a network such as a LAN (Local Area Network).
  • the web server 3 performs a process for correcting the content projected by the projector unit 4a of the user terminal 4 based on the information stored in the assumed data DB 5, but the process and the information stored in the assumed data DB 5 The details of will be described later.
  • FIG. 1 various examples of the configuration of the network 2 are assumed.
  • the Internet intranet, extranet, LAN (Local Area Network), CATV (Community Antenna TeleVision) communication network, virtual private network, telephone line network, mobile communication network, satellite communication network, etc.
  • Various examples of transmission media constituting all or part of the network 2 are also envisaged.
  • IEEE Institute of Electrical and Electronics Engineers 1394, USB (Universal Serial Bus), power line carrier, telephone line etc. wired, infrared such as IrDA (Infrared Data Association), Bluetooth (registered trademark), 802.11 wireless It can also be used by radio such as a mobile phone network, satellite line, and digital terrestrial network.
  • FIG. 2 is a block diagram showing an internal configuration of the web server 3 shown in FIG.
  • the web server 3 includes a control unit 30, a storage unit 31, an input / output unit 32, and a communication unit 33.
  • the control unit 30 includes a CPU (Central Processing Unit), a ROM (Read Only Memory), and a RAM (Random Access Memory).
  • the control unit 30 is connected to a storage unit 31 configured by an HDD (Hard Disk Drive), a flash memory device, or the like, and various data can be written to and read from the storage unit 31.
  • the control unit 30 executes various processes according to a program stored in the ROM or a program loaded from the storage unit 31 to the RAM.
  • the RAM appropriately stores data necessary for the CPU to execute various processes.
  • the input / output unit 32 is connected to the control unit 30.
  • the input / output unit 32 functions as an input / output interface for various devices.
  • an operation input device including a keyboard, a mouse, a touch panel, an LCD (Liquid Crystal Display), a CRT (Cathode Ray Tube), an organic EL (Electroluminescence) panel
  • a reader / writer device capable of reading / writing removable media such as a magnetic disk, an optical disk, a magneto-optical disk, and a semiconductor memory is connected as necessary.
  • the control unit 30 can input / output information using various devices connected to the input / output unit 32.
  • control unit 30 is connected to a communication unit 33 that enables mutual data communication with an external device.
  • the communication unit 33 is configured to be able to communicate via the Internet, whereby the control unit 30 can exchange various data with the user terminal 4 via the network 2.
  • data and programs can be uploaded and downloaded through communication by the communication unit 33, and data and programs can be transferred via removable media using the reader / writer device described above. It is.
  • the control unit 30 performs processing operations based on various programs, the web server 3 executes information processing and communication described below.
  • the information processing apparatus as the web server 3 may be configured by systemizing a plurality of computer apparatuses.
  • the plurality of computer devices may be systemized by a LAN or the like, or may be arranged at a remote place by a VPN using the Internet or the like.
  • FIG. 3 is a block diagram showing an internal configuration of the user terminal 4 shown in FIG.
  • the user terminal 4 includes a projector unit 4a, a control unit 40, a storage unit 41, an input / output unit 42, a communication unit 43, an operation unit 44, a camera unit 45, a captured image processing unit 46, a display unit 47, and a first unit.
  • a display driving unit 48 is provided.
  • the control unit 40 includes a CPU, a ROM, and a RAM.
  • the control unit 40 is connected to a storage unit 41 configured by an HDD, a flash memory device, or the like, and various data can be written to and read from the storage unit 41.
  • the control unit 40 executes various processes according to a program stored in the ROM or a program loaded from the storage unit 41 to the RAM.
  • the RAM appropriately stores data necessary for the CPU to execute various processes.
  • a program for realizing a function as a web browser is stored in the ROM or the storage unit 41 in the control unit 40.
  • the control unit 40 acquires web page data from the web server 3 and performs processing for displaying a web page based on the acquired web page data.
  • An input / output unit 42 that functions as an input / output interface for various devices is connected to the control unit 40, whereby the control unit 40 exchanges data with various external devices connected to the input / output unit 42. It is possible to do.
  • control unit 40 is connected to a communication unit 43 that enables mutual data communication with an external device.
  • the communication unit 43 is configured to be able to communicate via the Internet, whereby the control unit 40 can exchange various data with the web server 3 (control unit 30) via the network 2. .
  • An operation unit 44 is connected to the control unit 40.
  • the operation unit 44 includes various types of operation elements such as buttons and a touch panel for a user to perform operation input, and supplies an operation input signal corresponding to an operation on the operation element to the control unit 40.
  • the control unit 40 performs processing according to the operation input signal from the operation unit 44 according to the program. Thereby, the operation
  • the camera unit 45 includes an imaging lens for imaging a subject and an imaging element.
  • the image sensor is configured to be capable of capturing a color image.
  • the captured image processing unit 46 performs predetermined captured image signal processing such as A / D conversion processing and correction processing of various optical aberrations on the captured image signal obtained by the image sensor in the camera unit 45, and performs captured image as digital data. Get the data.
  • the camera unit 45 and the captured image processing unit 46 read the captured image signal from the image sensor and perform captured image signal processing based on an instruction from the control unit 40.
  • the imaging direction by the camera unit 45 is set to a direction in which an image projected on the projection object by the projector unit 4a can be captured.
  • the captured image processing unit 46 is connected to the control unit 40, and the control unit 40 can acquire captured image data captured by the captured image processing unit 46.
  • the control unit 40 can store the acquired captured image data in the storage unit 41 or transmit the acquired captured image data to an external device via the communication unit 43.
  • the display unit 47 is composed of, for example, an LCD or an organic EL (Electroluminescence) panel, and displays various types of information.
  • the first display drive unit 48 drives the display unit 47 based on an instruction from the control unit 40.
  • the projector unit 4 a includes a projection optical system 50, a light source driving unit 51, and a second display driving unit 51.
  • the projection optical system 50 has a light source 50a configured by, for example, an LED (light emitting diode) that functions as a light source for projection light, and light modulation (light intensity modulation) in units of pixels with respect to light incident from the light source 50a.
  • a light modulation element 50b to be applied, and a projection lens 50c for projecting the light modulated by the light modulation element 50b onto a projection target are provided.
  • the light modulation element 50b a transmissive liquid crystal panel is used in this example, but other light modulation elements such as a reflection liquid crystal panel and a micromirror can be used.
  • the light source driving unit 51 performs on / off of the light source 50a and light amount adjustment based on an instruction from the control unit 40.
  • the second display drive unit 52 controls each pixel of the light modulation element 50b so that display drive for the light modulation element 50b is performed based on an instruction from the control unit 40, specifically, the light intensity is modulated in units of pixels. To drive.
  • the projector unit 4a of the present embodiment is capable of projecting a color image.
  • a liquid crystal panel is used as the light modulation element 50b
  • light (white light) emitted from the light source 50a is R (red), G (green), and B (blue) as a so-called three-plate method for color image projection.
  • the second display driving unit 52 drives to display the corresponding color liquid crystal panel (light modulation element 50b) based on the R, G, and B values of the color image data to be projected. .
  • the configuration of the user terminal 4 is not limited to that shown in FIG.
  • the projector unit 4a and the camera unit 45 are not built in the user terminal 4 but can be externally attached.
  • FIG. 5A shows an example of content projected by the projector unit 4a
  • FIG. 5B shows an example of a projection target as a target on which the content is projected.
  • the web server 3 is imaged by the user terminal 4 for the deterioration correction for the projected content. It is assumed that this is performed based on the obtained image.
  • FIG. 5A shows each component part p arranged on a web page wp as an example of content.
  • the web page wp five component parts p1 to p5 are arranged.
  • Each component part p is a component that constitutes a part of the web page wp.
  • the component parts p are separated by tags for specifying a range such as ⁇ P> tag and ⁇ div> tag in HTML. Suppose that it is a component.
  • each component part p includes text information (character information), and the background color of the text can be specified by HTML.
  • character is a concept including numbers and symbols, and means information that can be expressed by, for example, a character code.
  • each component part p has a different display size (display area: image size), and the display size is reduced from p1 to p5.
  • the component part p1 having the largest display size is arranged at the top of the web page wp
  • the component part p2 having the next largest display size is arranged below the lower part
  • the component part p3 and the component parts are arranged at the lower part.
  • p4 is arranged side by side
  • the constituent part p5 having the smallest display size is arranged on the right side of the constituent part p4.
  • FIG. 5B the projection area Ap of the web page wp when the web page wp is projected by the projector unit 4a is represented by a broken line.
  • the projection area Ap cannot be set at a position where all obstacles are avoided, and the web page wp may be projected with some obstacles overlapping.
  • the visibility of the web page wp may be deteriorated in the part where the obstacles overlap.
  • amendment for aiming at suppression of deterioration is performed for the part which brings about deterioration which makes visibility worse by duplication of such an obstacle.
  • control unit 30 of the web server 3 is divided into functions, content data acquisition processing unit F1, projection region data acquisition processing unit F2, deteriorated part specifying processing unit F3, display mode change processing unit F4, and content data. It can be expressed as having the generation processing unit F5.
  • the content data acquisition processing unit F1 acquires content data indicating content including at least one component. That is, in this example, the web page wp is acquired.
  • the projection area data acquisition processing unit F2 acquires projection area data indicating the projection area.
  • imaging data obtained by imaging the content projected on the projection area Ap is acquired as the projection area data.
  • the captured image data Si obtained by the camera unit 45 capturing an image of the web page wp projected by the projector unit 4a is received from the user terminal 4 and acquired.
  • the deteriorated part specifying processing unit F3 specifies a deteriorated part having a deteriorated projection condition in the projection area based on the projection area data.
  • the deteriorated portion specifying processing unit F3 of this example specifies a deteriorated portion based on a captured image (captured image data Si in this example) obtained by capturing the content indicated by the content data projected onto the projection area Ap and the content image. .
  • the deteriorated portion is specified based on the captured image data Si and the assumed display data corresponding to the content projected on the projection area.
  • the assumed display data is data assuming how the content is displayed when the content is projected onto the projection target, and there is no factor that deteriorates the visibility in the projection area Ap.
  • the imaging data acquired by the imaging data acquisition processing unit F1 is obtained in a manner that substantially matches the assumed display data.
  • the assumed display data includes at least data representing a color at each position in the projected content.
  • the assumed display data in this example is image data having luminance values of R, B, and G of each pixel when an image as content is divided in units of pixels with a predetermined size.
  • the assumed display data is prepared for each web page that can be distributed by the web server 3. Furthermore, the assumed display data for each web page is prepared for each environment that can be assumed as a projection environment when the projector unit 4a projects content.
  • the items representing the projection environment include, for example, the color of the projection object and the brightness of the room in which the projection is performed (for example, whether or not the illumination of the room is turned off).
  • the assumed display data is generated based on the result of actual projection for each projection environment that can be assumed for the content as each web page. Or it is good also as what calculates
  • projection environment identification information for identifying the projection environment is acquired from the user terminal 4 so that the web server 3 can acquire the assumed display data.
  • the projection environment identification information is acquired by the user terminal 4 based on an operation input by the user.
  • the control unit 40 of the user terminal 4 causes the display unit 47 to display a list of projection environments that can be assumed, and causes the user to select a corresponding projection environment from the list.
  • the control unit 40 transmits projection environment identification information that uniquely represents the selected projection environment to the web server 3.
  • the assumed data acquisition processing unit F2 acquires the assumed display data corresponding to the assumed data DB 5 based on the projection environment identification information transmitted from the user terminal 4.
  • the projection environment identification information is simply expressed as “environment ID”.
  • FIG. 6 shows an example of the assumed data management information I1 for managing the assumed display data stored in the assumed data DB5.
  • the assumed data DB 5 stores assumed display data corresponding to each projection environment for each web page that can be distributed by the web server 3.
  • the assumed data DB 5 stores assumed data management information I1 for managing these assumed display data.
  • the assumed data management information I1 is a page for uniquely identifying each web page. For each combination of ID and environment ID, information corresponding to an assumed data ID for uniquely identifying the corresponding assumed display data is used.
  • the web server 3 uses the assumed display data corresponding to the environment ID received from the user terminal 4 among the assumed display data corresponding to the web page projected by the user terminal 4. get.
  • the page ID of the projected web page is specified on the web server 3 side at the time of the above request.
  • the web server 3 is based on the assumed data management information I1 based on the assumed data management information I1 based on the page ID specified in response to the web page request from the user terminal 4 and the environment ID received from the user terminal 4. Get the corresponding assumed display data.
  • the assumed display data it is not essential to prepare the assumed display data in advance. For example, based on the page ID of the web page requested by the user terminal 4 and the environment ID acquired from the user terminal 4, the above-described simulation calculation is performed on the assumed display data when the corresponding web page is projected in the corresponding projection environment. It can also be obtained each time. In that case, the assumed data DB 5 can be omitted. Moreover, although the case where the assumption display data in consideration of the different projection environments on the user terminal 4 side is acquired has been exemplified above, it is not essential to consider the different projection environments when correcting the deterioration of the content.
  • the degradation portion is specified based on the result of detecting the difference between the assumed display data and the captured image data Si.
  • the difference information information indicating a difference in feature amount between the assumed display data and the imaging data is specified.
  • information representing the color difference between the assumed display data and the captured image data Si is specified.
  • the information indicating the color difference is a difference in luminance values of R, G, and B for each pixel.
  • “color” is a concept including black, white, and gray.
  • the difference information is specified in units of pixels of the captured image data Si.
  • the difference information is specified in units of pixels of the captured image data Si
  • the difference between the focal length of the camera unit 45 and the distance from the image sensor to the projection target when the captured image data Si is obtained by the user terminal 4 is determined.
  • the number of pixels corresponding to one pixel in the assumed display data corresponds to how many pixels of the image sensor (captured image data Si). That is, between the captured image data Si and the assumed display data, which pixel in the assumed display data corresponds to each pixel constituting the image portion of the projected content existing in the captured image data Si.
  • the pixel correspondence Rp is different.
  • the deteriorated portion specifying processing unit F3 specifies the image portion of the web page wp projected from the acquired captured image data Si, and the image size of the specified image portion and From the ratio with the image size of the assumed display data, the number of pixels in the captured image data Si corresponding to one pixel in the assumed display data is calculated. From this calculation result, the pixel correspondence Rp is identified, and based on the identified pixel correspondence Rp, the difference information between the assumed display data and the captured image data Si (image portion of the projected content) is obtained from the captured image data Si. Specify in pixel units.
  • the deteriorated portion specifying processing unit F3 specifies a portion where the magnitude of the color difference (feature amount difference) obtained as the difference information is equal to or greater than a certain value as the deteriorated portion D. Specifically, for example, a portion where the total value of differences (absolute values) of luminance values of R, G, and B is a certain value or more is specified as the degraded portion D.
  • FIG. 7 shows an example of the deteriorated portion D when the web page wp is projected onto the projection area Ap shown in FIG. 5B.
  • the paste s3 is a poster, for example, and a plurality of wavy black patterns as illustrated are formed on a white background.
  • the wavy black pattern portion is specified as the deteriorated portion D by the deteriorated portion specifying processing unit F3.
  • the deteriorated portion D may have a character shape.
  • the display mode change processing unit F4 is displayed in the degraded portion of the constituent elements included in the content data based on the position of the identified degraded portion in the projection area and the content data displayed in the projection area.
  • the display mode of the component to be changed is changed. In this example, the color is changed as the display mode.
  • the display mode is changed in units of component parts p. That is, the display mode is changed for the component part p displayed in the deteriorated portion D (in other words, overlapping with the deteriorated portion D).
  • the display part of the component part p that overlaps the deteriorated portion D is not always changed, and the component part p that is the target of the display form change is determined according to the priority specified for each component part p. Select (specify).
  • the control part 30 specifies the priority for every structural part p which comprises the web page wp.
  • a function for specifying the priority is represented as a priority specification processing unit F4a in FIG.
  • the priority specification processing unit F4a specifies the priority based on the importance of the component part p. Specifically, the priority is specified based on the projection size of the component part p. In the web page wp, since the order of the constituent parts p1 to p5 is the order of the image size, the projection size is also the same order. Accordingly, as the priority in this case, a gradually higher priority is specified from the component part p5 to the component part p1.
  • the display mode change processing unit F4 of this example specifies the configuration part p that should be the display mode change target using the deterioration level for each configuration part p as an index together with the above-described priority. Specifically, the display mode change processing unit F4 in this case calculates the deterioration level for each component part p, and is the configuration part p that should be the display mode change target based on the deterioration level and priority. Determine whether or not.
  • the degree of deterioration is an index representing the degree of deterioration caused by the deteriorated portion D in the component constituting the content, and is calculated as follows in this example.
  • the ratio of the display area of the deteriorated portion D in the display area of the target component part p (hereinafter referred to as “deteriorated area ratio”) to the color difference in the deteriorated portion D overlapping with the component part p ( It is calculated by multiplying the average value of the color difference specified as the difference information.
  • the average value is an average value of pixels constituting the deteriorated portion D.
  • the degree of deterioration for each component part p in this example is calculated in consideration of the area where the deteriorated portion D overlaps and the magnitude of the difference between the assumed display data of the deteriorated portion D.
  • the deterioration degree is calculated for each component part p that overlaps the deteriorated portion D. Then, by determining whether or not the degree of deterioration calculated for the component part p is equal to or higher than a threshold value THp determined according to the priority specified for the component part p, the component part p is displayed in the display mode. It is determined whether or not the component part p is to be changed.
  • the threshold value THp is set to be smaller as the threshold value THp for the component part p having a higher priority is as follows.
  • the component part p having a higher priority level is more likely to be determined as a display mode change target with a lower degree of deterioration.
  • Priority: 1 ⁇ threshold THp 5
  • Priority: 2 ⁇ threshold THp 10
  • Priority: 3 ⁇ threshold THp 20
  • Priority: 4 ⁇ threshold THp 35
  • Priority: 5 ⁇ threshold THp 50
  • the display mode change processing unit F4 specifies the component part p that should be the display mode change target by the determination process according to the deterioration degree and the priority as described above. Change the display mode.
  • FIG. 8 shows an example in which the deteriorated portion D due to the wavy black pattern as illustrated in FIG. 7 is overlapped in the component part p whose display mode is to be changed.
  • the color of the character part tx in the component part p is black
  • the background color of the character part tx is dark gray.
  • the display color of the character part tx of the component part p is emphasized with respect to the color of the deteriorated part D as shown in FIG. 9A.
  • Change to color (bright color).
  • the color of the character portion tx is changed to white (or a color close to white) in response to the color of the deteriorated portion D being black.
  • the visibility of the character part tx can be improved rather than the original state (FIG. 8).
  • the above “emphasized color” is changed to white (or a color close to white).
  • the “emphasized color” is changed to a color opposite to the color of the deteriorated portion D (complementary color). For example, when the color of the deteriorated portion D is blue, it is yellow, and when the color of the deteriorated portion D is red, it is green.
  • the color of the background part bg (character background color) of the component part p is changed with respect to the color of the deteriorated part D as shown in FIG. 9B. It can also be changed to a highlighted color. Specifically, in this case, the color of the background portion bg is changed to white (or a color close to white) with respect to black as the color of the deteriorated portion D.
  • the background color of the character is changed in this way, the color of the deteriorated portion D can be changed in a direction that increases the visibility of the character (in the example of FIGS. 8 to 9B, the color of the deteriorated portion D can be brightened). ). Thereby, the visibility of the character part tx can be improved rather than the original state (FIG. 8).
  • the color of the character part tx and the background part bg in the component part p can be relatively easily changed in this example by changing the description of the corresponding tag in the HTML data.
  • the method of changing the background color described with reference to FIG. 9B is a method of changing the display mode so as to reduce the color difference in the deteriorated portion D between the assumed display data and the captured image data Si. it can.
  • the content data generation processing unit F5 generates content data for projecting the content whose display mode has been changed by the display mode change processing unit F4. That is, in the case of this example, web page data including HTML data subjected to the description change for the color change of the target component part p as described above is generated as the HTML data for the web page wp.
  • the control unit 30 causes the communication unit 33 to transmit the web page data (content data) generated by the content data generation processing unit F5 as described above to the requesting user terminal 4. Thereby, the web page wp in which the decrease in the visibility is suppressed can be projected and displayed again in response to a decrease in the visibility caused by the degraded portion D on the web page wp. .
  • FIG. 10 the process shown as “web server” is executed based on a program stored in the ROM or storage unit 31 built in the control unit 30, and the process shown as “user terminal” is executed by the control unit 40.
  • the program is executed based on a program stored in the built-in ROM or the storage unit 41. It is assumed that the environment ID (projection environment identification information) described above has been acquired by the user terminal 4 when the processing shown in FIG. When the specification does not take into account the projection environment described above, acquisition of the environment ID is not essential.
  • control unit 40 of the user terminal 4 transmits a web page request and an environment ID to the web server 3 (control unit 30) in step S101.
  • the control unit 30 of the web server 3 transmits the web page data of the web page corresponding to the requesting user terminal 4 (control unit 40) in step S201.
  • the control unit 30 performs an assumed display data acquisition process. That is, based on the environment ID transmitted from the user terminal 4 and the page ID of the web page requested from the user terminal 4 (transmitted in step S201), it corresponds from the assumed data DB 5 in accordance with the assumed data management information I1 described above. Get assumed display data.
  • control unit 40 When the control unit 40 receives the web page data in response to the request from the web server 3, the control unit 40 proceeds to step S102 and performs a projection process. That is, a process for projecting an image based on the received web page data by the projector unit 4a is performed.
  • step S103 the control unit 40 reads out the captured image signal from the imaging element in the camera unit 45 and executes the captured image signal processing by the captured image processing unit 46 as the imaging process, and the projector unit 4a performs projection.
  • Captured image data Si obtained by capturing the image (web page) as a subject is acquired.
  • step S104 the control unit 40 performs processing for transmitting the acquired captured image data Si to the web server 3 as captured image transmission processing.
  • the control unit 40 advances the process to step S105 in response to the execution of the transmission process of step S104.
  • the control unit 30 proceeds to step S203 and performs a difference calculation process in response to receiving the captured image data Si from the user terminal 4. That is, in this example, as described above, the difference in luminance values of R, G, and B between the assumed display data and the captured image data Si is calculated for each pixel of the captured image data Si. As described above, in the difference calculation in this case, the pixel correspondence Rp between the assumed display data and the captured image data Si is specified, and the assumed display data and the captured image data Si are based on the specified pixel correspondence Rp. The difference from the (image portion of the projected content) is calculated for each pixel of the captured image data Si.
  • step S ⁇ b> 204 the control unit 30 performs processing for specifying the deteriorated portion D.
  • a process is performed in which a portion where the magnitude of the color difference obtained as the difference information (for example, the sum of the differences (absolute values) of R, G, and B luminance values) is a certain value or more is specified as the deteriorated portion D.
  • control unit 30 determines whether or not the deteriorated portion D has been identified in step S205. If it is determined in step S204 that the deteriorated portion D has not been specified, the control unit 30 proceeds to step S209, sends an uncorrected notification to the requesting user terminal 4, and proceeds to step S212.
  • the control unit 40 determines whether or not there is an uncorrected notification from the web server 3 in step S105. If there is an uncorrected notification, the control unit 40 proceeds to step S107 to determine whether or not to end the projection, that is, for example, the end of the projection by the user. It is determined whether or not a predetermined end condition for ending the projection by the projector unit 4a, such as an operation input to be instructed, is satisfied. If the projection is not ended, the process returns to the imaging process in step S103 described above. That is, when the deteriorated portion D is not specified, the display mode change process (S210) of the component part p on the web server 3 side and the reprojection process (S106) for the changed web page on the user terminal 3 side are performed. Absent.
  • step S103 new captured image data Si is captured in step S103 and transmitted to the web server 3 side (S104).
  • the determination process of step S205 is also performed for the newly transmitted captured image data Si, and if the deteriorated portion D is not specified, the uncorrected notification is performed again. That is, unless the deteriorated portion D is detected, the display mode changing process is not performed.
  • step S107 When it is determined in step S107 that the projection is finished, the control unit 40 notifies the web server 3 that the projection is finished in step S108, and the process shown in FIG.
  • the control unit 30 performs a process of specifying the priority of the component part p in step S206. That is, in this example, the priority is specified for the component part p that overlaps the specified deteriorated portion D among the component parts p constituting the projected web page. As described above, the priority in this case is specified according to the image size of the target component part p.
  • the control unit 30 performs a process of identifying a deteriorated component based on the priority.
  • the deteriorated component part means the component part p that is the target of the display mode change.
  • the process of identifying the deteriorated component part in step S207 is performed using the deterioration degree of the component part p together with the priority. That is, the degree of deterioration described above is calculated for each component part p that overlaps with the deteriorated portion D, and the degree of deterioration calculated for the component part p is equal to or greater than the threshold value THp determined according to the priority specified for the component part p. It is determined whether or not the constituent part p is a deteriorated constituent part.
  • step S208 the control unit 30 determines whether or not a deteriorated component has been identified.
  • the control unit 30 proceeds to step S209 and performs the above-described uncorrected notification. That is, even when there is no deteriorated component part, the display mode change process on the web server 3 side and the reprojection process on the user terminal 4 side are not executed.
  • step S208 if it is determined in step S208 that a deteriorated component part has been specified, the control unit 30 proceeds to step S210 and executes a display mode change process for the deteriorated component part. That is, in this example, processing for changing the display mode for the corresponding component part p is performed by the method described in FIG. 9A or 9B. As a specific process, a process of changing the description of the corresponding part is performed on the HTML data constituting the web page data of the requested web page so that the display mode of the corresponding component part p is changed.
  • step S211 the control unit 30 executes a process of transmitting the changed web page data to the requesting user terminal 4, and advances the process to step S212.
  • step S210 when the display mode change process of step S210 on the web server 3 side is executed, the uncorrected notification of step S209 is not performed. That is, on the user terminal 4 side, a determination result that there is no uncorrected notification is obtained in step S105.
  • the control unit 40 performs the reprojection process in step S106 in response to receiving the changed web page data from the web server 3 side. That is, a process for projecting an image based on the received web page data by the projector unit 4a is performed. And according to having performed this reprojection process, the control part 40 advances a process to step S107 demonstrated previously.
  • step S107 if it is not determined in step S107 that the projection has ended, the control unit 40 transmits new captured image data Si to the web server 3 side. On the other hand, when it is determined that the projection is completed, the notification in step S108 is performed on the web server 3 side.
  • the control unit 30 in the web server 3 determines whether or not there is a notification in step S108 from the user terminal 4 side in step S212. If it is determined that the notification has not been received, the control unit 30 executes the difference calculation process in step S203 in response to the reception of new captured image data Si from the user terminal 4 side. That is, until the notification of step S108 from the user terminal 4 side is performed, the processing after step S203 is repeatedly executed for new captured image data Si sequentially transmitted from the user terminal 4 side. On the other hand, when it determines with there having been notification of step S108 by step S212, the control part 30 finishes the process shown to this figure.
  • an uncorrected notification (S209) is given to the user terminal 4 when there is no deteriorated part (S205) and when there is no deteriorated component part (S208).
  • new captured image data Si is transmitted using the uncorrected notification as a trigger.
  • the cycle at which the user terminal 4 side transmits the captured image data Si may be a predetermined cycle determined with the web server 3 side, for example.
  • the transmission period of the captured image data Si may be set to a period longer than the time required from the difference calculation on the web server 3 side (S203) to the transmission of the changed web page data (S211). This point is the same for various modifications described later and the second embodiment.
  • the web server 3 acquires a plurality of imaging data obtained by imaging the content projected on the projection area Ap at a plurality of points in time, and assumes the plurality of imaging data. Based on the difference information at a plurality of times specified from the comparison with the display data, the display mode of the deteriorated component part is changed. Thereby, it is possible to perform the deterioration correction corresponding to the change of the difference with time. For example, when an object that causes a decrease in visibility is newly moved between the projection area Ap and the user terminal 4, the display mode may be changed so as to suppress a decrease in visibility due to the object. it can.
  • the web server 3 changes the display mode based on the difference information at each time point described above. Specifically, every time new captured image data Si is sequentially received from the user terminal 4, the processes after step S ⁇ b> 203 are performed. As a result, for example, when a new object moves as described above, the correction for the change in the deteriorated portion D over time corresponds to the case where the deteriorated portion D in the projected content shows a change over time. Responsiveness can be improved.
  • the change of the display mode based on the difference information can be performed on condition that the change amount of the difference information from the previous change of the display mode is equal to or greater than a predetermined amount.
  • FIG. 11 is a flowchart showing a specific processing procedure to be executed in this case.
  • the control unit 30 of the web server 3 sets the change identification flag f to “0” in step S301 in response to obtaining the assumed display data in step S202.
  • the change identification flag f is a flag that is set to “1” in response to the display mode changing process in step S210 being performed in step S305 in the figure. Note that, in response to the execution of the change identification flag f setting process in step S305, the control unit 30 proceeds to the transmission process in step S211.
  • step S303 determines in step S303 whether the difference change amount is equal to or greater than a predetermined threshold value THd. That is, the difference (absolute value) between the latest difference value stored in the storage process in step S304 and the difference value calculated in the latest step S203 is calculated as the difference change amount, and the difference change amount is calculated. Is greater than or equal to the threshold THd. If the difference change amount is not equal to or greater than the threshold value THd, the control unit 30 proceeds to step S209 and issues an uncorrected notification. That is, in this case, the display mode changing process in step S210 is not performed.
  • step 304 the control unit 30 proceeds to step 304 and stores the difference information, and then executes the processes after step S204. That is, the display mode is changed based on the difference information on the condition that the difference change amount from the previous display mode change is equal to or greater than a predetermined amount.
  • the display mode changing method in consideration of the above-described “mode of transition of difference information with time”, the following example can be considered. That is, the display mode is changed on the condition that the difference between the assumed display data represented by the difference information and the imaging data is continuous.
  • FIG. 12 is a flowchart showing a specific processing procedure to be executed in this case.
  • the control unit 30 of the web server 3 resets the count value m to 0 in step S401 in response to obtaining the assumed display data in step S202.
  • the process returns to step S401.
  • the count value m is reset to 0 each time the display mode changing process of step S210 is executed.
  • step S401 the control unit 30 advances the process in steps S203 ⁇ S204 ⁇ S205. If it is determined in step S205 that the deteriorated portion D has been specified, the control unit 30 proceeds to step S402 and increments the count value m by 1. That is, the count value m is incremented by 1 in response to a difference between the captured image data Si newly transmitted by the user terminal 4 and the assumed display data. In subsequent step S403, the control unit 30 determines whether or not the count value m is equal to or greater than the predetermined value M. When the count value m is not equal to or greater than the predetermined value M, an uncorrected notification in step S209 is performed.
  • step S212 when the count value m is not equal to or greater than the predetermined value M and an uncorrected notification is made, the process proceeds to step S212.
  • the count is counted in step S401.
  • the value m is reset to zero.
  • the count value m functions as a count value that represents the number of times that the difference between the captured image data Si and the assumed display data has continuously occurred. That is, the determination process in step S403 determines whether or not the difference between the captured image data Si and the assumed display data has continuously occurred M or more times.
  • step S403 If it is determined in step S403 that the count value m is greater than or equal to the predetermined value M, the control unit 30 executes the processing from step S206. That is, the display mode changing process is performed on the condition that the difference between the assumed display data and the captured image data Si is continuous.
  • identification is performed based on captured image data Si (hereinafter referred to as “Si1”) acquired over the first cycle (for example, 10 seconds) and assumed display data corresponding to the content projected on the projection area.
  • Difference information hereinafter referred to as “Ds1”
  • captured image data Si hereinafter referred to as “Si0”
  • a first difference that is a difference from difference information (hereinafter referred to as “Ds0”) specified based on the assumed display data corresponding to the content is specified, and the first difference is greater than or equal to a first threshold value
  • the acquisition period of the captured image data Si is changed to a second period (for example, 2 seconds) shorter than the first period.
  • the difference information (henceforth, the following) specified based on the picked-up image data Si (henceforth a code
  • the change of the deteriorated part in the projection region is a temporary change. Identify the degraded part. Note that if the difference information (Ds3) between the captured image data Si2 acquired by the second period and the captured image data Si1 acquired by the first period is less than the second threshold, Since the change is estimated to be a continuous change, the deteriorated part is identified, and when the difference between the first difference and the second difference is equal to or greater than the second threshold, the change of the deteriorated part in the projection region is temporarily Therefore, it is possible to configure so that the deteriorated portion is not specified.
  • Ds3 difference information
  • FIG. 13 is a flowchart of the above method.
  • the control unit 30 of the web server 3 sets the value of the period identifier s to “0” in step S405 in response to obtaining the assumed display data in step S202.
  • the adjustment of the acquisition cycle of the captured image data Si is realized by adjusting the timing of performing the uncorrected notification in step S209 according to the value of the cycle identifier s.
  • the “difference from the previous difference” here corresponds to the “first difference” described above, and in this example, the calculation is performed at the current acquisition timing among the acquisition timings of the captured image data Si in the first period. And the difference calculated at the previous acquisition timing.
  • step S407 if the difference from the previous difference is not equal to or greater than the first threshold value THd1, the control unit 30 proceeds to step S209 and issues an uncorrected notification. That is, in this case, the acquisition cycle of the captured image data Si is maintained as the first cycle.
  • step S408 updates the value of the cycle identifier s to “1”, and in the subsequent step S409, The “difference” (that is, “first difference”) is stored as the “reference difference”, and the process proceeds to step S209.
  • “difference from previous difference” is the difference calculated at the acquisition timing of the current captured image data Si (that is, the difference specified based on the captured image data Si acquired after 2 seconds), and the previous imaging. This is a difference from the difference obtained at the acquisition timing of the image data Si (that is, the difference obtained at the acquisition timing of the captured image data Si0 described above).
  • the control unit 30 determines whether or not the difference between the reference difference and the second difference is less than the second threshold value THd2 in step S411. If the difference between the reference difference and the second difference is not less than the second threshold THd2, the control unit 30 proceeds to step S412 to return the value of the period identifier s to “0”, and proceeds to step S209. That is, in this case, since it is estimated that the change of the deteriorated portion D in the projection area Ap is a temporary change, the specifying process (S204) of the deteriorated portion D is not performed, and the acquisition cycle is returned to the first cycle.
  • step S204 the control unit 30 proceeds to step S204 and performs the process of specifying the deteriorated portion D. That is, corresponding to the case where it is estimated that the change of the deteriorated portion D in the projection region Ap is continuous, the processing after the specific processing of the deteriorated portion D is executed.
  • the display mode is changed every time the deteriorated portion D is generated. This can be suppressed.
  • the deteriorated portion D is continuously generated by switching the imaging cycle to the second cycle that is a relatively short cycle. If you do, you can respond quickly. That is, it is possible to effectively suppress the deterioration of the responsiveness of the deterioration correction while preventing the deterioration correction from being executed in a dark manner following the generation of the temporary difference.
  • the “first difference” is “difference from the previous difference”.
  • the “first difference” is the difference from the initial difference, that is, the captured image of the currently projected content. It is good also as a difference with the difference calculated by acquiring data Si for the first time.
  • the case where the acquisition cycle of the captured image data Si is adjusted by the cycle of the uncorrected notification corresponding to the case of performing the uncorrected notification is illustrated.
  • the priority of the component part p is determined according to the projection size of the component part p.
  • the priority may be determined according to the attribute of the component part p.
  • the priority specification processing unit F4a specifies the priority set according to the attribute for each component part p.
  • Specific examples of the attribute include a main content part such as a body of a web page, a sidebar part, an advertisement part, and the like.
  • the attribute may be specified from attribute information described in advance for each constituent part p, or may be specified by being estimated from constituent elements such as characters of the constituent part p.
  • the order of moving image> still image>text> advertisement can be given for the attributes of moving image, still image, text, and advertisement.
  • Priority can also be set according to the data amount (data size) of the component part p. Specifically, there is an example in which the priority for each component part p is specified so that the priority of the component part p having a relatively large amount of data is increased.
  • the priority can be specified based on the feature amount of the component part p.
  • the feature amount of the component part p can include, for example, an edge amount and an edge density in the component part p.
  • the higher priority is specified as the feature amount is larger, and the lower priority is specified as the feature amount is smaller.
  • the component part p having a larger edge amount or a higher edge density is more likely to be identified as a deteriorated component part (that is, a component subject to display mode change) even if the overlap amount with the deteriorated portion D is small.
  • the priority is lowered for a component having a small amount of feature such as a background region that is almost solid with the same color, the difference between the captured image data Si and the assumed display data in the overlapping degraded portion D is reduced. Even if it is large, it is not specified as a deteriorated component unless the overlapping range is relatively large.
  • increasing priority corresponds to reducing the threshold value THp described above. Therefore, as described above, the higher priority is specified as the feature amount is larger, it can be said that “the higher the feature amount is, the lower the threshold value is specified”. Similarly, specifying a lower priority as the feature amount is smaller can be rephrased as “specifying a priority so that a threshold value increases as the feature amount decreases.”
  • the priority of the component part p may be determined by the appearance frequency of the component part p.
  • FIG. 14 is a flowchart showing a procedure of processing to be executed by the control unit 40 of the user terminal 4 in this case. When the process shown in this figure is executed, it is assumed that the content data such as web page data to be projected and the environment ID described above have already been acquired in the user terminal 4.
  • the control unit 40 executes an assumed display data acquisition process in step S501 in response to the execution of the projection process in step S102.
  • the assumed display data is acquired by, for example, transmitting the web page identification information (for example, URL) and the environment ID projected in step S102 to the web server 3, and obtaining the corresponding assumed display data from the assumed data DB 5. It becomes processing. Or it is good also as a process which acquires the assumption display data corresponding by the simulation calculation mentioned above.
  • the acquisition process of step S501 is not limited to being executed immediately after step S102 as long as it is executed before the difference calculation process of step S203.
  • control unit 40 executes the imaging process of step S103 to acquire the captured image data Si for the projected content, and performs the difference calculation process in the subsequent step S203. .
  • the control unit 40 performs the processes in steps S205 to S208 and step S210 described in FIG. 10 in the same manner as in the case of the web server 3 (control unit 30).
  • the reprojection process in step S106 is performed after the projector unit 4a projects an image based on the web page data after the change in step S210.
  • the projection end determination process in step S107 is performed. In this case, if it is determined in step S205 that the deteriorated portion D has not been specified, or if it is determined in step S208 that no deteriorated component part has been specified, the change process in step S210 and the reprojection in step S106 are performed.
  • step S107 If it is determined in step S107 that the projection has not ended, the control unit 40 executes the processing subsequent to the imaging process in step S103 again. If it is determined that the projection has ended, the process illustrated in FIG.
  • the web server 3 or the user terminal 4 is responsible for all of the processing from the imaging data acquisition processing unit F1 to the content data generation processing unit F5 described in FIG. These processes may be partially performed by the web server 3 and the user terminal 4.
  • the component that is the target of the display mode change can be specified as a portion that matches the deteriorated portion D in the image. That is, the range of the deteriorated portion D in the image can be similarly specified by edge detection or the like, and image processing for changing the display mode can be performed on the specified image range. If image processing is used in this way, an arbitrary range within the projected content can be extracted as a component of the content, and the display mode can be changed for the extracted component.
  • the constituent elements of the character part tx and the background part bg are specified from the projected image (captured image). However, the constituent elements of the character part tx and the background part bg are specified from the assumed display data. It is also possible.
  • the deterioration area D may be specified based on captured image data obtained by imaging the projection area before projecting the image (content).
  • the display color of the background portion bg is changed to black that is assimilated with the color of the deteriorated portion D.
  • An example is shown.
  • changing to the color to be assimilated can also be referred to as changing to a similar color, such as blue for blue and red for red.
  • the deteriorated portion D is caused by, for example, a calendar or the like and is generated at a relatively high density (for example, a ratio per unit area or more) as shown in the upper side of FIG. As shown on the lower side, the color density of the background portion bg can be increased. As a result, it is possible to suppress deterioration in readability of “projected characters” due to the influence of a character string or fine edges.
  • a relatively high density for example, a ratio per unit area or more
  • the color of the deteriorated portion D in the projected content can be changed to a color close to the adjacent region of the deteriorated portion D.
  • a deteriorated portion D for example, black
  • An for example, white
  • the color of the deteriorated portion D is changed to the adjacent region.
  • the color is changed to the color close to An, that is, white in this case.
  • the color difference between the adjacent region An and the deteriorated portion D is less noticeable in the content after the change, and the effect of suppressing the decrease in visibility due to the deteriorated portion D is obtained. .
  • the projected content includes the character portion tx.
  • a character portion tx for example, black
  • a background portion bg for example, white
  • a deteriorated portion D for example, black
  • the color of the deteriorated portion D is changed to a color that is close to the color of the background portion bg that is an adjacent region of the deteriorated portion D, that is, in this case, white.
  • the display mode is selectively changed with respect to the deteriorated portion D in the image. Therefore, instead of changing the description of the HTML data, the image processing method as “Modification 4” described above is used. It is preferable to apply.
  • the example of changing the color of the component is given as the change of the display mode.
  • the change of the display size of the component such as characters or the change of the font (higher visibility) Change to font).
  • the content projection control apparatus (web server 3) of the first embodiment acquires a content data acquisition unit (content data acquisition processing unit F1) that acquires content data indicating content including at least one or more components. ), A projection region data acquisition unit (projection region data acquisition processing unit F2) that acquires projection region data indicating the projection region, and a deteriorated portion in which the projection condition is deteriorated in the projection region based on the projection region data Based on the position of the deteriorated portion specifying unit (deteriorated portion specifying processing unit F3) to be identified, the position of the specified deteriorated portion in the projection area, and the content data displayed in the projection area.
  • a display mode change unit (display mode change processing unit F4) that changes the display mode of the displayed component.
  • the deteriorated part specifying unit specifies the deteriorated part based on the captured image obtained by capturing the content indicated by the content data projected onto the projection area and the content image. is doing.
  • the content projection control apparatus includes a priority specifying unit (priority specifying processing unit F4a) that specifies the priority of the component included in the content, and the display mode changing unit is specified.
  • the display mode of the component displayed in the deteriorated portion is changed based on the threshold value corresponding to the priority and the deterioration degree of the component.
  • the display mode is not changed for all the components displayed in the deteriorated portion, but can be selectively selected for the components selected based on the priority of the components. Therefore, it is possible to prevent the number of components that change the display mode from increasing unnecessarily, and it is possible to reduce the processing burden associated with the change of the display mode.
  • the priority specifying unit specifies the priority based on the feature amount of the component included in the content.
  • the priority specifying unit specifies the priority based on the projection size of the component included in the content.
  • the priority specifying unit specifies the priority based on the attributes of the constituent elements included in the content.
  • the appropriate display mode can be changed according to the importance of the component.
  • the component includes a character
  • the display mode changing unit emphasizes the display color of the character included in the component with respect to the color of the deteriorated portion. The color has been changed.
  • the component includes a character
  • the display mode changing unit assimilates the display color other than the character included in the component with the color of the deteriorated portion. The color has been changed.
  • Second Embodiment> [2-1. Overview of network system] Next, a second embodiment will be described. In the following description, parts that are the same as the parts that have already been described are assigned the same reference numerals and description thereof is omitted.
  • FIG. 18 shows an example of the network system 1 ′ premised on the second embodiment.
  • the difference from the network system 1 in the first embodiment is that a web server 3 ′ is provided instead of the web server 3.
  • the web server 3 ′ executes processing different from the case of the web server 3 as processing relating to deterioration correction for the content projected by the user terminal 4, and the internal configuration is the same as that shown in FIG. Therefore, duplicate explanation is avoided.
  • control unit 30 of the web server 3 ′ is divided into functions according to the content data acquisition processing unit F1, the projection area data acquisition processing unit F2, the deteriorated part specifying processing unit F3, the priority specifying processing unit F4a, the arrangement position. It can be expressed as having a determination processing unit F6 and a content data generation processing unit F7.
  • the content data acquisition processing unit F1 the projection area data acquisition processing unit F2, the deteriorated portion specifying processing unit F3, and the priority specifying processing unit F4a are the same as those described in the first embodiment, they are redundant. Avoid explanations.
  • the arrangement position determination processing unit F7 performs relative processing based on the position of the specified degraded portion D in the projection area Ap, the content data projected on the projection area Ap, and the priority of the components included in the content data.
  • the proportion of the components having relatively low priority in the degraded portion D is higher than the proportion in which the components having higher priority are included in the degraded portion D.
  • Determine the placement position “the component is included in the deteriorated portion D” can also be said as “the component overlaps the deteriorated portion D”.
  • the priority is determined according to the projection size of the component part p. A specific method for determining the arrangement position in this example will be described later.
  • the content data generation processing unit F8 generates content data for projecting content in which components are arranged according to the arrangement positions determined by the arrangement position determination processing unit F7.
  • FIG. 20 illustrates a case where the content projected by the user terminal 4 is a web page wp.
  • the component parts p (p1 to p5) in the web page wp have the largest projection size (image size) in this case as well, and the projection sizes are subsequently reduced from p2 to p5.
  • the arrangement position of the component part p is determined so as to avoid the deteriorated portion D as much as possible.
  • the arrangement position determination processing unit F7 determines whether or not the constituent part p is a deteriorated constituent part according to the priority. In this case as well, the determination as to whether or not the component is a degraded component is performed by the same method as that of the display mode change processing unit F4 described above using the degradation level together with the priority. In the example of this figure, it is assumed that the component part p1 and the component part p2 correspond to deterioration component parts.
  • an arrangement area is secured (determining the arrangement position) from the constituent part p1 having the highest priority.
  • the component part p1 is a deteriorated component part, it is necessary to change the arrangement position from the initial arrangement region.
  • the region where the component part p1 can be arranged is a region below the region where the deteriorated portion D occurs, the arrangement region of the component part p1 is secured in the region.
  • an arrangement area for the component part p2 having the second highest priority is secured ( ⁇ 2> in the figure).
  • the constituent part p2 is also a deteriorated constituent part and requires a change in the arrangement position from the initial arrangement area.
  • the region where the component part p2 can be arranged is the region above the region where the deteriorated portion D occurs, the arrangement region of the component part p2 is secured in the region.
  • the arrangement area is secured in the order of the component part p3, the component part p4, and the component part p5. Since these component parts p3 to p5 are not deteriorated component parts, it is not essential to change the arrangement position from the initial arrangement area, but in the example of this figure, priority is given to the initial arrangement areas of the component parts p3 to p5. An arrangement region for the high-grade component part p1 has already been secured. For this reason, the arrangement positions of these component parts p3 to p5 are also changed.
  • the component part p3 can be arranged in a region on the right side of the region where the deteriorated portion D is generated, an arrangement region is secured for the region ( ⁇ 3> in the figure). Since the component part p4 can be arranged in the area on the right side of the arrangement area reserved for the component part p3, an arrangement area is secured for the area ( ⁇ 4> in the figure). Since the component part p5 can be arranged in the area on the right side of the arrangement area reserved for the component part p2, an arrangement area is secured for the area ( ⁇ 5> in the figure).
  • FIG. 22 shows an example in which a relatively large deteriorated portion D has occurred
  • FIG. 23 shows a specific arrangement of component parts p in this example on the assumption that the deteriorated portion D shown in FIG. 22 has occurred. It is a figure for demonstrating the position determination method.
  • the component part p3 as well as the component parts p1 and p2 correspond to the deteriorated component parts.
  • the component part p1 can be arranged in a region below the region where the deteriorated portion D is generated as in the example of FIG. 21, an arrangement region is secured for the region (FIG. 23 ⁇ 1>).
  • the component part p2 can be arranged in an area above the area where the deteriorated portion D is generated, and therefore an arrangement area is secured for the area (FIG. 23 ⁇ 2). >).
  • the component part p3 can be arranged in a region on the right side of the region where the deteriorated portion D is generated, an arrangement region is secured for the region ( ⁇ 3> in FIG. 23).
  • the component part p4 avoid the deteriorated portion D and the arrangement area (hereinafter referred to as “already reserved area”) already reserved for the higher-priority component part p (p1 to p3 in this example). Cannot be placed in the specified position.
  • the arrangement position determination method of this example in response to the appearance of a component part p that cannot be arranged at a position that avoids the degraded portion D and the reserved area, the remaining component parts p including the component part p are displayed. For the above, the arrangement position is determined while allowing the overlap with the deteriorated portion D.
  • FIG. 23 ⁇ 4> shows an example in which the arrangement positions of the remaining component parts p4 and p5 are determined to be areas overlapping with the deteriorated portion D.
  • the degradation portion D is avoided in the process of securing the arrangement area (arrangement position determination) at the position where the degradation portion D is avoided in order from the constituent part p having the highest priority.
  • the arrangement position of the remaining component part p is determined while allowing overlap with the deteriorated portion D.
  • the component part p having a relatively high priority is relative to the ratio included in the deteriorated portion D.
  • the arrangement position of each component part p is determined so that the proportion of the component parts p with lower priority included in the deteriorated portion D is higher.
  • the lower visibility due to the deteriorated portion D is suppressed in the relatively high priority component part p than in the relatively low priority component part p. That is, it is possible to suppress a reduction in visibility of information that is relatively important. Therefore, it is possible to suppress a reduction in the visibility of the projected content even when the conditions of the region to be projected are bad.
  • step S601 deposition position change process of deteriorated component parts
  • step S602 a determination process for determining whether or not correction is possible is executed. If it is determined in step S602 that correction is not possible, the transmission process in step S211 is executed. Note that the determination processing in step S602 will be described later.
  • FIG. 25 and FIG. 26 are flowcharts showing the details of the degradation component part arrangement position changing process executed as step S601.
  • the process of step S601 is basically a process of securing an arrangement region in order from the constituent part p having a higher priority.
  • the control unit 30 of the web server 3 ′ first sets the priority identification value y to “1” in step S701.
  • the priority identification value y is a value for identifying which priority component p is to be processed.
  • the control unit 30 determines whether or not the constituent part p having the priority y (ie, first) is a deteriorated constituent part. It should be noted that the process of identifying a deteriorated constituent part based on the deterioration degree and priority for each constituent part p is performed in step S207 (FIG. 24). The determination process in step S702 is performed based on the result of the specific process.
  • step S702 If it is determined in step S702 that the constituent part p with the highest priority is not a deteriorated constituent part, the control unit 30 proceeds to step S703 and secures an initial placement area of the constituent part p as a placement area of the constituent part p. Then, the process proceeds to step S707.
  • step S704 the control unit 30 determines whether or not there is a space in the region excluding the deteriorated portion D in which the component part p with the highest priority can be placed. If there is a corresponding space, the control unit 30 proceeds to step S705, and secures an arrangement area for the corresponding component part p in the corresponding space.
  • the reserved area is left-bottomed or right-justified in the corresponding space according to the position of the area where the deteriorated portion D occurs. It is desirable to make it easier to secure an arrangement area for other component parts p with lower priority.
  • step S707 the control unit 30 increments the priority identification value y by 1, and determines in step S708 whether the constituent part p ranked priority y is a deteriorated constituent part. If it is determined in step S708 that the constituent part p with priority y is not a deteriorated constituent part, the control unit 30 proceeds to step S709, and the initial arrangement area (that is, the initial arrangement area of the constituent part p with priority y) has already been determined. It is determined whether or not the reserved area overlaps.
  • step S709 If it is determined in step S709 that the initial placement area does not overlap with the already secured area, the control unit 30 proceeds to step S710 and secures the initial placement area as the placement area for the component part p with the priority y. The process proceeds to step S714.
  • control unit 30 advances the processing to step S711 shown in FIG.
  • step S ⁇ b> 711 the control unit 30 determines whether there is a space in which the component part p having the priority level y can be placed in the area excluding the deteriorated portion D and the already secured area. If there is a corresponding space, the control unit 30 proceeds to step S712, and secures an arrangement area for the corresponding component part p in the corresponding space. As a result, even if the component part p having the second priority or lower is arranged in an area avoiding the deteriorated portion D (and the already secured area), an arrangement area is secured in the area.
  • step S711 determines whether there is no space in the area excluding the deteriorated portion D and the already reserved area where the constituent part p with the priority y can be placed.
  • the control unit 30 proceeds to step S713, and determines the already reserved area.
  • an arrangement area for the component part p having a priority y or lower is secured. That is, in response to the appearance of a component part p that cannot be placed in a position that avoids the deteriorated part D and the reserved area, the remaining component part p including the component part p is allowed to overlap with the deteriorated part D.
  • the arrangement position is determined.
  • control unit 30 advances the process to step S714 shown in FIG. 25 in response to the execution of the arrangement area securing process in step S712.
  • step S714 the control unit 30 determines whether the priority identification value y has reached the upper limit value pMAX.
  • the upper limit value pMAX is a value that represents the total number of component parts p included in the projected content (web page wp in this example). If the priority identification value y has not reached the upper limit value pMAX, the control unit 30 returns to step S707, increments the priority identification value y by 1, and then executes the processing from step S708 again. Thereby, the process for securing the arrangement area is repeated for each component part p included in the web page wp.
  • step S715 the control unit 30 performs step S715. Then, as the arrangement position change process, a process of arranging each component part p in the arrangement area reserved for the component part p is executed, and the arrangement position change process in step S601 is ended.
  • the arrangement position change of the component part p as described above is realized by changing the description of the HTML data of the web page wp.
  • step S602 determines whether the correction is possible. If it is determined in step S602 that the correction is not possible, the control unit 30 proceeds to step S211 and uses the changed web page data, that is, the web page data subjected to the arrangement position changing process in step S715 (FIG. 25) as the user. Transmit to the terminal 4 side. Thereby, the content after the arrangement position change can be reprojected on the user terminal 4 side.
  • the web server 3 ′ obtains a plurality of imaging data obtained by imaging the content projected on the projection area Ap at a plurality of points in time, and the plurality of imaging data and The arrangement position is changed based on the difference information at a plurality of points specified from the comparison with the assumed display data.
  • amendment corresponding to the change of a difference with time can be performed.
  • the web server 3 ′ changes the arrangement position based on the difference information at each time point described above. Specifically, every time new captured image data Si is sequentially received from the user terminal 4, the processes after step S ⁇ b> 203 are performed. Thereby, also in the second embodiment, in response to the case where the deteriorated portion D in the projected content shows a change over time, the responsiveness of correction with respect to the change of the deteriorated portion D over time can be improved. Can be planned.
  • the case of using the color difference from the assumed display data as a reference in the case of specifying the deteriorated portion D is exemplified as in the case of the first embodiment.
  • a step or undulation (unevenness) formed on a wall as a projection object is also conceivable.
  • the deterioration portion D is specified not only by the magnitude of the color difference but also by the position of the image portion identified between the captured image data Si and the assumed display data and the size error. It can also be specified based on. For example, it is conceivable to specify the deteriorated portion D based on the position of the edge portion identified between the captured image data Si and the assumed display data and the size error.
  • the size (projection size) of the component part p is not changed in determining the arrangement position.
  • the size change of the component part p may be allowed in determining the arrangement position. For example, by allowing the component parts p to be reduced, it is possible to easily arrange all the component parts p at positions avoiding the deteriorated portion D.
  • a reduction ratio when reducing the projection size of the component part p is determined according to the priority of the component part p. At this time, the reduction ratio is determined such that the degree of reduction can be reduced as the component part p has a higher priority.
  • the reduction ratio when the reduction ratio is set to “1” and the numerical value is smaller, the degree of reduction is larger. As the priority is higher, the reduction ratio is larger. By determining such a reduction ratio according to the priority, it is possible to suppress a reduction in visibility due to reduction as the component part p has a higher importance.
  • the aspect ratio of the component part p may be changed. Thereby, it becomes possible to further facilitate the arrangement of the component part p at a position avoiding the deteriorated portion D and the already secured area.
  • the reduction of the component part p and the change of the aspect ratio as described above are realized by changing the description of the HTML data of the web page wp.
  • the component part p is reduced, if the character is included in the component part p, the size of the character can be reduced similarly.
  • FIG. 27 is an explanatory diagram of a specific method in that case. In FIG. 27, it is assumed that a deteriorated portion D has occurred due to the aspect shown in FIG.
  • the arrangement position determination processing unit F6 first identifies an area including the deteriorated portion D, that is, a target area (hereinafter referred to as “deteriorated portion containing area Ad”) where the low-priority component part p is preferentially arranged. To do.
  • the deteriorated portion-containing region Ad is specified as, for example, a region where the deteriorated portions D are denser than a predetermined density. Depending on how the actual deteriorated portion D is generated, a plurality of deteriorated portion-containing regions Ad can be specified.
  • the arrangement position determination processing unit F6 secures arrangement areas in order from the lowest-priority component part p5 in the specified degraded portion containing area Ad (FIG. 27 ⁇ 1> to ⁇ 2>). .
  • the arrangement position determination processing unit F6 performs the arrangement process of the component part p in accordance with the fact that the component part p cannot be arranged in the deteriorated part containing region Ad as described above.
  • the process is sequentially switched from the position to the position avoiding the deteriorated portion D.
  • the proportion of the relatively high-priority component part p included in the deteriorated part D also by adopting the method of arranging the deteriorated part D in order from the component part p having the lower priority as described above. It is possible to make the ratio of the component part p having a relatively lower priority than the deteriorated portion D higher than the relatively low priority.
  • FIG. 28 is a flowchart showing a specific processing procedure to be executed in order to realize the technique described in FIG.
  • the control unit 30 executes the process shown in FIG. 28 as the arrangement position changing process in step S601 shown in FIG.
  • step S801 the control unit 30 determines whether or not there is a space in which the component part p with the highest priority can be placed in the area excluding the deteriorated portion D.
  • the processing in step S801 is performed by arranging the degradation part D in the order starting from the component part p having the lowest priority, so that “the component having a relatively high priority is included in the degradation part.
  • step S801 can be changed to a process for determining whether or not the size of the deteriorated portion containing region Ad is equal to or larger than a predetermined value.
  • step S801 if there is no space in the area excluding the deteriorated portion D where the component part p with the highest priority can be placed, the control unit 30 sets the uncorrectable flag to “1” in step S811, and the control in step S601. The arrangement position changing process is finished.
  • step S802 determines the component part p with the priority yMAX (ie, the lowest-order). It is determined whether or not it can be arranged in the deteriorated part containing region Ad. That is, it is determined whether or not the entire component part p with the priority yMAX is within the deteriorated part containing region Ad.
  • step S811 sets the uncorrectable flag to “1”, and finishes the arrangement position changing process of step S601. .
  • control unit 30 proceeds to step S803 and sets the arrangement part p of the constituent part p with the priority yMAX in the deteriorated part containing area Ad. Secure.
  • step S804 the control unit 30 sets the priority identification value y to “yMAX-1”, and in step S805, the control part 30 in the deteriorated part containing region Ad excluding the already secured region. It is determined whether or not it can be placed in If it is possible to arrange the component part p with the priority y in the deteriorated part containing area Ad excluding the already secured area, the control unit 30 proceeds to step S806, and within the deteriorated part containing area Ad excluding the already reserved area. The arrangement area of the component part p with the priority y is secured. In subsequent step S807, the control unit 30 decrements the priority identification value y by 1 ( ⁇ 1), and returns to step S805. Thereby, the arrangement
  • step S808 sets the y place as the saturation order yo, and the following step In S809, the arrangement areas of the constituent parts p having the first priority to the yo rank are secured in the space excluding the already secured area.
  • the arrangement area is secured in order from the constituent part p having the highest priority.
  • control unit 30 executes a process of arranging each component part p in the arrangement area secured in the same manner as in the previous step S715 as the arrangement position changing process in step S810. Then, the arrangement position changing process in step S601 is terminated.
  • the component part p with the highest priority cannot be placed in the area excluding the deteriorated part D (S801)
  • the component part p with the lowest priority does not fit in the area including the deteriorated part D.
  • the ratio in which the components with relatively low priority are included in the deteriorated portion is higher than the ratio in which the components with relatively high priority is included in the deteriorated portion”.
  • the correction impossible flag is set to “1”, and the processing for changing the arrangement position of the component part p (processing after S803) is not performed.
  • the degree of deterioration of the first priority when the component part p having the highest priority is arranged in the region having the lowest degree of deterioration Is lower than the degree of deterioration of the lowest-order component part p when the lowest-priority component part p is placed in the region where the degree of deterioration is maximized. It may be a process for determining whether or not it is established.
  • FIG. 29 is a diagram for explaining the technique as the first modification.
  • the deteriorated portion D is generated so as to overlap a part of the component part p1 and a part of the component part p2, respectively, and these component parts p1 and p2 correspond to the deteriorated component parts.
  • the component parts p other than the component parts p1 and p2 do not overlap the deteriorated portion D and correspond to non-deteriorated component parts.
  • p there are a set of component parts p3 and p4 and a set of component parts p5, p6, p7, and p8.
  • component part set As a lower-order component part p that can be replaced with the component part p2 that is also a deteriorated component part and can reduce the degree of deterioration of the component part p2 by the replacement, the combination of the component part p3 and the component part p4, and the component part There are pairs of p5, p6, p7, and p8.
  • component part set the set of component parts p is abbreviated as “component part set”.
  • the arrangement position determination processing unit F6 in Modification 1 determines the arrangement position so as to replace the component part p having a relatively low priority in order from the degraded component part having a relatively high priority. To do. At this time, there are a plurality of replaceable candidates for the constituent parts p1 and p2 which are deteriorated constituent parts. In this example, when there are a plurality of candidates that can be replaced with respect to the deteriorated component parts as described above, the candidate closest to the original position (initial arrangement region) of the deteriorated component parts is set as the replacement target.
  • the configuration part p1 is replaced with the configuration part set of the configuration parts p3 and p4 out of the configuration part set of the configuration parts p3 and p4 and the configuration part sets of the configuration parts p5 to p8 as possible candidates for replacement.
  • the component part p2 remains after the replacement of the arrangement position (after the determination of the arrangement position) of the higher-priority component part p1 (the deterioration of the component part p2 is reduced by the replacement).
  • the possible candidates are only the configuration part sets of the configuration parts p5 to p8, so that the configuration part sets of the configuration parts p5 to p8 are replaced.
  • the proportion of relatively low-priority components included in the degraded portion is higher than the proportion of relatively high-priority components included in the degraded portion.
  • Arrangement position determination to be realized is realized. Accordingly, it is possible to suppress a reduction in visibility of information that is relatively important, and to suppress a reduction in the visibility of projected content even when the conditions of the region to be projected are poor. it can.
  • FIG. 30 is a flowchart showing a processing procedure for realizing the arrangement position determination method as the first modification, and the control unit 30 in this example performs the arrangement position change process in step S601 shown in FIG.
  • the processing shown in FIG. 30 is executed.
  • the control unit 30 determines in step S901 whether or not the constituent parts p having the first and second priority levels are deteriorated constituent parts. When the first and second priority component parts p are not deteriorated component parts, the control unit 30 proceeds to step S909, sets the uncorrectable flag to “1”, and finishes the arrangement position changing process in step S601.
  • step S901 In order to replace a degraded component part having a relatively high priority in order with a component part p having a relatively low priority, it is necessary that there are at least two or more degraded component parts to be replaced. For this reason, the determination process of step S901 is provided.
  • step S901 when the first-ranked and second-ranked component parts p are deteriorated component parts, the control unit 30 sets the priority identification value y to “1” in step S902, and then in step S903. Execute the judgment process. That is, in step S903, ⁇ Can be replaced with a lower-priority y-ranking component part p. ⁇ Are there a component part p or a component-part set that satisfies the condition that the degree of deterioration is lower than that of the y-priority component part p? Determine whether or not. In step S903, if there is no component part p or component part group that satisfies the above condition, the control unit 30 proceeds to step S909, sets the uncorrectable flag to “1”, and ends the arrangement position changing process in step S601.
  • step S904 determines whether there are a plurality of relevant constituent parts p or constituent part sets. If there are not a plurality of corresponding configuration parts p or configuration part sets, the control unit 30 proceeds to step S905, and executes an arrangement position replacement process between the configuration part p with priority y and the corresponding configuration part p or configuration part set. Then, the process proceeds to step S907.
  • step S906 the control unit 30 proceeds to step S906, and the arrangement position of the configuration part p with the priority y rank and the corresponding closest configuration part p or configuration part set.
  • a replacement process is executed, and the process proceeds to step S907.
  • step S906 “closest” means that the position of the component part p having the priority y is closest to the position of the initial placement region, as understood from the above description. .
  • step S907 the control unit 30 increments the priority identification value y by 1, and determines in step S908 whether the priority identification value y is “2”. If the priority identification value y is “2”, the control unit 30 returns to step S903. That is, for the constituent part p2 having the second highest priority, the determination of the presence or absence of the constituent part p or the constituent part set as a replacement candidate (S903), and the processing after step S904 when there is a replacement candidate are executed. On the other hand, if the priority identification value y is not “2” (that is, “3” or more), the control unit 30 ends the arrangement position changing process in step S601.
  • FIG. 31 is a flowchart showing the procedure of the arrangement position changing process in step S601 to be executed in order to realize the arrangement position determination method as the second modification.
  • the process of step S601 in the modification 2 is different from the process of step S601 shown in FIGS. 25 and 26 in that the processes of steps S1001 to S1003 are inserted between steps S710 and S714.
  • the control unit 30 determines in step S1001 that the priority identification value y is It is determined whether or not the limit value yLMT has been reached.
  • step S1001 If it is determined in step S1001 that the priority identification value y has reached the limit value yLMT, the control unit 30 proceeds to step S1002 and increments the priority identification value y by 1, and then removes the reserved area in step S1003. A process for securing the arrangement area of the component part p with the priority y in the space is performed.
  • step S1003 In response to the execution of the securing process in step S1003, the control unit 30 executes the determination process in step S714. In this case, when it is determined in step S714 that the priority identification value y has not reached the upper limit value yMAX, the control unit 30 returns to step S1002 and performs the process of incrementing the priority identification value y. As a result, with respect to the remaining component parts p whose priority is lower than the “yLMT” position, the arrangement area is secured only on the condition that the already secured area is avoided.
  • the component part p having a relatively low priority overlaps with the deteriorated portion D. Therefore, it is easy to change the arrangement position of the component part p within a limited space.
  • the possibility of the reduction and the change in the aspect ratio can be reduced, and the processing burden associated with the reduction and the change in the aspect ratio can be reduced. Can do.
  • FIG. 32 is an explanatory diagram of the arrangement position changing method as the third modification.
  • a display target area Av as shown in FIG. 32B is set in the space excluding the deteriorated portion D.
  • a rectangular area is set as the sequential display target area Av.
  • the sequential display target area Av is searched for an area in which the vertical and horizontal lengths can be secured by a predetermined length or more from the space excluding the deteriorated portion D so that a certain area is secured. To set.
  • the arrangement position is determined so that the constituent parts p are sequentially displayed in the time display according to the priority in the sequential display target area Av set in this way.
  • the constituent parts p1, p2, p3, p4, and p5 are sequentially displayed in the same order in the display target area Av.
  • the arrangement position of the component part p is updated as time elapses.
  • the display time length of each component part p is determined according to the priority, and the display time length is longer for the component part p having a higher priority. That is, it is possible to make the display time longer as the information is more important.
  • the image size of the constituent part p to be displayed is larger than the set size of the sequential display target area Av, the image size of the constituent part p is reduced.
  • the aspect ratio can be changed together with the reduction or instead of the reduction.
  • FIG. 33 is a flowchart showing a procedure of processing to be executed in order to realize the arrangement position determination method as the third modification.
  • control unit 30 first determines in step S1101 whether or not the display target area Av can be sequentially set in the space excluding the deteriorated portion D. Since the search method for the sequential display target area Av has been described above, redundant description is avoided. When it is determined that the sequential display target area Av cannot be set, the control unit 30 finishes the process shown in FIG. That is, in this case, it is impossible to correct, and the process for correcting the deterioration of the web page wp is not performed.
  • step S1104 it is determined whether or not the constituent part p with the priority y is within the set area (that is, the area Av set in step S1102). Specifically, it is determined whether the vertical and horizontal lengths of the corresponding component part p are within the set vertical and horizontal lengths of the sequential display target area Av.
  • step S1107 the control unit 30 determines whether the priority identification value y has reached the upper limit value yMAX. If the priority identification value y has not reached the upper limit value yMAX, the priority identification value y is determined in step S1108. The process returns to step S1104. Thereby, the process from step S1104 to step S1107 is repeated for each component part p.
  • the control unit 30 sequentially performs display processing in step S1109. That is, the constituent parts p are arranged so that the constituent parts p are sequentially displayed in the sequential display target area Av set according to the image size at the set reduction ratio in order from the constituent part p having the highest priority. Change the position. At this time, the arrangement position of the component part p is changed such that the display time length in the sequential display target area Av of the component parts p to be displayed is the time length determined according to the priority of the component part p. Do so.
  • control unit 30 in this case has a web page in which new component parts p are sequentially arranged in the display target area Av in the course of the above-described arrangement position changing process for sequential display. Each time data is generated, the generated web page data is transmitted to the user terminal 4 side, and reprojection processing is executed. Thereby, also in the content to be projected, the constituent parts p that are sequentially displayed in the display target area Av are sequentially replaced.
  • the change of the arrangement position based on the difference information is performed between the plurality of imaging data obtained at each time point and the assumed display data. It can also be performed in consideration of the temporal transition of the difference information specified from the comparison. Specifically, the arrangement position is changed based on the difference information on condition that the temporal transition mode of the difference information as described above matches a predetermined mode.
  • FIG. 34 is a flowchart showing a specific processing procedure to be executed in this case.
  • the difference from the process of FIG. 11 is that the arrangement position change process of step S601 is executed instead of the display mode change process of step S210, and the determination process of step S602 is inserted between step S601 and step S305.
  • Different points In this case, if it is determined in step S602 that correction is impossible, the non-correction notification process in step S209 is executed, and if it is determined that correction is not impossible, the process in step S305 is executed.
  • the difference between the assumed display data represented by the difference information and the imaging data is continuous. As a condition, it is conceivable to change the arrangement position.
  • FIG. 35 is a flowchart showing a specific processing procedure to be executed in this case.
  • the difference from the process of FIG. 12 is that the arrangement position change process of step S601 is executed instead of the display mode change process of step S210, and the determination process of step S602 is inserted between steps S601 and S211. It is a point. In this case, if it is determined in step S602 that correction is impossible, the non-correction notification process in step S209 is executed, and if it is determined that correction is not impossible, the transmission process in step S211 is executed.
  • the technique as the second example it is possible to prevent the arrangement position changing process from being executed in a dark manner following the occurrence of a temporary difference, and to reduce the processing load related to the arrangement position change. be able to.
  • the flowchart of FIG. 36 shows a procedure of processing to be executed in that case.
  • the arrangement position change process of step S601 is executed instead of the display mode change process of step S210, and the determination process of step S602 is inserted between step S601 and step S211. The difference was made. Also in this case, if it is determined in step S602 that correction is not possible, the non-correction notification process in step S209 is executed, and if it is determined that correction is not possible, the transmission process in step S211 is executed.
  • the response of the deterioration correction is performed while preventing the deterioration correction from being performed in a dark manner following the occurrence of a temporary difference. Can be effectively suppressed.
  • the priority of the component part p is determined according to the attribute of the component part p, as in the second modification of the first embodiment described above. Can do. That is, the priority specification processing unit F4a specifies the priority set according to the attribute for each component part p. Further, the priority of the component part p may be determined by the appearance frequency of the component part p.
  • the priority can be set according to the data amount (data size) of the component part p. Furthermore, the priority can be specified based on the above-described feature amount of the component part p (for example, the edge amount or edge density in the component part p).
  • FIG. 37 is a flowchart showing a procedure of processing to be executed by the control unit 40 of the user terminal 4 in this case.
  • the difference from the previous FIG. 14 is that the arrangement position changing process of step S601 is executed instead of the display mode changing process of step S210, and the determination process of step S602 is inserted between step S601 and step S106. It is. In this case, if it is determined in step S602 that correction is not possible, the reprojection process in step S106 is passed and the process in step S107 is performed. If it is determined that correction is not impossible, the reprojection process in step S106 is performed.
  • the difference from the previous FIG. 14 is that the arrangement position changing process of step S601 is executed instead of the display mode changing process of step S210, and the determination process of step S602 is inserted between step S601 and step S106. It is. In this case, if it is determined in step S602 that correction is not possible, the reprojection process in step S106 is passed and the process in step S107 is performed
  • processing related to the arrangement position determination in the second embodiment specifically, the processing from the imaging data acquisition processing unit F1 to the content data generation processing unit F7 shown in FIG. It is not limited to the case where 'or the user terminal 4 bears, but the web server 3' and the user terminal 4 may partially bear each.
  • the arrangement position change in the second embodiment is not limited to the case where it is realized by changing the description of HTML data, but can be realized by image processing for image data such as JPEG. Also in this case, by using image processing, an arbitrary range in the projected content can be extracted as a component of the content, and the arrangement position can be changed for the extracted component.
  • the content projection control apparatus (web server 3 ′) according to the second embodiment has a content data acquisition unit (content data acquisition processing unit) that acquires content data indicating content including at least one or more components. F1), a projection area data acquisition unit (projection area data acquisition processing unit F2) that acquires projection area data indicating the projection area, and a deteriorated portion of the projection area where the projection condition is deteriorated based on the projection area data
  • a deteriorated part specifying part (deteriorated part specifying process part F3) to be specified
  • a priority specifying part for specifying the priority of a component constituting the projected content, and a specified in the projection area Based on the position of the deteriorated portion, the content data projected onto the projection area, and the priority of the components included in the content data.
  • the arrangement position of the constituent elements included in the content data is set so that the ratio in which the constituent elements with lower priority are included in the deteriorated portion is higher than the ratio in which the constituent elements with higher priority are included in the deteriorated portion.
  • An arrangement position determination unit (arrangement position determination processing unit F6) to be determined.
  • the deteriorated portion specifying unit specifies the deteriorated portion based on the captured image obtained by capturing the content indicated by the content data projected onto the projection area and the content image. is doing.
  • the arrangement position determination unit includes a deterioration level indicating the degree of deterioration calculated for each specified deteriorated portion, and a threshold value according to the priority of the component. Based on these comparisons, the arrangement positions of the constituent elements included in the content data are determined.
  • the change of the arrangement position is not performed for all the constituent elements overlapping with the deteriorated portion, but can be selectively performed for the constituent elements selected based on the deterioration degree and priority of the constituent elements. The Therefore, it is possible to prevent the number of components that change the arrangement position from increasing unnecessarily, and it is possible to reduce the processing burden associated with the change of the arrangement position.
  • the arrangement position determination unit determines the difference in the feature amount between the captured image obtained by projecting the content indicated by the content data projected onto the projection area and the content image. Based on this, the degree of deterioration is calculated.
  • the arrangement position determination unit determines the deteriorated portion specified based on the captured image obtained by projecting the content indicated by the content data projected on the projection area and the content. The degree of deterioration is calculated based on the size.
  • the arrangement position determination unit determines the arrangement position in order from the component with the highest priority.
  • the arrangement position determining unit includes only relatively high-priority components among the components included in the deteriorated portion, and is included in the deteriorated portion. The arrangement position is determined so that the range to be recorded is reduced.
  • the priority specifying unit specifies the priority based on the feature amount of the component included in the content.
  • the priority specifying unit specifies the priority based on the projection size of the component included in the content.
  • the priority specifying unit specifies the priority based on the attribute of the component included in the content.
  • the web server 3 and the user terminal 4 as the first embodiment of the information processing apparatus according to the present invention have been described above, and the web server 3 ′ and the user terminal 4 as the second embodiment have been described.
  • the program of the form is a program that causes the information processing apparatus (CPU or the like) to execute the processes of the web server 3, the web server 3 ′, and the user terminal 4.
  • the program of the first embodiment includes a content data acquisition function for acquiring content data indicating content including at least one component, a projection area data acquisition function for acquiring projection area data indicating a projection area, Based on the projection area data, a deteriorated part specifying function for specifying a deteriorated part in the projection area where the projection condition is deteriorated, and the position of the specified deteriorated part in the projection area and the projected area are displayed.
  • the information processing apparatus is caused to realize a display mode changing function for changing a display mode of a component displayed in the deteriorated portion among the components included in the content data. That is, this program corresponds to a program that causes the information processing apparatus to execute the processing described with reference to FIGS.
  • the program according to the second embodiment includes a content data acquisition function for acquiring content data indicating content including at least one component, and a projection area data acquisition function for acquiring projection area data indicating a projection area. And a deteriorated portion specifying function for specifying a deteriorated portion in the projection region where the projection condition is deteriorated based on the projection region data, and a priority for specifying the priority of the component constituting the projected content A component having a relatively high priority based on a specific function, the position of the specified degraded portion in the projection area, the content data projected onto the projection area, and the priority of the component included in the content data So that the proportion of components with relatively low priority in the degraded portion is higher than the proportion in the degraded portion.
  • this program corresponds to a program that causes the information processing apparatus to execute the processing described with reference to FIGS.
  • the information processing apparatus as the web server 3 or the user terminal 4 of the first embodiment and the web server 3 ′ or the user terminal 4 of the second embodiment can be realized by the program as described above.
  • a program can be stored in advance in an HDD as a storage medium built in a device such as a computer device, a ROM in a microcomputer having a CPU, or the like.
  • it can be stored (stored) temporarily or permanently in a removable storage medium such as a semiconductor memory, memory card, optical disk, magneto-optical disk, or magnetic disk.
  • a removable storage medium can be provided as so-called package software.
  • such a program can be installed from a removable storage medium to a personal computer or the like, or can be downloaded from a download site via a network such as a LAN or the Internet.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

 投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにする。 少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得し、投影領域を示す投影領域データを取得し、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定し、投影されたコンテンツを構成する構成要素の優先度を特定し、投影領域における特定された劣化部分の位置と投影領域に投影されるコンテンツデータとコンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるようにコンテンツデータに含まれる構成要素の配置位置を決定する。

Description

コンテンツ投影制御装置、情報処理方法、プログラム
 本発明は、コンテンツ投影制御装置と情報処理方法、コンテンツ投影制御装置を実現するプログラムに関するものであり、特には、投影領域に投影されるコンテンツについての処理に関する。
特開2014-170374号公報 特開2010-139575号公報 特開2001-67015号公報
 例えばホワイトボードや部屋の壁等、所要の投影対象物へのコンテンツ(視覚情報)の投影を行うプロジェクタ装置が広く普及しており、またそのようなプロジェクタ装置が行うコンテンツ投影について支援する技術が各種提案されている。
 上記特許文献1には、CG(Computer Graphics)が表示される仮想スクリーンの座標系と仮想スクリーンを通して視認される現実環境の座標系とのずれを射影変換等によって較正する技術が開示されている。
 また、上記特許文献2には、投影像の焦点深度を調整することによって投影像により形成される虚像がぼやける等の画像品質の低下を防止する技術が開示されている。
 上記特許文献3には、調整チャートを用いて投影領域を調整する技術が開示されている。
 しかしながら、コンテンツを投影する投影領域の条件が悪い場合、例えば投影対象とされた壁の少なくとも一部の色や模様がコンテンツの表示態様に影響を与えるものである場合やカレンダーや時計等の付属物が投影領域に重複する場合には、投影されるコンテンツの視認性が低下する虞がある。
 本発明は上記問題点に鑑み、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることを目的とする。
 本発明に係るコンテンツ投影制御装置は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部と、投影領域を示す投影領域データを取得する投影領域データ取得部と、前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部と、投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定部と、投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定部と、を備えるものである。
 これにより、相対的に重要とされる情報について視認性低下の抑制が図られる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記劣化部分特定部は、前記投影領域に投影された前記コンテンツデータが示すコンテンツを撮像した撮像画像と前記コンテンツの画像とに基づいて前記劣化部分を特定することが可能である。
 これにより、投影されたコンテンツにおいて補正を要する構成要素を適正に特定可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記配置位置決定部は、前記特定された劣化部分毎に算出された劣化の度合いを示す劣化度と前記構成要素の優先度に応じた閾値との比較に基づいて前記コンテンツデータに含まれる構成要素の配置位置を決定することが可能である。
 これにより、配置位置の変更は劣化部分と重複する全ての構成要素について行われるのではなく、構成要素の劣化度と優先度とに基づき選出された構成要素について選択的に行うことが可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記配置位置決定部は、前記投影領域に投影された前記コンテンツデータが示すコンテンツを投影した撮像画像と前記コンテンツの画像との特徴量の差に基づいて前記劣化度を算出することが可能である。
 これにより、視認性の悪化度合いの大きさに基づいて、配置位置の変更対象とする構成要素を適正に特定することが可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記配置位置決定部は、前記投影領域に投影された前記コンテンツデータが示すコンテンツを投影した撮像画像と前記コンテンツとに基づいて特定された劣化部分の大きさに基づいて前記劣化度を算出することが可能である。
 これにより、視認性悪化部分の大きさに基づいて、配置位置の変更対象とする構成要素を適正に特定することが可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記配置位置決定部は、前記優先度が高い前記構成要素から順に配置位置を決定することが可能である。
 これにより、優先度が高い構成要素ほど表示領域内の良位置を確保することが可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記配置位置決定部は、前記劣化部分に含まれる前記構成要素のうち、相対的に前記優先度の高い前記構成要素のみを対象として前記劣化部分に含まれる範囲が少なくなるように配置位置を決定することが可能である。
 これにより、相対的に優先度が低い構成要素については劣化部分と重複する配置が許容されるため、限られたスペース内で構成要素の配置位置を決定することが容易となる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記優先度特定部は、前記コンテンツに含まれる前記構成要素の特徴量に基づいて前記優先度を特定することが可能である。
 これにより、構成要素の特徴に応じた適切な優先度を設定することが可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記優先度特定部は、前記コンテンツに含まれる前記構成要素の投影サイズに基づいて前記優先度を特定することが可能である。
 構成要素の投影サイズが大きいほど該構成要素の重要度は高いと言えるため、上記構成によれば、構成要素の重要度に従った適正な配置位置の決定を行うことが可能とされる。
 上記した本発明に係るコンテンツ投影制御装置においては、前記優先度特定部は、前記コンテンツに含まれる前記構成要素の属性に基づいて前記優先度を特定することが可能である。
 構成要素の重要度は、該構成要素の属性に相関するものであると言えるため、上記構成によれば、構成要素の重要度に従った適正な配置位置の決定を行うことが可能とされる。
 また、本発明に係る情報処理方法は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得ステップと、投影領域を示す投影領域データを取得する投影領域データ取得ステップと、前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定ステップと、投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定ステップと、投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定ステップと、を情報処理装置が実行する情報処理方法である。
 このような情報処理方法によっても、上記した本発明に係るコンテンツ投影制御装置と同様の作用が得られる。
 さらに、本発明に係るプログラムは、上記情報処理方法として実行する処理を情報処理装置に実行させるプログラムである。
 本発明によれば、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
本発明に係る第1の実施の形態のネットワークシステムの例を示した図である。 第1の実施の形態としての情報処理装置の内部構成を示したブロック図である。 実施の形態のネットワークシステムを構成するユーザ端末の内部構成を示したブロック図である。 第1の実施の形態の劣化補正手法に係る機能をブロック化して示した機能ブロック図である。 コンテンツ及び投影領域の一例を示した図である。 想定データ管理情報についての説明図である。 劣化部分の例を示した図である。 構成パーツに対して劣化部分が重複した例を示した図である。 表示態様の変更例についての説明図である。 第1の実施の形態の劣化補正手法を実現するために実行すべき処理の手順を示したフローチャートである。 第1の実施の形態の変形例1における第1例としての処理を示したフローチャートである。 第1の実施の形態の変形例1における第2例としての処理を示したフローチャートである。 変形例1における第2例のさらに別例としての処理を示したフローチャートである。 第1の実施の形態における変形例3としての処理を示したフローチャートである。 第1の実施の形態における変形例4についての説明図である。 第1の実施の形態における変形例5としての表示態様変更例についての説明図である。 第1の実施の形態における変形例5の別例としての表示態様変更例についての説明図である。 本発明に係る第2の実施の形態のネットワークシステムの例を示した図である。 第2の実施の形態の劣化補正手法に係る機能をブロック化して示した機能ブロック図である。 構成要素の配置位置決定の概要についての説明図である。 構成要素の配置位置決定の具体例についての説明図である。 比較的大きな劣化部分が生じた例を示した図である。 図22に示す劣化部分が生じた場合を前提とした、具体的な構成要素の配置位置決定手法を説明するための図である。 第2の実施の形態の配置位置決定手法を実現するために実行すべき処理の手順を示したフローチャートである。 配置位置変更処理の詳細を示したフローチャートである。 同じく、配置位置変更処理の詳細を示したフローチャートである。 優先度が低い構成要素から順に劣化部分を含む領域に配置を行っていく手法についての説明図である。 図27の手法を実現するために実行されるべき処理の手順を示したフローチャートである。 第2の実施の形態における変形例1としての配置位置決定手法についての説明図である。 変形例1としての配置位置決定手法を実現するために実行されるべき処理の手順を示したフローチャートである。 第2の実施の形態における変形例2としての配置位置決定手法を実現するために実行されるべき処理の手順を示したフローチャートである。 第2の実施の形態における変形例3としての配置位置変更手法についての説明図である。 変形例3としての配置位置変更手法を実現するために実行されるべき処理の手順を示したフローチャートである。 第2の実施の形態の変形例4における第1例としての処理を示したフローチャートである。 第2の実施の形態の変形例4における第2例としての処理を示したフローチャートである。 変形例4における第2例のさらに別例としての処理を示したフローチャートである。 第2の実施の形態における変形例5としての処理を示したフローチャートである。
 以下、実施の形態を次の順序で説明する。

<1.第1の実施の形態>
[1-1.ネットワークシステムの概要]
[1-2.装置構成]
[1-3.第1の実施の形態の劣化補正手法]
[1-4.処理手順]
[1-5.変形例1]
[1-6.変形例2]
[1-7.変形例3]
[1-8.変形例4]
[1-9.変形例5]
[1-10.第1の実施の形態のまとめ]
<2.第2の実施の形態>
[2-1.ネットワークシステムの概要]
[2-2.第2の実施の形態の劣化対応処理手法]
[2-3.処理手順]
[2-4.変形例1]
[2-5.変形例2]
[2-6.変形例3]
[2-7.変形例4]
[2-8.変形例5]
[2-9.変形例6]
[2-10.変形例7]
[2-11.第2の実施の形態のまとめ]
<3.プログラム及び記憶媒体>
<1.第1の実施の形態>
[1-1.ネットワークシステムの概要]

 図1に、本実施の形態で前提とするネットワークシステム1の例を示す。
 本実施の形態のネットワークシステム1は、例えばインターネットとしてのネットワーク2を介して互いに通信可能とされたウェブサーバ3と複数のユーザ端末4,4,…,4と、想定データDB5とを有している。
 ユーザ端末4は、ウェブブラウザを備えたコンピュータ装置(情報処理装置)として構成されている。ユーザ端末4としては、例えば高機能携帯電話機(スマートフォン)や携帯電話機、携帯情報端末(タブレット端末等)等が挙げられるが、ユーザ端末4の種類はこれらに限定されない。
 ユーザ端末4は、HTTP(Hypertext Transfer Protocol)要求をウェブサーバ3に送信することでウェブページや所定の処理を要求する。またユーザ端末4は、HTTP要求に応じて送られてきたウェブページデータ(例えばHTML(HyperText Markup Language)データ等)を受信してウェブページの表示処理を行う。これにより、ユーザは所望のウェブページを閲覧したり操作したりすることが可能とされている。
 後述もするが、ユーザ端末4は、視覚的なコンテンツ(以下、単に「コンテンツ」とも表記する)を表示するための手段としてプロジェクタ部4aを備えており、上記のように受信したウェブページデータに基づくコンテンツを該プロジェクタ部4aにより投影して表示することが可能とされている。
 なお、ウェブページは「投影されるコンテンツ」の一例に過ぎず、これに限定されるものではない。
 ウェブサーバ3は、コンピュータ装置で構成され、ユーザ端末4から送信されてきたHTTP要求に基づいて様々な処理を行う。例えば、要求されたウェブページのウェブページデータの生成及び送信等を行う。
 ウェブサーバ3は、想定データDB5との間で例えばLAN(Local Area Network)等のネットワークを介して互いに通信可能とされている。ウェブサーバ3は、想定データDB5に格納された情報に基づいてユーザ端末4のプロジェクタ部4aにより投影されるコンテンツを補正するための処理を行うが、当該処理、及び想定データDB5に格納された情報の詳細については後に改めて説明する。
 なお、図1において、ネットワーク2の構成は多様な例が想定される。例えば、インターネットを始めとして、イントラネット、エキストラネット、LAN(Local Area Network)、CATV(Community Antenna TeleVision)通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が想定される。
 またネットワーク2の全部又は一部を構成する伝送媒体についても多様な例が想定される。例えばIEEE(Institute of Electrical and Electronics Engineers)1394、USB(Universal Serial Bus)、電力線搬送、電話線等の有線でも、IrDA(Infrared Data Association)のような赤外線、ブルートゥース(登録商標)、802.11無線、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。
[1-2.装置構成]

 図2は、図1で示したウェブサーバ3の内部構成を示したブロック図である。
 図示のようにウェブサーバ3は、制御部30、記憶部31、入出力部32、及び通信部33を備えている。
 制御部30は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)を備えて構成されている。制御部30は、HDD(Hard Disk Drive)やフラッシュメモリ装置等より構成される記憶部31が接続され、該記憶部31に対する各種データの書き込みや読み出しが可能とされている。制御部30は、上記ROMに記憶されているプログラム、又は記憶部31から上記RAMにロードされたプログラムに従って各種の処理を実行する。なお、上記RAMには、上記CPUが各種の処理を実行する上において必要なデータなども適宜記憶される。
 制御部30には入出力部32が接続されている。入出力部32は、各種デバイスの入出力インターフェースとして機能し、例えばキーボード、マウス、タッチパネル等よりなる操作入力デバイスや、LCD(Liquid Crystal Display)、CRT(Cathode Ray Tube)、有機EL(Electroluminescence)パネル等よりなる表示デバイス、さらには磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等のリムーバブルメディアの読み出し/書き込みが可能とされたリーダ/ライタデバイス等が必要に応じて接続される。制御部30は、これら入出力部32に接続された各種デバイスを用いた情報の入力/出力が可能とされている。
 また、制御部30には、外部装置との間で相互のデータ通信を可能とする通信部33が接続されている。本例では、通信部33はインターネットを介した通信が可能に構成されており、これにより制御部30はユーザ端末4との間でネットワーク2を介して各種のデータをやりとりすることができる。
 ここで、上記構成によるウェブサーバ3では、通信部33による通信によりデータやプログラムのアップロード、ダウンロードが行われたり、上記したリーダ/ライタデバイスを用いたリムーバブルメディア経由でのデータやプログラムの受け渡しが可能である。
 制御部30が各種のプログラムに基づいて処理動作を行うことで、ウェブサーバ3において以降で説明する情報処理や通信が実行される。
 なお、ウェブサーバ3としての情報処理装置は、複数のコンピュータ装置がシステム化されて構成されてもよい。複数のコンピュータ装置は、LAN等によりシステム化されていてもよいし、インターネット等を利用したVPN等により遠隔地に配置されたものでもよい。
 図3は、図1で示したユーザ端末4の内部構成を示したブロック図である。
 ユーザ端末4は、プロジェクタ部4aを備えると共に、制御部40、記憶部41、入出力部42、通信部43、操作部44、カメラ部45、撮像画像処理部46、表示部47、及び第一表示駆動部48を備えている。
 制御部40は、CPU、ROM、及びRAMを備えて構成されている。制御部40は、HDDやフラッシュメモリ装置等より構成される記憶部41が接続され、該記憶部41に対する各種データの書き込みや読み出しが可能とされている。制御部40は、上記ROMに記憶されているプログラム、又は記憶部41から上記RAMにロードされたプログラムに従って各種の処理を実行する。なお、上記RAMには、上記CPUが各種の処理を実行する上において必要なデータなども適宜記憶される。
 ここで、制御部40における上記ROM又は記憶部41には、ウェブブラウザとしての機能を実現するためのプログラムが記憶されている。該プログラムに従って、制御部40はウェブサーバ3からのウェブページデータの取得を行ったり、取得したウェブページデータに基づくウェブページを表示するための処理を行う。
 制御部40には、各種デバイスの入出力インターフェースとして機能する入出力部42が接続されており、これにより制御部40は入出力部42に接続された各種の外部デバイスとの間でデータのやりとりを行うことが可能とされている。
 また、制御部40には、外部装置との間で相互のデータ通信を可能とする通信部43が接続されている。本例における通信部43はインターネットを介した通信が可能に構成され、これにより制御部40はウェブサーバ3(制御部30)との間でネットワーク2を介して各種のデータをやりとりすることができる。
 また、制御部40には操作部44が接続されている。操作部44は、ユーザが操作入力を行うためのボタンやタッチパネル等の各種の操作子を有しており、操作子に対する操作に応じた操作入力信号を制御部40に供給する。
 制御部40は、プログラムに従って操作部44からの操作入力信号に応じた処理を行う。これにより、ユーザ端末4においてユーザの操作入力に応じた動作が実行される。
 カメラ部45は、被写体を撮像するための撮像レンズ、及び撮像素子を備える。本例の場合、該撮像素子はカラー画像の撮像が可能に構成されている。
 撮像画像処理部46は、カメラ部45における撮像素子で得られた撮像画像信号についてA/D変換処理や各種光学収差の補正処理等の所定の撮像画像信号処理を行い、デジタルデータとしての撮像画像データを得る。
 これらカメラ部45、撮像画像処理部46は、制御部40からの指示に基づいて撮像素子からの撮像画像信号の読み出し、撮像画像信号処理を行う。
 ここで、カメラ部45による撮像方向は、プロジェクタ部4aにより投影対象物に投影された像を撮像可能な方向に設定されている。
 撮像画像処理部46は、制御部40と接続されており、制御部40は撮像画像処理部46で撮像された撮像画像データを取得可能とされている。制御部40は、取得した撮像画像データを記憶部41に記憶させたり或いは通信部43を介して外部装置に送信させたりすることが可能とされている。
 表示部47は、例えばLCDや有機EL(Electroluminescence)パネル等で構成され、各種の情報表示を行う。
 第一表示駆動部48は、制御部40からの指示に基づき表示部47の表示駆動を行う。
 プロジェクタ部4aは、投影光学系50、光源駆動部51、及び第二表示駆動部51を備えている。
 投影光学系50には、投影光の光源として機能する例えばLED(発光ダイオード)等で構成された光源50aと、光源50aより入射する光に対して画素単位での光変調(光強度変調)を施す光変調素子50bと、光変調素子50bにより光変調が施された光を投影対象物に投影する投影レンズ50cとを備えている。光変調素子50bは、本例では透過型の液晶パネルを用いているが、例えば反射型の液晶パネルやマイクロミラー等の他の光変調素子を用いることもできる。
 光源駆動部51は、制御部40からの指示に基づき光源50aのオン/オフや光量調整を行う。
 第二表示駆動部52は、制御部40からの指示に基づき光変調素子50bについての表示駆動、具体的には画素単位での光強度の変調が行われるように光変調素子50bの各画素を駆動する。
 ここで、本実施の形態のプロジェクタ部4aは、カラー画像の投影が可能とされている。光変調素子50bとして液晶パネルを用いる場合、カラー画像の投影のためには、いわゆる三板方式として、光源50aより発せられた光(白色光)をR(赤)、G(緑)、B(青)の各色に分離した上で分離された光をR、G、B用の個別の光路にそれぞれ配置された光変調素子50bにて光変調し、変調後の各光を合成して得られる合成光を投影レンズ50cにより投影する構成を採るが、図中では簡略化して単一の光路及び単一の光変調素子50bのみを示している。三板方式の場合、第二表示駆動部52は投影すべきカラー画像データのR、G、Bの各値に基づいてそれぞれ対応する色の液晶パネル(光変調素子50b)を表示駆動することになる。
 なお、ユーザ端末4の構成は図3に示したものに限定されない。例えば、プロジェクタ部4aやカメラ部45はユーザ端末4に内蔵されたものではなく、外付けとすることもできる。
[1-3.第1の実施の形態の劣化補正手法]

 図4の機能ブロック図を参照して、ウェブサーバ3における制御部30が実現する各種の機能について説明する。
 図4では、制御部30が第1の実施の形態の劣化補正手法を実現するために実行する各種の処理を機能ごとに分けてブロック化して示している。
 ここで、先ずは実施の形態の劣化補正の必要性について図5を参照して説明しておく。
 図5Aはプロジェクタ部4aにより投影されるコンテンツの例を、図5Bはコンテンツを投影する対象としての投影対象物の例を示している。
 本例では、ユーザ端末4がウェブサーバ3から取得したウェブページデータに基づくコンテンツをプロジェクタ部4aにより投影した場合に、投影されたコンテンツについての劣化補正を、ウェブサーバ3がユーザ端末4で撮像された画像に基づいて行うことを前提とする。
 図5Aは、コンテンツの一例としてのウェブページwpに配置される各構成パーツpを示している。
 ウェブページwpには、構成パーツpとしてp1~p5の5つが配置されている。各構成パーツpは、それぞれがウェブページwpの一部を構成している構成要素であり、本例ではHTMLにおける<P>タグ、<div>タグ等の範囲指定のためのタグで区切られた構成要素であるとする。
 構成パーツpは、コンテンツを構成する構成要素のうち、劣化部分とは無関係に画定される構成要素であり、コンテンツ内において劣化部分の形状、サイズ及び位置に対し該構成パーツpの形状、サイズ及び位置がそれぞれ一致しない限り、劣化部分の範囲=構成パーツpの範囲とはならないものである。
 本例の場合、各構成パーツpはテキスト情報(文字情報)を含み、また該テキストの背景色がHTMLにより指定可能とされている。
 本明細書において「文字」は、数字や記号を含む概念であり、例えば文字コードによって表現可能な情報を意味する。
 ウェブページwpにおいて、各構成パーツpはそれぞれ表示サイズ(表示面積:画サイズ)が異なっており、p1からp5にかけて表示サイズが小さくされている。図示のように最も表示サイズの大きい構成パーツp1はウェブページwpにおける最上部に配置され、その下部に対して次いで表示サイズの大きい構成パーツp2が配置され、さらにその下部に構成パーツp3、構成パーツp4が左右に並んで配置され、構成パーツp4の右側に最も表示サイズの小さな構成パーツp5が配置されている。
 このようなウェブページwpとしてのコンテンツを図5Bに示すような部屋の壁wに対して投影することを考える。
 壁wに対しては、家具s1が寄せられて配置されていたり、時計s2が掛けられていたり、ポスターやカレンダー等の貼物s3が貼り付けられていたりする。図5Bでは、プロジェクタ部4aによりウェブページwpを投影した際の該ウェブページwpの投影領域Apを破線により表しているが、壁wに対する家具s1や時計s2、貼物s3といった障害物の配置態様によっては、全ての障害物を避ける位置に投影領域Apを設定することができず、一部に障害物が重複した状態でウェブページwpを投影せざるを得ない場合がある。
 障害物が重複した部分ではウェブページwpの視認性が悪化する虞がある。このため、本実施の形態では、そのような障害物の重複によって視認性を悪化させるような劣化を来す部分を対象として、劣化の抑制を図るための補正を行う。
 説明を図4に戻す。
 図示するようにウェブサーバ3の制御部30は、機能ごとに分けてコンテンツデータ取得処理部F1、投影領域データ取得処理部F2、劣化部分特定処理部F3、表示態様変更処理部F4、及びコンテンツデータ生成処理部F5を有するものとして表すことができる。 
 コンテンツデータ取得処理部F1は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得する。すなわち、本例ではウェブページwpを取得する。
 投影領域データ取得処理部F2は、投影領域を示す投影領域データを取得する。
 本例では、投影領域データとして、投影領域Apに投影されたコンテンツを撮像して得られる撮像データを取得する。具体的には、プロジェクタ部4aによって投影されたウェブページwpをカメラ部45が撮像して得られる撮像画像データSiをユーザ端末4から受信して取得する。
 劣化部分特定処理部F3は、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定する。
 本例の劣化部分特定処理部F3は、投影領域Apに投影されたコンテンツデータが示すコンテンツを撮像した撮像画像(本例では撮像画像データSi)とコンテンツの画像とに基づいて劣化部分を特定する。具体的には、撮像画像データSiと、投影領域に投影されたコンテンツに対応する想定表示データとに基づいて劣化部分を特定する。
 ここで、想定表示データは、投影対象物にコンテンツを投影した場合に、該コンテンツがどのような態様で表示されるかを想定したデータであり、投影領域Apに視認性を悪化させる要因が無い場合、撮像データ取得処理部F1が取得した撮像データは想定表示データと略一致した態様で得られる。
 想定表示データは、投影されたコンテンツ内の各位置での色を表すデータを少なくとも含む。具体的に、本例における想定表示データは、コンテンツとしての画像を所定サイズによる画素単位で分割した際の、各画素のR、B、Gの輝度値を有する画像データとされている。
 想定表示データは、本例の場合、ウェブサーバ3が配信可能とされるウェブページごとに用意されている。さらには、ウェブページごとの想定表示データは、プロジェクタ部4aがコンテンツを投影する際の投影環境として想定され得る環境ごとに用意されている。投影環境を表す項目としては、例えば投影対象物の色や投影を行う部屋の明るさ(例えば部屋の照明を落としているか否か等)がある。
 想定表示データは、各ウェブページとしてのコンテンツについて、想定され得る投影環境ごとに実際に投影を行った結果に基づき生成しておく。或いは、それら投影環境ごとに投影を行った際の表示画像をシミュレーション演算により求めておくものとしてもよい。
 本例では、ウェブサーバ3が想定表示データを取得可能とするために、ユーザ端末4から投影環境を識別するための投影環境識別情報を取得する。投影環境識別情報は、ユーザ端末4がユーザによる操作入力に基づき取得する。例えば、ユーザ端末4の制御部40は、表示部47において上記の想定され得る投影環境の一覧を表示させ、該一覧から該当する投影環境をユーザに選択させる。そして、制御部40は、選択された投影環境を一意に表す投影環境識別情報をウェブサーバ3に対して送信する。
 想定データ取得処理部F2は、ユーザ端末4から送信された投影環境識別情報に基づき、想定データDB5より対応する想定表示データを取得する。
 なお以下、投影環境識別情報は簡略化して「環境ID」と表記する。
 図6は、想定データDB5に格納された想定表示データを管理するための想定データ管理情報I1の例を示している。
 想定データDB5には、ウェブサーバ3が配信可能とされるウェブページごとの、各投影環境に対応した想定表示データが格納されている。想定データDB5には、これらの想定表示データを管理する想定データ管理情報I1が格納されており、図示のように該想定データ管理情報I1は、上記の各ウェブページを一意に識別するためのページIDと環境IDとの組合せごとに、対応する想定表示データを一意に識別するための想定データIDが対応づけられた情報とされている。
 このような想定データ管理情報I1に基づき、ウェブサーバ3は、ユーザ端末4により投影されたウェブページに対応する想定表示データのうち、該ユーザ端末4から受信した環境IDに対応する想定表示データを取得する。
 なお、本例では、ユーザ端末4はウェブサーバ3に要求したウェブページをプロジェクタ部4aにより投影するため、投影されたウェブページのページIDは、上記の要求時においてウェブサーバ3側で特定されている。すなわち、ウェブサーバ3は、このようにユーザ端末4からのウェブページの要求に応じて特定されたページIDと該ユーザ端末4より受信した環境IDに基づき、想定データ管理情報I1に従って想定データDB5より該当する想定表示データを取得する。
 なお、想定表示データを予め用意しておくことは必須ではない。例えば、ユーザ端末4が要求したウェブページのページIDと該ユーザ端末4から取得した環境IDとに基づき、該当するウェブページを該当する投影環境にて投影した際の想定表示データを前述したシミュレーション演算により都度取得することもできる。その場合、想定データDB5は省略可能である。
 また、上記ではユーザ端末4側における投影環境の別を考慮した想定表示データの取得を行う場合を例示したが、コンテンツの劣化補正にあたり、投影環境の別を考慮することは必須ではない。
 本例の場合、劣化部分の特定は、想定表示データと撮像画像データSiとの差分を検出した結果に基づいて行う。
 この際、差分情報としては、想定表示データと撮像データとの特徴量の差を表す情報を特定する。具体的に、本例では想定表示データと撮像画像データSiとの色の差を表す情報を特定する。色の差を表す情報は、具体的には、画素ごとのR、G、Bの輝度値の差である。
 本明細書において、「色」としては黒、白、及びグレーを含む概念である。
 本例では、差分情報は、撮像画像データSiの画素単位で特定する。
 ここで、差分情報を撮像画像データSiの画素単位で特定するにあたっては、ユーザ端末4にて撮像画像データSiを得た際のカメラ部45の焦点距離や撮像素子から投影対象物までの距離によって、想定表示データにおける1画素分に相当する部分が撮像素子(撮像画像データSi)の何画素分に相当するかが異なることに留意すべきである。すなわち、撮像画像データSi内に存在する投影されたコンテンツの画像部分を構成する各画素が、想定表示データにおける何れの画素に対応しているかという、撮像画像データSiと想定表示データとの間の画素対応関係(以下「画素対応関係Rp」と表記)が異なってくることに留意すべきである。
 このような画素対応関係Rpを特定するべく、劣化部分特定処理部F3は、取得した撮像画像データSi内から投影されたウェブページwpの画像部分を特定し、該特定した画像部分の画サイズと想定表示データの画サイズとの比率から、想定表示データにおける1画素が撮像画像データSiにおける何画素に相当するかを算出する。この算出結果から、画素対応関係Rpを特定し、特定した画素対応関係Rpに基づき、想定表示データと撮像画像データSi(投影されたコンテンツの画像部分)との差分情報を、撮像画像データSiの画素単位で特定する。
 劣化部分特定処理部F3は、差分情報として得られる色の差(特徴量の差)の大きさが一定以上の部分を劣化部分Dとして特定する。具体的には、例えばR、G、Bの輝度値の差(絶対値)の合計値が一定以上の部分を劣化部分Dとして特定する。
 図7により、劣化部分Dの例を説明する。
 図7では先の図5Bに示した投影領域Apに対してウェブページwpを投影した場合における劣化部分Dの例を示している。
 ここでは、貼物s3は例えばポスターであり、白地に図示のような波線状の黒色模様が複数形成されているとする。この場合、劣化部分特定処理部F3によっては、それら波線状の黒色模様部分がそれぞれ劣化部分Dとして特定される。なお、貼物s3に描かれたコンテンツによっては、劣化部分Dは文字形状となる場合もある。
 図4に戻り、表示態様変更処理部F4は、特定された劣化部分の投影領域における位置と投影領域に表示されるコンテンツデータとに基づき、コンテンツデータに含まれる構成要素のうち劣化部分に表示される構成要素の表示態様を変更する。
 本例では、表示態様の変更としては、色の変更を行う。
 ここで、本例ではウェブページwpの投影を前提としていることに対応して、表示態様の変更は、構成パーツpの単位で行う。すなわち、劣化部分Dに表示される(換言すれば、劣化部分Dと重複する)構成パーツpを対象として表示態様の変更を行う。
 この際、本例では劣化部分Dと重複する構成パーツpを常に表示態様変更するものとはせず、構成パーツpごとに特定される優先度に従って、表示態様変更の対象とする構成パーツpを選択(特定)する。
 以下、本例における表示態様変更手法の具体例を説明する。
 先ず、制御部30は、ウェブページwpを構成する構成パーツpごとの優先度を特定する。このような優先度を特定する機能を、図4では優先度特定処理部F4aと表記している。
 本例では、優先度特定処理部F4aは、構成パーツpの重要度に基づいて優先度を特定する。具体的には、構成パーツpの投影サイズに基づいて優先度を特定する。ウェブページwpにおいては、構成パーツp1~p5の順が画サイズの大きい順とされていることから、投影サイズとしても同順となる。従ってこの場合の優先度としては、構成パーツp5から構成パーツp1にかけて徐々に高い優先度を特定する。
 本例の表示態様変更処理部F4は、上記の優先度と共に、構成パーツpごとの劣化度を指標として表示態様の変更対象とすべき構成パーツpを特定する。具体的に、この場合の表示態様変更処理部F4は、各構成パーツpについて劣化度を計算し、該劣化度と優先度とに基づいて表示態様の変更対象とすべき構成パーツpであるか否かを判定する。
 ここで、劣化度は、コンテンツを構成する構成要素における劣化部分Dに起因する劣化度合いを表す指標であり、本例では次のように算出する。すなわち、対象とする構成パーツpの表示面積に占める劣化部分Dの表示面積の割合(以下「劣化面積割合」と表記)に、該構成パーツpと重複している劣化部分Dにおける色の差(上記の差分情報として特定された色の差)の平均値を乗じて算出する。なお、該平均値は、劣化部分Dを構成する画素の平均値である。
 このように本例における構成パーツpごとの劣化度は、劣化部分Dが重複する面積と該劣化部分Dの想定表示データとの差分の大きさとを考慮して算出されるものである。
 表示態様の変更対象とすべき構成パーツpを判定するにあたっては、先ず、劣化部分Dと重複する構成パーツpごとに上記の劣化度を算出する。そして、構成パーツpについて算出した劣化度が、該構成パーツpについて特定された優先度に応じて定められた閾値THp以上であるか否かを判定することで、該構成パーツpが表示態様の変更対象とすべき構成パーツpか否かを判定する。
 この場合、閾値THpは、例えば以下のように優先度の高い構成パーツpに対する閾値THpほど値が小さくなるようにする。換言すれば、優先度の高い構成パーツpほどより低い劣化度で表示態様変更の対象と判定され易くする。
  優先度:1 → 閾値THp=5
  優先度:2 → 閾値THp=10
  優先度:3 → 閾値THp=20
  優先度:4 → 閾値THp=35
  優先度:5 → 閾値THp=50
 これにより、重要とされる構成パーツpが優先的に表示態様変更されるようにできる。換言すれば、重要でないとされる構成パーツpについて無闇に表示態様変更が行われてしまうことの防止を図ることができ、処理負担の軽減を図ることができる。
 表示態様変更処理部F4は、上記のような劣化度と優先度とに従った判定処理により表示態様の変更対象とすべき構成パーツpを特定した上で、該構成パーツpについて以下のような表示態様の変更を施す。
 図8は、表示態様の変更対象とされた構成パーツpにおいて、先の図7で例示したような波線状の黒色模様による劣化部分Dが重複している例を示している。なおこの場合、構成パーツpにおける文字部分txの色は黒、文字部分txの背景色は濃グレーとされている。
 本例のように構成パーツpが文字を含む場合、表示態様の変更としては、図9Aに示すように該構成パーツpの文字部分txの表示色を劣化部分Dの色に対して強調される色(映える色)に変更する。具体的に、この場合は劣化部分Dの色が黒であることに対応して、文字部分txの色を白(又は白に近い色)に変更する。
 これにより、文字部分txの視認性を元の状態(図8)よりも高めることができる。
 なお、劣化部分Dの色がグレーである場合も、上記の「強調される色」としては白(又は白に近い色)に変更する。
 劣化部分Dの色が黒、グレー以外の色である場合、上記の「強調される色」としては劣化部分Dの色の反対色(補色)に変更する。例えば劣化部分Dの色が青系である場合は黄系、劣化部分Dの色が赤系である場合は緑系とする。
 また、構成パーツpが文字を含む場合における表示態様の変更としては、図9Bに示すように、該構成パーツpの背景部分bgの色(文字の背景色)を劣化部分Dの色に対して強調される色に変更することもできる。具体的にこの場合、背景部分bgの色は、劣化部分Dの色である黒に対して白(又は白に近い色)に変更する。
 このように文字の背景色を変更すると、劣化部分Dの色を文字の視認性を高める方向に変更することができる(図8→図9Bの例では劣化部分Dの色を明るくすることができる)。これにより、文字部分txの視認性を元の状態(図8)よりも高めることができる。
 なお、構成パーツpにおける文字部分txや背景部分bgの色の変更は、本例の場合はHTMLデータにおける該当タグについての記述を変更することで比較的簡易に行うことができる。
 ここで、図9Bにより説明した背景色を変更する手法は、想定表示データと撮像画像データSiとの間の劣化部分Dにおける色の差を減少させるように表示態様を変更する手法であると換言できる。
 図4に戻り、コンテンツデータ生成処理部F5は、表示態様変更処理部F4により表示態様が変更されたコンテンツを投影するためのコンテンツデータを生成する。つまり本例の場合は、ウェブページwpについてのHTMLデータとして、上記のような対象構成パーツpについての色変更のための記述変更を施したHTMLデータを含むウェブページデータを生成する。
 制御部30は、上記のようにコンテンツデータ生成処理部F5が生成したウェブページデータ(コンテンツデータ)を、通信部33により要求元のユーザ端末4に対して送信させる。
 これにより、ウェブページwpに劣化部分Dに起因した視認性の低下が生じた場合に対応して、該視認性の低下が抑制されたウェブページwpが改めて投影表示されるようにすることができる。
[1-4.処理手順]

 図10のフローチャートを参照して、上記した第1の実施の形態の劣化補正手法を実現するために実行すべき処理の手順を説明する。なお、図10において、「ウェブサーバ」として示す処理は制御部30が内蔵するROM又は記憶部31に記憶されたプログラムに基づき実行するものであり、「ユーザ端末」として示す処理は制御部40が内蔵するROM又は記憶部41に記憶されたプログラムに基づき実行するものである。
 なお、この図に示す処理が実行されるにあたっては、ユーザ端末4にて上述した環境ID(投影環境識別情報)が取得された状態にあるとする。
 前述した投影環境を考慮しない仕様とする場合、該環境IDの取得は必須ではない。
 先ず、ユーザ端末4の制御部40はステップS101で、ウェブサーバ3(制御部30)に対するウェブページ要求及び環境IDの送信を行う。
 ウェブサーバ3の制御部30は、上記のページ要求を受けてステップS201で要求元のユーザ端末4(制御部40)に該当するウェブページのウェブページデータを送信する。
 続くステップS202で制御部30は、想定表示データ取得処理を行う。すなわち、ユーザ端末4から送信された環境IDと、ユーザ端末4から要求された(ステップS201で送信した)ウェブページのページIDとに基づき、前述した想定データ管理情報I1に従って想定データDB5より該当する想定表示データを取得する。
 制御部40は、ウェブサーバ3より要求に応じたウェブページデータを受信すると、ステップS102に進んで投影処理を行う。すなわち、受信したウェブページデータに基づく画像をプロジェクタ部4aによって投影させる処理を行う。
 ステップS102に続くステップS103で制御部40は、撮像処理として、カメラ部45における撮像素子からの撮像画像信号の読み出し、及び撮像画像処理部46による撮像画像信号処理を実行させ、プロジェクタ部4aにより投影された画像(ウェブページ)を被写体として捉えた撮像画像データSiを取得する。
 次いで制御部40はステップS104で、撮像画像送信処理として、取得した撮像画像データSiをウェブサーバ3に対して送信する処理を行う。
 制御部40は、該ステップS104の送信処理を実行したことに応じて、ステップS105に処理を進める。
 制御部30は、ユーザ端末4からの撮像画像データSiを受信したことに応じ、ステップS203に進んで差分計算処理を行う。つまり本例では、前述のように想定表示データと撮像画像データSiとの間のR、G、Bの輝度値の差を撮像画像データSiの画素単位で計算する。前述したように、この場合の差分計算においては、想定表示データと撮像画像データSiとの間の画素対応関係Rpを特定し、特定した画素対応関係Rpに基づき、想定表示データと撮像画像データSi(投影されたコンテンツの画像部分)との差分を撮像画像データSiの画素単位で計算する。
 続くステップS204で制御部30は、劣化部分Dの特定処理を行う。すなわち、差分情報として得られた色の差の大きさ(例えばR、G、Bの輝度値の差(絶対値)の合計値)が一定以上の部分を劣化部分Dとして特定する処理を行う。
 次いで制御部30は、ステップS205で劣化部分Dが特定されなかったか否かを判定する。ステップS204の処理で劣化部分Dが特定されなかったと判定した場合、制御部30はステップS209に進んで不補正通知を要求元のユーザ端末4に対して行い、ステップS212に処理を進める。
 制御部40は、ステップS105においてウェブサーバ3からの不補正通知の有無を判定しており、不補正通知があった場合はステップS107に進み投影終了か否か、すなわち、例えばユーザによる投影終了を指示する操作入力等、プロジェクタ部4aによる投影を終了するための所定の終了条件が成立したか否かを判定し、投影終了でなければ先に説明したステップS103の撮像処理に戻る。
 つまり、劣化部分Dが特定されない場合は、ウェブサーバ3側における構成パーツpの表示態様変更処理(S210)やユーザ端末3側での変更後のウェブページについての再投影処理(S106)は行われない。この場合、ユーザ端末4側では、ステップS103で新たな撮像画像データSiが撮像されてウェブサーバ3側に送信される(S104)。
 ウェブサーバ3側では新たに送信された撮像画像データSiについてもステップS205の判定処理が行われ、劣化部分Dが特定されなければ再度、上記の不補正通知が行われる。すなわち、劣化部分Dが検出されない限り、表示態様変更処理は行われない。
 制御部40は、ステップS107で投影終了と判定した場合は、ステップS108で投影終了である旨を表す通知をウェブサーバ3側に行い、この図に示す処理を終了する。
 一方、制御部30は、先のステップS205で劣化部分Dが特定されたと判定した場合は、ステップS206で構成パーツpの優先度を特定する処理を行う。つまり本例においては、投影されたウェブページを構成する構成パーツpのうち、特定された劣化部分Dと重複している構成パーツpについて優先度を特定する。前述のように、この場合の優先度は、対象とする構成パーツpの画サイズに応じて特定する。
 続くステップS207で制御部30は、優先度に基づく劣化構成パーツの特定処理を行う。劣化構成パーツは、表示態様変更の対象とする構成パーツpを意味する。ステップS207の劣化構成パーツの特定処理は、優先度と共に、構成パーツpの劣化度を用いて行う。すなわち、劣化部分Dと重複する構成パーツpごとに上述した劣化度を算出し、構成パーツpについて算出した劣化度が、該構成パーツpについて特定された優先度に応じて定められた閾値THp以上であるか否かを判定することで、該構成パーツpが劣化構成パーツであるか否かを判定する。
 続くステップS208で制御部30は、劣化構成パーツが特定されなかったか否かを判定する。劣化構成パーツが特定されなかったと判定した場合、制御部30はステップS209に進んで上述した不補正通知を行う。すなわち、劣化構成パーツが存在しなかった場合も、ウェブサーバ3側での表示態様変更処理、ユーザ端末4側での再投影処理は実行されない。
 一方、ステップS208で劣化構成パーツが特定されたと判定した場合、制御部30はステップS210に進み、劣化構成パーツの表示態様変更処理を実行する。つまり本例では、先の図9A又は図9Bで説明した手法により、該当する構成パーツpについての表示態様を変更する処理を行う。具体的な処理としては、該当する構成パーツpについての表示態様が変更されるように、要求されたウェブページのウェブページデータを構成するHTMLデータについて、該当部分の記述を変更する処理を行う。
  続くステップS211で制御部30は、変更後のウェブページデータを要求元のユーザ端末4に送信する処理を実行し、ステップS212に処理を進める。
 ここで、ウェブサーバ3側におけるステップS210の表示態様変更処理が実行された場合、ステップS209の不補正通知は行われない。すなわち、ユーザ端末4側において、ステップS105で不補正通知なしとの判定結果が得られる。該判定結果が得られた場合、制御部40は、ウェブサーバ3側から変更後のウェブページデータを受信したことに応じ、ステップS106で再投影処理を行う。すなわち、受信したウェブページデータに基づく画像をプロジェクタ部4aにより投影させる処理を行う。
 そして、該再投影処理を実行したことに応じ、制御部40は先に説明したステップS107に処理を進める。上述したようにステップS107で投影終了と判定されなければ、制御部40は新たな撮像画像データSiをウェブサーバ3側に送信する。一方、投影終了と判定された場合はウェブサーバ3側にステップS108の通知が行われる。
 ウェブサーバ3における制御部30は、ユーザ端末4側からのステップS108の通知の有無をステップS212で判定する。該通知がなかったと判定した場合、制御部30は、ユーザ端末4側から新たな撮像画像データSiを受信したことに応じ、ステップS203の差分計算処理を実行する。すなわち、ユーザ端末4側からのステップS108の通知が行われるまでの間、ユーザ端末4側から逐次送信される新たな撮像画像データSiについて、ステップS203以降の処理が繰り返し実行される。
 一方、ステップS212でステップS108の通知があったと判定した場合、制御部30はこの図に示す処理を終える。
 なお、上記では、劣化部分が存在しなかった場合(S205)、劣化構成パーツが存在しなかった場合(S208)にそれぞれユーザ端末4に不補正通知(S209)を行う例を挙げた。ユーザ端末4側では、該不補正通知をトリガとして、新たな撮像画像データSiの送信を行うようにされている。
 しかしながら、ウェブサーバ3側からユーザ端末4側へ不補正通知を行うことが必須ではない。この際、ユーザ端末4側が撮像画像データSiを送信する周期は、例えばウェブサーバ3側との間で定められた所定の周期とすればよい。撮像画像データSiの送信周期は、ウェブサーバ3側での差分計算(S203)から変更後のウェブページデータの送信(S211)までに要する時間よりも長い周期が設定されればよい。
 なお、この点については、後述する各種の変形例、及び第2の実施の形態についても同様である。
 ここで、図10に示した処理によると、ウェブサーバ3は、投影領域Apに投影されたコンテンツを複数の時点で撮像して得られる複数の撮像データを取得し、それら複数の撮像データと想定表示データとの比較から特定される複数の時点での差分情報に基づいて、劣化構成パーツについての表示態様の変更を行っている。
 これにより、差分の経時的な変化に対応した劣化補正を行うことができる。例えば、投影領域Apとユーザ端末4との間に視認性の低下要因となる物体が新たに移動してきた場合に、該物体による視認性の低下を抑制するように表示態様の変更を行うことができる。
 特に、図10に示した処理によると、ウェブサーバ3は、上記の各時点において、差分情報に基づく表示態様の変更を行っている。具体的には、ユーザ端末4から逐次新たな撮像画像データSiが受信されるごとに、ステップS203以降の処理を行っている。
 これにより、例えば上記のように新たな物体が移動してくるなど、投影されたコンテンツにおける劣化部分Dが経時的な変化を示す場合に対応して、該経時的な劣化部分Dの変化に対する補正の応答性の向上を図ることができる。
[1-5.変形例1]

 なお、上記のような複数の時点での撮像データに基づく劣化構成パーツについての表示態様変更を行う例としては、図10に示した例(ユーザ端末4から新たな撮像画像データSiを受信した各時点で差分情報に基づく表示態様変更を行う例)に限定されない。
 例えば、各時点で得られる複数の撮像データと想定表示データとの比較から特定される差分情報の経時的な遷移の態様が、所定の態様に合致することを条件として、差分情報に基づく表示態様の変更を行うことが考えられる。
 第1例として、差分情報に基づく表示態様の変更は、前回の表示態様の変更からの差分情報の変化量が所定量以上となったことを条件として行うことができる。
 図11は、この場合に実行されるべき具体的な処理の手順を示したフローチャートである。なお、以下のフローチャートにおいて、既に説明済みとなった処理と同様の処理については同一のステップ番号を付して説明を省略する。
 この場合、ウェブサーバ3の制御部30は、ステップS202で想定表示データを取得したことに応じて、ステップS301で変更識別フラグfを「0」にセットする。変更識別フラグfは、図中のステップS305において、ステップS210の表示態様変更処理を行ったことに応じて「1」がセットされるフラグである。なお、ステップS305で変更識別フラグfのセット処理を実行したことに応じ、制御部30はステップS211の送信処理に進む。
 ステップS301で変更識別フラグfを「0」にセットした後、制御部30はステップS203の差分計算処理を行い、続くステップS302で変更識別フラグf=1か否かを判定する。これは、図11に示す処理の開始後において、既にステップS210の表示態様変更処理が実行された状態にあるか否かを判定していることに相当する。ステップS302で変更識別フラグf=1でなければ、制御部30はステップS304に進み、差分情報を記憶する。ステップS304で差分情報を記憶したことに応じ、制御部30はステップS204以降の処理を実行する。なお、この点から理解されるように、ステップS304で差分情報の記憶を行うことで、ステップS210の表示態様変更処理が実行された際の差分情報を記憶しておくことが可能とされている。
 一方、ステップS302で変更識別フラグf=1であれば、制御部30はステップS303で、差分変化量が所定の閾値THd以上であるか否かを判定する。すなわち、ステップS304の記憶処理により記憶した最新の差分の値と最新のステップS203の計算処理で算出した差分の値との差(絶対値)を上記の差分変化量として計算し、該差分変化量が閾値THd以上であるか否かを判定する。
 差分変化量が閾値THd以上でなければ、制御部30はステップS209に進んで不補正通知を行う。つまりこの場合、ステップS210の表示態様変更処理は行われない。
 一方、差分変化量が閾値THd以上であれば、制御部30はステップ304に進んで差分情報を記憶した上で、ステップS204以降の処理を実行する。すなわち、前回の表示態様の変更からの差分変化量が所定量以上となったことを条件として、差分情報に基づく表示態様の変更が行われる。
 これにより、劣化部分Dの発生態様に変化がない場合において無闇に表示態様変更処理が実行されてしまうことの防止が図られ、表示態様変更に係る処理負担の低減を図ることができる。
 また、上記した「差分情報の経時的な遷移の態様」を考慮した表示態様の変更手法としては、第2例として、次のような例も考えられる。すなわち、差分情報が表す想定表示データと撮像データとの差が継続的であることを条件として、表示態様の変更を行うというものである。
 図12は、この場合に実行されるべき具体的な処理の手順を示したフローチャートである。
 この場合、ウェブサーバ3の制御部30は、ステップS202で想定表示データを取得したことに応じて、ステップS401でカウント値mを0リセットする。図示するようにこの場合のウェブサーバ3側の処理では、ステップS212においてユーザ端末4側からのステップS108の通知がないと判定した場合に、ステップS401に戻るようにされている。この点から理解されるように、カウント値mはステップS210の表示態様変更処理が実行されるごとに0リセットされるものである。
 ステップS401のリセット処理を実行したことに応じ、制御部30は処理をステップS203→S204→S205と進める。そして、ステップS205で劣化部分Dが特定されたと判定した場合、制御部30はステップS402に進み、カウント値mを1インクリメントする。すなわち、ユーザ端末4が新たに送信した撮像画像データSiと想定表示データとの間に差が生じている場合に対応して、カウント値mが1インクリメントされるものである。
 続くステップS403で制御部30は、カウント値mが所定値M以上であるか否かを判定し、カウント値mが所定値M以上でない場合は、ステップS209の不補正通知を行う。このようにカウント値mが所定値M以上ではなく不補正通知を行った場合は、処理がステップS212に進められ、該ステップS212でステップS108の通知がないと判定された場合はステップS401でカウント値mが0リセットされる。この点から理解されるように、カウント値mは、撮像画像データSiと想定表示データとの差が連続して生じた回数を表すカウント値として機能する。すなわち、ステップS403の判定処理は、撮像画像データSiと想定表示データとの差が連続してM回以上生じたか否かを判定しているものである。
 ステップS403でカウント値mが所定値M以上であると判定した場合、制御部30はステップS206以降の処理を実行する。つまりこれにより、想定表示データと撮像画像データSiとの差が継続的であることを条件として、表示態様変更処理が行われる。
 上記のような処理により、一時的な差分の発生に追従して無闇に表示態様変更処理が実行されてしまうことの防止が図られ、表示態様変更に係る処理負担の低減を図ることができる。
 また、一時的な差分の発生への追従を防止するための手法としては、次のような別例も考えられる。
 すなわち、先ず、第一周期(例えば10秒)の経過によって取得した撮像画像データSi(以下、符号を「Si1」と表記)と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報(以下、符号を「Ds1」と表記)と、当該撮像画像データSi1よりも前に取得した撮像画像データSi(以下、符号を「Si0」と表記)と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報(以下、符号を「Ds0」と表記)との差である第一の差を特定し、当該第一の差が第一閾値以上である場合に、撮像画像データSiの取得周期を第一周期よりも短い第二周期(例えば2秒)に変更する。
 そして、第二周期の経過によって取得した撮像画像データSi(以下、符号を「Si2」と表記)と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報(以下、符号を「Ds2」と表記)と、撮像画像データSi1よりも過去に取得した撮像画像データSi0と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報Ds0との差である第二の差を特定し、第一の差と第二の差との差が第二閾値未満である場合には、投影領域における劣化部分の変化が継続的な変化であると推定されるため劣化部分を特定し、第一の差と第二の差との差が第二閾値以上である場合には、投影領域における劣化部分の変化が一時的な変化であると推定されるため劣化部分を特定する。
 なお、第二周期の経過によって取得した撮像画像データSi2と第一周期の経過によって取得した撮像画像データSi1との差分情報(Ds3)が第二閾値未満である場合には投影領域における劣化部分の変化が継続的な変化であると推定されるため劣化部分を特定し、第一の差と第二の差との差が第二閾値以上である場合には投影領域における劣化部分の変化が一時的な変化であると推定されるため劣化部分を特定しないように構成することもできる。
 図13は、上記手法についてのフローチャートである。
 この場合、ウェブサーバ3の制御部30は、ステップS202で想定表示データを取得したことに応じて、ステップS405で周期識別子sの値を「0」にセットする。周期識別子sは撮像画像データSiの取得周期を識別するための情報であり、「0」は周期=10秒(第一周期)、「1」は周期=2秒(第二周期)を意味する。
 なお本例の場合、撮像画像データSiの取得周期の調整は、ステップS209の不補正通知を行うタイミングを当該周期識別子sの値に応じて調整することで実現する。
 制御部30は続くステップS203で差分計算処理を実行した上で、ステップS406でs=1か否かを判定する。s=1でなければ、制御部30はステップS407に進んで前回差分との差が第一閾値THd1以上か否かを判定する。ここでの「前回差分との差」は、上述した「第一の差」に相当するもので、本例では第一周期による撮像画像データSiの各取得タイミングのうち、今回の取得タイミングで計算した差分と前回の取得タイミングで計算した差分との差としている。
 ステップS407において、前回差分との差が第一閾値THd1以上でなければ、制御部30はステップS209に進んで不補正通知を行う。つまりこの場合、撮像画像データSiの取得周期は第一周期のまま維持される。
 一方、前回差分との差が第一閾値THd1以上であれば、制御部30はステップS408に進み、周期識別子sの値を「1」に更新し、続くステップS409で上記の「前回差分との差」(つまり「第一の差」)を「基準差」として記憶し、ステップS209に処理を進める。
 先のステップS406において、s=1であれば、制御部30はステップS410に進み、前々回差分との差を第二の差として算出する。ここでの「前々回差分との差」は、今回の撮像画像データSiの取得タイミングで計算した差分(つまり2秒の経過によって取得した撮像画像データSiに基づき特定される差分)と、前々回の撮像画像データSiの取得タイミングで得た差分(つまり前述した撮像画像データSi0の取得タイミングで得た差分)との差である。
 ステップS410で第二の差を算出したことに応じ、制御部30はステップS411で基準差と第二の差との差が第二閾値THd2未満であるか否かを判定する。基準差と第二の差との差が第二閾値THd2未満でなければ、制御部30はステップS412に進んで周期識別子sの値を「0」に戻し、ステップS209に処理を進める。つまり、この場合は投影領域Apにおける劣化部分Dの変化が一時的な変化であると推定されるため、劣化部分Dの特定処理(S204)は行われず、取得周期も第一周期に戻される。
 一方、基準差と第二の差との差が第二閾値THd2未満であれば、制御部30はステップS204に進み、劣化部分Dの特定処理を行う。すなわち、投影領域Apにおける劣化部分Dの変化が継続的であると推定される場合に対応して、劣化部分Dの特定処理以降の処理が実行される。
 上記のような手法によれば、周期的に劣化部分Dの発生を検知できるため、一時的に劣化部分Dが発生したとしても、当該劣化部分Dの発生の都度、表示態様を変更してしまうことの抑制が図られる。また、相対的に長周期である第一周期で劣化部分Dの発生を検知した場合に、相対的に短周期である第二周期に撮像周期を切り換えることによって、継続的に劣化部分Dが発生した場合に迅速に対応することができる。つまり、一時的な差分の発生に追従して無闇に劣化補正が実行されてしまうことの防止を図りつつ、劣化補正の応答性の低下を効果的に抑制することができる。
 なお、上記では「第一の差」は「前回差分との差」とする例を挙げたが、「第一の差」は、初期差分からの差、つまり現在投影中のコンテンツについての撮像画像データSiを初回に取得して計算した差分との差としてもよい。
 また、上記では不補正通知を行う場合に対応して、該不補正通知の周期により撮像画像データSiの取得周期を調整する場合を例示したが、不補正通知を行わない場合は、ユーザ端末4に対してs=0/s=1に対応した撮像画像データSiの送信周期(撮像周期)を指示する情報を送信すればよい。
[1-6.変形例2]

 上記では、構成パーツpの優先度が構成パーツpの投影サイズに応じて定められる例を挙げたが、該優先度は、構成パーツpの属性に応じて定められたものとすることができる。この場合、優先度特定処理部F4aは、構成パーツpごとに該属性に応じて設定された優先度を特定する。
 属性の具体例としては、例えばウェブページの本文等のメインのコンテンツ部分、サイドバー部分、広告部分等を挙げることができる。属性は、構成パーツpごとに予め記述された属性情報から特定してもよいし、或いは構成パーツpの文字等の構成要素から推定して特定してもよい。
 この場合、属性情報に応じた優先順位の例としては、動画、静止画、テキスト、広告の属性について、動画>静止画>テキスト>広告の順位を挙げることができる。
 また、構成パーツpのデータ量(データサイズ)に応じて優先度を設定することも可能である。具体的には、相対的にデータ量が大きい構成パーツpの優先度が大きくなるように構成パーツpごとの優先度を特定する例が挙げられる。
 さらに、優先度は、構成パーツpの特徴量に基づいて特定することもできる。
 ここで、構成パーツpの特徴量とは、例えば構成パーツpにおけるエッジ量やエッジの密度を挙げることができる。このような構成パーツpの特徴量について、特徴量が多いほど高い優先度を特定し、特徴量が少ないほど低い優先度を特定する。これにより、エッジ量が多い、又はエッジ密度が高い構成パーツpほど、劣化部分Dとの重複量が少なくても劣化構成パーツ(つまり表示態様変更の対象とする構成要素)として特定され易くなる。換言すれば、同一色でほぼベタ塗りされた背景領域のような特徴量の少ない構成要素については優先度が低くされるため、重複する劣化部分Dにおける撮像画像データSiと想定表示データとの差が大きくても、重複範囲が比較的大きくない限りは劣化構成パーツとして特定されないことになる。
 なお、「優先度を高くする」とは、前述した閾値THpを小さくすることに相当する。従って、上記のように特徴量が多いほど高い優先度を特定するとは、「特徴量が多いほど閾値が小さくなるように優先度を特定する」と換言できる。同様に、特徴量が少ないほど低い優先度を特定するとは、「特徴量が少ないほど閾値が大きくなるように優先度を特定する」と換言できる。
 なお、構成パーツpの優先度は、構成パーツpの出現頻度によって定められたものであってもよい。
[1-7.変形例3]

 上記では、表示態様の変更に係る処理をウェブサーバ3側で行う例を挙げたが、ユーザ端末4側で行うこともできる。
 図14は、この場合にユーザ端末4の制御部40が実行すべき処理の手順を示したフローチャートである。なお、この図に示す処理が実行されるにあたっては、ユーザ端末4において、投影すべきウェブページデータ等のコンテンツデータ、及び上述した環境IDが既に取得された状態にあるとする。
 この場合の制御部40は、ステップS102の投影処理を実行したことに応じ、ステップS501で想定表示データの取得処理を実行する。この場合における想定表示データの取得処理は、例えばウェブサーバ3にステップS102で投影したウェブページの識別情報(例えばURL等)及び環境IDを送信し、想定データDB5より対応する想定表示データを取得する処理となる。或いは、上述したシミュレーション演算により対応する想定表示データを取得する処理としてもよい。
 なお、ステップS501の取得処理は、ステップS203の差分計算処理よりも前に実行されるものであればよく、ステップS102の直後に実行されることに限定はされない。
 ステップS501で想定表示データを取得したことに応じ、制御部40はステップS103の撮像処理を実行して、投影されたコンテンツについての撮像画像データSiを取得し、続くステップS203で差分計算処理を行う。
 この場合の制御部40は、ステップS203の差分計算処理を実行した以降は、図10で説明したステップS205~S208、及びステップS210の処理をウェブサーバ3(制御部30)の場合と同様に行い、ステップS210の表示態様変更処理を実行したことに応じて、ステップS106の再投影処理として、該ステップS210による変更後のウェブページデータに基づく画像をプロジェクタ部4aにより投影させる処理を行った上で、ステップS107の投影終了判定処理を行う。
 なおこの場合は、ステップS205で劣化部分Dが特定されなかったと判定した場合、ステップS208で劣化構成パーツが特定されなかったと判定した場合のそれぞれには、ステップS210の変更処理及びステップS106の再投影処理をパスするべく、ステップS107に処理を進める。
 ステップS107で投影終了でないと判定した場合、制御部40はステップS103の撮像処理以降の処理を再度実行し、投影終了と判定した場合は図14に示す処理を終える。
 なお、これまでの説明では、先の図4で説明した撮像データ取得処理部F1からコンテンツデータ生成処理部F5にかけての処理の全てをウェブサーバ3、又はユーザ端末4が担う場合を例示したが、これらの処理をウェブサーバ3とユーザ端末4とがそれぞれ部分的に担うものとしてもよい。
[1-8.変形例4]

 上記では、投影されるコンテンツがウェブページとされた場合に対応して、表示態様の変更をHTMLデータの記述変更により実現する場合を例示したが、JPEG等の画像データに対する画像処理により表示態様の変更を実現することもできる。
 例えば、図15に示すように投影された画像において文字部分tx、該文字部分txの背景部分bgが存在し、文字部分txに重複するように劣化部分Dが生じているとする。この場合において、該画像から文字部分tx、背景部分bgの構成要素を例えばエッジ検出等の画像認識技術により特定し、特定した構成要素に対して表示態様変更のための画像処理を選択的に施すことができる。また、表示態様変更の対象とする構成要素は、画像内の劣化部分Dと一致する部分として特定することもできる。すなわち、画像内における劣化部分Dの範囲を同様にエッジ検出等により特定し、該特定した画像範囲に対し表示態様変更のための画像処理を施すことができる。
 このように画像処理を用いれば、投影されたコンテンツ内の任意の範囲を該コンテンツの構成要素として抽出し、抽出した構成要素に対する表示態様変更を行うことができる。
 なお、上記では文字部分tx、背景部分bgの構成要素を投影された画像(撮像画像)から特定する例を挙げたが、想定表示データからこれら文字部分tx、背景部分bgの構成要素を特定することも可能である。
 また、劣化領域Dの特定は、画像(コンテンツ)を投影する前に投影領域を撮像して得られた撮像画像データに基づいて行ってもよい。
[1-9.変形例5]

 上記では、表示態様変更の例として、文字部分tx又は背景部分bgの色を劣化部分Dの色に対して強調される色に変更する場合を例示したが、表示態様変更の例としては他にも考えられる。
 例えば、背景部分bg(構成要素に含まれる文字以外の部分)の表示色を劣化部分Dの色に対して同化する色に変更する例を挙げることができる。図16Aでは、文字部分txの色が白、背景部分bgの色がグレー、劣化部分Dの色が黒である場合において、背景部分bgの表示色を劣化部分Dの色と同化する黒色に変更した例を示している。なお、同化する色に変更するとは、例えば青系であれば青系、赤系であれば赤系といったように、同系色に変更することとも換言できる。
 上記のように文字以外の部分の表示色を劣化部分の色に対して同化する色に変更することで、文字以外の部分と劣化部分との境界が埋没する傾向となるため、相対的に投影された文字が識別し易くなる。
 また、劣化部分Dが例えばカレンダー等に起因したもので、図16Bの上側に示すように比較的高い密度(例えば単位面積当たりに占める割合が所定以上)で生じている場合には、図16Bの下側に示すようにして背景部分bgの色濃度を高くすることもできる。これにより、文字列や細かなエッジの影響による「投影された文字」の可読性の低下の抑制を図ることができる。
 或いは、表示態様変更の例としては、投影されたコンテンツにおける劣化部分Dの色と合成したら、該劣化部分Dの隣接領域と近くなる色に劣化部分Dの色を変更することもできる。
 例えば、図17Aの左側に示すように、投影されたコンテンツにおいて劣化部分D(例えば黒)とその隣接領域An(例えば白)が存在していた場合には、劣化部分Dの色を、隣接領域Anの色に近づける色、すなわちこの場合は白に変更する。これにより、同図の右側に示すように、変更後のコンテンツにおいては隣接領域Anと劣化部分Dとの色の違いが目立ち難くなり、劣化部分Dに起因した視認性低下の抑制効果が得られる。
 同様のことは、投影されたコンテンツに文字部分txが含まれる場合においても行うことができる。
 例えば図17Bの上側に示すように、投影されたコンテンツにおいて文字部分tx(例えば黒)と背景部分bg(例えば白)が存在し、文字部分txに重複する劣化部分D(例えば黒)が存在しているとする。この場合、劣化部分Dの色は、該劣化部分Dの隣接領域である背景部分bgの色に近づける色、すなわちこの場合は白に変更する。これにより、同図の下側に示すように、変更後のコンテンツにおいては隣接領域(背景部分bg)と劣化部分Dとの色の違いが目立ち難くなり、劣化部分Dに起因した視認性低下の抑制効果が得られる。
 なお、図17で説明した手法では画像内の劣化部分Dに対して選択的に表示態様の変更を施すので、HTMLデータの記述変更ではなく上述した「変形例4」としての画像処理の手法を適用することが好適である。
 なお、これまでの説明では、表示態様の変更として、構成要素の色の変更を行う例を挙げたが、例えば文字等の構成要素の表示サイズの変更、又はフォントの変更(より視認性の高いフォントへの変更)を行うこともできる。
[1-10.第1の実施の形態のまとめ]

 上記のように第1の実施の形態のコンテンツ投影制御装置(ウェブサーバ3)は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部(コンテンツデータ取得処理部F1)と、投影領域を示す投影領域データを取得する投影領域データ取得部(投影領域データ取得処理部F2)と、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部(劣化部分特定処理部F3)と、特定された劣化部分の投影領域における位置と投影領域に表示されるコンテンツデータとに基づき、コンテンツデータに含まれる構成要素のうち劣化部分に表示される構成要素の表示態様を変更する表示態様変更部(表示態様変更処理部F4)とを備えている。
 これにより、投影領域に投影されたコンテンツにおける劣化部分に係る構成要素の表示態様を変更することが可能とされる。
 従って、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
 また、第1の実施の形態のコンテンツ投影制御装置においては、劣化部分特定部は、投影領域に投影されたコンテンツデータが示すコンテンツを撮像した撮像画像とコンテンツの画像とに基づいて劣化部分を特定している。
 これにより、投影されたコンテンツにおいて補正を要する構成要素を適正に特定することができる。
 さらに、第1の実施の形態のコンテンツ投影制御装置においては、コンテンツに含まれる構成要素の優先度を特定する優先度特定部(優先度特定処理部F4a)を備え、表示態様変更部は、特定された優先度に応じた閾値と構成要素の劣化度合いとに基づいて劣化部分に表示される構成要素の表示態様を変更している。
 これにより、表示態様の変更は劣化部分に表示される全ての構成要素について行われるのではなく、構成要素の優先度に基づき選出された構成要素について選択的に行うことが可能とされる。
 従って、表示態様の変更を行う構成要素が無闇に増加してしまうことの防止を図ることができ、表示態様の変更に係る処理負担の軽減を図ることができる。
 さらにまた、第1の実施の形態のコンテンツ投影制御装置においては、優先度特定部は、コンテンツに含まれる構成要素の特徴量に基づいて優先度を特定している。
 これにより、構成要素の特徴に応じた適切な優先度を設定することができる。
 また、第1の実施の形態のコンテンツ投影制御装置においては、優先度特定部は、コンテンツに含まれる構成要素の投影サイズに基づいて優先度を特定している。
 構成要素の投影サイズが大きいほど該構成要素の重要度は高いと言えるため、上記構成によれば、構成要素の重要度に従った適正な表示態様の変更を行うことができる。
 さらにまた、第1の実施の形態のコンテンツ投影制御装置においては、優先度特定部は、コンテンツに含まれる構成要素の属性に基づいて優先度を特定している。
 構成要素の重要度は、該構成要素の属性に相関するものであると言えるため、上記構成によれば、構成要素の重要度に従った適正な表示態様の変更を行うことができる。
 また、第1の実施の形態のコンテンツ投影制御装置においては、構成要素には文字が含まれ、表示態様変更部は、構成要素に含まれる文字の表示色を劣化部分の色に対して強調される色に変更している。
 これにより、構成要素に含まれた文字が劣化部分の影響で視認性低下を来している場合に対応して、該文字の視認性低下の抑制を図ることができる。
 さらに、第1の実施の形態のコンテンツ投影制御装置においては、構成要素には文字が含まれ、表示態様変更部は、構成要素に含まれる文字以外の表示色を劣化部分の色に対して同化する色に変更している。
 これにより、構成要素に含まれた文字が劣化部分の影響で視認性低下を来している場合に対応して、該文字の視認性低下の抑制を図ることができる。
<2.第2の実施の形態>
[2-1.ネットワークシステムの概要]

 続いて、第2の実施の形態について説明する。
 なお以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号を付して説明を省略する。
 図18は、第2の実施の形態で前提とするネットワークシステム1’の例を示している。
 第1の実施の形態におけるネットワークシステム1との差は、ウェブサーバ3に代えてウェブサーバ3’が設けられた点である。
 ウェブサーバ3’は、ユーザ端末4が投影するコンテンツについての劣化補正に係る処理として、ウェブサーバ3の場合と異なる処理を実行するものであり、内部構成は図2に示したものと同様となるため重複説明は避ける。
[2-2.第2の実施の形態の劣化対応処理手法]

 図19の機能ブロック図を参照して、ウェブサーバ3’における制御部30が実現する各種の機能について説明する。
 図19では、制御部30が第2の実施の形態の劣化対応処理手法を実現するために実行する各種の処理を機能ごとに分けてブロック化して示している。
 図示するようにウェブサーバ3’の制御部30は、機能ごとに分けてコンテンツデータ取得処理部F1、投影領域データ取得処理部F2、劣化部分特定処理部F3、優先度特定処理部F4a、配置位置決定処理部F6、及びコンテンツデータ生成処理部F7を有するものとして表すことができる。
 コンテンツデータ取得処理部F1、投影領域データ取得処理部F2、劣化部分特定処理部F3、及び優先度特定処理部F4aについては、第1の実施の形態で説明したものとそれぞれ同様となることから重複説明は避ける。
 配置位置決定処理部F7は、投影領域Apにおける特定された劣化部分Dの位置と、投影領域Apに投影されるコンテンツデータと、コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分Dに含まれる割合よりも相対的に優先度の低い構成要素が劣化部分Dに含まれる割合の方が高くなるように、コンテンツデータに含まれる構成要素の配置位置を決定する。
 なお、「構成要素が劣化部分Dに含まれる」とは、「構成要素が劣化部分Dと重複する」とも換言できるものである。
 なお、この場合も優先度は、構成パーツpの投影サイズに応じて定められたものであるとする。
 本例における配置位置決定の具体的な手法については以降で改めて説明する。
 コンテンツデータ生成処理部F8は、配置位置決定処理部F7により決定された配置位置により構成要素が配置されたコンテンツを投影するためのコンテンツデータを生成する。
 図20を参照して、配置変更処理部F7による構成パーツpの配置位置変更の概要について説明する。
 図20では、ユーザ端末4により投影されるコンテンツがウェブページwpである場合を例示する。ウェブページwpにおける各構成パーツp(p1~p5)は、この場合もp1が最も投影サイズ(画サイズ)が大きく、以降p2からp5にかけて投影サイズが小さくされている。
 本例の配置位置決定処理では、該劣化部分Dを可能な限り避けるように構成パーツpの配置位置を決定する。
 図21を参照して、具体的な配置位置決定の手法を説明する。
 なお図21では、投影されたウェブページwpに対して図20に示した態様により劣化部分Dが生じている場合を前提とする。
 以下の説明では、配置位置を変更する前における各構成パーツpの配置領域を「初期配置領域」と表記する。
 先ず、配置位置決定処理部F7は、構成パーツpについて、優先度に従って劣化構成パーツであるか否かを判定する。劣化構成パーツであるか否かの判定は、この場合も優先度と共に劣化度を用いて、先に説明した表示態様変更処理部F4と同様の手法により行う。
 本図の例では、構成パーツp1と構成パーツp2が劣化構成パーツに該当しているとする。
 先ず、図中の<1>と示すように、最も優先度の高い構成パーツp1から配置領域を確保(配置位置を決定)する。この場合、構成パーツp1は劣化構成パーツであるため、初期配置領域からの配置位置変更を要する。本図の例では、構成パーツp1を配置可能な領域は劣化部分Dが生じている領域よりも下方の領域であるため、該領域に対して構成パーツp1の配置領域を確保している。
 続いて、優先度が2番目に高い構成パーツp2の配置領域を確保する(図中<2>)。構成パーツp2も劣化構成パーツであり初期配置領域からの配置位置変更を要する。本図の例では構成パーツp2を配置可能な領域は劣化部分Dが生じている領域よりも上方の領域であるため、該領域に対して構成パーツp2の配置領域を確保する。
 さらに、優先度に従って、構成パーツp3、構成パーツp4、構成パーツp5の順で配置領域を確保していく。これら構成パーツp3~p5については劣化構成パーツではないため、初期配置領域からの配置位置変更は必須ではないが、本図の例では、構成パーツp3~p5の初期配置領域に対してはより優先度の高い構成パーツp1の配置領域が既に確保されている。このため、これら構成パーツp3~p5についても配置位置の変更を行う。
 構成パーツp3については、劣化部分Dが生じている領域の右側の領域に配置可能であるため、該領域に対して配置領域を確保する(図中<3>)。
 構成パーツp4については、構成パーツp3について確保した配置領域の右側の領域に配置可能であるため、該領域に対して配置領域を確保する(図中<4>)。
 構成パーツp5については、構成パーツp2について確保した配置領域の右側の領域に配置可能であるため、該領域に対して配置領域を確保する(図中<5>)。
 ここで、図21に示した例では、劣化部分Dが占める面積が比較的小さいため、全ての構成パーツpを劣化部分Dを避けた位置に配置可能であたったが、劣化部分Dが占める面積の大きさによっては、全ての構成パーツpについて劣化部分Dを避けた配置を行うことが不能な場合もある。
 図22は、比較的大きな劣化部分Dが生じた例を示しており、図23は、図22に示す劣化部分Dが生じた場合を前提とした、本例における具体的な構成パーツpの配置位置決定手法を説明するための図である。この場合の劣化部分Dによっては、構成パーツp1、p2と共に構成パーツp3も劣化構成パーツに該当している。
 この場合、構成パーツp1については、図21の例と同様に劣化部分Dが生じている領域よりも下方の領域に配置可能であるため、該領域に対して配置領域を確保する(図23<1>)。また、構成パーツp2についても、図21の例と同様に劣化部分Dが生じている領域よりも上方の領域に配置可能であるため、該領域に対して配置領域を確保する(図23<2>)。さらに、構成パーツp3については、劣化部分Dが生じている領域よりも右側の領域に配置可能であるため、該領域に対して配置領域を確保する(図23<3>)
 ここで、構成パーツp4については、劣化部分D、及び優先度がより上位の構成パーツp(本例ではp1~p3)について既に確保された配置領域(以下「既確保領域」と表記)を避けた位置への配置が不能である。
 本例の配置位置決定手法では、このように劣化部分D及び既確保領域を避けた位置への配置が不能な構成パーツpが出現したことに応じ、該構成パーツpを含む残りの構成パーツpについて、劣化部分Dとの重複を許容して配置位置の決定を行う。
 図23<4>では、残りの構成パーツp4、p5双方の配置位置が劣化部分Dと重複する領域に決定された例を示している。
 上記のように本例の配置位置決定手法では、優先度が高い構成パーツpから順に劣化部分Dを避ける位置への配置領域確保(配置位置決定)を行っていく過程において、劣化部分Dを避ける位置に配置が不能な構成パーツpが出現した場合には、残りの構成パーツpについて、劣化部分Dとの重複を許容して配置位置を決定するようにしている。
 これにより、全ての構成パーツpについて劣化部分Dを避けた位置への配置が可能でない場合に対応して、相対的に優先度の高い構成パーツpが劣化部分Dに含まれる割合よりも相対的に優先度の低い構成パーツpが劣化部分Dに含まれる割合の方が高くなるように、各構成パーツpの配置位置が決定される。
 上記のような配置位置決定手法により、相対的に優先度の高い構成パーツpの方が相対的に優先度の低い構成パーツpよりも劣化部分Dに起因した視認性低下が抑えられる。すなわち、相対的に重要とされる情報について視認性低下の抑制が図られる。
 従って、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
[2-3.処理手順]

 図24のフローチャートを参照して、上記した第2の実施の形態の劣化補正手法を実現するために実行すべき処理の手順を説明する。なお、図24においては、「ウェブサーバ」として示す処理はウェブサーバ3’における制御部30が内蔵するROM又は記憶部31に記憶されたプログラムに基づき実行するものである。
 図24においても、図示の処理が実行されるにあたっては、既にユーザ端末4にて環境IDが取得された状態にあることを前提とする。
 先の図10と対比して分かるように、第2の実施の形態の場合、ユーザ端末4側の処理は第1の実施の形態の場合と同様となる。
 ウェブサーバ3’側の処理は、ウェブサーバ3による処理と比較して、ステップS210の変更処理に代えてステップS601の変更処理(劣化構成パーツの配置位置変更処理)が実行され、該ステップS601に続くステップS602で補正不能であるか否かの判定処理が実行され、該ステップS602で補正不能でないと判定された場合にステップS211の送信処理が実行される点が異なる。
 なお、ステップS602の判定処理については後に改めて説明する。
 図25及び図26は、ステップS601として実行される劣化構成パーツの配置位置変更処理の詳細を示したフローチャートである。
 該ステップS601の処理は、図21や図23を参照して説明したように、基本的には、優先度の高い構成パーツpから順に配置領域を確保していく処理となる。
 図25において、ウェブサーバ3’の制御部30は、先ずステップS701で、優先度識別値yを「1」にセットする。優先度識別値yは、何れの優先度による構成パーツpを処理対象とするかを識別するための値である。
 続くステップS702で制御部30は、優先度y位(つまり1位)の構成パーツpは劣化構成パーツであるか否かを判定する。なお、構成パーツpごとの劣化度と優先度とに基づく劣化構成パーツの特定処理は、ステップS207(図24)で行われている。ステップS702の判定処理は、該特定処理の結果に基づき行うものである。
 ステップS702において、優先度1位の構成パーツpが劣化構成パーツでないと判定した場合、制御部30はステップS703に進み、該構成パーツpの初期配置領域を該構成パーツpの配置領域として確保し、ステップS707に処理を進める。
 一方、ステップS702において優先度1位の構成パーツpが劣化構成パーツであると判定した場合、制御部30はステップS704に処理を進めて、劣化部分Dを避けた位置に配置領域を確保するための処理を実行する。
 先ずステップS704で制御部30は、劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがあるか否かを判定する。該当スペースがあれば、制御部30はステップS705に進み、該当スペース内に該当する構成パーツpの配置領域を確保する。
 なお、該当スペース内に該当する構成パーツpの配置領域を確保する際には、劣化部分Dが生じている領域の位置に応じて、該当スペース内で確保領域を左下詰め或いは右上詰めにする等、優先度がより下位の他の構成パーツpの配置領域が確保し易くなるように図ることが望ましい。
 一方、ステップS704で劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがないと判定した場合、制御部30はステップS706に進み、補正不能フラグを「1」にセットし、ステップS601の配置位置変更処理を終了する。
 なお、該補正不能フラグの初期値は「0」であり、補正不能フラグ=1は補正不能である旨を表す。
 続いて、ステップS707で制御部30は、優先度識別値yを1インクリメントし、続くステップS708で優先度y位の構成パーツpは劣化構成パーツであるか否かを判定する。
 ステップS708で優先度y位の構成パーツpが劣化構成パーツでないと判定した場合、制御部30はステップS709に進み、初期配置領域(つまり優先度y位の構成パーツpの初期配置領域)が既確保領域と重複しているか否かを判定する。
 ステップS709において、初期配置領域が既確保領域と重複していないと判定した場合、制御部30はステップS710に進み、優先度y位の構成パーツpについて、初期配置領域を配置領域として確保し、ステップS714に処理を進める。
 また、先のステップS708で優先度y位の構成パーツpが劣化構成パーツであると判定した場合、及びステップS709で初期配置領域が既確保領域と重複していると判定した場合のそれぞれにおいて、制御部30は図26に示すステップS711に処理を進める。
 ステップS711で制御部30は、劣化部分D及び既確保領域を除いた領域に優先度y位の構成パーツpを配置可能なスペースがあるか否かを判定する。該当スペースがあれば、制御部30はステップS712に進み、該当スペース内に該当する構成パーツpの配置領域を確保する。
 これにより、優先度が2位以下の構成パーツpについても、劣化部分D(及び既確保領域)を避けた領域への配置が可能な場合は該領域に配置領域が確保される。
 一方、ステップS711で劣化部分D及び既確保領域を除いた領域に優先度y位の構成パーツpを配置可能なスペースがないと判定した場合、制御部30はステップS713に進み、既確保領域を除いた領域に優先度y位以下の構成パーツpの配置領域を確保する。
 すなわち、劣化部分D及び既確保領域を避けた位置への配置が不能な構成パーツpが出現したことに応じ、該構成パーツpを含む残りの構成パーツpについて、劣化部分Dとの重複を許容して配置位置の決定が行われる。
 制御部30は、ステップS712による配置領域の確保処理を実行したことに応じ、図25に示すステップS714に処理を進める。
 ステップS714で制御部30は、優先度識別値yが上限値pMAXに達したか否かを判定する。上限値pMAXは、本例では投影されたコンテンツ(本例ではウェブページwp)に含まれる構成パーツpの総数を表す値とされている。
 優先度識別値yが上限値pMAXに達していなければ、制御部30はステップS707に戻って優先度識別値yを1インクリメントした上で、再度ステップS708以降の処理を実行する。これにより、ウェブページwpに含まれる各構成パーツpについて配置領域確保のための処理が繰り返される。
 優先度識別値yが上限値pMAXに達した場合、及び上記したステップS713(図26)で優先度y位以下の構成パーツpの配置領域を確保した場合のそれぞれにおいて、制御部30はステップS715に進み、配置位置変更処理として、各構成パーツpを該構成パーツpについて確保した配置領域に配置する処理を実行し、ステップS601の配置位置変更処理を終了する。ここで、上記のような構成パーツpの配置位置変更は、ウェブページwpのHTMLデータについて記述変更を行うことで実現する。
 説明を図24に戻す。
 制御部30は、ステップS601の配置位置変更処理に続くステップS602で、補正不能か否か、つまり補正不能フラグ=1であるか否かを判定する。補正不能と判定した場合、制御部30はステップS209に進み、ユーザ端末4に対する不補正通知を行う。つまり本例の場合、優先度1位の構成パーツpについて劣化部分Dを避けた位置への配置が不能とされた場合は、構成パーツpの配置位置の変更、及びユーザ端末4側での変更後のコンテンツについての再投影処理は実行されない。この場合、ユーザ端末4側ではそれまで投影中であったコンテンツが投影領域Apに引き続き投影される。該投影コンテンツにおいては、各構成パーツpは投影領域Ap内に表示されている。
 なお、優先度1位の構成パーツpを劣化部分Dを避けた位置(つまり劣化度「0」とする位置)に配置不能であっても、初期配置領域に配置される場合よりも劣化度が低下する領域への配置が可能である場合には、補正フラグ=1とはせずに、該領域に優先度1位の構成パーツpの配置領域を確保した上で処理を継続することも可能である。
 一方、ステップS602で補正不能でないと判定した場合、制御部30はステップS211に進み、変更後のウェブページデータ、すなわちステップS715(図25)の配置位置変更処理が施されたウェブページデータをユーザ端末4側に送信する。
 これにより、配置位置変更後のコンテンツをユーザ端末4側で再投影させることができる。
 ここで、図24に示した処理によると、ウェブサーバ3’は、投影領域Apに投影されたコンテンツを複数の時点で撮像して得られる複数の撮像データを取得し、それら複数の撮像データと想定表示データとの比較から特定される複数の時点での差分情報に基づいて、配置位置の変更を行っている。
 これにより、第2の実施の形態においても、差分の経時的な変化に対応した劣化補正を行うことができる。
 特に、図24に示した処理によると、ウェブサーバ3’は、上記の各時点において、差分情報に基づく配置位置の変更を行っている。具体的には、ユーザ端末4から逐次新たな撮像画像データSiが受信されるごとに、ステップS203以降の処理を行っている。
 これにより、第2の実施の形態においても、投影されたコンテンツにおける劣化部分Dが経時的な変化を示す場合に対応して、該経時的な劣化部分Dの変化に対する補正の応答性の向上を図ることができる。
 なお、上記では、劣化部分Dの特定にあたり、第1の実施の形態の場合と同様に想定表示データとの色の差を基準とする場合を例示したが、劣化部分Dを生じさせる要因としては、例えば投影対象物としての壁に形成された段差や起伏(凹凸)も考えられる。
 この点を考慮し、劣化部分Dの特定は、色の差の大きさのみでなく、撮像画像データSiと想定表示データとの間で同定される画像部分の位置やサイズの誤差の大きさに基づいて特定することもできる。例えば、撮像画像データSiと想定表示データとの間で同定されるエッジ部分の位置やサイズの誤差の大きさに基づいて劣化部分Dを特定することが考えられる。
 また、上記では、配置位置の決定にあたり構成パーツpのサイズ(投影サイズ)を非変更とすることを前提としたが、配置位置の決定にあたっては構成パーツpのサイズ変更を許容してもよい。例えば、構成パーツpの縮小を許容することで、全ての構成パーツpを劣化部分Dを避けた位置により配置し易くすることができる。
 具体的な手法としては、例えば、構成パーツpの投影サイズを縮小する際の縮小率を、構成パーツpの優先度に応じて定めておくことが考えられる。この際、縮小率は、優先度が高い構成パーツpほど縮小の度合いが小さく抑えられるように定めておく。例えば、縮小率が「1」を等倍として数値が小さくなるほど縮小の度合いが大きくなる値とされている場合には、優先度が高いほど縮小率の値は大きくなる。
 このような優先度に応じた縮小率を定めることで、重要度が高い構成パーツpほど縮小に伴う視認性の低下が抑えられるようにできる。
 また、構成パーツpの配置位置決定にあたっては、構成パーツpのアスペクト比の変更を行ってもよい。これにより、劣化部分Dや既確保領域を避けた位置への構成パーツpの配置をより容易化することが可能となる。
 なお、上記のような構成パーツpの縮小やアスペクト比の変更は、ウェブページwpのHTMLデータについて記述変更を行うことで実現する。構成パーツpを縮小する場合、該構成パーツpに文字が含まれていれば該文字のサイズも同様に縮小することができる。
 また、上記では、優先度の高い構成パーツpから順に、劣化部分Dを避ける位置への配置を行っていく例を挙げたが、逆に、優先度が低い構成パーツpから順に劣化部分Dを含む領域に配置を行っていくことも可能である。
 図27は、その場合の具体的な手法についての説明図である。なお、図27では先の図22に示した態様により劣化部分Dが生じたことを前提としている。
 この場合、配置位置決定処理部F6は、先ず、劣化部分Dを含む領域、すなわち低優先度の構成パーツpを優先的に配置する対象領域(以下「劣化部分含有領域Ad」と表記)を特定する。劣化部分含有領域Adは、例えば劣化部分Dが所定の密度以上に密集している領域として特定する。実際の劣化部分Dの発生態様によっては、劣化部分含有領域Adは複数特定され得る。
 この場合の配置位置決定処理部F6は、特定した劣化部分含有領域Ad内に、優先度が最下位の構成パーツp5から順に配置領域を確保していく(図27<1>~<2>)。
 この図の例では、優先度が2番目に低い構成パーツp4の配置領域が確保された段階で、劣化部分含有領域Ad内には次に優先度の低い構成パーツp3を配置可能なスペースがなくなった場合を例示している。
 この場合の配置位置決定処理部F6は、上記のように劣化部分含有領域Ad内に構成パーツpを配置不能となったことに応じ、構成パーツpの配置処理を、優先度が高い構成パーツpから順に劣化部分Dを避けた位置に配置する処理に切り替える。具体的にこの場合は、図27<3><4><5>の遷移として示すように、構成パーツp1、p2、p3の順で、劣化部分D及び既確保領域を除く領域への配置領域確保を行っていく。
 上記のように優先度が低い構成パーツpから順に劣化部分Dを含む位置に配置を行っていく手法を採ることによっても、相対的に優先度の高い構成パーツpが劣化部分Dに含まれる割合よりも相対的に優先度の低い構成パーツpが劣化部分Dに含まれる割合の方が高くなるようにすることが可能である。
 なお、上記では、構成パーツpを劣化部分Dを含む領域に配置する手法の例として、劣化部分含有領域Adを特定する例を挙げたが、該劣化部分含有領域Adを特定することは必須ではなく、例えば、劣化部分Dとの重複面積が最大となるように構成パーツpを配置する等、他の手法を採ることも可能である。
 図28は、図27で説明した手法を実現するために実行されるべき具体的な処理の手順を示したフローチャートである。この場合の制御部30は、図24に示したステップS601の配置位置変更処理として、該図28に示す処理を実行する。
 図28において、ステップS801で制御部30は、劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがあるか否かを判定する。
 該ステップS801の処理は、優先度が低い構成パーツpから順に劣化部分Dを含む位置に配置を行っていくことによって、「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」という結果が得られるか否かを判定する処理として機能する。
 なお、投影領域Apの全域が劣化部分含有領域Adとなっている場合には、構成パーツpの配置位置をどのように変更しても「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」という結果は得られない。この点から、ステップS801の処理としては、「劣化部分含有領域Adの大きさが所定値以上か否か」を判定する処理に変更することも可能である。
 ステップS801において、劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがなければ、制御部30はステップS811で補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
 一方、劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがあれば、制御部30はステップS802に進み、優先度yMAX位(つまり最下位)の構成パーツpを劣化部分含有領域Ad内に配置可能か否かを判定する。すなわち、優先度yMAX位の構成パーツpの全体が劣化部分含有領域Ad内に収まるか否かを判定する。
 優先度yMAX位の構成パーツpを劣化部分含有領域Ad内に配置可能でない場合、制御部30はステップS811に進んで補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
 優先度yMAX位の構成パーツpを劣化部分含有領域Ad内に配置可能であれば、制御部30はステップS803に進んで劣化部分含有領域Ad内に優先度yMAX位の構成パーツpの配置領域を確保する。
 続くステップS804で制御部30は、優先度識別値yを「yMAX-1」にセットした上で、ステップS805で優先度y位の構成パーツpを既確保領域を除いた劣化部分含有領域Ad内に配置可能か否かを判定する。
 優先度y位の構成パーツpを既確保領域を除いた劣化部分含有領域Ad内に配置可能であれば、制御部30はステップS806に進み、既確保領域を除いた劣化部分含有領域Ad内に優先度y位の構成パーツpの配置領域を確保する。
 そして、続くステップS807で制御部30は、優先度識別値yを1デクリメント(-1)し、ステップS805に戻る。これにより、劣化部分含有領域Ad内に可能な限りの数の構成パーツpの配置領域が確保される。
 一方、優先度y位の構成パーツpを既確保領域を除いた劣化部分含有領域Ad内に配置可能でない場合、制御部30はステップS808に進み、y位を飽和順位yoとして設定し、続くステップS809で優先度1位~yo位までの構成パーツpの配置領域を既確保領域を除くスペース内に確保する。このとき、既確保領域を除くスペースに対しては、優先度1位の構成パーツpから順に配置領域を確保していく。
 確認のため述べておくと、本例ではステップS801の判定処理を実行しているため、少なくとも優先度1位の構成パーツpについては劣化部分Dを除いたスペースに配置領域を確保できることが保証されている。
 ステップS809による配置領域確保処理を実行したことに応じ、制御部30はステップS810の配置位置変更処理として、先のステップS715と同様に確保した配置領域に各構成パーツpを配置する処理を実行し、ステップS601の配置位置変更処理を終了する。
 なお、上記の例では、優先度1位の構成パーツpを劣化部分Dを除いた領域に配置不能な場合(S801)、優先度最下位の構成パーツpが劣化部分Dを含む領域に収まらない場合(S802)は、「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」ようにすることができない可能性があるものとして、補正不能フラグを「1」として構成パーツpの配置位置変更のための処理(S803以降の処理)を行わないものとした。
 しかしながら、配置位置変更のための処理を行うか否かの判定処理としては、例えば「優先度1位の構成パーツpを劣化度最低とする領域に配置した際の該優先度1位の劣化度が、優先度最下位の構成パーツpを劣化度最大とする領域に配置した際の該最下位の構成パーツpの劣化度よりも小さい」か否かの判定処理とする等、他の条件の成立有無を判定する処理とすることもできる。
[2-4.変形例1]

 「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」ようにする配置位置決定の手法としては、上記で例示した手法に限らず他にも考えられる。
 例えば、劣化構成パーツに関して、相対的に優先度が高い劣化構成パーツから順に、相対的に優先度の低い構成パーツpと入れ替えるという手法を採ることもできる。
 図29は、上記のような変形例1としての手法について説明するための図である。
 図示するようにこの場合のウェブページwpにおいては、構成パーツpとして構成パーツp1~p8の八つの構成パーツpが配置されているとする(この場合も末尾の番号は構成パーツpの優先度を表す)。
 また、劣化部分Dは、図のように構成パーツp1の一部、及び構成パーツp2の一部にそれぞれ重複するようにして生じており、これら構成パーツp1、p2は劣化構成パーツに該当している。構成パーツp1、p2以外の構成パーツpは劣化部分Dが重複しておらず、非劣化構成パーツに該当している。
 図29に示す例においては、劣化構成パーツである構成パーツp1と入れ替え可能で、且つ入れ替えにより構成パーツp1の劣化度を低下させる(例えば劣化度=0とする)ことのできるより下位の構成パーツpとして、構成パーツp3と構成パーツp4の組、及び構成パーツp5、p6、p7、p8の組が存在する。
 同じく劣化構成パーツである構成パーツp2と入れ替え可能で且つ入れ替えにより構成パーツp2の劣化度を低下させることのできるより下位の構成パーツpとしては、構成パーツp3と構成パーツp4の組、及び構成パーツp5、p6、p7、p8の組がある。
 なお以下、構成パーツpの組は「構成パーツ組」と略称する。
 例えばこのようなケースにおいて、変形例1における配置位置決定処理部F6は、相対的に優先度が高い劣化構成パーツから順に、相対的に優先度の低い構成パーツpと入れ替えるように配置位置を決定する。
 このとき、劣化構成パーツである構成パーツp1、p2については、入れ替え可能な候補が複数存在している。本例では、このように劣化構成パーツについて入れ替え可能な候補が複数存在する場合は、該劣化構成パーツの元位置(初期配置領域)に対して最も近い候補を入れ替え対象とする。具体的に、構成パーツp1については、入れ替え可能な候補としての構成パーツp3及びp4の構成パーツ組と構成パーツp5~p8の構成パーツ組のうち、構成パーツp3及びp4の構成パーツ組と入れ替える。
 この場合、構成パーツp2については、より優先度の高い構成パーツp1についての配置位置入れ替え後(配置位置の決定後)に残存している(入れ替えにより該構成パーツp2の劣化度を低下させることのできる)候補は構成パーツp5~p8の構成パーツ組のみであるため、該構成パーツp5~p8の構成パーツ組との入れ替えを行う。
 上記のような配置位置入れ替えの手法によっても、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるようにする配置位置決定が実現される。
 従って、相対的に重要とされる情報について視認性低下の抑制が図られ、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
 図30は、上記した変形例1としての配置位置決定手法を実現するための処理手順を示したフローチャートであり、本例における制御部30は、図24に示したステップS601の配置位置変更処理として該図30に示す処理を実行する。
 図30において、制御部30はステップS901で、優先度1位、2位の構成パーツpは劣化構成パーツであるか否かを判定する。
 優先度1位、2位の構成パーツpが劣化構成パーツでない場合、制御部30はステップS909に進んで補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
 ここで、相対的に優先度が高い劣化構成パーツから順に相対的に優先度の低い構成パーツpと入れ替えるにあたっては、入れ替え対象の劣化構成パーツは少なくとも2以上存在していることを要する。このため、ステップS901の判定処理を設けている。
 一方ステップS901において、優先度1位、2位の構成パーツpが劣化構成パーツであった場合、制御部30はステップS902で優先度識別値yを「1」にセットした上で、ステップS903の判定処理を実行する。すなわち、該ステップS903では、
 ・優先度y位よりも下位で優先度y位の構成パーツpと入れ替え可能
 ・優先度y位の構成パーツpよりも劣化度が小さい
 との条件を満たす構成パーツp又は構成パーツ組があるか否かを判定する。
 ステップS903において、上記の条件を満たす構成パーツp又は構成パーツ組がなければ、制御部30はステップS909に進んで補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
 一方、上記の条件を満たす構成パーツp又は構成パーツ組がある場合、制御部30はステップS904に進み、該当する構成パーツp又は構成パーツ組が複数であるか否かを判定する。
 該当する構成パーツp又は構成パーツ組が複数でなければ、制御部30はステップS905に進み、優先度y位の構成パーツpと該当する構成パーツp又は構成パーツ組との配置位置入れ替え処理を実行し、ステップS907に進む。
 一方、該当する構成パーツp又は構成パーツ組が複数であれば、制御部30はステップS906に進み、優先度y位の構成パーツpと該当する最も近い構成パーツp又は構成パーツ組との配置位置入れ替え処理を実行し、ステップS907に進む。なお、ステップS906において、「最も近い」とは、先の説明から理解されるように初期配置領域の位置同士を基準として、優先度y位の構成パーツpの位置に最も近いとの意味である。
 ステップS907で制御部30は、優先度識別値yを1インクリメントし、続くステップS908で優先度識別値yが「2」であるか否かを判定する。
 優先度識別値yが「2」であれば、制御部30はステップS903に戻る。つまり、優先度2位の構成パーツp2について、入れ替え候補としての構成パーツp又は構成パーツ組の有無の判定(S903)、及び入れ替え候補が存在する場合におけるステップS904以降の処理が実行される。
 一方、優先度識別値yが「2」でなければ(つまり「3」以上)、制御部30はステップS601の配置位置変更処理を終える。
 なお、上記では入れ替え対象とする劣化構成パーツを優先度2位までで打ち切る例を挙げたが、勿論、優先度3位以下の劣化構成パーツを入れ替え対象に含めるようにすることもできる。
[2-5.変形例2]

 先の図25及び図26では、配置位置変更にあたり、優先度が高い構成パーツpから順に配置位置を決定していく例を挙げたが、この際、相対的に優先度の高い構成パーツpのみを対象として劣化部分Dを避ける位置に配置位置を決定することもできる。
 図31は、変形例2としての配置位置決定手法を実現するために実行されるべきステップS601の配置位置変更処理の手順を示したフローチャートである。
 変形例2におけるステップS601の処理は、図25及び図26に示したステップS601の処理と比較して、ステップS710とステップS714の間にステップS1001~S1003の処理が挿入された点が異なる。
 具体的に、この場合は、ステップS710の配置領域確保処理、又はステップS712(図26参照)の配置領域確保処理を実行したことに応じ、制御部30はステップS1001で、優先度識別値yが制限値yLMTに達したか否かを判定する。制限値yLMTは、劣化部分Dを避けた配置位置変更の対象とする構成パーツpとして、優先度が上位何位までの構成パーツpを対象とするかを定めた値であり、例えば上位2位までの構成パーツpを該配置位置変更の対象とする場合には、制限値yLMT=2とされる。
 ステップS1001において、優先度識別値yが制限値yLMTに達していないと判定した場合、制御部30はステップS707に戻り、優先度識別値yを1インクリメントする。
 ステップS701~ステップS1001にかけての処理により、優先度が上位「yLMT」までの構成パーツpについて、劣化部分D及び既確保領域(優先度1位については劣化部分Dのみ)を除くスペースへの配置領域の確保が行われる。
 ステップS1001で優先度識別値yが制限値yLMTに達したと判定した場合、制御部30は、ステップS1002に進んで優先度識別値yを1インクリメントし、続くステップS1003で既確保領域を除いたスペース内に優先度y位の構成パーツpの配置領域を確保する処理を行う。
 ステップS1003の確保処理を実行したことに応じ、制御部30はステップS714の判定処理を実行する。この場合、該ステップS714で優先度識別値yが上限値yMAXに達していないと判定した場合、制御部30はステップS1002に戻って優先度識別値yのインクリメント処理を行う。
 これにより、優先度が「yLMT」位よりも低い残りの構成パーツpについて、既確保領域を避けることのみを条件とした配置領域の確保が行われる。
 上記のように相対的に優先度が高い構成パーツpのみを対象として劣化部分Dを避ける配置位置決定を行うことによれば、相対的に優先度が低い構成パーツpについては劣化部分Dと重複する配置が許容されるため、限られたスペース内で構成パーツpの配置位置変更を行うことが容易となる。特に、構成パーツpの縮小やアスペクト比変更を許容している場合、縮小やアスペクト比変更が行われる可能性を低くすることができ、これら縮小やアスペクト比変更に伴う処理負担の軽減を図ることができる。
[2-6.変形例3]

 第2の実施の形態における配置位置決定の手法としては、優先度に応じた表示時間の経過をトリガとして構成パーツpの配置を更新するという手法を採ることもできる。
 図32は、そのような変形例3としての配置位置変更手法についての説明図である。
 例えば図32Aに示すように、投影されたウェブページwpの左右それぞれの位置に劣化部分Dが生じている領域が比較的大きな面積により存在したとする。
 変形例2においては、劣化部分Dを除いたスペース内に、図32Bに示すような順次表示対象領域Avを設定する。この順次表示対象領域Avとしては、例えば四角形状の領域を設定する。順次表示対象領域Avは、或る程度の面積が確保されるように、劣化部分Dを除いたスペースから、縦方向及び横方向の長さをそれぞれ所定の長さ以上確保可能な領域を探索して設定する。
 変形例3では、このように設定した順次表示対象領域Av内に、各構成パーツpがその優先度に従った時間長ずつ順次表示されるように配置位置の決定を行う。
 具体的に本例では、図32Cの<1>~<5>の遷移として示すように、順次表示対象領域Av内に構成パーツp1、p2、p3、p4、p5が同順で順次表示されるように、時間経過に応じて構成パーツpの配置位置を更新する。
 この場合、各構成パーツpの表示時間長は優先度に応じて定められており、優先度が高い構成パーツpほど表示時間長が長くされている。すなわち、重要とされる情報ほど表示時間が長くなるようにすることができる。
 なお、表示対象とする構成パーツpの画サイズが設定した順次表示対象領域Avのサイズに対して大きい場合には、構成パーツpの画サイズを縮小する。なおこの際、縮小と併せて、又は縮小に代えて、アスペクト比の変更を行うこともできる。
 上記のように優先度に応じた表示時間の経過をトリガとして構成パーツpの配置を更新する変形例3の手法によれば、劣化部分Dを避けることが可能な限られたスペース内において複数の構成パーツpを同時配置することが不要となり、各構成パーツpを視認性低下の抑制を図る態様で表示することがより容易化されるようにできる。
 また、上記変形例3の手法によれば、重要とされる情報ほど表示時間長を長くすることが可能となるため、重要な情報がコンテンツの閲覧者によって見過ごされてしまう可能性を低くすることができる。
 図33は、変形例3としての配置位置決定手法を実現するために実行されるべき処理の手順を示したフローチャートである。
 なお、この図に示す処理が実行されるにあたっては、既に図24に示したステップS201~S208の処理が実行され、ステップS208で劣化構成パーツが特定されたとの判定結果が得られているとする。
 この場合、制御部30は、先ずステップS1101で劣化部分Dを除いたスペース内に順次表示対象領域Avを設定可能か否かを判定する。順次表示対象領域Avの探索手法については上記で説明済みのため重複説明は避ける。
 順次表示対象領域Avを設定可能でないと判定した場合、制御部30はこの図に示す処理を終える。すなわち、この場合は補正不能であるとして、ウェブページwpの劣化補正のための処理は行われない。
 一方、順次表示対象領域Avを設定可能であると判定した場合、制御部30はステップS1102で順次表示対象領域Avの設定を行い、続くステップS1103で優先度識別値yを「1」にセットした上で、ステップS1104で優先度y位の構成パーツpは設定領域(つまりステップS1102で設定した領域Av)内に収まるか否かを判定する。具体的には、該当する構成パーツpの縦、横の長さが設定した順次表示対象領域Avの縦、横の長さ以内にそれぞれ収まっているか否かを判定する。
 ステップS1104で設定領域内に収まると判定した場合、制御部30は優先度y位の構成パーツpの縮小率設定処理として、ステップS1105で縮小率=1倍に設定する処理を行い、ステップS1107に進む。
 一方、ステップS1104で設定領域内に収まらないと判定した場合、制御部30は優先度y位の構成パーツpの縮小率設定処理として、ステップS1106で順次表示対象領域Av内に収まる縮小率を設定する処理を行い、ステップS1107に進む。
 ステップS1107で制御部30は、優先度識別値yが上限値yMAXに達したか否かを判定し、優先度識別値yが上限値yMAXに達していなければ、ステップS1108で優先度識別値yのインクリメント処理を行った上でステップS1104に戻る。
 これにより、各構成パーツpについてステップS1104からステップS1107にかけての処理が繰り返される。
 一方、優先度識別値yが上限値yMAXに達していると判定した場合、制御部30はステップS1109で順次表示処理を行う。すなわち、優先度が1位の構成パーツpから順に、各構成パーツpが、設定した縮小率での画サイズにより設定した順次表示対象領域Av内に順次表示されるように、構成パーツpの配置位置を変更する。このとき、構成パーツpの配置位置変更は、表示対象とされた構成パーツpの順次表示対象領域Av内での表示時間長が、該構成パーツpの優先度に応じて定められた時間長となるように行う。
 なお、図示による説明は省略したが、この場合の制御部30は、上記の順次表示のための配置位置変更処理の過程において、順次表示対象領域Av内に新たな構成パーツpを配置したウェブページデータを生成するごとに、該生成したウェブページデータをユーザ端末4側に送信し、再投影処理を実行させる。
 これにより、投影されるコンテンツにおいても、順次表示対象領域Av内で表示される構成パーツpが順次入れ替わることになる。
[2-7.変形例4]

 なお、第2の実施の形態においても、第1の実施の形態の変形例1のように、差分情報に基づく配置位置の変更を、各時点で得られる複数の撮像データと想定表示データとの比較から特定される差分情報の経時的な遷移の態様を考慮して行うこともできる。
 具体的には、上記のような差分情報の経時的な遷移の態様が所定の態様に合致することを条件として、差分情報に基づく配置位置の変更を行うものである。
 この場合も、第1例として、差分情報に基づく表示態様の変更を、前回の配置位置の変更からの差分情報の変化量が所定量以上となったことを条件として行うことが考えられる。
 図34は、この場合に実行されるべき具体的な処理の手順を示したフローチャートである。
 先の図11の処理との差異点は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS305との間にステップS602の判定処理が挿入された点が異なる。この場合、ステップS602で補正不能と判定された場合はステップS209の不補正通知処理が実行され、補正不能でないと判定された場合にステップS305の処理が実行される。
 上記第1例としての手法によれば、劣化部分Dの発生態様に変化がない場合において無闇に配置位置変更処理が実行されてしまうことの防止が図られ、配置位置変更に係る処理負担の低減を図ることができる。
 また、上記した「差分情報の経時的な遷移の態様」を考慮した配置位置決定手法としては、第2例として、差分情報が表す想定表示データと撮像データとの差が継続的であることを条件として、配置位置の変更を行うことが考えられる。
 図35は、この場合に実行されるべき具体的な処理の手順を示したフローチャートである。
 先の図12の処理との差異点は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS211との間にステップS602の判定処理が挿入された点である。この場合、ステップS602で補正不能と判定された場合はステップS209の不補正通知処理が、補正不能でないと判定された場合にステップS211の送信処理がそれぞれ実行される。
 上記第2例としての手法によれば、一時的な差分の発生に追従して無闇に配置位置変更処理が実行されてしまうことの防止が図られ、配置位置変更に係る処理負担の低減を図ることができる。
 さらに、第2の実施の形態においても、一時的な差分の発生への追従を防止するための手法としては、先の図13で説明したような第一周期、第二周期を用いる別例としての手法を採ることができる。
 図36のフローチャートは、その場合に実行されるべき処理の手順を示している。
 図13の処理と比較して、この場合は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS211との間にステップS602の判定処理が挿入された点が異なる。この場合も、ステップS602で補正不能と判定された場合はステップS209の不補正通知処理が、補正不能でないと判定された場合にステップS211の送信処理がそれぞれ実行される。
 第2の実施の形態においても、図13と同様の手法を採ることで、一時的な差分の発生に追従して無闇に劣化補正が実行されてしまうことの防止を図りつつ、劣化補正の応答性の低下を効果的に抑制することができる。
[2-8.変形例5]

 第2の実施の形態においても、先に説明した第1の実施の形態の変形例2と同様に、構成パーツpの優先度は、構成パーツpの属性に応じて定められたものとすることができる。すなわち、優先度特定処理部F4aは、構成パーツpごとに該属性に応じて設定された優先度を特定する。
 また、構成パーツpの優先度は、構成パーツpの出現頻度によって定められたものであってもよい。
 また、この場合も優先度は、構成パーツpのデータ量(データサイズ)に応じて設定することも可能である。
 さらに、優先度は、前述した構成パーツpの特徴量(例えば構成パーツpにおけるエッジ量やエッジの密度)に基づいて特定することもできる。
[2-9.変形例6]

 また、構成パーツpの配置位置決定に係る処理は、第1の実施の形態の変形例3のように、ユーザ端末4側で行うこともできる。
 図37は、この場合にユーザ端末4の制御部40が実行すべき処理の手順を示したフローチャートである。
 先の図14との差異点は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS106との間にステップS602の判定処理が挿入された点である。この場合、ステップS602で補正不能と判定された場合はステップS106の再投影処理がパスされてステップS107の処理が実行され、補正不能でないと判定された場合にステップS106の再投影処理が実行される。
 なお、第2の実施の形態における配置位置決定に係る処理、具体的には図19に示した撮像データ取得処理部F1からコンテンツデータ生成処理部F7にかけての処理については、その全てをウェブサーバ3’、又はユーザ端末4が担う場合に限定されず、ウェブサーバ3’とユーザ端末4とがそれぞれ部分的に担うものとしてもよい。
[2-10.変形例7]

 第2の実施の形態における配置位置変更についても、HTMLデータの記述変更により実現する場合に限定されず、JPEG等の画像データに対する画像処理により変更を実現することもできる。この場合も画像処理を用いることで、投影されたコンテンツ内の任意の範囲を該コンテンツの構成要素として抽出することができ、抽出した構成要素について配置位置変更を行うことができる。
[2-11.第2の実施の形態のまとめ]

 上記のように第2の実施の形態のコンテンツ投影制御装置(ウェブサーバ3’)は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部(コンテンツデータ取得処理部F1)と、投影領域を示す投影領域データを取得する投影領域データ取得部(投影領域データ取得処理部F2)と、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部(劣化部分特定処理部F3)と、投影されたコンテンツを構成する構成要素の優先度を特定する優先度特定部(優先度特定処理部F4a)と、投影領域における特定された劣化部分の位置と投影領域に投影されるコンテンツデータとコンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるようにコンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定部(配置位置決定処理部F6)と、を備えている。
 これにより、相対的に重要とされる情報について視認性低下の抑制が図られる。
 従って、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
 また、第2の実施の形態のコンテンツ投影制御装置においては、劣化部分特定部は、投影領域に投影されたコンテンツデータが示すコンテンツを撮像した撮像画像とコンテンツの画像とに基づいて劣化部分を特定している。
 これにより、投影されたコンテンツにおいて補正を要する構成要素を適正に特定することができる。
 さらに、第2の実施の形態のコンテンツ投影制御装置においては、配置位置決定部は、特定された劣化部分毎に算出された劣化の度合いを示す劣化度と構成要素の優先度に応じた閾値との比較に基づいてコンテンツデータに含まれる構成要素の配置位置を決定している。
 これにより、配置位置の変更は劣化部分と重複する全ての構成要素について行われるのではなく、構成要素の劣化度と優先度とに基づき選出された構成要素について選択的に行うことが可能とされる。
 従って、配置位置の変更を行う構成要素が無闇に増加してしまうことの防止を図ることができ、配置位置の変更に係る処理負担の軽減を図ることができる。
 さらにまた、第2の実施の形態のコンテンツ投影制御装置においては、配置位置決定部は、投影領域に投影されたコンテンツデータが示すコンテンツを投影した撮像画像とコンテンツの画像との特徴量の差に基づいて劣化度を算出している。
 これにより、視認性の悪化度合いの大きさに基づいて、配置位置の変更対象とする構成要素を適正に特定することができる。
 また、第2の実施の形態のコンテンツ投影制御装置においては、配置位置決定部は、投影領域に投影されたコンテンツデータが示すコンテンツを投影した撮像画像とコンテンツとに基づいて特定された劣化部分の大きさに基づいて劣化度を算出している。
 これにより、視認性悪化部分の大きさに基づいて、配置位置の変更対象とする構成要素を適正に特定することができる。
 さらに、第2の実施の形態のコンテンツ投影制御装置においては、配置位置決定部は、優先度が高い構成要素から順に配置位置を決定している。
 これにより、優先度が高い構成要素ほど表示領域内の良位置を確保でき、重要とされる情報ほど視認性が高くなるように配置することができる。
 さらにまた、第2の実施の形態のコンテンツ投影制御装置においては、配置位置決定部は、劣化部分に含まれる構成要素のうち、相対的に優先度の高い構成要素のみを対象として劣化部分に含まれる範囲が少なくなるように配置位置を決定している。
 これにより、相対的に優先度が低い構成要素については劣化部分と重複する配置が許容されるため、限られたスペース内で構成要素の配置位置を決定することが容易となる。  特に、構成要素の縮小やアスペクト比変更を許容している場合、縮小やアスペクト比変更が行われる可能性を低くすることができ、これら縮小やアスペクト比変更に伴う処理負担の軽減を図ることができる。
 また、第2の実施の形態のコンテンツ投影制御装置においては、優先度特定部は、コンテンツに含まれる構成要素の特徴量に基づいて優先度を特定している。
 これにより、構成要素の特徴に応じた適切な優先度を設定することができる。
 さらに、第2の実施の形態のコンテンツ投影制御装置においては、優先度特定部は、コンテンツに含まれる構成要素の投影サイズに基づいて優先度を特定している。
 構成要素の投影サイズが大きいほど該構成要素の重要度は高いと言えるため、上記構成によれば、構成要素の重要度に従った適正な配置位置の決定を行うことができる。
 さらにまた、第2の実施の形態のコンテンツ投影制御装置においては、優先度特定部は、コンテンツに含まれる構成要素の属性に基づいて優先度を特定している。
 構成要素の重要度は、該構成要素の属性に相関するものであると言えるため、上記構成によれば、構成要素の重要度に従った適正な配置位置の決定を行うことができる。
<3.プログラム及び記憶媒体>

 以上、本発明に係る情報処理装置の第1の実施の形態としてのウェブサーバ3、ユーザ端末4、及び第2の実施の形態としてのウェブサーバ3’及びユーザ端末4を説明してきたが、実施の形態のプログラムは、これらウェブサーバ3、ウェブサーバ3’、ユーザ端末4の処理を情報処理装置(CPU等)に実行させるプログラムである。
 第1の実施の形態のプログラムは、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得機能と、投影領域を示す投影領域データを取得する投影領域データ取得機能と、前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定機能と、特定された前記劣化部分の前記投影領域における位置と前記投影領域に表示される前記コンテンツデータとに基づき、前記コンテンツデータに含まれる前記構成要素のうち前記劣化部分に表示される構成要素の表示態様を変更する表示態様変更機能と、を情報処理装置に実現させる。
 すなわち、このプログラムは、情報処理装置に図10や図14等により説明した処理を実行させるプログラムに相当する。
 また、第2の実施の形態のプログラムは、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得機能と、投影領域を示す投影領域データを取得する投影領域データ取得機能と、前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定機能と、投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定機能と、投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定機能と、を情報処理装置に実現させる。
 すなわち、このプログラムは、情報処理装置に図24や図37等により説明した処理を実行させるプログラムに相当する。
 上記のようなプログラムにより、第1の実施の形態のウェブサーバ3又はユーザ端末4や、第2の実施の形態のウェブサーバ3’又はユーザ端末4としての情報処理装置を実現できる。
 そして、このようなプログラムはコンピュータ装置等の機器に内蔵されている記憶媒体としてのHDDや、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。或いはまた、半導体メモリ、メモリーカード、光ディスク、光磁気ディスク、磁気ディスクなどのリムーバブル記憶媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記憶媒体は、いわゆるパッケージソフトウェアとして提供することができる。
 また、このようなプログラムは、リムーバブル記憶媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN、インターネットなどのネットワークを介してダウンロードすることもできる。
 1,1’ ネットワークシステム、2 ネットワーク、3,3’ ウェブサーバ、4 ユーザ端末、4a プロジェクタ部、5 想定データDB、30 制御部、33 通信部、40 制御部、43 通信部、45 カメラ部、F1 コンテンツデータ取得処理部、F2 投影領域データ取得処理部、F3 劣化部分特定処理部、F4 表示態様変更処理部、F4a 優先度特定処理部、F5,F7 コンテンツデータ生成処理部、F6 配置位置決定処理部、wp ウェブページ、Ap 投影領域、p1~p8 構成パーツ、D 劣化部分、Av 順次表示対象領域

Claims (12)

  1.  少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部と、
     投影領域を示す投影領域データを取得する投影領域データ取得部と、
     前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部と、
     投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定部と、
     投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定部と、を備える
     コンテンツ投影制御装置。
  2.  前記劣化部分特定部は、
     前記投影領域に投影された前記コンテンツデータが示すコンテンツを撮像した撮像画像と前記コンテンツの画像とに基づいて前記劣化部分を特定する
     請求項1に記載のコンテンツ投影制御装置。
  3.  前記配置位置決定部は、
     前記特定された劣化部分毎に算出された劣化の度合いを示す劣化度と前記構成要素の優先度に応じた閾値との比較に基づいて前記コンテンツデータに含まれる構成要素の配置位置を決定する
     請求項1又は請求項2に記載のコンテンツ投影制御装置。
  4.  前記配置位置決定部は、
     前記投影領域に投影された前記コンテンツデータが示すコンテンツを投影した撮像画像と前記コンテンツの画像との特徴量の差に基づいて前記劣化度を算出する
     請求項3に記載のコンテンツ投影制御装置。
  5.  前記配置位置決定部は、
     前記投影領域に投影された前記コンテンツデータが示すコンテンツを投影した撮像画像と前記コンテンツとに基づいて特定された劣化部分の大きさに基づいて前記劣化度を算出する
     請求項3に記載のコンテンツ投影制御装置。
  6.  前記配置位置決定部は、
     前記優先度が高い前記構成要素から順に配置位置を決定する
     請求項1乃至請求項5の何れかに記載のコンテンツ投影制御装置。
  7.  前記配置位置決定部は、
     前記劣化部分に含まれる前記構成要素のうち、相対的に前記優先度の高い前記構成要素のみを対象として前記劣化部分に含まれる範囲が少なくなるように配置位置を決定する
     請求項1乃至請求項5の何れかに記載のコンテンツ投影制御装置。
  8.  前記優先度特定部は、
     前記コンテンツに含まれる前記構成要素の特徴量に基づいて前記優先度を特定する
     請求項1乃至請求項7の何れかに記載のコンテンツ投影制御装置。
  9.  前記優先度特定部は、
     前記コンテンツに含まれる前記構成要素の投影サイズに基づいて前記優先度を特定する
     請求項1乃至請求項7の何れかに記載のコンテンツ投影制御装置。
  10.  前記優先度特定部は、
     前記コンテンツに含まれる前記構成要素の属性に基づいて前記優先度を特定する
     請求項1乃至請求項7の何れかに記載のコンテンツ投影制御装置。
  11.  少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得ステップと、
     投影領域を示す投影領域データを取得する投影領域データ取得ステップと、
     前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定ステップと、
     投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定ステップと、
     投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定ステップと、を情報処理装置が実行する
     情報処理方法。
  12.  少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得機能と、
     投影領域を示す投影領域データを取得する投影領域データ取得機能と、
     前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定機能と、
     投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定機能と、
     投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定機能と、を情報処理装置に実現させる
     プログラム。
PCT/JP2016/060121 2016-03-29 2016-03-29 コンテンツ投影制御装置、情報処理方法、プログラム WO2017168562A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018507879A JP6622387B2 (ja) 2016-03-29 2016-03-29 コンテンツ投影制御装置、情報処理方法、プログラム
PCT/JP2016/060121 WO2017168562A1 (ja) 2016-03-29 2016-03-29 コンテンツ投影制御装置、情報処理方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/060121 WO2017168562A1 (ja) 2016-03-29 2016-03-29 コンテンツ投影制御装置、情報処理方法、プログラム

Publications (1)

Publication Number Publication Date
WO2017168562A1 true WO2017168562A1 (ja) 2017-10-05

Family

ID=59962758

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/060121 WO2017168562A1 (ja) 2016-03-29 2016-03-29 コンテンツ投影制御装置、情報処理方法、プログラム

Country Status (2)

Country Link
JP (1) JP6622387B2 (ja)
WO (1) WO2017168562A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004077516A (ja) * 2002-08-09 2004-03-11 Sharp Corp 表示装置
JP2013148868A (ja) * 2011-12-21 2013-08-01 Ricoh Co Ltd 画像投影装置、画像処理装置、画像処理方法およびプログラム
JP2015059972A (ja) * 2013-09-17 2015-03-30 株式会社リコー プロジェクタ装置、及び画像投影システム
WO2015111158A1 (ja) * 2014-01-22 2015-07-30 堺ディスプレイプロダクト株式会社 表示装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004077516A (ja) * 2002-08-09 2004-03-11 Sharp Corp 表示装置
JP2013148868A (ja) * 2011-12-21 2013-08-01 Ricoh Co Ltd 画像投影装置、画像処理装置、画像処理方法およびプログラム
JP2015059972A (ja) * 2013-09-17 2015-03-30 株式会社リコー プロジェクタ装置、及び画像投影システム
WO2015111158A1 (ja) * 2014-01-22 2015-07-30 堺ディスプレイプロダクト株式会社 表示装置

Also Published As

Publication number Publication date
JPWO2017168562A1 (ja) 2019-03-14
JP6622387B2 (ja) 2019-12-18

Similar Documents

Publication Publication Date Title
CN105474622A (zh) 用于产生全对焦图像的方法和设备
JP5870586B2 (ja) プロジェクタ制御装置、表示装置及びプログラム。
US10303419B2 (en) Information processing system, display processing apparatus, display processing method, and recording medium
US20150271457A1 (en) Display device, image display system, and information processing method
US10504258B2 (en) Information processing device editing map acquired from server
US9875565B2 (en) Information processing device, information processing system, and information processing method for sharing image and drawing information to an external terminal device
CN105095233A (zh) 局部网页图片更新方法、装置以及系统
EP2840517A2 (en) Method and apparatus for managing images in electronic device
US20160353096A1 (en) Display device and image quality setting method
US9639153B2 (en) Method of controlling electronic device using transparent display and apparatus using the same
KR20150015680A (ko) 특징점의 생성을 이용한 이미지 보정 방법 및 장치
US20230245685A1 (en) Removing Visual Content Representing a Reflection of a Screen
US9921728B2 (en) Service providing device, and method of providing a user interface
JP6622386B2 (ja) コンテンツ投影制御装置、情報処理方法、プログラム
JP6622387B2 (ja) コンテンツ投影制御装置、情報処理方法、プログラム
JP6825480B2 (ja) 情報処理システム、表示処理装置、表示処理方法、および、表示プログラム
US20180103219A1 (en) Method, apparatus, and recording medium for processing image
KR20160125322A (ko) 광고 콘텐츠 생성 및 관리 장치와 그 방법
CN109842812B (zh) 一种多应用节目的优先排序方法、智能电视及存储介质
JP6323446B2 (ja) 情報処理装置、情報処理方法、及び情報処理システム
CN107273072B (zh) 图片显示方法、装置及电子设备
JP2020500349A (ja) 電子装置及びその制御方法
US9881363B2 (en) Image processing device, projector and image processing method for correcting a displayed image
US11341729B2 (en) Method and electronic device for correcting external reality pixels and virtual content pixels within an augmented reality environment
JP2012088959A (ja) 遠隔操作システム、遠隔操作方法およびプログラム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2018507879

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16896782

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 16896782

Country of ref document: EP

Kind code of ref document: A1