WO2018135246A1 - 情報処理システム及び情報処理装置 - Google Patents

情報処理システム及び情報処理装置 Download PDF

Info

Publication number
WO2018135246A1
WO2018135246A1 PCT/JP2017/046428 JP2017046428W WO2018135246A1 WO 2018135246 A1 WO2018135246 A1 WO 2018135246A1 JP 2017046428 W JP2017046428 W JP 2017046428W WO 2018135246 A1 WO2018135246 A1 WO 2018135246A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
synthesized
information processing
unit
display device
Prior art date
Application number
PCT/JP2017/046428
Other languages
English (en)
French (fr)
Inventor
直之 中尾
聡之 大宮
義勝 金丸
Original Assignee
株式会社Ｎｔｔドコモ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Ｎｔｔドコモ filed Critical 株式会社Ｎｔｔドコモ
Priority to JP2018563240A priority Critical patent/JP6730461B2/ja
Priority to CN201780084122.5A priority patent/CN110214445A/zh
Priority to EP17892271.2A priority patent/EP3557865A4/en
Priority to US16/477,584 priority patent/US11010947B2/en
Publication of WO2018135246A1 publication Critical patent/WO2018135246A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37—Details of the operation on graphic patterns
    • G09G5/377—Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition

Definitions

  • the present invention relates to a technique for combining and displaying images.
  • Patent Document 1 discloses a technique for combining and displaying an image corresponding to an imaging location with a captured image. Thereby, for example, when the imaging location is a sightseeing spot, an image of a famous building or the like in the sightseeing spot is combined with the captured image and displayed.
  • An object of the present invention is to make a user feel more interesting than before by looking at a synthesized image.
  • the present invention combines an image recognition unit for recognizing an image and a first composite image that differs according to a recognition result by the image recognition unit with the image, and a predetermined position with respect to the first composite image synthesized with the image. And an image composition unit for synthesizing the second composite image.
  • the image synthesizing unit may synthesize the first synthesized image that is different in at least one of appearance, size, position, movement, and number in accordance with the recognition result by the image recognition unit.
  • the image synthesizing unit may synthesize the second synthesized image, which differs according to the recognition result by the image recognizing unit, with the image.
  • the image synthesizing unit may synthesize the second synthesized image that differs in at least one of appearance, size, position, movement, or number in accordance with the recognition result by the image recognition unit.
  • the image synthesizing unit may extract a partial image corresponding to the head from a captured image including a human head, and synthesize the partial image with the image as the second synthesized image.
  • the image synthesizing unit may synthesize the second synthesized image having a different human face orientation or facial expression with the image according to a recognition result by the image recognizing unit.
  • the image synthesizing unit may synthesize the second synthesized image, which differs depending on the first synthesized image to be synthesized, with the image.
  • the image synthesis unit synthesizes the first synthesized image corresponding to the category at a predetermined position in the image. It may be.
  • the image synthesis unit synthesizes the first synthesized image corresponding to the object at a predetermined position with respect to the object. May be.
  • the present invention instructs the display device to synthesize a different first synthesized image with the image according to the recognition result of the image, and performs the second synthesis at a predetermined position with respect to the first synthesized image synthesized with the image.
  • an information processing apparatus comprising an image composition instruction unit for instructing the display device to compose an image.
  • DESCRIPTION OF SYMBOLS 1 ... Information processing system, 10 ... Information processing apparatus, 11 ... Image recognition part, 12 ... 1st synthesized image determination part, 13 ... Image composition instruction
  • FIG. 1 is a diagram illustrating the configuration of an information processing system 1 according to an embodiment of the invention.
  • the information processing system 1 includes an information processing device 10 that recognizes an image, a display device 20 that captures and displays an image, and a network 90 that connects the information processing device 10 and the display device 20 so that they can communicate with each other.
  • the network 90 is, for example, a LAN (Local Area Network), a WAN (Wide Area Network), or a combination thereof, and may include a wired section or a wireless section.
  • LAN Local Area Network
  • WAN Wide Area Network
  • FIG. 1 one information processing device 10 and one display device 20 are shown, but a plurality of these may be provided.
  • the information processing apparatus 10 acquires a captured image by the display device 20 and performs image recognition on the captured image.
  • the information processing apparatus 10 synthesizes the first synthesized image, which differs depending on the image recognition result, with the captured image, and further synthesizes the second synthesized image at a predetermined position with respect to the first synthesized image. Instruct. For example, when a landscape is imaged by the display device 20 (FIG. 7A described later), a moving character image imitating a human running is synthesized as a first composite image G1 corresponding to the landscape ( FIG. 7 (B)). A predetermined position in the first composite image G1, that is, a region G2 corresponding to the human head represented by the first composite image G1, is blank.
  • the captured face image is combined with the region G2 of the first composite image G1 as the second composite image G3. (FIG. 7 (D)).
  • a scene in which a human character image having the user's own face is running is combined as a moving image with the landscape image displayed on the display device 20, and the user can combine these images. You can enjoy watching the fun and movement.
  • FIG. 2 is a diagram illustrating a hardware configuration of the display device 20.
  • the display device 20 is a communicable computer such as a smart phone, a tablet, or a personal computer.
  • the display device 20 includes a CPU 201 (Central Processing Unit), a ROM (Read Only Memory) 202, a RAM (Random Access Memory) 203, an auxiliary storage device 204, a communication IF 205, a camera 206, and a UI device 207.
  • the CPU 201 is a processor that performs various calculations.
  • the ROM 202 is a non-volatile memory that stores programs and data used for starting up the display device 20, for example.
  • a RAM 203 is a volatile memory that functions as a work area when the CPU 201 executes a program.
  • the auxiliary storage device 204 is a non-volatile storage device such as an HDD (Hard Disk Drive) or an SSD (Solid State Drive), and stores programs and data used in the display device 20.
  • the display device 20 functions as a computer device, and a function shown in FIG. 5 described later is realized.
  • the communication IF 205 is an interface for performing communication via the network 90 in accordance with a predetermined communication standard.
  • This communication standard may be a wireless communication standard or a wired communication standard.
  • the communication IF 205 includes an antenna and a communication circuit that operate according to a communication standard such as LTE (Long Term Evolution) or Wi-Fi (registered trademark).
  • the camera 206 includes a lens and an optical element, and generates image data indicating a captured image.
  • the camera 206 includes an in camera provided on the front side of the display device 20 and an out camera provided on the back side of the display device 20.
  • the in-camera is mainly used when imaging the user himself, and the out-camera is mainly used when imaging scenery other than the user himself.
  • the UI device 207 includes an operation unit provided with operators such as a key and a touch sensor, a display unit such as a liquid crystal panel and a liquid crystal drive circuit, and an audio output unit such as a speaker or an earphone terminal.
  • the display device 20 may include other configurations such as a GPS (Global Positioning System) unit in addition to the configuration illustrated in FIG.
  • GPS Global Positioning System
  • FIG. 3 is a diagram illustrating a hardware configuration of the information processing apparatus 10.
  • the information processing apparatus 10 is a computer apparatus having a CPU 101, a ROM 102, a RAM 103, an auxiliary storage device 104, and a communication IF 105.
  • the CPU 101 is a processor that performs various calculations.
  • the ROM 102 is a non-volatile memory that stores programs and data used for starting up the information processing apparatus 10, for example.
  • the RAM 103 is a volatile memory that functions as a work area when the CPU 101 executes a program.
  • the auxiliary storage device 104 is a nonvolatile storage device such as an HDD or an SSD, and stores programs and data used in the information processing apparatus 10. When the CPU 101 executes this program, the functions shown in FIG. 5 described later are realized.
  • the communication IF 105 is an interface for performing communication via the network 90 in accordance with a predetermined communication standard.
  • the information processing apparatus 10 may include other configurations such as a UI device in addition to
  • auxiliary storage device 104 in addition to the image recognition engine for performing image recognition and the first composite image data group for displaying the first composite image described above on the display device 20, which first composite image is displayed on the display device 20.
  • a composite image determination table for determining whether to display is stored.
  • FIG. 4 is a diagram illustrating a composite image determination table.
  • the recognition type of image recognition the image recognition result, the first composite image ID for identifying the first composite image, and the display position of the first composite image are associated with each other.
  • the recognition types include category classification and object detection.
  • Category classification is also referred to as general object recognition, and it only recognizes the category or proper noun to which an object in the image belongs, and does not specify where the object is in the image.
  • the category classification is realized, for example, by extracting a feature of an image to calculate a vector quantization histogram and applying the calculation result to a prepared category or a histogram for each proper noun.
  • object detection is also referred to as specific object recognition.
  • Object detection is realized by, for example, performing local feature extraction of an image and using a statistical learning method for the extraction result.
  • the information processing apparatus 10 attempts image recognition on the captured image of the display device 20, and as a result of the recognition, the category classification may be possible, or the object classification may be detected as well as the category classification. Neither can be done.
  • the first composite image ID “C001” corresponding to the classified category or proper noun
  • the absolute coordinates are coordinates according to the XY coordinate axes defined in advance in the display area of the display device 20. That is, in this example, the first composite image is located at a position (for example, the central portion of the display area) designated by the absolute coordinates in the display area of the display device 20 regardless of the position of the object “bridge” in the image. Synthesized.
  • the object when an object can be detected for an object in the image, for example, a category “building” and a proper noun “clock tower” and a position in the image, the object ( It is defined that the first composite image of the first composite image ID “C020” corresponding to the category or proper noun is displayed at the relative coordinates x1, y1.
  • the relative coordinates are coordinates according to an xy coordinate axis (for example, an xy coordinate axis having a unit scale corresponding to the size of the object with the center of gravity of the object as the origin) defined based on the detected object “clock tower”. It is.
  • the first composite image is synthesized at a position designated by relative coordinates with respect to the position of the object “clock tower” in the image. Accordingly, the display position of the first composite image is different. For example, as illustrated in FIG. 7, the first composite image G1 is always displayed at a position above the roof portion in the gravity direction with respect to the object “clock tower”.
  • each first composite image data stored in the auxiliary storage device 104 includes data specifying the display position of the second composite image with respect to the first composite image. For example, when a moving character image imitating a human running is synthesized as the first synthesized image G1 (FIG. 7B), the position of the region G2 corresponding to the human head in the first synthesized image G1. Is designated as a predetermined position in the first composite image data.
  • FIG. 5 is a block diagram showing a functional configuration of the information processing system 1.
  • an image capturing unit 21 that captures an image
  • a second composite image acquisition unit 22 that acquires a second composite image
  • an image captured by the image capturing unit 21 An image data generation unit 23 that generates image data obtained by combining the first composite image and the second composite image, and a display unit 24 that displays an image corresponding to the image data generated by the image data generation unit 23 are realized.
  • an image recognition unit 11 that recognizes an image captured by the imaging unit 21, and a first composite image determination unit 12 that determines a different first composite image according to a recognition result by the image recognition unit 11.
  • the first composite image determined by the first composite image determination unit 12 is combined with the image captured by the imaging unit 21, and the second composite image is combined at a predetermined position with respect to the first composite image combined with the image.
  • the image composition instruction unit 13 that instructs the display device 20 to do so is realized.
  • the imaging unit 21 and the second composite image acquisition unit 22 are realized by the camera 206 of the display device 20, the image data generation unit 23 is realized by the CPU 201 of the display device 20, and the display unit 24 is realized by the UI device 207 of the display device 20. Is done.
  • the image recognition unit 11 is realized by the CPU 101 of the information processing device 10
  • the first composite image determination unit 12 is realized by the CPU 101 and the auxiliary storage device 104 of the information processing device 10
  • the image composition instruction unit 13 is the CPU 101 of the information processing device 10.
  • the image data generation unit 23 and the image composition instruction unit 13 implement an image composition unit 30 included in the information processing system 1 according to the present invention.
  • the image synthesis unit 30 synthesizes a first synthesized image that differs according to the recognition result by the image recognition unit 11 with the image captured by the imaging unit 21.
  • the user activates the imaging unit 21 (out camera) of the display device 20 and starts imaging an object desired by the user (step S11).
  • the imaging result by the imaging unit 21 is displayed in real time on the display area of the display device 20, and when the imaging direction of the imaging unit 21 changes, the image on the display area is also changed.
  • the captured image is displayed in the display area of the display device 20 as shown in FIG. Is displayed.
  • the captured image data indicating the captured image is transmitted from the communication IF 205 to the information processing apparatus 10 when a user operation is performed, continuously from the operation time point, or periodically from the operation time point (step S12). At this time, it is desirable that the display device 20 appropriately compress the captured image data to reduce the data size.
  • the image recognition unit 11 of the information processing apparatus 10 attempts image recognition by applying an image recognition engine to the captured image data (step S13). If the image recognition is successful, the first composite image determination unit 12 determines a first composite image to be combined with the captured image on the display device 20 based on the recognition result (step S14). Here, when the image recognition unit 11 succeeds in the category classification, the first composite image determination unit 12 specifies the first composite image ID corresponding to the category of the object in the table illustrated in FIG. First composite image data of the first composite image ID is read from the auxiliary storage device 104. The image composition instruction unit 13 transmits the read first composition image data to the display device 20 as an image composition instruction together with the absolute coordinates corresponding to the category in the table illustrated in FIG. 4 (step S15). At this time, as described above, the first composite image data includes data designating the display position of the second composite image with respect to the first composite image.
  • the first composite image determination unit 12 specifies the first composite image ID corresponding to the category or proper noun of the object in the table illustrated in FIG.
  • First composite image data with an image ID is read from the auxiliary storage device 104.
  • the image composition instruction unit 13 displays the read first composite image data together with the coordinates of the object in the display area of the display device 20 and the relative coordinates corresponding to the category or proper noun in the table illustrated in FIG. It transmits to the display apparatus 20 as a synthetic
  • the first data generation unit 23 of the display device 20 acquires the first composite image data and the like (step S16)
  • the first data is generated at the position specified by the coordinates (absolute coordinates or relative coordinates) in the captured image of the display unit 24.
  • Display a composite image For example, when the user images the scenery of the clock tower, as shown in FIG. 7B, a first composite image G1 of a moving image simulating a human running above the roof portion of the clock tower is displayed. .
  • the image data generation unit 23 guides the user to capture the second composite image (step S17).
  • This guidance may be realized by, for example, a method of displaying a message “Please take a picture of yourself” and designating the imaging position of the face on the display area of the display device 20.
  • the user images his / her face with the imaging unit 21 (in-camera).
  • the imaging unit 21 in-camera.
  • the upper body including the user's face is displayed in the display area of the display device 20.
  • the image data generation unit 23 extracts a partial image corresponding to the user's head from this image using an image recognition technique or the like, and acquires it as a second composite image (step S18).
  • the image data generation unit 23 generates image data obtained by combining the first combined image and the second combined image with the captured image (Step S19), and displays an image corresponding to the image data (Step S20).
  • the second composite image showing the user's face is arranged at the position of the head in the first composite image imitating a human running, and these are the roof portions of the clock tower. Will be displayed above.
  • FIG. 8 is a diagram showing a display example different from the above.
  • a point card for giving a privilege to the user from the company A is imaged as an object by the display device 20 (FIG. 8A)
  • a person jumps as the first composite image G4 corresponding to the object.
  • Character image first composite image ID: C022 in FIG. 4
  • an anime character image first composite in FIG. 4
  • Image ID: C023 is synthesized (FIG. 8B).
  • a region G5 corresponding to a human head is blank.
  • the image of the user's face is combined with the region G5 of the first composite image G4 as the second composite image G7 ( FIG. 8D). If it does in this way, in the point card currently displayed on the display apparatus 20, the figure which a human character image with a user's own face will jump with an animation character image will be synthesize
  • first composite image a human character image
  • second composite image second composite image
  • the user can feel the interestingness that is not possible in the past by looking at the combination, arrangement, or movement of these images.
  • the first composite image differs depending on the recognition result of the captured image displayed on the display device 20, what kind of first composite image is synthesized by the user capturing various objects.
  • the image of the user's own face is used as the second composite image, it is possible to enjoy a feeling as if the user himself / herself existed in the virtual space of the captured image.
  • the user since the user captures his / her face as the second composite image after seeing the first composite image combined with the captured image, the user captures the direction or expression of his / her face to be combined.
  • the user In order to match the atmosphere of the image and the first composite image, for example, it is possible to turn sideways or make a comical expression or a desperate expression. This is also one of the fun for the user.
  • the embodiment described above can be modified as follows. The following modifications may be implemented in combination with each other.
  • the image compositing unit 30 is not limited to compositing the first composite image having different appearances according to the recognition result by the image recognizing unit 11.
  • the first composite image having at least one of size, position, motion, or number is different. May be synthesized.
  • the first composite image is not limited to a moving image and may be a still image.
  • the image composition unit 30 may compose a different first composite image according to the user attribute or the position of the display device 20.
  • the image composition unit 30 may synthesize different first composite images according to the recognition result by the image recognition unit 11.
  • the plane of the ground on which the building is installed is recognized.
  • the first component image may be synthesized on the plane.
  • the image synthesizing unit 30 always uses the face image captured by the user as the second synthesized image regardless of the recognition result by the image recognizing unit 11, but differs depending on the recognition result by the image recognizing unit 11.
  • the second synthesized image may be synthesized.
  • the user captures a face with various expressions or orientations in advance and stores it in the auxiliary storage device 204 of the display device 20 in advance, and the user's appearance associated with the facial expression or orientation (for example, Tag that means fun, sad, laughing face, crying face, familiarity, expressionlessness, etc.).
  • the tag may be assigned by the user himself or by the display device 20 or the information processing device 10 using an image recognition technique.
  • the image composition unit 30 sets a face image to which a tag corresponding to the recognition result by the image recognition unit 11 is assigned as a second composite image.
  • the recognition result by the image recognition unit 11 and the type of user's appearance are associated with each other and stored in the auxiliary storage device 204, and the image composition unit 30 corresponds to the recognition result by the image recognition unit 11.
  • the tag to be identified is identified, and the face image data to which the tag is attached is read from the auxiliary storage device 204.
  • the image composition unit 30 is a second composite image in which at least one of appearance, size, position, movement, or number differs according to the recognition result by the image recognition unit 11. May be synthesized.
  • the second composite image is not limited to the captured image, and may be any image such as an avatar or an animation image. As described above, when the various elements of the second composite image are different depending on the image recognition result, it is more interesting for the user.
  • the image composition unit 30 may compose a different second composite image according to the first composite image. For example, when a landscape is imaged by the display device 20, the first composite image G1 corresponding to the landscape is synthesized.
  • the image composition unit 30 presents, for example, a plurality of second composite image candidates to the user according to the first composite image G1, and when the user selects one of them, the second composite image is composed.
  • the first composite image may be combined with a second composite image of a face with a pleasant expression at the lower level of the building, and a second composite image of a face with a more likely expression as it progresses to the higher level. . That is, the second composite image may be changed according to the movement or position change of the first composite image. As described above, when the various elements of the second composite image are different depending on the first composite image, the interest for the user increases.
  • the information processing apparatus 10 does not store the first composite image data, but the display apparatus 20 stores the first composite image data, and the display apparatus 20 uses the first composite image ID to indicate which first composite image data the information processing apparatus 10 uses. You may just tell In this way, the amount of communication data between the information processing device 10 and the display device 20 can be reduced.
  • the image synthesized with the first synthesized image and the second synthesized image is not limited to an image captured in real time by the imaging unit 21, and for example, an image captured in the past by the imaging unit 21 is stored in the auxiliary storage device 204. It may be selected from among them, or may be acquired by the display device 20 from another device. In this way, the user has more room for selecting an image to be combined with the first composite image and the second composite image.
  • the first composite image or the second composite image may be used as an advertisement.
  • the first composite image an image in which a certain character has the plastic bottle (advertisement object) of the manufacturer, or a picture of the plastic bottle (advertisement object) in the middle of the character's clothes is described.
  • An example of an image can be considered.
  • the display device 20 is held over a beverage bottle of a certain beverage manufacturer (advertisement object)
  • the beverage manufacturer's character image is displayed as a first composite image at a certain position of the plastic bottle, and the character image is further displayed on the character image.
  • the user's face may be arranged as the second composite image.
  • the display device 20 when the display device 20 is held over a large-scale intersection in a certain city, a certain first composite image is combined with the area of the screen panel installed at the intersection, and the advertisement object is placed on the first composite image. You may make it reproduce
  • the combination of the first synthesized image and the second synthesized image may be changed according to the user's attribute or the position of the display device 20, or may be changed according to the unit price paid by the advertiser. If it does in this way, it will become possible to utilize this invention for an advertisement.
  • each functional block may be realized by one device physically and / or logically coupled, and two or more devices physically and / or logically separated may be directly and / or indirectly. (For example, wired and / or wireless) and may be realized by these plural devices.
  • Each aspect / embodiment described in this specification includes LTE (Long Term Evolution), LTE-A (LTE-Advanced), SUPER 3G, IMT-Advanced, 4G, 5G, FRA (Future Radio Access), W-CDMA.
  • LTE Long Term Evolution
  • LTE-A Long Term Evolution-Advanced
  • SUPER 3G IMT-Advanced
  • 4G 5G
  • FRA Full Radio Access
  • W-CDMA Wideband
  • GSM registered trademark
  • CDMA2000 Code Division Multiple Access 2000
  • UMB User Mobile Broadband
  • IEEE 802.11 Wi-Fi
  • IEEE 802.16 WiMAX
  • IEEE 802.20 UWB (Ultra-WideBand
  • the present invention may be applied to a Bluetooth (registered trademark), a system using other appropriate systems, and / or a next generation system extended based on these systems.
  • system and “network” used in this specification are used interchangeably.
  • determining and “determining” used in this specification may encompass a wide variety of actions. “Judgment” and “determination” are, for example, judgment (judging), calculation (calculating), calculation (processing), processing (deriving), investigating (investigating), searching (looking up) (for example, table , Searching in a database or another data structure), considering ascertaining as “determining”, “deciding”, and the like.
  • determination and “determination” are reception (for example, receiving information), transmission (for example, transmitting information), input (input), output (output), and access. (Accessing) (eg, accessing data in a memory) may be considered as “determined” or “determined”.
  • determination and “determination” means that “resolving”, “selecting”, “choosing”, “establishing”, and “comparing” are regarded as “determining” and “determining”. May be included. In other words, “determination” and “determination” may include considering some operation as “determination” and “determination”.
  • software whether it is called software, firmware, middleware, microcode, hardware description language, or other names, instructions, instruction sets, codes, code segments, program codes, programs, subprograms, software modules , Applications, software applications, software packages, routines, subroutines, objects, executable files, execution threads, procedures, functions, etc. should be interpreted broadly.
  • software, instructions, etc. may be transmitted / received via a transmission medium.
  • software may use websites, servers, or other devices utilizing wired technology such as coaxial cable, fiber optic cable, twisted pair and digital subscriber line (DSL) and / or wireless technology such as infrared, wireless and microwave. When transmitted from a remote source, these wired and / or wireless technologies are included within the definition of transmission media.
  • connection means any direct or indirect connection or coupling between two or more elements and It can include the presence of one or more intermediate elements between two “connected” or “coupled” elements.
  • the coupling or connection between the elements may be physical, logical, or a combination thereof.
  • the two elements include radio frequency by utilizing one or more wires, cables, and / or printed electrical connections, as well as some non-limiting and non-inclusive examples.
  • electromagnetic energy such as electromagnetic energy having wavelengths in the region, the microwave region and the light (both visible and invisible) region can be considered “connected” or “coupled” to each other.
  • the information processing apparatus can be realized by an apparatus that is provided with all of the functions, and the functions of the respective apparatuses are further distributed to a plurality of apparatuses. It may be an implemented system.
  • the present invention can also be implemented in the form of an information processing method performed by the display device 1 or a program for causing a computer to function as the display device 1.
  • a program may be provided in a form recorded on a recording medium such as an optical disc, or may be provided in a form such that the program is downloaded to a computer via a network such as the Internet, and the program can be installed and used. Is possible.
  • This program whether it is called software, firmware, middleware, microcode, hardware description language or other name, instructions, instruction set, code, code segment, program code, program, subprogram, software It should be interpreted broadly to mean modules, applications, software applications, software packages, routines, subroutines, objects, executables, threads of execution, procedures, functions, etc.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Processing Or Creating Images (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

ユーザにとって従来よりもさらに面白味を感じることを可能にする。　情報処理装置（１０）は表示装置（２０）による撮像画像に対して画像認識を行う。情報処理装置（１０）は、表示装置（２０）に対して、画像認識結果に応じて異なる第１合成画像を撮像画像に合成し、さらにその第１合成画像に対する所定の位置に第２合成画像を合成するよう指示する。例えば、表示装置（２０）により風景が撮像された場合（図７（Ａ））、その風景に応じた第１合成画像（Ｇ１）として、人間が走る姿を模したキャラクタ画像が表示される（図７（Ｂ））。この第１合成画像（Ｇ１）において、人間の頭部に相当する領域（Ｇ２）はブランクになっており、ユーザが表示装置（２０）を用いて自身の顔を撮像すると（図７（Ｃ））、第１合成画像の頭部に相当する領域（Ｇ２）に対して、ユーザの顔画像が第２合成画像（Ｇ３）として合成される（図７（Ｄ））。

Description

情報処理システム及び情報処理装置
　本発明は、画像を合成して表示する技術に関する。
　特許文献１には、撮像場所に応じた画像を撮像画像に合成して表示する技術が開示されている。これにより、例えば撮像場所が観光地である場合、その観光地において有名な建築物などの画像が撮像画像に合成されて表示される。
特開２００３－２７４３９６号公報
　本発明は、ユーザが合成された画像を見て従来よりもさらに面白味を感じられるようにすることを目的とする。
　本発明は、画像を認識する画像認識部と、前記画像認識部による認識結果に応じて異なる第１合成画像を前記画像に合成し、当該画像に合成された前記第１合成画像に対する所定の位置に第２合成画像を合成する画像合成部とを備えることを特徴とする情報処理システムを提供する。
　前記画像合成部は、前記画像認識部による認識結果に応じて外観、大きさ、位置、動き又は数の少なくともいずれかが異なる前記第１合成画像を前記画像に合成するようにしてもよい。
　前記画像合成部は、前記画像認識部による認識結果に応じて異なる前記第２合成画像を前記画像に合成するようにしてもよい。
　前記画像合成部は、前記画像認識部による認識結果に応じて外観、大きさ、位置、動き又は数の少なくともいずれかが異なる前記第２合成画像を前記画像に合成するようにしてもよい。
　前記画像合成部は、人間の頭部を含む撮像画像から当該頭部に相当する部分画像を抽出し、当該部分画像を前記第２合成画像として前記画像に合成するようにしてもよい。
　前記画像合成部は、前記画像認識部による認識結果に応じて前記人間の顔の向き又は当該顔の表情が異なる前記第２合成画像を前記画像に合成するようにしてもよい。
　前記画像合成部は、合成する前記第１合成画像に応じて異なる前記第２合成画像を前記画像に合成するようにしてもよい。
　前記画像認識部によって前記画像に含まれる物体が属するカテゴリが認識された場合には、前記画像合成部は、前記画像における所定の位置に、前記カテゴリに応じた前記第１合成画像を合成するようにしてもよい。
　前記画像認識部によって前記画像に含まれる物体の位置が認識された場合には、前記画像合成部は、前記物体に対する所定の位置に、前記物体に応じた前記第１合成画像を合成するようにしてもよい。
　また、本発明は、画像の認識結果に応じて異なる第１合成画像を前記画像に合成するよう表示装置に指示し、当該画像に合成された当該第１合成画像に対する所定の位置に第２合成画像を合成するよう前記表示装置に指示する画像合成指示部を備えることを特徴とする情報処理装置を提供する。
　本発明によれば、ユーザが合成された画像を見て従来よりもさらに面白味を感じることが可能となる。
本発明の一実施形態に係る情報処理システムの構成を例示する図である。 表示装置のハードウェア構成の一例を示すブロック図である。 情報処理装置のハードウェア構成の一例を示すブロック図である。 情報処理装置に記憶されている合成画像決定テーブルの一例を示す図である。 情報処理システムの機能構成の一例を示すブロック図である。 情報処理システムの動作手順の一例を示すフローチャートである。 表示装置における表示の一例を説明するための図である。 表示装置における表示の一例を説明するための図である。
１…情報処理システム、１０…情報処理装置、１１…画像認識部、１２…第１合成画像決定部、１３…画像合成指示部、２０…表示装置、２１…撮像部、２２…第２合成画像取得部、２３…画像データ生成部、２４…表示部、９０…ネットワーク、１０１…ＣＰＵ、１０２…ＲＡＭ、１０３…ＲＯＭ、１０４…補助記憶装置、１０５…通信ＩＦ、２０１…ＣＰＵ、２０２…ＲＯＭ、２０３…ＲＡＭ、２０４…補助記憶装置、２０５…通信ＩＦ、２０６…カメラ、２０７…ＵＩ装置。
　以下、図面を参照して、本発明の一実施形態について説明する。
［構成］
　図１は、本発明の一実施形態に係る情報処理システム１の構成を例示する図である。情報処理システム１は、画像の認識を行う情報処理装置１０と、画像の撮像及び表示を行う表示装置２０と、これら情報処理装置１０及び表示装置２０を通信可能に接続するネットワーク９０とを備えている。ネットワーク９０は、例えばＬＡＮ（Local Area Network）又はＷＡＮ（Wide Area Network）、若しくはこれらの組み合わせであり、有線区間又は無線区間を含んでいてもよい。なお、図１には、情報処理装置１０及び表示装置２０を１つずつ示しているが、これらはそれぞれ複数であってもよい。
　情報処理装置１０は表示装置２０による撮像画像を取得し、その撮像画像に対して画像認識を行う。情報処理装置１０は、表示装置２０に対して、画像認識結果に応じて異なる第１合成画像を上記撮像画像に合成し、さらにその第１合成画像に対する所定の位置に第２合成画像を合成するよう指示する。例えば、表示装置２０により風景が撮像された場合（後述する図７（Ａ））、その風景に応じた第１合成画像Ｇ１として、人間が走る姿を模した動画のキャラクタ画像が合成される（図７（Ｂ））。この第１合成画像Ｇ１における所定の位置、ここでは第１合成画像Ｇ１が表す人間の頭部に相当する領域Ｇ２は、ブランクになっている。ユーザが表示装置２０を用いて自身の顔を撮像すると（図７（Ｃ））、第１合成画像Ｇ１の領域Ｇ２に対して、撮像された顔の画像が第２合成画像Ｇ３として合成される（図７（Ｄ））。このようにすると、表示装置２０に表示されている風景画像に対し、ユーザ自身の顔を持つ人間のキャラクタ画像が走っている様子が動画として合成されることになり、ユーザはこれらの画像の組み合わせや動きの面白さを見て楽しむことができる。
　図２は、表示装置２０のハードウェア構成を例示する図である。表示装置２０は、例えばスマートホン又はタブレット或いはパーソナルコンピュータなどの通信可能なコンピュータである。表示装置２０は、ＣＰＵ２０１（Central Processing Unit）、ＲＯＭ（Read Only Memory）２０２、ＲＡＭ（Random Access Memory）２０３、補助記憶装置２０４、通信ＩＦ２０５、カメラ２０６、ＵＩ装置２０７を有する。ＣＰＵ２０１は、各種の演算を行うプロセッサである。ＲＯＭ２０２は、例えば表示装置２０の起動に用いられるプログラム及びデータを記憶した不揮発性メモリである。ＲＡＭ２０３は、ＣＰＵ２０１がプログラムを実行する際のワークエリアとして機能する揮発性メモリである。補助記憶装置２０４は、例えばＨＤＤ（Hard Disk Drive）又はＳＳＤ（Solid State Drive）などの不揮発性の記憶装置であり、表示装置２０において用いられるプログラム及びデータを記憶する。ＣＰＵ２０１がこのプログラムを実行することにより表示装置２０はコンピュータ装置として機能し、後述する図５に示される機能が実現される。通信ＩＦ２０５は、所定の通信規格に従ってネットワーク９０を介した通信を行うためのインターフェースである。この通信規格は、無線通信の規格であってもよいし、有線通信の規格であってもよい。無線の場合、通信ＩＦ２０５は、例えばＬＴＥ（Long Term Evolution）又はＷｉ－Ｆｉ（登録商標）等の通信規格で動作するアンテナ及び通信回路を備えている。カメラ２０６はレンズ及び光学素子を含み、撮像した画像を示す画像データを生成する。カメラ２０６は、表示装置２０の表側に設けられたインカメラと、表示装置２０の裏側に設けられたアウトカメラとを含む。インカメラは主にユーザ自身を撮像するときに用いられ、アウトカメラは主にユーザ自身以外の風景等を撮像するときに用いられる。ＵＩ装置２０７は、例えばキー及びタッチセンサなどの操作子が設けられた操作部と、例えば液晶パネル及び液晶駆動回路などの表示部と、例えばスピーカ又はイヤホン用端子などの音声出力部とを含む。なお、表示装置２０は、図２に例示した構成以外に、例えばＧＰＳ（Global Positioning System）ユニットなどの他の構成を含んでいてもよい。
　図３は、情報処理装置１０のハードウェア構成を例示する図である。情報処理装置１０は、ＣＰＵ１０１、ＲＯＭ１０２、ＲＡＭ１０３、補助記憶装置１０４、及び通信ＩＦ１０５を有するコンピュータ装置である。ＣＰＵ１０１は、各種の演算を行うプロセッサである。ＲＯＭ１０２は、例えば情報処理装置１０の起動に用いられるプログラム及びデータを記憶した不揮発性メモリである。ＲＡＭ１０３は、ＣＰＵ１０１がプログラムを実行する際のワークエリアとして機能する揮発性メモリある。補助記憶装置１０４は、例えばＨＤＤ又はＳＳＤなどの不揮発性の記憶装置であり、情報処理装置１０において用いられるプログラム及びデータを記憶する。ＣＰＵ１０１がこのプログラムを実行することにより、後述する図５に示される機能が実現される。通信ＩＦ１０５は、所定の通信規格に従ってネットワーク９０を介した通信を行うためのインターフェースである。情報処理装置１０は、図３に例示した構成以外に、例えばＵＩ装置などの他の構成を含んでいてもよい。
　補助記憶装置１０４には、画像認識を行う画像認識エンジン及び、前述した第１合成画像を表示装置２０において表示するための第１合成画像データ群のほか、表示装置２０においてどの第１合成画像を表示するかを決定するための合成画像決定テーブルが記憶されている。
　図４は合成画像決定テーブルを例示する図である。合成画像決定テーブルには、画像認識の認識種別と、画像認識結果と、第１合成画像を識別するための第１合成画像ＩＤと、第１合成画像の表示位置とが対応付けられている。
　認識種別には、カテゴリ分類と物体検出とがある。カテゴリ分類は、一般物体認識とも呼ばれており、画像中の物体が属するカテゴリ又は固有名詞を認識するに留まり、その物体が画像中のどこにあるかまでは特定しないというものである。カテゴリ分類は、例えば画像の特徴抽出を行ってベクトル量子化ヒストグラムを算出し、その算出結果を予め用意されたカテゴリ又は固有名詞別のヒストグラムに当てはめることで実現される。
　一方、物体検出は、特定物体認識とも呼ばれており、画像中の物体のカテゴリ又は固有名詞を特定するほか、その物体が画像中のどこにあるか（さらにはその物体の形状や他の物体との境界）まで特定するものである。物体検出は、例えば画像の局所的な特徴抽出を行い、その抽出結果に対して統計学習手法を用いることで実現される。情報処理装置１０は表示装置２０の撮像画像に対して画像認識を試み、その認識の結果、カテゴリ分類が可能な場合もあるし、カテゴリ分類のみならず物体検出も可能な場合もあるし、そのいずれもができない場合もある。
　図４では、情報処理装置１０の画像認識の結果、画像中の物体について例えば「橋」というカテゴリ分類ができた場合に、分類したカテゴリ又は固有名詞に応じた第１合成画像ＩＤ「Ｃ００１」の第１合成画像がその画像中の絶対座標Ｘ１，Ｙ１に表示されるように規定されている。ここでいう絶対座標とは、表示装置２０の表示領域において予め規定されたＸＹ座標軸に従う座標である。つまり、この例の場合、第１合成画像は、画像中の「橋」という物体の位置に関係なく、表示装置２０の表示領域において絶対座標で指定された位置（例えば表示領域の中心部分）に合成される。
　また、情報処理装置１０の画像認識の結果、画像中の物体について例えば「建物」というカテゴリ及び「時計台」という固有名詞とその画像中の位置について物体検出ができた場合には、その物体（カテゴリ又は固有名詞）に応じた第１合成画像ＩＤ「Ｃ０２０」の第１合成画像が相対座標ｘ１，ｙ１に表示されるように規定されている。ここでいう相対座標とは、検出された「時計台」という物体を基準として規定されたｘｙ座標軸（例えば物体の重心を原点としてその物体のサイズに応じた単位の目盛を持つｘｙ座標軸）に従う座標である。この例の場合、第１合成画像は、画像中の「時計台」という物体の位置に対して相対座標で指定された位置に合成されるから、画像中の「時計台」という物体の位置に応じて第１合成画像の表示位置は異なることになる。例えば、図７に示すように、第１合成画像Ｇ１は「時計台」という物体に対して、その屋根部分の重力方向上方の位置に常に表示される。
　なお、補助記憶装置１０４に記憶されている各第１合成画像データにおいては、第１合成画像に対する第２合成画像の表示位置を指定するデータが含まれている。例えば第１合成画像Ｇ１として、人間が走る姿を模した動画のキャラクタ画像が合成される場合（図７（Ｂ））、この第１合成画像Ｇ１において人間の頭部に相当する領域Ｇ２の位置を所定の位置として指定するデータが、この第１合成画像データに含まれている。
　図５は、情報処理システム１の機能構成を示すブロック図である。図５に示すように、表示装置２０においては、画像を撮像する撮像部２１と、第２合成画像を取得する第２合成画像取得部２２と、撮像部２１により撮像された画像に対して第１合成画像及び第２合成画像を合成した画像データを生成する画像データ生成部２３と、画像データ生成部２３により生成された画像データに応じた画像を表示する表示部２４とが実現される。情報処理装置１０においては、撮像部２１により撮像された画像を認識する画像認識部１１と、画像認識部１１による認識結果に応じて異なる第１合成画像を決定する第１合成画像決定部１２と、第１合成画像決定部１２により決定された第１合成画像を撮像部２１により撮像された画像に合成し、当該画像に合成された第１合成画像に対する所定の位置に第２合成画像を合成するよう表示装置２０に指示する画像合成指示部１３とが実現される。
　撮像部２１及び第２合成画像取得部２２は表示装置２０のカメラ２０６によって実現され、画像データ生成部２３は表示装置２０のＣＰＵ２０１によって実現され、表示部２４は表示装置２０のＵＩ装置２０７によって実現される。画像認識部１１は情報処理装置１０のＣＰＵ１０１によって実現され、第１合成画像決定部１２は情報処理装置１０のＣＰＵ１０１及び補助記憶装置１０４によって実現され、画像合成指示部１３は情報処理装置１０のＣＰＵ１０１及び通信ＩＦ１０５によって実現される。画像データ生成部２３と画像合成指示部１３とによって、本発明に係る情報処理システム１が備える画像合成部３０が実現される。この画像合成部３０は、画像認識部１１による認識結果に応じて異なる第１合成画像を、撮像部２１により撮像された画像に合成する。
［動作］
　図６～図８を参照して、情報処理システム１の表示制御の例について説明する。まず、ユーザは表示装置２０の撮像部２１（アウトカメラ）を起動して、自身が所望する物体の撮像を開始する（ステップＳ１１）。撮像部２１による撮像結果は、表示装置２０の表示領域にリアルタイムに表示され、撮像部２１の撮像方向が変わるとこの表示領域上の画像も変更される。例えばユーザが時計台の風景が撮像されるような向きに表示装置２０を構えてユーザが所定の操作を行うと、図７（Ａ）に示すように、その撮像画像が表示装置２０の表示領域に表示される。この撮像画像を示す撮像画像データは、ユーザの操作があったときに又はその操作時点から連続的に或いはその操作時点から定期的に通信ＩＦ２０５から情報処理装置１０に送信される（ステップＳ１２）。このとき、表示装置２０は撮像画像データを適宜圧縮してデータサイズを小さくすることが望ましい。
　情報処理装置１０の画像認識部１１は、撮像画像データに対して画像認識エンジンを適用して画像認識を試みる（ステップＳ１３）。画像認識に成功すると、第１合成画像決定部１２は、その認識結果に基づいて、表示装置２０において撮像画像に合成する第１合成画像を決定する（ステップＳ１４）。ここで、画像認識部１１がカテゴリの分類に成功した場合には、第１合成画像決定部１２は、図４に例示したテーブルにおいてその物体のカテゴリに対応する第１合成画像ＩＤを特定し、その第１合成画像ＩＤの第１合成画像データを補助記憶装置１０４から読み出す。画像合成指示部１３は、読み出された第１合成画像データを、図４に例示したテーブルにおいてそのカテゴリに対応する絶対座標とともに、画像合成指示として表示装置２０に送信する（ステップＳ１５）。このとき、前述したように、第１合成画像データにおいては、第１合成画像に対する第２合成画像の表示位置を指定するデータが含まれている。
　また、物体検出に成功した場合には、第１合成画像決定部１２は、図４に例示したテーブルにおいてその物体のカテゴリ又は固有名詞に対応する第１合成画像ＩＤを特定し、その第１合成画像ＩＤの第１合成画像データを補助記憶装置１０４から読み出す。画像合成指示部１３は、読み出された第１合成画像データを、表示装置２０の表示領域における物体の座標、及び図４に例示したテーブルにおいてそのカテゴリ又は固有名詞に対応する相対座標とともに、画像合成指示として表示装置２０に送信する（ステップＳ１５）。このときも前述したように、第１合成画像データにおいては、第１合成画像に対する第２合成画像の表示位置を指定するデータが含まれている。
　表示装置２０の画像データ生成部２３は、上記の第１合成画像データ等を取得すると（ステップＳ１６）、表示部２４の撮像画像において座標（絶対座標又は相対座標）により指定された位置に第１合成画像を表示する。例えばユーザが時計台の風景を撮像した場合には、図７（Ｂ）に示すように、時計台の屋根部分の上方に人間が走る姿を模した動画の第１合成画像Ｇ１が表示される。
　そして、画像データ生成部２３は、ユーザに対して第２合成画像の撮像を案内する（ステップＳ１７）。この案内は、例えば「自分の顔を撮ってください」というメッセージを表示し、表示装置２０の表示領域上で顔の撮像位置を指定する、というような方法で実現すればよい。
　この案内に従い、ユーザが撮像部２１（インカメラ）で自分の顔を撮像する。この場合、例えば図７（Ｃ）に示すように、ユーザの顔を含む上半身が表示装置２０の表示領域に表示される。画像データ生成部２３は、この画像からユーザの頭部に相当する部分画像を画像認識技術等により抽出し、これを第２合成画像として取得する（ステップＳ１８）。そして、画像データ生成部２３は、第１合成画像及び第２合成画像を撮像画像に合成した画像データを生成し（ステップＳ１９）、この画像データに応じた画像を表示する（ステップＳ２０）。これにより例えば図７（Ｄ）に示すように、人間が走る姿を模した第１合成画像における頭部の位置にユーザの顔を示す第２合成画像が配置され、これらが時計台の屋根部分の上方に表示されることになる。
　図８は、上記とは別の表示例を示した図である。例えば、表示装置２０により、Ａ社からユーザに特典を与えるためのポイントカードが物体として撮像された場合（図８（Ａ））、その物体に応じた第１合成画像Ｇ４として、人間が躍る姿を模した動画のキャラクタ画像（図４における第１合成画像ＩＤ：Ｃ０２２）が合成され、さらに別の第１合成画像Ｇ６として、その人間と一緒に踊るアニメのキャラクタ画像（図４における第１合成画像ＩＤ：Ｃ０２３）が合成される（図８（Ｂ））。第１合成画像Ｇ４において、人間の頭部に相当する領域Ｇ５はブランクになっている。ユーザが表示装置２０を用いて自身の顔を撮像すると（図８（Ｃ））、第１合成画像Ｇ４の領域Ｇ５に対して、ユーザの顔の画像が第２合成画像Ｇ７として合成される（図８（Ｄ））。このようにすると、表示装置２０に表示されているポイントカードの中で、ユーザ自身の顔を持つ人間のキャラクタ画像がアニメのキャラクタ画像とともに躍っている姿が合成されることになり、ユーザはこれらの画像の組み合わせ、配置或いは動きなどを見て楽しむことができる。
　以上説明した実施形態によれば、表示装置２０に表示されている撮像画像に対し、例えばユーザ自身の顔（第２合成画像）を持つ人間のキャラクタ画像（第１合成画像）が走っている動画が合成されることになり、ユーザはこれらの画像の組み合わせ、配置或いは動きなどを見て、従来にはない面白味を感じることができる。この第１合成画像は、表示装置２０に表示されている撮像画像の認識結果に応じて異なるから、ユーザは様々な物体を撮像することで、どのような第１合成画像が合成されるかという期待感を感じ、また、その期待に対する結果を楽しむことができる。また、第２合成画像としてユーザ自身の顔の画像を用いているから、ユーザ自身が撮像画像の仮想空間にあたかも存在しているかのような感覚を楽しむことが可能となる。また、ユーザは、撮像画像に対して第１合成画像が合成されている様子を見てから、第２合成画像として自身の顔を撮像するから、合成される自身の顔の向き又は表情を撮像画像及び第１合成画像の雰囲気に合うように、例えば横を向いたりコミカルな表情又は必死な表情にしたりすることが可能となる。これもまたユーザにとっての面白味の１つとなる。
［変形例］
［変形例１］
　上述した実施形態は次のような変形が可能である。また、以下の変形例を互いに組み合わせて実施してもよい。
　画像合成部３０は、画像認識部１１による認識結果に応じて外観が異なる第１合成画像を合成することに限らず、例えば大きさ、位置、動き又は数の少なくともいずれかが異なる第１合成画像を合成するようにしてもよい。また、第１合成画像は動画に限らず静止画であってもよい。
　また、画像合成部３０は、画像認識部１１による認識結果に加え、ユーザの属性又は表示装置２０の位置に応じて異なる第１合成画像を合成するようにしてもよい。
　また、画像合成部３０は、画像認識部１１による認識結果に応じて異なる第１合成画像を合成すればよく、例えば建物を撮像したときに、その建物が設置された地面の平面を認識し、その平面上に第１構成画像を合成してもよい。
　このように第１合成画像の様々な要素が画像認識結果に応じて異なるほうが、ユーザにとっての面白味が増す。
［変形例２］
　実施形態では、画像合成部３０は、画像認識部１１による認識結果に関わらず、ユーザによって撮像された顔の画像を常に第２合成画像としていたが、画像認識部１１による認識結果に応じて異なる第２合成画像を合成するようにしてもよい。例えば事前にユーザが、様々に異なる表情又は向きの顔を自分で撮像して表示装置２０の補助記憶装置２０４に記憶させておき、さらに、その顔の表情又は向きから連想するユーザの様子（例えば楽しい、悲しい、笑い顔、泣き顔、知らんぷり、無表情など）を意味するタグを付与しておく。このタグの付与は、ユーザ自身が行ってもよいし、画像認識技術を用いて表示装置２０又は情報処理装置１０が行ってもよい。画像合成部３０は、画像認識部１１による認識結果に対応するタグが付与された顔の画像を第２合成画像とする。この場合、画像認識部１１による認識結果とユーザの様子を類型化したものとが対応付けられて補助記憶装置２０４に記憶されており、画像合成部３０は、画像認識部１１による認識結果に対応するタグを特定し、そのタグが付与された顔の画像データを補助記憶装置２０４から読み出す。さらに、このような顔の表情の異同に限らず、画像合成部３０は、画像認識部１１による認識結果に応じて外観、大きさ、位置、動き又は数の少なくともいずれかが異なる第２合成画像を合成してもよい。なお、第２合成画像は撮像画像に限らず、例えばアバター又はアニメの画像など、どのような画像であってもよい。このように第２合成画像の様々な要素が画像認識結果に応じて異なるほうが、ユーザにとっての面白味が増す。
［変形例３］
　画像合成部３０は、第１合成画像に応じて異なる第２合成画像を合成するようにしてもよい。例えば、表示装置２０により風景が撮像された場合、その風景に応じた第１合成画像Ｇ１が合成される。画像合成部３０は、この第１合成画像Ｇ１に応じて例えば複数の第２合成画像の候補をユーザに提示し、ユーザがそのうちのいずれかを選択すると、その第２合成画像を合成する。
　また、複数の第２合成画像を選択的に第１合成画像に組み合わせる例として、例えば撮像された建築物を徐々に登っていく動きと位置変化をするような、人間の体を模した動画の第１合成画像に対し、その建築物の低層においては楽しそうな表情の顔の第２合成画像を組み合わせ、高層に進むにつれて苦しそうな表情の顔の第２合成画像を組み合わせるようにしてもよい。つまり、第１合成画像の動き又は位置の変化に応じて、第２合成画像を変化させてもよい。
　このように第２合成画像の様々な要素が第１合成画像に応じて異なるほうが、ユーザにとっての面白味が増す。
［変形例４］
　第１合成画像データを情報処理装置１０が記憶するのではなく、表示装置２０が記憶しておき、情報処理装置１０はどの第１合成画像データを用いるかを第１合成画像ＩＤで表示装置２０に指示するだけでもよい。このようにすれば情報処理装置１０及び表示装置２０間の通信データ量を削減することができる。
［変形例５］
　第１合成画像及び第２合成画像が合成される画像は、撮像部２１によってリアルタイムに撮像された画像に限らず、例えば過去に撮像部２１によって撮像された画像が補助記憶装置２０４に記憶されており、その中から選ばれたものであってもよいし、表示装置２０が他の装置から取得したものであってもよい。このようにすれば、ユーザにとって、第１合成画像及び第２合成画像が合成される対象となる画像の選択の余地が広がる。
［変形例６］
　第１合成画像又は第２合成画像を広告として利用してもよい。
　例えば第１合成画像として、或るキャラクタがそのメーカのペットボトル（広告宣伝対象物）を持っている画像とか、そのキャラクタの服の真ん中にそのペットボトル（広告宣伝対象物）の絵が記載されている画像というような例が考えられる。
　また、表示装置２０を或る飲料メーカのペットボトル（広告宣伝対象物）にかざすと、そのペットボトルの或る位置において第１合成画像として飲料メーカのキャラクタ画像が表示され、さらにそのキャラクタ画像に対して第２合成画像としてユーザの顔が配置されてもよい。
　また、例えば或る街の大規模交差点に表示装置２０をかざすと、その交差点に設置されたスクリーンパネルの領域に或る第１合成画像を合成し、その第１合成画像上に広告宣伝対象物の動画の第２合成画像として再生するようにしてもよい。このようにすれば、あたかも、その街で広告が再生されているように見える。
　これら第１合成画像及び第２合成画像の組み合わせは、ユーザの属性又は表示装置２０の位置によって変更してもよいし、広告主の支払う単価などにより変更してもよい。
　このようにすれば、本発明を広告に利用することが可能となる。
［その他の変形例］
　上記実施の形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック（構成部）は、ハードウェア及び／又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的及び／又は論理的に結合した１つの装置により実現されてもよいし、物理的及び／又は論理的に分離した２つ以上の装置を直接的及び／又は間接的に（例えば、有線及び／又は無線）で接続し、これら複数の装置により実現されてもよい。
　本明細書で説明した各態様／実施形態は、ＬＴＥ（Long　Term　Evolution）、ＬＴＥ－Ａ（LTE-Advanced）、ＳＵＰＥＲ　３Ｇ、ＩＭＴ－Ａｄｖａｎｃｅｄ、４Ｇ、５Ｇ、ＦＲＡ（Future　Radio Access）、Ｗ－ＣＤＭＡ（登録商標）、ＧＳＭ（登録商標）、ＣＤＭＡ２０００、ＵＭＢ（Ultra Mobile Broadband）、ＩＥＥＥ　８０２．１１（Ｗｉ－Ｆｉ）、ＩＥＥＥ　８０２．１６（ＷｉＭＡＸ）、ＩＥＥＥ　８０２．２０、ＵＷＢ（Ultra-WideBand）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、その他の適切なシステムを利用するシステム及び／又はこれらに基づいて拡張された次世代システムに適用されてもよい。
　本明細書で説明した実施形態の処理手順は、矛盾の無い限り、順序を入れ替えてもよい。例えば、本明細書で説明した方法については、例示的な順序で様々なステップの要素を提示しており、提示した特定の順序に限定されない。本明細書で説明した実施形態又は変形例は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知（例えば、「Ｘであること」の通知）は、明示的に行うものに限られず、暗黙的（例えば、当該所定の情報の通知を行わない）ことによって行われてもよい。
　本明細書で利用する「システム」及び「ネットワーク」という用語は、互換的に利用される。
　本明細書で利用する「判断（determining）」、「決定（determining）」という用語は、多種多様な動作を包含する場合がある。「判断」、「決定」は、例えば、判定（judging）、計算（calculating）、算出（computing）、処理（processing）、導出（deriving）、調査（investigating）、探索（looking up）（例えば、テーブル、データベース又は別のデータ構造での探索）、確認（ascertaining）した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、受信（receiving）（例えば、情報を受信すること）、送信（transmitting）（例えば、情報を送信すること）、入力（input）、出力（output）、アクセス（accessing）（例えば、メモリ中のデータにアクセスすること）した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、解決（resolving）、選択（selecting）、選定（choosing）、確立（establishing）、比較（comparing）などした事を「判断」「決定」したとみなす事を含み得る。つまり、「判断」「決定」は、何らかの動作を「判断」「決定」したとみなす事を含み得る。
　本明細書で利用する「に基づいて」「に応じて」という記載は、別段に明記されていない限り、「のみに基づいて」「のみに応じて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。「応じて」も同様である。また、「含む（including）」、「含んでいる（comprising）」、及びそれらの変形が、本明細書或いは特許請求の範囲で利用されている限り、これら用語は、用語「備える」と同様に、包括的であることが意図される。さらに、本明細書或いは特許請求の範囲において利用されている用語「又は（or）」は、排他的論理和ではないことが意図される。また、本開示の全体において、例えば、英語でのa, an, 及びtheのように、翻訳により冠詞が追加された場合、これらの冠詞は、文脈から明らかにそうではないことが示されていなければ、複数のものを含むものとする。
　ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。
　また、ソフトウェア、命令などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、ツイストペア及びデジタル加入者回線（ＤＳＬ）などの有線技術及び／又は赤外線、無線及びマイクロ波などの無線技術を利用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び／又は無線技術は、伝送媒体の定義内に含まれる。
　「接続された（connected）」、「結合された（coupled）」という用語、又はこれらのあらゆる変形は、２又はそれ以上の要素間の直接的又は間接的なあらゆる接続又は結合を意味し、互いに「接続」又は「結合」された２つの要素間に１又はそれ以上の中間要素が存在することを含むことができる。要素間の結合又は接続は、物理的なものであっても、論理的なものであっても、或いはこれらの組み合わせであってもよい。本明細書で利用する場合、２つの要素は、１又はそれ以上の電線、ケーブル及び／又はプリント電気接続を利用することにより、並びにいくつかの非限定的かつ非包括的な例として、無線周波数領域、マイクロ波領域及び光（可視及び不可視の両方）領域の波長を有する電磁エネルギーなどの電磁エネルギーを利用することにより、互いに「接続」又は「結合」されると考えることができる。
　本発明に係る情報処理装置は、実施形態で説明したようにそれぞれの機能の全てを一体に備えた装置によっても実現可能であるし、それぞれの装置の機能を、さらに複数の装置に分散して実装したシステムであってもよい。
　本発明は、表示装置１が行う情報処理方法、或いは、表示装置１としてコンピュータを機能させるためのプログラムといった形態でも実施が可能である。かかるプログラムは、光ディスク等の記録媒体に記録した形態で提供されたり、インターネット等のネットワークを介して、コンピュータにダウンロードさせ、これをインストールして利用可能にするなどの形態で提供されたりすることが可能である。このプログラムは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか又は他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。

Claims (10)

  1. 　画像を認識する画像認識部と、
    　前記画像認識部による認識結果に応じて異なる第１合成画像を前記画像に合成し、当該画像に合成された前記第１合成画像に対する所定の位置に第２合成画像を合成する画像合成部と
    　を備えることを特徴とする情報処理システム。
  2. 　前記画像合成部は、前記画像認識部による認識結果に応じて外観、大きさ、位置、動き又は数の少なくともいずれかが異なる前記第１合成画像を前記画像に合成する
    　ことを特徴とする請求項１記載の情報処理システム。
  3. 　前記画像合成部は、前記画像認識部による認識結果に応じて異なる前記第２合成画像を前記画像に合成する
    　ことを特徴とする請求項１又は２に記載の情報処理システム。
  4. 　前記画像合成部は、前記画像認識部による認識結果に応じて外観、大きさ、位置、動き又は数の少なくともいずれかが異なる前記第２合成画像を前記画像に合成する
    　ことを特徴とする請求項３記載の情報処理システム。
  5. 　前記画像合成部は、人間の頭部を含む撮像画像から当該頭部に相当する部分画像を抽出し、当該部分画像を前記第２合成画像として前記画像に合成する
    　ことを特徴とする請求項４記載の情報処理システム。
  6. 　前記画像合成部は、前記画像認識部による認識結果に応じて前記人間の顔の向き又は当該顔の表情が異なる前記第２合成画像を前記画像に合成する
    　ことを特徴とする請求項５記載の情報処理システム。
  7. 　前記画像合成部は、合成する前記第１合成画像に応じて異なる前記第２合成画像を前記画像に合成する
    　ことを特徴とする請求項１又は２に記載の情報処理システム。
  8. 　前記画像認識部によって前記画像に含まれる物体が属するカテゴリが認識された場合には、前記画像合成部は、前記画像における所定の位置に、前記カテゴリに応じた前記第１合成画像を合成する
    　ことを特徴とする請求項１～７のいずれか１項に記載の情報処理システム。
  9. 　前記画像認識部によって前記画像に含まれる物体の位置が認識された場合には、前記画像合成部は、前記物体に対する所定の位置に、前記物体に応じた前記第１合成画像を合成する
    　ことを特徴とする請求項１～８のいずれか１項に記載の情報処理システム。
  10. 　画像の認識結果に応じて異なる第１合成画像を前記画像に合成するよう表示装置に指示し、当該画像に合成された当該第１合成画像に対する所定の位置に第２合成画像を合成するよう前記表示装置に指示する画像合成指示部を備える
    　ことを特徴とする情報処理装置。
PCT/JP2017/046428 2017-01-23 2017-12-25 情報処理システム及び情報処理装置 WO2018135246A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018563240A JP6730461B2 (ja) 2017-01-23 2017-12-25 情報処理システム及び情報処理装置
CN201780084122.5A CN110214445A (zh) 2017-01-23 2017-12-25 信息处理系统及信息处理装置
EP17892271.2A EP3557865A4 (en) 2017-01-23 2017-12-25 INFORMATION PROCESSING SYSTEM AND INFORMATION PROCESSING DEVICE
US16/477,584 US11010947B2 (en) 2017-01-23 2017-12-25 Information processing system and information processing apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017009643 2017-01-23
JP2017-009643 2017-01-23

Publications (1)

Publication Number Publication Date
WO2018135246A1 true WO2018135246A1 (ja) 2018-07-26

Family

ID=62908455

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/046428 WO2018135246A1 (ja) 2017-01-23 2017-12-25 情報処理システム及び情報処理装置

Country Status (5)

Country Link
US (1) US11010947B2 (ja)
EP (1) EP3557865A4 (ja)
JP (1) JP6730461B2 (ja)
CN (1) CN110214445A (ja)
WO (1) WO2018135246A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020031423A1 (ja) * 2018-08-06 2020-02-13 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
WO2020031422A1 (ja) * 2018-08-06 2020-02-13 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
US20210042558A1 (en) * 2019-08-09 2021-02-11 Samsung Electronics Co., Ltd. Electronic device and operating method thereof

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210390752A1 (en) * 2020-06-12 2021-12-16 Disney Enterprises, Inc. Real-time animation motion capture
US20230252687A1 (en) * 2022-02-10 2023-08-10 Qualcomm Incorporated Systems and methods for facial attribute manipulation

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003274396A (ja) 2002-03-14 2003-09-26 Fuji Photo Film Co Ltd 画像処理装置、画像処理システム、及び画像処理プログラム
JP2007300562A (ja) * 2006-05-02 2007-11-15 Sony Computer Entertainment Inc 画像処理装置および画像処理方法
JP2009193468A (ja) * 2008-02-15 2009-08-27 Olympus Corp 仮想風景表示装置
JP2011070623A (ja) * 2009-08-31 2011-04-07 Sony Corp 画像処理装置および画像処理方法、並びにプログラム
JP2011221989A (ja) * 2010-03-26 2011-11-04 Nikon Corp 画像処理装置、電子カメラ、画像処理プログラム
JP2012065263A (ja) * 2010-09-17 2012-03-29 Olympus Imaging Corp 撮影機器
JP2016086970A (ja) * 2014-10-31 2016-05-23 ティフォン インコーポレーテッドＴｙｆｆｏｎ Ｉｎｃ． ゲームプログラム、コンピュータの制御方法、情報処理装置、画像出力装置、画像出力方法および画像出力プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002157606A (ja) * 2000-11-17 2002-05-31 Canon Inc 画像表示制御装置、複合現実感提示システム、画像表示制御方法、及び処理プログラムを提供する媒体
JP4181923B2 (ja) * 2003-05-29 2008-11-19 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP5131257B2 (ja) * 2009-08-27 2013-01-30 カシオ計算機株式会社 表示制御装置及び表示制御プログラム
US8682103B2 (en) * 2010-10-15 2014-03-25 Morpho, Inc. Image processing device, image processing method and image processing program
KR101764372B1 (ko) * 2011-04-19 2017-08-03 삼성전자주식회사 휴대용 단말기에서 영상 합성 방법 및 장치
JP2014085796A (ja) * 2012-10-23 2014-05-12 Sony Corp 情報処理装置およびプログラム
US9381426B1 (en) * 2013-03-15 2016-07-05 University Of Central Florida Research Foundation, Inc. Semi-automated digital puppetry control
KR102124617B1 (ko) * 2013-09-03 2020-06-19 삼성전자주식회사 이미지 합성 방법 및 그 전자 장치
KR102138521B1 (ko) * 2013-12-12 2020-07-28 엘지전자 주식회사 이동단말기 및 그 제어방법
CN106161939B (zh) * 2016-07-27 2021-08-24 北京字节跳动网络技术有限公司 一种照片拍摄方法及终端
CN106210526A (zh) * 2016-07-29 2016-12-07 维沃移动通信有限公司 一种拍摄方法及移动终端
CN106303293B (zh) * 2016-08-15 2019-07-30 Oppo广东移动通信有限公司 视频处理方法、装置及移动终端

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003274396A (ja) 2002-03-14 2003-09-26 Fuji Photo Film Co Ltd 画像処理装置、画像処理システム、及び画像処理プログラム
JP2007300562A (ja) * 2006-05-02 2007-11-15 Sony Computer Entertainment Inc 画像処理装置および画像処理方法
JP2009193468A (ja) * 2008-02-15 2009-08-27 Olympus Corp 仮想風景表示装置
JP2011070623A (ja) * 2009-08-31 2011-04-07 Sony Corp 画像処理装置および画像処理方法、並びにプログラム
JP2011221989A (ja) * 2010-03-26 2011-11-04 Nikon Corp 画像処理装置、電子カメラ、画像処理プログラム
JP2012065263A (ja) * 2010-09-17 2012-03-29 Olympus Imaging Corp 撮影機器
JP2016086970A (ja) * 2014-10-31 2016-05-23 ティフォン インコーポレーテッドＴｙｆｆｏｎ Ｉｎｃ． ゲームプログラム、コンピュータの制御方法、情報処理装置、画像出力装置、画像出力方法および画像出力プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3557865A4

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020031423A1 (ja) * 2018-08-06 2020-02-13 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
WO2020031422A1 (ja) * 2018-08-06 2020-02-13 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
JPWO2020031422A1 (ja) * 2018-08-06 2021-08-10 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
JPWO2020031423A1 (ja) * 2018-08-06 2021-08-12 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
JP7198438B2 (ja) 2018-08-06 2023-01-04 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
JP7245451B2 (ja) 2018-08-06 2023-03-24 住友電気工業株式会社 オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
US20210042558A1 (en) * 2019-08-09 2021-02-11 Samsung Electronics Co., Ltd. Electronic device and operating method thereof
US11861769B2 (en) * 2019-08-09 2024-01-02 Samsung Electronics Co., Ltd. Electronic device and operating method thereof

Also Published As

Publication number Publication date
US11010947B2 (en) 2021-05-18
JP6730461B2 (ja) 2020-07-29
EP3557865A1 (en) 2019-10-23
CN110214445A (zh) 2019-09-06
US20200126279A1 (en) 2020-04-23
EP3557865A4 (en) 2020-01-08
JPWO2018135246A1 (ja) 2019-11-07

Similar Documents

Publication Publication Date Title
WO2018142756A1 (ja) 情報処理装置及び情報処理方法
WO2018135246A1 (ja) 情報処理システム及び情報処理装置
JP6151323B2 (ja) 動的テンプレート追跡
CN110716645A (zh) 一种增强现实数据呈现方法、装置、电子设备及存储介质
WO2018077206A1 (zh) 增强现实场景生成方法、装置、系统及设备
CN109688451B (zh) 摄像机效应的提供方法及系统
CN112560605B (zh) 交互方法、装置、终端、服务器和存储介质
CN108885639A (zh) 内容集合导航和自动转发
KR20230107655A (ko) 신체 애니메이션 공유 및 재혼합
CN108304762B (zh) 一种人体姿态匹配方法及其设备、存储介质、终端
WO2016122973A1 (en) Real time texture mapping
CN111640202B (zh) 一种ar场景特效生成的方法及装置
KR101545138B1 (ko) 증강 현실을 이용한 광고 제공 방법과 그를 위한 시스템, 장치 및 단말기
EP3090411A1 (en) Augmented reality content adapted to space geometry
CN113721804A (zh) 一种显示方法、装置、电子设备及计算机可读存储介质
US11836764B2 (en) Media collection navigation with opt-out interstitial
CN106030638A (zh) 基于运动和姿态的移动终端广告激活
CN108536293B (zh) 人机交互系统、方法、计算机可读存储介质及交互装置
CN113487709A (zh) 一种特效展示方法、装置、计算机设备以及存储介质
CN116943191A (zh) 基于故事场景的人机互动方法、装置、设备及介质
CN111651054A (zh) 音效控制方法、装置、电子设备及存储介质
CN111625101B (zh) 一种展示控制方法及装置
JP6857537B2 (ja) 情報処理装置
CN112764527A (zh) 基于体感交互设备的产品介绍投影互动方法、终端、系统
WO2017149778A1 (ja) 鏡、画像表示方法及びプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17892271

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2018563240

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 2017892271

Country of ref document: EP

Effective date: 20190715

NENP Non-entry into the national phase

Ref country code: DE