WO2019221208A1 - 投影調整プログラム及び投影調整方法 - Google Patents

投影調整プログラム及び投影調整方法 Download PDF

Info

Publication number
WO2019221208A1
WO2019221208A1 PCT/JP2019/019408 JP2019019408W WO2019221208A1 WO 2019221208 A1 WO2019221208 A1 WO 2019221208A1 JP 2019019408 W JP2019019408 W JP 2019019408W WO 2019221208 A1 WO2019221208 A1 WO 2019221208A1
Authority
WO
WIPO (PCT)
Prior art keywords
projection
measurement
light
apparatuses
adjustment
Prior art date
Application number
PCT/JP2019/019408
Other languages
English (en)
French (fr)
Inventor
渕上 竜司
増谷 健
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Priority to US17/055,763 priority Critical patent/US11438563B2/en
Publication of WO2019221208A1 publication Critical patent/WO2019221208A1/ja
Priority to US17/864,924 priority patent/US11743437B2/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2518Projection by scanning of the object
    • G01B11/2527Projection by scanning of the object with phase change by in-plane movement of the patern
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/14Details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/203Drawing of straight lines or curves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/08Cursor circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Definitions

  • the present disclosure relates to a projection adjustment program and a projection adjustment method used in a projection system that projects an image onto an object.
  • Patent Document 1 discloses a system that can simultaneously acquire a 3D shape of a subject and image the subject with visible light.
  • Patent Document 2 discloses a system that can easily operate individual projector devices or collective operations of all projector devices by performing infrared communication between a plurality of projector devices.
  • This disclosure is intended to provide a projection adjustment program and a projection adjustment method capable of easily grasping the positional relationship between a plurality of projection ranges when a plurality of projection apparatuses are arranged.
  • the present disclosure relates to a projection adjustment program that executes processing related to adjustment of projection operation of a projection apparatus by a computer in a projection system including a plurality of projection apparatuses that perform position measurement and projection on an object, and the projection system
  • the first projection device projects invisible measurement light onto the object
  • the second projection device of the projection system receives reflected measurement light reflected from the object, and receives the received measurement.
  • the connection relationship of the projection ranges of the first projection device is determined based on the reflected light of the light
  • the connection relationship determination process is executed for all the projection devices to be processed
  • a projection adjustment program is generated for generating projection position information indicating the connection relationship between the two and displaying them on a display unit.
  • the present disclosure is a projection adjustment method by a projection adjustment apparatus that executes processing related to adjustment of a projection operation of the projection apparatus in a projection system including a plurality of projection apparatuses that perform position measurement and projection on an object.
  • the first projection device of the projection system projects non-visible measurement light onto the object
  • the second projection device of the projection system receives the measurement light reflected from the object
  • the connection relation of the projection range of the first projection apparatus is determined based on the reflected light of the received measurement light
  • the connection relation determination process is executed for all the projection apparatuses to be processed, and each projection in the projection system is performed.
  • a projection adjustment method for generating projection position information indicating a connection relationship of projection ranges of an apparatus and displaying the projection position information on a display unit.
  • summary of a structure and function of the measurement projection apparatus which concerns on this Embodiment The figure which shows the 1st usage example of the projection system which concerns on this Embodiment.
  • the figure which shows an example of the measurement pattern of invisible light which concerns on this Embodiment The figure which shows the structure of the modification of the measurement projection apparatus which concerns on this Embodiment.
  • Time chart showing a first example of operation of the projection system according to the present embodiment The block diagram which shows the 2nd example of a function structure of the measurement projection apparatus which concerns on this Embodiment.
  • Time chart showing a second example of the operation of the projection system according to the present embodiment The figure which shows the 3rd example of a structure of the projection system which concerns on this Embodiment.
  • Time chart showing a third example of the operation of the projection system according to the present embodiment The figure which shows the 4th example of a structure of the projection system which concerns on this Embodiment.
  • the block diagram which shows the function structure of the projection adjustment apparatus which concerns on this Embodiment.
  • Time chart showing an example of the projection time of the measurement pattern in the fourth example of the projection system according to the present embodiment The figure which shows an example of the projection range in the 4th example of the projection system which concerns on this Embodiment.
  • Time chart showing an example of measurement pattern projection operation in the fourth example of the projection system according to the present embodiment The flowchart which shows the procedure of the projection adjustment method by the projection adjustment apparatus which concerns on this Embodiment.
  • Patent Document 1 described above, by projecting a pattern image for 3D measurement with non-visible light, measurement that is not affected by visible light from a visible light source installed at another location becomes possible. Is merely disclosed. According to the technique of Patent Document 1, only a measurement result according to the coordinate system of the imaging apparatus can be obtained.
  • Reference Non-Patent Document 1 Japanese Laid-Open Patent Publication No. 2013-192189
  • Reference Non-Patent Document 1 “Development of a three-dimensional image measurement system at 3000 frames per second using a high-speed projector”, Robotics and Mechatronics Lecture Summary Collection 2007 , "1P1-M02 (1)"-"1P1-M02 (4)", 2007-05-11
  • Reference Non-Patent Document 1 discloses a method of measuring a 3D shape at high speed using light pattern projection.
  • the measurement system of Reference Non-Patent Document 1 includes an imaging device and a projection device having a light source, a lens, and a mirror element or a liquid crystal element.
  • the imaging device has a function of performing high-speed shooting.
  • the imaging apparatus can perform high-speed shooting at 6000 fps.
  • the projection apparatus can project a binary pattern having 1024 ⁇ 768 pixels at 6000 fps or higher.
  • Reference Patent Document 3 discloses a measurement system that adjusts video content based on imaging data.
  • the measurement system of Reference Document 3 includes an imaging device, a projection device, and a calculation device.
  • the calculation device performs image recognition of the projection target from the imaging result acquired by the imaging device.
  • the calculation device generates the video so as to project the video content on the area where the projection target is recognized.
  • the projection device projects video content onto a projection target.
  • Reference Non-Patent Document 1 merely discloses a technical level for performing 3D measurement at high speed. Since several tens of frames of images are required to transmit the coordinate information of the projection apparatus, it has been difficult to perform 3D measurement of a moving object at high speed. The technique of Reference Non-Patent Document 1 is considered significant in that it has suggested the possibility of performing measurement at high speed.
  • Reference Non-Patent Document 1 only discloses the technology of the 3D measurement alone, and does not mention the coordinate system of the projection apparatus.
  • Reference Non-Patent Document 1 refers to offline processing after high-speed imaging, that is, non-real-time processing. In the first place, in a computer architecture device such as a personal computer on the premise that image processing is performed at 60 Hz or the like, a delay of several tens of milliseconds or more occurs at the input / output. As a result, it is difficult to capture an image while projecting an image on a moving object and feed back the result to the projection in real time.
  • the inventor of the present application is capable of high-speed imaging, an invisible light projection device capable of high-speed projection of invisible light such as infrared light, a visible light projection device capable of high-speed projection of visible light, and the like. It has an imaging device, and measures and projects the measurement light with the invisible light pattern light at high speed to measure the position of the object with high accuracy, and aligns the visual light content on the object as intended. I came up with a projection system that can perform projection.
  • Patent Document 2 merely discloses that infrared communication is performed between a plurality of projection apparatuses, thereby enabling detection of the presence of another projection apparatus and operation of the plurality of projection apparatuses.
  • FIG. 1 is a diagram for explaining an outline of the configuration and functions of the measurement projection apparatus according to the present embodiment.
  • the position of the object is measured using a measurement projection apparatus 100 as shown in FIG. 1 as a projection apparatus that projects an image on the object, and an image is displayed according to the position information of the object.
  • An example of projecting is shown.
  • a target for projecting an image a first target 105 such as a flat or curved screen or wall surface, and a second target 106 such as a person positioned in front of the first target 105 Is assumed.
  • the objects 105 and 106 may be simply referred to.
  • the second object 106 such as a person moves by moving each part of the body by performing dance or the like in front of the first object 105 such as a screen. That is, the object 106 is in a state in which the shape and position of each part change with its movement. For this reason, in order to project predetermined video content onto the objects 105 and 106, it is necessary to measure the position of the second object 106 with respect to the first object 105 and to obtain accurate position information of the object 106. There is.
  • the measurement projection device 100 includes an imaging device 101 as an example of a light receiving unit, an infrared light projection device 102 as an example of an invisible light projection unit that projects infrared light as an example of measurement light of invisible light, and a visible light And a visible light projection device 104 as an example of a visible light projection unit that projects light.
  • the measurement and projection apparatus 100 projects the pattern light of infrared light whose projection coordinates are encoded by the infrared light projection apparatus 102 at high speed, and performs high-speed imaging of the objects 105 and 106 by the imaging apparatus 101, whereby the object 105, The position of 106 is measured at high speed. Details of the position measurement of the object will be described later.
  • the measurement projection apparatus 100 displays a predetermined image by the visible light projection apparatus 104 in a state where the alignment is always performed with respect to the position of the moving object 106 based on the position information of the objects 105 and 106. Project.
  • a projection system is configured by appropriately arranging a plurality of measurement projection apparatuses 100 as described later.
  • FIG. 2 is a diagram showing a first usage example of the projection system according to the present embodiment.
  • a plurality of (three in the illustrated example) measurement projection apparatuses 100 are arranged side by side, and each measurement projection is performed so as to cover a large area by performing multi-plane projection on the objects 105 and 106.
  • the projection range is set so that a part of the projection range of the apparatus 100 overlaps, and position measurement and video projection are performed. In this case, in the area where the projection ranges overlap, interference occurs in the measurement light, which may cause a problem that the position of the object 106 cannot be measured accurately.
  • FIG. 3 is a diagram illustrating a second usage example of the projection system according to the present embodiment.
  • a plurality of (three in the illustrated example) measurement projection apparatuses 100 are arranged side by side, and each measurement is performed so that high intensity projection is performed on the objects 105 and 106 by overstrike projection outdoors or the like.
  • the projection range is set so that all or most of the projection range of the projection apparatus 100 overlaps, and position measurement and video projection are performed.
  • the projection angles with respect to the objects 105 and 106 are different for each measurement projection apparatus 100, and interference occurs in most areas of the measurement light where the projection ranges overlap, so that the position measurement of the object 106 cannot be performed accurately. Can occur.
  • FIG. 4 is a diagram showing a third usage example of the projection system according to the present embodiment.
  • a plurality of (three in the illustrated example) measuring and projecting apparatuses 100 are arranged in a circumferential shape so as to surround the periphery of the object 106, and a 360-degree image is projected by wrapping projection to increase the number of three-dimensional objects.
  • This is an example in which position measurement and video projection are performed from a plurality of measurement projection apparatuses 100 toward the target object 106 as seen from the angle. In this case, since most of the projection ranges of the respective measurement projection apparatuses 100 overlap, there is a problem that interference occurs in the measurement light and the position measurement of the object 106 cannot be accurately performed.
  • the timing control unit controls the irradiation timing of the measurement light in the plurality of measurement projection apparatuses 100, thereby preventing the interference of the measurement light and solving the above problem.
  • FIG. 5 is a diagram showing a first example of the configuration of the projection system according to the present embodiment.
  • the projection system of the first example includes a plurality of measurement projection apparatuses 100A and 100B, and performs position measurement and video projection with respect to the objects 105 and 106 by these measurement projection apparatuses 100A and 100B.
  • a plurality of measurement projection apparatuses 100A and 100B are connected to each other, the first measurement projection apparatus 100A functions as a master, and the other second measurement projection apparatus 100B functions as a slave. To do.
  • the master measurement / projection apparatus 100A has a timing control unit inside the apparatus, instructs and synchronizes the operation timing of the slave measurement / projection apparatus 100B, and performs position measurement and video projection timing by each measurement / projection apparatus of the projection system. To control.
  • a configuration having three measurement projection apparatuses is shown, with the central apparatus as a master measurement projection apparatus P1, the left apparatus as a slave measurement projection apparatus P2, and the right apparatus as a slave measurement projection apparatus P3. Yes.
  • FIG. 6 is a diagram showing a second example of the configuration of the projection system according to the present embodiment.
  • the projection system of the second example has a slave measurement projection device 100B as a plurality of measurement projection devices, and performs position measurement and video projection on the objects 105 and 106 by these measurement projection devices 100B.
  • a timing generator 151 as an example of a timing control unit is provided outside, and a plurality of slave measurement projection apparatuses 100 ⁇ / b> B are connected to the timing generator 151.
  • the timing generator 151 is configured by a computer or the like provided outside, and synchronizes by instructing the operation timing of the plurality of slave measurement and projection apparatuses 100B, and determines the timing of position measurement and video projection by each measurement and projection apparatus of the projection system. Control. In the illustrated example, a configuration having three measurement projection apparatuses is shown, and the central measurement projection apparatus P1, the left measurement projection apparatus P2, and the right measurement projection apparatus P3 all function as slaves.
  • FIG. 7 is a diagram showing a schematic configuration of the measurement projection apparatus according to the present embodiment.
  • the measurement projection device 100 includes an imaging device 101, an infrared light projection device 102, a visible light projection device 104, and a calculation device 103.
  • the imaging apparatus 101 can capture 6000 frames per second as in Reference Non-Patent Document 1. Further, the imaging apparatus 101 has a large transfer band without being buffered inside, and can output imaging data to the arithmetic apparatus 103. Furthermore, the imaging device 101 has sensitivity in the infrared light region.
  • the imaging apparatus 101 can capture 6000 frames per second as in Reference Non-Patent Document 1. Further, the imaging apparatus 101 has a large transfer band without being buffered inside, and can output imaging data to the arithmetic apparatus 103. Furthermore, the imaging device 101 has sensitivity in the infrared light region.
  • the infrared light projection device 102 as an example of the invisible light projection unit projects pattern light indicating a pattern image in which projection coordinates defined by the projection coordinate system are coded as an example of measurement light.
  • the projected coordinate system means a coordinate system that specifies the coordinates of each pixel of an image of a video content that is a projected image projected from the visible light projector 104.
  • the coordinates that specify each pixel of the image of the video content are referred to as “projection coordinates” in the projection coordinate system.
  • the projection coordinates also correspond to the coordinates of each pixel of the pattern image projected from the infrared light projector 102.
  • the infrared light projector 102 includes a lens optical system 111, an infrared LED light source 112, and a display device 113.
  • the lens optical system 111 may be configured by a single lens or may be configured by a plurality of lenses (lens group).
  • the plurality of lenses may include, for example, a zoom lens and a focus lens.
  • the infrared LED light source 112 emits infrared light as an example of invisible light as pattern light.
  • Invisible light has, for example, a wavelength in the infrared light band (generally 700 nm to 1000 nm).
  • an infrared LED light source is used as a light source for invisible light, but a light source that emits ultraviolet rays may be used.
  • the display device 113 is a device in which micromirrors are arrayed on, for example, a 1024 ⁇ 768 grid, and generates a pattern image in which projection coordinates are encoded.
  • the display device 113 can output an image of 30000 frames per second in a binary pattern.
  • the display device 113 may be configured by a transmissive optical element instead of the reflective optical element, or may be replaced by a liquid crystal device.
  • the imaging device 101 as an example of the light receiving unit captures pattern light and generates a captured image of the pattern light.
  • the imaging device 101 includes an image sensor, a lens optical system, and the like.
  • an image sensor having a number of pixels of 1024 ⁇ 768 can be used in association with the display device 113.
  • the transfer band is about 38 Gbps.
  • the arithmetic unit 103 is realized by, for example, an FPGA (Field Programmable Gate Array). Considering the current semiconductor technology level, a transfer bandwidth of about 38 Gbps is a range that can be sufficiently realized.
  • the imaging device 101 has an imaging coordinate system.
  • the imaging coordinate system means a coordinate system that specifies the coordinates of each pixel of a captured image acquired by the imaging device 101. Differentiating from “projection coordinates”, the coordinates of each pixel of the captured image are referred to as “imaging coordinates” of the imaging coordinate system.
  • the visible light projection device 104 as an example of a visible light projection unit projects video light representing video content.
  • the visible light projector 104 includes a lens optical system, a visible light source, and a display device similar to the infrared light projector 102.
  • the visible light projector 104 emits light in the visible light band (approximately 380 nm to 780 nm) as image light.
  • the visible light source can be a monochromatic visible LED light source.
  • it is of course possible to project a full-color image by providing three light sources for the three colors of red, blue and green.
  • a full-color image can be projected by providing a white light source such as a high-pressure mercury lamp instead of the visible LED light source and attaching it to the output.
  • a white light source such as a high-pressure mercury lamp
  • a visible light source a light source capable of extracting light for each wavelength from a high-pressure mercury lamp with a dichroic prism or the like can be used.
  • any light source can be used for the present disclosure.
  • the calculation device 103 decodes a captured image into projection coordinate information indicating projection coordinates corresponding to the imaging coordinates defined in the imaging coordinate system, and uses the projection coordinate system as a reference for the projection coordinate information as an object. To the distance information, and the content of the video content is selectively determined according to the distance information.
  • FIG. 8 is a diagram illustrating an example of a measurement pattern of invisible light according to the present embodiment.
  • FIG. 8 illustrates a part of a coded pattern image (coordinate pattern) corresponding to the pattern light.
  • the pattern image shown in FIG. 8 is obtained by expressing each bit as a black and white binary image after gray-coding the X and Y coordinates of each mirror of the display device 113 having a 1024 ⁇ 768 micromirror. .
  • the infrared light projector 102 can project pattern light onto the object 107 (corresponding to the objects 105 and 106) based on a pattern image of 1024 ⁇ 768 pixels, for example.
  • Both the X coordinate and the Y coordinate of the pixel are greater than 512 and less than or equal to 1024.
  • 10 bits from bit 0 to bit 9 representing the X coordinate are gray-coded.
  • 10 bits from bit 0 to bit 9 representing the Y coordinate are gray-coded.
  • the coordinate information can be coded by assigning 10 bits to each coordinate for a total of 20 bits.
  • 40-bit image data is used to encode the 20-bit information will be described.
  • (X9a) in FIG. 8 shows a pattern image corresponding to bit 9 after the X coordinate is gray-coded.
  • an inverted pattern image in which bit 9 is bit-inverted is also used.
  • (X9b) in FIG. 8 shows an inverted pattern image obtained by inverting the image pattern of (X9a).
  • (X8a) in FIG. 8 shows a pattern image corresponding to bit8 after the X coordinate is gray-coded
  • (X8b) shows an inverted pattern image obtained by inverting the image pattern of (X8a).
  • (X7a) in FIG. 8 shows a pattern image corresponding to bit 7 after the X coordinate is gray-coded
  • (X7b) shows an inverted pattern image obtained by inverting the image pattern of (X7a).
  • (Y9a) in FIG. 8 shows a pattern image corresponding to bit 9 after the Y coordinate is gray coded.
  • (Y9b) in FIG. 8 shows an inverted pattern image obtained by inverting the image pattern of (Y9a).
  • (Y8a) in FIG. 8 shows a pattern image corresponding to bit8 after the Y coordinate is gray-coded
  • (Y8b) shows an inverted pattern image obtained by inverting the image pattern of (Y8a).
  • (Y7a) in FIG. 8 shows a pattern image corresponding to bit 7 after the Y coordinate is gray-coded
  • (Y7b) shows an inverted pattern image obtained by inverting the image pattern of (Y7a).
  • pattern images and reverse pattern images corresponding to the measurable resolution, for example, bits 6 to 0 of the X coordinate and Y coordinate, respectively.
  • the infrared light projector 102 sequentially projects 40 patterns including these patterns onto the object 107.
  • the imaging device 101 sequentially captures the projected pattern image.
  • FIG. 9 is a diagram showing a configuration of a modification of the measurement projection apparatus according to the present embodiment.
  • a measurement projection apparatus 140 according to a modification is an example in which the projection apparatus of the measurement projection apparatus 100 shown in FIGS. 1 and 7 is integrally configured, and includes a projection apparatus 142 including an infrared light projection apparatus and a visible light projection apparatus. doing.
  • a measurement projection device 140 including such an integrated projection device 142 may be used.
  • FIG. 10 is a block diagram illustrating a first example of a functional configuration of the measurement projection apparatus according to the present embodiment.
  • the arithmetic device 103 has a function of controlling the entire measurement / projection device 100.
  • the arithmetic device 103 can be realized by, for example, a computer, an arithmetic device represented by a processor, or a semiconductor integrated circuit. Examples of the semiconductor integrated circuit include ASIC (Application Specific Integrated Circuit) and FPGA.
  • the arithmetic device 103 uses a memory in which a computer program that exhibits the function of each component is mounted, and a processor in the semiconductor integrated circuit sequentially executes the computer program to realize the function of each component. Also good.
  • the arithmetic device 103 includes an image input unit 401, a pattern decoding unit 402, a frame memory unit 403, a code decoding memory unit 404, a coordinate conversion unit 405, a coordinate conversion memory unit 406, a coordinate interpolation unit 407, a content generation unit 408, a content A memory unit 409, an image output unit 410, and a pattern generation unit 411 are provided.
  • Each memory unit in the arithmetic device 103 may be configured by a RAM, for example.
  • the arithmetic unit 103 has an external synchronization interface (I / F) 152 as an example of a timing control unit.
  • I / F external synchronization interface
  • the external synchronization interface 152 of the master measurement projection apparatus functions as a timing control unit, and external synchronization of other slave measurement projection apparatuses is performed.
  • a timing signal is transmitted to the interface 152.
  • an external timing generator 151 functions as a timing control unit, and transmits timing signals to the external synchronization interfaces 152 of the plurality of slave measurement projection apparatuses. .
  • the external synchronization interface 152 may be, for example, a wired communication interface or a wireless communication interface. There may be.
  • USB Universal Serial Bus
  • Ethernet registered trademark
  • a wireless communication interface for example, Bluetooth (registered trademark), a wireless LAN, or the like may be used.
  • the external synchronization interface 152 may be configured by a light source such as infrared light and an optical sensor, and the operation timing between the measurement and projection apparatuses may be controlled by on / off of light or optical communication.
  • FIG. 11 is a time chart showing a first example of the operation of the projection system according to the present embodiment.
  • a predetermined unit time such as 1 millisecond
  • the measurement pattern projection of the infrared light by the infrared light projection device 102, the camera exposure by the imaging device 101, and the readout are performed every unit time.
  • && calculation and image projection by the visible light projection device 104 are executed.
  • “reading & calculation” refers to a process of reading an image captured by the imaging apparatus 101 and transferring it to the calculation apparatus 103 (hereinafter referred to as a read transfer process or a transfer process to the calculation apparatus 103) and a transfer by the calculation apparatus 103.
  • the calculation processing of the position measurement information by the arithmetic device 103 may be performed concurrently with the read transfer processing by the imaging device 101, or the read transfer processing (transfer processing to the arithmetic device 103) by the imaging device 101. Some or all may be performed after completion.
  • calculation of position measurement information is performed by overlapping a readout period by configuring a dedicated arithmetic device using an FPGA or the like. Is possible.
  • the time required for reading and transferring a captured image may not be the same as the time required for position information measurement.
  • the above-described read transfer and calculation of position measurement information are the same for the operation examples described in FIG.
  • the pattern generation unit 411 turns on the infrared LED light source 112 of the infrared light projector 102 during the measurement pattern projection period.
  • the pattern generation unit 411 generates a pattern image for pattern projection by the method described above.
  • the pattern generation unit 411 outputs image data indicating the pattern image to the image output unit 410 so that the display device 113 of the infrared light projector 102 performs pattern projection for measurement.
  • the image output unit 410 outputs the image data from the pattern generation unit 411 and the lighting information of the infrared LED light source 112 to the infrared light projector 102 and the image input unit 401. Since the pattern light of the measurement light indicating the pattern image is projected as invisible light, it is captured and measured by the imaging device 101, but does not affect human vision.
  • the pattern generation unit 411 can output one pattern in 1/6000 second.
  • the pattern generation unit 411 outputs a total of 40 frames of a 10-bit coordinate image of each of the X coordinate and the Y coordinate and its inverted image during the measurement pattern projection period.
  • the imaging apparatus 101 captures an image with 40 frames in synchronization with the rate at which the display device 113 outputs frames.
  • the image output unit 410 outputs a pattern image to the infrared light projector 102 in synchronization with the output timing of the image data of the pattern generation unit 411.
  • the infrared light projector 102 projects the pattern image onto the object.
  • the image input unit 401 controls the exposure of the imaging apparatus 101 in synchronization with the pattern image output timing of the image output unit 410. Accordingly, the imaging apparatus 101 captures a 40-frame pattern image during the camera exposure period.
  • the image input unit 401 receives a captured image (imaging data) of a pattern image captured by the imaging device 101 during the readout and calculation periods.
  • the image input unit 401 transmits the received imaging data to the pattern decoding unit 402.
  • the image input unit 401 determines a pattern corresponding to the received imaging data in synchronization with the image output unit 410.
  • the pattern decoding unit 402 decodes the captured image indicating the pattern image from the imaging apparatus 101 into the projection coordinate information indicating the projection coordinates corresponding to the imaging coordinates defined by the imaging coordinate system during the period of reading and calculation.
  • the function of the pattern decoding unit 402 will be described in more detail.
  • the pattern decoding unit 402 If the image data received from the image input unit 401 is a non-bit inverted image of the X coordinate and the Y coordinate, the pattern decoding unit 402 writes the image data to the frame memory unit 403. If the image data is a bit-reversed image of the X coordinate and Y-coordinate, the pattern decoding unit 402 obtains the difference between the two while reading the non-bit inverted image previously recorded in the frame memory unit 403. By taking the difference between the non-bit inverted image and the bit inverted image in this way, it is possible to distinguish between “0” and “1” of the projection light without depending on the color to be projected or the ambient light. An area where the difference is a predetermined value or less can be determined as an area where the projection light is not projected, and the area can be excluded from the measurement target area.
  • a writing area is provided for each pixel of the imaging apparatus 101.
  • the pattern decoding unit 402 takes the difference between the non-bit inverted image and the bit inverted image, and then writes each bit value of the gray-coded coordinate data in the writing area in units of bits.
  • This coordinate data writing operation is executed for 40 frames during the exposure time of the imaging apparatus 101. Thereby, information indicating whether or not the X coordinate and Y coordinate of the infrared light projection apparatus 102 corresponding to each pixel of the imaging apparatus 101 exist, and 10 bits indicating each of the X coordinate and Y coordinate in the case where it exists. Is written in the code decoding memory unit 404.
  • the pattern decoding unit 402 finally reconverts the gray code coordinate data recorded in the code decoding memory unit 404 into binary and outputs it to the coordinate conversion unit 405.
  • the processing so far, it is possible to know from which pixel of the infrared light projection device 102 the projection light imaged at a certain pixel position of the imaging device 101 is projected. That is, to know the correspondence between the projection coordinates of the infrared light projection apparatus 102, that is, the projection coordinates defined in the projection coordinate system of the visible light projection apparatus 104, and the imaging coordinates defined in the imaging coordinate system of the imaging apparatus 101 Can do. Therefore, if the positional relationship between the imaging device 101 and the infrared light projection device 102 is known, the distance to the object for each imaging pixel can be obtained by trigonometry. However, the obtained information is distance information corresponding to the imaging pixels of the imaging device 101.
  • the distance information of the imaging coordinates corresponding to the imaging pixels of the imaging apparatus 101 is the distance information corresponding to the pixel coordinates of the infrared light projection apparatus 102, that is, the distance information of the projection coordinates of the visible light projection apparatus 104. Convert to
  • the coordinate conversion unit 405 writes the data received from the pattern decoding unit 402 in the area of the coordinate conversion memory unit 406 specified by an address corresponding to the projection coordinates of the visible light projection device 104. After that, the coordinate conversion unit 405 reads the distance information from the coordinate conversion memory unit 406 in the order of the X coordinate and the Y coordinate of the visible light projection device 104, so that the distance information corresponding to the projection coordinates of the visible light projection device 104 is obtained. Is generated.
  • a projection pixel having no corresponding point may occur.
  • light corresponding to a plurality of pixels in the pattern image projected onto the object can be imaged by one imaging pixel of the imaging device 101.
  • a projection pixel that does not have a corresponding point is rounded to one of the pixel coordinates of two adjacent projection pixels, so that one projection pixel has no corresponding destination.
  • the coordinate interpolation unit 407 receives distance information corresponding to the projection coordinates of the visible light projection device 104 from the coordinate conversion unit 405.
  • the coordinate interpolation unit 407 interpolates distance information with respect to projection coordinates where no distance information exists. This is performed using an interpolation method such as linear interpolation from the distance information of the peripheral coordinates only in a place where a certain number of projected coordinates having distance information that can be interpolated exist in the vicinity thereof.
  • the coordinate interpolation unit 407 outputs distance information based on the projected coordinates to the content generation unit 408. As described above, by performing the reading of the captured image of the pattern image and the calculation of the position information including the distance information to the object, a high-speed position measurement operation can be performed in real time.
  • the content generation unit 408 generates video content for projection during the video projection period.
  • the content generation unit 408 processes the video content recorded in advance in the content memory unit 409 based on the distance information received from the coordinate interpolation unit 407, and outputs the processed video content to the image output unit 410.
  • the processed video content may be referred to as “processed video content” in distinction from the pre-recorded video content.
  • the content generation unit 408 generates video content that accurately corresponds to the distance to the object without any coordinate deviation. Further, the content generation unit 408 can selectively determine the content of the video content according to the distance information. For example, it is possible to perform processing such as cutting out and detecting only an object at a certain distance and accurately rendering video content for visible light projection. The content generation unit 408 outputs the processed video content for projection to the image output unit 410.
  • the image output unit 410 outputs the video content for visible light projection generated during the video projection period to the visible light projector 104.
  • the visible light projection device 104 turns on the visible light source and projects video light corresponding to the video content.
  • the display device of the visible light projector 104 can output 30000 binary frames per second. Therefore, for example, an image with 256 gradations can be projected using 255 frames within 8.5 milliseconds. Since this projection is made by a visible light source, it is visually recognized by a human. Thus, position measurement and projection can be performed continuously.
  • the measurement and projection apparatus 100 of the present embodiment by performing image projection and position measurement by the same measurement and projection apparatus, it is possible to suppress the occurrence of deviation between projection and measurement in principle, and to interfere with visible light images. Superimposing geometric measurement that is not possible can be realized. Further, if the arithmetic device 103 can decode the pattern image captured by the imaging device 101, it can withstand relative position measurement. Therefore, even if the installation accuracy is not sufficiently ensured, it can withstand practical use. In that respect, the simplicity of installation can be ensured. In addition, it is possible to obtain high robustness against the expansion of installation-related errors due to aging.
  • a timing signal is generated and output by the external control interface 152 of the master measurement projection apparatus or the external timing generator 151, and the timing control unit 150 controls the operation timing of the multiple measurement projection apparatuses 100.
  • the external synchronization interface 152 of the measurement projection apparatus receives the timing signal and inputs it to the image output unit 410, and controls the output of the pattern image of the image output unit 410 and the input of the captured image of the image input unit 401 according to the timing signal. .
  • synchronization among the plurality of measurement projection apparatuses is achieved.
  • FIG. 11 shows an operation example in the case where position measurement is performed alternately in a time division manner using three measurement projection apparatuses P1, P2, and P3. It should be noted that the number of phases in the operation example here is 3, as is the case with the number of measurement projection apparatuses.
  • the plurality of measurement projection apparatuses P1, P2, and P3 sequentially perform measurement pattern projection and camera exposure of infrared light alternately in accordance with a timing signal for each predetermined unit time output from the timing control unit 150.
  • the unit time indicating the timing signal interval in FIG. 11 is, for example, 1 millisecond. Therefore, measurement pattern projection and camera exposure 1000 times per second (1000 fps) can be sequentially executed by a plurality of measurement projection apparatuses.
  • the measurement projection apparatuses P1, P2, and P3 perform measurement pattern projection and camera exposure alternately in time division, and then read out the captured image of the pattern image and the distance information to the object at the timing of the next unit time, respectively. The position information is calculated. Then, each of the measurement projection devices P1, P2, and P3 creates video content corresponding to the measured position information of the object at the timing of the next unit time, and projects the video.
  • 1, 2, and 3 of each block indicating the operation timing indicate an example of a frame number. In the illustrated example, image projection is performed by one frame every three unit times (3 milliseconds). Note that although the timing of the frame for projecting the video is shifted between the plurality of measurement projection apparatuses P1, P2, and P3, since it is a short time of 1 millisecond unit, it does not affect human vision.
  • the measurement projection devices P1, P2, and P3 project measurement light at different projection timings from the other measurement projection devices.
  • the measurement projection apparatus P1 projects measurement light at different projection timings from the measurement projection apparatuses P2 and P3 because the projection ranges overlap with the measurement projection apparatuses P2 and P3.
  • the measurement projection device P2 has the same projection range as the measurement projection device P1, but the measurement projection device P2 and P3 have the same projection timing and the measurement light because the projection range does not overlap with the measurement projection device P3. May be projected.
  • the measurement projection device P2 projects measurement light at a timing during calculation in which the measurement projection device P1 reads a captured image and calculates position information.
  • the measurement projection device P2 performs reading of the captured image and calculation of position information at the timing when the measurement projection device P1 is projecting the measurement light.
  • the measurement projection apparatus P1 projects measurement light at a timing during which video content is being projected by the own apparatus.
  • a plurality of measurement projection apparatuses are controlled by the timing control unit, and the position measurement of the object is performed by alternately projecting and exposing the measurement light for each apparatus.
  • interference of the measurement light between the plurality of measurement projection apparatuses can be prevented.
  • Video content can be individually generated and projected according to the position of each object.
  • FIG. 12 is a block diagram showing a second example of the functional configuration of the measurement projection apparatus according to the present embodiment.
  • the second example of the functional configuration of the measurement projection apparatus is a configuration example in which a part of the configuration of the measurement projection apparatus of the first example described above is changed and a function is added.
  • the arithmetic device 123 of this embodiment has a setting input unit 131 for inputting setting information.
  • Other configurations and functions are the same as those of the arithmetic device 103 of the first example shown in FIG. 10, and therefore only the parts different from the first example will be described here.
  • the setting input unit 131 is a setting for setting the number of divisions of the measurement light emission time and the light emission amount of the measurement light in accordance with the number of phases of the measurement projection apparatuses that operate sequentially or the number of measurement projection apparatuses that are used simultaneously. Enter information.
  • the setting information may be generated by a control device such as a computer provided outside and transmitted to the setting input unit 131 of the measurement projection device.
  • the setting input unit 131 transmits the input setting information to the image output unit 410 and the infrared light projector 102, and sets the emission time of the measurement light and the emission light amount of the measurement light.
  • a period for performing measurement pattern projection and camera exposure is divided into 1 / n of unit time. Further, as the measurement pattern projection period is reduced to 1 / n, the light emission amount of the invisible measurement light is increased. For example, the drive current at the time of light emission of the infrared LED light source is increased n times. At this time, the peak power at the time of light emission of the infrared LED light source may be changed according to the light emission time. For this reason, not only the drive current of the infrared LED light source but also the drive power can be controlled by various methods such as drive voltage and PWM ratio.
  • setting information including the divided measurement pattern projection and camera exposure time and the increased drive current is sent from the setting input unit 131 via the image output unit 410, the infrared light projection device 102, and the image output unit 410.
  • the image is transmitted to the image input unit 401.
  • the measurement projection apparatus When the measurement projection apparatus performs a series of processes such as measurement pattern projection, camera exposure, readout transfer of captured image, calculation of position information measurement, and video projection at a high speed, the readout transfer process of the captured image is rate-determined (ie, bottle Neck) is likely. For this reason, in order to perform this series of processing at high speed, the measurement projection apparatus is preferably configured so that each processing time is variable with the read transfer time as a reference (unit time). For example, the measurement pattern projection (and camera exposure) period may be set to 1 / n of the read transfer time (unit time). The unit time here preferably corresponds to the time required for the read transfer process when the maximum operation of the imaging device and / or the arithmetic device is performed.
  • the unit time when the unit time is based on the performance of the imaging device and / or the arithmetic device in this way, the unit time may be stored in advance in a memory inside the measurement projection device, or a desired network may be provided from outside the measurement projection device. Or may be actually tested and measured by a measurement projection apparatus.
  • FIG. 13 is a time chart showing a second example of the operation of the projection system according to the present embodiment.
  • FIG. 13 shows an operation example in the case where position measurement is performed alternately in a time division manner by three measurement projection apparatuses P1, P2, and P3.
  • the measurement pattern projection and camera exposure period is set to be 1/3 (for example, 1/3 millisecond) of the normal unit time, and the drive current (drive power) of the infrared LED light source is tripled. To do.
  • the infrared LED light source emits a light amount of about 2 to 3 times.
  • the maximum current can be increased by making the average current of the unit time the same. That is, the maximum light emission amount can be increased without changing the power consumption.
  • the number of phases in the operation example here is 3, as is the case with the number of measurement projection apparatuses.
  • the plurality of measurement projection apparatuses P1, P2, and P3 perform measurement pattern projection and camera exposure of infrared light sequentially and alternately in a period of 1/3 of a predetermined unit time according to the timing signal output from the timing control unit 150. Do. In the illustrated example, measurement pattern projection and camera exposure are alternately performed in one unit time in the order of measurement projection devices P1 ⁇ P2 ⁇ P3. Then, the measurement projection apparatuses P1, P2, and P3 perform the reading of the captured image of the pattern image and the calculation of the position information of the target object in one unit time when the respective measurement pattern projection and camera exposure are completed, and then The video content creation and video projection according to the position information of the object is performed in one unit time. At this time, the time for performing the measurement pattern projection of the infrared light and the camera exposure is shorter than the time for reading the captured image and calculating the position information.
  • FIG. 14 is a diagram showing a third example of the configuration of the projection system according to the present embodiment.
  • the third example of the configuration of the projection system is a configuration example in which the configuration of the timing control unit of the measurement projection apparatus is changed.
  • the projection system of the present embodiment includes a master measurement projection device 160A and a slave measurement projection device 160B as a plurality of measurement projection devices.
  • the slave measurement projection device 160B includes an optical sensor 153 that detects invisible measurement light. Similar to the external synchronization interface 152 of the first example of the measurement projection apparatus, the optical sensor 153 functions as a timing control unit. Since other configurations and functions are the same as those of the first and second examples described above, only different parts will be described here.
  • FIG. 15 is a time chart showing a third example of the operation of the projection system according to the present embodiment.
  • FIG. 15 shows an operation example in the case where position measurement is alternately performed in a time division manner by three measurement projection apparatuses P1, P2, and P3.
  • the central measurement projection device P2 functions as a master
  • the left measurement projection device P1 and the right measurement projection device P3 function as slaves.
  • the number of phases in the operation example here is 2, which is smaller than the number of measurement projection apparatuses.
  • the master measurement projection device P2 performs measurement pattern projection and camera exposure. At this time, since the projection ranges overlap in adjacent measurement projection apparatuses, the measurement light of invisible light is received by the optical sensor 153 in the slave measurement projection apparatuses P1 and P3, and the projection of the measurement light of the master is detected.
  • the slave measurement projection devices P 1 and P 3 receive the invisible measurement light projected by the master measurement projection device P 2 as a timing signal by the optical sensor 153.
  • the slave measurement projection devices P1 and P3 detect the stop of measurement light emission by the optical sensor 153, and output a timing signal that triggers the start of measurement pattern projection as an image. Input to the output unit 410. Thereby, the slave measurement projection devices P1 and P3 perform measurement pattern projection and camera exposure.
  • the case where the measurement light emission time is divided and the measurement light emission light amount is increased is illustrated.
  • the measurement light is projected by the slave measurement projection apparatuses P1 and P3
  • the measurement light of the own apparatus is detected by the optical sensor 153.
  • the output of the optical sensor 153 is masked. Thus, only the measurement light from the master measurement projection device P2 may be detected.
  • the measurement projection device P2 projects the measurement light at a different projection timing from the measurement projection devices P1 and P3 because the projection ranges overlap with the measurement projection devices P1 and P3.
  • the measurement projection apparatus P1 has the same projection range as that of the measurement projection apparatus P2, but the measurement projection apparatus P1 and P3 have the same projection timing as the measurement light. Project.
  • the number of phases can be made smaller than the number of measuring and projecting apparatuses. In other words, it is possible to efficiently measure an object in a shorter time while preventing interference of measurement light.
  • the measurement projection apparatuses P1, P2, and P3 perform the reading of the captured image of the pattern image and the calculation of the position information of the target object in one unit time when the respective measurement pattern projection and camera exposure are completed, and then The video content creation and video projection according to the position information of the object is performed in one unit time.
  • the timing control unit by providing the timing control unit by the optical sensor, the timing control of the measurement light in the plurality of measurement projection apparatuses can be performed without providing a communication unit such as an external synchronization interface.
  • the projection system of the present embodiment is a projection system including a plurality of measurement projection apparatuses 100 as projection apparatuses that perform position measurement and projection on the objects 105 and 106.
  • the measurement projection apparatus 100 includes an infrared light projection apparatus 102 that projects infrared measurement light, which is invisible light, onto an object, and an imaging apparatus 101 that receives and captures the reflected light of measurement light reflected from the object. And a calculation device 103 that calculates position information of the object based on the reflected light of the measurement light, and a visible light projection device 104 that projects video content of visible light based on the position information of the object.
  • the first measurement projection apparatus and the second measurement projection apparatus project measurement light at different projection timings.
  • the infrared light projection device 102 of the second measurement projection device projects measurement light while the calculation device 103 of the first measurement projection device is calculating the position information.
  • the infrared light projection device 102 of the second measurement projection device projects measurement light while the calculation device 103 of the first measurement projection device is calculating the position information.
  • the computing device 103 of the second measurement projection device performs computation related to position information while the visible light projection device 104 of the first measurement projection device projects the video content, and the shape and position of the object. Is calculated. As a result, it is possible to efficiently measure an object in a short time while preventing interference of measurement light.
  • the infrared light projection device 102 of the first measurement projection device projects measurement light while the visible light projection device 104 of the first measurement projection device projects the video content. Therefore, it is possible to efficiently measure the object and project the image in a short time while preventing the interference of the measurement light.
  • the infrared light projection device 102 of the second measurement projection device projects measurement light while transferring information related to the reflected light received by the imaging device 101 to the arithmetic device 103. Thereby, the measurement of the target can be executed efficiently in a short time.
  • the measurement projection apparatus 100 projects the non-visible measurement light by the infrared light projection apparatus 102 from the time when the information regarding the reflected light received by the imaging apparatus 101 is transferred to the calculation apparatus 103. Is also shorter.
  • the measurement light is emitted in a short time such as one-fifth of the plurality of measurement projection apparatuses in the projection system with respect to the time for transferring the information regarding the reflected light to the arithmetic apparatus 103.
  • the position of the object can be measured in a short time, and the object can be measured efficiently in a short time.
  • the amount of light emission can be increased as the measurement light emission time is shortened, it is possible to contribute to improving the accuracy of position measurement.
  • the measurement projection apparatus 100 sets the time for projecting the measurement light to the number of measurement projection apparatuses in the projection system, the number of measurement projection apparatuses used simultaneously in the projection system, and the measurement projection apparatus that operates sequentially in the projection system. Is set according to at least one of the number of phases. For example, when three measurement projection apparatuses are used, the measurement light projection time is set to 1/3 of the normal calculation time and projection time. Further, the light emission amount of the measurement light is set to 3 times, for example. By dividing and shortening the measurement light projection time in this way, the position of the object can be measured in a short time, and multiple measurement projection devices are used while maintaining the frame rate of position measurement and video projection. Projection can be performed. In addition, the accuracy of position measurement can be improved by increasing the amount of measurement light emitted.
  • the measurement projection apparatus 100 adjusts the driving power of the light source of the infrared light projection apparatus 102 according to the set time for projecting the set invisible measurement light. For example, the peak power at the time of light emission of the infrared LED light source is changed according to the light emission time of the invisible measurement light such as the number of phases of the measurement projection apparatus in the projection system. Thereby, the maximum power can be increased and the maximum light emission amount can be increased in the state where the average power of the unit time at the time of emission of the measurement light is the same, so that the accuracy of position measurement can be improved.
  • the projection system includes a timing control unit 150 that controls the projection timing, and the measurement and projection apparatus 100 receives a timing signal from the timing control unit 150 and projects measurement light at a predetermined timing according to the timing signal.
  • a timing control unit 150 for example, a timing generator 151 provided outside the apparatus, an external synchronization interface 152 provided inside the apparatus, an optical sensor 153 that detects invisible light, and the like are used. Thereby, the projection timing of measurement light can be appropriately controlled and synchronized in the plurality of measurement projection apparatuses 100.
  • the first measurement projection apparatus and the second measurement projection apparatus function as slaves, for example, receive timing signals from the timing control unit 150 that controls projection timing, and perform predetermined timings according to the timing signals.
  • the measurement light is projected with.
  • the projection timing of measurement light can be appropriately controlled and synchronized in the plurality of measurement projection apparatuses 100.
  • the second measurement projection device functions as a slave, for example, receives a timing signal from the first measurement projection device functioning as a master, for example, and projects measurement light at a predetermined timing according to the timing signal. To do. Thereby, the projection timing of measurement light can be appropriately controlled and synchronized in the plurality of measurement projection apparatuses 100.
  • the second measurement projection apparatus includes an optical sensor 153 that detects invisible light, and the measurement light of the invisible light projected by the first measurement projection apparatus by the optical sensor 153 is used as a timing signal. Receive. In this way, it is possible to appropriately control and synchronize the projection timing of the measurement light by using the measurement light projected by another measurement projection device as the timing signal.
  • the third measurement projection apparatus having the same measurement light projection range as that of the first measurement projection apparatus and the second measurement projection apparatus includes the first measurement projection apparatus and the second measurement projection apparatus.
  • the measurement light is projected at different projection timings. Thereby, interference of measurement light in a plurality of measurement projection apparatuses can be prevented, and measurement of an object and projection of an image can be appropriately executed in a projection system using the plurality of projection apparatuses.
  • the third measurement projection apparatus overlaps the first measurement projection apparatus with the measurement light projection range, and the second measurement projection apparatus does not overlap with the measurement light projection range.
  • the measurement light is projected at the same projection timing as the apparatus. Therefore, it is possible to efficiently perform measurement of an object in a short time while preventing interference of measurement light in a plurality of measurement projection apparatuses.
  • the projection apparatus is a measurement projection apparatus 100 in a projection system including a plurality of projection apparatuses that perform position measurement and projection on the objects 105 and 106.
  • the measurement projection apparatus 100 includes an infrared light projection apparatus 102 that projects infrared measurement light, which is invisible light, onto an object, and an imaging apparatus 101 that receives and captures the reflected light of measurement light reflected from the object. And a calculation device 103 that calculates position information of the object based on the reflected light of the measurement light, and a visible light projection device 104 that projects video content of visible light based on the position information of the object.
  • the measurement projection apparatus 100 projects measurement light at a projection timing different from that of other measurement projection apparatuses. Thereby, it is possible to appropriately execute measurement of an object and projection of an image in a projection system using a plurality of projection apparatuses.
  • the projection device receives a timing signal from another first measurement projection device and projects measurement light at a predetermined timing according to the timing signal.
  • the measurement light projection timing can be appropriately controlled in the plurality of measurement projection apparatuses 100, and the interference of the measurement light can be prevented in synchronization with other measurement projection apparatuses.
  • a timing signal is transmitted to another second measurement projection apparatus, and measurement light is projected at a predetermined timing according to the timing signal.
  • the measurement light projection timing can be appropriately controlled in the plurality of measurement projection apparatuses 100, and the measurement light interference can be prevented in synchronization with the other measurement projection apparatuses.
  • the projection method according to the present embodiment is a projection method in a projection system including a plurality of measurement projection apparatuses 100 as projection apparatuses that perform position measurement and projection on the objects 105 and 106.
  • the measurement projection apparatus 100 infrared measurement light that is invisible light is projected onto the object by the infrared light projection apparatus 102, and the reflected light of the measurement light reflected from the object is received by the imaging apparatus 101 and imaged. Then, the position information of the object is calculated by the calculation device 103 based on the reflected light of the measurement light, and the visible light video content is projected by the visible light projection device 104 based on the position information of the object.
  • the first measurement projection apparatus and the second measurement projection apparatus project measurement light at different projection timings. Thereby, it is possible to appropriately execute measurement of an object and projection of an image in a projection system using a plurality of projection apparatuses.
  • FIG. 16 is a diagram showing a fourth example of the configuration of the projection system according to the present embodiment.
  • the projection adjustment apparatus 200 configured by a personal computer (PC) or the like is used to adjust the projection operation of the plurality of measurement projection apparatuses 100 or the projection by the user.
  • PC personal computer
  • An example in which operation adjustment work is supported will be described.
  • a plurality of measurement projection apparatuses 100 perform projection so that a part of the projection range of each measurement projection apparatus 100 overlaps so as to cover a large area by performing multi-surface projection on the objects 105 and 106. Assume that a range is set.
  • the projection adjustment apparatus 200 is connected to a monitor 250 having a display for information display, and displays a display screen including various projection information for adjusting the projection operation on the monitor 250.
  • the projection adjustment apparatus 200 is configured by an information processing apparatus such as a PC having a processor and a memory, and realizes functions such as display of projection information and automatic adjustment of projection operations by executing a predetermined computer program.
  • FIG. 17 is a block diagram showing a functional configuration of the projection adjustment apparatus according to the present embodiment.
  • the projection adjustment apparatus 200 includes a processing unit 210, a storage unit 220, and a communication interface (I / F) 230.
  • the projection adjustment apparatus 200 is connected to the measurement projection apparatus 100 via the communication interface 230, and transmits and receives various types of information such as setting information regarding the measurement operation, projection range information, and position measurement information of the object.
  • the projection adjustment apparatus 200 is connected to the display unit 240 and the input unit 260 and displays a display screen on the display unit 240 and inputs an operation instruction from the input unit 260.
  • the storage unit 220 includes a storage device including at least one of a semiconductor memory such as a flash memory, a storage device such as an SSD (Solid State Drive), an HDD (Hard Disk Drive), and the like.
  • the storage unit 220 stores a projection adjustment program 221 that executes a function related to adjustment of projection operations.
  • the processing unit 210 includes a processor such as a CPU (Central Processing Unit) and a DSP (Digital Signal Processor).
  • the processing unit 210 executes processing according to the projection adjustment program 221 to realize functions such as a positional relationship display 211 and a projection time setting 212.
  • the communication interface 230 is an interface that transmits and receives information to and from an external device such as the measurement projection device 100 by wired communication or wireless communication.
  • an external device such as the measurement projection device 100 by wired communication or wireless communication.
  • USB Universal Serial Bus
  • Ethernet registered trademark
  • wireless communication interface for example, Bluetooth (registered trademark), a wireless LAN, or the like may be used.
  • the projection adjustment device 200 displays projection position information such as the arrangement of projection ranges, overlapping states of projection ranges, connection relationships of projection ranges, and the like as graphic display and text display. It is displayed by various display modes such as icon display and graph display.
  • the projection adjustment apparatus 200 sets the projection timing of a plurality of measurement projection apparatuses, the projection order such as the order or phase of projection, the arrangement of projection ranges of each measurement projection apparatus, the connection relationship, and the like. This is performed based on the projection position information.
  • FIG. 18A is a diagram showing a fourth example of the configuration of the projection system according to the present embodiment.
  • the projection system of the fourth example includes a plurality of (four in the illustrated example) measurement projection apparatuses 100A and 100B, and performs position measurement and video projection with respect to the objects 105 and 106 by these measurement projection apparatuses 100A and 100B. Is.
  • one measurement projection apparatus (P2) 100A functions as a master, and the other measurement projection apparatuses (P1, P3, P4) 100B function as slaves.
  • FIG. 18A shows that the timing measurement unit is provided inside the master measurement projection apparatus 100A, the timing measurement unit may be provided outside.
  • the measurement projection device P2 projects measurement light from the own device as a master in the first projection period, or receives a timing instruction as a slave and projects measurement light in the first projection period.
  • the plurality of measurement projection apparatuses is not limited to a configuration that connects with a wired communication interface and synchronizes the projection timing of measurement light, but may have a configuration that connects with a wireless communication interface.
  • the measurement projection devices P1 and P3 on both sides project the measurement pattern in the next projection period. This prevents interference of measurement light in a plurality of adjacent measurement projection devices.
  • FIG. 18B is a time chart showing an example of the projection time of the measurement pattern in the fourth example of the projection system according to the present embodiment.
  • the measurement projection device P2 projects the measurement pattern at the first phase T1, which is the first projection period.
  • the adjacent measurement projection devices P1 and P3 project the measurement pattern in the second phase T2 which is the next projection period.
  • the measurement projection device P2 projects the measurement pattern again as the first phase T1.
  • the measurement projection device P4 adjacent to the measurement projection device P3 projects the measurement pattern at the first phase T1 simultaneously with the measurement projection device P2.
  • the measurement projection device P2 projects the measurement light at a projection timing (first phase T1) different from that of the measurement projection devices P1 and P3 because the projection ranges overlap with the measurement projection devices P1 and P3.
  • the measurement projection apparatus P1 has the same projection range as the measurement projection apparatus P2
  • the measurement projection apparatuses P1 and P3 have the same projection timing (second) because the projection range does not overlap with the measurement projection apparatus P3.
  • the measurement light is projected at the phase T2).
  • the projection adjustment apparatus 200 determines the projection operation order, phase, projection timing, etc. of each measurement projection apparatus with respect to the projection times of the plurality of measurement projection apparatuses P1 to P4 as described above based on the arrangement of the projection range, etc. It can be set for each measurement projection apparatus. A specific example of the process of the projection adjustment program in the projection adjustment apparatus 200 will be described later.
  • FIG. 19A is a diagram illustrating an example of a projection range in the fourth example of the projection system according to the present embodiment.
  • the projection adjustment apparatus 200 acquires the projection range by using the position measurement information of the projection coordinates by the position measurement of each of the measurement projection apparatuses P1 to P4.
  • the projection adjustment apparatus 200 includes a projection range PE1 of the measurement projection apparatus P1, a projection range PE2 of the measurement projection apparatus P2, a projection range PE3 of the measurement projection apparatus P3, and a projection range PE4 of the measurement projection apparatus P4.
  • the image is displayed on the display unit 240 by graphic display. The user can recognize the projection ranges of the plurality of measurement projection apparatuses P1 to P4 by displaying such projection position information.
  • FIG. 19B is a time chart showing an example of the measurement pattern projection operation in the fourth example of the projection system according to the present embodiment.
  • the measurement projection devices P1 to P4 can emit a measurement pattern including an ID code indicating a device ID unique to each device.
  • the measurement projection device P1 is set to ID1
  • the measurement projection device P2 is set to ID2
  • the measurement projection device P3 is set to ID3
  • the measurement projection device P4 is set to ID4.
  • a measurement pattern including the ID code is projected.
  • the measurement projection devices P1 and P3 having overlapping projection ranges can detect the projection of the measurement light by the measurement projection device P2.
  • the measurement projection apparatuses P1 and P3 can recognize that the own apparatus can project the measurement light when the measurement projection of the measurement projection apparatus P2 is completed. Therefore, even when the projection ranges of a plurality of measurement projection apparatuses overlap in a complicated manner, the measurement light projections from the measurement projection apparatuses can be recognized, and the timing at which the apparatus should project the measurement light is appropriately determined. Is possible.
  • FIG. 20 is a flowchart showing the procedure of the projection adjustment method by the projection adjustment apparatus according to the present embodiment.
  • the processing related to the positional relationship display 211 and the projection time setting 212 by the projection adjustment program 221 a processing procedure for displaying the connection relationship of a plurality of projection ranges and setting the projection timing of each measurement projection device is shown.
  • Projection adjustment apparatus 200 performs processing according to projection adjustment program 221 in processing unit 210.
  • the projection adjustment apparatus 200 performs GUI operation display on the display unit 240 as a user interface, and displays an operation screen for user operation (S11). Then, according to the user operation, the projection adjustment apparatus 200 executes the subsequent processing.
  • the projection of the projector is executed (S13).
  • the measurement light projection described above is executed.
  • the projection adjustment apparatus 200 causes the measurement light projection by the i-th measurement projection apparatus to be captured by the camera of the imaging apparatus in all measurement projection apparatuses (S14).
  • the projection adjustment apparatus 200 determines the connection relationship between the projection ranges, such as whether or not there is an overlap and which measurement projection apparatus overlaps, with respect to the projection range of the i-th measurement projection apparatus, from the imaging results of all the measurement projection apparatuses. (S15). When there is an overlap in the projection range, the measurement light is imaged by another measurement projection device.
  • the connection relationship of the projection ranges in the plurality of measurement projection apparatuses can be determined based on the position of the measurement projection apparatus from which the measurement light is imaged.
  • the measurement process for projecting measurement light with each measurement projection apparatus and imaging with all measurement projection apparatuses may be executed only when the user gives an operation instruction to perform measurement, or automatically every predetermined time. It may be executed.
  • the projection adjustment apparatus 200 When the counter value i is equal to the number of measurement projection apparatuses (S17: No), the projection adjustment apparatus 200 generates projection position information indicating the connection relationship of the projection ranges of the measurement projection apparatuses.
  • a display screen of a graph display showing the connection relationship of the projection range is created (S18). Then, the projection adjustment apparatus 200 draws a graph on the operation screen of the display unit 240, and displays a graph indicating the connection relationship of the projection ranges of each measurement projection apparatus (S19).
  • the projection adjustment apparatus 200 calculates the distance between the projection ranges of each measurement projection apparatus based on the projection position information such as the created graph and becomes a starting point.
  • a measurement projection apparatus is set (S21).
  • the measurement and projection apparatus that is the starting point may be set as a master measurement and projection apparatus.
  • the projection adjustment apparatus 200 traces the connected measurement projection apparatuses in order from the measurement projection apparatus as the starting point, and recursively assigns the slot numbers indicating the order of projection timing in a state where there is no overlap in the projection range. Assign (S22).
  • the slot number corresponds to the phase of the projection period described above.
  • the projection timing assignment process of each measurement projection apparatus is performed after the measurement process is executed and the projection is performed after the measurement process in steps S13 to S17 is not completed when the user gives an operation instruction for automatic assignment. Timing assignment processing may be executed.
  • connection relationship between the projection ranges of the measurement projection device by determining the connection relationship between the projection ranges of the measurement projection device and generating and displaying the projection position information indicating the connection relationship, the user can easily grasp the positional relationship between the projection ranges of the plurality of measurement projection devices. It becomes. Visibility that allows the user to recognize the positional relationship of multiple projection ranges at a glance by displaying images showing each projection range with graphics, etc., and displaying graphs showing connection relationships such as overlapping of each projection range with nodes and connection lines, etc. Can provide a display of good projection position information. Accordingly, it is possible to effectively support the adjustment operation of the projection operation when the user adjusts the projection range and / or the projection timing of the measurement projection apparatus.
  • the measurement projection device that is the starting point by determining the measurement projection device that is the starting point and assigning projection timings in order from the measurement projection device that is the starting point, it prevents interference of measurement light in a plurality of measurement projection devices and responds to the arrangement of each projection range.
  • a projection timing such as an appropriate projection order and phase can be set. Further, it is possible to set an optimum measurement projection apparatus with high efficiency as a measurement projection apparatus that is a starting point of measurement light projection.
  • FIG. 21A is a diagram illustrating a first example of image display of the projection range of a plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • FIG. 21B is a diagram showing a first example of a graph display of the projection range of a plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • the first example of the display of the projection position information shows an example of the display of the projection position information by the projection adjustment apparatus 200.
  • the projection adjustment apparatus 200 displays, as projection position information displayed on the operation screen of the display unit 240, an image display of a projection range of a plurality of measurement projection apparatuses as shown in FIG. 21A or a plurality of measurement projection apparatuses as shown in FIG. 21B. A graph display of the projection range is performed.
  • the projection ranges PE1 to PE9 of the measurement projection apparatuses P1 to P9 are schematically shown by rectangular graphic display. It represents. By this image display, the user can easily visually recognize the arrangement and connection relationship of the projection ranges PE1 to PE9.
  • the double projection range 352 where the projection range overlaps twice, the triple projection range 353 where the projection range overlaps three times, the projection A quadruple projection range 354 or the like whose range is quadruplicate may be highlighted and distinguished by color or pattern.
  • the user can easily grasp the overlapping area of the projection range and the overlapping state by image display.
  • the position of the projection range of each of the measurement projection devices P1 to P9 is displayed as a node (node) 361 such as a circle mark, and the projection ranges overlap each other and the nodes 361 having a connection relationship are connected.
  • a node node
  • This graph display allows the user to confirm at a glance the connection relationship of the projection ranges of the respective measurement projection apparatuses.
  • phases T1 to T4 indicating the projection timing of the measurement light may be displayed.
  • the master measurement and projection apparatus may be identified and displayed by color, pattern, mark, or the like. In FIG.
  • the graph is displayed as an undirected graph that does not have the direction of the connection line 362.
  • the directed graph indicating the interference direction such as an arrow in the connection line 362. May be displayed.
  • a directed graph may be displayed.
  • the projection adjustment apparatus 200 generates the graph display of FIG. 21B from the image display of FIG. 21A.
  • the nodes 361 are connected by a connection line 362 where the projection ranges overlap with the adjacent measurement projection apparatuses.
  • the projection adjustment apparatus 200 calculates the distance between the nodes of each measurement projection apparatus and the other nodes, and the node having the smallest distance of the farthest node, that is, the minimum number of steps to reach all other nodes.
  • the shortest path can be calculated by, for example, the Dijkstra method.
  • the starting measurement projection apparatus may be set as the master measurement projection apparatus.
  • this measurement projection device P5 since the measurement projection device P5 located at the center can reach the nodes of all other measurement projection devices in one step, this measurement projection device P5 is set as the measurement projection device of the starting point.
  • the projection adjustment apparatus 200 recursively assigns a slot number indicating the order of projection timing in order from the node of the starting measurement projection apparatus P5 so that there is no overlap in adjacent nodes.
  • the measurement projection device P5 is the first phase T1
  • the measurement projection devices P4 and P6 are the second phase T2
  • the measurement projection devices P2 and P8 are the third phase T3
  • the measurement projection devices P1, P3, P7, P9 is set to the fourth phase T4.
  • the projection adjustment apparatus 200 executes the above-described measurement processing of the projection ranges of the plurality of measurement projection apparatuses in real time, and updates the image display or graph display of the projection position information according to the current arrangement of the measurement projection apparatuses.
  • the user performs support for the adjustment operation of the projection operation when the user manually adjusts the projection range and / or the projection timing of the measurement projection apparatus.
  • FIG. 22A is a diagram showing a second example of image display of the projection range of a plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • FIG. 22B is a diagram showing a second example of the graph display of the projection range of the plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • the second example of the display of the projection position information exemplifies a case where the projection ranges of some measurement projection apparatuses are displaced from the state of the first example shown in FIGS. 21A and 21B.
  • the projection range PE9 of the measurement projection device P9 located at the lower right in the figure is displaced downward and the overlap with the projection range PE6 of the measurement projection device P6 is eliminated.
  • the connection line between the node of the measurement projection device P9 and the node of the measurement projection device P6 is not displayed, and the user is connected without interference between the measurement projection devices P6 and P9. Recognize that the relationship has been lost.
  • the user can confirm the arrangement of the projection range of each measurement projection apparatus while watching the display of the projection position information by the projection adjustment apparatus 200, and can adjust the projection range so as to obtain an appropriate arrangement.
  • the user can set and adjust the order, phase, projection timing, and the like of the projection operations of the plurality of measurement projection apparatuses based on the display of the projection position information.
  • FIG. 23A is a diagram showing a third example of image display of the projection range of a plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • FIG. 23B is a diagram illustrating a third example of the graph display of the projection range of the plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • the third example of the display of the projection position information shows another example of the display of the projection position information by the projection adjustment apparatus 200.
  • the projection adjustment apparatus 200 displays an image of the projection range of a plurality of measurement projection apparatuses as shown in FIG. 23A or a plurality of measurement projection apparatuses as shown in FIG. 23B.
  • a graph display of the projection range is performed.
  • the projection ranges PE1 to PE4 of the measurement projection apparatuses P1 to P4 are schematically represented by rectangular graphic display. It represents.
  • the position of the projection range of each of the measurement projection devices P1 to P4 is displayed by a node (node) 361 such as a circle mark, etc., and the nodes 361 having a connection relationship are overlapped with each other.
  • the overlapping portions are highlighted by a plurality of types of nodes, so that the overlapping state of the projection ranges can be visually recognized more easily.
  • the A area is indicated by a double overlapping node 381
  • the B area is indicated by a triple overlapping node 382.
  • Overlapping nodes 381 and 382 indicating overlapping portions are displayed by distinguishing the overlapping number, the size of the overlapping region, and the like according to color, pattern, shape, and the like.
  • the user can project the projection range such as the position where the projection ranges of multiple measurement projection devices overlap, the number of overlapping projection ranges, the positional relationship between the overlapping measurement projection devices, etc.
  • the various states of can be easily visually confirmed.
  • the user can grasp at a glance the overlapping number of the projection range, the overlapping relationship, and the like by indicating the overlapping portion by the node of the graph display.
  • FIG. 24 is a diagram illustrating a fourth example of the image display of the projection range of the plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • FIG. 25 is a diagram illustrating a fifth example of image display of the projection range of the plurality of measurement projection apparatuses in the projection adjustment apparatus according to the present embodiment.
  • the fourth and fifth examples of the display of the projection position information show examples of the display of the projection position information for assisting the user in adjusting the projection operation.
  • the projection adjustment apparatus 200 displays an image of the projection ranges of a plurality of measurement projection apparatuses as shown in FIG. 24 as projection position information displayed on the operation screen of the display unit 240.
  • the projection ranges of a plurality of measurement projection apparatuses are schematically represented by rectangular graphic displays, and the projection timing phases T1 to T4 of each measurement projection apparatus are shown.
  • the maximum overlap number is 4 in the projection range having a quadrangle and an outer periphery of four sides, and the projection timing is set to four phases T1 to T4. Projection becomes possible.
  • the quadruple projection range 391 may be displayed by being distinguished by color, pattern, or the like, and the user may be able to visually recognize the overlap region and the overlap number of the projection range.
  • the user adjusts and shifts the projection range of some measurement projection apparatuses from the state of the fourth example shown in FIG. 24, resulting in the fifth example shown in FIG.
  • the maximum overlapping number of the projection ranges is 3 Can be.
  • the projection of all measurement projection apparatuses can be performed by setting three phases T1 to T3 as the projection timing.
  • the triple projection range 392 may be displayed by being distinguished by color or pattern, etc., so that the user can visually recognize the overlap region and the overlap number of the projection range.
  • the projection ranges of the plurality of measurement projection apparatuses so as to cover all the areas with three phases, it is possible to perform efficient position measurement and video projection.
  • the image display as described above can support the adjustment operation of the projection operation so that the user can set an appropriate projection range and projection timing.
  • the user can perform a three-phase projection operation by displaying a warning with a prominent color or mark. It is also possible to assist so that the arrangement of the projection range can be easily set. It is also possible to calculate and assist the movement direction, movement amount, etc. when adjusting the position of the projection range.
  • the projection adjustment program uses a computer to measure and project the projection apparatus 100 in a projection system including a plurality of measurement projection apparatuses 100 as projection apparatuses that perform position measurement and projection on the objects 105 and 106. It is a projection adjustment program which performs the process regarding adjustment of projection operation
  • This projection adjustment program is executed by, for example, the projection adjustment apparatus 200 connected to the measurement projection apparatus 100 of the projection system.
  • the projection adjustment program projects measurement light of invisible light onto an object in the first measurement projection apparatus of the projection system, and receives reflected light of measurement light reflected from the object in the second measurement projection apparatus of the projection system. Then, the connection relation of the projection range of the first measurement projection device is determined based on the reflected light of the received measurement light. Further, the projection adjustment program executes connection relation determination processing for all the projection apparatuses to be processed, generates projection position information indicating the connection relation of the projection ranges of the measurement projection apparatuses in the projection system, and displays the projection position information on the display unit. .
  • the user can easily grasp the positional relationship of a plurality of projection ranges such as the presence / absence of overlapping projection ranges, the overlapping relationship, and the overlapping number.
  • an image display indicating the projection range of the measurement projection apparatus is generated as the display of the projection position information. Accordingly, for example, by image display such as graphic display of the projection range, the user can easily grasp the positional relationship of the plurality of projection ranges such as the arrangement of the projection ranges and the overlapping relationship of the projection ranges in the plurality of measurement projection apparatuses. .
  • a graph display including a node indicating the position of the projection range of the measurement projection apparatus and a connection line indicating a connection relationship between the nodes due to the overlap of the projection range is generated as the display of the projection position information.
  • the overlapping portion is highlighted.
  • the overlapping part of a projection range can be recognized easily at a glance, and the connection relation of each projection range can be easily grasped.
  • an overlapping node indicating the overlapping state of the projection range is displayed at the overlapping portion. This makes it possible to easily recognize at a glance the overlapping state of the projection range and the overlapping state such as the overlapping number, and easily understand the connection relationship of each projection range.
  • the projection adjustment program based on the projection position information indicating the connection relationship of the projection ranges, the distance between the projection ranges of the respective measurement projection devices is calculated, and the measurement projection device that minimizes the distance to other measurement projection devices Is set as the measurement projection device of the starting point.
  • a measurement projection apparatus that is the starting point of measurement light projection such as a master measurement projection apparatus, can be set to an optimum measurement projection apparatus that is efficient based on the arrangement of the projection ranges of the measurement projection apparatuses.
  • projection timings are recursively assigned in order from the measurement projection device at the starting point, with no overlapping projection ranges. Thereby, it is possible to set projection timing such as an appropriate projection order and phase according to the arrangement of each projection range while preventing interference of measurement light in a plurality of measurement projection apparatuses.
  • the projection adjustment method of the present embodiment is a process related to adjustment of the projection operation of the measurement projection apparatus 100 in a projection system including a plurality of measurement projection apparatuses 100 as projection apparatuses that perform position measurement and projection on the objects 105 and 106.
  • This is a projection adjustment method by the projection adjustment apparatus 200 that executes the above.
  • invisible measurement light is projected onto an object in the first measurement projection apparatus of the projection system, and reflected light of the measurement light reflected from the object is reflected in the second measurement projection apparatus of the projection system. Based on the reflected light of the received measurement light, the connection relation of the projection range of the first measurement projection device is determined.
  • the connection relationship determination process is executed for all the projection devices to be processed, and projection position information indicating the connection relationship of the projection ranges of the measurement projection devices in the projection system is generated and displayed on the display unit. .
  • the present disclosure is useful as a projection adjustment program and a projection adjustment method that can easily grasp the positional relationship between a plurality of projection ranges when a plurality of projection apparatuses are arranged.
  • Imaging apparatus 102
  • Infrared light projection apparatus 103
  • Arithmetic apparatus 104 Visible light projection apparatus 105
  • First object 106
  • Second object 111
  • Lens optical system 112
  • Infrared LED light source 113 display device 131 setting input unit 142
  • projection device 150
  • timing control unit 151
  • external synchronization interface I / F
  • Optical sensor 200
  • Projection adjustment device 210
  • Processing unit 220 Storage unit 221
  • Projection adjustment program 230
  • Communication interface (I / F) 240 display unit 250 monitor 260 input unit 401 image input unit 402 pattern decoding unit 405 coordinate conversion unit 407 coordinate interpolation unit 408 content generation unit 410 image output unit 411 pattern generation unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

対象物に対して位置計測及び投影を行う複数の投影装置を含む投影システムにおいて、コンピュータにより投影装置の投影動作の調整に関する処理を実行する投影調整プログラムであって、投影システムの第1の投影装置において対象物に非可視光の計測光を投影し、投影システムの第2の投影装置において対象物から反射した計測光の反射光を受光し、受光した計測光の反射光に基づいて第1の投影装置の投影範囲の接続関係を判定し、接続関係の判定処理を全処理対象の投影装置について実行し、投影システムにおける各投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する。

Description

投影調整プログラム及び投影調整方法
 本開示は、映像を対象物に投影する投影システムにおいて用いる投影調整プログラム及び投影調整方法に関する。
 スクリーン又は構造物などの対象物に映像を投影する技術、いわゆるプロジェクションマッピングと呼ばれる技術が知られている。プロジェクションマッピングのシステムの中には、撮像機能を備えているシステムがある。例えば、特許文献1には、被写体の3D形状を取得すること、及び被写体を可視光で撮像することを同時に行うことができるシステムが開示されている。
 また、大画面表示などの用途のために、複数の投影装置を用いた投影システムが種々提案されている。この種の投影システムとしては、投影装置を水平及び垂直方向に複数配置し、各投影装置の投射画面を並べて表示することにより大画面表示を行うマルチプロジェクションシステム、或いは、各投影装置の投射画面を重ねて表示することにより投射画面の明るさの向上を行うスタックプロジェクションシステムがある。例えば、特許文献2には、複数のプロジェクタ装置間で赤外線通信を行うことにより、個々のプロジェクタ装置の操作、或いは全てのプロジェクタ装置の一括操作を簡易に行うことができるシステムが開示されている。
日本国特開2005-258622号公報 国際公開第2011/001507号
 本開示は、投影装置を複数配置する場合に複数の投影範囲の位置関係を容易に把握できる投影調整プログラム及び投影調整方法を提供することを目的とする。
 本開示は、対象物に対して位置計測及び投影を行う複数の投影装置を含む投影システムにおいて、コンピュータにより前記投影装置の投影動作の調整に関する処理を実行する投影調整プログラムであって、前記投影システムの第1の投影装置において前記対象物に非可視光の計測光を投影し、前記投影システムの第2の投影装置において前記対象物から反射した計測光の反射光を受光し、前記受光した計測光の反射光に基づいて前記第1の投影装置の投影範囲の接続関係を判定し、前記接続関係の判定処理を全処理対象の投影装置について実行し、前記投影システムにおける各投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する、投影調整プログラムを提供する。
 また、本開示は、対象物に対して位置計測及び投影を行う複数の投影装置を含む投影システムにおいて、前記投影装置の投影動作の調整に関する処理を実行する投影調整装置による投影調整方法であって、前記投影システムの第1の投影装置において前記対象物に非可視光の計測光を投影し、前記投影システムの第2の投影装置において前記対象物から反射した計測光の反射光を受光し、前記受光した計測光の反射光に基づいて前記第1の投影装置の投影範囲の接続関係を判定し、前記接続関係の判定処理を全処理対象の投影装置について実行し、前記投影システムにおける各投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する、投影調整方法を提供する。
 本開示によれば、投影装置を複数配置する場合に複数の投影範囲の位置関係を容易に把握できる。
本実施の形態に係る計測投影装置の構成及び機能の概要を説明する図 本実施の形態に係る投影システムの第1使用例を示す図 本実施の形態に係る投影システムの第2使用例を示す図 本実施の形態に係る投影システムの第3使用例を示す図 本実施の形態に係る投影システムの構成の第1例を示す図 本実施の形態に係る投影システムの構成の第2例を示す図 本実施の形態に係る計測投影装置の概略構成を示す図 本実施の形態に係る不可視光の計測パターンの一例を示す図 本実施の形態に係る計測投影装置の変形例の構成を示す図 本実施の形態に係る計測投影装置の機能構成の第1例を示すブロック図 本実施の形態に係る投影システムの動作の第1例を示すタイムチャート 本実施の形態に係る計測投影装置の機能構成の第2例を示すブロック図 本実施の形態に係る投影システムの動作の第2例を示すタイムチャート 本実施の形態に係る投影システムの構成の第3例を示す図 本実施の形態に係る投影システムの動作の第3例を示すタイムチャート 本実施の形態に係る投影システムの構成の第4例を示す図 本実施の形態に係る投影調整装置の機能構成を示すブロック図 本実施の形態に係る投影システムの構成の第4例を示す図 本実施の形態に係る投影システムの第4例における計測パターンの投影時間の一例を示すタイムチャート 本実施の形態に係る投影システムの第4例における投影範囲の一例を示す図 本実施の形態に係る投影システムの第4例における計測パターンの投影動作の一例を示すタイムチャート 本実施の形態に係る投影調整装置による投影調整方法の手順を示すフローチャート 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第1例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のグラフ表示の第1例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第2例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のグラフ表示の第2例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第3例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のグラフ表示の第3例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第4例を示す図 本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第5例を示す図
[実施の形態の内容に至る経緯]
 プロジェクションマッピングなどの、投影対象である対象物に映像コンテンツを投影することを考えた場合、映像コンテンツを対象物に意図通り位置合わせをして投影することが求められる。最終的には、投影装置の座標系から見た対象物の幾何学的な位置情報を得ることが必要となる。
 また、静的な対象物に投影するときは、投影とは別に事前計測を1度だけ行えばよい。その場合、投影と計測との干渉を無視できる。一方、動的に移動し、及び/又は変形する対象物に対して、それを3D計測しながらその結果に基づいてリアルタイムに誤差のない投影を行うことを考える。その場合、投影中の映像コンテンツに影響を与えないように計測を行うことが求められる。
 しかしながら、上記の特許文献1は、3D計測用のパターン画像を非可視光により投影することによって、別の場所に設置された可視光光源からの可視光の影響を受けない計測が可能になることを開示しているに過ぎない。特許文献1の技術によれば、撮像装置の座標系に準ずる計測結果しか得られない。
 計測の分野において、上記の特許文献1以外に、例えば参考非特許文献1及び参考特許文献3に開示されたシステムが知られている。
 [参考特許文献3]日本国特開2013-192189号公報
 [参考非特許文献1]“高速プロジェクタを用いた3000フレーム毎秒の三次元画像計測システムの開発”,ロボティクス・メカトロニクス講演会講演概要集 2007,”1P1-M02(1)”-”1P1-M02(4)”,2007-05-11
 参考非特許文献1は、光パターン投影を用いて高速に3D形状を計測する手法を開示している。参考非特許文献1の計測システムは、撮像装置と、光源、レンズ及びミラー素子又は液晶素子を有する投影装置とを備えている。撮像装置は高速度撮影を行う機能を有している。例えば、撮像装置は、6000fpsで高速撮影ができる。投影装置は、1024×768の画素を有するバイナリパターンを6000fps以上で投影できる。
 また、参考特許文献3は、撮像データに基づいて映像コンテンツを調整する計測システムを開示している。参考特許文献3の計測システムは、撮像装置、投影装置、及び計算装置を備えている。計算装置は、撮像装置により取得された撮像結果から投影対象の画像認識を行う。計算装置は、投影対象を認識した領域に映像コンテンツを投射するようにその映像を生成する。投影装置は、映像コンテンツを投影対象に投影する。
 上記の参考非特許文献1は、高速に3D計測を行う技術水準を開示しているに過ぎない。投影装置の座標情報を送出するには数十フレーム分の画像が必要になるので、従来、移動物体の3D計測を高速に行うことは困難であった。参考非特許文献1の技術は、高速に計測を行える可能性を示唆した点では有意義であると考えられる。
 しかしながら、参考非特許文献1は3D計測単体の技術を開示しているだけであり、投影装置の座標系について何ら言及していない。また、参考非特許文献1は、高速撮像後のオフライン処理、すなわち非リアルタイムでの処理について言及している。そもそも、60Hzなどで画像処理を行うことを前提としたパーソナルコンピュータのような計算機アーキテクチャ装置においては、数十ミリ秒以上の遅延が入出力で発生する。その結果、移動物体に映像を投影しながらそれを撮像し、その結果をリアルタイムで投影にフィードバックさせることは困難である。
 上記の参考特許文献3の技術によれば、撮像装置と投影装置との位置が互いに異なることによって視差が発生する。しかしながら、参考特許文献3は、その視差の解決について何ら言及していないし、システムの高速化についても言及していない。
 このような状況を鑑み、本願発明者は、赤外光等の不可視光の高速投影が可能な不可視光投影装置と、可視光の高速投影が可能な可視光投影装置と、高速撮影が可能な撮像装置とを有し、高速に不可視光のパターン光による計測光の投影及び撮影を行って対象物の位置を高精度に計測し、対象物に可視光の映像コンテンツを意図通りに位置合わせをして投影を行うことができる投影システムを想到した。
 ここで、計測光を高速投影して対象物の位置計測を行う投影装置を複数配置した投影システムを想定する。このような投影システムでは、複数の投影装置による投影時間及び投影範囲を調整し、対象物の位置計測及び映像投影を高精度に実行可能にすることが求められる。上記の特許文献2は、複数の投影装置間で赤外線通信を行うことにより、他の投影装置の存在の検出、複数の投影装置の操作を可能とすることについて開示しているに過ぎない。
 上記のような複数の投影装置を用いて対象物の位置計測及び映像投影を行う投影システムでは、複数の投影装置の投影範囲に重なりが生じる場合、重複領域において計測光に干渉が発生し、的確な位置計測ができないという課題がある。
 また、高精度の位置計測が可能な投影装置を複数配置する場合、それぞれの投影装置の投影範囲の配置、投影範囲の重なりなど、複数の投影範囲の位置関係を容易に把握できないという課題がある。
 以下、適宜図面を参照しながら、本開示に係る構成を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
[本実施の形態]
 まず、本実施の形態の一例として、複数の投影装置における位置計測用の不可視光の投影時間のタイミングを制御し、計測光の干渉を防止して的確な位置計測を可能とする投影システム、投影装置及び投影方法を例示する。
 (計測投影装置及び投影システムの概要)
 図1は、本実施の形態に係る計測投影装置の構成及び機能の概要を説明する図である。本実施の形態では、対象物に対して映像投影を行う投影装置として、図1に示すような計測投影装置100を用いて、対象物の位置を計測し、対象物の位置情報に応じて映像を投影する例を示す。ここでは、映像を投影する対象物として、平面又は曲面のスクリーン又は壁面等による第1の対象物105と、この第1の対象物105の前に位置する人物等による第2の対象物106とを想定する。以下、単に対象物105、106と称することもある。人物等の第2の対象物106は、スクリーン等の第1の対象物105の前でダンスなどを行って身体の各部を動かし、移動するものとする。つまり、対象物106は、自身の動きに伴って各部の形状及び位置が変化する状態となっている。このため、対象物105、106に所定の映像コンテンツを投影するために、第1の対象物105に対する第2の対象物106の位置を計測し、対象物106の正確な位置情報を取得する必要がある。
 計測投影装置100は、受光部の一例としての撮像装置101と、不可視光の計測光の一例としての赤外光を投影する非可視光投影部の一例としての赤外光投影装置102と、可視光を投影する可視光投影部の一例としての可視光投影装置104とを有する。計測投影装置100は、赤外光投影装置102によって投影座標をコード化した赤外光のパターン光を高速投影し、撮像装置101によって対象物105、106を高速撮像することにより、対象物105、106の位置を高速に計測する。対象物の位置計測の詳細については後述する。そして、計測投影装置100は、対象物105、106の位置情報に基づき、特に動いている対象物106の位置に対して常に位置合わせを行った状態で、可視光投影装置104によって所定の映像を投影する。本実施の形態では、後述するように複数の計測投影装置100を適宜配置して投影システムを構成する場合を想定する。
 ここで、複数の計測投影装置100を用いた投影システムの使用例をいくつか示す。図2は、本実施の形態に係る投影システムの第1使用例を示す図である。第1使用例は、複数(図示例では3つ)の計測投影装置100を並べて配置し、対象物105、106に対して多面投影を行って広い面積の領域をカバーするように、各計測投影装置100の投影範囲の一部が重なるように投影範囲を設定し、位置計測及び映像投影を行う例である。この場合、投影範囲が重複する領域において、計測光に干渉が発生し、対象物106の位置計測を正確に行えない課題が生じ得る。
 図3は、本実施の形態に係る投影システムの第2使用例を示す図である。第2使用例は、複数(図示例では3つ)の計測投影装置100を並べて配置し、屋外等において対象物105、106に対して重ね打ち投影によって高輝度の投影を行うように、各計測投影装置100の投影範囲の全部又は大部分が重なるように投影範囲を設定し、位置計測及び映像投影を行う例である。この場合、計測投影装置100毎に対象物105、106に対する投影角度が異なり、投影範囲が重複する計測光の大部分の領域で干渉が発生し、対象物106の位置計測を正確に行えない課題が生じ得る。
 図4は、本実施の形態に係る投影システムの第3使用例を示す図である。第3使用例は、複数(図示例では3つ)の計測投影装置100を対象物106の周囲を囲むように周状に配置し、ラッピング投影による360度映像の投影を行って立体物を多くの角度から見られるように、対象物106に向かって複数の計測投影装置100から位置計測及び映像投影を行う例である。この場合、各計測投影装置100の投影範囲の多くが重なるため、計測光に干渉が発生し、対象物106の位置計測を正確に行えない課題が生じ得る。
 本実施の形態では、タイミング制御部によって複数の計測投影装置100における計測光の照射タイミングを制御することにより、計測光の干渉を防止し、上記の課題を解決する。
 図5は、本実施の形態に係る投影システムの構成の第1例を示す図である。第1例の投影システムは、複数の計測投影装置100A、100Bを有し、これらの計測投影装置100A、100Bによって対象物105、106に対する位置計測と映像投影とを行うものである。第1例では、複数の計測投影装置100A、100Bが互いに接続され、第1の計測投影装置100Aがマスター(master)として機能し、他の第2の計測投影装置100Bがスレーブ(slave)として機能する。マスターの計測投影装置100Aは、装置内部にタイミング制御部を有し、スレーブの計測投影装置100Bの動作タイミングを指示して同期をとり、投影システムの各計測投影装置による位置計測及び映像投影のタイミングを制御する。図示例では、3つの計測投影装置を有する構成を示しており、中央の装置をマスターの計測投影装置P1、左側の装置をスレーブの計測投影装置P2、右側の装置をスレーブの計測投影装置P3としている。
 図6は、本実施の形態に係る投影システムの構成の第2例を示す図である。第2例の投影システムは、複数の計測投影装置としてスレーブの計測投影装置100Bを有し、これらの計測投影装置100Bによって対象物105、106に対する位置計測と映像投影とを行うものである。第2例では、外部にタイミング制御部の一例としてのタイミングジェネレータ151を有し、複数のスレーブの計測投影装置100Bがタイミングジェネレータ151に接続される構成となっている。タイミングジェネレータ151は、外部に設けたコンピュータなどによって構成され、複数のスレーブの計測投影装置100Bの動作タイミングを指示して同期をとり、投影システムの各計測投影装置による位置計測及び映像投影のタイミングを制御する。図示例では、3つの計測投影装置を有する構成を示しており、中央の計測投影装置P1、左側の計測投影装置P2、右側の計測投影装置P3が共にスレーブとして機能する。
 (計測投影装置の構成)
 次に、計測投影装置の構成及び動作の一例をより詳しく説明する。
 図7は、本実施の形態に係る計測投影装置の概略構成を示す図である。計測投影装置100は、撮像装置101、赤外光投影装置102、可視光投影装置104、及び演算装置103を備える。
 本実施の形態では、撮像装置101は参考非特許文献1と同様に毎秒6000フレームの撮影を行うことができる。また、撮像装置101は、内部にバッファリングすることなく大規模な転送帯域を有し、演算装置103に撮像データを出力できる。さらに、撮像装置101は、赤外光領域に感度を有している。以下、これらを前提とし、各装置の機能及び動作の一例を説明する。
 非可視光投影部の一例としての赤外光投影装置102は、計測光の一例として、投影座標系で規定される投影座標をコード化したパターン画像を示すパターン光を投影する。本願明細書では、投影座標系は、可視光投影装置104より投影する投影画像である映像コンテンツの画像の各画素の座標を特定する座標系を意味する。映像コンテンツの画像の各画素を特定する座標を投影座標系の「投影座標」と称する。投影座標は、赤外光投影装置102より投影するパターン画像の各画素の座標とも対応する。
 赤外光投影装置102は、レンズ光学系111と、赤外LED光源112と、表示デバイス113とを有する。レンズ光学系111は、一枚のレンズで構成されていてもよいし、複数枚のレンズ(レンズ群)で構成されていてもよい。複数のレンズは、例えばズームレンズ及びフォーカスレンズなどを含み得る。
 赤外LED光源112は、非可視光の一例としての赤外光をパターン光として出射する。非可視光は、例えば、赤外光帯域(概ね700nmから1000nm)の波長を有している。なお、本実施の形態では、非可視光の光源として、赤外LED光源を用いているが、紫外線を出射する光源を利用することもできる。
 表示デバイス113は、例えば1024×768の升目上にマイクロミラーが配列されたデバイスであり、投影座標をコード化したパターン画像を生成する。表示デバイス113は、バイナリパターンで毎秒30000フレームの映像を出力できる。なお、表示デバイス113は、反射型の光学素子の代わりに、透過型の光学素子により構成するものであってもよいし、液晶デバイスで代替することも可能である。
 受光部の一例としての撮像装置101は、パターン光を撮像し、パターン光の撮像画像を生成する。撮像装置101は、イメージセンサ、レンズ光学系などを含んでいる。例えば、表示デバイス113と対応させて、1024×768の画素数を有するイメージセンサを用いることができる。その場合、1画素を8bitの分解能とすると、転送帯域は38Gbps程である。ここで、演算装置103は、例えば、FPGA(Field Programmable Gate Array)で実現するものと仮定する。現在の半導体技術水準を考慮すると、38Gbps程の転送帯域は十分に実現できる範囲である。
 撮像装置101は、撮像座標系を有している。本願明細書では、撮像座標系は、撮像装置101により取得される撮像画像の各画素の座標を特定する座標系を意味する。「投影座標」と区別して、撮像画像の各画素の座標を撮像座標系の「撮像座標」と称する。
 可視光投影部の一例としての可視光投影装置104は、映像コンテンツを表す映像光を投影する。可視光投影装置104は、レンズ光学系、可視光光源、及び赤外光投影装置102と同様の表示デバイスを有する。可視光投影装置104は、可視光帯域(概ね380nmから780nm)の光を映像光として出射する。簡易化の観点から、可視光光源を単色の可視光LED光源とすることができる。ただし、赤青緑の三色用に3つの光源をそれぞれ設けることにより、フルカラーの映像を投影しても当然構わない。又は、十分高速に回転可能なカラーホイールがあれば、可視光LED光源の代わりに高圧水銀灯などの白色光源を備え、出力にそれを取り付けることにより、フルカラーの映像を投影することができる。また、可視光光源として、高圧水銀灯からダイクロイックプリズムなどで波長別に光を取り出せる光源を利用することができる。このように本開示にはあらゆる光源を利用することができる。
 演算部の一例としての演算装置103は、撮像画像を、撮像座標系で規定される撮像座標に対応する投影座標を示す投影座標情報に復号し、投影座標系を基準として投影座標情報を対象物までの距離情報に変換し、距離情報に応じて、映像コンテンツの内容を選択的に決定する。
 図8は、本実施の形態に係る不可視光の計測パターンの一例を示す図である。図8では、パターン光に対応した、コード化されたパターン画像(座標パターン)の一部を例示している。図8に示されるパターン画像は、1024×768のマイクロミラーを有する表示デバイス113の各ミラーのX座標及びY座標をグレイコード化した後に、各bitを白黒の2値画像として表すことにより得られる。
 赤外光投影装置102は、例えば1024×768画素のパターン画像に基づいてパターン光を対象物107(対象物105、106に相当)に投影することができる。画素のX座標及びY座標ともに512より大きく1024以下である。その場合、X座標を表すbit0からbit9までの10ビットがグレイコード化される。X座標と同様に、Y座標を表すbit0からbit9までの10ビットがグレイコード化される。このように、各座標にそれぞれ10ビット、合計20ビットを割り当てることにより、座標情報をコード化できる。以下、40フレームの画像データを利用して、その20ビットの情報の符号化を行う例を説明する。
 図8の(X9a)はX座標をグレイコード化した後のbit9に対応したパターン画像を示している。また、本実施の形態では、マンチェスタ符号化により投影座標を符号化するので、bit9をビット反転させた反転パターン画像も用いられる。図8の(X9b)は、(X9a)の画像パターンを反転させた反転パターン画像を示している。同様に、図8の(X8a)はX座標をグレイコード化した後のbit8に対応したパターン画像を示し、(X8b)は(X8a)の画像パターンを反転させた反転パターン画像を示している。図8の(X7a)はX座標をグレイコード化した後のbit7に対応したパターン画像を示し、(X7b)は(X7a)の画像パターンを反転させた反転パターン画像を示している。
 図8の(Y9a)はY座標をグレイコード化した後のbit9に対応したパターン画像を示している。図8の(Y9b)は、(Y9a)の画像パターンを反転させた反転パターン画像を示している。同様に、図8の(Y8a)はY座標をグレイコード化した後のbit8に対応したパターン画像を示し、(Y8b)は(Y8a)の画像パターンを反転させた反転パターン画像を示している。図8の(Y7a)はY座標をグレイコード化した後のbit7に対応したパターン画像を示し、(Y7b)は(Y7a)の画像パターンを反転させた反転パターン画像を示している。
 図示されていないが、計測可能な解像度まで、例えばX座標及びY座標のbit6から0にもそれぞれ対応したパターン画像及び反転パターン画像が存在する。赤外光投影装置102は、これらパターンを含めた40パターンを対象物107に順次投影する。撮像装置101は、投影されたパターン画像を順次撮像する。
 図9は、本実施の形態に係る計測投影装置の変形例の構成を示す図である。変形例の計測投影装置140は、図1及び図7に示した計測投影装置100の投影装置を一体に構成した例であり、赤外光投影装置及び可視光投影装置を含む投影装置142を有している。このような一体型の投影装置142を備える計測投影装置140を用いてもよい。
 (計測投影装置の機能構成)
 図10は、本実施の形態に係る計測投影装置の機能構成の第1例を示すブロック図である。演算装置103は、計測投影装置100の全体を制御する機能を有している。演算装置103は、例えばコンピュータ、プロセッサに代表される演算装置、又は半導体集積回路によって実現され得る。半導体集積回路とは、例えばASIC(Application Specific Integrated Circuit)及びFPGAなどである。演算装置103は、メモリに、各構成要素の機能を発揮するコンピュータプログラムを実装したものを用い、半導体集積回路内のプロセッサが逐次コンピュータプログラムを実行することにより、各構成要素の機能を実現してもよい。
 演算装置103は、画像入力部401、パターン復号部402、フレームメモリ部403、コード復号用メモリ部404、座標変換部405、座標変換用メモリ部406、座標補間部407、コンテンツ生成部408、コンテンツメモリ部409、画像出力部410、及びパターン生成部411を有している。演算装置103内の各メモリ部は、例えばRAMなどによって構成され得る。
 また、演算装置103は、タイミング制御部の一例としての外部同期インタフェース(I/F)152を有している。複数の計測投影装置100を計測投影装置の内部のタイミング制御部によって制御する場合は、マスターの計測投影装置の外部同期インタフェース152がタイミング制御部として機能し、他のスレーブの計測投影装置の外部同期インタフェース152に対してタイミング信号を伝送する。計測投影装置の外部のタイミング制御部によって制御する場合は、外部に設けたタイミングジェネレータ151がタイミング制御部として機能し、複数のスレーブの計測投影装置の外部同期インタフェース152に対してタイミング信号を伝送する。
 外部同期インタフェース152は、タイミングジェネレータ151又は他の計測投影装置の外部同期インタフェース152と接続する場合、例えば有線にて接続される通信インタフェースであってもよいし、無線にて接続される通信インタフェースであってもよい。有線の通信インタフェースとしては、例えばUSB(Universal Serial Bus)、イーサネット(登録商標)などを用いてよい。無線の通信インタフェースとしては、例えばBluetooth(登録商標)、無線LANなどを用いてよい。なお、外部同期インタフェース152を赤外光等の光源及び光センサによって構成し、光のオンオフ又は光通信によって計測投影装置間の動作タイミングを制御してもよい。
 (投影システムの動作)
 図11は、本実施の形態に係る投影システムの動作の第1例を示すタイムチャートである。本実施の形態では、例えば1ミリ秒などの所定の単位時間を基準にして、この単位時間ごとに、赤外光投影装置102による赤外光の計測パターン投影、撮像装置101によるカメラ露光、読み出し&演算、可視光投影装置104による映像投影を実行する場合を想定する。ここでの「読み出し&演算」とは、撮像装置101が撮像された画像を読み出し、演算装置103へ転送する処理(以下、読み出し転送処理又は演算装置103への転送処理)と演算装置103が転送された撮像画像から位置計測情報の演算処理を意味する。なお、演算装置103による位置計測情報の演算処理は、撮像装置101による読み出し転送処理と同時並行的に実施されてもよいし、撮像装置101による読み出し転送処理(演算装置103への転送処理)の一部又は全てが完了後に実施されてもよい。本実施の形態のように上記2つの処理を同時並行的に実施する場合、位置計測情報の演算は、FPGAなどを用いて専用の演算装置を構成することで、読み出し期間にオーバーラップして実施することが可能である。また、本実施の形態と異なり、撮像画像の読み出し転送に要する時間と位置情報計測に要する時間とは同じでなくてもよい。なお、上述した読み出し転送及び位置計測情報の演算に関しては図11以降で説明する動作例についても同様である。
 パターン生成部411は、計測パターン投影の期間において、赤外光投影装置102の赤外LED光源112を点灯させる。パターン生成部411は、上述した方法によりパターン投影用のパターン画像を生成する。パターン生成部411は、赤外光投影装置102の表示デバイス113において計測用のパターン投影を行うように、画像出力部410にパターン画像を示す画像データを出力する。画像出力部410は、パターン生成部411からの画像データと赤外LED光源112の点灯情報とを、赤外光投影装置102及び画像入力部401に出力する。パターン画像を示す計測光のパターン光は不可視光として投影されるので、撮像装置101により撮像されて計測されるが、人間の視覚には影響を及ぼさない。
 パターン生成部411は、1つのパターンを1/6000秒で出力することができる。パターン生成部411は、計測パターン投影の期間において、X座標及びY座標のそれぞれの10bitの座標画像とその反転画像との合計40フレームを出力する。一方、撮像装置101は、表示デバイス113のフレームを出力するレートと同期して40フレームで撮像を行う。
 画像出力部410は、パターン生成部411の画像データの出力タイミングと同期して赤外光投影装置102にパターン画像を出力する。赤外光投影装置102は、パターン画像を対象物に投影する。また、画像入力部401は、画像出力部410のパターン画像の出力タイミングと同期して撮像装置101の露光を制御する。これにより、撮像装置101は、カメラ露光の期間において40フレームのパターン画像の撮像を行う。
 画像入力部401は、読み出し及び演算の期間において、撮像装置101により撮像されたパターン画像の撮像画像(撮像データ)を受信する。画像入力部401は、受信した撮像データをパターン復号部402に送信する。画像入力部401は、画像出力部410と同期しながら受信した撮像データに対応するパターンを判定する。
 パターン復号部402は、読み出し及び演算の期間において、撮像装置101からのパターン画像を示す撮像画像を、撮像座標系で規定される撮像座標に対応する投影座標を示す投影座標情報に復号する。以下、パターン復号部402の機能をより詳細に説明する。
 パターン復号部402は、画像入力部401から受信した撮像データがX座標及びY座標の非ビット反転画像であれば、その撮像データをフレームメモリ部403に書き込む。パターン復号部402は、その画像データがX座標及びY座標のビット反転画像であれば、先にフレームメモリ部403に記録された非ビット反転画像を読み出しながら、両者の差分をとる。このように非ビット反転画像とビット反転画像の差分を取ることにより、投影対象の色又は環境光に依存することなく、投影光の「0」と「1」とを判別することができる。上記差分が所定の値以下の領域を、投影光が投影されていない領域として判定し、その領域を計測対象領域から除外することができる。
 コード復号用メモリ部404には、撮像装置101の画素毎に書き込み領域が設けられている。パターン復号部402は、非ビット反転画像とビット反転画像の差分をとった後、グレイコード化された座標データの各ビット値を、その書き込み領域にビット単位で書き込む。この座標データの書き込み操作が撮像装置101の露光時間の間に40フレーム分実行される。これにより、撮像装置101の各画素に対応する、赤外光投影装置102のX座標及びY座標が存在するか否かを示す情報と、存在する場合のX座標及びY座標のそれぞれを示す10bitの値とが、コード復号用メモリ部404に書き込まれる。パターン復号部402は最終的に、コード復号用メモリ部404に記録されたグレイコードの座標データをバイナリに再変換して座標変換部405に出力する。
 これまでの処理により、撮像装置101のある画素位置に撮像された投影光が、赤外光投影装置102のどの画素から投影されたのかを知ることができる。つまり、赤外光投影装置102の投影座標、すなわち可視光投影装置104の投影座標系で規定される投影座標と、撮像装置101の撮像座標系で規定される撮像座標との対応関係を知ることができる。したがって、撮像装置101と赤外光投影装置102との互いの位置関係が既知であれば、撮像画素毎に対象物までの距離を三角法により得ることができる。しかしながら、得られる情報は、撮像装置101の撮像画素に対応した距離情報である。そのため、本実施の形態では、撮像装置101の撮像画素に対応した撮像座標の距離情報を赤外光投影装置102の画素座標に対応した距離情報、すなわち可視光投影装置104の投影座標の距離情報に変換する。
 座標変換部405は、パターン復号部402から受信したデータを、可視光投影装置104の投影座標に対応したアドレスで特定される座標変換用メモリ部406の領域に書き込む。その後、座標変換部405は、座標変換用メモリ部406から、距離情報を可視光投影装置104のX座標及びY座標の順番で読み出すことにより、可視光投影装置104の投影座標に対応した距離情報を生成する。
 その際、対応点が存在しない投影画素が発生し得る。具体的には、対象物に投影されたパターン画像のうち、ある複数の画素に対応したそれぞれの光が、撮像装置101の1つの撮像画素によって撮像され得る。その場合、グレイコードの特性上、対応点が存在しない投影画素は隣接する2つの投影画素のどちらかの画素座標に丸め込まれるので、片側の投影画素は対応先のない状態となる。
 座標補間部407は、座標変換部405から、可視光投影装置104の投影座標に対応した距離情報を受信する。座標補間部407は、距離情報の存在しない投影座標に対して距離情報を補間する。これは、補間することが可能な距離情報を有する投影座標が一定数その周辺に存在する箇所に限り、周辺座標の距離情報から線形補間等の補間法を用いて行なわれる。座標補間部407は、投影座標に基づく距離情報をコンテンツ生成部408に出力する。上記のように、パターン画像の撮像画像の読み出しと対象物までの距離情報を含む位置情報の演算とを実行することにより、リアルタイムで高速な位置計測動作が可能になる。
 コンテンツ生成部408は、映像投影の期間において、投影用の映像コンテンツを生成する。コンテンツ生成部408は、コンテンツメモリ部409に予め記録されていた映像コンテンツを、座標補間部407から受信した距離情報に基づいて加工し、加工した映像コンテンツを画像出力部410に出力する。以下、加工された映像コンテンツを、予め記録された加工前の映像コンテンツと区別して、「加工後の映像コンテンツ」と称する場合がある。
 コンテンツ生成部408は、座標ずれの無い、対象物までの距離に正確に対応した映像コンテンツを生成する。また、コンテンツ生成部408は、映像コンテンツの内容を距離情報に応じて選択的に決定することができる。例えば一定の距離にある物体だけを切り出して検知し、可視光投影用の映像コンテンツを正確に描画するなどの処理が可能となる。コンテンツ生成部408は、投影用の加工後の映像コンテンツを画像出力部410に出力する。
 画像出力部410は、映像投影の期間において生成された可視光投影用の映像コンテンツを、可視光投影装置104に出力する。可視光投影装置104は、可視光光源を点灯し、映像コンテンツに対応した映像光を投影する。可視光投影装置104の表示デバイスは、毎秒30000のバイナリフレームを出力することができる。そのため、例えば8.5ミリ秒の間に255フレームを用いて256階調の画像を投影することが可能となる。この投影は可視光光源によってなされるので、人間に視認される。このように、位置計測と投影とを連続的に行うことが可能である。
 本実施の形態の計測投影装置100では、映像投影と位置計測とを同じ計測投影装置によって行うことにより、投影と計測とのずれの発生を原理的に抑制でき、かつ、可視光の映像に干渉しない幾何学計測の重畳を実現できる。また、演算装置103が撮像装置101により撮像されたパターン画像をデコードできれば、相対的な位置計測には耐えることができる。そのため、設置の精度が十分に確保されなくても、実用に耐え得る。その点において、設置の簡易性を確保できる。また、経年劣化による設置関係の誤差拡大に対して高いロバスト性を得ることができる。
 ここで、本実施の形態の投影システムにおける複数の計測投影装置の動作について、図11を用いて説明する。本実施の形態では、マスターの計測投影装置の外部同期インタフェース152又は外部のタイミングジェネレータ151等によるタイミング制御部150によって、タイミング信号を生成して出力し、複数の計測投影装置100の動作タイミングを制御する。計測投影装置の外部同期インタフェース152は、タイミング信号を受信して画像出力部410に入力し、タイミング信号に従って画像出力部410のパターン画像の出力と画像入力部401の撮像画像の入力とを制御する。これにより、複数の計測投影装置間の同期をとる。
 図11では、3個の計測投影装置P1、P2、P3によって時分割で交代に位置計測を行う場合の動作例を示している。なお、ここでの動作例における位相数は計測投影装置の個数と同様に3である。複数の計測投影装置P1、P2、P3は、タイミング制御部150より出力される所定の単位時間毎のタイミング信号に従って、それぞれ順次交代で赤外光の計測パターン投影及びカメラ露光を行う。計測投影装置P1の計測パターン投影及びカメラ露光が終了すると、次に計測投影装置P2の計測パターン投影及びカメラ露光が行われ、続いて計測投影装置P3の計測パターン投影及びカメラ露光が行われる。図11におけるタイミング信号の間隔を示す単位時間は、例えば1ミリ秒とする。したがって、1秒間に1000回(1000fps)の計測パターン投影及びカメラ露光を、複数の計測投影装置において順次実行可能となっている。
 計測投影装置P1、P2、P3は、時分割で交代に計測パターン投影及びカメラ露光を行った後、それぞれ次の単位時間のタイミングで、パターン画像の撮像画像の読み出しと対象物までの距離情報を含む位置情報の演算とを実行する。そして、計測投影装置P1、P2、P3は、それぞれ次の単位時間のタイミングで、計測した対象物の位置情報に応じた映像コンテンツを作成し、映像を投影する。図11において、動作タイミングを示す各ブロックの1、2、3はフレーム番号の一例を示しており、図示例では3単位時間(3ミリ秒)ごとに1フレームずつ映像投影が行われる。なお、複数の計測投影装置P1、P2、P3の間で映像投影するフレームのタイミングがずれているが、1ミリ秒単位の短い時間であるため、人間の視覚には影響を及ぼさない。
 このとき、計測投影装置P1、P2、P3は、それぞれ他の計測投影装置と異なる投影タイミングで計測光の投影を行う。計測投影装置P1は、計測投影装置P2、P3と投影範囲が重複しているため、計測投影装置P2、P3と異なる投影タイミングで計測光の投影を行う。なお、計測投影装置P2は、計測投影装置P1と投影範囲が重複しているが、計測投影装置P3とは投影範囲が重複していないので、計測投影装置P2、P3は同じ投影タイミングで計測光の投影を行ってもよい。また、計測投影装置P2は、計測投影装置P1において撮像画像の読み出し及び位置情報の演算を行う演算中のタイミングで、計測光の投影を行う。また、計測投影装置P2は、計測投影装置P1において計測光の投影中のタイミングで、撮像画像の読み出し及び位置情報の演算を行う。また、計測投影装置P1は、自装置にて映像コンテンツの投影中のタイミングで、計測光の投影を行う。
 このように、本実施の形態では、タイミング制御部によって複数の計測投影装置を制御し、各装置毎に交代で計測光の投影及び露光を行って対象物の位置計測を実行する。これにより、複数の計測投影装置間での計測光の干渉を防止できる。特に、隣り合った計測投影装置において同時に計測光が投影されることを無くし、投影範囲が重複する領域において計測光の干渉を防止できる。したがって、投影システムの各計測投影装置において適切な位置計測を実施することができる。例えば、複数の計測投影装置を用いてダンサーなどの動く対象物に対して位置計測及び映像投影を行う場合に、リアルタイムで正確に位置を計測しながら映像投影を繰り返し行うことが可能になる。また、スクリーンなどの固定された対象物と、ダンサーなどの動く対象物とがある場合に、複数の計測投影装置を用いる投影システムであっても、対象物の位置をリアルタイムで正確に計測し、それぞれの対象物の位置に合わせて個別に映像コンテンツを生成し、投影できる。
 図12は、本実施の形態に係る計測投影装置の機能構成の第2例を示すブロック図である。計測投影装置の機能構成の第2例は、前述した第1例の計測投影装置の構成を一部変更し、機能追加を行った構成例である。本実施の形態の演算装置123は、設定情報を入力する設定入力部131を有している。その他の構成及び機能は図10に示した第1例の演算装置103と同様であるので、ここでは第1例と異なる部分についてのみ説明する。
 設定入力部131は、順次動作する計測投影装置の位相数、或いは同時使用する計測投影装置の数などに応じて、計測光の発光時間の分割数及び計測光の発光光量を設定するための設定情報を入力する。設定情報は、外部に設けたコンピュータなどによる制御装置において生成し、計測投影装置の設定入力部131に伝送するような構成とすればよい。設定入力部131は、入力した設定情報を画像出力部410及び赤外光投影装置102に伝送し、計測光の発光時間及び計測光の発光光量を設定する。
 本実施の形態では、n個の計測投影装置によって交代で位置計測を行う場合、計測パターン投影及びカメラ露光を行う期間を単位時間の1/nに分割する。また、計測パターン投影の期間を1/nにするのに伴い、不可視光の計測光の発光光量を増加させる。例えば、赤外LED光源の発光時の駆動電流をn倍に増加する。このとき、赤外LED光源の発光時のピーク電力を発光時間に応じて変化させればよい。このため、赤外LED光源の駆動電流に限らず、駆動電圧、PWM比率など、種々の方法で駆動電力を制御可能である。そして、分割した計測パターン投影及びカメラ露光の時間と、増加した駆動電流とを含む設定情報を、設定入力部131から画像出力部410及び赤外光投影装置102、並びに画像出力部410を介して画像入力部401に伝送する。
 なお、計測投影装置が計測パターン投影、カメラ露光、撮像画像の読み出し転送、位置情報計測の演算、映像投影という一連の処理を高速に行う場合、撮像画像の読み出し転送の処理が律速(すなわち、ボトルネック)となる可能性が高い。このため、計測投影装置は、この一連の処理を高速に実施するために、読み出し転送時間を基準(単位時間)として各処理時間を可変とするように構成される方が好ましい。例えば、計測パターン投影(及びカメラ露光)の期間を読み出し転送時間(単位時間)の1/nにしてもよい。また、ここでの単位時間は、撮像装置及び/又は演算装置の最大限の動作は実施されたときの読み出し転送の処理に要する時間に相当することが好ましい。また、このように単位時間が撮像装置及び/又は演算装置の性能に基づく場合、単位時間は事前に計測投影装置内部のメモリに格納されていてもよいし、計測投影装置外部から所望のネットワークを介して伝送されてきてもよいし、計測投影装置で実際にテストして計測してもよい。
 図13は、本実施の形態に係る投影システムの動作の第2例を示すタイムチャートである。図13では、3個の計測投影装置P1、P2、P3によって時分割で交代に位置計測を行う場合の動作例を示している。この場合、計測パターン投影及びカメラ露光を行う期間を通常の単位時間の1/3(例えば1/3ミリ秒)に短く設定し、赤外LED光源の駆動電流(駆動電力)を3倍に増加する。これにより、赤外LED光源は例えば2~3倍程度の発光光量となる。LED光源などでは、単位時間当たりの平均電流によって駆動電流の定格が決まっているため、発光時間を分割して間欠点灯させる場合は、単位時間の平均電流を同じにして最大電流を大きくできる。すなわち、消費電力を変えずに最大発光量を増加できる。なお、ここでの動作例における位相数は計測投影装置の個数と同様に3である。
 複数の計測投影装置P1、P2、P3は、タイミング制御部150より出力されるタイミング信号に従って、所定の単位時間の1/3の期間でそれぞれ順次交代で赤外光の計測パターン投影及びカメラ露光を行う。図示例では、計測投影装置P1→P2→P3の順番で1つの単位時間で計測パターン投影及びカメラ露光が交互に行われる。そして、計測投影装置P1、P2、P3は、それぞれの計測パターン投影及びカメラ露光が終了した時点で、パターン画像の撮像画像の読み出し及び対象物の位置情報の演算を1つの単位時間で行い、その後、対象物の位置情報に応じた映像コンテンツの作成及び映像投影を1つの単位時間で行う。このとき、赤外光の計測パターン投影及びカメラ露光を行う時間は、撮像画像の読み出し及び位置情報の演算を行う時間よりも短くなっている。
 本実施の形態では、計測パターン投影及びカメラ露光を行う期間を分割して短くすることによって、位置計測と映像投影のフレームレートを保持したまま、複数の計測投影装置を用いた投影を行うことが可能となる。また、計測光の発光光量を増加することによって、位置計測の精度を向上できる。
 図14は、本実施の形態に係る投影システムの構成の第3例を示す図である。投影システムの構成の第3例は、計測投影装置のタイミング制御部の構成を変更した構成例である。本実施の形態の投影システムは、複数の計測投影装置として、マスターの計測投影装置160Aと、スレーブの計測投影装置160Bとを有する。スレーブの計測投影装置160Bは、不可視光の計測光を検出する光センサ153を備える。光センサ153は、計測投影装置の第1例の外部同期インタフェース152と同様に、タイミング制御部として機能するものである。その他の構成及び機能は前述した第1例及び第2例と同様であるので、ここでは異なる部分についてのみ説明する。
 図15は、本実施の形態に係る投影システムの動作の第3例を示すタイムチャートである。図15では、3個の計測投影装置P1、P2、P3によって時分割で交代に位置計測を行う場合の動作例を示している。ここでは、中央の計測投影装置P2がマスターとして機能し、左側の計測投影装置P1、右側の計測投影装置P3がスレーブとして機能する。なお、ここでの動作例における位相数は2であり、計測投影装置の個数よりも少ない。
 まず、マスターの計測投影装置P2が、計測パターン投影及びカメラ露光を行う。この際、隣り合う計測投影装置において投影範囲が重複しているため、スレーブの計測投影装置P1、P3において、光センサ153によって不可視光の計測光が受光され、マスターの計測光の投影が検出される。スレーブの計測投影装置P1、P3は、マスターの計測投影装置P2が投影した不可視光の計測光を光センサ153によりタイミング信号として受光する。
 マスターの計測投影装置P2による計測光の投影が終了すると、スレーブの計測投影装置P1、P3において、光センサ153によって計測光の発光停止を検知し、計測パターン投影開始のトリガとなるタイミング信号を画像出力部410に入力する。これにより、スレーブの計測投影装置P1、P3は、計測パターン投影及びカメラ露光を行う。なお、図示例では、図13に示した投影システムの動作の第2例と同様に、計測光の発光時間の分割及び計測光の発光光量の増加を行った場合を示している。スレーブの計測投影装置P1、P3において計測光の投影を行っている間、光センサ153によって自装置の計測光が検出されるが、例えば自装置の計測パターン投影時には光センサ153の出力をマスクするなどして、マスターの計測投影装置P2による計測光のみを検出すればよい。
 このとき、計測投影装置P2は、計測投影装置P1、P3と投影範囲が重複しているため、計測投影装置P1、P3と異なる投影タイミングで計測光の投影を行う。また、計測投影装置P1は、計測投影装置P2と投影範囲が重複しているが、計測投影装置P3とは投影範囲が重複していないので、計測投影装置P1、P3は同じ投影タイミングで計測光の投影を行う。これにより、位相数を計測投影装置の個数より少なくできる。すわなち、計測光の干渉を防止しつつさらに短い時間で効率良く対象物の計測を実行できる。
 そして、計測投影装置P1、P2、P3は、それぞれの計測パターン投影及びカメラ露光が終了した時点で、パターン画像の撮像画像の読み出し及び対象物の位置情報の演算を1つの単位時間で行い、その後、対象物の位置情報に応じた映像コンテンツの作成及び映像投影を1つの単位時間で行う。
 本実施の形態では、光センサによるタイミング制御部を備えることによって、外部同期インタフェースなどの通信部を設けることなく、複数の計測投影装置における計測光のタイミング制御を実施できる。
 以上のように、本実施の形態の投影システムは、対象物105、106に対して位置計測及び投影を行う投影装置として複数の計測投影装置100を含む投影システムである。計測投影装置100は、対象物に非可視光である赤外光の計測光を投影する赤外光投影装置102と、対象物から反射した計測光の反射光を受光して撮像する撮像装置101と、計測光の反射光に基づいて対象物の位置情報を算出する演算装置103と、対象物の位置情報に基づいて可視光の映像コンテンツを投影する可視光投影装置104と、を有する。複数の計測投影装置100において、第1の計測投影装置と、第2の計測投影装置とは、異なる投影タイミングで計測光を投影する。
 これにより、複数の投影装置における計測光の干渉を防止できる。例えば隣り合う投影装置の投影範囲が重複している場合であっても、計測光の投影タイミングを異なるタイミングに設定することで、計測光の干渉を防止でき、適切な位置計測が可能となる。したがって、複数の投影装置を用いた投影システムにおいて対象物の計測及び映像の投影を適切に実行できる。
 また、投影システムにおいて、第2の計測投影装置の赤外光投影装置102は、第1の計測投影装置の演算装置103が位置情報に関する演算中に計測光を投影する。これにより、計測光の干渉を防止しつつ短い時間で効率良く対象物の計測を実行できる。
 また、投影システムにおいて、第2の計測投影装置の演算装置103は、第1の計測投影装置の可視光投影装置104が映像コンテンツを投影中に位置情報に関する演算を行い、対象物の形状及び位置を算出する。これにより、計測光の干渉を防止しつつ短い時間で効率良く対象物の計測を実行できる。
 また、投影システムにおいて、第1の計測投影装置の赤外光投影装置102は、第1の計測投影装置の可視光投影装置104が映像コンテンツを投影中に計測光を投影する。これにより、計測光の干渉を防止しつつ短い時間で効率良く対象物の計測と映像の投影を実行できる。
 また、投影システムにおいて、第2の計測投影装置の赤外光投影装置102は、撮像装置101で受光した反射光に関する情報を演算装置103へ転送中に計測光を投影する。これにより、短い時間で効率良く対象物の計測を実行できる。
 また、投影システムにおいて、計測投影装置100は、赤外光投影装置102により非可視光の計測光を投影する時間は、撮像装置101で受光した反射光に関する情報を演算装置103へ転送する時間よりも短くなっている。例えば、反射光に関する情報を演算装置103へ転送する時間に対して、投影システムにおける複数の計測投影装置の装置数分の1などの短い時間で計測光を発光させる。これにより、短時間で対象物の位置計測が可能となり、短い時間で効率良く対象物の計測を実行できる。また、計測光の発光時間の短縮に伴って発光量を増加できるので、位置計測の精度向上に寄与できる。
 また、投影システムにおいて、計測投影装置100は、計測光を投影する時間を、投影システムにおける計測投影装置の数、投影システムにおいて同時使用する計測投影装置の数、投影システムにおいて順次動作する計測投影装置の位相数のうち、少なくとも一つに応じて設定される。例えば、3個の計測投影装置を使用する場合は、通常の演算時間及び投影時間に対して1/3の時間に計測光の投影時間を設定する。また、計測光の発光量は例えば3倍に設定する。このように計測光の投影時間を分割して短くすることによって、短時間で対象物の位置計測が可能となり、位置計測と映像投影のフレームレートを保持したまま、複数の計測投影装置を用いた投影を行うことが可能となる。また、計測光の発光光量を増加することによって、位置計測の精度を向上できる。
 また、投影システムにおいて、計測投影装置100は、設定された非可視光の計測光を投影する時間に応じて、赤外光投影装置102の光源の駆動電力を調整する。例えば、投影システムにおける計測投影装置の位相数など、非可視光の計測光の発光時間に応じて、赤外LED光源の発光時のピーク電力を変化させる。これにより、計測光の発光時の単位時間の平均電力を同じにした状態で最大電力を大きくでき、最大発光量を増加できるため、位置計測の精度を向上できる。
 また、投影システムにおいて、投影タイミングを制御するタイミング制御部150を有し、計測投影装置100は、タイミング制御部150からタイミング信号を受信し、タイミング信号に従った所定タイミングで計測光を投影する。タイミング制御部150として、例えば装置外部に設けたタイミングジェネレータ151、装置内部に設けた外部同期インタフェース152、不可視光を検知する光センサ153などを用いる。これにより、複数の計測投影装置100において適切に計測光の投影タイミングを制御し、同期させることができる。
 また、投影システムにおいて、第1の計測投影装置及び第2の計測投影装置は、例えばスレーブとして機能し、投影タイミングを制御するタイミング制御部150からタイミング信号を受信し、タイミング信号に従った所定タイミングで計測光を投影する。これにより、複数の計測投影装置100において適切に計測光の投影タイミングを制御し、同期させることができる。
 また、投影システムにおいて、第2の計測投影装置は、例えばスレーブとして機能し、例えばマスターとして機能する第1の計測投影装置からタイミング信号を受信し、タイミング信号に従った所定タイミングで計測光を投影する。これにより、複数の計測投影装置100において適切に計測光の投影タイミングを制御し、同期させることができる。
 また、投影システムにおいて、第2の計測投影装置は、非可視光を検知する光センサ153を有し、光センサ153によって第1の計測投影装置が投影した非可視光の計測光をタイミング信号として受信する。このように、他の計測投影装置が投影する計測光をタイミング信号として用いて、適切に計測光の投影タイミングを制御し、同期させることが可能となる。
 また、投影システムにおいて、第1の計測投影装置及び第2の計測投影装置と計測光の投影範囲が重複する第3の計測投影装置は、第1の計測投影装置及び第2の計測投影装置と異なる投影タイミングで計測光を投影する。これにより、複数の計測投影装置における計測光の干渉を防止でき、複数の投影装置を用いた投影システムにおいて対象物の計測及び映像の投影を適切に実行できる。
 また、投影システムにおいて、第1の計測投影装置と計測光の投影範囲が重複し、第2の計測投影装置と計測光の投影範囲が重複しない第3の計測投影装置は、第2の計測投影装置と同じ投影タイミングで計測光を投影する。これにより、複数の計測投影装置における計測光の干渉を防止しつつ、短い時間で効率良く対象物の計測を実行できる。
 本実施の形態の投影装置は、対象物105、106に対して位置計測及び投影を行う複数の投影装置を含む投影システムにおける計測投影装置100である。計測投影装置100は、対象物に非可視光である赤外光の計測光を投影する赤外光投影装置102と、対象物から反射した計測光の反射光を受光して撮像する撮像装置101と、計測光の反射光に基づいて対象物の位置情報を算出する演算装置103と、対象物の位置情報に基づいて可視光の映像コンテンツを投影する可視光投影装置104と、を有する。計測投影装置100は、他の計測投影装置とは異なる投影タイミングで計測光を投影する。これにより、複数の投影装置を用いた投影システムにおいて対象物の計測及び映像の投影を適切に実行できる。
 また、投影装置において、他の第1の計測投影装置からタイミング信号を受信し、タイミング信号に従った所定タイミングで計測光を投影する。これにより、複数の計測投影装置100において適切に計測光の投影タイミングを制御可能にし、他の計測投影装置と同期させて計測光の干渉を防止できる。
 また、投影装置において、他の第2の計測投影装置に対してタイミング信号を送信し、タイミング信号に従った所定タイミングで計測光を投影させる。これにより、複数の計測投影装置100において適切に計測光の投影タイミングを制御し、他の計測投影装置と同期させて計測光の干渉を防止できる。
 本実施の形態の投影方法は、対象物105、106に対して位置計測及び投影を行う投影装置として複数の計測投影装置100を含む投影システムにおける投影方法である。計測投影装置100において、対象物に非可視光である赤外光の計測光を赤外光投影装置102により投影し、対象物から反射した計測光の反射光を撮像装置101により受光して撮像し、計測光の反射光に基づいて対象物の位置情報を演算装置103により算出し、対象物の位置情報に基づいて可視光の映像コンテンツを可視光投影装置104により投影する。複数の計測投影装置100において、第1の計測投影装置と、第2の計測投影装置とは、異なる投影タイミングで計測光を投影する。これにより、複数の投影装置を用いた投影システムにおいて対象物の計測及び映像の投影を適切に実行できる。
 次に、本実施の形態の他の例として、複数の投影装置を有する投影システムにおいて、投影時間及び投影範囲等の投影動作の調整を行う際に、複数の投影範囲の位置関係を容易に把握可能とする投影調整プログラム、及び投影調整方法を例示する。
 (投影システム及び投影調整装置の構成)
 図16は、本実施の形態に係る投影システムの構成の第4例を示す図である。本実施の形態では、図16に示すような投影システムにおいて、パーソナルコンピュータ(PC)などによって構成される投影調整装置200を用いて、複数の計測投影装置100の投影動作の調整、或いはユーザによる投影動作の調整作業の支援を行う例を示す。ここでは、複数の計測投影装置100によって、対象物105、106に対して多面投影を行って広い面積の領域をカバーするように、各計測投影装置100の投影範囲の一部が重なるように投影範囲を設定する場合を想定する。
 投影調整装置200は、情報表示用のディスプレイを有するモニタ250が接続され、投影動作調整のための各種の投影情報を含む表示画面をモニタ250に表示する。投影調整装置200は、プロセッサ及びメモリを有するPCなどの情報処理装置によって構成され、所定のコンピュータプログラムを実行することにより、投影情報の表示、投影動作の自動調整などの機能を実現する。
 図17は、本実施の形態に係る投影調整装置の機能構成を示すブロック図である。投影調整装置200は、処理部210、記憶部220、通信インタフェース(I/F)230を有する。投影調整装置200は、通信インタフェース230を介して計測投影装置100と接続され、計測動作に関する設定情報、投影範囲情報、対象物の位置計測情報などの各種情報を送受信する。投影調整装置200は、表示部240及び入力部260と接続され、表示部240への表示画面の表示、入力部260からの操作指示の入力を行う。
 記憶部220は、フラッシュメモリ等による半導体メモリ、SSD(Solid State Drive)、HDD(Hard Disk Drive)等によるストレージデバイスなどの少なくともいずれか一つを含む記憶デバイスを有する。記憶部220は、投影動作の調整に関する機能を実行する投影調整プログラム221を記憶する。
 処理部210は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)等のプロセッサを有する。処理部210は、投影調整プログラム221に従って処理を実行し、位置関係表示211、投影時間設定212等の機能を実現する。
 通信インタフェース230は、有線通信又は無線通信により計測投影装置100等の外部装置との間で情報の送受信を行うインタフェースである。有線の通信インタフェースとしては、例えばUSB(Universal Serial Bus)、イーサネット(登録商標)などを用いてよい。無線の通信インタフェースとしては、例えばBluetooth(登録商標)、無線LANなどを用いてよい。
 投影調整装置200は、位置関係表示211の機能として、複数の計測投影装置の投影範囲の配置、投影範囲の重複状態、投影範囲の接続関係等の投影位置情報の表示を、図形表示、テキスト表示、アイコン表示、グラフ表示等の各種表示態様によって表示する。投影調整装置200は、投影時間設定212の機能として、複数の計測投影装置の投影タイミング、投影の順番又は位相などの投影時間に関する設定を、各計測投影装置の投影範囲の配置、接続関係等の投影位置情報に基づいて行う。
 (投影システムの動作)
 ここで、複数の計測投影装置を有する投影システムにおける投影時間の設定及び投影範囲の配置について一例を説明する。
 図18Aは、本実施の形態に係る投影システムの構成の第4例を示す図である。第4例の投影システムは、複数(図示例では4つ)の計測投影装置100A、100Bを有し、これらの計測投影装置100A、100Bによって対象物105、106に対する位置計測と映像投影とを行うものである。
 第4例では、一つの計測投影装置(P2)100Aがマスターとして機能し、他の計測投影装置(P1、P3、P4)100Bがスレーブとして機能する。図18Aではマスターの計測投影装置100Aの内部にタイミング制御部を有するように示しているが、外部にタイミング制御部を有していてもよい。この場合、計測投影装置P2は、マスターとして自装置から最初の投影期間にて計測光を投影するか、或いはスレーブとしてタイミング指示を受けて最初の投影期間にて計測光を投影する。なお、複数の計測投影装置は、有線の通信インタフェースで接続して計測光の投影タイミングを同期させる構成に限らず、無線の通信インタフェースで接続する構成であってもよい。また、図14の第3例の投影システムで示したような光センサを用いて計測光の投影タイミングを同期させる構成としてもよい。計測投影装置P2による計測パターン投影が終了すると、両隣にある計測投影装置P1、P3が次の投影期間にて計測パターンを投影する。これにより、隣り合う複数の計測投影装置における計測光の干渉を防止する。
 図18Bは、本実施の形態に係る投影システムの第4例における計測パターンの投影時間の一例を示すタイムチャートである。計測投影装置P2は、最初の投影期間である第1の位相T1にて計測パターンを投影する。計測投影装置P2による計測パターン投影が終了したタイミングで、両隣の計測投影装置P1、P3は、次の投影期間である第2の位相T2にて計測パターンを投影する。そして、計測投影装置P1、P3による計測パターン投影が終了したタイミングで、計測投影装置P2は再び第1の位相T1として計測パターンを投影する。このとき、計測投影装置P3の隣にある計測投影装置P4は、計測投影装置P2と同時に第1の位相T1にて計測パターンを投影する。
 このとき、計測投影装置P2は、計測投影装置P1、P3と投影範囲が重複しているため、計測投影装置P1、P3と異なる投影タイミング(第1の位相T1)で計測光の投影を行う。また、計測投影装置P1は、計測投影装置P2と投影範囲が重複しているが、計測投影装置P3とは投影範囲が重複していないので、計測投影装置P1、P3は同じ投影タイミング(第2の位相T2)で計測光の投影を行う。
 投影調整装置200は、上記のような複数の計測投影装置P1~P4の投影時間に関して、各計測投影装置の投影動作の順番、位相、投影タイミングなどを投影範囲の配置等に基づいて決定し、各計測投影装置に設定することが可能である。投影調整装置200における投影調整プログラムの処理の具体例については後述する。
 このように4つの計測投影装置において交代で計測光を投影することによって、隣り合う計測投影装置の投影範囲が重複していても、計測光の干渉を防止できる。また、投影範囲の重複が2重の場合に2つの位相によって交互に計測光の投影することによって、より短い時間で複数の計測投影装置の位置計測及び映像投影を実行できる。
 図19Aは、本実施の形態に係る投影システムの第4例における投影範囲の一例を示す図である。第4例の投影システムにおいて、各計測投影装置P1~P4の投影範囲は、例えば図19Aに示すような配置となるものと仮定する。この場合、投影調整装置200は、各計測投影装置P1~P4の位置計測による投影座標の位置計測情報を用いて、投影範囲を取得する。投影調整装置200は、計測投影装置P1の投影範囲PE1、計測投影装置P2の投影範囲PE2、計測投影装置P3の投影範囲PE3、計測投影装置P4の投影範囲PE4を、図示例のような四角形の図形表示によって表示部240に表示する。ユーザは、このような投影位置情報の表示によって、複数の計測投影装置P1~P4の投影範囲を認識できる。
 図19Bは、本実施の形態に係る投影システムの第4例における計測パターンの投影動作の一例を示すタイムチャートである。計測投影装置P1~P4は、計測パターンを投影する際に、それぞれの装置に固有の装置IDを示すIDコードを含む計測パターンを発光することも可能である。図示例では、計測投影装置P1はID1、計測投影装置P2はID2、計測投影装置P3はID3、計測投影装置P4はID4をそれぞれ設定しており、各計測投影装置は計測パターンの先頭に自装置のIDコードを含む計測パターンを投影する。計測投影装置P2が計測光を投影すると、投影範囲が重複している計測投影装置P1、P3は、計測投影装置P2による計測光の投影を検知できる。このため、計測投影装置P1、P3は、計測投影装置P2の計測光の投影が終了した時点で、自装置が計測光を投影可能であることを認識できる。したがって、複数の計測投影装置の投影範囲が複雑に重複している場合であっても、各計測投影装置による計測光の投影を認識でき、自装置が計測光を投影すべきタイミングを適切に判定可能である。
 (投影調整方法の一例)
 図20は、本実施の形態に係る投影調整装置による投影調整方法の手順を示すフローチャートである。ここでは、投影調整プログラム221による位置関係表示211及び投影時間設定212に関する処理の一例として、複数の投影範囲の接続関係の表示、及び各計測投影装置の投影タイミングの設定を行う処理手順を示す。
 投影調整装置200は、処理部210において投影調整プログラム221に従って処理を実行する。まず、投影調整装置200は、ユーザインタフェースとして、表示部240にGUI操作表示を行い、ユーザ操作用の操作画面を表示する(S11)。そして、ユーザ操作に従って投影調整装置200は以降の処理を実行する。ユーザにより計測実施の操作指示がなされると、投影調整装置200は、計測投影装置をカウントするカウンタ値をi=1として初期化し(S12)、続いてi番目(初期状態では1番目)の計測投影装置のプロジェクタ投影を実行させる(S13)。プロジェクタ投影として、上述した計測光の投影を実行させる。このとき、投影調整装置200は、i番目の計測投影装置による計測光の投影を、全ての計測投影装置において撮像装置のカメラで撮影させる(S14)。
 投影調整装置200は、全ての計測投影装置による撮影結果から、i番目の計測投影装置の投影範囲について、重複の有無、どの計測投影装置と重複しているかなど、投影範囲の接続関係を判定する(S15)。投影範囲の重複がある場合、他の計測投影装置によって計測光が撮像される。計測光が撮像された計測投影装置の位置によって、複数の計測投影装置における投影範囲の接続関係を判定可能である。
 次に、投影調整装置200は、計測投影装置のカウンタ値をi=i+1とし(S16)、カウンタ値iが計測投影装置の数より小さいかどうかを判定する(S17)。カウンタ値iが計測投影装置の数より小さい場合(S17:Yes)、すなわち投影範囲の接続関係の判定が未処理の計測投影装置がある場合は、上記と同様にステップS13~S17の処理を繰り返す。つまり、投影調整装置200は、全ての計測投影装置について順番に、計測光を投影して他の計測投影装置により撮像する動作を実行させ、それぞれの計測投影装置の投影範囲の接続関係を判定する。この各計測投影装置での計測光の投影及び全計測投影装置での撮像を行う計測処理は、ユーザが計測実施の操作指示を行ったときのみ実行してもよいし、所定時間毎に自動的に実行してもよい。
 カウンタ値iが計測投影装置の数と等しくなった場合(S17:No)、投影調整装置200は、各計測投影装置の投影範囲の接続関係を示す投影位置情報を生成する。ここでは、一例として投影範囲の接続関係を示すグラフ表示の表示画面を作成する(S18)。そして、投影調整装置200は、表示部240の操作画面にグラフを描画し、各計測投影装置の投影範囲の接続関係を示すグラフ表示を行う(S19)。
 ユーザにより投影タイミングの自動割り当ての操作指示がなされると、投影調整装置200は、上記作成したグラフ等の投影位置情報に基づき、各計測投影装置の投影範囲間の距離を算出し、起点となる計測投影装置を設定する(S21)。起点となる計測投影装置は、マスターの計測投影装置として設定してもよい。続いて、投影調整装置200は、起点となる計測投影装置から順に、接続している計測投影装置を辿っていき、投影範囲に重複が無い状態で投影タイミングの順番を示すスロット番号を再帰的に割り当てる(S22)。スロット番号は、上述した投影期間の位相に相当する。この各計測投影装置の投影タイミングの割り当て処理は、ユーザが自動割り当ての操作指示を行ったときに、上記のステップS13~S17の計測処理が未完了である場合、計測処理を実行してから投影タイミングの割り当て処理を実行してよい。
 このように、計測投影装置の投影範囲の接続関係を判定し、接続関係示す投影位置情報を生成して表示することにより、ユーザは複数の計測投影装置の投影範囲の位置関係を容易に把握可能となる。各投影範囲を図形等で示すイメージ表示、各投影範囲の重複等の接続関係をノード及び接続線等で示すグラフ表示などによって、一目でユーザが複数の投影範囲の位置関係を認識でき、視認性が良好な投影位置情報の表示を提供できる。これにより、ユーザが計測投影装置の投影範囲及び/又は投影タイミング等を調整する場合の投影動作の調整作業の支援を効果的に実施できる。
 また、起点となる計測投影装置の決定、起点の計測投影装置から順に投影タイミングの割り当てを行うことにより、複数の計測投影装置における計測光の干渉を防止しつつ、各投影範囲の配置に応じた適切な投影順序及び位相などの投影タイミングを設定できる。また、計測光投影の起点となる計測投影装置として、効率が良い最適な計測投影装置を設定可能となる。
 以下に、投影調整装置200による投影位置情報の表示の種々の態様を例示する。
 図21Aは、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第1例を示す図である。図21Bは、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のグラフ表示の第1例を示す図である。投影位置情報の表示の第1例は、投影調整装置200による投影位置情報の表示の一例を示したものである。
 投影調整装置200は、表示部240の操作画面に表示する投影位置情報として、図21Aに示すような複数の計測投影装置の投影範囲のイメージ表示、又は図21Bに示すような複数の計測投影装置の投影範囲のグラフ表示を行う。図21Aのイメージ表示では、複数の計測投影装置100として9個の計測投影装置P1~P9を有する場合に、各計測投影装置P1~P9の投影範囲PE1~PE9を、四角形の図形表示によって模式的に表している。このイメージ表示により、ユーザは投影範囲PE1~PE9の配置及び接続関係を容易に視認できる。また、各計測投影装置の投影範囲351を表示するとともに、投影範囲が2重に重複している2重の投影範囲352、投影範囲が3重に重複している3重の投影範囲353、投影範囲が4重に重複している4重の投影範囲354などを、色又はパターン等によって区別して強調表示してもよい。これにより、ユーザは投影範囲が重複している領域や重複の状態をイメージ表示によって容易に把握できる。
 図21Bのグラフ表示では、各計測投影装置P1~P9の投影範囲の位置を円マーク等のノード(節)361で表示し、それぞれの投影範囲が重複し接続関係があるノード361の間を接続線362で接続したグラフによって表している。このグラフ表示により、ユーザは各計測投影装置の投影範囲の接続関係を一目で確認できる。また、各計測投影装置P1~P9において、計測光の投影タイミングを示す位相T1~T4を表示してもよい。また、マスターの計測投影装置を設定する場合はマスターの計測投影装置を色又はパターン、マーク等によって識別表示してもよい。なお、図21Bでは、グラフ表示は接続線362の方向を持たない無向グラフの表示としているが、計測光の干渉が一方向のみである場合は、接続線362において矢印など干渉方向を示す有向グラフの表示としてもよい。例えば、対象物が複雑な形状で第1の計測投影装置が第2の計測投影装置に干渉するが、逆方向に第2の計測投影装置が第1の計測投影装置には干渉しない場合などに、有向グラフの表示とすればよい。
 ここで、複数の計測投影装置において起点となる計測投影装置の設定、及び各計測投影装置の投影タイミングの自動割り当てについて、図21A、図21Bの表示例を用いて具体例を説明する。投影調整装置200は、図21Aのイメージ表示から、図21Bのグラフ表示を生成する。各の計測投影装置のノード361において、隣の計測投影装置との間で投影範囲が重複している箇所は、ノード361間が接続線362で接続される。投影調整装置200は、各の計測投影装置のノードについて他のノードとの間の距離を算出し、最も遠いノードの距離が最小となるノード、すなわち他の全てのノードへの到達ステップ数が最小となるノードを抽出し、これを起点の計測投影装置のノードとする。複数のノード間の距離は、例えばダイクストラ法などによって最短経路を算出可能である。起点の計測投影装置をマスターの計測投影装置として設定してもよい。図示例では、中央に位置する計測投影装置P5が他の全ての計測投影装置のノードに1ステップで到達可能であるので、この計測投影装置P5を起点の計測投影装置に設定する。そして、投影調整装置200は、起点の計測投影装置P5のノードから順に、隣接するノードにおいて重複が無いように投影タイミングの順番を示すスロット番号を再帰的に割り当てる。図示例では、計測投影装置P5を第1の位相T1、計測投影装置P4、P6を第2の位相T2、計測投影装置P2、P8を第3の位相T3、計測投影装置P1、P3、P7、P9を第4の位相T4に設定する。
 投影調整装置200は、上述した複数の計測投影装置の投影範囲の計測処理をリアルタイムで実行し、現在の計測投影装置の配置に応じて投影位置情報のイメージ表示又はグラフ表示を更新する。これにより、ユーザにおいて手動で計測投影装置の投影範囲及び/又は投影タイミング等を調整する場合の投影動作の調整作業の支援を実施する。
 図22Aは、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第2例を示す図である。図22Bは、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のグラフ表示の第2例を示す図である。投影位置情報の表示の第2例は、図21A、図21Bに示した第1例の状態から一部の計測投影装置の投射範囲が変位した場合を例示するものである。
 図22Aのイメージ表示のように、図中右下に位置する計測投影装置P9の投影範囲PE9が下側に変位し、計測投影装置P6の投影範囲PE6との重複が無くなった状態を想定する。この場合、図22Bのグラフ表示では、計測投影装置P9のノードと計測投影装置P6のノードとの間の接続線が表示されず、ユーザは計測投影装置P6とP9との間で干渉が無く接続関係が無くなったことを認識できる。また、図22Aのイメージ表示によって、投影範囲PE6、PE9の間で不連続の領域が生じたことを認識できる。ユーザは、投影調整装置200による投影位置情報の表示を見ながら、各計測投影装置の投影範囲の配置を確認し、適切な配置となるよう投影範囲を調整できる。また、ユーザは投影位置情報の表示に基づいて複数の計測投影装置の投影動作の順番、位相、投影タイミングなどを設定、調整することも可能である。
 図23Aは、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第3例を示す図である。図23Bは、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のグラフ表示の第3例を示す図である。投影位置情報の表示の第3例は、投影調整装置200による投影位置情報の表示の他の例を示したものである。
 投影調整装置200は、表示部240の操作画面に表示する投影位置情報として、図23Aに示すような複数の計測投影装置の投影範囲のイメージ表示、又は図23Bに示すような複数の計測投影装置の投影範囲のグラフ表示を行う。図23Aのイメージ表示では、複数の計測投影装置100として4個の計測投影装置P1~P4を有する場合に、各計測投影装置P1~P4の投影範囲PE1~PE4を、四角形の図形表示によって模式的に表している。本例では、A領域で示す投影範囲が2重に重複している2重の投影範囲371、B領域で示す投影範囲が3重に重複している3重の投影範囲372を、それぞれ色又はパターン等によって区別して強調表示する。
 図23Bのグラフ表示では、各計測投影装置P1~P4の投影範囲の位置を円マーク等のノード(節)361で表示し、それぞれの投影範囲が重複し接続関係があるノード361の間を接続線362で接続するとともに、重なりのある箇所を複数種類のノードで強調表示し、投影範囲の重複状態をよりわかりやすく視認可能にしている。図示例では、A領域を2重の重複ノード381、B領域を3重の重複ノード382によって示している。重複箇所を示す重複ノード381、382は、色、パターン、形状などによって重複数、重複領域の大きさなどを区別して表示する。
 これらのイメージ表示、グラフ表示により、ユーザは複数の計測投影装置の投影範囲が重複している位置、重複している投影範囲の数、重複している計測投影装置間の位置関係など、投影範囲の各種の状態を容易に視認可能である。特に、重複箇所についてもグラフ表示のノードで示すことによって、ユーザは投影範囲の重複数、重複関係などを一目で把握できる。
 図24は、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第4例を示す図である。図25は、本実施の形態に係る投影調整装置における複数の計測投影装置の投影範囲のイメージ表示の第5例を示す図である。投影位置情報の表示の第4例及び第5例は、ユーザによる投影動作の調整作業の支援のための投影位置情報の表示例を示したものである。
 投影調整装置200は、表示部240の操作画面に表示する投影位置情報として、図24に示すような複数の計測投影装置の投影範囲のイメージ表示を行う。図示例では、複数の計測投影装置の投影範囲を四角形の図形表示によって模式的に表すとともに、各計測投影装置の投影タイミングの位相T1~T4を示している。
 複数の計測投影装置の投影範囲が隣接する場合、四角形で外周が四辺の投影範囲では最大の重複数は4であり、投影タイミングは4つの位相T1~T4を設定することによって全ての計測投影装置の投影が可能になる。ここで、4重の投影範囲391を色又はパターン等によって区別して表示し、ユーザが投影範囲の重複領域及び重複数を視認可能にしてもよい。
 図24に示した第4例の状態から、ユーザが一部の計測投影装置の投射範囲を調整して変位させることにより、図25に示す第5例のようになった場合を想定する。この場合、図中上から2段目と4段目の3つずつ合計6つの計測投影装置の投影範囲を図中左右方向に位置をずらして配置することにより、投影範囲の最大重複数を3にすることができる。この場合、投影タイミングは3つの位相T1~T3を設定することによって全ての計測投影装置の投影が可能になる。ここで、3重の投影範囲392を色又はパターン等によって区別して表示し、ユーザが投影範囲の重複領域及び重複数を視認可能にしてもよい。このように3位相で全ての領域をカバーできるように複数の計測投影装置の投射範囲を調整することによって、効率の良い位置計測及び映像投影を実行可能になる。
 上記のようなイメージ表示によって、ユーザにおいて適切な投影範囲及び投影タイミングを設定可能なように投影動作の調整作業を支援することができる。なお、投影位置情報の表示において、4位相の投影が必要な4重の投影範囲がある場合にその領域を目立つ色又はマークなどによって警告表示を行うことによって、ユーザにより3位相の投影動作が可能な投影範囲の配置設定が容易にできるように支援することも可能である。また、投影範囲の位置調整時の移動方向、移動量などを算出して支援することも可能である。
 以上のように、本実施の形態の投影調整プログラムは、対象物105、106に対して位置計測及び投影を行う投影装置として複数の計測投影装置100を含む投影システムにおいて、コンピュータにより計測投影装置100の投影動作の調整に関する処理を実行する投影調整プログラムである。この投影調整プログラムは、例えば投影システムの計測投影装置100と接続される投影調整装置200により実行される。投影調整プログラムは、投影システムの第1の計測投影装置において対象物に非可視光の計測光を投影し、投影システムの第2の計測投影装置において対象物から反射した計測光の反射光を受光し、受光した計測光の反射光に基づいて第1の計測投影装置の投影範囲の接続関係を判定する。また、投影調整プログラムは、接続関係の判定処理を全処理対象の投影装置について実行し、投影システムにおける各計測投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する。
 これにより、投影装置を複数配置する場合に、投影範囲の重複の有無、重複関係、重複数など、複数の投影範囲の位置関係をユーザが容易に把握可能となる。また、ユーザにおいて適切な投影範囲及び投影タイミングを設定可能なように投影動作の調整作業の支援を効果的に実施可能となる。
 また、投影調整プログラムにおいて、投影位置情報の表示として、計測投影装置の投影範囲を示すイメージ表示を生成する。これにより、例えば投影範囲の図形表示などのイメージ表示によって、複数の計測投影装置における各投影範囲の配置、投影範囲の重複関係など、複数の投影範囲の位置関係をユーザが容易に把握可能となる。
 また、投影調整プログラムにおいて、投影位置情報の表示として、計測投影装置の投影範囲の位置を示すノードと、投影範囲の重なりによるノード間の接続関係を示す接続線とを含むグラフ表示を生成する。これにより、グラフ表示のノードによって複数の計測投影装置における各投影範囲の配置を把握でき、また、接続線によって各投影範囲の接続関係(重複の状態)を容易に把握可能となる。
 また、投影調整プログラムにおいて、複数の計測投影装置の投影範囲において重なりがある場合、重複箇所を強調表示する。これにより、投影範囲の重複箇所を一目で容易に認識でき、各投影範囲の接続関係を容易に把握可能となる。
 また、投影調整プログラムにおいて、複数の計測投影装置の投影範囲において重なりがある場合、重複箇所において投影範囲の重複状態を示す重複ノードを表示する。これにより、投影範囲の重複箇所、及び重複数などの重複状態を一目で容易に認識でき、各投影範囲の接続関係を容易に把握可能となる。
 また、投影調整プログラムにおいて、投影範囲の接続関係を示す投影位置情報に基づき、それぞれの計測投影装置の投影範囲間の距離を算出し、他の計測投影装置との距離が最小となる計測投影装置を起点の計測投影装置として設定する。これにより、例えばマスターの計測投影装置など、計測光投影の起点となる計測投影装置を、各計測投影装置の投影範囲の配置に基づいて効率が良い最適な計測投影装置を設定可能となる。
 また、投影調整プログラムにおいて、起点の計測投影装置から順に、投影範囲に重複が無い状態で投影タイミングを再帰的に割り当てる。これにより、複数の計測投影装置における計測光の干渉を防止しつつ、各投影範囲の配置に応じた適切な投影順序及び位相などの投影タイミングを設定できる。
 本実施の形態の投影調整方法は、対象物105、106に対して位置計測及び投影を行う投影装置として複数の計測投影装置100を含む投影システムにおいて、計測投影装置100の投影動作の調整に関する処理を実行する投影調整装置200による投影調整方法である。この投影調整方法は、投影システムの第1の計測投影装置において対象物に非可視光の計測光を投影し、投影システムの第2の計測投影装置において対象物から反射した計測光の反射光を受光し、受光した計測光の反射光に基づいて第1の計測投影装置の投影範囲の接続関係を判定する。また、投影調整方法は、接続関係の判定処理を全処理対象の投影装置について実行し、投影システムにおける各計測投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する。これにより、投影装置を複数配置する場合に複数の投影範囲の位置関係を容易に把握できる。
 以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施形態における各構成要素を任意に組み合わせてもよい。
 なお、本出願は、2018年5月17日出願の日本特許出願(特願2018-095728)に基づくものであり、その内容は本出願の中に参照として援用される。
 本開示は、投影装置を複数配置する場合に複数の投影範囲の位置関係を容易に把握できる投影調整プログラム及び投影調整方法として有用である。
 100、100A、100B、140、160A、160B 計測投影装置
 101 撮像装置
 102 赤外光投影装置
 103 演算装置
 104 可視光投影装置
 105 第1の対象物
 106 第2の対象物
 111 レンズ光学系
 112 赤外LED光源
 113 表示デバイス
 131 設定入力部
 142 投影装置
 150 タイミング制御部
 151 タイミングジェネレータ
 152 外部同期インタフェース(I/F)
 153 光センサ
 200 投影調整装置
 210 処理部
 220 記憶部
 221 投影調整プログラム
 230 通信インタフェース(I/F)
 240 表示部
 250 モニタ
 260 入力部
 401 画像入力部
 402 パターン復号部
 405 座標変換部
 407 座標補間部
 408 コンテンツ生成部
 410 画像出力部
 411 パターン生成部

Claims (8)

  1.  対象物に対して位置計測及び投影を行う複数の投影装置を含む投影システムにおいて、コンピュータにより前記投影装置の投影動作の調整に関する処理を実行する投影調整プログラムであって、
     前記投影システムの第1の投影装置において前記対象物に非可視光の計測光を投影し、
     前記投影システムの第2の投影装置において前記対象物から反射した計測光の反射光を受光し、
     前記受光した計測光の反射光に基づいて前記第1の投影装置の投影範囲の接続関係を判定し、
     前記接続関係の判定処理を全処理対象の投影装置について実行し、
     前記投影システムにおける各投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する、
     投影調整プログラム。
  2.  請求項1に記載の投影調整プログラムであって、
     前記投影位置情報の表示として、前記投影装置の投影範囲を示すイメージ表示を生成する、
     投影調整プログラム。
  3.  請求項1に記載の投影調整プログラムであって、
     前記投影位置情報の表示として、前記投影装置の投影範囲の位置を示すノードと、前記投影範囲の重なりによるノード間の接続関係を示す接続線とを含むグラフ表示を生成する、
     投影調整プログラム。
  4.  請求項2又は3に記載の投影調整プログラムであって、
     複数の前記投影装置の投影範囲において重なりがある場合、重複箇所を強調表示する、
     投影調整プログラム。
  5.  請求項3又は4に記載の投影調整プログラムであって、
     複数の前記投影装置の投影範囲において重なりがある場合、重複箇所において投影範囲の重複状態を示す重複ノードを表示する、
     投影調整プログラム。
  6.  請求項1に記載の投影調整プログラムであって、
     前記投影範囲の接続関係を示す投影位置情報に基づき、それぞれの投影装置の投影範囲間の距離を算出し、
     他の投影装置との距離が最小となる投影装置を起点の投影装置として設定する、
     投影調整プログラム。
  7.  請求項6に記載の投影調整プログラムであって、
     前記起点の投影装置から順に、投影範囲に重複が無い状態で投影タイミングを再帰的に割り当てる、
     投影調整プログラム。
  8.  対象物に対して位置計測及び投影を行う複数の投影装置を含む投影システムにおいて、前記投影装置の投影動作の調整に関する処理を実行する投影調整装置による投影調整方法であって、
     前記投影システムの第1の投影装置において前記対象物に非可視光の計測光を投影し、
     前記投影システムの第2の投影装置において前記対象物から反射した計測光の反射光を受光し、
     前記受光した計測光の反射光に基づいて前記第1の投影装置の投影範囲の接続関係を判定し、
     前記接続関係の判定処理を全処理対象の投影装置について実行し、
     前記投影システムにおける各投影装置の投影範囲の接続関係を示す投影位置情報を生成し、表示部に表示する、
     投影調整方法。
PCT/JP2019/019408 2018-05-17 2019-05-15 投影調整プログラム及び投影調整方法 WO2019221208A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/055,763 US11438563B2 (en) 2018-05-17 2019-05-15 Projection adjustment program and projection adjustment method
US17/864,924 US11743437B2 (en) 2018-05-17 2022-07-14 Projection adjustment program and projection adjustment method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-095728 2018-05-17
JP2018095728A JP7162168B2 (ja) 2018-05-17 2018-05-17 投影調整プログラム、投影調整方法及び投影調整システム

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US17/055,763 A-371-Of-International US11438563B2 (en) 2018-05-17 2019-05-15 Projection adjustment program and projection adjustment method
US17/864,924 Continuation US11743437B2 (en) 2018-05-17 2022-07-14 Projection adjustment program and projection adjustment method

Publications (1)

Publication Number Publication Date
WO2019221208A1 true WO2019221208A1 (ja) 2019-11-21

Family

ID=68539708

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/019408 WO2019221208A1 (ja) 2018-05-17 2019-05-15 投影調整プログラム及び投影調整方法

Country Status (3)

Country Link
US (2) US11438563B2 (ja)
JP (2) JP7162168B2 (ja)
WO (1) WO2019221208A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7162168B2 (ja) * 2018-05-17 2022-10-28 パナソニックIpマネジメント株式会社 投影調整プログラム、投影調整方法及び投影調整システム
JP7361283B2 (ja) * 2020-03-25 2023-10-16 パナソニックIpマネジメント株式会社 画像投写システム、画像投写システムの制御方法、及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014228617A (ja) * 2013-05-21 2014-12-08 セイコーエプソン株式会社 プロジェクター、マルチプロジェクションシステム、およびプロジェクターの制御方法
JP2015173431A (ja) * 2014-02-18 2015-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 投影システムおよび半導体集積回路
JP2016085435A (ja) * 2014-10-29 2016-05-19 株式会社リコー 画像処理システム
JP2017138581A (ja) * 2016-02-02 2017-08-10 パナソニックIpマネジメント株式会社 投写画像調整システム及び投写画像調整方法
JP2017215374A (ja) * 2016-05-30 2017-12-07 パナソニックIpマネジメント株式会社 画像投影システムおよび画像投影方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3495159B2 (ja) * 1995-10-11 2004-02-09 大日本スクリーン製造株式会社 画像部品の隣接関係判定方法
JP2005258622A (ja) 2004-03-10 2005-09-22 Fuji Photo Film Co Ltd 三次元情報取得システムおよび三次元情報取得方法
JP4026649B2 (ja) * 2005-02-16 2007-12-26 セイコーエプソン株式会社 プロジェクタ、プロジェクタの制御方法、プロジェクタの制御プログラム、およびこのプログラムを記憶した記憶媒体
WO2011001507A1 (ja) 2009-06-30 2011-01-06 Necディスプレイソリューションズ株式会社 プロジェクタ装置およびリモート制御方法
JP2013192189A (ja) 2012-03-15 2013-09-26 Casio Comput Co Ltd 画像処理装置、投影システム、プログラム及び画像処理方法
JP6330937B2 (ja) * 2013-07-19 2018-05-30 株式会社Jvcケンウッド マルチプロジェクタシステム、プロジェクタ装置、調整装置および調整方法、ならびに、調整プログラム
JP6369810B2 (ja) * 2013-11-21 2018-08-08 パナソニックIpマネジメント株式会社 投写画像表示システム、投写画像表示方法及び投写型表示装置
US10771751B2 (en) 2016-02-02 2020-09-08 Panasonic Intellectual Property Management Co., Ltd. Projection image adjustment system and projection image adjustment method
JP2017191307A (ja) * 2016-04-11 2017-10-19 セイコーエプソン株式会社 投写システム、プロジェクター及びプロジェクターの制御方法
JP7162168B2 (ja) * 2018-05-17 2022-10-28 パナソニックIpマネジメント株式会社 投影調整プログラム、投影調整方法及び投影調整システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014228617A (ja) * 2013-05-21 2014-12-08 セイコーエプソン株式会社 プロジェクター、マルチプロジェクションシステム、およびプロジェクターの制御方法
JP2015173431A (ja) * 2014-02-18 2015-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 投影システムおよび半導体集積回路
JP2016085435A (ja) * 2014-10-29 2016-05-19 株式会社リコー 画像処理システム
JP2017138581A (ja) * 2016-02-02 2017-08-10 パナソニックIpマネジメント株式会社 投写画像調整システム及び投写画像調整方法
JP2017215374A (ja) * 2016-05-30 2017-12-07 パナソニックIpマネジメント株式会社 画像投影システムおよび画像投影方法

Also Published As

Publication number Publication date
US11743437B2 (en) 2023-08-29
US20210243416A1 (en) 2021-08-05
US20220360754A1 (en) 2022-11-10
JP2022186702A (ja) 2022-12-15
US11438563B2 (en) 2022-09-06
JP2019201362A (ja) 2019-11-21
JP7162168B2 (ja) 2022-10-28

Similar Documents

Publication Publication Date Title
JP7462249B2 (ja) 投影システム、投影装置及び投影方法
JP6618249B2 (ja) 投影システムおよび半導体集積回路
EP3466061B1 (en) Image projection system and image projection method
JP2022186702A (ja) 投影調整プログラム、投影調整方法及び投影調整システム
WO2022100759A1 (zh) 头戴式显示系统及其6自由度追踪方法和装置
TW201327275A (zh) 三維互動顯示裝置及其操作方法
US9654748B2 (en) Projection device, and projection method
US9524696B2 (en) Image projection device
JP7145444B2 (ja) 投影システム、投影調整プログラム及び投影方法
JP5630853B2 (ja) 投射型表示装置、調整処理装置、受信機、表示システムおよび表示方法
JP2012163371A (ja) 情報処理装置、情報処理方法
JP2008020196A (ja) 投射装置、投射装置の測距方法およびプログラム
JP2005327259A (ja) 指示位置検出装置
JP2016071864A (ja) プロジェクタ装置
JP2009288154A (ja) 位置検出装置
JP2006148841A (ja) 三次元表示装置及び三次元表示システム
JP2016146021A (ja) 表示システム、表示装置、及び、位置検出装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19803295

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19803295

Country of ref document: EP

Kind code of ref document: A1