WO2019035452A1 - マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体 - Google Patents

マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体 Download PDF

Info

Publication number
WO2019035452A1
WO2019035452A1 PCT/JP2018/030234 JP2018030234W WO2019035452A1 WO 2019035452 A1 WO2019035452 A1 WO 2019035452A1 JP 2018030234 W JP2018030234 W JP 2018030234W WO 2019035452 A1 WO2019035452 A1 WO 2019035452A1
Authority
WO
WIPO (PCT)
Prior art keywords
marker
partial
display
data
pattern
Prior art date
Application number
PCT/JP2018/030234
Other languages
English (en)
French (fr)
Inventor
一郎 椎尾
瑞希 奥山
Original Assignee
国立大学法人お茶の水女子大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 国立大学法人お茶の水女子大学 filed Critical 国立大学法人お茶の水女子大学
Publication of WO2019035452A1 publication Critical patent/WO2019035452A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K1/00Methods or arrangements for marking the record carrier in digital fashion
    • G06K1/12Methods or arrangements for marking the record carrier in digital fashion otherwise than by punching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light

Definitions

  • the present invention relates to a marker generation device, a three-dimensional medium, an information processing system, a marker generation method, and a recording medium.
  • M sequence Maximum length sequence, linear maximum periodic sequence or maximum length sequence
  • a one-dimensional barcode (barcode) is generated in the x direction so as to indicate the bits constituting the M sequence.
  • a similar one-dimensional barcode is generated in the y direction, and the projector superimposes and displays the generated two-direction barcodes.
  • there is known a method in which two-dimensional coordinates of the read position can be specified with respect to the entire area in which the barcode is displayed by reading a certain position of the displayed barcode see, for example, Patent Document 1) ).
  • Patent Document 2 a method of arranging a plurality of identical codes is known (see, for example, Patent Document 2).
  • the conventional method since the conventional method must recognize and read the entire information code for a marker such as a bar code, it is necessary to read the information code from any angle in order to be able to read from any direction of the solid object. It is necessary to arrange a plurality so that one part can all be recognized. For example, when the information code is distorted or partially hidden by the curved surface of a solid object, the marker may not be recognized with high accuracy in the recognition processing etc. is there.
  • an embodiment according to the present invention aims to generate a marker that is accurately recognized.
  • a marker generation device for generating a display marker to be displayed on a three-dimensional object according to an embodiment of the present invention
  • a data generation unit that generates data to be an M-sequence
  • a partial marker generation unit which generates a partial marker by arranging patterns of first and second colors according to bits constituting the data
  • a display marker generation unit configured to generate the display marker by combining the partial marker and an inversion marker obtained by inverting the first color and the second color in the partial marker.
  • FIG. 1 is a system diagram showing an example of the entire configuration.
  • the marker generation system 1 first generates a marker MK. That is, AR system 100 which is an example of an information processing system is a system which has marker generating device 10 and an information processing device. Details of the marker generation method for generating the marker MK will be described later. Then, after the marker MK is formed on the medium MD in the marker generation system 1, the medium MD is attached to the subject TG and used as a three-dimensional medium in the recognition system 2. Hereinafter, an example of a three-dimensional medium will be described using medium MD.
  • the recognition system 2 the subject TG on which the medium MD is attached is photographed. Specifically, when the subject TG on which the marker MK is displayed is photographed by the photographing device 21 included in the recognition system 2, an image (hereinafter, referred to as “pre-processing image IMG1”) including the marker MK is generated. .
  • the recognition system 2 performs so-called AR processing of replacing the position where the marker MK is displayed in the unprocessed image IMG1 with another image. In this way, the recognition system 2 can generate and output an image in which a part of the unprocessed image IMG1 is replaced with another image, that is, a so-called AR image (hereinafter referred to as “processed image IMG2”).
  • the system configuration using the marker generation device is not limited to the illustrated system configuration.
  • the illustrated AR system 100 will be described as an example.
  • a configuration example on the marker generation side in the AR system 100 that is, the marker generation system 1 will be described.
  • a configuration example on the recognition side that is, the recognition system 2 will be described later.
  • the marker generation system 1 includes a PC (Personal Computer) 10 which is an example of a marker generation device, and a printer 11 which is an example of an output device. Then, in the illustrated marker generation system 1, first, the PC 10 generates the marker MK, and sends data for printing indicating the marker MK to the printer 11. Next, the printer 11 forms an image on the medium MD based on the printing data sent from the PC 10, and creates the medium MD indicating the marker MK. Note that the marker MK may not be formed on the medium MD by image formation. For example, materials of different two colors may be attached to the medium MD so as to have the same pattern as the marker MK generated by the PC 10, and the marker MK may be formed on the medium MD.
  • PC Personal Computer
  • FIG. 2 is a block diagram showing an example of the hardware configuration of the marker generation device.
  • the PC 10 is an information processing apparatus.
  • the PC 10 may be an information processing apparatus of a type other than the PC.
  • the PC 10 is a device having the following hardware configuration.
  • the PC 10 has a hardware configuration including a central processing unit (CPU) 10H1, a storage device 10H2, a communication device 10H3, an interface 10H4, an input device 10H5, and an output device 10H6.
  • CPU central processing unit
  • the CPU 10H1 is an example of an arithmetic device and a control device. Therefore, the CPU 10H1 performs operations, hardware control, and the like to realize the process.
  • the storage device 10H2 is, for example, a main storage device such as a memory. Further, the storage device 10H2 may further include an auxiliary storage device such as a hard disk or a solid state drive (SSD).
  • SSD solid state drive
  • the communication device 10H3 is a device that transmits and receives data to and from an external device via a network such as the Internet or a LAN (Local Area Network).
  • the communication device 10H3 is a connector, a processing IC (Integrated Circuit), or the like.
  • the interface 10H4 is a device that transmits and receives data to and from an external device.
  • the interface 10H4 is a connector, a processing IC or the like.
  • the input device 10H5 is, for example, a keyboard, a mouse, or a combination thereof. That is, the input device 10H5 is a device for inputting an operation by the user.
  • the output device 10H6 is, for example, a display or the like. That is, the output device 10H6 is a device that outputs processing results and the like to the user.
  • the hardware configuration is not limited to the illustrated configuration.
  • the PC 10 may further have an arithmetic unit, a control unit, a storage unit, etc. externally or internally.
  • the information processing apparatus may be a server or the like. Furthermore, the information processing apparatus may not be one, and may be configured by a plurality of apparatuses.
  • FIG. 3 is a flowchart showing an example of processing by the marker generation device.
  • Step S101 the PC 10 generates M-sequence data.
  • the PC 10 performs the following process in step S101 to generate data indicating an M sequence.
  • FIG. 4 is an example of data to be an M sequence.
  • the PC 10 generates an M sequence and generates data based on the M sequence as illustrated (hereinafter referred to as “M sequence data DM”).
  • the PC 10 can calculate the bits constituting the M-sequence data DM by calculating the M-sequence formula SQM.
  • M-sequence formula SQM “Xn” indicates bits constituting the M-sequence data DM.
  • the PC 10 can generate the M-sequence data DM based on the M-sequence equation SQM.
  • the M-sequence data DM is not limited to 7 bits.
  • Step S102 the PC 10 generates a partial marker.
  • FIG. 5 is an example of a partial marker generated based on data that is an M-sequence.
  • the PC 10 Based on the M-sequence data DM generated in step S101, the PC 10 generates a marker (hereinafter, referred to as a “partial marker MKP”) obtained by bar-coding the M-sequence data DM as illustrated.
  • a marker hereinafter, referred to as a “partial marker MKP”
  • the partial marker MKP is generated by arranging a black pattern which is an example of the first color and a white pattern which is an example of the second color.
  • the first pattern PTN1 to the seventh pattern PTN7 that is, seven bits are sequentially arranged from the left to the right to generate the partial marker MKP.
  • the following description will be made by taking the M-sequence data DM shown in FIG. 4 as an example. Furthermore, in this example, it is assumed that the first pattern of the partial marker MKP, that is, the first pattern PTN1 is black. The next pattern, that is, the second pattern PTN2 is white. Thus, the patterns are configured to alternate in color. That is, it is assumed that adjacent patterns have different colors, and each pattern can be distinguished by color.
  • the bit “1” is indicated by a thick pattern, while the bit “0” is indicated as a thin pattern.
  • the first pattern PTN1, the fourth pattern PTN4, the fifth pattern PTN5 and the sixth pattern PTN6 are, as illustrated, a first bit M1 which is a bit of "1", a fourth bit M4, a fifth It corresponds to the bit M5 and the sixth bit M6.
  • the second pattern PTN2, the third pattern PTN3 and the seventh pattern PTN7 correspond to the second bit M2, the third bit M3 and the seventh bit M7 which are bits of "0" as shown in the figure.
  • the first pattern PTN1, the fourth pattern PTN4, the fifth pattern PTN5 and the sixth pattern PTN6 are thicker than the second pattern PTN2, the third pattern PTN3 and the seventh pattern PTN7 (in the horizontal direction It is a long example.) It becomes a pattern.
  • the second pattern PTN2, the third pattern PTN3 and the seventh pattern PTN7 have a length of "1"
  • the first pattern PTN1, the fourth pattern PTN4, the fifth pattern PTN5 and the sixth pattern PTN6 have "4".
  • the partial marker MKP have a blank portion (hereinafter simply referred to as "blank") as shown in the drawing.
  • blank a blank portion
  • the blanks are the first space SP1 and the second space SP2.
  • the information processing apparatus can accurately recognize a portion where each pattern is displayed.
  • the present invention is not limited to a combination in which the “1” bit is a thick pattern and the “0” bit is a thin pattern. That is, the combination may be reversed to make the bit of "0" a thick pattern and make the bit of "1" a thin pattern.
  • the first and second colors are not limited to the combination of black and white. That is, the first color and the second color may be any colors that can be distinguished, and may be other than black and white. However, the first and second colors are desirably black and white. If the color is black and white, the information processing apparatus can easily recognize the color even if the environment such as the light source changes.
  • the ratio of the length of the thick pattern to the length of the thin pattern is not limited to “4: 1”. That is, the ratio may be such that the information processing apparatus can distinguish each pattern according to the length. For example, if the length of the thick pattern and the length of the thin pattern are largely different from each other, the information processing apparatus can accurately distinguish the thick pattern and the thin pattern. On the other hand, if the difference between the length of the thick pattern and the length of the thin pattern is small, the amount of information that can be encoded by the marker can be increased.
  • Step S103 the PC 10 generates a display marker.
  • FIG. 6 is an example of a display marker generated based on a partial marker.
  • the partial marker MKP1 generated in step S102 and the marker obtained by inverting the color of each pattern of the partial marker generated in step S102 (hereinafter referred to as "inversion marker MKP2") are combined.
  • inversion marker MKP2 the marker obtained by inverting the color of each pattern of the partial marker generated in step S102
  • the illustrated example is an example in which the partial marker MKP1 is disposed on the left side in the drawing. Furthermore, this example is an example in which the inversion marker MKP2 is disposed on the right side of the partial marker MKP1.
  • the partial marker MKP1 and the inversion marker MKP2 both have patterns representing the same M-sequence data DM. Specifically, since both the first pattern PTN1 and the twenty-first pattern PTN21 indicate “1” of the first bit M1, both are thick patterns. On the other hand, the first pattern PTN1 and the twenty-first pattern PTN21 have different colors. Similarly, since both the second pattern PTN2 and the twenty-second pattern PTN22 indicate “0” of the second bit M2, both are thin patterns, but the colors are different. Furthermore, the patterns of the third to seventh patterns PTN3 to PTN7 and the twenty-third pattern PTN23 to the twenty-seventh pattern PTN27 are also identical in length and different in color.
  • the M-sequence data DM for two cycles are displayed by the partial marker MKP1 and the inversion marker MKP2.
  • the partial marker MKP1 indicates the first cycle
  • the inversion marker MKP2 indicates the second cycle.
  • the display marker may be configured for four cycles, using two colors that are combinations of colors different from the two colors used in the first cycle and the second cycle in the third cycle and the fourth cycle.
  • the color to be assigned to each bit is selected so as not to be the combination already used in each of the cycles that appeared earlier. In this way, the frequency constituting the display marker can be increased by two cycles.
  • priority is given to taking means for increasing the number of bits of the M series.
  • FIG. 7 shows an example (No. 1) of the effect using the display marker. As shown in FIG. 4, assuming that the number of bits of the M-sequence data DM is “2 p ⁇ 1”, the number of bits is an odd number.
  • the display marker MKV when the number of bits is an odd number, as shown in FIG. 6, in the display marker MKV, when the partial marker MKP1 starts in black, it ends in black. That is, the first pattern PTN1 and the seventh pattern PTN7 have the same color.
  • the first pattern of the inversion marker MKP2 that is, the twenty-first pattern PTN21 is white since it is a color obtained by inverting the first pattern PTN1. Therefore, as shown in FIG. 7, the seventh pattern PTN7 and the twenty-first pattern PTN21 are different even if there is a portion where the partial marker MKP1 and the inversion marker MKP2 are connected (hereinafter referred to as "continuous portion CON"). Distinguish because it becomes a color. That is, assuming that the number of bits is “2 p ⁇ 1”, there is no case where the same color is lined up in the continuous portion CON, and the patterns can be distinguished.
  • FIG. 8 is an example (part 2) of the effect using the display marker.
  • the first pattern of the partial marker MKP1, ie, the first pattern PTN1, and the last pattern of the reverse marker MKP2, ie, the 27th pattern PTN27 The connection point is the connection part P0.
  • the first pattern PTN1 constituting the connecting portion P0 and the 27th pattern PTN27 always have different numbers of bits because the display marker MKV has the bit number of “2 (2 p ⁇ 1)” which is an even number. Become.
  • connection portion P0 the left end of the display marker MKV and the right end of the display marker MKV are connected to each other to form a connection portion P0.
  • the connecting portion P0 is at the position of “0 °” of the angle ⁇
  • the medium MD on which the display marker MKV is formed is attached so as to be wound around the subject TG as illustrated. Therefore, “0 °” to “180 °” become the partial marker MKP1, while “180 °” to “360 °” become the inversion marker MKP2.
  • partial number sequence the number sequence of bits determined by the variable p (hereinafter referred to as “partial number sequence”) is unique as follows.
  • FIG. 9 shows an example (No. 3) of the effect using the display marker.
  • the first number sequence SQ1 is “1 0 0”.
  • the first number sequence SQ1 is a different number sequence because the second number sequence SQ2 is “0 0 1”.
  • the first number sequence SQ1 is a number sequence different from the third number sequence SQ3 “0 1 1”, the fourth number sequence SQ 4 “1 1 1”, and the fifth number sequence SQ 5 “1 1 0”.
  • the second number sequence SQ2 is also a number sequence different from the third number sequence SQ3 to the fifth number sequence SQ5. Furthermore, the same applies to the third number sequence SQ3 to the fifth number sequence SQ5.
  • 3-bit number sequences do not overlap. Therefore, in the example of this M-sequence data DM, specifying a 3-bit partial number sequence makes it possible to identify where the specified partial number sequence is located in the M-sequence data DM.
  • the partial marker MKP1 and the reverse marker MKP2 are in a relation of color reversal, so even if they are the same partial number sequence, they belong to either cycle. It is possible to distinguish.
  • the first number sequence SQ1 “1 0 0” corresponds to the combination of the first pattern PTN1, the second pattern PTN2 and the third pattern PTN3, the 21st pattern PTN21, the 22nd pattern PTN22 and the It appears twice with the combination of the 23 patterns PTN23.
  • the first time that is, the first number sequence SQ1 appearing in the partial marker MKP1 is a combination of “black”, “white” and “black”.
  • the second time that is, the first number sequence SQ1 appearing in the inversion marker MKP2 is a combination of “white”, “black” and “white”. Therefore, even if the partial sequence is the same for the first time and the second time, the combination of colors is different, so the information processing apparatus identifies the first cycle or the second cycle based on the color combination. Can.
  • the subject TG can recognize the number of bits corresponding to the partial sequence determined by the variable p. You can see which angle you are facing.
  • the AR system shown in FIG. 1 can be applied to, for example, a system that supports the try-on of a band in Japanese clothes.
  • the medium MD on which the marker MK generated by the marker generation system 1 is formed is attached to the waist portion of the human body along the waistline.
  • the recognition system 2 as follows picks up a human body including the marker MK indicated by the pasted medium MD as a subject TG, and displays the processed image IMG2 subjected to AR processing.
  • FIG. 10 is a system diagram showing a configuration example of a band fitting system in Japanese clothes.
  • the recognition system 2 includes an imaging device 21 and a recognition device 22.
  • the configuration of the photographing device 21 will be described later.
  • the recognition device 22 is, for example, an information processing device such as a PC, and more specifically, a device having a hardware configuration as shown in FIG. 2 or the like.
  • the recognition system 2 is used by a user who is the subject TG as follows when trying on. First, the user actually wears a kimono, and fixes the kimono to the human body with a string or a date clamp. Furthermore, the user mounts a medium MD indicating a marker MK which is a band dummy.
  • the recognition device 22 displays the processed image IMG2 to the user via an output device such as a liquid crystal display DIP.
  • the processed image IMG2 is displayed by replacing a CG (Computer Graphics) band (hereinafter referred to as “virtual band VA”) modeled by 3D scanning of a real band in advance with a marker MK portion.
  • the virtual band VA is displayed in accordance with the size, the position, and the direction based on the marker MK.
  • the imaging device 21 has a configuration including an infrared light projector 21C that emits infrared light LIR, an infrared camera 21B that detects infrared light LIR, and a visible light camera 21A that detects visible light LV. By doing this, marker recognition can be easily performed.
  • the visible light camera 21A captures an image of the user, that is, the user's face and Japanese clothes.
  • An image captured by the visible light camera 21A is an unprocessed image IMG1.
  • the marker MK is recognized by the recognition device 22 based on the infrared image IMGIR captured by the infrared camera 21B.
  • the half mirror HM in the case of using two cameras, it is desirable that the half mirror HM be used.
  • the half mirror HM can provide a user with a high quality image by using a member having a high transmittance in the straight direction such as a transparent glass plate.
  • the visible light camera 21A and the infrared camera 21B can be arranged to be orthogonal to each other.
  • the optical axes of the visible light camera 21A and the infrared camera 21B coincide with each other via the half mirror HM.
  • the angle of view of each of the visible light camera 21A and the infrared camera 21B is set to match.
  • work and processing such as coordinate conversion and calibration are easy in generating the processed image IMG2. become.
  • the recognition device 22 can generate the processed image IMG2.
  • FIG. 11 is a view showing an example of a medium on which a display marker is formed, which is used in a band fitting system for Japanese clothes.
  • the display marker MKV is used for the medium MD in which the display marker MKV is made cylindrical as shown in FIG. 11B by connecting the connection portion P0 shown in FIG. 8
  • the position of the cylindrical medium MD in the circumferential direction is indicated by “angle ⁇ ”.
  • the optical axis be the "Z axis”.
  • the vertical axis be "Y axis”
  • the horizontal axis be "X axis”.
  • the medium MD has, for example, a configuration as shown in FIG. Specifically, the medium MD has a width corresponding to the second color pattern, in the retroreflective material MT, the material MS that prevents the reflection of light having a width corresponding to the first color pattern in the display marker MKV. Paste at intervals.
  • the portion where the retroreflective member MT is exposed is recognized as white.
  • the portion in which the retroreflective material MT is covered with the material MS is recognized as black.
  • the imaging device 21 can clearly capture the display marker MKV portion.
  • the medium MD may have a vinyl chloride plate CH or the like as illustrated. With such a configuration, the medium MD is stabilized in the shape of a band. That is, a vinyl chloride plate CH and an adhesive core AD may be attached to the back side of the retroreflective member MT to reinforce the same.
  • the material constituting the first color and the second color of the display marker MKV is not limited to the retroreflective material MT or the material MS, and may be, for example, a material such as paper.
  • FIG. 12 is a view showing an example of an infrared image and a display image to be displayed which are photographed by the fitting system of a band in Japanese clothes.
  • FIG. 12A shows a first infrared image IMGIR1 as an example of the infrared image IMGIR captured by the infrared camera 21B.
  • the first infrared image IMGIR1 is an image subjected to the binarization process.
  • the medium MD shown in FIG. 11 is photographed so as to be clearly recognized as the location of the first display marker MKV1.
  • the recognition device 22 superimposes an image of the virtual band VA modeled by 3D scanning in advance on the pre-processing image IMG1 captured by the visible light camera 21A, and generates and displays the processed image IMG2. For example, a first processed image IMG21 as shown in FIG. 12 (B) is generated and displayed.
  • the recognition system 2 can also determine which part of the display marker MKV is captured, that is, which part of the entire circumference of the display marker MKV is captured. Therefore, the following effects are achieved.
  • FIG. 13 is a diagram showing an example (No. 1) of the effect of the band fitting system in Japanese clothes. 13 is different from FIG. 12 in the direction in which the user who is the subject is facing. Specifically, in FIG. 12 (B), the user is in an attitude facing the front, whereas in FIG. 13 (B), the user is in a backward attitude.
  • the display marker MKV is the second display marker MKV2 in the second infrared image IMGIR2, but in the first infrared image IMGIR1.
  • the first display marker MKV1 that is, when the pattern indicated by the display marker MKV is analyzed from the display marker MKV captured by the infrared image IMGIR, the recognition system 2 can determine the posture of the user.
  • the recognition system 2 when the recognition system 2 recognizes that it is a posture facing the front of the user, a first virtual band image to be a front portion in the virtual band VA The first processed image IMG21 is generated and displayed by overlapping VA1.
  • the second processed image IMG22 shown in FIG. 13B when the recognition system 2 recognizes that the user is in a posture facing back, a second virtual band image that is a back surface portion in the virtual band VA A second processed image IMG22 is generated and displayed by overlapping VA2.
  • the recognition system 2 can perform AR processing to superimpose an image according to the posture of the subject, and can generate a processed image according to the posture of the subject.
  • FIG. 14 is a diagram showing an example of processing performed by the band fitting system in Japanese clothes. For example, after capturing an object on which the display marker MKV generated by the marker generation system 1 is attached, the recognition system 2 performs processing as illustrated to recognize the display marker MKV.
  • the recognition system 2 recognizes an infrared image IMGIR obtained by copying a part of the display marker MKV as a marker. Therefore, the recognition system 2 sets a rectangular image area indicating the marker MK as shown in FIG.
  • the ratio of the length of the thick pattern to the length of the thin pattern determined in step S102 of the marker generation processing example is the ratio of “r 1 : r 2 ”. At this time, r 1 indicates a thick pattern and r 2 indicates a thin pattern.
  • step S200 the recognition system 2 extracts a line to be processed from an image obtained by capturing a part of the display marker MKV from a certain direction.
  • the line of the “i” th line is a processing target in a direction orthogonal to the direction in which the patterns are arranged (in the figure, the vertical direction) will be described.
  • step S201 the recognition system 2 first performs processing for scanning in the direction in which the patterns are arranged (in the illustrated example, from the left to the right). Then, the recognition system 2 determines whether each pixel is black or white based on the pixel value and the like. Next, the recognition system 2 counts the number of pixels (hereinafter referred to as “run length”) in which the same color is continuously obtained. Then, the recognition system 2 formulates each run length to generate, for example, numerical sequence data SQW such as “a numerical sequence W”.
  • each element in “sequence W”, that is, each run length is a numerical value obtained by counting one or more black pixels or white pixels. Therefore, the numerical value is a value larger than "0".
  • “L” is the number of elements in “sequence W”, which is the total number of times a black pattern and a white pattern appear.
  • ME1 first mathematical expression
  • step S202 when a pattern of a predetermined bit number or more is recognized, the recognition system 2 proceeds to step S202.
  • the predetermined number of bits may be equal to or greater than the variable p, and the process is to avoid misrecognition as it is increased, and the process to enhance the recognizability as it is reduced.
  • step S202 the recognition system 2 calculates the total value "S” of each element in the "sequence sequence W" and the average value "A 1 " of each element in the "sequence sequence W".
  • step S203 the recognition system 2 determines whether each element in the “sequence sequence W” is greater than or less than the average value “A 1 ”. This determination can be expressed, for example, as a third mathematical expression ME3.
  • the recognition system 2 generates numerical sequence data SQX1 indicating "a numerical sequence X" which is a collection of results obtained by judging each element in the "susical sequence W".
  • a numerical sequence X which is a collection of results obtained by judging each element in the "susical sequence W.
  • the recognition system 2 generates numerical sequence data SQX1 indicating "a numerical sequence X" which is a collection of results obtained by judging each element in the "susical sequence W”.
  • the judgment result of the “j” th element in “sequence W” is element “x i, j ” in “sequence X”
  • x i, j ” indicates each element in “sequence W”. If "w i, j " is a value equal to or greater than the average value "A 1 ", it is set to "1".
  • “x i, j ” is set to “0” when each element “w i, j ” in “sequence sequence W” is a value smaller than the average value “A 1 ”. That is, “A 1 ” is a reference value for determining whether each pattern is a thin pattern or a thick pattern, that is, a pattern indicating “0” or a pattern indicating “1”. Get the sequence X.
  • step S204 the recognition system 2 calculates the line width “A 2 ” corresponding to “0” of “sequencing sequence X” in the ratio “r 1 : r 2 ”. Specifically, the recognition system 2 calculates the line width “A 2 ” from the weighted average of the total value “S”. This calculation can be expressed as the fourth expression ME4 in the equation.
  • the line width “A 2 ” calculated as described above is, in the next step S 205, whether each pattern is a pattern indicating “1”, a pattern indicating “0”, or both of them. It is a reference value that generates a threshold for determining whether it can not be determined.
  • step S205 the recognition system 2 makes a determination again based on the “sequence sequence W” based on the result of step S204, and generates the sequence data SQX2. Specifically, when the line width “A 2 ” is multiplied by “r 1 ”, the length of the pattern indicating “1” is determined. Similarly, when the line width “A 2 ” is multiplied by “r 2 ”, the length of the pattern indicating “0” is determined.
  • an equation for generating the numerical sequence data SQX2 can be expressed as a fifth equation ME5.
  • the recognition system 2 recognizes that each element in the “sequence W” is a value equal to or higher than the lower limit “3.0 ⁇ A 2 ” and equal to or lower than the upper limit “5.5 ⁇ A 2 ”. It is determined that the pattern indicates "1".
  • the recognition system 2 determines “0 It is determined that the pattern indicates “.” Furthermore, when each element in the “sequence sequence W” is another value, the recognition system 2 determines that the corresponding element in the “sequence sequence W” is an error, and sets “ ⁇ 1”. At this time, the number given to the error element may be other than “1” and “0”, and may not be “ ⁇ 1”. Also, the number by which “A 2 ” is multiplied to determine the above-mentioned lower limit value and upper limit value, which are threshold values, does not depend on this example.
  • each element in the “several sequence W” may be affected by noise, distortion, and the like. Therefore, the values of the respective elements in the "sequence sequence W" are likely to vary. Therefore, if the line width “A 2 ” is calculated as in step S 204 and the determination is performed as in step S 205, the recognition system 2 can accurately determine the type of pattern even if there is variation.
  • step S206 the recognition system 2 determines whether or not there is a number sequence having a predetermined number of bits or more excluding the error portion.
  • the illustrated sequence data SQX2 is an example in which seven consecutive bits exist except for the element which is "-1".
  • the predetermined number of bits is set to a number greater than or equal to the variable p.
  • step S207 the recognition system 2 extracts a partial number sequence of a predetermined number of bits from the bit determined in step S206 from the sequence data SQX2. Specifically, in this example, the recognition system 2 sets a first partial sequence SQP1 and a second partial sequence SQP2 to be partial sequence when 5 bits are set to a predetermined number of bits from 7 consecutive bits determined in step S206. And extract three partial sequences of the third partial sequence SQP3.
  • the recognition system 2 can determine that the posture is such that the subject TG can see at least a portion of the first portion SQN1 and the second portion SQN2 in the M-sequence number sequence SQN.
  • the recognition system 2 can specify the angle ⁇ corresponding to the matched portion, and output the virtual band VA corresponding to the angle ⁇ .
  • the recognition system 2 can perform AR processing to superimpose an image according to the posture of the subject TG, that is, the angle ⁇ determined based on the display marker MKV. . Then, the recognition system 2 can display the image subjected to the AR processing.
  • infrared light LIR is projected, and as shown in FIG. 11, the configuration that the recognition system 2 can accurately recognize the marker MK if it is configured to use the retroreflective material MT. I was able to.
  • the recognition system 2 used an image obtained by binarizing the infrared image IMGIR captured by the infrared camera 21B with the binarization function in OpenCV (registered trademark).
  • the recognition system 2 was made to perform a labeling (connected component extraction) process. Then, based on the result of the labeling process, the recognition system 2 is set to discard the area having an area of 3000 pixels or less.
  • the set area value is a setting value on the assumption that the user stands within 3 [m] of the photographing device 21. In this way, the recognition system 2 was able to remove the noise appearing as a small area.
  • the setting is made such that the area having the aspect ratio different from the aspect ratio of the marker MK is discarded.
  • the aspect ratio ⁇ was set to “0.65 ⁇ ⁇ ⁇ 1.1”. In such a setting, the area out of the range of the aspect ratio ⁇ is discarded. That is, an area recognized to be longer or longer than the display marker MKV is determined as noise and discarded.
  • the recognition system 2 can recognize the marker MK with high accuracy.
  • central coordinates of a rectangular area including the marker MK are calculated to be central coordinates for displaying the virtual band VA. Furthermore, in the recognition system 2, the virtual band VA is displayed based on the size of the rectangular area including the marker MK.
  • the probability that the recognition system 2 fails to recognize the marker MK from the infrared image IMGIR is about 2.2 [%].
  • a person who has never experienced wearing a kimono can try on a kimono even if a person without knowledge of kimono and a kimono is not nearby.
  • the kimono band often requires time and skill to wear. Therefore, it is often difficult to try on many types, especially for people who have never worn Japanese clothes.
  • wrinkles tend to remain in the band. Therefore, if it is tied, the product value will drop, so even when trying on a real thing, the try-on of the obi is often carried out so as to apply to the body without tying up the obi.
  • the marker MK is generated, and the marker MK is used for the recognition system.
  • the recognition system can accurately recognize even a cylindrical three-dimensional object such as a torso portion of a human body. Therefore, as shown in FIG. 12B, it is possible to display to the user a state where the band is virtually tried on.
  • the clothing to be tried on is not limited to the band. That is, a type other than the band may be a target of try-on.
  • FIG. 15 is a diagram showing an example (No. 2) of the effect of the band fitting system in Japanese clothes. As illustrated, the recognition system 2 can recognize the marker and display the processed image IMG2 even if a part of the marker is hidden by a hand or the like.
  • the third display marker MKV3 to be recognized is an image showing a state in which a part of the marker MKV3P is hidden by the user's hand. . Even in such a state, the recognition system 2 can display the third processed image IMG23 as shown in FIG. 15 (B).
  • the recognition system 2 can calculate the angle ⁇ if at least three bits can be recognized. That is, if the marker MK according to the present invention is used, the recognition system 2 recognizes the marker MK and calculates the angle ⁇ if a pattern equal to or larger than the number of bits determined by the variable p is not hidden. An image subjected to AR processing can be displayed.
  • FIG. 16 is a view showing a modified example of the medium on which the display marker is formed.
  • the marker MK may indicate information other than the angle ⁇ , for example, as illustrated.
  • the marker MK may be a marker having an angle pattern PAG indicating the angle ⁇ and an ID pattern PID indicating ID (Identification) data SQID (hereinafter referred to as “marker with ID MK ID”).
  • the recognition system 2 can specify the angle ⁇ from the angle pattern PAG. Furthermore, when the marker MKID with ID is used, the recognition system 2 can specify the ID data SQID. If the ID data SQID is present, for example, the recognition system 2 can identify the marker by the ID even if two or more markers appear in one image. Therefore, the recognition system 2 can, for example, properly use the image to be superimposed in the AR processing according to the ID, or specify the type of the subject.
  • the information to be added is not limited to the ID, and may be other types of data.
  • FIG. 17 is a functional block diagram showing an example of a functional configuration of the marker generation device.
  • the marker generation device 10 is a functional configuration including a data generation unit 10F1, a partial marker generation unit 10F2, and a display marker generation unit 10F3.
  • the illustrated functional configuration will be described as an example.
  • the data generation unit 10F1 performs a data generation procedure to generate data to be M series.
  • the data generation unit 10F1 is realized by the CPU 10H1 or the like.
  • the partial marker generation unit 10F2 performs a partial marker generation procedure of generating the partial marker MKP by arranging the patterns of the first color and the second color according to the bits constituting the data generated by the data generation unit 10F1.
  • the partial marker generation unit 10F2 is realized by the CPU 10H1 or the like.
  • the display marker generation unit 10F3 performs a display marker generation procedure of generating the display marker MKV by combining the partial marker MKP generated by the partial marker generation unit 10F2 and the inversion marker MKP2 obtained by inverting the partial marker MKP1.
  • the display marker generation unit 10F3 is realized by the CPU 10H1 or the like.
  • the marker generation device 10 can generate M-sequence data DM as shown in FIG. 4 by the data generation unit 10F1. Then, when patterns having lengths corresponding to “1” and “0” are arranged, the marker generation device 10 causes the partial marker generation unit 10F2 to display a portion as shown in FIG. A marker MKP can be generated. Next, as shown in FIG. 6, the marker generation device 10 combines the partial marker MKP1 and the inversion marker MKP2 by the display marker generation unit 10F3 to generate a display marker MKV indicating M cycle data DM of two cycles. .
  • the recognition system 2 can accurately recognize.
  • the recognition system 2 can also recognize the posture of the subject, that is, the angle ⁇ , from the pattern of the display marker MKV.
  • the conventional method since the conventional method must recognize and read the entire information code for a marker such as a bar code, the information code can be read from any angle in order to be read from any direction of the three-dimensional object. There must be multiple placements so that every one of them can be recognized. Therefore, if the information code is distorted or partially hidden by the curved surface of the three-dimensional object, in the conventional method, the marker may not be recognized with high accuracy in the recognition process or the like.
  • a single marker can generate a marker for accurately recognizing a three-dimensional object.
  • the display marker according to an embodiment of the present invention does not necessarily recognize the whole in the reading, and recognizes at least only a pattern portion corresponding to a number sequence of bits determined by the M sequence variable p. If it can be read, it is possible to know the orientation of the solid object to which the display marker is attached.
  • the three-dimensional object is preferably a rotating body.
  • the three-dimensional object may be a sphere, a cone, a prism, a cube or the like. More preferably, the rotating body is cylindrical.
  • it may be a subject that recognizes a subject such as a mug, a flowerpot, a wine bottle, or a vase.
  • the three-dimensional medium is not limited as long as it is an object to be attached to a three-dimensional object.
  • the three-dimensional medium may be part of the subject. That is, the three-dimensional medium and the subject may be integrated.
  • display markers are not limited to being used in AR systems. That is, the display marker may be used for recognition processing such as detection or tracking of an object.
  • Each device may not be realized by one device. That is, each device may be configured by a plurality of devices. For example, an information processing system having a plurality of devices may perform each processing in a distributed, parallel or redundant manner.
  • each process according to the present invention may be described by a low-level language such as an assembler or a high-level language such as an object-oriented language and realized by a program for causing a computer to execute a marker generation method.
  • the program is a computer program for causing a computer such as an information processing apparatus or an information processing system having a plurality of information processing apparatuses to execute each process.
  • the computing device and the control device of the computer perform computation and control based on the program in order to execute each process.
  • a storage device included in the computer stores data used for processing based on a program in order to execute each processing.
  • the program can be recorded and distributed in a computer readable recording medium.
  • the recording medium is a medium such as an auxiliary storage device, a magnetic tape, a flash memory, an optical disc, a magneto-optical disc or a magnetic disc.
  • the program can be distributed via telecommunication lines.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Electromagnetism (AREA)
  • General Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Processing Or Creating Images (AREA)

Abstract

立体物に表示する表示マーカを生成するマーカ生成装置は、M系列となるデータを生成するデータ生成部と、前記データを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカを生成する部分マーカ生成部と、前記部分マーカと、前記部分マーカにおける前記第1色及び前記第2色を反転させた反転マーカとを組み合わせて前記表示マーカを生成する表示マーカ生成部とを含む。

Description

マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体
 本発明は、マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体に関する。
 いわゆるM系列(Maximum length sequence、線形最大周期列又は最大長系列)に基づいて、物体の位置検出に利用するためのマーカを生成する技術が知られている。
 例えば、まず、M系列を構成するビット(bit)を示すように、x方向に1次元バーコード(barcode)が生成される。次に、y方向に同様の1次元バーコードを生成し、プロジェクタが、生成された2方向のバーコードを重ねて表示する。そして、表示されたバーコードのある位置を読み取ると、バーコードが表示されている全領域に対して読み取った位置の2次元座標が特定できる方法が知られている(例えば、特許文献1を参照)。
 また、立体物をバーコードで認識するために、同一のコードを複数個配置する方法が知られている(例えば、特許文献2を参照)。
米国特許出願公開第2016/0084960号明細書 特開2017-91050号公報
 しかしながら、従来の方法は、バーコード等のマーカについてその情報コードの全体を認識し、読まなければならないため、立体物のどの方向からでも読めるようにするためにはどの角度からでもその情報コードの一つ分がすべて認識できるように複数配置しなければならず、例えば、立体物の曲面によって情報コードが歪んだり、一部が隠れたりすると、認識処理等において、マーカが精度良く認識されない場合がある。
 そこで、本発明に係る一実施形態は、精度良く認識されるマーカを生成することを目的とする。
 上記目的を達成するために、本発明の一実施形態に係る、立体物に表示する表示マーカを生成するマーカ生成装置は、
 M系列となるデータを生成するデータ生成部と、
 前記データを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカを生成する部分マーカ生成部と、
 前記部分マーカと、前記部分マーカにおける前記第1色及び前記第2色を反転させた反転マーカとを組み合わせて前記表示マーカを生成する表示マーカ生成部と
を含む。
 上記構成により、精度良く認識されるマーカを生成することができる。
全体構成の一例を示すシステム図である。 マーカ生成装置のハードウェア構成例を示すブロック図である。 マーカ生成装置による処理例を示すフローチャートである。 M系列となるデータの一例である。 M系列となるデータに基づいて生成される部分マーカの一例である。 部分マーカに基づいて生成される表示マーカの一例である。 表示マーカを用いる効果の一例(その1)である。 表示マーカを用いる効果の一例(その2)である。 表示マーカを用いる効果の一例(その3)である。 和服における帯の試着システムの構成例を示すシステム図である。 和服における帯の試着システムで使用される表示マーカが形成された媒体の一例を示す図である。 和服における帯の試着システムで撮影される赤外線画像及び表示される表示画像の一例を示す図である。 和服における帯の試着システムによる効果の一例(その1)を示す図である。 和服における帯の試着システムが行う処理の一例を示す図である。 和服における帯の試着システムによる効果の一例(その2)を示す図である。 表示マーカが形成された媒体の変形例を示す図である。 マーカ生成装置の機能構成例を示す機能ブロック図である。
 以下、本発明に係る最適な実施形態について、添付する図面を参照して具体例を説明する。
 <マーカ生成装置を使用したシステム構成例>
 図1は、全体構成の一例を示すシステム図である。
 例えば、マーカ生成システム1と、認識システム2とを有するAR(Augmented Reality、拡張現実)システム100では、まず、マーカ生成システム1によって、マーカMKが生成される。すなわち、情報処理システムの例であるARシステム100は、マーカ生成装置10と、情報処理装置とを有するシステムである。マーカMKを生成するためのマーカ生成方法の詳細は、後述する。そして、マーカ生成システム1でマーカMKが媒体MDに形成された後、媒体MDは、被写体TGに貼り付けられて認識システム2で立体媒体として使用される。以下、立体媒体の例を媒体MDで説明する。
 まず、認識システム2では、媒体MDが貼り付けられた被写体TGが撮影される。具体的には、マーカMKが表示された被写体TGが、認識システム2が有する撮影装置21によって撮影されると、マーカMKが写った画像(以下「処理前画像IMG1」という。)が生成される。次に、認識システム2は、処理前画像IMG1におけるマーカMKが表示される箇所を他の画像に置換する、いわゆるAR処理を行う。このようにすると、認識システム2は、処理前画像IMG1の一部を他の画像に置き換えた画像、いわゆるAR画像(以下「処理後画像IMG2」という。)を生成し、出力できる。
 なお、マーカ生成装置を使用したシステム構成は、図示するシステム構成に限られない。以下、図示するARシステム100を例に説明する。まず、ARシステム100におけるマーカ生成側となる構成例、すなわち、マーカ生成システム1を説明する。一方で、認識側となる構成例、すなわち、認識システム2については後述する。
 <マーカ生成システムの構成例>
 例えば、マーカ生成システム1は、図示するように、マーカ生成装置の例であるPC(Personal Computer)10と、出力装置の例であるプリンタ11とを有する。そして、図示するマーカ生成システム1では、まず、PC10がマーカMKを生成し、プリンタ11にマーカMKを示す印刷用のデータを送る。次に、プリンタ11は、PC10から送られてくる印刷用のデータに基づいて、媒体MDに対して画像形成を行い、マーカMKを示す媒体MDを作成する。なお、媒体MDには、画像形成によってマーカMKが形成されなくともよい。例えば、媒体MDには、PC10が生成したマーカMKと同じパターンとなるように、異なる2色の素材等が貼り付けられて、媒体MD上にマーカMKが形成されてもよい。
 <マーカ生成装置のハードウェア構成例>
 図2は、マーカ生成装置のハードウェア構成例を示すブロック図である。
 PC10は、情報処理装置である。なお、PC10は、PC以外の種類の情報処理装置でもよい。例えば、PC10は、以下のようなハードウェア構成の装置である。
 PC10は、CPU(Central Processing Unit)10H1と、記憶装置10H2と、通信装置10H3と、インタフェース(interface)10H4と、入力装置10H5と、出力装置10H6とを有するハードウェア構成である。
 CPU10H1は、演算装置及び制御装置の例である。したがって、CPU10H1は、処理を実現するため、演算及びハードウェアの制御等を行う。
 記憶装置10H2は、例えば、メモリ等の主記憶装置である。また、記憶装置10H2は、ハードディスク又はSSD(Solid State Drive)等の補助記憶装置を更に有してもよい。
 通信装置10H3は、インターネット又はLAN(Local Area Network)等のネットワークを介して外部装置とデータを送受信する装置である。例えば、通信装置10H3は、コネクタ及び処理IC(Integrated Circuit)等である。
 インタフェース10H4は、外部装置とデータを送受信する装置である。例えば、インタフェース10H4は、コネクタ及び処理IC等である。
 入力装置10H5は、例えば、キーボード、マウス又はこれらの組み合わせ等である。すなわち、入力装置10H5は、ユーザによる操作を入力する装置である。
 出力装置10H6は、例えば、ディスプレイ等である。すなわち、出力装置10H6は、ユーザに対して処理結果等を出力する装置である。
 なお、ハードウェア構成は、図示する構成に限られない。例えば、PC10は、更に演算装置、制御装置又は記憶装置等を外部又は内部に有してもよい。
 また、情報処理装置は、サーバ等でもよい。さらに、情報処理装置は、1台でなくともよく、複数の装置で構成されてもよい。
 <マーカ生成装置による処理例>
 図3は、マーカ生成装置による処理例を示すフローチャートである。
 <M系列のデータの生成例>(ステップS101)
 ステップS101では、PC10は、M系列のデータを生成する。例えば、PC10は、ステップS101で以下のような処理を行ってM系列を示すデータを生成する。
 図4は、M系列となるデータの一例である。例えば、PC10は、図示するように、M系列を生成して、図示するようなM系列に基づくデータ(以下「M系列データDM」という。)を生成する。
 PC10は、M系列数式SQMを計算すると、M系列データDMを構成するビットを計算できる。M系列数式SQMでは、「Xn」は、M系列データDMを構成するビットを示す。以下、初期数例DIを「1 0 0」とし、変数pを「p=3」、変数qを「q=1」とする例で説明する。
 例えば、M系列数式SQMにおいて、「n=4」、すなわち、M系列データDMにおける左から4つ目のビットは、「X=X4-3(XOR)X4-1」で計算される。したがって、「X」及び「X」は、初期数例DIより、「1」及び「0」である。ゆえに、「n=4」は、「X=X(XOR)X=1(XOR)0=1」となり、「1」となる。以降、「n=5」(X)、「n=6」(X)及び「n=7」(X)も、同様にM系列数式SQMによって計算できる。
 以上のように、初期数例DI及び変数p等が設定されると、PC10は、M系列数式SQMに基づいて、M系列データDMを生成できる。
 なお、M系列データDMは、7ビットに限られない。M系列データDMのビット数、すなわち、1周期は、「2-1」である。具体的には、「p=4」と設定する場合には、1周期は、「2-1=15」となる。したがって、M系列データDMは、7ビット以上のビット数でもよく、変数pによって定まる奇数である。
 <部分マーカの生成例>(ステップS102)
 図3に戻り、ステップS102では、PC10は、部分マーカを生成する。
 図5は、M系列となるデータに基づいて生成される部分マーカの一例である。例えば、ステップS101で生成されるM系列データDMに基づいて、PC10は、図示するように、M系列データDMをバーコード化したマーカ(以下「部分マーカMKP」という。)を生成する。
 以下、部分マーカMKPが、第1色の例である黒色と、第2色の例である白色のパターンを配置して生成される例で説明する。なお、この例は、第1パターンPTN1乃至第7パターンPTN7、すなわち、7ビット分が、左側から右側に向かって順に並べられて部分マーカMKPが生成される例である。
 また、以下の説明は、図4に示すM系列データDMを例に説明する。さらに、この例では、部分マーカMKPの最初のパターン、すなわち、第1パターンPTN1は、黒色であるとする。そして、この次のパターン、すなわち、第2パターンPTN2は、白色であるとする。このように、パターンは、色が交互となる構成とする。すなわち、隣り合うパターンは、異なる色となり、各パターンが色によって区別できる配色であるとする。
 また、図示する例では、ビットが「1」であるのを太いパターンで示し、一方で、ビットが「0」であるのを細いパターンとして示す。具体的には、第1パターンPTN1、第4パターンPTN4、第5パターンPTN5及び第6パターンPTN6は、図示するように、「1」のビットである第1ビットM1、第4ビットM4、第5ビットM5及び第6ビットM6に対応する。一方で、第2パターンPTN2、第3パターンPTN3及び第7パターンPTN7は、図示するように、「0」のビットである第2ビットM2、第3ビットM3及び第7ビットM7に対応する。
 したがって、図示するように、第1パターンPTN1、第4パターンPTN4、第5パターンPTN5及び第6パターンPTN6は、第2パターンPTN2、第3パターンPTN3及び第7パターンPTN7より太い(図は、横方向に長い例である。)パターンとなる。
 この例では、第2パターンPTN2、第3パターンPTN3及び第7パターンPTN7を「1」の長さとし、第1パターンPTN1、第4パターンPTN4、第5パターンPTN5及び第6パターンPTN6を「4」の長さとする例である。すなわち、太いパターンの長さと、細いパターンの長さとの比は、「4:1」となる例である。
 なお、部分マーカMKPには、図示するように、空白となる部分(以下単に「空白」という。)があるのが望ましい。図示する例では、パターンが配置される方向(図では、横方向となる。)に対して、直交する方向(図では、上下方向となる。)に空白があるのが望ましい。具体的には、空白は、第1スペースSP1と、第2スペースSP2とである。このように、第1スペースSP1及び第2スペースSP2のような空白があると、情報処理装置が、各パターンが表示されている箇所を精度良く認識できる。
 なお、「1」のビットを太いパターンとし、かつ、「0」のビットを細いパターンとする組み合わせに限られない。すなわち、組み合わせを逆にして、「0」のビットを太いパターンとし、かつ、「1」のビットを細いパターンとしてもよい。
 なお、第1色及び第2色は、黒色及び白色の組み合わせに限られない。すなわち、第1色と、第2色とは、区別できる色であればよく、黒色及び白色以外でもよい。ただし、第1色及び第2色は、黒色及び白色が望ましい。黒色及び白色であると、光源等の環境が変化しても情報処理装置が色を認識しやすい。
 なお、太いパターンの長さと、細いパターンの長さとの比は、「4:1」に限られない。すなわち、比率は、情報処理装置が長さによって各パターンを区別できる程度であればよい。例えば、太いパターンの長さと、細いパターンの長さとが大きく異なる比率とすると、情報処理装置が、太いパターンと、細いパターンとを精度良く区別できる。一方で、太いパターンの長さと、細いパターンの長さとの違いが小さい比率とすると、マーカによって符号化できる情報量を多くできる。
 <表示マーカの生成例>(ステップS103)
 図3に戻り、ステップS103では、PC10は、表示マーカを生成する。
 図6は、部分マーカに基づいて生成される表示マーカの一例である。以下、図示するように、ステップS102で生成される部分マーカMKP1と、ステップS102で生成される部分マーカが有する各パターンの色を反転させたマーカ(以下「反転マーカMKP2」という。)とを組み合わせて表示マーカMKVを生成する例で説明する。
 図示する例は、図における左側に、部分マーカMKP1を配置した例である。さらに、この例は、部分マーカMKP1の右側に、反転マーカMKP2を配置した例である。
 図示するように、部分マーカMKP1と、反転マーカMKP2とは、どちらも同じM系列データDMを示すパターンを有する。具体的には、第1パターンPTN1と、第21パターンPTN21とは、どちらも第1ビットM1の「1」を示すため、どちらも太いパターンである。一方で、第1パターンPTN1と、第21パターンPTN21とは、色が異なる。同様に、第2パターンPTN2と、第22パターンPTN22とは、どちらも第2ビットM2の「0」を示すため、どちらも細いパターンであるが、色は、異なる。さらに、第3パターンPTN3乃至第7パターンPTN7及び第23パターンPTN23乃至第27パターンPTN27のそれぞれのパターンも、長さが同一であって、色が異なる。
 以上のように、表示マーカMKVでは、2周期分のM系列データDMが、部分マーカMKP1及び反転マーカMKP2によって表示される。この例では、部分マーカMKP1が1周期目を示し、反転マーカMKP2が2周期目を示す。
 また、第1周期と、第2周期で使用した2色とは異なる色の組み合わせとなる2色を第3周期及び第4周期に使用し、表示マーカを4周期分で構成してもよい。同様に、各ビットに割り当てる色をそれ以前に出現した各周期で既に使用されている組み合わせにならないように選択する。このようにすると、表示マーカを構成する周波数を2周期分ずつ増やすことができる。ただし、より精度よく認識するためには、2色で2周期分で実施するのが良く、長さを伸長させる場合には、M系列のビット数を増やす手段をとることが優先される。
 <効果例>
 図7は、表示マーカを用いる効果の一例(その1)である。図4に示すように、M系列データDMのビット数を「2-1」とすると、ビット数は、奇数となる。
 このように、ビット数が奇数であると、図6のように、表示マーカMKVでは、部分マーカMKP1が黒色で始まる場合には、黒色で終わるようになる。つまり、第1パターンPTN1と、第7パターンPTN7とは同じ色となる。
 一方で、反転マーカMKP2の最初のパターン、すなわち、第21パターンPTN21は、第1パターンPTN1を反転した色であるため、白色となる。そのため、図7に示すように、部分マーカMKP1と、反転マーカMKP2とがつながる部分(以下「連続部分CON」という。)があっても、第7パターンPTN7と、第21パターンPTN21とは、異なる色となるため、区別がつく。つまり、ビット数を「2-1」とすると、連続部分CONで、同じ色が並ぶ場合がなく、各パターンが区別できる構成となる。
 図8は、表示マーカを用いる効果の一例(その2)である。図示するような表示マーカMKVを立体物に貼り付ける場合には、部分マーカMKP1が有する最初のパターン、すなわち、第1パターンPTN1と、反転マーカMKP2が有する最後のパターン、すなわち、第27パターンPTN27とがつながる箇所が、接続部P0となる。このとき、接続部P0を構成する第1パターンPTN1と、第27パターンPTN27とは、表示マーカMKVが偶数である「2(2-1)」のビット数を持つことから、必ず異なる色となる。
 図示する例では、表示マーカMKVの左端と、表示マーカMKVの右端とがつながり、接続部P0となる。接続部P0を角度θの「0°」の位置とすると、表示マーカMKVが形成された媒体MDは、図示するように、被写体TGに巻きつけるように貼り付けられる。そのため、「0°」乃至「180°」が部分マーカMKP1となり、一方で、「180°」乃至「360°」が反転マーカMKP2となる。
 そして、M系列データDMにおいて、変数pで定まるビットの数列(以下「部分数列」という。)は、以下のように唯一である。
 図9は、表示マーカを用いる効果の一例(その3)である。具体的には、M系列データDMのうち、第1数列SQ1は、「1 0 0」である。図示するように、第1数列SQ1は、第2数列SQ2が「0 0 1」であるため、異なる数列である。同様に、第1数列SQ1は、第3数列SQ3「0 1 1」、第4数列SQ4「1 1 1」及び第5数列SQ5「1 1 0」とも異なる数列である。
 さらに、第2数列SQ2も、第3数列SQ3乃至第5数列SQ5と異なる数列である。さらにまた、第3数列SQ3乃至第5数列SQ5も同様である。このように、M系列データDMでは、3ビットの数列が重複して存在しない。したがって、このM系列データDMの例では、3ビットの部分数列を指定すると、指定した部分数列がM系列データDMにおいて、どこに位置するか特定できる。
 また、表示マーカMKVのように2周期用いる場合では、部分マーカMKP1と、反転マーカMKP2とは、色が反転している関係であるため、同一の部分数列であっても、どちらの周期に属するか区別することが可能である。具体的には、第1数列SQ1「1 0 0」は、表示マーカMKVでは、第1パターンPTN1、第2パターンPTN2及び第3パターンPTN3の組み合わせと、第21パターンPTN21、第22パターンPTN22及び第23パターンPTN23の組み合わせとで2回出現する。
 そこで、第1パターンPTN1に黒色が割り当てられると、1回目、すなわち、部分マーカMKP1に出現する第1数列SQ1は、「黒色」、「白色」及び「黒色」の組み合わせとなる。一方で、2回目、すなわち、反転マーカMKP2に出現する第1数列SQ1は、「白色」、「黒色」及び「白色」の組み合わせとなる。したがって、1回目と、2回目とでは、同じ部分数列であっても、色の組み合わせが異なるため、色の組み合わせに基づいて、情報処理装置は、1周期目か2周期目かを識別することができる。
 つまり、図8のように表示マーカMKVを立体物の円周を形成するように配したとき、少なくとも変数pで決まる部分数列分のビット数を認識することで、被写体TGが撮影装置に対してどの角度を向いているのかがわかる。
 <和服における帯の試着システム例>
 図1に示すARシステムは、例えば、和服における帯の試着を支援するシステムに適用できる。
 以下、女性用の和服における帯をAR環境下で試着するシステムを例に説明する。具体的には、図1に示すARシステム100において、マーカ生成システム1が生成したマーカMKが形成された媒体MDを人体のウエスト部分に胴囲に沿って貼り付けるとする。そして、貼り付けられた媒体MDが示すマーカMKを含む人体を被写体TGとして、以下のような認識システム2が撮像し、AR処理を行った処理後画像IMG2を表示する。
 図10は、和服における帯の試着システムの構成例を示すシステム図である。図示するように、認識システム2は、撮影装置21と、認識装置22とを有する。撮影装置21の構成は、後述する。一方で、認識装置22は、例えば、PC等の情報処理装置であり、具体的には、図2に示すようなハードウェア構成の装置等である。
 認識システム2は、被写体TGとなるユーザが、試着の際に以下のように用いる。まず、ユーザは、和服を実際に着用し、和服を紐又は伊達締め等で人体に固定する。その上に、ユーザは、帯のダミーとなるマーカMKを示す媒体MDを装着する。
 そして、ユーザが撮影装置21によって撮影されると、認識装置22は、液晶ディスプレイDIP等の出力装置を介して、ユーザに、処理後画像IMG2を表示する。
 処理後画像IMG2は、あらかじめ実物の帯を3Dスキャンしてモデル化したCG(Computer Graphics)の帯(以下「仮想帯VA」という。)をマーカMK部分に置き換えて表示する。なお、仮想帯VAは、マーカMKに基づいて、サイズ、位置及び向きに合わせて表示される。
 また、図示するように、撮影装置21は、赤外線光LIRを投光する赤外線投光器21Cと、赤外線光LIRを感知する赤外線カメラ21Bと、可視光LVを感知する可視光カメラ21Aとを有する構成にすることで、マーカ認識を容易に行うことができる。
 この構成では、ユーザに関する画像、すなわち、ユーザの顔及び和服等は、可視光カメラ21Aが撮影する。この可視光カメラ21Aによって撮影される画像が、処理前画像IMG1となる。
 一方で、マーカMKは、赤外線カメラ21Bが撮影する赤外線画像IMGIRに基づいて、認識装置22によって認識される。
 また、図示する構成のように、カメラを二台使用する場合にはハーフミラーHMを用いる構成であるのが望ましい。ハーフミラーHMは、透明ガラス板のような直進方向に透過率の高い部材を用いると高品位な画像をユーザに提供できる。
 ハーフミラーHMがあると、可視光カメラ21Aと、赤外線カメラ21Bとが直交するように配置できる。そして、可視光カメラ21Aと、赤外線カメラ21Bとが直交すると、ハーフミラーHMを介して、可視光カメラ21Aと、赤外線カメラ21Bのそれぞれの光軸が一致する。さらに、可視光カメラ21Aと、赤外線カメラ21Bのそれぞれの画角を一致させる設定とする。このように、可視光カメラ21Aと、赤外線カメラ21Bとの光軸及び画角を一致させる設定であると、処理後画像IMG2を生成する上で、座標変換及びキャリブレーション等の作業及び処理が容易になる。
 つまり、処理後画像IMG2を生成するAR処理上で、処理前画像IMG1に仮想帯VAの画像を重畳させる処理において、赤外線画像IMGIRに基づいて検出されたマーカMKとほぼ同じ位置及びほぼ大きさに仮想帯VAの画像を重畳させると、認識装置22は、処理後画像IMG2を生成できる。
 <和服における帯の試着システムで使用される表示マーカが形成された媒体例>
 図11は、和服における帯の試着システムで使用される表示マーカが形成された媒体の一例を示す図である。以下、図8に示す接続部P0をつないで、表示マーカMKVを図11(B)に示すように円筒状にした媒体MDに使用する例で説明する。なお、以下の説明では、円筒状となった媒体MDの円周方向における位置を「角度θ」で示す。また、光軸を「Z軸」とする。そして、垂直軸を「Y軸」とし、水平軸を「X軸」とする。
 媒体MDは、例えば、図11(A)に示すような構成である。具体的には、媒体MDは、再帰性反射材MTに、表示マーカMKVにおける第1色のパターンに相当する幅を持つ光の反射を妨げる素材MSを、第2色のパターンに相当する幅の間隔で貼り付けて構成される。このような媒体MDを用いる場合における赤外線画像IMGIRを2値化処理した画像では、再帰性反射材MTが露出している部分が白色と認識される。一方で、再帰性反射材MTが素材MSで覆われている部分は、黒色と認識される。このように、再帰性反射材MTを用いると、撮影装置21は、表示マーカMKV部分を明瞭に撮影できる。
 なお、媒体MDは、図示するように、塩化ビニル板CH等があってもよい。このような構成であると、媒体MDが帯の形状に安定する。すなわち、再帰性反射材MTの裏側に、塩化ビニル板CHと、接着芯ADとを貼り付け、補強がされてもよい。
 なお、表示マーカMKVの第1色と第2色を構成する素材は、再帰性反射材MTや素材MSに限られず、例えば、紙等の素材でもよい。
 <和服における帯の試着システムで撮影される赤外線画像及び表示画像の例>
 図12は、和服における帯の試着システムで撮影される赤外線画像及び表示される表示画像の一例を示す図である。図示する例では、図12(A)は、赤外線カメラ21Bが撮影する赤外線画像IMGIRの例となる第1赤外線画像IMGIR1を示す。なお、第1赤外線画像IMGIR1は、2値化の処理がされた画像である。図示する例において、第1赤外線画像IMGIR1では、図11に示す媒体MDが、第1表示マーカMKV1の箇所であると明瞭に認識できるように撮影されている。
 そして、認識装置22は、可視光カメラ21Aが撮影する処理前画像IMG1に、あらかじめ3Dスキャンによってモデル化される仮想帯VAの画像を重ねて処理後画像IMG2を生成し、表示する。例えば、図12(B)に示すような第1処理後画像IMG21が生成及び表示される。
 また、認識システム2は、表示マーカMKVのどの部分が写っているか、すなわち、表示マーカMKVの全周のうち、どの部分が写っているかを判断できる。そのため、以下のような効果を奏する。
 図13は、和服における帯の試着システムによる効果の一例(その1)を示す図である。図13は、図12と比較すると、被写体となるユーザが向いている向きが異なる。具体的には、図12(B)では、ユーザは、正面を向く姿勢であるのに対して、図13(B)では、ユーザは、後ろ向きの姿勢である点が異なる。
 第2赤外線画像IMGIR2に示すように、第1赤外線画像IMGIR1と比較して、表示マーカMKVが、第2赤外線画像IMGIR2では、第2表示マーカMKV2であるのに対して、第1赤外線画像IMGIR1では、第1表示マーカMKV1である。すなわち、赤外線画像IMGIRで撮影される表示マーカMKVから、表示マーカMKVが示すパターンを解析すると、認識システム2は、ユーザの姿勢を判断することができる。
 この例では、図12(B)に示す第1処理後画像IMG21のように、認識システム2は、ユーザ正面を向く姿勢であると認識すると、仮想帯VAにおける正面部分となる第1仮想帯画像VA1を重ねて第1処理後画像IMG21を生成し、表示する。一方で、図13(B)に示す第2処理後画像IMG22のように、認識システム2は、ユーザが後ろを向く姿勢であると認識すると、仮想帯VAにおける背面部分となる第2仮想帯画像VA2を重ねて第2処理後画像IMG22を生成し、表示する。このように、認識システム2は、被写体の姿勢に合わせて、画像を重畳させるAR処理ができ、被写体の姿勢に合わせた処理後画像を生成することができる。
 <認識システムにおける処理例>
 図14は、和服における帯の試着システムが行う処理の一例を示す図である。例えば、認識システム2は、マーカ生成システム1が生成した表示マーカMKVを貼り付けた被写体を撮影した後、図示するような処理を行って、表示マーカMKVを認識する。
 以下、認識システム2が、表示マーカMKVの一部を写した赤外線画像IMGIRからそれをマーカと認識する例で説明する。したがって、認識システム2は、図示するようなマーカMKを示す矩形画像領域を処理対象とする。
 また、この例では、マーカ生成処理例のステップS102で決定された、太いパターンと細いパターンとの長さの比が、「r:r」の比であるとする。このときrが太いパターンを、rが細いパターンを示す。
 まず、ステップS200では、認識システム2は、ある方向から表示マーカMKVの一部を撮影した画像から、処理対象となるラインを抽出する。以下、パターンが並べられる方向に対して直交する方向(図では、上下方向となる。)において、「i」行目のラインが処理対象となる例で説明する。
 ステップS201では、認識システム2は、まず、パターンが並べられる方向(図示する例では、左側から右側とする。)に走査する処理を行う。そして、認識システム2は、画素値等に基づいて、各画素が黒色であるか白色であるかを判断する。次に、認識システム2は、連続して同じ色となる画素数(以下「ランレングス」という。)をカウントする。そして、認識システム2は、各ランレングスを数式化して、例えば、「数列W」のような数列データSQWを生成する。
 「数列W」における各要素、すなわち、各ランレングスは、黒色の画素又は白色の画素を1画素以上カウントした数値である。したがって、数値は、「0」より大きい値となる。また、図示する例では、「L」は、「数列W」における要素数であり、黒色のパターン及び白色のパターンが現れる総回数となる。この例では、「数列W」は、「L=9」となる。さらに、「数列W」を一般化すると、第1数式ME1のように示せる。
 なお、表示マーカMKVの画像に基づいて、変数pに対して「p+1」を所定ビット数とし、所定ビット数以上のパターンが認識された場合には、認識システム2は、ステップS202に進む。一方で、所定ビット数未満のパターンしか認識されない場合には、例えば、認識システム2は、「i=i+1」とし、別のラインでステップS201以下の処理を行うようにしてもよい。この場合、所定ビット数は変数p以上であればよく、増やすほど誤認識を避ける処理になり、減らすほど認識可能性を高める処理になる。
 ステップS202では、認識システム2は、「数列W」における各要素の合計値「S」と、「数列W」における各要素の平均値「A」とを計算する。まず、合計値「S」の計算式は、第21数式ME21のように示せる。具体的には、図示する例では、認識システム2は、「S=40+38+7+9+8+41+37+2+39=221」を計算する。
 一方で、平均値「A」の計算式は、第22数式ME22のように示せる。具体的には、図示する例では、認識システム2は、「A=221÷9=24.55・・・」を計算する。なお、平均値「A」は、パターンの長さの平均に相当する。
 ステップS203では、認識システム2は、「数列W」における各要素が平均値「A」以上であるか未満であるかを判断する。この判断は、例えば、第3数式ME3のように示せる。
 そして、認識システム2は、「数列W」における各要素を判断した結果の集まりとなる「数列X」を示す数列データSQX1を生成する。図示するように、「数列W」における「j」番目の要素の判断結果を「数列X」における要素「xi,j」とすると、「xi,j」は、「数列W」における各要素「wi,j」が平均値「A」以上の値であると「1」とされる。一方で、「xi,j」は、「数列W」における各要素「wi,j」が平均値「A」未満の値であると「0」とされる。つまり「A」は、各パターンが細いパターンであるか太いパターンであるか、すなわち、「0」を示すパターンであるか「1」を示すパターンであるかを判断する基準値とし、これによって数列Xを得る。
 以下、「数列X」における「1」の要素の数を「n」個とし、「数列X」における「0」の要素の数を「m」個とする。図示する例では、「n=5」及び「m=4」となる。また、「n+m=L」の関係となる。
 ステップS204では、認識システム2は、「r:r」の比における「数列X」の「0」に相当する線幅「A」を計算する。具体的には、認識システム2は、線幅「A」を合計値「S」の加重平均から計算する。この計算を数式に示すと、第4数式ME4のように示せる。
 以上のようにして計算される線幅「A」は、次のステップS205において、各パターンが「1」を示すパターンであるか、「0」を示すパターンであるか、又は、そのどちらとも確定できないかを判断するための閾値を生成する基準値になる。
 ステップS205では、認識システム2は、ステップS204の結果に基づいて、「数列W」に基づいて再度判断を行い、数列データSQX2を生成する。具体的には、線幅「A」を「r」倍すると、「1」を示すパターンの長さが定まる。同様に、線幅「A」を「r」倍すると、「0」を示すパターンの長さが定まる。
 例えば、数列データSQX2を生成するための数式は、第5数式ME5のように示せる。図示する例では、「数列W」における各要素が、下限値「3.0×A」以上、かつ、上限値「5.5×A」以下の値であると、認識システム2は、「1」を示すパターンであると判断する。一方で、「数列W」における各要素が、下限値「0.4×A」以上、かつ、上限値「1.5×A」未満の値であると、認識システム2は、「0」を示すパターンであると判断する。さらに、「数列W」における各要素が、それ以外の値である場合には、認識システム2は、「数列W」における当該の要素をエラーと判断し、「-1」とする。このときエラーの要素に与える数は「1」および「0」以外であればよく、「-1」でなくともよい。また閾値である上記の各下限値および上限値を決定するために「A」に乗ずる数はこの例に寄らない。
 「数列W」における各要素は、ノイズ及び歪み等が影響する場合がある。そのため、「数列W」における各要素の値は、ばらつきやすい。そこで、ステップS204のように線幅「A」を計算し、ステップS205のような判断を行うと、認識システム2は、ばらつきがあっても、パターンの種類を精度良く判断できる。
 ステップS206では、認識システム2は、エラー部分を除いて、所定ビット数以上となる数列があるか否か判断する。図示する数列データSQX2では、「-1」となる要素を除いて連続する7つのビットが存在する例である。なお、エラーによって、所定ビット数以上となる部分数列が抽出できない場合には、例えば、認識システム2は、「i=i+1」とし、ステップS201に戻ってもよい。また、所定ビット数は、変数p以上の数で設定する。
 ステップS207では、認識システム2は、数列データSQX2から、ステップS206で判定したビットから、所定ビット数の部分数列を抽出する。具体的には、この例では、認識システム2は、ステップS206で判定した連続する7ビットから、5ビットを所定ビット数とした場合の部分数列となる第1部分数列SQP1、第2部分数列SQP2及び第3部分数列SQP3の3つの部分数列を抽出する。
 ステップS208では、認識システム2は、あらかじめ認識システム2に記憶されるM系列数列SQNと、ステップS207で抽出される第1部分数列SQP1、第2部分数列SQP2及び第3部分数列SQP3とを照合して同一のビット数列がないか否か判断する。具体的には、ステップS207で抽出される第2部分数列SQP2は、M系列数列SQNにおける第1部分SQN1と一致する。同様に、ステップS207で抽出される第3部分数列SQP3は、M系列数列SQNにおける第2部分SQN2と一致する。なお、該当する部分がない場合には、例えば、認識システム2は、「i=i+1」とし、ステップS201に戻ってもよい。
 そして、M系列数列SQNのある部分数列が角度θのどこに該当するかはあらかじめ定まる。そのため、図示する例では、認識システム2は、被写体TGが少なくともM系列数列SQNにおける第1部分SQN1及び第2部分SQN2の部分が見える姿勢であると判断できる。
 したがって、ステップS208によって、認識システム2は、一致した部分に該当する角度θを特定し、角度θに対応する仮想帯VAを出力できる。このようにすると、認識システム2は、図12及び図13等のように、被写体TGの姿勢、すなわち、表示マーカMKVに基づいて定まる角度θに合わせた画像を重畳させるAR処理を行うことができる。そして、認識システム2は、AR処理を行った画像を表示することができる。
 <実験結果>
 以下、下記のような実験条件で行った実験結果を示す。
 
 ・p=5(M系列の1周期分の数列は、31ビットとなる。)
 ・太いパターンと、短いパターンの長さの比 4:1
 ・媒体の全周囲 82.5[cm]
 ・仮想帯のスキャンデータ 頂点数5000点程度
 ・表示するフレーム数 13[fps(フレーム毎秒)]
 
 上記のように、比が「4:1」とすると、「2:1」及び「3:1」等と比較して、認識システム2がパターンの長短を安定して認識できる結果となった。また、媒体の全周囲が70[cm]乃至80[cm]程度であると、ユーザが装着時に圧迫感又は緩み等を感じない大きさとすることができた。
 さらに、図10に示すように、赤外線光LIRが投光され、かつ、図11に示すように、再帰性反射材MTを用いる構成であると、認識システム2がマーカMKを精度良く認識できる構成とすることができた。
 また、あらかじめ3Dスキャンで仮想帯のデータを生成する際に、CGの元データから頂点数を0.02[%]程度に削減し、上記の値となった仮想帯のデータを使用した。頂点数が多いと、リアルタイムにAR処理を行った画像を出力することが難しくなる。そこで、実験では、頂点数を減らす調整をあらかじめ行った仮想帯のスキャンデータを使用した。
 さらに、実験では、認識システム2は、赤外線カメラ21Bが撮影した赤外線画像IMGIRをOpenCV(登録商標)における2値化機能で2値化した画像を使用した。
 次に、実験では、2値化した画像に点状のノイズが現れたので、認識システム2に、ラベリング(連結成分抽出)処理を行わせた。そして、認識システム2に、ラベリング処理の結果から、3000画素以下の面積となる領域を破棄させる設定とした。なお、設定した面積値は、ユーザが撮影装置21に対して3[m]以内に立つ条件を想定した設定値である。このようにすると、認識システム2は、小さな領域となって現れるノイズを除去することができた。
 また、認識システム2では、マーカMKの縦横比と、縦横比が異なる領域が破棄されるような設定とした。この実験では、縦横比αを「0.65≦α≦1.1」と設定した。このような設定であると、上記の縦横比αの範囲から外れる領域は、破棄される。すなわち、表示マーカMKVより大きく縦長又は横長に認識された領域は、ノイズと判断され、破棄される。
 以上のような設定とし、ノイズを除去すると、認識システム2では、マーカMKを精度良く認識できた。
 また、認識システム2では、マーカMKを含む矩形の領域の中心座標を計算して、仮想帯VAを表示する中心座標とした。さらに、認識システム2では、マーカMKを含む矩形の領域のサイズから、仮想帯VAを表示するサイズとした。
 以上のような条件の実験では、認識システム2が、赤外線画像IMGIRからマーカMKを認識するのを失敗する確率、いわゆる誤認識率は、約2.2[%]となった。
 また、実験では、4名(20歳乃至24歳の女性である。)の被験者に和服における帯の試着システムを利用してもらった。4名のうち、和服を週1回程度着る人は、3名であって、和服を全く着ない人は、1名であった。なお、和服を週1回程度着る3名は、和服の購入経験がある者であった。一方で、残りの1名は、和服の購入経験がない者であった。また、和服を週1回程度着る3名は、帯の購入において重視する項目は、「自分が所有する和服の色に帯の色及び柄が合うか」であった。
 被験者4名には、実験において、5分程度の説明を行った後、約10分程度、和服における帯の試着システムによって試着を行ってもらった。試着では、被験者は、自身の体を回転させる、腕を上げる、及び、腕を下げる等の動作を行った。
 試着後、被験者からは、下記のような回答が得られた。
 
 ・簡単に疑似的な試着を行うことができた。特に、複数の種類の帯を試着する場合は有用である。
 ・仮想帯VAが帯結びをした状態で表示されるため、実際に帯結びをした場面をイメージしやすい。
 ・和服を着用する経験がない人は、和服及び帯についての知識がない人が近くにいなくても帯の試着を行うことができる。
 
 和服における帯は、装着するのに時間と技術が必要となる場合が多い。そのため、特に和服の着用経験がない人にとって、多数の種類を試着することは、困難な場合が多い。また、帯は、結ぶと、帯にシワが残りやすい。そのため、結んでしまうと商品価値が下がってしまうため、実物の試着でも、帯の試着は、帯を結ばず、体にあてがうようにして試着する場合が多い。
 そこで、本発明に係るARシステム100のように、まず、マーカMKを生成して、マーカMKを認識システムに用いる。図6に示すような表示マーカMKVであると、人体の胴部分のような円筒形の立体物であっても、認識システムが精度良く認識することができる。そのため、図12(B)のように、仮想的に帯を試着した様子をユーザに表示することができる。
 なお、試着の対象となる衣類は、帯に限られない。すなわち、帯以外の種類が試着の対象となってもよい。
 <その他の効果>
 図15は、和服における帯の試着システムによる効果の一例(その2)を示す図である。図示するように、認識システム2は、マーカの一部が手等によって隠されても、マーカを認識して処理後画像IMG2を表示できる。
 具体的には、図15(A)に示す第3赤外線画像IMGIR3は、認識対象となる第3表示マーカMKV3は、ユーザの手によって、マーカの一部分MKV3Pが隠されている状態を示す画像である。このような状態であっても、認識システム2は、図15(B)に示すような第3処理後画像IMG23を表示できる。
 例えば、図9に示すように、「p=3」である場合には、少なくとも3ビット分が認識できれば、認識システム2は、角度θを計算できる。すなわち、本発明に係るマーカMKを用いれば、変数pで定まるビット数以上のパターンが隠れずにいれば、認識システム2は、マーカMKを認識し、かつ、角度θを計算し、マーカMK部分に対してAR処理を行った画像を表示することができる。
 <マーカを示す媒体の変形例>
 図16は、表示マーカが形成された媒体の変形例を示す図である。マーカMKは、例えば、図示するように、角度θ以外の情報を示してもよい。例えば、マーカMKは、角度θを示す角度パターンPAGと、ID(Identification)データSQIDを示すIDパターンPIDとを有するマーカ(以下「ID付マーカMKID」という。)でもよい。
 図示するように、ID付マーカMKIDを使用すると、認識システム2は、角度パターンPAGから角度θを特定できる。さらに、ID付マーカMKIDを使用すると、認識システム2は、IDデータSQIDを特定できる。IDデータSQIDがあると、例えば、認識システム2は、1つの画像内に、マーカが2つ以上写った場合であっても、IDによって、マーカを識別できる。ゆえに、認識システム2は、例えば、AR処理で重畳させる画像をIDによって使い分けたり、被写体の種類を特定したりすることができる。なお、追加する情報は、IDに限られず、他の種類のデータでもよい。
 <マーカ生成装置の機能構成例>
 図17は、マーカ生成装置の機能構成例を示す機能ブロック図である。例えば、マーカ生成装置10は、データ生成部10F1と、部分マーカ生成部10F2と、表示マーカ生成部10F3とを含む機能構成である。以下、図示する機能構成を例に説明する。
 データ生成部10F1は、M系列となるデータを生成するデータ生成手順を行う。例えば、データ生成部10F1は、CPU10H1等によって実現される。
 部分マーカ生成部10F2は、データ生成部10F1が生成するデータを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカMKPを生成する部分マーカ生成手順を行う。例えば、部分マーカ生成部10F2は、CPU10H1等によって実現される。
 表示マーカ生成部10F3は、部分マーカ生成部10F2が生成する部分マーカMKPと、部分マーカMKP1を反転させた反転マーカMKP2とを組み合わせて、表示マーカMKVを生成する表示マーカ生成手順を行う。例えば、表示マーカ生成部10F3は、CPU10H1等によって実現される。
 以上のような構成であると、マーカ生成装置10は、データ生成部10F1によって図4に示すようなM系列データDMを生成できる。そして、「1」及び「0」に対応する長さのパターンを配置すると、マーカ生成装置10は、部分マーカ生成部10F2によって、1周期分のM系列データDMを示す図5に示すような部分マーカMKPを生成できる。次に、マーカ生成装置10は、表示マーカ生成部10F3によって、図6に示すように、部分マーカMKP1と、反転マーカMKP2と組み合わせて、2周期のM系列データDMを示す表示マーカMKVを生成する。
 以上のように生成された表示マーカMKVが使用されると、認識させたい被写体が立体物であっても、図8のように巻き付けて取り付けることができる。そのため、被写体が様々な角度から撮影されたり、一部が隠されたりしても、認識システム2が、精度良く認識することができる。また、認識システム2は、表示マーカMKVが有するパターンから、被写体の姿勢、すなわち、角度θを認識することができる。
 また、従来の方法は、バーコード等のマーカについてその情報コードの全体を認識し、読まなければならないため、立体物のどの方向からでも読めるようにするためには、どの角度からでもその情報コードの1つ分がすべて認識できるように複数配置しなければならない。そのため、立体物の曲面によって情報コードが歪んだり、一部が隠れたりすると、従来の方法では、認識処理等において、マーカが精度良く認識されない場合がある。
 一方で、本発明に係る一実施形態では、単一のマーカで、立体物を精度良く認識するためのマーカが生成できる。
 また、本発明に係る一実施形態の表示マーカは、必ずしもその全体が読み取りにおいて認識されずともよく、データのうち、M系列の変数pで定まるビットによる数列に該当するパターン部分のみを少なくとも認識し、読み取ることができれば、その表示マーカが付された立体物の向きを知ることができる。
 <その他の実施形態>
 立体物は、回転体であるのが望ましい。例えば、立体物は、球体、錐体、角柱又は立方体等でもよい。また、回転体は、円筒形であるのがより望ましい。例えば、マグカップ、植木鉢、ワインボトル又は花瓶等の被写体を認識させる被写体としてもよい。
 なお、立体媒体は、立体物に貼り付けられる物体であれば、素材は問わない。又は、立体媒体は、被写体の一部であってもよい。すなわち、立体媒体と被写体は、一体の構成でもよい。
 また、表示マーカは、ARシステムに使用されるに限られない。すなわち、表示マーカは、物体の検出又はトラッキング等の認識処理に使用されてもよい。
 なお、各装置は、1台の装置で実現されなくともよい。すなわち、各装置は、複数の装置で構成されてもよい。例えば、複数の装置を有する情報処理システムは、各処理を分散、並列又は冗長して行ってもよい。
 なお、本発明に係る各処理の全部又は一部は、アセンブラ等の低水準言語又はオブジェクト指向言語等の高水準言語で記述され、コンピュータにマーカ生成方法を実行させるためのプログラムによって実現されてもよい。すなわち、プログラムは、情報処理装置又は複数の情報処理装置を有する情報処理システム等のコンピュータに各処理を実行させるためのコンピュータプログラムである。
 したがって、プログラムに基づいて生成方法が実行されると、コンピュータが有する演算装置及び制御装置は、各処理を実行するため、プログラムに基づいて演算及び制御を行う。また、コンピュータが有する記憶装置は、各処理を実行するため、プログラムに基づいて、処理に用いられるデータを記憶する。
 また、プログラムは、コンピュータが読み取り可能な記録媒体に記録されて頒布することができる。なお、記録媒体は、補助記憶装置、磁気テープ、フラッシュメモリ、光ディスク、光磁気ディスク又は磁気ディスク等のメディアである。さらに、プログラムは、電気通信回線を通じて頒布することができる。
 以上、本発明の好ましい実施形態について詳述したが、本発明は、上記に説明した実施形態等に限定されるものではない。したがって、特許請求の範囲に記載された本発明の要旨の範囲内において、実施形態は、種々の変形又は変更が可能である。
 本国際出願は、2017年8月15日に出願された日本国特許出願2017-156959号に基づく優先権を主張するものであり、その全内容を本国際出願に援用する。
100 ARシステム
1 マーカ生成システム
10 マーカ生成装置
11 プリンタ
2 認識システム
21 撮影装置
22 認識装置
MK マーカ
MKP 部分マーカ
MKV 表示マーカ
TG 被写体
MD 媒体
DM M系列データ

Claims (9)

  1.  立体物に表示する表示マーカを生成するマーカ生成装置であって、
     M系列となるデータを生成するデータ生成部と、
     前記データを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカを生成する部分マーカ生成部と、
     前記部分マーカと、前記部分マーカにおける前記第1色及び前記第2色を反転させた反転マーカとを組み合わせて前記表示マーカを生成する表示マーカ生成部と
    を含むマーカ生成装置。
  2.  前記立体物は、回転体である請求項1に記載のマーカ生成装置。
  3.  前記回転体は、円筒形である請求項2に記載のマーカ生成装置。
  4.  前記表示マーカは、前記部分マーカが有する最初のパターンと、前記反転マーカが有する最後のパターンとがつながり、
     前記最初のパターンと、前記最後のパターンとが異なる色となる請求項1に記載のマーカ生成装置。
  5.  前記部分マーカ及び前記反転マーカは、1周期分の前記データをそれぞれ示し、
     前記表示マーカは、2周期分の前記データを示す請求項1に記載のマーカ生成装置。
  6.  M系列となるデータを生成するデータを構成するビットに応じた第1色及び第2色のパターンを配置した部分マーカと、
     前記部分マーカにおける前記第1色及び前記第2色を反転させたパターンを配置した反転マーカと
    を組み合わせた表示マーカを示す立体媒体。
  7.  立体物に表示する表示マーカを生成するコンピュータにマーカ生成方法を実行させるためのプログラムが記録された記録媒体であって、
     コンピュータが、M系列となるデータを生成するデータ生成手順と、
     コンピュータが、前記データを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカを生成する部分マーカ生成手順と、
     コンピュータが、前記部分マーカと、前記部分マーカにおける前記第1色及び前記第2色を反転させた反転マーカとを組み合わせて前記表示マーカを生成する表示マーカ生成手順と
    を実行させるためのプログラムが記録された記録媒体。
  8.  立体物に表示する表示マーカを生成するマーカ生成装置と、前記表示マーカを認識する認識装置とを有する情報処理システムであって、
     前記マーカ生成装置は、
     M系列となるデータを生成するデータ生成部と、
     前記データを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカを生成する部分マーカ生成部と、
     前記部分マーカと、前記部分マーカにおける前記第1色及び前記第2色を反転させた反転マーカとを組み合わせて前記表示マーカを生成する表示マーカ生成部と
    を含み、
     前記認識装置は、
     前記表示マーカに基づいて、前記立体物の角度を計算する計算部
    を含む
    情報処理システム。
  9.  立体物に表示する表示マーカを生成するマーカ生成装置が行うマーカ生成方法であって、
     マーカ生成装置が、M系列となるデータを生成するデータ生成手順と、
     マーカ生成装置が、前記データを構成するビットに応じた第1色及び第2色のパターンを配置して部分マーカを生成する部分マーカ生成手順と、
     マーカ生成装置が、前記部分マーカと、前記部分マーカにおける前記第1色及び前記第2色を反転させた反転マーカとを組み合わせて前記表示マーカを生成する表示マーカ生成手順と
    を含むマーカ生成方法。
PCT/JP2018/030234 2017-08-15 2018-08-13 マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体 WO2019035452A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-156959 2017-08-15
JP2017156959 2017-08-15

Publications (1)

Publication Number Publication Date
WO2019035452A1 true WO2019035452A1 (ja) 2019-02-21

Family

ID=65362541

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/030234 WO2019035452A1 (ja) 2017-08-15 2018-08-13 マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体

Country Status (1)

Country Link
WO (1) WO2019035452A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022177007A1 (ja) * 2021-02-22 2022-08-25 株式会社楽日 拡張現実デザイン印刷システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02105986A (ja) * 1988-10-14 1990-04-18 Nec Corp バーコード
JP2009222682A (ja) * 2008-03-18 2009-10-01 Saitama Univ ナビゲーションシステム
JP2009254543A (ja) * 2008-04-16 2009-11-05 Nippon Signal Co Ltd:The 測定システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02105986A (ja) * 1988-10-14 1990-04-18 Nec Corp バーコード
JP2009222682A (ja) * 2008-03-18 2009-10-01 Saitama Univ ナビゲーションシステム
JP2009254543A (ja) * 2008-04-16 2009-11-05 Nippon Signal Co Ltd:The 測定システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022177007A1 (ja) * 2021-02-22 2022-08-25 株式会社楽日 拡張現実デザイン印刷システム

Similar Documents

Publication Publication Date Title
US10360731B2 (en) Method and device for implementing virtual fitting
Hilton et al. Whole-body modelling of people from multiview images to populate virtual worlds
JP4473754B2 (ja) 仮想試着装置
EP1521482B1 (en) Image display apparatus and method
EP3745352B1 (en) Methods and systems for determining body measurements and providing clothing size recommendations
US20150279098A1 (en) Smart device and virtual experience providing server providing virtual experience service method using digitalexperience service method using digital clothes
JP5439787B2 (ja) カメラ装置
KR102209745B1 (ko) 광고 및 쇼핑 등 정보를 표시하기 위하여 사용자의 투영 영상 인식을 통한 미러 디스플레이의 정보 표시 장치 및 방법
JP7167437B2 (ja) 物品特定装置
CN115803750B (zh) 使用参考框架的眼镜的虚拟试戴系统
CN107491744A (zh) 人体身份识别方法、装置、移动终端和存储介质
US11908091B2 (en) Constructing an augmented reality image
CN108257177A (zh) 基于空间标识的定位系统与方法
WO2013140678A1 (ja) 情報処理システム
CN108682050A (zh) 基于三维模型的美颜方法和装置
Li et al. Animated 3D human avatars from a single image with GAN-based texture inference
KR102506352B1 (ko) 전자상거래를 위한 3d 인체 측정 데이터 기반의 디지털 트윈 아바타 제공 시스템
Liu et al. Spatial-aware texture transformer for high-fidelity garment transfer
WO2019035452A1 (ja) マーカ生成装置、立体媒体、情報処理システム、マーカ生成方法及び記録媒体
JP6026050B1 (ja) 表示制御システム、表示制御装置、表示制御方法、及びプログラム
JP5426441B2 (ja) 広告画像表示装置、広告画像表示方法
KR102086227B1 (ko) 신체 치수 계측 장치
JP2014178909A (ja) 商取引システム
KR20230043343A (ko) 신체 사이즈 기반 가상 피팅 서비스 시스템
KR20170143223A (ko) 3d 실감체험 콘텐츠 서비스 제공 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18847037

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

NENP Non-entry into the national phase

Ref country code: JP

122 Ep: pct application non-entry in european phase

Ref document number: 18847037

Country of ref document: EP

Kind code of ref document: A1