WO2017195343A1 - 楽音発生システム - Google Patents

楽音発生システム Download PDF

Info

Publication number
WO2017195343A1
WO2017195343A1 PCT/JP2016/064248 JP2016064248W WO2017195343A1 WO 2017195343 A1 WO2017195343 A1 WO 2017195343A1 JP 2016064248 W JP2016064248 W JP 2016064248W WO 2017195343 A1 WO2017195343 A1 WO 2017195343A1
Authority
WO
WIPO (PCT)
Prior art keywords
musical sound
mobile communication
communication terminal
unit
musical
Prior art date
Application number
PCT/JP2016/064248
Other languages
English (en)
French (fr)
Inventor
小黒 正樹
太吾 楠
正吾 武田
秀昭 佐合
Original Assignee
株式会社阪神メタリックス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社阪神メタリックス filed Critical 株式会社阪神メタリックス
Priority to PCT/JP2016/064248 priority Critical patent/WO2017195343A1/ja
Priority to PCT/JP2016/080487 priority patent/WO2017195390A1/ja
Priority to GB1713264.8A priority patent/GB2552744A/en
Priority to US15/551,618 priority patent/US20180286366A1/en
Priority to TW105136999A priority patent/TWI618048B/zh
Publication of WO2017195343A1 publication Critical patent/WO2017195343A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • G10H1/0083Recording/reproducing or transmission of music for electrophonic musical instruments using wireless transmission, e.g. radio, light, infrared
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/36Accompaniment arrangements
    • G10H1/361Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems
    • G10H1/368Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems displaying animated or moving pictures synchronized with the music or audio part
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/005Non-interactive screen display of musical or status data
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/201User input interfaces for electrophonic musical instruments for movement interpretation, i.e. capturing and recognizing a gesture or a specific kind of movement, e.g. to control a musical instrument
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/391Angle sensing for musical purposes, using data from a gyroscope, gyrometer or other angular velocity or angular movement sensing device
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/395Acceleration sensing or accelerometer use, e.g. 3D movement computation by integration of accelerometer data, angle sensing with respect to the vertical, i.e. gravity sensing.
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/4013D sensing, i.e. three-dimensional (x, y, z) position or movement sensing.

Definitions

  • the present invention comprises a musical sound generator having a built-in motion detection device, a mobile communication terminal installed on the motion target, and a communication device wirelessly connected to the mobile communication terminal, and detects the motion of the motion target
  • a musical sound generating system that reproduces preset musical sounds or randomly reproduces them.
  • a mobile communication terminal with a built-in motion detection device that is attached to the user's body or can be carried by hand, depending on the magnitude relationship of the values in the X direction, Y direction, and Z direction, the vertical direction cutting operation, the horizontal direction
  • a performance interface capable of controlling musical sounds with the main objective of analyzing musicality such as slur and staccato based on analysis of cutting, oblique cutting operation, turning operation, and the like (Patent Document 1).
  • a mobile communication terminal with a built-in motion detection device sends all the information of motion detection sensors (acceleration, angular velocity, geomagnetism, etc.) to the musical sound generator side and makes the arithmetic device in the musical sound generator determine the information. Take the method. In this case, there is no problem in processing if it is a single or a small number, but for example, a large number of dancers attach mobile communication terminals with built-in motion detection devices to their arms and legs, and motion detection sensors all at once When information is sent out, it cannot be processed by the arithmetic unit on the musical tone generator side.
  • a person cannot grasp his or her three-dimensional position (X, Y, Z) sensuously. Nevertheless, a musical performance sound is generated at an unintended place on a performance interface based on an algorithm constructed based on the X, Y, and Z directions.
  • the human body or the operation target including it has its own unique movement, and the mobile communication terminal with the built-in motion detection device must be able to adjust the detection level individually.
  • the present invention aims to solve the above problems.
  • a musical sound generation system comprising a musical sound generator having a built-in motion detection device and having a mobile communication terminal installed on an operation target and a communication device wirelessly connected to the mobile communication terminal.
  • the mobile communication terminal includes a calculation unit that adds the magnitudes of motion data detected by the motion detection device in a plurality of directions, and the musical sound generation system is configured to calculate a predetermined amount from a calculation result of the calculation unit. It has a judgment part which judges whether a motion was detected, and the tone generator has a tone generation part which generates a tone according to a judgment result by the judgment part.
  • a musical sound can be generated faithfully to the detected movement.
  • FIG. 1 is a schematic configuration diagram of an entire musical sound generating system according to an embodiment of the present invention.
  • 1 is a schematic configuration diagram of a mobile communication terminal according to an embodiment of the present invention.
  • a three-dimensional acceleration sensor is taken as an example. If the acceleration of the X axis, Y axis, and Z axis of the three-dimensional sensor is ax, ay, az, If ax ⁇ az and ay ⁇ az, push action az ⁇ ax and az ⁇ ay, cutting action az ⁇ ax and az ⁇ ay, and if ax ⁇ ay, then crossing action az ⁇ ax and az ⁇ ay, further ay If ⁇ ax, the conventional judgment method is stopped, such as a vertical cutting operation, and the presence / absence of motion is calculated by a simpler method.
  • a mobile communication terminal having a built-in motion detection device mounted on an operation target is individually moved to check a detection level threshold, and the value is stored in the mobile communication terminal.
  • a mobile communication terminal with a built-in motion detection device sends all the information of motion detection sensors (acceleration, angular velocity, geomagnetism, etc.) to the musical sound generator side and makes a judgment by the arithmetic device there. For example, if a large number of dancers wear mobile communication terminals with built-in motion detection devices on their arms and legs and send motion detection sensor information all at once, the processing unit on the musical sound generator side cannot process it.
  • the detection level threshold value it is determined whether or not the detection level threshold value has been exceeded in the mobile communication terminal incorporating each motion detection device, and the determination result is sent to the tone generator, and the tone generator side is preset according to the instruction. Generate (or random) musical sounds.
  • hardware and firmware are prepared for determining whether the detection level threshold value is exceeded independently in a mobile communication terminal incorporating the detection device.
  • the arithmetic processing is individually performed in each mobile communication terminal, and only the arithmetic result is sent to the musical sound generator to the arithmetic device in the musical sound generator.
  • an embodiment in which it is determined whether or not each detection level threshold is exceeded may be used.
  • FIG. 1 shows a tone generation system according to an embodiment of the present invention.
  • the musical tone generation system includes a mobile communication terminal 10 incorporating a motion detection device and a musical tone generator 40. This is realized by various combinations of the application examples shown in (a) to (h) and the musical sound generators shown in (i) to (m).
  • FIG. 1A shows an application example worn by a dancer. It is worn on both wrists and both ankles. The position of wearing such as the waist is not specified.
  • Dance is originally danced to music, but in the present invention, a dancer can make a sound with his / her performance even without music. It is possible to collaborate with music and the sounds of dancers. Thereby, a more active dance composition can be realized and the artistry can be enhanced.
  • FIG. 1 (b) shows an application example in BMX (Bicycle Motocross). Sound effects can be produced and appealed to the audience at performance and performance milestones such as jumping and rotating. Similarly, it can be used for races using motocross bikes and acrobatics such as spinning in the air.
  • BMX Battery Motocross
  • Fig. 1 (c) shows an example of mounting on a skateboard. When flying in the air, landing, braking and stopping, you can appeal with sound effects.
  • Fig. 1 (d) shows application in surfing. You can appeal the skill to the audience watching on the beach with sound effects, such as when you get on the wave, rotate, get over the wave.
  • the level of “sound” and “do not sound” can be adjusted by a collaborator on the sandy beach, so that there is no sound effect when it is not intended for the day when the wave is large or small. Can be finely adjusted.
  • FIG. 1 (e) shows an application example in basketball. If the player wears it on his arm, the sound of the crowd will be raised by swinging the arm just before the shot, and if it is built in the ball, if it is turning around the goal ring, it will sound like a roaring logo. If you put it out or drop the net, you can make a sound effect like a spot and entertain the audience. In freestyle basketball, you can appeal to spectators walking along the street by making sound effects by spinning the ball or bouncing. For example, in the case of soccer lifting, a sound effect is produced according to the moment when it is raised or when it is raised. If the number of times of lifting is generated like One, Two, Three, etc. on the musical sound generating system side, the game effect is increased.
  • Fig. 1 (f) shows an application example to juggling. It would be interesting to incorporate a mobile communication terminal with a built-in motion detection device in a ball or club and make a sound effect according to the impact, rotation, and height.
  • Fig. 1 (g) shows an application example in baseball.
  • a mobile communication terminal with a built-in motion detection device is built in the ball, and the tone is changed according to the throwing speed, the number of rotations, and the direction of rotation. Even if you throw a slow ball, you can play a sound effect as if you were throwing a fast ball, or feel the impact of entering a mitt and play a sound when you receive a heavy ball like a professional baseball pitcher at 150 km / h. Increases nature.
  • the right rotation, left rotation, vertical rotation, etc. can be recognized by the sound, the changing ball practice can be confirmed.
  • the actual ball speed can be measured by the mounted sensor, the significance increases.
  • Fig. 1 (h) shows an application example in toys. If it is a kendama, it can be built into a ball, and when playing in the air, you can play with a toy, such as rotating sound, sounding a fanfare when you get on a plate well. Yo-yo can be enjoyed with sound effects as well.
  • the musical sound generator 40 is provided in the form of (i) a tablet PC, (j) a smartphone, (k) a notebook PC, (l) a desktop PC, (m) a dedicated machine that is the host computer 30.
  • an external transmission / reception circuit 20 (hereinafter referred to as a dongle 20) is connected to the host computers (i) to (l) via, for example, a USB (Universal Serial Bus), a micro USB connector, or the like.
  • FIG. 2 is a schematic configuration diagram of an entire musical sound generating system according to an embodiment of the present invention.
  • n mobile communication terminals 10 with built-in motion detection devices There are 1 to n mobile communication terminals 10 with built-in motion detection devices, and one musical sound generator 30 reproduces musical sounds set in advance on n terminals. Depending on the product planning, the music may be played randomly.
  • the mobile communication terminal 10_n includes an operation sensor MSn, a calculation unit CLn, a determination unit JDn, and a transmission / reception unit TRVn, and communicates with the dongle 20 constituting the musical sound generator 40 through the antenna ANTn.
  • Other mobile communication terminals 10_1 ... have the same configuration.
  • Wireless communication is performed according to WiFi, BlueTooth, ZigBee (all are registered trademarks) or other wireless systems. If these radio communication devices are built in the musical sound generator 40, the dongle 20 is not necessary.
  • ZigBee having a fast response speed is used from the relationship between the time until the motion sensor MSn in the mobile communication terminal 10_n senses the motion and the tone generator 40 generates the tone.
  • the dongle 20 includes a transmission / reception antenna ANTD, a transmission / reception unit TRD, and a protocol conversion unit PC, and is connected to the host computer 30 in the musical tone generator 40 via a connector C1 and a connector C2.
  • the interface in the dongle 20 is a USB interface.
  • the host computer 30 includes an arithmetic processing unit CPU and a GUI (Graphic User Interface), and a user performs musical sound allocation of each mobile communication terminal 10_n by using this.
  • the musical sound data MD is stored in a storage device (not shown) in the host computer.
  • a musical tone set in advance using the GUI is transmitted from a speaker (not shown) in the host computer or externally. It is generated from the connected speaker SP or the speaker SP with an amplifier.
  • data flows through the connector C2 of the host computer 2 and the connector C1 of the dongle 20, passes through the transmission / reception unit TRD in the dongle 20, and flows as a radio wave from the transmission / reception antenna ANTD.
  • the transmission / reception unit TRVn of the mobile communication terminal 10_n Since the desired mobile communication terminal 10_n has an individual identification number, the transmission / reception unit TRVn of the mobile communication terminal 10_n that has recognized that the communication is for itself receives the data.
  • the threshold of the operation detection level of the determination unit JDn is stored as a comparison value (not shown).
  • FIG. 3 is a schematic configuration diagram of a mobile communication terminal 10 incorporating a motion detection device according to an embodiment of the present invention.
  • the mobile communication terminal mainly gives an instruction to generate a musical sound as compared with the threshold value of the motion detection level, the CPU 1 for performing arithmetic processing is required.
  • the threshold value of the motion detection level determined by the above procedure is stored in the memory MEM inside or outside the CPU by the setting unit of the CPU 1.
  • the determination unit of the CPU 1 performs a predetermined calculation in the calculation unit based on the data obtained from the motion sensor MS1, and compares it with the threshold value of the motion detection level stored in the memory MEM to “generate a tone”. Or, it is determined that “it does not occur”.
  • the data sequence is configured according to the wireless protocol used, the RF switch RF1 is switched to the output side, and then the data sequence is transmitted to the antenna through the transmission unit TR1. Send from ANT1.
  • a predetermined calculation is performed by the calculation unit of the CPU 1, and only the result is sent to the host computer 30 of the musical tone generator 40 and compared with a predetermined threshold value by the CPU in the host computer 30. , "Generate musical sound” or “Do not generate” may be determined.
  • the RF switch RF1 is switched to the input side except during transmission, and inputs a data string according to a wireless protocol used for the CPU 1 from the antenna ANT1 through the receiving unit RV1.
  • the CPU 1 continually monitors the individual identification number from the data string, and if it matches with its own number, the CPU 1 understands that a new threshold value of motion detection level has been sent from the dongle 20 of the tone generator 40. Then, the threshold value is stored in the memory MEM inside or outside the CPU by the setting unit in the CPU 1.
  • the motion sensor MS1 is an acceleration sensor, a gyro sensor, a geomagnetic sensor, or the like, and is mounted alone or in plural types depending on product planning.
  • SW1 is a commission switch for pairing with the mobile communication terminal 10_n and the host computer in the musical tone generator 30.
  • the individual identification number of the mobile communication terminal 10_n is stored and stored in the host computer, which musical sound is generated using the GUI of the host computer 30, what value the threshold of the operation detection level is set to, etc. Can be set.
  • LED1 is a display that is turned on for operation confirmation when the data string is transmitted and received. Since the mobile communication terminal 10_n is mounted at various places as shown in FIG. 1, battery driving is essential.
  • SW2 is a power switch, through which power is supplied to each circuit.
  • the battery used varies depending on the product plan.
  • a charging circuit may be provided inside the mobile communication terminal 10n due to product planning (not shown).
  • FIG. 4 shows an example of the appearance of the mobile communication terminal 10 incorporating the motion detection device.
  • the commission switch SW1, the power switch SW2, and the communication monitor indicator LED1 during transmission and reception are shown.
  • FIG. 5 is a schematic configuration diagram of the dongle 20, which is a component of the musical sound generator 40.
  • the connector C1 generally uses USB as described above.
  • the USB can take out the power of +5 V and 500 mA per connector from the host computer, and is enough to cover the power of the dongle 20 as a whole.
  • the power is taken out directly from the connector C1 and supplied to each part in the dongle. Only when the host computer is operating, the power switch is not provided because the dongle has a role.
  • LED2 is provided to indicate that power is being supplied.
  • the data string that flows from the host computer is configured according to the USB protocol, and is passed to the CPU 2 through the USB interface INT via the USB cable.
  • the dongle 20 has a role of converting a data string into a radio communication protocol used.
  • the CPU 2 uses the protocol conversion unit to convert the transmission from the USB protocol to the radio communication protocol protocol at the reception of the radio communication protocol to the USB protocol.
  • FIG. 6 shows an example of the appearance of the dongle 20.
  • the dongle 20 has a power display LED 2, a connector C1 (not visible in FIG. 6), and a cable.
  • FIG. 7 shows an example in which two dancers wear mobile communication terminals with built-in motion detection devices on both arms and both legs.
  • the individual identification numbers of a total of eight mobile communication terminals are stored and stored in the host computer 30 in the musical tone generator 40 by the method described above, and which musical tone is generated using the GUI of the host computer 30. Or setting a threshold value for the motion detection level.
  • This musical tone group switcher is apparently similar to a mobile communication terminal with a built-in motion detection device, but using at most one bit in a data string according to a wireless protocol, the mobile communication terminal or musical tone group switcher What is necessary is just to identify.
  • the pairing of the musical tone group switcher to the host computer 30 may be performed by storing the above-described individual identification number of the mobile communication terminal 10_n in the host computer. That is, the individual identification number of the musical tone group switcher is stored and stored in the host computer by the commission switch, and it is recognized that this is the musical tone group switcher by at most 1 bit in the data string according to the wireless protocol. Is done.
  • Fig. 8 shows an example of switching musical tone groups. This is an application example in which the tone group 1 ⁇ the tone group 2 ⁇ the tone group 3 ⁇ the tone group 1 ⁇ ... Each time the switch of the tone group switcher is pressed. A dancer switches a musical tone group by stepping on a switch of a musical tone group switcher set on the floor or the ground. With this musical tone group switcher, dancers can compose a wider variety of performances. In the example of FIG. 8, the sounds of the dancer A and the dancer B are switched neatly by switching from the musical tone group 1 to the musical tone group 2.
  • an acceleration sensor will be described as an example.
  • the absolute acceleration that is, the absolute value of acceleration
  • FIG. 9 is a plot of values in the X, Y, and Z directions when a three-dimensional acceleration sensor is attached to the arm and hits up and down 10 times.
  • the value on the vertical axis represents gravity acceleration mg (milli g).
  • the time interval between the plotted points is the time for one round of the main loop of the microcomputer software used for the measurement. That is, the value of the three-dimensional acceleration sensor is read once in the main loop.
  • the part greatly swinging downward on the left side is a case where the arm is strongly hit downward, and it can be seen that the value swings downward, downward, upward,.
  • FIG. 10 is a plot of the values of each component in FIG. 9 calculated using equation (1).
  • FIG. 11 is calculated and plotted using the equation (2) used in the present invention.
  • FIG. 11 is a relatively gentle graph, whereas FIG. 11 has a larger amplitude and a clearer change. However, there is no significant difference between the graph waveforms of FIGS. 10 and 11 other than the amplitude.
  • FIG. 12 is a plot of values in the X, Y, and Z directions when a three-dimensional gyro sensor is attached to the arm and the arm is raised and lowered up and down.
  • the value on the vertical axis represents dps (Degree per Second).
  • the time interval between the plotted points is the time for one round of the main loop of the microcomputer software used for measurement, as described above. That is, the value of the three-dimensional gyro sensor is read once in the main loop. It can be seen that the Z-direction component moves greatly up and down in particular.
  • FIG. 13 is a plot of values calculated for each component in FIG. 12 using equation (1).
  • FIG. 14 is a plot based on the calculation result of Expression 2 used in the present invention.
  • FIG. 13 is a relatively gentle graph with a small amplitude
  • FIG. 14 has a large amplitude and a clearer change.
  • the market price of the mobile communication terminal is required to be low.
  • a 12th-order moving average digital filter for example, a 12th-order moving average digital filter, etc. It is necessary to pass through.
  • the CPU 1 in FIG. 3 can only employ an expensive microcomputer capable of performing complex square root calculation and multiplication. As a result, there is no room for providing the mobile communication terminal at a low cost as described above.
  • the mobile communication terminal 10 incorporating the motion detection device has a motion detection sensor (acceleration, angular velocity, geomagnetism, etc.). ) Is sent to the musical sound generator side.
  • a motion detection sensor acceleration, angular velocity, geomagnetism, etc.
  • the CPU 1 of FIG. 3 can use a very inexpensive microcomputer with a small number of bits several generations ago, so it is possible to provide a mobile communication terminal on the market at a low cost.
  • the x-direction, y-direction, and z-direction of the three-dimensional acceleration sensor in the portable terminal for example.
  • the value itself is being sent.
  • the processing of the host computer is not in time, and a musical sound is generated or not generated, or the generation is delayed. In the present invention, such a problem can be solved.
  • the mobile communication terminal 10 incorporating the motion detection device must be battery-driven. In order to increase the operable time of a mobile communication terminal driven by a battery, it is important to suppress power consumption.
  • a part that consumes much power in a mobile communication terminal is a radio wave transmission / reception unit. That is, if the radio wave transmitting / receiving unit is not used, the power is turned off (standby mode), and the power is turned on only when necessary, so that the power consumption can be suppressed comprehensively.
  • the mobile communication terminal 10 has three main parts: motion sensors MS1, CPU1 and collective part XB.
  • FIG. 15 shows one threshold value of a basic process flowchart of the CPU 1 in the mobile communication terminal 10.
  • initial setting of the motion sensor MS1 (step S01), initial setting of the threshold of the motion detection level (step S02), and standby mode setting of the collective component XB (step S03) are performed. This is the initial setting.
  • step S04 values in the X direction, Y direction, and Z direction of the three-dimensional acceleration sensor MS1 are read (step S04).
  • the calculation unit calculates using equation (2) (step S05), and the calculation result is compared with the threshold value of the motion detection level by the determination unit (step S06).
  • the standby mode of the collective part XB is canceled (step S07), and a musical sound generation instruction is transmitted (step S08).
  • the collective part XB receives data from the host computer 30 in the musical tone generator 40 simultaneously with transmission.
  • the setting unit stores new threshold data in the memory MEM of FIG. 3 (step S11).
  • the assembly part XB is set to the standby mode again for energy saving (step S12), and the value of the three-dimensional acceleration sensor MS1 is read again (step S04).
  • the main loop is configured as described above.
  • the registration process is started by pressing the commission switch SW1.
  • the CPU 1 recognizes that the SW 1 has been pressed, the CPU 1 inserts the individual identification number of the mobile communication terminal 10 into the data string according to the wireless protocol to be used, and transmits it to the musical sound generator 40.
  • the host computer 30 in the musical tone generator 40 stores and stores the individual identification number and informs the user to that effect through a GUI display.
  • the threshold data serving as a criterion for determining the tone generation is performed by a GUI operation of the host computer 30 or the like.
  • the user operates the GUI screen to switch to the threshold data setting screen and determines the threshold.
  • the threshold data is incorporated into a data string according to the protocol of the wireless system to be used together with the individual identification number of the target mobile communication terminal, and the transmission / reception antenna ANTD of the dongle 20 of FIG. Is entered through.
  • the mobile communication terminal 10_n confirms whether or not the sent individual identification number matches that of the mobile communication terminal 10_n, and stores the threshold value in the memory MEM inside or outside the CPU by the setting unit in the CPU1.
  • the determination unit of the CPU 1 in FIG. 3 performs a predetermined calculation in the calculation unit based on the data obtained from the motion sensor MS1, and compares it with the threshold of the operation detection level stored in the memory MEM. To determine whether “musical sound is generated” or “not generated”. The determination result is incorporated into a data string according to a wireless protocol used together with the individual identification number, and transmitted from the transmission / reception antenna ANT1.
  • the transmitted data is received by the dongle 20 of the tone generator 40 of FIG. 2 and sent to the host computer 30 through the protocol conversion PC.
  • the host computer 30 confirms whether or not a musical tone has been set in the sent individual identification number, and generates a corresponding musical tone.
  • a predetermined calculation is performed by the calculation unit of the CPU 1, and only the result is sent to the host computer 30 of the tone generator 40, and the CPU in the host computer 30 "generates a tone” or “generates” A method of determining “No” may be used.
  • this invention is not limited to the above-mentioned Example, Various modifications are included.
  • the above-described embodiments have been described in detail for easy understanding of the present invention, and are not necessarily limited to those having all the configurations described.
  • a part of the configuration of a certain embodiment can be replaced with the configuration of another embodiment, and the configuration of another embodiment can be added to the configuration of a certain embodiment.
  • the determination unit is mounted on the mobile communication terminal, it may be mounted on a host computer (musical sound generator).
  • the mobile communication terminal transmits the sum of each component of the motion detection value (acceleration sensor output) to the host computer, and the determination unit of the host computer determines whether the calculation result exceeds the threshold value.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

動作検出装置を内蔵し、動作対象物に設置された移動通信端末と、該移動通信端末と無線で接続された通信装置を有する楽音発生器からなる楽音発生システムであって、前記移動通信端末は、前記動作検出装置が複数の方向において検出した動きデータの大きさを加算する演算部を有し、前記楽音発生システムは、前記演算部による演算結果から所定量の動きが検出されたか否かを判断する判断部を有し、前記楽音発生器は、前記判断部による判断結果に従って、楽音を発生する楽音発生部を有する。

Description

楽音発生システム
 本発明は、動作検出装置を内蔵し、動作対象物に設置された移動通信端末と、該移動通信端末と無線で接続された通信装置を有する楽音発生器からなり、動作対象物の運動を検出して予め設定された楽音を再生する、またはランダムに再生する楽音発生システムである。
 従来、ユーザーの体に取り付ける乃至は手持ちでも持ち運ぶ動作検出装置を内蔵した移動通信端末の例えば加速度のX方向、Y方向、Z方向への値のそれぞれの大小関係より、縦方向切り動作、横方向切り、動作斜め切り動作、回し動作などを解析し、それに基づきスラー、スタッカートなど演奏させる楽曲に音楽性を持たせることを主眼に、楽音を制御することができる演奏インターフェイスがある(特許文献1)。
 しかしながらこのような方式は、例えばダンサーの腕や足に動作検出装置を内蔵した移動通信端末を取り付けた場合、わずかばかりの意図しない動きでも音が鳴ってしまい、身動きが取れなくなってしまう。ストレスの塊でダンスに集中できない。
 また、主としておもちゃを想定した演奏インターフェイスの場合、どうしても不特定多数の子どもの平均値を“楽音を鳴らす、鳴らさない”の基準値として採用することになり、子どもの年齢差、体格差、筋力の有る無しを考慮していない。したがって、同じように動作させているのに、ある子どもは楽音が鳴るが、別の子どもは鳴らない。つまり、使う側に動作を習熟させる、もっと強く振るなどと覚えさせないと遊べないことになる(特許文献2)。
 さらに従来技術では、動作検出装置を内蔵した移動通信端末が、動作検出センサー(加速度、角速度、地磁気など)の情報をすべて、楽音発生器側に送り、該楽音発生器内の演算装置で判断させる方式をとる。この場合、単数または少ない数の複数であれば、処理上の問題は出ないが、たとえば大勢のダンサーが各自両腕両足に動作検出装置を内蔵した移動通信端末をつけて、一斉に動作検出センサー情報を送り出した場合、楽音発生器側の演算装置では処理しきれない。
特開2001-195059号公報 国際公開WO2015/177835A1号公報
 前述したように、人は自分の3次元の位置(X,Y,Z)を感覚的に把握できない。それなのに、X方向、Y方向、Z方向を基準に構築したアルゴリズムを基本とした演奏インターフェイスでは、意図しないところで楽音が鳴ってしまう。
 人体またはそれを含む動作対象物は、それ独特の動きがあり、そこに取り付けられた動作検出装置を内蔵した移動通信端末は、個々に検出レベルを調整できなければならない。
 動作検出装置を内蔵した多くの移動通信端末が、同時に楽音発生要求を出した場合、高々1台の楽音発生器でその要求に答えなければならない。
 本発明は、上記の課題を解決することを目的としたものである。
 本発明の一実施形態では、動作検出装置を内蔵し、動作対象物に設置された移動通信端末と、該移動通信端末と無線で接続された通信装置を有する楽音発生器からなる楽音発生システムであって、前記移動通信端末は、前記動作検出装置が複数の方向において検出した動きデータの大きさを加算する演算部を有し、前記楽音発生システムは、前記演算部による演算結果から所定量の動きが検出されたか否かを判断する判断部を有し、前記楽音発生器は、前記判断部による判断結果に従って、楽音を発生する楽音発生部を有する。
 本発明の一実施形態によると、検出された動きに忠実に楽音を発生できる。
本発明の一実施形態における楽音発生システムと応用例を示す図。 本発明の一実施例による楽音発生システム全体の概略的な構成図。 本発明の一実施例による移動通信端末の概略的な構成図。 動作検出装置を内蔵した移動通信端末の外観の一例の図。 楽音発生器構成要素、ドングルの概略的な構成図。 ドングルの外観の一例の図。 ダンサー2人が、両腕、両足にそれぞれ移動通信端末をつけた例を示す図。 楽音スイッチャーによる楽音群の切り替え例を示す図。 3次元加速度センサーを腕に取り付け、10回上下にヒットした場合のX、Y、Z方向の各値をプロットした図。 3次元加速度センサーのX、Y、Z方向の各値を式(1)を用いて計算しプロットした図。 3次元加速度センサーのX、Y、Z方向の各値を式(2)を用いて計算しプロットした図。 3次元ジャイロセンサーを腕に取り付け、腕を上下に上げ下ろしした場合のX、Y、Z方向の各値をプロットした図。 3次元ジャイロセンサーのX、Y、Z方向の各値を式(1)を用いて計算しプロットした図。 3次元ジャイロセンサーのX、Y、Z方向の各値を式(2)を用いて計算しプロットした図。 動作検出装置を内蔵した移動通信端末内のCPUの基本処理の図。
 上述した課題を解決し目的を達成するための手段を以下に述べる。
まず説明のために、3次元の加速度センサーを例とする。3次元センサーのX軸、Y軸、Z軸の加速度を、ax、ay、azとすると、
 ax<az かつ ay<az の場合、突き動作
 az<ax かつ az<ay の場合、切り動作
 az<ax かつ az<ayで さらに ax<ay なら、横切り動作
az<ax かつ az<ayで さらに ay<ax なら、縦切り動作
 等々
のように、従来からある判断方式を止め、もっと単純な方法で動きの有無を計算させる。
 また別の課題を解決するため、動作対象物に装着された動作検出装置を内蔵した移動通信端末を、個別に動かして検出レベル閾値を確認し、その値を該移動通信端末内に記憶させる手段を用意する。
 従来技術では、動作検出装置を内蔵した移動通信端末が、動作検出センサー(加速度、角速度、地磁気など)の情報をすべて、楽音発生器側に送り、そこの演算装置で判断させる方式をとるが、たとえば大勢のダンサーが各自両腕両足に動作検出装置を内蔵した移動通信端末をつけて、一斉に動作検出センサー情報を送り出した場合、楽音発生器側の演算装置では処理しきれない。
 そこで本発明では、個々の動作検出装置を内蔵した移動通信端末内で検出レベル閾値を超えたかどうか判断させ、その判断結果を楽音発生器に送り、楽音発生器側では、指示に従いあらかじめ設定された(またはランダムな)楽音を発生させる。この実現のため、検出装置を内蔵した移動通信端末内で自立して検出レベル閾値超えを判断するためのハードウェア、ファームウェアを用意する。
 また、楽音発生器内の演算処理の負担を下げるため、個々の該移動通信端末内で個別に演算処理を行い、その演算結果だけを楽音発生器に送り、該楽音発生器内の演算装置にて、各々の検出レベル閾値を超えたかどうか判断させる実施例でもよい。
 図1に、本発明の一実施形態における楽音発生システムを示す。
楽音発生システムは、動作検出装置を内蔵した移動通信端末10と楽音発生器40で構成される。(a)~(h)で示される応用例と、(i)~(m)で示される楽音発生器とのさまざまな組み合わせで実現される。
 〔動作検出装置を内蔵した移動通信端末の装着例〕
 図1(a)は、ダンサーが装着した応用例を示す。両手首、両足首にそれぞれ装着している。腰など装着位置は特に指定しない。ダンスは、本来音楽に合わせて踊るものだが、本発明においては、音楽がなくとも、ダンサーが自らのパフォーマンスで音を奏でられる。音楽とダンサーが奏でる音とのコラボーレーションも可能である。これにより、より能動的なダンス構成を実現でき、芸術性を高めることができる。
 図1(b)は、BMX(Bicycle Motocross)での応用例を示す。ジャンプする、回転するなどの演技、演技の節目で、効果音を鳴らすことができ、観客にアピールすることができる。同様に、モトクロスバイクを使ったレースや、空中回転のようなアクロバット演技でも使える。
 図1(c)は、スケートボードへの装着例を示す。空中を飛んだ時、着地した時、ブレーキをかけて止まった時など、効果音を出してアピールできる。
 図1(d)は、サーフィンでの応用を示す。波にうまく乗った時、回転した時、波を乗り越えた時など、浜辺で見ている観客に技量を効果音でアピールすることができる。
 さらに、本発明においては、“音を鳴らす”、“鳴らさない”のレベルを砂浜にいる協力者が調整することが出来るので、波の大きい日、小さい日に合わせ、意図しないところで効果音がならないように微調整ができる。
 塩分を含んだ海水内で該移動通信端末10で直接レベル調整することは、電子製品上好ましくなく、また楽音発生器をサーフィンに積んで演技するのは、実際的ではない。同様に雪上における、ハーフパイプのような競技でも効果音でアピールできる。
 図1(e)は、バスケットボールにおける応用例を示す。選手が腕に装着しておけば、シュート寸前の腕の振り上げで、観客を盛り上げる効果音が、またボールに内蔵させておけば、ゴールリングをくるくる回っているときは、ゴロゴロゴロのような音を出したり、ネットを落ちれば、スポッというような効果音を出して、観客を楽しませることができる。フリースタイルバスケットボールでは、ボールの回転、バウンドなどで効果音を出せば、通りを歩く観客にアピールできる。例えば、サッカーのリフティングの場合、けった瞬間や上がった高さに応じて効果音を出す。また、リフティングした回数を、楽音発生システム側でOne,Two,Three,,のように発生させればゲーム効果が増す。
 図1(f)では、ジャグリングへの応用例を示す。ボールやクラブ内に動作検出装置を内蔵した移動通信端末を組み込んでおき、衝撃、回転、高さに応じて効果音を出せば、面白い。
 図1(g)は、野球における応用例である。ボールの中に動作検出装置を内蔵した移動通信端末を組み込んでおき、投げたスピード、回転数、回転方向に応じて音色を変える。スローボールを投げても、豪速球を投げたかのような効果音を鳴らしたり、ミットに入った衝撃を感じて、時速150kmのプロ野球投手並みの重い球を受けた時の音を鳴らすなど、エンターテインメント性が増す。さらに、音により右回転、左回転、縦回転などがわかるので、変化球練習の確認ができる。また搭載するセンサーにより、実際の球速も測定できるので、有意性が増す。
 図1(h)は、おもちゃにおける応用例を示す。けん玉であれば、玉の中に内蔵させ、空中に飛び出すとき、回転音、うまくお皿に乗った時にファンファーレを鳴らすなど、おもちゃならでは遊びができる。ヨーヨーも同様に、効果音で楽しめる。
 〔楽音発生器の例〕
 楽音発生器40は、ホストコンピュータ30である(i)タブレットPC、(j)スマートフォン、(k)ノートPC、(l)デスクトップPC,(m)専用機である等の形態で提供される。
 動作検出装置を内蔵した移動通信端末10と送受信通信するための回路が、上記(i)~(l)に内蔵されていない場合(専用機(m)は通信回路内蔵)は、外付け送受信回路20(以降ドングル20)を使用し、例えばUSB(Univaersal Serial Bus)、マイクロUSBコネクタ等を介し、ホストコンピュータ(i)~(l)に接続される。
 ホストコンピュータ(i)~(m)に内蔵されているスピーカーの音量が小さい場合は、図のように外付けのスピーカーまたは、アンプ付スピーカーを使用する。
 〔システム全体の構成〕
 図2は、本発明の一実施例による楽音発生システム全体の概略的な構成図である。
 動作検出装置を内蔵した移動通信端末10が、1からn個存在し、1台の楽音発生器30で、n個の端末に予め設定しておいた楽音を再生する。商品企画次第では、ランダムに楽音を再生してもよい。
 移動通信端末10_nは、動作センサーMSn、演算部CLn、判断部JDnおよび送受信部TRVnで構成され、アンテナANTnを通して、楽音発生器40を構成するドングル20と通信する。他の移動通信端末10_1…も同じ構成を有する。無線通信は、WiFi、BlueTooth、ZigBee(いずれも登録商標)またはその他の無線方式に従って行う。楽音発生器40にこれらの無線通信装置が内蔵されている場合は、ドングル20は不要である。
 本発明の実施例では、移動通信端末10_n内の動作センサーMSnが動作を感知し、楽音発生器40が楽音を発生するまでの時間の関係から、応答速度の速いZigBeeを使用している。
 ドングル20は、送受信アンテナANTD,送受信部TRDとプロトコル変換部PCで構成され、コネクタC1を介して、楽音発生器40内のホストコンピュータ30とコネクタC2でつながっている。一般的には、USB接続が使われるため、ドングル20内のインターフェイスは、USBインターフェイスである。
 ホストコンピュータ30は、演算処理装置CPUとGUI(Graphic User Interface)を備えており、これを使ってユーザーが各移動通信端末10_nの楽音割り当てなどを行う。ホストコンピュータ内の記憶装置(図示せず)には楽音データMDが保管されている。
 各移動通信端末10_nより楽音発生の指示が、上記経路を通してホストコンピュータ30に届いた場合は、上記GUIを使って予め設定しておいた楽音をホストコンピュータ内のスピーカー(図示せず)または、外部接続のスピーカーSP、あるいはアンプ付のスピーカーSPから発生させる。
 楽音は、予め設定しておくか、ランダムに楽音を選ぶようにするかは、商品企画次第である。
 前述のように、動作検出レベルの閾値を調整する場合は、前記ホストコンピュータのGUIを使って、閾値を変え、所望の移動通信端末10_nを動かしながら、実際に楽音が発生されるかを確認する。
 この場合、ホストコンピュータのコネクタC2,ドングル20のコネクタC1を介してデータが流れ、ドングル20内の送受信部TRDを通り、送受信アンテナANTDから電波として流される。
 所望の移動通信端末10_nには個別識別番号があるため、自分に対しての通信だと認識した該移動通信端末10_nの送受信部TRVnはデータを受信。判断部JDnの動作検出レベルの閾値を比較値として記憶させる(図示せず)。
 〔動作検出装置を内蔵した移動通信端末の構成〕
 図3は、本発明の一実施例による動作検出装置を内蔵した移動通信端末10の概略的な構成図である。
 前述のとおり、本発明では該移動通信端末が主体的に動作検出レベルの閾値と比較して、楽音の発生指示を行うため、演算処理を行うためのCPU1が必要となる。
 前記の手続きにより決定された動作検出レベルの閾値は、CPU1の設定部により外部またはCPU内部のメモリMEMに記憶される。CPU1の判断部は、動作センサーMS1より得られたデータをもとに演算部にて所定の演算を行い、メモリMEMに保存された動作検出レベルの閾値と比較して、“楽音を発生する”または“発生しない”を判断する。
 楽音を発生させる判断をCPU1の判断部が判断した場合は、使用する無線方式のプロトコルに従ってデータ列を構成し、RFスイッチRF1を出力側に切り替えたのち、送信部TR1を通して、該データ列をアンテナANT1から送信する。
 また、前述したように、CPU1の演算部にて所定の演算を行い、その結果のみを楽音発生器40のホストコンピュータ30に送り、該ホストコンピュータ30内のCPUにて所定の閾値と比較して、“楽音を発生する”または“発生しない”を判断させてもよい。
 RFスイッチRF1は、送信時以外は入力側に切り替わっており、アンテナANT1から受信部RV1を通して、CPU1に使用する無線方式のプロトコルに従ったデータ列を入力している。CPU1は、定常的にそのデータ列の中から、個別識別番号の監視を続け、自分の番号と一致した場合は、楽音発生器40のドングル20より新しい動作検出レベルの閾値が送られてきたと理解し、該閾値をCPU1内の設定部により外部またはCPU内部のメモリMEMに記憶させる。
 動作センサーMS1は、前記のとおり、加速度センサー、ジャイロセンサー、地磁気センサー等であり、商品企画によって単独または複数種類搭載される。1次元(X方向)、2次元(X方向、Y方向)、3次元(X方向、Y方向、Z方向)各種存在するが、既に3次元方式のものが多数、安価に流通しているので、3次元方式についてのみ記述すれば、必要にして十分である。
 SW1は、移動通信端末10_nと楽音発生器30内のホストコンピュータとペアリングをとるためのコミッションスイッチである。これにより、移動通信端末10_nの個別識別番号が、ホストコンピュータ内に保存記憶され、前記ホストコンピュータ30のGUIを使って、どの楽音を発生させるのか、動作検出レベルの閾値をどの値にするのかなどの設定を行うことができる。
 LED1は、前記データ列の送受信時に動作確認のために点灯させる表示器である。移動通信端末10_nは、図1に示されたように、様々なところに装着されるため、バッテリー駆動が必須である。SW2は電源スイッチでこれを介して、各回路に電源が供給される。
 使用されるバッテリーは、商品企画により様々である。充電池を用いた場合は、商品企画により移動通信端末10n内部に充電回路を有する場合もある(図示せず)。
 図4に動作検出装置を内蔵した移動通信端末10の外観の一例を示す。
前記コミッションスイッチSW1,電源スイッチSW2、送受信時の通信モニター表示器LED1を示す。
 〔ドングルの構成〕
 図5は、楽音発生器40の構成要素、ドングル20の概略的な構成図である。
 コネクタC1は、前述のとおり一般的にはUSBを使用する。USBは、1コネクタ当たり、+5V、500mAの電源をホストコンピュータから取り出すことができるので、ドングル20全体の電力を賄うのに十分である。コネクタC1から直接電源を取り出し、ドングル内の各部に供給する。ホストコンピュータが動作しているときのみ、役割があるドングルのため電源スイッチは設けない。
 LED2は、電源が供給されていることを表示するために設けた。
 ホストコンピュータから流れてくるデータ列は、USBプロトコルに従って構成されており、USBケーブルを介してUSBインターフェイスINTを通り、CPU2に渡される。このドングル20は、使用する電波通信方式のプロトコルにデータ列を変換する役割を持つ。
 すなわち、CPU2は、送受信に従い、プロトコル変換部により
送信時 USBプロトコル → 電波通信方式プロトコル
受信時 電波通信方式プロトコル → USBプロトコル
に変換する。
 アンテナANT2、RFスイッチRF2、受信部RV2、送信部TR2の動作は、前述と同様なので割愛する。
 図6にドングル20の外観の一例を示す。
 ドングル20は、電源表示LED2、コネクタC1(図6では見えない)、ケーブルを有する。
 〔さらなる応用例〕
 図7は、ダンサー2人が、両腕、両足にそれぞれ動作検出装置を内蔵した移動通信端末をつけた例である。この場合、計8個の移動通信端末の個別識別番号を、前述した方法で、楽音発生器40内のホストコンピュータ30内に保存記憶され、前記ホストコンピュータ30のGUIを使って、どの楽音を発生させるのか、動作検出レベルの閾値をどの値にするのかなどの設定を行う。
 ここで、図3の動作センサーMS1を単純なスイッチに置き換えた例を考える。これを楽音群スイッチャーと名付ける。この楽音群スイッチャーは、見かけ上、動作検出装置を内蔵した移動通信端末と同様であるが、無線方式のプロトコルに従ったデータ列の中の高々1ビットを使って、移動通信端末か楽音群スイッチャーかを識別させればよい。
 楽音群スイッチャーのホストコンピュータ30へのペアリングは、前述した移動通信端末10_nの個別識別番号をホストコンピュータに記憶させる手順を取ればよい。すなわち、コミッションスイッチにより、楽音群スイッチャーの個別識別番号が、ホストコンピュータ内に保存記憶され、前記無線方式のプロトコルに従ったデータ列の中の高々1ビットにより、これが楽音群スイッチャーであることが認識される。
 図8に、楽音群の切り替え例を示す。楽音群スイッチャーのスイッチを押すたびに、楽音群1→楽音群2→楽音群3→楽音群1→…と切り替わる応用例である。ダンサーは、床や地面にセットされた楽音群スイッチャーのスイッチを足で踏むことにより、楽音群を切り替える。この楽音群スイッチャーにより、ダンサーはより多彩なパフォーマンスを構成することができる。図8の例では、楽音群1→楽音群2の切り替えで、ダンサーAとダンサーBの音がきれいに入れ替わっている。
 楽音発生器40内のホストコンピュータ30のアプリケーションソフトの商品企画により、楽音切り替え方式は多彩である。
例えば、楽音群スイッチャーを押すたびに、ダンサーAとダンサーBの楽音が切り替わる例では、ダンサーAが攻撃側、ダンサーBが守勢側というようなストーリー仕立てのダンスを構成した場合、床に置いた楽音群スイッチャーのスイッチを操作し(例えば、足で踏んで)一気に攻守交代のような演技も可能となる。また例えば、ダンサーAがダンサーBを指さすタイミングで、スイッチを操作するたびに、それぞれの移動通信端末の設定音が入れ替わっていく演出もでき、面白い。
 楽音群スイッチャーは、一つである必要はなく、ダンサーA用、ダンサーB用のように演者それぞれに固有の楽音群スイッチャーを用意してもよい。
 〔動作センサーデータによる動き検出計算方法〕
 本発明の請求項1によれば、動作センサーデータの大きさを加算する演算部を有することを特徴とする。
 ここでは、加速度センサーを例に説明する、従来の、加速度のX方向、Y方向、Z方向の各成分を重要視する方式では、まず絶対加速度、すなわち加速度の絶対値|α|を、次の式によって求める。
Figure JPOXMLDOC01-appb-M000001
 人の動きを、X方向、Y方向、Z方向で解析しようとした場合、その動きの波形は疑似ピークを多数含む複雑な波形であることが知られている。そのため上記式(1)の加速度絶対値から、不要な高周波成分を除去するため、例えば12次の移動平均デジタルフィルタなどを通す必要がある。
 図9は、3次元加速度センサーを腕に取り付け、10回上下にヒットした場合のX方向、Y方向、Z方向の値をプロットしたものである。
 縦軸の値は、重力加速度mg(ミリg)を表す。プロットしたした点の時間間隔は、測定に使ったマイコンソフトのメインループ1周分の時間である。即ち、メインループ内で1回、3次元加速度センサーの値を読み取っている。左側の下に大きく振れた部分は、腕を下側に強くヒットした場合であり、以後、下、下、上、…のように値が振れているのがわかる。
 図10は、図9の各成分の値を式(1)を用いて計算し、プロットしたものである。図11は、本発明で用いた式(2)を用いて計算し、プロットしたものである。
Figure JPOXMLDOC01-appb-M000002
 図10と図11を見比べてみると、図10が比較的おとなしいグラフになっているのに対して、図11は振幅が大きく変化がよりはっきりしていると言える。しかし、図10と図11のグラフ波形に振幅以外の顕著な差はない。
 図12は、3次元ジャイロセンサーを腕に取り付け、腕を上下に上げ下ろしした場合のX方向、Y方向、Z方向の値をプロットしたものである。
 縦軸の値は、dps(Degree per Second)を表す。プロットしたした点の時間間隔は、前述と同じく、測定に使ったマイコンソフトのメインループ一周分の時間である。即ち、メインループ内で一回、3次元ジャイロセンサーの値を読み取っている。Z方向成分が、特に上下に大きく動いているのがわかる。
 図13は、図12の各成分の値を式(1)を用いて計算し、プロットしたものである。図14は、本発明で用いた式2の演算結果をもとにプロットしたものである。
 図13と図14を見比べてみると、図13が比較的おとなしく、振幅が小さいグラフになっているのに対して、図14は振幅が大きく変化がよりはっきりしていると言える。しかし、図13と図14のグラフ波形に振幅以外の顕著な差はない。
 上記のように実際に実験して、計算結果をそれぞれグラフにしてみると、複雑な平方根計算や乗算器を必要とする2乗計算などせずとも、単純に絶対値の足し算だけで必要とするデータが得られることがわかる。
 図1(a)のように動作検出装置を内蔵した移動通信端末10を複数個使うような応用例では、該移動通信端末の市場価格が安価であること要求される。前述したように、式(1)を実行するため2乗計算や平方根計算を駆使して得られた加速度絶対値から、不要な高周波成分を除去するため、さらに例えば12次の移動平均デジタルフィルタなどを通す必要がある。
 式(1)を移動通信端末10で実行するには、図3のCPU1を複雑な平方根計算や乗算ができる高価なマイコンを採用するしかない。これでは、上記のように移動通信端末を安価に市場に提供できる余地がなくなる。
 それでは、図2のホストコンピュータ30でその複雑な平方根計算や乗算を実行させる形式にすると、前述したように、動作検出装置を内蔵した移動通信端末10が、動作検出センサー(加速度、角速度、地磁気など)の情報をすべて、楽音発生器側に送る仕様となる。これでは、たとえば大勢のダンサーが各自両腕両足に動作検出装置を内蔵した移動通信端末をつけて、一斉に動作検出センサー情報を送り出した場合、楽音発生器側の演算装置では処理しきれない。
 そこで、本発明の請求項1のように、複雑な平方根計算や乗算、さらには高次のデジタルフィルタを前提とした式(1)を用いた方式ではなく、加算だけで実現できる式(2)を用いる。そして個々の該移動通信端末内で検出レベル閾値を超えたかどうか判断させ、その判断結果のみを楽音発生器40に送る、または加算したデータそのものを楽音発生器40に送り、楽音発生器40内のホストコンピュータ30にて判断させる。ホストコンピュータ30は、指示に従いあらかじめ設定された(またはランダムな)楽音を発生させる。
 本発明によれば、図3のCPU1は、数世代前の非常に安価なビット数の少ないマイコンを使用できるので、移動通信端末を市場に安価に提供することが可能となる。
 すなわち、平方根や2乗計算を実行するには、浮動小数点演算が必須であり、さらに12次のデジタルフィルターまで用意するとなると、高価な32bitマイコンが必要となる。これではユーザに安価に携帯型端末を提供することが難しくなる。一方、本発明においては、単純な整数の足し算と整数値の大小比較だけなので、非常に安価な4世代くらい前の8bitマイコンで十分である。本発明により、安価な携帯型端末をユーザに提供することができる。
 上記の浮動小数点演算を携帯型端末で行わず、楽音発生器のホストコンピュータで上記演算をさせる従来技術の場合、携帯型端末内の、例えば3次元加速度センサーのx方向、y方向、z方向の値そのものを送信している。しかし、これでは多数の携帯型端末から一斉にデータが届いた場合、ホストコンピュータの処理が間に合わず、楽音が発生されたり、発生されなかったり、発生が遅れたりと不具合を起こす。本発明では、このような課題を解決することができる。
 〔動作検出装置を内蔵した移動通信端末のより具体的な構成〕
 動作検出装置を内蔵した移動通信端末10は、前述したようにバッテリー駆動が必須である。バッテリーで駆動される移動通信端末の動作可能時間を増やすためには、消費電力を抑えることが重要となる。
 一般的に移動通信端末で電力を多く消費する部分は、電波送受信部であることが広く知られている。すなわち、この電波送受信部不使用時には電源を落とし(スタンバイモード)、必要とするときのみ電源を入れるようにすれば、総合的に消費電力を抑えることができる。
 動作検出装置を内蔵した移動通信端末のより具体的な構成では、図3の送信部TR1、受信部RV1、RFスイッチRF1さらには送受信アンテナANT1までが、ひとつのユニットになった集合部品XBが使われる。この該集合部品を使用した場合、移動通信端末10は、動作センサーMS1、CPU1と該集合部品XBの3つが主要パーツとなる。
 〔移動通信端末内のCPUの基本動作〕
 図15に該移動通信端末10内のCPU1の基本処理フローチャートの一閾値を示す。図3、図4の電源スイッチSW2が入ると、CPU1が動き出し、図15のフローチャートの順に処理を始める。
 まず、動作センサーMS1の初期設定(ステップS01)、動作検出レベルの閾値の初期設定(ステップS02)、集合部品XBのスタンバイモード設定(ステップS03)を行う。ここまでが、初期設定である。
 上記初期設定の後、メインループに入り、一連の処理を行う。ここでは、3次元加速度センサーを搭載した例を説明する。
 まず3次元加速度センサーMS1のX方向、Y方向、Z方向のそれぞれの値を読み込む(ステップS04)。そのあと、演算部にて、式(2)を用いて計算し(ステップS05)、その計算結果を判断部にて動作検出レベルの閾値と比較する(ステップS06)。
 計算結果が閾値を越えたと判断部が判断した場合は、集合部品XBのスタンバイモードを解除し(ステップS07)、楽音発生指示の送信を行う(ステップS08)。ここで、集合部品XBは、送信と同時に楽音発生器40内のホストコンピュータ30からのデータを受信している。データを受信した場合(ステップS09)、それが閾値データであれば(ステップS10)、設定部にて新たな閾値データを図3のメモリMEMに格納する(ステップS11)。その後、再び省エネのため集合部品XBをスタンバイモードに設定し(ステップS12)、再び3次元加速度センサーMS1の値を読み込む(ステップS04)に戻る。以上で、メインループが構成される。
 〔登録処理〕
 前述したように、登録処理はコミッションスイッチSW1を押すことにより開始される。CPU1は、該SW1が押されたことを認識すると、使用する無線方式のプロトコルに従ったデータ列の中に、移動通信端末10の個別識別番号をはめ込み、楽音発生器40に送信する。楽音発生器40内のホストコンピュータ30は、その個別識別番号を保存記憶し、GUI表示にてその旨をユーザーに知らせる。
 〔閾値データ送受信処理〕
 楽音発生の判断基準となる閾値データは、ホストコンピュータ30のGUI操作等によって行われる。ユーザーは、GUI画面を操作して閾値データ設定画面に切り替え、閾値を決定する。その閾値データは、対象とする移動通信端末の個別識別番号と共に、使用する無線方式のプロトコルに従ったデータ列に組み込まれ、図2のドングル20の送受信アンテナANTD、移動通信端末10_nの送受信アンテナANTnを通じて入力される。
 移動通信端末10_nは、送られてきた個別識別番号が自己のものと一致するか確認し、該閾値をCPU1内の設定部により外部またはCPU内部のメモリMEMに記憶させる。
 〔楽音発生処理〕
 前述したように、図3のCPU1の判断部は、動作センサーMS1より得られたデータをもとに演算部にて所定の演算を行い、メモリMEMに保存された動作検出レベルの閾値と比較して、“楽音を発生する”または“発生しない”を判断する。その判断結果は、個別識別番号と共に使用する無線方式のプロトコルに従ったデータ列に組み込まれ、送受信アンテナANT1より送信される。
 送信されたデータは、図2の楽音発生器40のドングル20にて受信され、プロトコル変換PCを通して、ホストコンピュータ30に送られる。ホストコンピュータ30は、送られてきた個別識別番号に楽音が設定済みかどうかを確認し、該当する楽音を発生させる。
 前述したように、CPU1の演算部にて所定の演算を行い、その結果のみを楽音発生器40のホストコンピュータ30に送り、該ホストコンピュータ30内のCPUにて“楽音を発生する”または“発生しない”を判断させる方式でもよい。
 なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることも可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
 例えば、判断部を移動通信端末に実装したが、ホストコンピュータ(楽音発生器)に実装してもよい。この場合、移動通信端末は、動きの検出値(加速度センサーの出力)の各成分の和をホストコンピュータに送信し、ホストコンピュータの判断部が、計算結果が閾値を越えたかを判断する。

Claims (5)

  1.  動作検出装置を内蔵し、動作対象物に設置された移動通信端末と、該移動通信端末と無線で接続された通信装置を有する楽音発生器からなる楽音発生システムであって、
     前記移動通信端末は、前記動作検出装置が複数の方向において検出した動きデータの大きさを加算する演算部を有し、
     前記楽音発生システムは、前記演算部による演算結果から所定量の動きが検出されたか否かを判断する判断部を有し、
     前記楽音発生器は、前記判断部による判断結果に従って、楽音を発生する楽音発生部を有する楽音発生システム。
  2.  請求項1に記載の楽音発生システムであって、
     前記判断部は、加速度、角速度及び地磁気の少なくとも一つの値が所定の基準値を超えたことによって、前記所定量の動きが検出されたかを判断することを特徴とする楽音発生システム。
  3.  請求項1に記載の楽音発生システムであって、
     前記移動通信端末は、
     前記判断部と、
     前記判断部による判断結果を送信する送信部とを有し、
     前記楽音発生器は、前記移動通信端末から判断結果を受信する受信部を有することを特徴とする楽音発生システム。
  4.  請求項3に記載の楽音発生システムであって、
     前記移動通信端末は、前記判断部による判断の基準値を設定する設定部を有し、
     前記楽音発生器は、前記設定部に設定される基準値の入力を受け付け、前記移動通信端末に送信することを特徴とする楽音発生システム。
  5.  請求項3又は4に記載の楽音発生システムであって、
     各々が一意の識別情報が付与された複数の前記移動通信端末を含み、
     前記送信部は、前記判断結果と共に前記識別情報を送信し、
     前記楽音発生部は、前記判断部による判断結果に従って、前記識別情報に対応して設定された楽音を発生することを特徴とする楽音発生システム。
PCT/JP2016/064248 2016-05-13 2016-05-13 楽音発生システム WO2017195343A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
PCT/JP2016/064248 WO2017195343A1 (ja) 2016-05-13 2016-05-13 楽音発生システム
PCT/JP2016/080487 WO2017195390A1 (ja) 2016-05-13 2016-10-14 楽音・映像発生システム
GB1713264.8A GB2552744A (en) 2016-05-13 2016-10-14 Musical sound and image generation system
US15/551,618 US20180286366A1 (en) 2016-05-13 2016-10-14 Sound/video generation system
TW105136999A TWI618048B (zh) 2016-05-13 2016-11-14 Music and video production system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/064248 WO2017195343A1 (ja) 2016-05-13 2016-05-13 楽音発生システム

Publications (1)

Publication Number Publication Date
WO2017195343A1 true WO2017195343A1 (ja) 2017-11-16

Family

ID=60267797

Family Applications (2)

Application Number Title Priority Date Filing Date
PCT/JP2016/064248 WO2017195343A1 (ja) 2016-05-13 2016-05-13 楽音発生システム
PCT/JP2016/080487 WO2017195390A1 (ja) 2016-05-13 2016-10-14 楽音・映像発生システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/080487 WO2017195390A1 (ja) 2016-05-13 2016-10-14 楽音・映像発生システム

Country Status (3)

Country Link
US (1) US20180286366A1 (ja)
TW (1) TWI618048B (ja)
WO (2) WO2017195343A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111803904A (zh) * 2019-04-11 2020-10-23 上海天引生物科技有限公司 一种舞蹈教学练习装置及方法

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110168634B (zh) * 2017-03-24 2024-03-19 雅马哈株式会社 发声装置、发声系统及游戏装置
JPWO2019135291A1 (ja) 2018-01-08 2020-12-17 ローランド株式会社 楽器用送信機およびそのモード切替方法
JP6987225B2 (ja) * 2018-04-19 2021-12-22 ローランド株式会社 電気楽器システム
US11167206B2 (en) 2019-05-22 2021-11-09 Casio Computer Co., Ltd. Portable music playing game device
US11563504B2 (en) * 2020-06-25 2023-01-24 Sony Interactive Entertainment LLC Methods and systems for performing and recording live music using audio waveform samples
GB2611021B (en) * 2021-08-27 2024-06-26 Little People Big Noise Ltd Gesture-based audio syntheziser controller
TWI825576B (zh) * 2022-01-28 2023-12-11 中華電信股份有限公司 實現線上異地同步合奏之協作系統、方法及電腦可讀媒介

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007298598A (ja) * 2006-04-28 2007-11-15 Nintendo Co Ltd 音出力制御プログラムおよび音出力制御装置
JP2011053321A (ja) * 2009-08-31 2011-03-17 Yamaha Corp 携帯情報機器
JP2012018334A (ja) * 2010-07-09 2012-01-26 Casio Comput Co Ltd 演奏装置および電子楽器
JP2014062949A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 演奏装置、演奏方法及びプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3646599B2 (ja) * 2000-01-11 2005-05-11 ヤマハ株式会社 演奏インターフェイス
JP2003038469A (ja) * 2001-05-21 2003-02-12 Shigeru Ota 運動機能測定装置および運動機能測定システム
JP4941037B2 (ja) * 2007-03-22 2012-05-30 ヤマハ株式会社 トレーニング支援装置、トレーニング支援方法及びトレーニング支援装置用プログラム
TWI402784B (zh) * 2009-09-18 2013-07-21 Univ Nat Central Music detection system based on motion detection, its control method, computer program products and computer readable recording media
JP5533915B2 (ja) * 2012-03-07 2014-06-25 カシオ計算機株式会社 習熟度判定装置、習熟度判定方法及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007298598A (ja) * 2006-04-28 2007-11-15 Nintendo Co Ltd 音出力制御プログラムおよび音出力制御装置
JP2011053321A (ja) * 2009-08-31 2011-03-17 Yamaha Corp 携帯情報機器
JP2012018334A (ja) * 2010-07-09 2012-01-26 Casio Comput Co Ltd 演奏装置および電子楽器
JP2014062949A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 演奏装置、演奏方法及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111803904A (zh) * 2019-04-11 2020-10-23 上海天引生物科技有限公司 一种舞蹈教学练习装置及方法

Also Published As

Publication number Publication date
TWI618048B (zh) 2018-03-11
US20180286366A1 (en) 2018-10-04
TW201740365A (zh) 2017-11-16
WO2017195390A1 (ja) 2017-11-16

Similar Documents

Publication Publication Date Title
WO2017195343A1 (ja) 楽音発生システム
US20160332064A1 (en) Devices, systems and methods for games, sports, entertainment and other activities of engagement
JP6539272B2 (ja) コンピュータにより実現される方法、非一時的かつコンピュータが読み取り可能な媒体、および単一装置
CN105288963B (zh) 团体运动环境中的运动表现监测系统和方法
US9662557B2 (en) Music gaming system
US20070178967A1 (en) Device, system and method for football catch computer gaming
US8792869B2 (en) Method and apparatus for using proximity sensing for augmented reality gaming
US8047925B2 (en) Playground device with motion dependent sound feedback
JP5681633B2 (ja) 視覚情報を通信するためのコントロールデバイス
CA2795399A1 (fr) Virtual exerciser device
KR101805752B1 (ko) 아웃도어 게이밍을 위한 근접도 및 스턴트 기록의 방법 및 장치
JP2010017405A (ja) ゲームプログラムおよびゲーム装置
US20220351708A1 (en) Arrangement and method for the conversion of at least one detected force from the movement of a sensing unit into an auditory signal
US10335685B2 (en) Storage medium having stored therein game program, information processing apparatus, information processing system, and game processing method
WO2010068901A2 (en) Interface apparatus for software
GB2552744A (en) Musical sound and image generation system
JP2019004927A (ja) 電子機器、リズム情報報知方法及びプログラム
CN203169906U (zh) 五感运动康复训练台
WO2003076023A1 (es) Sistema electronico para la realizacion de ejercicio fisico
JP6977857B2 (ja) 報知システム、報知方法及びプログラム
TW201016270A (en) Sports implement for using in a virtual sports system
CN103071272A (zh) 五感运动康复训练台
TWM337397U (en) Interactive fitness belt
JP2009276781A (ja) 楽音制御システム

Legal Events

Date Code Title Description
NENP Non-entry into the national phase

Ref country code: DE

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16901691

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 16901691

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP