JP7330634B2 - mobile terminal, program - Google Patents

mobile terminal, program Download PDF

Info

Publication number
JP7330634B2
JP7330634B2 JP2019232947A JP2019232947A JP7330634B2 JP 7330634 B2 JP7330634 B2 JP 7330634B2 JP 2019232947 A JP2019232947 A JP 2019232947A JP 2019232947 A JP2019232947 A JP 2019232947A JP 7330634 B2 JP7330634 B2 JP 7330634B2
Authority
JP
Japan
Prior art keywords
performance
image data
karaoke
music
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019232947A
Other languages
Japanese (ja)
Other versions
JP2021101223A (en
Inventor
政之 鎌田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daiichikosho Co Ltd
Original Assignee
Daiichikosho Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daiichikosho Co Ltd filed Critical Daiichikosho Co Ltd
Priority to JP2019232947A priority Critical patent/JP7330634B2/en
Publication of JP2021101223A publication Critical patent/JP2021101223A/en
Application granted granted Critical
Publication of JP7330634B2 publication Critical patent/JP7330634B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、携帯端末、プログラムに関する。 The present invention relates to mobile terminals and programs.

近年、携帯端末に記憶された画像を、カラオケ演奏中にモニタに表示させるカラオケシステムが普及している。また、携帯端末からサーバにアップロードされた画像データを用いて背景映像を生成し、カラオケ演奏中の背景映像のバリエーションを豊富にするカラオケシステムも提案されている(例えば、特許文献1参照)。特許文献1に記載のカラオケシステムは、サーバにアップロードされた多数の画像データの中から、利用者に選曲された楽曲等に応じて複数の画像データを抽出して、複数の画像データを組み合わせることで背景映像を生成している。 2. Description of the Related Art In recent years, karaoke systems that display images stored in mobile terminals on a monitor during a karaoke performance have become widespread. A karaoke system has also been proposed that generates a background image using image data uploaded from a mobile terminal to a server, and provides a wide variety of background images during a karaoke performance (see, for example, Patent Document 1). The karaoke system described in Patent Literature 1 extracts a plurality of image data from a large number of image data uploaded to a server according to music selected by a user, and combines the plurality of image data. generates a background image.

特開2011-075701号公報Japanese Unexamined Patent Application Publication No. 2011-075701

特許文献1に記載のカラオケシステムは、複数の画像を背景映像として順番にモニタに表示させているが、利用者が用意した画像をカラオケ演奏中に所望のタイミングで背景映像としてモニタに表示させることはできない。 In the karaoke system described in Patent Document 1, a plurality of images are sequentially displayed on the monitor as background images. However, images prepared by the user can be displayed on the monitor as background images at desired timing during karaoke performance. can't.

本発明の目的は、楽曲の様々なタイミングに合わせて利用者が用意した画像を、カラオケ演奏中の背景映像として表示させることができる携帯端末、プログラムを提供することである。 SUMMARY OF THE INVENTION An object of the present invention is to provide a mobile terminal and a program capable of displaying images prepared by the user in accordance with various timings of music as background images during karaoke performance.

上記目的を達成するための主たる発明は、楽曲のカラオケ演奏が可能な携帯端末であって、楽曲のカラオケ演奏中に撮影手段で画像を撮影する場合に、前記撮影手段から出力された画像データに、当該楽曲の楽曲識別情報と撮影タイミングに応じた演奏位置情報を対応付ける対応付け部と、前記撮影手段で撮影した画像データと共に当該画像データに対応付けられた楽曲識別情報及び演奏位置情報を記憶手段に記憶させる記憶制御部と、楽曲のカラオケ演奏中に表示手段に画像を表示させる場合に、当該楽曲の楽曲識別情報に対応する画像データ及び演奏位置情報を前記記憶手段から抽出する抽出部と、カラオケ演奏中の楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて前記表示手段に画像を表示させる表示制御部と、を備えている携帯端末である。 The main invention for achieving the above object is a portable terminal capable of karaoke performance of a musical piece, wherein when an image is shot by a photographing means during the karaoke performance of a musical piece, the image data output from the photographing means is a correlating unit that associates music identification information of the music with performance position information corresponding to shooting timing; and storage means for storing image data captured by the photography means and music identification information and performance position information associated with the image data. and an extraction unit for extracting image data corresponding to the music identification information of the song and performance position information from the storage means when an image is displayed on the display means during the karaoke performance of the song, and a display control unit that causes the display means to display an image based on the image data and the performance position information in accordance with the progression of the performance positions of the music during the karaoke performance.

本発明によれば、楽曲のカラオケ演奏中に利用者が画像を撮影することで、撮影タイミングに応じた演奏位置情報と共に画像データが記憶手段に記憶される。画像データが記憶手段に記憶されている場合に楽曲のカラオケ演奏を開始すると、カラオケ演奏中の楽曲の演奏位置が演奏位置情報に示す演奏位置まで進行したときに、画像データに基づいて表示手段に画像が表示される。このように、楽曲の様々なタイミングに合わせて利用者が用意した画像を、カラオケ演奏中の背景映像として表示手段に表示させることができる。 According to the present invention, the image data is stored in the storage means together with the performance position information according to the shooting timing by the user taking an image during the karaoke performance of the song. When the karaoke performance of a song is started when the image data is stored in the storage means, when the performance position of the song during the karaoke performance progresses to the performance position indicated by the performance position information, the display means is displayed based on the image data. An image is displayed. In this way, images prepared by the user in accordance with various timings of music can be displayed on the display means as background images during karaoke performance.

第1実施形態の携帯端末の機能ブロック図である。2 is a functional block diagram of the mobile terminal of the first embodiment; FIG. 第1実施形態の撮影モードの処理動作を示すフローチャートである。4 is a flow chart showing processing operations in a shooting mode of the first embodiment; 第1実施形態の演奏位置情報の一例を示す図である。4 is a diagram showing an example of performance position information according to the first embodiment; FIG. 第1実施形態の表示モードの処理動作を示すフローチャートである。4 is a flowchart showing processing operations in a display mode according to the first embodiment; 第1実施形態の演奏位置情報の他の一例を示す図である。FIG. 10 is a diagram showing another example of performance position information according to the first embodiment; FIG. 第1実施形態の演奏位置情報の他の一例を示す図である。FIG. 10 is a diagram showing another example of performance position information according to the first embodiment; FIG. 第2実施形態の携帯端末の機能ブロック図である。8 is a functional block diagram of a mobile terminal according to a second embodiment; FIG. 第2実施形態の撮影モードの処理動作を示すフローチャートである。9 is a flowchart showing processing operations in a shooting mode of the second embodiment; 第2実施形態の演奏位置情報の一例を示す図である。FIG. 11 is a diagram showing an example of performance position information according to the second embodiment; FIG. 第3実施形態の携帯端末の機能ブロック図である。FIG. 11 is a functional block diagram of a mobile terminal according to a third embodiment; 第3実施形態の表示モードの処理動作を示すフローチャートである。11 is a flow chart showing processing operations in a display mode according to the third embodiment;

<第1実施形態>
以下、第1実施形態の携帯端末10について説明する。図1は、第1実施形態の携帯端末10の機能ブロック図である。なお、図1の機能ブロック図には、説明の便宜上、主にカラオケ演奏中の背景映像を生成する機能に関する機能ブロックを図示している。
<First embodiment>
The mobile terminal 10 of the first embodiment will be described below. FIG. 1 is a functional block diagram of the mobile terminal 10 of the first embodiment. For convenience of explanation, the functional block diagram of FIG. 1 mainly shows functional blocks related to the function of generating a background image during a karaoke performance.

図1に示すように、携帯端末10は、いわゆるスマートフォンであり、携帯電話として機能するだけでなく、写真撮影やWebサイトの閲覧、動画の閲覧が可能な他、各種アプリケーションを自由に追加することが可能である。本実施形態の携帯端末10には、カラオケ演奏を実行するカラオケアプリケーションのプログラムがインストールされている。このカラオケアプリケーションには、楽曲予約、楽曲検索、カラオケ演奏、歌唱採点等の各種機能に加えて、利用者Uが用意した画像をカラオケ演奏中の背景映像にする背景映像生成機能が含まれている。 As shown in FIG. 1, the mobile terminal 10 is a so-called smart phone, and not only functions as a mobile phone, but also enables taking pictures, viewing websites, viewing videos, and various applications can be freely added. is possible. A karaoke application program for performing a karaoke performance is installed in the portable terminal 10 of the present embodiment. This karaoke application includes various functions such as music reservation, music search, karaoke performance, and song scoring, as well as a background image generation function that uses an image prepared by the user U as a background image during the karaoke performance. .

携帯端末10には、ハードウェアとして、ディスプレイ等の表示手段11、カメラ等の撮影手段12、メモリ等の記憶手段13、MIDI音源等のカラオケ演奏手段14、内蔵マイクロフォン等の集音手段15、外付けイヤホン等の放音手段16が設けられている。カラオケ演奏手段14によって楽曲データに基づいてカラオケ演奏が実施され、カラオケ演奏の演奏信号と集音手段15から入力された歌唱音声信号がミキシングされて、ミキシング信号が放音手段16から放音される。このように、利用者Uがカラオケ演奏に合わせて歌唱すると、放音手段16から演奏音と共に歌唱音声が放音される。 The mobile terminal 10 includes, as hardware, display means 11 such as a display, photographing means 12 such as a camera, storage means 13 such as a memory, karaoke performance means 14 such as a MIDI sound source, sound collection means 15 such as a built-in microphone, external A sound emitting means 16 such as an attached earphone is provided. A karaoke performance is performed by the karaoke performance means 14 based on the music data, the performance signal of the karaoke performance and the singing voice signal input from the sound collection means 15 are mixed, and the mixed signal is emitted from the sound emission means 16. . Thus, when the user U sings along with the karaoke performance, the singing voice is emitted from the sound emitting means 16 together with the performance sound.

また、携帯端末10には、背景映像生成機能を実現するために、モード選択部21、対応付け部22、記憶制御部23、抽出部24、表示制御部25が設けられている。モード選択部21は、携帯端末10の動作モードとして撮影モード又は表示モードを選択する。撮影モードは楽曲のカラオケ演奏中に撮影手段12で画像を撮影する動作モードであり、表示モードは楽曲のカラオケ演奏中に表示手段11に画像を表示させる動作モードである。例えば、表示手段11に表示されたモード選択画面で、撮影モードボタン及び表示モードボタンがタップされることで、モード選択部21によって動作モードが選択される。 Further, the mobile terminal 10 is provided with a mode selection unit 21, an association unit 22, a storage control unit 23, an extraction unit 24, and a display control unit 25 in order to realize a background image generation function. The mode selection unit 21 selects a shooting mode or a display mode as the operation mode of the mobile terminal 10 . The photographing mode is an operation mode in which an image is photographed by the photographing means 12 during the karaoke performance of a musical piece, and the display mode is an operational mode in which an image is displayed on the display means 11 during the karaoke performance of a musical piece. For example, the operation mode is selected by the mode selection unit 21 by tapping the shooting mode button and the display mode button on the mode selection screen displayed on the display unit 11 .

対応付け部22は、撮影モードで楽曲のカラオケ演奏中に撮影手段12から出力された画像データに、楽曲の楽曲識別情報と撮影タイミングに応じた演奏位置情報を対応付ける。この場合、撮影手段12の撮影タイミングに同期して、対応付け部22によってカラオケ演奏手段14から楽曲の楽曲識別情報とカラオケ演奏の演奏位置を示す演奏位置情報が取得される。そして、撮影手段12から取得した画像データに楽曲識別情報と演奏位置情報が対応付けられる。なお、演奏位置情報とは、小節数に基づいた位置情報であり、カラオケ演奏手段14による楽曲データ中の演奏位置(再生位置)を小節番号で示した情報である。 The associating unit 22 associates the image data output from the photographing means 12 during the karaoke performance of the music in the photographing mode with the music identification information of the music and performance position information corresponding to the photographing timing. In this case, in synchronism with the photographing timing of the photographing means 12, the correlating part 22 acquires the music identification information of the music piece and the performance position information indicating the performance position of the karaoke performance from the karaoke performance means 14. FIG. Then, the music identification information and performance position information are associated with the image data acquired from the photographing means 12 . The performance position information is position information based on the number of measures, and is information indicating the performance position (playback position) in the music data by the karaoke performance means 14 by the measure number.

記憶制御部23は、撮影モードで画像データと共に当該画像データに対応付けられた楽曲識別情報及び演奏位置情報を記憶手段13に記憶させる。なお、記憶制御部23は、利用者Uの指示に応じて、記憶手段13に記憶された画像データを、対応付けられた楽曲識別情報及び演奏位置情報と共に削除することもできる。抽出部24は、表示モードで楽曲識別情報に対応する画像データ及び演奏位置情報を記憶手段13から抽出する。この場合、抽出部24によって楽曲のカラオケ演奏中にカラオケ演奏手段14から楽曲識別情報が取得され、この楽曲識別情報を検索キーにして記憶手段13から画像データと演奏位置情報のセットが抽出される。 The storage control unit 23 causes the storage unit 13 to store the music identification information and performance position information associated with the image data together with the image data in the shooting mode. Note that the storage control unit 23 can also delete the image data stored in the storage unit 13 together with the associated music identification information and performance position information in response to an instruction from the user U. The extraction unit 24 extracts image data and performance position information corresponding to the music identification information from the storage unit 13 in the display mode. In this case, the extraction unit 24 acquires the music identification information from the karaoke performance means 14 during the karaoke performance of the music, and extracts a set of image data and performance position information from the storage means 13 using the music identification information as a search key. .

表示制御部25は、表示モードでカラオケ演奏中の楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて表示手段11に画像を表示させる。この場合、表示制御部25は、抽出部24から画像データと演奏位置情報のセットを取得する。そして、楽曲の演奏位置が演奏位置情報に示される演奏位置になったタイミングで、演奏位置情報に対応付けられた画像データから画像を形成して表示手段11に表示させる。楽曲のカラオケ演奏の進行に伴って、表示手段11の表示が切り替わることで、利用者Uが用意した画像がカラオケ演奏中の背景映像として使用される。 The display control unit 25 causes the display unit 11 to display an image based on the image data and the performance position information in accordance with the progression of the performance positions of the music being played in the display mode. In this case, the display control section 25 acquires a set of image data and performance position information from the extraction section 24 . Then, at the timing when the playing position of the musical piece becomes the playing position indicated by the playing position information, an image is formed from the image data associated with the playing position information and displayed on the display means 11. - 特許庁The image prepared by the user U is used as a background image during the karaoke performance by switching the display of the display means 11 as the karaoke performance of the music progresses.

また、表示制御部25は、楽曲のカラオケ演奏の開始時点に、タイトル画像データ及び楽曲のタイトル情報に基づいて表示手段11にタイトル画像を表示させる。この場合、表示制御部25は、抽出部24を介してカラオケ演奏手段14から楽曲データのタイトル情報を取得する。そして、抽出部24を介して記憶手段13から取得したタイトル画像データにタイトル情報が組み合わされて表示手段11にタイトル画像が表示される。このように、撮影モードでは対応付け部22と記憶制御部23が機能して、背景映像用の画像データが記憶手段13に記憶され、表示モードでは抽出部24と表示制御部25が機能して、背景映像用の画像がカラオケ演奏中に所望なタイミングで表示される。 Also, the display control unit 25 causes the display unit 11 to display a title image based on the title image data and the title information of the music at the start of the karaoke performance of the music. In this case, the display control section 25 acquires the title information of the music data from the karaoke performance means 14 via the extraction section 24 . Then, the title information is combined with the title image data acquired from the storage means 13 via the extraction part 24 and the title image is displayed on the display means 11 . In this manner, the association unit 22 and the storage control unit 23 function in the shooting mode to store the image data for the background image in the storage unit 13, and the extraction unit 24 and the display control unit 25 function in the display mode. , the image for the background image is displayed at a desired timing during the karaoke performance.

また、携帯端末10の各部の処理は、プロセッサを用いてソフトウェアによって実現されてもよいし、集積回路等に形成された論理回路(ハードウェア)によって実現されてもよい。プロセッサを用いる場合には、プロセッサがメモリに記憶されているプログラムを読み出して実行することで各種処理が実施される。プロセッサとしては、例えば、CPU(Central Processing Unit)が使用される。また、メモリは、用途に応じてROM(Read Only Memory)、RAM(Random Access Memory)等の一つ又は複数の記憶媒体によって構成されている。 Further, the processing of each unit of the mobile terminal 10 may be implemented by software using a processor, or may be implemented by a logic circuit (hardware) formed in an integrated circuit or the like. When a processor is used, various processes are performed by the processor reading and executing programs stored in the memory. For example, a CPU (Central Processing Unit) is used as the processor. In addition, the memory is composed of one or a plurality of storage media such as ROM (Read Only Memory), RAM (Random Access Memory), etc., depending on the application.

続いて、携帯端末10の処理動作について説明する。図2は、第1実施形態の撮影モードの処理動作を示すフローチャートである。図3は、第1実施形態の演奏位置情報の一例を示す図である。図4は、第1実施形態の表示モードの処理動作を示すフローチャートである。なお、図2及び図4に示すフローチャートは一例を示すものであり、携帯端末10の処理動作はこのフローチャートに限定されない。また、図2及び図4では、図1の符号を適宜使用して説明する。 Next, processing operations of the mobile terminal 10 will be described. FIG. 2 is a flow chart showing processing operations in a shooting mode according to the first embodiment. FIG. 3 is a diagram showing an example of performance position information according to the first embodiment. FIG. 4 is a flow chart showing processing operations in the display mode of the first embodiment. The flowcharts shown in FIGS. 2 and 4 are examples, and the processing operation of the mobile terminal 10 is not limited to these flowcharts. Further, in FIGS. 2 and 4, the reference numerals in FIG. 1 are appropriately used for description.

図2に示すように、利用者Uによってカラオケアプリケーションが操作され、モード選択部21によって携帯端末10の動作モードが撮影モードに設定される(ステップS01)。次に、利用者Uによって選曲画面で楽曲Xが選曲され、カラオケ演奏手段14によって楽曲Xの楽曲識別情報ID*****が示す楽曲データが読み込まれる(ステップS02)。なお、撮影モードでは、利用者Uはカラオケ歌唱を行わずに、カラオケ演奏を聴くだけなので、利用者Uが歌詞からカラオケ演奏中の演奏位置を把握し易いように、ガイドボーカルがONに設定されることが好ましい。 As shown in FIG. 2, the karaoke application is operated by the user U, and the operation mode of the portable terminal 10 is set to the shooting mode by the mode selection unit 21 (step S01). Next, the music X is selected by the user U on the music selection screen, and the music data indicated by the music identification information ID**** of the music X is read by the karaoke performance means 14 (step S02). In the photography mode, the user U does not sing karaoke but only listens to the karaoke performance. Therefore, the guide vocal is set to ON so that the user U can easily grasp the performance position during the karaoke performance from the lyrics. preferably.

次に、利用者Uによってカラオケアプリケーションが操作され、カラオケ演奏手段14によって楽曲Xの楽曲データが再生されてカラオケ演奏が開始される(ステップS03)。楽曲データは、携帯端末10の記憶手段13に記憶されていてもよいし、携帯端末10に通信可能に接続されたサーバ(不図示)から配信されてもよい。楽曲データには、演奏位置情報として楽曲の演奏位置を示すための小節番号の情報が含まれている。楽曲データに小節番号の情報が含まれる代わりに、ビート検出等の公知技術を用いてカラオケ演奏手段14によって楽曲データから小節番号の情報が生成されてもよい。 Next, the karaoke application is operated by the user U, the music data of the music piece X is reproduced by the karaoke performance means 14, and the karaoke performance is started (step S03). The music data may be stored in the storage means 13 of the mobile terminal 10 or distributed from a server (not shown) communicably connected to the mobile terminal 10 . The music data includes bar number information for indicating the performance position of the music as the performance position information. Instead of including bar number information in the music data, the bar number information may be generated from the music data by the karaoke performance means 14 using known techniques such as beat detection.

次に、利用者Uによって楽曲Xのカラオケ演奏に合わせて静止画が撮影されると、撮影手段12から対応付け部22に静止画の画像データが出力される(ステップS04でYes)。撮影タイミングに同期して、対応付け部22によって小節番号を示す演奏位置情報が取得される(ステップS05)。次に、記憶制御部23によって画像データ、楽曲識別情報ID*****、演奏位置情報が対応付けられた状態で記憶手段13に記憶される(ステップS06)。ステップS04-S06の処理はカラオケ演奏が終了するまで繰り返される(ステップS07)。 Next, when a still image is captured by the user U along with the karaoke performance of the song X, image data of the still image is output from the capturing means 12 to the association unit 22 (Yes in step S04). In synchronization with the shooting timing, the performance position information indicating the bar number is acquired by the associating section 22 (step S05). Next, the image data, the music identification information ID****, and the performance position information are stored in the storage means 13 in a state of being associated with each other by the storage control unit 23 (step S06). The processing of steps S04-S06 is repeated until the karaoke performance ends (step S07).

例えば、図3に示すように、利用者Uによって楽曲Xのカラオケ演奏に合わせて、撮影手段12によって8つの静止画が撮影される。このとき、楽曲Xの9小節目(1番のAメロ、Aメロ1)で静止画が撮影されると、この静止画の画像データV01が楽曲識別情報ID*****と演奏位置情報としての小節番号M=9に対応付けられて記憶手段13に記憶される。楽曲Xの25小節目(1番のサビ、サビ1)で静止画が撮影されると、この静止画の画像データV02が楽曲識別情報ID*****と小節番号M=25に対応付けられて記憶手段13に記憶される。 For example, as shown in FIG. 3, eight still images are shot by the shooting means 12 in time with the karaoke performance of the song X by the user U. At this time, when a still image is captured at the 9th bar of music X (1st A melody, A melody 1), image data V01 of this still image is composed of music identification information ID**** and performance position information. is stored in the storage means 13 in association with the bar number M=9. When a still image is captured at the 25th measure (chorus of No. 1, chorus 1) of music X, image data V02 of this still image is associated with music identification information ID**** and measure number M=25. and stored in the storage means 13.

楽曲Xの33小節目(2番のAメロ、Aメロ2)で静止画が撮影されると、この静止画の画像データV03が楽曲識別情報ID*****と小節番号M=33に対応付けられて記憶手段13に記憶される。楽曲Xの49小節目(2番のサビ、サビ2)で静止画が撮影されると、この静止画の画像データV04が楽曲識別情報ID*****と小節番号M=49に対応付けられて記憶手段13に記憶される。楽曲Xの57小節目(間奏)で静止画が撮影されると、この静止画の画像データV05が楽曲識別情報ID*****と小節番号M=57に対応付けられて記憶手段13に記憶される。 When a still image is captured at the 33rd bar of music X (A melody of No. 2, A melody 2), image data V03 of this still image is converted to music identification information ID**** and bar number M=33. They are stored in the storage means 13 in association with each other. When a still image is captured at the 49th measure (2nd chorus, chorus 2) of the song X, the image data V04 of this still image is associated with the song identification information ID**** and the measure number M=49. and stored in the storage means 13. When a still image is shot at bar 57 (interlude) of music X, image data V05 of this still image is associated with music identification information ID**** and bar number M=57 and stored in storage means 13. remembered.

楽曲Xの73小節目(3番のAメロ、Aメロ3)で静止画が撮影されると、この静止画の画像データV06が楽曲識別情報ID*****と小節番号M=73に対応付けられて記憶手段13に記憶される。楽曲Xの81小節目(3番のBメロ、Bメロ3)で静止画が撮影されると、この静止画の画像データV07が楽曲識別情報ID*****と小節番号M=81に対応付けられて記憶手段13に記憶される。楽曲Xの89小節目(3番のサビ、サビ3)で静止画が撮影されると、この静止画の画像データV08が楽曲識別情報ID*****と小節番号M=89に対応付けられて記憶手段13に記憶される。 When a still image is captured at the 73rd bar of music X (A melody of No. 3, A melody 3), image data V06 of this still image is converted to music identification information ID**** and bar number M=73. They are stored in the storage means 13 in association with each other. When a still image is captured at the 81st bar (3rd B melody, B melody 3) of the song X, the image data V07 of this still image is set to the song identification information ID**** and the bar number M=81. They are stored in the storage means 13 in association with each other. When a still image is captured at the 89th measure (3rd chorus, chorus 3) of the song X, the image data V08 of this still image is associated with the song identification information ID**** and the measure number M=89. and stored in the storage means 13.

図4に示すように、利用者Uによってカラオケアプリケーションが操作されて、モード選択部21によって携帯端末10の動作モードが撮影モードから表示モードに切り替えられる(ステップS11)。次に、利用者Uによって選曲画面で楽曲Xが選曲され、カラオケ演奏手段14によって楽曲Xの楽曲識別情報ID*****が示す楽曲データが読み込まれる(ステップS12)。次に、利用者Uによってカラオケアプリケーションが操作されて、カラオケ演奏手段14によって楽曲Xの楽曲データが再生されてカラオケ演奏が開始される(ステップS13)。 As shown in FIG. 4, the karaoke application is operated by the user U, and the operation mode of the mobile terminal 10 is switched from the shooting mode to the display mode by the mode selection unit 21 (step S11). Next, the music X is selected by the user U on the music selection screen, and the music data indicated by the music identification information ID**** of the music X is read by the karaoke performance means 14 (step S12). Next, the karaoke application is operated by the user U, the music data of the music piece X is reproduced by the karaoke performance means 14, and the karaoke performance is started (step S13).

次に、抽出部24によって記憶手段13から楽曲識別情報ID*****に対応付けられた画像データ及び演奏位置情報が抽出される(ステップS14)。また、楽曲Xの演奏が開始されると、表示制御部25によってタイトル情報及びタイトル画像データに基づいて表示手段11にタイトル画像が表示される(ステップS15)。次に、利用者Uによってカラオケ歌唱が開始され、カラオケ演奏中の楽曲Xの演奏位置が演奏位置情報に示す小節番号(M小節目)になると(ステップS16でYes)、演奏位置情報に対応した静止画が表示手段11に表示される(ステップS17)。ステップS16-S17の処理はカラオケ演奏が終了するまで繰り返される(ステップS18)。 Next, the extraction unit 24 extracts the image data and performance position information associated with the music identification information ID**** from the storage unit 13 (step S14). Further, when the performance of the music piece X is started, the title image is displayed on the display means 11 based on the title information and the title image data by the display control section 25 (step S15). Next, when the karaoke singing is started by the user U, and the performance position of the music piece X during the karaoke performance reaches the bar number (M bar) indicated in the performance position information (Yes in step S16), the performance position information corresponds to the performance position information. A still image is displayed on the display means 11 (step S17). The processing of steps S16-S17 is repeated until the karaoke performance ends (step S18).

例えば、図3に示すように、利用者Uによるカラオケ歌唱中に、楽曲Xのカラオケ演奏の進行に伴って、背景映像として8つの静止画が表示手段11に対して順番に表示される。楽曲Xの演奏位置が9小節目になり、演奏区間が前奏から1番のAメロに移ると、表示手段11の表示がタイトル画像から画像データV01に基づく画像に切り替わる。楽曲Xの演奏位置が25小節目になり、演奏区間が1番のBメロから1番のサビに移ると、表示手段11の表示が画像データV01に基づく画像から画像データV02に基づく画像に切り替わる。 For example, as shown in FIG. 3, while the user U is singing karaoke, eight still images are sequentially displayed on the display means 11 as background images as the karaoke performance of the song X progresses. When the performance position of the music piece X reaches the ninth bar and the performance interval shifts from the prelude to the first A melody, the display of the display means 11 is switched from the title image to the image based on the image data V01. When the performance position of the music piece X reaches the 25th bar and the performance interval shifts from the first B melody to the first chorus, the display of the display means 11 is switched from the image based on the image data V01 to the image based on the image data V02. .

楽曲Xの演奏位置が33小節目になり、演奏区間が1番のサビから2番のAメロに移ると、表示手段11の表示が画像データV02に基づく画像から画像データV03に基づく画像に切り替わる。楽曲Xの演奏位置が49小節目になり、演奏区間が2番のBメロから2番のサビに移ると、表示手段11の表示が画像データV03に基づく画像から画像データV04に基づく画像に切り替わる。楽曲Xの演奏位置が57小節目になり、演奏区間が2番のサビから間奏に移ると、表示手段11の表示が画像データV04に基づく画像から画像データV05に基づく画像に切り替わる。 When the performance position of the music piece X reaches the 33rd bar and the performance section shifts from the chorus of No. 1 to the A melody of No. 2, the display of the display means 11 is switched from the image based on the image data V02 to the image based on the image data V03. . When the performance position of the music piece X reaches the 49th bar and the performance interval shifts from the 2nd B melody to the 2nd chorus, the display of the display means 11 switches from the image based on the image data V03 to the image based on the image data V04. . When the performance position of the music piece X reaches the 57th bar and the performance interval shifts from the chorus of No. 2 to the interlude, the display of the display means 11 is switched from the image based on the image data V04 to the image based on the image data V05.

楽曲Xの演奏位置が73小節目になり、演奏区間が間奏から3番のAメロに移ると、表示手段11の表示が画像データV05に基づく画像から画像データV06に基づく画像に切り替わる。楽曲Xの演奏位置が81小節目になり、演奏区間が3番のAメロから3番のBメロに移ると、表示手段11の表示が画像データV06に基づく画像から画像データV07に基づく画像に切り替わる。楽曲Xの演奏位置が89小節目になり、演奏区間が3番のBメロから3番のサビに移ると、表示手段11の表示が画像データV07に基づく画像から画像データV08に基づく画像に切り替わる。 When the performance position of the music piece X reaches the 73rd bar and the performance interval shifts from the interlude to the third A melody, the display of the display means 11 is switched from the image based on the image data V05 to the image based on the image data V06. When the performance position of the music piece X reaches the 81st measure and the performance interval shifts from the 3rd A melody to the 3rd B melody, the display of the display means 11 changes from the image based on the image data V06 to the image based on the image data V07. switch. When the performance position of the music piece X reaches the 89th bar and the performance interval shifts from the 3rd B melody to the 3rd chorus, the display of the display means 11 is switched from the image based on the image data V07 to the image based on the image data V08. .

以上、第1実施形態によれば、楽曲のカラオケ演奏中に利用者Uが画像を撮影することで、撮影タイミングに応じた演奏位置情報と共に画像データが記憶手段13に記憶される。画像データが記憶手段に記憶されている場合に楽曲のカラオケ演奏を開始すると、楽曲の演奏位置が演奏位置情報に示す演奏位置まで進行したときに、画像データに基づいて表示手段11に画像が表示される。このように、楽曲の様々なタイミングに合わせて利用者Uが用意した画像を、カラオケ演奏中の背景映像として表示手段11に表示させることができる。 As described above, according to the first embodiment, the image data is stored in the storage unit 13 together with the performance position information according to the shooting timing when the user U shoots an image during the karaoke performance of a song. When the karaoke performance of the music is started when the image data is stored in the storage means, the image is displayed on the display means 11 based on the image data when the performance position of the music advances to the performance position indicated by the performance position information. be done. In this manner, images prepared by the user U in accordance with various timings of music can be displayed on the display means 11 as background images during karaoke performance.

また、演奏位置情報が小節数に基づく位置情報であるため、撮影時とは異なるテンポでカラオケ演奏が実施されても、利用者Uが用意した画像を適切なタイミングで表示画面に表示させることができる。 Further, since the performance position information is position information based on the number of bars, even if the karaoke performance is performed at a tempo different from that at the time of shooting, the image prepared by the user U can be displayed on the display screen at an appropriate timing. can.

なお、図5に示すように、演奏位置情報として小節番号Mの代わりに演奏区間情報Pが用いられてもよい。記憶手段13には、演奏位置情報としての演奏区間情報Pに画像データVが対応付けられて記憶される。例えば、楽曲Xの1番のAメロで撮影された画像の画像データV01は楽曲識別情報ID*****と演奏区間情報P=02に対応付けられて記憶手段13に記憶される。これにより、演奏区間が1番のAメロになったときに、表示手段11の表示がタイトル画像から画像データV01に基づく画像に切り替わる。なお、楽曲データに演奏区間を示すための演奏区間情報Pが含まれていてもよい。 As shown in FIG. 5, performance section information P may be used instead of measure number M as performance position information. In the storage means 13, image data V is stored in association with performance section information P as performance position information. For example, the image data V01 of the image taken in the first A melody of the song X is stored in the storage means 13 in association with the song identification information ID**** and the performance interval information P=02. As a result, the display of the display means 11 is switched from the title image to the image based on the image data V01 when the performance section reaches the first A melody. Note that the music data may include performance segment information P for indicating performance segments.

また、図6に示すように、演奏位置情報として小節番号Mの代わりに演奏開始からの経過時間Tが用いられてもよい。記憶手段13には、演奏位置情報としての経過時間Tに画像データVが対応付けられて記憶される。例えば、楽曲Xの1番のAメロで撮影された画像の画像データV01は楽曲識別情報ID*****と経過時間T=16に対応付けられて記憶手段13に記憶される。これにより、演奏開始から16秒経過したときに、表示手段11の表示がタイトル画像から画像データV01に基づく画像に切り替わる。なお、楽曲Xの拍子は4分の4拍子であり、楽曲XのテンポはBPM=120である。また、カラオケ演奏手段14によって演奏開始からの経過時間Tが計時されてもよい。 Also, as shown in FIG. 6, instead of the bar number M, the elapsed time T from the start of the performance may be used as the performance position information. The storage means 13 stores the image data V associated with the elapsed time T as performance position information. For example, image data V01 of an image shot in the first A melody of song X is stored in storage means 13 in association with song identification information ID**** and elapsed time T=16. As a result, the display on the display means 11 switches from the title image to the image based on the image data V01 when 16 seconds have passed since the start of the performance. The time signature of the music piece X is 4/4 time signature, and the tempo of the music piece X is BPM=120. Also, the elapsed time T from the start of the performance may be measured by the karaoke performance means 14 .

<第2実施形態>
第2実施形態の携帯端末30について説明する。図7は、第2実施形態の携帯端末30の機能ブロック図である。なお、第2実施形態の携帯端末30は、撮影モードとして第1の撮影モード(第1のモード)と第2の撮影モード(第2のモード)を選択可能な点で第1実施形態と相違する。したがって、第2実施形態については第1実施形態と同様な構成については説明を省略する。
<Second embodiment>
A mobile terminal 30 according to the second embodiment will be described. FIG. 7 is a functional block diagram of the mobile terminal 30 of the second embodiment. It should be noted that the mobile terminal 30 of the second embodiment differs from the first embodiment in that a first shooting mode (first mode) and a second shooting mode (second mode) can be selected as shooting modes. do. Therefore, for the second embodiment, the description of the configuration similar to that of the first embodiment will be omitted.

図7に示すように、第2実施形態の携帯端末30は、第1実施形態の携帯端末10(図1参照)と略同様に構成されており、カラオケアプリケーションがインストールされている。携帯端末30には、ハードウェアとして表示手段31、撮影手段32、記憶手段33、カラオケ演奏手段34、集音手段35、放音手段36が設けられている。また、携帯端末30には、利用者Uが用意した画像をカラオケ演奏中の背景映像にする背景映像生成機能を実現するために、モード選択部41、対応付け部42、記憶制御部43、抽出部44、表示制御部45が設けられている。 As shown in FIG. 7, the mobile terminal 30 of the second embodiment has substantially the same configuration as the mobile terminal 10 (see FIG. 1) of the first embodiment, and a karaoke application is installed. The portable terminal 30 is provided with display means 31, photographing means 32, storage means 33, karaoke performance means 34, sound collecting means 35, and sound emitting means 36 as hardware. In addition, the mobile terminal 30 includes a mode selection unit 41, an association unit 42, a storage control unit 43, an extraction A unit 44 and a display control unit 45 are provided.

モード選択部41は、携帯端末30の動作モードとして第1の撮影モード、第2の撮影モード、表示モードを選択する。第1の撮影モードは、楽曲のカラオケ演奏中に撮影手段32で画像を撮影する動作モードであるが、撮影済みの楽曲に対して画像を撮影し直すための動作モードである。第2の撮影モードは、楽曲のカラオケ演奏中に撮影手段32で画像を撮影する動作モードであるが、撮影済みの楽曲に対して画像を追加撮影する動作モードである。表示モードは、楽曲のカラオケ演奏中に表示手段31に画像を表示させる動作モードである。 The mode selection unit 41 selects a first shooting mode, a second shooting mode, and a display mode as operation modes of the mobile terminal 30 . The first photographing mode is an operation mode in which images are photographed by the photographing means 32 during the karaoke performance of a musical piece, and is an operational mode for re-photographing images of already photographed musical pieces. The second photographing mode is an operation mode in which images are photographed by the photographing means 32 during karaoke performance of a musical piece, and is an operational mode in which images are additionally photographed for already photographed musical pieces. The display mode is an operation mode in which an image is displayed on the display means 31 during karaoke performance of music.

第1の撮影モードでは、記憶制御部43が新たな画像データを記憶手段33に記憶させる際に、新たな画像データと同じ楽曲識別情報に対応付けられた画像データを記憶手段33から削除する。第2の撮影モードでは、記憶制御部43が新たな画像データを記憶手段33に記憶させる際に、新たな画像データと同じ楽曲識別情報に対応付けられた画像データを記憶手段33に残す。楽曲に対する画像の撮影状況に応じて、第1の撮影モードと第2の撮影モードを選択して、画像の撮影し直しと画像の追加撮影を使い分けることができる。 In the first photographing mode, when the storage control unit 43 stores new image data in the storage unit 33, the image data associated with the same music identification information as the new image data is deleted from the storage unit 33. In the second photographing mode, when the storage control section 43 stores new image data in the storage means 33, the image data associated with the same music identification information as the new image data is left in the storage means 33. The first shooting mode and the second shooting mode can be selected according to the shooting situation of the image for the music, and the re-shooting of the image and the additional shooting of the image can be properly used.

続いて、携帯端末30の処理動作について説明する。図8は、第2実施形態の撮影モードの処理動作を示すフローチャートである。図9は、第2実施形態の演奏位置情報の一例を示す図である。第2実施形態の表示モードの処理動作については、第1実施形態の表示モードの処理動作と同様であるため、説明を省略する。なお、図8に示すフローチャートは一例を示すものであり、携帯端末30の処理動作はこのフローチャートに限定されない。また、図8では、図7の符号を適宜使用して説明する。また、記憶手段33には、予め楽曲Xの楽曲識別情報ID*****に対応付けた画像データが記憶されている。 Next, processing operations of the mobile terminal 30 will be described. FIG. 8 is a flow chart showing processing operations in the shooting mode of the second embodiment. FIG. 9 is a diagram showing an example of performance position information according to the second embodiment. The processing operation in the display mode of the second embodiment is the same as the processing operation in the display mode of the first embodiment, so the explanation is omitted. Note that the flowchart shown in FIG. 8 is an example, and the processing operation of the mobile terminal 30 is not limited to this flowchart. Further, in FIG. 8, the reference numerals in FIG. 7 are used as appropriate for description. Further, in the storage means 33, image data associated with music identification information ID**** of music X is stored in advance.

図8に示すように、利用者Uによってカラオケアプリケーションが操作されて、モード選択部41によって携帯端末30の動作モードが第1の撮影モード又は第2の撮影モードに設定される(ステップS21)。次に、利用者Uによって選曲画面で楽曲Xが選曲され、カラオケ演奏手段34によって楽曲Xの楽曲識別情報ID*****が示す楽曲データが読み込まれる(ステップS22)。なお、第1の撮影モード及び第2の撮影モードでは、利用者Uが歌詞からカラオケ演奏中の演奏位置を把握し易いようにガイドボーカルがONに設定されることが好ましい。 As shown in FIG. 8, the karaoke application is operated by the user U, and the operation mode of the portable terminal 30 is set to the first shooting mode or the second shooting mode by the mode selection unit 41 (step S21). Next, the music X is selected by the user U on the music selection screen, and the music data indicated by the music identification information ID**** of the music X is read by the karaoke performance means 34 (step S22). In addition, in the first shooting mode and the second shooting mode, it is preferable that the guide vocal is set to ON so that the user U can easily grasp the performance position during the karaoke performance from the lyrics.

次に、利用者Uによってカラオケアプリケーションが操作されて、カラオケ演奏手段34によって楽曲Xの楽曲データが再生されてカラオケ演奏が開始される(ステップS23)。カラオケ演奏が開始されると、携帯端末30の動作モードが第1の撮影モードか否かが判定される(ステップS24)。携帯端末30の動作モードが第1の撮影モードである場合(ステップS24でYes)、記憶制御部43によって楽曲識別情報ID*****に対応付けた画像データが記憶手段33から削除される(ステップS25)。すなわち、楽曲Xのカラオケ演奏中に画像データを記憶する際に、このカラオケ演奏よりも前に記憶した楽曲識別情報ID*****に対応付けた画像データが削除される。 Next, the karaoke application is operated by the user U, the music data of the music piece X is reproduced by the karaoke performance means 34, and the karaoke performance is started (step S23). When the karaoke performance is started, it is determined whether or not the operation mode of the mobile terminal 30 is the first shooting mode (step S24). When the operation mode of the portable terminal 30 is the first shooting mode (Yes in step S24), the image data associated with the music identification information ID**** is deleted from the storage means 33 by the storage control unit 43. (Step S25). That is, when the image data is stored during the karaoke performance of the song X, the image data associated with the song identification information ID**** stored before the karaoke performance is deleted.

一方、携帯端末30の動作モードが第1の撮影モードではない場合(ステップS24でNo)、携帯端末30の動作モードが第2の撮影モードであり、記憶手段33から画像データが削除されずにステップS26の処理に移行する。すなわち、楽曲Xのカラオケ演奏中に画像データを記憶する際に、このカラオケ演奏よりも前に記憶した楽曲識別情報ID*****に対応付けた画像データが削除されない。このように、第1の撮影モードでは撮影し直しのために以前の画像データが削除され、第2の撮影モードでは追加撮影のために以前の画像データが残される。 On the other hand, if the operation mode of the mobile terminal 30 is not the first shooting mode (No in step S24), the operation mode of the mobile terminal 30 is the second shooting mode, and the image data is not deleted from the storage means 33. The process proceeds to step S26. That is, when image data is stored during the karaoke performance of the song X, the image data associated with the song identification information ID**** stored before the karaoke performance is not deleted. In this manner, the previous image data is deleted for re-shooting in the first shooting mode, and the previous image data is left for additional shooting in the second shooting mode.

次に、利用者Uによって楽曲Xのカラオケ演奏に合わせて静止画が撮影されると、撮影手段32から対応付け部42に静止画の画像データが出力される(ステップS26でYes)。撮影タイミングに同期して、対応付け部42によって小節番号を示す演奏位置情報が取得される(ステップS27)。次に、記憶制御部43によって画像データ、楽曲識別情報ID*****、演奏位置情報が対応付けられた状態で記憶手段33に記憶される(ステップS28)。ステップS26-S28の処理はカラオケ演奏が終了するまで繰り返される(ステップS29)。 Next, when a still image is photographed by the user U along with the karaoke performance of the song X, the image data of the still image is output from the photographing means 32 to the association unit 42 (Yes in step S26). In synchronization with the shooting timing, the performance position information indicating the bar number is acquired by the associating section 42 (step S27). Next, the image data, the music identification information ID****, and the performance position information are stored in the storage means 33 in a state of being associated with each other by the storage control unit 43 (step S28). The processing of steps S26-S28 is repeated until the karaoke performance ends (step S29).

例えば、利用者Uによって楽曲Xのカラオケ演奏に合わせて、第1の撮影モードで8つの新たな静止画が撮影される。このとき、楽曲Xの楽曲識別情報ID*****に対応付けられた画像データV01-V08(図3参照)が記憶手段33から削除される。そして、新たな画像データが楽曲識別情報ID*****と演奏位置情報に対応付けられて記憶手段33に記憶される。 For example, the user U shoots eight new still images in the first shooting mode in time with the karaoke performance of the song X. At this time, the image data V01-V08 (see FIG. 3) associated with the song identification information ID**** of the song X are deleted from the storage means 33. FIG. Then, the new image data is stored in the storage means 33 in correspondence with the music identification information ID**** and performance position information.

また、図9に示すように、利用者Uによって楽曲Xのカラオケ演奏に合わせて、第2の撮影モードで2つの静止画が追加撮影される。このとき、楽曲Xの17小節目(1番のBメロ、Bメロ1)で静止画が追加撮影されると、この静止画の画像データV09が楽曲識別情報ID*****と演奏位置情報としての小節番号M=17に対応付けられて記憶手段33に記憶される。楽曲Xの41小節目(2番のBメロ、Bメロ2)で静止画が追加撮影されると、この静止画の画像データV10が楽曲識別情報ID*****と小節番号M=41に対応付けられて記憶手段33に記憶される。 Further, as shown in FIG. 9, the user U additionally shoots two still images in the second shooting mode in time with the karaoke performance of the song X. FIG. At this time, when a still image is additionally captured at the 17th bar of music X (B melody of No. 1, B melody 1), the image data V09 of this still image is combined with the music identification information ID **** and the performance position. It is stored in the storage means 33 in association with the bar number M=17 as information. When a still image is additionally shot at the 41st bar of music X (2nd B melody, B melody 2), the image data V10 of this still image has the music identification information ID**** and the bar number M=41. is stored in the storage means 33 in association with the .

これにより、楽曲Xの1番のAメロ、サビ、2番のAメロ、サビ、間奏、3番のAメロ、Bメロ、サビについては街中等で画像を撮影し、1番のBメロ、2番のBメロについては浜辺等で画像を撮影することができる。楽曲Xのカラオケ演奏中に、別々の場所で撮影された画像が表示され、より演奏位置(歌詞の内容)に合った画像を用意することができる。 As a result, the first A melody, chorus, the second A melody, the chorus, the interlude, the third A melody, B melody, and the chorus of the song X are shot in the city, etc., and the first B melody, For the second B melody, an image can be taken on the beach or the like. During the karaoke performance of the music piece X, images shot at different locations are displayed, and an image more suited to the performance position (contents of the lyrics) can be prepared.

以上、第2実施形態によれば、第1実施形態と同様に、楽曲の様々なタイミングに合わせて利用者Uが用意した画像を、カラオケ演奏中の背景映像として表示手段31に表示させることができる。また、第1の撮影モードでは撮影済みの楽曲に対して画像を撮影し直すことができ、第2の撮影モードでは撮影済みの楽曲に対して画像を追加撮影することができる。 As described above, according to the second embodiment, as in the first embodiment, images prepared by the user U in accordance with various timings of music can be displayed on the display means 31 as background images during karaoke performance. can. Further, in the first shooting mode, it is possible to re-shoot images for already-shot songs, and in the second shooting mode, it is possible to additionally shoot images for already-shot songs.

<第3実施形態>
第3実施形態の携帯端末50について説明する。図10は、第3実施形態の携帯端末50の機能ブロック図である。なお、第3実施形態の携帯端末50は、利用者Uが用意した画像をカラオケ装置60のモニタ(表示手段)に表示させる点で第1実施形態及び第2実施形態と相違する。したがって、第3実施形態については第1実施形態及び第2実施形態と同様な構成については説明を省略する。
<Third Embodiment>
A mobile terminal 50 according to the third embodiment will be described. FIG. 10 is a functional block diagram of the mobile terminal 50 of the third embodiment. The mobile terminal 50 of the third embodiment differs from the first and second embodiments in that an image prepared by the user U is displayed on the monitor (display means) of the karaoke machine 60 . Therefore, in the third embodiment, descriptions of the configurations similar to those of the first and second embodiments will be omitted.

図10に示すように、第3実施形態の携帯端末50は、カラオケ装置60に通信可能に接続されており、第1実施形態の携帯端末10(図1参照)と略同様にカラオケアプリケーションがインストールされている。携帯端末50には、ハードウェアとして表示手段51、撮影手段52、記憶手段53、カラオケ演奏手段54、集音手段55、放音手段56が設けられている。また、携帯端末50には、利用者Uが用意した画像をカラオケ演奏中の背景映像にする背景映像生成機能を実現するために、モード選択部61、対応付け部62、記憶制御部63、抽出部64、取得部65、送信部66が設けられている。 As shown in FIG. 10, the portable terminal 50 of the third embodiment is communicably connected to a karaoke device 60, and a karaoke application is installed in substantially the same manner as the portable terminal 10 of the first embodiment (see FIG. 1). It is The portable terminal 50 is provided with display means 51, photographing means 52, storage means 53, karaoke playing means 54, sound collecting means 55, and sound emitting means 56 as hardware. In addition, the mobile terminal 50 includes a mode selection unit 61, an association unit 62, a storage control unit 63, an extraction A unit 64, an acquisition unit 65, and a transmission unit 66 are provided.

モード選択部61は、携帯端末50の動作モードとして撮影モード又は表示モードを選択する。撮影モードは楽曲のカラオケ演奏中に撮影手段52で画像を撮影する動作モードであり、表示モードはカラオケ装置60による楽曲のカラオケ演奏中にカラオケ装置60のモニタに画像を表示させる動作モードである。携帯端末50には、標準設定の動作モードとして表示モードが設定されていてもよい。この場合、カラオケアプリケーションの操作によって撮影モードが選択されている間だけ、携帯端末50の動作モードが表示モードから撮影モードに一時的に変更されてもよい。 The mode selection unit 61 selects a shooting mode or a display mode as the operation mode of the mobile terminal 50 . The photographing mode is an operation mode in which an image is photographed by the photographing means 52 during karaoke performance of a musical piece, and the display mode is an operation mode in which an image is displayed on the monitor of the karaoke device 60 while the karaoke musical piece is being played by the karaoke device 60.例文帳に追加A display mode may be set in the mobile terminal 50 as a standard operating mode. In this case, the operation mode of the mobile terminal 50 may be temporarily changed from the display mode to the shooting mode only while the shooting mode is selected by operating the karaoke application.

取得部65は、表示モードでカラオケ装置60によって楽曲が選曲されると、カラオケ装置60から楽曲識別情報を取得する。抽出部64は、表示モードでカラオケ装置60から取得した楽曲識別情報に対応付けられた画像データ及び演奏位置情報を記憶手段53から抽出する。送信部66は、表示モードで抽出部64が抽出した画像データ及び演奏位置情報をカラオケ装置60に送信する。そして、カラオケ装置60が、第1実施形態あるいは第2実施形態の表示制御部25、45と同等の制御を行い、カラオケ演奏中の楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて背景映像としてモニタ(不図示)に画像を表示させる。 The acquisition unit 65 acquires the music identification information from the karaoke device 60 when the music is selected by the karaoke device 60 in the display mode. The extraction unit 64 extracts from the storage unit 53 image data and performance position information associated with the music identification information acquired from the karaoke device 60 in the display mode. The transmission unit 66 transmits the image data and performance position information extracted by the extraction unit 64 to the karaoke device 60 in the display mode. Then, the karaoke device 60 performs control equivalent to the display control units 25 and 45 of the first embodiment or the second embodiment, and performs image data and performance position information in accordance with the progress of the performance position of the song being played karaoke. An image is displayed on a monitor (not shown) as a background image based on the above.

続いて、携帯端末50の処理動作について説明する。図11は、第3実施形態の表示モードの処理動作を示すフローチャートである。第3実施形態の撮影モードの処理動作については、第1実施形態の撮影モードの処理動作と同様であるため、説明を省略する。なお、図11に示すフローチャートは一例を示すものであり、携帯端末50の処理動作はこのフローチャートに限定されない。また、図11では、図10の符号を適宜使用して説明する。 Next, processing operations of the mobile terminal 50 will be described. FIG. 11 is a flow chart showing processing operations in the display mode of the third embodiment. The processing operation in the shooting mode of the third embodiment is the same as the processing operation in the shooting mode of the first embodiment, so the explanation is omitted. Note that the flowchart shown in FIG. 11 is an example, and the processing operation of the mobile terminal 50 is not limited to this flowchart. Further, in FIG. 11, the reference numerals in FIG. 10 are appropriately used for description.

図11に示すように、利用者Uによってカラオケ装置60で楽曲Xが選曲されると、カラオケ装置60によって楽曲Xの楽曲識別情報ID*****が示す楽曲データが読み込まれる(ステップS31)。次に、カラオケ装置60から楽曲Xの楽曲識別情報ID*****が携帯端末50に送信され、携帯端末50の取得部65によって楽曲識別情報ID*****が取得される(ステップS32)。次に、抽出部64によって記憶手段53から楽曲識別情報ID*****に対応付けられた画像データ及び演奏位置情報が抽出されて(ステップS33)、送信部66からカラオケ装置60に画像データ及び演奏位置情報が送信される(ステップS34)。 As shown in FIG. 11, when a song X is selected by the user U on the karaoke device 60, the karaoke device 60 reads the song data indicated by the song identification information ID**** of the song X (step S31). . Next, the music identification information ID**** of the music piece X is transmitted from the karaoke device 60 to the mobile terminal 50, and the music identification information ID**** is acquired by the acquisition unit 65 of the mobile terminal 50 (step S32). Next, the extracting unit 64 extracts the image data and performance position information associated with the music identification information ID**** from the storage unit 53 (step S33). And performance position information is transmitted (step S34).

次に、利用者Uによってカラオケ装置60で楽曲Xのカラオケ演奏が開始されると(ステップS35)、タイトル情報及びタイトル画像データに基づいてカラオケ装置60のモニタにタイトル画像が表示される(ステップS36)。次に、利用者Uによってカラオケ歌唱が開始され、カラオケ演奏中の楽曲Xの演奏位置が演奏位置情報に示す小節番号になると(ステップS37でYes)、演奏位置情報に対応した静止画がカラオケ装置60のモニタに表示される(ステップS38)。ステップS37-S38の処理はカラオケ演奏が終了するまで繰り返される(ステップS39)。 Next, when the karaoke performance of the song X is started by the user U on the karaoke device 60 (step S35), the title image is displayed on the monitor of the karaoke device 60 based on the title information and the title image data (step S36). ). Next, when the karaoke singing is started by the user U and the performance position of the music piece X during the karaoke performance reaches the bar number indicated by the performance position information (Yes in step S37), the still image corresponding to the performance position information is displayed on the karaoke device. 60 is displayed on the monitor (step S38). The processing of steps S37 and S38 is repeated until the karaoke performance ends (step S39).

以上、第3実施形態によれば、カラオケ装置でも楽曲の様々なタイミングに合わせて利用者Uが用意した画像を、カラオケ演奏中の背景映像として表示手段(モニタ)に表示させることができる。 As described above, according to the third embodiment, even in the karaoke apparatus, images prepared by the user U can be displayed on the display means (monitor) as background images during karaoke performance in accordance with various timings of music.

なお、第1、第2実施形態では、表示制御部が、タイトル画像データ及び楽曲Xのタイトル情報に基づいて表示手段にタイトル画像を表示させる構成にしたが、この構成には限定されない。表示制御部は、演奏位置情報が演奏開始に最も近い画像データに基づいて表示手段にタイトル画像を表示させてもよいし、この画像データとタイトル情報に基づいて表示手段にタイトル画像を表示させてもよい。 In the first and second embodiments, the display control unit displays the title image on the display unit based on the title image data and the title information of the song X, but the present invention is not limited to this configuration. The display control section may cause the display means to display the title image based on the image data whose performance position information is closest to the performance start, or cause the display means to display the title image based on this image data and the title information. good too.

また、上記の各実施形態では、背景映像に画像として静止画が用いられる構成にしたが、背景映像に画像として動画が用いられてもよいし、静止画と動画が混在して用いられてもよい。背景映像に静止画の代わりに動画が用いられる場合も、撮影モードで撮影手段から出力された動画の画像データに、楽曲識別情報と撮影(開始)タイミングに応じた演奏位置情報が対応付けられる。表示モードでカラオケ歌唱中に、楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて表示手段に動画が表示される。 In each of the above embodiments, a still image is used as an image for the background video. good. Even when a moving image is used as a background image instead of a still image, the image data of the moving image output from the photographing means in the photographing mode is associated with music identification information and performance position information corresponding to photographing (starting) timing. While karaoke is being sung in the display mode, moving images are displayed on the display means based on the image data and the performance position information in accordance with the progression of the performance positions of the music.

また、第1実施形態では撮影モード及び表示モードを設けて設定可能とし、第2実施形態では第1の撮影モード、第2の撮影モード及び表示モードを設けて設定可能としたが、この構成には限定されない。モードを特に設けない構成としてもよく、対応付け部は、楽曲のカラオケ演奏中に撮影手段で画像を撮影する場合に、撮影手段から出力された画像データに、当該楽曲の楽曲識別情報と撮影タイミングに応じた演奏位置情報を対応付け、記憶制御部は、撮影手段で撮影した画像データと共に当該画像データに対応付けられた楽曲識別情報及び演奏位置情報を記憶手段に記憶させ、抽出部は、楽曲のカラオケ演奏中に表示手段に画像を表示させる場合に、当該楽曲の楽曲識別情報に対応する画像データ及び演奏位置情報を前記記憶手段から抽出し、表示制御部は、カラオケ演奏中の楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて表示手段に画像を表示させてもよい。 In addition, in the first embodiment, a photographing mode and a display mode are provided and settable, and in the second embodiment, a first photographing mode, a second photographing mode, and a display mode are provided and settable. is not limited. A configuration in which no particular mode is provided may be used. The storage control unit stores the music identification information and the performance position information associated with the image data together with the image data photographed by the photographing means in the storage means, and the extraction unit stores the music When an image is displayed on the display means during the karaoke performance, the image data and the performance position information corresponding to the music identification information of the song are extracted from the storage means, and the display control unit performs the performance of the song during the karaoke performance An image may be displayed on the display means based on the image data and the performance position information as the position advances.

より具体的には、記憶手段に予め楽曲Xの楽曲識別情報ID*****に対応付けた画像データが記憶されていない場合、楽曲Xのカラオケ演奏中に表示制御部は、表示手段に、利用者Uが撮影する画像をモニタ表示させ、記憶手段に予め楽曲Xの楽曲識別情報ID*****に対応付けた画像データが記憶されている場合、楽曲Xのカラオケ演奏中に表示制御部は、表示領域を二分割し、表示手段の一の領域に、利用者Uが撮影する画像をモニタ表示させ、他の領域に、楽曲Xの演奏位置と予め記憶されている画像データ及びその演奏位置情報に基づいた画像を背景映像表示させてもよい。これにより、第2実施形態における第2の撮影モードのように画像を追加する場合に、撮影済みの画像を確認しながら追加する画像の撮影を行うことができる。 More specifically, when image data associated with music identification information ID **** of music X is not stored in advance in the storage means, the display control unit causes the display means to display When an image taken by the user U is displayed on a monitor, and image data associated with the music identification information ID **** of the music X is stored in advance in the storage means, the image is displayed during the karaoke performance of the music X. The control unit divides the display area into two areas, displays an image photographed by the user U in one area of the display means, and displays the performance position of the music piece X and pre-stored image data and image data in the other area. An image based on the performance position information may be displayed as a background image. As a result, when adding an image as in the second shooting mode in the second embodiment, it is possible to shoot the image to be added while checking the already shot image.

また、上記の各実施形態では、表示制御部が、画像データに基づいて表示手段に画像を表示させる構成にしたが、この構成に限定されない。表示制御部は、画像データと歌詞テロップデータに基づいて表示手段に歌詞テロップ付きの画像を表示させてもよい。この場合、楽曲データに歌詞テロップデータが含まれていてもよい。 Further, in each of the above-described embodiments, the display control unit is configured to display an image on the display unit based on the image data, but the configuration is not limited to this. The display control section may cause the display means to display the image with the lyric telop based on the image data and the lyric telop data. In this case, the song data may include lyrics telop data.

また、上記の各実施形態では、利用者は楽曲のカラオケ演奏に合わせて画像を撮影したが、この構成には限定されない。カラオケ演奏手段は、楽曲のカラオケ演奏をポーズ(一時停止)させる機能を備え、利用者は任意の演奏位置でカラオケ演奏をポーズして画像を撮影してもよい。すなわち、カラオケ演奏手段によるカラオケ演奏処理が完全に終了するまではカラオケ演奏中であり、「カラオケ演奏中」とは、画像の撮影のためにカラオケ演奏をポーズさせた状態を含み、「カラオケ演奏中に撮影手段で画像を撮影する」とは、カラオケ演奏中にポーズしたまま撮影手段で画像を撮影することを含む。 Also, in each of the above embodiments, the user takes an image in time with the karaoke performance of a song, but the configuration is not limited to this. The karaoke performance means has a function of pausing (temporarily stopping) the karaoke performance of a musical piece, and the user may pause the karaoke performance at any performance position and take an image. That is, karaoke is being performed until the karaoke performance processing by the karaoke performance means is completely completed. "Capturing an image with the photographing means at the same time" includes photographing an image with the photographing means while posing during karaoke performance.

また、上記の各実施形態では、記憶手段から任意の画像データが手動で削除されてもよいし、任意の画像データに対応付けられた演奏位置情報が編集されてもよい。 Further, in each of the above embodiments, arbitrary image data may be manually deleted from the storage means, or performance position information associated with arbitrary image data may be edited.

また、上記の各実施形態では、携帯端末として携帯電話を例示したが、携帯端末はカラオケアプリケーションが実装可能なタブレット端末、ノート型パーソナルコンピュータ、リモートコントローラ等の端末でもよい。 In each of the above-described embodiments, a mobile phone is used as the mobile terminal, but the mobile terminal may be a terminal such as a tablet terminal, a notebook personal computer, or a remote controller on which a karaoke application can be installed.

また、上記の各実施形態のプログラムは記憶媒体に記憶されてもよい。記憶媒体は、特に限定されないが、光ディスク、光磁気ディスク、フラッシュメモリ等の非一過性の記憶媒体でもよい。 Also, the programs of the above embodiments may be stored in a storage medium. The storage medium is not particularly limited, but may be a non-transitory storage medium such as an optical disk, a magneto-optical disk, or a flash memory.

また、本実施形態を説明したが、他の実施形態として、上記実施形態及び変形例を全体的又は部分的に組み合わせたものでもよい。 Also, although the present embodiment has been described, other embodiments may be obtained by combining the above-described embodiments and modifications in whole or in part.

また、本発明の技術は上記の実施形態に限定されるものではなく、技術的思想の趣旨を逸脱しない範囲において様々に変更、置換、変形されてもよい。さらには、技術の進歩又は派生する別技術によって、技術的思想を別の仕方によって実現することができれば、その方法を用いて実施されてもよい。したがって、特許請求の範囲は、技術的思想の範囲内に含まれ得る全ての実施態様をカバーしている。 Moreover, the technology of the present invention is not limited to the above-described embodiments, and may be variously changed, replaced, and modified without departing from the spirit of the technical idea. Furthermore, if the technical idea can be realized in another way due to advances in technology or another derived technology, the method may be used for implementation. Therefore, the claims cover all implementations that may fall within the scope of the technical concept.

10、30、50:携帯端末
11、31、51:表示手段
12、32、52:撮影手段
13、33、53:記憶手段
22、42、62:対応付け部
23、43、63:記憶制御部
24、44、64:抽出部
25、45 :表示制御部
60 :カラオケ装置
65 :取得部
66 :送信部
10, 30, 50: mobile terminals 11, 31, 51: display means 12, 32, 52: photographing means 13, 33, 53: storage means 22, 42, 62: association units 23, 43, 63: storage control units 24, 44, 64: extraction units 25, 45: display control unit 60: karaoke device 65: acquisition unit 66: transmission unit

Claims (6)

楽曲のカラオケ演奏が可能な携帯端末であって、
楽曲のカラオケ演奏中に撮影手段で画像を撮影する場合に、前記撮影手段から出力された画像データに、当該楽曲の楽曲識別情報と撮影タイミングに応じた演奏位置情報を対応付ける対応付け部と、
前記撮影手段で撮影した画像データと共に当該画像データに対応付けられた楽曲識別情報及び演奏位置情報を記憶手段に記憶させる記憶制御部と、
楽曲のカラオケ演奏中に表示手段に画像を表示させる場合に、当該楽曲の楽曲識別情報に対応する画像データ及び演奏位置情報を前記記憶手段から抽出する抽出部と、
カラオケ演奏中の楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて前記表示手段に画像を表示させる表示制御部と、を備えていることを特徴とする携帯端末。
A mobile terminal capable of karaoke performance of music,
an associating unit that associates music identification information of a song with performance position information corresponding to shooting timing with image data output from the shooting means when an image is shot by a shooting means during karaoke performance of a song;
a storage control unit for storing, in a storage means, music identification information and performance position information associated with the image data photographed by the photographing means;
an extraction unit for extracting image data and performance position information corresponding to music identification information of a song from the storage means when an image is displayed on the display means during karaoke performance of the song;
and a display control unit for displaying an image on the display means based on the image data and the performance position information in accordance with the progression of the performance positions of the music during the karaoke performance.
演奏位置情報が小節数に基づいた位置情報であることを特徴とする請求項1に記載の携帯端末。 2. The portable terminal according to claim 1, wherein the performance position information is position information based on the number of bars. 前記表示制御部が、楽曲のカラオケ演奏の開始時点に、所定の画像データ及び当該楽曲のタイトル情報に基づいて前記表示手段にタイトル画像を表示させることを特徴とする請求項1又は請求項2に記載の携帯端末。 3. The apparatus according to claim 1, wherein the display control unit causes the display means to display a title image based on predetermined image data and title information of the song at the start of karaoke performance of the song. Mobile device as described. 第1のモード及び第2のモードを備え、
前記記憶制御部が、新たな画像データを前記記憶手段に記憶させる際に、前記第1のモードでは当該新たな画像データと同じ楽曲識別情報に対応付けられた画像データを前記記憶手段から削除し、前記第2のモードでは当該新たな画像データと同じ楽曲識別情報に対応付けられた画像データを前記記憶手段に残すことを特徴とする請求項1から請求項3のいずれか1項に記載の携帯端末。
comprising a first mode and a second mode;
In the first mode, when storing new image data in the storage means, the storage control unit deletes image data associated with the same music identification information as the new image data from the storage means. 4. The method according to any one of claims 1 to 3, wherein in the second mode, image data associated with the same music identification information as the new image data is left in the storage means. mobile terminal.
自端末に通信可能に接続されたカラオケ装置から楽曲識別情報を取得する取得部と、
前記抽出部が抽出した画像データ及び演奏位置情報を前記カラオケ装置に送信する送信部と、を備え、
前記抽出部が、前記カラオケ装置から取得した楽曲識別情報に対応付けられた画像データ及び演奏位置情報を前記記憶手段から抽出し、
カラオケ演奏中の楽曲の演奏位置の進行に合わせて、前記カラオケ装置が画像データ及び演奏位置情報に基づいて前記表示手段に画像を表示させることを特徴とする請求項1から請求項4のいずれか1項に記載の携帯端末。
an acquisition unit that acquires music identification information from a karaoke device communicably connected to its own terminal;
a transmitting unit that transmits the image data and performance position information extracted by the extracting unit to the karaoke device,
The extraction unit extracts image data and performance position information associated with the music identification information acquired from the karaoke device from the storage means,
5. The karaoke device according to any one of claims 1 to 4, wherein the karaoke device causes the display means to display an image based on the image data and the performance position information in accordance with the progression of the performance position of the music during the karaoke performance. 1. The portable terminal according to item 1.
楽曲のカラオケ演奏が可能な携帯端末のプログラムであって、
楽曲のカラオケ演奏中に撮影手段で画像を撮影する場合に、前記撮影手段から出力された画像データに、当該楽曲の楽曲識別情報と撮影タイミングに応じた演奏位置情報を対応付けるステップと、
前記撮影手段で撮影した画像データと共に当該画像データに対応付けられた楽曲識別情報及び演奏位置情報を記憶手段に記憶させるステップと、
楽曲のカラオケ演奏中に表示手段に画像を表示させる場合に、当該楽曲の楽曲識別情報に対応する画像データ及び演奏位置情報を前記記憶手段から抽出するステップと、
カラオケ演奏中の楽曲の演奏位置の進行に合わせて、画像データ及び演奏位置情報に基づいて前記表示手段に画像を表示させるステップと、を前記携帯端末に実行させることを特徴とするプログラム。
A program for a mobile terminal capable of karaoke performance of music,
a step of associating the image data outputted from the photographing means with the music identification information of the musical piece and performance position information corresponding to the photographing timing when an image is photographed by the photographing means during karaoke performance of the musical piece;
a step of storing in a storage means together with the image data photographed by the photographing means, music identification information and performance position information associated with the image data;
a step of extracting image data and performance position information corresponding to the music identification information of the song from the storage means when an image is displayed on the display means during karaoke performance of the song;
and causing the portable terminal to execute a step of displaying an image on the display means based on the image data and the performance position information in accordance with the progress of the performance positions of the music during the karaoke performance.
JP2019232947A 2019-12-24 2019-12-24 mobile terminal, program Active JP7330634B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019232947A JP7330634B2 (en) 2019-12-24 2019-12-24 mobile terminal, program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019232947A JP7330634B2 (en) 2019-12-24 2019-12-24 mobile terminal, program

Publications (2)

Publication Number Publication Date
JP2021101223A JP2021101223A (en) 2021-07-08
JP7330634B2 true JP7330634B2 (en) 2023-08-22

Family

ID=76651328

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019232947A Active JP7330634B2 (en) 2019-12-24 2019-12-24 mobile terminal, program

Country Status (1)

Country Link
JP (1) JP7330634B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004354423A (en) 2003-05-27 2004-12-16 Xing Inc Music playback device and video display method therefor
JP2006003843A (en) 2004-06-21 2006-01-05 Xing Inc Karaoke device and karaoke system
JP2007322699A (en) 2006-05-31 2007-12-13 Brother Ind Ltd Karaoke device and microphone
JP2014199282A (en) 2013-03-29 2014-10-23 株式会社第一興商 Singing motion picture data generation device capable of using still picture imaged by user camera
JP2016071235A (en) 2014-09-30 2016-05-09 株式会社エクシング Karaoke control system, program, and karaoke systeme

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004354423A (en) 2003-05-27 2004-12-16 Xing Inc Music playback device and video display method therefor
JP2006003843A (en) 2004-06-21 2006-01-05 Xing Inc Karaoke device and karaoke system
JP2007322699A (en) 2006-05-31 2007-12-13 Brother Ind Ltd Karaoke device and microphone
JP2014199282A (en) 2013-03-29 2014-10-23 株式会社第一興商 Singing motion picture data generation device capable of using still picture imaged by user camera
JP2016071235A (en) 2014-09-30 2016-05-09 株式会社エクシング Karaoke control system, program, and karaoke systeme

Also Published As

Publication number Publication date
JP2021101223A (en) 2021-07-08

Similar Documents

Publication Publication Date Title
US9691429B2 (en) Systems and methods for creating music videos synchronized with an audio track
CN109756784A (en) Method for playing music, device, terminal and storage medium
JP2016119600A (en) Editing device and editing method
JP2013171070A (en) Music information processing apparatus and music information processing method
CN109616090A (en) Multitone rail sequence generating method, device, equipment and storage medium
JP6073145B2 (en) SINGING VOICE DATA GENERATION DEVICE AND SINGING MOVIE DATA GENERATION DEVICE
KR20180080642A (en) Video editing method with music source
JP7330634B2 (en) mobile terminal, program
JP5739369B2 (en) Karaoke equipment
JP6533108B2 (en) Background image support system when playing karaoke music
KR101295862B1 (en) Karaoke apparatus and method thereof for providing augmented reality images
JP5550593B2 (en) Karaoke equipment
JP2003223166A (en) Information processor, musical score page change method therefor, program for musical score display and recording medium
JP6110731B2 (en) Command input recognition system by gesture
JP5772124B2 (en) Karaoke equipment
JP7148788B2 (en) Information processing device, moving picture composition method and moving picture composition program
JP6134506B2 (en) Singing video content viewing system
JP5794934B2 (en) Collaboration song recording system
JP4171687B2 (en) Music player
JP2010008893A (en) Electronic music device
JP6121139B2 (en) Singing voice selection system for karaoke singing video
JP7423164B2 (en) karaoke equipment
JP6043610B2 (en) Synthetic video content generation system
JP2014127905A (en) Singing moving image generating system
JP6051028B2 (en) Singing video data acquisition system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221019

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230808

R150 Certificate of patent or registration of utility model

Ref document number: 7330634

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150